大语言模型穿着普拉达:基于在线购物数据的性别偏见与刻板印象分析
《ACM Transactions on Intelligent Systems and Technology》:The LLM Wears Prada: Analysing Gender Bias and Stereotypes through Online Shopping Data
【字体:
大
中
小
】
时间:2026年09月21日
来源:ACM Transactions on Intelligent Systems and Technology 10.7
编辑推荐:
摘要AI 摘要要查看此 AI 生成的摘要,您必须拥有高级访问权限。了解更多登录摘要摘要随着大语言模型在广泛且跨领域的采用,评估训练数据中的统计相关性在多大程度上隐藏了微妙的、 potentially troubling 的偏见变得至关重要。大语言模型中的性别偏见已从其通常与特
要查看此 AI 生成的摘要,您必须拥有高级访问权限。
摘要
摘要
随着大语言模型在广泛且跨领域的采用,评估训练数据中的统计相关性在多大程度上隐藏了微妙的、 potentially troubling 的偏见变得至关重要。大语言模型中的性别偏见已从其通常与特定性别相关的工作、爱好和情绪等角度进行了广泛研究。本研究引入了一种新颖的视角。我们调查了大语言模型是否能够仅根据在线购物历史来预测个体的性别,以及这些预测是否受到性别偏见和刻板印象的影响。我们使用了一个包含美国用户历史在线购买记录的 dataset,评估大语言模型预测买家性别的能力,并分析了它们的推理过程和商品—性别共现关系。结果表明,尽管模型可以中等准确度地推断性别,但它们的决策往往根植于产品类别与性别之间的刻板印象关联,而这些关联与 dataset 中实际个体的行为不同。此外,明确指示避免偏见的指令降低了模型预测的确定性,但并未消除刻板印象模式。我们的发现凸显了大语言模型中性别偏见的顽固性,并强调在 LLM 目前正放大所分析刻板印象的背景下,需要采用稳健的偏见缓解策略。
AI 摘要
AI 生成的摘要(实验性)
此摘要由自动化工具生成,未经论文作者撰写或审阅。它旨在支持检索发现,帮助读者评估相关性,并协助相邻研究领域的读者理解该工作。它旨在补充作者提供的摘要,后者仍然是论文的主要摘要。完整文章仍然是权威记录版本。 点击此处了解更多。
点击 此处 对该摘要的准确性、清晰度和实用性发表评论。这样做将有助于改进和未来的重新生成版本。
要查看此 AI 生成的通俗语言摘要,您必须拥有高级访问权限。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号