探究大型语言模型(LLMs)中的归因偏差:社会影响及基于提示的缓解方法

《TECHNOLOGY IN SOCIETY》:Exploring Attribution Bias in LLMs: Social Influences and Prompt-Based Mitigation

【字体: 大 中 小 】 时间:2026年04月23日 来源:TECHNOLOGY IN SOCIETY 12.5

编辑推荐:

  大型语言模型(LLMs)在因果归因中呈现人类-like认知偏差,包括自我服务偏差(普遍存在)和基本归因误差(模型间差异显著)。实验通过操纵事件价值、归因视角及性别/年龄/教育/地区等社会维度,发现LLMs的归因模式受社会属性显著调制,且提示干预可有效降低归因极端性。

  
蒋蕾蕾|曹杰|朱桂香|王玉瑶
合肥工业大学管理学院,中国合肥230009

摘要

大型语言模型(LLMs)在教育、法律和医疗保健等高风险领域的应用日益增多,这增加了评估它们在因果推理中的对齐性和潜在偏见的需求。本研究基于归因理论和计算社会科学,探讨了LLMs是否表现出类似人类的归因偏见,特别是自我服务偏见和基本归因错误。我们通过一个受控实验框架评估了五种代表性的LLMs,该框架操纵了事件的价值、归因视角以及四个关键的社会维度:性别、年龄、教育和地区背景。多变量统计分析显示,虽然LLMs一致表现出自我服务偏见,但基本归因错误在不同模型中的表现并不一致。值得注意的是,这些归因模式受到年龄、教育和地区的显著影响,而性别相关的影响则可以忽略不计。这些发现进一步强调了模型间的差异性,表明技术异质性本质上影响了偏见的表现程度。关键的是,基于提示的干预措施被证明可以有效减少归因的极端性,从而提高模型输出的公平性和中立性。这些见解阐明了LLMs如何内化并再现社会认知模式,为生成式AI的伦理部署提供了理论指导。

引言

人工智能(AI),特别是大型语言模型(LLMs)的快速整合,重塑了人机交互、知识管理和机构决策(Hagendorff, 2024)。随着这些模型在自然语言理解方面的能力不断提高,它们越来越多地被应用于教育、法律和医疗保健等高风险社会领域(Acikgoz et al., 2020)。然而,它们的广泛采用带来了风险,这些风险不仅包括技术上的幻觉或安全缺陷,还包括根深蒂固的社会偏见和伦理困境(Wang et al., 2023)。一个关键但尚未得到充分研究的问题是,LLMs是否继承了类似人类的认知偏见,特别是在因果归因方面(Tversky and Kahneman, 1974)。由于归因过程决定了责任和功绩如何分配给个人或群体,LLMs输出中的偏见模式可能会强化歧视性叙述并加剧不公平的制度结果(Bai et al., 2025)。这些风险要求我们重新评估生成式AI系统的负责任设计和治理。
除了模型层面的偏见和公平性问题外,生成式AI的部署还引发了企业数字责任(CDR)的更广泛问题。CDR强调,组织不仅要对数字技术的表现负责,还要对其社会后果负责,包括透明度、公平性和数字生态系统中的负责任治理(Lobschat et al., 2021, Wirtz et al., 2023)。从这个角度来看,LLMs中的归因偏见不仅仅是模型层面的限制,也是一个治理问题,因为偏见的因果解释可能会影响在高风险情境中责任、功绩和责备的分配。因此,将归因偏见置于CDR文献的背景下,可以阐明为什么减轻这种偏见应被视为生成式AI系统设计和部署过程中更广泛责任框架的一部分(Ashok et al., 2022)。
从技术上讲,LLMs中的归因偏见并非随机现象,而是训练数据、模型架构和优化协议之间协同作用的结构性副产品(Wei et al., 2025)。在预训练期间,这些模型吸收了大量语料库,其中不仅包含语言模式,还包含了人类话语中隐含的刻板印象和主导的因果叙述(Hickman et al., 2025)。这些元素共同形成了潜在的社会认知图式,这些图式在下游推理中指导因果推断。这种倾向也可能与基于Transformer的模型的特性有关,这些模型的注意力机制可能对身份或地位等社会显著线索敏感(Baldi and Vershynin, 2023)。对齐过程,特别是来自人类反馈的强化学习(RLHF),可能会通过奖励优先考虑内在美德而非外部条件的文化主导响应模式来进一步固化这些偏见(Lee, 2025)。因此,归因偏见不是一个单一的缺陷,而是一个从语料库策划到最终响应生成的累积现象。
尽管AI伦理学研究已经考察了多种偏见,尤其是与性别、种族和职业刻板印象相关的偏见,但大多数研究都集中在涉及相对静态社会属性的分类和生成任务上(Nissim et al., 2020, Lee et al., 2024)。然而,最近的实证证据表明,LLMs的输出与人类认知启发式之间存在更深层次的行为趋同,在受控实验条件下,模型模仿了直觉推理偏见(Hagendorff et al., 2023)。在复杂的决策情境中,如ChatGPT这样的模型已被证明能够复制人类判断的既定模式,表明认知倾向之间存在非平凡的重叠(Chen et al., 2025b)。这一新兴模式也与越来越多的研究相呼应,这些研究不仅将LLMs视为心理研究的对象,还将其视为人类认知的潜在模型(Binz and Schulz, 2023)。最近的研究表明,这些系统可以揭示心理上相关的推理模式,在某些情况下,甚至能够以显著的保真度捕捉人类认知的方面(Demszky et al., 2023)。然而,作为LLM偏见形式的归因推理——如何将原因和动机归因于行为——仍然没有得到充分研究,尽管已有关于生成式AI中社会危害放大的基础性警告(Kelley, 2022)。社会心理学长期以来记录了诸如基本归因错误和自我服务偏见等稳健现象(Weiner, 1985),而新兴的AI研究表明LLMs可能在道德评估中再现类似的倾向(Almeida et al., 2024)。本研究通过将LLM行为置于正式的归因和社会认知框架中,推进了对基于机器的归因偏见的更理论化的分析。
除了理论上的偏见识别之外,寻找有效的缓解策略在应用领域也有重要的先例,尤其是在教育评估方面。例如,Baker和Hawn(2022)展示了教育中的算法系统如何有可能延续结构性不平等,而Waddell(2019)指出了自动化论文评估中偏见的根源,并提出了缓解这些偏见的框架。这些先例突显了实际去偏见的持续挑战,这与当前LLM研究中的努力密切相关。目前,LLM去偏见的主流范式强调训练时的干预措施,如细化训练目标或引入基于优化的控制(Hickman et al., 2025)。相比之下,基于提示的去偏见作为一种推理时的策略仍然相对较少被研究,尽管它提供了一种计算效率高的替代方案,无需资源密集型的重新训练(Gallegos et al., 2024)。虽然提示已被证明在调节生成系统中的刻板输出方面有效,但其在校正归因推理方面的有效性仍然是当前文献中的一个关键盲点。
为了解决这些理论和实证上的差距,本研究将归因理论与社会认知相结合,构建了一个多层次的分析框架,用于研究LLMs中的归因偏见。该研究系统地考察了这些偏见在不同社会情境中的表现,并探讨了调节这些偏见的机制基础。实验设计采用了2(结果:成功 vs. 失败)× 2(视角:自我 vs. 其他)的因子结构,促使模型生成类似人类的因果推理的解释性叙述。这项研究的一个显著特点是控制了四个关键的社会属性——性别、年龄、教育和地区——以评估LLMs在解释不同社会阶层的行为时是否激活了潜在的社会图式。除了诊断之外,该研究还包括一个干预组件,以评估基于提示的去偏见策略(包括反刻板印象的框架和平衡的归因提示)是否可以减少归因极化。这项研究的概念结构在图1中进行了可视化。
本研究对AI伦理和治理领域有三个主要贡献。首先,它在算法推理和社会心理学之间建立了跨学科的桥梁,将归因理论的应用范围扩展到了人机交互领域。其次,它提出了一种严格的实验范式,通过系统地操纵社会变量来量化认知偏见,从而为评估机器认知提供了方法论模板。第三,它提供了关于推理时干预措施有效性的详细实证证据,为提高生成系统的公平性和可解释性提供了可行的见解。总体而言,这些发现支持了具有情境意识的智能代理的伦理设计,并为负责任的AI治理和企业数字责任提供了更广泛的讨论。

部分摘录

LLMs中的归因偏见

数字基础设施的普及促进了人工智能,特别是LLMs,在组织治理和评估决策中的整合(Lobschat et al., 2021, Wirtz et al., 2023)。随着这些模型越来越多地应用于需要认知判断的任务中,人们开始关注它们在推理和评估中复制类似人类扭曲的可能性。尽管这对算法公平性具有明显的相关性,

实验设计

本研究采用因子实验设计来考察LLMs是否表现出归因不对称性,特别是自我服务偏见和基本归因错误。该设计还允许我们评估这些倾向在不同社会属性、模型和提示条件下的变化。
为了平衡现实场景和实验控制,我们开发了一套涵盖12个代表性职业的标准化情景,包括医生、律师、建筑师和警察。

描述性统计

表3展示了模型类型、视角(自我 vs. 其他)和事件类型(成功 vs. 失败)组合下的归因得分的描述性统计。在所有模型中,成功条件下的归因得分始终高于失败条件,表明了一种将成功归因于内在原因、将失败归因于外在原因的普遍倾向。这一模式为LLMs中的归因偏见提供了初步证据。
同时,值得注意的是

结论与讨论

通过将认知心理学与算法审计相结合,本研究提供了对LLMs中归因偏见的实证评估,并质疑了基于提示的校准的有效性。我们的发现提供了关于架构优势、社会属性和干预策略如何共同影响生成式AI行为的全面分析。

CRediT作者贡献声明

蒋蕾蕾:撰写——原始草稿,正式分析,数据策划。曹杰:监督,项目管理,概念化。朱桂香:软件,方法论,调查。王玉瑶:撰写——审阅与编辑,可视化,验证

利益冲突

本研究不存在利益冲突。

利益冲突声明

尊敬的编辑,我们声明这份题为“探索LLMs中的归因偏见:社会影响和基于提示的缓解措施”的手稿是原创的,之前尚未发表,目前也没有在其他地方考虑发表。
我们希望引起编辑的注意,我们中有一人或多人发表了与目前提交的手稿相关的出版物。相关出版物的副本已附上。
我们确认
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号