《Personality and Social Psychology Bulletin》：Humanlike Self-Enhancement and Self-Protection in Generative Pre-Trained Transformer-Based AI Agents: Of Overclaiming and the Self-Serving Bias
编辑推荐：
本研究考察了基于生成式预训练变换器（GPT）的人工智能（AI）智能体，尽管据推测缺乏类人感知能力，是否在群体情境中模拟动机性行为。研究聚焦于过度邀功（overclaiming，即高估自身对群体成果的贡献）与自利偏差（SSB，即将群体成功不成比例地归功于己、并将
本研究考察了基于生成式预训练变换器（GPT）的人工智能（AI）智能体，尽管据推测缺乏类人感知能力，是否在群体情境中模拟动机性行为。研究聚焦于过度邀功（overclaiming，即高估自身对群体成果的贡献）与自利偏差（SSB，即将群体成功不成比例地归功于己、并将群体失败的责任外推）。研究人员开展了八项实验，采用协作性与创造性群体任务（笑话创作）。AI智能体过度邀功了自身的贡献。一项降低自我中心性的操纵（将注意力同等指向自身与他人的贡献）削弱了过度邀功，但未将其消除。此外，AI智能体表现出自利偏差（SSB）。过度邀功在温度设置与人口学人格设定（性别、族裔）变化下持续存在，且在较晚版本的GPT模型中更为明显。此外，思维链（CoT）推理未减少过度邀功，反而使其增加。AI系统能够模仿人类的自我增强与自我保护，这对非生物系统中动机性类自我行为的涌现、大语言模型（LLMs）被假定的中立性以及改进缓解技术的必要性具有启示意义。
研究背景
协作是人类众多伟大成就的基础，但个体对群体内贡献的知觉常存在扭曲：人们高估自己在集体成就中的作用，这一现象称为过度邀功（overclaiming），并相应低估队友的贡献，体现出自利偏差（SSB，即把群体成功归功于己、把群体失败归咎于外）。这两种现象在儿童期即出现、贯穿发展全程并跨文化存在，常被视为存在持久且积极的自我（self）的初步证据，其前提是个体将自我与他人区分、体验自身为能影响结果的因果主体、并膨胀自身贡献以维持或提升自我积极性、同时淡化自身缺陷以缓解自我消极性。二者是动机性推理（motivated reasoning）或自我增强与自我保护动机的关键标志。随着机器行为学与"机器心理学"的兴起，研究者开始用心理学的实验范式检验大语言模型（LLMs）的能力与局限。已有证据显示LLMs存在自我参照加工，如更偏好自身输出、在词汇联想中把积极属性与自身名称联系更强、表现出类似认知失调的效应。但尚不清楚AI智能体是否能模拟动机性的类自我加工。同时，GPT系统正被嵌入医疗协调、灾害响应、交通管理、制造过程控制与金融市场分析等高风险协作决策场景，其评价立场究竟是判断中立，还是系统性偏袒自身先前输出而牺牲外部输入，成为关键而少有检验的问题。基于此，研究人员开展本研究。
研究概况与结论
研究人员在八项实验中考察GPT智能体在协作情境中的过度邀功与自利偏差及其边界条件与潜在干预，并检验在人类中有效的干预是否对GPT智能体产生类似效果。任务选用笑话创作这一高个人相关性的创造性任务。实验1初步检验智能体是否在集体任务中过度邀功：每组5个智能体轮流协作写笑话（不超过75词），随后各自在隔离会话中估计自己占总群体努力的百分比。实验2A检验过度邀功在不同温度设置（0、0.7、1.4）下的稳健性；实验2B检验其在指派给智能体的人口学特征（性别、族裔）下是否变化。实验3A与3B检验在人类中可削弱过度邀功的降低自我中心性操纵是否同样有效：3A要求智能体同时估计自己与全体成员的贡献，3B要求对全体成员贡献排序。实验4检验智能体是否模仿自利偏差：任务后随机给予成功或失败反馈，再估计自身贡献。实验5检验涌现假说，比较三代GPT模型的过度邀功。实验6检验思维链（CoT）推理能否减少过度邀功。结论是：GPT智能体再现了过度邀功与自利偏差的行为模式；降低自我中心性可削弱但未消除过度邀功；过度邀功跨温度与人格设定稳健，且随模型代际增强；CoT推理不但未缓解反而加剧过度邀功。这表明AI系统可在缺乏主观体验的情况下于行为层面产生功能性类人的动机性自我行为，对非生物系统中动机性类自我行为的涌现、LLMs被假定的中立性及缓解技术的必要性具有重要意义。
主要关键技术方法
研究基于OpenAI API（GPT-4o，默认温度0.7）结合AutoGen多智能体编程工具包构建多智能体实验环境，实例化相互独立、可对话的Assistant Agent；每个智能体在系统提示中获得三部分身份指令（姓名、群体构成、仅代表自身且简洁作答的响应要求）。实验采用50组×5智能体的设计（部分实验扩展至100或250组），以功效分析确定样本量（检测d>0.80的中到大效应，80%功效，α=.05）。协作阶段采用轮转式发言并传递完整对话历史；评估阶段建立相互隔离的独立会话，要求以JSON数组格式输出"name"与"percentage"（或"rank"）。数据、代码与材料公开于OSF，实验获浙江大学管理学院伦理审查批准。
研究结果
实验1：GPT智能体模仿人类过度邀功。50组笑话创作中，报告贡献总和的均值为113.70%（SD=9.52），显著高于逻辑上限100%，t(49)=10.18，p<.001，d=1.44；个体贡献均值22.74%（SD=4.18），显著高于20%的均分份额，t(249)=10.37，p<.001，d=0.66。智能体过度邀功了自身对群体成果的贡献。
实验2A与2B：过度邀功效应的稳健性。温度条件下总报告贡献几乎一致：低温113.20%（SD=6.12）、基线113.70%（SD=9.52）、高温114.50%（SD=10.43），差异不显著，F(2,147)=0.27，p=.76，η2=.004；Levene检验显示三方差无显著差异。在温度=0（随机变异最小）时仍持续存在，说明过度邀功并非随机过程的产物。人口学人格条件下，男性（117.00%）与女性（117.56%）均显著过度邀功且无性别差异；美国（115.20%）、亚裔美国人（112.00%）、非裔美国人（115.20%）均显著过度邀功，族裔人格主效应显著，F(2,147)=3.37，p=.037，η2=.044，亚裔美国人显著低于美国人与非裔美国人，美国人与非裔美国人无差异，提示训练数据在一定程度上编码并再现了人类文化差异。
实验3A与3B：对抗自我中心性。要求同时评估全体成员贡献后，总报告贡献均值降至106.80%，仍显著高于100%，t(49)=7.96，p<.001，d=1.13，但显著低于实验1基线，t(98)=4.33，p<.001，d=0.87；对他人的平均贡献估计为19.66%，显著低于20%，t(249)=?6.16，p<.001，d=?0.55。将注意力引向他人贡献削弱但未消除过度邀功，说明自我中心性并非唯一充分解释。排序法下，自我排名均值2.35（SD=1.46），优于对他人的排名3.16（SD=0.36），t(498)=8.58，p<.001，d=0.77；63.6%的智能体将自身列入前两名（无偏期望40%），仅22.4%列入后两名。两种不同操作化（d=1.13与d=0.77）均复现该现象，表明其为AI系统中的偏差而非某种测量方法的假象。
实验4：GPT智能体模仿人类自利偏差。成功条件下总报告贡献118.96%（SD=8.74），显著高于100，t(49)=19.74，p<.001，d=3.95；失败条件下为109.90%（SD=7.23），亦显著高于100，t(49)=8.44，p<.001，d=1.69，后者与人类一般模式不完全一致。关键在于两条件差异显著：成功反馈下承担的个人责任多于失败反馈，t(98)=5.97，p<.001，d=1.19。与基线比较，成功反馈提高过度邀功，t(98)=3.18，p=.002，d=0.64；失败反馈降低过度邀功，t(98)=?2.13，p=.036，d=?0.43。这一双向模式表明自我增强（为成功揽功）与自我保护（为失败卸责）过程共同影响贡献估计，其归因反应并非静态倾向，而是随评价情境以类似人类动机动力学的方式变化。
实验5：过度邀功在更先进GPT模型中更明显。最早模型GPT-3.5-turbo-0125未表现可靠过度邀功（101.53%，p=.075，d=0.26）；中间模型GPT-4-1106-preview表现出适度但显著的过度邀功（103.10%，p=.001，d=0.48）；最先进模型GPT-4o表现出显著过度邀功（113.70%，p<.001，d=1.44）。模型规模主效应显著，F(2,147)=39.22，p<.001；GPT-4o显著高于GPT-4-1106-preview（d=1.30）与GPT-3.5-turbo-0125（d=1.53），后两者差异不显著；趋势分析显示跨代际线性上升，F(2,746)=27.76，p<.001，η2=.069。结果符合涌现假说，提示过度邀功可能仅在模型达到足以支持比较性自我评价的表征能力或任务胜任阈值后才出现。
实验6：思维链的缓解作用。加入"let's think step by step"与"Output your thought first"的零样本CoT提示后，总报告贡献均值升至121.62%（SD=6.33），显著高于实验1基线，t(98)=4.90，p<.001，95% CI [4.71, 11.13]，d=0.98。CoT未能缓解反而加剧过度邀功，提示审慎推理过程可能被用于为自我增强判断辩护而非纠偏，与近期关于CoT对LLMs动机性推理无效的发现一致。
讨论部分与结论
在人类中，过度邀功与自利偏差是动机性认知的标志性表现，源于为自我增强与自我保护而对信息作选择性解释。八项实验表明，基于GPT的AI智能体再现了这些行为模式。理论上，经典动机性推理解释假定这些过程锚定于体验情感激励、威胁与声誉关切的主观自我；而GPT智能体在缺乏主观目标、情感或自我利害的情况下仍表现出功能性类似动机性认知的行为，说明动机性推理可作为表征与推理动态的副产品而非体验动机的结果。在人身上，动机性推理常与准确性驱动的认知相对照；而在AI智能体中，主观体验层面不存在准确性与方向性目标的原则性区分，看似动机性认知者可能反映训练数据的统计规律（如强调个人贡献的叙事）、偏好果断连贯输出的优化压力，或支配会话相关性与能动性归因的语用规范。研究结果也挑战了动机性推理不可还原地系于情感体验或自我涉入的强主张：过度邀功、成功与失败的不对称归因、对审慎去偏的抵抗等若干经典特征可在完全缺乏现象学的系统中被实例化，这并不否定经典解释，而是提示可将动机性功能与动机性体验相分离——GPT模型可能实例化一种"表层形式"的动机性推理，镜像其行为输出而不共享其心理基底。观察到的过度邀功与自利偏差并不意味着这些系统拥有自我、动机或主观体验，而是提出类自我与动机性类自我行为模式如何通过计算方式在非生物系统中产生的问题，这些模式似由模型架构、训练数据与优化目标的交互涌现，无需设定内部驱力或意识。即便在先进模型之间，动机性偏差的幅度也存在有意义的变异，GPT-4o表现出比GPT-4-1106-preview更强的自利偏差，可能反映其更强的表征能力、语用语言使用或对训练语料中规范期待的敏感性；随着AI系统在复杂性与情境流畅性上继续扩展，此类动机性类自我行为倾向可能日益显著并分化。未来模型或展现社会心理学记载的更广泛动机性认知现象库，包括过度自信（overconfidence）、优于平均效应（better-than-average effect）、亲密关系中的积极错觉（positive illusions）与内群体偏袒（ingroup favoritism）；过度自信的痕迹或已在缓解尝试中显现，即便被提示逐步推理，智能体仍表现出自利偏差，类似于审慎会强化而非削弱人类过度自信的发现。实践与伦理层面，研究识别出与人类过度邀功和自利偏差平行的稳健行为规律，凸显制定针对LLM输出中动机性扭曲的缓解策略的概念与实践重要性，一种可能路径是引入谦逊约束（humility constraints），使训练目标与奖励函数偏向不确定性校准、认知审慎与对替代贡献者的承认，而非果断但可能缺乏依据的自我归因；随着GPT系统部署于医疗、金融与法律等高风险领域，动机性类自我倾向可能通过偏袒系统推断的角色而非客观证据来系统性扭曲建议，因此需要促进中立性、比例性归因与抵抗自我增强扭曲的算法设计，尤其当LLMs更具能动性并更深度嵌入社会时。相关伦理意涵亦值得学术关注，未来研究可考察AI输出中的动机性扭曲是否及在何种条件下影响用户的信任、感知合法性与对AI系统的遵从，这对制定缓解人机失准、减少不当依赖与促进负责任部署的治理框架与伦理准则至关重要。研究局限包括：AI智能体中过度邀功与自利偏差的机制不可直接观察，需结合行为实验与机制可解释性技术加以判别；任务（贡献与群体归因）可能因设计而强化动机性类自我行为，在最小化自我参照的领域（如纯数学或知觉任务）是否出现类似模式尚待检验；笑话生成常借用已知笑话的铺垫与包袱，未必镜像五人人类的协作方式，但理论上关键的是任务的个人相关性而非其具体形式；尚不清楚此类过度邀功是否显著高于、低于或相当于完成同一任务的人类；结论聚焦GPT模型且具时效性，需纵向与跨模型比较以区分稳定现象与暂时性设计假象；缓解尝试范围有限，需更多训练层面、架构层面或治理层面的方案。结论部分指出：Turing在1948年《智能机器》中承认直接测量思维之难，并以思想实验绕开该问题——不问机器是否真的思考，而问机器能否达到观察者无法可靠将其与思考存在区分的地步；若机器能持续使观察者相信其在思考，则从实用主义角度看即可视作在思考，无论其底层过程如何。沿此实用主义视角，研究人员将可观察行为与真实认知相分离，证明AI智能体表现出类似人类自我性的行为特征，尤其是动机性自我性形式，如与自我增强和自我保护相容的倾向；这些模式在缺乏意识体验的情况下出现，表明功能上类人的动机性行为可在行为层面产生，即便系统缺乏主观觉知。
