《Current Opinion in Behavioral Sciences》：The cognitive biases that may exacerbate inflationary and deflationary positions about large language models
编辑推荐：
大语言模型（LLM）的快速兴起已在多学科领域引发激烈争论。部分研究者认为LLM是实现人工通用智能（AGI）甚至机器意识的重要里程碑（通胀主张），另一部分学者则将其贬低为缺乏真实认知能力的“欺骗性产物”（通缩主张）。研究人员指出，这两种极端立场均可能受认知失调、
大语言模型（LLM）的快速兴起已在多学科领域引发激烈争论。部分研究者认为LLM是实现人工通用智能（AGI）甚至机器意识的重要里程碑（通胀主张），另一部分学者则将其贬低为缺乏真实认知能力的“欺骗性产物”（通缩主张）。研究人员指出，这两种极端立场均可能受认知失调、一厢情愿式思维及解释深度错觉等常见认知偏差的塑造或加剧，这些偏差会促使个体出于自身利益扭曲现实。通过展示此类认知扭曲如何在科学与公共话语中轻易产生，研究人员倡导采取审慎的中间路径：以怀疑且开放的态度，将LLM的认知能力视为值得科学探究的对象，同时对有关其认知与道德地位的高估主张保持保守。
Introduction
大语言模型（LLM）是否构成科学革命尚无定论，但其对人工智能领域的颠覆性影响已使其成为跨学科研究的焦点，涵盖哲学、认知心理学、计算机科学、政治学、教育学、经济学与医学等领域。当前围绕LLM的 discourse 呈现显著极化特征：通胀立场强调其类人语言生成能力、复杂问题解决表现、法律与医学考试通过率及情境学习（in-context learning）能力，进而宣称AGI、奇点乃至有意识机器即将到来；通缩立场则将LLM简化为“随机鹦鹉”（stochastic parrots），即仅具备统计建模能力而无真实智能的系统。这种极化的高风险性——涉及伦理关切与政策导向——使得批判性评估驱动分歧的认知过程与偏差成为迫切需求。研究人员强调，过早采纳任一极端立场均可能损害学术讨论质量：通胀主张可能导致对非人类系统的不当道德归因，分散对人类福祉与责任的关注；通缩主张则可能忽视LLM介导人类社会生活重要维度的合法伦理问题，阻碍必要的伦理防护与负责任开发。为此，研究人员聚焦三种核心认知偏差的作用机制：认知失调指个体持有冲突信念或信念与行为不一致时产生的心理不适，通常通过调整信念而非行为来缓解；一厢情愿式思维指个体因信念的情绪奖赏价值而非证据支持而形成或维持信念的倾向；解释深度错觉指个体高估自身对复杂系统理解深度的倾向，常将系统功能的熟悉度误判为对底层机制的真正掌握。这三种偏差在实证心理学与行为经济学中已有充分记录，本文主要从描述层面分析其如何塑造LLM证据的加工过程，同时触及规范层面（当前证据下部分主张的认识论非正当性）与伦理层面（机构与企业激励对科学话语的污染）。
Inflationary claims: overestimating LLMs’ cognitive status
通胀立场的核心是将高阶认知能力轻易归因于LLM，常从其语言流畅性外推至AGI或人工意识的断言。需注意的是，通胀立场未必伴随对LLM社会影响的乐观预期：例如Geoffrey Hinton虽持通胀立场，认为AI已接近超越人类智能，但同时对其社会影响深表忧虑；而科技巨头CEO们的乐观通胀主张则常与AGI即将惠及人类的叙事绑定。从认知科学视角看，通胀立场部分受一厢情愿式思维、拟人化偏差与认知失调驱动。在科学层面，一厢情愿式思维尤为显著：对许多研究者而言，实现AGI或创造有意识机器是可欲的目标，鉴于宇宙中唯一已知的先进认知意识智能是人类自身，新智能形式的诞生可能被解读为宇宙整体智能与觉知提升的积极信号，这种预设可能导致证据加工偏离“非凡主张需要非凡证据”的原则。在日常场景中，如AI伴侣（AI-powered conversational agents marketed as emotional partners）的使用情境，拟人化偏差与认知失调作用更为突出：拟人化倾向促使用户将心理状态投射于系统；一旦形成情感依恋，“仅为统计模型”的判断便与主观体验产生认知失调，个体通常通过提升对系统感知或理解能力的归因（而非重新评估情感联结）来消解冲突。实证研究显示，用户对AI伴侣的关系强度主要由拟人化程度与个体差异变量（回避型依恋、浪漫幻想倾向）预测，表明“通胀性感知”的结构化认知基础。值得注意的是，无论系统是否具备真实意识或理解能力，人类对其产生的情感反应与关系本身具有不可否认的真实性与伦理意义。
Deflationary claims: undervaluing LLMs’ achievements
通缩主张多源于专家群体，这具有一定合理性——普通用户面对LLM近乎无限的对话能力（如Claude的翻译、编码等表现）难以自然得出其不涉及某种（令人印象深刻的）智能的结论。但专家常将LLM的表现贬低为统计“技巧”或语料库的“机械复述”，研究人员认为此类极端修辞缺乏充分依据。认知失调与解释深度错觉在此类立场中发挥关键作用。首先，基于替代计算框架构建职业生涯的研究者面对LLM成就时可能产生认知失调：例如长期深耕某一AI范式的研究者，可能倾向于将LLM的成功重构为琐碎现象，以维持认知一致性（此过程未必涉及故意不诚实，而是符合动机性推理的已知模式）。语言学领域的相关争论提供了典型案例：LLM的成功挑战了乔姆斯基学派的先天论语言习得观（尤其是“刺激贫乏论”关于语法无法仅从数据中习得的论断），支持者认为LLM无需传统语言学强调的方法即可习得语法，而反对者则强调LLM的成就转移了对人类语言本质核心问题的关注。研究人员指出，此类辩论中认知失调的最小化倾向可能干扰对论据的客观评估，凸显了认识论谦逊与跨学科对话的重要性。神经科学领域亦存在类似现象：长期主张AGI仅能源于生物启发脑模型的学者，面对无神经架构模拟却表现卓越的LLM时，可能因认知失调而将其成果贬低为不具备真实认知的证据。这种失调延伸至关于智能本质的哲学讨论，隐含着对生物认知独特性的道德承诺——即认为意识与理解本质上与进化而来的生物过程绑定，无法通过统计模式匹配复现，因此否定LLM的智能属性可同时保护既有的科学立场与关于人类认知伦理意义的道德直觉。其次，解释深度错觉在通缩立场中的作用可能强于认知失调。LLM的训练目标（下一词元预测，next-token prediction）看似简单透明，易使专家误以为完全理解其实现机制，正如公众对自行车移动目标的绝对自信会外溢为对齿轮、链条等底层机械机制的过度理解自信。生物学中“终极目标”与“近端目标”的区分可澄清这一误区：生物器官的终极目标是提升有机体适合度（进化与繁殖成功），但实现该简单目标的解決方案可能涉及任意复杂的近端机制（人脑最终亦为繁衍服务）。LLM的训练目标虽简单，但实现该目标所需的策略可能催生高阶认知能力。近期实证研究证实，接触AI系统行为的“局部”解释会放大对其“全局”机制的解释深度错觉，且该效应不限于专家群体。
The corporate interests in inflationary or deflationary claims
企业利益冲突是影响LLM立场的另一关键因素。科技巨头高管有强烈动机推广关于LLM能力与智能的通胀主张，通过将其模型描绘为接近AGI来合理化大规模投资并激发公众热情，这与行为公司金融的发现一致：过度自信的CEO会系统性向投资者夸大前景，且组织层面的“群体思维”会放大此类偏差，形成自我强化的乐观信念循环，契合AI炒作周期的特征。但企业偏差的方向并非单一：在以商业部署与投资者信心为核心激励的场景中，呈现“能力通胀+道德地位通缩”的典型不对称——前者用于支撑估值与加速 adoption，后者则规避人格化主张带来的监管与责任风险。相比之下，以AI安全为使命的机构则更严肃地探讨模型意识与道德地位问题，例如Anthropic于2025年启动专门的模型福利研究项目，发布对其模型偏好与潜在福利相关状态的评估报告。科学主张与商业信息的纠缠威胁科学完整性：当能力主张由市场激励而非实证证据驱动时，非认识因素（风险投资压力、媒体对戏剧性叙事的需求、地缘政治竞争）会污染科学话语，导致传播广度而非准确性主导公众认知与政策响应。解决此问题需要独立审查AI研究并建立奖励准确性而非炒作的制度激励，但治理议题的完整讨论超出本文范围。
Conclusion: open-minded skepticism and epistemic humility
鉴于认知偏差与利益冲突对思维的隐性塑造，研究人员倡导以平衡、实证的方法评估LLM认知，摒弃极端立场，采取怀疑且开放的态度，聚焦LLM认知优势与局限及其在人类心智中感知的实证研究。需明确的是，认知偏差并非AI研究独有，动机性推理、一厢情愿式思维与解释深度错觉广泛存在于人类活动中；LLM案例的特殊性在于多重因素叠加：能力迭代速度远超现有概念框架的适应能力、与认知地位公开主张直接绑定的空前规模商业利益，以及LLM对多个成熟学科基础的挑战。同时，本文识别的偏差并非影响LLM认知能力归因的唯一因素，比较认知领域已记录的“拟人虚构”（anthropofabulation，对非人类主体心理状态的过度归因）与“人类中心主义”（anthropocentrism，因隐含承诺人类或生物认知独特性而导致的归因不足）偏差亦发挥重要作用，本文论点是对该文献的补充，延伸至LLM人机比较场景下的特定动机与制度因素。研究人员强调，无意将所有学术分歧归因于认知偏差——专家对LLM的评估差异可能源于证据阈值、理论承诺或研究优先级的合理区别；且在缺乏直接实证测量的情况下，将特定偏差归因于特定主体必然具有推测性，本文旨在提出概念与诊断框架，而非裁决具体个案。科学革命罕有被实时识别，LLM是否构成智能理解的根本转折仍是开放问题，需客观探究而非受认知偏差或企业利益冲突驱动的猜测。由于通胀与通缩极端主张常源于对LLM运作机制的客观理解不足（结合不当外推），当前争论类似于邓宁-克鲁格曲线（Dunning-Kruger curve）的早期峰值阶段——该曲线刻画了客观知识与主观自信的关系。研究人员认为，认识论谦逊与跨学科研究是超越“通胀自信峰值”与“绝望低谷”、最终抵达以细致入微的实证主张为特征的“校准自信高原”的关键。此处借用邓宁-克鲁格曲线作为概念隐喻，说明对LLM机制的有限理解如何与高度自信共存，而非将该个体层面的实证效应字面应用于领域级辩论；该隐喻无意暗示争论参与者普遍能力不足，而是强调对LLM训练目标的清晰但浅层认知可能在两个方向上催生过度自信结论的特定风险。
