《Current Opinion in Psychology》：How AI amplifies, mitigates, and creates social biases: A tripartite framework
编辑推荐：
人工智能（AI）日益嵌入社会生活，塑造着个体对自我和他人的认知，并影响与社会公平和集体福祉直接相关的社会动态。然而，其与社会偏见的关系却充满悖论：那些可能固化并放大长期存在的偏见的系统，也可能被用来挑战这些偏见，同时还可能产生全新的偏见形式。本综述以围绕人工智能塑造社会偏见的
人工智能（AI）日益嵌入社会生活，塑造着个体对自我和他人的认知，并影响与社会公平和集体福祉直接相关的社会动态。然而，其与社会偏见的关系却充满悖论：那些可能固化并放大长期存在的偏见的系统，也可能被用来挑战这些偏见，同时还可能产生全新的偏见形式。本综述以围绕人工智能塑造社会偏见的核心路径——人工智能设计、关于人工智能运作方式的朴素信念以及社会评价与归因过程——而构建的三分框架为基础，综合了近期实证文献。基于这些路径，我概述了三个相应的干预途径：更公平的人工智能设计、有针对性地调整关于人工智能能力的朴素信念，以及重新设计社会评价过程以考虑人工智能所引入的归因偏见。这些发现共同强调了采用具有社会自觉性的方法进行人工智能开发和治理的紧迫性。
引言
从预测算法到大语言模型，人工智能（AI）已渗透到社会生活的方方面面，塑造着个体对自我和他人的认知，并以可能破坏或促进社会公平和集体福祉的方式重塑社会动态。近年来，研究人工智能对社会偏见影响的文献迅速扩展，记录了人工智能既能放大又能减少长期存在于社会中的偏见。与此同时，人工智能的普及也催生了具有复杂社会影响的新偏见形式。
尽管社会偏见本质上范围广泛且难以界定，本综述仍重点关注考察具有直接社会后果之偏见的实证文献。在本综述中，社会偏见指的是对某个人、某个群体或某个社会问题存在偏差的认知表征或行为——涵盖刻板印象联想、不道德行为和极化信念。虽然大多数社会偏见是面向他人的（即人们如何感知他人和社会问题），但有些则是面向自我的（例如过度自信）。
认识和了解社会偏见的根源是纠正它们的基础。因此，本综述系统梳理了人工智能系统所放大、缓解和创造的各种偏见。尽管研究结果各异，但来自多元证据的三个共同路径浮现出来：（1）人工智能系统的设计，（2）关于人工智能运作方式的朴素信念，以及（3）社会评价和归因过程。其中第一条路径涉及人工智能的技术设计，后两条则涉及人们如何理解和回应人工智能。根据具体偏见及其情境，这些路径可以独立或共同发挥作用。如图1所示，它们为理解人工智能如何放大、缓解或创造社会偏见提供了简约而坚实的基础。基于这一框架，我随后从人工智能设计、关于人工智能的朴素信念和社会评价过程三个层面识别有针对性的干预措施，以对抗社会偏见并促进社会公平。
各节摘要
人工智能如何放大社会偏见
大量研究已记录，人工智能从其训练数据中吸收社会偏见——无论是在训练期间还是在训练阶段之后——随后在文本、音频和视觉模态中传播这些偏见。即使提供的评估信息是中性的，或者仅在社会线索上有所不同而这些线索并未在人工智能训练中被明确纳入，人工智能系统也可能对弱势群体表现出偏见。这些偏见
人工智能如何缓解社会偏见
具有讽刺意味的是，人工智能放大社会偏见的同一路径也可能削弱这些偏见。由于人工智能缺乏偏见动机，它可以在充斥着歧视和偏见的语境中保持中立。例如，将人工智能教学引入围棋（一种传统上由男性玩家主导的策略游戏）后，通过消除人类教练的性别差异情感反应，提高了女性玩家的学习成绩。围棋人工智能基于对局的训练
与人工智能相关的新偏见
学者们识别出人工智能引入的两种新型偏见。第一种涉及人工智能评估意识的浮现如何重塑人类行为。与人类生成的描述相比，人工智能倾向于偏好由人工智能推荐的产品，表现出一种"AI-AI偏见"。人们预期由人工智能而非人类进行评估时，会有策略性地以更具分析性的方式呈现自己，这进而影响其被雇用的可能性。意识到自己提供的数据贡献
对人工智能时代缓解社会偏见干预措施的启示
上述综述揭示，相较于探索如何缓解这些偏见，研究文献更多地关注记录人工智能如何放大和创造社会偏见。这种不平衡使得人工智能减少社会偏见的潜力尚未被充分挖掘，凸显了未来研究的重要机遇。由于应对社会偏见依赖于理解人工智能如何塑造这些偏见，以下启示围绕图1中识别的三条路径展开。每一条路径都指向一种独特的干预
结论
关于人工智能与社会偏见的日益增长的研究表明，人工智能既非公正的仲裁者，也非不可救药的偏见来源。其效果取决于用户通常不可见的设计选择、可塑的信念以及可以被有意重构的评价语境。虽然现有研究主要关注从单一路径识别偏见，但要充分发挥人工智能促进更大社会公平的潜力，需要更好地理解所有路径之间的相互作用
作者贡献声明
Phyliss Jia Gai：概念设计、调查、撰写——初稿、撰写——审阅与编辑。
利益冲突声明
作者声明不存在已知的可能影响本文所报告工作的竞争性经济利益或个人关系。
致谢
本研究受国家自然科学基金资助[批准号72172003和72394393]。
Phyliss Jia Gai
