《Current Opinion in Psychology》：Artificial intelligence systems distort upstream selection in human social learning
编辑推荐：
人类是社会学习者，依赖观察他人来获取知识、规范和行为，这种能力是累积性文化演化的基础。社会学习分为两个阶段展开：上游选择决定哪些信息变得可见，下游选择决定学习者从这些可见样本中复制什么。下游选择通过从众偏差（复制看似普遍的事物）和声望偏差（复制看似受人高度尊重的人）等偏差来实
人类是社会学习者，依赖观察他人来获取知识、规范和行为，这种能力是累积性文化演化的基础。社会学习分为两个阶段展开：上游选择决定哪些信息变得可见，下游选择决定学习者从这些可见样本中复制什么。下游选择通过从众偏差（复制看似普遍的事物）和声望偏差（复制看似受人高度尊重的人）等偏差来实现。当上游选择产生的样本能够反映群体的真实分布时，这些下游偏差可能具有适应性——即看似普遍的事物确实普遍，看似受人尊重的人确实有能力。我们论证，数字技术破坏了这一条件，制造了一个上游选择问题。基于互动的算法放大了分布的尾部，使罕见和极端的内容浮现；而生成的AI则将其压缩向众数（群体或用户的众数），抹去了周围多样性。关键在于，在每种系统中，优化信号同时塑造了可见性和声望。对于基于互动的算法，信号是互动量：发布极端内容的创作者变得更具可见性，并通过点赞、分享和粉丝数显得更有声望。对于生成式AI，信号是统计典型性：它使众数答案占主导地位，并且在不显示替代方案的情况下，使产生该答案的模型显得更有声望。这些扭曲可能引发群体层面的涌现现象，包括多元无知和虚幻共识。综合心理学、文化演化和计算社会科学等领域的证据，我们提供了一个关于数字技术如何扰乱社会学习的框架，并概述了恢复功能性文化传递的干预措施。
各节摘选
背景
人类是社会学习者：我们通过观察他人来获取知识、规范和行为[1,2]。这种能力支持累积性文化演化，使群体能够跨代积累任何个体都无法独自获取的适应性知识[3,4]。
文化传递受两个选择过程的影响：上游选择决定哪些人、行为和文化产品变得可见，下游选择决定学习者从这些可见样本中复制什么。
上游选择问题
基于互动的算法和生成式AI现在承担了大部分上游选择的工作，制造了一个上游选择问题：它们使可见的内容扭曲了下游偏差所依赖的分布（图1）。学习者需要了解的不仅是众数观点，还包括围绕该观点的分布形状，包括分歧、少数观点以及共识的强度。这些系统以不同的方式打破了上游选择与下游选择之间的功能联系，但——
解决方案：在数字空间中恢复功能性社会学习
如果上游选择问题破坏了社会学习的输入，那么解决方案可能应针对上游选择，而非下游用户行为。两种方法显示出前景。
结论
数字技术引入了一种上游选择问题，扭曲了人类社会学习的基础，以不同方式打破其与现实的联系：互动排名膨胀了内容分布的尾部，而生成的AI则将其压缩向同质化的中心。尽管我们分别考察了这两种系统，但它们日益形成一个相互作用的生态系统：以互动优化的平台提供了生成模型训练所需的大量数据，而生成的——
作者贡献
概念化：W.J.B., J.C.J. 初稿撰写：W.J.B. 审阅与编辑：W.J.B., J.C.J., N.O., C.-W.Y., B.S. 指导：W.J.B.
利益冲突声明
作者声明，他们没有已知的竞争性经济利益或个人关系，这些可能影响本文所报告的工作。
William J. Brady | Chen-Wei Yu | Nicholas Ornstein | Bolun Sun | Joshua Conrad Jackson
