《British Journal of Social Psychology》：The social origins of identity and bias: Language models, accumulated meaning and positioning
编辑推荐：
本文提出对分布性语言模型（distributional language models）——自然语言的算法学习表征——的社会心理学解释。在这些模型中，词语依据使用模式被定位，由此产生的嵌入（embeddings）可被解释为可供学习的文化联想地图。这一文化学习解
本文提出对分布性语言模型（distributional language models）——自然语言的算法学习表征——的社会心理学解释。在这些模型中，词语依据使用模式被定位，由此产生的嵌入（embeddings）可被解释为可供学习的文化联想地图。这一文化学习解释说明了模式化意义如何进入个体认知，但未说明这些意义如何被社会性生产。借鉴社会认同理论（social identity theory, SIT）、话语心理学（discursive psychology, DP）以及痕迹介导—对话式沟通模型（stigmergic–dialogical model of communication），本文主张身份与偏见通过社会互动和语言痕迹的累积而涌现。当人们采取立场、回应他人并流通表述时，他们生产意义模式，这些模式在关系上定位行动者，并使联盟与差异变得可识别。当这种累积不均衡时，偏见便出现，使联想、评价与区分在不同社群间差异性地可得。由此视角，嵌入映射通过社会活动累积的模式；其几何结构捕捉使身份可识别、群体可区分的关系。本文以说话者景观（speaker landscapes）扩展此路径，该方法依据语言使用定位说话者并显示群体如何分化。其结果是形成一个研究意义、身份、偏见与群体分化如何在大规模上被社会性生产的框架。
研究背景与问题：计算语言模型已从词嵌入（word embeddings；将词语表示为高维向量的分布性表征）发展至大型生成模型，其以分布假设从共现模式推断意义。社会心理学关注的刻板印象、偏见、分类与身份部分通过语言表达、实施和协商；已有研究表明嵌入可恢复性别、种族等偏见，且随语料与社会情境变化。问题在于，这些模式究竟代表个体学习、共享文化，还是社会活动产物。文化学习解释说明公共文化中的模式化意义如何进入个体认知，却未充分说明意义环境本身如何被互动生产。该文因此要建立一种社会心理学解释，将身份与偏见置于社会互动和语言痕迹累积之中。研究人员开展的是理论综合与概念建模，提出嵌入既可作为文化学习环境的地图，也可作为社会活动记录；身份与偏见通过定位、回应和表述流通而涌现，偏见是不均衡累积造成的联想、评价与区分差异；说话者景观可将说话者按语言使用定位并显示群体分化。其意义在于连接微观互动、文化动态与大规模公共话语分析。
研究方法（不超过250字）：该文采用理论综合与概念建模方法，不生成或分析新数据集。关键方法包括：以SIT解释分类如何在相似—差异—比较的关系场中使行动可理解；以DP分析范畴、评价与身份如何在情境互动中联合完成；以痕迹介导（stigmergy；通过环境痕迹协调行动）说明局部行动如何经表达、接受与流通累积为持久沟通环境，并构成痕迹介导—对话模型；以分布性语言模型/词嵌入及说话者景观将词语与说话者定位在语义空间；以Tajfel最小群体实验（minimal group studies）的再解读和南非COVID-19疫苗接种讨论的说话者景观（Durrheim等）为说明性案例。
研究结果：
一、分布性模型作为研究偏见与意义的工具。通过文献整合，该文指出以Word Embedding Association Test（WEAT）等为代表的嵌入研究可恢复社会类别与属性、评价和角色的关联，且跨语料、跨方法存在，并随时间与机构情境变化；结论是嵌入能在大量公共语言中显现联想与区分。
二、这些模型在心理学上意味着什么？通过评述文化学习解释，该文认为嵌入近似个体学习所依赖的模式化语言环境；结论是文化学习解释了意义的可得性，但未充分说明这些环境如何被生产。
三、语言模型与意义的社会生产。通过整合SIT与DP，该文提出应从定位、评价和联盟的互动痕迹解读嵌入，结论是分布性模型既可是文化学习环境地图，也是社会活动记录。其下包括：社会认同理论与行动的关系结构，通过最小群体研究的关系性重读，结论是分类组织相似、差异与比较场，使行动可理解；话语心理学与行动的联合完成，通过偏见话语研究，结论是范畴与评价在互动中用于指责、辩护、结盟等，其社会力量依赖使用与接受；身份表演与社会关系的递归生产，通过身份表演与受众回应论证，结论是行动既基于身份又重塑身份关系。
四、意义的痕迹介导累积。通过痕迹介导、Bakhtin式累积语言观和疫情话语例，该文提出表达、接受与流通三个相互关联过程，结论是重复接受使表述沉积，意义随语境变化而非固定。
五、社会互动的痕迹介导—对话模型。通过将DP与痕迹介导结合并再解读最小群体实验，该文认为实验情境是即时分类与继承痕迹共同作用，回应又留下后续痕迹，结论是该模型连接实验前后社会历史。
六、分布性模型作为累积痕迹的地图。通过Firth分布观与Word2Vec例，该文说明嵌入几何反映语言使用历史的沉积，理论争论可形成语义邻近与分离；结论是嵌入编码沟通活动史中的规律，偏见可视为不均衡的关联与区分史。
七、说话者景观与累积意义的社会结构。通过将文本链接到说话者并嵌入共享语义空间，以南非COVID-19疫苗接种讨论为例，该文指出说话者按语用聚类，群体变得可识别与可区分；提出“身份走廊”（identity corridors），结论是偏见是累积语义分化的效果。
讨论与结论：讨论部分强调，分布性模型是检测语言中身份与偏见模式的有力工具，文化学习提供关键但部分的答案；该文追问这些模式化环境如何被生产，认为其通过社会活动累积。研究重点从学习转向互动中联想如何被再生产与转化。最小群体研究显示，参与者带着既有群体理解进入实验，其回应又被转化为数据、发现与理论。意义通过使用组织，身份与偏见通过重复的定位、联盟与对比而出现。痕迹介导—对话模型连接跨时间的情境过程：行动留下痕迹，后来者接受、挑战、复制或转化，并留下进一步痕迹。嵌入模型可理解为累积沟通环境的部分地图；其几何捕捉关系而非信念，不表明任何个体知道或相信什么，也不捕捉完整社会环境，但使沉积于语言组织中的规律可见。模型执行的关系操作对识别相似、差异与自身位置具有意义，因而有助于研究分类与群体形成所依赖的关系判断。说话者景观使这些动态在社会行动者层面可见，身份表现为关系环境中的位置，偏见表现为不均衡的关联与区分；当语用库稳定后，社群更可识别、可区分，并形成身份走廊。该方法论使可识别性与可区分性成为可分析指标。随着机器生成语言进入公共话语，人类活动留下训练模型的痕迹，模型输出又作为新痕迹进入沟通环境，并被人类与机器行动者进一步接受，累积因而具有递归社会技术性。结论部分可译为：分布性模型已成为检测语言中身份与偏见模式的有力工具；文化学习解释说明嵌入近似人们学习意义与联想所依赖的模式化语言环境，而该文进一步追问这些环境如何被生产，认为其通过行动者描述、分类、评价、联盟、回应并留下可被后来者接受的痕迹而累积。这将注意力从学习转向已学联想如何在互动中被复制和转化。人们遭遇承载累积历史的沟通环境，也通过言说与行动贡献于这些历史。意义通过使用而组织，身份与偏见通过重复的定位、联盟与对比而涌现。痕迹介导—对话模型将话语心理学关于语言作为社会行动的观念与社会认同理论关于关系环境中行动的观念连接起来：行动留下痕迹，后来者接受、挑战、复制或转化，其回应又留下进一步痕迹；经重复通过，一些意义与区分获得持久性。嵌入模型可被理解为这一过程所产生的累积沟通环境的部分地图；其几何捕捉相似、对比与分离场中的关系，而非个体信念，也不捕捉完整社会环境，但使跨许多表达与接受行为累积并沉积于语言组织中的规律可见。同时，这些模型执行的关系操作与公共话语参与有关：行动者需识别谁与自己相似、谁不同以及自身所处位置，而相似与差异判断是SIT中分类与群体形成的基础。说话者景观使累积意义不仅分化词语与概念，也分化使用它们的人；身份显现为关系环境中的位置，偏见显现为不均衡的关联与区分；语用库经重复接受而稳定时，社群更可识别与可区分，并形成可识别、可预期的身份走廊。该视角将身份形成连接至沟通环境被生产与再生产的互动过程，并将语言从表征系统重设为协调媒介；身份与偏见因此不仅可研究为个体判断属性，也可研究为参与与差异累积的结果。方法上，嵌入模型与说话者景观使这些过程可大规模分析，可识别性与可区分性提供位置如何变得可识别和可分离的测量。随着机器生成语言日益进入公共话语，累积变为递归社会技术过程。身份与偏见通过行动者与累积意义组织之间的相遇而具有社会后果；这些环境承载先前社会活动痕迹，而痕迹通过情境行动中的接受、复制、挑战与转化而变得有后果。理解累积意义与情境接受之间的通道如何生产并组织身份与偏见，是数字传播时代社会心理学的核心挑战之一。
