人机交互中的社会身份：入门指南

《ACM Transactions on Human-Robot Interaction》：Social Identity in Human-Agent Interaction: A Primer

社会认同理论（SIT）和社会分类理论（SCT）在人工智能社会代理中的应用研究，指出传统模型不完全适用于机器行为分析，需警惕人机交互中的信任风险。

　　

摘要

社会身份理论（SIT）和社会分类理论（SCT）是社会身份方法（SIA）的两个方面，用于理解社会现象。这两种理论描述并解释了人们如何在社会中互动，通过理解潜在的心理机制和群体间行为将个体与群体联系起来。SIT最初发展于20世纪70年代，而SCT则是后来更为通用的衍生理论，已被广泛应用于各种人类社会现象的研究中。随着越来越多嵌入日常生活的“社会机器”的出现，人们开始探讨人工智能代理是否以及如何参与社会身份相关的活动。随着由复杂大型语言模型（LLMs）驱动的社交机器人和聊天机器人的发展，理解这些技术作为社会实体的真实角色和潜在影响变得至关重要。本文简要介绍了社会身份方法，并通过案例研究和假设性例子探讨了SIT和SCT如何应用于人工智能社交代理。需要强调的是，并非所有人类模型和子理论都适用于这些场景。此外，鉴于这些机器日益增长的能力以及我们容易被其影响的倾向，作为专家的我们或许需要扮演“扫兴者”的角色，这其实是为了我们自身的利益。