《Computers in Human Behavior》:Gendering Conversational AI in Human–AI Interaction: The Role of Interaction Context and Sexist Ideology in Shaping User Evaluations
编辑推荐:
•人工智能的性别是由用户建构的,并非仅由设计者指派。•情境会改变用户在不同服务角色与权威角色之间对人工智能性别感知的判断。•兼具温暖与权威的人工智能能够获得最积极的社会评价。•用户的意识形态立场会系统性地调节人机交互中的性别偏见。引言随着人工智能在日常生活中得到广泛应用,人机
- •
人工智能的性别是由用户建构的,并非仅由设计者指派。
- •
情境会改变用户在不同服务角色与权威角色之间对人工智能性别感知的判断。
- •
兼具温暖与权威的人工智能能够获得最积极的社会评价。
- •
用户的意识形态立场会系统性地调节人机交互中的性别偏见。
引言
随着人工智能在日常生活中得到广泛应用,人机交互日益频繁,并深度嵌入多样化的社会情境之中。对话式人工智能系统被定义为通过自然语言与用户进行交互的、由人工智能驱动的技术,目前已在客户服务、教育、医疗、娱乐和个人助理等多个领域得到广泛部署。随着用户越来越多地依赖这些系统来获取信息、寻求协助以及获得陪伴,他们不再仅仅将其视为功能性工具,而常常将其感知并回应为社会行动者(De Freitas et al., 2026; Depounti & Natale, 2025)。凭借拟人化的语言、语音线索以及交互风格,对话式人工智能能够激发出与人际交流中类似的社交反应(Konya-Baumbach et al., 2023)。在相关系统的设计过程中,开发者通常通过名称、声音、视觉表征以及人设等方式赋予性别线索。以服务型和陪伴型为主的对话式人工智能,如Siri、Alexa和Cortana,往往被赋予女性化的名称与声音,而更具专业性或权威性的智能体则更容易与男性化的语音或人设线索相关联。这些设计选择往往反映出当下盛行的性别刻板印象,而用户所感知到的性别特征又会反过来塑造他们对人工智能的评价。已有研究主要考察的是在设计者明确预先设定性别线索的条件下,用户对人工智能的回应(Jin et al., 2024; Jin & Eastin, 2023; Liang et al., 2024)。然而,在现实世界的交互中,即便对话式人工智能系统并未被明确赋予性别,用户仍可能推断出其具有性别特征的印象(Aumüller et al., 2024)。由此提出了一个重要的研究问题:在何种条件下,用户会将对话式人工智能感知为具有性别,以及哪些因素会影响这种感知的方向?
交互情境是塑造用户对对话式人工智能感知的一个潜在重要却尚未得到充分探索的因素。人类的社交认知对环境线索高度敏感,这些线索引导着分类过程以及刻板印象的激活(Kelly & Hutson-Comeaux, 1999)。在人机交互中,诸如对话语言风格以及对话式人工智能所扮演的社会角色所传达的权威程度等特征,都可能成为关键信号,从而影响用户对系统的解读与归类。然而,目前人们关于不同交互情境是否以及如何在系统层面塑造人们对对话式人工智能的性别感知知之甚少。与性别相关的信念方面的个体差异,可能进一步影响用户对此类系统的感知与评价。关于两性性别偏见的研究表明,敌意性别偏见(HS)与温和性别偏见(BS)会系统性地影响个体在人际情境中对带有性别特征对象在认知层面的解读与行为层面的回应(Glick & Fiske, 2001a)。然而,这些性别偏见的意识形态倾向是否会延伸至人机交互,并调节个体对被感知为具有不同性别的对话式人工智能的评价,仍是一个悬而未决的问题。
为填补上述研究空白,本研究探讨了交互情境、性别感知与性别偏见意识形态如何共同影响用户对对话式人工智能的评价。具体而言,研究聚焦于三种交互情境——服务型、温暖权威型与严肃权威型——以考察:(1) 用户对对话式人工智能系统的性别感知是否在不同交互情境下存在差异;(2) 交互情境如何影响用户对这些系统的评价;(3) 性别感知是否与评价结果存在关联;以及(4) 敌意性别偏见与温和性别偏见方面的个体差异是否会调节性别感知与评价结果。通过将研究焦点从对话式人工智能中预设的性别线索转移到用户在具体交互情境中的性别感知过程,本研究为用户对对话式人工智能反应的底层社会心理过程提供了更为细致的理解。更广泛地说,本研究强调了在解读人机交互时整合情境、感知与意识形态因素的重要性,从而为该领域的研究提供了新的视角。
章节摘要
人工智能的性别化与性别感知
人类倾向于对具有交互性、自主性或沟通能力等非人类实体进行拟人化,将其视为拥有意图、情感与社会身份的社会行动者(Nass et al., 1994)。对话式人工智能尤其容易触发性格化处理的机制,因为它们通过语言与用户进行交互,并且经常融合拟人化的界面(Araujo, 2018; Kim & Im, 2023; Schuetzler et al., 2020; Shamekhi et al., 2018)。即使如此,
研究流程
本研究采用2(人工智能性别线索:男性 vs. 女性)× 3(人机交互情境:服务型、温暖权威型、严肃权威型)的被试间实验设计。因变量为用户对对话式人工智能的性别感知及其对对话式人工智能的评价,以两性性别偏见的水平作为调节变量。数据收集前,实验方案已获作者所在机构伦理委员会的批准(为便于审稿已做匿名化处理)。参与者
结果
本研究围绕四个研究问题,系统考察了交互情境、人工智能性别感知与用户评价之间的关系,以及性别偏见意识形态的调节作用。结果部分按照与各个研究问题相对应的逻辑顺序展开。首先,报告操作检验的结果。随后,针对RQ1与RQ2,分别检验交互情境对人工智能性别感知与评价的影响。接着,针对RQ3,
讨论
本研究提供了具有汇合性的证据,表明对话式人工智能的被感知性别并非一个固定的设计属性,而是由情境线索与意识形态倾向所塑造的用户推断。首先,严肃权威型情境使参与者更倾向于为人工智能赋予性别,并将这些归因朝更为男性化的方向转移。其次,权威的表露成为了人工智能评价的一个重要调节因素,这表明权威的
CRediT作者贡献声明
王烨(Ye Wang):撰写——审阅与修订,撰写——初稿,可视化,项目管理,研究方法,经费获取,正式分析,数据整理,概念构思。刘旭旭(Xuxu Liu):撰写——审阅与修订,撰写——初稿,可视化,软件开发,正式分析,数据整理。邓雅玲(Yaling Deng):撰写——审阅与修订,可视化,监督指导,数据整理,概念构思。肖红江(Hongjiang Xiao):撰写——审阅与修订,监督指导,项目管理,
关于稿件撰写过程中生成式人工智能与人工智能辅助技术的声明
在本文撰写过程中,作者使用了ChatGPT对稿件的写作进行了润色。在使用该工具/服务之后,作者对内容进行了审阅与修订,并对所发表论文内容的全部事宜承担完全责任。
致谢
本研究受国家广播电视总局中长期科技发展规划(项目编号:2025AA0200)以及中央高校基本科学研究基金(项目编号:CUC26TD07)资助。
Ye Wang|Xuxu Liu|Yaling Deng|Hongjiang Xiao|Yuan Zhang