超越默认：可定制人工智能代理如何削弱刻板偏好

《Psychology & Marketing》：Beyond the Default: How Customizable Artificial Intelligence Agents Can Attenuate Stereotypical Preferences

　　

人工智能（AI）代理通常以符合传统角色期望的性别线索部署，例如在辅助和支持角色中使用女性声音或头像，因为与刻板印象一致的设计能增强消费者的采用、信任和参与度。然而，先前的研究表明，这种做法可能在社会层面加剧职业性别刻板印象，由此引发一个问题：消费者对刻板一致的偏好是否以及在何种条件下能够被减弱。基于角色一致性理论（Role Congruity Theory）和偏差校正研究，研究人员提出，对性别刻板印象化AI代理的偏好并非固定不变，而是取决于决策情境中性别线索的显著性：当性别被凸显为潜在的偏差来源时，消费者可能会刻意转向反刻板选择。四项实验研究（N = 2530）检验了这一命题。研究1证实，在性别线索显著性较低的情况下，消费者默认选择性别与刻板职业角色相匹配的AI代理。研究2表明，在选择过程中提高性别线索的显著性可以减弱这些默认偏好，并在特定条件下将选择转向反刻板代理。研究3和研究4提供了与行动效能信念（action-efficacy beliefs）作用相一致的过程证据，即个体逐渐将选择反刻板AI代理视为促进性别平等的一种有意义方式。性别显著性，无论是通过设计选择（研究3）还是明确的偏差警告（研究4）诱发，都与更强的行动效能信念相关联，而通过这些信念产生的条件间接效应主要在男性主导情境中的女性群体中出现，而在男性群体及女性主导领域中，相应效应较弱或不存在。研究结果识别了AI设计选择能够减弱刻板一致偏好的条件，并提供了与这些转变相关的心理过程的证据，为管理者和政策制定者设计支持更公平的人机交互（human–AI interactions）的AI代理提供了可操作的见解。

论文解读：性别线索显著性如何削弱对AI代理的刻板偏好

研究背景与问题：人工智能代理（AI agents）如语音助手和聊天机器人已迅速渗透到医疗、金融、交通和客户服务等领域。然而，大多数代理仍以女性声音、头像或名字呈现，例如Alexa、Cortana和Siri均默认使用女性声音。这种设计并非偶然：符合性别刻板印象的代理能增强消费者的采用、信任和参与度，因为女性代理通常被认为更温暖、更具社交性。但先前研究表明，这种做法可能在社会层面固化职业性别刻板印象，并间接限制女性的领导机会和职业发展。尽管已有研究关注算法数据偏见，但关于设计选择（如声音和头像）如何嵌入性别刻板印象，以及如何抵消消费者对刻板一致代理的偏好，系统性的认识仍然匮乏。基于角色一致性理论（Role Congruity Theory）和偏差校正研究，研究人员提出：对性别刻板AI代理的偏好并非固定，而是取决于决策情境中性别线索的显著性；当性别被凸显为潜在偏差来源时，消费者可能刻意转向反刻板选择。

为检验这一命题，研究人员开展了四项实验研究，总样本量2530人，涵盖男性主导（金融顾问）和女性主导（情感支持）两种职业情境。研究结果表明，在低性别显著性下，消费者默认选择与职业角色一致的性别；而提高性别线索显著性能够减弱这种默认偏好，并在特定条件下将选择转向反刻板代理。过程证据显示，行动效能信念（即认为选择反刻板代理能促进性别平等）在此转变中起统计中介作用，且该效应主要出现在男性主导情境中的女性群体中。这些发现为AI设计如何支持更公平的人机交互提供了可操作见解。论文发表在《Psychology 》。

关键技术方法：研究人员使用了线上实验，样本来自美国Prolific Academic和CloudResearch平台。通过命名任务测量参与者对AI代理性别的偏好：参与者先为代理命名，然后报告所设想的性别，或先选择性别再命名，以此操纵性别线索显著性；研究4则使用明确的性别偏差警告作为操纵。测量了行动效能信念，并纳入歧视信念、感知温暖与能力、内群体偏好、平等主义价值观、社会期望等作为替代解释。数据分析采用逻辑回归和调节中介分析（PROCESS Model 19）。

研究结果：

Study 1：该研究在低性别显著性条件下考察基线偏好。结果发现，参与者显著更偏好与职业性别刻板一致的AI代理：在男性主导情境中更常选择男性代理，在女性主导情境中更常选择女性代理；且男性在男性情境中、女性在女性情境中的刻板偏好更强。

Study 2：该研究通过改变任务顺序（先性别后命名 vs. 先命名后性别）操纵性别显著性。结果显示，显著性提高了女性在男性主导情境中的反刻板选择比例（从73.5%升至90.1%），但对男性无显著影响；而在女性主导情境中，显著性反而降低了女性的反刻板选择比例（从63.6%降至38.2%），男性也呈边缘下降。

Study 3：该研究重复了研究2的模式，并测量行动效能信念。操纵检查显示，显著性条件下参与者对AI性别的关注更高。结果再次显示，性别显著性显著提高了女性在男性主导情境中的反刻板选择（从70.6%升至82.0%），并降低了女性在女性主导情境中的反刻板选择（从68.0%降至55.9%）。调节中介分析表明，行动效能信念的中介效应仅在男性主导情境中的女性群体中显著（间接效应=0.13，95% CI [0.04, 0.25]），其他条件下不显著；替代解释未显示类似模式。

Study 4：该研究采用明确的偏差警告（要求参与者反思性别刻板印象是否影响选择）作为操纵。结果发现，偏差警告显著提高了女性在男性主导情境中的反刻板选择（从48.7%升至62.4%），对女性在女性主导情境中的影响不显著，对男性也不显著。条件间接效应同样仅在男性主导情境中的女性群体中显著（间接效应=0.21，95% CI [0.10, 0.35]）。

General Discussion：研究人员总结了理论贡献：消费者对AI代理的偏好受到与人类情境类似的性别角色期望影响；性别线索显著性能减弱刻板偏好，支持了偏差校正理论；行动效能信念是连接性别显著性与反刻板选择的条件性心理过程；边界条件表明，这种自我修正主要出现在男性主导情境中的女性群体中，在其他群体和领域中较弱或缺失。实践上，企业应将AI代理的性别设为可配置选项，而非不可见默认值；可在配置流程中嵌入简短的偏差警告；并有意在技术、金融等男性主导领域安排女性代理，在关怀、情感支持领域安排男性代理。政策制定者应认识到AI公平不仅关乎数据治理，界面设计的代表性同样重要。研究结论部分可翻译为：总而言之，AI代理既可以成为刻板印象的放大器，也可以成为修正的工具。在默认条件下，消费者依赖熟悉的角色一致启发式；但若以可诊断的方式凸显性别，部分消费者（尤其是男性主导情境中的女性）会转向反刻板偏好。同时，修正并非无条件，而是取决于人们纠正偏差的动机。