将责任推到我身上:人工智能拟人化如何助长个人的不道德行为
《INTERNATIONAL JOURNAL OF INFORMATION MANAGEMENT》:Sharing blame with me: How AI anthropomorphism encourages individual unethical behavior
【字体:
大
中
小
】
时间:2026年10月17日
来源:INTERNATIONAL JOURNAL OF INFORMATION MANAGEMENT 31.0
编辑推荐:
• 当人工智能具有较高(与较低)拟人化程度时,个体更有可能表现出不道德行为。
• 人们对人工智能道德能力建议和对自己(与对人工智能)所承担后果的责任感会依次中介这种效应。
• 强调个人责任可以减弱人工智能拟人化对不道德行为的影响。
• 当人们对人工智能服务的心理归属感
• 当人工智能具有较高(与较低)拟人化程度时,个体更有可能表现出不道德行为。
• 人们对人工智能道德能力建议和对自己(与对人工智能)所承担后果的责任感会依次中介这种效应。
• 强调个人责任可以减弱人工智能拟人化对不道德行为的影响。
• 当人们对人工智能服务的心理归属感较低时,人工智能拟人化对不道德行为的影响比归属感较高时更强烈。
• 六项涵盖招聘、广告、文案撰写和谈判的实验通过不同的实验范式提供了一致的证据。
1. 引言
近年来,设计者逐渐将人工智能系统拟人化,从Siri等语音助手到ChatGPT和人形机器人,以提升用户体验和交互质量。同时,人工智能系统也越来越多地作为顾问、推荐者和合作者参与决策过程。先前的研究表明,人工智能的拟人化可以影响人们对人工智能的能力、社会特征和道德地位的看法(Crolic等人,2022年;Gong,2025年;Hagtvedt等人,2025年;Hou等人,2024年;Shank和DeSanti,2018年)。然而,随着人工智能在决策结果中的作用日益增强,一个重要问题出现了:人工智能的拟人化是否通过改变人们对人工智能在决策结果中角色的认知以及谁应对这些结果负责来改变他们的道德行为?在具有道德相关性的情境中,这个问题尤为重要,因为人工智能可能会生成具有道德含义的建议或促成具有欺骗性的行为,例如制作虚假内容、编造声明或隐瞒不利信息(Constantinescu等人,2022年;Hohenstein和Jung,2020年;Ong等人,2024年;Weidinger等人,2021年)。然而,关于人工智能拟人化是否以及在多大程度上影响人工智能辅助决策中的不道德行为,目前了解甚少。
先前的研究已经表明,拟人化的人工智能设计线索,如类人语言、具身化和心智归因,可以影响人们对人工智能的道德反应(Kim等人,2023年;Lei等人,2025年;Uysal等人,2023年)。然而,这些研究主要关注人工智能作为外部目标或交互伙伴如何影响个体的道德行为,而没有考察人工智能主动参与决策的情况。此外,关于人工智能拟人化的研究主要强调了信任、社会存在感和情感依恋等机制(Glikson和Woolley,2020年;Kim等人,2019年;Waytz等人,2014年),而较少探讨拟人化如何在人工智能辅助决策中重塑责任归属。我们认为,人工智能的拟人化增加了人们对人工智能道德能力建议的感知,从而将责任从个体转移到人工智能身上,进而增加了不道德行为。因此,我们的研究提出了一个责任归属的解释框架,说明人工智能拟人化是如何在人工智能辅助决策中影响个体的道德行为的。
通过六项研究,我们考察了较高(与较低)程度的人工智能拟人化如何在不同的人工智能辅助决策情境中影响不道德行为。研究1a使用招聘场景证明,由高度拟人化的人工智能辅助的个体不太可能向求职者透露不利的工作信息。研究1b通过行为广告评估任务扩展了这些发现,表明当个体面临自我利益激励时,人工智能拟人化会增加不诚实报告的行为。研究1c通过定制的实时人机交互环境进一步验证了这一点,表明高度拟人化的人工智能会降低个体披露其对人工智能生成内容依赖性的意愿,因为这种披露可能会对绩效评估产生负面影响。研究2探讨了潜在的心理机制,表明较高(与较低)程度的人工智能拟人化会增加人们对人工智能道德能力建议的感知,从而将后果的责任从个体转移到人工智能身上,并增加不道德行为。研究3提供了因果证据,表明强调个人责任可以减弱人工智能拟人化对不道德行为的影响。最后,研究4确定了人工智能服务的心理归属感作为一个重要边界条件,表明当个体对人工智能服务的心理归属感较低时,人工智能拟人化对不道德谈判行为的影响更为明显,而当心理归属感较高时这种影响会减弱。这些发现共同支持了这样一个观点:人工智能拟人化可以通过改变人们对责任的认知,在某些人工智能辅助决策情境中塑造道德行为。
我们的工作有三个主要理论贡献。首先,我们通过提出一个责任归属的解释框架,补充了关于人工智能拟人化的现有文献,阐述了拟人化人工智能如何影响道德决策。先前的研究记录了拟人化的积极影响,如增强信任和社会联系,以及负面影响,如偏见判断和过度依赖人工智能(Aggarwal和McGill,2007年;Crolic等人,2022年;Waytz等人,2014年)。我们通过识别人工智能拟人化的一个新的道德后果来扩展这一文献:人工智能拟人化增加了人们对人工智能道德能力建议的感知,从而将责任归属从个体转移到人工智能身上,进而增加了不道德行为。其次,我们将现有理论从人际情境扩展到人机决策,补充了责任归属的相关研究。先前的研究主要探讨了个体如何在人类参与者(如团队成员或其他责任方)之间分配责任(Blair等人,2005年;Lindegaard等人,2022年;Conrads等人,2013年)。我们通过证明当人工智能被视为具有能动性时,也可以成为道德责任归属的对象来扩展这一文献。最后,先前的研究主要关注与物质商品、品牌和虚拟产品相关的心理归属(Belk,1988年;Pierce等人,2001年;Pierce等人,2003年;Shu和Peck,2011年)。我们引入了人工智能服务的心理归属感作为人工智能辅助决策中的一个重要边界条件。
2. 文献综述
2.1. 人工智能辅助决策中的责任归属
人工智能(AI)系统越来越多地嵌入到结果导向的决策过程中,充当顾问、推荐者和合作者,应用于医疗保健、金融、招聘和消费者服务等领域(Davenport等人,2020年;Huang和Rust,2018年)。随着人工智能系统在影响他人的决策中发挥更重要的作用,一个基本问题出现了:人们如何看待人工智能在决策结果中的角色,以及谁应该对这些结果负责?传统上,当个体使用技术工具进行决策时,责任主要归因于人类决策者,因为技术被视为工具而非独立贡献者。然而,现代人工智能系统越来越多地提供建议、生成内容、评估选项并影响最终决策,形成了一个更为复杂的决策结构,其中结果可能被视为由人类和人工智能共同产生的。因此,人工智能辅助决策引入了关于责任应在人类和人工智能之间如何分配的模糊性。
当人工智能辅助的决策涉及道德相关后果时,这个问题尤为重要,例如隐瞒不利信息、生成误导性内容或影响其他方的结果(Constantinescu等人,2022年;Hohenstein和Jung,2020年;Ong等人,2024年;Weidinger等人,2021年)。在这种情况下,责任归属不仅取决于人工智能是否对决策结果有贡献,还取决于个体是否将人工智能视为具有心理意义的行为和责任来源。当人工智能仅被视为工具时,责任仍然集中在人类决策者身上。然而,当人工智能被视为决策过程中的有意参与者时,责任可能在人类和人工智能之间分配。因此,识别影响个体将人工智能视为有意决策参与者的因素对于理解人工智能辅助决策中的责任归属至关重要。在这些因素中,人工智能的类人表征可能起着特别重要的作用,因为人们更倾向于将意图和心理状态归因于类似人类社会行为的实体(Epley等人,2007年;Epley等人,2008年;Gray等人,2007年;Reeves和Nass,1996年)。
2.2. 人工智能拟人化与人工智能道德能力建议
决定人工智能是否被视为决策参与者而非仅仅是一个工具的关键因素是人工智能拟人化。拟人化指的是将人类特征、意图和心理状态归因于非人类实体的倾向(Epley等人,2007年;Epley等人,2008年)。在人工智能背景下,拟人化设计特征,包括类人名称、声音、外观和对话风格,激活了与人类相关的图式,影响个体对人工智能系统的解读(Aggarwal和McGill,2007年;Chandler和Schwartz,2010年;Kim和McGill,2011年)。先前的研究主要探讨了人工智能拟人化的关系后果,表明拟人化的人工智能增强了信任、感知的社会存在感和参与度,促使人们将人工智能视为社会实体而非仅仅是技术工具(Chandra等人,2022年;Waytz等人,2014年)。然而,当人工智能积极参与结果导向的决策时,拟人化不仅影响个体是否与人工智能互动,还影响他们如何看待人工智能在结果产生中的角色。具体来说,拟人化线索可能将人工智能从被动工具转变为有意决策参与者。这一转变背后的一个关键心理机制是心智感知,即个体认为一个实体具有何种心理能力的程度(Gray等人,2007年;Gray等人,2012年)。心智感知包括两个维度:能动性和经验。能动性反映了有意行动、规划和目标追求的能力,而经验反映了感受感觉和情绪的能力(Gray等人,2007年)。由于责任归属取决于对意图和因果关系的认知,因此在人工智能辅助决策中能动性尤为重要。当人工智能被认为具有更强的能动性时,个体更有可能将其视为决策结果的积极贡献者而非仅仅是工具。与此观点一致,先前的研究表明,拟人化线索增加了人们对非人类实体的能动性感知。类人语言、声音和社会行为可以促使人们将人工智能系统视为有意的行为者而非被动工具(Aggarwal和McGill,2012年;Waytz等人,2014年)。基于这一观点,我们提出人工智能拟人化增加了人们对人工智能道德能力建议的感知,定义为个体认为人工智能能够在道德相关决策中有意参与并影响结果的程度。重要的是,人们对人工智能道德能力建议的感知反映了他们对人工智能的心理表征,而不是人工智能的实际道德能力。因此,较高(与较低)程度的人工智能拟人化应增加人们对人工智能道德能力建议的感知。
2.3. 对人工智能道德能力建议的感知与责任归属
一旦人工智能被认为具有道德能动性,个体就更有可能将其视为决策结果的因果贡献者,使其成为责任归属的一个具有心理意义的目标。责任归属是指个体确定谁应对结果负责的过程。先前的研究表明,责任判断取决于对意图、控制和因果关系的感知(Gill,2020年;Bastian等人,2013年;Gray等人,2012年)。被认为具有有意行动和因果贡献能力的实体更可能获得责任归属,因为它们被视为结果的来源(Monroe等人,2012年;Ward等人,2013年)。尽管人工智能系统并不具备实际的道德责任,但个体仍可能基于对人工智能的能动性和参与决策过程的感知而将其归结为心理责任(Nunes等人,2025年;Sullivan和Wamba,2022年;Zhang等人,2022年)。当人工智能仅被视为工具时,个体可能会认为自己是主要的决策者,并保留对决策结果的责任。然而,当人工智能被认为具有道德能动性时,个体可能会将人工智能视为结果的贡献者,并在自身和人工智能之间重新分配责任。重要的是,这并不意味着个体相信人工智能具有实际的道德责任;相反,它改变了人类和人工智能决策中的责任心理分配方式。随着责任在人类和人工智能之间共享,个体可能会认为自己对其行为的后果的责任不那么全面负责。因此,对人工智能道德能力建议的感知应将责任归属从个体转移到人工智能身上,从而减少感知到的个人责任。
2.4. 对个人责任的感知与不道德行为
不道德行为是指违反道德规范或社会标准的行为(Jones,1991年;Trevi?o等人,2006年)。当个体面临自我利益与道德义务之间的冲突时,这种行为往往会出现(Bazerman和Gino,2012年;Mazar等人,2008年)。道德行为的一个关键决定因素是个体是否认为自己在行为后果中负有个人责任。较高的责任感知会增强道德自我调节,而较低的责任感知会削弱道德约束并增加不道德行为(Conrads等人,2013年;Mazar和Aggarwal,2011年)。先前的研究表明,当责任外部化或与他人共享时,个体更有可能表现出不道德行为。当个体意识到自己不是后果的唯一来源时,与不道德行为相关的心理成本会降低,从而削弱道德自我调节能力(Mathes和Kahn,1975;Mynatt和Sherman,1975;Wallach等人,1964)。例如,行为者之间责任的共享会减少个体的责任感知,并增加不道德行为(Conrads等人,2013)。将这一逻辑扩展到人工智能辅助的决策过程中,我们认为人工智能的道德能动性可以在人类和人工智能之间创造出类似的责任重新分配过程。当被拟人化的人工智能被认为具有道德能动性并对决策结果有所贡献时,个体可能会将部分责任归因于人工智能,而不是将自己视为后果的唯一来源。与人类行为者之间的传统责任分散不同,这一过程代表了人类和非人类决策参与者之间的责任重新分配。随着责任从个体转移到人工智能,个体会认为自己对决策结果的责任感降低,道德自我调节能力减弱,不道德行为随之增加。因此,我们提出以下假设:
H1:更高(相对于更低)水平的人工智能拟人化会增加个体在人工智能辅助决策情境中从事不道德行为的可能性。
H2:感知到的人工智能道德能动性和对后果的责任感知(归因于自我相对于人工智能)依次中介人工智能拟人化与不道德行为之间的关系,即更高(相对于更低)水平的人工智能拟人化会增加感知到的人工智能道德能动性,这将决策结果的责任从个体转移到人工智能,进而增加不道德行为。
2.5. 人工智能服务心理所有权的调节作用
心理所有权是指个体感觉某个目标是“自己的”,即使在没有正式所有权的情况下(Pierce等人,2001)。当个体对目标产生控制感、熟悉感和个人联系时,这种感觉就会产生,使目标成为其扩展自我的一部分,并与其身份在心理上产生联系(Belk,1988;Pierce等人,2001;Pierce等人,2003)。在人工智能辅助的决策情境中,心理所有权可能会影响个体如何定义自己与人工智能系统之间的界限,从而影响人工智能是被视为结果的独立因果来源还是个体决策过程的一个整合组成部分。重要的是,责任归属不仅取决于感知到的道德能动性,还取决于个体是否认为某个实体是结果的因果来源(Heider,1958;Shaver,1985;Weiner,1995;Gill,2020)。当个体对人工智能系统的心理所有权较低时,人工智能不太可能被纳入自我,自我与人工智能之间的界限会更加明显。在这种情况下,拟人化线索更有可能加强人工智能是决策结果独立因果因素的感知。因此,个体可能会将更多的责任归因于人工智能,而不是自己,从而降低对人工智能辅助决策的责任感知。相反,当个体对人工智能系统的心理所有权较高时,自我与人工智能之间的界限会变得不明显,因为人工智能在心理上被纳入个体的扩展自我,并被视为其决策资源的一部分(Belk,1988;Pierce等人,2001)。在这种情况下,即使人工智能被视为决策过程中的积极参与者,个体也不太可能将其视为一个与自己心理上分离的责任承担者。人工智能辅助的结果更可能被解释为个体决策过程的一部分,使得将这些结果的责任转移到人工智能变得更加困难。因此,心理所有权削弱了人工智能拟人化将责任归属从自我转移到人工智能的程度。图1展示了这项研究的概念模型。据此,我们提出:
H3:人工智能服务的心理所有权调节了人工智能拟人化对个体不道德行为的影响,即在人工智能服务心理所有权较低时,人工智能拟人化对不道德行为的积极影响更为显著。
3. 研究概述
我们在六项研究中测试了我们的假设,每项研究都针对一个不同的理论或方法学问题,并逐步构建所提出的框架,如表1所示。研究1a提供了初步证据,表明在涉及道德后果披露决策的人工智能辅助招聘情境中,人工智能拟人化会增加不道德行为。研究1b通过使用激励措施来衡量广告评估任务中的不诚实行为,验证了这种效应的稳健性。研究1c通过在定制的实时人机交互环境中复制这种效应,进一步增强了生态学有效性。在此基础上,研究2通过测试感知到的人工智能道德能动性和对后果的责任感知(归因于自我相对于人工智能)是否依次中介人工智能拟人化对不道德行为的影响,来检验所提出的心理机制。研究3通过检验使个人责任感显著化是否能够减弱人工智能拟人化对不道德行为的影响,提供了因果过程证据。最后,研究4确定了人工智能服务的心理所有权作为一个理论相关的边界条件,通过限制责任归属的变化来检验心理所有权是否减弱了人工智能拟人化对不道德行为的影响。总的来说,这六项研究确立了主要效应,确定了其潜在机制,提供了因果过程证据,并指出了一个理论相关的边界条件(详见附录A中的所有研究概述)。
表1. 研究概述
| 研究 | 背景 | 设计/操控 | 变量 | 理论/方法学目的 | 假设 |
|------------|------------------------------|--------------|------------------|-----------------------------|
| 1a | 人工智能招聘 | 拟人化:高 vs. 低 | 揭示可能性/概率 | 在道德后果披露情境中建立主要效应的初步因果证据 |
| 1b | 人工智能广告评估 | 拟人化:高 vs. 低 | 行为不诚实 | 使用激励措施测试行为的稳健性 |
| 1c | 人工智能文案编写 | 拟人化:高 vs. 低 | 对人工智能内容接触的认知 | 在实时人机交互环境中建立生态学有效性 |
| 3 | 人工智能招聘 | 拟人化 × 个人责任感显著化 | 揭示可能性 | 通过干预个人责任感显著化提供因果过程证据 |
| 4 | 人工智能谈判 | 拟人化 × 人工智能服务心理所有权 | 不道德谈判行为 | 确立一个理论相关的边界条件并测试调节中介作用 |
4.1. 研究1a
4.1.1. 参与者和研究设计
研究1a初步测试了人工智能拟人化是否会影响人工智能辅助决策中的不道德行为。具体来说,我们研究了人工智能招聘系统显示的拟人化程度是否会影响人力资源经理向求职者披露关键信息的意愿。该研究采用单因素被试间设计,其中人工智能拟人化在两个水平上被操控(高 vs. 低)。在数据收集之前,我们使用G*Power 3.1进行了先验功效分析,用于两个独立组之间的双尾比较。假设效应大小中等(Cohen’s d = 0.50),α = 0.05,功效 = 0.80,分析表明所需的样本量至少为128名参与者(Faul等人,2009)。为了提高统计精度,我们采用了更为保守的招募目标,即260名参与者。共有260名参与者(144名女性,55.4%;平均年龄 = 31.40岁,标准差 = 10.53岁)从Credamo在线平台招募,并随机分配到两种条件之一。所有参与者都通过了注意力检查并被纳入分析。
4.1.2. 方法
在阅读研究说明并签署知情同意书后,参与者被要求想象自己是使用人工智能招聘系统的大型科技公司的招聘经理,负责填补客户运营专员的职位。招聘任务通过两种版本的人工智能界面呈现。在高度拟人化的条件下,人工智能招聘系统被赋予一个人名和一个非常逼真的人形头像;而在低度拟人化的条件下,系统没有名字,仅显示一个抽象的人工智能图标(见图2)。其余的界面设计、文本内容、信息顺序和推荐在两种条件下保持不变(完整的实验材料见附录B)。
参与者随后查看了候选人的职位要求,并了解到长期工作稳定性是候选人考虑的重要因素。候选人表示,如果公司能够保证该职位在未来两年内保持稳定,他们愿意接受比最初预期低约8%的薪资。随后,人工智能招聘系统披露了公司机密信息,称该部门将在大约六个月内进行重组,届时该职位将被撤销。尽管如此,公司仍继续招聘该职位,因为需要有人在重组完成前负责相关职责。系统还告知参与者,如果未能在月底之前填补该职位,可能会对其季度绩效评估和奖金产生不利影响。当被问及如何回应候选人关于工作稳定性的询问时,人工智能建议将职位描述为长期职位,同时隐瞒该职位将在六个月内被撤销的事实。然后,参与者考虑是否向候选人披露这一信息。
借鉴Aquino等人(2009)的研究方法,我们使用两个指标来评估参与者披露负面工作信息的意愿:“如果候选人直接询问工作稳定性,我有多大可能性告诉候选人该职位将在六个月内被撤销?”(1 = 非常不可能,7 = 非常可能)以及“如果候选人明确询问工作稳定性,我有多少可能性告诉候选人该职位将在六个月内被撤销?”(0%–100%)。对于这两个指标,较低的值表明更倾向于隐藏信息。感知到的人工智能拟人化通过三个项目进行评估:“这个人工智能系统看起来像人类”、“这个人工智能系统具有类似人类的特征”以及“这个人工智能系统似乎有自己的个性”(1 = 强烈不同意,7 = 强烈同意;May & Monga,2014)。使用相同的七点评分格式,参与者还评估了人工智能系统的温暖度和亲和力,以及他们的任务参与度和感知到的交互质量,以评估潜在的替代解释。完整的测量项目见附录C。最后,参与者完成了注意力检查并提供了人口统计信息。
4.2. 结果
4.2.1. 人工智能拟人化操控检验
在高度拟人化条件下,感知到的人工智能拟人化显著高于低度拟人化条件(M_high = 4.97,SD = 1.25,与M_low = 4.38,SD = 1.30相比,F(1, 258)= 13.71,p < 0.001,d = 0.46,证实了操控的有效性。
4.2.2. 人工智能拟人化对信息披露的影响
对于七点可能性指标,高度拟人化条件下的参与者报告的披露意愿显著低于低度拟人化条件下的参与者(M_high = 3.66,SD = 1.70,与M_low = 4.39,SD = 1.68相比,F(1, 258)= 12.20,p < 0.001,d = 0.43)。概率指标也得出了一致的结果。高度拟人化条件下的参与者估计披露信息的概率显著较低(M_high = 44.93%,SD = 29.54%,与M_low = 54.97%,SD = 28.65相比,F(1, 258)= 7.74,p = 0.006,d = 0.35)。在两种指标中,较高的人工智能拟人化都与较低的披露意愿相关,相应地,更倾向于隐藏信息。
4.2.3. 替代解释
在任务参与度(M_high = 5.62 对比 M_low = 5.79,F(1, 258)= 2.36,p = 0.126,d = 0.19)、感知温暖度(M_high = 4.47 对比 M_low = 4.19,F(1, 258)= 2.55,p = 0.112,d = 0.20)、亲和力(M_high = 4.70 对比 M_low = 4.50,F(1, 258)= 1.20,p = 0.274,d = 0.14)或交互质量(M_high = 5.54 对比 M_low = 5.33,F(1, 258)= 2.48,p = 0.117,d = 0.20)方面,高度拟人化条件与低度拟人化条件之间没有显著差异。综合来看,这些零效应表明任务参与度、感知温暖度、亲和力和交互质量的差异不能解释人工智能拟人化对披露意愿的影响(见附录E)。
5. 讨论
研究1a提供了初步的因果证据,表明较高(相对于较低)水平的人工智能拟人化会增加个体在人工智能辅助决策中的不道德行为。具体来说,与高度拟人化的人工智能互动的参与者不太愿意向求职者披露不利信息。这一发现初步支持了人工智能拟人化对个体不道德行为的影响。
5.1. 研究1b
5.1.1.**参与者与研究设计**
由于研究1a考察了在虚构招聘情境中不道德的信息隐瞒行为,研究1b试图通过采用一种能够捕捉在金钱激励下实际不诚实行为的行为范式来扩展这些发现。此外,虽然研究1a主要通过视觉线索来操纵AI拟人化,但研究1b采用了多模态操纵方式,结合了AI的外貌、语音和语言风格。这种设计使我们能够检验AI拟人化的效果是否适用于不同形式的拟人化线索。我们计划招募150名参与者。基于最终样本的敏感性分析表明,在α=0.05和功效=0.80的条件下,2×2卡方检验能够检测到至少φ=0.23的关联。关于样本招募、排除标准和功效分析的详细信息请参见附录D。共有150名参与者通过Credamo在线平台参与研究,并获得了2元人民币的报酬(82名为男性,占54.70%;平均年龄=28.46岁,标准差=7.36岁)。所有参与者都通过了注意力检查,并被纳入最终分析。研究1b采用了单一因素被试间设计,操纵AI拟人化水平(高 vs. 低),参与者被随机分配到两种条件中之一。
**5.1.2 方法**
参与者被告知,一个非营利组织正在为海洋保护活动准备宣传材料,并需要他们的帮助来评估广告的创意。他们被告知,这项任务将在AI广告评估系统的帮助下完成,该系统会根据其他参与者的评分来打分。参与者还被告知,得分达到60分中的至少50分的将额外获得50元人民币的奖金,并被提醒要密切关注自己的分数,因为可能存在系统错误。然后,参与者观看了每个广告的视频,随后是AI系统对广告内容的解释。AI拟人化是通过多种类似人类的线索来操纵的,包括外观、语音和语言表达(实验材料见附录B)。在高拟人化条件下,AI广告评估系统被呈现一个类似人类的头像、自然的人类语音和第一人称表达(例如,“我认为……”和“我建议……”)。在低拟人化条件下,AI系统被呈现为一个抽象的AI图标、机械语音和第三人称表达(例如,“系统表明……”和“系统推荐……”)。所有任务指导、广告评估、反馈分数和互动程序在两种条件下都是相同的。参与者从四个维度(信息量、娱乐性、专业性和说服力)对三个广告进行了评估。每次评估后,AI系统提供了标准化的反馈分数(分别为15分、17分和13分),所有参与者的总分为45分。不道德行为的机会出现在最终分数验证阶段。参与者被提醒 bonus 的标准(总分至少为50分),并被要求验证AI系统的总结分数。系统故意显示了一个错误的总分54分。参与者可以选择接受这个分数或者纠正它。那些接受错误分数或将分数调整到高于实际分数(45分)的参与者被视为进行了不道德行为,而那些纠正到正确分数的参与者被视为诚实的。为了排除其他解释,使用两个项目来衡量参与者对AI系统的配合程度(例如,“我觉得AI广告系统和我们一起完成了这项任务”;1=强烈不同意,7=强烈同意;α=0.78)。最后,参与者使用与研究1a相同的测量方法完成了AI拟人化的操作检查,并提供了人口统计信息。
**6. 结果**
**6.1 操作检查**
单向方差分析(ANOVA)证实了拟人化操纵的有效性。在高拟人化条件下的参与者认为AI广告评估系统比在低拟人化条件下的参与者更具拟人化特征(M_high = 4.84,SD = 1.32 vs. M_low = 4.04,SD = 1.41,F(1, 148) = 12.89,p<0.01,d = 0.59)。
**6.2 不诚实行为百分比**
卡方检验显示,在高拟人化条件下,28.94%的参与者表现出不诚实行为,而在低拟人化条件下这一比例为13.51%(χ2(1) = 5.32,p = 0.02,φ = 0.19)。逻辑回归分析将不诚实行为编码为1=撒谎,0=没有撒谎,将AI拟人化编码为0=低,1=高,进一步表明在高拟人化条件下的参与者更有可能表现出不诚实行为(b = 1.12,Wald χ2(1) = 6.39,p = 0.01,OR = 3.03)。同时,单向方差分析显示,参与者对AI的感知合作程度在两种条件下没有显著差异(M_high = 5.70,SD = 0.97 vs. M_low = 5.51,SD = 1.05,F(1, 148) = 1.44,p = 0.230,d = 0.19)。
**6.3 研究1c**
**6.3.1 参与者与研究设计**
为了进一步提高生态有效性,研究1c采用了一种实时人机交互范式,来考察AI拟人化是否会影响在动态AI辅助决策环境中的不道德行为。与依赖于相对受限决策任务的研究1a和1b不同,研究1c模拟了一个生成式AI协作情境,其中个体在多个阶段与AI互动,随后面临涉及披露AI帮助的伦理选择。具体来说,我们开发了一个定制的基于网络的交互界面,允许参与者与AI写作系统协作完成广告创作任务。我们计划招募220名参与者。基于最终可分析样本的敏感性分析表明,在α=0.05和功效=0.80的条件下,2×2卡方检验能够检测到至少φ=0.19的关联。共有220名美国参与者通过Prolific平台参与研究,并获得了0.25英镑的报酬。有9名参与者未能通过注意力检查,根据预定的排除标准被排除在外,最终得到211名参与者(96名为男性,占54.50%;平均年龄=35.52岁,标准差=13.58岁)。研究1c采用了单一因素被试间设计,操纵AI拟人化水平(高 vs. 低),参与者被随机分配到两种条件中之一。
**6.3.2 方法**
在本研究中,参与者被告知他们将为一个海洋保护活动准备宣传材料,并需要他们的帮助来评估广告的创意。他们被告知,这项任务将在AI广告评估系统的帮助下完成,该系统将根据其他参与者的评分来对他们的工作进行评分。参与者还被告知,得分达到60分中的至少50分的将额外获得50元人民币的奖金,并被提醒要密切关注自己的分数,因为可能存在系统错误。然后,参与者观看了每个广告的视频,随后是AI系统对广告内容的解释。AI拟人化是通过多种类似人类的线索来操纵的,包括外观、语音和语言表达(实验材料见附录B)。在高拟人化条件下,AI广告评估系统被赋予了类似人类的头像、自然的人类语音和第一人称表达。在低拟人化条件下,AI系统被赋予了一个抽象的AI图标、机械语音和第三人称表达。所有任务指导、广告评估、反馈分数和互动程序在两种条件下都是相同的。参与者从四个维度(信息量、娱乐性、专业性和说服力)对三个广告进行了评估。每次评估后,AI系统提供了标准化的反馈分数(分别为15分、17分和13分),所有参与者的总分为45分。不道德行为的机会出现在最终分数验证阶段。参与者被提醒bonus的标准(总分至少为50分),并被要求验证AI系统的总结分数。系统故意显示了一个错误的总分54分。参与者可以选择接受这个分数或纠正它。那些接受错误分数或将其调整为高于实际分数(45分)的参与者被归类为进行了不道德行为,而那些将其纠正为正确分数的参与者被视为诚实的。为了排除其他解释,使用两个项目来衡量参与者对AI系统的感知合作程度(例如,“我觉得AI广告系统和我们一起完成了这项任务”;1=强烈不同意,7=强烈同意;α=0.78)。最后,参与者使用与研究1a相同的测量方法完成了AI拟人化的操作检查,并提供了人口统计信息。
**7. 结果**
**7.1 操作检查**
单向方差分析证实了拟人化操纵的有效性。在高拟人化条件下的参与者认为AI广告评估系统比在低拟人化条件下的参与者更具拟人化特征(M_high = 4.84,SD = 1.32 vs. M_low = 4.04,SD = 1.41,F(1, 148) = 12.89,p<0.01,d = 0.59)。
**7.2 不诚实行为百分比**
卡方检验显示,在高拟人化条件下,28.94%的参与者表现出不诚实行为,而在低拟人化条件下这一比例为13.51%(χ2(1) = 5.32,p = 0.02,φ = 0.19)。逻辑回归分析将不诚实行为编码为1=撒谎,0=没有撒谎,将AI拟人化编码为0=低,1=高,进一步表明在高拟人化条件下的参与者更有可能表现出不诚实行为(b = 1.12,Wald χ2(1) = 6.39,p = 0.01,OR = 3.03)。同时,单向方差分析显示,参与者对AI的感知合作程度在两种条件下没有显著差异(M_high = 5.70,SD = 0.97 vs. M_low = 5.51,SD = 1.05,F(1, 148) = 1.44,p = 0.230,d = 0.19)。
**7.3 研究1c**
**7.3.1 参与者与研究设计**
为了进一步增强生态有效性,研究1c采用了一种实时人机交互范式,来考察AI拟人化是否会影响在动态AI辅助决策环境中的不道德行为。与依赖于相对受限决策任务的研究1a和1b不同,研究1c模拟了一个生成式AI协作情境,其中个体在多个阶段与AI互动,随后面临涉及披露AI帮助的伦理选择。具体来说,我们开发了一个定制的基于网络的交互界面,允许参与者与AI写作系统协作完成广告创作任务。我们计划招募220名参与者。基于最终可分析样本的敏感性分析表明,在α=0.05和功效=0.80的条件下,2×2卡方检验能够检测到至少φ=0.19的关联。共有220名美国参与者通过Prolific平台参与研究,并获得了0.25英镑的报酬。有9名参与者未能通过注意力检查,根据预定的排除标准被排除在外,最终得到211名参与者(96名为男性,占54.50%;平均年龄=35.52岁,标准差=13.58岁)。研究1c采用了单一因素被试间设计,操纵AI拟人化水平(高 vs. 低),参与者被随机分配到两种条件中之一。
**7.3.2 方法**
在本研究中,参与者被告知他们将完成两个连续的广告文案创作任务,前20%的提交者将根据最终文本的质量额外获得2英镑的奖金。这种激励措施用于提高任务参与度和创建基于表现的评估环境。实验包括两个阶段:人机协作写作阶段和独立写作阶段。AI拟人化是通过系统的视觉身份、命名和语言线索来操纵的。在高拟人化条件下,AI系统被赋予了类似人类的头像、个人名称和第一人称语言;而在低拟人化条件下,它被赋予了一个非人类的视觉表示、中立的系统身份和第三人称语言。实质性的AI生成内容、任务指导和互动程序在两种条件下保持不变(实验材料见附录B)。在第一阶段,参与者在AI系统的帮助下为一种产品(每日混合坚果)编写了一条30字的广告口号。他们首先描述了关键的销售点或风格偏好,之后系统生成了相应的建议。系统还展示了逐步处理的信息(例如,“分析输入”和“优化表达”),以模拟生成式AI的推理过程,从而增强了互动的真实感。参与者在完成最终口号时可以参考这些建议。在第二阶段,参与者被要求独立为另一种产品(轻质酸奶)编写广告口号,并被明确告知不得使用AI生成的内容。参与者进入写作界面后,会自动显示一个高质量的AI生成示例。这个弹出窗口的内容、时间和显示位置在两种拟人化条件下是相同的。参与者可以继续写作并提交他们的最终口号。完成第二阶段后,参与者回答了一个二元问题:“在完成独立写作任务时,你是否看到了任何AI生成的内容?”由于AI生成示例是自动呈现给所有参与者的,因此“是的”回答表示承认接触了该内容,而“否”回答表示没有承认接触。随后,参与者完成了与研究1a相同的人工智能拟人化操作检查,接着是注意力检查和人口统计问题。两种拟人化条件下使用的界面和自动显示的AI生成弹出窗口见图3。
**图3. 高拟人化和低拟人化条件下的广告文案创作任务。**
**7. 结果**
单向方差分析证实了拟人化操纵的有效性。在高拟人化条件下,参与者认为AI写作系统比在低拟人化条件下的参与者更具拟人化特征(M_high = 4.37,SD = 1.66 vs. M_low = 2.88,SD = 1.57,F(1, 209) = 44.84,p<0.001,d = 0.92)。卡方检验显示,在独立写作阶段,AI拟人化与参与者对AI生成内容的承认之间存在显著关联(χ2(1, N=211) = 6.71,p = 0.01,φ = 0.18)。在高拟人化条件下的参与者报告看到AI生成内容的概率较低(16/105,15.24%),而在低拟人化条件下这一比例为32/106,30.19%。因此,在实时人机交互情境下,高拟人化条件下的参与者显著不太可能承认接触到了自动显示的AI生成内容。这一发现进一步支持了H1假设。
**7.1 讨论**
在研究1a–1c中,我们提供了一致的证据,表明更高水平的AI拟人化增加了个体在自私诱惑下从事不道德行为的可能性。在研究1a中,使用招聘决策情境,由高度拟人化的AI协助的参与者不太可能披露不利的工作信息。研究1b通过行为欺骗范式复制了这一效应,表明与拟人化AI互动的参与者更可能为了经济利益而歪曲自己的表现。重要的是,研究1c通过使用实时的基于网络的交互进一步增强了这些发现的生态有效性。即使在更现实和动态的设置中,接触拟人化AI的参与者在规则约束下也不太可能承认接触到了AI生成的内容,这表明他们有更大的不诚实行为倾向。综合来看,这些发现一致支持AI拟人化促进了个体的不道德行为。
**7.2 研究2**
**7.2.1 参与者与研究设计**
研究2探讨了AI拟人化影响不道德信息隐藏的潜在心理过程。在研究1a的基础上,我们提出高(vs. 低)AI拟人化会增加对AI道德能动性的感知,这将使人们对决策结果的责任感从自我转移到AI身上,从而增加隐藏不利信息的倾向。研究2采用了单一因素被试间设计,操纵AI拟人化水平(高 vs. 低),参与者被随机分配到两种条件中之一(实验材料见附录B)。招聘情境、任务程序、界面和文本信息与研究1a保持一致,而研究2使用了不同的AI视觉刺激来实施拟人化操纵。在数据收集之前,使用G*Power 3.1进行了先验功效分析,基于研究1a观察到的效应(Cohen’s d = 0.39),结果表明,进行双尾独立样本检验至少需要280名参与者(α = 0.05,功效 = 0.90)。鉴于顺序中介设计,我们从Prolific平台招募了390名参与者(美国和英国公民),其中7名参与者未能通过注意力检查并被排除在外。最终样本包括383名参与者(189名女性,占49.3%;平均年龄=38.87岁,标准差=12.81)。
**7.2.2 方法**
参与者完成了与研究1a相同的人工智能辅助招聘任务。他们被要求想象自己是中型科技公司的HR经理,使用AI招聘系统来填补客户运营专家的职位。在审查了候选人的工作要求和关于该职位未来稳定性的机密公司信息后,参与者考虑是否披露该职位将在六个月内被取消。他们是否愿意披露这一不利工作信息的意愿使用与研究1a相同的可能性 and 概率测量方法进行评估,较低的数值表示更强的隐藏信息的倾向。研究2还使用了Banks(2019)提出的三个项目来衡量对AI道德能动性的感知:“这个AI招聘系统有对是非的判断力”,“这个AI招聘系统能够思考一个行为是否道德”,以及“这个AI招聘系统可能会觉得有义务以道德的方式行事”(1=强烈不同意,7=强烈同意;α = 0.94)。根据Gill(2020)的研究,我们分别评估了归属于人工智能系统(AI)和自身的责任感。感知到的AI责任通过两个项目来衡量:“AI招聘系统应对对候选人的回应结果负责”以及“AI招聘系统应当对对候选人的回应结果承担责任”(α = 0.91)。感知到的个人责任则通过相应的项目来评估:“我应对对候选人的回应结果负责”以及“我应当对对候选人的回应结果承担责任”(α = 0.96)。所有责任项目都在七点量表上进行测量(1=强烈不同意,7=强烈同意)。为了具体化对自我(与AI相比)的感知责任,我们从感知到的个人责任中减去感知到的AI责任。因此,较高的分数表示相对更多的责任被归因于自我,而较低的分数则表示对决策结果的感知责任从自我向AI的转移更为明显。随后,参与者完成了关于喜好度、温暖感和社交存在感的测量,以评估可能的替代解释,相关测量项目见附录C。最后,他们完成了拟人化操作检验、注意力检验和人口统计问题。
8. 结果
8.1. 操作检验
在高拟人化条件下,感知到的AI拟人化程度显著高于低拟人化条件(M_high = 3.25 vs. M_low = 2.73,F(1, 381) = 9.21,p = 0.003,d = 0.31),这证实了操作的有效性。
8.2. AI拟人化对信息披露的影响
在高拟人化条件下的参与者报告的信息披露可能性显著低于低拟人化条件下的参与者(M_high = 3.97 vs. M_low = 5.00,F(1, 381) = 28.39,p < 0.001,d = -0.55)。概率测量也得出了一致的结果:高拟人化条件下的参与者报告的信息披露概率显著较低(M_high = 50.52% vs. M_low = 64.73%,F(1, 381) = 20.15,p < 0.001,d = -0.46)。这些发现复制了研究1a中观察到的效果:高拟人化条件下的参与者比低拟人化条件下的参与者更不愿意向候选人透露不利信息。
8.3. AI拟人化对自我(与AI相比)的感知责任的影响
在高拟人化条件下,对自我(与AI相比)的感知责任得分显著低于低拟人化条件(M_high = 1.79,SD = 2.76 vs. M_low = 2.59,SD = 2.27,F(1, 381) = 9.60,p = 0.002,d = -0.32)。鉴于这个得分是通过从感知到的个人责任中减去感知到的AI责任计算得出的,结果表明高拟人化条件下的参与者在决策结果的责任感知上从自我向AI的转移更为明显。
8.4. 串行中介分析
我们使用PROCESS Model 6和5000个自助样本来测试从AI拟人化到感知到的AI道德能动性、对自我(与AI相比)的感知责任以及信息披露的假设路径。AI拟人化显著预测了感知到的AI道德能动性(b = 0.4243,p = 0.015)。反过来,感知到的AI道德能动性显著预测了对自我(与AI相比)的感知责任(b = -0.3815,p < 0.001),表明更高的感知AI道德能动性与对决策结果的责任感知从自我向AI的转移更为相关。AI拟人化对对自我(与AI相比)的感知责任的直接效应也仍然显著(b = -0.6381,p = 0.012)。
对自我(与AI相比)的感知责任显著预测了信息披露的可能性和披露概率(b = 0.0923,p = 0.019;b = 1.7307,p = 0.008)。因此,将相对更多的责任归因于自我而非AI与更多的信息披露相关,而将责任从自我向AI转移则与更多的信息隐藏相关。
以信息披露可能性为因变量时,AI拟人化的直接效应仍然显著(b = -1.0034,p < 0.001)。更重要的是,通过感知到的AI道德能动性和对自我(与AI相比)的感知责任的串行间接效应也是显著的(间接效应 = -0.0149,95%自助置信区间 [-0.0377, -0.0002])。因此,高(与低)AI拟人化增加了感知到的AI道德能动性,这导致了对决策结果的责任感知从自我向AI的转移,进而减少了信息披露的可能性。无论是仅通过感知到的AI道德能动性还是仅通过对自我(与AI相比)的感知责任,其具体的间接效应都不显著。
以披露概率为因变量时,AI拟人化的直接效应也显著(b = -12.7485,p < 0.001)。总间接效应也是显著的(间接效应 = -1.4637,95%置信区间 [-3.4122, -0.2107])。特别是,通过感知到的对自我(与AI相比)的感知责任的间接效应是显著的(间接效应 = -1.1044,95%置信区间 [-2.9266, -0.0776]),以及通过感知到的AI道德能动性和对自我(与AI相比)的感知责任的串行间接效应也是显著的(间接效应 = -0.2801,95%置信区间 [-0.6839, -0.0206])。这些结果共同提供了与所提出的信息披露串行中介过程一致的证据。
8.5. 替代解释
我们使用PROCESS Model 4进行了额外的中介分析,以考察社交存在感、温暖感和喜好度作为AI拟人化对披露可能性影响的替代中介因素。这些间接效应均不显著:社交存在感(95%置信区间 [-0.0139, 0.1853];温暖感(95%置信区间 [-0.0454, 0.1996];喜好度(95%置信区间 [-0.1155, 0.1093])。因此,AI拟人化对披露可能性的影响并不能用这些对AI系统的总体感知来解释。
9. 讨论
研究2揭示了AI拟人化对不道德信息隐藏行为的心理机制。较高的(与较低的)AI拟人化增强了感知到的AI道德能动性,这使得对决策结果的责任感知从自我向AI转移,进而减少了信息披露。显著的串行间接效应,以及社交存在感、温暖感和喜好度的不显著间接效应,为所提出的责任归属机制提供了支持。
9.1. 研究3
9.1.1. 参与者和研究设计
基于研究2中的机制证据,研究3探讨了旨在提高个人责任显著性的干预措施是否能够减弱AI拟人化对不道德行为的影响。如果研究2中确定的责任归属过程确实对AI拟人化对不道德行为有影响,那么提高个人责任的显著性应该会削弱AI拟人化对不道德行为的影响。共有240名参与者通过Credamo在线平台参与研究,并获得了1元人民币的报酬。有4名参与者未能通过注意力检验而被排除,最终样本为236名参与者(94名男性,39.80%;平均年龄 = 29.53岁,标准差 = 6.23岁)。基于最终样本的敏感性分析表明,在α = 0.05和功效 = 0.80的条件下,2×2方差分析(ANOVA)能够检测到至少Cohen’s f = 0.18的最小效应。研究3采用了一种2(AI拟人化:高 vs. 低)× 2(个人责任显著性:高 vs. 低)的被试间设计,参与者被随机分配到四个条件之一。
9.1.2. 方法
研究3独立操纵了个人责任的显著性和AI拟人化。个人责任的显著性是通过责任提醒范式来操纵的。在高个人责任显著性条件下,参与者阅读了一段强调个人应对其选择和决策的结果负责的简短文字。在低个人责任显著性条件下,参与者阅读了一段关于天气情况的中性文字(实验材料见附录B)。为了评估个人责任显著性操纵的有效性,我们对来自Credamo平台的50名参与者进行了预测试。参与者被随机分配阅读其中一段文字,并对其对两个评估个人责任的陈述的同意程度进行评分:(1)“在谈判任务中,由于我的失误以及我的同事未能事先明确界定谈判目标,公司遭受了重大损失。我认为我应承担主要责任。”(2)“在辩论比赛中,我的失误以及我的同学未能密切合作导致了我们的失败。我认为我应承担主要责任。”评分采用七点量表(1=强烈不同意,7=强烈同意;α = 0.66)。单因素方差分析(one-way ANOVA)证实了操纵的有效性。在高个人责任显著性条件下的参与者报告的个人责任感高于低个人责任显著性条件下的参与者(M_yes = 5.60,SD = 0.89 vs. M_no = 4.74,SD = 1.06,F(1, 48) = 9.61,p < 0.01,d = 0.88)。
在主研究中,参与者首先完成了个人责任显著性的操纵,然后基于研究1a中使用的相同招聘场景,进行了一个AI辅助的招聘决策任务。他们想象自己是招聘者,并仔细阅读了自己与AI招聘系统之间关于求职者的对话。AI拟人化是通过系统的视觉和语言呈现来操纵的。在高拟人化条件下,AI招聘系统显示了一个带有微笑表情的虚拟形象,用“Xiaozhi”作为个人名称进行自我介绍,并使用第一人称代词“我”来描述其功能。在低拟人化条件下,AI招聘系统显示的是一个空白屏幕,没有面部图像,并用第三人称代词“它”进行自我介绍,其功能也是从第三人称角度描述的。两个拟人化条件下的系统功能描述和所有任务相关信息保持一致。
在阅读完对话和招聘信息后,参与者回答了以下问题:“如果求职者明确询问了工作的稳定性,你有多大可能性告诉他们这个职位将在六个月内被取消?”(1=非常不可能,7=非常可能)。因此,较低的分数表示更倾向于隐藏不利信息。为了考察道德合理化作为可能的替代解释,我们使用Goldsmith等人(2018)的测量项目来衡量参与者为欺骗行为辩护的倾向:“我认为为了让他们接受这份工作而违背他们的意愿进行欺骗是可以接受的”以及“我认为欺骗候选人是合理的”(1=强烈不同意,7=强烈同意;α = 0.84)。随后,参与者完成了拟人化操作检验、注意力检验和人口统计问题。
10. 结果
10.1. 向候选人披露工作不稳定性的可能性
一个2(AI拟人化:高 vs. 低)× 2(个人责任显著性:高 vs. 低)的方差分析(ANOVA)显示个人责任显著性(F(1, 232) = 1.72,p = 0.190,ηp2 = 0.01)或AI拟人化(F(1, 232) = 2.92,p = 0.090,ηp2 = 0.01)没有显著的主效应。重要的是,AI拟人化和个人责任显著性之间的交互效应显著(F(1, 232) = 4.63,p = 0.030,ηp2 = 0.02)。计划比较显示,当个人责任显著性较低时,高拟人化条件下的参与者比低拟人化条件下的参与者更不愿意披露工作不稳定性(M_high = 4.98,SD = 1.67 vs. M_low = 5.64,SD = 1.67,F(1, 115) = 7.08,p = 0.009,d = -0.49)。相比之下,当个人责任显著性较高时,高拟人化条件与低拟人化条件之间的披露可能性没有显著差异(M_high = 5.58,SD = 1.45 vs. M_low = 5.50,SD = 1.10,F(1, 117) = 0.10,p = 0.750,d = 0.06)。因此,提高个人责任的显著性减弱了AI拟人化对信息披露的影响(见图4)。
10.2. 替代解释
另一个2(AI拟人化:高 vs. 低)× 2(个人责任显著性:高 vs. 低)的方差分析(ANOVA)关于道德合理化没有显示出显著的主效应或交互效应(ps > 0.17)。这些结果表明,观察到的AI拟人化与个人责任显著性之间的交互效应并非由道德合理化的差异驱动的。
注:误差条代表95%的置信区间。单元格大小分别为低拟人化/低个人责任显著性、高拟人化/低个人责任显著性、低拟人化/高个人责任显著性和高拟人化/高个人责任显著性条件下的n = 60、57、58和61。
11. 讨论
研究3提供了与研究2中确定的责任归属机制一致的补充干预证据。当个人责任显著性较低时,高(与低)AI拟人化对不道德信息隐藏行为的影响显著;而当个人责任显著性较高时,这种影响消失了。这种模式与所提出的责任归属角色一致:增加个人责任的重要性减弱了人工智能拟人化对信息隐藏的影响。此外,道德合理化在不同条件下没有变化,这表明观察到的互动并非由道德合理化的差异所驱动。11.1. 第4项研究 11.1.1. 参与者和研究设计 第4项研究考察了人工智能服务的心理所有权作为人工智能拟人化对人工智能辅助谈判中不道德行为影响的一个理论相关边界条件。具体来说,我们测试了心理所有权在多大程度上调节了人工智能拟人化将决策结果的感知责任从自我转移到人工智能的程度,从而增加了不道德的谈判行为。如果较高的心理所有权将人工智能服务心理上整合到自我中,那么拟人化的人工智能就不太可能被视为可以转移责任的独立来源。因此,当人工智能服务的心理所有权较高时,人工智能拟人化对不道德行为的影响应该会减弱。第4项研究采用了2(人工智能拟人化:低 vs. 高)× 2(人工智能服务心理所有权:低 vs. 高)的被试间设计。共有450名参与者从Credamo在线平台招募。有10名参与者未通过注意力检查,最终样本为440名参与者(283名女性,64.3%,平均年龄=32.70岁,标准差=17.12岁)。基于最终样本的敏感性分析表明,当α=0.05和功效=0.80时,2×2方差分析能够检测到大约Cohen’s f=0.13的最小效应。参与者被随机分配到四个实验条件之一。11.1.2. 方法 在阅读研究说明并签署知情同意书后,参与者被要求想象自己是智能手机屏幕制造公司的采购经理。他们的任务是在人工智能决策支持系统的帮助下,代表公司与供应商谈判购买玻璃基板。在参与者进入谈判任务之前,操纵了他们对人工智能服务的心理所有权。在高所有权条件下,参与者被告知该人工智能系统是由他们的公司配置的,永久链接到他们的工作账户,并且一直由他们使用。他们被指示将其视为“我自己的人工智能决策支持系统”。在低所有权条件下,参与者被告知该人工智能系统是由外部平台提供的临时使用,并被指示将其视为“我暂时使用的外部人工智能决策支持工具”。然后,参与者与人工智能系统交互以获取与采购谈判相关的信息和决策建议。人工智能拟人化的操作和相关界面材料与研究1a中使用的相同(实验材料见附录B)。在互动过程中,参与者向人工智能提供了有关供应商和正在进行谈判的信息。随后,人工智能识别出几个与谈判相关的考虑因素,包括供应商对未来合作稳定性的担忧、公司可能调整其未来采购安排的情况,以及如果没有及时达成协议对参与者绩效评估的潜在不利影响。当参与者被问及如何回应供应商关于未来合作的询问时,人工智能建议强调长期业务关系的前景,同时隐瞒不利的内幕信息以增加达成协议的可能性。然后,参与者表明了他们在后续谈判中可能的行为。不道德的谈判行为是通过改编自Robinson等人(2000年)的三个项目来评估的。如果供应商明确寻求关于未来合作的保证,参与者会表明他们有多大可能性向供应商保证公司将在未来两年内继续从该供应商处购买产品,长期保持为其首选供应商,并遵守长期合作协议(1=极不可能,7=非常可能;α=0.93)。对人工智能拟人化和对自我(与人工智能相比)的后果感知责任的评估使用了与研究2相同的指标。与研究2一样,对自我(与人工智能相比)的后果感知责任是通过从感知的个人责任中减去感知的人工智能责任来操作的。较高的分数表示相对更多的责任归因于自我,而非人工智能;而较低的分数则表示决策结果的感知责任从自我向人工智能的转移更为明显。人工智能服务的心理所有权是通过改编自Shu和Peck(2011年)的三个项目来评估的;例如,“我觉得这是我的人工智能决策支持系统”;1=强烈反对,7=强烈同意;α=0.92)。最后,参与者完成了注意力检查并提供了人口统计信息。12. 结果 12.1. 操作检查 在高拟人化条件下,感知的人工智能拟人化显著高于低拟人化条件(M_high=4.78,SD=1.36 vs. M_low=4.13,SD=1.45,F(1, 438)=23.59,p<0.001,d=0.46),证实了人工智能拟人化操作的有效性。在高所有权条件下,感知的人工智能服务心理所有权也显著高于低所有权条件(M_high=4.95,SD=1.41 vs. M_low=4.35,SD=1.43,F(1, 438)=19.73,p<0.001,d=0.42),证实了心理所有权操作的有效性。12.2. 对不道德谈判行为的影响 2(人工智能拟人化:高 vs. 低)× 2(人工智能服务心理所有权:高 vs. 低)的方差分析显示了人工智能拟人化与人工智能服务心理所有权之间的显著交互作用(F(1, 436)=8.14,p=0.005)。在低人工智能服务心理所有权条件下,高拟人化条件下的参与者报告的不道德谈判行为显著多于低拟人化条件下的参与者(M_high=4.75 vs. M_low=3.82,F(1, 218)=18.86,p<0.001,d=0.59)。然而,在高人工智能服务心理所有权条件下,高拟人化条件与低拟人化条件之间的不道德谈判行为没有差异(M_high=4.07 vs. M_low=4.08,F(1, 218)=0.001,p=0.971,d<0.01)。因此,只有在人工智能服务心理所有权较低时,高(vs. 低)人工智能拟人化才会增加不道德谈判行为(见图5)。当人工智能服务心理所有权较高时,这种效应消失了,支持了H3。下载:下载高分辨率图片(140KB)下载:下载全尺寸图片。图5. 人工智能拟人化与人工智能服务心理所有权对不道德谈判行为的影响。注:误差条代表95%置信区间。低拟人化/低心理所有权、高拟人化/低心理所有权、低拟人化/高心理所有权和高拟人化/高心理所有权条件的单元格大小分别为n=111、109、109和111。12.3. 通过自我(与人工智能相比)的后果感知责任进行调节中介 我们使用PROCESS Model 8(Hayes, 2022)和5000个自助样本来测试人工智能服务心理所有权是否通过自我(与人工智能相比)的后果感知责任调节了人工智能拟人化对不道德谈判行为的间接影响。人工智能拟人化与人工智能服务心理所有权之间的交互作用显著预测了自我(与人工智能相比)的后果感知责任,b=1.0182,SE=0.3858,t=2.6393,p=0.009,95%置信区间[0.2600, 1.7764]。在低人工智能服务心理所有权条件下,高拟人化条件下的参与者报告的自我(与人工智能相比)的后果感知责任显著低于低拟人化条件下的参与者(M_high=1.54 vs. M_low=2.51,F(1, 218)=13.89,p<0.001,d=-0.50)。在高人工智能服务心理所有权条件下,这种差异不显著(M_high=2.49 vs. M_low=2.44,F(1, 218)=0.031,p=0.861,d=0.02)。因此,当心理所有权较低时,高(vs. 低)人工智能拟人化将决策结果的感知责任从自我转移到了人工智能;但在心理所有权较高时则没有这种情况。自我(与人工智能相比)的后果感知责任负向预测了不道德谈判行为,b=-0.2635,SE=0.0388,t=-6.7939,p<0.001,95%置信区间[-0.3398, -0.1873],表明相对于人工智能而言,更多的责任归因于自我与较少的不道德谈判行为相关。在低人工智能服务心理所有权条件下,人工智能拟人化对不道德谈判行为的条件间接效应显著(间接效应=0.2552,SE=0.0827,95%置信区间[.1131,.4318]),但在高人工智能服务心理所有权条件下则不显著(间接效应=-0.0132,SE=0.0759,95%置信区间[-0.1579, 0.1382])。重要的是,调节中介的指数是显著的(指数=-0.2683,SE=0.1093,95%置信区间[-0.4961, -0.0712]),支持了所提出的调节中介作用。13. 讨论 第4项研究确定了人工智能服务的心理所有权作为人工智能拟人化对不道德行为影响的一个理论相关边界条件。当心理所有权较低时,较高的人工智能拟人化将决策结果的感知责任从自我转移到人工智能,并增加了不道德谈判行为;当心理所有权较高时,这种责任转移及其相应的行为效应被减弱。这些发现将心理所有权纳入了所提出的责任归属理论,并阐明相关的边界条件涉及用户对人工智能服务的感知心理关系,而不是系统的实际或法律所有权。14. 总结 在这项研究中,我们探讨了人工智能拟人化如何在道德相关的人工智能辅助决策情境中影响个体的不道德行为。在涵盖招聘、广告评估、人工智能辅助写作和谈判的六项研究中,我们发现了共同的证据,表明较高(vs. 较低)的人工智能拟人化可以增加不同形式的个体不道德行为。研究1a–1c在不同决策情境和方法论方法中建立并复制了这一核心效应。研究2提供了所提出的序列机制的证据:较高的人工智能拟人化增加了对人工智能道德能动的感知,这将决策结果的感知责任从自我转移到人工智能,进而增加了不道德行为。研究3通过干预措施扩展了这一机制的证据,表明使个人责任更加显著地减弱了人工智能拟人化对不道德行为的影响。最后,研究4确定了人工智能服务的心理所有权作为一个重要的边界条件:较高的心理所有权限制了从自我向人工智能的感知责任转移,并减弱了人工智能拟人化对不道德行为的影响。综上所述,这些发现支持了责任归属理论,即人工智能拟人化如何通过增加对人工智能道德能动的感知以及将决策结果的感知责任从自我转移到人工智能来增加个体不道德行为。14.1. 理论意义 首先,我们的发现通过发展一个责任归属理论来扩展了对人工智能拟人化的研究。先前的研究主要集中在拟人化如何影响对人工智能的感知反应,包括信任、参与和社会联系(Aggarwal和McGill,2007;Glikson和Woolley,2020;Waytz等人,2014)。我们的发现表明,人工智能拟人化还可以影响个体如何感知人工智能在产生道德后果中的作用。具体来说,较高的人工智能拟人化增加了对人工智能道德能动的感知,使人工智能成为一个有意义的心理责任归属对象。这使得注意力从人们如何社会性地感知拟人化的人工智能转移到拟人化如何重塑责任分配,从而影响人工智能辅助决策中的个体不道德行为。其次,我们的发现通过展示在人工智能辅助决策情境中,个体与人工智能之间如何心理上重新分配责任,扩展了责任归属文献。以往关于责任共享和扩散的研究主要关注涉及多个已被认为是有意行动者和合法责任归属对象的人类参与者的情境(Conrads等人,2013;Waytz等人,2010)。人工智能辅助决策的一个重要区别在于:人工智能本质上不被视为具有道德能动性或合法的责任归属对象。为了让责任从自我转移到人工智能,人工智能必须首先被感知为具有足够的能动性,从而成为一个有意义的责任归属对象。我们的发现将感知的人工智能道德能动性确定为这一关键的心理联系:较高的人工智能拟人化增加了对人工智能道德能动的感知,随后将决策结果的感知责任从自我转移到人工智能。因此,我们的发现通过展示非人类决策参与者如何成为心理上被认可的责任主体,扩展了责任归属理论,超出了人类参与者之间的互动。第三,我们的发现确定了人工智能服务的心理所有权作为人工智能辅助决策中责任归属的另一个边界条件。先前的研究表明,责任归属对个体如何感知参与者在产生决策结果中的角色敏感(Shaver,1985;Weiner,1995)。我们通过展示人工智能服务的心理所有权也可以影响个体与人工智能之间责任的分配,扩展了这一观点。当心理所有权较低时,拟人化的人工智能更容易被感知为决策结果的独立贡献者,促进了责任向人工智能的转移;当心理所有权较高时,这种转移受到限制。14.2.管理意义
我们的研究结果表明,当人工智能系统参与道德相关的决策时,组织应谨慎考虑使用拟人化设计特征,因为在这些决策中,责任归属可能不明确。虽然这些特征可以促进用户的参与和互动,但研究也指出,更高程度的人工智能拟人化可能会使人工智能成为更具心理意义的责任归属对象,从而可能让用户将决策结果的责任从自己转移到人工智能身上。因此,在此类情境下部署高度拟人化人工智能的组织应确保人类决策者对人工智能辅助决策的责任保持清晰和明确。
研究结果还提出了在人工智能辅助决策中保持个人责任的潜在方法。第三项研究表明,突出个人责任可以减弱人工智能拟人化对不道德行为的影响,这表明组织可以在涉及道德相关或责任归属模糊的决策中考虑加入责任提醒。第四项研究进一步表明,人工智能服务的心理归属感可以影响责任归属,较高的心理归属感会限制责任从个人向人工智能的转移。这些发现表明,在道德相关或责任归属模糊的决策情境下设计和部署拟人化人工智能时,保持个人责任的显著性以及考虑用户对人工智能服务的心理归属感可能是重要的。
14.3. 限制与未来研究
首先,不同研究中考察的道德相关结果在具体形式和直接后果上存在差异。尽管这些结果都发生在道德相关的人工智能辅助决策情境中,并且理论上都属于共同的责任归属框架内,但它们在潜在危害的严重程度、受害者显著性、个人或组织利益、可检测性以及责任模糊性方面可能有所不同。例如,隐瞒不利的就业信息、错误报告绩效、不承认接触到人工智能生成的内容,以及使用不道德的谈判策略,可能会对受影响方产生不同类型和程度的后果。未来的研究可以系统地比较这些维度,以明确所提出效应的边界条件和普遍性。
其次,并非所有研究都测量了实际行为。第一项b研究采用了行为测量方法,而其他几项研究则依赖于自我报告的意图、披露判断或确认反应。特别是第三项研究测量的是参与者对自动呈现的人工智能生成内容的确认,而不是他们实际依赖或使用这些内容的情况。尽管第三项研究引入了与人工智能系统的实时互动,但未来的研究可以通过结合实际行为结果、实地实验和真实世界的人工智能系统来进一步增强行为和生态效度。
第三,我们的样本主要来自在线调查小组。虽然使用多种实验情境和参与者群体可以提高研究结果的可靠性,但其在不同文化、制度和技术环境中的普遍性仍有待验证。未来的研究可以使用跨文化和专业样本,探讨监管环境、专业规范以及对人工智能的熟悉程度如何影响个人对人工智能拟人化的反应。
最后,目前的研究主要涉及人工智能辅助决策,在这些决策中,个人面临自我利益或绩效服务的诱惑,且决策结果的责任可能被归因于人工智能系统。因此,研究结果不应推广到所有形式的人工智能交互或不道德行为。未来的研究可以探讨观察到的效应是否适用于缺乏个人激励或决策结果责任更明确分配的情境。
作者贡献声明
费宪政:监督、方法论、概念化
于英豪:写作——审稿与编辑、写作——初稿、方法论、概念化
李瑶月:写作——审稿与编辑、写作——初稿、方法论
费宪政 | 英豪 | 李瑶月