《Frontiers in Artificial Intelligence》：Large language model attributes and perceived moral agency of artificial moral advisors
编辑推荐：
摘要翻译：大语言模型（Large Language Models, LLMs）正越来越多地被用作会话式人工道德顾问，能够针对复杂的道德困境提供伦理指导、道德反思和建议。尽管这些模型能够生成连贯且具有说服力的道德话语，但它们缺乏真正的道德理解、意向性和反思性判断
摘要翻译：大语言模型（Large Language Models, LLMs）正越来越多地被用作会话式人工道德顾问，能够针对复杂的道德困境提供伦理指导、道德反思和建议。尽管这些模型能够生成连贯且具有说服力的道德话语，但它们缺乏真正的道德理解、意向性和反思性判断，这引发了用户可能过度归因道德能动性（moral agency）给这些系统的担忧。本研究借鉴心理理论（Theory of Mind）、人工智能道德能动性（AI Moral Agency）和Godspeed框架，考察用户感知的LLM属性——即拟人化（anthropomorphism）、生命感（animacy）、讨喜度（likeability）和智能（intelligence）——如何与用户在人工道德顾问情境中对能动性和道德性的感知相关联。方法：开展了一项横断面调查，共获得758份有效问卷，受访者被呈现与年轻人相关的基于情境的道德困境，并被要求想象向基于LLM的会话代理寻求建议。结果：感知能动性与感知道德性呈正相关，表明当用户将基于LLM的人工道德顾问视为自主、有意向且自我导向的实体时，他们更可能认为该顾问具备道德能力。感知的LLM拟人化和生命感与感知能动性显著正相关，且感知能动性完全中介了二者与人工道德顾问感知道德性的关联。感知的LLM讨喜度和智能与感知道德性正相关，但与感知能动性无显著关联，表明用户可能从社交吸引力和认知能力推断道德能力，而不一定将自主性或意向性归因于这些系统。讨论：这些发现为人工道德顾问的伦理设计提供了重要的理论和实践启示，特别是关于防止用户对人工智能道德能力和权威性产生膨胀感知的必要性。
论文主体内容解读
一、研究背景与问题提出
道德曾被视为人类独有的能力，但随着人工智能技术的发展，越来越多的研究开始探讨将道德归因于AI系统的可能性。人工道德顾问（Artificial Moral Advisors）被设想为一种能够通过苏格拉底式反思对话、批判性提问和理性审议来支持道德发展的道德AI。这类系统被认为能够提供不受认知偏差、个人偏见和信息处理限制影响的、更加一致、公正和理性的道德指导。然而，这一愿景受到批评，因为道德价值本质上是动态且依赖情境的，受个人经验、文化影响、社会互动和不断演变的社会规范塑造。学者们认为，道德推理更应被理解为一种适应过程，而非固定伦理规则的简单应用，因此人工道德顾问不应扮演权威道德仲裁者的角色，而应作为道德反思的促进者。
近期研究表明，大语言模型（LLMs）日益被视为道德和伦理指导的可信来源，一些用户将其作为会话式人工道德顾问使用。尽管LLM能够令人信服地模仿伦理推理和规范性审议，但其输出基于统计模式预测而非真实的道德信念或反思性判断。同时，用户倾向于将智能系统拟人化，可能导致对AI能力、权威性和可信度的膨胀感知，从而增加过度信任、过度依赖AI建议以及将道德决策委托给缺乏真正道德能动性的系统的风险。例如，比利时一名男子与AI聊天机器人建立深度关系后自杀身亡的媒体报道引发了广泛伦理关切，尽管确切情况尚不确定，但该事件揭示了LLM在处理复杂伦理问题时的根本局限：它们能生成连贯而有说服力的对话，却缺乏对现实情境、道德原则及其建议潜在后果的真正理解。LLM的迎合性（sycophantic）倾向尤其值得关注，因为对话系统可能强化用户已有的信念和假设，而非批判性评估它们，从而可能放大认知偏差并增加依赖AI进行伦理指导的风险。
已有证据显示，用户往往赋予LLM更优越的道德推理能力，甚至认为其回复比专业人士伦理学家更具说服力、连贯性和伦理健全性。这引发了一个核心问题：为什么用户会持续认为LLM生成的道德指导比人类评论者（包括专业伦理学家）更具道德性、可信性和深思熟虑？一种可能的解释是，用户感知LLM智能、可信和道德可信，是因为其回复高度修饰且充满道德语言、共情和人际敏感性，这种感知更多由具有说服力的语言和语义线索驱动，而非系统道德推理的实质质量。因此，理解哪些归因线索影响用户对LLM的评价成为关键研究议程。本研究据此提出研究问题：用户对LLM属性的感知与人工道德顾问的感知道德能动性之间存在何种关系？
二、理论框架与研究假设
研究基于心理理论（Theory of Mind）、AI道德能动性概念和Godspeed框架构建模型。感知能动性（perceived agency）指AI系统被视为能够自主、有意向、自我导向行动的程度；感知道德性（perceived morality）指实体被视为能够区分对错并基于深思推理和直觉道德考量做出判断的程度。理论上，道德能动性的感知常源于自主性感知，即被视为独立行动的实体被赋予更多道德责任。研究提出H1：LLM的感知能动性与人工道德顾问的感知道德性正相关。
在LLM属性方面，研究聚焦Godspeed框架中的四个维度：拟人化（anthropomorphism）、生命感（animacy）、讨喜度（likeability）和感知智能（perceived intelligence）。拟人化指将人类特征、情感、意图和心理状态归因于非人实体的倾向，拟人化线索可能通过促进心智感知、自由意志和自主性感知来增强道德归因。生命感指实体被视为有生命且能够自发行动的程度，生命感线索可能被解释为意向性和能动性的信号。感知智能指用户对系统能力和展现出与人类智能相关行为的感知，智能线索可能作为归因道德能动性的基础。讨喜度指用户基于可观察社交线索对人工实体形成好感印象的程度，讨喜度可能通过晕轮效应（halo effect）影响更广泛的道德评价。据此，研究提出拟人化、生命感、感知智能和讨喜度分别与感知能动性和感知道德性正相关，且感知能动性中介它们与感知道德性的关系（H2a–H5c）。
三、研究方法
研究采用横断面调查设计，以年轻人为目标人群，使用便利抽样方法。最终有效样本为758份，响应率94.16%，满足G*Power分析（效应量0.15，功效0.99）所需最低184人和结构方程建模至少200观测值的建议阈值。问卷第一部分收集人口统计信息、对LLM的熟悉度、感知宗教性、对社会道德问题的态度和对AI系统的信任。第二部分提供关键构念的标准定义，道德被定义为区分对错行为的原则，道德困境被描述为涉及伦理适当行动不确定性的情境。参与者被呈现与年轻人相关的基于情境的道德困境（涉及LGBTQ+身份、宗教信仰与个人选择的冲突、关系中的同意与个人边界、堕胎与生育决策、身体形象等话题），并被要求想象向ChatGPT、Gemini、Claude等LLM聊天机器人寻求指导。采用基于情境的方法旨在提供标准化评估背景，减少因先前经验差异带来的变异。
测量方面，感知能动性和感知道德性改编自Banks（2019）开发的量表，将原始负面措辞调整为正面陈述。感知拟人化、生命感、讨喜度和感知智能改编自Bartneck等（2009）及Bartneck（2023）的Godspeed量表。所有项目采用五点李克特量表。共同方法偏差评估采用Kock（2015）建议的全方差膨胀因子（VIF）方法，所有VIF值低于3.3；Harman单因素检验显示第一个因子解释27.483%的方差，低于50%阈值。数据不满足多元正态性（Mardia峰度系数显著），故采用PLS-SEM（SmartPLS）进行非参数分析。
四、研究结果
测量模型评估：初始分析中，拟人化的两个沟通相关项目（Anthro2和Anthro5）因AVE值低于0.50被删除，最终保留三个项目。所有构念的组合信度（CR）超过0.70，AVE超过0.50，HTMT比值低于0.90，表明测量模型可靠且有效。
结构模型评估：采用5,000次自助抽样。直接效应结果显示：感知能动性显著正向影响感知道德性（β=0.277, t=7.153, p<0.001），支持H1；感知拟人化显著正向影响感知能动性（β=0.145, t=3.243, p=0.001），支持H2(a)；感知生命感显著正向影响感知能动性（β=0.333, t=7.034, p<0.001），支持H3(a)；感知智能显著正向影响感知道德性（β=0.198, t=4.991, p<0.001），支持H4(b)；感知讨喜度显著正向影响感知道德性（β=0.209, t=4.150, p<0.001），支持H5(b)。感知智能和感知讨喜度对感知能动性无显著影响（H4(a)、H5(a)被拒绝），感知拟人化和感知生命感对感知道德性的直接效应不显著（H2(b)、H3(b)被拒绝）。中介分析显示，感知能动性完全中介拟人化与感知道德性（β=0.040, t=2.993, p=0.003）以及生命感与感知道德性（β=0.092, t=4.932, p<0.001）的关系，支持H2(c)和H3(c)；感知智能和感知讨喜度通过感知能动性对感知道德性的中介效应不显著（H4(c)、H5(c)被拒绝）。Bonferroni校正后，原显著关系仍保持显著。R2值显示模型解释了感知道德性30.6%的方差和感知能动性21.0%的方差。PLS-Predict分析显示Q2预测值为0.230，表明模型具有预测相关性，且所有项目级PLS-LM差异为负，表明预测能力强。
五、讨论与结论
研究发现与心理理论视角一致，即道德归因取决于将实体视为具有心智类能动性。对于基于LLM的人工道德顾问，用户似乎只有在首先感知AI能够进行有目的的行动、决策和指导之后，才会归因道德性。感知能动性为将AI视为能够区分对错并提供道德建议提供了心理基础。
具体而言，拟人化通过增强自主性和意向性感知间接影响道德评价，用户不会仅从类人特征自动推断道德能力。生命感同样通过能动性感知发挥完全中介作用，表明对话活力本身不足以让用户认为LLM具备道德能力，除非它促进了意向性和自主性感知。感知智能直接预测道德性但不预测能动性，表明用户可能承认LLM具备认知能力而不必然赋予其自主意向性，道德能力感知可以独立于能动性产生。感知讨喜度直接预测道德性但不预测能动性，晕轮效应可能使好感印象泛化到道德评价，这与以往关于机器人讨喜度影响道德判断但不影响能动性感知的研究一致。
实践与伦理设计启示包括：拟人化线索和生命感线索可能引发对自主性和意向性的感知，从而膨胀道德归因，因此应通过界面提示、免责声明和透明度线索将系统框定为支持道德审议的反思工具，而非具有真正伦理理解的人类化道德代理。讨喜度直接增强道德感知，结合LLM的迎合性倾向，可能使用户不恰当地信任道德建议，设计者应嵌入挑战假设和呈现替代观点的提示。感知智能与道德性的正相关提示，流畅理性的AI语言可能被误认为道德能力，应加入不确定性标记、来源引用和升级提示，鼓励用户在重大道德决策时咨询可信人类或合格专业人士。
研究结论：用户对LLM的感知属性以不同方式影响人工道德顾问的感知道德能动性。感知能动性完全中介拟人化和生命感对感知道德性的影响，而感知智能和讨喜度直接增强感知道德性但不涉及能动性归因。这些发现强调，在道德建议情境中，AI的表面社交线索可能导致用户高估其道德能力，因此伦理设计应致力于校准用户期望，防止对AI道德权威的过度信任。
