AI转型情境下的伦理感知：感知AI伦理性与信任及使用意愿的影响机制研究

《Frontiers in Artificial Intelligence》：The context of AI transformation: perceptions of AI ethicality and their impact on trust and use intentions

　　

摘要专业翻译 引言： 随着人工智能（AI）在组织中的实施加速，人们对AI驱动系统和工具及其使用方式的伦理性担忧日益凸显。尽管已有文献提出了诸多关于如何开发和使用合乎伦理的AI的理论，但关于用户如何感知AI的伦理性以及这种感知对其使用AI工具参与度的影响，仍存在疑问。本研究旨在探讨AI工具属性的特定感知（包括对AI工具可解释性（xAI）的信念以及道德强度维度（即后果的严重程度和邻近性））是否以及如何影响AI伦理性的感知。此外，研究还考察了AI伦理性感知对推荐AI工具的可能性及对AI功能信任的影响。 方法： 研究人员采用随机对照研究设计，考察前因变量、AI伦理性感知与功能信任及行为意向结果之间的关系。 结果： 分析显示，AI伦理性感知显著中介了xAI与推荐AI工具可能性之间的关系，而AI功能信任显著中介了邻近性与推荐AI工具可能性之间的关系。 讨论： 结果表明，用户对xAI的信念对其AI伦理性感知具有重要影响，并揭示了用户如何将AI视为在决策中能力弱于人类决策接收者。本研究的感知性特征为组织相关的AI研究日益增长的知识体系提供了理论贡献。研究结果也为实施AI工具的组织提供了视角，提示管理层在职场中实施AI工具时需考虑情境和伦理感知因素。

论文解读文章

一、研究背景与问题提出

随着人工智能（AI）技术在组织中的快速渗透，工作场所正经历着前所未有的变革。AI工具在提升任务处理效率与准确性的同时，也引发了一系列关于其伦理性的深刻关切。尽管学术界与产业界已提出多种关于如何开发和使用“合乎伦理的AI”的理论框架与标准，例如“人在环路”（Human-in-the-Loop）开发模式、透明度与公平性原则等，但一个关键问题仍悬而未决：用户究竟如何感知AI工具的伦理性？这种感知又如何影响他们对该工具的实际使用意愿与信任程度？现有研究多聚焦于AI的伦理设计与开发端，而较少从用户感知的视角切入，探讨情境因素（如AI决策的影响对象、后果严重程度以及AI的可解释性）如何塑造用户的伦理判断，并进而影响其行为意向。这一研究缺口构成了本研究开展的核心动因。

二、研究目的与理论框架

本研究旨在构建并检验一个关于AI伦理性感知的前因与后果的理论模型。研究基于Rest（1986）的道德决策模型与Jones（1991）的道德强度理论，选取了三个关键情境前因：邻近性（Proximity，即决策者与决策接收者之间的心理或物理接近程度）、后果严重程度（Magnitude of Consequences，即AI决策可能造成的伤害或利益的总量）以及可解释AI（xAI，即AI工具向用户解释其推理和决策过程的程度）。研究假设这些前因通过影响用户对AI伦理性的感知，进而作用于两个关键结果变量：对AI的功能信任（Functionality Trust，即用户对AI工具完成任务所需能力与可靠性的信任）以及推荐该AI工具的可能性。研究采用2×2×2的组间随机对照实验设计，通过情境模拟（Scenario-based）方法，对来自美国南部一所大型公立大学的572名大学生志愿者进行了实验。

三、主要技术方法

研究人员采用了一项随机化、对照的2×2×2组间实验设计，以检验各变量间的因果关系。参与者通过心理学系的SONA在线招募系统募集，并在Qualtrics平台上完成实验。每位参与者被随机分配到可解释AI（xAI）存在与否、后果严重程度（高/低）以及邻近性（近/远）的不同组合情境中，并阅读三个关于虚构组织中AI工具应用的场景。研究使用改编自Jang等人（2022）的感知AI伦理性量表（16个条目，涵盖公平、透明、非伤害、隐私、责任五个维度）、改编自Choung等人（2023）的功能信任量表（5个条目）以及单一条目的推荐可能性量表进行测量。此外，研究还测量了AI自我效能感、技术接受与使用情况以及大五人格作为协变量。数据分析主要采用协方差分析（ANCOVA）和基于PROCESS宏的路径分析中介模型，以检验直接效应与间接效应。

四、研究结果

4.1 操纵检验结果：对三个情境变量的操纵均成功。邻近性、xAI和后果严重程度的操纵检验在不同条件下均呈现显著差异，表明实验操纵有效。

4.2 协方差分析（ANCOVA）结果：针对感知AI伦理性的ANCOVA整体显著，其中xAI主效应显著，即呈现xAI描述的工具被感知为更具伦理性；而邻近性与后果严重程度对感知AI伦理性的直接效应不显著。针对功能信任的ANCOVA显示，xAI具有显著正向效应，而邻近性具有显著负向效应，即当AI决策直接涉及人类时，用户对AI的功能信任降低。针对推荐可能性的ANCOVA同样显示，xAI具有显著正向效应，邻近性具有显著负向效应。后果严重程度在三个分析中均未表现出显著主效应，所有交互效应亦不显著。

4.3 中介模型结果：路径分析显示，感知AI伦理性显著中介了xAI与推荐可能性之间的关系，即xAI通过提升用户对AI伦理性的感知，进而增加了其推荐意愿。同时，功能信任显著中介了邻近性与推荐可能性之间的关系，即邻近性通过降低用户对AI的功能信任，进而减少了其推荐意愿。在双重中介模型中，xAI通过感知AI伦理性进而通过功能信任影响推荐可能性的间接效应显著，而邻近性通过感知AI伦理性的间接效应不显著，但其通过功能信任的间接效应显著。

五、讨论与结论

研究结果表明，可解释性（xAI）是塑造用户AI伦理性感知的关键情境因素，其作用远大于决策的后果严重程度或决策接收者的邻近性。这一发现强调了AI透明度和可解释性在建立用户伦理信任中的核心地位。然而，当AI决策直接涉及人类个体时，用户对AI的功能信任会显著下降，反映出用户对AI在涉及人类福祉的决策中能力的保留态度。研究结果从感知视角为AI伦理研究提供了理论贡献，并为组织在实施AI工具时提供了实践启示：管理层在引入AI时，不仅要考虑技术效能，更需重视情境因素与用户的伦理感知，尤其是在决策涉及人类对象时，应审慎评估并可能通过增强AI的可解释性来缓解信任危机。研究结论部分指出，用户对xAI的信念显著影响其对AI伦理性的判断，且用户普遍认为AI在替人类决策接收者做决定时能力有限，这为未来AI的负责任设计与部署指明了方向。