编辑推荐：
为探究人机交互对道德决策（Moral-DM）和能动性（SoA）的影响，研究人员让学员模拟无人机操作员决策。结果显示，AI 行为影响人类道德决策，改变 SoA 和责任感。该研究为道德情境下 AI 辅助决策设计提供参考。
在当今社会，人工智能（AI）的发展可谓日新月异，它像一股无形却强大的力量，渗透到人类生活的方方面面，从日常的购物推荐，到关乎生命健康的医疗诊断，再到决定胜负的军事领域，AI 的身影无处不在。在人机交互过程中，诸多问题逐渐浮现。比如，人们与 AI 合作时可能出现自满情绪，在自动化系统失效的情况下，容易丧失情境意识，技能也会慢慢退化，工作量还会增加。而且，随着 AI 自主性的提高，人们在决策时的能动性和责任感似乎也在降低。尤其在涉及道德决策的场景中，像是战场上的攻击指令下达、医疗资源的分配等，如何在 AI 的辅助下做出正确决策，同时又不失去人类自身的判断和责任意识，成为了亟待解决的难题。
为了深入了解这些复杂的问题，来自比利时皇家军事学院（Royal Military Academy）、法国里尔大学（University of Lille）、比利时根特大学（Ghent University）等机构的研究人员开展了一项别具一格的研究。他们让参与者在模拟战场上扮演无人机操作员的角色，根据敌人的出现情况、平民和基础设施的风险等因素，决定是否发动攻击。研究人员巧妙地设置了不同类型的试验，包括道德决策（Moral）试验、攻击（A）试验和不攻击（NA）试验，同时还引入了无 AI 支持、“激进型 AI” 支持和 “保守型 AI” 支持这三种条件。
研究结果意义重大。在道德决策方面，参与者的决策明显受到 AI 系统输入的影响。当面对道德困境时，人们会倾向于参考 AI 的建议。在能动性和责任感方面，研究发现，在道德挑战情境下，参与者的隐性能动性（通过时间绑定（TB）测量）显著增加，然而，在与 AI 交互过程中，他们明确感受到的责任感却降低了。这表明，AI 虽然在决策过程中起到了辅助作用，但也改变了人们对自身行为责任的认知。
这项研究发表在《Scientific Reports》上，为我们理解人机交互在道德决策中的作用提供了宝贵的见解。它提醒我们，在设计 AI 辅助决策系统时，必须充分考虑到这些因素，确保 AI 的行为能够引导人们做出更符合道德规范的决策，同时保持人类自身的能动性和责任感。
在研究方法上，研究人员首先招募了 30 名符合条件的参与者（最终样本为 29 名），他们均对国际人道法（IHL）有一定了解。实验采用 3×3 被试内设计，以 “不确定性” 和 “自主性” 为自变量。通过 MATLAB 2020b 和 Psychophysics Toolbox Extension 编程呈现实验任务，参与者在笔记本电脑上操作，记录其反应时间、攻击决策等数据。利用时间绑定范式测量隐性能动性，通过自评量表评估责任感。
研究结果具体如下：
- 对攻击决策（A1）的分析：不确定性对 A1 有显著主效应，攻击试验中的攻击选择比例高于道德试验和不攻击试验。自主性对 A1 的影响接近显著，且不确定性和自主性存在显著交互作用，在道德试验中自主性有简单主效应。
- 对反应时间（RT）的分析：不确定性对 RT 有显著影响，道德试验的 RT 显著长于攻击试验和不攻击试验，但与 AI 的交互作用不显著。
- 对时间绑定（TB）的分析：不确定性对 TB 有显著影响，道德试验的 TB 与不攻击试验存在显著差异，表明道德试验中隐性能动性增加，但自主性对 TB 无显著影响。
- 对责任感的分析：自主性对责任感有显著主效应，无 AI 支持时参与者的责任感评分更高，不确定性对责任感无显著影响。同时，决策和 AI 对责任感存在显著交互作用，不遵循 “激进型 AI” 建议时，参与者的责任感更高。
- 对其他方面的分析：攻击决策比例不受前一次试验结果影响，反馈类型也不影响主观责任感水平。人格量表与研究变量之间无显著相关性，信任自动化与研究变量也无显著相关性。
研究结论和讨论部分再次强调，AI 行为确实会影响人类的道德决策，在道德情境中，人们的决策会受到 AI 系统的引导。同时，道德决策情境会增加隐性能动性，但 AI 交互对隐性能动性的影响与以往研究不同。此外，研究还发现人格特质、控制点与道德决策、能动性和责任感并无关联，信任自动化也与这些变量无关。
这项研究的重要意义在于，它为 AI 辅助决策系统的设计提供了重要参考。在未来，随着 AI 技术在各个领域的广泛应用，尤其是在涉及道德决策的关键场景中，我们需要更加谨慎地设计 AI 行为，确保其能够促进人们做出负责任、符合道德的决策。同时，也为后续研究指明了方向，比如进一步探讨个体差异在道德决策中的作用，以及如何构建更完善的人机交互模型等。
