时间压力与人工智能辅助之间的相互作用揭示了在高风险决策中道德责任的重新调整

《Scientific Reports》：The interplay of time pressure and AI assistance reveals moral responsibility recalibration in high-stakes decisions

　　

摘要

随着人工智能（AI）系统越来越多地应用于高风险的决策环境中，了解人类在时间压力下如何与这些系统互动，对于实现道德且高效的人机协作至关重要。尽管先前的研究表明时间压力会损害认知灵活性并增加对自动化的过度依赖，但关于在具有道德意义的情境中，当决策具有伦理后果时，这些现象是如何发展的，我们知之甚少。本研究探讨了时间压力、AI辅助以及道德责任归属对道德决策的影响。在一个实验性的临时场景中，军事学员和军官扮演了无人机操作员的角色，他们需要在不同时间压力水平（高压力与低压力）下决定是否使用AI支持对目标进行轰炸。关键在于，AI的建议有时显然是错误的，这使我们能够单独分析时间压力对过度依赖的影响。研究结果表明，虽然AI辅助增加了参与者遵循错误且具有道德争议的建议的可能性，但这种效应在时间压力下并未加剧。与我们的预期相反，仅时间压力本身并没有显著改变道德决策或增加对AI的依赖，这表明道德决策比之前认为的更能抵御认知限制。值得注意的是，尽管在与AI互动时主观责任感有所下降，尤其是在高时间压力下，当AI给出错误建议时，参与者似乎会重新调整自己的责任感。这些结果为时间限制、AI影响与道德认知之间的相互作用提供了新的见解。研究表明，在道德敏感的情境中，仅时间压力本身可能无法预测对AI的过度依赖或道德责任感的减弱。文章还讨论了这些发现对负责任地整合AI以及在高风险领域（如国防）开发决策支持系统的意义。