综合人工智能故障研究：一项范围综述

《Business & Information Systems Engineering》：Synthesizing AI Failure Research: A Scoping Review

人工智能应用中失败模式研究框架构建与路径优化

　　

摘要

人工智能（AI）已成为组织运营不可或缺的一部分，然而其在现实世界中的应用日益暴露出潜在的故障点。尽管人们对AI的兴趣日益浓厚，但目前关于AI故障的研究仍然零散，往往仅局限于技术缺陷、交互问题或伦理议题。本综述分析了141项研究，以整合当前关于AI故障的知识。研究确定了四个研究领域，并将其归类为三个分析类别：技术层面、交互层面和伦理层面。在此基础上，研究构建了一个“子类型–原因–缓解措施”（Subtypes–Causes–Mitigation, SCM）框架，该框架将不同类别中的故障子类型、根本原因及缓解策略联系起来。最后，研究提出了一个研究议程，以促进对AI故障的理解和管理。这些发现为进一步的理论构建提供了概念基础，并为改进AI系统在现实世界中的应用提供了实用指导。