以人为中心的可解释人工智能的设计原则：一项范围综述

《ACM Transactions on Interactive Intelligent Systems》：Design Principles for Human-Centred Explainable AI: A Scoping Review

以人为本可解释人工智能（HCXAI）设计原则的系统分析：基于35篇文献的内容分析法，提取330条原则并归纳为四类核心领域，提出HCXAI作为设计过程而非技术，最后总结研究现状与未来方向。

　　

摘要

以人为中心的可解释人工智能（HCXAI）领域正在迅速发展。随之而来的是，提出HCXAI设计原则的论文数量也在增加。然而，目前尚不清楚这些论文之间的设计要求在多大程度上存在重叠，以及该领域整体上认为哪些属于HCXAI的设计要求。为了解决这一问题，本研究通过对提出HCXAI设计原则的论文进行范围审查，并对提取出的原则进行内容分析，来梳理该领域的现状。从35篇论文中共识别出330条设计原则，这些原则被归类为43个类别，并归纳为四个主要研究方向。基于这些发现，我们提出了HCXAI的定义，将其视为一种设计流程而非特定的XAI技术。最后，本文概述了HCXAI的当前发展状况，并指出了需要进一步研究的领域。