通过多目标反事实解释提高医疗保健的可解释性

《Scientific Reports》：Enhancing healthcare explainability through multiobjective counterfactual explanations

　　

摘要

基于人工智能的决策支持系统具有改善健康结果的能力。然而，先进的人工智能系统面临着可解释性和实际应用速度缓慢的挑战，这主要是由于使用了抽象的、黑盒式的模型。因此，可解释人工智能（XAI）方法正在不断发展，以提供对预测结果的解释。尽管如此，现有的XAI方法仍存在一些显著的缺点。首先，这些技术需要理解模型的内部机制；其次，它们无法提供关于特征之间相互作用的见解；第三，它们无法基于“假设情景”生成替代解决方案。在这种情况下，反事实解释（CEs）可以通过为输入数据点生成假设情景来提高黑盒模型的可解释性。然而，由于“罗生门效应”、多个相互冲突的目标以及它们之间的权衡，生成具有临床合理性的CEs非常复杂。这需要一个强大的机制来确保在平衡和优化的约束条件下CEs的可解释性和合理性。为了解决上述问题，本研究提出了一种新颖的多目标优化反事实解释（MoCE）方法，用于生成具有临床意义的CEs。我们提出的方法包括两个阶段。首先，使用数据集中的单个实例作为患者档案，训练了一个随机森林（RF）分类器来预测慢性肾病（CKD）的结果。其次，作为基线，我们使用同一个CKD实例生成了五种不同的反事实解释（DiCEs）。接下来，我们应用基于NSGA-II算法的MoCE方法为同一个CKD实例生成了多个CEs。我们从定性和定量两个方面比较了DiCE和MoCE方法在生成具有临床合理性的CEs方面的表现，同时有效地处理了置信度、有效性和稀疏性之间的权衡。由肾病专家进行的初步临床评估评估了CEs的临床相关性和意义。两种方法的有效性均达到了100%。DiCE通过改变大约2个特征（置信度为0.59）实现了平均稀疏度为0.175。相比之下，所提出的方法通过改变7个属性（稀疏度为0.8–0.9）生成了置信度更高的CEs（置信度为0.9），从而产生了更多样化和更合理的解决方案。所提出的MoCE方法生成了100个帕累托最优的CE候选方案，表明在有效性、接近度、预测置信度和稀疏性之间存在丰富的权衡关系。比较结果显示，DiCE通过改变最少的特征数量生成CEs，但这些CEs的稀疏度较高，多样性和临床相关性较低。相比之下，所提出的MoCE方法通过同时优化多个目标（包括距离、稀疏度和预测置信度）生成了多样化的CEs集合。这表明该方法在处理权衡方面取得了平衡，特别是在特征相互作用至关重要的高风险领域，生成了更具合理性的CEs。这也表明，所提出的MoCE方法为现有方法提供了一种平衡且具有临床意义的替代方案。