《ARTIFICIAL INTELLIGENCE REVIEW》：Methodological challenges in explainable AI for fraud detection: a systematic literature review
编辑推荐：
为解决复杂“黑箱”AI模型在欺诈检测等高危领域应用时的透明性缺失问题，研究人员开展了一项关于可解释人工智能（XAI）在欺诈检测领域方法论挑战的系统文献综述。该研究通过对2021-2025年49项同行评审研究的分析，揭示出当前普遍存在的两大系统性缺陷——“可解释性-不平衡性悖论”与“评估真空”，并相应提出了解决方案与研究议程，为建立可审计、高可信的金融AI系统指明了方向，具有重要的理论与应用价值。
在数字金融日益发达的今天，人工智能（AI）已成为识别和阻止欺诈交易不可或缺的“守门人”。然而，这些用于检测欺诈的先进模型，例如深度神经网络，往往是高度复杂的“黑箱”。我们能看到模型的判断结果，却难以理解它为何会做出这样的决定。当银行拒绝一笔交易、或保险公司驳回一份理赔申请时，仅仅给出“AI判定有风险”的答复，显然无法满足监管合规、客户沟通以及对算法公平性进行审计的迫切需求。因此，可解释人工智能（Explainable AI， XAI）应运而生，它旨在打开这些“黑箱”，让AI的决策过程变得清晰、透明且令人信服。
尽管可解释人工智能（XAI）在金融领域的应用已不是新鲜话题，但针对欺诈检测这一具体且极具挑战性场景的系统性反思却是一片空白。欺诈数据天生的极端类别不平衡（合法交易远多于欺诈交易）为AI模型训练带来了巨大困难，也为后续的解释工作埋下了隐患。现有研究是否充分考虑了这些特殊性？主流的解释方法在实际应用中真的可靠吗？为了回答这些问题，一项发表在《ARTIFICIAL INTELLIGENCE REVIEW》上的研究，对近年来该领域的学术成果进行了一次全面而深入的“体检”。
这项名为《Methodological challenges in explainable AI for fraud detection: a systematic literature review》的研究，严格遵循了PRISMA 2020指南，系统性地检索并最终纳入了49篇于2021年至2025年间发表的同行评审论文。研究人员并非简单地罗列使用了哪些可解释人工智能（XAI）技术，而是深入剖析了这些研究在方法学上可能存在的共性问题与缺陷，旨在为未来的研究树立更严谨的标杆。
为了开展这项综述研究，作者团队主要采用了系统文献综述（Systematic Literature Review， SLR）的方法论框架。具体而言，他们依据PRISMA（Preferred Reporting Items for Systematic Reviews and Meta-Analyses）2020声明制定了严格的文献检索、筛选与纳入流程。研究团队在多个学术数据库（如Scopus、Web of Science等）中进行了系统性检索，使用与“可解释人工智能”（XAI）、“欺诈检测”以及相关技术（如“SHAP”、“LIME”）相关的关键词组合。通过预定义的纳入与排除标准（如时间范围、出版物类型、研究主题相关性），对检索到的文献进行了多轮标题、摘要和全文筛选，最终确定了49篇核心文献进行分析与综合。
分析揭示了当前研究的两大系统性方法论缺陷
通过对49项研究的深入分析，本研究揭示出两个普遍存在且可能动摇当前可解释人工智能（XAI）在欺诈检测领域研究根基的方法论问题。
发现一：可解释性-不平衡性悖论
研究发现，为了应对欺诈数据集中极端的类别不平衡问题，绝大多数研究都会采用数据重采样技术，例如过采样（如SMOTE）或欠采样。然而，这些旨在提升模型预测性能的常见操作，却可能对后续的可解释性分析造成严重扭曲。具体而言，重采样过程会改变数据的背景分布或局部邻域结构。而对于像SHAP（SHapley Additive exPlanations）和LIME（Local Interpretable Model-agnostic Explanations）这类主流的后验解释方法来说，它们严重依赖于原始数据（或一个参考数据集）的分布来生成解释。当用于计算解释的数据分布因重采样而被人为改变时，所产生的特征重要性排序或局部解释的忠实度与保真度就可能大打折扣，甚至产生误导。这就是作者提出的“可解释性-不平衡性悖论”：用于解决预测问题的数据预处理手段，无意中损害了解释的可靠性。
发现二：深刻的评估真空
第二个关键发现是，该领域存在一个显著的“评估真空”。分析显示，高达约80%的研究并未直接评估其生成的可解释人工智能（XAI）解释本身的质量。相反，它们普遍采用模型的预测性能指标（如准确率、精确率、召回率、AUC-ROC曲线下面积）作为解释质量的替代指标。其潜在的逻辑是：“如果模型预测得准，那么对它的解释也应该是好的。” 然而，预测准确性与解释正确性是两个不同的概念。一个高精度的“黑箱”模型，其事后提供的解释完全有可能是错误的或不可靠的。这种以预测评估代替解释评估的做法，掩盖了可解释人工智能（XAI）方法可能存在的根本缺陷，使得许多声称的“可解释”解决方案的有效性无法得到真正验证。
对后验解释与内在可解释模型的批判性审视
除了指出问题，研究还对不同可解释人工智能（XAI）技术的适用场景进行了批判性讨论。文章指出，在需要严格审计和高风险（如金融监管、司法证据）的语境下，依赖于复杂“黑箱”模型再加上后验解释（如SHAP、LIME）的“两步走”路径可能存在根本局限。当模型本身不可审计时，对其的事后解释也难以被完全信任。因此，研究者主张，在这些情况下，应当优先考虑使用天生具备可解释性的模型，例如线性模型、决策树或基于规则的系统。这些内在可解释模型虽然可能在预测性能上稍逊于最先进的深度学习模型，但其决策逻辑透明、可直接追溯，在安全与合规要求至上的场景中具有不可替代的价值。
推动领域前进的路线图：清单与议程
基于上述发现，本研究并未止步于批判，而是为建设性的未来研究提供了具体指引。作者团队提出了一个“考虑解释的训练与评估清单”，旨在帮助研究者和从业者在模型开发与评估的各个阶段（从数据预处理到模型选择，再到最终评估）融入对解释质量的考量，避免落入上述方法论陷阱。同时，研究还规划了一个清晰的研究议程，呼吁领域朝着两个关键方向努力：一是建立标准化、针对解释本身（解释层面）的评估指标与基准测试；二是开发对类别不平衡具有鲁棒性、且能保持解释真实性的新型数据预处理方法。
这项系统综述的核心结论在于，它尖锐地指出了可解释人工智能（XAI）在欺诈检测这一重要应用领域中存在的深层次方法论危机。普遍采用的“可解释性-不平衡性悖论”和“评估真空”表明，当前大量研究在追求解释的过程中可能无意间引入了新的不可靠性，其结论的有效性需要被审慎看待。研究强调，将模型预测性能等同于解释质量是一个危险的误区，必须发展并采用直接评估解释忠实度、稳定性与可理解性的专门指标。
在讨论中，作者进一步明确了不同技术路径的适用范围，为高风险、高审计要求的场景推荐了内在可解释模型这一更具操作性和可信度的选择。最后，通过提出的检查清单与研究议程，本研究为整个领域设定了向更严谨、更标准化、更具实际应用价值方向发展的路线图。其重要意义不仅在于对过去研究的批判性总结，更在于为构建真正可靠、透明、可信的金融人工智能风控系统奠定了坚实的方法论基础，对学术研究、工业实践乃至政策制定都具有重要的启示作用。
