《Knowledge-Based Systems》：Comprehensive Explainable AI Approach for Audit Opinion Classification Using Feed-Forward Neural Networks
编辑推荐：
可扩展的金融导向可解释性解释模型（SFIX）与全连接神经网络（FFNN）结合，构建了审计意见分类的多维可解释框架，通过动态重要性、置信度、模式、异常和风险五个维度评估特征贡献，在减少20%特征量的情况下保持0.7%的准确率损失，验证了SFIX在金融审计场景中的有效性。
阿卜杜拉·埃米尔·奇尔（Abdullah Emir Cil）|托尔加·布尤克塔尼尔（Tolga Buyuktanir）|卡齐姆·耶尔迪兹（Kazim Yildiz）
土耳其伊斯坦布尔马尔马拉大学（Marmara University）纯粹与应用科学研究所（Institute of Pure and Applied Sciences）计算机工程系（Computer Engineering Department）
摘要
本研究提出了一个全面的可解释人工智能（XAI）框架，用于审计意见分类。该框架将可扩展的金融导向可解释解释模型（SFIX）与前馈神经网络（FFNN）相结合。与传统的事后可解释性方法（如SHapley Additive Explanations (SHAP) 和 Locally Interpretable Model Agnostic Explanations (LIME)）不同，SFIX框架通过动态重要性、置信度、模式、异常和风险成分提供了多维和内在的特征评估。使用真实世界的金融数据集，证明了SFIX选出的关键特征能够使FFNN模型在显著提高可解释性的同时实现高预测性能。值得注意的是，仅使用20个SFIX选出的特征训练的FFNN模型，其准确率与全特征模型几乎相同，仅降低了0.7%。研究结果表明，SFIX提供了一种更可靠和透明的特征选择机制，并在低维特征空间中提升了模型性能。总体而言，本文提出了一种针对财务审计的新型XAI方法，支持更可解释和值得信赖的决策支持系统。
引言
近年来，人工智能（AI）系统越来越多地应用于关键决策过程，如财务分析、信用评估和公司绩效预测。然而，这些系统的决策机制往往是黑盒式的，这在不仅需要高准确率，还需要可解释性和透明度的领域中存在严重限制。特别是从财务报告的可靠性角度来看，由于法规遵从性、组织信任和人类监督等问题，外部审计师的意见需要准确且可解释的预测。事实上，当前的法规（如通用数据保护条例（GDPR）和人工智能法）越来越要求AI系统具有可解释性和可审计性 [1]，[2]。
尽管传统的深度学习模型（如FFNN）具有强大的预测性能，但由于缺乏可解释性，在财务决策支持系统中的应用受到限制。在具有高监管重要性的决策领域（如审计意见）中，这一限制尤为明显 [3]。然而，高预测准确性并不足以使模型输出被可靠地理解和解释；必须使各个特征对决策过程的贡献变得透明。
人工智能在财务决策中的日益应用带来了与透明度、可靠性和法规遵从性相关的关键挑战。在审计意见分类中，决策必须既准确又可解释，而传统的深度学习模型由于其黑盒特性往往无法提供足够的可解释性。尽管现有的XAI技术（如SHAP和LIME）提供了事后解释，但它们主要捕捉局部或静态的特征贡献，因此无法充分反映财务数据中的时间性、交互驱动和风险敏感特性。此外，大多数特征选择方法依赖一维标准，没有同时考虑多个可解释性成分。这些限制凸显了需要一个全面、多维且基于财务的可解释性框架的必要性。受这些问题的启发，本研究将SFIX模型与FFNN架构相结合，构建了一个可靠且可解释的审计意见分类框架。通过结合动态重要性、置信度、模式、异常和风险成分，SFIX有助于更丰富和全面地理解特征随时间的变化行为。这种整合旨在提高分类性能，同时提供透明的决策洞察，以支持审计师、监管机构和金融机构。
本研究探讨了在财务数据背景下使用可解释人工智能（XAI）方法进行审计意见分类的适用性。为此，采用了专门为金融行业设计的SFIX（Scalable Financial-oriented Interpretable eXplanation）[4]模型。SFIX通过全面评估属性随时间的影响、风险和置信度得分、异常以及时间序列财务数据中的模式分析，提供了每个属性的内在可解释性。因此，与仅提供事后解释的方法（如SHAP [5] 或 LIME [6]）不同，它直接将可解释性整合到了模型架构中。
本研究解决了以下关键研究问题：
•SFIX模型是否能够可靠地识别出审计意见分类中最具解释性的属性？
•使用SFIX选出的特征子集，FFNN模型是否能够产生相似准确率的预测？
•是否可以直接或间接使用SFIX提高FFNN模型的可解释性？
•SFIX模型在性能上是否优于其他XAI方法（如SHAP和LIME）？
为了解决这些问题，使用SFIX方法获得了特征重要性排名，将不同数量的重要特征输入FFNN模型，并将这些模型的分类性能与全特征集进行了比较。在研究中，数据集中的类别分布保持自然状态，未应用任何平衡技术（例如SMOTE或欠采样）。因此，模型的泛化能力和可解释性是在真实世界分布上同时评估的。
本研究旨在获得一种能够在财务决策支持系统中同时提供高准确性和高可解释性的结构。SFIX提供的全面可解释性不仅被视为一种特征选择方法，也被视为一种间接支持深度学习模型决策过程透明度的工具。在这方面，本研究的结果有望为学术界和实践者使用可解释人工智能做出贡献。
本文的结构如下：第2节回顾了关于可解释人工智能和特征选择的相关研究。第3节详细介绍了使用SFIX方法和FNN模型实施的实验方法。第4节描述了实验设置和所使用的数据集。第5节以比较的方式展示了结果并讨论了发现。第6节对研究进行了总体评估。
相关工作
在金融领域，基于AI的决策支持系统的使用正在增加，XAI（可解释人工智能）方法的作用也变得越来越突出，尤其是在信用评估过程中。
Nallakaruppan等人提出了一个全面的XAI框架，将LIME、SHAP和PDP等可解释性方法与随机森林等经典机器学习算法相结合，用于信用评估。他们的工作旨在解释批准或
方法论
本研究使用的可解释人工智能方法SFIX（Scalable Financial-oriented Interpretable eXplanation）是一个专为金融应用开发的模块化且时间敏感的XAI框架。SFIX通过静态评估以及考虑属性随时间的变化效应来评估属性对模型决策的贡献。该方法建立在作者最初开发的可解释特征评估框架之上 [4]。提出的方法论
在本研究中，我们建议使用SFIX方法来提高基于深度学习的分类模型的性能并增强可解释性。具体而言，在该方法范围内，我们建议根据使用SFIX计算出的特征重要性对其进行排序，并选择一定数量的最重要特征（例如10、15、20、25和30个）。此阶段获得的特征集将作为输入结果与讨论
在本研究中，SFIX可解释人工智能方法在两种不同的数据集配置上进行了评估，以改进财务审计意见预测中的特征选择和模型性能。实验过程包括两个主要阶段：原始数据集分析和处理缺失数据的后期分析。
在第一阶段，对原始财务数据集应用了十个处理步骤，去除了缺失的标记观测值，从而得到了一个干净的数据集
结论
本研究通过将SFIX模型与FFNN相结合，提出了一个全面的审计意见分类可解释人工智能框架。结果表明，SFIX框架通过其动态重要性、置信度、模式、异常和风险成分提供了多维和内在的特征评估方法。这些成分共同提供了对财务属性的时间性和结构行为的更深入理解，克服了
作者声明
我们签署人声明本手稿是原创的，之前未发表过，目前也没有在其他地方考虑发表。
我们确认所有列出的作者都已阅读并批准了本手稿，并且没有其他符合作者资格标准但未列出的人员。我们进一步确认手稿中列出的作者顺序已得到所有人的批准。
我们理解通讯作者是唯一的联系人
CRediT作者贡献声明
阿卜杜拉·埃米尔·奇尔（Abdullah Emir Cil）：撰写——原始草稿、软件、方法论、形式分析、概念化。托尔加·布尤克塔尼尔（Tolga Buyuktanir）：方法论、数据整理、撰写——审阅与编辑、验证。卡齐姆·耶尔迪兹（Kazim Yildiz）：撰写——审阅与编辑、监督、方法论。
利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。
