《Advanced Intelligent Systems》：Comparative Analysis of Model-Agnostic Explanation Methods in Materials Science
编辑推荐：
机器学习模型已成为材料科学中的强大工具，通过准确预测分子性质加速了发现过程。然而，这些模型中的许多黑箱特性使得理解或验证其预测变得困难。因此，可解释性人工智能（explainable artificial intelligence，XAI）应运而生，旨在使预测
机器学习模型已成为材料科学中的强大工具，通过准确预测分子性质加速了发现过程。然而，这些模型中的许多黑箱特性使得理解或验证其预测变得困难。因此，可解释性人工智能（explainable artificial intelligence，XAI）应运而生，旨在使预测模型更加透明。这种可解释性需求在化学和材料科学中至关重要，因为识别出的结构-性质关系可以指导新型分子的设计。然而，材料科学领域仍缺乏XAI基准。为填补这一空白，本研究对六种选定的XAI方法在分子指纹（材料性质预测任务中常用的表示）上进行了比较性定量和定性分析。此外，本研究探索了使用均值秩聚合（mean rank aggregation）和鲁棒秩聚合（robust rank aggregation，RRA）来组合多种XAI方法。结果揭示了不同XAI方法生成的特征重要性排序存在显著差异，表明解释器（explainer）的选择可能引入偏差，并在材料发现过程中改变科学解释。具体而言，尽管通用表格解释器（如SHAP）表现出高效性，但化学特异性反事实解释器（counterfactuals）常常未能正确捕获重要特征。鉴于方法间的分歧，聚合解释（尤其是使用RRA）可产生一个平衡良好的折中方案。
论文解读文章
**研究背景与问题**
在材料科学中，传统的实验方法耗时且成本高昂，研究人员越来越多地采用计算手段加速发现流程。机器学习（machine learning，ML）模型能够快速预测分子性质，从而优先筛选出有潜力的合成候选物。然而，复杂ML模型（如图神经网络，graph neural networks，GNNs）虽性能优异，但其应用常受限于数据稀缺性，因此研究人员常依赖经典ML方法和表格数据表示。分子指纹（molecular fingerprints）因其简单、计算高效且易于解释而被广泛使用，通常为二进制或计数向量，编码预定义子结构的存在。基于指纹的ML模型在多个性质预测任务中达到高精度，有时甚至超越GNN方法。然而，除了预测性能，化学家还希望利用ML方法获取训练过程中学到的结构-性质关系，以指导新分子的发现。但许多ML模型的黑箱特性使得这些关系难以直接获取，因此需要可解释性人工智能（XAI）——该领域致力于在全局或局部层面提供黑箱模型决策的人类可理解解释。XAI方法可分为事实型（factual）和反事实型（counterfactual）两类，前者识别对预测贡献最大的特征，后者寻找能显著改变模型决策的最小特征修改量。
尽管已有大量XAI基准研究，但这些研究主要针对通用表格或图数据集，其结论不一定适用于化学领域。通用数据集往往缺乏分子描述符的高维度和结构复杂性，图基准则常基于抽象拓扑模式而非化学上有意义的子结构评估解释，或仅局限于药物分子。现有分子XAI比较也存在局限性：部分缺乏方法间比较，部分聚焦于单一方法或合成数据集，或仅针对单一预测目标，或仅针对GNN模型。因此，材料科学问题中XAI方法的性能缺乏明确指导，亟需针对表格分子表示的XAI比较基准。
**本研究的开展与主要结论**
本研究旨在填补上述空白，系统比较事实型和反事实型、局部、模型无关的解释方法（model-agnostic explanation methods）在材料性质预测任务中的应用。研究人员在局部层面（比较特定实例生成的解释）和模型层面（识别每种XAI方法对特定模型认为最重要的特征）进行了实验分析，并基于预测忠实性（predictive faithfulness）和真值忠实性（ground-truth faithfulness）对特征进行基准测试，最后将定量结果与化学家意见进行比较。通过分析，研究人员回答了以下问题：1）模型无关XAI方法对分子数据是否忠实？2）分子数据的最佳XAI方法是什么？3）不同AI解释是否一致？4）是否应组合XAI方法？组合能否提升性能？5）哪种XAI方法最符合化学专家观点？该研究发表在《Advanced Intelligent Systems》上，据研究人员所知，这是首个专门针对材料科学的XAI基准。
**主要关键技术方法**
研究人员使用了两类数据集：三个合成数据集（基于hERG数据集中的500个分子，通过Butina聚类筛选，并以ECFP指纹表示，构建了线性、分段线性和多项式三种真值目标函数）和五个真实世界数据集（CNOHF、Photoswitch、Polymers、Redox以及一个新型共价有机框架（COF）数据集，样本来源包括自有实验和文献）。预测模型采用随机森林（random forest，RF）和真值函数（合成数据）。XAI方法包括四种事实型方法：SHAP、SHAP-IQ（一阶和二阶）、LIME，以及两种面向分子数据的反事实方法：MMACE和MEG。评估指标包括特征一致性（feature agreement，FA）、重要特征扰动（perturbation of important features，PGI）和不重要特征扰动（perturbation of unimportant features，PGU），并采用均值秩聚合和鲁棒秩聚合（RRA）组合多个解释。此外，研究人员邀请了化学专家对Polymers数据集上的解释进行定性评估。
**研究结果**
**3.1 XAI方法的定量比较**
- **真值忠实性（FA）**：在合成数据集上，大部分方法在逐折（per-fold）评估中达到完美FA，但反事实方法（MMACE和MEG）因修改所有真值特征并非必要而表现略差，LIME在分段线性目标上因无法处理离散函数边界而得分较低。局部评估显示，方法间变异性更大，只有SHAP在分段线性目标上完美对齐，SHAP、均值聚合和RRA在多项式目标上完美对齐。
- **预测忠实性（PGI/PGU）**：对于基于RF的合成模型，SHAP在逐折分析中表现最佳，但局部分析中反事实方法（MMACE和MEG）在简单问题上取得最高PGI，揭示了其局部有效性与全局聚合之间的差异。在真实数据集上，SHAP持续获得最佳平均PGI和PGU，但前三名方法间差异微小，反事实方法在复杂问题上表现不佳。
- **方法间分歧**：SHAP与SHAP-IQ-1（均近似一阶Shapley值）存在显著差异，甚至对特征影响方向判断不一致。相关性分析表明，方法形成不同聚类：事实型与反事实型在简单问题上分开，随问题复杂度增加，Shapley基方法、反事实方法和LIME各自形成簇。
- **聚合解释**：两种聚合策略（均值、RRA）在大多数场景中均位列前三，且与最佳方法性能差异可忽略。RRA因噪声鲁棒性略优于均值聚合，且与单个方法的相关性较弱，表明其整合了多种视角。
**3.2 XAI排序的定性比较**
化学专家对Polymers数据集的定性评估与定量结果部分一致但存在分歧。SHAP被评为最佳方法（5分），仅一个特征顺序错位。LIME、SHAP-IQ-1、SHAP-IQ-2和RRA并列第二（4分），但RRA正确排序了前三个特征，LIME和SHAP-IQ-1仅排序前两个，SHAP-IQ-2排序混乱。均值聚合和反事实方法得分最低（3分），因识别了化学无关特征。这表明专家评估能捕捉到定量指标遗漏的化学相关性。
**讨论与结论**
研究表明，用于表格数据的XAI方法对化学数据有效，SHAP在忠实性和化学相关性方面表现最佳。但方法间存在不一致性，甚至同一理论方法的不同实现（如SHAP与SHAP-IQ-1）也会导致解释差异，取决于所选解释器，化学见解可能不同。为利用多样视角并降低单一方法的风险，研究人员评估了秩聚合，发现RRA和均值聚合均提供平衡可靠的折中，RRA在专家评估中优势更明显。因此，当目标是确定整体特征重要性时，推荐SHAP作为默认单一解释器；若需理解如何修改实例以改变预测，反事实方法（尤其是MMACE）不可或缺。但当前反事实方法主要针对药物分子设计，在材料科学中需谨慎参数化与验证。最终结论：综合XAI评估需要数学指标与人类参与验证的协同。
本研究存在局限性：仅评估了XAI方法子集、一种分子指纹和一种预测模型；反事实方法在材料科学中表现不足，需开发针对性方法；定量指标（PGU/PGI）未完全捕捉化学任务细微差别，开发化学感知评估指标仍是开放挑战。尽管如此，该研究为材料科学中的XAI应用提供了首个系统基准，并强调了聚合解释与专家评估的重要性。
