对用于毒物结构检测和毒性预测的可解释人工智能方法进行基准测试

《Digital Discovery》：Benchmarking explainable AI methods for toxicophore detection and toxicity prediction

　　近期研究报道了在分子性质预测中，可解释人工智能（XAI）方法的表现存在不一致性，这引发了对其可靠性的担忧。本研究旨在探讨这种不一致性是源于XAI方法本身，还是源于底层预测模型的准确性。首先，我们使用确定性的官能团标签训练了一个高精度模型，在该模型中，所有评估的XAI方法都能一致地指出与真实结构基序相对应的正确原子。随后，分析扩展到了致突变性预测领域，这些方法同样能够识别出已知的毒性官能团和具有化学意义的分子骨架。通过引入可控量的标签噪声，系统性地降低了模型的性能。随着预测准确性的下降，XAI方法之间的一致性逐渐减弱，被标记的特征在化学上的相关性也降低了。当准确性降至约0.65时，这种趋势发生了变化，一致性出现了更明显的下降，表明存在一个“可解释性悬崖”。这些发现强调了在从XAI输出中得出结论之前，评估模型准确性的重要性。

引言

深度学习模型在化学领域因能够实现高预测准确性而受到赞誉。然而，这些模型仍然是黑箱系统，这意味着专家无法直接观察或理解模型为了进行分类所做的内部决策，从而导致预测能力和可解释性之间的权衡。因此，用户无法从模型的学习过程中获得化学洞察，也无法修改初始分子结构以增强所需的性质或降低毒性。因此，可解释人工智能（XAI）在通过使模型预测更具可解释性和科学意义方面发挥着关键作用。XAI技术大致可以分为模型不可知方法和模型特定方法。模型不可知方法通过扰动或采样策略来估计特征重要性。相比之下，模型特定方法依赖于内部信号，如梯度、激活值或卷积特征图，它们的行为强烈依赖于模型架构。例如，在具有多个并行滤波器的卷积神经网络中（如Transformer-CNN），像Grad-CAM（梯度加权类激活映射）这样的方法必须进行调整，以捕捉所有卷积分支的贡献，而不仅仅是单个层。最近的研究表明，XAI方法可以在分子性质预测特别是毒性建模中揭示出具有化学意义的属性。SHAP（Shapley加性解释）已被用于评估扭转生成风险，成功识别出电生理生物标志物，从而改进了预测和模型设计。基于注意力的图神经网络使用多种分子图表示来检测致突变化合物中的毒性官能团，其解释与已知的结构警报一致。另一种方法将内部图神经网络（GNN）的激活值与化学上可解释的特征对齐，从而形成了一个自解释的性质预测框架。这些例子突显了XAI从复杂模型中提取人类可解释洞察的潜力，并增强了对其输出的信任。尽管具有潜力，但XAI在化学中的应用仍面临显著挑战。Hartog等人的最新研究评估了多种XAI方法在分子性质预测中的表现，发现它们的解释往往不一致。同一分子的不同表示导致了不同的重要特征集被突出显示，定量比较显示各种解释技术之间的共识度较低。即使在随机初始化的模型中也观察到了类似的不一致性，这表明一些XAI输出可能更多地受到分子表示（如SMILES标记化）的伪影影响，而不是真正学到的化学模式。此外，Adebayo等人证明了几种广泛使用的属性方法未能通过基本合理性检查，即使模型参数被随机化，产生的解释也基本保持不变。这表明一些解释可能更多地受到输入统计或架构偏见的影响，而不是由学习到的决策函数本身驱动。另一项研究表明，基于显著性的解释在简单的输入变换下（如恒定偏移或预处理操作）可能会发生显著变化，尽管模型预测结果相同。这些发现对当前化学信息学中XAI方法的可靠性和可重复性提出了根本性问题。虽然这种不一致性通常被解释为XAI本身的局限性，但另一种可能的解释在于底层预测模型的准确性。当模型的准确性低且其预测结果不确定时，产生的解释就变得不可靠。在这种情况下，每种方法可能会试图合理化不稳定或不正确的预测，从而导致不同的特征集被突出显示。在这种情况下，较差的可解释性可能反映了模型有限的预测能力，而不是XAI方法的弱点，因此在不考虑模型准确性的情况下评估解释是具有误导性的。为了研究这个问题，我们提出了使用基于确定性标签（如官能团）训练的高精度模型。由于这些标签定义明确且直接与结构基序相关，这种受控设置使我们能够评估先前工作中观察到的不一致性是源于XAI方法本身，还是源于预测模型的性能。最后，这些基准研究的洞察被扩展到了更具挑战性的毒性预测任务。为此，我们使用了Ames数据集，这是一个标准的致突变性预测基准。它包含了与致突变性相关的已知结构警报的化合物，这使得它适合评估毒性预测模型及其解释。

方法

在本节中，首先介绍了本研究中使用的数据集。接下来，介绍了所应用的XAI方法，并讨论了它们之间的差异和适用领域。然后描述了模型架构、训练程序以及官能团和毒性的预测方法。最后，我们介绍了用于评估不同XAI方法产生的标记级属性之间一致性的定量相似性度量标准。

数据集

为了预训练Transformer编码器，将非规范化的SMILES字符串转换为规范化的SMILES，我们使用了ChEMBL_V29（参考文献16）数据集。ChEMBL提供了大量经过整理的生物活性分子集合，使其成为学习稳健SMILES表示的合适资源。对于预测官能团和毒性标签，我们使用了Ames数据集。Ames测试是一种广泛使用的生物测定方法，通过测量化学化合物在沙门氏菌中的致突变潜力来检测其致突变性。该数据集包含了与致突变性相关的多个特征明确的结构警报，使其成为评估不同XAI方法及其正确性的合适基准。该数据集包含了7255种药物的测试结果，并且类别平衡。这两个数据集均来自Therapeutics Data Commons。我们对数据集进行了预处理，以消除歧义和不正确的化合物。分子被标准化，以确保正确的键合、芳香性和杂化。移除了盐类以分离主要化合物，并将简化的分子输入行输入系统（SMILES）字符串转换为它们的规范形式。还移除了重复的分子和标签冲突的分子。长度超过200个字符的规范SMILES字符串也被排除在外。这些步骤是使用RDKit包版本2024.03.5完成的。报告的数据集大小是在清理后的结果。ChEMBL_V29数据集被随机分为90%的训练数据和10%的验证数据，而Ames数据集被分为70%的训练数据、10%的验证数据和20%的测试数据子集。为了支持模型预测的解释，包含了一组基于知识的结构警报。这些警报与已知的与致突变性和基因毒性相关的毒性官能团相对应，最初是从系统的结构-活性分析中得出的。基础贡献包括Kazius等人整理和验证的致突变性警报；Ashby等人报告的与啮齿动物致癌性和细菌致突变性相关的结构特征；Benigni等人编译的优化和机制衍生的警报；以及Bailey等人描述的食品接触物质中致癌危害的SAR评估。相应的SMARTS模式可以在OCHEM中找到。

XAI方法

本研究采用了五种XAI方法，包括模型不可知方法和模型特定方法。模型不可知方法包括SHAP值（GradientExplainer）和Occlusion，它们可以应用于任何机器学习模型，无论其架构如何。这些技术通过基于扰动的分析（Occlusion）或通过从合作博弈论中近似Shapley值（SHAP）来估计特征重要性。相比之下，模型特定方法包括Integrated Gradients、DeepLIFT和Grad-CAM。这些基于梯度的技术依赖于对神经网络内部结构（激活值、梯度或卷积特征图）的访问。Integrated Gradients和DeepLIFT通过将预测与参考基线进行比较来属性化特征相关性，而Grad-CAM则基于传播到卷积层的梯度生成定位图。所有方法都是使用Python中的Captum库实现的，为比较XAI技术提供了一个统一且可复制的框架。在模型特定方法中，基于梯度的属性技术（如Integrated Gradients和DeepLIFT）依赖于两个形式公理。敏感性要求影响预测的特征相对于选定的基线获得非零的属性值，而实现不变性确保功能上相同的模型产生相同的属性值。相比之下，SHAP基于合作博弈论的Shapley公理：效率（属性值之和相对于基线等于模型输出）、对称性（贡献相同的特征获得相同的属性值）、虚拟玩家或零玩家（不影响预测的特征获得零属性值）以及可加性（组合模型的属性值等于每个模型的属性值之和）。Occlusion是一种纯粹基于扰动的方法，不受属性公理的定义，而Grad-CAM依赖于特定层的卷积特征图，因此遵循架构约束而不是通用公理要求。在基于标记的语言模型中，每个特征对应一个离散的SMILES标记，其嵌入必须与模型词汇保持一致。因此，直接在嵌入空间中改变特征的基于扰动的解释方法可能会产生不再对应于有效化学符号或化学上有意义的分子表示的输入。对于模型不可知的解释方法（如Kernel SHAP和LIME），这个问题尤其相关，因为它们通过评估扰动特征组合或局部采样的扰动来近似特征重要性。这样的扰动可能会破坏嵌入与有效SMILES标记之间的对应关系，导致不稳定和化学上不可信的属性。然而，对于深度神经模型，SHAP也提供了基于梯度的变体。GradientExplainer（通常称为GradientSHAP）使用可微模型的预期梯度来估计属性值，避免了嵌入维度的任意替换。DeepExplainer同样是为深度学习模型设计的，尽管它是基于Deep SHAP/DeepLIFT风格的近似，而不是模型不可知的Kernel SHAP公式。此外，Occlusion更适合基于标记的分子输入，因为它用有效的掩码或填充符号替换标记，从而保持了模型预期的离散输入结构。相比之下，TreeExplainer和LinearExplainer专门用于树集合和线性模型，不直接适用于基于标记的SMILES语言模型。标准的基于梯度的属性方法可能会遇到梯度消失问题，即在反向传播过程中由于饱和的非线性或长链乘法导致输入处的梯度变得极小。因此，重要特征可能错误地显示出对模型输出的影响很小或没有影响。Integrated Gradients（IG）通过沿着从基线输入到实际输入的路径评估梯度来解决这个问题，即使最终输入梯度接近零，也能捕捉到模型敏感性的变化。对于基于嵌入的模型，可以使用多个基线。零基线将所有嵌入值设置为零，表示信号的缺失，而平均基线（作为训练数据上的平均嵌入计算）提供了一个更平滑的参考点。在这项工作中，选择了零基线，因为它在计算上高效且不需要额外的嵌入传递。尽管IG克服了标准梯度的梯度消失限制，但它仍然在计算上要求更高，因为它需要沿着积分路径进行多次梯度评估。另一方面，DeepLIFT将每个神经元的激活值与参考激活值进行比较，并根据这些差异分配贡献分数。这使得在单次反向传递中高效计算属性值成为可能。此外，DeepLIFT区分了正面和负面的贡献，有助于避免基于梯度的方法将所有重要性分配给单个输入特征的情况。相比之下，Integrated Gradients（IG）通过沿着从基线输入x′到实际输入x的路径积分梯度来计算特征属性，定义为：

(1)

因此，IG根据输出对每个输入特征的敏感性来分配重要性。然而，在如min(i1,i2)这样的函数中，梯度仅对于较小的输入是非零的，而另一个输入的梯度为零。因此，IG将所有相关性都归因于具有非零梯度的输入，尽管两个输入共同决定了输出。相比之下，DeepLIFT通过传播相对于参考值的有限差异，而不是仅仅依赖于梯度，在这种情况下提供了更平衡的归因。GradientSHAP32是Integrated Gradients的扩展，它结合了基于预期贡献的SHAP的归因框架。与标准IG不同，后者沿着从基线到输入的单一路径计算归因，GradientSHAP通过添加噪声来采样基线的多个扰动版本，并对结果积分梯度进行平均。在我们的实现中，我们使用了一个零基线，对应于嵌入空间中没有信号的输入。通过这样做，GradientSHAP近似了SHAP值，这些值量化了特征作为其对模型输出的预期边际贡献的重要性。这种组合允许GradientSHAP同时捕捉IG的基于路径的敏感性和SHAP的基于分布的特征贡献，为我们的模型提供了稳健的归因。虽然GradientSHAP通过结合SHAP的预期特征贡献框架来扩展Integrated Gradients，但SHAP本身属于更广泛的基于扰动的可解释性方法家族。这些方法通过测量当输入的部分被移除或替换时模型的预测如何变化来估计特征的重要性。在这个扰动家族中，我们采用了Occlusion方法，它在token级别而不是单个嵌入维度上操作。在我们的设置中，该方法一次屏蔽一个token，将其整个多维嵌入向量替换为基线值（零），然后测量模型输出的结果变化。这保留了学习到的表示的语义结构，并产生了化学上有意义的扰动。相比之下，传统的SHAP试图移除单个嵌入维度，即使这些维度并不是独立的，改变单个组件并不对应于任何有意义的化学修改。为了与基于梯度和扰动的归因进行比较，我们还应用了Grad-CAM（Gradient-weighted Class Activation Mapping），该方法最初由Selvaraju等人引入。Grad-CAM通过用输出分数相对于这些激活的梯度来加权选定的卷积层的激活，从而产生特定于类别的相关性图，从而突出显示通过高级卷积特征最强烈影响预测的输入区域。尽管Grad-CAM适用于广泛的CNN架构，但它必须应用于特定的卷积层，通常是最后一个卷积层。因为我们的模型包含多个具有不同核大小的并行卷积层，我们分别为每个层计算Grad-CAM图，并将它们合并成一个统一的相关性表示（详细信息在讨论部分提供）。与GradientSHAP、IG、Occlusion或DeepLIFT不同，后者在单个输入特征或扰动单元的级别评估重要性，Grad-CAM在学习的特征图级别评估重要性，提供了对网络如何将局部序列模式整合到高级表示中的洞察。这使得Grad-CAM成为一种补充的XAI技术，能够捕捉通过token级别或嵌入级别归因方法无法获得的模型行为。

对于属性预测，采用了Karpov等人提出的模型架构，该架构结合了一个预训练的变换器编码器和一个卷积神经网络。这种架构已在多个分子属性预测的竞争性基准测试中作为获胜解决方案得到应用。例如，它被Tox24挑战赛的获胜模型使用，其中化合物针对转甲状腺素（TTR）的活性进行了评估，以及EUOS/SLAS联合化合物溶解度挑战赛中表现最好的模型使用。所有模型都是使用PyTorch（版本2.4.0）实现的。SMILES字符串在字符级别进行处理，其中每个符号都被视为具有学习到的嵌入向量的单独token。变换器编码器在序列到序列的架构中进行了预训练，以将非规范化的SMILES转换为其规范形式，这使得模型能够学习化学上有意义的token级别表示。预训练之后，只保留了编码器块，并将其作为下游卷积处理的固定嵌入模型使用。对于变换器编码器，使用了与原始出版物中相同的超参数，除了将上下文长度从110个token增加到202个token，以便为更大的分子生成嵌入。卷积神经网络的超参数使用贝叶斯优化方法进行了优化，这将在下一节中描述。该模型首先被应用于功能基团预测，被构建为一个多标签分类任务，其中输出对应于一个二进制向量，指示每个功能基团的存在（1）或不存在（0）。随后，相同的架构被用于毒性预测，被构建为一个二进制分类任务，以确定一个分子是有毒的还是无毒的。

模型的超参数使用Tree-structured Parzen Estimator（TPE）算法在Optuna（版本4.1.0）中进行了优化。保留了原始出版物中的卷积滤波器大小，而dropout（0.0–1.0）、学习率（1e-5–1e-2）和权重衰减（1e-6–1e-3）进行了优化。对于不同的超参数组合，评估了验证交叉熵损失。每次训练运行最多进行20个周期。如果验证损失连续两个周期没有改善，或者如果15个周期后验证损失低于该周期的中值，则提前终止训练。在确定最佳超参数后，最终模型在验证集上训练直到收敛。应用了10个周期的耐心提前停止，并保存了对应于最低验证损失的模型权重。所有模型都使用加权二进制交叉熵损失函数进行训练，其中权重根据类别频率成反比进行计算。使用了原始的Adam（自适应矩估计）优化器，并且训练是以64个样本的批量大小进行的。

由于数据集中有超过七千个分子，检查单个解释变得不切实际。因此，需要一个定量指标来确定不同的XAI方法是否突出了相似的分子区域或识别了完全不相关的特征。为此目的应用了余弦距离。余弦相似性，以及由此扩展的余弦距离，是比较高维向量的标准度量。两个向量之间的相似性定义为它们之间角度的余弦值，余弦距离计算如下：余弦距离 = 1 ? cos(θ)。这个指标捕捉了两个归因向量是朝相同方向（突出相似的原子）、正交（不相关）还是朝相反方向（突出矛盾的原子区域），如图1所示。

余弦相似性和余弦距离的几何解释用于评估XAI方法是否突出了相似的、不相关的或不同的分子区域。对于每个token产生嵌入级别归因的归因方法（Integrated Gradients、GradientSHAP、DeepLIFT和Occlusion），原始解释被表示为token-by-embedding矩阵，其中每个token都与一个64维的归因向量相关联。为了获得每个token的单一归因值以进行比较，这些嵌入级别的归因通过在嵌入维度上平均来减少：

(2)

其中at,j表示嵌入维度j中token t的归因值，d是嵌入维度。Grad-CAM在跨卷积滤波器聚合后直接提供token级别的归因，因此不需要这个减少步骤。对于每个分子，得到的token级别归因向量被修剪到实际的SMILES长度（不包括用于基于嵌入的方法的初始特殊token）。然后使用Min–Max缩放将这些向量独立归一化到区间[0,1]：

(3)

随后计算每对归一化归因向量之间的余弦距离，为每种方法的一对分子产生一个距离值。然后计算所有分子的这些距离的平均值和标准差，以量化XAI方法之间的整体一致性或差异。

在这项研究中分析的数据集中，功能基团没有预先分配，因此必须进行识别。这是使用SMARTS模式匹配来完成的。我们没有依赖于通常只捕获核心子结构的简单SMARTS定义，而是使用了扩展的功能基团（EFG）SMARTS模式。EFG定义了必需和禁止的原子环境（例如，区分酮和也含有羰基的羧酸或酰胺），从而得到了更具体和化学上准确的功能基团分配。数据集中每个功能基团的出现次数高度不平衡：大多数分子只包含一个基团，而多次重复的结构很少见（见SI表1）。从毒理学的角度来看，单个毒原的存在通常就足以引发突变性，额外的拷贝并不会成比例地增加效应。因此，预测确切的计数几乎没有化学价值，回归目标将被大量低计数示例所主导。因此，这项任务被构建为一个多标签分类问题，专注于每个功能基团的存在或不存在。使用这种构建，我们的模型在测试集上实现了1.0的微平均ROC-AUC，表明在多标签设置中完美地区分了功能基团的存在和不存在。我们报告了微平均值，因为它在一个指标中总结了所有标签的性能，提供了模型检测功能基团的清晰整体视图。计算了五种XAI方法每对的平均余弦距离，并在表1中报告了所有功能基组的平均结果。每组的结果在SI表2中提供。评估了两个指标：平均正类和平均所有。平均所有指标考虑了所有分子，不管给定的功能基团是否存在，而平均正类只包括输出标签向量中相应位为正的情况。

表1
不同XAI方法对之间的平均余弦距离a

方法对
平均距离（正类）
平均距离（所有类别）

shap/ig
0.0001 ± 0.00
0.0001 ± 0.00

shap/deeplift
0.0028 ± 0.00
0.0038 ± 0.00

shap/occlusion
0.0299 ± 0.01
0.0247 ± 0.01

shap/gradcam
0.3320 ± 0.07
0.2120 ± 0.02

ig/deeplift
0.0026 ± 0.00
0.0037 ± 0.00

ig/occlusion
0.0298 ± 0.01
0.0246 ± 0.01

ig/gradcam
0.3320 ± 0.07
0.2120 ± 0.02

deeplift/occlusion
0.0324 ± 0.01
0.0260 ± 0.01

deeplift/gradcam
0.3216 ± 0.07
0.2130 ± 0.02

occlusion/gradcam
0.3578 ± 0.06
0.2173 ± 0.02

a
SHAP – GradientSHAP；IG – Integrated Gradients；DeepLift – Deep Learning Important FeaTures；Occlusion – 基于遮挡的归因；Grad-CAM – 基于梯度的类激活映射。然而，确认这些归因对应于化学上有意义的特征是至关重要的。由于我们的模型是构建来预测功能基团的，最有影响力的片段确实应该是相关的功能基团，而不是分子的化学上不相关的部分。为了验证这些归因的化学意义，我们使用XSMILES在每个分子的结构上可视化了它们：这是一种交互式可视化技术，它将归因分数叠加在2D分子图上，以及分子的SMILES字符串。为了可视化，通过使用嵌入维度上的绝对值之和来聚合嵌入级别的归因来计算token级别的归因值：

(4)

其中at,j表示嵌入维度j中token t的归因值。这种聚合为每个token产生了基于大小的重要性分数。然后使用Min–Max归一化将这些分数独立地重新缩放到区间[?1,1]：

(5)

其中Imin和Imax表示相应解释向量中的最小和最大token级别归因幅度。在这些可视化中，颜色刻度反映了每个token的归因的相对幅度：紫色调表示较低的归因幅度，而绿色调表示较高的归因幅度。重要的是，颜色刻度不编码归因的方向（正面或负面贡献），而是突出了每个分子和方法中token的相对重要性。在分子之间，功能基团一致地出现为最大的贡献者，表明模型学习了一个化学上可解释的模式。这些观察与归因向量之间的低余弦距离一致，表明四种分析方法（SHAP、IG、DeepLIFT和Occlusion）在每个化合物中突出了相同的分子片段，这些片段对应于真实的函数基团。相比之下，Grad-CAM在这项分析中表现为一个异常值（见图2）。图2

使用五种可解释性方法（集成梯度（IG）、SHAP、DeepLIFT、遮挡和Grad-CAM）对羟基的原子级归因图进行比较（ROC–AUC = 1）。在这个例子中，所有方法都突出了羟基（–OH）作为对预测有贡献的关键结构特征，而Grad-CAM产生的归因模式更广泛，延伸到了羟基之外的相邻原子。颜色刻度编码了相对重要性，洋红色表示低重要性标记，绿色表示高重要性标记；归因值被标准化到[-1, 1]范围内，因此颜色反映了相对大小而不是贡献的方向。在将值四舍五入到小数点后两位后，IG、GradientSHAP和DeepLIFT的归因图几乎相同。Ancona等人41在比较基于梯度的归因方法时也观察到了类似的相关性。遮挡方法在标记级别产生了非常相似的重要性分数，但存在轻微的偏差。它正确地突出了与羟基相对应的关键标记，尽管有些原子的强调程度略低。这些微小的差异是因为遮挡通过移除来隔离每个特征的影响，当存在非线性特征相互作用时，这可能会导致归因的微妙变化。相比之下，Grad-CAM产生了更广泛和更分散的重要性图。负责官能团的标记仍然显示出正的归因，但相邻原子也获得了正的分数，有些甚至高于目标原子。这可以通过Grad-CAM倾向于将重要性分散到分子的更大区域来解释，而其他方法则将其集中在更明确的原子位点上。一旦确认这些方法能够突出正确的标记作为预测的主要贡献者，所有方法都被应用于同一个数据集来分析不同的属性：毒性。我们的模型实现了0.85的ROC–AUC，鉴于这一属性的挑战性和异质性，这表明了强大的预测性能。这个值与文献中报告的最佳结果42–44一致，表明模型接近数据集的性能上限，进一步的改进受到数据噪声和实验不确定性的限制（表2）。

表2

AMES毒性评估中XAI方法对之间的平均余弦距离

方法对
方法距离（正类）
平均距离（所有类别）

shap/ig
0.0001 ± 0.00
0.0001 ± 0.00

shap/deeplift
0.0008 ± 0.00
0.0012 ± 0.00

shap/occlusion
0.0175 ± 0.02
0.0199 ± 0.02

shap/gradcam
0.1761 ± 0.07
0.1784 ± 0.07

ig/deeplift
0.0007 ± 0.00
0.0011 ± 0.00

ig/occlusion
0.0174 ± 0.02
0.0197 ± 0.02

ig/gradcam
0.1761 ± 0.07
0.1785 ± 0.07

deeplift/occlusion
0.0171 ± 0.01
0.0197 ± 0.02

deeplift/gradcam
0.1761 ± 0.07
0.1788 ± 0.07

occlusion/gradcam
0.1712 ± 0.07
0.1780 ± 0.07

从IG、DeepLIFT和GradientSHAP得出的归因模式保持紧密一致，GradientSHAP和IG之间的平均余弦距离约为1.0 × 10?4，IG和DeepLIFT之间的平均余弦距离约为7.0 × 10?4。这些小值表明基于梯度和反向传播的方法之间有很强的一致性。遮挡方法再次显示出略高的距离，大约为1.7 × 10?2，反映了其基于扰动的机制引起的小偏差。相比之下，Grad-CAM与其他所有方法相比产生了明显更大的距离，大约为1.8 × 10?1，证实了其更广泛和不太局部的归因模式。总体而言，IG、DeepLIFT和GradientSHAP之间的一致性以及Grad-CAM的差异遵循了在官能团预测任务中观察到的相同模式，表明这些关系在不同的分子端点上仍然存在。在所有三个案例研究（图3、S4和S5）中，五种可解释性方法一致地恢复了化学上有意义的毒性团区域，但在归因的清晰度和空间分布上有所不同。在图3（环氧基毒性团）中，所有方法都清楚地识别出三员环氧环作为毒性的主要驱动因素。集成梯度、GradientSHAP和DeepLIFT产生了高度局部化的归因，几乎完全集中在形成应变三员环氧环的氧原子和两个碳原子上。遮挡产生了类似的模式，但重要原子和非重要原子之间的对比度降低。相比之下，Grad-CAM突出了一个更广泛的区域，将相关性扩展到了环氧环之外的相邻芳香系统，表明了对同一毒性团的更分散的表示。在图S4（烷基卤化物毒性团）中，方法一致地将重要性归因于末端卤素（Br）及其相邻的碳链。IG、SHAP和DeepLIFT强烈优先考虑溴原子和α-碳，这与烷基卤化物的预期亲电反应性一致。遮挡再次遵循这一趋势，但沿着碳链更均匀地分配了重要性。Grad-CAM突出了卤素，同时对分子另一端的醇基赋予了负贡献，表明了更广泛的上下文敏感性。在图S5（亚硝基毒性团）中，所有方法都一致地将NO官能团作为预测的主要驱动因素，集成梯度、GradientSHAP和DeepLIFT特别将重要性定位在亚硝基的氧原子和氮原子上。遮挡以略微降低的对比度再现了这一模式。Grad-CAM再次产生了更分散的图，将相关性扩展到周围的原子，同时仍然捕捉到亚硝基作为主要信号。总体而言，这些例子表明，虽然所有方法都能可靠地检测到结构不同的分子中的相同毒性团，但基于梯度的方法（IG、SHAP、DeepLIFT）提供了最精确的原子级定位，遮挡提供了更平滑但一致的归因，而Grad-CAM捕捉到了正确的区域，但空间特异性较低。

图3

使用五种可解释性方法（集成梯度（IG）、SHAP、DeepLIFT、遮挡和Grad-CAM）对环氧基毒性团的原子级归因图进行比较（ROC–AUC = 0.85）。在这个例子中，所有方法都正确地突出了环氧环，而Grad-CAM突出了一个更广泛的区域，将相关性扩展到了环氧环之外的相邻芳香系统，表明了对同一毒性团的更分散的表示。颜色刻度编码了相对重要性，洋红色表示低重要性标记，绿色表示高重要性标记；归因值被标准化到[-1, 1]范围内，因此颜色反映了相对大小而不是贡献的方向。为了研究XAI方法之间的一致性是否受到底层模型准确性的影响，有意以受控的方式降低了模型的性能。随机将一部分训练标签翻转到相反的类别，引入了七个级别的对称标签噪声（训练集的0%、5%、15%、25%、35%、40%和50%）。这种类型的合成标签噪声被广泛用于评估机器学习模型的鲁棒性和它们解释的稳定性。45所选择的范围从干净标签到严重损坏进行了受控的减少，导致ROC–AUC逐渐下降，同时确保预测任务仍然是可学习和有意义的。图4显示了当向毒性标签中添加不同量的噪声（0–50%）时，归因方法之间的一致性如何变化。对于每对方法，显示了它们毒性解释之间的平均余弦距离以及标准差条。较小的距离表示更高的相似性。涉及GradientSHAP、集成梯度和DeepLIFT的方法对在所有噪声级别上都保持高度一致，而包含Grad-CAM或遮挡的方法对随着标签噪声的增加显示出显著更高的距离和越来越不同的解释。虚线表示模型的ROC–AUC，随着噪声的增加而降低，反映了预测性能的预期下降。在低噪声水平观察到的明显增加位于通过自助重采样获得的相应置信区间内，并不代表统计上的显著改进。除了平均余弦距离的增加外，标准差也随着损坏水平的增加而增加，表明归因方法之间的一致性不仅变得更强，而且在不同分子之间的变化也更大。总体趋势并不严格线性：在中间噪声水平，一些方法对显示出局部减少或平台期。这种非单调行为可能是因为适度噪声不会均匀地降低学习到的决策边界。在某些噪声水平，模型可能仍然依赖于部分稳定的模式，或者可能转向更简单的决策规则，暂时减少了解释中的变异性。只有在更高的噪声水平，预测性能的降低和特征归因的信息量减少才会导致一致更大的余弦距离和增加的标准差。

图4

在不同输入噪声水平下，所有XAI方法对的余弦距离比较。为了检查模型准确性的降低如何影响结果解释，使用在高准确性（ROC–AUC 0.85）设置中使用的相同分子，在将性能降低到ROC–AUC 0.66后用XAI方法进行了分析（图5）。核心归因模式在方法之间仍然可以检测到，表明尽管增加了标签噪声，模型仍然捕捉到了一些底层结构的方面。然而，归因的信心明显降低，正负贡献值的幅度都显著降低。此外，更多的标记被突出为重要，特别是在Grad-CAM的情况下，表明当其预测不太可靠时，模型更分散地分配了相关性。综合这些发现表明，存在一个性能依赖的阈值，低于该阈值，XAI解释会失去可靠性，并越来越多地捕捉到噪声而不是有意义的信号。

图5

使用五种可解释性方法（集成梯度（IG）、SHAP、DeepLIFT、遮挡和Grad-CAM）对环氧基毒性团的原子级归因图进行比较（ROC–AUC = 0.66）。在这个例子中，所有方法仍然识别出环氧环，但归因较弱，并扩展到了不属于毒性团的额外碳原子上，Grad-CAM显示区分最相关标记的能力降低。颜色刻度编码了相对重要性，洋红色表示低重要性标记，绿色表示高重要性标记；归因值被标准化到[-1, 1]范围内，因此颜色反映了相对大小而不是贡献的方向。

讨论

分子表示对可解释AI的影响

在这项工作中，分子结构使用SMILES字符串表示，而不是其他表示方法，如ECFPs或基于图像的编码。这一点很重要，因为XAI方法的行为可能取决于使用的分子表示类型。扩展连接指纹（ECFPs）46的一个主要限制在于位碰撞，当多个不同的分子子结构在指纹生成过程中映射到相同的位时会发生这种情况。这在XAI的背景下尤其成问题，因为归因方法识别个别位对模型预测的贡献。当认为某个特定位很重要时，通常不清楚它代表的是哪个确切的分子片段，因为由于碰撞，几个片段可能共享相同的位。有一些方法可以减少位碰撞或保留RDKit的bitInfo来追踪原子环境，但这些方法并不简单。另一种方法是将分子表示为2D图像作为模型输入，允许使用计算机视觉技术进行可解释性分析。这使得可以直接突出分子结构相关区域的像素空间归因图：从单个原子和键到整个官能团，从而捕捉到局部和更高层次的化学特征。然而，基于图像的方法通常需要更多的计算资源和大型、注释良好的数据集才能达到与基于文本或图的方法相当的性能。相比之下，SMILES表示轻量级、广泛可用，并且可以由基于变压器或序列的模型高效处理，使其成为毒性数据集和可解释AI研究的实际选择。

XAI方法之间的一致性

成对的余弦距离显示，基于梯度的方法：集成梯度（IG）和基于反向传播的方法：DeepLIFT产生了几乎相同的标记级归因（例如，IG vs. DeepLIFT ≈ 0.0026）。GradientSHAP结合了梯度信息和SHAP的扰动加权，也与两者紧密对齐（SHAP vs. IG ≈ 0.0001；SHAP vs. DeepLIFT ≈ 0.0028），证实了依赖于模型导数或内部反向传播的归因方法之间的整体一致性。遮挡是一种纯粹基于扰动的方法，显示出稍大的距离（≈0.03 vs. 每个），这是预期的，因为它测量的是掩码标记的直接效应，而不是传播内部信号。相比之下，所有涉及Grad-CAM的比较都大一个数量级（≈0.33–0.36在正子集上，≈0.21–0.22），表明Grad-CAM捕捉到的重要区域与其他四种技术系统不同。一般来说，具有更高预测性能的模型倾向于在不同的XAI方法之间产生更一致的解释。当预测结果可靠时，归因技术在哪些输入部分重要上基本达成一致，这表明模型依赖于稳定的决策模式。随着性能在探索范围内的下降，这种一致性逐渐减弱。在这个范围的低端，与Hartog等人报告的性能水平（对于不同的Transformer架构，从0.64到0.72）相当，解释方法之间的差异变得更加明显。这表明XAI方法之间的分歧主要是由模型可靠性的降低引起的，而不是解释技术本身的局限性。Grad-CAM在所有卷积层上的聚合

Transformer-CNN使用并行卷积层，其核大小从1到20不等；每个分支一次考虑特定数量的标记（从单个标记到20个标记的片段），它们的激活值在分类器之前被连接起来。没有一个单一的“最后”卷积层，其特征图能够单独总结模型的决策过程。如果只在某一层（例如，最后一个滤波器大小为20的层）计算Grad-CAM，那么解释结果将偏向于该长度，并系统地忽略了其他滤波器大小较小的层捕获的证据，这些层可以编码功能组或其他化学上相关的片段，长度小于20个标记。为了反映模型真正形成预测的方式，我们分别为每个卷积层计算Grad-CAM，并将每个层的CAM投影回标记序列上，通过分配滤波器窗口[j, j + k)的分数，其中j是起始标记索引，k是滤波器大小（窗口长度）。然后我们累积所有卷积层的结果并平均重叠的贡献。得到的标记级图是一个多尺度归因，它包含了分类器接收到的所有证据，并且可以直接与已经产生标记对齐分数的输入级方法（IG、DeepLIFT、GradientSHAP和Occlusion）进行比较。Grad-CAM与IG/DeepLIFT/SHAP/occlusion的差异

集成梯度（IG）、DeepLIFT、GradientSHAP和Occlusion在模型的整个架构上操作，将输出通过所有层（卷积层、全连接层、dropout层和highway层）归因到输入特征。例如，IG确保归因的总和等于与基线的整个输出差异，DeepLIFT明确地将贡献分数通过网络中的所有神经元反向传播到每个输入特征。另一方面，Grad-CAM在卷积层级别计算重要性。这种方法可以快速产生直观的视觉解释，但代价是会忽略或稀释那些重要性只有在混合之后才显现的特征。此外，因为Grad-CAM在到达全连接层之前就停止了，所以它无法确定在激活区域内哪些具体的输入特征最终最为重要。另外，Grad-CAM对特征图的加权和应用了ReLU函数，有意丢弃了负值。输入级归因方法则保留了它们归因的符号，允许表达正面和负面的贡献。例如，集成梯度为降低输出分数的标记分配负重要性分数，为提高输出分数的标记分配正分数。因此，在化学解释的背景下，与双极输入级归因图相比，余弦相似性会惩罚Grad-CAM的单极、部分被抑制的图。即使两种方法都突出了相同的一般区域作为重要区域，Grad-CAM的归因向量也会与输入级方法产生的归因向量不同。可解释性悬崖

对于某些模型架构，随着任务难度的增加，性能并不会线性下降。相反，它在某个点之前保持相对较高，然后突然下降。这种现象被称为“准确性悬崖”，它也可以类比于特征归因的解释质量中可能发生的情况，我们将其称为“可解释性悬崖”。可解释性悬崖描述了一种现象，即模型的解释质量或忠实度起初只是适度下降，但一旦模型的准确性低于一个临界阈值，解释就迅速变得不可靠甚至无意义。Hartog等人比较了从随机猜测性能到中等准确性的模型的解释输出，发现在这个范围内解释质量没有显著差异。在这项工作中，我们关注之前未探索的高（接近理想）准确性和中等准确性之间的范围，并观察到了解释行为的急剧变化。具体来说，在Ames数据集的ROC-AUC大约为0.65时，特征归因变得不稳定，不同解释技术之间的差异增大，并且分布更加分散。对于其他终点（例如，BBB渗透性，图S7）也观察到了类似的趋势，尽管转变不那么突然，并且发生在更宽的AUC范围内。这表明解释一致性的下降是一个普遍现象，但其位置和尖锐程度取决于任务，并受到数据集特征的影响，如实验噪声的水平、类别平衡以及终点是由离散的毒物分子还是更连续的物理化学性质驱动的。值得注意的是，当噪声是有结构的而不是随机的时，其影响可以保持局部化。例如，当与特定毒物分子相关的标签被系统地改变时，主要观察到该基序的归因不稳定性，而其他化学模式相对稳定。这表明，在现实环境中，解释一致性的丧失可能是以区域特定的方式发生的，而不是在整个数据集中均匀发生。在这样的性能范围内，当模型没有完全捕捉到潜在的化学模式时，其解释变得不那么一致和信息量较少。可解释AI的应用

有效的可解释性应该既忠实（反映模型的真实推理）又易于人类理解。这些原则适用于所有XAI案例研究。虽然我们的工作强调高预测准确性以支持可信的毒性解释，但重要的是要注意，可解释AI也被广泛用于模型验证、调试以及生成有助于更可靠AI系统的用户导向的洞察。除了识别哪些特征驱动预测之外，XAI方法在模型开发和评估中也起着核心作用。例如，可解释性已被用作调试工具：Ross等人提出了使用解释反馈来规范神经网络，通过惩罚对无关特征的依赖来鼓励模型“出于正确的理由”做出正确决策，同时不降低准确性。同样，特征归因方法已被应用于通过扰动高影响力特征（由SHAP识别）来生成对抗性示例，然后在这些具有挑战性的案例上进行重新训练。另一个重要应用是反事实解释，它描述了特定输入的变化如何改变模型的预测。反事实解释类似于预测驱动的匹配分子对，它显示了相应模型学习了哪些分子转换的详细图。在化学中，这样的解释可以为分子设计提供可操作的洞察。例如，如果一个模型预测一个分子是有毒的，反事实解释可能会建议去除一个硝基或降低亲脂性会将预测改为无毒，提供可以在未来药物设计中探索的假设。结论

这项研究表明，可解释AI（XAI）方法在分子属性预测中的一致性和化学相关性取决于底层预测模型的准确性。通过使用确定性的功能基团注释任务，我们首先展示了高准确性的模型能够产生稳定且化学上正确的解释。所有评估的XAI方法：集成梯度、GradientSHAP、DeepLIFT、Grad-CAM和Occlusion一致地突出了形成功能基团的确切原子。将分析扩展到更复杂的突变性预测任务时，我们再次观察到方法之间有很强的共识。每种技术都成功识别了已知的毒物分子和与突变活性相关的关键骨架，同时也突出了需要进一步研究的化学上相邻的原子。因此，应该将XAI放在模型性能和已建立的化学知识的背景下进行解释，而不是孤立地考虑。作者贡献

Dina Khasanova：概念化、方法论、软件、验证、形式分析、调查、数据整理、初稿撰写、审稿与编辑、可视化。Igor Tetko：概念化、审稿与编辑、监督、项目管理、资金获取。利益冲突

作者声明没有利益冲突。数据可用性

模型和XAI方法的代码以及本研究中使用的数据都可以在GitHub上找到：https://github.com/DinaKhasanova/xai_benchmark。补充信息也可获取。详见DOI: https://doi.org/10.1039/d5dd00576k。致谢

本编辑工作部分由欧盟的Horizon Europe计划下的Marie Sk?odowska-Curie Actions博士网络项目协议No. 101120466“用于分子的可解释AI”（AiChemist）资助。作者感谢Katya Ahmad博士和Peter Hartog博士的评论和建议。参考文献