表格与图像分类器黑盒解释的忠实性与稳定性：LIME、KernelSHAP及Ablation/Occlusion的配对评估

《Big Data and Cognitive Computing》：Faithfulness and Stability of Black Box Explanations for Tabular and Image Classifiers

　　

局部解释排名可能取决于分类器、掩蔽算子（masking operator）和计算预算。该研究在两个受控案例中比较LIME、KernelSHAP以及Ablation或Occlusion：威斯康星乳腺癌诊断（Breast Cancer Wisconsin Diagnostic）数据集配合随机森林（random forest）和多层感知机（multilayer perceptron），以及Fashion-MNIST配合多层感知机和卷积神经网络（convolutional neural network）。评估使用104个共享且分类正确的表格病例和100张类别平衡的共享且分类正确图像。敏感性分析每种模态使用20个病例、十个解释种子、三个高斯噪声尺度、三个预测保持阈值和三个替换基线。配对检验在60个方法对比上应用Holm校正。KernelSHAP具有最低的平均表格删除AUC（曲线下面积）。Occlusion在图像多层感知机上领先，LIME在卷积神经网络上领先。确定性移除方法对非退化向量可精确重复，而LIME在保留输入变化下通常具有更大的符号秩稳定性。替代图像背景会改变归因向量，并可能逆转删除排名。评估输入成本范围从表格Ablation的31到表格KernelSHAP的约15,001。这些结果支持在记录方案下分别报告忠实性、稳定性和成本。它们既未建立通用方法排名，也未建立临床效用或跨数据集和训练种子的泛化。

研究背景：局部特征归因描述输入特征或区域对特定模型输出的贡献。LIME估计局部加权代理模型，SHAP通过Shapley值公式分配贡献，直接移除方法测量替换一个特征或区域后的概率变化；这些方法回答相关但不同的问题。相似预测准确率不意味着相似解释，合理解释图本身不建立对分类器的保真性。基于移除的评估需选择移除单元、排序及替换值；归因可能因排序识别有影响单元、掩蔽操作产生分类器异常敏感输入或两者兼有而获得有利删除分数。可重复性还涉及：确定性方法可精确重复，但输入变化时可能显著变化。现有基准覆盖更广，该研究贡献是在匹配的模型内归因单元下，对三种黑盒方法进行可审计比较，并显式检验种子变异、预测保持输入变化和掩蔽基线敏感性。研究范围为一个历史表格数据集和一个灰度图像数据集、四个冻结训练分类器及固定训练种子；不构成所有可解释人工智能方法的基准，也不测试人类理解、因果重要性或临床决策质量。假设H1–H4未预注册：H1为三种解释方法在每个分类器内至少一个基于移除的忠实性指标不同；H2为重复运行稳定性和保留输入扰动稳定性跨方法不同；H3为描述性忠实性排名依赖分类器和替换基线；H4为更高忠实性不总与更低计算成本一致。

关键技术方法（不超过250字）：研究使用威斯康星乳腺癌诊断（Breast Cancer Wisconsin Diagnostic）表格队列（569例、30个细胞核数值特征、二分类；存储划分364/91/114，种子22）和Fashion-MNIST图像队列（28×28灰度、10类；官方60,000训练/10,000测试，归档协议用50,000/10,000训练/验证划分及20,000训练子集，无增强、像素归一化至[0,1]，历史子集索引未保留，故评估冻结检查点）。表格评估104个两模型均正确分类测试病例（37恶性、67良性）；图像从共享正确分类池按类平衡无放回选100张（每类10张，种子22）。归因单元为30个表格特征和49个4×4图像区域。主解释种子101，比较LIME、KernelSHAP和Ablation/Occlusion；以删除/插入AUC及Comp₂₀评价忠实性，以10个解释种子和预测保持高斯扰动评价稳定性，并检验三种替换基线；60个方法对比用Holm校正。

研究结果：4.1 预测性能。完整测试集上两个表格模型均108/114正确，错误略有不同；随机森林和多层感知机恶性召回分别为0.9048和0.9286。图像多层感知机准确率0.8792、卷积神经网络0.8777，总体判别相近但错误模式不同，Shirt召回仅0.635和0.618，说明仅准确率不完整。4.2 主要忠实性。在104个匹配表格病例或100个匹配图像上计算均值：随机森林上KernelSHAP三项指标均值最有利，删除AUC为0.675、插入AUC为0.890、Comprehensiveness为0.216；表格多层感知机上KernelSHAP删除和插入均值领先，但Ablation的Comprehensiveness最大（0.195对0.131），显示全轨迹和顶部比例评估不必选择同一方法。图像多层感知机上Occlusion三项均值最有利，包括删除AUC 0.191；卷积神经网络上LIME删除AUC最低（0.213）且插入和Comprehensiveness均值最高。描述性领先不自动统计可区分，图像多层感知机插入omnibus检验p=0.137。数值恒定主向量出现于16/104表格多层感知机Ablation、2/104表格多层感知机LIME和2/100图像多层感知机Occlusion，仍按索引平局规则纳入，限定均值与随机顺序优势解释。60个计划对比中41个经全局Holm校正后≤0.05，局部三对校正为49个；36个方法对随机顺序对比均有利且经单独Holm显著，支持优于指定随机排序，但不消除忠实性对替换算子的依赖。4.3 重复解释稳定性。Ablation/Occlusion跨种子重复相同归因向量，符号相关在定义时等于1；表格多层感知机Ablation有7个恒定向量，Spearman缺失，配对重复稳定性分析为13例，确定性平局排序仍可Jaccard=1，不应解释为存在有信息排名。随机方法重复符号Spearman随模型变化：随机森林上KernelSHAP为0.938、LIME为0.843；图像多层感知机上分别为0.437和0.622；卷积神经网络在200掩码预算下呈同样排序。确定性移除精确重复与近似采样敏感性共存，不是移除方法主要忠实性最佳的证据。4.4 预测保持输入扰动。保留数随噪声尺度和分类器变化；σ=0.10、τ=0.05时图像模型仅保留约一半200次尝试，表格模型保留更大比例，更严概率阈值暴露τ=0.20过滤隐藏损失。所选表格多层感知机病例各尺度200次试验均在最严阈值内；σ=0.10时最大概率变化0.04645低于0.05，中位数7.15×10^?7，输出不敏感使过滤判别力较低并限制高条件解释相关含义。保留扰动下LIME一般最高平均符号Spearman，单单元移除最低；稳定性随噪声增加下降，图像模型尤甚；该模式不同于重复种子实验，因为输入改变而解释随机固定。4.5 基线敏感性和输入邻近性。20例固定归因扫描显示替换值改变绝对忠实性分数并有时改变排名；图像多层感知机删除领先者在零和均值背景下仍为Occlusion，但模糊下分数更高；卷积神经网络上LIME在零和训练均值下领先删除，模糊基线Occlusion领先。表格供体和均值替换也改变方法差距。用替代基线重新生成解释会改变向量本身；原与模糊重生成图像解释的平均符号归因相关在三方法均低，供体重生成表格向量KernelSHAP和Ablation也变，而表格LIME因评估供体不进入其采样邻域保持相同。最近训练距离诊断显示均值填充和模糊图像混合体平均比零填充更接近参考池，表格供体混合体在此诊断中不比均值或中位数混合体更近；减少欧氏距离不应混淆为有保证真实性，供体行不能修复所有依赖违规。4.6 计算成本与假设评估。Ablation/Occlusion每次解释评估31或50个输入；LIME评估500个表格输入或200个图像掩码；表格KernelSHAP背景乘以coalition预算约15,001个评估输入每例，图像KernelSHAP为202。批处理和实现细节使运行时间比不同于输入计数比，无单一分数将成本转为忠实性或稳定性。H1获保留支持：每分类器内方法差异出现，但非每终点区分方法；H2由重复种子和保留输入变化下不同行为支持；H3由模型特定领先者和卷积神经网络模糊下删除排名变化描述性支持，模态效应不能隔离；H4作为条件成本-质量权衡支持：查询最密集方法在若干表格指标领先，廉价确定性方法领先图像多层感知机，不同随机方法领先卷积神经网络；评估受采样病例和固定预测预算限制。

讨论部分总结：黑盒访问足以暴露若干不同解释属性，但不使这些属性可互换。KernelSHAP以大量查询成本领先表格全轨迹指标；Occlusion在图像多层感知机以较小输入预算表现好，LIME对卷积神经网络有更有利平均主要分数；确定性移除对非退化向量精确可重复，但其符号归因排序在保留小输入变化下可能较不稳定，仅基于一个维度的方法选择可能不同。忠实性指特定分类器在指定替换下与概率行为一致，不测真实数据生成机制对应；删除和插入共享同一掩蔽算子，Comprehensiveness使用同一删除轨迹上的点，故其一致不是三个独立确认。供体和模糊分析表明评估器与解释器基线必须记录，零掩蔽下有利排名不应原样移植到另一掩蔽过程。乳腺癌案例是历史分类问题，基于细针抽吸细胞核形态，可说明小型结构化生物医学数据的特征归因行为，但不评估现代筛查、病理或治疗流程，不测患者获益、诊断安全或医生依赖；现代临床系统应在部署数据和表示上验证解释忠实性，检验对临床合理替换基线的敏感性，并将解释稳定性与校准预测不确定性一起解释。预测保持过滤减少一个混杂来源，也产生选择：高保留病例相关可共存许多拒绝扰动。主要局限为范围：每种模态一个数据集，每架构一个训练检查点；图像架构为子集训练的适度分类器；敏感性子集仅20个原始输入；噪声为独立高斯扰动并裁剪；基线距离为启发式，无真值归因、人类评估或正式分布检测器；有限float32概率和饱和预测可产生平局或恒定移除向量；全局调整结果比局部三比较调整更保守。历史解释代码和确切图像训练子集索引未保留，故新解释结果来自明确重构协议。

研究结论翻译：在两个公共数据集和四个固定分类器上，比较发现LIME、KernelSHAP和单单元移除方法具有不同的忠实性、稳定性和成本特征。KernelSHAP领先表格删除和插入均值；Occlusion领先图像多层感知机，LIME领先主要卷积神经网络均值。精确确定性可重复性不意味着最强的保留输入稳定性。替代替换值改变分数、归因向量，并且对卷积神经网络删除指标改变描述性领先者。结果支持在记录预算下配对评估、分别报告计算成本、明确处理未定义相关并说明多重性家族；既不支持通用最佳解释器，也不支持临床验证。更广泛主张需要额外数据集、重训模型种子、依赖感知干预和与预期决策场景相关的评估。