稳定的归因不等于证据：医学影像归因可解释人工智能中证据依赖性的形式化审计框架

《Neuroscience Informatics》：Stability Does Not Imply Evidence: A Formal Analysis of Evidential Dependence in Attribution-Based Medical XAI

　　

稳定的归因图可能提示医学人工智能模型依赖于预期的影像特征，但稳定性本身不能表明是哪个因素驱动了预测。研究人员考察了归因型医学可解释人工智能（XAI, Explainable Artificial Intelligence）中的这一鸿沟。审计决策依赖性（audited decision dependence）是在相同审计预算下，通过可容许的靶向干预（admissible targeted interventions）对照匹配对照（matched controls），在预注册的模型输出响应尺度上，对预注册目标因子的预测侧依赖；标签翻转（label flips）、连续概率或logit变化是其明确实例。基于观测稳定性与基于干预的依赖性这一既有区分，研究人员表明：目标依赖型与捷径依赖型预测器在非目标变换下可能不可区分，而在被声明因子被修改时会表现出不同响应。研究人员提出审计证据依赖性（audited evidential dependence）作为更强框架，要求分级敏感性（graded sensitivity）、可证伪性（refutability）和分布水平流行性（distribution-level prevalence），并给出含可容许性检查与不确定性感知裁决的最小审计协议。受控BraTS2020肿瘤掩码对捷径实验提供了审计逻辑的定量概念验证，而非端到端归因或临床验证。主要审计以官方肿瘤掩码作为候选区域，构建目标导向与捷径导向对照预测器，检验设计的依赖性对比。两个预测器在轻度非目标扰动下均保持预测与归因稳定，而匹配对照审计显示TargetModel有较大正对照相减肿瘤因子响应，ShortcutModel近零。删除式敏感性有补充作用但非目标特异。该框架为检验稳定或合理归因图是否反映对预期目标因子而非相关捷径的依赖，提供了实用审计层。

研究背景方面，医学深度成像系统广泛用于诊断与预后决策支持，归因方法通过显著图或热图可视化与预测相关的图像区域。既有研究常评估空间一致性、非目标扰动下的鲁棒性、预测对扰动特征的敏感性。但空间合理性不证明预测依赖于高亮因子，描述稳定性不证明依赖于声明目标因子，通用扰动敏感性可能反映连带变化或捷径信息而非预注册目标因子依赖。其问题在于：稳定且合理的归因图可能由扫描仪伪影、采集偏倚或相关捷径驱动，而现有评价回答的是可重复性、合理性、功能影响，不是“预测是否依赖声明可审计目标因子”这一证据问题。因此研究人员开展一项形式化研究，把归因图候选区域中的声明可测量因子置于可容许靶向干预与匹配对照干预框架下审计，以判断稳定解释是否构成目标特异证据。研究人员得出：非目标稳定性在一般情况下不能识别审计决策依赖性；审计证据依赖性还需分级敏感性、可证ability与分布水平流行性；受控BraTS2020实验证明靶向减匹配对照的审计逻辑可分离目标信息与捷径信息。该研究的重要意义在于为医学XAI提供训练后、解释生成后、临床解释前的额外审计层，避免把稳定或合理归因误读为预期医学因子依赖。论文发表于《Neuroscience Informatics》。

主要关键技术方法概括如下：研究人员采用BraTS2020中官方肿瘤分割掩码作为候选区域，刻意构造目标导向预测器TargetModel与捷径导向预测器ShortcutModel以形成受控依赖性对比；定义预注册模型输出响应泛函r，包括标签翻转、绝对概率变化r_prob、绝对logit变化r_logit；构建可容许靶向干预族M_c与同预算匹配对照族M₀，并以空间局部化、域一致性验证器D(x)、区外连带边界Δ_off进行可容许性检查；通过对照相减响应Δ_cr估计目标特异响应，并以不确定性感知方式给出支持、不支持、结论不确定三种裁决。样本队列来源为BraTS2020公开多参数MRI肿瘤分割数据集。

研究结果部分保留小标题并简述。第1节Introduction介绍归因XAI中稳定图不等同于目标因子依赖，提出审计决策依赖性与审计证据依赖性作为声明可审计因子框架。第2节Background and Related Work总结空间一致性关注临床合理性质，扰动鲁棒性关注描述稳定性，预测敏感性与忠实性关注功能影响，反事实与概念方法各有目标；研究人员指出这些邻居方法互补，但都不必然隔离预注册目标因子。第3节Problem Formulation形式化问题：给定训练后预测器、归因图和候选区域c，问题是预测是否依赖归因所指示的声明医学因子；稳定性问解释是否相似，审计决策依赖性问声明目标因子相对匹配对照是否被修改时预测是否特异响应，审计证据依赖性进一步问该响应是否分级、可证伪且具流行性。第4节Formal Framework定义输入x、预测器f、归因图E(x)、候选区域c、区域归因算子R_c(E(x))、审计目标因子Z_c、靶向干预M_c、匹配对照M₀、预注册响应泛函r_x(v)、对照相减响应Δ_cr；可容许干预要求空间局部化、域一致性D(x)、区外连带边界ε_collateral；审计决策依赖性要求Δ_cr≥δ；分级敏感性要求强干预比弱干预在同日r尺度上多出κ；方向性可证伪性用抑制声明因子后原决策支持损失Φ_c,-(x)≥δ_r；审计证据依赖性同时要求决策依赖、分级敏感、可证伪，并在分布上要求P(EV(x)=1)≥γ。第5节Theoretical Analysis证明稳定性不蕴含审计决策依赖性：在预测侧稳定性唯一信息机制下，目标依赖预测器f_c与捷径依赖预测器f_s可在观测上不可区分，但在可容许靶向减匹配对照干预下Δ_c[r]不同，因此定理1给出非可识别性，定理2给出有限样本不可检验性，推论说明覆盖类稳定性程序一般不足以检验审计决策依赖性；研究人员还用双区构造z与u说明相关捷径如何模仿目标因子，并用三例说明决策依赖、分级敏感、可证伪彼此不互推。第6节Minimal Auditable Protocol and Controlled BraTS2020 Tumour-Mask Experiment给出七步最小协议：生成E(x)、提取c、声明Z_c、构造M_c、构造M₀、估计响应、给三态裁决；受控实验以官方肿瘤掩码为候选区域，TargetModel对肿瘤因子编辑产生大正Δ_c[r_prob]，ShortcutModel近零，删除式敏感性有补充但非目标特异，从而概念验证靶向减匹配对照可分离预期信息与相关捷径。

讨论与结论部分总结：研究人员强调观测稳定性不是干预依赖，框架不声称发现真实潜病理或生物因果，只对被声明、可测量、可审计因子在指定干预族下成立。审计证据依赖性比单一稳定、合理、敏感更强，因为要求预注册目标、同预算匹配对照、可容许检查、不确定性感知与三态裁决；失败不代表模型无临床信息，可能源于冗余线索、干预不干净或不确定性过大。该框架定位为附加审计层，而非替代性能评估、专家审阅或标准解释质量评价。研究结论可译为：稳定的归因图可能暗示医学人工智能模型依赖于预期图像特征，但稳定性单独不能显示哪个因素驱动预测。研究人员考察归因型医学XAI中的这一鸿沟。审计决策依赖性是在相同审计预算下，通过可容许靶向干预对照匹配对照，在预注册模型输出响应尺度上，对预注册目标因子的预测侧依赖。基于观测稳定性与干预依赖的既有区分，目标依赖与捷径依赖预测器可在非目标变换下不可区分，而在声明因子被修改时响应不同。审计证据依赖性是更强框架，要求分级敏感性、可证伪性和分布水平流行性，并配最小审计协议。受控BraTS2020肿瘤掩码对捷径实验是审计逻辑的定量概念验证，不是端到端归因或临床验证。该框架为测试稳定或合理解释是否反映对预期目标因子而非相关捷径的依赖，提供实用审计层。