采用强大的基于XAI的方法揭示对抗性攻击，以实现安全的医学图像分类

《Scientific Reports》：Unmasking adversarial attacks using a robust XAI-driven approach for secure medical image classification

　　

摘要

深度学习模型彻底改变了医学图像分析领域，但仍然容易受到对抗性攻击的威胁。本文提出了FusionStack，这是一个基于可解释性原理的框架，通过多种XAI稳定性分析方法来检测对抗性干扰。我们设计了三种新的稳定性指标（LIME稳定性指标、SHAP稳定性指标、Grad-CAM稳定性指标），用于量化卷积特征层次结构中的解释一致性，并结合了频域特征和梯度特征。在五个医学图像数据集、五种CNN模型以及五种具有严格患者级区分度的对抗性攻击上进行测试后，FusionStack的准确率为98.71%，AUC值为0.998。跨攻击评估显示，经过DeepFool训练的检测器作为通用防御工具时，其迁移能力可达96.85%。跨数据集评估则显示出平均准确率为87.05%，而经过组织病理学训练的检测器在所有数据类型上的迁移率均为100%。此外，基于轻量级频域检测的方法（仅10个特征）也能达到95.46%的准确率，且处理速度可提升\(5.75\times\)倍。我们的研究结果表明，XAI稳定性分析为构建具备对抗鲁棒性的医学人工智能系统提供了有效的途径，尤其适用于那些对安全性要求极高的应用场景。