针对基于视觉变换器的糖尿病视网膜病变分析，对可解释人工智能方法进行基准测试

《IEEE Open Journal of the Computer Society》：Benchmarking Explainable AI Methods for Vision Transformer-based Diabetic Retinopathy Analysis

　　

摘要：

视觉Transformer在糖尿病视网膜病变（DR）分类方面取得了显著成果；然而，其可解释性仍然是临床应用中的一个关键障碍。现有的可解释性研究往往缺乏跨不同XAI（解释性人工智能）方法的系统比较，主要依赖于定性评估。本研究通过提出一个全面的基准测试，评估了六种事后可解释性方法：Grad-CAM、Grad-CAM++、Score-CAM、Raw Attention、Attention Rollout和ACAM，这些方法应用于一个固定版本的先进视觉Transformer（Dino2-DR），并使用了专家标注的眼底图像。评估标准包括病变定位准确性、内在可靠性（复杂性、准确性和鲁棒性）以及计算效率。结果表明，没有一种方法能够同时优化所有标准。Grad-CAM在检测性能和可解释性之间取得了最佳平衡；Raw Attention在空间定位方面表现优异；ACAM则兼具广泛的病变覆盖范围和最高的模型预测一致性。定位准确性和内在可靠性被证明是部分独立的质量维度，基于梯度的方法更注重精度，而混合方法则强调上下文覆盖。运行时间分析进一步显示了不同方法之间的效率差异显著，Grad-CAM和ACAM被认为是最适合交互式应用的候选方法，而Score-CAM和Attention Rollout则存在较高的计算开销。这些发现强调了多维度可解释性评估的必要性，并为基于视觉Transformer的眼科成像任务中选择合适的XAI方法提供了实际指导。