《Technologies》：Analyzing CNN-Based Glaucoma Decision Criteria Using Adversarial Examples
编辑推荐：
青光眼是导致失明的主要原因，早期检测至关重要。卷积神经网络（CNN）在青光眼诊断中展现出令人瞩目的性能，但其黑箱特性仍是临床应用的障碍。现有的可解释人工智能（XAI）方法，如梯度加权类激活映射（Grad-CAM），在识别和量化细微区域特征方面存在局限性。在这项
青光眼是导致失明的主要原因，早期检测至关重要。卷积神经网络（CNN）在青光眼诊断中展现出令人瞩目的性能，但其黑箱特性仍是临床应用的障碍。现有的可解释人工智能（XAI）方法，如梯度加权类激活映射（Grad-CAM），在识别和量化细微区域特征方面存在局限性。在这项研究中，研究人员提出了一种方法，通过分析模型性能在局部对抗性噪声下的变化，来阐明CNN关注的内容。研究人员使用VGG16进行青光眼分类，将快速梯度符号法（FGSM）生成的噪声应用于整个眼底图像及特定子区域，然后比较对分类性能的影响。结果表明，对视盘，尤其是其外缘的扰动，对模型性能影响最大。这表明CNN捕捉了精细的解剖特征，如视盘杯凹和神经视网膜边缘变薄，这与眼科医生通常观察的内容一致。同时，黄斑和血管周围区域的扰动也影响了性能，表明当前临床诊断标准与CNN决策过程之间存在差距。这种方法有助于建立CNN的临床可靠性，并可能揭示传统临床实践中尚未被识别的特征。
# 论文解读：基于对抗性样本的CNN青光眼决策标准分析
## 研究背景与问题
青光眼是一种不可逆的进行性视神经病变，是全球致盲的主要原因之一。早期检测对于防止视力丧失至关重要。临床上，青光眼诊断依赖眼科医生结合眼底照相、光学相干断层扫描（OCT）、视野检查及眼压测量等综合评估，其中眼底图像提供了视盘和视网膜神经纤维层结构变化的关键信息。然而，准确识别这些细微结构变化需要丰富的专业知识，且诊断结果受个体判断影响，导致不同医生和机构之间的一致性较低（研究显示三位青光眼专家间完全不一致的比例约为10.8%）。随着全球患者数量持续增长（预计到2050年将达约942万），仅依靠有限专家进行视觉评估愈发困难。
近年来，基于卷积神经网络（CNN）的深度学习模型在眼底图像诊断中取得了接近甚至媲美眼科医生的准确率，但仍存在根本性挑战：CNN作为黑箱模型，其决策过程不透明，阻碍了临床采纳。现有的可解释人工智能（XAI）方法，如梯度加权类激活映射（Grad-CAM），虽能生成热力图显示模型关注区域，但存在空间分辨率低（最终卷积层经池化操作丢失细节，上采样后模糊）、无法定量评估各区域贡献度等局限，且可能产生解剖学上合理但实际不反映模型真实决策的可视化结果，导致用户过度信任。因此，研究者亟需一种既能克服空间分辨率限制、又能定量评估各区域对模型预测贡献的新方法。
## 研究概述
研究人员提出一种基于局部对抗性扰动的方法，通过分析模型性能在特定区域添加噪声后的变化，定量评估各区域对CNN决策的贡献。研究使用标准CNN架构VGG16进行青光眼二分类，采用标准化多通道青光眼数据集（SMDG-19），经预处理后保留3773张眼底图像（双眼图像，排除可疑标签及视野狭窄数据集）。训练三个独立模型：全图模型、视盘裁剪模型、黄斑裁剪模型。通过快速梯度符号法（FGSM）生成对抗性噪声，并设计二进制空间掩码限制扰动区域，逐步改变噪声半径，以受试者工作特征曲线下面积（ROC-AUC）及假阴性率（FNR）作为评价指标。实验分为四个部分：全图视盘/黄斑中心圆形噪声扩张、裁剪图像中心圆形噪声、裁剪图像环形噪声（从外围向中心扩展）、裁剪视盘图像按TSNIT（颞上鼻下颞）四象限及钟点十二象限扇形噪声扩张。此外，采用遮挡敏感性分析作为补充验证，使用32×32像素滑动掩码计算各位置预测概率下降值，并生成全数据集平均热力图。
## 研究结果
### 3.1 全图区域噪声影响
对全图模型施加噪声，视盘区域在早期（泄漏减少数据集r=20像素，LODO数据集r=15像素）即出现AUC急剧下降，最大变化发生在更早阶段（r≈15-20），表明视盘信息对模型预测至关重要。与之相比，黄斑区域噪声在初期仅引起轻微下降，但随半径增大，AUC逐渐下降，在后期（r=55-60）出现明显下降。假阴性率（FNR）在视盘扰动的中等半径范围内高于黄斑，支持模型优先依赖视盘附近信息。
### 3.2 裁剪图像中心圆形噪声
在裁剪图像中，视盘模型在噪声半径达到20像素前几乎无性能下降，随后在中期（r=35-40）出现最大降幅；黄斑模型从初始阶段即开始下降，无明显突变点。两模型AUC曲线在r≈40-45时交叉，视盘模型降至更低。LODO数据集中，交叉后r>40时两区域无显著差异，而泄漏减少数据集在r=45-75时仍存在显著差异。
### 3.3 裁剪图像环形噪声
环形噪声从外围向中心扩展，黄斑模型在初始阶段（内半径从90降至85）即出现最大AUC波动，且在整个噪声范围内AUC下降幅度始终大于视盘模型。随着噪声区域接近中心，两模型性能下降速度逐渐趋缓，最终无显著差异。FNR曲线显示，黄斑模型在早期外围噪声阶段即出现较高误分类率。
### 3.4 TSNIT与钟点扇形分析
在视盘裁剪图像中，TSNIT分析显示：上象限（S）在最大半径（r=90）时AUC下降最显著，下象限（I）和鼻侧（N）次之，颞侧（T）下降最小，所有象限间差异显著。钟点分析进一步细化，上下方向（12点、1点、6点、11点）性能下降最大，其中1点方向最显著（泄漏减少AUC=0.7296，LODO AUC=0.4408）；水平方向（3点、4点、8点、9点）下降最小，其中9点（颞侧）最小。中间半径区间（r=30-60）对模型决策扰动最大。
### 3.5 遮挡敏感性补充验证
平均遮挡敏感性热力图显示，全图模型中最强影响区域为视盘，黄斑及周围血管区域也呈现明显敏感性；视盘模型呈垂直椭圆状高重要性分布，黄斑模型则集中在黄斑中心并向外扩散。两数据集结果一致，支持局部扰动分析识别的关键区域。
## 总结讨论与结论
讨论部分，研究人员指出局部扰动分析揭示了CNN决策的区域依赖性，既与临床诊断标准存在一致，也出现分歧。一致之处：视盘外缘（对应视杯/视盘比及边缘变薄）和上下象限（对应视网膜神经纤维层脆弱性）的强烈影响，与眼科医生关注的病理特征相符。分歧之处：视盘周围血管区域和黄斑区的显著影响，这些区域并非当前临床直接诊断指标。两种可能解释：一是数据集特定偏差（如设备照明差异、图像质量）导致模型学习到非病理特征；二是模型捕捉到未被人类识别的青光眼相关新特征——例如，已有研究证明深度学习能从眼底图像预测心血管风险因素等意外信息。研究人员（眼科医生）评估认为，黄斑区影响在空间上对应晚期青光眼中心视野缺损的病理分布，但本研究未限制疾病分期，提示早期青光眼也可能存在黄斑相关特征。然而，这些解释仅基于作者观察，未经独立盲法验证，因此需进一步通过疾病严重程度分层、多专家盲审等手段区分偏差与真实标记。
研究结论翻译：在这项研究中，研究人员使用局部应用的对抗性扰动，定量评估了自动化青光眼诊断中CNN决策的区域影响。结果表明，靠近神经视网膜边缘以及上下象限的扰动对模型性能影响最大，提示CNN可能依赖病理相关的结构特征作为决策基础。同时，血管和黄斑区域的显著影响揭示了与传统临床诊断标准的差异，提示CNN可能也在利用视盘以外的特征。总之，这种方法可作为定量弥合临床解释与CNN黑箱决策之间差距的手段，并有可能不仅有助于验证自动化诊断模型的推理，还可促进眼底图像中新型数字生物标志物的发现。本研究中观察到的视盘外特征是否具有真正的临床意义，仍有待未来工作验证；尽管如此，该方法有望为评估医疗AI的推理基础提供新的见解。
