《Technologies》：Impact of Evaporator Operating Mode Switching on the Performance of CO2 Commercial Refrigeration Systems
编辑推荐：
青光眼是导致失明的主要原因，早期检测至关重要。卷积神经网络(CNN)在青光眼诊断中表现出优异性能，但其黑盒性质仍是临床应用的障碍。现有的可解释人工智能(XAI)方法如梯度加权类激活映射(Grad?CAM)在识别和量化细微区域特征方面存在局限。在这项研究中，研究
青光眼是导致失明的主要原因，早期检测至关重要。卷积神经网络(CNN)在青光眼诊断中表现出优异性能，但其黑盒性质仍是临床应用的障碍。现有的可解释人工智能(XAI)方法如梯度加权类激活映射(Grad?CAM)在识别和量化细微区域特征方面存在局限。在这项研究中，研究人员提出一种通过分析局部对抗噪声下模型性能变化来阐明CNN关注内容的方法。研究人员使用VGG16进行青光眼分类，将快速梯度符号法(FGSM)生成的噪声应用于整个眼底图像及特定子区域，然后比较其对分类性能的影响。结果表明，对视盘尤其是其外缘的扰动对模型性能影响最大。这表明CNN捕获了视盘凹陷和神经视网膜缘变薄等精细解剖特征，这与眼科医生通常关注的内容一致。同时，黄斑和血管周围区域的扰动也影响了性能，表明当前临床诊断标准与CNN决策过程之间存在差距。该方法有助于建立CNN的临床可靠性，并可能揭示传统临床实践中尚未认识到的特征。
研究背景方面，青光眼是一种不可逆的进行性视神经病变，是全球致盲的主要原因之一，患者数量持续增长，预计到2050年将达到约942万人。由于青光眼导致的视力丧失一旦进展便无法恢复，早期发现和及时干预至关重要。临床上青光眼诊断由专科医生结合眼底照相、光学相干断层扫描(OCT)、视野检查和眼压测量等进行综合评估，其中眼底图像为评估视盘和视网膜神经纤维层的结构改变提供重要信息，关键发现集中于视盘病理性扩大凹陷（通过垂直杯盘比评估）、神经视网膜缘变薄和视网膜神经纤维层缺损(RNFLDs)等形态学改变的评价。然而，准确识别这些细微结构改变需要丰富的专业知识和经验，且诊断结果受个体判断影响，导致临床医生及机构间一致性存在差异，有研究报道青光眼专科医生间确定诊断的一致率Fleiss’ κ仅为0.149，约10.8%的病例三名专家完全不一致。同时，全球需要诊断和管理的患者数量持续增长，仅靠有限数量的专科医生进行目视评估越来越难以满足需求。鉴于人工智能(AI)和深度学习(DL)模型通常依赖大量训练数据以实现高性能，青光眼这类患者基数大且持续增长的疾病被认为特别适合基于AI的分析。近年来，使用包括卷积神经网络(CNN)在内的深度学习模型的众多眼底图像诊断算法被提出，使用大规模数据集的研究表明，优化后的深度学习模型在敏感性和特异性方面可达到与眼科医生相当的诊断准确率。尽管分类性能高，但基于CNN的模型作为黑盒运行，决策过程不透明，缺乏可解释性是临床采纳的主要障碍，引发了对医疗应用中可靠性和有效性的担忧。为此引入了可解释人工智能(XAI)方法使模型决策更透明，在眼底图像分析中，将模型注意力可视化为热图的方法尤其受到关注，其中梯度加权类激活映射(Grad?CAM)是最广泛使用的方法之一，利用预测分数的梯度突出模型关注的图像区域。然而Grad?CAM及类似可视化方法存在明显局限：最终卷积层已通过池化操作丢失空间细节，所得热图在空间上粗糙，将低分辨率图向上采样至原始图像尺寸会产生模糊且不精确的可视化，无法精确定位与诊断相关的细粒度变化；难以量化每个区域对模型预测的贡献程度，且有研究报道即使模型预测错误，解剖学上合理的热图也会导致用户过度信任AI判断，相同热图可同时产生于正确和错误预测，进一步引发对其可靠性的质疑，Grad?CAM虽有助于识别模型关注区域，但无法客观定量评估每个区域对预测的影响程度。另一方面，基于特征选择的XAI方法在其他分类任务中被用于满足定量贡献评估需求，如通过数值而非主观解释表达各变量对模型预测的贡献。在此背景下，研究人员探索一种基于解决现有可视化方法空间分辨率限制、明确识别图像上贡献区域并定量评估其贡献的新方法，借鉴对抗样本概念，系统性分析输入图像施加微小扰动时模型行为是用于评估模型鲁棒性的成熟方法，近期被应用于医学图像分析以评估医疗AI模型的可靠性和稳定性。研究人员将这种鲁棒性分析框架作为评估模型预测依据的手段，假设如果对特定区域施加微小扰动导致诊断准确率显著下降，则模型严重依赖该区域信息进行预测，基于此思想，研究人员使用快速梯度符号法(FGSM)生成的对抗扰动结合二值空间掩码控制扰动区域，测量每个局部区域对分类性能的影响，从而定量评估各区域对模型决策的贡献。研究人员聚焦于与临床青光眼诊断最相关的解剖结构：视盘和黄斑，以这些结构为中心应用圆形掩码并系统改变半径以扰动不同大小的区域，进一步将视盘周围区域基于TSNIT（颞侧?上方?鼻侧?下方?颞侧）和时钟小时分类划分为扇区，评估对各扇区施加不同半径扰动的影响，最后比较CNN决策的区域影响与实际临床诊断标准，阐明两者异同。该研究发表于《Technologies》。
为开展研究，研究人员使用标准化多通道青光眼数据集(SMDG?19)第19版，排除可疑标签及视野过窄的三个源数据集后，经质量评估和自动定位视盘与黄斑中心坐标，统一右眼朝向并制备全图、视盘裁剪图和黄斑裁剪图三种224×224输入图像。采用预训练VGG16架构替换全连接层进行二分类，分别训练全图、视盘裁剪、黄斑裁剪三个模型，使用SGD优化器等统一超参数，在泄漏减少内部划分和外部留一数据集(LODO)两种评价体制下以ROC?AUC为主要指标进行评估。采用改进的快速梯度符号法(FGSM)结合二值掩码在四个实验配置中生成局部对抗样本：实验1在全图以视盘中心逐步扩展圆形区域；实验2在裁剪图中以图像中心逐步扩展同心圆；实验3在裁剪图中固定外径90像素向内减小内径形成环形区域；实验4在视盘裁剪图中按TSNIT四扇区和Clock?hour十二扇区逐步增大半径。在各条件下以扰动图像输入对应模型，用ROC?AUC及其bootstrap置信区间、假阴性率(FNR)评估性能，并辅以遮挡敏感性分析验证。
研究结果部分，首先为3.1 全眼底图像的区域噪声影响：实验1。研究人员在全眼底图像上对视盘和黄斑区域施加噪声，发现两个数据集性能下降总体趋势相似且具统计显著性，相同半径下视盘与黄斑区域AUC差异显著。视盘区域噪声在较早阶段（泄漏减少集r=10像素，LODO集r=15像素）即引起AUC急剧下降，最大降幅出现在较早阶段（分别约r=15和r=20），表明模型预测基础在此阶段被大幅破坏；而黄斑中心噪声初始阶段仅轻微下降，后期（泄漏减少集r=55，LODO集r=60）出现明显局部精度下降，中间阶段泄漏减少集黄斑区有剧烈波动，LODO集较平稳。假阴性率(FNR)随扰动面积扩大而增加，中间半径范围视盘噪声导致FNR高于黄斑，支持模型优先依赖视盘附近信息进行青光眼分类的可能性。
其次为3.2 裁剪图像中的中央圆形噪声：实验2。研究人员用裁剪图像隔离特定区域，发现噪声初始阶段（半径达20像素）视盘模型几乎无性能下降，黄斑模型从起始即下降；随后视盘区域在中段（泄漏减少集约r=35，LODO集约r=30）出现大幅AUC下降且阶跃变化最大。两区域在约r=40前差异显著，超过约30像素视盘模型AUC明显跌落，约40?45像素两模型AUC曲线交叉，视盘模型低于黄斑模型；泄漏减少集在交叉后中段仍显著差异，LO及LODO集r>40后无显著差异。黄斑模型无急剧下降，随噪声面积扩大平稳下降。FNR随扰动区扩大均递增。
再次为3.3 裁剪图像中的环形噪声：实验3。研究人员在视盘和黄斑周围施加环形噪声，两数据集AUC下降模式相似，黄斑模型在整个噪声范围内均比视盘模型表现更急剧和更大的性能下降。当内径较大即仅外周施噪时，黄斑模型AUC剧烈波动，最大单步变化出现在内径从90降至85时；随内径减小接近中心，两区域AUC下降速率逐渐放缓并最终收敛至低值，初期至中期两区域差异显著，终期（泄漏减少集内径<25，LODO集内径<35）差异不显著。FNR随噪声区扩大（内径减小）递增，初期外周环施噪阶段上升较快后渐趋高值，黄斑在中段前FNR始终高于视盘。
接着为3.4 TSNIT和时钟小时扇区分析：实验4。研究人员按TSNIT四扇区和Clock?hour十二扇区划分噪声区，TSNIT结果显示各方向噪声性能下降差异明显，最大半径r=90像素时上方(S)扇区AUC下降最显著，次之是下方(I)和鼻侧(N)，颞侧(T)最小且相对维持分类性能，各扇区间差异显著。阶跃变化上泄漏减少集在r=30?60和60?90区间均大幅下降，LODO集最大变化在r=30?60区间，提示该范围扰动尤其破坏决策。FNR随半径扩大各扇区均递增。Clock?hour分析同样显示各扇区间性能下降程度不同且外周（30?90像素）大于中央（0?30像素），最大半径时上方区域尤其是1点钟（泄漏减少AUC=0.7296，LODO AUC=0.4408）和12点钟（泄漏减少AUC=0.7365，LODO AUC=0.4574）下降最显著，次之2点钟和11点钟，水平方向包括9、8、4、3点钟下降最小，9点钟（颞侧）受影响最少。FNR随半径扩大各扇区均递增。
随后为3.5 通过遮挡敏感性分析的补充验证。研究人员为互补验证模型实际依赖的解剖结构，进行遮挡敏感性分析，两数据集热图输出模式和重要区域分布一致。全图模型（模型1）中视盘区域被识别为对分类预测影响最强的区域，黄斑周围也观察到敏感性明显增加。视盘模型（模型2）热图准确捕获视盘结构，高重要区域沿垂直细长形状广泛分布；黄斑模型（模型3）热图明确以黄斑为中心，感兴趣区域分布比视盘模型更广泛延伸至周围。
讨论部分，研究人员指出局部对抗扰动分析揭示了基于CNN的青光眼诊断的区域依赖性及与眼科医生诊断标准的异同点。FGSM扰动可测量特定局部区域加噪后模型预测性能变化以空间理解影响推理的区域及程度，但仅凭性能下降不能直接证明模型以与医生相同方式解释特定病变或形态变化，可能反映局部纹理敏感性、频率分量、分割大小或攻击强度等数学或图像处理因素，因此结合遮挡敏感性结果讨论。实验2中视盘区精度下降最大的区域位于视杯外侧即盘缘及其周围白色结构，与杯盘比(C/D)和盘缘变薄等临床关注特征一致，提示CNN推理影响区空间分布类似于医生诊断依据的结构特征排列。实验4的TSNIT和Clock?hour扇区评估显示上方和下方扇区扰动导致性能大幅下降，与青光眼改变易优先出现于视网膜神经纤维层(RNFL)脆弱的上下象限这一临床特征可能相似，水平扇区变化较小提示CNN决策因素可能延伸至周围血管走行和空间构型。这与遮挡敏感性中视盘模型影响呈垂直分布一致，两方法均识别到盘上下方向影响，降低结果仅为特定攻击条件或几何特征伪影的可能。同时也存在与临床不符区域：实验1视盘外及实验3外区扰动在视盘外区域（血管汇聚和分支模式）引起变化，这些周围血管区非现行标准临床诊断直接指标；实验2黄斑裁剪图初始即性能下降，实验3黄斑最外带噪声AUC下降超过视盘外缘，而临床黄斑非主要诊断目标仅作视野检查辅助参考。全图模型遮挡热图中除视盘强影响外黄斑及周围血管路径也观察到预测概率下降，两方法一致。对此有两种解释：一是数据集特定光照或质量变异引入偏倚的数学或几何伪影，虽用LODO平滑机构偏倚但无法完全消除域噪声；二是模型捕获了传统临床未认识的青光眼相关特征，参照已有研究CNN可捕获人类未预料的特征。眼科医生评估认为视盘中心扰动与已知病理特征高度一致具临床有效性，黄斑对应视网膜神经纤维层缺损(RNFLD)分布具合理性，实验3对应晚期青光眼中心视野丧失病理特征，但本研究不限于晚期，提示早期青光眼黄斑周围也可能影响推理，此为现行诊断未强烈认识的元素。但该解释基于作者（眼科医生）视角未经外部专家盲法客观验证，难以严格区分是新颖疾病标志物还是数据集偏倚，需未来按严重程度分层、大规模外部专家盲法审查等进一步验证。局限包括单网络架构VGG16，需拓展至其他架构；验证数据集规模和变异有限，LODO下基线准确率受限，需更大规模多机构外部数据集及含疾病分期信息的数据集细致验证；仅聚焦视盘和黄斑，需扩展至全眼底其他结构信息。若CNN依赖临床无意义区域（设备特性等）可作为设计更安全稳健模型的基础数据；若识别区域对应真正青光眼相关特征则提供AI捕获超越现行诊断标准病理前体的证据，指向发现新疾病标志物的潜力。局部对抗扰动分析有望成为未来评估医疗AI推理基础的方法框架。
结论部分翻译为：在这项研究中，研究人员使用局部施加的对抗扰动定量评估了自动青光眼诊断中CNN决策的区域影响。结果表明，神经视网膜缘附近以及上方和下方扇区的扰动对模型性能影响最大，表明CNN可能依赖病理相关结构特征作为决策基础。同时，血管和黄斑区域的显著影响揭示了与传统临床诊断标准的分歧，表明CNN可能也在利用视盘之外的特征。总之，该方法可作为定量弥合临床解释与CNN决策黑盒性质之间差距的一种手段，不仅有助于验证自动诊断模型的推理，还有助于发现眼底图像中新的数字生物标志物。本研究观察到的盘外特征是否具有真正临床意义有待未来工作验证；尽管如此，该方法有望为今后评估医疗AI的推理基础提供新见解。
