基于眼底图像的多类别糖尿病性视网膜病变分级中CNN与Transformer模型的对比分析

《Diagnostics》：Comparative Analysis of CNN and Transformer Models for Multi-Class Diabetic Retinopathy Grading Using Fundus Images

　　

背景/目的：糖尿病性视网膜病变（Diabetic Retinopathy，DR）是全球可预防性视力丧失的主要原因，早期准确分级对及时治疗至关重要。尽管卷积神经网络（Convolutional Neural Network，CNN）与基于Transformer的架构在视网膜图像分析中表现良好，但在统一实验框架下的系统对比仍有限。本研究系统比较具代表性的标准与轻量级CNN及Transformer架构在多类别DR分级中的表现。方法：在统一实验配置下，于APTOS 2019眼底图像数据集上评估6个ImageNet预训练深度学习模型，包括ResNet50、EfficientNet-B0、MobileNetV2、Vision Transformer（ViT）、Swin-Tiny与Swin Transformer；采用一致预处理、数据增强、训练与评价设置，全部模型以不同随机种子独立微调并评估5次。性能通过准确率、精确率、召回率、F1分数、受试者工作特征曲线下面积（Area Under the Receiver Operating Characteristic Curve，AUC）、二次加权kappa（Quadratic Weighted Kappa，QWK）、逐类分析、计算效率与统计分析进行评价。结果：基于Transformer的模型总体均值分类性能通常高于所评估CNN模型。Swin-Tiny在5次运行中取得最高均值准确率（82.3%）、宏F1分数（64.4%）、加权F1分数（82.1%）与QWK（89.8%）。CNN模型中EfficientNet-B0总体性能最强，MobileNetV2计算复杂度最低。重复实验显示不同随机种子下性能稳定。结论：本研究在一致设置下全面比较代表性CNN与Transformer架构，为自动化DR筛查的模型选择提供实践指导。

研究背景方面，视网膜疾病造成大量视力损害与失明，其中糖尿病性视网膜病变（Diabetic Retinopathy，DR）作为糖尿病微血管并发症，是工作年龄人群失明的重要病因。全球DR患病人数持续上升，若缺乏及时干预，威胁视力的糖尿病性视网膜病变（Vision-Threatening Diabetic Retinopathy，VTDR）病例将显著增加。人工阅片依赖专家、耗时且存在观察者间差异。深度学习（Deep Learning，DL）已在医学图像分析中广泛应用，卷积神经网络（Convolutional Neural Network，CNN）擅长局部空间特征提取，但难以充分建模全局上下文；Transformer借助自注意力可捕捉长程关系，然而现有CNN与Transformer用于细粒度多类别DR分级的相对优劣仍不明确，且多数研究实验设置不一致、忽视性能与计算效率权衡。因此，研究人员在《Diagnostics》发表该项研究，以统一协议系统比较六类预训练架构在五类别DR分级中的表现。

关键技术方法上，研究人员使用公开APTOS 2019数据集，含3662张按国际临床糖尿病性视网膜病变疾病严重度量表（International Clinical Diabetic Retinopathy Disease Severity Scale，ICDRSS）标注的RGB眼底图，分为无DR、轻度、中度、重度与增殖性DR五类，并采用仓库预定义训练、验证与测试划分。所有图像转为RGB并统一为224×224像素，按ImageNet均值与标准差归一化；训练集做随机水平翻转、小角度旋转、几何变换与亮度对比度微调，验证/测试不增强；以加权交叉熵损失与加权随机采样应对类别不平衡。六模型均加载ImageNet预训练权重，替换五输出分类头并全参数微调，用AdamW、学习率1×10^?4、权重衰减1×10^?4、批大小32、最多20轮、验证损失早停耐心6轮，五组随机种子复现。

1. 5.
   实验结果与对比分析
   5.1 总体分类性能：研究人员在独立测试集以准确率、宏/加权精确率、召回率、F1、AUC与QWK评价六模型。结果显示Transformer类总体优于CNN类；Swin-Tiny准确率0.823、QWK 0.898、宏F1 0.644、加权F1 0.821居前，Swin Transformer宏召回、加权精确率与加权AUC更优，ViT加权AUC 0.957亦具竞争力。CNN中EfficientNet-B0最强，ResNet50最弱且少数类识别差。宏均与加权平均差距反映类别不平衡影响，Transformer类宏-加权差距更小。Friedman与Holm校正Wilcoxon检验表明架构间存在显著差异，但领先模型间均值差无统计显著优势。

5.2 逐类性能分析：以EfficientNet-B0与Swin-Tiny为例，两模型无DR类F1均超0.97；轻度DR中EfficientNet-B0召回更高，Swin-Tiny精确率与F1更高；中度DR上Swin-Tiny精确率0.710、召回0.793、F1 0.748明显占优；重度DR最难，两模型F1均低且 bootstrap 95%置信区间宽；增殖性DR上Swin-Tiny各项均高于EfficientNet-B0但方差大。混淆矩阵显示错误多发生于相邻等级，符合DR渐进性。

5.3 学习行为与收敛性：研究人员从损失曲线发现所有模型前期训练损失快速下降；CNN验证曲线较平滑，Transformer验证损失早降后波动，过拟合更早。代表运行中ViT与Swin Transformer第3轮达最小验证损失，Swin-Tiny第5轮，CNN则第9或16轮；Transformer早停触发早于CNN，说明注意力架构学特征快但泛化拐点早。

5.4 计算效率分析：MobileNetV2参数量2.23M、CNN族延迟最低7.023 ms/图；EfficientNet-B0为4.01M但延迟9.835 ms/图；ResNet50为23.52M、延迟7.730 ms/图。Transformer中ViT与Swin Transformer约86M，Swin-Tiny为27.52M，但ViT延迟全模型最低。研究表明参数量与推理延迟不成正比，架构与硬件执行效率共同决定部署表现。

5.5 与相关研究比较：研究人员将Swin-Tiny与采用连体学习、分块特征提取、混合CNN等策略的APTOS 2019五类DR研究比较。部分研究准确率更高，但常只报准确率，F1与QWK缺失；本研究以多指标、逐类、效率与五次稳定性评价补充了单聚合指标的不足。

5.6 讨论与局限：讨论指出Transformer因自注意力兼顾病灶局部与全域关系而更优，Swin-Tiny为性能与复杂度平衡点，轻量CNN适合资源受限场景。局限包括仅单数据集、少数类测试样本少致估计变异大、未做架构专属超参优化。

1. 6.
   结论
   研究人员结论为：在统一预处理、训练与评价下，Transformer架构总体优于CNN；Swin-Tiny获最强总体分类表现，EfficientNet-B0为最强CNN基线。模型规模与推理延迟未必成正比，架构选型应兼顾预测性能与计算需求。多类别DR分级中重度等少数类识别仍具挑战，未来应拓展多数据集、引入新架构与不平衡感知学习以增强自动化DR筛查系统可靠性。