深度视觉：利用PyTorch基于Transformer模型预测糖尿病视网膜病变

《International Journal of Diabetes in Developing Countries》：Deep sight: Transformer-based prediction of diabetic retinopathy using PyTorch

糖尿病视网膜病变（DR）自动筛查中，基于Transformer的模型（包括纯Transformer和CNN-Transformer混合架构）通过高斯滤波和CLAHE预处理提升图像质量，ConvNeXt-Transformer Hybrid模型达到93.14%准确率，证明混合架构在捕捉复杂视网膜细节方面具有临床实用价值。

　　

摘要

背景

糖尿病视网膜病变（DR）是一种由长期糖尿病引起的眼部进行性疾病，如果不能及早诊断，可能会导致严重的视力丧失或失明。自动化的DR筛查在提高早期检测率和改善患者预后方面发挥着关键作用。深度学习方法，尤其是卷积神经网络（CNN），已被广泛用于DR的分类。随着视觉变换器的出现，捕捉复杂视网膜模式的新机会也随之产生了。

目的

本研究旨在使用PyTorch评估基于变换器的架构（包括独立的变换器和混合CNN-变换器模型）在多类DR分类中的性能。同时，还探讨了高斯滤波和对比度限制自适应直方图均衡化（CLAHE）等高级预处理技术对提高视网膜图像质量和突出临床相关特征的影响。

方法

使用了一个多类糖尿病视网膜病变数据集来训练和测试各种变换器架构。实现了多种模型并进行比较，包括纯变换器网络和CNN-变换器混合模型。在将图像输入模型之前，应用了高斯滤波和CLAHE等预处理步骤来增强视网膜结构的可见性。

结果

在评估的架构中，ConvNeXt-Transformer Hybrid的表现最佳，准确率为93.14%。

结论

研究结果表明，基于变换器的模型，特别是混合架构，在自动化DR筛查方面具有巨大潜力。它们通过注意力机制捕捉复杂的视网膜细节的能力，使其成为高效且可扩展的解决方案，适合集成到临床眼科工作流程中。