《Frontiers in Signal Processing》:Identification of eye diseases with small fundus image datasets using a new unsupervised deep learning approach
编辑推荐:
眼病是一个严重的全球性问题,尤其是在缺乏技术或经济条件进行治疗的国家。视网膜眼底图像的自动分析可以实现早期筛查,但监督深度学习方法需要大规模、有标注的数据集,这些数据集的获取成本高昂且耗时。本研究引入了一种无监督深度学习框架,用于学习并聚类视网膜图像表示,该框
眼病是一个严重的全球性问题,尤其是在缺乏技术或经济条件进行治疗的国家。视网膜眼底图像的自动分析可以实现早期筛查,但监督深度学习方法需要大规模、有标注的数据集,这些数据集的获取成本高昂且耗时。本研究引入了一种无监督深度学习框架,用于学习并聚类视网膜图像表示,该框架仅使用图像级疾病标签来指导对比对构建和分类损失,无需像素级标注即可在小规模眼底图像数据集上取得优异性能。所提出的方法NF-HAE-UDL(归一化流引导的混合自动编码器无监督深度学习)结合了混合自动编码器架构(ResNet-50和Swin Transformer)与归一化流及对比学习,以学习判别性潜在表示。自动编码器生成有意义的特征表示,在此基础上,归一化流将编码后的特征映射到更具表达力和结构化的潜在空间。同时,对比学习通过数据增强鼓励针对特定疾病的模式分离。在STARE数据集(81幅图像,多标签)和IDRiD子集(211幅图像,二分类)上的评估表明,与传统方法相比,该方法具有卓越的无监督聚类性能,在STARE上达到0.58±0.10的ARI(调整兰德指数),在IDRiD上达到0.58±0.06。对冻结编码器表示进行的辅助分类验证证实,所学嵌入保留了疾病判别信息(STARE上样本内准确率为88%,IDRiD上为98%),尽管这些结果代表质量评估而非诊断性能。此外,与专家标注(IoU(交并比)=0.52±0.11)验证的Grad-CAM(梯度加权类激活映射)可视化突出了对病理特征的临床有意义关注。该框架为在有限数据下进行有效、可解释的无监督视网膜图像分析展示了有前景的方向。
**论文解读:基于无监督深度学习的少量眼底图像眼病识别方法**
**研究背景与问题**
糖尿病视网膜病变(DR)、年龄相关性黄斑变性(AMD)、青光眼(GL)和高血压性视网膜病变是导致全球视力障碍和失明的主要视网膜疾病。DR由慢性高血糖进展引起微血管损伤,表现为微动脉瘤、出血、硬性渗出和增殖期新生血管;AMD以黄斑逐渐退化为特征,分为干性(地图样萎缩)和湿性(脉络膜新生血管);GL是一组以进行性视网膜神经节细胞丢失和视盘凹陷为特征的视神经病变,通常与高眼压相关。这些疾病在老年人群中常共病,使诊断复杂化。根据世界卫生组织报告,视网膜疾病占全球视力障碍人口的很大比例。流行病学研究表明,DR全球患病率约1.0312亿成人,AMD和GL分别约1.96亿和7600万患者,预计到2040年将分别增至1.605亿、2.88亿和1.118亿。早期筛查可预防视力丧失,但手动诊断存在耗时且观察者间变异大的问题。监督深度学习方法在视网膜分析中取得了领先性能,但严重依赖大规模标注数据集,这在医学领域因专家标注成本和伦理约束而面临挑战。无监督学习(如聚类、降维、生成模型和自监督学习)为从原始图像中学习有意义的视觉表示提供了可行替代方案,尤其适用于标注稀疏的医学影像。本研究旨在提出一种结合混合编码、归一化流和对比学习的无监督框架,以在小规模眼底图像数据集上实现有效的疾病聚类,无需像素级标注。
**研究内容与意义**
研究人员提出了NF-HAE-UDL(归一化流引导的混合自动编码器无监督深度学习)框架,用于自动将视网膜图像按疾病类型分组。该框架结合了混合自动编码器(ResNet-50和Swin Transformer)、归一化流(Glow)和标签引导的对比学习,仅使用图像级疾病标签指导对比对构建和分类损失。在STARE数据集(81幅多标签图像,11类疾病)和IDRiD子集(211幅二分类图像)上的评估表明,该方法在无监督聚类性能上优于传统方法,ARI(调整兰德指数)分别达到0.58±0.10和0.58±0.06,NMI(归一化互信息)分别为0.70±0.06和0.63±0.05,Silhouette(轮廓系数)分别为0.79±0.07和0.66±0.01。辅助分类验证显示,冻结编码器表示保留了疾病判别信息(STARE样本内准确率88%,IDRiD 98%)。Grad-CAM可视化与专家标注的IoU(交并比)为0.52±0.11,证实了模型对病理区域的临床有意义关注。该论文发表在《Frontiers in Signal Processing》,为数据有限场景下的可解释、数据高效的无监督视网膜图像分析提供了有前景的方向。
**关键技术方法(不超过250字)**
研究人员采用的关键技术方法包括:(1)双分支混合编码器,结合ResNet-50(提取局部卷积纹理特征)和Swin-Tiny(提取全局窗口注意力结构上下文),通过可学习投影头融合为统一潜在向量z
0∈R
d(d=128用于STARE,d=256用于IDRiD);(2)基于Glow的归一化流模块,由K=4层可逆变换(ActNorm、仿射和可学习缩放)组成,将潜在向量映射到结构化高斯分布,实现可逆操作和显式似然估计;(3)标签引导的对比训练,使用多目标损失函数(重建损失L
rec、对比损失L
con、分类损失L
cls和负对数似然L
NLL),通过图像级疾病标签构建正样本对,促进疾病特异性聚类分离;(4)训练后聚类流程,使用UMAP降维和DBSCAN密度聚类,仅在后处理阶段引入真实标签计算评估指标。样本队列来源为STARE数据集(81幅多标签眼底图像)和IDRiD子集(211幅二分类糖尿病视网膜病变图像)。
**研究结果**
**4.2.1 通过潜在特征表示的评估结果**
研究人员通过重建误差和采样熵直方图生成潜在特征的二维模式图,显示STARE和IDRiD数据集的潜在特征具有判别能力,不同疾病类别形成非重叠分组。
**4.2.2 通过聚类指标的评估结果**
研究人员报告了聚类分数(ARI、NMI、Silhouette)随训练轮次的变化。在10次独立试验中,STARE数据集上平均ARI为0.58±0.10,NMI为0.70±0.06,Silhouette为0.79±0.07;IDRiD数据集上平均ARI为0.58±0.06,NMI为0.63±0.05,Silhouette为0.66±0.01。低标准偏差表明模型学习了泛化的潜在表示,而非局部过拟合。
**4.2.3 似然评估**
研究人员报告了归一化流的负对数似然(NLL,单位:每维度nats)。STARE数据集上NLL为-2.43±0.15 nats/dim,IDRiD上为-2.18±0.12 nats/dim,负值表示学习分布比标准高斯分配更高概率密度,证实了归一化流成功将潜在空间正则化为结构化分布。
**4.2.4 显著性检验**
研究人员计算了95%置信区间(CI):STARE数据集上ARI的CI为[0.37, 0.67],NMI为[0.55, 0.71],Silhouette为[0.73, 0.79];IDRiD数据集上ARI的CI为[0.46, 0.60],NMI为[0.58, 0.71],Silhouette为[0.61, 0.68]。平均差异CI(MDCI)均远小于1,证实了模型的稳健性。
**4.2.5 消融研究**
研究人员通过比较有无归一化流(NF)模块的聚类性能,发现NF带来了适度但一致的改进:STARE上ARI提升+0.03,NMI提升+0.06,Silhouette提升+0.07;IDRiD上ARI提升+0.05,NMI提升+0.02,Silhouette提升+0.10。将NF替换为VAE(变分自动编码器)后,STARE上ARI降至0.41,NMI降至0.55,Silhouette降至0.87,支持了NF的选择。
**4.2.6 比较结果**
研究人员将NF-HAE-UDL与多种传统基线方法(k-means、GMM、层次聚类、DEC、DINO、BYOL、SimSiam、MAE等)进行了比较。在STARE和IDRiD数据集上,NF-HAE-UDL在所有三个聚类指标上均优于所有基线方法,尤其是在NMI和Silhouette上表现出显著提升。例如,SimSiam在STARE上ARI为0.56±0.09,而NF-HAE-UDL为0.58±0.10;MAE在STARE上ARI仅0.31±0.05。研究人员将自监督基线表现较差归因于自然图像与视网膜图像之间的领域差异、缺乏疾病特异性对比目标以及极小数据集规模。
**讨论与结论**
**讨论部分总结**
研究人员通过可解释AI分析(Grad-CAM)验证了模型关注了临床相关区域,如正常眼底、背景DR(微动脉瘤和出血)、非孤立性毛细血管扩张症(血管异常)和中央视网膜静脉阻塞(广泛出血和棉絮斑)。扰动分析显示,掩蔽高Grad-CAM激活区域导致置信度平均下降0.34±0.08,而低激活区域仅下降0.09±0.05。专家比较显示,Grad-CAM热图与专家标注的IoU为0.52±0.11,表明中度空间一致性。负对照实验(随机初始化编码器)产生分散的注意力图,证实了学习特征驱动了聚焦注意力。多标签图像(如“背景DR + 动脉硬化性视网膜病变”)的单独Grad-CAM突出了不同解剖区域,展示了类别特异性解释。辅助分类验证表明,冻结编码器表示在STARE上平均准确率为88%(标准差0.03),在IDRiD上为98%(标准差0.01),多标签指标(子集准确率0.7654,样本准确率0.8817,微F1=0.90,宏F1=0.71,加权F1=0.89,Hamming损失0.0224)证实了表示保留了疾病判别信息。研究人员指出局限性包括:分类结果属于样本内验证而非独立诊断基准;数据集规模小(STARE 81幅,IDRiD 211幅);来源单一机构,需外部数据库验证;NF模块改进幅度有限;Grad-CAM需后处理线性探针且IoU中等。未来工作将包括外部验证、半监督微调、改进可解释性、前瞻性研究和多数据集合并。
**研究结论部分翻译**
使用眼底图像诊断视网膜病理是一个至关重要的临床问题,尤其是在资源受限地区,那里训练有素的标注者很少,且无法标注大规模数据集。本研究提出了NF-HAE-UDL框架,该框架自动将视网膜图像按疾病类型分组,无需像素级标注。该系统结合了三个主要组件:一个双分支混合编码器(ResNet-50和Swin-Tiny),从视网膜图像中提取互补的局部纹理和全局结构特征;一个基于Glow的归一化流模块,将学习到的特征组织成结构化的数学空间,以实现可逆分析和异常检测;以及一个标签引导的对比训练目标,鼓励在特征空间中分离疾病特异性模式。训练后,通过学习到的特征应用UMAP降维和DBSCAN聚类产生疾病分组,真实标签仅用于后续衡量分组与临床诊断的匹配程度。在两个公开数据集上的测试表明,NF-HAE-UDL在疾病图像聚类上优于所有比较的基线方法。在STARE数据集(81幅多标签眼底图像,涵盖11类疾病)上,该模型在10次独立试验中实现了一致的聚类,显著优于k-means和层次聚类等经典方法。在IDRiD子集(211幅糖尿病视网膜病变图像)上观察到同样强劲的性能,证实了该框架在多项任务中的泛化能力。归一化流模块在聚类中具有额外实用价值,可实现显式密度估计(用于异常检测)和疾病表示的可逆操作。为了验证所学特征的临床相关性,将Grad-CAM热图与经验丰富的眼科医生的标注进行比较,确认模型正确聚焦于疾病相关解剖区域,如微动脉瘤、出血和血管异常。在冻结的学习特征上训练的简单线性分类器(无需重新训练主模型)在STARE上达到88%准确率,在IDRiD上达到98%准确率,证实了即使在训练期间从未明确告知模型要寻找哪些疾病,其特征也携带了强烈的疾病判别信息。本研究的主要局限性是数据集规模小、使用单一机构成像数据,以及分类结果反映样本内验证而非独立诊断基准。未来研究将通过更大的多中心数据集(如Messidor、APTOS、DRHAGIS)的外部验证、半监督微调以实现直接诊断性能基准测试和监管验证、开发与临床专家推理更紧密对齐的端到端注意力机制,以及创建交互式可视化工具来促进临床部署,来解决这些局限性。总体而言,NF-HAE-UDL为可解释、数据高效且可扩展的自动化视网膜图像分析提供了一个令人兴奋且可行的未来方向。