"绿色视网膜基础模型RETFound-Green:仅用1/12数据量和1/400算力实现高性能医学AI突破"

【字体: 时间:2025年07月26日 来源:Nature Communications 14.7

编辑推荐:

  本研究针对医学AI领域面临的大规模标注数据和高算力需求瓶颈,提出基于Token Reconstruction预训练目标的RETFound-Green模型。该模型仅需75,000张公开视网膜图像和0.27 A100天算力(较前代降低400倍),在六项国际数据集测试中取得36项显著优势,同时使模型体积缩小14倍、推理速度提升2.7倍。这项工作为医疗AI的可持续发展提供了高效解决方案,相关成果发表于《Nature Communications》。

  

在医疗人工智能领域,一个令人困扰的悖论日益凸显:尽管AI技术有望革新疾病诊断,但其发展却受限于两个看似无解的瓶颈——需要海量标注数据支撑的"数据饥渴",以及训练复杂模型所需的"算力黑洞"。以眼科领域为例,先前由Moorfields眼科医院开发的RETFound-MEH模型虽展现出强大潜力,但其训练消耗了90万张图像和112个A100 GPU日的算力,成本高达1万美元,碳排放相当于燃烧81公斤煤炭。更令人担忧的是,这种资源门槛将绝大多数研究机构挡在了医疗基础模型研发的门外,可能加剧全球医疗AI发展的不平等格局。

针对这一困境,爱丁堡大学的研究人员开展了一项突破性研究。他们发现现有方法存在关键缺陷:主流的Masked Auto-Encoder(MAE)策略源自自然图像处理,其像素级重建目标既不适合医学图像细微病理特征的捕捉,又造成不必要的计算浪费。研究团队另辟蹊径,开发出专为医学图像设计的Token Reconstruction自监督学习策略,并据此构建了革命性的RETFound-Green模型。这项发表于《Nature Communications》的研究证明,在视网膜图像分析领域,"更大并不总是更好"——通过算法创新完全可以实现效率的量子级跃升。

研究采用三大关键技术:1)创新的Token Reconstruction目标,通过重建冻结模型的抽象特征而非原始像素,使训练效率提升400倍;2)精简的Vision Transformer-small架构配合392×392高分辨率输入,在缩小模型体积同时提升特征质量;3)跨六大国际数据集(含中国ROP、巴西BRSET等)的系统验证体系,涵盖36项临床任务。值得注意的是,所有训练数据均来自公开数据集(AIROGS、DDR、ODIR-2019),严格避免了与测试集的数据泄露。

研究结果部分呈现了令人信服的数据对比:

"训练与下游使用效率"方面,RETFound-Green仅需75,000张图像(DERETFound的1/2,RETFound-MEH的1/12)和0.27 A100天算力(成本<100美元),却实现了14倍的模型压缩和2.7倍的推理加速。其碳排放仅0.2kg煤炭当量,较前代降低600倍。

"多样化下游任务性能"显示,在包含中国ROP早产儿视网膜病变、巴西多病种标注等复杂场景的测试中,RETFound-Green取得36项统计显著优势(p<0.05),是次优模型的3倍。特别值得注意的是,在糖尿病视网膜病变(DR)分级任务中,这个仅用8小时在消费级GPU(RTX 4090)训练的模型,竟超越了在专业数据中心训练的对手。

"无监督低维特征投影"实验通过PCA和UMAP可视化证实,RETFound-Green的特征空间能清晰分离ROP激光瘢痕与活动性病变等细微差异,其二维投影的分类AUC最高提升20倍。

"跨数据集外部可迁移性"测试中,当模型在法国Messidor2训练后直接应用于印度IDRiD数据时,RETFound-Green取得41项显著优势,展现出卓越的跨人群泛化能力。

研究结论部分指出,这项工作实现了三重突破:技术层面验证了医学专用预训练策略的优越性;应用层面使基础模型开发民主化,普通实验室用游戏显卡即可训练;伦理层面大幅降低AI碳足迹。Justin Engelmann和Miguel O. Bernabeu特别强调,Token Reconstruction策略具有跨模态普适性,其"以小博大"的设计哲学或将成为医疗AI发展的新范式。这项研究不仅为视网膜图像分析提供了现成工具(模型已开源),更重要的是为整个医学影像领域指明了一条高效、公平、可持续的技术发展路径。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号