连续放大采样:面向病理基础模型的尺度鲁棒预训练策略

《Medical Image Analysis》:Mind the Gap: Continuous magnification sampling for pathology foundation models

【字体: 大 中 小 】 时间:2026年10月17日 来源:Medical Image Analysis 14.0

编辑推荐:

  基础模型在数字病理学中得到广泛应用,并日益嵌入到跨连续放大倍率谱工作的诊断辅助工具、交互式AI工具和数字切片查看器中。然而,预训练过程中放大倍率采样如何影响表征质量仍未得到充分探索。实践中,模型在一组离散的扫描仪分辨率上进行训练,图像块通常从标准放大倍率(每像

  
基础模型在数字病理学中得到广泛应用,并日益嵌入到跨连续放大倍率谱工作的诊断辅助工具、交互式AI工具和数字切片查看器中。然而,预训练过程中放大倍率采样如何影响表征质量仍未得到充分探索。实践中,模型在一组离散的扫描仪分辨率上进行训练,图像块通常从标准放大倍率(每像素0.25、0.5、1.0和2.0微米,即mpp)下均匀采样。尽管这种方法被广泛采用并报告可提升多个基准的性能,但它缺乏原则性依据。本文将放大倍率采样建模为一个多源域适应(multi-source domain adaptation)问题,并发展了一个理论框架来揭示不同采样策略之间的权衡。重要的是,研究发现离散均匀采样无法确保不同尺度下的均匀表征质量,且既未优化平均放大倍率性能也未优化最差情况性能。分析预测了特定失效模式,包括中间和边界放大倍率处的表征退化。研究人员通过受控实验和最先进的基础模型验证了这些预测,发现基准上的模型排名可能强烈依赖于图像放大倍率。基于此分析,研究人员提出了连续放大倍率采样(continuous magnification sampling)。该方法无需架构变更,不增加计算开销,并能与现有自监督框架无缝集成。令人惊讶的是,连续采样并未牺牲标准尺度下的性能,而是在两个癌症亚型分类任务的中间放大倍率处带来了高达4个百分点的平衡分类准确率提升。研究人员进一步推导出原则性的非均匀分布,在下游基准上取得了额外增益。为评估不同采样策略对模型嵌入空间的影响,研究人员使用了无监督RankMe指标,这是下游任务表现的有力指示器。为估计不同策略对临床下游任务的效果,研究人员发布了两个多尺度基准数据集TCGA-MS和BRACS-MS。

病理基础模型中的放大倍率采样策略研究解读

研究背景与问题

随着数字病理学的快速发展,基础模型正被广泛应用于诊断辅助工具、交互式AI系统和数字切片查看器等场景,这些应用均需在连续的放大倍率谱上运行。然而,一个关键问题尚未得到充分探索:预训练过程中的放大倍率采样方式如何影响模型在不同尺度下的表征质量?
当前主流做法是将模型训练于一组离散的扫描仪分辨率上,通常从四个标准放大倍率(每像素0.25、0.5、1.0和2.0微米,即mpp)下均匀采样图像块。尽管这一策略被广泛采用并在多项基准上取得良好效果,但其缺乏原则性理论支撑。更根本的问题是,这种离散均匀采样能否保证模型在所有放大倍率下都具有稳定的表征能力?为此,来自柏林工业大学等机构的研究人员开展系统性研究,相关成果发表于《Medical Image Analysis》。

研究方法概述

研究人员将放大倍率采样建模为多源域适应(multi-source domain adaptation)问题,提出基于覆盖率和域迁移假设的理论框架,并引入相似性核函数量化不同放大倍率间的信息传递关系。在此基础上,开发了连续放大倍率训练技术,通过在训练过程中动态执行裁剪-缩放操作合成任意目标放大倍率的图像块。为评估不同策略的效果,研究人员引入无监督RankMe指标用于剖面化表征质量,并从The Cancer Genome Atlas(TCGA)和Charité医院收集20万张全切片图像(whole-slide images, WSIs)构建训练数据集,同时发布两个新的多尺度基准数据集TCGA-MS和BRACS-MS用于下游任务评估。

研究结果

3.1 域适应框架下的放大倍率采样分析

研究人员建立了数学框架,将累积训练信号S(y)定义为采样分布p(x)与相似性核K(x,y)的积分。通过分析绝对距离核和信息基核两种相似性度量,揭示了离散均匀采样的固有缺陷:中间放大倍率因缺乏直接训练样本而接收到的训练信号不足,导致表征质量下降。

3.2 转移势能与放大倍率原型

理论分析表明,中心放大倍率具有最高的转移势能(transfer potential),因其视觉特征与相邻尺度共享最多;边界放大倍率的转移势能最低,训练信号仅能单向传递至邻近尺度。命题1严格证明:对于任何对称递减核函数,转移势能在放大倍率区间中点取最大值,在边界取最小值。

3.3 连续采样策略

为解决离散采样的锯齿形退化模式,研究人员提出连续放大倍率训练方法:从已有全切片图像中提取更大尺寸的源区域,通过控制裁剪和缩放操作合成任意目标mpp的训练块。这一方法无需修改网络架构,不增加计算开销,且可与现有自监督学习框架(如DINOv2)无缝集成。

3.4 优化连续采样分布

研究人员进一步探索两种优化目标:最大化平均累积训练信号(最大平均策略)和最大化最差情况累积训练信号(最大最小策略)。最大平均策略倾向于将更多概率质量分配至中心放大倍率,而最大最小策略则过度采样边界放大倍率。这两种策略之间存在自然的权衡关系。

4.1 RankMe剖面化表征质量

利用RankMe指标评估不同放大倍率下的嵌入空间有效秩,发现单尺度模型在远离训练放大倍率时表现急剧退化,秩分数下降高达40%。离散均匀采样模型虽整体更稳健,但在中间放大倍率处呈现明显的锯齿形凹陷模式,尤其在距任何训练放大倍率最远的1.5 mpp处最为显著。连续采样策略完全消除了这一模式,其中最大最小策略获得最高最差情况RankMe分数,最大平均策略获得最高平均分数。

4.2 多尺度下游基准评估

在TCGA-MS和BRACS-MS两个新基准上,连续采样策略在中间放大倍率处持续优于离散均匀采样。具体而言,在TCGA-MS上,连续均匀采样在1.5 mpp处比离散均匀采样提高3.6个百分点,在0.75 mpp处提高3.5个百分点;最大平均策略在1.5 mpp处实现4.4个百分点的提升。在BRACS-MS上,k-NN分类结果表明连续均匀采样在1.5 mpp处提高3.9个百分点。

5.4 现有基础模型评估

对Virchow2、UNI、Prov-GigaPath等公开基础模型的评估显示,单尺度模型在远离其训练放大倍率时性能下降,在2.0 mpp处尤为明显。多尺度模型Virchow2虽整体表现更优,但仍在中中间放大倍率处出现性能凹陷,证实了离散均匀采样的固有问题在高容量模型中依然存在。

讨论与结论

本研究将放大倍率采样视为一个重要的设计决策,从理论上揭示了现有离散采样策略的系统性缺陷,并提出连续采样作为改进方案。研究表明,基础模型在基准上的排名可能严重依赖于所评估的放大倍率,因此模型选择必须结合目标放大倍率进行针对性评估。当前许多基础模型在0.5 mpp上表现优异,但这可能导致对其他放大倍率的过拟合。研究人员呼吁社区贡献更多多尺度基准,并指出在粗放大倍率(1.0-2.0 mpp)上构建更好的基础模型仍是一个重要机遇。此外,连续放大倍率采样原则可扩展至预训练之外,包括聚合多尺度信息的全切片级表征、任务特异性微调和交互式诊断工具等领域。
研究结论总结如下:第一,离散均匀采样在中间和边界放大倍率处存在表征退化的系统性缺陷;第二,连续放大倍率训练在不牺牲标准尺度性能的前提下显著改善中间放大倍率的表征质量;第三,优化的非均匀采样分布可带来额外收益;第四,当前最先进的病理基础模型在放大倍率维度上表现出显著的性能变异,其退化模式与理论预测一致。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号