DARE:一种基于领域知识的表示增强方法,用于高效的数据驱动组织病理学分类

《Biomedical Signal Processing and Control》:DARE: Domain-Aware Representation Enhancement for data-efficient histopathological tissue classification

【字体: 大 中 小 】 时间:2026年10月15日 来源:Biomedical Signal Processing and Control 5.7

编辑推荐:

  •DARE提出了一种包含两种独立方法的技术,用于增强组织分类的鲁棒性。•DARE?是一种伪域划分策略,旨在丰富特征空间的多样性。•DARE*是一种图像级方案,通过输入空间的多样性来提高鲁棒性。•一种无需训练的策略确保了在小样本情况下的稳定优化。•仅使用1%的标注样本,在多中心数据

  •DARE提出了一种包含两种独立方法的技术,用于增强组织分类的鲁棒性。•DARE?是一种伪域划分策略,旨在丰富特征空间的多样性。•DARE*是一种图像级方案,通过输入空间的多样性来提高鲁棒性。•一种无需训练的策略确保了在小样本情况下的稳定优化。•仅使用1%的标注样本,在多中心数据上实现了显著的性能提升。

引言
随着深度学习(DL)技术的快速进步,医学图像分类取得了显著的进展,特别是在为资源受限的临床环境开发数据高效解决方案方面。虽然标准DL模型在结构化模式中已经达到了人类水平的性能,例如CT扫描中的肺结节检测[2]、[3]、[4],X光片中的骨折识别[5]、[6]、[7],但将其应用于组织病理学分类时常常受到明显的领域差异和专家注释的高昂成本的限制[8]、[9]、[10]。在这些多样化的应用中,DL在数字病理学领域取得了特别的成功,推动了肿瘤亚型识别[11]、细胞形态分析和病变分级[12]等任务的突破。这些方法通常依赖于强大的特征提取器,如卷积神经网络(例如ResNet [13])或基于变换器的神经网络(例如Swin-Transformer [14]、ViT [15]),以支持高精度分类和计算机辅助诊断[16]。然而,与通用计算机视觉任务相比,将这些深度学习方法部署到大规模临床应用中仍然具有很高的挑战性[17]。首先,隐私问题和伦理法规(如HIPAA和GDPR [18])创造了重大的数据共享障碍。这些限制阻碍了多样化的多机构队列的组装,使得数据局限于孤立的单一中心。其次,数据稀缺性因获取高质量注释的难度而加剧。标注过程需要丰富的领域专业知识,且既费时又主观,进一步导致了标注样本的供应有限和持续的小样本问题。因此,由于这两种模型的实际部署限制,基于单一中心数据(源域)训练的模型在其他中心(目标域)的表现往往有限,特别是在训练数据极其稀缺的情况下。这尤其成问题,因为领域差异[19]会导致 hospital 之间成像设备和临床工作流程的变化,从而降低未见过的数据的性能,削弱了临床AI系统的可靠性。

最近,最先进的Pyramidal Deep-Broad Learning(PDBL)方法[20]在基于Broad Learning System(BLS)[21]、[22]的基础上发展起来,在受限数据训练设备下显示出巨大的进步。他们发现,直接在医学数据集不足的情况下微调深度学习框架往往会导致不稳定的优化和严重的过拟合[23]。因此,我们遵循PDBL范式,并进一步增强了在极其有限的源域训练数据下向目标域的泛化能力。为了实现这一目标,我们提出了一个名为DARE的领域增强通过代表性丰富框架,以改善在有限训练数据情况下的泛化能力。通过分析PDBL的关键模块,我们提出了两种即插即用的增强方法,分别命名为DARE?和DARE*。

首先,由于提取的特征是分类的原因,而源域和目标域数据集之间的异质性导致了特征异质性和较差的迁移能力,我们提出了DARE?,利用源域的特征统计数据来增强目标域的特征,以便更好地适应。认识到来自小规模数据集的单一全局统计数据不足以覆盖理想的底层数据分布,我们从统计采样理论中获得灵感,通过K-means聚类将观察到的源域划分成多个伪子域,从而通过跨域插值丰富可用于增强的统计指标集合。然后,我们意识到图像是特征异质性的主要来源。尽管所有图像都经过统一的预训练框架进行特征表示,但图像之间的差异会影响提取过程。因此,我们提出了DARE*,通过增强框架特征统计数据来动态地减轻这一问题,利用源域提取器的多尺度特征来指导目标域的特征提取,从而减轻源端的异质性。尽管DARE在概念上与染色增强、测试时增强和特征插值相关,但它在这些方法的扰动来源和应用阶段上有所不同。DARE不是从混合标注样本中学习或使用手动预定义的测试变换,而是构建固定的源域派生特征和图像统计数据库,并仅在目标推理期间使用它们。这种设计保留了冻结的框架和封闭形式的分类器设置,避免了目标数据辅助的适应。

通过使用所提出的方法,当模型在极其有限的源域数据下训练时,DARE可以显著提高模型对目标域的泛化能力。主要贡献总结如下:
(1)我们提出了一个基于源域的表示增强框架,用于极端低资源跨域分类。与训练时的MixUp、Manifold Mixup和风格扰动不同,所提出的增强模块仅在推理期间操作,不需要混合标签、框架微调或目标域统计数据。
(2)我们设计了两个互补的基于源域的表示增强模块:DARE*使用固定的源域统计池进行图像空间重新校准,而DARE?执行伪域条件下的特征插值。这两个模块仅在目标域推理期间操作,不需要框架微调、目标域统计数据或额外的可训练参数。我们进一步评估了它们的组合使用,称为DARE-Combined,以检验图像空间和特征空间增强之间的互补性。
(3)我们在极端1%标注源数据设置下进行了广泛的跨域实验。除了与PDBL和微调基线的比较外,我们还将DARE与代表性的染色增强、样本插值、流形插值和特征风格扰动方法直接进行了比较。我们还提供了超参数敏感性和定量计算成本分析。

小样本训练在标签稀缺的情况下
鉴于标记医学数据的有限可用性,传统的深度学习方法往往难以训练出有效的模型,使它们容易过拟合。为了缓解这一小样本挑战,近年来少样本学习(FSL)和迁移学习(TL)[24]引起了极大的兴趣。在FSL领域,Vinyals等人[25]引入了一个名为Matching Networks的元学习框架。这种方法使模型能够“学会学习”,使它们能够

方法论
本节介绍了一个轻量级的、即插即用的分类框架,旨在在少样本和领域差异场景下提高模型的泛化能力。该框架由三个主要组成部分组成:PDBL(通过随机规范化的图像空间增强模块)和基于伪域抽样的特征空间增强策略。整个流程不需要对预训练的框架进行微调,可以直接与标准CNN架构集成。

实验结果
我们进行了一系列全面的研究来评估DARE框架。评估集中在一个8类组织分类任务上,以展示该框架的有效性和鲁棒性。为了确保泛化能力,我们在四种代表性架构上验证了DARE:ResNet-50 [13]、EfficientNet-B3 [42]、Swin-Tiny [14] 和轻量级的ShuffleNetV2 [43]。本节的其余部分组织如下。第4.1节描述了实验设置,包括

结论
在本文中,我们提出了DARE,一个用于在极端标签稀缺情况下进行跨域医学图像分类的领域感知表示增强框架。该框架包含两个互补的基于源域的推理时模块:DARE*执行图像空间统计重新校准,而DARE?执行伪域条件下的特征插值。我们还评估了DARE-Combined,它在每次随机推理过程中顺序应用这两个模块。

局限性
尽管两个评估的数据集表现出明显的跨数据集分布差异,但它们是相关的结直肠组织病理学队列,因此代表了有限的验证设置。因此,当前的结果不应被解释为跨机构、器官、扫描仪或染色协议的普遍鲁棒性的证据。未来的工作将在具有患者和切片级元数据的独立多中心队列上评估DARE,以及在其他情况下评估DARE。

CRediT作者贡献声明
荣志金:撰写 - 审稿与编辑,撰写 - 原始草稿,软件,方法论,形式分析,数据管理。
曾雪莹:撰写 - 审稿与编辑,监督,概念化。
张敬良:撰写 - 审稿与编辑,概念化。
张青:撰写 - 审稿与编辑,概念化。

利益冲突声明
作者声明他们没有已知的可能会影响本文报告工作的竞争财务利益或个人关系。

荣志金|曾雪莹|张敬良|张青
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号