《Cancer Cell》:Ensemble learning of pathology foundation models for precision oncology
编辑推荐:
组织病理学对于癌症诊断和治疗选择至关重要,病理学基础模型可从全切片图像(whole-slide images, WSIs)中学习视觉表征。然而,现有基础模型在不同数据集上使用不同策略进行训练,导致性能不一致且泛化能力有限。在此,研究人员引入了ELF(Ensem
组织病理学对于癌症诊断和治疗选择至关重要,病理学基础模型可从全切片图像(whole-slide images, WSIs)中学习视觉表征。然而,现有基础模型在不同数据集上使用不同策略进行训练,导致性能不一致且泛化能力有限。在此,研究人员引入了ELF(Ensemble Learning of Foundation models),该框架将五个预训练的病理学基础模型整合为统一的全切片层面表征。ELF在涵盖20个解剖部位的53,699张WSI上训练,利用集成学习捕获模型间的互补信息。ELF的全切片层面架构专为数据高效的下游评估而设计,适用于数据有限的情境,如治疗反应预测。研究人员在多种癌症类型中评估了ELF在疾病分类、生物标志物检测以及抗癌和免疫治疗反应预测方面的性能。在测试任务中,ELF的性能均高于所评估的组成模型和全切片层面基础模型,支持进一步评估集成学习在肿瘤学病理学应用中的价值。
病理学基础模型的集成学习策略为精准肿瘤学提供了一种新范式。组织病理学是癌症诊断与治疗决策的基石,随着全切片图像数字化和人工智能技术的进步,病理学基础模型已可通过自监督学习从海量组织切片中提取视觉表征。然而,近年来涌现的至少20种病理学基础模型均基于私有数据集和差异化的训练策略而构建,导致其在不同任务和数据集上的相对性能高度波动,尚不存在一种能在所有任务中均保持最优的单一基础模型。既往尝试通过知识蒸馏来整合多个模型,但该方法倾向于学习特征表征的平均,可能削弱模型的特征多样性与表征能力。针对上述挑战,研究人员提出了一种集成学习框架——ELF(Ensemble Learning of Foundation models),旨在真正发挥不同基础模型间的互补价值。ELF整合五个预训练的Tile层面病理学基础模型,通过在53,699张涵盖20个解剖部位的全切片图像(whole-slide images, WSIs)上进一步预训练,生成统一的全切片层面表征。该研究发表于《Cancer Cell》。
研究结果显示,ELF在疾病分类与亚型分型、分子生物标志物检测、抗癌治疗反应预测和免疫治疗反应预测等125项多样化任务中,均显著优于各个组成基础模型以及现有全切片层面基础模型。该集成策略有望为精准肿瘤学中的病理学应用提供更具泛化性和稳健性的解决方案。
在技术方法上,研究人员利用11个公共数据集(包括ACROBAT、BCNB、COBRA、DHMC、GTEx、IMP-CRS、IPD-Brain、NMI-Bladder、PAIP、PANDA和TCGA中的4个癌种队列)的53,699张WSIs,以动量对比学习(MoCoV3)为主要框架对ELF进行预训练。模型架构由五个预训练Tile层面特征提取器(GigaPath、CONCHV1.5、Virchow2、H-Optimus-0和UNI)以及一个经由指数移动平均(EMA)更新的共享全切片编码器组成。预训练联合应用跨模型与跨视角对比学习、癌症检测及器官分类弱监督任务,以学习模型不变且视角一致的切片表征。下游评估统一采用线性探测策略,以逻辑回归分类器进行评估,并在非整倍体评分回归任务中结合XGBoost。
主要研究结果如下。
ELF设计与评估:研究者在4,697例肿瘤样本分类与亚型分型、11,530例患者的98个生物标志物-适应症组合、及涵盖9种癌症类型21个独立队列共1,736例患者的治疗反应预测中评估了ELF。结果显示,ELF性能始终优于所评估的三个领先全切片层面基础模型(Prov-GigaPath、CHIEF和TITAN)。消融实验证实,集成策略优于均值池化、ABMIL、基于蒸馏的GPFM和替代聚合方法COBRAII,且不同基础模型的注意力图相关性极低,支持其互补性。缩放规律分析显示,模型性能随数据量和集成规模的增大持续提升,并在达到一定规模后趋于饱和。
疾病分类与亚型分型:在皮肤癌(BCCC数据集,2/3/5分类)、乳腺癌(BRACS数据集,7分类)和脑肿瘤(EBRAINS数据集,12/30分类)任务中,ELF的平衡准确率(balanced accuracy, BA)均最高,超过第二名模型TITAN平均2.2%,在BRACS上相对提升达16.3%。t-SNE可视化表明ELF可形成更清晰且生物学语义一致的聚类结构。
分子生物标志物检测:在TCGA泛癌队列中,ELF在28个临床可操作遗传改变、14种癌症类型、84个生物标志物-适应症组合中取得平均AUC(area under the ROC curve)为0.719±0.142,显著优于TITAN(0.701)、CHIEF(0.676)和Prov-GigaPath(0.678)。在四个结直肠癌(colorectal cancer, CRC)队列的外部验证中,ELF对BRAF突变和微卫星不稳定性(microsatellite instability, MSI)预测的平均AUC分别为0.806和0.886,均优于基线模型。此外,ELF在非整倍体评分回归、全基因组加倍(whole-genome doubling, WGD)分类和肿瘤突变负担(tumor mutational burden, TMB)预测任务中也展现出优异性能。
抗癌治疗反应预测:在涵盖化疗与分子靶向治疗的8个队列共679例患者中,ELF在转移性乳腺癌(铂类)、卵巢癌(铂类)、乳腺癌(曲妥珠单抗)和卵巢癌(贝伐珠单抗)队列中分别取得AUC 0.710、0.761、0.749和0.817,综合AUC达0.759,较基线模型提升7%–9%。Kaplan-Meier分析显示,ELF风险评分可显著分层无进展生存期(progression-free survival, PFS)和无复发生存期(recurrence-free survival, RFS)。在TransNEO和IMPRESS外部验证队列中,ELF预测新辅助化疗和曲妥珠单抗病理学完全缓解(pathological complete response, pCR)的AUC分别达0.668和0.662,结合CD8状态后进一步提升至0.743和0.759。注意力热图可视化显示,模型关注的形态学特征(如肿瘤浸润淋巴细胞丰富程度、间质纤维化等)与治疗反应相关。
免疫治疗反应预测:在涵盖8种癌症类型、13个独立队列共1,057例患者中,ELF预测免疫检查点抑制剂(immune checkpoint inhibitors, ICIs)持久临床反应的平均AUC为0.724,显著优于其他基础模型(0.612–0.664)。在Stanford和MSKCC非小细胞肺癌(non-small cell lung cancer, NSCLC)队列中,将ELF预测评分与PD-L1表达和TMB结合可进一步将AUC提升至0.773和0.722。多变量分析显示,ELF风险评分是持久反应的最强独立预测因子。在MSKCC外部验证中,基于ELF的复合模型将预测应答者的持久反应率从53%提升至59%,同时将预测无应答者比例从32%降低至16%,并在多个癌种中实现显著的PFS风险分层。注意力分析提示模型主要关注免疫微环境相关区域。
讨论与结论:ELF通过集成现有基础模型的互补表征,无需访问专有训练数据,即可生成稳健且泛化的全切片层面特征。与依赖蒸馏的GPFM和基于注意力融合的COBRAII相比,ELF在预训练阶段联合优化多个模型的监督信息,从而产生更具一致性和集成感知能力的切片编码器,能够保存模型特异性表征并实现协同整合。该预训练全切片层面架构相对传统Tile层面方法显著降低了下游任务对大规模标注数据的需求,在治疗反应预测等数据稀缺场景中具有重要应用潜力。ELF还有望作为分流工具减少不必要的分子检测,或作为阳性样本优先处理工具提升临床检测效率。研究也存在一定局限性,包括基础模型选择受限于当前可得性与基准性能、单一H&E组织学信息可能不足以独立指导临床决策、以及多数结果为回顾性队列证据,仍需前瞻性试验进一步验证。总而言之,该集成学习策略为构建病理学基础模型提供了可扩展且高效的新路径,其强大的疾病分类、生物标志物检测和治疗反应预测能力支持将ELF作为肿瘤学病理学应用的拓展框架开展进一步评估。