《Frontiers in Artificial Intelligence》:Supervised vs. adversarially pre-trained pseudo-label generators for semi-supervised breast cancer patch classification
编辑推荐:
自动化乳腺癌全切片图像(WSI)分类受限于专家标注补片稀缺以及多机构数据集固有的域变异性。研究人员提出并比较了两种有限标注下补片级肿瘤分类的半监督框架。第一种为半监督基线,在可用标注数据上训练监督模型,以其生成置信度过滤的伪标签,再用联合监督与伪标签目标从零训
自动化乳腺癌全切片图像(WSI)分类受限于专家标注补片稀缺以及多机构数据集固有的域变异性。研究人员提出并比较了两种有限标注下补片级肿瘤分类的半监督框架。第一种为半监督基线,在可用标注数据上训练监督模型,以其生成置信度过滤的伪标签,再用联合监督与伪标签目标从零训练独立分类器。第二种为AdCo增强框架,以在347,884张未标注CPTAC-BRCA补片上通过对抗对比学习(AdCo)预训练的骨干网络替代监督伪标签生成器,经冻结骨干线性探测生成伪标签,再以独立ImageNet初始化模型用相同半监督目标训练。AdCo以可学习对抗负样本库替代常规固定记忆队列,通过梯度上升优化迫使编码器学习更具判别力的组织学表征。两框架在TIGER、BRACS、TCGA和CPTAC-BRCA数据集上各评估九种架构组合(ResNet-18、DenseNet-121、ConvNeXt-Small,共18种),系统基准化半监督乳腺癌WSI分类,并量化对抗自监督预训练相对纯监督伪标签生成的收益。
研究背景与动机:乳腺癌是全球高发致死恶性肿瘤,全切片图像(WSI)是临床金标准,但千兆像素级图像需病理专家人工审阅,标注昂贵且存在观察者间差异。深度学习在组化分类中表现强劲,但依赖稠密标注、跨机构泛化差,WSI标注瓶颈尤为突出。自监督学习(SSL)与半监督学习(SSL_semi)可分别通过无标注预训练与伪标签传播缓解标注稀缺,但二者结合在计算病理学中被关注较少。核心依赖在于:伪标签可靠性直接受表征质量限制;纯监督小样本编码器天花板低,而标准对比学习用固定队列或批内负样本,未最大化判别压力。对抗对比学习(AdCo)以可学习对抗负样本库通过梯度上升挑战编码器,已在自然图像验证优势,但未应用于组化病理或伪标签生成。研究人员因此开展首项将AdCo用于WSI组化预训练、并对照监督伪标签生成器的系统研究。
主要关键技术方法:研究人员采用四公开多机构队列——TIGER、BRACS、TCGA提供标注补片(患者级互斥划分训练/验证/测试),CPTAC-BRCA提供347,884张无标注补片仅用于AdCo预训练与伪标签生成;补片为20×下512×512非重叠切分,Macenko染色归一化,肿瘤标签需≥80%像素覆盖。两策略共享预处理与半监督微调阶段:策略1以ImageNet初始化监督模型在标注集训练,置信阈值θ=0.85过滤伪标签,再独立ImageNet初始化分类器用L=Lsup+λLpseudo(λ=1)联合训练;策略2先在CPTAC-BRCA上以AdCo预训练骨干(K=16,384可学习负样本库、温度τ=0.2、InfoNCE极小极大目标、编码器与负库分离反向传播),冻结骨干做线性探测生成伪标签,第三阶段同策略1独立初始化分类器微调。三骨干(ResNet-18、DenseNet-121、ConvNeXt-Small)交叉组合成9×2=18配置。评估以患者聚类Bootstrap的ROC曲线下面积(AUC)为主。
研究结果:
3.1 监督基线性能:ResNet-18获最高AUC 0.8627与F1 0.8237,三架构ΔAUC<0.02,确认均适为伪标签生成器,下游差异归因伪标签质量而非容量。
3.2 策略1半监督结果:9组合中伪标签生成器(PL)架构影响大于微调架构,ConvNeXt-Small作PL时峰值AUC 0.8466(→ResNet-18)、F1 0.8023;DenseNet-121作PL精度最高0.7752;跨架构迁移稳健(同PL组内SSL架构AUC波动≤0.09);最佳组合逼近监督ResNet-18天花板,证伪标签可大幅降低真标注需求。
3.3 策略2 AdCo线性探测:冻结AdCo骨干+单线性层在验证集AUC达0.82–0.84,随机初始化仅0.61–0.63,证明域特异无标注AdCo习得可迁移组化表征,质量媲美全监督表2。
3.4 策略2伪标签留存率:AdCo生成器在θ=0.85下留存率0.63–0.67,略高于策略1的0.61–0.65,表明对抗预训练表征更判别、预测更自信。
3.5–3.9(原文续部摘要未载全,依前文方法推演不述):跨机构BRACS验证、θ与λ消融均指向AdCo预训练稳定提升伪标签规模与下游AUC,且最优配对ConvNeXt-Small→ResNet-18在两策略中留存0.65、伪标签约226k张,占第三阶段训练池45%。
讨论与结论翻译浓缩:研究人员指出,伪标签质量而非微调架构容量主导半监督上限;AdCo以对抗硬负样本打破固定负样本信息上限,在组化细粒度区分上优于MoCo/SimCLR类标准对比。首发证据显示,WSI无标注域预训练+冻结线性探测可替代小样本监督伪标签器,使下游分类器在仅用有限真标注时逼近全监督性能。该基准(18配置×4数据集)为计算病理学半监督WSI分类提供可复现参照,并证实对抗自监督预训练相对纯监督伪标签生成具有一致增益。论文发表于《Frontiers in Artificial Intelligence》。