TMO-Net+：一种用于肿瘤学多任务学习的增强型肿瘤多组学预训练网络

《Genes》：TMO-Net+: An Enhanced Tumor Multi-Omics Pre-Trained Network for Multi-Task Learning in Oncology

　　

背景：肿瘤异质性源于多种生物因素之间复杂相互作用，对鲁棒多组学数据整合方法的发展构成主要挑战。现有肿瘤多组学预训练网络（Tumor Multi-Omics pre-trained Network, TMO-Net）可将多组学特征融合为统一表示，但在缺失模态、组内学数据不完整和高维噪声等实际问题中受限。方法：研究人员提出 TMO-Net+，一种用于提升多组学建模鲁棒性与可靠性的增强架构。研究人员对每个组学类型施加特征注意力编码器（feature attention encoder）以降低模态相关输入变异影响；将门控混合专家（gated Mixture-of-Experts, MoE）模块与专家乘积（Product-of-Experts, PoE）机制结合，以捕捉样本特异性贡献并在部分组学可用时进行鲁棒推断；引入带定制损失函数的有监督深度分类头，以增强潜空间中学得嵌入的可分性。结果：在泛癌（pan-cancer）数据集上的大量实验表明，TMO-Net+ 按 LogME 分数持续优于原始 TMO-Net；在泛癌分类、原发/转移部位预测和预后建模等下游任务中，TMO-Net+ 在部分组学设置下取得更优性能，证明其提升了多组学表示的鲁棒性与跨癌种可迁移性。结论：TMO-Net+ 在所评估的 TCGA 队列中改善了多组学表示的鲁棒性与跨癌种可迁移性。生物可解释性分析进一步显示，TMO-Net+ 优先关注已知癌症驱动基因，保留癌依赖分子状态信息，并在分子状态下自适应重分配相对模态贡献。通过处理模态级缺失与模态相关输入变异，该框架为所评估 TCGA 队列中的整合肿瘤分析提供了可靠框架。

《Genes》刊载的该论文以肿瘤多组学表示学习中的异质性与缺失性问题为出发点。肿瘤发生发展由基因组改变、表观遗传修饰、转录失调和拷贝数变异（copy-number variation, CNV）等跨尺度因素共同驱动，TCGA 与 ICGC 等队列使多组学整合成为转化肿瘤学的重要方向。但现有方法面临高维低样本、跨组学分布差异、模态级与组内学缺失等挑战；完整病例分析会丢弃样本并引入偏倚。TMO-Net 虽具基础模型式预训练能力，仍受模态缺失、组内学不完整和高维噪声限制。为此，研究人员提出增强型肿瘤多组学预训练网络 TMO-Net+，在 TMO-Net 基础上引入特征注意力编码器、PoE 与门控 MoE 融合、有监督分类头与对比损失，以提升表示质量、缺失模态鲁棒性与下游任务适应性。论文结论认为，TMO-Net+ 在所评估 TCGA 队列中改善了多组学表示的鲁棒性与跨癌种可迁移性，并能优先关注已确立癌症驱动基因、保留癌依赖分子状态、自适应重分配模态贡献，为整合肿瘤分析提供可靠框架。

关键技术方法方面，研究人员使用来源于前期工作的 TCGA 多组学队列，含 8217 个样本与 32 类癌症，整合 RNA-seq 基因表达、DNA 甲基化、体细胞突变和 CNV 四类组学。方法上采用分层线性编码器加 Sigmoid 门控特征注意力，经变分推断与重参数化得到单组学潜变量；以 PoE 对可用模态后验做精度加权融合，再以等权混合得到单组学均值表示；随后由四路专家网络与集中式门控网络生成样本特异性模态权重，拼接形成联合嵌入；预训练目标含自模态与跨模态 ELBO、KL 散度、对抗损失、对比损失与分类交叉熵损失。下游按泛癌分类、原发/转移预测、预后生存预测分别微调，生存任务采用 Cox 偏似然与重建正则，并用 C-index 与 Kaplan-Meier 评估。

3.1. Dataset

研究人员使用前期工作发布的 TCGA 多组学数据，最终保留 8217 个样本、32 类癌症，每例整合基因表达（6016 个基因）、DNA 甲基化（6617 个探针）、突变（4539 个基因）与 CNV（7460 个片段）。下游预后任务覆盖 BRCA、LGG、LUAD 等 12 类癌症，并要求未删失样本不少于 50 例。

3.2. Experimental Setting

预训练阶段编码器隐藏层为 2048 与 512，解码器对称，共享潜空间维度为 64；判别器用于提升生成能力。主网络用 AdamW，判别器用 Adam，学习率由 CosineAnnealingWarmRestarts 调度，批次 128，最多 300 epoch，早停依据验证集 LogME。下游泛癌分类采用差分学习率与 Macro-F1 早停；原发/转移预测比较随机初始化 TMO-Net+ 与预训练初始化 TMO-Net+(pre)；预后任务用 Cox 损失加动态重建正则，以 C-index 早停并做 5 折交叉验证与 log-rank 检验。

3.3. Ablation Experiments

以原始 TMO-Net 为基线，用 LogME 评估各组件贡献。特征注意力使 LogME 由 1.0979 升至 1.1480；MoE 升至 1.1992；分类监督升至 1.3131；注意力加 MoE 为 1.2019；注意力加监督为 1.3671；MoE 加监督近似同水平；完整 TMO-Net+ 达 1.4202，说明三组件协同提升表示质量。

3.4. Biological Interpretability Analysis

研究人员用积分梯度（Integrated Gradients, IG）发现突变属性中严格癌症驱动基因显著富集，TP53、IDH1、BRAF、KRAS 等被优先关注；将 111 个驱动基因突变输入置零后真实类别 logit 下降明显，且强于频率匹配非驱动对照。打乱特征身份实验显示，基因表达身份最重要，四模态全打乱后准确率降至 0.0713，说明分类依赖分子特征身份而非仅输入总量。门控分析表明模型做模态相关重校准，而非统一过滤低信息特征。缺失模态下重构相关性与余弦距离随缺失数量退化但仍保留共享信息；突变模态权重与非零突变指示数呈负相关。12 类癌症中 LGG 按 IDH1 状态、PAAD 按 KRAS 状态、LUSC 按 TP53 状态有一定潜空间组织；MoE 权重在多数癌症分子状态间显著重分配。

3.5. Performance Comparison on Downstream Pan-Cancer Classification

TMO-Net+ 在 Accuracy、Macro-Precision、Macro-Recall、Macro-F1 上均优于 TMO-Net；Recall 由 0.9191 升至 0.9444，F1 由 0.9146 升至 0.9443，说明漏分减少、类平衡性能改善。

3.6. Performance Comparison on Downstream Primary/Metastatic Prediction

在与 SVM、CVAE、TMO-Net 比较中，TMO-Net+ 与 TMO-Net+(pre) 均优于原模型；TMO-Net+(pre) 准确率 0.9322、F1 0.9174 最高，TMO-Net+ 召回率 0.9193 最高，表明预训练与门控 MoE 有助于原发/转移判别。

3.7. Performance Comparison on Downstream Prognosis Prediction

在 12 个癌症预后队列中，TMO-Net+ 平均 C-index 由 TMO-Net 的 0.6308 升至 0.6835，高于 PCLSurv 的 0.6405 与 MMOSurv 的 0.6671，并在 BLCA、BRCA、CESC、HNSC、LIHC、LUAD、SARC 七类中最高。KM 曲线在 BRCA、CESC、KIRC、LGG、LIHC 等队列中高低风险组分离显著。GBM、KIRC、LGG、LUSC、PAAD 中未全面占优，研究人员将其归因于队列规模、事件分布、异质性与竞争模型生存专用优化策略。

讨论部分总结指出，TMO-Net+ 并非以单癌种生存模型方式针对每类队列特化，而是以通用多组学表示框架在分类、原发/转移预测与生存分析中保持稳健。其 VAE 式 MoE 融合、PoE 共识聚合与样本级门控使模型在缺失模态下仍可学到可迁移联合嵌入；生物可解释性证据显示驱动基因、分子状态与模态贡献均被合理编码。相比元学习或原型对比模型，TMO-Net+ 更适配泛癌异质性的连续谱，具有更平衡的跨任务价值。

结论部分翻译如下：

为缓解肿瘤多组学数据建模中显著异质性与模态质量不均问题，研究人员提出增强型预训练框架 TMO-Net+。该框架协同引入特征注意力编码器以降低模态相关输入变异影响，将门控 MoE 机制与 PoE 策略结合以捕捉样本特异性模式并保障缺失模态鲁棒性，并采用跨任务辅助监督损失提升嵌入可分性。实验表明，TMO-Net+ 学到了可在所评估 TCGA 下游任务间迁移的样本级联合嵌入；在泛癌分类、原发/转移部位预测与预后建模等任务中持续优于现有方法，尤其在模态不完整场景下。生物可解释性分析进一步显示，所学表示优先关注已确立癌症驱动突变并对分子特征身份敏感；受控模态移除下模型保留部分可恢复跨组学信息，潜嵌入与样本级 MoE 权重捕捉癌依赖分子状态组织及模态贡献相对偏移。综上，这些发现支持所评估 TCGA 队列中学得表示的内部生物学一致性。未来研究人员将纳入更多多组学临床信息，并在独立队列中验证这些生物学关联，以更好捕捉肿瘤异质性并进一步增强模型可解释性。