基于Transformer的TabPFN模型对肺神经内分泌癌的预后预测：两中心回顾性队列外部验证

《Frontiers in Oncology》：Prognostic prediction of pulmonary neuroendocrine carcinoma using a transformer-based artificial intelligence model: a two-center retrospective cohort study

　　

背景：肺神经内分泌癌（pNECs）是一组罕见且异质的恶性肿瘤，范围从低级别类癌到高级别小细胞肺癌（SCLC）和大细胞神经内分泌癌（LCNEC）。针对这些肿瘤的预后工具稀缺，且很少在外部队列中验证。目的：本研究旨在开发一种基于Transformer的pNEC预后预测模型，并在独立外部队列中验证，以改善生存估计并支持个体化治疗决策。方法：这项回顾性两中心队列研究纳入823例手术切除的pNEC患者（2001—2023年）。模型在中心1（n=374；按8:2随机分为训练集和内部测试集）开发，并在独立中心2队列（n=449）进行外部验证。比较三种算法——逻辑回归（LR）、决策树（DT）和基于Transformer的表格基础模型TabPFN（Tabular Prior-data Fitted Network）——在1年、3年和5年界标时间点估计总生存期（OS）和无病生存期（DFS），通过受试者工作特征（ROC）、校准和决策曲线分析进行评价，并用SHAP（SHapley Additive exPlanations）分析进行可解释性分析。结果：TabPFN在两个测试集多数任务中取得最高曲线下面积（AUC），但存在任务依赖的例外：在内部测试集中，LR在1年OS表现最佳（AUC 0.885），而TabPFN在其余任务表现最佳，包括3年OS（0.880）、总体DFS（0.810）和1年DFS（0.892）；在外部测试集中，TabPFN在1年和3年OS以及总体、1年和3年DFS中仍最佳（0.747—0.802），而LR在5年OS和DFS中表现最佳。外部校准不够理想。疾病分期、病理亚型和年龄是关键预后预测因素，TabPFN对低级别亚型更准确。SHAP分析量化了各特征贡献并使模型可解释。结论：基于Transformer的模型改善了pNEC生存估计，相对传统方法具有任务依赖优势，并证实可迁移至独立机构队列。在更广泛临床使用前，需要前瞻性多中心验证和校准优化。

肺神经内分泌癌（pNEC）是罕见且异质的肿瘤，包括高级别和低级别神经内分泌亚型，其临床特征、生物学行为和预后差异显著，诊断和治疗困难。病理上包括小细胞肺癌（SCLC）和大细胞神经内分泌癌（LCNEC）等亚型，因分子机制和临床行为不同，管理和预后评价应亚型特异。由于罕见和显著异质性，pNEC有效预后工具仍稀缺。现有预测模型多依赖肿瘤大小、分化 grade、淋巴结状态等传统临床病理参数，可能不能充分反映潜在生物学行为。深度学习模型虽已用于肿瘤学，但在pNEC中应用有限，且少数可用预后模型很少在独立外部队列验证，限制临床采用。因此需要整合多维数据并外部验证的新预后工具。Transformer模型最初用于自然语言和图像处理，其自注意力机制可捕捉高维数据复杂依赖；在肿瘤学中，基于Transformer的方法在整合临床、基因组和影像数据方面显示前景。然而多数应用针对高维多模态输入；对更常见的小型结构化临床病理数据集，尤其pNEC等罕见肿瘤，Transformer建模是否有帮助仍不清楚。TabPFN（Tabular Prior-data Fitted Network）是专为中小表格数据集设计的预训练Transformer基础模型，可进行上下文学习而无需任务特异超参数调优，据报道在小数据集上可匹配或优于梯度提升集成，因此是罕见癌症预后建模的合理候选。本研究旨在利用研究人员所在机构数据开发基于Transformer的pNEC预后预测模型，并在第二机构独立手术队列中外部验证其性能；通过比较Transformer模型与传统逻辑回归（LR）和决策树（DT）算法，提供更准确、可泛化的预后工具以支持临床决策。据研究人员所知，这是首次将基于Transformer的表格基础模型用于pNEC预后预测并在独立队列外部验证。研究方法方面，该回顾性两中心队列纳入2001年7月至2023年5月病理诊断pNEC并手术的患者，中心1 n=374按8:2分为训练集和内部测试集，中心2 n=449为外部测试集，共823例；收集年龄、性别、吸烟史、手术方式、病理亚型、淋巴结清扫、术后辅助治疗、生存状态、肿瘤转移状态等，并按第8^th版UICC-TNM（Union for International Cancer Control-Tumor-Node-Metastasis，国际抗癌联盟-肿瘤-淋巴结-转移）系统再分期。特征选择在训练集进行：先保留P<0.05的特征，再对Pearson相关系数>0.85的特征对去除P值较高者，最后用LASSO（least absolute shrinkage and selection operator，最小绝对收缩和选择算子）选择非零系数特征。建模比较LR、DT和TabPFN，评价采用ROC（receiver operating characteristic，受试者工作特征）曲线、校准曲线及Hosmer-Lemeshow检验、DCA（decision curve analysis，决策曲线分析）、DeLong检验、IDI（integrated discrimination improvement，综合判别改善指数）、混淆矩阵和Kappa系数、Brier评分及SHAP分析。研究结果如下。患者特征：823例手术pNEC患者平均年龄57.5岁（14—83岁），SCLC和LCNEC合计超过50%，其余为低级别神经内分泌癌（LGNC；典型类癌TC和不典型类癌ATC）、混合瘤和同步瘤；8.9%接受新辅助化疗，62.9%接受辅助化疗和/或放疗；术中冰冻切片恶性诊断59.6%，但精确分类为SCLC或神经内分泌癌者不足三分之一；中位随访57个月（1—267个月），中位OS 57.5个月，中位DFS 48.2个月；末次随访时453例存活、370例死亡、287例（34.9%）复发；249例（30.3%）为老年（≥65岁），170例（20.7%）手术时间超过3小时；两中心临床特征存在差异。OS和DFS预测建模的特征选择：多步法选出年龄、病理类型、T category、N stage和疾病分期。OS预测模型性能评价：年特异性任务（OS1、OS3、OS5）优于整体OS预测；外部测试集AUC较内部下降但仍可接受；多数年特异性任务中TabPFN在两个测试集取得最高AUC；内部测试集中LR在1年OS最佳（AUC 0.885），TabPFN在3年OS最佳（0.880）；外部测试集中TabPFN在1年和3年OS最佳，LR在5年OS最佳（0.805），而整体OS任务所有模型外部AUC<0.5；混淆矩阵Kappa显示内部年特异模型预测与观察结局公平至中等一致，外部OS3和OS5亦如此；内部校准多数可接受，外部校准明显偏离，TabPFN外部Brier评分均<0.188。DFS预测模型性能评价：模型在各DFS任务表现稳定；内部测试集中TabPFN总体DFS、DFS1、DFS3、DFS5的AUC最高（0.810、0.892、0.862、0.854）；外部测试集中TabPFN总体DFS、DFS1、DFS3最高（0.766、0.747、0.778），LR在DFS5最佳（0.787）；所有模型预测与观察结局公平至中等一致，内部和外部最低Kappa分别为0.394和0.204；内部校准满意，外部校准明显偏离，TabPFN内部和外部Brier分别<0.159和<0.199。最优OS和DFS预测模型的临床有用性评估：基于IDI指数，TabPFN多数任务表现良好，故选为DCA评估的最优模型；TabPFN在所有年特异性OS任务显示净获益，内部OS3和外部OS5净获益最大；DFS任务净获益总体更高。最优模型在病理亚型中的性能分析：亚组包括LGNC、LCNEC、SCLC和混合型；内部测试集中OS、OS5、DFS、DFS5各亚型预测性能无显著差异，其余任务LGNC显著优于SCLC和混合型；外部测试集中除整体OS外，TabPFN对LGNC在各任务均更准确；外部亚组样本有限需谨慎解释。通过SHAP的最优OS和DFS预测模型可解释分析：多数任务中年龄和疾病分期居前三重要特征；以3年OS为例，疾病分期、病理类型、年龄和T stage是生存主要决定因素，SHAP值分布宽；图中红点或条对应较大年龄或晚期疾病，与负SHAP值相关，提示预测生存概率较低，符合高龄和晚期预后较差的临床观察，说明模型学到有临床意义的模式。讨论部分总结：TabPFN优势为任务依赖而非普遍；内部测试集中TabPFN在整体OS、3年OS、5年OS及所有DFS任务AUC最高，LR在1年OS最佳；外部测试集中TabPFN在1年和3年OS及总体、1年、3年DFS最佳，LR在5年OS和5年DFS最佳；SHAP提高可解释性；这是首次开发和外部验证基于Transformer的pNEC预后模型。Transformer通过自注意力处理高维多模态数据，在肿瘤预后建模中有优势；本研究以表格特征为主，故用为表格数据优化的预训练Transformer架构TabPFN；其多数任务优于传统模型，但计算成本和训练时间可能限制临床采用。外部验证中区分度下降但年特异任务AUC仍可接受（0.747—0.802），支持跨机构可迁移性；两队列病例组合和围手术期管理差异显著，性能维持提示所选临床病理预测因子捕捉稳健预后信号；整体OS任务外部表现差（AUC<0.5），年特异界标任务转移较好，可能因整体二分类标签依赖随访时长和删失模式，建议优先应用界标模型。外部校准偏差常见于不同机构病例组合和治疗模式，临床使用前可能需要局部重校准（如Platt scaling或isotonic regression）。与Rachel score相比，Transformer方法具互补优势：自注意力捕捉非线性交互、无需预设函数形式、超参数调优少、提供个体化风险估计及SHAP解释；列线图透明、床旁易部署、小样本不易过拟合；因队列未收集Rachel score所需部分变量，未直接定量比较，未来需外部队列直接比较。深度学习“黑箱”问题通过SHAP缓解，年龄、病理亚型、T stage和N stage为OS和DFS最有影响预测因子；未来可加LIME和Grad-CAM。合并所有病理亚型建模的理由：pNEC罕见，亚型分层尤其混合和同步瘤样本过少；病理亚型作为每个任务候选预测因子，可捕捉亚型依赖基线风险并从共享预测因子借力；亚组分析提供各亚型任务级性能估计；未来亚型特异模型尤其类癌与高级别神经内分泌癌分开可能更好。亚组性能差异与肺神经内分泌肿瘤生物和临床异质性一致；LGNC临床过程更惰性可预测，结局更由分期和年龄决定，模型易捕捉；高级别和混合型结局更依赖分子异质性和治疗反应，临床病理变量不能完全捕捉；LCNEC分子多样，有SCLC样、NSCLC样和类癌样亚型，治疗反应不同；混合型含多种组织成分，预后可能由优势成分或成分间交互驱动；LCNEC对铂类化疗常不如SCLC敏感；外部亚组样本少需谨慎。年龄也是DFS重要决定因素，老年预后较差，与免疫下降、治疗耐受差和合并症多有关；高级别神经内分泌癌在老年更常见，TC和ATC中年更常见，亚型分布差异也促成老年预后差；治疗策略和耐受性也影响老年结局。临床场景包括术前风险分层、辅助治疗规划（如预测3年OS<50%高危者考虑更强辅助方案或临床试验，低危者避免不必要毒性）、风险分层监测；DCA显示两个测试集广泛阈值范围净获益（内部3年OS最大、外部5年OS最大），临床有意义阈值约0.3用于辅助化疗获益识别、0.5用于强化与标准随访分层、0.7用于姑息治疗讨论候选，需前瞻验证并按机构治疗模式和患者偏好优化。局限性包括回顾性两中心、病例组合和治疗模式差异大、需更广泛多中心前瞻验证且外部代表性不足亚型（尤其SCLC）泛化有限；内部到外部区分度下降且外部校准明显偏差，需局部重校准；特征选择仅在训练集一次且未嵌入重采样循环，可能乐观偏倚；缺基因组和影像组学特征，整合TP53和RB1改变状态、Ki-67指数、DNA甲基化谱及CT影像组学可提高准确性，尤其LCNEC等分子异质亚型；SHAP虽提高可解释性但仍需更多透明化策略和临床工作流整合；生存结局按二分类界标终点而非时间事件回归（如Cox比例风险模型）建模，便于分类方法同质比较但需与Cox模型直接比较；特征选择主要满足传统统计模型假设并保持各方法相同特征集以公平比较，TabPFN不需共线性筛选，评估全特征TabPFN可能进一步提高性能；随访完整性未系统量化，失访与完成随访者潜在差异未充分分析，可能引入生存偏倚。研究结论翻译：总之，研究人员开发了一种基于Transformer的深度学习模型（TabPFN）用于pNEC预后预测，并在独立机构队列中进行外部验证。TabPFN在多数预测任务中取得最佳区分度，相对逻辑回归和决策树模型具有任务依赖优势，且在3年结局中最一致。SHAP分析提高了解释性，并为临床医生提供临床相关解释以支持决策。在外部校准优化和多中心前瞻性验证后，TabPFN可能成为pNEC患者个体化预后评估的有用工具。