《Bioengineering》：TabTransformer Prediction of Neurological Deterioration in Mild Traumatic Brain Injury with Computed Tomography
编辑推荐：
摘要专业翻译
背景：老年创伤性脑损伤（traumatic brain injury, TBI）患者即使在入院时格拉斯哥昏迷量表（Glasgow Coma Scale, GCS）评分为13–15分，仍可能出现神经功能恶化。本研究评估了TabTransformer
摘要专业翻译
背景：老年创伤性脑损伤（traumatic brain injury, TBI）患者即使在入院时格拉斯哥昏迷量表（Glasgow Coma Scale, GCS）评分为13–15分，仍可能出现神经功能恶化。本研究评估了TabTransformer能否利用入院时获得的临床发现、凝血检测结果及定量计算机断层扫描（computed tomography, CT）测量值预测24小时内的神经功能恶化。方法：研究人员回顾性研究了在单中心接受保守治疗的350例患者。神经功能恶化定义为24小时内GCS评分下降至少2分。研究人员将带有多层感知器（multilayer perceptron, MLP）分类头的TabTransformer与极限梯度提升（Extreme Gradient Boosting）、随机森林、逻辑回归及仅含MLP的消融模型进行了比较。评估指标包括受试者工作特征曲线下面积（area under the receiver operating characteristic curve, AUROC）、精确率-召回率曲线下面积（area under the precision-recall curve, AUPRC）、灵敏度、特异度、Brier评分及校准曲线。研究人员使用Shapley加性解释（Shapley Additive exPlanations, SHAP）检验模型行为，并将预测概率分为三分位数进行探索性风险分层。结果：在测试集上，TabTransformer的AUROC达到0.825（95%置信区间，0.713–0.927），事件率反映了校正后的结局患病率。这些数值优于对比模型。D-二聚体、急性硬膜下血肿厚度、纤维蛋白原及最大脑挫裂伤直径对预测的贡献最为显著。观察到的恶化率在低、中、高风险概率组中依次升高。结论：在该队列中，TabTransformer的预测校准良好，并能区分发生与未发生神经功能恶化的患者。SHAP值有助于解释个体预测。在模型考虑用于临床之前，仍需在其他中心的前瞻性队列中进行验证。
论文解读文章
一、研究背景与问题
随着人口老龄化进程加速，老年人在创伤性脑损伤（traumatic brain injury, TBI）患者中所占比例持续增长。许多老年患者因跌倒或其他低能量事件受伤，入院时并无明显神经功能缺损，但这一初始表现可能具有误导性。随着年龄增长，脑血管更为脆弱，生理储备降低，高血压、糖尿病或抗凝治疗等因素可能使恢复过程复杂化。部分入院时格拉斯哥昏迷量表（Glasgow Coma Scale, GCS）评分为13–15分的患者会在随后数小时内出现病情恶化。临床医生面临的难题在于，如何在入院时判断哪些患者需要特别密切的观察。
TBI后神经功能状态下降与住院时间延长、残疾程度加重和死亡率升高相关。反复的临床检查不可或缺，但细微的变化可能难以与既有的认知障碍或并发疾病的影响相区分。入院时做出的风险评估可帮助临床医生决定检查频率、何时重复影像学检查以及凝血异常是否需要早期干预。早期识别有恶化风险的患者，有助于实施更有针对性的干预措施，如加强监测、及时神经影像检查和优化止血治疗。
CRASH和IMPACT模型常用于TBI预后评估，但其预设变量和模型项可能无法捕捉实验室结果和影像测量加入临床发现后产生的交互作用。既往研究已将早期恶化与凝血功能紊乱和CT异常联系起来。D-二聚体升高和纤维蛋白原降低可伴随活动性出血，而急性硬膜下血肿（acute subdural hematoma, ASDH）厚度、中线移位、挫裂伤大小和骨折类型则描述了颅内损伤的不同方面。另一个困难在于，轻至中度TBI患者中仅有约6%发生恶化，事件数过少时，传统回归和简单决策树可能无法识别不太明显的非线性关系。
基于深度学习的结构化数据预测方法因其能够从异质的临床、实验室和影像变量中捕捉复杂的潜在非线性关系而被广泛应用。在此背景下，研究人员探讨了基于注意力机制的架构能否在传统多层感知器（multilayer perceptron, MLP）之外提供额外的预测信息。Abe等人使用XGBoost分析了多中心Think FAST注册数据，报告AUROC为0.77，其分析中D-二聚体、纤维蛋白原和ASDH厚度在SHAP值排序中位居前列。树集成方法对许多表格数据问题有效，但每个预测由一系列分支规则组合而成。因此，研究人员测试了一种基于注意力的替代方案，该方案可以在类别变量表示与连续测量值结合之前学习类别变量之间的关系。
TabTransformer将类别变量嵌入并应用多头自注意力来学习它们之间依赖上下文的关联，编码后的类别表示可与连续的临床、实验室和影像测量值相结合。该架构适合检验在混合临床数据集中注意力机制是否比传统MLP提供更多预测信息。
二、研究设计与方法
研究人员开展了一项单中心回顾性队列研究，使用电子病历和影像档案，筛选了2021年10月至2024年12月期间连续入院患者。纳入标准为年龄18岁及以上、有记录的头部创伤、入院GCS评分为13–15分且未接受立即开颅手术的患者。排除了24小时内接受手术、住院时间不足24小时或临床及影像数据严重缺失的患者。最终队列包含350例患者（男性113例，女性237例），平均年龄57.91 ± 12.32岁。结局定义为入院后24小时内GCS评分下降至少2分。在此定义下，350例患者中有92例（26.3%）达到结局标准。
候选预测变量选自入院时常规记录的信息，包括临床变量（年龄、性别、损伤机制、入院收缩压、心率、伤前抗血小板或抗凝药物使用、初始止血或逆转治疗）、实验室变量（D-二聚体、纤维蛋白原、凝血酶原时间-国际标准化比值、活化部分凝血活酶时间和血小板计数）以及CT变量（ASDH和硬膜外血肿厚度、最大挫裂伤直径、中线移位、基底池状态、创伤性蛛网膜下腔出血、颅骨或颅底骨折）。两位经验超过五年的神经放射科医生在不知晓结局的情况下独立评估影像，测量值取平均，分类评定分歧通过协商解决。研究人员还在训练集上进行了LASSO回归用于特征选择和正则化，最终正则化强度λ = 0.0256。
D-二聚体值约18%的患者缺失，纤维蛋白原值约15%缺失，其余变量缺失率低于5%。研究人员对连续临床和实验室变量应用链式方程多重插补，并以K近邻插补作为敏感性分析。插补模型仅在训练集上拟合，然后不加重新拟合地应用于验证集和测试集。患者按70:30比例分配到训练集（245例）和测试集（105例），训练集用于估计模型参数，超参数和约登指数阈值在验证集上选择，测试集仅用于最终评估。
预测网络由TabTransformer编码器后接MLP分类器组成。类别字段和连续测量值通过独立路径进入模型。损伤机制、药物类别及其他类别字段转换为可训练向量，在进入注意力模块前添加特征位置编码。数值测量值经标准化但不经过类别编码器，两条路径在MLP头之前汇合。类别嵌入通过四个连续的Transformer模块，每个模块使用八个注意力头、前馈网络、层归一化和残差连接。MLP头包含128、64和32个单元的隐藏层，每层后接修正线性单元激活、批归一化和0.3的丢弃率。Sigmoid输出单元返回神经功能恶化的估计概率。由于仅92例患者（26.3%）发生结局，训练采用加权二元交叉熵，正类权重由训练数据中负类与正类的比率计算。
研究人员将TabTransformer与逻辑回归、随机森林和XGBoost进行比较，各模型使用相同的预测变量、患者划分和预处理步骤。为估计注意力编码器的贡献，还训练了仅MLP的消融模型，其中类别变量保持嵌入、连续变量保持标准化，但移除Transformer模块。学习率、Transformer层数、注意力头数和丢弃率根据验证集性能选择。
三、研究结果
3.1 研究人群基线特征
在350例患者中，92例（26.3%）发生神经功能恶化，258例（73.7%）保持稳定。训练集事件数为69/245例（28.2%），测试集为23/105例（21.9%）。恶化组患者D-二聚体中位值为28.5 μg/mL，稳定组为9.8 μg/mL（p < 0.001）；恶化组平均纤维蛋白原较低（256 vs. 325 mg/dL；p = 0.002）；恶化组ASDH厚度中位值较大（6.8 vs. 3.1 mm；p < 0.001）。最大挫裂伤直径（p = 0.001）和收缩压（p = 0.018）也存在组间差异。年龄、性别和抗血栓药物使用在两组间相似。
3.2 模型预测性能
在测试集上，TabTransformer的AUC为0.825（95%置信区间0.713–0.927）。在选定分类阈值0.368下，灵敏度为0.552，特异度为0.908，阳性预测值为0.552，阴性预测值为0.696。TabTransformer在测试集中的判别能力优于对比模型：随机森林AUC为0.814，逻辑回归为0.804，XGBoost为0.797。TabTransformer还取得了最低的Brier评分（0.048）。校准图显示预测与观测恶化概率之间具有良好一致性，决策曲线分析表明在多种风险阈值范围内相比"全部治疗"和"不治疗"策略具有临床相关的净获益。
3.3 全局特征重要性分析
平均绝对SHAP值最大的五个变量依次为：D-二聚体、ASDH厚度、纤维蛋白原、最大脑挫裂伤直径和入院收缩压。风险估计随D-二聚体、ASDH厚度和挫裂伤直径升高而上升，随纤维蛋白原升高而下降。这些方向与组间比较一致，但属于拟合模型的性质，不应解读为因果证据。
3.4 关键预测因子的SHAP依赖分析
D-二聚体的SHAP贡献通常在约30 μg/mL以上转为正值；纤维蛋白原在约200 mg/dL以下呈现相反模式；ASDH厚度约5 mm和挫裂伤直径约10 mm处出现相应变化。这些转变点源于研究数据，并非已确立的临床截断值，在其他人群中可能发生偏移。
3.5 风险分层分析
按预测概率将患者分为三等份后，低风险组恶化率为0.9%，中风险组为3.4%，高风险组为14.5%。高风险组患者通常具有更高的D-二聚体、更厚的ASDH、更大的挫裂伤、更低的纤维蛋白原和更高的收缩压，与SHAP图显示的方向一致。三分位数展示了连续预测在该样本中的分布，但其切点来自同一分析人群，在独立数据验证前不能赋予临床意义。
四、讨论与结论
TabTransformer在测试集上取得了优于XGBoost、随机森林、逻辑回归和仅MLP消融模型的判别性能，但对仅MLP网络的改进幅度有限，表明注意力编码器贡献了额外信号，但在此场景下相对于更简单的神经架构增量收益有限。分析仅基于92个恶化事件，研究人员通过分层划分、重复五折交叉验证、1000次自举重采样、类别加权、丢弃和早停来限制和量化过拟合风险。
在选定操作阈值下，特异度为90.8%，阴性预测值为69.6%，而灵敏度为55.2%。相对适中的灵敏度和阴性预测值对事件患病率（26.3%）的依赖，凸显了需要将操作特征与判别能力（AUROC/AUPRC）和校准证据结合解读的必要性。约登阈值用于统计评估，可能不代表临床上对漏诊恶化与假警报之间平衡的偏好。
主要局限性包括结局事件数量有限（350例中92例）、单中心招募和回顾性记录审查。尽管自举抽样、交叉验证、正则化和早停减少了一些乐观偏差，但无法消除过拟合风险。激活函数选择是另一局限，未评估ReLU的替代方案。队列限于65岁及以上成人，CT测量为手动进行。模型仅依赖入院信息，未纳入后续生命体征、凝血结果或影像变化。
未来工作应首先在更大规模的外部队列中评估泛化性，并与其他表格架构（包括FT-Transformer和TabNet）进行比较。任何网络或移动部署应在预期临床环境中进行前瞻性验证和校准评估之后进行。后续模型可纳入系列临床和实验室观察或直接从CT图像学习的特征，前提是所有输入在预测事件之前可用。
研究结论：利用350例轻至中度TBI老年患者的入院数据，TabTransformer对24小时内神经功能恶化的测试AUROC达到0.825（95%置信区间0.723–0.927）。D-二聚体、ASDH厚度和纤维蛋白原对拟合预测贡献最为显著。这些估计来自具有92个结局事件的单中心队列。在模型或其风险分组用于个体患者决策之前，外部前瞻性研究应评估判别能力、校准和临床适宜的操作阈值。
