《Frontiers in Cellular and Infection Microbiology》：Time Series Transformer for long-term CD4 trajectory prediction in HIV patients: a novel deep learning approach
编辑推荐：
背景：准确预测CD4+ T细胞轨迹对于监测HIV治疗疗效和指导临床决策至关重要。传统统计方法虽能提供群体水平见解，但在真实世界数据中难以捕捉非线性的、患者特异性的时间模式。方法：研究人员开发了一种时间序列Transformer（Time Series Tran
背景：准确预测CD4+ T细胞轨迹对于监测HIV治疗疗效和指导临床决策至关重要。传统统计方法虽能提供群体水平见解，但在真实世界数据中难以捕捉非线性的、患者特异性的时间模式。方法：研究人员开发了一种时间序列Transformer（Time Series Transformer），将多头自注意力机制与静态患者特征相整合。历史12个月的CD4测量值与治疗方案、人口统计学特征及基线临床参数在编码器-解码器框架（4层，8头，d_model=128）中联合建模。该模型在包含5,436名HIV患者的回顾性队列中进行训练和内部验证，这些患者的CD4测量值覆盖ART后长达24个月，采用患者水平数据划分。结果：在测试集上，模型在6个月预测中实现了平均绝对误差（MAE）为5.36 cells/μL，均方根误差（RMSE）为6.94 cells/μL，决定系数（R2）为0.9990。模型在各患者亚组中表现一致，误差分布无偏且近似正态。特征重要性分析确定基线CD4、治疗方案和ART启动时间为主要预测因子，与临床知识相符。结论：正则化的时间序列Transformer能够在真实世界HIV队列中提供高精度的、患者特异性的CD4轨迹预测。临床特征的可解释整合为理解免疫恢复提供了透明框架。本研究展示了现代序列模型补充传统工具并支持个体化HIV护理的潜力。
**论文解读：基于时间序列Transformer的HIV患者长期CD4轨迹预测**
**一、研究背景与问题**
人类免疫缺陷病毒（HIV）感染仍是全球重大公共卫生问题，据估计全球约3800万HIV感染者，每年新增约150万感染病例。虽然抗逆转录病毒疗法（ART）的普及显著降低了HIV相关死亡率，将HIV转变为可管理的慢性疾病，但长期治疗策略的优化和治疗反应的精确监测仍面临重大临床挑战。CD4+ T细胞计数作为免疫能力的关键标志物，是追踪疾病进展、评估免疫恢复、评价ART疗效和指导临床管理的基石性生物标志物。因此，准确预测个体CD4+ T细胞轨迹（即ART启动后CD4计数的动态变化）对于调整治疗、实现个体化护理和改善长期临床结局至关重要。
传统CD4轨迹预测方法主要依赖线性混合效应模型、生存分析、广义估计方程（GEE）及多种回归技术。虽然这些统计方法为理解CD4动态提供了有价值的信息，但存在根本性局限：难以捕捉复杂的非线性模式、长期时间依赖性、多个临床变量间的高阶交互作用，以及不同患者群体中观察到的异质性恢复轨迹。此外，现有模型通常侧重于短期预测（通常3-6个月），可能无法充分处理纵向临床数据中固有的复杂时间动态、非平稳模式和患者特异性变异。传统模型中的线性假设和固定效应进一步限制了其建模治疗方案、患者特征与CD4恢复模式之间复杂关系的能力。
近年来，深度学习领域尤其是最初为自然语言处理开发的Transformer架构，在计算机视觉、语音识别和时间序列预测等跨领域序列建模任务中取得了显著成功。Transformer固有的自注意力机制与循环架构有本质区别，能够直接建模序列中任意两个位置之间的关系，不受距离限制，从而有效捕获长期依赖和复杂时间模式。这一能力使Transformer特别适合时间序列预测，尤其是在理解长期趋势和依赖关系至关重要的场景中。在临床预测背景下，Transformer已在死亡预测、疾病进展建模、治疗反应预测和电子健康记录分析等任务中展现出巨大潜力。Informer、Autoformer和Pyraformer等模型在长期时间序列预测中相比传统循环神经网络和统计方法表现出优越性能，表明其应用于临床时间序列预测的可行性。
**二、研究开展与主要结论**
研究人员提出了一种专为HIV患者长期CD4轨迹预测设计和优化的新型时间序列Transformer架构。该架构通过统一基于注意力的框架，将历史CD4测量与静态患者特征（包括治疗方案、人口统计学因素、临床参数和传播途径）独特整合，使模型能够基于患者特异性因素进行条件预测。模型利用多头自注意力机制建模长期依赖，实现了长达6个月的CD4轨迹预测，该预测时域与典型随访间隔一致，具有临床实用性。研究在西安市第八医院2014年1月至2023年12月期间启动ART的5,436名HIV感染者的回顾性队列中进行了内部验证，通过患者水平数据划分确保无数据泄漏。测试集结果显示，模型在6个月预测中达到MAE为5.36 cells/μL、RMSE为6.94 cells/μL、R2为0.9990的优异性能，显著优于持久性基线、线性外推、线性混合效应（LME）、长短期记忆网络（LSTM）、门控循环单元（GRU）和时间融合Transformer（TFT）等六种基线模型。特征重要性分析表明，基线CD4计数、治疗方案和ART启动时间为主要预测因子，与临床认知高度一致。该研究发表在《Frontiers in Cellular and Infection Microbiology》。
**三、关键技术方法**
研究人员使用了以下主要技术方法：（1）时间序列Transformer架构，包含序列嵌入层、静态特征嵌入网络、位置编码、多头自注意力编码器（4层、8头、d_model=128）、自回归解码器和预测头；（2）特征融合机制，在每个时间步将静态患者特征与时间序列嵌入拼接并投影，实现患者特异性条件预测；（3）数据预处理管道，包括中位数缺失值插补、IQR离群值检测与鲁棒缩放、不规则门诊测量对齐到以ART启动为锚点的月网格（月内中位数汇总、线性插值和LOCF填补），以及滑动窗口构建（12个月回看窗口、6个月预测时域）；（4）训练策略采用AdamW优化器、ReduceLROnPlateau学习率调度、早停（耐心15轮）、梯度裁剪（最大范数1.0）和L2正则化（权重衰减1×10??）；（5）采用患者水平数据划分（训练64%、验证16%、测试20%），共产生38,052个训练序列（来自5,436名患者）。模型在测试集上评估MAE、RMSE和R2，并进行了置换重要性分析。
**四、研究结果**
**（1）研究人群特征**：队列包含5,436名HIV患者，中位年龄35岁（IQR: 28–45），男性占92.6%。同性性接触为主要传播途径（69.9%），基线CD4中位数299 cells/μL（IQR: 159–438），65%的患者在ART启动时CD4<350 cells/μL。TDF/3TC/EFV为最常见初始方案（71.6%）。中位随访18个月，共贡献43,488次观测和38,052个序列。
**（2）总体模型性能**：时间序列Transformer在独立测试集上（n=7,609窗口，来自1,087名患者）达到MAE 5.36 cells/μL、RMSE 6.94 cells/μL、R2=0.9990。训练和验证损失随42轮训练单调下降，学习率按计划衰减。该高R2值反映模型对预处理数据中结构化方差的高比例解释，并非绝对临床意义上近乎完美预测。与持久性基线（MAE 27.7）、线性外推（42.2）、LME（28.0）、LSTM（12.3）、GRU（11.9）和TFT（11.2）相比，模型性能大幅提升。
**（3）预测示例和可视化分析**：选取六例代表性患者（涵盖低基线CD4快速恢复、高基线CD4稳定轨迹、渐进线性增加、恢复后平台期和持续改善等模式），模型预测与实际CD4测量紧密吻合。散点图显示所有测试集预测（n=7,611）紧密聚集在y=x对角线周围，覆盖50–1,500 cells/μL范围，无系统偏差。
**（4）误差分析与模型鲁棒性**：测试集预测（n=45,666）的平均预测误差为–1.27 cells/μL（SD: 6.82），近似正态分布且中心接近零。MAE中位数4.33 cells/μL，75%的预测误差<10 cells/μL，95%<14 cells/μL。跨6个月预测时域，MAE从第1个月的3.84 cells/μL温和增至第6个月的6.68 cells/μL，展示稳定的长期预测性能。
**（5）特征重要性与模型可解释性**：置换重要性分析表明，基线CD4计数为最主导预测因子（相对重要性1.00），其次为基线CD8计数（0.663）、基线CD4/CD8比值（0.593）、治疗方案（0.464）、年龄（0.404）、BMI（0.328）、诊断至ART启动时间（0.307）和传播途径（0.265）。人口统计学因素（性别、体重、身高、种族）重要性相对较低。这些排名与临床知识一致，验证模型利用具有临床意义的预测因子。
**（6）基线CD4和年龄按治疗方案分层**：TDF/3TC/EFV方案在各年龄组基线CD4稳定（约350–400 cells/μL），BIC/FTC/TAF基线值略低（250–350 cells/μL），3TC/TDF/ANV在年轻患者中基线CD4较高，其他方案变异性更大。总体而言，年轻患者（<35岁）往往以较高基线CD4启动ART。
**（7）关键临床特征的相关性结构**：基线CD4和CD8计数呈中等正相关（r=0.38），CD4/CD8比值与基线CD4正相关（r=0.51），与CD8弱负相关（r=–0.17）。BMI和体重强相关（r=0.87），但人体测量指标与基线CD4仅弱相关（r=0.09–0.17）。大多数成对相关性弱至中等（|r|<0.5），表明多重共线性不是主要问题。
**（8）不同治疗方案的基线CD4分布**：六种最常用方案覆盖5,426名患者（99.8%），按中位基线CD4排序。TDF/3TC/EFV（n=3,893）呈右偏分布，中位数约300 cells/μL；BIC/FTC/TAF（n=439）中位数280–300；3TC/TDF/ANV（n=186）中位数约320–350；3TC+DTG+TDF（n=148）和3TC/DTG（n=122）中位数较高（约320–350）；其他方案（n=326）分布更宽且较低（约250–280）。方案间分布重叠明显，表明基线CD4并非决定治疗选择的唯一因素。
**五、讨论总结与研究结论**
讨论部分指出，模型在6个月预测时域内实现了极低的预测误差（R2=0.9990；MAE=5.36 cells/μL），显著超越传统方法。其高精度可归因于多个架构创新：静态特征在每个时间步的融合使模型能够条件化注意力计算于个体特征；多头自注意力直接建模任意时间点间的依赖关系；保守的正则化策略（dropout p=0.1、权重衰减1×10??、早停）和患者水平数据划分防止过拟合。误差分析显示误差近似正态分布且无偏，随预测距离增加仅温和上升。特征重要性与临床知识高度一致。然而，研究存在若干局限：单中心数据（西安第八医院）、队列以男性为主（92.6%）、同性传播占主导（69.9%）、TDF/3TC/EFV为优势方案（71.6%），可能限制外推性；未测量的混杂因素（如依从性、合并症、社会经济因素）可能影响轨迹和预测；回顾性设计无法完全预判治疗中断、耐药突变或机会性感染等突发事件；深度学习模型相对传统回归仍较不透明。未来工作需进行外部验证、前瞻性评估、扩展架构以纳入更多信号（如病毒载量、耐药检测、依从性代理指标）、提供校准的不确定性估计，并解决伦理和治理问题。
**研究结论**：研究人员开发和内部验证了用于HIV患者长期CD4轨迹预测的时间序列Transformer，在大型真实世界队列中于6个月时域内实现了高精度（R2=0.9990；MAE=5.36 cells/μL）。通过注意力机制将时间CD4历史与静态患者特征整合，模型捕获了个体化恢复模式，同时保持稳定无偏的性能。这些结果不表明深度学习取代传统方法，而是通过实现患者特异性预测补充传统方法。模型特征重要性与既定临床知识的高度一致支持其可信度和潜在效用。未来价值不在于进一步单数据集优化，而在于外部验证、工作流程整合和负责任治理。然而，在包括不同性别分布、传播途径和治疗方案的地理和人口多样化队列中进行多中心外部验证之前，该模型应被视为探索性决策支持工具，而非常规个体化HIV护理的基础。在适当保障措施下，基于注意力的模型可作为可解释的决策支持工具，用于个性化监测和增强患者-临床医生关于免疫恢复的沟通。
