Gene-Chronos：基于预训练单细胞基础模型的参数高效发育时间推断

《Briefings in Bioinformatics》：Gene-Chronos: parameter-efficient developmental time inference using a pretrained single-cell foundation model

　　

大规模单细胞与空间转录组图谱使得在高分辨率下研究发育过程成为可能。然而，多数数据集仅捕获细胞的静态快照，难以从转录组谱中推断连续的生物时间。现有时间推断方法在异质数据集间鲁棒性有限，而近期单细胞基础模型虽擅长表征学习，却未针对连续时间关系设计。研究人员提出 Gene-Chronos，一种构建于冻结预训练 Geneformer 主干上的参数高效发育时间推断框架。该模型引入可学习时间提示词元（temporal prompt tokens）与时序对比目标，提取含时间信息的信号并促使细胞表征按时间连贯组织。在涵盖多物种与发育阶段的多个基准数据集上，Gene-Chronos 优于现有方法，并对未见样本展现强泛化能力。基于注意力的分析进一步识别出与发育进程相关的基因，为时间基因表达动态提供可解释洞察。

研究背景方面，单细胞与空间转录组学虽能刻画细胞异质性与谱系动态，但绝大多数数据集仅为连续发育过程的静态切片，恢复潜在时间结构困难；传统轨迹推断与伪时间算法仅给相对序位、无绝对时间锚定，监督式方法如 Psupertime 与 TemporalVAE 易受数据集特异技术变异影响，跨个体与跨平台迁移鲁棒性不足；同时 Geneformer、scGPT、scFoundation 等单细胞基础模型具备强表征能力，却未显式建模连续时间关系，其时间推断潜力未被发掘。为此，研究人员开展本研究，以冻结 Geneformer 为骨架，仅训练轻量时序适配器，实现绝对生物时间回归，并在小鼠、人、斑马鱼胚胎发育图谱上验证跨个体、跨数据集与跨阶段泛化。结论表明，该方法以占主干 0.8% 的可训练参数量（2.6 M）超越全微调基线，峰值显存降至 0.4 GB，在基准与图谱尺度均取得更优 Spearman、Pearson、RMSE 与 R²，且注意力权重可回溯发育相关基因，具有重要方法学意义；论文发表于《Briefings in Bioinformatics》。

关键技术方法上，研究人员采用 Geneformer 的 Rank Value Encoding 将表达谱转为有序基因序列，冻结其 18 层 Transformer 参数，取全序列上下文嵌入 E_seq∈R^L×D_z；设计 K=16 个可学习时间提示词元 T_p∈R^K×D_z 作为跨注意力查询，对 E_seq 做 CrossAttention 聚合得 E_temp，均值池化后经 MLP 回归头预测归一化绝对时间；损失为 L_total=L_reg+λ·L_align（λ=0.1），其中 L_reg 为 MSE，L_align 为基于时间差阈值 δ、Δ 与边界 m 的三元组式余弦距离对比损失。样本覆盖 Acinar（人胰腺约 400 细胞）、EBC（小鼠胰腺约 600 细胞）、HFGC（人生殖系约 1400 细胞）三基准，及小鼠胚胎（约 770k，E9.5–E16.5）、人早期胚胎（约 380k，E0–E29）、斑马鱼胚胎 ZESTA（约 62k，3–24 hpf）三图谱。

研究结果部分，材料与方法小节已述架构与双目标损失。结果与基准数据集性能小节显示，Gene-Chronos 在 Acinar、EBC、HFGC 上平均 Spearman 由 0.799 升至 0.850，Pearson 由 0.820 升至 0.866，归一化 RMSE 由 0.251 降至 0.171，HFGC 上 Spearman 达 0.765，参数量仅 2.6 M、显存 0.4 GB。图谱尺度时间推断、迁移泛化与可视化小节设三种迁移：小鼠胚胎 1→2 跨个体，人胚胎跨数据集（Xiang、Yan 留出），斑马鱼六折留一时间点的跨阶段；小鼠上 Pearson 0.902、Spearman 0.829、RMSE 0.713 天、R² 0.794，人上 Spearman 0.923、RMSE 1.522 天，斑马鱼上 Kendall τ 0.681、R² 0.679，均优于 TemporalVAE；小提琴图显示预测时间随标注阶段单调前移。小鼠胚胎内软骨内成骨谱系小节中，PCA 隐空间同时按细胞身份（Cartilage Primordium→Bone）与 E15.5→E16.5 分离，证实时间连贯性。可解释性分析小节取跨注意力权重排序，顶位基因含 Actb、Lars2、Hba-x，其原始表达在人鼠训练集呈阶段依赖分布，与文献记载发育角色一致。

讨论与结论翻译：研究人员指出，Gene-Chronos 证明冻结单细胞基础模型经参数高效适配器即可胜任绝对发育时间回归，时序提示与对比正则共同促成跨物种（主干仅用人预训练却迁移至鼠、斑马鱼）、跨个体与跨平台泛化；λ 过大致值崩塌、过小失时间拓扑，0.1 为平衡默认；注意力回溯提供时间基因调控可解释性。该研究为可扩展、可解释的生物学时间推断建立了新范式，后续可拓展至更多组织与疾病时间轴建模。