对用于零样本变异效应预测的 DNA 基础模型进行基准测试，表明了上下文、训练和架构的重要性

《Genome Biology》：Benchmarking DNA foundation models for zero-shot variant effect prediction shows the importance of context, training, and architecture

　　

摘要

背景

在本研究中，我们系统地评估了若干 DNA 基础模型（NT、DNABERT、HyenaDNA 和 Evo 2）在预测遗传变异功能影响方面的性能，使用了零样本评分（Zero-shot scoring），这是一种不需要特定任务微调的方法。我们评估了模型对由单核苷酸变异（SNVs）引入的序列改变的敏感性，比较了它们捕捉局部和扩展上下文效应的能力。

结果

使用来自 ClinVar 的致病性、良性及意义未明的 SNVs，我们表明大型多物种 NT 模型在检测功能后果方面优于其他架构，不仅在 SNV 位点，而且在相邻区域也是如此。这些模型在变异类别中表现出优越的判别能力，特别是在多个周围 token 上聚合零样本评分时。相反，仅基于人类序列训练的模型或依赖于下一个 token 预测目标的模型（如 DNABERT、HyenaDNA 和 Evo 2），表现出有限的上下文感知能力和区分变异效应能力的降低。

结论

我们的发现强调了模型大小、训练目标和训练数据多样性在塑造模型性能方面的关键重要性。此外，我们讨论了当前在基因组序列长程依赖建模方面的局限性，并建议 Transformer 架构的创新，如稀疏注意力或内存增强模型，可能为可扩展的、全基因组范围内的变异效应预测提供可行的路径。