编辑推荐：
在基因组学研究中，不同大语言模型（LLMs）适用于何种具体任务尚不明确。研究人员针对此，对三类 LLMs 进行 G - 四链体（GQ）预测能力的基准测试。结果发现不同模型各有优势，相互补充。该研究为模型选择提供参考，意义重大。
在生命科学的神秘领域中，基因组学研究一直是探索生命奥秘的关键路径。随着深度学习技术的飞速发展，大语言模型（LLMs）在基因组学领域逐渐崭露头角，它们就像拥有神奇魔力的 “解码器”，试图解读基因组中隐藏的各种信息，预测不同的功能基因组元件。然而，目前有一个棘手的问题摆在研究者面前：面对种类繁多的 LLMs，哪一种才是最适合特定下游任务的 “得力助手” 呢？尤其是在生成全基因组注释这项复杂而重要的工作中，选择合适的模型更是至关重要。这个问题就像一把尚未解开的锁，阻碍着基因组学研究进一步深入发展。为了攻克这一难题，来自国外的研究人员踏上了探索之旅，他们聚焦于 G - 四链体（GQ，一种非 B DNA 结构，由鸟嘌呤残基折叠成四联体形成，在多种调控环境中发挥独特作用），开展了一项极具意义的研究。他们对基于 Transformer 的模型、基于长卷积的模型和状态空间模型（SSMs）这三类不同架构的 LLMs 进行基准测试，试图找出各类模型在预测 GQ 方面的优势与劣势 。最终，研究得出了令人瞩目的结论：不同类型的 LLMs 在预测 GQ 时表现各有千秋，它们相互补充，不同的上下文长度和模型架构能检测出不同的功能调控元件。这一结论为后续基因组学研究中模型的选择提供了重要的参考依据，就像在黑暗中为研究者点亮了一盏明灯，指引着他们在基因组学的研究道路上更精准地前行。该研究成果发表在《Computational and Structural Biotechnology Journal》上，引起了广泛关注。
研究人员在开展此项研究时，主要运用了以下几种关键技术方法：首先，他们收集了四种实验数据集（KEx、G4 ChIP-seq、G4-seq、G4 CUT&Tag）用于 GQ 检测，并使用随机选择的非 GQ 区域作为负标签，构建了平衡的数据集。其次，采用 k - mer 令牌化技术处理 DNA 序列数据。在模型评估方面，运用了准确率、ROC - AUC、F1 分数和马修斯相关系数（MCC）等标准分类指标进行评估。此外，通过标准的微调程序对 LLMs 进行微调训练，并利用低秩适应（LoRA）技术节省训练时间和内存。
3.1 LLM 在四链体数据集上的比较
研究人员对多种模型进行测试，包括 Transformer 模型（DNABERT、DNABERT - 2、GENA - LM）、HyenaDNA 和 Caduceus。利用四个实验四链体数据集进行基准测试，结果显示基于 MCC 和 F1 分数，DNABERT2 和 HyenaDNA 表现最佳。在训练时间上，HyenaDNA 相较于 Transformer - based 架构快 2 - 3 倍，比 Caduceus 至少快 1.3 倍。
3.2 LLMs 的解释
通过注意力分数对 Transformer - based LLMs 进行评估，发现其最高注意力分数与基因组频率不对应。对比所有模型预测的 GQ 环长度，HyenaDNA 能检测到更多长环 GQ，Caduceus 在预测长环（>10 bp）模式时表现优于 Transformer 模型 。
3.3 稀疏自动编码器（SAE）的应用
研究人员训练了一个简单的两层稀疏自动编码器（SAE），将基础模型的输出应用于 SAE，期望通过计算 Jaccard 距离聚类字典元素来减少特征空间，提高模型结果的可解释性，但结果并未在模型预测或特征嵌入聚类方面取得明显改进。
3.4 LLM 在全基因组水平的性能
以 KEx 数据集为基础，研究人员用五种不同的 LLM 模型生成全基因组预测。结果发现，Transformer - based 模型生成的分布模式相似，与 HyenaDNA 和 Caduceus 不同。HyenaDNA 在预测内含子、远端增强子和 CTCF 结合位点的新四链体方面表现更优，Caduceus 预测的新四链体数量最少。此外，HyenaDNA 和 Caduceus 能检测到长 GQ 簇（LG4），但有时无法捕获其全长。
3.5 嵌入聚类
研究人员利用微调后的模型生成数据集的嵌入，并通过 UMAP 算法进行聚类可视化。结果显示，Transformer - based 模型的聚类更密集紧凑，Hyena - DNA 和 Caduceus 的嵌入 UMAP 表示范围更广。不同调控区域的 GQ 在嵌入空间中的聚类情况不同，其中 CTCF 区域和 3’UTR 的 GQ 更具异质性。
在研究结论和讨论部分，研究人员指出，选择 GQ 进行研究是因为其在细胞中具有重要多样的生物学作用，且相关全基因组 GQ 图谱数据集可用于评估不同方法的优劣。研究结果表明，所有测试的 LLM 模型在四个实验四链体数据集上表现均较好，DNABERT - 2 和 Hyena - DNA 在 MCC 和 F1 指标上表现突出，且 HyenaDNA 参数少但能识别不同的 G - flipon 序列上下文。不同类型的 LLMs 在全基因组预测中反映出上下文长度和功能调控元件间依赖关系的重要性，不同模型的嵌入聚类结果也有所差异 。该研究强调不同类型的 LLMs 相互补充，为生成完整的基因组 G - flipon 图谱，需要结合基于 Transformer、长卷积和状态空间模型生成的图谱。这一研究成果为基因组学研究中 LLMs 的应用提供了重要参考，也为后续研究指明了方向，例如进一步探究模型架构对结果的影响，以及深入分析长 GQ 结构在核结构中的作用等。它就像一块基石，为基因组学研究的大厦奠定了更坚实的基础，推动着生命科学和健康医学领域的研究不断向前发展。
