CDS-BART：一个基于去噪序列到序列变换器的开源mRNA属性预测工具

《Bioinformatics Advances》：CDS-BART: A BART-Based Foundation Model for mRNA Sequence Analysis

　　

摘要

总结

近期人工智能（AI）领域的进展推动了将mRNA视为一种语言进行解读的基础模型的发展。代表性模型包括CodonBERT、HydraRNA、Evo 2和Helix-mRNA。这些模型展示了作为mRNA研究强大工具的巨大潜力。然而，据我们所知，目前尚无可用的公开AI模型，既能方便易用，又能够分析长度约达4 kb的mRNA序列，而这一长度尺度正是许多治疗性mRNA（包括封装于脂质纳米颗粒中的mRNA）的典型特征。因此，我们提出了CDS-BART——一个用户友好、开源的工具，它将SentencePiece子词分词与双向及自回归变换器（BART）的去噪序列到序列训练相结合。CDS-BART基于NCBI RefSeq数据库提供的九类生物分类群的mRNA数据进行预训练。这种全面的预训练结合BART的去噪能力，支持学习编码序列（CDS）层面的序列规律，有助于下游mRNA属性预测任务。因此，CDS-BART最终能够在广泛的mRNA预测任务中实现稳健的性能表现。

可用性与实现

CDS-BART依据MIT许可证发布。最新代码可通过GitHub获取，地址为：https://github.com/mogam-ai/CDS-BART，并已存档于Zenodo（DOI: 10.5281/zenodo.21502775）。