抗体语言模型在抗体设计下游任务中的综合基准测试

《Genome Biology》：Comprehensive evaluation of antibody language models across multiple antibody design tasks

　　

摘要

背景

抗体语言模型（ALMs）已成为计算抗体设计的强大工具，但它们在各种任务中的表现仍需进一步探索。

结果

我们建立了一个全面的基准测试，评估了八种抗体语言模型（AntiBERTy、AntiBERTa、AntiBERTa2、AbLang、AbLang2、ReprogBert、BERT2DAb和BALM），这些模型在五个与抗体设计相关的下游任务中进行了测试。这些任务包括序列级任务，如HER2结合预测、SARS-CoV-2结合预测和结合亲和力回归，以及标记级任务，如抗原结合位点（paratope）和互补决定区（CDR）预测。我们评估了几个因素对ALM性能的影响，包括预训练数据集的大小、微调策略和训练数据量。结果表明，AbLang、AntiBERTa2和AbLang2整体上是表现最好的模型，它们在特定任务上具有优势，而BALM在结合亲和力回归任务中表现出色。对于二元任务（如HER2结合和抗原结合位点预测），模型之间的性能差异很小。此外，将预训练数据集减少到576,000个抗体序列对模型性能的影响几乎可以忽略不计，某些模型甚至表现有所提升。我们还探讨了各种微调方法的必要性和有效性，并研究了微调数据集大小的影响。

结论

本研究为抗体语言模型的优势和局限性提供了宝贵的见解，并为改进预训练方法、微调策略和模型架构提供了指导，以增强它们在抗体设计中的应用。