计算生物学中负责任地使用人工智能(AI)与大型语言模型(LLMs)的十条规则

《PLOS Computational Biology》:Ten simple rules for responsible use of AI and LLMs in computational biology

【字体: 大 中 小 】 时间:2026年10月23日 来源:PLOS Computational Biology 3.7

编辑推荐:

  人工智能(AI)和大语言模型(LLMs)正在迅速改变计算生物学的实践,提供更快的产出、产生假设的新途径,以及加速分析复杂数据集和识别潜在解决方案。与许多计算学科一样,计算生物学已迅速采用AI,其在从蛋白质结构预测[1,2]和新序列生成[3–5]到医学应用和患者

  
人工智能(AI)和大语言模型(LLMs)正在迅速改变计算生物学的实践,提供更快的产出、产生假设的新途径,以及加速分析复杂数据集和识别潜在解决方案。与许多计算学科一样,计算生物学已迅速采用AI,其在从蛋白质结构预测[1,2]和新序列生成[3–5]到医学应用和患者交互[6,7]等各项任务中均达到了最先进的性能。然而,计算生物学提出了一个独特的挑战,因为AI生成的输出可以直接成为决定科学结论的分析决策、计算工作流和生物学解释[8–13]。LLMs日益增长的可访问性和热度降低了进入门槛,使计算培训有限的研究人员,包括湿实验室生物学家和临床医生,能够采用先进的计算方法,其输出可直接影响生物学结论和临床决策。由于这些系统可能产生看似合理但不正确的结果,并模糊信息的来源,不加批判或无监督的使用可能破坏可重复性、可解释性和科学严谨性,导致误导性结论或不可重复的结果[14–17]。计算生物学固有的跨学科性质,汇聚了具有不同专业知识且计算知识水平差异巨大的研究人员,进一步加剧了这些挑战,并引入了该领域特有的新挑战。LLM聊天机器人迅速融入科学工作流,促使出现了概述其在计算生物学及更广泛科学领域中应用场景的新视角[18–23]。这些指南大多通过描述各种科学活动(包括计算生物学[18]、基金申请写作[23]以及更广泛的科学工作流[19–22])中的适当用途和科学最佳实践,来提供负责任采纳的建议。尽管所有这些视角都承认潜在风险和不适当用途,但没有一个明确界定计算生物学中适当协助与有问题的委托之间的界限,也没有解决当AI生成输出可能直接塑造科学推理和结论时出现的挑战。边界缺失并非偶然,它反映了计算生物学中一个独特的灰色地带。与实验学科不同,在实验学科中,不当使用AI(如生成显微镜图像或修改PCR图)被广泛认为不可接受,而在计算研究中,AI生成的代码、分析和可视化可能直接且适当地对可发表成果有所贡献。这种双重角色——既作为支持工具又作为科学内容的生成器——模糊了可接受使用与有问题使用之间的界限。该视角为开发或应用计算方法的研究人员提供实用指导,帮助他们应对AI辅助生物信息学研究中的机遇与风险。
**研究背景与问题**
人工智能(AI)和大语言模型(LLMs)正深刻改变计算生物学(computational biology)的研究方式,在蛋白质结构预测、新序列生成、医学应用等任务中展现出强大能力。然而,AI生成的内容——包括代码、分析结果、可视化图表——可能直接融入计算流程,并最终影响生物学结论。LLMs的易用性让湿实验室研究者和临床医生也能使用,但也增加了不理解底层原理就盲目接受输出的风险。已有指南虽涉及负责任使用,却未能明确划分“适当协助”与“有问题的委托”的边界。由于在计算研究里,AI生成代码和图像可能合理成为可发表内容的一部分,这个问题尤其复杂。因此,研究人员Noam Auslander结合领域现状,提出了十条简单规则,旨在为研究者提供清晰、可操作的边界,帮助他们在获得AI效率提升的同时维护科学严谨性。

**研究内容与总体结论**
针对上述问题,研究人员Noam Auslander提出了十条规则,覆盖数据与图表、统计分析、代码编写、代码责任、单元测试、语法查询、数据探索、数据隐私、智能体AI以及稿件一致性。总体结论是:AI应作为加速器,而非决策替代者;研究者必须保持对科学判断的完全控制,并对所有AI生成内容负最终责任;可重复性和可审计性必须优先于速度。该文还强调,科学需要机制性理解和可重复的严谨性,而非来自聊天机器人的表面自信。

**主要技术方法**
本文是观点文章,不涉及实验数据或样本队列。方法上,研究人员通过梳理计算生物学中AI应用的典型场景和已有文献,并结合自身在生物信息学方法开发中的经验,归纳出十条规则。每条规则都包含具体示例和判别测试,例如“能否独立实现算法”作为可否使用AI编码的标准;同时将LLM使用场景分为“保护”“获得许可”“负责任使用”三类,用于数据隐私管理。

**研究结果**
1. **不要使用生成式AI创建、修改或美化原始数据、图形或分析输出**:由于生成式AI存在幻觉且易受提示影响,用于数据或图表会产生不可检测错误。所有数据处理和可视化应通过可审计、确定性的脚本(如GitHub托管的Python/R脚本)完成,并禁止针对美化数据的提示。
2. **不要将统计分析或统计检验选择委托给LLMs**:LLMs生成的定量统计结果(如p值、置信区间)可能错误且不可复现;统计检验应在分析前由研究者预先确定,否则会增加p-hacking(反复分析直至获得显著结果)的风险。
3. **在使用生成式AI进行编码前确保具备足够专业知识**:使用前提是用户能理解任务、评估和验证代码。如果研究者无法不借助AI独立形成算法,则不应依赖LLM生成的代码。
4. **对每一行AI生成代码负全责,不要“vibe-code”科学**:盲目接受AI代码而不理解其逻辑、假设、数值稳定性和边界条件,会导致不可重复甚至错误结论。必须逐行验证、理解算法、检查数学正确性,并最终用版本控制下的人工审计代码重现结果。
5. **使用生成式AI编写更多单元测试、验证检查和识别代码错误**:AI可帮助发现基因标识符转换错误、样本标签错配、缺失元数据等本领域特有故障,生成单元测试(unit test)和输入验证程序。但AI建议的测试也需要独立验证。
6. **使用AI聊天机器人回忆语法,而非用于科学推理**:当研究者已决定算法和统计方法,只是查询语法时,AI是加速器;若输出无法被研究者独立验证,则构成委托。
7. **使用LLMs进行数据模式的初步探索,但必须通过适当的可重复分析验证发现**:AI可提示数据中的潜在模式和假设,但结果需经原始文献、数据库或严谨定量分析验证,且只能在去标识化、公开数据上进行。
8. **对临床和可识别数据保持极度谨慎**:医疗和测序数据受隐私限制,不得输入公共LLM服务。研究人员将使用场景分为“保护”“获得许可”“负责任使用”三类,并要求将一切输入视为可能持久保存和共享。
9. **保持科学判断处于人类控制之下,尤其是使用智能体AI时**:端到端AI工作流可能自动执行文献综述、代码开发等,但也可能违规复用代码、修改或删除数据。研究者应设置适当权限并保持监督。
10. **在穷尽人工评审后使用LLMs改善手稿一致性**:LLMs可比较正文、补充材料、图表和代码间的不一致,但建议修改必须经研究者核实,不能替代人工评审。

**讨论与结论**
讨论部分指出,计算生物学的灰色地带源于AI产物既是工具又是内容。研究人员通过十条规则划出清晰界线:凡涉及科学决策、数据完整性和结论可靠性的环节,人类必须掌控;凡属于效率提升、语法查询、初步探索和一致性检查的辅助性任务,AI可以参与。同时,针对公共LLM服务中的数据安全提出了分层策略。结论可翻译为:该视角为开发或应用计算方法的研究人员提供实用指导,帮助他们应对AI辅助生物信息学研究中的机遇与风险;研究人员必须对每一行AI生成内容和最终科学结论独立负责;作为指导原则,所有输入都应被视为可能持久保存和共享,以确保遵守伦理、法律和科学标准。科学要求机制性理解和可重复的严谨性,而不是源于聊天机器人“感觉”的表面信心。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号