《Biology》：Trustworthy Agentic AI in Bioinformatics: From Workflow Automation to Traceable and Validated Biological Inference
智能体人工智能（Agentic AI）正在将生物信息学从对话式辅助扩展到使系统能够选择工具、执行代码、修订分析计划并解释生物数据。这些能力可能加速研究，但也重新分配了决定生物学结论是否有效的决策权。研究人员于2026年7月开展了一项针对性的结构化PubMed检索，基于预定义的资格标准（涉及分析决策、工具或代码执行、迭代评估或协调的智能体活动），确定了11个经同行评审的智能体生物信息学系统进行描述性综述。证据基础涵盖单细胞转录组学（single-cell transcriptomics）、微生物基因组学（microbial genomics）、癌症基因组学（cancer genomics）及组学应用，以及关于可重复性和生物学验证的方法学文献。研究人员考察了当前系统如何报告授权（delegated authority）、溯源（provenance）、验证（validation）、证据（evidence）、弃权（abstention）和人类监督（human oversight）。现有平台实施了诸如沙箱化执行（sandboxed execution）、受限命令、交互日志、证据标识符、自动化检查、评论智能体（critic agents）、质量评分和专家评估等保障措施。然而，已发表的报告很少提供将原始生物学问题与样本、参考资源、分析决策、计算操作、统计结果、支持证据、验证结果和最终主张联系起来的关联性说明。研究人员区分了遗传性生物信息学错误（inherited bioinformatics errors）、通过自主行动放大的错误（errors amplified through autonomous action）以及由记忆、检索、工具交互或智能体协调产生的涌现性失败（emergent failures）。研究人员进一步提出了一个多维决策权概况（decision-rights profile）、后果敏感性验证门控（consequence-sensitive validation gates）以及通过生物信息学研究证据、智能体行动和决策的可溯源历史（Traceable History of Research Evidence, Agent Actions, and Decisions in Bioinformatics，THREAD-Bio）框架组织的从主张到证据的溯源架构（claim-to-evidence provenance architecture）。示例案例表明，技术上成功的执行仍可能支持误导性的推断。因此，可信赖的智能体生物信息学要求主张保持可重构性（reconstructible）、可质疑性（challengeable）、经验证性（validated）以及与证据相称性（proportionate）。
- 1.
引言：从工作流自动化到可问责的生物学推断
生物信息学长期以来将计算自动化与专家科学判断相结合。传统流程（conventional pipelines）组织质量控制、比对、定量、统计分析和生物学解释中的预定义操作。工作流管理系统（workflow-management systems）进一步提高了跨计算环境的可移植性和可重复性。然而，成功执行并不能确保分析在科学上有效。研究人员仍须确定所选样本是否针对预期问题、参考资源是否与数据兼容、统计模型是否代表实验设计、以及所得结论是否与现有证据相称。
随着研究整合基因组学、转录组学、蛋白质组学、代谢组学、影像学和临床数据，这些挑战变得更加突出。多组学整合（multi-omics integration）可以揭示单个数据类型无法显现的关系，但也引入了测量尺度、缺失性、数据质量和推断假设方面的异质性。临床下一代测序工作流面临涉及实验室变异、参考选择、数据处理和解释的额外困难。保护基因组学和其他快速发展的生物学学科也出现类似的重复性挑战。精准肿瘤学分析必须进一步区分技术检测与临床解释和可操作性。单细胞研究需要谨慎处理生物学重复、批次效应、细胞异质性和细胞状态注释。
智能体人工智能引入了额外的复杂性层，因为这些系统可以直接参与分析决策。智能体不仅可以回答问题或生成孤立代码，还可以解释研究目标、选择工具、执行命令、检查中间输出、修订计划并产生生物学解释。近期综述描述了自动化生物信息学中的智能体架构、基础模型、应用、幻觉、可重复性和治理。这些综述确立了AI辅助生物信息学的更广泛格局，但未联合考察哪些科学决策被委托给智能体、如何验证具有后果性的决策、以及个体生物学主张是否可追溯到支持它们的数据、分析、证据和批准。本综述通过将委托的科学权威、验证、溯源和主张级问责视为同一推断过程的关联组成部分来弥补这一空白。
这种对问责制的强调也反映了AI治理的更广泛原则。OECD AI原则强调可信赖AI开发和使用中的透明性和可解释性、稳健性和安全性以及问责制。在智能体生物信息学中，这些原则具有直接的科学意义：研究人员需要知道智能体被允许决定什么、什么证据支持具有后果性的行动、以及批准生物学结论的责任在何处仍由人类研究者承担。
1.1 从固定工作流到决策型生物信息学智能体
传统工作流遵循预定义的操作序列，尽管研究人员在执行前后仍可能做出重要决策。智能体系统可以在分析运行期间引入额外决策。它可以在安装失败后替换工具、在输出为空时修改阈值、检索更新的文档、修订分析目标、或优先选择看似生物学连贯的结果。这些能力可能提高灵活性和效率，但也扩大了系统可以影响的分析决策范围。因此，技术能力必须与委托的科学权威区分开来。系统可能能够更改统计模型或样本过滤器，但未必被授权更改主要分析。
AutoBA在多个组学任务中执行分析规划、代码生成、执行和自动修复。BRAD将语言模型规划与文献检索、生物学数据库和生物标志物发现的分析模块连接起来。BioAgents提供概念性基因组学支持和工作流建议。BioMedAgent协调跨组学、机器学习和生物医学成像分析中的工具。Agentomics在程序化检查点下进行迭代生物医学机器学习实验。相关AI辅助系统如IAN也支持组学分析和数据驱动发现。这些系统在范围和架构上有所不同，但每个都能影响传统上由生物信息学家做出或审查的决策。
其他系统针对特定生物学领域设计。CellVoyager执行单细胞RNA测序数据的笔记本式探索，并使用中间发现指导后续分析。CASSIA将细胞类型注释分布在注释器、验证器、评分器和报告器智能体之间。BIOGEN结合证据检索与对与抗菌素耐药性相关的细菌转录组聚类的多评论解释。Viral Sentry AI将病毒基因组监测与宿主风险预测和下游药物再利用分析联系起来。AI-HOPE-WNT支持结直肠癌中WNT通路失调的对话式分析。AI-HOPE-PM在精准医学分析中整合基因组、临床和社会变量。相关应用扩展到空间组学、植物生物学和多智能体科学发现。由于这些系统解决不同的生物学问题，其输出不能使用单一通用的任务完成度量来评估。
1.2 从技术完成到可问责的生物学推断
成功执行仅确立计算操作产生了输出。它不能确立该操作是否适合研究设计，或由此产生的生物学解释是否站得住脚。差异表达分析可能在单个细胞被错误地视为独立生物学重复时仍正确运行。生存模型可能在通过检查相同结果数据选择亚组后收敛。通路富集工具可能在背景基因集不合适时返回统计学显著项。系统发育工作流可能是可重复的，同时支持未经证实的直接传播主张。这些是已确立的生物信息学问题，而非仅由人工智能造成的失败。
独特的问题在于，智能体可以在同一迭代过程中连接规划、执行、解释和报告。工作流早期做出的错误决策可能因此传播到多个下游阶段而无需独立审查。自动修复在纠正格式错误的命令、缺失依赖或不兼容文件路径时是有用的。然而，当重试改变质量控制阈值、基因组版本、注释资源、聚类分辨率、统计对比或主要估计量时，重试就具有科学后果性。如果仅保留最终成功的运行，报告的结果可能掩盖产生它的分析替代方案。持续记忆、外部检索、工具权限和可访问资源中嵌入的指令可能带来额外风险。
本综述通过四项关联贡献解决这些问题。首先，区分传统生物信息学失败与通过自主行动放大的错误以及由智能体特定机制产生的失败。其次，引入涵盖数据、方法、参数、统计、执行、解释和报告的概念性决策权概况。第三，提出后果敏感性验证门控和从主张到证据的溯源架构，将生物学主张与推导出它们的数据、决策、计算和证据联系起来。最后，提出生物信息学研究证据、智能体行动和决策的可溯源历史（THREAD-Bio）作为拟议的报告框架。THREAD-Bio并非作为已确立的最低信息标准提出，而是作为一种结构化方法，使智能体辅助的生物学推断在人类监督下可重构、可质疑、得到适当验证并可问责。实际上，THREAD-Bio将原始生物学问题与研究设计、数据和参考溯源、智能体行动和分析决策、计算输出、验证结果、支持或矛盾的证据、人类批准以及最终生物学主张联系起来。它旨在保留从问题到主张的可检查路径，而无需披露私有模型推理。
- 2.
文献检索与综述方法
2.1 检索策略与资格标准
2026年7月开展了一项针对性的结构化PubMed检索，以识别生物信息学中智能体人工智能的文献以及与可靠性、可重复性、验证、溯源和生物学解释相关的方法学研究。22组目标查询涵盖了智能体生物信息学系统及相关主题。主要系统识别查询使用了智能体AI、AI智能体、LLM智能体、自主智能体、多智能体等术语与生物信息学、基因组学、组学等术语的组合，排除预印本。已知的相关PubMed索引出版物和引用检查中发现的额外研究也被纳入。预印本被排除；同时存在预印本和同行评审期刊版本时，仅保留期刊出版物。
对于智能体系统的重点综述，合格研究描述了应用于生物信息学、计算生物学、基因组学、转录组学、蛋白质组学、代谢组学、微生物组研究或相关组学应用的已实施系统，并展示了分析过程的实质性参与。系统在能够确定或修订研究目标与输出之间至少部分分析路径时被视为智能体，包括通过规划或重新规划、工具选择或执行、对中间结果的适应或专门智能体之间的协调。具有基本预定义分析序列的传统确定性工作流，以及仅限于解释、孤立代码生成或问答的对话系统被排除。
方法学和情境研究在直接为本综述关于科学有效性、可重复性、溯源、验证、生物学解释、人类监督或报告的分析提供信息时被单独纳入。重复记录和范围外的出版物被排除。
选择PubMed是为了提供明确的生物医学文献边界。这种方法可能遗漏主要在计算机科学会议论文集、预印本库、软件库或非PubMed数据库中报告的相关进展。因此，本文旨在作为有针对性的批判性综述，而非计算科学中智能体系统的详尽或系统性普查。
2.2 文献综合与描述性综述
对纳入的文献进行叙述性审查，以考察智能体人工智能目前在生物信息学中的应用方式，以及当分析决策日益委托给这些系统时出现的科学问题。对于描述已实施系统的出版物，考虑了其生物学应用、数据类型、一般智能体架构、分析功能、报告的验证方法、溯源机制和人类研究者的参与。信息仅在出版物或相关支持材料中明确描述时被纳入。未充分描述的特征被视为未报告而非假定不存在。
本综述的目的不是对个别系统进行排名、评分或基准测试。已发表的系统仅作为智能体能力被引入生物信息学的不同方式的示例。特别关注文献如何描述分析自主性、可重复性、验证、溯源、生物学解释和人类监督。
直接性能比较被认为不合适，因为所报告的系统在生物学目标、架构、数据模态、分析任务和预期用途方面存在显著差异。例如，为单细胞注释开发的系统不能使用与为微生物解释、生物标志物发现或通用多组学工作流执行设计的系统相同的性能标准来有意义地评判。因此，本综述侧重于反复出现的科学和报告问题，而非试图建立现有平台的总体排名。
这种描述性综合也为手稿中发展的更广泛概念问题提供了信息：哪些分析决策可以委托给智能体、这些决策何时变得具有科学后果性、对由此产生的主张适合何种验证形式、如何保留支持证据、以及何处仍需人类审查。所讨论的智能体生物信息学系统的描述性特征（包括生物学应用、数据模态、智能体架构、分析角色、验证方法、人类监督、溯源功能以及代码或数据可用性）总结在补充表S1中。
2.3 证据基础与范围
证据基础限于与本综述范围相关的同行评审、PubMed索引的出版物。在此文献中，描述符合上述标准的已实施智能体生物信息学系统的原创同行评审出版物被选作更详细的讨论。无法从可用来源验证的信息被保守地视为未报告。
更广泛的文献用于考察生物信息学可重复性、统计推断、溯源、生物学验证、治理和报告中的已确立问题。所选智能体系统主要用作说明性示例，展示分析自主性、验证、溯源和人类监督目前如何在不同生物信息学应用中被描述。因此，本综述不试图提供这些系统的正式排名或定量比较。
相反，已发表的证据用于识别反复出现的实践、局限性和报告空白，这些空白推动了后续章节中发展的概念，包括委托决策权、后果敏感性验证、主张到证据的可追溯性以及拟议的THREAD-Bio框架。
- 3.
智能体生物信息学的生物学应用与证据实践
智能体生物信息学系统在生物学目标、分析权威和证据要求方面存在显著差异。一些系统推荐工作流或解释基因组学概念，而另一些则选择工具、执行分析、修订计划和解释结果。其输出可能涉及细胞身份、基因调控、抗菌素耐药性、病毒风险、生物标志物发现、预测建模或临床解释。仅根据任务完成来评估这些系统因此忽略了它们所影响的决策的科学后果。
已发表的系统已经纳入了诸如受限执行环境、交互日志、来源标识符、自动验证、评论智能体、质量评分和专家评估等保障措施。然而，这些保障措施针对分析过程的不同部分。执行检查不能确立研究设计是否合适。文献引用不一定支持从中推导出的每个生物学陈述。多个智能体之间的一致不能取代独立的生物学验证。
3.1 当前系统解决的生物学问题
通用生物信息学智能体在多个分析领域运作。AutoBA在多个组学任务中构建分析计划、生成代码、执行工作流并修复失败操作。其决策可能影响哪些样本通过质量控制、保留哪些特征以及报告哪些通路。BRAD结合文献检索、生物学数据库和生物标志物发现的模块。其输出因此取决于表型定义、所选分析策略和检索证据的相关性。BioAgents提供概念性基因组学支持和工作流建议。BioMedAgent协调跨组学、机器学习和生物医学成像分析中的工具。这些系统在科学权威上有所不同，因为建议可以在执行前审查，而执行智能体可能将不合适的参考、样本分组或分析方法传播到多个下游阶段。
单细胞系统解决涉及细胞身份、异质性和疾病相关状态的问题。CellVoyager探索单细胞RNA测序数据、发展假设并在计算笔记本中实施分析。其输出可能影响聚类被解释为已知谱系、瞬时激活状态、双联体或罕见疾病相关群体。CASSIA将细胞类型注释分布在注释器、验证器、评分器和报告器智能体之间。然而，合理的注释需要连贯的标记表达和排除不兼容谱系或技术伪影。Agentomics在程序化检查点下探索预测模型和超参数。BIOGEN在解释与抗菌素耐药性相关的细菌转录组聚类时检索和评估证据。这些系统评估不同的生物学对象，包括细胞身份、预测表型和基因程序意义。其验证要求因此应反映所产生的主张，而非智能体性能的通用度量。
微生物和癌症应用带有额外的证据后果。Viral Sentry AI整合病毒基因组监测、宿主风险预测和下游药物再利用分析。预测的风险阈值因此可能启动另一个具有潜在治疗意义的分析过程。AI-HOPE-WNT支持结直肠癌中WNT通路失调的对话式分析。AI-HOPE-PM在精准医学分析中整合基因组、临床和社会变量。Lense支持单细胞预处理和探索。OMICX支持多条件转录组分析。相关系统扩展到基因组可视化、蛋白质分析、功能注释、空间组学和植物生物学。AI辅助分析平台与智能体系统之间的区别因此取决于系统能做什么，而非应用于它的标签。在本综述中，当系统能够通过规划、工具使用、迭代评估或协调行动确定或修订部分分析路径时，被视为智能体。因此，系统根据其能影响的生物学决策来讨论，而非仅根据其架构或自我应用的标签。
3.2 报告的验证、证据与保障措施
若干系统包含主要针对计算完整性的保障措施。AutoBA在沙箱中运行、限制可执行命令、报告失败案例，并包括生物信息学家对生成计划、代码和输出的审查。这些措施使自动修复更加可见，并降低不受限制执行的风险。BRAD保留详细的交互和决策日志，同时将生物标志物相关响应与引用的文献联系起来。Agentomics使用受限容器、隐藏测试标签、确定性性能度量和工件验证。这些控制降低了泄漏标签、无效文件或未记录更改产生误导性性能声明的可能性。
解释性系统保留不同形式的生物学证据。BIOGEN保留细菌转录组解释的来源标识符、中间证据、评论评估、证据层级和陈述的局限性。来源标识符的存在表明来源可以定位，但并不能确立每个句子都得到直接支持或在生物学上正确。CASSIA记录对话、验证决策、支持证据、质量评分和低质量注释。它可以修订未通过内部检查的注释，并标记不确定的聚类以供进一步审查。CellVoyager纳入案例研究输出的专家评估。BioMedAgent报告基准任务中的参考步骤和分析里程碑。这些机制解决不同问题，包括证据是否存在、注释是否内部连贯、专家是否认为解释合理、以及工作流是否重现预期输出。
执行检查、预测度量、专家评估和生物学验证不应在单一验证标签下合并。执行检查确立命令和接口是否正确运行。确定性度量评估指定条件下的预测或计算性能。专家评估评估输出是否看似合理。独立生物学测定或外部队列确定所提出的表型、机制或临床解释是否在起源分析之外得到支持。系统可能在某一层面表现强劲，而在另一层面验证不足。
这些方法也解决可靠性和可重复性的不同方面。受限执行环境和工件检查主要支持计算可靠性，而交互日志、记录的分析决策和保留的来源标识符可以提高重构分析的能力。专家评估为生物学合理性提供了额外检查，但不等同于独立生物学或外部验证。所审查报告在超出原始开发或案例研究环境的验证描述程度上有所不同，使得外部验证的直接比较不合适。同样，超出原始出版物所述环境的采用情况未得到一致报告，因此在本综述中未进行定量比较。
3.3 生物学论证与问责中的剩余空白
已发表的报告通常比委托的科学权威更清楚地描述计算执行。自主执行、解释和报告在所讨论的系统中被普遍描述，而数据选择、参数选择和统计决策的权威则较少被一致报告。在所审查的出版物中，委托权威通常未以涵盖数据、方法、参数、统计、执行、解释和报告以及权限边界、批准条件、可逆性、科学后果和数据敏感性的单一可比形式呈现。这并不证明权限在实践中不受控制，仅表明已发表报告未以可比形式呈现它们。
科学弃权和人类监督也未得到完整描述。若干系统报告了处理不成功或不确定分析的部分机制，包括失败标签、重试上限、触发阈值、低质量标志或证据层级。然而，明确防止技术上可运行但生物学上不受支持的分析被呈现为强生物学主张的科学弃权规则很少被描述。AutoBA包括人类干预和专家审查。其他几个系统在开发或评估期间涉及专家。然而，事后专家评估不等同于分析过程中的人类批准门控。人类批准门控应识别具有后果性的决策、批准所需证据、负责的审查者以及分析可以继续的条件。
在所审查的已发表报告中，从每个生物学主张追溯到其底层数据、分析决策、计算行动和支持证据的完整主张到证据连接未被一致描述。BRAD通过详细决策日志和文献引用接近这一要求。BIOGEN通过来源标识符、证据层级和评论记录接近它。CASSIA通过注释历史、验证决策和质量评分接近它。这些系统提供了重要基础，而非完全失败的示例。未解决的问题是连通性。读者应该能够从关于生物标志物、细胞身份、耐药机制或病毒风险的陈述移动到产生它的解释、统计结果、分析决策、软件执行、参考资源、输入样本和原始生物学问题。
- 4.
智能体失败如何扭曲生物学结论
智能体生物信息学中的失败并非来自单一来源。有些源于数据质量、研究设计、统计分析或生物学解释中熟悉的弱点。另一些发生在自主执行将早期错误传播到多个分析阶段时。第三类来自智能体特定机制，包括记忆、检索、工具交互和多个智能体之间的协调。区分这些来源很重要，因为每种都需要不同形式的预防、检测、验证和监督。
这些类别并非相互排斥。传统生物信息学错误可能通过重复自主行动被放大，并进一步被自动化解释或报告掩盖。例如，不兼容的参考基因组可能首先影响比对，然后传播到注释和下游分析，最后出现在精心编写的生物学叙述中。由此产生的工作流可能在技术上完整，同时支持科学上误导性的结论。
可用文献尚未提供足够标准化的报告来估计特定失败在智能体生物信息学系统中发生的频率。已发表研究在任务、数据集、验证程序和错误定义方面存在显著差异，许多报告性能而非生物学后果性失败的频率。因此，定量失败率不应在没有任务特定基准测试的情况下跨系统推广。更紧迫的要求是定义每种失败类型如何被检测，以及未被识别时可能产生什么科学后果。
4.1 遗传性生物学和生物信息学失败
遗传性失败是可以在没有人工智能智能体参与的情况下发生的问题。输入和参考错误包括损坏文件、样本交换、污染、不完整元数据、不兼容基因组版本以及不正确的生物体或注释资源。工作流错误包括不合适的标准化、过时软件、不一致文件格式和未记录的默认值。统计失败包括混杂、数据泄漏、未建模依赖性、无效对比、不受控多重检验和事后选择。解释失败包括从关联推导因果主张、使用不适当背景集进行富集分析、以及仅由生物学合理性支持的机制性结论。这些风险在测序实验室、多组学整合、微生物组研究和癌症生物标志物分析中有充分记录。
单细胞分析说明了遗传性错误如何产生令人信服但无效的发现。细胞过滤可能移除生物学相关群体或保留低质量液滴。双联体可能表现为人工中间状态，而整合可能移除真正的生物学差异。当相同的标记或参考用于分配和验证细胞身份时，注释可能变得循环。差异表达分析也可能将单个细胞视为独立重复，造成伪重复和夸大的统计精度。已确立的框架解决了多样本单细胞研究中的整合、双联体检测、注释和差异分析。然而，这些方法不能消除独立证据必须由供体或实验单位而非细胞数量来定义的要求。
因此，检测取决于适合生物学任务的检查。这些可能包括确认样本和参考兼容性、检查质量控制指标、在统计模型中保留生物学重复、对照已确立的标记证据检查细胞注释、以及将计算解释与独立数据库或实验知识进行比较。未能检测这些问题可能导致错误的细胞身份、虚假的差异信号、误导性的通路关联或比底层证据支持的更强的生物学结论。
4.2 自主分析期间错误的放大
智能体系统可以增加遗传性错误的速度、规模和不可见性。分析开始时选择的错误基因组版本可能传播到比对、注释、可视化和手稿起草而无需独立审查。不合适的默认值可能应用于多个队列，而无效对比可能在多个分析分辨率下重复。可移植和可扩展的工作流系统提高了跨环境的可重复性和计算效率。然而，当规划和执行被委托给智能体时，相同的可扩展性可以倍增不合适分析选择的后果。
自动重试创造了特别重要的放大途径。纠正语法错误、缺失依赖或格式错误的路径主要是技术修复。相比之下，更改过滤阈值、参考基因组、注释数据库、聚类分辨率或统计模型可能改变结果的生物学含义。如果仅保留最终成功的尝试，报告发现可能掩盖执行期间探索的分析替代方案。针对中间输出的重复调整也可以造成分析过拟合，当智能体持续直到聚类看似连贯、比较变得统计学显著或通路变得生物学可解释时。Agentomics通过隐藏测试标签和确定性评估度量限制了部分风险。AutoBA暴露了失败案例和自动修复周期。然而，影响生物学解释的重试应被记录为科学决策，而非仅作为软件维护处理。
自动化解释和报告可能进一步放大弱推断。精美的图形、通路叙述或生成的结论可能显得比底层证据所保证的更具权威性。检索增强生成可能改善归因，但检索材料仍可能过时、不相关或与所提出的具体主张不一致。单细胞和蛋白质分析中的基础模型应用同样需要任务特定验证，而非依赖流畅或连贯的解释。放大因此源于耦合：同一系统可以在没有足够独立审查的情况下规划、执行、选择、解释和报告分析。
放大可以通过保留中间结果、记录重试和参数更改、将修订分析与原始分析计划进行比较、以及在固定或独立审查的设置下重复具有后果性的分析来检测。科学影响可能超过初始错误，因为一个不合适的选择可能传播到多个下游输出，并最终影响多个图形、解释或报告的主张。
4.3 来自记忆、检索、工具使用和协调的涌现性失败
涌现性失败专门源于智能体机制。目标漂移发生在迭代规划逐渐用更容易的计算任务替换原始生物学问题时。上下文丢失发生在配对设计、排除标准、样本约束、阴性对照或其他基本研究特征从活动工作上下文中消失时。陈旧记忆可能从早期任务中重新引入过时参考或假设。检索可能使系统暴露于误导性文档、过时数据库记录或嵌入软件存储库和元数据中的指令。工具描述也可能不完整，导致智能体假定不存在的功能或接口存在。
工具使用引入了额外的安全和溯源风险。智能体可能被授权读取敏感文件、安装包、覆盖中间输出或访问外部网络。本地部署可能减少向外部模型提供商的数据传输，但不能自动确保最小权限访问、不可变活动记录或安全软件依赖。相反，限制网络访问可能阻止检索当前证据并导致过时解释。自主性、外部工具和持续记忆在大型模型智能体中创造了公认的安全风险。在生物信息学中，这些担忧因可识别基因组数据、临床表型、可变生物学数据库和长软件供应链而加剧。沙箱化、命令允许列表、只读存储和隔离凭据因此应作为特定权限控制来报告，而非用系统安全的笼统声明来概括。
多智能体系统引入了无法仅通过投票解决的协调失败。规划器、执行器和评估器智能体可能共享相同的模型家族、训练数据、提示假设或检索来源。它们之间的一致因此可能重现相同的错误标记、通路解释或基因-表型假设。智能体之间传递的信息也可能丢失关于供体结构、生物体背景、不确定性或矛盾对照的注意事项。CASSIA使用专门角色来暴露中间细胞注释检查。BIOGEN使用多个评论来评估细菌转录组解释。其主要价值在于使中间评估更加可见；智能体之间的一致不能独立确立细胞身份或抗菌素耐药机制。
涌现性失败的检测需要检查智能体记录的行动和证据，而非仅评估最终输出。原始研究目标可以与后来的分析决策进行比较以识别目标漂移；检索证据可以对照其来源和版本进行检查；工具调用和文件更改可以通过执行记录审查；多智能体结论可以与独立生物学证据进行比较，而非仅基于一致而被接受。如果这些失败未被检测到，它们可能产生过时、支持不足或内部一致但生物学上不正确的解释。
- 5.
生物学分析中的委托决策与人类监督
智能体生物信息学系统不能使用单一自主性评分来充分描述。两个系统可能都被标记为自主，同时行使本质上不同形式的科学权威。一个系统可以执行研究者批准的工作流而不改变其设计，而另一个可能选择数据集、修改参数、修订统计模型、解释结果并起草生物学结论。这些差异决定了自动化行动是仅影响计算执行还是改变分析的科学含义。
委托权威因此应在个体决策层面描述。拟议的概念性决策权概况将权威跨数据选择、方法、参数、统计、执行、解释和报告分离。每个行动进一步根据其权限范围、可逆性、科学后果和数据敏感性来考虑。这种方法区分了智能体技术上能够执行什么与科学上被授权决定什么。它还识别了需要人类批准门控或独立审查的转换点。
5.1 生物学工作流中的决策权
数据领域包括数据集发现、样本资格、排除标准和比较组的构建。这些决策决定哪些供体、组织、生物体或疾病状态被纳入分析。方法领域包括工作流选择、软件、参考基因组、注释资源和分析策略。参数领域涵盖质量控制阈值、聚类分辨率、变异过滤器和数据库版本。这些领域中的决策可以直接改变哪些样本或生物学特征被保留、排除或解释。
统计领域包括估计量、对比、协变量、依赖结构、多重性校正、缺失数据处理和重复单位。执行领域涵盖命令、自动重试、文件访问、包安装、网络使用和中间输出的修改。解释包括细胞身份、通路、机制、耐药表型、因果含义或临床相关性的分配。报告决定哪些发现被纳入图形、摘要、结论和手稿文本。转录组分析中的人类参与可能从方法学指导到生物学解释和最终决策不等。交互式计算系统也可能在探索性分析和数据选择期间纳入专家输入。
每个领域内的权威可以描述为不存在、仅建议、需要人类批准的行动、定义政策内的自主行动、无边界、不清楚或未报告。这种词汇表区分了能力与许可。例如，智能体可能在技术上能够更改聚类分辨率或统计对比，但此类更改仍可能需要人类批准，因为它影响细胞群体或疾病关联的解释。
5.2 可逆性、科学后果与数据敏感性
决策类型本身不能确定风险。可逆性描述行动是否可以在不丢失溯源或使下游工作失效的情况下撤销。更改绘图标签是容易可逆的，而覆盖唯一中间文件或披露受保护基因组数据则可能不是。科学后果描述错误将如何影响研究。选择可视化格式通常不如重新定义队列、更改主要对比或将因果语言引入结论更具后果性。数据敏感性描述行动是否涉及公共数据、受限研究数据、临床信息或可识别基因组材料。
这些修饰符应一起考虑。智能体可以在保留每个结果、明确标记为探索性并从复制数据对象生成时安全地探索替代聚类分辨率。当所选分辨率决定临床相关细胞状态主张且丢弃的替代方案未被保留时，同一行动变得更高风险。网络访问可能适合检索公共软件文档，但在工作环境包含受保护患者数据时不可接受。肿瘤学中检索支持的解释可以提供对当前证据的访问，但也产生涉及隐私、归因、相关性和证据质量的担忧。
拟议概况因此在其特定科学和数据背景下为个体行动分配风险。它避免将整个系统简单地描述为高自主性、低自主性、安全或不安全。低后果行动可以在定义政策下自主进行，而科学后果性或不可逆决策应要求更强验证和人类批准门控。这种行动特定方法允许保留自动化，而无需在整个分析工作流中授予不受限制的权威。
5.3 具有后果性决策的人类批准门控
有效的人类监督需要的不只是将研究者放置在工作流中的某处。人类批准门控应识别被审查的决策、负责的审查者、呈现的证据、批准或拒绝的条件以及任何后续覆盖。当行动改变研究人群、主要估计量、基因组版本、推断模型、因果解释、临床含义或敏感信息的公开发布时，强制批准最为合适。当输入、权限和完整性检查满足既定条件时，常规执行可以在预定义政策下进行。
人类审查不应被视为无误的。专家可能共享方法学偏见、忽视实施错误或批准熟悉但不合适的方法。人类批准门控的目的不是将人类判断定位为本质上优于计算。其目的是创造一个可问责的转换点，在此可以检查假设、证据、不确定性和可能后果，然后分析才继续。生成式人工智能应支持而非取代负责任的统计判断。科学出版中的人类参与也应保持与方法责任相连，而非仪式性批准或作者身份。
监督本身应被评估。相关度量包括审查者分歧、时间负担、覆盖频率、检测到的错误数量和类型、以及批准是否改善最终主张的校准。增加大量行政负担而未识别后果性问题的批准门控可能需要简化。相反，反复检测无效队列定义、不支持统计对比或夸大临床解释的门控提供了实用价值的证据。后果敏感性监督因此将人类审查视为分析系统的可测试组件，而非可信赖性的假定保证。
- 6.
将生物学主张追溯到数据和证据
生物信息学中的可重复性传统上关注分析是否可以使用相同数据、软件、参数和计算环境重复。这些信息对于验证计数矩阵、变异集、系统发育树或其他分析输出如何生成至关重要。然而，重现计算结果不一定确立结果支持分配给它的生物学解释。
这一区别在智能体生物信息学中变得更加重要，因为智能体可能在检查中间输出后修订其分析计划。完整记录因此必须不仅保留计算操作，还保留连接原始生物学问题与最终主张的决策、证据、验证结果、解释和批准。本节区分传统工作流溯源与生物学论证，并提出连接两者的主张到证据结构。
6.1 传统工作流溯源的局限性
生物信息学溯源可以记录输入文件、软件版本、参数、计算环境、中间工件和最终输出。FAIR原则为使研究对象可发现、可访问、可互操作和可重用提供了基础。CWLProv在结构化工作流溯源记录中连接计算实体、活动和负责智能体。BioCompute Objects提供计算分析的标准描述，包括其输入、执行域、错误处理和输出。溯源捕获也已在基因组工作流、流程文档系统和溯源感知数据采集平台中实施。
然而，计算谱系回答的问题不同于生物学论证。工作流记录可以解释微生物丰度表如何产生，而无需证明检测到的分类群为何被解释为功能重要。它可以重构单细胞嵌入，而无需确立聚类代表不同的生物学状态。它可以重新生成系统发育树，而无需证明患者或医院位置之间的直接传播。QIIME 2 Provenance Replay可以重构微生物组分析步骤。容器化环境保留软件依赖和计算配置。基于项目的框架在可重复分析结构中组织代码、数据和输出。这些资源加强了计算可重复性，但不会自动提供连接输出到生物学主张的证据论证。
溯源要求也因生物学领域而异。细菌基因组组装、蛋白质组学、空间转录组学、全基因组关联分析和公共卫生基因组学已开发出可重复工作流。可持续FAIR实施还取决于软件维护、社区标准和充分文档。这些方法为智能体可追溯性提供了计算基础。剩余要求是将变化的目标、委托决策、检索证据和科学主张表示为显式溯源对象。
6.2 主张到证据图
拟议的主张到证据图提供了一种概念结构，用于将特定生物学主张追溯到其解释、统计结果、分析决策、计算执行、参考资源、输入样本和原始研究问题。关于细胞群体耗竭、细菌分离株耐药或肿瘤变异临床可操作的陈述必须保持与特定断言所需证据的联系。每个节点应包含稳定标识符、时间戳、版本、负责人类或智能体、证据状态和适用的人类批准状态。根据W3C PROV术语，数据、软件、结果和主张可以表示为实体；检索、分析和解释可以表示为活动；研究者、机构、模型和软件服务可以表示为智能体。
当主张需要不同证据阈值时应分离。单个段落可能包含观察、关联、拟议机制和临床含义。这些陈述不应仅因出现在一起而继承相同证据状态。BIOGEN将细菌转录组解释与来源标识符和证据记录联系起来，同时区分来源可追溯性与生物学正确性。CASSIA保留注释对话、验证决策、支持证据和质量评分。BRAD在生物标志物分析期间保留操作决策和文献来源。这些系统提供了主张级可追溯性的部分实施。拟议图通过要求每个生物学断言保持与推导出它的数据、分析决策、结果和证据的连接来扩展这些实践。
例如，关于细菌谱系在两个医院病房之间传播的主张应连接到系统发育或基因组距离结果、相关性阈值、所选分离株、采样日期、组装和变异调用工作流、参考基因组和流行病学问题。可重复树本身不能揭示传播主张是否超过可用数据的分辨率。类似地，关于单细胞聚类代表活化T细胞状态的主张应连接到标记统计、矛盾标记、注释证据、聚类选择、整合决策、供体身份和原始比较。
6.3 决策记录、证据状态与人类干预记录
决策溯源不需要披露私有模型推理或不受限制的内部思维链。简洁的决策记录可以识别决策、考虑的替代方案、应用的规则或证据、不确定性、所选行动、批准者和受影响的下游工件。例如，记录可以说明选择GRCh38是因为样本坐标和注释资源使用该基因组版本，而GRCh37在兼容性检查后被拒绝。相同格式可以记录更改的聚类分辨率、替换的软件工具、排除的样本、修订的统计对比或修改的生物学解释。
证据状态防止不同形式的支持被视为等同。结果可以是技术上验证、统计上支持、生物学上合理、矛盾、外部复制或实验验证。检索文献可以提供直接支持、间接支持、矛盾证据或过时信息。评论分数因此应指示评估了什么，而非被解释为生物学机制为真的概率。人类干预记录也应区分用户指令、可选反馈、专家评估、强制人类批准、拒绝和覆盖。结构化文档对于保留分析上下文、支持可审查性和维持可持续研究软件是必要的。
所得图可以以机器可读格式序列化并链接到现有工作流对象。数据清单可以保留样本标识符、资格决策、排除记录和元数据版本。参考清单可以记录基因组版本、注释发布、数据库版本和检索日期。统计对象可以保留模型规格、对比、诊断、多重性程序和不确定性。主张对象可以直接链接到手稿句子、图形或表格条目。Galaxy展示了结构化工作流工件如何支持可重复分析。标准化宏基因组工作流可以类似地在分析阶段保留计算记录。公共卫生基因组学平台展示了结构化分析工件如何整合到操作监测系统中。智能体特定补充是连接决策、证据、验证状态、批准和主张的层，而非替换已确立的溯源基础设施。
- 7.
验证门控与校准弃权
智能体生物信息学中的验证不应被视为单一的通过-失败判断。计算操作可以成功执行，而底层研究设计不合适、统计推断
