《Frontiers in Microbiology》：Aligning innovation and security in AI-enabled biotechnology: a framework for designing and funding mutually reinforcing approaches
编辑推荐：
摘要：人工智能与生物技术的融合正在重塑生命科学，推动研究全生命周期中设计、开发与分析的加速发展。然而，这种加速也加剧了潜在的生物滥用风险。构建可持续安全的生物经济，需要从关于平衡创新与安全的空谈转向切实可操作的双重目标实践。研究人员提出一种框架，将安全性与可信
摘要：人工智能与生物技术的融合正在重塑生命科学，推动研究全生命周期中设计、开发与分析的加速发展。然而，这种加速也加剧了潜在的生物滥用风险。构建可持续安全的生物经济，需要从关于平衡创新与安全的空谈转向切实可操作的双重目标实践。研究人员提出一种框架，将安全性与可信度嵌入生物研究系统的架构中，同时推进科学进步。基于此框架，研究人员阐述了三项可实现互利的投资案例：（1）安全分级数据共享基础设施，在扩大高质量生物数据访问的同时管控敏感信息；（2）人工智能赋能生物工具（AI-enabled biological tools, BTs）的来源与元数据追踪机制，提升科学可重复性与监管能力；（3）人工智能赋能生物工具的能力基准测试方法，在优化性能的同时提供生物风险轨迹的态势感知。该框架表明，协同设计创新与安全目标可将潜在权衡转化为相互强化的成果。论文最后提出政策与资助策略，以实现此类双赢路径，将负责任的人工智能赋能生物技术定位为创新的驱动力与全球生物安全的基础。
研究背景方面，人工智能（artificial intelligence, AI）正深刻改变生命科学，机器学习、大语言模型（large language models, LLMs）及人工智能赋能生物工具（AI-enabled biological tools, BTs）已在蛋白质结构预测、酶设计、药物发现与诊断优化等领域取得突破，显著缩短研发周期并降低成本。然而，这些工具的双重用途特性降低了技术门槛，可能引发生物滥用与网络生物安全（cyberbiosecurity）风险，例如设计可逃避现有检测系统的新型病原体。当前生物安全政策滞后于技术发展，传统以管控与保密为核心的策略难以适应AI时代的知识开放环境，因此亟需探索创新与安全协同的新范式。
关键技术方法上，研究人员采用框架构建法，提出包含挑战导向、安全内嵌、分级访问与多元协作四大核心原则的设计框架；通过案例分析法，选取安全分级数据共享、溯源与元数据追踪、持续评估与基准测试三个方向展开论证；结合文献综述法，整合既有数据集建设、生物工具开发及风险评估的相关研究，验证框架的可行性。研究未涉及具体实验操作，主要通过理论推演与案例分析得出结论。
研究结果部分，首先在安全分级数据共享基础设施研究中，针对生物学数据异质性强、标注成本高的挑战，提出分布式数据网络与联邦架构（federated architectures）结合的解决方案。通过安全飞地（secure enclaves）与隐私增强技术，实现低风险数据开放共享与高风险数据受控访问的分级管理，既支持AI模型训练所需的海量数据供给，又防范恶意微调开源权重模型的风险。其次，在溯源与元数据追踪研究中，针对BTs版本迭代快、可解释性不足的问题，设计内嵌式透明度机制。通过记录工具版本、使用时序、操作日志及用户输入等元数据，既提升科研可重复性与跨团队协作效率，又为核酸合成筛查、恶意设计溯源提供审计线索，对高风险工具实施强化版元数据捕获策略。最后，在能力基准测试研究中，针对BTs性能评估缺失的现状，开发基于实验室验证数据的计算机模拟（in silico）评估体系。通过分层发布策略，公开通用性能指标，对敏感能力评估结果实施访问控制与审计追踪，必要时采用机密计算（confidential computing）等技术，兼顾开发者优化需求与安全信息管控。
讨论与结论部分，研究人员指出当前生物安全与创新的对立叙事具有误导性，二者可通过协同设计实现双向增益。资助机构应将安全设计作为项目立项的前提条件，设立专项激励推动“安全优先”的创新竞赛；科研机构需将生物安全纳入人才培养与评价体系，构建跨学科协作网络。该研究发表于《Frontiers in Microbiology》，其核心结论强调：AI赋能生物技术尚处早期阶段，正是嵌入安全机制的窗口期。若错失机遇，双重用途工具的扩散速度将超过治理能力，可能导致不可逆的安全危机。未来需建立“防御-加速”并重的新型规范，既防范蓄意或意外的生物剂释放，又确保对任何潜在威胁的快速反制能力，最终实现创新驱动力与生物安全基础的有机统一。
