《AI》：Diagnosing Shortcut Learning in CNN-Based Photovoltaic Fault Recognition from RGB Images: A Multi-Method Explainability Audit
Bogdan Marian Diaconu
编辑推荐：
人工智能（Artificial Intelligence, AI）正通过加强大流行病准备、增强对病毒-宿主相互作用的分子理解以及加速新型抗病毒疗法的发现与发展，迅速改变病毒学研究领域。然而，该技术同样带来了紧迫的生物安全风险，特别是通过 enable 生物武器
人工智能（Artificial Intelligence, AI）正通过加强大流行病准备、增强对病毒-宿主相互作用的分子理解以及加速新型抗病毒疗法的发现与发展，迅速改变病毒学研究领域。然而，该技术同样带来了紧迫的生物安全风险，特别是通过 enable 生物武器的开发或识别最大化危害的策略。本文对当前及新兴的AI在病毒学中的应用进行了批判性内容分析，包括用于检测病毒基因组中合成改变的工具、评估新变异株严重程度的工具以及为基因治疗设计临床载体的工具。同时，文章强调了潜在的被滥用风险，无论是出于故意还是由于数据质量不佳和模型训练缺陷所致。通过案例研究、公共数据库以及来自研究机构和生物技术公司的已记录应用，分析表明AI能够整合大型数据集，从而减少药物开发中对动物测试的依赖，提高治疗精准度，并在爆发期间更有效地分配资源。然而，AI工具和基因组数据的日益普及也造成了脆弱性，特别是在模型能够自主解释科学文献和挖掘生物信息学数据库时。为解决这种双重用途困境（Dual-Use Dilemma），本文针对政府、研究机构和商业生物科技公司提出了具有针对性和适应性的政策建议，强调事前监管、负责任创新以及AI的伦理部署。这些建议旨在具有即时相关性，同时具备足够的灵活性以随着AI在全球健康中角色的扩展而演变。
**引言**
在病毒学领域，技术既非绝对有益也非绝对中立。人工智能（Artificial Intelligence, AI）正在彻底改变病毒学研究，通过预测病毒演化和指导疫情应对来加强大流行病准备，深入理解病毒-宿主相互作用，并加速新型抗病毒药物的开发。然而，这些好处伴随着紧迫的生物安全困境：增强疾病检测和公共卫生响应的AI驱动模型也可能被重新用于设计合成病原体、优化病毒传播及逃避检测。这种双重用途潜力并非偶然，而是嵌入在计算框架本身之中；一行代码即可改变算法的目标，使其从最小化病原体传播转向增加其传播。随着AI在各个研究机构、商业生物技术公司及非国家行为体中的普及，这构成了即时治理挑战。尽管存在针对生物武器的国际协议，但AI的快速进展已超出监管框架的范围，留下了监管空白。当前的治理机制也无法规范由偏差数据集训练的缺陷模型，这些模型加剧了健康不平等或助长了AI驱动的生物安全威胁。降低危害的技术门槛还可能引发公众对研究机构的信任危机。为此，本文提出了将AI伦理标准纳入全球健康政策的目标治理措施，强调多边合作和联合国（United Nations, UN）主导的监管，包括建立医学研究和诊断中AI训练的正确协议、为可能产生致命病原体的合成生物学服务提供商提供集中监管框架，以及整合和处理病毒监视网络。
**AI在病毒学整合中的背景分析**
AI在生命科学中的整合始于20世纪70年代的MYCIN系统，旨在从基本输入中诊断细菌感染并推荐治疗方案。尽管受限于当时的计算能力，但这些早期系统展示了AI增强医学的潜力。2010年代，随着机器学习、大型语言模型和神经网络的出现，该领域进入新纪元。例如，2012年的AlexNet展示了AI执行图像识别任务的能力，为医学影像诊断铺平了道路，同时也使“黑箱”架构（即数百万至数十亿超出人类完全理解范围的内部计算参数）的使用常态化。如今，BioGPT等工具解析庞大的科学文献以生成假设，进一步模糊了人类与机器驱动研究之间的界限。2021年，AlphaFold通过从化学成分预测蛋白质结构，彻底改变了计算生物学，加速了无需多年实验的结构生物学药物发现。在药物开发中，生成式AI设计新分子，并复用现有药物，如BenevolentAI识别巴瑞替尼作为COVID-19治疗方法。然而，AI在医学诊断中的应用面临挑战，许多模型因设计和训练数据集的缺陷而缺乏临床适用性。在基因组学中，DeepVariant等工具改进了从基因组测序中识别变异的能力，Nextstrain等平台提供了病原体传播的实时跟踪。尽管AI工具的普及使研究民主化，但也放大了风险，如ESM开源蛋白质生物学模型和GISAID公共数据库可能被结合使用以寻找可 propagated 的新病毒分离株用于滥用目的。
**临床病毒学诊断中AI使用的治理**
AI在临床病毒学中用于加速诊断、疫情预测和治疗发现。卷积神经网络（Convolutional Neural Networks, CNN）用于医学影像，基于Transformer的模型用于病毒基因组分类，深度生成模型用于药物-靶点相互作用预测，这些工具日益嵌入临床工作流程。然而，监管框架未能跟上这些创新，导致监管碎片化、绩效评估不一致以及临床可靠性和患者安全风险。训练好的模型有潜力通过测量患者数据推断病原体存在，而无需直接检测病原体物质，但许多工具仅在狭窄数据集上开发和验证，导致过拟合和跨地理区域或新病毒变异的泛化能力差。例如，在COVID-19疫情期间，许多基于AI的诊断工具因训练阶段未考虑的混杂变量而在不同人群中的表现变异很大。此外，许多现有系统是黑箱架构，缺乏可解释性，导致临床医生对其预测犹豫不决或误解输出。因此，临床模型的可解释性和透明度应在AI特定治理政策下进行规范。
**合成病毒生物学中的AI**
随着成本下降、提供商网络扩展以及台式合成器和设计软件的兴起，合成DNA技术，特别是病毒基因组或基因组片段的合成，在过去几十年中变得极易获取。这些工具为疫苗和诊断材料的开发提供了巨大希望，无需从病原材料开始。然而，这些能力也使创造或增强病原性病毒成为可能，引发了紧迫的生物安全和生物保安问题。尽管自2010年以来存在合成DNA筛选框架，但这些努力是自愿的、实施不一致且资源不足的，无法满足现代风险。目前，没有国家法律强制要求普遍DNA合成筛查，现有指导文件在技术标准和执行方面仍模糊不清。筛选限制可以通过订购单链DNA或小于筛查阈值的小片段来绕过。此外，手动后续筛选已成为关键瓶颈，评估标记序列通常需要先进的生物信息学专业知识、机构熟悉度以及劳动密集型的上下文审查。
**流行病学监测与响应策略**
病毒是地球上最丰富的生物实体，不断证明其能够与宿主共同进化或感染新宿主。随着气候变化推动动物媒介的传播和人类对自然栖息地的侵入，自然风险预计将增加。AI模型现协助实时监控健康网络、建模疾病爆发以及从医院记录、废水分析和基因组数据中检测早期预警信号。然而，用于建模自然病毒进化和传播的技术也可用于增强毒性、逃避免疫检测或靶向组织。目前，检测和分析合成或工程化病毒的系统是分散的，不存在识别人工基因组特征或高置信度区分工程化病毒与自然发生病毒的全球标准。
**结论与未来方向**
AI在病毒学中是一把双刃剑：它具有改善诊断、大流行病准备和治疗发现的巨大潜力，但也通过设计、优化或掩盖病原性病毒的能力带来重大风险。为了应对这种双重用途困境，联合国及其合作伙伴应领导开发灵活的分级治理框架，平衡科学自由与安全。这包括将AI归因工具整合到世界卫生组织（World Health Organization, WHO）和联合国 outbreak 协议中，标准化AI衍生的诊断和治疗药物的临床前验证，并建立负责任DNA合成监管的国际激励机制。然而，挑战依然存在，包括生物技术和合成生物学提供商之间的激励错位、学术研究中强制验证要求可能延缓有益创新、以及不同国家间实施能力的不平衡。解决这些差距需要WHO全球AI健康倡议、联合国技术促进机制以及援助机构之间的多方利益相关者联盟，以开发和支持互操作性生物监视网络。框架的设计应借鉴核技术监管的经验，避免网络犯罪治理中的碎片化问题，优先考虑包容性的多边发展，确保主要AI和生物技术大国的参与。
