人工智能在证据合成中的负责任使用：四大国际组织的联合立场声明

《Environmental Evidence》：Position statement on artificial intelligence (AI) use in evidence synthesis across Cochrane, the Campbell Collaboration, JBI and the Collaboration for Environmental Evidence 2025

本文针对人工智能(AI)在证据合成中应用的潜在风险与机遇，由Cochrane、Campbell、JBI和CEE四大国际组织联合发布立场声明，支持RAISE框架，强调人类监督、透明报告和工具验证，为证据合成领域的AI应用提供关键指导。

　　

在当今信息爆炸的时代，证据合成（evidence synthesis）作为系统评估特定问题所有可用证据的研究方法，已成为医疗健康、环境政策等领域决策的重要基石。然而，传统的证据合成过程耗时耗力，往往需要数月甚至数年时间才能完成。随着人工智能技术的迅猛发展，特别是大型语言模型（large language models）和生成式AI（generative AI）的出现，为证据合成领域带来了革命性的效率提升机遇。但与此同时，这种"黑箱"技术也伴随着算法偏见（algorithmic biases）、过度拟合（overfitting）和虚构输出（fabricated outputs）等风险，可能危及证据合成的严谨性和可信度。

在这一背景下，四大国际权威证据合成组织——Cochrane、Campbell Collaboration、JBI和Collaboration for Environmental Evidence（CEE）联合制定了关于人工智能在证据合成中使用的立场声明。该声明发表于《Environmental Evidence》期刊，旨在为证据合成工作者提供明确指导，确保AI技术能够在不损害研究完整性的前提下合理应用。

研究人员通过系统分析当前AI技术在证据合成中的应用现状和潜在风险，参考了负责任使用证据合成中人工智能（Responsible use of AI in evidence SynthEsis，RAISE）建议框架，提出了六项核心原则。这些原则强调了证据合成者对其工作的最终责任，包括使用AI的决策权，以及确保符合法律和伦理标准的义务。

关键技术方法方面，研究主要基于RAISE建议框架（版本2.1，截至2025年9月22日开发中），该框架为证据合成生态系统中不同角色提供了定制化建议。研究团队通过联合AI方法组（AI Methods Group）的合作机制，整合了各组织的资源和基础设施，同时考虑了AI工具的开发、验证和评估流程，特别关注了数据范围、领域和方法等关键参数。

立场声明的核心内容

通过系统分析，声明明确了六大关键信息：证据合成者对其合成工作负有最终责任；四大组织支持RAISE建议框架；在保证方法学严谨性的前提下允许使用AI；AI应用需要人类监督；涉及判断的AI使用必须透明报告；呼吁AI工具开发者遵循RAISE建议。

RAISE框架的具体应用

研究详细阐述了RAISE框架在证据合成实践中的实施路径。该框架为证据合成者、方法学家、AI开发团队以及出版机构等不同角色提供了明确的责任界定。特别强调在方案开发阶段就需要考虑AI使用的合理性，包括评估错误风险容忍度和风险缓解策略。

AI工具验证与评估要求

声明强调了独立评估的重要性，指出除了开发者自身的评估外，没有利益冲突的独立方法学家的评估同样重要。要求AI工具开发者提供清晰的系统工作原理、公开可用的测试训练验证评估数据，以及关于系统优势和局限性的透明信息。

实践指导与报告模板

研究提供了具体的AI使用报告模板，要求详细说明使用的AI系统/工具/方法名称、版本、日期、开发者、具体用途以及使用方式。同时需要论证其在特定证据合成中的方法学合理性，并描述已知局限性、潜在偏见和伦理问题。

持续发展与能力建设

声明承认这是一个快速发展的领域，承诺通过联合AI方法组持续更新指导原则。四大组织将致力于提高作者和编辑的AI素养，并与证据合成基础设施协作组织（Evidence Synthesis Infrastructure Collaborative，ESIC）和DESTINY项目等倡议保持协调。

该立场声明的重要意义在于为证据合成领域的AI应用建立了统一的规范框架。通过强调人类监督、透明报告和工具验证等核心原则，既充分利用AI技术提升效率的潜力，又有效规避了可能的方法学风险。这一联合声明的发布，标志着证据合成领域在迎接AI技术挑战方面迈出了重要一步，为后续的技术发展和实践应用奠定了坚实基础。随着AI技术的不断演进，这一框架也将持续更新，确保证据合成作为可信决策基石的权威地位不受动摇。

研究结论部分强调，证据合成者需要在使用AI的效率优势与维护研究完整性之间寻求平衡。声明呼吁整个证据合成生态系统共同努力，包括工具开发者提高透明度，合成者加强能力建设，以及组织提供持续支持。这种多方协作的模式将有助于建立更加健全的AI治理体系，推动证据合成方法学的创新发展。

讨论部分指出，当前AI技术在证据合成中的应用仍处于早期阶段，存在诸多未知领域需要进一步探索。特别是关于不同AI工具在特定证据合成场景中的适用性评估，以及长期使用可能产生的累积效应，都需要更多的实证研究来验证。四大组织的联合立场为这一探索过程提供了重要导航，确保技术发展始终服务于提高证据合成质量和可信度的根本目标。