《Drug Safety》：Artificial Intelligence in Pharmacovigilance: Guiding Principles from the CIOMS Working Group XIV
编辑推荐：
摘要：人工智能（AI）正越来越多地被探索用于支持药物警戒活动，包括涉及个案安全报告（ICSRs）的流程。这些技术可能提高效率并增强新的分析能力，但也引发了关于在直接支持监管决策和患者安全的背景下负责任使用这些系统的重要问题。为应对这些机遇与挑战，国际医学科学组
摘要：人工智能（AI）正越来越多地被探索用于支持药物警戒活动，包括涉及个案安全报告（ICSRs）的流程。这些技术可能提高效率并增强新的分析能力，但也引发了关于在直接支持监管决策和患者安全的背景下负责任使用这些系统的重要问题。为应对这些机遇与挑战，国际医学科学组织理事会（CIOMS）设立了第十四工作组（Working Group XIV），以制定和推广该领域的指导原则与指南。由此产生的CIOMS报告于2025年12月发布，提出了七项指导原则：基于风险的方法、人类监督、有效性与稳健性、透明性、数据隐私、公平性与公正性，以及治理与问责。为最大限度地提高利益相关者的认知和理解，本文概述了CIOMS XIV指南，并通过选定的应用案例说明这些原则如何在实践中应用。该报告旨在支持利益相关者以保持科学严谨性、透明性和公众信任的方式开发和部署AI系统，同时促进创新以支持全球范围内药物的安全使用。
**药物警戒中人工智能的应用：CIOMS第十四工作组指导原则解读**
**研究背景与现存问题**
药物警戒作为保障药品安全的重要学科体系，长期以来依赖对个案安全报告（ICSRs）的系统收集、分析和评估。随着医药行业的快速发展和全球化进程的加速，不良事件报告的数量持续增长且数据来源日益多样化，传统的人工处理模式面临效率瓶颈。在此背景下，人工智能（AI）技术，特别是机器学习（ML）、自然语言处理（NLP）以及新兴的生成式大语言模型（LLMs），为药物警戒流程的自动化与智能化提供了广阔前景，涵盖信息提取、病例分流、信号管理及文献监测等多个环节。然而，AI技术的引入也带来了新的挑战。药物警戒数据的质量参差不齐，药物-事件关系的复杂性使得AI分析结果的解读可能直接影响监管决策与患者安全。此外，AI系统在直接支持监管决策的语境下，其负责任使用的问题，包括算法偏见、透明度不足、数据隐私风险等，亟需系统的规范与指导。正是为了应对这些机遇与挑战，国际医学科学组织理事会（CIOMS）于2022年设立第十四工作组（WG XIV），汇聚监管机构、工业界、学术界及国际组织的专家，旨在建立国际共识性的指导原则，为AI在药物警戒中的负责任开发、评估与使用提供框架。经过广泛的公开咨询（收到逾千条反馈），该工作组于2025年12月发布了题为《药物警戒中的人工智能》的最终报告，其核心成果是提出了七项指导原则。
**研究开展的内容与主要技术方法**
研究人员（即CIOMS WG XIV专家组）通过系统性开展系列研究工作制定了该指导原则。首先，进行了当前AI在药物警戒中应用现状的格局分析，以了解实际应用水平与成熟度；其次，回顾了国际上关于可信赖AI的现有指南文件，确保原则制定的国际协调性与前沿性。该工作还构建了包含相关术语的词汇表，并开发了一个治理框架网格，以结构化的方式将七项原则贯穿于AI系统生命周期的五个阶段。在制定过程中，报告草案于2025年5月发布进行公开咨询，并系统考虑了一千余条反馈意见。此外，为说明原则的实践应用，专家组在报告中纳入了多项选自不同药物警戒场景的应用案例（use cases），包括病例处理、重复报告检测、翻译、信息综合、因果评估、结构化查询语言（SQL）生成及诊断支持等。
**主要研究结果**
**基于风险的方法（Risk-Based Approach）**
通过风险识别、优先级排序和管理，以与风险相称的方式进行。研究人员通过分析多个应用案例，指出应针对每个AI系统进行风险评估，并贯穿其全生命周期，涵盖开发到常规使用阶段。风险考量因素包括AI技术本身、使用场景、风险发生的可能性、可检测性及潜在影响。
**人类监督（Human Oversight）**
研究强调，虽然人类监督本身不能保证完美结果，但可支持优化AI系统性能并增强可信度与问责性。根据人类干预的范围和强度，治理机制可包括人在环中（human-in-the-loop）、人在环上（human-on-the-loop）和人在指挥（human-in-command）。研究指出，药物警戒专业人员需警惕自动化偏见或确认偏误等陷阱，并需接受相应培训以应对AI集成度不断提高的工作环境。
**有效性与稳健性（Validity and Robustness）**
研究确认，确保AI解决方案的有效性与稳健性对于患者安全至关重要。由于不良事件报告质量不一及药物-事件关系复杂，需明确AI解决方案的预期用途和部署领域，并针对性地进行性能评估。报告提倡采用统计性能评估与定性审查相结合的方法，并建议进行亚组分析和敏感性分析以评估泛化性。对于具有非确定性输出的生成式AI模型的评估挑战也进行了专门讨论。
**透明性（Transparency）**
研究认为，透明性有助于建立信任，并确保监管合规。应披露AI模型的关键方面，包括预期用途、人机交互性质、模型架构、训练和验证数据及已知局限性。可解释性作为透明性的一种特定形式，虽非绝对要求，但可帮助利益相关者理解AI系统如何运作及产生特定输出。
**数据隐私（Data Privacy）**
研究强调，鉴于药物警戒数据涉及健康信息且可能包含患者资料，其敏感性要求比许多其他领域更严格的保护措施。数据处理必须符合通用数据保护条例（GDPR）或健康保险携带和责任法案（HIPAA）等法规。报告特别讨论了使用生成式大语言模型（LLMs）时关于数据持久性、数据二次使用及部署环境的风险，推荐采用私有云部署、联邦学习、差分隐私等先进技术保障措施。
**公平性与公正性（Fairness and Equity）**
研究指出，需识别和管理AI解决方案可能对特定群体产生负面影响的潜在不公平偏见。主要风险包括训练数据中固有偏见的延续以及对服务不足人群性能不佳。评估数据代表性、确保数据充分代表性以及可解释性是关键的缓解措施。报告认识到，不良事件报告系统在不同地区的报告率存在差异，且亚人群（如儿科人群）数据缺乏代表性，这直接妨碍了对这些人群的分析和推断能力。
**治理与问责（Governance and Accountability）**
研究确认，健全的治理和明确的问责制有助于确保AI系统在生命周期内负责任且合乎道德地使用。建议指定治理机构监督AI系统生命周期管理，并确定各阶段的责任人。应建立措施以便在必要时干预甚至停用AI系统。部署在关键药物警戒流程中的AI系统必须纳入组织的业务连续性计划，并应在药物警戒系统主文件（PSMF）中适当记录。
**讨论与结论**
讨论部分指出，CIOMS WG XIV报告反映了关于AI在药物警戒中负责任开发和使用的广泛国际共识。报告并非规定特定技术或方法，而是聚焦于可随时间持续适用的原则。七项指导原则强调，采用AI不仅应出于效率考虑，更应注重维护科学严谨性、透明性和问责制。AI解决方案应设计为补充和增强人类专业知识，并辅以适当的人类监督和治理机制。报告旨在作为各组织制定更详细内部政策和程序的基础，其实施需要药物警戒专业人员、数据科学家、监管机构等多方协作，以及对培训和组织准备度的投资。随着AI技术持续发展，未来可能需要在生成式AI模型评估、人机交互及AI输出整合入监管决策流程等方面制定更多指南。
研究结论部分（Conclusions）指出：通过提供一个基于广泛认可的AI治理原则并针对药物警戒特定要求定制的结构化框架，CIOMS WG XIV报告旨在支持负责任且有效地使用AI，以增强对药品不良效应的检测、评估、理解和预防能力。
