《International Journal of Technology Assessment in Health Care》：Dialogue on the use of artificial intelligence in health technology assessment: building a community of practice, transparency, and trust
编辑推荐：
人工智能（AI）在卫生技术评估（HTA）中的应用正在全球范围内迅速出现并不断演变。虽然许多人可能宣扬AI提升HTA效率、准确性和速度的潜力，但这些技术也带来了可能限制其负责任、合乎伦理和有效部署的风险、担忧和实际挑战。2025年HTAi全球政策论坛（GPF）提
人工智能（AI）在卫生技术评估（HTA）中的应用正在全球范围内迅速出现并不断演变。虽然许多人可能宣扬AI提升HTA效率、准确性和速度的潜力，但这些技术也带来了可能限制其负责任、合乎伦理和有效部署的风险、担忧和实际挑战。2025年HTAi全球政策论坛（GPF）提出了关于AI在HTA中使用的关键主题，如信任、人类能动性和基于风险的方法。其他人也讨论了AI在HTA中的政策考量。本文在这些出版物基础上，回答关键问题，并提供来自加拿大一家HTA机构、一家AI开发者卫生经济与结果研究（HEOR）公司以及一个支持AI安全研究人员的社区中心的视角。引入多元视角推进了GPF关于启动“实践社区”（CoP）的建议，该社区分享关于特定AI工具和HTA用例的经验。研究人员旨在模拟并鼓励这些CoPs的发展，启动对话，并为AI在HTA中的应用建立透明度与信任。
**论文解读：人工智能在卫生技术评估中的应用与信任构建**
**研究背景与目的**
人工智能（AI）在卫生技术评估（HTA）中的应用正在全球快速兴起，被认为可能提升评估的效率、准确性和速度，但同时带来风险、伦理问题和实际挑战。2025年HTAi全球政策论坛（GPF）提出信任、人类能动性和基于风险的方法是AI应用于HTA的关键主题。为回应这些议题，研究人员组织了一个由加拿大药物署（CDA-AMC）、AI开发者公司Loon、支持AI安全研究的社区中心Trajectory Labs以及工业界代表AstraZeneca Canada共同参与的对话式文章，旨在模拟并鼓励“实践社区”（CoP）的形成，通过分享特定AI工具和HTA用例的经验，建立透明度与信任。
**主要技术方法**
本文属于多视角对话文章，并未开展传统实验研究。在AI验证方面，Loon公司采用了“神经符号”（neurosymbolic）AI方法，结合大语言模型（LLM）的神经层与确定性规则和逻辑的符号层，对输出施加确定性约束。研究团队使用该AI系统筛查了来自8个公开的CDA-AMC系统评价中的3796条引文；每个AI决策都通过确定性算法分配置信度分数，并采用人在回环验证，重点核查低置信度的“纳入”决策（占样本的5.8%）。结果显示，该流程的敏感度为99%，精确度为90%，筛查工作量减少超过95%。
**主要结果与观点**
**当前AI在HTA中的应用：Nicole Mittmann博士（加拿大药物署）**
CDA-AMC正通过参与国际卫生技术评估机构网络（INAHTA）、与其他国际机构合作以及分享自身工具和举措，积极参与AI在HTA中的合理应用。其工作分为三条主线：在治理方面，自2024年起与英国国家卫生与临床优化研究所（NICE）合作制定AI方法指导文件，并建立AI风险与治理框架，将AI用例分为不同风险层级；在方法方面，要求技术开发者在提交材料中明确声明是否使用了AI，并坚持透明性、适当性、可信赖性和伦理考量；在社区协作方面，与德国IQWiG合作开发AI生成数据的评估工具，并参与GPF，确保跨辖区制定的实施指导符合机构实际需求。
**AI在HTA中的未来发展：Ghayath Janoudi（Loon）**
研究人员认为，AI在HTA中最具深远意义的发展不是技术本身，而是“工程哲学”的采纳，即通过架构设计控制输出，确保科学严谨性。直接将LLM部署为开放式聊天界面容易产生高错误率和输出变异性；更值得信任的是嵌入特定任务（如资格评估、数据提取、研究分类）的AI系统。Loon开发的神经符号AI通过确定性算法生成置信度分数，并以前瞻性基准测试和持续验证确保可靠性和校准置信度；当底层模型、系统提示或数据处理发生变化时，自动触发持续验证。
**AI在HTA中的警示性风险：Joanne Kim（Trajectory Labs）**
研究人员指出，AI发展速度远超治理速度，通用型LLM的快速普及正在带来实时可见的危害风险。相比通用模型，针对特定任务设计的“窄AI”（narrow AI）训练于精心筛选的数据，更易于使用特定基准进行测试和验证，因而更安全。HTA社区应考虑采用窄AI以降低风险并建立公众信任。同时，随着AI能力增强，自动化偏见可能威胁有意义的人类参与；当前AI使用应限于人类可监督的特定任务，例如在证据综合中提取数据或构建经济模型，并由人类作为第二审阅者核查。未来若AI具备端到端研究或超越人类能力，机构需要展开重要对话。
**构建实践社区、透明度与信任：Eon Ting（AstraZeneca Canada）**
工业界观点认为，所有讨论的共同主题是信任构建。实践社区（CoP）是安全实施AI并释放其效益的关键，HTAi可在促进这些社区方面发挥领导作用。CoPs应开放成员资格，涵盖HTAi成员及更广泛的HTA生态系统参与者，其核心目标是维护信任、透明度和人类能动性。工业界在CoPs中具有重要价值：可高效自动化行政流程、减轻机构工作负担、共同创建AI增强真实世界证据（RWE）的验证方法，并在提交材料中披露AI使用位置，从而支持透明的HTA。AI的使用应当是有意的、为HTA服务，而不是为使用而使用。
**讨论与结论**
讨论部分强调，随着CoPs形成，应考虑以下要点：第一，采纳“工程”思维，使AI自然支持HTA流程，并在工具设计中预先纳入科学严谨性；第二，针对具体用例考虑窄AI，并将其与现有基于人类的HTA流程和标准进行基准比较，经过精确验证的专用工具可能比通用工具更值得信任；第三，随着AI进入全球HTA常规实践，地方CoPs应提供实施指导，通过检查AI生成材料和员工培训，确保人类能动性不被无意丢失；第四，AI在HTA中有用但并非绝对可靠，用户有权决定在何处使用AI、何处必须保留纯人类流程。研究结论为：进步将来自地方CoPs的组织，通过梳理实施细节并协调行动，建立使用AI进行HTA所需的信任和透明度。本工作未获得任何特定资助，由所列作者自愿完成。
