临床医生对错误人工智能建议的识别与应对：系统性综述

《npj Digital Medicine》：Human oversight of erroneous clinical AI and decision support a systematic review and meta analysis

【字体：大中小】 时间：2026年10月25日 来源：npj Digital Medicine 18.0

编辑推荐：

　　摘要人工智能（AI）在临床决策中发挥着日益重要的作用，但人类的监督仅在临床医生能够识别并抵制错误输出时才具有保护作用。我们系统综述了控制性研究和真实世界研究中临床医生对错误自动化建议的应对情况。四十六份报告代表41个独立队列群，其中包括40个核心队列。在三个经调整的队列中，自

摘要

人工智能（AI）在临床决策中发挥着日益重要的作用，但人类的监督仅在临床医生能够识别并抵制错误输出时才具有保护作用。我们系统综述了控制性研究和真实世界研究中临床医生对错误自动化建议的应对情况。四十六份报告代表41个独立队列群，其中包括40个核心队列。在三个经调整的队列中，自动化建议正确时临床医生的判断正确率显著高于建议错误时（合并OR 10.19，95% CI 7.43–13.98；I2 = 0%）；2020年及以后的敏感性分析结果类似但不精确（OR 9.22，95% CI 2.06–41.13）。在四项异质性较高的真实世界计算机辅助心电图（ECG）研究中，26.6%的错误判读未被纠正或识别（95% CI 6.4–65.6%；I2 = 95.8%）。当代AI和大语言模型研究也记录了有害性依赖，但因异质性过高无法进行合并分析。一项回顾性队列中报告了患者层面的不良事件。人类监督应作为错误拦截能力加以评估，而非假定其可确保安全。