《Artificial Intelligence Surgery》:The surgeon behind the algorithm: Why Intraoperative AI Literacy is a patient safety imperative
编辑推荐:
人工智能(AI)正逐步进入外科手术室。AI辅助引导系统正被日益开发并用于支持解剖结构识别、记录安全关键步骤及提供实时术中决策支持。2025年一项针对外科医生的国际调查显示,尽管在正式知识与教育方面仍存在持续缺口,外科医生对AI的认知度、参与AI相关培训的意愿以
人工智能(AI)正逐步进入外科手术室。AI辅助引导系统正被日益开发并用于支持解剖结构识别、记录安全关键步骤及提供实时术中决策支持。2025年一项针对外科医生的国际调查显示,尽管在正式知识与教育方面仍存在持续缺口,外科医生对AI的认知度、参与AI相关培训的意愿以及将AI整合至外科实践的强烈意愿均有所提升。然而,与之相匹配的、关于如何在实践中安全使用这些系统的准备工作却未同步推进。
术中决策依赖于外科医生在不确定性条件下解读解剖结构的能力。在腹腔镜胆囊切除术等手术中,关键结构可能因炎症、纤维化或解剖变异而显示不清,误判的后果可能严重且不可逆。AI辅助引导系统通过实时呈现解剖叠加层、结构标签及置信度评分,在独立判断最为关键的时刻可能影响外科决策。因此,核心安全问题不仅在于AI能否准确识别解剖结构,更在于外科医生是否具备评估其引导、识别其局限并在临床判断需要时予以否决的能力。
据研究人员所知,目前尚无既定的能力框架来界定外科医生安全使用术中AI引导所需的核心能力。基于外科AI研究证据及人因学文献,本文提出术中人工智能素养(IAIL)作为组织这些能力并指导其未来培训与评估的候选框架。IAIL包含五个核心领域:系统认知(了解系统)、情境判断(运用情境)、否决能力(明智否决)、置信度解读(解读置信度)及临床问责(自主决策)。
需要强调的是,术中AI引导尚未成为外科常规实践的一部分,本文所讨论的系统仍主要处于技术开发、可行性测试及早期临床验证阶段。因此,本文提出的框架具有前瞻性而非描述性,旨在识别术中AI系统迈向常规临床应用过程中可能出现的能力缺口,而非对既有伤害模式的回应。研究人员承认,其他人可能提出不同的能力构成,或认为所需能力超出本文提出的五个领域。
一、研究背景与问题提出
人工智能正在进入外科手术室,AI辅助引导系统被越来越多地开发用于解剖识别、安全关键步骤记录和实时术中决策支持。2025年一项国际外科医生调查显示,尽管外科医生对AI的认知度和参与培训意愿显著提升,但正式知识与教育仍存在明显缺口,尤其是为安全使用这些系统所做的准备远远滞后于技术发展速度。术中决策高度依赖外科医生在不确定性条件下解读解剖结构的能力,而AI系统通过实时呈现解剖叠加层、结构标签和置信度评分,可能在独立判断最关键的节点影响手术决策。目前尚无既定的能力框架来界定外科医生安全使用术中AI引导所需的核心能力,这正是本文开展研究的动因。
二、研究内容与核心结论
研究人员基于外科AI研究证据与人因学文献,提出术中人工智能素养(Intraoperative AI Literacy, IAIL)作为候选能力框架,包含五个核心领域:系统认知(System Awareness)、情境判断(Contextual Judgment)、否决能力(Override Competency)、置信度解读(Confidence Interpretation)和临床问责(Clinical Accountability)。该框架是前瞻性的而非描述性的,旨在识别术中AI系统迈向常规临床应用过程中可能出现的能力缺口,而非回应既有的伤害模式。其重要意义在于,安全整合AI辅助手术不仅取决于技术性能,更取决于外科医生在手术室中监督、解读、质疑和否决AI引导的能力,以及承担全部手术决策责任的意识。
三、主要技术方法
研究人员综合运用了多源证据整合方法:系统梳理腹腔镜胆囊切除术中AI辅助引导的临床研究数据,包括多中心验证研究和回顾性损伤视频分析;借鉴航空、核电等高可靠性领域的人因学文献,包括自动化偏差、信任校准和技能退化等经典研究;参考监管框架如欧盟AI法案(EU AI Act)中关于人类监督的规定;并结合泌尿外科和结直肠外科的早期AI应用研究,包括基于单中心小样本的可行性研究,以评估框架的跨专科适用性。
四、研究结果
信任屏幕的问题。 术中AI引导与传统信息工具存在两点本质差异:AI以已解读的判断形式呈现输出,可能营造确定性的假象;外科医生对AI的训练数据、患者人群覆盖及性能退化条件缺乏了解。多项研究显示相同规律:AI在相对简单的手术中表现最佳,在解剖扭曲、炎症严重或复杂性增加时可靠性下降,而这些恰恰是外科医生最需要可靠引导并独立验证的时刻。
外科领域的历史先例。 腹腔镜胆囊切除术引入初期胆管损伤率上升,根本原因在于手术视野改变而训练未跟上,最终通过Strasberg于1995年提出的关键安全视野(Critical View of Safety, CVS)结构化核查得以应对。机器人手术通过正式培训路径、模拟项目和认证体系逐步建立安全机制。世界卫生组织(WHO)手术安全清单也验证了结构化验证步骤的价值。AI辅助引导系统可能代表这一模式的下一轮迭代。
高 stakes 自动化的教训。 航空领域的事故调查反复识别出飞行员与自动化系统交互失败的模式,包括过度依赖自动化、情境意识丧失和手动接管困难,法航447航班和波音737 MAX事故即为典型例证。航空业的应对不是限制自动化,而是建立系统化的安全管理框架,包括监管监督、模拟训练、定期能力评估和明确的手动干预训练。外科医生使用术中AI引导时将处于类似的人机环境,需要自动化意识、故障识别、信任校准和否决决策的框架。
IAIL框架的提出。 研究人员提出IAIL包含五个核心领域:系统认知要求外科医生理解AI系统的训练和验证条件及可靠性下降情境;情境判断要求将AI引导整合至完整手术情境中而非假设其普遍适用;否决能力要求外科医生在AI引导与独立临床判断冲突时能够安全否决;置信度解读要求理解置信度分数代表模型内的统计确定性而非临床正确性保证;临床问责要求明确手术决策责任始终归属于主刀外科医生。这些能力适用于外科受训者和已独立执业的医生两个群体,前者可通过课程渐进整合,后者需通过继续教育和结构化课程获得。
五、讨论与结论
当前外科AI研究大多聚焦算法性能,对外科医生如何回应AI输出——信任、质疑或搁置——的研究严重不足。深度学习模型无法解释其推理过程,外科医生无法像质疑助手那样追问AI。模型输出的呈现方式可能影响接受度,高置信度叠加层可能在医生形成独立判断前就呈现答案。其他高风险领域的研究表明,操作者对自动化推荐的信任往往超过对同事建议的信任,且经验并不能消除这一倾向。临床问责领域尤为关键:若外科医生接受高置信度标签而未独立验证导致患者伤害,责任归属尚不明确。欧盟AI法案将监督责任分配给医院和主刀医生,但对医生遵循看似合理却最终错误的引导时责任如何划分语焉不详。这种责任只有在外科医生接受了判断AI引导的训练时才公平——未经培训的医生不应为无人准备他们做出的判断承担责任。IAIL的评估面临挑战,模拟训练提供了一种可行路径,允许在预设错误点记录外科医生响应的时机、准确性和推理过程。该框架存在明确局限:临床证据集中于腹腔镜胆囊切除术,跨专科适用性未经验证,部分理论依据从航空等领域外推而来,框架本身未经专家共识和正式效度评估。IAIL不是怀疑的框架,而是负责任使用的框架。它供测试而非采纳,但提出这个问题必须在这些系统仍在开发时就进行。