《Egyptian Journal of Neurosurgery》：Artificial intelligence in neurosurgical decision-making: Can the surgeon trust the algorithm?
编辑推荐：
将人工智能（AI）整合到神经外科实践中代表着现代医学最具变革性的转变之一。AI驱动的平台现已达到显著的基准：肿瘤检测准确率达到97.5%，切除误差减少高达30%，以及实时术中分子分类系统（如DeepGlioma）在不到90秒内提供诊断结果，根据2021年WHO
将人工智能（AI）整合到神经外科实践中代表着现代医学最具变革性的转变之一。AI驱动的平台现已达到显著的基准：肿瘤检测准确率达到97.5%，切除误差减少高达30%，以及实时术中分子分类系统（如DeepGlioma）在不到90秒内提供诊断结果，根据2021年WHO分类法，对弥漫性胶质瘤亚型的准确率超过90%。这些能力引入了精准神经外科的新时代。然而，这种快速的技术进步已经超越了管理其安全采用所需的伦理、法律和临床框架的发展。这篇社论强调了围绕神经外科中AI辅助决策的关键争议，并强调了基于证据的共识指南的迫切需求。一个核心问题是所谓的“黑箱”问题。大多数在神经外科中部署的AI系统依赖于深度学习架构，包括卷积神经网络，这些网络通过互联层处理大量数据集，其方式制造商或临床医生无法完全解释。当AI工具推荐特定的手术切缘、预测分子亚型或建议治疗路径时，神经外科医生通常无法追溯该推荐背后的推理。这种缺乏可解释性造成了一个悖论：外科医生应依赖一个内部逻辑不透明的工具，同时又必须行使独立的临床判断在必要时推翻它。对于经验不足的外科医生，自动化偏差（盲目信任AI输出而不进行批判性评估）的风险变得尤为突出。这种情况的医疗法律后果深远且在很大程度上未解决。根据当前的医疗事故框架，医生对临床决策承担最终责任，包括那些由AI系统提供信息的决策。通过CLASSICA（地平线欧洲）项目进行的一项里程碑式实证研究，发表在《Annals of Surgery Open》上，揭示了外科医生即使在使用AI时通常也接受这一责任负担，但对制造商的问责表现出显著怀疑，除非识别出明确的产品缺陷。关键的是，法院开始考虑在今天技术整合的环境中，一位合理的医生是否应该使用了AI系统，以及未能这样做本身是否构成疏忽。这造成了双重责任暴露：神经外科医生可能因遵循错误的AI推荐而面临法律后果，或者同样地，因未使用可能改善结果的可用AI工具而面临法律后果。监管环境虽然正在演变，但仍不足。2025年1月，美国食品药品监督管理局（FDA）发布了关于AI赋能设备软件功能的综合指南草案，引入了透明度和标签要求，包括强制披露模型输入、输出、性能指标和已知偏差来源。FDA 2024年12月关于预定变更控制计划（PCCPs）的最终指南代表了一步前进，允许制造商预先指定算法更新而无需完全重新提交。然而，截至2024年，只有16.7%的FDA授权的AI/ML医疗器械报告了PCCPs，不到五分之一披露了完整的灵敏度和特异度指标。此外，不到16%的设备摘要报告了种族或民族数据，引发了对算法偏差以及这些工具在不同患者群体中可推广性的严重担忧。AI在神经外科中的应用提出了独特的挑战，使其区别于其他外科专科。中枢神经系统在严格的空间限制内运作，即使是最小的组织损伤也可能导致灾难性和不可逆的后果。与放射学或皮肤科中的AI应用不同，其输出是允许有时间反思的诊断建议，神经外科中的术中AI工具通常为具有即时和永久性影响患者结果的实时决策提供信息。例如，术中肿瘤切缘评估中假阳性或假阴性的后果可以决定功能保留与毁灭性神经功能缺损之间的差异。来自心脏病学和放射学的当前指南提供了有指导意义但不足以类比神经外科背景的范例。诸如健康AI联盟（CHAI）等行业组织已发布了负责任AI指南和检查表，涉及AI部署的伦理和质量原则。美国法律研究所2024年对医疗事故法的重述，正如2025年JAMA特别通讯中所讨论的，代表了从严格依赖惯例实践向基于证据的合理护理标准的转变。然而，没有神经外科学会发布具体指南，说明何时以及如何将AI推荐整合到或推翻在术中决策工作流程中。这一空白使得个体神经外科医生在没有机构支持的情况下应对这些复杂场景。对现有证据的批判性分析揭示，尽管AI已显示出相当大的前景，但该领域缺乏验证AI辅助决策与传统神经外科实践相比的随机临床试验。大多数现有研究是观察性的，样本量有限，参与者多样性不足，限制了研究结果的可推广性。缺乏稳健的比较数据妨碍了制定清晰且安全的临床方案，并使得AI在神经外科中的真实临床效用问题基本未得到解答。迫切需要未来的研究来定义最佳实践并制定神经外科中AI整合的安全临床方案。至少，这些研究应解决：(1) 标准化协议，规定神经外科医生何时应遵循或推翻AI推荐；(2) 透明度要求，确保临床医生理解AI输出的置信水平和局限性；(3) 明确的责任框架，在外科医生、机构和制造商之间分配责任；以及 (4) 强制报告人口统计性能数据，以检测和减轻算法偏差。在此期间，医生必须谨慎地运用个体化判断，在选择依赖或拒绝AI推荐时记录其临床推理。在神经外科环境中共享真实世界AI性能数据的大规模多中心注册中心可以显著加速指导政策所需的证据基础。人工智能并非对神经外科实践的内在威胁——它是一种强大的工具，如果得到适当治理，可以增强超越当前能力的精度和结果。然而，没有共识指南、透明的监管监督和严格的临床证据，在神经外科中采用AI风险会带来更多问题而非答案。神经外科界必须带头定义安全AI整合的边界，以免技术——以及法律——为我们定义这些边界。
**论文解读：人工智能在神经外科决策中的信任与治理——基于《Egyptian Journal of Neurosurgery》的综述分析**
**研究背景与问题**
人工智能（AI）在神经外科中的整合标志着现代医学的重大变革。AI驱动的平台已实现肿瘤检测准确率达97.5%、切除误差减少30%，以及术中分子分类系统（如DeepGlioma）在90秒内以超过90%的准确率诊断弥漫性胶质瘤亚型（依据2021年WHO分类法）。然而，这一技术进步远超伦理、法律和临床框架的发展，导致AI在神经外科中的安全采用缺乏指导。当前存在核心问题：AI系统的“黑箱”特性（即深度学习架构的不可解释性）使神经外科医生无法追溯推荐逻辑，可能引发自动化偏差（automation bias）；医疗法律框架下医生承担最终责任，但法院开始考虑未使用AI是否构成疏忽，形成双重责任暴露；监管不足，如FDA仅16.7%的AI/ML设备报告了预定变更控制计划（PCCPs），且种族/民族数据披露率低于16%，存在算法偏差风险；神经外科的特殊性——中枢神经系统（CNS）的不可逆损伤风险——使术中AI决策的假阳性/假阴性后果尤为严重，而现有指南（如心脏病学、放射学领域）不足以类比。因此，开展本研究的目的是批判性分析AI辅助决策的争议，呼吁基于证据的共识指南。
**研究内容与结论**
研究人员（即本文作者）通过回顾现有文献与政策文件（包括CLASSICA项目研究、FDA指南、美国法律研究所重述等），系统分析了AI在神经外科决策中的伦理、法律和临床挑战，得出以下结论：AI是强大工具，但缺乏共识指南、透明监管和严格临床证据，其采用可能带来更多问题而非答案。该社论强调神经外科界必须主动定义安全整合边界，以免技术或法律越俎代庖。论文发表于《Egyptian Journal of Neurosurgery》，具有重要警示意义，为后续指南制定提供了方向。
**关键技术方法**
本文为综述性社论，未涉及实验方法或样本队列。主要技术方法包括：文献系统检索与批判性分析，聚焦于AI在神经外科中的性能数据（如肿瘤检测准确率）、黑箱问题、法律责任模型（基于CLASSICA项目的实证研究）、监管政策评估（FDA 2024-2025年指南）以及跨学科指南对比（心脏学、放射学、美国法律研究所重述）。未采用具体试剂、培养或质粒构建操作。
**研究结果**
基于原文段落结构，保留以下小标题，并说明通过何种研究得出何种结论：
1. **黑箱问题与自动化偏差**：通过分析深度学习架构（如卷积神经网络，CNN）的不可解释性，作者指出神经外科医生无法追溯AI推荐逻辑，导致自动化偏差风险，尤其对经验不足者，需独立临床判断予以平衡。
2. **医疗法律双重责任**：基于CLASSICA（地平线欧洲）项目的实证研究（发表于《Annals of Surgery Open》），发现外科医生接受责任但质疑制造商问责；法院倾向考虑未使用AI是否构成疏忽，形成双重责任暴露。
3. **监管现状与不足**：通过评估FDA 2024-2025年指南（包括PCCPs），发现仅16.7%设备报告PCCPs，<20%披露完整灵敏度和特异度，<16%报告种族/民族数据，提示算法偏差和可推广性隐患。
4. **神经外科的特殊挑战**：通过对比放射学/皮肤科AI应用，指出CNS的空间约束导致术中AI决策（如切缘评估）的假阳性/假阴性后果不可逆，风险远超其他专科。
5. **现有指南的缺失**：通过分析行业指南（如CHAI负责任AI指南）和医疗事故法重述，发现神经外科学会未发布具体整合指南，个体医生缺乏机构支持。
6. **证据缺乏与未来方向**：通过批判性评估现有研究（多为观察性、样本量有限、多样性不足），指出缺乏随机临床试验验证AI辅助决策，需设立标准化协议、透明度要求、责任框架和人口统计报告，并建议建立多中心真实世界数据注册中心。
**讨论与结论**
讨论部分总结：AI并非威胁，而是需恰当治理的强工具。缺乏共识指南、透明监管和严格证据时，采用AI风险巨大。神经外科界应主动定义安全整合边界。研究结论原文翻译如下：人工智能并非对神经外科实践的内在威胁——它是一种强大的工具，如果得到适当治理，可以增强超越当前能力的精度和结果。然而，没有共识指南、透明的监管监督和严格的临床证据，在神经外科中采用AI风险会带来更多问题而非答案。神经外科界必须带头定义安全AI整合的边界，以免技术——以及法律——为我们定义这些边界。
