人工智能辅助诊断和转诊错误的法律与伦理责任：比较方法的综述及其对沙特医疗体系的启示

《BMC Medical Ethics》：Legal and ethical responsibility for AI-assisted diagnostic and referral errors: a scoping review of comparative approaches with implications for Saudi healthcare

　　

摘要

背景

人工智能（AI）系统越来越多地应用于临床诊断和转诊流程中，然而当这些工具导致患者受到伤害时，传统的医法原则会因算法的透明度不足、自动化偏见以及分布式决策而受到挑战。除了法律上的不确定性之外，AI的整合还引发了关于临床医生的道德责任、患者自主权以及分配正义等根本性的伦理问题。本综述探讨了全球各地如何划分AI辅助诊断和转诊错误的法律和伦理责任，确定了支持问责制的治理机制，并分析了这对沙特阿拉伯“2030愿景”医疗体系的影响。

方法

遵循Arksey和O’Malley框架以及PRISMA-ScR报告指南，通过系统检索MEDLINE（通过PubMed）、Scopus、Web of Science和CINAHL等数据库，并补充从世界卫生组织、欧盟委员会、美国食品药品监督管理局以及海湾合作委员会等监管机构获取的灰色文献，确定了相关研究。只有那些实质性讨论与AI辅助诊断或转诊相关的法律责任、伦理责任或监管框架的文献才被纳入分析。经过筛选和去重后，共纳入了77篇文献。数据被提取到八个主题领域，并根据原则主义框架（自主性、行善、不伤害、公正）从法律和伦理角度进行了分析。

结果

确定了四种主要的责任模型：基于过失的责任模型（27项研究）、严格的产品责任模型（16项研究）、基于过错的责任模型（12项研究）以及混合/分层责任模型（11项研究），其余11篇文献则探讨了多种或未明确指定的责任模型。在所有模型中，尽管临床医生对算法流程的控制有限，但他们仍承担了不成比例的责任，这种现象被称为“责任汇聚”（liability sink），对医生的道德困扰和专业诚信产生了重大影响。仅有两项研究直接涉及沙特阿拉伯的情况，结果显示89%的临床医生缺乏与AI相关的法律培训，且知情同意书未能披露AI的使用情况。伦理分析揭示了以创新为导向的政策目标与患者自主权、不伤害和公正原则之间的矛盾。

结论

有效的AI治理可能需要整合法律和伦理框架。对于沙特阿拉伯而言，现有的有限特定于该地区的证据支持暂时性发展一种基于情境的共享责任模型，该模型可以根据临床风险对AI进行分类，在监管设计中借鉴原则主义伦理标准，解决责任汇聚带来的道德问题，并与“2030愿景”的创新目标及伊斯兰生物伦理价值观保持一致。这些初步方向有待通过针对沙特阿拉伯的实证研究来验证。

背景

人工智能（AI）系统越来越多地应用于临床诊断和转诊流程中，然而当这些工具导致患者受到伤害时，传统的医法原则会因算法的透明度不足、自动化偏见以及分布式决策而受到挑战。除了法律上的不确定性之外，AI的整合还引发了关于临床医生的道德责任、患者自主权以及分配正义等根本性的伦理问题。本综述探讨了全球各地如何划分AI辅助诊断和转诊错误的法律和伦理责任，确定了支持问责制的治理机制，并分析了这对沙特阿拉伯“2030愿景”医疗体系的影响。

方法

遵循Arksey和O’Malley框架以及PRISMA-ScR报告指南，通过系统检索MEDLINE（通过PubMed）、Scopus、Web of Science和CINAHL等数据库，并补充从世界卫生组织、欧盟委员会、美国食品药品监督管理局以及海湾合作委员会等监管机构获取的灰色文献，确定了相关研究。只有那些实质性讨论与AI辅助诊断或转诊相关的法律责任、伦理责任或监管框架的文献才被纳入分析。经过筛选和去重后，共纳入了77篇文献。数据被提取到八个主题领域，并根据原则主义框架（自主性、行善、不伤害、公正）从法律和伦理角度进行了分析。

结果

确定了四种主要的责任模型：基于过失的责任模型（27项研究）、严格的产品责任模型（16项研究）、基于过错的责任模型（12项研究）以及混合/分层责任模型（11项研究），其余11篇文献则探讨了多种或未明确指定的责任模型。在所有模型中，尽管临床医生对算法流程的控制有限，但他们仍承担了不成比例的责任，这种现象被称为“责任汇聚”（liability sink），对医生的道德困扰和专业诚信产生了重大影响。仅有两项研究直接涉及沙特阿拉伯的情况，结果显示89%的临床医生缺乏与AI相关的法律培训，且知情同意书未能披露AI的使用情况。伦理分析揭示了以创新为导向的政策目标与患者自主权、不伤害和公正原则之间的矛盾。

结论

有效的AI治理可能需要整合法律和伦理框架。对于沙特阿拉伯而言，现有的有限特定于该地区的证据支持暂时性发展一种基于情境的共享责任模型，该模型可以根据临床风险对AI进行分类，在监管设计中借鉴原则主义伦理标准，解决责任汇聚带来的道德问题，并与“2030愿景”的创新目标及伊斯兰生物伦理价值观保持一致。这些初步方向有待通过针对沙特阿拉伯的实证研究来验证。