欧盟《人工智能法案》对解剖病理学实验室的实际影响：欧洲病理学会与欧洲数字和整合病理学会专家共识解读

《Virchows Archiv》：Practical consequences of the European union-AI act for anatomic pathology laboratories a European society of pathology and European society of digital and integrative pathology commissioned expert opinion paper

本文针对欧盟《人工智能法案》(AI Act)为病理实验室带来的合规挑战，由欧洲病理学会(ESP)和欧洲数字与整合病理学会(ESDIP)组织专家团队，系统分析了该法案对高风险AI工具（如辅助诊断的AI系统）在开发、验证、部署及上市后监测等环节的具体要求，并制定了可整合入现有质量管理体系（如ISO、IVDR/MDR）的实用实施路径，为病理实验室安全、合规地整合AI技术提供了关键指导。

　　

随着人工智能（AI）技术浪潮席卷全球，数字病理学领域正经历一场深刻的变革。AI算法已能够协助病理医生进行组织分类、生物标志物定量分析、预后预测乃至工作流程优化，展现出提升诊断准确性、减少观察者间差异和加速大规模数据分析的巨大潜力。然而，这项强大技术的临床应用也伴随着伦理、法律、隐私安全以及监管验证方面的严峻挑战。特别是在欧洲联盟，一项里程碑式的立法——《人工智能法案》（AI Act）已于2024年颁布，并将于2027年中期全面生效，这为医疗健康领域，尤其是高度依赖图像诊断的病理学，设定了全新的游戏规则。病理实验室如何理解并应对这一复杂的监管框架，确保在合规的前提下安全、有效地整合AI工具，同时避免法规成为技术创新的绊脚石，成为了一个亟待解决的现实问题。

在此背景下，欧洲病理学会（European Society of Pathology, ESP）与欧洲数字和整合病理学会（European Society of Digital and Integrative Pathology, ESDIP）共同委托组建了一个多学科专家小组，旨在撰写一篇专家共识论文。该研究旨在深入解读《人工智能法案》的核心内容，并将其法律条文转化为针对解剖病理学实验室的具体、可操作的指导建议。论文的目标是帮助病理实验室弥合法律要求与临床实践之间的差距，将AI法规无缝整合到既有的质量管理体系（Quality Management System, QMS）中，最终推动AI在病理诊断中的负责任应用。

为完成此项工作，专家小组采用了正式的专家共识制定流程。小组由学术病理学家、具有法律背景的科学家以及具备监管专业知识的医疗专业人士构成。核心写作委员会（Frederik Deman, Sofia Palmieri, Amélie Dendooven）通过定期邮件往来和电话会议组织讨论，并负责起草文稿。草案经由全体合著者通过电子邮件循环审阅，最终版本由写作委员会定稿，并额外提交给一位外部法律专家（Dr. Jacopo Dirutigliano）进行法律审阅，以确保内容的准确性。

主要技术方法概述

本研究主要基于对欧盟《人工智能法案》(AI Act) 文本及其与《医疗器械法规》（MDR）和《体外诊断医疗器械法规》（IVDR）相互作用的深入分析。专家小组通过系统性的文献回顾和共识讨论，将法案中的法律义务（如风险管理、数据治理、透明度、人类监督等）映射到病理实验室的具体工作场景中。研究重点分析了高风险AI系统（如用于原发性诊断或癌症检测的工具）对提供商（开发者）和部署方（实验室）的不同要求，并探讨了法案对实验室内部开发（in-house）的AI工具的特殊规定。最终成果体现为一系列实用性指南和检查清单，旨在指导实验室的合规实践。

《人工智能法案》概述及其与医疗领域其他法规的交互

《人工智能法案》采用基于风险的分级监管模式，将AI系统划分为不可接受、高风险、有限风险和最小风险四个等级。用于医疗保健领域的AI系统，因其直接影响患者安全、临床结局和诊疗服务，绝大多数被归类为高风险系统。这意味着它们在上市前必须通过符合性评估（Conformity Assessment），确保满足严格的安全和性能要求。法案与此前已实施的MDR和IVDR相辅相成，而非替代。一个AI系统若同时属于医疗器械范畴，则需满足双重监管框架的要求。此外，处理个人数据的AI系统还必须遵守《通用数据保护条例》（GDPR）的规定。

高风险AI系统的核心义务：提供商与部署方

法案对高风险AI系统的提供商（开发者）和部署方（用户/实验室）规定了明确的义务。

对于提供商而言，关键义务包括：建立和维护风险管理系统（Risk Management System）；实施稳健的数据治理（Data Governance）措施，确保训练、验证和测试数据集具有相关性、代表性和无偏见性；提供全面、透明的技术文档（Transparency）；设计并确保人类监督（Human Oversight）机制的有效性，使临床医生能够干预和推翻AI输出；建立质量管理体系（QMS）以涵盖开发、测试、验证和上市后监测全过程；并采取强有力的网络安全（Cybersecurity）措施。

对于部署方（病理实验室），核心责任在于：确保使用AI系统的人员具备足够的AI素养（AI Literacy）；严格按照说明使用AI，并对输入数据的质量和代表性负责；最关键的是，病理医生必须验证AI产生的输出，然后才能应用于临床；必须向利益相关者（如临床医生和患者）透明地告知AI在诊断过程中的使用；记录和报告严重事件；并进行数据保护影响评估（DPIA）和基本权利影响评估。

对临床数字病理实验室的实际影响与合规挑战

文章详细探讨了法案对病理实验室的具体影响。不同类型病理AI工具的风险分类不同，例如用于初级诊断的AI为高风险，而用于玻片质量评估或工作流优化的工具可能风险较低。对于高风险AI，实验室面临的主要挑战在于将法案的新要求整合到现有的ISO、IVDR/MDR等质量体系中，避免重复劳动。一个重要的澄清点是，根据欧洲委员会的最新解释，完全在实验室内开发、使用且不上市流通的AI工具（IVDR“内部使用豁免”），通常不被视为法案下的高风险AI系统，从而免于最严苛的合规要求，但仍需遵守法案禁止性规定和基本透明度义务。

讨论：机遇、挑战与未来方向

文章讨论部分指出，ESP和ESDIP对《人工智能法案》表示欢迎，视其为在病理学快速创新中构建可信AI的重要一步。然而，实施过程也面临挑战，包括额外的监管负担、对小型实验室和初创企业的潜在影响，以及对某些要求（如日志文件格式）需要进一步明确。为促进合规，法案鼓励成员国建立“AI监管沙盒”（AI Regulatory Sandboxes），为AI系统在上市前的开发、测试和验证提供受控环境。专家强调，提升病理从业人员的AI素养至关重要，这不仅是有效使用工具的前提，也是确保监管合规和维持临床工作流程信任度的基础。

结论

《人工智能法案》为欧盟范围内的人工智能监管迈出了重要一步，对病理实验室产生了深远影响。该法案在文档记录、透明度和持续监测方面提出了挑战，但也为促进医疗诊断领域的信任、责任和创新提供了契机。病理实验室积极主动地理解监管指南，并与AI开发者密切合作，对于成功应对这一不断变化的监管环境、继续提供高质量的 patient care 至关重要。本文提供的专家共识和实用工具（如文中的检查清单和实际案例应用分析），为病理学界应对《人工智能法案》提供了及时且宝贵的路线图。