《Engineering》：Artificial Intelligence Empowers Regulatory Compliance Science for Medical Devices: From Premarket Approval to Post-market Surveillance, How Far Are We There?
编辑推荐：
尽管人工智能（AI）在医学领域作为医疗器械已被广泛研究，但其作为监管机构治理工具的作用在很大程度上仍未被探索。创新型AI集成医疗器械的快速涌入，揭示了当前人工设计的监管体系（Hud-RS）中的关键瓶颈，包括审批延迟和资源约束。在本研究中，研究人员构想了一个全面
尽管人工智能（AI）在医学领域作为医疗器械已被广泛研究，但其作为监管机构治理工具的作用在很大程度上仍未被探索。创新型AI集成医疗器械的快速涌入，揭示了当前人工设计的监管体系（Hud-RS）中的关键瓶颈，包括审批延迟和资源约束。在本研究中，研究人员构想了一个全面的动态监管现代化框架，称为"人工智能治理监管体系（Aig-RS）"。该框架覆盖了从临床前和临床审评到上市后监督的全产品生命周期。研究人员考察了各监管机构的当前实践，并提出优化现有措施以简化审评流程的策略。尽管美国食品药品监督管理局（FDA）在其机构级工具（企业语言支持助手（ELSA））方面取得了显著进展，但创新医疗器械向临床实践的及时转化仍然有限。因此，Aig-RS旨在通过利用AI安全地加速监管决策，并阐明监管机构如何在审评连续体中实施AI。
研究背景方面，创新型高复杂度人工智能（AI）医疗器械的快速涌入已远远超出当前滞后、基于纸质且人工设计的监管体系（Hud-RS）的承载能力。许多研究人员在医疗器械开发中遇到复杂的监管障碍，这些挑战可能源于分类、预期用途、适用标准、指南和合规要求。监管透明度和可用路径方面持续存在显著差距。尽管监管机构（RAs）正在向电子文档过渡，但许多机构仍依赖纸质程序审评器械。AI在医疗器械中的关注点通常放在产品而非监管产品本身的监管机构上。1976年，美国食品药品监督管理局（FDA）启动了医疗器械的上市前审评和批准程序。欧盟（EU）颁布了医疗器械法规（MDR）（2017/745号法规）和体外诊断医疗器械法规（IVDR）（2017/746号法规），旨在从三项旧指令对监管体系进行现代化改造。截至2026年3月4日，FDA在其官方公告"人工智能赋能医疗器械"中列出至少1430个AI和机器学习（AI/ML）赋能器械。欧洲市场流通着超过50万台医疗器械。尽管这些器械被分为不同子类别，但其庞大数量对建立统一监管管理标准构成挑战。虽然各司法管辖区的监管框架持续演进，但Hud-RS的复杂性持续影响这些器械的最终批准，仍有相当大的改进空间。此外，评审人员在自身专业领域之外的原则可能导致带有评估偏见的判断。监管机构已制定策略以增强监管生态系统并探索AI的可行性。
AI已作为医疗器械（AIaMDs）部署。FDA列出的1430个AIaMDs主要集中在诊断和预后（如放射学和神经学中的AI影像软件）。超过80%的此类器械已通过上市前通知510(k)路径获得许可。在欧洲，欧洲药品管理局（EMA）依赖经认证的公告机构（NBs）进行批准，超过140个AI/ML器械获得CE标志或MDR批准。目前，由于AI的快速发展，大多数监管机构仍依赖纸质工作流程。随着AI重塑医疗保健行业并成为转化医学的关键驱动力，AI治理监管体系（Aig-RS）的概念为改革现有监管流程提供了敏捷路径。该概念还探索了AI治理促进市场准入的潜力，从传统审评流程转向全产品生命周期（TPLC），最终推进监管现代化。与现有文献主要关注AI作为AI/ML医疗器械不同，研究人员的新方法将监管实践与科学和AI方法相结合，从而为监管机构实现监管体系本身及其监管的具体器械的现代化提供了框架。
在Hud-RS体系下，加速监管路径包括优先审评、突破性器械认定、人道主义器械豁免（HDE）和孤儿器械认定，预期可缩短时间线。然而，资格标准限制了许多医疗器械的使用范围。根据MDUFA审评时间线，PMA具有最长的审评时间。值得注意的是，De Novo器械的审评时间与PMA相似，这可能归因于分类过程，尽管De Novo器械被归类为低至中度风险。在EU MDR/NB框架下，NBs审评能力受限导致医疗器械评估和认证显著延迟。因此，研究人员提出了Aig-RS框架，该框架概述了涵盖三个关键阶段的监管加速方法：分类、临床前合规与新方法学（NAMs）匹配、临床合规。在临床前合规阶段，AI技术被整合以验证研究方案和测试标准，如生物相容性、影像学评估和电磁兼容性（EMC）。临床阶段利用AI支持文献综述、临床试验设计和真实世界数据分析以满足监管要求。该框架提出两种模型：模型1在特定阶段应用AI，而模型2实施全面的端到端AI技术审评。模型1代表使用模块化AI工具的人在回路（HITL）分阶段方法。模型2为低风险器械提供全自动化流水线。两种模型均不依赖单一深度学习网络，而是整合多种专业算法，如决策树、自然语言处理（NLP）、异常检测和计算机视觉。这包括一个带有微调双向编码器表示变换器（BERT）/决策树的监督NLP模型用于分类。每个算法的性能可通过与人类审评人员基准进行比较来测试，使用F1分数等指标，有助于确保评估结果的稳健性和可靠性。
关于伦理委员会的作用，在模型1中，NLP自动提取和验证伦理委员会批准函，标记任何差异供人类审评人员处理。在模型2中，自动化系统在处理临床证据时必须包含专门的伦理验证模块。该模块验证机构审查委员会（IRB）或独立伦理委员会（IEC）的数字签名，并确保临床试验注册号（如ClinicalTrials.gov）与相应的伦理批准文件匹配。只有在这些检查成功确认后，自动化审评才会继续进行。此外，质量管理体系（QMS）纳入AI用于合规管理和生产监督。
虽然Aig-RS实施的实证数据仍在涌现，但FDA的企业语言支持助手（ELSA）试点表明自动化可能带来有意义的效益。从Hud-RS向Aig-RS模型过渡估计可减少行政时间并减轻整体审评相关后勤负担。因此，该方法可为制造商节省大量成本并改善患者可及性。
在AI驱动的分类方面，分类是确定监管路径的前提，其复杂性不容低估。尽管风险分类已通过国际医疗器械监管机构论坛（IMDRF）在全球范围内基本协调，但各司法管辖区在具体监管要求层面仍存在重要差异。许多器械开发商未在开发过程早期优先考虑分类，这可能在产品转化过程中造成重大监管障碍。例如，与FDA指南相比，EU MDR的附件VIII和第11条可系统地将许多软件应用（如SaMD）重新分类为更高风险类别。此外，FDA的集中式机构模式与欧盟的去中心化NB框架形成鲜明对比。EMA在MDR框架下建立了决策树指南，由NBs主导CE标志合规。越来越多的监管机构发布了在线分类规则，如FDA的AI软件导航器和香港的医疗器械在线分类工具。
在临床前合规方面，新型器械的初步安全性和有效性至关重要，通常在人体使用前通过体外和体内生物学评估作为概念验证进行评估。动物模型从啮齿类动物用于早期安全性筛选到较大动物（如猪、狗和羊）用于心血管、骨科或植入式器械，在人体试验前提供不可或缺的生物学验证。然而，动物生理学、疾病进展和年龄的变异性引入了转化不确定性。此外，由于器官代谢、免疫功能和组织形态的差异，动物模型往往无法准确复制人类状况。为解决这些局限性，NAMs已被开发，包括计算机模型、多类器官和器官芯片系统。这些模型模拟人类生理学和疾病，提供动物福利、伦理和成本效益选项。然而，类器官和器官芯片的规模化和标准化仍面临挑战，包括可重复性、血管化、营养摄取和生物学成熟度等问题。此外，缺乏关于方案和验证方法的共识限制了其广泛采用。研究人员建议监管机构考虑动物测试适用于评估安全性的有效性和一致性。通过利用NAMs，FDA正在推进其在FDA现代化2.0下促进动物减少、优化、替代（3R）规则的目标。然而，这主要涉及移除生物制品获得药品批准许可过程中对动物证据的要求。类器官和器官芯片的国际标准仍在制定中（截至2025年7月为ISO/AWI 25430-1、ISO/WD 25693和ISO/WD 25448）。与AI/ML医疗器械中的获益-风险分析类似，AI训练数据集应遵守关于有效性、安全性和风险的国际协调标准/指南（如国际标准化组织（ISO））。AI有潜力整合庞大数据集以预测人体对物质的反应，从而提高毒性和有效性测试的可靠性。AI用于补充和改进动物的使用而非作为替代。此外，它可以整合来自NAM技术、动物模型和临床研究的数据以提高预测准确性。这对于基于内部训练数据评估模型构建、研究设计和伦理合规具有潜力。研究人员可以考虑评估新型骨科植入物的骨整合为例。目前，监管机构严重依赖羊模型；然而，羊与人类骨重塑之间的生理差异往往导致临床转化有限。AI辅助的跨物种预测模型可以帮助解决这一差距。通过输入羊模型的多组学和转录组数据以及植入物材料特性的详细信息，训练好的神经网络可以输出预期的人类炎症和成骨反应。验证此类模型需要对照历史临床试验数据进行回顾性基准测试，以证明其可靠弥合种间生理差异的能力。此外，"器官芯片"系统提供模拟人类特异性免疫反应的能力，为ISO-10993生物相容性测试提供稳健的非动物替代方案。例如，三维（3D）仿生肠道黏液模型可用于在热原性评估中评估细菌内毒素。将NAMs纳入审评和批准流程可进一步扩大其在临床前应用中的应用。
在临床评价方面，临床评价对于确保医疗器械的安全性和有效性至关重要，特别是被归类为高风险的器械。尽管其重要性不言而喻，但各司法管辖区的临床评价流程仍未充分优化。遵守既定标准（包括ISO 13485和ISO 14155:2020）对于在临床研究中保持质量、科学严谨性和数据可靠性至关重要。AI技术具有优化临床研究设计的显著潜力。例如，NLP可以分析科学文献和临床试验数据库以识别研究空白、生成假设并优化研究终点。在方案制定过程中，AI驱动的预测分析可以模拟研究场景以优化样本量并改善终点选择。AI还可以通过分析涵盖社会经济、遗传和地理变量的人群数据来增强纳入标准的多样性。总体而言，它加速受试者招募、降低成本、增加人群多样性、支持实时监测并提高研究设计准确性，使其在临床评价中具有多功能性。
尽管AI已展示出流程优化的潜力，但其实施仍面临一些挑战。监管机构对旨在支持人体试验的AI辅助证据仍持谨慎态度。例如，如果器械开发商使用预测分析将临床试验样本量减少（如30%），监管机构可能会担心此类设计是否保持足够的统计功效以及AI生成研究人群多样性差异引入的偏倚风险。研究人员认为采用贝叶斯自适应设计是可行的解决方案。
在影响审评和批准时间线的关键因素方面，不同司法管辖区的批准时间线差异显著，文档差距和EMA/NBs能力有限是延迟的主要驱动因素。全球超过90%的医疗器械由FDA、EMA/NBs和NMPA等主要监管机构批准。NMPA建立了"创新医疗器械特别审评程序"作为加速新技术的绿色通道。现代监管框架已基于安全性和有效性原则建立了结构化路径。然而，监管体系难以跟上快速的技术创新，特别是AI驱动的器械。AI具有自动化和标准化方案制定的潜力，从而提高监管提交的一致性和效率。COVID-19大流行是监管速度外部极限的显著例子。在紧急使用授权（EUA）条款（21 CFR Part 312）下，美国FDA在数月内快速授权了COVID-19诊断测试和信使RNA（mRNA）疫苗，而标准监管路径通常需要数年。EUA在不存在充分批准的替代品且已知和潜在获益大于已知和潜在风险时发布。这一经验强调，通过结构化预提交数据标准和自动化完整性评估，AI辅助监管审评可能将传统审评时间线压缩至接近EUA等效速度，即使对于非紧急提交，特别是对于特征明确的器械类别。
在上市后监督（PMS）方面，PMS是TPLC的关键组成部分，旨在评估产品上市后在真实世界环境中的性能和安全性，从而解决上市前评估中可能存在的差距。尽管医疗器械已通过严格的设计控制开发，但实际使用变异性可能导致先前未识别的不良事件。有效的PMS依赖于稳健的报告机制和及时的监管行动。然而，漏报、数据不一致和信号检测延迟等挑战持续存在。监管机构利用PMS数据监测安全趋势、评估风险并支持召回等决策，特别是对于植入物和手术机器人等高风险产品。AI与PMS的整合实现了自动化信号检测、风险分层和早期预警系统。例如，植入式器械唯一器械标识（UDI）系统的实施（一种强制性追踪机制）与患者电子健康记录（EHR）结合时，显著改善了主动监测。NLP可进一步应用于报告系统，如FDA的制造商和用户设施器械体验（MAUDE）数据库或欧洲医疗器械数据库（EUDAMED），通过持续解析非结构化临床叙述，实现不良事件信号的主动检测，支持纠正和预防措施（CAPA）。通过自动化信号提取，NLP可以比人工主导的审评更早识别器械故障的新兴趋势。此外，监管机构越来越多地采用真实世界证据（RWE）为器械性能提供更广泛的背景，从而增强PMS效能和产品创新。AI与RWE的融合在推进上市后风险管理和患者安全方面具有显著潜力。
在全球监管机构AI/ML采用现状与挑战方面，全球监管机构呈现数字化转型趋势。加拿大卫生部、澳大利亚治疗用品管理局（TGA）、英国药品和保健品管理局（MHRA）、日本药品和医疗器械管理局（PMDA）和新加坡卫生科学局（HAS）等机构已启动数字化现代化战略。所提出的Aig-RS模型以监管科学框架为基础，作为概念参考模型提出，以告知和支持相关机构开展的类似举措。AI的采用依赖于不断演进的法律框架和稳健的监管基础设施，以确保安全性、透明性和有效性。报告表明，当前AI发展面临对监管采用构成挑战的关键问题。
关于全球司法管辖区AI当前采用情况，与美国上述Aig-RS框架相反，评估当前监管机构AI采用进展程度具有指导意义。2017年，FDA与数字健康软件开发商合作启动了预认证（Pre-Cert）试点项目。AI在数据分析和流程自动化方面的能力为监管工作流程带来明显益处，特别是在PMS信号检测和上市前审评方面。当前AI采用进展突显了监管机构日益拥抱AI的总体趋势。在美国，21世纪治愈法案（2016年）允许在监管决策中使用RWE，从而支持AI融入医疗保健。FDA的数字健康创新行动计划（2017年）和基于AI/ML的软件作为医疗器械行动计划（2021年）引入了TPLC模型和良好机器学习实践（GMLP）。基于AI/ML的SaMD修改的监管框架超越了传统审评，通过预定变更控制计划（PCCPs）和算法变更协议（ACPs）允许安全演进。尽管FDA尚未完全采用AI进行监管决策，但已部署基于Anthropic的Claude技术构建的ELSA，仅限于机构内部使用，于2024年4月启动。该系统无法处理工业数据，尽管纳入了防止幻觉的机制，但其准确性和与申请者进行批判性互动的能力仍存在担忧。目前，FDA的ELSA试点的详细性能指标和验证结果仍属专有信息，尚未公开披露，从而无法对拟议的AI治理监管体系（如Aig-RS）进行严格的外部基准测试。为实现有意义的比较评估和独立的方法学研究，通过现有MDUFA透明度和报告机制总结和传播ELSA试点结果将是有益的。此类披露可包括分诊准确性、对审评时间线的影响以及对审评人员工作量的影响的汇总数据。EMA也在其"NDSG工作计划2025-2028：药品监管中的数据和人工智能"中强调了AI应用。NMPA发布了基于AI的医疗器械指南草案，强调训练数据质量、算法透明度、临床验证和上市后监督的重要性。IMDRF已发布医疗器械开发GMLP的十项指导原则，一些监管机构（如PMDA和加拿大卫生部）已与GMLP和国际协调保持一致。
在监管体系产品批准中采用AI的挑战方面，采用Aig-RS的主要障碍不仅是技术性的，也是制度性的，特别是错误AI辅助监管决策产生的法律责任问题。建立稳健的治理框架对于实现伦理、透明和安全的AI部署至关重要。AI算法通常包括监督、无监督和强化学习，必须与数据类型和监管目标保持一致。例如，监督学习在使用决策树进行合规监测方面具有实用价值。然而，监管数据具有商业敏感性，无法由公共AI模型处理，需要本地化和安全的解决方案。借鉴EU AI法案的规定，研究人员提出了监管机构严格的风险分级决策框架。对于低风险行政任务（如完整性检查），可允许完全AI自动化。对于中风险任务（如 predicate device 匹配），AI输出需要人类审评人员明确确认。对于高风险决策（如评估临床试验终点），AI必须严格限制为辅助角色。为避免"黑箱认证黑箱"的悖论，所有Aig-RS组件必须在可解释AI（XAI）框架内运行，提供法律上充分的解释细节以支持行政问责，同时确保维持稳健的错误纠正流程。关键的是，高风险决策必须在严格的HITL要求下运行，使最终法律决策权牢固掌握在人类审评人员手中。最后，每个司法管辖区应确保标准化风险评估和一致的监管报告，特别是对于需要临床评价的高风险产品。另一个系统性挑战是跨司法管辖区数据共享摩擦。通用数据保护条例（GDPR）限制限制了欧盟患者级PMS数据的跨境传输以训练Aig-RS模型。同时，FDA的PCCP/ACP自适应更新框架与EU MDR的符合性再评估要求在结构上不兼容，导致不同司法管辖区的AI更新路径出现分歧。IMDRF监管沙盒概念为在受控条件下试点国际Aig-RS互操作性提供了有前景的机制，其发展应优先考虑。向Aig-RS的过渡需要有意识和有组织的组织变革。监管审评人员不会被取代，而是会重新专业化。经验丰富的工作人员可以将更多注意力投入到新技术，特别是AI/ML赋能器械和其他复杂提交，而AI系统管理常规行政分诊和初步评估。因此，需要新的核心能力，包括AI输出审计、可解释性框架的解释以及结构化覆盖协议培训。因此，监管机构应制定与WHO全球基准工具（GBT）能力建设基准和更广泛治理指南保持一致的正式结构化AI治理培训项目。AI可以识别复杂模式并在适当训练时达到高准确度。然而，在监管批准的背景下，其作用应被概念化为增强而非取代人类专业知识。先前关于人类和AI协作的研究表明，联合决策可以优于人类或AI独立运作。因此，AI生成的监管建议必须保持完全可追溯和可审计，而最终法律授权应属于合格的人类审评人员。人类监督应根据风险层级进行结构化。AI辅助可能适用于低风险行政任务，中风险判定需要人类确认，高风险决策必须在人类直接领导下进行。这种分层方法与WHO指南一致并促进跨司法管辖区监管一致性。
在监管AI系统的网络安全和操作风险方面，监管AI平台必须在安全的、机构控制的环境中运行，网络安全应作为AI治理的核心要素嵌入，而非作为补充保障措施对待。除美国国家标准与技术研究院（NIST）人工智能风险管理框架（AI RMF）1.0、ISO/IEC 27001、FDA网络安全指南和IEC 81001-5-1外，这些标准与医疗器械和健康软件背景更直接相关。因此，监管系统中AI的开发应遵循网络安全-by-design方法。这些包括稳健的访问控制、全面的审计日志、安全的数据管理实践以及明确定义的人类监督机制。这些措施对于减轻对抗性操纵、数据中毒和机密监管提交的未经授权披露等风险至关重要。
在局限性与未来验证方面，Aig-RS的操作价值必须通过前瞻性、风险分层验证来确立，而非仅从概念可行性推断。由于Aig-RS尚未使用真实监管提交进行评估，本观点未对其相对于经验丰富的监管审评人员的分类准确性或缩短监管审评时间线的能力做出定量声明。因此，AI辅助路径分类应使用预设的准确性、精确率、召回率、F1分数、校准、审评人员分歧、假阴性率和审评时间影响等指标，对照经验丰富的监管审评人员进行基准测试。其次，模型的可靠性和泛化性取决于训练数据的质量、完整性、代表性、来源和时效性。因此，外部和时间验证、偏倚评估、数据集偏移监测、独立审计和部署后监督至关重要，并与IMDRF GMLP原则一致。第三，人类监督应与器械风险和决策关键性成比例。AI最初可支持低风险行政任务，如分诊、完整性检查、信息提取和初步路由。然而，临床证据评估、获益-风险评价、批准或拒绝决策、高风险或植入式器械以及上市后安全行动需要最终专家审评和问责。只有在前瞻性评估显示假阴性决策、遗漏安全信号或患者安全风险没有不可接受的增加时，才应接受审评时间缩短。透明度原则强调有效的人类-AI协作，而FDA的ELSA 4.0展示了AI赋能内部监管工作流程的支持而非自主决策。
在结论方面，监管批准是基于监管科学和分阶段合规的评价过程。AI的兴起对全球政策制定者构成重大挑战，包括AI集成医疗器械数量的增加及其采用。尽管许多AI/ML器械已获批，但监管机构对监管体系的采用仍然有限，主要由于对AI输出可解释性、透明性和潜在幻觉相关偏倚的担忧。XAI为创建透明、可信的监管和全面监督机制提供了机会。AI可以通过减少专业知识相关的评估偏倚并改善高风险监管决策中的跨学科一致性来进一步支持人类审评人员。从Hud-RS向Aig-RS的转变不是是否的问题，而是何时和如何的问题。监管机构应使用沙盒内部数据试点Aig-RS模型1（HITL），从低责任行政分诊和分类任务开始。工程师和AI开发者应优先考虑符合XAI的联邦学习架构，能够处理商业敏感的监管数据而无需集中化。政策制定者应通过IMDRF合作建立协调的互操作性标准，使在一个司法管辖区验证的Aig-RS框架能够被其他司法管辖区采用。因此，所提出的Aig-RS应被理解为概念治理框架而非经过验证的操作系统。尽管敏感性分析、模拟输出和基于场景的建模对于实证验证至关重要，但此类调查超出了本观点的范围。未来研究应系统评估系统性能在不同假设下的变化，包括审评工作量、器械风险等级、数据质量和人类审评人员干预阈值。这些评估应使用正式模拟方法和结构化敏感性分析进行，以严格测试所提出框架的稳健性和泛化性。
