编辑推荐：
医疗 AI 部署存在 “实施差距”，研究人员开展 “重新思考医疗 AI 临床试验的动态部署” 研究。提出动态部署框架，克服线性模型缺陷，为医疗 AI 部署提供新方向，推动其在临床广泛应用。
在医疗领域，人工智能 (AI) 的发展可谓日新月异。过去十年间，AI 在医学领域的研究呈爆发式增长，尤其是大语言模型 (LLMs) 出现后，更是掀起了一股创新热潮。科学家和临床医生纷纷尝试将 LLMs 应用于医疗系统的各个方面，从依据在线论坛帖子评估药物治疗效果，到辅助撰写研究文章，再到自动化处理保险预授权文书工作等。然而，理想很丰满，现实却很骨感。
目前，医疗 AI 的实际应用面临着诸多困境。AI 模型从研究到临床部署的转化率极低，大量研究成果无法真正惠及患者和临床医生，这一现象被称为 “实施差距” 或 “AI 鸿沟” 。造成这一差距的原因是多方面的，涵盖技术、后勤、社会文化、伦理、经济以及监管等多个领域。例如，2022 年的一项系统回顾发现，全球范围内机器学习干预的随机试验仅有 41 项 ；到 2024 年，这一数字也仅增长到 86 项 。2023 年对保险索赔的分析显示，仅有 16 种医疗 AI 程序有计费代码 。这些数据都表明，医疗系统远远跟不上 AI 发展的步伐。
为了解决这些问题，来自美国威尔康奈尔医学院（Weill Cornell Medicine）、洛克菲勒大学（Rockefeller University）和斯隆凯特琳癌症中心（Sloan Kettering）联合培养项目等机构的研究人员开展了相关研究，其成果发表在《npj Digital Medicine》上。
研究人员提出了一种名为动态部署的框架，旨在为医疗 AI 临床试验提供新的思路。这一框架主要基于两个关键原则：一是从系统层面理解医疗 AI，将 AI 系统视为一个复杂的、多元素相互关联的整体，除了 AI 模型本身，还包括用户群体、工作流程集成、用户界面以及数据处理和更新机制等，强调关注系统整体行为而非单个组件；二是认识到医疗 AI 系统是动态变化的，模型在部署后仍可通过在线学习、微调等方式不断进化，以适应新的数据和用户反馈。
在技术方法上，研究人员借鉴了自适应临床试验的成熟方法。这种方法利用贝叶斯框架，根据新数据不断更新算法，为患者分配试验分组。同时，结合医疗 AI 监管科学的最新进展，探索如何在保证安全和有效性的前提下，实现 AI 系统的动态部署。
研究结果方面：
- 线性模型的局限：传统的线性 AI 部署模型存在诸多不足。AI 具有自适应特性，其模型权重不必固定，可通过强化学习从人类反馈（RLHF） 、直接偏好优化（DPO） 等方法进行更新，且与用户的交互也能改变其行为，这使得模型开发与部署的界限日益模糊，线性模型难以适应这一特点。此外，AI 是复杂系统的一部分，除模型参数外，用户界面设计、用户行为模式等因素也会影响系统结果，线性模型以模型和参数为中心的视角无法充分考虑这些因素。而且，未来医疗系统将有大量 AI 模型同时运行，线性模型孤立测试单个模型的前提将面临挑战。
- 动态部署的优势：动态部署框架能有效克服线性模型的缺陷。它将部署视为模型生成过程的延续，模型可直接从用户和新数据中学习。通过持续的性能监测，不仅能为在线学习等反馈机制提供信号，还可用于实时监测和监督。每一次部署都可看作是一次局部临床试验，这种持续的本地验证比传统的多中心临床试验外部验证更适合现代 AI 系统。
- 实施的可行性：尽管动态部署面临一些挑战，如构建和维护反馈回路的基础设施投资、数据隐私和网络安全问题等，但动态部署并非空中楼阁。在早期临床试验中，类似的动态部署形式早已存在，如自适应连续重新评估方法，为医疗 AI 的动态部署提供了可行的蓝本。
研究结论与讨论部分指出，当前的线性 AI 部署模式已难以跟上技术发展的步伐，无法适应交互式、自适应、多智能体 AI 系统的发展趋势。动态部署为医疗 AI 的部署提供了一种更有效的替代框架，它能够让 AI 系统不断学习和适应新数据，从系统层面进行考量。不过，并非所有医疗场景都适合动态系统，像图像诊断这类结构可预测性高的任务，以及手术机器人等高风险应用，在采用动态系统时需谨慎权衡风险与收益。但对于那些适用的场景，持续学习的 AI 系统有望带来更大的积极影响。
这项研究为医疗 AI 的发展指明了新方向，有助于缩小医疗 AI 研究与临床应用之间的差距，推动医疗 AI 更安全、有效地融入医疗系统，让患者和临床医生真正受益于 AI 技术的进步。
