肿瘤学中负责任人工智能治理的实践探索：纪念斯隆-凯特琳癌症中心的规模化治理框架

本研究针对肿瘤学领域缺乏专门AI治理模型的现状，纪念斯隆-凯特琳癌症中心团队开发了iLEAP生命周期管理框架，通过建立AI治理委员会（AIGC）对26个AI模型（含大语言模型）和33个列线图进行全流程监管。研究创新性地提出"快速通道"评审机制和模型信息表（MIS）工具，为肿瘤专科机构的AI治理提供了可操作性范本，相关成果对实现临床AI的安全部署具有重要指导价值。

　　

在人工智能（AI）席卷医疗领域的浪潮中，肿瘤诊疗正经历着前所未有的技术变革。从预测肿瘤进化路径到放疗计划优化，从病理图像分析到化疗毒性预测，AI应用已渗透到癌症诊疗全流程。然而令人担忧的是，当前缺乏针对肿瘤学特点的AI治理框架，这可能导致两个严重后果：一方面，基于普通人群开发的AI模型在肿瘤患者中可能产生"水土不服"；另一方面，算法偏见可能加剧本就存在的癌症诊疗差异。更棘手的是，随着FDA注册的AI医疗设备数量激增（截至2024年8月已达949个，其中肿瘤专用75个），医疗机构亟需建立有效的治理体系来平衡技术创新与患者安全。

纪念斯隆-凯特琳癌症中心的研究团队直面这一挑战，开展了为期一年的负责任人工智能（RAI）治理实践研究。他们构建的治理体系包含三个创新维度：首先是将伦理原则转化为可操作的iLEAP（Legal, Ethics, Adoption, Performance）生命周期管理模型；其次是开发了包括模型信息表（MIS）、风险评估工具在内的系列管理工具；最后是建立了独特的"嵌入式"治理架构，将AI治理委员会（AIGC）整合到现有数字治理体系中。这项开创性研究发表在《npj Digital Medicine》上，为肿瘤专科机构的AI治理提供了首个可复制的实践蓝本。

研究团队采用多学科协作的方法论框架，核心技术路径包含四个关键环节：1）通过AI特别工作组（AITF）完成87个AI项目的全景扫描和战略规划；2）构建支持MLOps（机器学习运维）的技术栈，涵盖从模型开发到生产监控的全流程；3）开发模型注册系统跟踪21个MIS的完整生命周期；4）实施TrAAIT（Theory of trust and acceptance of artificial intelligence technology）工具评估临床医生对AI的信任度。特别值得注意的是，研究纳入了26个临床AI模型和2个环境AI（Ambient AI）试点，通过真实世界验证治理框架的有效性。

研究结果部分通过清晰的层级结构展示了治理体系的实践成效：

AI任务组战略成果
通过跨部门协作建立的AI项目框架（如图1所示）识别出四大关键挑战：高质量数据获取、高性能计算资源、AI人才储备以及政策流程建设。项目登记显示临床AI开发主要集中在战略创新部（9个模型）、医学物理部（3个模型）和计算病理学部（3个模型）。

AI治理委员会运作机制
创新的iLEAP模型（图2）设置五个决策门控（Gx），为研究型（紫色路径）、自建（蓝色路径）和第三方采购（橙色路径）模型提供差异化治理路径。其中G3（静默评估批准）到G4（试点批准）的过渡尤为关键，要求完成模型注册、风险评估和监控计划制定。

模型组合管理实效
模型注册系统显示23%的AI项目已进入G5（全面启动/监控阶段）。通过"快速通道"评审的两个典型案例颇具说服力：第三方乳腺X线AI模型因风险评分仅1.07（采用1-3分制）获加速批准；而医学物理部自建的脑转移瘤分割模型虽风险评分中等，但凭借成熟的质量保证体系同样获得放行。

讨论部分揭示了这项研究的深远意义。作为肿瘤学领域首个规模化RAI治理报告，该研究证实了专科化治理框架的可行性。iLEAP模型创新性地解决了三个关键矛盾：技术迭代速度与安全审查深度的平衡、研究自由与临床风险的控制、标准化流程与专科需求的适配。特别值得关注的是提出的"最小化RAI治理要素"：多学科委员会、模型注册、风险评估工具等基础组件，这为资源有限的机构提供了实施路径。

研究也坦诚指出若干待解难题：如何建立AI不良事件（aiAE）的捕获机制？怎样优化"快速通道"的准入标准？特别是面对日益增多的"系统功能型"AI（如可简单启停的EHR功能），治理体系需要发展类似IRB的分级评审机制。这些开放性问题为后续研究指明了方向，而纪念斯隆-凯特琳癌症中心建立的这个治理框架，无疑为全球癌症中心树立了重要的实践标杆。