编辑推荐：
本文聚焦医疗领域人工智能（AI）工具开发，详细介绍从临床问题识别到 AI 生态改善的 9 个关键步骤，剖析其中技术要点、面临挑战及应对策略，助力临床医生深入理解 AI 工具开发，推动其在医疗场景合理应用。
一、背景
数字医学和智能医疗的实现离不开临床医生的积极参与。人工智能（AI）借助数学设计的神经网络模拟人类智能，深度学习（DL）作为 AI 的一种，能处理多源数据辅助决策。AI 在医疗领域应用广泛，如疾病预测、影像诊断等，但从开发到部署面临诸多挑战，包括数据质量、安全及伦理等问题。
二、AI 开发流程概述
医疗 AI 工具开发是一个循环过程，主要包括以下 9 个步骤：
- 临床问题识别：确定适合 AI 解决的临床问题，这些问题通常具有技术事实性、机械重复性和复杂性等特点，且依赖大量数据。同时，要明确问题的类型（描述性、诊断性、预测性或处方性）以及所使用的 AI 算法（辅助或自主），尽可能清晰定义变量，尤其是结果变量。
- 组建团队或与专家合作：成功的项目团队需包含数据科学家、数据工程师、数据架构师、首席数据官等专业人员，负责数据处理、系统架构设计和数据治理等工作。临床医生、医疗管理人员、患者及公众等利益相关者也至关重要，参与规划、开发、部署及持续使用等环节。此外，还应考虑健康信息学专业人员和行业合作伙伴。项目需关注伦理问题，确保工具的安全性和可靠性。
- 数据组织与整理：探索、标注和预处理相关的真实世界数据，确保数据的高质量、多样性和代表性，减少偏差和错误。数据处理过程包括标准化、编目、去识别化、清洗转换、链接合并等步骤，以构建适合 AI 算法模型的数据集。若数据量不足或质量不佳，可采用数据增强、特征工程等策略。
- 数据存储与 AI 技术的基础设施和架构：需要具备足够计算能力的计算机、服务器及配件，以高效处理大量数据。如智能处理单元（IPU）、张量处理单元（TPU）等专用硬件加速器可加速 AI 模型训练和推理。数据服务器应具备强大的网络安全、数据隐私保护、访问控制等功能，且基础设施需具备可扩展性。云服务（如亚马逊网络服务 AWS、谷歌云平台 GCP、微软 Azure）为 AI 工具开发提供丰富资源和便利服务。
- 开放平台上的 AI 神经网络：许多 AI 算法可在开放平台获取，选择合适的 AI/ML 模型和方法对解决临床挑战至关重要。模型选择需综合考虑性能要求、成本、风险、部署需求及利益相关者期望等因素，不同类型的输入数据适用不同的算法，如卷积神经网络适用于图像数据，循环神经网络适用于文本和数值数据。
- AI/ML 模型验证：对选定或新开发的算法在整理好的数据集上进行训练、验证和测试，评估其性能并与基线模型或标准治疗方案对比。非临床和临床验证均不可或缺，以确保模型能有效融入临床工作流程，对临床结果产生积极影响。临床研究（如临床试验）有助于评估模型的真实临床效果，同时需关注使用这些工具可能带来的伦理和法律问题。
- 注册：AI 工具通常由制造商、开发者或相关组织向监管机构注册，以确保符合目标市场的监管要求。不同国家的评估标准不同，如英国的 AI 工具需获得药品和医疗产品监管局（MHRA）批准，欧洲受欧盟医疗器械法规（EU MDR）监管，美国则由食品药品监督管理局（FDA）根据风险级别和预期用途进行分类监管。AI 工具的注册需满足安全性、有效性和透明度等严格标准，部分还需进行上市后监测。
- 临床部署与性能监测：将经过测试的 AI 工具集成到现有临床工作流程中，根据数据做出实际医疗决策。部署策略需考虑软件系统或应用环境，设计友好的用户界面以提高接受度和使用率。在部署前进行质量测试，确保高数据流量下的性能。同时，要对临床医生和团队成员进行培训，解释 AI/ML 工具的决策过程，监测工具的临床效果和副作用，及时发现并处理问题，必要时重新训练模型。
- AI 生态系统改善：在 AI 工具的开发、部署和监测过程中，积极与利益相关者和公众互动，提高对 AI/ML 技术的认知和信任，建立有效的治理机制、伦理价值观和规范的监管体系。加强技术公司与医疗机构的合作，确保算法的有效实施和部署，同时解决数据隐私和患者安全等伦理问题。
三、新加坡国立大学健康系统（NUHS）的经验
NUHS 在医疗服务中获取 AI 工具的实践提供了宝贵经验。其开发的 ENDEAVOUR AI 平台和 DISCOVERY AI 云，遵循监管指南，实现数据匿名化和规范管理。通过这些平台，开发并部署了一系列 AI 工具，如预测患者等待时间和住院时长的模型、疾病进展建模工具、药物基因组学警报系统等，还利用聊天机器人提升患者沟通体验，整合 AI 工具与电子病历系统，优化医疗决策和患者护理。
四、讨论
AI 创新从研究到临床实践面临诸多挑战，如确定合适的临床问题、临床验证、监管障碍、缺乏标准化评估框架等。训练数据中的偏差可能加剧医疗不平等，数据集的变化会影响模型性能。生成式 AI 虽可缓解数据稀缺问题，但合成数据的质量和模型的泛化性仍需验证。评估 AI 模型与专业临床医生的表现对比，对确定其临床实用性和算法质量至关重要，同时要确保模型的可重复性和泛化性，以实现公平、有效的医疗应用。
五、结论
本文详细介绍了医疗 AI 工具开发的 9 个步骤，有助于临床医生深入理解开发过程。强大的 AI 工具应能解决实际临床问题，由多利益相关者团队开发，基于高质量数据训练，经过严格外部验证，具备实时性、无偏差、安全可靠等特点。实现高性能 AI 系统面临计算能力、网络连接、数据治理等方面的挑战。AI/ML 工具可减少医疗错误，提升患者护理质量，但临床整合需建立信任、确保数据质量、明确风险并满足多种要求。随着 AI 技术的快速发展，各方利益相关者需持续关注新指南和标准，推动 AI 在医疗领域的合理应用。
