编辑推荐：
深度学习（DL）在医疗领域应用渐广，但监管审批通过不代表临床部署安全无忧。研究人员针对 Paige 前列腺诊断系统开展研究，明确部署流程、分析风险，提出部署安全案例，为保障 DL 系统临床部署安全提供方法，助力相关标准制定。
在全球范围内，前列腺癌是男性中极为常见的恶性肿瘤。在英国，每年平均有超过 52,000 例新增病例；美国预估每年超 290,000 例；全球更是有超过 100 万例 。目前，前列腺活检是确诊前列腺癌的常用手段，而 Gleason 分级系统对于患者的分层管理和临床治疗意义重大。不过，人工诊断存在诸多问题。一方面，病理学家在判断癌症有无时，可能因经验、训练程度等因素，出现漏诊（假阴性）或误诊（假阳性）的情况。另一方面，Gleason 分级具有很强的主观性，即便国际上努力进行标准化，在实际操作中，不同病理学家给出的分级仍可能存在较大差异。
在此背景下，深度学习（Deep Learning，DL）技术为前列腺癌诊断带来了新希望。基于 DL 开发的系统，有望辅助评估复杂病例，提升诊断的可重复性。然而，随着这类技术从实验室走向临床，安全性成为关键问题。虽然部分 DL - 基于的医疗系统已获得监管机构（如美国食品药品监督管理局 FDA、英国 UKCA 等）的批准，但监管审批只是安全的起点。由于不同医院工作方式各异，在实际部署过程中，仍可能出现新的风险和挑战，这些问题在系统研发阶段难以完全预测。因此，如何保障 DL 系统在临床部署中的安全性，成为亟待解决的问题。
为了回答这一问题，参与 ARTICULATE PRO 项目的研究人员针对 Paige 公司开发的用于前列腺癌诊断的 Paige Prostate Suite 展开研究。该研究成果发表在《Computers in Biology and Medicine》杂志上，其对于保障 AI 辅助医疗系统的临床应用安全具有重要意义。
研究人员采用的主要关键技术方法如下：首先，绘制系统部署的临床工作流程，以此为基础深入了解系统在实际医疗过程中的运行路径；然后，基于临床工作流程进行全面的危害和风险分析，识别潜在风险；最后，构建部署安全案例，为系统的部署和持续安全监测提供依据 。
下面介绍研究结果：
- 临床工作流程分析：Paige Prostate Suite 属于临床决策支持工具，辅助病理学家评估前列腺穿刺活检样本。研究绘制出其在 3 个英国国家医疗服务体系（NHS）站点统一的临床工作流程，清晰展示了系统在实际医疗过程中的应用步骤和环节。
- 危害和风险分析：通过对临床工作流程的深入剖析，研究人员识别出一些在系统开发阶段未被发现的新危害。例如，由于医院实际工作与监管审批时设定的条件存在差异，可能导致系统运行出现问题。不同医院的信息化系统整合程度不同，Paige Prostate Suite 与其他医疗 IT 系统的协同工作可能产生兼容性风险，进而影响诊断结果的准确性和及时性。
- 部署安全案例构建：基于前面的分析，研究人员构建了部署安全案例。这一案例详细阐述了如何在实际部署过程中对系统进行有效的风险管控和安全保障，为系统在医院的安全部署和持续监测提供了坚实的基础。
在研究结论和讨论部分，研究明确指出，监管审批虽然是保障 AI/ML（机器学习，Machine Learning） - 基于的医疗设备安全的重要里程碑，但绝非终点。实际应用中，仍需持续关注和管理安全问题。本研究提出的系统方法，充分考虑临床工作流程，为保障 DL - 基于的系统在部署过程中的安全性提供了可行的解决方案。这不仅有助于 Paige Prostate Suite 在临床中的安全应用，还为其他类似的医疗 AI 系统的安全部署提供了参考范例，为相关利益方制定安全部署指南和标准提供了有力的依据，推动了医疗 AI 领域的健康发展。
