何时人工智能不过是"又一项创新"？——人工智能与循证实践实施的概念比较分析

《Implementation Science Communications》：When is AI “just another innovation”? A comparative conceptual analysis of artificial intelligence and evidence-based practice implementation

　　

摘要

背景

实施科学框架，如综合实施研究框架（CFIR），越来越多地被用于指导人工智能（AI）在医疗保健中的应用。这一做法假设，人工智能系统可以用主要为循证实践（EBPs）开发的框架来理解。然而，人工智能系统在技术架构、自主程度、对本地数据的依赖、监管地位以及部署后的变更能力等方面存在显著差异。

目的

以CFIR为诊断工具，考察不同类型的人工智能系统如何与实施科学的核心假设相契合、扩展或挑战。

方法

我们对实施科学基础文献、复杂干预与技术支持的护理文献，以及医疗保健中人工智能实施的实证和概念研究进行了比较概念分析。以CFIR作为分析工具，识别其五个领域中的一致之处与张力所在。本研究并非系统设计为系统综述或范围综述，而是基于理论对不同文献体系中反复出现的概念和假设进行比较。

结果

人工智能系统在实施影响方面存在显著差异。固定或锁定的人工智能工具可能类似于传统的数字干预手段，而自适应、数据依赖型和生成式人工智能系统则提出了更为严峻的挑战。我们的分析表明，在CFIR的各个领域中，自适应和生成式人工智能系统凸显了诸如不透明度、概率性输出、对本地数据生态系统的依赖、性能漂移、供应商主导的更新、监管不确定性、专业身份冲突以及校准信任的需求等问题。这些问题通常可以映射到现有框架中，但在某些情况下，它们挑战了干预稳定性、有界性和证据封闭性的假设。

结论

人工智能不应被视为同质的实施对象。现有的实施科学框架仍具有分析价值，但在应用于其行为依赖于不断变化的数据、基础设施、治理和使用环境的人工智能系统时，需要进行完善。此类系统的实施更宜被概念化为全生命周期管理，而非有界的推广部署。

背景

实施科学框架，如综合实施研究框架（CFIR），越来越多地被用于指导人工智能（AI）在医疗保健中的应用。这一做法假设，人工智能系统可以用主要为循证实践（EBPs）开发的框架来理解。然而，人工智能系统在技术架构、自主程度、对本地数据的依赖、监管地位以及部署后的变更能力方面存在显著差异。

目的

以CFIR为诊断工具，考察不同类型的人工智能系统如何与实施科学的核心假设相契合、扩展或挑战。

方法

我们对实施科学基础文献、复杂干预与技术支持的护理文献，以及医疗保健中人工智能实施的实证和概念研究进行了比较概念分析。以CFIR作为分析工具，识别其五个领域中的一致之处与张力所在。本研究并非系统设计为系统综述或范围综述，而是基于理论对不同文献体系中反复出现的概念和假设进行比较。

结果

人工智能系统在实施影响方面存在显著差异。固定或锁定的人工智能工具可能类似于传统的数字干预手段，而自适应、数据依赖型和生成式人工智能系统则提出了更为严峻的挑战。我们的分析表明，在CFIR的各个领域中，自适应和生成式人工智能系统凸显了诸如不透明度、概率性输出、对本地数据生态系统的依赖、性能漂移、供应商主导的更新、监管不确定性、专业身份冲突以及校准信任的需求等问题。这些问题通常可以映射到现有框架中，但在某些情况下，它们挑战了干预稳定性、有界性和证据封闭性的假设。

结论

人工智能不应被视为同质的实施对象。现有的实施科学框架仍具有分析价值，但在应用于其行为依赖于不断变化的数据、基础设施、治理和使用环境的人工智能系统时，需要进行完善。此类系统的实施更宜被概念化为全生命周期管理，而非有界的推广部署。