《Human Factors in Healthcare》：Integration of Artificial Intelligence in Clinical Practice – Insights from a Modified Delphi Study with Human Factors Experts and Healthcare Professionals
编辑推荐：
人因与工效学（Human Factors and Ergonomics, HF/E）为理解和优化人、技术与临床工作系统之间的交互提供了关键专业知识。尽管人工智能（Artificial Intelligence, AI）在医疗保健中的应用日益增多，但关于其真实世
人因与工效学（Human Factors and Ergonomics, HF/E）为理解和优化人、技术与临床工作系统之间的交互提供了关键专业知识。尽管人工智能（Artificial Intelligence, AI）在医疗保健中的应用日益增多，但关于其真实世界实施及对患者安全影响的研究仍不足，且AI的开发、监管和实施中对HF/E考量的纳入亦存在缺口。本研究旨在探讨AI融入医疗保健的HF/E考量，以及与AI使用相关的患者安全关键风险与机会。该探索性研究采用改良德尔菲法（modified Delphi approach），包括对10名不同国籍的HF/E专家进行半结构化访谈，随后开展一项涉及37名参与者的在线调查，参与者涵盖HF/E与医疗保健专业人员。该过程形成了22条建议，强调人本设计（human-centered design, HCD）、利益相关者早期且持续参与以及持续系统监测。此外，研究识别了与AI实施相关的患者安全风险与机会，突出需要进一步研究并在未来应用中审慎关注的领域。由于该研究对AI进行广义考察以识别跨领域原则，其范围可能限制了技术特异性洞见的深度。尽管如此，研究结果强化了HF/E原则的重要性，并证明其对于指导新兴AI技术在医疗保健中整合的相关性。随着AI能力持续进步，在整个AI生命周期（AI lifecycle）中整合HF/E仍将是确保其在医疗保健中安全、有效和可持续使用的关键。
论文主体内容解读
Katharina Wenderott等开展的这项研究聚焦于AI融入临床实践时的人因与工效学（Human Factors and Ergonomics, HF/E；研究人与系统其他要素交互并应用理论、原则、数据和方法优化人类福祉与整体系统绩效的学科）问题。研究背景在于，AI并非单一技术，而是包括决策树学习、神经网络和聚类算法等在内的计算方法集合，正日益用于诊断、行政管理和决策支持。AI工具嵌入由技术、人、组织规则等共同组成并指向共同目标的社会技术系统（sociotechnical systems），因此需要社会技术视角。HF/E长期关注社会技术系统的有效运行，其定义强调理解人与系统其他要素的交互，并将理论、原则、数据和方法应用于设计，以优化人类福祉和整体系统绩效；人本设计（human-centered design, HCD；优先考虑并全程纳入最终用户需求的设计方法）及人本AI进一步强调在算法自动化与人类控制之间取得平衡。尽管AI在医疗保健中应用增长，但关于其真实世界实施及对患者安全影响的研究不足，AI的开发、监管和实施中对HF/E考量的纳入也存在缺口；受控实验室环境中的AI研究结果不一定直接适用于真实临床环境。既有研究提示，AI实施需考虑工作流整合、人-AI交互和利益相关者参与，自动化偏见、交接、临床人员与AI沟通及情境意识等均可能带来HF/E挑战和患者安全后果。因此，研究人员从HF/E专家视角探索AI融入临床工作流的观点，并识别患者安全相关风险与机会。
研究人员采用改良德尔菲法（modified Delphi approach；多轮专家共识方法），共两轮。第一轮对10名HF/E专家进行半结构化访谈，专家由资深作者个人联系并借助IEA与HFES网络招募（邀请19名，要求5年以上医疗相关HF/E经验且熟悉AI，并滚雪球抽样）。第二轮在线调查37名参与者（27名HF/E专业人员、10名医疗保健专业人员），通过第一轮受邀者、HFES Healthcare Technical Group、Human Factors Transforming Healthcare网络、欧洲和澳大利亚HFES分会及研究机构LinkedIn页面招募。访谈经RStudio的audio.whisper转录，MAXQDA定性内容分析；调查采用1-7级Likert量表，以6或7级≥80%为共识阈值，使用Shinners人工智能感知工具（SHAIP）、精简版非专家AI素养评估量表（SNAIL）及人口学条目，进行Cronbach’s α与探索性因子分析（exploratory factor analysis, EFA）。
研究结果如下。4.1 第一轮：访谈（Round One: Interviews）。通过2024年5月至9月对10名HF/E专家的半结构化访谈和定性内容分析，研究人员识别出161个描述AI实施建议的文本段，归纳为32条建议，其中24条在两次及以上访谈中被提及；建议按设计开发、实施过程、监测和评估等简化AI生命周期阶段分组，利益相关者参与按生命周期分为4个条目，监管相关2个条目，最终形成26个调查条目。对AI影响，提取111个负性效应文本段和161个正性效应文本段，归为12个较宽类别和48个亚类，其中28个直接关系患者安全，18个纳入问卷；将“AI幻觉”和“医疗保健专业人员对AI正确性的评估”合并为“医疗保健专业人员可能无法验证AI生成结果的准确性”，最终纳入17个患者安全条目。4.2 第二轮：调查（Round Two: Survey）。通过在线调查，39人参与，排除1名全部答“1”者和1名缺失值者，最终37人，包括27名HF/E和10名医疗保健专业人员；年龄分布为1人61-70岁、13人51-60岁、7人41-50岁、8人31-40岁、8人21-30岁；平均工作年限15.38年（SD=11.89），范围1至44年（中位数15）；受访者主要来自美国（n=17）、德国（n=4）、英国（n=4），另有爱尔兰（n=3）、澳大利亚（n=2）、中国（n=2）及奥地利、巴西、加拿大、以色列各1人。SNAIL 11项内部一致性良好，Cronbach’s α=.85（标准化α=.85），虽平行分析提示两因子解，但因原量表缩短保留单因子模型，因子载荷.28至.83，聚合得分近似正态（Shapiro-Wilk W=0.96，p=.23），多数参与者至少具备中等AI素养（M=5.25，SD=0.95）。SHAIP专业影响分量表信度较低（α=.59，标准化α=.69），准备度分量表信度良好（α=.82，标准化α=.81）；准备度感知（M=3.30，SD=1.37）低于专业影响（M=5.12，SD=0.70）。4.2.1 人工智能在医疗保健中实施的推荐意见（Recommendations for implementing AI in healthcare）。通过调查对26条建议进行评分，22条达到高共识，即80%的受访者在6或7级评分；描述性比较未显示医疗保健专业人员与HF/E专业人员之间存在差异。高共识建议涉及设计前识别适合AI的任务、设计前分析工作流、实施前广泛测试AI性能、全流程采用人本设计、开发者理解医疗保健专业人员工作、用户友好设计、利益相关者参与设计开发、考虑组织情境、提供培训、小规模试点、AI增强而非替代临床人员并建立人-AI团队合作、应用变革管理原则、建立AI相关事件报告策略、在真实临床实践中评估实施成功、定期监测AI仍按预期工作、组织间分享成功经验、发表多种AI评估包括实践或阴性结果、利益相关者参与评估和监测、课程纳入AI教育、监管机构制定并发布确保AI工具安全使用的政策。4.2.2 人工智能实施对患者安全的影响（Impact of AI implementation on patient safety）。通过16项患者安全条目的描述统计，总体共识低于建议部分，仅1项达到共识，即“AI可能允许更快的数据处理”（83.7%）。受访者对描述AI正性效应的条目同意程度略高于负性效应条目；医疗保健专业人员对AI正性效应评分倾向高于HF/E专业人员，尤其在“AI可能带来更好的健康结局预测”和“AI可能改善临床诊断”两项，医疗保健专业人员90%评为6或7级，而HF/E专业人员为60%。负性效应中，“AI系统随时间适应方式可能不透明”和“医疗保健中的AI可能引入新的患者安全风险”均为70.2%评为6或7级，但未达共识。
讨论部分总结：研究人员指出，AI持续重塑医疗保健工作流，需同时关注技术以及人员、组织和环境因素。建议数量和共识最高者集中在设计阶段，强调在工具开发最早阶段考虑HF/E，采用人本设计并纳入HF/E专业人员、技术人员和医疗保健专业人员的多学科专业知识，以纳入用户需求与期望；在临床工作系统复杂且受多元利益相关者影响的情况下，受控或实验室环境中表现良好的技术可能在真实临床环境中转化不同，因此应在临床实践中评估AI技术。专家持续强调在AI全生命周期——早期开发、后续测试、实施和部署后评估——纳入相关利益相关者。实施阶段建议亦较多，HF/E专业人员在新技术融入真实临床工作流并因临床人员不同应用方式而变化时具有关键作用；专家强调将AI相关内容纳入医疗保健专业人员教育和培训，以支持知情有效使用，并强调部署后持续监测和评估，确保AI工具保持有效、安全并与临床需求一致。AI相关事件报告策略与患者安全效应探索一致；监管指导建议要求监督机构制定并发布清晰政策以治理AI开发和使用。讨论还比较了美国FDA对AI医疗器械的集中监管与欧盟通过EU AI Act等形成的框架，指出两地区均认识到稳健上市后监测的必要性并正调整监管以适应AI快速演进。研究人员强调，这些建议是基于共识的建议，反映德尔菲专家组的集体意见，而非来自临床实践中AI使用的实证评价，应作为纳入HF/E的起点或思路集，而非固定或穷尽清单。多数建议与既往医疗保健技术采用浪潮中提出的建议相似，强调用户视角、可用性和安全，以确保新技术支持而非破坏人的能力和绩效；仅4条建议基于使AI区别于既往技术的特征，即AI系统可从数据学习、适应变化环境并日益执行传统上需要人类认知能力的复杂任务。第一是建立人-AI团队合作（rec08），随着生成式AI对话系统和代理式AI等新型AI出现，临床人员不是简单将AI作为工具使用，而是与可生成建议、支持决策并影响工作过程的系统交互，带来信任、协调和人与AI责任分配的新挑战。第二是定期监测以确保AI系统随时间继续按预期工作（rec16），这与AI系统可因新数据、模型更新或再训练而改变行为有关，可能出现数据漂移（data drift；模型输入分布变化）或概念漂移（concept drift；输入与输出关系变化），可能导致性能下降或非预期结果，因此部署后持续监测和评估至关重要。此外，监管（rec20）和教育（rec26）两条建议也具AI特异性：专业人员需理解AI的潜在收益、局限和风险，可通过将AI纳入课程实现；AI需要超越既往医疗保健技术治理方式的专门治理和监管机制。患者安全方面，专家识别出广泛效应，许多超出调查范围；AI快速改变医疗工作流时，需在开发阶段处理患者安全风险以确保安全照护。参与者强调AI引入的新风险，尤其围绕透明性和系统随时间变化；原文还指出患者安全与工作者安全密切相关，未来需考虑和调查工作者安全影响。为降低风险，组织必须建立结构化流程监测临床实践中的AI性能并评估人-AI交互。理论框架方面，研究结果表明不同工效学层级的概念框架可互补理解AI临床实施的复杂性；在中观或微观层面，将AI赋能系统概念化为联合认知系统（joint cognitive systems, JCS；人与AI动态协作的认知系统）可为设计优化共享绩效和韧性的工作流提供框架，多数整合建议可归因于围绕人本设计和建立有效联合认知系统的持续AI实施挑战；宏观层面的社会技术系统视角提供对组织和 workflow 因素更整体的看法，但较少比例专家建议可归因于该视角。结合社会技术系统方法的广度和JCS的深度可加强综合评估与监测，确保利益相关者作为伙伴参与安全有效部署。尽管AI可能引入风险，文献也强调其提升患者安全的诸多机会；参与者对AI在临床诊断、健康结局预测、更快数据处理和获取健康信息方面的正性潜力表示强烈同意，这与AI在放射学、病理学和肿瘤学等数据驱动专科中日益增多的使用一致；但对AI在医疗保健专业人员交互、患者监测、临床决策或用药安全方面的正性影响共识较低。总体而言，医疗保健专业人员对AI潜在益处的评价比HF/E专业人员更积极，尤其对预测准确性和诊断改善；研究人员在讨论中指出这一差异可能反映不同经验重点，并强调需仔细设计并持续监测临床环境中的AI解决方案，确保其支持临床工作流而非引入额外压力源或低效。讨论还提及近期研究强调标准化方法、更强治理和应对常见实施障碍的策略。尽管新技术实施挑战长期存在，许多障碍对AI采用仍然相关。研究人员指出，虽然将AI作为广义概念而非特定技术处理，所得建议适用于广泛AI解决方案；由于AI仍是新技术，识别主题主要反映采用早期阶段，未来需进一步研究以揭示适用于特定AI解决方案和不同临床使用场景的更细致建议；但工作流整合、认知负荷和患者安全风险等许多临床挑战在不同环境和技术的背景下具有一致性，因此建议集可为广泛AI应用未来实施策略提供信息。局限性包括：研究范围有意广泛和探索性，建议 necessarily 通用，无法完全涵盖AI在临床环境中的几乎无数潜在应用；AI定义持续演变，未强加固定定义可能使参与者解释不同，未来研究可进行概念澄清并聚焦特定技术；样本为有限HF/E专家和专业人员，未来应纳入一线医疗保健专业人员或患者等代表性不足群体；样本中西方国家回答比例过高，建议可能不适用于其他制度情境，未来需跨国比较；SNAIL量表无意漏掉1个评估识别AI伦理问题能力的条目，虽认为剩余11项足够，但提示调查开发需仔细预测试和条目追踪；访谈指南未明确基于单一概念框架，未来可锚定SEIPS等模型并纳入认知系统工程原则；第一轮依赖便利抽样，可能引入选择偏倚并限制地理多样性，未测量专家特定资质和AI专长深度，未来应定义并应用清晰标准；第二轮通过公开邮件列表和社交媒体分发，无法追踪查看邀请人数，无法计算准确应答率，实际应答率很低，未来应吸引更大、更异质的HF/E专家样本；探索性发现应视为假设生成而非结论性，未来需进一步细化建议并开发和测试更具情境敏感性和可操作性的框架，理想情况下在单个医疗保健系统或门诊服务、精神卫生保健等照护环境中开展混合方法研究。
研究结论（原文翻译）：总之，本研究强调HF/E视角在医疗保健中AI技术开发、实施和监测中的重要性。通过整合专家观点，研究人员识别了应整合HF/E专业知识以确保患者照护中安全有效AI工具的领域。研究结果强调需要社会技术方法、持续监测、利益相关者参与和主动监管，以降低风险并提高患者安全。随着AI日益嵌入临床实践，包括开发者、医疗保健专业人员和监管机构在内的利益相关者之间的持续研究与协作，对于最大化其潜力并最小化意外后果至关重要。
