综述:患者和提供者对人工智能和电子健康记录在深度表型分析(Deep Phenotyping)和罕见病(Rare-Disease)筛查中使用的态度:一项空白系统综述(Empty Systematic Review)
《Healthcare》:Patients’ and Providers’ Attitudes Toward Artificial Intelligence and Electronic Health Record Use in Deep Phenotyping and Rare-Disease Screening: An Empty Systematic Review
背景:将人工智能(AI)和算法整合到医疗保健领域具有变革性意义,尤其是在罕见病(RDs)诊断中,可提高病情识别的准确性和速度。目的:本系统文献综述旨在调查患者和医疗服务提供者对使用电子健康记录(EHRs)中的AI筛查RD风险患者的看法和态度,以理解其期望和担忧。方法:遵循PRISMA指南,研究人员于2023年12月进行了系统性检索。研究团队与专家图书管理员合作,采用PICO框架制定了检索策略,并在PubMed、Scopus和Web of Science中执行。检索策略涵盖四个主要概念:诊断技术、医疗记录、AI以及对这些技术的态度。结果:初始检索去重后获得3348篇文章,但无任何研究符合纳入标准。因此,未识别出合格研究,无法进行偏倚风险评估或数据综合。讨论:相关研究的缺失凸显了进一步研究的必要性,需聚焦于患者和医疗服务提供者对AI集成EHRs的态度,尤其是在RD及其早期检测方面。结论:关于利益相关者对EHRs中AI用于RD筛查的态度研究缺乏,构成了重要的研究空白。填补这一空白将有助于改善对医疗保健中AI应用的理解和开发,确保其满足用户需求和伦理标准。
**1. 引言**
利益相关者(包括患者、医疗服务提供者、护理人员和政府)的观点在医学研究中日益重要,自PREFER建议发布以来尤为突出。例如,2021年世界卫生组织(WHO)强调需将患者态度整合到医疗开发中;罕见病(RDs)也不例外。有意义地让用户和提供者参与研究,对于支持研究结果在临床环境中的成功实施至关重要,尤其在RD领域。近年来,人工智能(AI)整合到医疗保健领域代表了变革性转变,特别是在RD筛查和诊断中。这些技术进步提供了前所未有的机遇,以增强对复杂病情的诊断准确性、效率和速度,而这些病情通常难以识别。罕见病因其在人群中患病率低(少于1/2000人)而给传统医疗方法带来重大挑战,因其种类繁多、与常见病症状重叠以及症状表现的异质性。
AI系统通过机器学习和深度学习算法(如自然语言处理)能够分析远超人类从业者能力的大量数据集,识别甚至最有经验的专业人员也可能遗漏的模式和关联。这种能力对于RD至关重要,因为有限病例数会阻碍仅凭经验积累全面知识。通过利用电子健康记录(EHRs)、遗传信息甚至可穿戴健康设备的数据,在筛查过程中使用算法可以简化RD的识别,减少所需时间和资源。鉴于许多RD患者面临的诊断历程(多年误诊和无效治疗),缩短诊断时间尤为重要。通过提高诊断准确性和效率,AI/ML不仅改善患者预后,还有助于更好地理解RD,从而促进新疗法和干预措施的研究。
国际研究努力聚焦于改善新生儿RD筛查和推进测序技术。大型项目如Baby Seq项目和Screen4Care(S4C)项目旨在利用基因检测和数字技术(包括AI)加速RD诊断。例如,S4C项目(本研究的资助来源)由欧盟通过创新药物计划(IMI)资助,是一个加速获取创新药物的全球倡议。S4C采用两大关键策略:针对可治疗或可干预的选定RD进行基因新生儿筛查(gNBS),以及旨在促进RD社区内连接并促进利益相关者参与以加速诊断的创新数字解决方案。
然而,这些技术的实施并非没有挑战。需要解决数据隐私、训练AI模型所需符合FAIR(可发现、可访问、可互操作、可重用)原则的大规模多样化数据集,以及将AI工具整合到临床实践中的问题。从不同利益相关者的视角来看,AI和ML创新日益被视为更合理、可行且可接受。
近年来,在医疗健康领域开展了偏好研究,以评估用户和医疗服务提供者体验的影响。在RD中,AI和ML作为检测辅助工具的可行性正逐渐成为现实。然而,伦理问题在RD中更为紧迫,因为信息碎片化、数据质量和数据隐私(例如,因诊断的“罕见”特性可能导致患者被识别)可能带来挑战。在这个高风险和创新快速发展的领域,患者参与和利益相关者态度的纳入是必要且必需的。
为更好地背景化本综述中识别的空白,需注意几个相邻研究领域已相当成熟(尤其在过去5年中),但大多仍相互脱节。系统综述已记录了基于AI的RD检测和表型分析(使用EHR数据)的重大进展,特别是通过机器学习和自然语言处理方法。与此同时,存在大量关于EHR驱动表型分析方法的文献,主要关注技术模型开发和评估。此外,利益相关者对健康数据共享的态度已被广泛综述,强调了对隐私、信任和二次数据使用的担忧。最后,越来越多的系统综述涉及临床AI工具的接受度和信任度,强调用户视角对成功实施的重要性。
本文献综述旨在调查利益相关者(包括医疗专业人员、患者和公众)对在EHRs中使用AI/ML筛查RD的看法和态度。
**2. 方法**
本综述按照PRISMA(系统综述和荟萃分析优先报告条目)指南进行。综述方案已在开放科学框架(OSF)数据库注册(注册号:10.17605/OSF.IO/SDXP9)。
**2.1. 检索策略**
由三位具有不同背景(公共卫生、临床医学和心理学)的研究人员与乌普萨拉大学的一名图书管理员共同于2023年12月制定了检索策略。所选数据库涵盖社会科学和医学文献(PubMed、Scopus和Web of Science)。检索词涵盖四个主要概念:诊断与诊断技术、电子健康记录、人工智能以及对这些技术的态度。初始检索策略包括罕见病专用术语,但未产生符合选择标准的结果。在检索到的260篇文章中,经过标题和摘要筛选后无任何文章合格。研究人员假设罕见病术语过于局限,无法捕捉某些罕见病名称和遗传病情的细微差别。因此,研究人员扩展了检索策略,同时确保初始检索检索到的所有文章也包含在修订策略中,证明扩展后的检索是连贯的且未偏离RD相关术语。最终检索结合了MeSH词和标题/摘要中的关键词,以识别相关文献。
对于诊断和诊断技术领域,检索词包括“Diagnosis”[MeSH] OR “diagnosis code*”, “phenotyp*”。医疗记录领域包括“medical records”[MeSH Terms] OR “Registries”[MeSH Terms]。人工智能的作用通过“Artificial Intelligence”[MeSH] 以及标题/摘要中的关键词如“algorithm*”、“artificial intelligence”来探索。对这些技术的态度通过“Attitude”[Mesh] OR “Patient Preference”[MeSH] 来调查。检索策略采用逻辑运算符组合这些概念,确保检索到的文章在所有领域均相关。
专业图书管理员独立审查了检索策略,以确保不同数据库中关键词和MeSH词的一致性。这种方法旨在捕获AI、医疗数据管理以及影响这些技术在医疗环境中采用和有效实施的人为因素交叉点的综合文章集。本综述使用的方法遵循当前指南和建议。此外,报告结构参考了先前发表的具有零结果的系统综述。
**2.2. 资格标准**
纳入研究必须满足以下所有标准:
- 提供全文。
- 英文撰写。
- 报告实证研究(定量、定性或混合方法)。
- 包含相关利益相关者(患者、公众或医疗专业人员)。
- 涵盖以下所有四个概念:
○ (1) 深度学习或算法;
○ (2) RD的诊断、疾病或风险预警检测;
○ (3) 使用电子健康记录;
○ (4) 考虑用户或医疗服务提供者的态度或偏好。
所有RD均根据Orphanet采用的欧洲定义(“在欧洲,疾病患病率≤1/2000人被视为罕见病”)考虑。本综述包括早发RD和超罕见RD。这种广泛方法旨在捕获广泛的研究以纳入,包括所有可能适合使用数字健康技术进行筛查的RD。在初始筛选阶段,包含无摘要的研究。
排除标准:
- 会议和方案;
- 理论论文;
- 社论;
- 动物研究;
- 聚焦医疗程序的研究;
- AI/ML的技术开发;
- 诊断工具的性能评估;
- 聚焦治疗决策或药物变更的研究。
这种方法确保了对与技术角色相关的文献的全面审查,强调电子健康记录和AI对医疗保健提供和感知的重大影响。因此,为进行双盲审查,我们将纳入时间范围限制在2010年至2024年发表的文章。然而,2010年之前发表的文章也由一名评审员单独筛选,以确保没有相关论文被错误分类。
**2.3. 选择过程**
初始检索后,确定4415条记录。去重后,剩余3358篇文章进行筛选。使用rayyan.ai软件(免费访问版本,不含AI伴侣),四名评审员(SM、?G、BA、JC)基于标题和摘要以双盲方式独立筛选所有文章。标题和摘要筛选遵循预定义的纳入和排除标准,旨在识别评估参与者对使用电子健康记录和人工智能的态度或偏好的研究。纳入和排除的最终决定通过至少三名评审员达成共识,并由首席研究员最终确认,以确保所有选择在评审员的能力和经验范围内协调一致。由于一名评审员是医生,具有技术医学词汇的文章被转交给该评审员以支持最终决定。
标题和摘要筛选后,剩余11篇文章进行全文审查。全文筛选也由两名评审员独立进行,采用相同的共识过程。最终,无任何研究被纳入结果,因为不符合纳入标准。因此,尽管计划使用乔安娜·布里格斯研究所(JBI)循证医疗工具进行科学质量评估(评分),但未执行该部分分析。
**2.4. 结局指标**
主要结局指标是利益相关者对在罕见病筛查中使用人工智能(AI)和电子健康记录(EHRs)的态度和偏好。
关注结局包括但不限于:
- 对这些筛查技术的感知可接受性;
- 对AI系统的信任;
- 对这些技术的感知有用性;
- 使用或采用此类技术的意愿;
- 感知风险和伦理担忧。
**3. 结果**
无任何研究满足所有预定义的纳入标准。注意到一些文章与(1)深度学习或算法;(2)RD的诊断、疾病或风险预警检测;(3)使用电子健康记录;以及(4)考虑用户或医疗服务提供者的态度或偏好相关。即使在进入全文审查的入围文章中,大多数因缺乏(2)RD的诊断、疾病或风险预警检测而被排除。第二常见的原因是缺乏(3)电子健康记录,仅有一篇因缺乏(4)考虑用户或医疗服务提供者的态度或偏好而被排除。所有检索结果可通过OSF公开获取,网址为https://doi.org/10.17605/OSF.IO/ZYMTW。
**4. 讨论**
研究人员的发现凸显了文献中的一个显著空白,以及在一个高产研究领域中对偏好的探索有限。具体而言,在(1)深度学习或算法;(2)RD的诊断、疾病或风险预警检测;(3)使用电子健康记录;以及(4)考虑用户或医疗服务提供者的态度或偏好的交叉点上,需要更多研究。鉴于使用EHR数据对RD筛查进行AI和ML应用的技术和临床研究快速增长,迫切需要关于利益相关者视角的证据。
Qian等人(2021)探讨了EHR文献的格局和“热点话题”,并指出自2004年以来出版物数量惊人增长,使其能够分析超过10,000篇文章。他们分析了主要内容主题集群,并识别了本研究开发中使用的主要节点中的关键术语。作者将机器学习和AI归入“技术”这一更广泛标题下。类似地,他们将遗传学归类为“主题”。与态度和感知相关的概念被归类为“信息系统研究”。最后,患者满意度被归类为“患者参与”。这种以患者为中心和技术概念的特定聚类可能是理解研究结果的关键因素。
现有文献中对患者偏好的提及主要集中于体验的技术方面或围绕AI/ML和EHR数据的伦理辩论。因此,关于RD的gNBS这一更复杂主题尚未被探讨。在研究对象方面,“儿童”和“青少年”被考虑,但新生儿未被纳入。在RD背景下对EHR使用的接受度和利益相关者偏好主要从数据共享和保护的角度进行研究;然而,AI/ML的使用尚未被彻底调查。
如果将研究结果与背景中呈现的文献联系起来,现有证据清晰地映射了本综述中识别的空白。在过去五年发表的系统综述中,没有一个解决了本综述中考虑的这些领域的交叉点。
**4.1. 已识别的挑战**
缺乏关于使用EHR与AI或ML识别未诊断RD的利益相关者视角和偏好的证据,可能反映了RD研究及其伦理考量的内在复杂性。RD研究因合格参与者数量少而具有挑战性,在技术层面,需要大量可互操作的数据以避免AI或ML模型中的偏差。此外,在暗示患者有诊断风险与排除诊断之间存在重要区别。这一区别可能影响了研究人员的检索结果,因为大多数研究不区分“筛查”、“检测”或“诊断”这些术语。大多数研究聚焦于诊断有症状患者,而“标记”或筛查是检测疾病潜在风险的问题,有时在缺乏典型症状时——尤其是在新生儿中。这因EHR数据并非专门设计用于新生儿筛查期之外的使用而进一步复杂化。类似问题存在于关键概念“AI”的术语和使用上。AI素养的演变和概念化仍然是一个问题,对研究和社会都有直接影响。例如,AI日益整合到面向用户的技术中;然而,用户通常被告知他们与之交互的软件依赖于一个识别偏好和行为的“算法”。这种误解可能限制人们有效使用、协作以及作为AI的关键消费者的能力。2019年,Wang尝试澄清超越经典“智能机器”的人工智能定义,将其扩展到涵盖认知任务,特别是学习和问题解决,利用机器学习、自然语言处理和神经网络等尖端技术进步。
**4.2. “空白综述”的重要性**
研究结果还提供了机会,为关于发表零结果或“空白综述”价值的方法论讨论做出贡献。在药物心理学领域,已公认零结果不发表会扭曲证据基础并引入后续研究偏倚,增加了科学出版中更广泛的“偏倚目录”。在方法论层面,关于“空白综述”有用性的争论持续存在,论点通常聚焦于其在特定领域的普遍性。在AI和RD领域,这类出版物并不常见。在研究伦理层面,虽然防止发表偏倚很重要,但考虑避免重复努力、增强方法透明性、从而促进研究诚信和知情决策的需求也至关重要。此外,共享零结果可以节省其他研究人员的时间和资源,尤其是在研究结果在不同研究间不一致发表的情况下。在开放数据系统中,研究人员仍需对不太可能产生有意义结果的数据集和方法进行筛选。突出某个领域研究的缺乏(即识别大研究空白)可以帮助研究人员更快速地聚焦于感兴趣的领域。在此背景下,本研究通过在一个快速发展的领域正式化使用“空白综述”做出了方法论贡献。此类综述有助于识别被忽视的领域,指导研究优先事项,并提高透明性,同时减少发表偏倚和重复努力。这在AI在医疗保健等快速发展的领域尤其有价值,因为高发表量可能掩盖证据基础中的重要空白。通过清晰展示证据的关键交叉点缺失,本综述将研究的缺失定位为一个有意义且可操作的发现。
此外,本研究突出了关键方法论问题:术语不一致。诸如“筛查”、“诊断”和“风险检测”等术语的混用可能模糊相关证据,并阻碍系统性检索。正如在医疗保健研究中公认的那样,这种变异性限制了跨领域的可比性和综合。研究结果提示,观察到的空白部分可能源于术语驱动的不可见性,而非相关工作真正缺失。
**4.3. 新颖性与贡献**
现有文献大多孤立地审视AI实施、利益相关者视角和基于EHR的临床应用,许多研究采用主要技术性焦点。然而,临床AI的定性综述强调了利益相关者参与的重要性,同时识别出在理解这些视角如何影响实施结果方面的持续空白。类似地,关于AI采纳的更广泛研究一致将信任、组织准备度和伦理担忧识别为现实世界利益相关者互动中的核心障碍——这些因素对有效实施至关重要。然而,这些考量很少与特定用例(如RD筛查)关联起来研究。这种不平衡反映在更广泛的AI文献中,其中评估倾向于优先考虑准确性和效率,而非经验性、伦理性和社会性维度,且患者视角仍处于边缘地位。通过在一个单一框架内明确结合AI/ML、EHR使用、RD检测和利益相关者偏好,本综述引入了一种多维度的空白映射方法,这在先前工作中尚未被系统应用。
第二个关键贡献是识别了技术开发与现实世界实施之间的转化脱节。尽管AI创新正在快速推进,但相对较少的系统成功整合到常规临床实践中。在RD背景下,AI被描述为贯穿患者旅程的变革性力量;然而,这一愿景预设了与利益相关者期望的一致性,而这一一致性尚未得到充分探索。本综述提供了结构化证据,表明这种一致性目前缺失,从而将研究到实践的差距概念扩展至包括利益相关者知情的AI部署。
**4.4. 局限性**
本系统综述的发现应结合若干方法论考量进行解读,这些考量可能部分解释合格研究的缺失。尽管研究结果提示在AI/ML、EHR使用、RD检测和利益相关者偏好交叉点缺乏证据,但这可能也反映了证据检索的潜在局限性。术语异质性可能发挥了重要作用,因为该领域中的概念如“筛查”、“早期检测”、“表型分析”、“标记”和“诊断”常在不同学科间互换使用。这种变异性可能降低了检索策略跨数据库的灵敏度。类似地,在“人工智能”描述方式(如算法、机器学习、决策支持系统)上的变异性可能导致检索不完整,尽管已努力使用广泛检索词。此外,本综述仅限于英文出版物,可能引入了语言偏倚,尤其考虑到罕见病研究和AI开发的全球性。尽管包含了主要数据库,但在专业技术存储库(如计算机科学数据库)或其他跨学科来源中索引的相关研究可能未被捕获。最后,排除灰色文献——在医学领域系统综述中常被省略——可能限制了识别的证据范围,尤其是在AI领域,创新通常首先在传统学术出版渠道之外报告。
**4.5. 未来研究方向**
本综述凸显了在AI/ML、基于EHR的筛查和罕见病(RDs)交叉点上进行实证性、以利益相关者为中心的研究的迫切需求。未来工作应超越技术性能,审视患者、护理人员和医疗服务提供者的视角,尤其是在以高度不确定性为特征的诊断前环境中——这些领域在当前研究和治理框架中仍代表性不足。优先领域包括:(1)风险标记与正式诊断的接受阈值;(2)对EHR数据二次使用、同意模式和数据治理的偏好;以及(3)被识别为RD“高风险”个体的感知心理社会影响。鉴于健康数据共享意愿因情境而异,并受信任、透明性和感知获益影响,进一步研究还应审视对数据重用、关联和跨机构共享的态度,以及对隐私、代表性和数据质量的担忧。混合方法和参与式研究设计将至关重要,并需明确进行利益相关者群体间的比较。
同时,未来研究应明确将可解释人工智能(XAI)原则整合到偏好研究中。许多AI系统的“黑箱”性质仍是信任和采纳的主要障碍,可解释性已被确定为改善可解释性、问责性和临床可用性的关键。实证研究应评估透明性和不确定性沟通如何影响信任,尤其是在依赖复杂且不完美数据的基于EHR的系统中。测试不同的解释格式(如特征归因方法、叙述和概率输出)以及不同详细程度,对于确定哪些对多样化用户有意义且可接受至关重要。将XAI嵌入以用户为中心的设计方法中,对于确保基于EHR的AI工具不仅准确,而且可解释、可信赖且符合利益相关者期望至关重要。
**5. 结论**
总之,本研究强调了关于RD筛查背景下利益相关者偏好研究以及进而使用EHR数据检测RD的文献中存在的显著空白。这一空白与AI和ML应用的技术和临床方面的广泛研究形成鲜明对比。对基于EHR的AI使用中利益相关者偏好的有限关注,突显了该领域固有的方法论复杂性和伦理挑战。这一空白因RD研究中合格参与者数量少以及术语不一致(特别是筛查与诊断之间的重叠)而进一步加剧。此外,如本研究发现所示,发表零结果对于增强方法透明性、减少发表偏倚和促进研究诚信至关重要。解决这些空白和挑战对于推动该领域发展,并支持在开发与实施新兴医疗保健技术时做出知情决策至关重要。