《Global Health Action》:Between the hype and harm: does artificial intelligence in health offer solace or further exclusion for marginalised populations in Sub-Saharan Africa? A scoping review
摘要:人工智能(AI)正越来越多地被整合到医疗保健系统中,并具有改善健康结果的潜力。然而,在撒哈拉以南非洲(SSA),人们仍然担忧AI可能根据其开发、治理和实施方式,减少或加剧现有的健康不平等。本范围综述旨在绘制并综合现有证据,探讨AI对撒哈拉以南非洲边缘化人群健康公平的影响。研究人员于2026年2月至3月间检索了PubMed、Web of Science、Scopus以及选定的灰色文献来源。纳入标准包括同行评审和灰色文献,这些文献需涉及针对SSA内边缘化人群或健康系统的AI应用、治理或实施。本综述遵循Arksey和O'Malley的方法学框架以及PRISMA-ScR报告指南。两名研究人员独立筛选证据来源,并使用标准化图表提取表格提取数据,然后对结果进行主题综合。共有23项证据来源符合纳入标准。出现了两种主导性叙述。AI可能通过数字基础设施差距、算法偏差、非洲数据集代表性不足、治理薄弱和数据殖民主义,加剧现有的不平等。相反,AI有潜力通过扩大医疗保健可及性、加强疾病监测、支持健康系统规划以及改善专科服务可及性,来促进健康公平。在文献中,AI的影响始终取决于公平的基础设施、包容性治理和针对具体情境的实施。AI在推动SSA健康公平方面具有巨大潜力。然而,要实现公平的益处,需要投资于数字基础设施、具有代表性的数据系统、伦理治理和包容性政策。
背景
近年来,人工智能(AI)已成为全球健康等多个领域极具前景的创新。大量文献记载,AI有潜力增强诊断能力、优化临床决策。然而,AI能在多大程度上有意义地扩展中低收入环境中的有限健康资源,仍未被充分理解。AI系统依赖于大规模、高质量的数据集进行训练和验证。然而,用于训练算法的大部分健康数据集来自高收入国家,导致非洲人群和健康条件的代表性有限。此外,AI治理的伦理和规范基础主要由西方背景下的框架塑造。这种不匹配可能导致治理机制无法保护边缘化人群,或无法应对撒哈拉以南非洲健康系统中历史性和结构性的排斥形式。
在整个非洲,新兴的实证研究既展现出对AI改善健康服务提供能力的乐观态度,也暴露出对公平性、偏差和实施障碍的深切担忧。研究发现,虽然普通人群可能对AI表示信任,但专家们对其伦理影响、公平性指标以及公平整合和治理的系统性障碍提出担忧。政策分析和利益相关者报告进一步强调,如果没有主动的、以公平为导向的政策措施,AI可能加剧“数字殖民主义”,即由外部情境开发的技术以削弱当地优先事项和边缘化群体护理可及性的方式被强加。
人工智能(AI)日益被视为一种能够改善医疗保健提供和加强健康系统的变革性技术。然而,这些技术对撒哈拉以南非洲边缘化人群的影响仍未被充分理解。人工智能有潜力增加医疗保健可及性并改善疾病监测,但如果数据代表性、基础设施和治理问题得不到解决,技术的使用可能会再现或加剧现有的社会与结构性不平等。因此,本范围综述旨在综合现有证据,探讨人工智能在塑造非洲健康系统健康公平中的作用。为指导本综述,制定了以下研究问题:人工智能应用如何影响撒哈拉以南非洲边缘化人群的健康公平?哪些系统性、结构性和治理挑战影响AI技术在SSA健康系统中的公平部署?在现有关于AI与健康的文献中,算法偏差、数据代表性和数字基础设施问题是如何被处理的?
方法
本范围综述的设计遵循Arksey和O'Malley提出的方法学框架。通过提供对SSA边缘化相关AI健康研究的全面总结,并识别当前文献中的空白,实现了Arksey和O'Malley所概述的范围综述的目标。本方案遵循系统综述和荟萃分析优先报告条目范围综述扩展版(PRISMA-ScR)的报告指南。本范围综述已在Open Science Framework前瞻性注册,项目DOI:10.17605/OSF.IO/3P46T。
本范围综述的纳入标准旨在识别检验人工智能(AI)在撒哈拉以南非洲健康系统中对边缘化人群作用的证据来源。使用范围综述中常用的人群、概念、情境(PCC)框架,如果证据来源关注撒哈拉以南非洲的边缘化人群(人群),并检验了AI驱动的健康干预措施(概念),包括诊断工具、临床决策支持系统、患者风险分层、药物发现、疾病监测系统以及健康服务管理应用(如调度优化),则纳入。在撒哈拉以南非洲任何医疗保健环境中进行的证据来源,包括公共卫生系统、私营医疗设施、社区服务机构和三级医疗机构,均符合纳入条件(情境)。
本综述纳入了采用定性、定量或混合方法设计的实证研究,以及概念分析、政策报告、技术论文和案例研究,这些研究探讨了AI技术在非洲健康系统中的应用或治理。鉴于人工智能在全球健康领域的快速演变,本综述也纳入了灰色文献,以捕捉可能尚未出现在同行评审出版物中的新兴证据、政策发展和项目经验。灰色文献包括国际组织、政策机构以及专注于非洲AI健康领域的知名研究倡议的报告。
排除标准:如果证据来源仅关注技术算法开发而未应用于医疗保健或健康系统;在健康部门之外检验人工智能;在撒哈拉以南非洲之外进行;未涉及健康公平、边缘化人群、人工智能治理、实施或健康系统应用;或非英文,则予以排除。这些纳入标准在标题筛选、摘要筛选和全文审查中应用,如PRISMA 2020流程图所示。
数据综合:采用主题综合法对纳入来源的数据进行综合,以整合定性和定量证据的结果。分析过程遵循定性综合中常用的三个阶段。首先,系统审查每项纳入研究的结果、讨论和结论部分,并采用归纳法生成初始编码,使主题直接从数据中涌现,而非预设。其次,将共同编码合并为描述性主题,代表文献中关于人工智能在非洲健康公平中作用的反复出现主题。这些描述性主题涵盖了数字基础设施、算法偏差、数据治理、医疗保健可及性以及健康系统强化等问题。第三,进一步解释和综合这些描述性主题,形成更高阶的分析主题,以解决指导本综述的核心研究问题。因此,最终主题既反映了AI技术在非洲健康系统中部署相关的风险和机遇,特别是针对边缘化人群。
检索策略:电子数据库检索在PubMed、Web of Science和Scopus中进行。此外,通过针对组织网站、政策报告和与非洲AI和健康相关的知名研究倡议进行定向检索,识别灰色文献。检索应用了语言和地理限制,分别限定为英文和撒哈拉以南非洲。数据库检索于2026年2月至3月间进行。
研究选择:首先,通过将所有检索结果上传并搜索到参考文献管理软件库Mendeley中进行广泛的标题筛选。其次,从库中去除重复来源,仅保留唯一证据来源。第三,进行广泛的摘要筛选,以确定是否纳入全文审查。在此阶段,不符合“纳入标准”部分中预定义标准的记录被排除。
检索词被组织成四个概念块,分别代表(i)人工智能,(ii)健康,(iii)健康公平与边缘化,以及(iv)撒哈拉以南非洲。使用布尔运算符(AND/OR)组合受控词汇和自由文本词汇。完整PubMed检索策略,包括字段标签、布尔运算符和检索限制,见补充附录2。等效检索策略针对Web of Science、Scopus和灰色文献来源进行了调整,同时保留相同的概念结构。
数据图表提取:研究团队开发了标准化数据提取表格,并在完整数据提取前,对符合条件的证据来源样本进行试点测试,以确保一致性和完整性。试点后对表格进行了迭代完善。两名研究人员使用标准化表格独立提取所有纳入证据来源的数据。提取过程中发现的任何差异通过讨论和共识解决。必要时,研究团队重新查阅原始来源以核实提取信息并确保准确性。从每项纳入来源中提取以下数据项:(i)书目信息(作者、出版年份和出版类型);(ii)国家或地理背景;(iii)研究目的或目标;(iv)研究设计或来源类型;(v)医疗保健环境;(vi)所描述的人工智能应用或技术;(vii)目标人群;(viii)健康条件或健康系统重点;(ix)涉及的公平或边缘化问题;(x)治理和伦理考虑;(xi)主要发现;以及(xii)对撒哈拉以南非洲健康公平的影响。与Arksey和O'Malley的方法学指导以及PRISMA-ScR报告指南一致,数据图表的目的是系统性地绘制可用证据的广度和特征,而非评估干预效果或衡量审查者表现。因此,未计算正式的评分者间信度统计量。相反,差异通过讨论和共识解决,这是范围综述可接受的方法。
证据来源的批判性评估:与本范围综述的目标和既定方法学指导一致,未对纳入来源进行正式的批判性评估。本综述的目的是绘制撒哈拉以南非洲人工智能与健康公平可用证据的广度、特征和性质,而非评估单个证据来源的方法学质量。尽管如此,在解释结果时考虑了证据来源的多样性,包括同行评审出版物和灰色文献,这被认为是本综述的一个局限性。
结果
纳入来源的特征:共有23项证据来源符合纳入标准。纳入证据包括四项实证研究,九篇综述、评论和观点论文,六篇概念和伦理聚焦论文,以及四篇政策报告或灰色文献来源。证据的多样性反映了撒哈拉以南非洲人工智能与健康公平研究的初期性质,学术产出仍以概念讨论、政策分析和专家观点为主,评估AI在实际健康环境中实施的实证研究相对较少。
纳入来源的地理分布:纳入来源代表了撒哈拉以南非洲和更广泛非洲大陆的一系列地理背景。从南非、尼日利亚、乌干达、肯尼亚、津巴布韦、莱索托、加纳和卢旺达识别出国家特定证据,而几项来源采用了更广泛的撒哈拉以南非洲、全非洲或多国非洲视角。尽管存在这种地理多样性,但证据集中在相对较少的国家,特别是南非和尼日利亚,来自中非和撒哈拉以南非洲若干低收入国家的已发表证据有限。这种不均匀的地理分布突显了重要的知识空白,表明当前证据基础可能未完全反映该地区健康系统和实施环境的多样性。
对纳入来源的主题综合产生了几个分析主题,描述了在非洲健康系统中部署人工智能相关的机遇和风险。这些主题涵盖了基础设施、治理、算法偏差、医疗保健可及性和健康系统强化等问题。表格1展示了本综述中识别的主题以及贡献于每个主题的来源。
数字基础设施差距与排斥风险:尽管AI驱动的健康系统提供了相当大的潜力,但综述来源一致指出数字基础设施是撒哈拉以南非洲公平AI实施的主要障碍之一。可靠的互联网连接、稳定电力供应、数字技术和技术能力的不平等获取被频繁报道为限制AI驱动医疗保健服务采用的因素,特别是在农村和服务不足的社区。如果没有针对数字基础设施的有针对性投资,AI创新可能不成比例地惠及那些已经拥有更好技术可及性的人群。几项来源进一步展示了这些基础设施障碍如何在实际中影响AI实施。例如,乌干达的医疗保健领导者将数字基础设施不足、劳动力能力限制和机构准备不足确定为将AI整合到常规医疗保健提供中的主要障碍,而来自尼日利亚的证据同样强调了基础设施不足、技术专长有限和资金不足是AI采用的关键障碍。总体而言,综述来源表明,这些结构性挑战继续制约着非洲健康系统中AI技术的公平实施。
算法偏差与数据不平等:综述来源中识别的另一个重要问题与用于训练AI算法的数据集的代表性有关。许多AI系统继续使用主要来自高收入国家的数据集进行开发。当在没有充分背景适应的情况下应用于中低收入环境时,这些模型可能产生不准确的预测或不公平的结果。几项来源强调,AI训练数据集中非洲人群的有限纳入增加了诊断准确性降低和对当地人群不适当临床决策的风险。综述来源进一步证明,算法偏差可能在AI开发管道的多个阶段出现,包括数据收集、模型训练和验证。例如,研究强调,非洲人口、遗传和流行病学数据的代表性不足可能损害AI驱动临床决策支持系统的性能,而非洲研究人员在AI开发中的有限参与可能使现有数据集中的偏差永久化。总体而言,证据强调了开发本地代表性数据集和促进非洲更大程度参与AI研发的重要性,以改善公平性、透明度和公平的健康结果。
治理挑战与数据殖民主义:全球健康中AI技术的治理成为综述来源中另一个重要主题。几项来源强调,在非洲国家部署的许多AI驱动健康技术是由高收入国家机构开发的,这引发了关于全球健康创新和数字治理中权力不对称的担忧。综述证据描述了中低收入国家产生的健康数据如何可能被用于开发AI技术,而不公平地分享利益,这种现象被称为数据殖民主义。此类做法有可能加剧知识生产、技术开发和决策方面的现有全球不平等。综述来源还指出需要响应非洲背景的治理框架。例如,提出了受Ubuntu启发的伦理框架,以促进公平、问责、集体参与和文化根基深厚的AI治理。同样,对AI伦理的批判性反思认为,治理系统应加强数据主权,鼓励非洲利益相关者的有意义参与,并确保AI技术以反映当地优先事项和价值观的方式开发和实施。
扩大边缘化人群的医疗保健可及性:综述来源一致强调了AI改善历史上经历护理障碍的人群医疗保健可及性的潜力。AI驱动的技术,包括临床决策支持系统、远程医疗平台、虚拟健康助手和预测分析,被确定为将医疗保健服务扩展到服务不足和偏远社区的有前景方法,这些社区中医疗专业人员的短缺和专科服务可及性有限仍然常见。几项来源提供了这些机遇的实际例子。在南非,据报道AI支持的电子健康技术增强了远程咨询,促进了更及时的医疗保健提供,而来自莱索托的证据强调了AI驱动诊断系统在资源受限环境中改善疾病检测和临床决策的潜力。更广泛地说,综述来源表明,当在适当的治理和基础设施框架内实施时,AI技术有潜力改善撒哈拉以南非洲边缘化人群的医疗保健可及性、效率和护理连续性。
加强疾病监测、诊断和健康系统绩效:综述来源指出AI在加强撒哈拉以南非洲疾病监测、临床诊断和整体健康系统绩效方面具有相当大的潜力。据报告,AI应用支持早期疾病检测、临床决策、预测分析和更高效的医疗保健资源配置,从而增强健康系统的响应能力。几项来源提供了这些应用的实际例子。AI驱动的诊断工具被强调为改善疾病(包括癌症)的早期检测和管理,而预测分析和机器学习算法被认可用于支持疾病监测和健康系统规划。政策报告进一步强调,将AI整合到常规健康信息系统中可以加强基于证据的决策并改善服务提供,前提是具备适当的治理、基础设施和劳动力能力。总体而言,综述证据表明,当在支持性政策和机构环境内实施时,AI可以有助于更高效和响应性更强的健康系统。
改善心理健康和专科服务的可及性:综述来源强调了AI在改善专科医疗保健服务可及性方面的日益增长潜力,特别是在心理健康领域,由于训练有素的专业人员短缺,该领域在撒哈拉以南非洲仍然是一个重大挑战。AI驱动的技术,包括聊天机器人、自动咨询系统和机器学习模型,被确定为在资源受限环境中扩大心理支持和专科服务可及性的有前景方法。综述证据中的实际例子展示了AI应用如何补充现有健康服务。在乌干达,据报道,使用心理健康热线对话开发的AI模型能够识别出有心理困扰风险的个体,并以当地语言促进自动支持,从而扩大了服务不足人群的心理健康服务可及性。其他来源同样强调,利用本地相关数据和伦理框架开发的、文化上适当的AI系统可以改善专科医疗保健的可及性和可接受性,同时有助于解决该地区心理健康专业人员的持续短缺问题。
讨论
为了将本综述的发现置于更广泛的全球AI与健康公平文献中,研究也借鉴了来自撒哈拉以南非洲以外研究的结果。
人工智能作为健康公平的变革性机遇:本综述的发现表明,当在支持性政策、治理和基础设施环境中实施时,人工智能在加强健康系统和推动撒哈拉以南非洲健康公平方面具有相当大的潜力。在综述来源中,AI始终与通过数字健康技术改善疾病监测、诊断准确性、健康系统规划和医疗保健可及性的机遇相关联。总体而言,这些发现表明,AI不应仅被视为一项技术创新,而应被视为更公平医疗保健提供的一个潜在促成因素,特别是在医疗工作者短缺、地理障碍和专科服务有限继续制约护理可及性的环境中。这些发现与更广泛的全球文献一致,全球文献日益认识到AI是加强健康系统的工具,通过增强临床决策支持、预测分析和数字服务提供。本综述中审查的非洲证据同样表明,AI驱动的远程医疗平台、临床决策支持系统、移动健康应用和预测模型有潜力改善医疗保健可及性和效率。然而,重要的是,本综述也表明,这些益处不太可能自动实现。相反,它们的成功实施取决于对数字基础设施、劳动力能力、治理和本地相关AI开发的并行投资。
加剧现有不平等的风险:尽管人工智能提供了加强健康系统的重大机遇,但本综述的发现也表明,如果没有对现有结构性不平等的刻意关注,其益处不太可能被公平实现。在纳入来源中,数字基础设施不足、数字素养有限、非洲人群在训练数据集中代表性不足以及治理框架薄弱,成为可能制约公平AI实施的相互关联的挑战。AI并非创造新形式的不平等,而是可能在不平等健康系统内开发和部署技术时,放大已有的差距。这些发现与日益增长的全球证据一致,表明AI系统并非天生中立,而是反映了其开发所依据的数据、算法和治理结构中蕴含的特征和假设。对于非洲健康系统,这引发了担忧,因为许多AI技术继续使用未能充分代表非洲人群的数据集和设计方法进行开发。反过来,算法偏差可能降低诊断准确性,限制AI支持的临床决策的相关性,并无意中排除已边缘化的社区。这些发现强化了以下重要性:促进本地代表性数据集,加强数据治理,并确保非洲研究人员、政策制定者、医疗保健专业人员和社区在整个AI开发生命周期中的有意义参与。总体而言,这些发现表明,人工智能的公平实施需要解决纳入来源中识别的结构性障碍。如果没有适当的保障措施,人工智能可能加剧而非减少撒哈拉以南非洲现有的健康不平等。
公平AI实施的条件:本综述审查的证据表明,AI对健康公平的影响在很大程度上取决于这些技术运作的更广泛社会、机构和治理背景。AI技术可以提供改善医疗保健提供的强大工具,但益处不会自动在人群中分布。公平的结果需要有意的努力来克服AI采用的结构性障碍。对数字基础设施、劳动力培训和数据治理的投资是确保AI技术能够有效整合到健康系统中的关键。没有这些投资,AI技术可能对那些最受益的人群望而却步。参与式、基于社区的方法对AI开发同样重要。让医疗工作者、政策制定者和当地社区参与AI技术的开发和部署,有助于确保这些系统响应本地需求和背景。参与式方法也有助于建立对AI技术的信任并支持其在健康系统中的采用。最后,需要为医疗保健中AI的使用建立更强有力的监管框架。关于数据保护、算法透明度和问责制的明确政策,将是AI技术负责任和伦理部署的关键。
对全球健康的启示:本综述为当前关于AI在推动健康公平中作用的全球讨论增添了内容。AI技术有望增强医疗保健提供和加强健康系统,但它们对健康公平的影响将在很大程度上取决于这些技术如何设计、治理和实施。这些发现向政策制定者强调了将AI技术嵌入更广泛健康系统强化战略的重要性。AI不应被视为灵丹妙药,而应被视为改善医疗保健可及性和减少健康差距的整体方法的一部分。未来研究需要检验AI技术对现实环境中健康结果和公平的影响。尽管许多研究提出了AI的潜在益处,但关于这些技术如何影响不同人群在医疗保健中的可及性和结果,实证证据很少。
对证据基础的批判性反思:本综述表明,关于撒哈拉以南非洲AI与健康公平的证据基础仍处于早期发展阶段。尽管纳入来源一致认识到AI加强健康系统和改善医疗保健可及性的潜力,但当前文献中大部分是概念性的,包括综述、观点、伦理论文和政策分析,评估AI在常规医疗保健环境中实施和影响的实证研究相对较少。因此,大部分可用证据反映的是预期的机遇和挑战,而非测量的健康结果。这一发现突显了一个重要的研究空白。未来研究应超越概念讨论,生成关于AI驱动健康干预措施在不同非洲环境中有效性、安全性、成本效益、可接受性和公平影响的稳健实证证据。此类证据对于为政策提供信息、指导负责任实施以及确保AI技术有意义地促进加强健康系统和减少健康不平等至关重要。对实施研究、本地主导创新和跨学科合作的更大投入,对于开发响应非洲健康优先事项和背景的AI解决方案也至关重要。
优势与局限性:本范围综述具有若干优势。据研究人员所知,这是首批综合综合关于人工智能对撒哈拉以南非洲健康公平影响的证据的综述之一。通过纳入同行评审和灰色文献,本综述提供了新兴证据的广泛概述,不仅捕捉了实证研究,还捕捉了政策文件、概念论文和专家观点,这些在快速发展的领域尤为重要。透明和系统性的范围综述方法进一步增强了综述过程的可信度和可重复性。尽管如此,应承认若干局限性。首先,可用证据仍然有限,并以概念性、评论性和政策导向的出版物为主,评估AI在非洲健康系统中实施的实证研究相对较少。其次,仅纳入了2020年至2025年间发表的英文来源,这可能导致排除了其他语言或指定时期之外的相关研究。最后,作为一项范围综述,本研究旨在绘制和综合可用证据,而非正式评估方法学质量或估计AI干预措施的有效性。因此,研究结果应被解释为对当前证据景观的概述,而非有效性的确凿证据。
对政策与研究的启示:本综述的发现对政策、实践和未来研究具有若干启示。首先,政府和健康政策制定者应确保AI通过优先考虑健康公平、透明度、问责制和数据主权的治理框架,整合到更广泛的数字健康战略中。对数字基础设施、劳动力发展和数字素养的投资对于支持AI在不同医疗保健环境中的公平实施至关重要。政策还应鼓励使用本地代表性数据集开发和验证AI技术,以最小化算法偏差并提高其对非洲人群的相关性。其次,政府、研究人员、医疗保健提供者和技术开发者之间需要加强合作,以促进负责任的AI创新,反映本地健康优先事项和社区需求。非洲研究人员和机构在整个AI开发生命周期中的有意义参与,可能有助于产生更符合背景、文化响应性和可持续的AI解决方案。最后,未来研究应优先考虑实施和评估研究,评估AI驱动健康干预措施在现实非洲环境中的有效性、可接受性、成本效益和公平影响。扩大实证证据基础对于为政策决策提供信息和确保AI有助于减少而非加剧现有健康不平等至关重要。
结论
人工智能有潜力通过加强疾病监测、支持临床决策、扩大医疗保健可及性和改善健康系统规划,转变医疗保健提供并促进撒哈拉以南非洲的健康公平。然而,本综述的发现表明,如果没有刻意努力来解决持续存在的结构性挑战,包括数字基础设施不足、数字素养有限、算法偏差、治理框架薄弱以及非洲人群在AI开发中代表性不足,这些潜在益处不太可能被公平实现。本综述进一步强调,当前证据基础仍主要是概念性的,评估AI在非洲健康系统中实施和公平影响的实证研究相对较少。解决这一证据空白需要加大对实施研究、本地主导创新和反映非洲人群需求和优先事项的背景相关AI解决方案的投资。最终,AI不应被视为解决健康不平等的独立技术方案。相反,其对公平医疗保健的贡献将取决于负责任的治理、包容性创新、有意义的利益相关者参与以及对健康系统强化的持续投资。当在这些有利条件下实施时,AI有潜力成为推动撒哈拉以南非洲全民健康覆盖和减少健康不平等的重要催化剂。