综述：对临床自然语言处理领域Transformer时代中算法公平性、数据多样性及包容性设计的相关研究综述

《Journal of Biomedical Informatics》：A scoping review of algorithmic equity, data diversity, and inclusive design in the transformer era of clinical NLP

　　谢丽·格拉奇|阿比尔·巴达维|法拉·艾哈迈德|埃尔哈姆·多拉塔巴迪

摘要
背景：医疗保健领域的快速数字化使得基于变换器的自然语言处理模型成为管理临床文本数据的强大工具。然而，将其应用于实际工作中时，仍存在关于公平性和包容性的未解决问题。

目标：本综述旨在探讨在基于变换器的临床自然语言处理中如何解决公平性问题，重点关注算法公平性、数据多样性与代表性以及参与式设计。

方法：通过系统性综述，整合了2017年至2024年间发表的56项研究。以交叉性方法和数字健康公平框架为指导，分析这些研究，以评估在基于变换器的临床自然语言处理研究中如何将公平性相关因素落到实处。

结果：大多数公平性审查都是事后的且零散的，对模型开发的影响有限。研究发现，语言、人口统计和临床子群体一直被严重忽视，这就产生了我们所谓的“数据多样性债务”。仅有11%的研究采用了参与式设计，这说明除了临床医生之外，其他利益相关者的参与度较低。公平性指标的定义也不一致，这限制了不同研究之间的可比性和问责性。

讨论：这些发现表明，需要超越描述性的公平性审查，采用从设计之初就考虑公平性的方法。我们将综合所得的证据转化为一种从设计之初就注重公平性的路线图，将公平性、包容性和问责性贯穿于医疗自然语言处理系统的整个生命周期。我们认为，公平性应从被动评估转变为主动设计，通过参与式治理、注重公平性的训练目标以及持续监控来解决数据多样性债务问题，降低再次出现健康差异的风险。

引言：医疗保健服务正在经历快速的数字化变革，新的技术不断涌现，有望提高效率、准确度以及以患者为中心的护理水平[1]、[2]、[3]、[4]、[5]。在这一背景下，变换器架构，尤其是双向编码器表示模型（BERT）、文本到文本传输变换器（T5）和生成预训练变换器（GPT），已成为临床自然语言处理领域的主流模型[6]、[7]、[8]、[9]、[10]、[11]、[12]、[13]。它们具备强大的技术能力，如丰富的上下文嵌入、处理长距离依赖关系以及大规模预训练，从而推动了从临床总结到诊断支持等任务的进展[14]、[15]、[16]、[17]。然而，这些模型同时也加剧了公平性风险[18]、[19]。实证研究表明，变换器模型的输出在不同人口群体之间可能存在显著差异，这对诊断和治疗有着严重的影响[20]、[21]、[22]、[23]、[24]。例如，在一项针对多个医学专业的大规模GPT-4评估中，该模型在81%的结节病案例描述中都将患者描述为黑人女性，这一比例远远高于实际的流行病学数据；而且当改变种族或性别描述时，该模型仅能在37%的案例中正确确定诊断结果[23]。同样，对BioBERT的分析也发现了明显的种族偏见，在评估临床概念与种族相关群体之间差异的基准测试中，其SD-WEAT效应值分别为0.844（p = 0.004）和0.868（p < 0.001）。这些例子表明，算法上的不公平现象并非虚幻存在：它们在医疗领域是可以测量的、反复出现的，并且会带来实际后果。尽管人们越来越意识到这类风险，但相关研究仍然十分零散[25]、[26]。现有的研究往往孤立地探讨公平性相关问题，分别关注语言偏见、不同子群体的表现或公平性指标，而没有将这些方面贯穿于模型的整个生命周期。这种零散性限制了该领域对基于变换器的临床自然语言处理系统中公平性相关风险如何被发现、评估和解决的深入理解，因此有必要进行系统性的综合分析，探讨不同研究和模型开发阶段是如何处理这些公平性问题的。语言偏见是一个重要但研究不足的挑战：大多数研究都集中在英语模型上[27]，对于文化 and语言多元化的群体的表现则研究不足。虽然已经开发出了阿拉伯语BERT、印地语BERT等多语言模型[28]，但它们在确保语言公平性方面的能力仍有待检验。公平性指标也缺乏标准化，不同研究中的定义和应用方式各不相同[29]，这使得跨研究比较变得复杂。尤为值得注意的是，参与式设计，即让患者、临床医生和社区成员参与到模型构建过程中，仍然极为少见[30]。这对于基于变换器的临床自然语言处理系统尤为重要，因为这类系统需要生成和解读在临床交流中至关重要的语言内容。由于这些模型对语言表达方式、叙事结构以及上下文线索极为敏感，如果缺乏参与式设计，那么生成的文本虽然可能符合技术标准，但却可能无法准确体现临床交流中的语气、恰当性或文化内涵。而这些缺陷是传统的性能或公平性指标无法检测出来的。例如，对变换器模型的评估表明，改变人口统计描述会改变诊断的表述方式和优先级，从而暴露出生成临床文本中所存在的与情境相关的偏见[23]。综上所述，这些发现表明，对于基于变换器的临床自然语言处理系统而言，参与式和包容性设计是一种特定的公平性要求，而非一般的伦理考量。尽管已有研究对基于变换器的模型在生物医学和临床自然语言处理领域的应用进行了探讨，但现有的综合分析大多侧重于任务性能和临床应用，而将公平性相关问题视为次要问题或处理得不够深入。例如，以往关于生物医学领域变换器模型的综述主要介绍模型架构、基准测试及下游应用，可能会提到数据集存在的实际限制，如可用性或语言覆盖范围等问题[6]，但并未系统地探讨算法公平性、数据代表性以及参与式和包容性设计等公平性相关概念在各项研究中的定义、评估方式及其实际应用情况。同样，针对电子健康记录相关医疗人工智能中的偏见问题进行的系统性综述也总结了偏见的类型、公平性指标及缓解策略，但这些研究仍然主要以方法论为主[29]。总体而言，这些局限性凸显出有必要进行有针对性的综合分析，探讨在基于变换器的临床自然语言处理系统及其整个生命周期中如何解决公平性相关问题，将算法公平性、数据多样性与代表性以及参与式和包容性设计纳入统一的分析框架之中。本综述系统地识别、描述并解决了这一研究空白。我们的分析围绕三个相互关联的公平性维度展开：算法公平性涉及对模型性能中存在的系统性差异的识别、评估和缓解，其目标是确保在不同人口统计、语言和临床子群体中都能获得公平的成果[31]、[32]；数据多样性与代表性则涉及到用于训练和评估的数据集在范围、包容性以及与实际情境的关联性方面的情况，涵盖人口统计、语言、地理和临床等多个方面[33]；参与式和包容性设计则强调让患者、临床医生和社区成员持续地参与到自然语言处理模型的开发、评估和部署过程中，以确保这些模型能够满足现实需求并符合伦理准则[34]、[35]。本文的结构如下：方法部分详细介绍了综述的方法和纳入标准；结果部分展示了三个公平性维度的主题性发现；讨论部分则对这些发现的意义进行解读，并提出基于证据的研究、实践和管理方向。

方法部分节选
本研究采用了系统性综述方法，旨在探讨基于变换器的医疗自然语言处理中的公平性相关问题。该综述聚焦于三个伦理维度——算法偏见、数据多样性以及参与式设计，以此了解这些问题是如何被处理的，以及目前还存在哪些关键缺陷。我们在研究过程中遵循了Arksey和O’Malley的框架[99]，并依照PRISMA-ScR检查表[100]来确保方法的严谨性。综述过程分为四个阶段：（1）数据库搜索；（2）

结果部分节选
研究选择：在2017年1月至2025年4月期间，数据库搜索共找到了1,631篇相关文章。选择2017年作为起点，因为这一年正是变换器架构被引入自然语言处理领域的时刻。在剔除653篇重复文章后，还有978篇独特的文章在标题和摘要层面进行了筛选。接着，根据预先设定的纳入和排除标准对这些文章的初步相关性进行了评估。最终，有193篇文章的全文被进一步评估。

讨论部分节选
基于变换器的自然语言处理模型在医疗领域的应用前景十分广阔，但我们对2017年至2024年间发表的56项研究的综述显示，目前在处理公平性问题方面存在严重的失衡现象。在这56项研究中，主要有三种模式：其一，93%的文章探讨了算法公平性问题，通常是通过对不同子群体的分析来进行的；其二，43%的文章提到了数据多样性和代表性问题，不过往往只是作为一种事后补救措施；其三，涉及参与式和包容性设计的文章极为罕见，仅有11%，即6篇文章。

意义阐述部分节选
问题或议题：什么是已有的认知？本文又带来了什么新见解？谁能从本文的新知识中受益？
基于变换器的自然语言处理模型在医疗领域已被广泛应用，但将其投入实际使用时，公平性和包容性标准方面的问题仍然没有得到妥善解决。尽管人们越来越意识到公平性风险，但相关研究仍然十分零散。
已有研究表明，变换器模型的输出在不同人口群体之间可能存在巨大差异，这反映出与种族相关的偏见以及算法上的问题。

代码可用性说明：本研究没有开发任何代码。

CRediT作者贡献说明：
谢丽·格拉奇：写作——审阅与编辑、写作——初稿撰写、可视化、方法学、正式分析、数据整理、概念构建。
阿比尔·巴达维：写作——审阅与编辑、写作——初稿撰写、可视化、正式分析、概念构建。
法拉·艾哈迈德：写作——审阅与编辑、监督、正式分析。
埃尔哈姆·多拉塔巴迪：写作——审阅与编辑、写作——初稿撰写、监督、正式分析、数据整理。

利益冲突声明：作者声明存在以下可能被视为潜在利益冲突的财务利益/个人关系：阿比尔·巴达维和埃尔哈姆·多拉塔巴迪的这项工作得到了加拿大“首屈一指的研究卓越基金”（CFREF2022 - 00010）资助的“互联思维计划”的支持。埃尔哈姆·多拉塔巴迪还获得了加拿大卫生研究院的额外支持（资助编号为192124）。

致谢：本研究得到了安大略省、加拿大政府通过CIFAR提供的支持，以及“互联思维计划”和Vector Institute的资助。

伦理声明：本研究无需伦理审批。这项工作是对已有文献的回顾，不涉及人类参与者、患者数据或任何需要机构审查委员会批准的程序。由于没有收集新的数据，因此也不需要获得知情同意。