CARE-FL：去中心化医疗环境中用于罕见病检测的公平协作学习方法

《Neurocomputing》：CARE-FL: Fair collaborative learning for rare disease detection in decentralized healthcare

　　摘要在联邦医学成像中，稀有类别通常占训练数据总量的10%以下，但却对诊断要求最为严格，这种矛盾是按规模比例聚合无法解决的。传统方法通过按数据集大小分配权重，会系统性压制那些包含大量稀有类别数据的节点的影响，从而得到整体准确但类别不公平的模型。本研究提出了一种统一的质量-样本-稀有性（QSR）聚合框架，用于去中心化的联邦学习，用基于类别公平性的机制替代按规模比例的加权方式。该框架将聚合过程分解为三个组成部分，并通过两种互补的实现方式来执行，每种方式针对不同的运行环境设计。多标准分布感知聚合的去中心化联邦学习（DFed-MCDA）采用纯类别逆频率稀有性加权，以提高那些拥有全球范围内稀缺样本的节点的权重。类别感知的罕见病公平联邦学习（CARE-FL）则衡量每个节点的本地训练在提升稀有类别预测能力方面的效果，并将这种提升作为额外的质量增益；当质量信号无信息时，这种加法形式可简化为FedAvg，从而为聚合行为提供结构上的下限。由于聚合权重仅取决于验证得出的质量分数和样本统计量，而非模型内部结构，因此该框架具有模型无关性，可应用于任何架构。在四个标准基准测试集和三个医学成像数据集上的广泛实验表明，所提出的框架在组织学组织分类任务上使准确率提高了2.1个百分点，最小F1值提高了6.0个百分点；在视网膜成像任务中最差类别的F1值提高了4.7个百分点，在所有评估场景中均优于FedAvg。

引言去中心化联邦学习（DFL）无需中央协调器，即可在分布式节点之间训练共享模型[42]。已知在非独立同分布的标签分布情况下，其收敛性能会下降，此时客户端偏差和聚合偏差会与类别不平衡问题相互叠加[45]。标准的按规模比例规则（FedAvg [32]）根据每个节点的本地数据集大小来分配权重，因此既无法反映某个类别的全球稀有性，也无法体现少数类样本在节点间的不均衡分布[21]。这种不敏感性对罕见病的检测影响巨大。在美国，患有罕见病的人数不到20万[33]，在欧盟则不到两千分之一[5]，但这些疾病加起来共有6000多种，影响了全球3.5%到5.9%的人口[27]。由于症状不典型且缺乏可靠的生物标志物，罕见病的检测往往被推迟[23]，其临床预后也很差：胰腺癌的五年生存率仅为11%[31]。那些利用医学影像[22]和电子健康记录的人工智能方法依赖于大规模、多样化的数据集，而单个机构难以为稀有类别收集足够的数据。联邦学习（FL）使得无需暴露患者记录即可跨机构整合此类数据集[13]，但它能否在严重标签偏斜的情况下保证类别层面的性能，这一问题仍亟待解决。在医学领域的类别不平衡情况下，存在两种结构性问题。首先，稀有类别在总体样本中所占比例极小，因此按规模比例分配的权重会从全局层面压制它们。其次，一些专业机构虽然集中了大量的稀有类别数据，但其整体数据集规模较小，这进一步降低了它们的权重。以数值为例，一个节点虽然持有全球40%的稀有类别样本，但仅占总样本的5%，其聚合权重仅为它所持有稀有类别数据比例的四分之一；而一家普通医院虽然几乎没有稀有类别样本，但其总样本占比为20%，其聚合权重则是前者的四倍。图1展示了由此带来的性能差异：在Dirichlet分布下，与独立同分布情况相比，各类别的最小F1值下降了63%。因此，标准的联邦平均算法得到的模型在常见类别上表现良好，但在稀有类别上表现不佳，而这正是人工智能辅助诊断最能发挥作用的场景。现有方法从两个相互垂直的方向来解决数据多样性问题，但均未能针对类别层面的聚合偏差。以收敛性为目标的 方法采用了贡献度归一化[36]、控制变量[12]、梯度重加权[28]、局部逻辑斯蒂校准[46]或语义保留[19]等方法，但仍然使用与类别无关的聚合权重。而自适应方法则引入了局部正则化[24]、[40]、参数解耦[2]、[3]以及基于近期贡献的评分机制[38]、[39]，但这些方法既无法区分全局类别稀有性与节点级样本稀缺性，也无法区分少数类预测能力与多数类主导地位。因此，问题在于：如何让去中心化聚合既能奖励那些拥有全球稀缺样本的节点，又能奖励那些在稀有类别上具有良好泛化能力的节点，同时还能实现各类别间的公平性能？本研究通过一种质量-样本-稀有性（QSR）聚合框架来回答这一问题，该框架将聚合过程分解为三个概念性组成部分：用于衡量在保留的验证集上稀有类别预测能力的质量分数、反映数据量的样本项，以及量化全局类别稀有性的稀有性因子。由于这些权重仅取决于验证得出的分数和样本统计量，因此该框架具有模型无关性，可无需修改即可应用于卷积式、Transformer式或混合架构。该框架将这些组成部分具体化为两种互补的机制，每种机制针对不同的运行环境设计。DFed-MCDA采用纯类别稀有性加权，用于提高那些拥有全球稀缺样本的节点的权重，它在类别数量较多且狄利克雷多样性适中时效果最佳；而在类别数量较少且分割多样性极高的情况下，则由CARE-FL发挥作用。CARE-FL衡量每个节点的本地训练在提升稀有类别预测能力方面的效果，并将这种提升作为额外的质量增益；当质量信号无信息时，这一加法项消失，聚合过程则简化为FedAvg。•一种用于去中心化联邦学习的统一质量-样本-稀有性（QSR）聚合框架，通过两种为不同运行环境设计的互补机制来实现：在高类别数量和极端多样性情况下采用按类别稀有性耦合的方式，在类别数量适中情况下采用基于额外改进的质量提升方式。•QSR的两种实现方式划分了不同的设计空间：DFed-MCDA（纯类别稀有性加权），旨在在高类别数量和极端多样性情况下提升准确率；CARE-FL（基于额外改进的质量提升），旨在在类别数量适中情况下保障最差类别的公平性。当质量信号无信息时，CARE-FL的加法结构会简化为FedAvg，从而为聚合行为提供结构上的下限。•在四种基准测试集和三个医学成像数据集上进行的实证评估表明，在严重的非独立同分布条件下，该框架在组织学组织分类任务上使准确率提升了2.1个百分点，最小F1值提升了6.0个百分点；在视网膜成像任务中最差类别的性能提升了4.7个百分点，其在所有评估场景中的表现均优于FedAvg。本文的其余部分结构如下：第2节回顾相关研究，第3节阐述聚合失真问题并定义类别级公平性指标，第4节介绍QSR框架及其两种实现方式，第5节报告实验结果，第6节讨论局限性，第7节总结。

相关研究近年来，联邦学习领域的文献发展迅速，已有大量综述涵盖了基础方法[29]以及医学成像应用[11]。本节将探讨与所提框架最相关的两类研究——异质性条件下的聚合方法以及注重公平性的联邦学习方法，并指出QSR框架所填补的结构性空白。

符号与聚合失真在去中心化联邦学习中，多个节点在没有中央协调器的情况下共同训练一个共享模型。节点拥有一个私有数据集，其中包含来自多个类别的样本，某类别的样本数为，全球范围内该类别的总样本数为和。每个节点还拥有一个保留的本地验证子集，我们用表示节点上某类别的验证样本数。本地模型由特征提取器和线性分类器组成。各节点在共识机制下共同最小化一个共享目标函数。

QSR框架在非独立同分布条件下实现类别级公平性，需要聚合规则能够体现除样本数量之外的两个要素：由稀有性权重所反映的每个类别的全球稀有程度（公式2）；以及由下文定义的质量项所反映的每个节点在稀有类别上的预测能力。质量-样本-稀有性（QSR）框架将这两者整合为一个统一的权重，其中是从保留的验证集得出的质量分数，反映每类别的样本数量，而则反映类别的……

数据集与划分评估工作使用了四个标准基准测试集和三个MedMNIST医学影像数据集。CIFAR-10 [7]和CIFAR-100 [47]分别包含6万张属于10个和100个类别的RGB图像；MNIST [49]包含7万张灰度数字图像；CINIC-10 [34]则在CIFAR-10的基础上加入了来自ImageNet的样本。三个医学影像数据集取自MedMNIST [44]：OCTMNIST（4个类别，10.9万张视网膜OCT图像）、BloodMNIST（8个类别，1.7万张显微镜图像）以及PathMNIST（9个类别，10.7万张组织学图像）。

局限性目前的研究存在一些局限性，这些局限性限制了本研究的范围，也为后续研究方向提供了依据。

结论本研究提出了一种质量-样本-稀有性（QSR）聚合框架，用于在类别不平衡条件下的去中心化联邦学习中实现类别级公平性。该框架将聚合权重分解为三个概念性组成部分：来自验证的质量分数、每类别的样本项以及逆频率稀有性因子，并通过两种互补的实现方式来应用。DFed-MCDA适用于类别数量较多且多样性极高的场景，采用纯类别稀有性加权方式。

CRediT作者贡献声明Anam Nawaz Khan：写作——审稿与编辑、写作——初稿撰写、方法论、形式分析、数据整理、概念构建。Atif Rizwan：方法论、形式分析、数据整理、概念构建。Rashid Ahmad：验证、资源获取、方法论、研究实施、形式分析、概念构建。Qazi Waqas Khan：可视化、软件工具、资源获取、形式分析。Xueping Li：可视化、验证、监督、软件工具、项目管理、研究实施。

利益冲突声明作者声明不存在任何可能影响本文研究结果的已知财务利益或个人关系。Anam Nawaz Khan（IEEE会员）分别于2016年和2019年在巴基斯坦伊斯兰堡COMSATS大学获得计算机科学学士和硕士学位，2023年在韩国济州国立大学获得计算机工程博士学位。她目前是田纳西大学诺克斯维尔分校工业与系统工程系的HITS研究员及博士后研究助理。她的研究兴趣包括隐私保护型人工智能、联邦学习等。Anam Nawaz Khan|Atif Rizwan|Rashid Ahmad|Qazi Waqas Khan|Xueping Li|DoHyeun Kim田纳西大学诺克斯维尔分校工业与系统工程系，美国田纳西州37996。