FedGa-ReFF：基于自适应梯度平衡与特征重训练的联邦长尾学习方法

《ADVANCED ENGINEERING INFORMATICS》：FedGa-ReFF: Federated long-tailed learning based on adaptive gradient balancing and feature retraining

　　摘要：联邦学习允许多个参与方在不共享原始数据的情况下协同训练机器学习模型。在许多现实场景中，各参与方的数据分布呈现长尾特征。面对长尾数据时，模型可能会偏向于那些数据量较大的类别，而忽略数据量虽少但同样重要的类别，从而导致模型整体鲁棒性较差。为解决这一问题，我们采用了梯度调整与联邦特征重新训练的方法（FedGa-ReFF）来提升模型的整体鲁棒性。具体而言，这类先验知识是通过以混沌计算为核心加密技术的安全多方计算获得的，基于这些先验知识，在客户端实现自适应梯度更新。随后在服务器端，利用客户端上传的梯度反演联邦特征，并据此重新训练全局模型的分类器。该方法旨在优化联邦学习中的长尾问题处理。我们在高度非独立同分布且具有长尾特征的实验环境中对FedLT进行了评估，同时在多个基准数据集上的综合实验表明，FedLT的性能优于现有的联邦学习方法，充分证明了该方法的有效性。

引言：联邦学习是一种创新的机器学习范式，它使得设备或机构等多个参与方能够在不直接共享本地数据的情况下共同训练全局模型。这种方法的优点在于能够保护数据隐私与安全。长尾数据问题是机器学习领域尤其是分类任务中常见的现象[1]。当联邦学习遇到长尾数据时，问题会变得更加复杂。首先，联邦学习中的数据分布本身可能就存在非独立同分布特性，即不同客户端的数据可能来自完全不同的分布。其次，长尾数据的存在会进一步加剧这种分布失衡，导致某些客户端仅包含少数几类样本，而其他客户端则拥有丰富的样本[2]。这种失衡不仅会影响模型的训练效率，还可能导致全局模型对某些类别产生偏见，这不仅影响模型的公平性，也对模型的鲁棒性构成巨大挑战。长尾数据的三个核心特征分别是样本的长尾分布（以多数类样本为主，少数类样本稀缺）、特征的长尾分布（低频特征仅存在于少数样本/客户端中），以及客户端的长尾分布（少数客户端持有大量数据，而大多数客户端的数据较为稀少）[3]。这三类特征会对联邦学习产生多方面的负面影响：样本的长尾分布会加剧全局模型对多数类的偏见，增加梯度方差并降低训练稳定性，还会凸显个性化需求与全局一致性之间的矛盾；特征的长尾分布会导致全局特征空间不完整，限制模型的泛化能力，同时增加客户端特征漂移的风险，干扰聚合效果；客户端的长尾分布则会使传统加权聚合策略在传统加权方式下主导全局模型的学习方向，从而导致数据量较小的客户端的贡献被稀释，降低其参与积极性，甚至出现客户端脱离的情况，同时由于数据量较大的客户端拥有更多的参数信息，还会增加隐私泄露的风险[4]。

联邦学习通过在各参与方的本地数据上训练模型，再将模型更新信息加密后发送到中央服务器进行聚合，从而避免了原始数据泄露和集中存储的问题。这种方法不仅能够保护患者隐私，还能在不迁移敏感数据的情况下有效利用全局数据来优化模型[5]。在处理长尾数据时，联邦学习尤其有效。长尾数据的稀疏性使得传统的集中式训练方法难以捕捉到罕见案例的特征，从而导致模型缺乏对这些案例的预测能力。而通过联邦学习，每个参与方都可以识别并强化本地数据中那些虽稀少但重要的特征，然后将这些特征贡献给全局模型。这种分布式优化过程能够显著提升模型在长尾类别上的性能，进而提高整体预测的准确性与鲁棒性[6]。在实际应用中，联邦学习可以通过多种技术手段提升对长尾数据的学习能力。例如，可以通过梯度重加权动态调整不同数据类别分布的梯度贡献，以平衡学习过程中的权重偏差。此外，还可以引入数据增强、对抗性训练等多种正则化技术，进一步增强模型在长尾类别上的泛化能力。简而言之，联邦学习在医疗领域的应用，尤其是结合长尾数据处理，不仅能够有效保护患者隐私，还能显著提升模型性能，为精准医疗和个性化治疗提供强有力的技术支持[7]。预计这项技术的推广与应用将在未来的医疗实践中发挥关键作用，有助于实现医疗资源的均衡分配以及医学技术的整体进步。尽管这些方法在一定程度上解决了非独立同分布数据的问题，但它们通常假设类别分布是平衡的，因而忽视了长尾类别分布所带来的挑战。在许多物联网场景中，长尾分布会对全局模型的泛化能力产生显著影响。在物联网环境中，由设备和传感器生成的数据往往呈现长尾分布，即少数头部样本占据多数，而大多数尾部样本的数量较少。基于这种分布构建的分类模型被称为长尾学习，这种分布会导致全局模型在尾部类别上的性能不佳，降低模型的鲁棒性[8]。随着深度学习的广泛应用，长尾学习越来越受到关注，并得到了广泛研究。目前，传统方法主要依靠处理不平衡问题的技术，如重采样[9]和重加权，来减轻不平衡带来的影响。此外，还有一些方法侧重于利用深度学习模型的特征进行表示学习[10]。在联邦学习中，由于客户端数据分布本身存在不均衡性，因此在处理不平衡问题时面临巨大挑战——由于联邦学习具有保护隐私的特性，无法直接应用为集中式环境设计的传统方法，这限制了我们获取所有客户端的全局类别分布的能力，进而无法识别出特定的头部和尾部类别，使得传统的处理类别不平衡的技术无法发挥作用[11]。此外，部分客户端仅有少量尾部样本，这会导致这些客户端在对应尾部类别上的本地模型性能不佳，而由这些有偏见的本地模型聚合而成的全局模型也会继承并加剧这种不平衡，从而表现出相应的偏见[12]。

(1) 我们提出以闭环方式对每个客户端的梯度进行重加权，以实现客户端层面的梯度平衡。这样可以有效缓解模型训练过程中因数据异质性导致的分布漂移，动态调整梯度权重，减少数据分布偏斜带来的不良影响，从而获得更稳定、更高效的训练结果。(2) 本文利用隐私计算来确定在非独立同分布且具有长尾特征的数据处理过程中全局类别分布的先验知识。(3) 我们利用客户端上传的梯度在服务器端反演相应的联邦特征，然后重新训练全局模型分类器，以此提升模型性能。本文的其余部分结构如下：第2节介绍相关背景，第3节描述整体系统框架与设计，第4节对Fed的实验结果进行评估与分析，最后在第5节对本文进行总结。

相关工作：本节详细介绍了联邦学习在长尾数据场景下的最新进展，以及隐私计算在数据隐私保护方面的最新进展与作用。

FedGa-ReFF：联邦长尾学习：在本节中，我们首先介绍不同问题描述所对应的符号设定。随后，详细介绍该方法及其实现流程，重点阐述如何通过隐私计算实现自适应梯度平衡，以及如何根据联邦特征重新训练全局模型分类器，这些特征被标记为D1、D2……DC。目标是通过D1 ∪ D2 ∪……DC在服务器端构建一个包含所有这些数据集的全局模型，同时确保……

基线方法：我们考虑了两类最先进的基线方法：(1) 针对数据异质性的联邦学习方法（FedProx、FedNova）或针对联邦长尾数据的方法（FedIR和CReFF），同时还将FedAvg作为参考；(2) 用于各客户端本地训练的长尾学习方法（-norm、Eqlv2、LDAM、Focal-loss和GCL-loss）。我们还提供了在集中式学习环境下的长尾方法的结果，作为oracle性能的上限。

数据集：为了更好地……

结论：在本文中，我们提出了一种结合隐私计算的适应性方法，用于解决来自设备的医疗数据中的长尾及异构分布问题，尤其是在非独立同分布且具有长尾特征的联邦学习场景中。该方法借助隐私计算确定客户端之间的数据量分布，有效识别数据的正负特征。每个客户端都利用隐私计算的先验知识来拟合模型。在服务器端……

CRediT作者贡献声明：江斌：写作——审阅与编辑、指导、调研。尚宇晨：写作——初稿撰写、软件开发。孔凡辉：方法论、形式化分析。王健：写作——审阅与编辑。

利益冲突声明：作者声明不存在任何可能影响本文所述工作的已知财务利益或个人关系。

致谢：本研究部分得到了泰山学者基金项目tsqnz20230602、山东省自然科学基金项目ZR2024MF115以及国家自然科学基金项目62102264的支持。

江斌|尚宇晨|孔凡辉|王健