FedLoop：基于闭环特征校正的个性化联邦学习

《Information Fusion》：FedLoop: Personalized Federated Learning with Closed-Loop Feature Rectification

　　

• •
  FedLoop将个性化联邦学习（pFL）从静态范式转变为动态的、实例级的特征校正。
• •
  反馈闭环将特征校正解耦为方向和幅度两个因素。
• •
  FedLoop在多种数据模态下实现了最先进（SOTA）的准确率，且开销极小。

引言

联邦学习（FL）是隐私保护协同学习的标准范式[1]。尽管前景广阔，联邦学习的实际效能常常受到统计异质性的损害——不同客户端之间非独立同分布（non-IID）的数据导致模型漂移和性能退化[2]。为此，个性化联邦学习（pFL）应运而生，旨在通过高效融合共享全局知识与多样化本地数据分布，弥合协同训练与本地适配之间的鸿沟[3]、[4]。

现有的pFL方法主要可归纳为以下三类：(i) 模型解耦[5]、[6]、[7]、[8]、[9]、[10]、[11]，(ii) 近端正则化[12]、[13]、[14]、[15]，以及(iii) 加权插值[16]、[17]、[18]、[19]。尽管机制各异，这些方法共享一种受限的归纳偏置。具体而言，它们通常主要在客户端层面建模个性化，隐式地将同一客户端内的样本视为具有相似的适配需求。关键在于，这种客户端级别的优化忽略了实例级的异质性。实际上，单个客户端内的各个样本与全局模型的偏离程度各不相同。因此，在每个客户端内部施加统一的校正强度可能导致次优权衡：在对齐良好的样本中发生灾难性遗忘[20]、[21]，而离群样本则拟合不足[22]，如图1所示。

为克服统一个性化的局限性，我们提出了一种范式转变——从静态参数调整转向动态特征校正。基于反馈控制理论[23]、[24]，我们将现有pFL方法刻画为本质上属于静态前馈系统的框架，其个性化策略通常在推理阶段固定不变，从而缺乏一种显式机制来根据模型当前的预测状态动态校正实例级的偏差[6]、[8]。为突破这些静态约束，我们将pFL架构重新构想为一种闭环校正机制。在该范式下，共享的全局骨干网络作为稳健的锚点，提取广泛且泛化性强的表示；与此同时，本地反馈驱动的校正器充当实例感知的校正模块。通过建立自校正闭环，该机制利用自身的预测不确定性作为实时反馈信号，动态调节校正强度。因此，我们的控制论系统主动校正潜在特征，确保精确的实例级适配，同时将个性化限制在本地非聚合的校正器中，从而像标准联邦平均一样保留聚合后的全局骨干网络。

在本工作中，我们提出了FedLoop（带有闭环特征校正的Federated Learning），一个轻量级框架，将个性化建模为对全局表示的加性校正项。整体架构如图2所示。与黑盒方法不同，FedLoop显式地将校正过程解耦为两个可解释的因素：校正方向和校正幅度。具体而言，方向网络确定最优校正路径，而幅度网络利用初始预测反馈，基于模型不确定性动态调节校正强度。在涵盖计算机视觉（包括CIFAR-10、CIFAR-100和FEMNIST）、时间序列分析（UCI-HAR）以及自然语言处理（AG News）等多种模态的大量实验中，FedLoop在性能和鲁棒性方面均显著优于最先进的pFL方法。

我们的贡献总结如下：

• •
  我们提出了一种新范式，将pFL从开环过程——个性化在训练后固定且从不响应当前输入——转变为闭环过程——模型在推理时利用自身的预测不确定性，逐样本确定校正强度。
• •
  我们设计了一个轻量级的反馈驱动校正器，显式地将特征校正解耦为方向和幅度，利用预测不确定性作为实时反馈信号，为每个样本动态调节校正强度。
• •
  在计算机视觉、时间序列和自然语言处理基准上的大量实验表明，我们的方法在保持优越鲁棒性和泛化能力的同时，显著优于最先进的方法。

章节摘要

相关工作

在本节中，我们首先回顾标准联邦学习框架以及普遍存在的统计异质性挑战。接着，我们系统地分类并分析现有的pFL方法。最后，我们阐述这些静态范式的固有局限性，并明确区分FedLoop框架与先前工作的差异。

方法论

在本节中，我们详细介绍所提出的FedLoop框架。为便于清晰的数学表述和方便引用，我们首先在表1中总结了全文所使用的关键符号和定义。

理论分析

我们从三个维度对FedLoop进行简要的理论论证：(i) 闭环校正器数值稳定，(ii) 有界的个性化校正收敛到各客户端的最优解，以及(iii) 校正后的本地模型可证明地在各客户端分布上优于全局模型。

稳定性。 反馈驱动推理的一个自然担忧是，${\widehat{y}}_{\text{init}}$与δ之间的递归耦合可能导致特征无界放大。借鉴经典的有界输入

实验

在本节中，我们进行广泛的实证评估以验证所提出FedLoop框架的有效性和鲁棒性。在实验设置之后，我们首先在各种非独立同分布设置下与最先进基线方法进行整体性能对比。随后，我们通过严格的消融实验剖析框架，并分析其计算效率和收敛稳定性。此外，我们在极端网络和环境条件下对FedLoop进行压力测试

结论

在本文中，我们提出了FedLoop，一个新颖的pFL框架，将范式从静态参数调整转变为动态的实例级特征校正。通过建立由预测不确定性驱动的闭环反馈机制，FedLoop有效地将本地可塑性的优化与全局泛化约束解耦。这种精确的实例级对齐将个性化限制在本地非聚合的校正器中，从而使得聚合后的全局骨干网络得以

CRediT作者贡献声明

Ma Zhaoyang：撰写——初稿，软件，方法论，形式化分析，概念化。Wu Zhihao：验证，调查，数据整理。Gao Xin：撰写——审阅与编辑，可视化，验证。Lu Wang：撰写——审阅与编辑，方法论，形式化分析。Lin Youfang：指导，资源，资金获取。Wang Jing：撰写——审阅与编辑，指导，项目管理，资金获取。Wang Lipo：撰写——审阅与编辑，指导，

利益冲突声明

作者声明不存在可能影响本文所述工作的已知竞争性经济利益或个人关系。

Maa Zhaoyang|Wu Zhihao|Gao Xin|Lu Wang|Lin Youfang|Wang Jing|Wang Lipo