一种基于粒子群优化的面向非独立同分布数据的分层个性化联邦学习方法

《Knowledge-Based Systems》：A particle swarm optimization-based layered personalized federated learning method for Non-IID data

　　

- FedLOP将模型拆分为全局层和个性化头进行优化。
- PSO优化全局层和融合权重，以实现个性化联邦学习模型。
- 改进的PSO加速收敛，并在非独立同分布（Non-IID）数据下增强联邦学习性能。
- FedLOP在多个不同数据集和异质性水平下实现了2%–5%的准确率提升。

**引言**

深度学习领域取得的显著进步主要源于大规模、多样化且全面数据集的可用 [1]。然而，随着物联网（IoT）的兴起，数据生成主要分布在各种边缘设备上，导致数据孤岛现象的出现。例如，医疗数据的分布在不同的医院之间可能存在显著差异，用户的消费模式在不同地区可能有所不同，工业设备的传感器数据在不同生产场所可能表现出多样的时间或统计特征。为了缓解这一挑战，McMahan等人提出了联邦学习（FL）的概念 [2]，使每个客户端能够使用自己的数据在本地训练模型，然后将模型参数发送到中央服务器进行聚合，从而形成一个全局模型，而无需将数据集中到一个数据中心。尽管联邦学习在理论上具有优势，但在实际应用中，它往往无法满足其基本假设，即各客户端的本地训练数据集是独立同分布的。例如，在数据收集过程中，由于使用环境、用户行为模式和数据来源的差异，边缘节点在数据分布、标签和规模方面可能存在显著差异。这意味着私有数据并非独立同分布（Non-IID）[3]。在这种场景下，客户端之间数据分布的异质性可能导致本地模型收敛到次优解，偏离全局最优轨迹。这严重影响了全局聚合模型的准确性，如图1所示。因此，全局模型的性能可能会显著下降。

为了解决分布式客户端之间数据异质性所带来的挑战，个性化联邦学习（PFL）已成为一种有效的策略 [4]。与传统联邦学习不同，PFL旨在利用各客户端本地存储的私有数据，为每个客户端生成定制化模型。当前个性化联邦学习的方法通常可分为以下几类：基于正则化的方法 [5]、[6]，通过施加约束来限制本地优化的模型权重；基于个性化聚合的方法 [7]、[8]、[9]，通过聚合其他客户端的模型或将全局模型与本地模型相结合来改善本地模型的初始化；基于聚类的方法 [10]，根据相似性对本地模型进行分组，然后在每个聚类内进行独立训练；以及基于头部分个性化的方法 [11]、[12]，采用由共享特征提取器和客户端特定的分类头组成的双组件架构。在这种架构中，特征提取器由客户端协同训练并共享，而分类头仅在本地数据上训练并对每个客户端保持私有。然而，仅在本地数据上训练头部分可能会导致头部分中全局知识的丧失，从而导致整体性能次优。

为解决上述分类头中全局知识丧失的问题，我们提出了一种基于粒子群优化（PSO）的分层优化个性化联邦学习方法，称为FedLOP。在我们的方法中，首先将客户端模型分解为两个组件：一个负责特征提取和全局知识学习的全局知识层，以及一个致力于为各客户端提供个性化分类的分类头。在我们的框架中，PSO算法被用于分别优化全局知识层和分类头，使得在物联网环境的联邦学习框架下能够更有效地实现个性化，同时保留全局知识。

具体来说，在服务器端，我们利用PSO优化全局知识层，从而增强其对异质数据的表示能力和泛化能力。对于个性化头部分，我们引入个性化聚合的概念，通过对上一通信轮次的本地头与当前迭代的全球头进行逐元素聚合，并利用可学习的权重矩阵进行加权，以获得聚合后的头。这一过程促进了全局知识向个性化头的整合，缓解了针对有限本地样本的过拟合问题。同时，PSO优化权重矩阵以提高每个个性化模型的准确性和泛化能力，并有效利用全局知识。

为验证FedLOP的有效性，我们在四个图像分类数据集和一个文本分类任务上进行了广泛的实验，涵盖了先前工作中被广泛研究的两类常见场景，如 [2]、[13]。为了全面评估所提方法的有效性，我们在实验中将其与几种代表性的联邦学习和个性化联邦学习方法进行了比较。这些基线方法包括经典联邦学习方法FedAvg [2]、基于梯度的元学习方法Per-FedAvg [14]、基于正则化的方法Ditto [5]和pFedMe [6]，以及几种近期的个性化联邦学习方法，如FedPHP [15]、FedAMP [7]、FedFomo [8]、FedRep [11]、FedBABU [16]和FedALA [9]。结果表明，FedLOP相比这些PFL方法实现了近2%到5%的准确率提升。本工作的主要贡献总结如下：

- 本研究提出了一种创新的个性化联邦学习方法FedLOP，基于个性化头方法。该方法将模型拆分为知识层和分类头，并对各层采用差异化优化策略。
- 本研究引入了PSO的应用以增强特征提取能力，从而提高模型捕获异质数据分布的能力。此外，对于分类头，我们对全局头和本地头进行逐元素融合，并采用PSO优化聚合权重以提升性能。
- 我们通过整合参与设备的历史最佳位置来改进PSO，使其更好地满足联邦学习的需求。这一修改使优化过程能够更有效地利用历史设备数据，从而显著提高了收敛速度。
- 我们在各种分类数据集上进行了广泛的实验，并与十种先进的联邦学习方法进行了比较，以证明FedLOP的卓越性能。

本文的结构如下：在第2节中，我们回顾了PFL的相关研究，介绍了PSO在联邦学习中的应用，并讨论了本研究背后的动机。本研究的问题描述详见第3节。第4节详细阐述了所提出的方法。实验设置、参数配置以及实验结果的分析在第5节中进行了详细阐述。最后，第6节以简要的总结和潜在未来研究方向的讨论作为论文的结论。

**章节摘要**

**个性化联邦学习**

为了克服整体式全局建模的局限性，个性化联邦学习（PFL）培养了能够天然适应数据异质性的客户端专属模型。在此背景下，PFL方法试图在灵活性（足以适应本地数据分布）和对全局知识的依赖（防止在小型本地数据集上过拟合）之间取得平衡。流行的方法包括：

基于正则化的方法。在Ditto [5]中，每个客户端使用邻近项来学习一个Problem formulation 问题定义

在假设统计异质环境的个性化联邦学习设置中，我们考虑一个分类任务，涉及N个参与客户端，其中N个客户端各自的私有数据集D1,…,DN中存在Non-IID和不平衡数据。这些数据集是从N个不同分布中提取的不相交样本。我们的目标是利用每个客户端的私有数据D1,…,DN，在不交换任何私有数据的情况下协作学习不同的本地模型Θ?1,…,Θ?N。

**Methodology 方法论**

在本节中，我们首先概述FedLOP的工作流程。随后，我们详细解释其在两个关键组件——个性化分类头和全局知识层——中的工作原理和过程。最后，我们阐述了在框架中引入改进的粒子群优化（PSO）策略的理由和必要性，强调其在增强收敛和模型自适应方面的优势。

**Experiment 实验**

在本节中，我们首先介绍FedLOP的实验设置，包括数据集、模型架构和训练细节。随后，我们在各种异质场景下评估FedLOP与几种最先进的联邦学习方法的性能，展示了其优越的收敛行为和泛化能力。此外，我们从可扩展性、异质性适应、通信开销等方面对方法进行了系统分析。

**Conclusion 结论**

本文提出了FedLOP，一个分层个性化联邦学习框架，有效解决了联邦学习中Non-IID数据带来的挑战。通过利用PSO，所提方法优化了全局知识层和个性化分类头，并在本地个性化和全局知识共享之间取得了平衡。实验结果表明，FedLOP在多种数据集、不同异质性水平和不同场景下表现出鲁棒的性能。

**CRediT作者贡献声明**

Ziqi Song：撰写—原始草稿、方法论、调查研究、数据整理、概念化。
Chen Cui：撰写—审阅与编辑。

**利益冲突声明**

作者声明不存在已知的竞争性经济利益或个人关系，这些可能影响本文所报告工作的判断或立场。

Ziqi Song | Chen Cui