基于管道化无人机技术的物联网网络联邦学习

《Internet of Things》：Pipelined UAV-Enabled Federated Learning for IoT Networks

　　

赵善荣|李昌民|赵安娜|李淑英

韩国首尔延世大学计算机科学系

摘要

在6G时代物联网设备迅速增多的背景下，联邦学习被引入用于分布式设备端训练，从而在保障隐私的同时提升网络效率。然而，在通信基础设施有限的地区，如偏远地区或灾后环境，物联网设备难以将本地训练好的模型上传到中央云服务器。在这种情况下，基于无人机的联邦学习框架成为一种替代方案，无人机可作为飞行参数服务器来收集和汇总各设备的本地模型。尽管具有潜力，但由于设备差异性导致非独立同分布数据问题，这类框架存在收敛速度慢、全局模型精度下降的问题，使得快速设备不得不在每轮训练中等待较慢的设备。为解决这些问题，我们提出了一种流水线式无人机辅助联邦学习机制。具体而言，该机制通过流水线式上行链路调度，让更多设备能够参与每轮训练，并选择那些更新最有可能提升全局模型的设备，从而缓解非独立同分布数据问题。仿真结果表明，与现有方法相比，PUFL机制提升了模型收敛速度和测试精度。

引言

随着6G时代的到来，物联网设备的数量正在迅速增加，这些设备配备了传感器和通信模块，广泛应用于智慧城市、农业和环境监测等多个领域[1]、[2]。大量的物联网设备会产生海量异构且实时的数据，这就需要将机器学习技术无缝集成到人工智能基础设施中，以确保数据的互操作性和运营效率[3]、[4]、[5]、[6]。在此背景下，联邦学习作为一种有望提升网络效率并保障隐私的技术，通过仅共享模型参数而非原始数据，实现了在物联网设备上的分布式训练[7]、[8]、[9]。

然而，在通信基础设施有限的地区，如偏远地区或灾后环境，物联网设备很难将本地模型上传到中央云服务器进行汇总[10]、[11]、[12]。为克服这一限制，人们提出了多种基于无人机的联邦学习框架，其中无人机充当飞行参数服务器，从物联网设备收集本地训练好的模型，并在基础设施受限的区域将它们汇总成全局模型[12]、[13]、[14]、[15]、[16]。不过，由于物联网设备的差异性，现有的无人机联邦学习框架仍存在非独立同分布数据问题[17]、[18]。此外，由于计算能力及本地数据集大小的差异，一些设备不得不等待最慢的设备完成训练，这阻碍了其他设备在同一轮训练中参与，进而降低了收敛速度和模型精度[19]。这些问题都影响了算法的性能。

为解决这些问题，本文提出了一种流水线式无人机辅助联邦学习机制。本文的主要贡献如下：

• •
  在PUFL机制中，上行链路传输以流水线方式调度，这样快速设备可以上传其本地更新，而慢速设备则可继续进行本地训练。为此，物联网设备会根据其预估的本地训练时间被分组，便于无人机在组级别安排上行链路传输。这样一来，快速设备无需闲置等待慢速设备，从而让更多设备能够在不延长整体训练时间的情况下参与每轮训练。
• •
  PUFL机制还会挑选出适合采用上述流水线调度的物联网设备，以缓解非独立同分布数据问题。具体而言，该机制会筛选掉与无人机通信时间较长的设备，然后通过效用函数评估剩余设备对全局模型的贡献程度。通过选择每组中效用值最高的设备进行调度，PUFL有望提升全局模型的收敛速度和测试精度。

仿真结果表明，与现有基准方法相比，所提出的PUFL机制在全局模型精度和收敛速度方面都具有更优表现。本文的其余结构如下：第2节回顾相关研究，第3节介绍所提出的PUFL机制，第4节展示仿真结果，第5节对研究进行总结。

章节片段

相关工作

无人机联邦学习被用于在通信基础设施有限的偏远地区实现高效的联邦学习[12]、[13]、[14]、[15]、[21]。Seid等人[12]在偏远的医疗物联网环境中部署了多无人机联邦学习框架，通过联邦多智能体强化学习方法优化无人机的资源分配。Wang等人[13]提出了分层式的无人机群辅助联邦学习框架，无人机在物联网设备与基站之间充当中继节点，以实现

网络模型与整体流程

如图1所示，所研究的无人机联邦学习系统包含一架无人机以及位于偏远地区的∈K个物联网设备，这些地区的通信基础设施较为有限[10]。每个设备k都拥有一个本地数据集${\mathcal{D}}_k={\left\{(x_{k,i},y_{k,i})\right\}}_{i=1}^{D_k}$，其中< />表示第i个输入样本数据，< />是该样本xsub>< />的标签，Dk则是数据集的大小。本研究假设设备通过由M个子通道组成的OFDM上行链路与无人机通信，这意味着

性能评估

所有仿真均在Ubuntu 24.04.2 LTS系统中，借助NVIDIA GeForce RTX 5090 GPU以及PyTorch框架用Python实现。所提出的PUFL机制在三个标准的图像分类数据集上进行了测试，分别是MNIST、Fashion-MNIST和CIFAR-10。MNIST和Fashion-MNIST各有10个类别，图像为28×28像素的灰度图，而CIFAR-10包含10个类别，图像为32×32像素的RGB彩色图[7]、[11]、[17]。对于MNIST和Fashion-MNIST，我们采用了卷积

结论

本文提出了PUFL机制，旨在解决由设备差异性带来的问题，包括非独立同分布数据问题，以及快速设备在训练过程中不得不等待慢速设备的情况。PUFL机制通过流水线式的设备训练方式，让快速设备能够上传其更新结果，同时慢速设备继续进行本地训练，这样就能在不延长整体训练时间的情况下，增加每轮训练中参与的设备数量。此外，

CRediT作者贡献说明

赵善荣：撰写——初稿、可视化、验证、软件、方法论、正式分析。 李昌民：撰写——初稿、概念设计。 赵安娜：撰写——审阅与编辑、可视化。 李淑英：撰写——审阅与编辑。

利益冲突声明

作者声明不存在任何可能影响本文研究成果的已知财务利益或个人关系。