低空智能交通系统中的可靠个性化联邦自适应技术

《Computers and Electrical Engineering》：Reliable Personalized Federated Adaptation for low-altitude intelligent transportation systems

　　摘要：低空智能交通系统越来越需要个性化联邦学习来在异构的空中和边缘节点之间调整感知模型，同时避免集中处理敏感的本地数据。现有的个性化联邦学习方法主要解决客户端之间的统计差异问题，但往往将联邦过程视为稳定的全局指导来源。而在低空智能交通系统中，由于节点的间歇性参与、数据上传延迟以及客户端重新加入，这种假设可能会使得适配统计信息变得过时、不稳定或中断。本文提出了可靠个性化联邦适配框架RPFA，这是一种在不可靠的低空智能交通系统联邦环境中基于统计的轻量级可靠性感知框架。RPFA基于pFedFDA风格的特征分布适配流程构建，保留了特征提取器、分类器构建方式、类别级统计信息以及本地-全局适配结构不变。它在适配过程中引入了三种可靠性控制机制：基于新鲜度的聚合机制会在构建全局参考时降低过时统计信息的权重；可靠性引导的本地适配机制会在客户端插值时削弱不可靠的全局指导；重新连接平滑机制则能减轻错过训练轮次后重新加入的客户端所导致的原型突变。在标准个性化联邦学习基准测试上的实验表明，RPFA在保持稳定收敛行为的同时，还能持续提升模型精度。此外，针对通信延迟情况的分析还量化了各种可靠性与新鲜度控制机制的效果，评估了延迟参与后的恢复情况以及重新加入客户端的原型变化情况。这些结果表明，在动态的低空智能交通系统环境中，基于可靠性的控制机制是统计驱动的个性化联邦学习的有效补充。

引言：低空智能交通系统作为一种重要的基础设施，被广泛应用于空中巡查、交通监测、应急响应、物流监控以及低空区域与地面设施间的协同感知等领域[1]。在这样的系统中，学习模型必须不断适应变化的视角、天气条件、感知平台以及区域交通模式。联邦学习为这类应用提供了理想的训练范式，因为它能够让分布式节点在不集中处理敏感的本地数据（如空中图像、轨迹、位置信息以及设备端观测数据）的情况下更新模型[2]。近期的物联网、边缘计算以及无人机互联网相关研究进一步表明，在隐私限制、通信约束以及资源受限的空中或边缘环境中，联邦学习的应用越来越广泛[3]、[4]、[5]。尽管前景广阔，但面向低空智能交通系统的联邦学习面临的可靠性挑战要比传统基准测试环境更为严峻。由于节点的移动性、无线链路变化、能量限制或临时任务不可用等原因，空中和边缘节点可能会随时加入或离开训练过程。最近的无人机互联网与边缘联邦学习研究指出，通信成本、计算资源限制以及能量约束会直接影响无人机和边缘环境中的联邦学习过程[4]、[5]。更广泛地说，关于客户端选择和资源感知的联邦学习研究也表明，设备的可用性、通信差异性以及随时间变化的资源状况都会对联邦学习行为产生显著影响[6]。这些因素都会导致联邦学习过程本身变得不稳定：客户端统计信息可能延迟到达，可用节点集合可能在不同训练轮次间发生变化，而重新加入的客户端在本地适配状态已经过时后仍可能继续训练。这种可靠性问题对于个性化联邦学习尤为重要。个性化联邦学习旨在解决客户端之间的统计差异问题，因为单一的全局模型可能无法适配所有本地数据的分布特征。现有方法通过本地微调、全局-本地插值、正则化的本地目标函数或个性化优化等方式实现模型个性化，例如APFL、Ditto和pFedMe等方法[7]、[8]、[9]。最近的个性化联邦学习研究还表明，在客户端分布不均的情况下，分类器协作与本地适配仍然是重要的研究方向[10]。这些方法主要关注客户端间的数据差异问题，而对联邦交互过程的可靠性则考虑得较少。最新的个性化联邦学习方法还利用类别级原型、分类器协作或特征分布统计信息，来改善在非独立同分布数据条件下的模型适配效果。FedPAC通过特征对齐与分类器协作来优化个性化分类器的构建[11]，而pFedFDA则通过高斯统计插值来调整全局与本地特征分布[12]。最近的个性化联邦学习研究还将原型、语义对齐以及基于相似度的协作理念应用于时空预测与分类器协同工作之中[10]。这类基于统计的适配方法在全局参考信息及时且稳定的情况下效果良好。然而，在面向低空智能交通系统的联邦学习环境中，这一条件往往难以满足：数据上传延迟可能导致全局原型构建出现偏差，不稳定的节点参与状况可能使全局参考信息暂时失去可靠性，而客户端重新加入则可能在错过训练轮次后引发原型的突然变化。在这种情况下，模型个性化不仅会受到数据分布不匹配的影响，还会受到本地-全局适配过程可靠性的影响。为了解决这一问题，我们提出了可靠个性化联邦适配框架RPFA，这是一种用于低空智能交通系统个性化联邦学习的轻量级框架。RPFA将不可靠的联邦学习过程视为基于统计的个性化适配过程中的路径级可靠性问题。过时的数据上传会影响全局原型的构建，不稳定的参考信息会影响客户端对全局指导信息的利用，而客户端重新加入则会影响本地原型随时间的变化趋势。因此，RPFA通过让全局参考构建、客户端对参考信息的利用以及原型随时间的转换都具备可靠性意识，从而提升个性化适配的效果。RPFA是在基于pFedFDA风格的基于统计的个性化联邦学习流程之上实现的。它保留了特征提取器、分类器构建方式、类别级均值/协方差统计信息以及基础的本地-全局适配结构，新增的组件仅包括三种可靠性控制机制：基于新鲜度的聚合机制会在构建全局类别级原型时降低过时统计信息的权重；可靠性引导的本地适配机制会根据当前全局参考信息与客户端历史误差模式的匹配程度，调节本地-全局插值的强度；重新连接平滑机制则能减轻错过训练轮次后重新加入的客户端所导致的本地原型突然变化。这些组件仅在联邦学习过程出现不可靠情况时发挥作用。实验验证了RPFA的有效性与性能表现。在标准个性化联邦学习基准测试中，RPFA在保持稳定收敛行为的同时，还能持续提升模型精度。在通信延迟的条件下，进一步的分析量化了各种可靠性与新鲜度控制机制的效果，评估了延迟参与后的恢复情况，并研究了在明确重新加入条件下的重新连接平滑机制的作用。这些结果表明，在动态变化的低空智能交通系统环境中，基于可靠性的控制机制是统计驱动的个性化联邦学习的有效补充。本文的主要贡献如下：•我们明确了在低空智能交通系统中，不可靠的联邦学习过程实际上是基于统计的个性化适配过程中的可靠性故障，过时的统计信息、不可靠的全局参考信息以及客户端重新加入都会影响本地-全球适配过程的不同阶段。•我们提出了RPFA，这是一种轻量级的可靠性感知型个性化联邦学习框架，它保留了pFedFDA风格的适配流程，同时引入了基于新鲜度的聚合机制、可靠性引导的本地适配机制以及重新连接平滑机制。•我们在标准个性化联邦学习基准测试以及通信延迟的实验环境中进行了测试，结果表明该框架能够实现稳定的精度提升，同时可以量化可靠性控制机制的效果，并有效控制客户端重新加入时的原型变化。

章节节选：低空与边缘交通系统中的联邦学习：低空智能交通系统为分布式感知、空中监控、路线检查、应急响应以及协同交通智能应用提供了良好的应用场景[1]。在这些应用中，联邦学习具有很大优势，因为原始的感知数据、轨迹信息以及与位置相关的观测数据往往涉及隐私问题，且难以集中处理[2]。系统层面的联邦学习研究还表明，大规模应用时还需要考虑设备的可用性、通信问题等。

个性化联邦适配设置：我们考虑一个面向低空智能交通系统的个性化联邦学习系统，该系统包含N={1,2,…,N}个客户端。每个客户端k拥有私有的本地数据集Dk，参与联邦学习过程而不需要共享原始数据。在通信轮次t中，有一组客户端S(t)?N可以参与训练和统计信息交换。由于低空智能交通系统中节点的移动性、通信间歇性以及设备可用性等因素，参与训练的客户端集合可能会在不同轮次间发生变化。每个参与的客户端都会提取类别级的特征信息。

方法：我们提出了面向低空智能交通系统的个性化联邦学习框架——可靠个性化联邦适配框架RPFA。图1展示了RPFA的详细工作流程。RPFA旨在实现基于统计的本地-全球适配，通过类别级的全局参考信息来个性化客户端侧的分类器。其核心思想是将不可靠的联邦学习过程视为适配过程中的可靠性故障，因此在三个阶段引入了轻量级的修正机制：基于新鲜度的处理机制……

实验设置：联邦学习协议。为了便于评估，我们在基于统计的个性化联邦学习流程上实现了RPFA，并遵循pFedFDA的基准测试协议[12]。所有方法都在相同的数据划分、通信 schedule以及本地训练资源限制条件下进行评估。RPFA保留了与参考流程相同的特征提取器、分类器构建方式、类别级均值/协方差统计信息以及基础的本地-全球适配结构，新增的组件仅有……

结论：本研究探讨了面向低空智能交通系统的可靠个性化联邦适配问题。研究结果表明，节点的间歇性参与、数据上传延迟以及客户端重新加入不仅会影响优化效率，还会影响用于本地-全球个性化适配的统计信息的可靠性。我们提出了RPFA，这是一种基于pFedFDA风格的基于统计的个性化联邦学习流程的轻量级可靠性感知扩展方案。RPFA保留了原有的特征提取机制……

利益冲突声明：作者声明不存在任何可能影响本文研究结果的已知财务利益冲突或个人关系。

何金东|李国宇|朱国松|秦振|萨鲁·库马里|阿卜杜拉·巴伊汉
中国电子科技大学四川省网络与数据安全重点实验室，成都，611731，中国