F-SOSA:面向动态客户端的精确模型编辑稳定一次性联邦学习
《IEEE Transactions on Networking》:One-Shot Federated Model Editing for Device Dynamics at the Edge
【字体:
大
中
小
】
时间:2026年10月23日
来源:IEEE Transactions on Networking
编辑推荐:
标准联邦学习(FL)要求在多个通信轮次中设备保持持续连接,这使得它不适用于车辆网络等动态环境,在这些环境中设备经常加入和离开。一次性联邦学习通过在单个通信轮次内完成训练提供了一个有前途的替代方案。然而,一次性联邦学习存在模型固化问题,无法轻松适应后续客户端动态变化,包括新客户
标准联邦学习(FL)要求在多个通信轮次中设备保持持续连接,这使得它不适用于车辆网络等动态环境,在这些环境中设备经常加入和离开。一次性联邦学习通过在单个通信轮次内完成训练提供了一个有前途的替代方案。然而,一次性联邦学习存在模型固化问题,无法轻松适应后续客户端动态变化,包括新客户端的贡献和之前贡献的撤回。因此,我们考虑精确模型编辑,通过遗忘机制移除已撤回的贡献,或通过增量学习纳入新贡献,而无需从头重新训练。我们认识到高效编辑从根本上取决于学习稳定性。为此,我们提出了F-SOSA,这是首个能够实现快速且精确模型编辑的稳定一次性联邦学习算法。F-SOSA利用对局部模型进行采样,并精心调整采样速率以实现稳定聚合,同时执行曲率感知模型融合以保留效用。我们证明了F-SOSA能够实现渐近训练误差和合理的小泛化误差界。基于这种稳定性,我们进一步发展了两种单轮编辑算法:用于遗忘的F-SOSA-U和用于增量学习的F-SOSA-I。它们确保编辑后的模型及其所有中间算法状态在统计上与重新训练无法区分,同时仅产生期望O(ρ)比例的开销,其中ρ衡量稳定性。实验表明,在现实的城市移动模拟中,我们的方法在性能上与重新训练相匹配,同时将累计时间和通信开销分别减少至少36%和22%。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号