
-
生物通官微
陪你抓住生命科技
跳动的脉搏
基于历史信息追踪的个性化联邦学习新方法FedLFH:解决非独立同分布数据下的性能退化难题
【字体: 大 中 小 】 时间:2025年09月07日 来源:Neural Networks 6.3
编辑推荐:
本文提出创新性个性化联邦学习(pFL)方法FedLFH,通过引入历史信息追踪变量(LFH组件)和全局特征对齐机制(GIF组件),有效解决传统联邦学习(FL)在非独立同分布(Non-IID)数据场景下的性能退化问题。实验证明该方法在多个基准数据集上优于12种前沿算法,为分布式机器学习中的个性化建模提供了新思路。
亮点
• 聚焦个性化联邦学习(pFL),揭示历史信息对模型个性化的关键价值
• 提出FedLFH创新框架,通过历史信息追踪消除本地性能退化现象
• 在异构数据场景下全面验证,性能显著超越12种前沿方法
个性化联邦学习研究进展
FedAvg(McMahan等,2017)开创了联邦学习(FL)的分布式训练范式,FedProx通过正则化提升稳定性,SCAFFOLD利用梯度校正缓解模型漂移。针对统计异质性问题,当前pFL方法主要分为四大类:正则化方法(如FedAMP)、元学习方法(如Per-FedAvg)、局部聚合方法(如FedFomo)以及个性化头部设置方法(如FedRep)。
方法设计
FedLFH框架包含两大核心组件:
历史学习机制(LFH):采用动态调整矩阵调控追踪变量θihis,保留客户端的独特学习轨迹,避免全局模型初始化造成的知识覆盖
全局信息融合(GIF):通过对齐全局特征提取器?(θfeg)与个性化提取器?(θfei),实现知识双向迁移
实验验证
在CIFAR-10等基准数据集上,FedLFH相比基线方法提升准确率3-8%。消融实验显示:
• LFH组件使收敛速度提升40%
• GIF组件减少跨客户端性能波动达35%
结论
FedLFH通过创新性地整合历史追踪与全局知识迁移,为联邦学习中的个性化建模提供了新范式,其模块化设计可灵活适配不同医疗健康场景下的分布式数据训练需求。
(注:严格保留原文技术符号如θife、?(·)等,去除文献引用标记[1][2]及Figure 1等标识)
生物通微信公众号
知名企业招聘