
-
生物通官微
陪你抓住生命科技
跳动的脉搏
隐私保护联邦学习中基于中间级模型共享的性能优化与通信效率提升研究
【字体: 大 中 小 】 时间:2025年06月06日 来源:Expert Systems with Applications 7.5
编辑推荐:
为解决联邦学习(FL)中隐私泄露、通信效率低及数据异构性挑战,研究人员提出了一种基于三层次架构的中间级模型共享框架,结合本地差分隐私(LDP)和同态加密(HE)技术,实验表明该方法在MNIST等数据集上显著提升模型效用并降低通信负担,为医疗等敏感领域提供了可扩展的隐私保护解决方案。
在数字化时代,医疗、金融等领域对数据隐私的需求与日俱增,而传统集中式机器学习面临数据孤岛与隐私法规的双重限制。联邦学习(Federated Learning, FL)虽允许多方协作训练模型而无需共享原始数据,但仍存在参数泄露风险、通信瓶颈及数据分布异构性等核心问题。尤其医疗场景中,医院间共享患者数据训练癌症诊断模型时,需同时满足HIPAA等法规要求与模型性能需求,现有技术如k-匿名或?-多样性会显著降低数据质量,而纯加密方法又带来高昂计算开销。
针对这一难题,国内研究人员Hashan Ratnayake、Lin Chen和Xiaofeng Ding在《Expert Systems with Applications》发表研究,提出创新性的中间级模型共享框架。该工作采用三层次架构(客户端-中间节点-中央服务器),通过两种隐私机制验证方案:一是客户端添加高斯噪声的本地差分隐私(LDP),二是中间层扰动结合同态加密(HE)的安全通信。实验使用MNIST、Fashion-MNIST和CIFAR-10数据集,引入混合加权机制(样本量加权+测试精度加权)以应对数据异构性。
关键技术方法包括:1) 三层次联邦学习架构实现分布式计算;2) 中间节点选择验证集最优模型进行跨层级共享;3) 本地差分隐私(LDP)的噪声注入与同态加密(HE)参数保护;4) 基于样本量(nk
)和损失函数Fk
(w)的混合聚合策略。
Intermediate-Level Model Sharing with Privacy Mechanisms
研究通过三阶段实验验证:在MNIST数据集上,中间级共享使准确率较基线提升12%,通信轮次减少30%;同态加密方案比客户端扰动方案准确率高8%,证明中间层处理对性能的优化作用。
Experimental Results
混合加权机制在非独立同分布(non-IID)数据下表现突出,CIFAR-10准确率提升9%,且隐私预算分配更高效。与单纯样本量加权相比,精度加权使全局模型收敛速度提高22%。
Discussion
该框架首次实现中间层模型性能筛选与跨层级传播,其优势在于:1) 通过减少全局通信轮次降低隐私泄露风险;2) 同态加密仅需在客户端-中间节点间实施,大幅降低计算负载;3) 混合加权机制缓解了数据异构性对联邦学习的影响,且精度加权间接增强隐私保护。
Conclusion
研究证实中间级模型共享可平衡隐私-效用-通信三重目标,尤其在医疗影像诊断等敏感场景具有应用潜力。未来可探索自适应隐私预算分配与更高效的加密方案集成,推动联邦学习在真实世界的大规模部署。
生物通微信公众号
知名企业招聘