CAR-PPFL:面向资源受限客户端的抗客户端-服务器共谋攻击的无客户端密钥隐私保护联邦学习

《Future Generation Computer Systems》:CAR-PPFL: Client-key-free privacy-preserving federated learning against client–server collusion for resource-limited clients

【字体: 大 中 小 】 时间:2026年09月20日 来源:Future Generation Computer Systems 6.2

编辑推荐:

   # 摘要 联邦学习(FL)使多个参与者能够通过仅交换梯度或参数来协同训练模型,而无需共享原始数据。然而,这些交换的信息仍可能泄露私有信息,且在跨行业(cross-silo)场景中保护全局模型知识产权是一个关键挑战。现有的隐私保护联邦学习框架对于资源有限的客户端往往不切实际,

  

# 摘要

联邦学习(FL)使多个参与者能够通过仅交换梯度或参数来协同训练模型,而无需共享原始数据。然而,这些交换的信息仍可能泄露私有信息,且在跨行业(cross-silo)场景中保护全局模型知识产权是一个关键挑战。现有的隐私保护联邦学习框架对于资源有限的客户端往往不切实际,并且在共享密钥时仍然容易受到客户端与服务器的合谋攻击。为解决这些局限性,本文提出了CAR-PPFL,一种基于显式非合谋假设(聚合服务器AS与加密服务器CS之间)的双服务器架构的无客户端密钥隐私保护框架,适用于资源有限的客户端。我们提出了一种先掩码后加密(MtC)协议,将加密操作与客户端侧训练解耦。通过采用无客户端密钥设计,客户端仅执行轻量级掩码和紧凑的SIMD打包以节省资源。我们进一步设计了无填充的紧凑SIMD编码方法,并分析了良性算术溢出对模型精度和安全性的有界影响。在所述的半诚实威胁模型下,且AS与CS保持非合谋的前提下,CAR-PPFL保护单个客户端更新免受任一服务器单独的攻击以及一个服务器与半诚实客户端合谋的攻击;当聚合结果被发布时,此合谋抗性的保证还需要该轮中至少有两个非合谋客户端。此外,在上述非合谋假设下,全局模型对任一单独行动的服务器保持隐藏。在CIFAR-10和Fashion-MNIST上的广泛实验(非IID设置)表明,CAR-PPFL在不同客户端数量下实现了与明文基线相当的精度。与使用相同框架但采用BatchCrypt编码策略的对照组Ours(with BatchCrypt Encoding)相比,我们的紧凑SIMD编码将通信流量和计算延迟降低了约11%;额外的位宽/客户端数量实验表明,来自更大客户端群体的溢出效应可以通过仅增加少量量化比特来缓解。

# 引言

联邦学习(FL)作为一种协作机器学习范式应运而生,它使多个客户端(如IoT设备、金融机构)能够在不共享原始私有数据的情况下训练全局模型[1]。通过仅交换模型参数或梯度,FL解决了日益增长的数据孤岛问题,并符合GDPR等严格的隐私法规[2]。然而,近期研究表明,共享原始梯度并不足以保证隐私[3]、[4]、[5]、[6]、[7]。对手可以通过推断攻击(如Deep Leakage from Gradients[3]或Inverting Gradients[4])从梯度中重建原始训练数据。

此外,FL中的安全问题不仅限于单个客户端数据的泄露。在跨行业场景中,训练好的全局模型封装了重要的商业价值和专有领域知识,代表了所有参与者的集体努力。因此,将明文全局模型访问权授予第三方聚合服务器(通常托管在公共云基础设施上)会带来知识产权(IP)泄露的重大风险。不可信或诚实但好奇的服务器可能会未经授权利用或传播这一高价值资产[8]、[9]、[10]。因此,一个健壮的FL框架应该在模型生命周期的整个过程中保持模型机密性,并防止聚合服务器访问底层模型IP。

为了缓解这些风险,同态加密(HE)和安全聚合(SecAgg)等加密技术已被集成到FL中[11]、[12]、[13]、[14]。这些方法使服务器能够在不查看单个用户贡献的情况下聚合受保护的更新。虽然这些方法在其各自的威胁模型下增强了更新机密性,但它们引入了两个阻碍实际FL部署的关键挑战,尤其是对于资源有限的客户端和对IP敏感的组织。

第一个挑战涉及密钥管理和易受合谋攻击的问题。在多客户端持有相同解密密钥的单一密钥HE部署中,聚合服务器(AS)与持有密钥的客户端之间的合谋可以击败加密聚合所期望的机密性。多密钥和门限构造分配了解密能力,并明确解决了这种失效模式[15]、[16]。在跨行业场景中,训练好的全局模型代表关键IP,将明文模型暴露给第三方服务器(如云服务商)会带来不可接受的IP泄露风险。门限HE、多密钥HE和MPC可以缓解密钥集中和服务器-客户端合谋,但它们需要额外的密钥份额、解密贡献或协议交互[15]、[16]、[17]、[18]、[19]、[20]。

第二个挑战涉及边缘客户端的计算资源有限。Paillier等HE方案依赖于模幂运算,计算量巨大[21]。对于资源有限的IoT设备或手机,在高维模型参数上执行完整的HE会导致不可接受的延迟和电池耗尽。虽然近期的优化工作(如BatchCrypt[22])利用SIMD(单指令多数据)编码来增强通信效率,但加密负担仍然在客户端侧。此外,为防止同态加法期间的溢出,这些方法需要预留冗余填充比特,这限制了有效带宽利用率并降低了通信效率。

为解决这些局限性,我们提出了CAR-PPFL,一个基于双服务器架构的轻量级隐私保护FL框架。CAR-PPFL的名称强调了其无客户端密钥设计、对半诚实客户端-服务器合谋的保护以及对资源有限客户端的适用性。我们的核心洞察是将隐私保护任务分解为两个独立的实体:聚合服务器(AS)和加密服务器(CS)。我们引入了先掩码后加密(MtC)协议,客户端作为无加密节点,仅执行轻量级线性掩码来隐藏其输入,而计算密集的HE操作被卸载到专用的CS上。同时,该设计避免了将同态私钥分发给客户端,从而缓解了共享密钥失效模式,即服务器可与持有密钥的客户端合谋以损害其他参与者的安全。CAR-PPFL不保护AS-CS之间的合谋:所有机密性和客户端-服务器合谋保证都需要AS和CS保持非合谋,而针对从已发布聚合结果推断的保护还需要该轮中至少有两个非合谋客户端。我们在威胁模型和安全分析中形式化了这些前提及其局限性。此外,我们通过设计一种紧凑的SIMD编码方法来优化底层加密原语,该方法消除了冗余填充比特。基于CIFAR-10和Fashion-MNIST(FMNIST)上各种模型的广泛实验,以及与代表性PPFL方案的解析比较,表明CAR-PPFL实现了与明文基线相当的精度,同时与使用BatchCrypt编码的相同框架相比减少了计算和通信开销。

我们的主要贡献总结如下:

- 我们提出了一种新颖的无客户端密钥双服务器架构,由其MtC协议支撑。与传统基于HE的FL框架(将所有客户端分配全局共享私钥,使系统容易受到任何客户端与服务器之间合谋攻击)不同,我们的设计消除了客户端持有HE密钥的需要。该架构解决了一个主要的密钥管理挑战,在AS与CS保持非合谋且每个发布的聚合结果包含至少两个非合谋客户端贡献的前提下,保护数据隐私免受任一服务器单独的攻击以及一个服务器与半诚实客户端合谋的攻击。
- 我们提出了一种基于轻量级掩码的计算卸载策略。通过策略性地将掩码和加密阶段解耦,我们将计算密集的HE操作卸载到CS。因此,客户端仅执行线性复杂度??(d)的加法掩码以节省资源。为进一步减少通信开销,我们提出了一种紧凑的SIMD编码方法,消除了BatchCrypt[22]所需的冗余填充比特。实验结果表明,这些设计将系统总流量减少了约11%(与使用相同框架但采用BatchCrypt编码策略的对照组Ours(with BatchCrypt Encoding)相比)。
- 我们设计了一种双盲聚合机制来保护模型IP。通过掩码-加密-重新掩码-解密的流程,在保持非合谋的前提下,AS和CS都无法单独访问全局模型的明文。我们进一步通过分析AS-CS合谋、客户端-服务器合谋以及处于半诚实模型之外的主动选择性聚合攻击,阐明了该机制的安全边界。

# 相关工作

**联邦学习中的同态加密:** HE允许直接在密文上进行计算,使其成为FL中安全梯度聚合的天然选择。早期的工作,如Aono等人提出的方案[11],利用Paillier密码系统[21]来加密单个梯度。然而,传统HE方案由于密集的模幂运算而带来难以承受的计算成本,并且由于传输大量密文而遭受高通信开销。

**联邦学习:** FL是一种分布式机器学习范式,使多个客户端能够在不交换其原始本地数据的情况下协同训练共享的全局模型[1]。形式上,设有K个客户端,其中第k个客户端持有本地数据集???,包含n?个样本。样本总数为N=∑???? n?。FL的目标是求解以下全局优化问题:

$$\min_w F(w) = \sum_{k=1}^{K} \frac{n_k}{N} F_k(w)$$

其中F?(w) = ?(w; ???)表示客户端k上的本地损失函数,F(w)为全局损失函数。

# 概述

为了克服现有基于HE的FL中的计算瓶颈和合谋风险,我们提出了一个双服务器隐私保护FL框架。如图1所示,我们的架构将聚合逻辑与加密操作分离到三个实体中:客户端、AS和CS。

我们框架的核心设计将MtC协议与无客户端密钥机制相结合。与传统的客户端使用共享密钥执行Paillier加密的设置不同,CAR-PPFL将这些操作卸载到……

# 安全分析

在本节中,我们在第3.3节的威胁模型下为所提出的双服务器框架提供安全分析。以下每项保证都假设AS和CS保持非合谋;关于已发布聚合结果的保证还假设该轮中至少包含两个非合谋客户端。我们在"现实与理想"模拟范式下分析协议。在这些假设下的正常协议执行过程中,任一单独行动的服务器都无法学习客户端的……

# 实验设置

我们在配备Intel Xeon Gold 5218R CPU和NVIDIA GeForce RTX 4090 GPU的工作站上使用PyTorch实现了双服务器框架和基线。为了模拟服务器与客户端之间计算能力的异质性,每个客户端被限制为单线程,而CS和AS在加密和聚合过程中使用joblib库的38个线程。

为评估我们方法的有效性和效率,我们在两个标准图像数据集上进行了实验……

# 结论

CAR-PPFL将无客户端密钥的双服务器架构与紧凑SIMD编码相结合,将HE从资源有限的客户端卸载以减少通信,同时保持模型效用。当量化比特宽度选择合适时,分析界定了良性溢出的影响。在AS-CS非合谋假设下且每个发布的聚合结果中至少包含两个非合谋客户端的前提下,其双盲工作流保护了客户端更新和模型IP;CS端的匿名整轮聚合……

# CRediT作者贡献声明

**Haojie Nie:** 撰写-初稿,软件,方法论,调查,概念化。**Degang Sun:** 撰写-审阅与编辑,指导,项目管理,方法论,概念化。**Xingbo Pan:** 撰写-审阅与编辑,指导,软件,方法论,概念化。**Jing Li:** 撰写-审阅与编辑,指导,资源,调查,概念化。**Wei Wan:** 撰写-审阅与编辑,指导,项目管理,方法论,调查。**Fan Yang:** 撰写-审阅与编辑,指导。**Yuhao Fu:** 撰写-审阅与编辑。**Chun Long:** 撰写-审阅与编辑,监督。

# 利益冲突声明

作者声明他们没有任何已知的竞争性财务利益或个人关系可能影响本文报告的工作。

# 致谢

本工作得到了中国国家重点研发计划(2023YFC3304704)的支持。

**Haojie Nie**于2024年从中国河南大学计算机与信息工程学院获得学士学位。他目前在中国科学院计算机网络信息中心攻读硕士学位。他的研究聚焦于数据安全、隐私计算和联邦学习。

---

**作者信息:** Haojie Nie, Degang Sun, Xingbo Pan, Jing Li, Wei Wan, Fan Yang, Yuhao Fu, Chun Long

**所属机构:** 中国科学院计算机网络信息中心,北京,100083,中国
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号