协作式机器学习中的安全与隐私保护机制:一项基于新颖分类体系的系统综述
《Journal of Information Security and Applications》:Security and privacy-preserving mechanisms in collaborative machine learning: A systematic review with novel taxonomy
【字体:
大
中
小
】
时间:2026年08月30日
来源:Journal of Information Security and Applications 4.4
编辑推荐:
摘要
协同机器学习(CML)架构,例如联邦学习(FL)、分割学习(SL)和知识蒸馏(KD),虽然缓解了直接的数据泄露问题,但仍然极易受到精密的对抗性攻击和隐私泄露的威胁。现有文献往往按架构类型分散地讨论这些漏洞,缺乏一个用于评估底层威胁向量的通用框架。本文提出了一种新颖的、
摘要
协同机器学习(CML)架构,例如联邦学习(FL)、分割学习(SL)和知识蒸馏(KD),虽然缓解了直接的数据泄露问题,但仍然极易受到精密的对抗性攻击和隐私泄露的威胁。现有文献往往按架构类型分散地讨论这些漏洞,缺乏一个用于评估底层威胁向量的通用框架。本文提出了一种新颖的、基于驱动机制的分类法,依据CML方法共享的通信媒介对其进行统一分类,分为权重/梯度共享、模型/破碎数据共享和知识共享三类,从而系统评估最先进的安全与隐私保护机制。本研究按照PRISMA工作流程严格开展了一项系统性文献综述(SLR)。通过对主要学术数据库进行高度透明的搜索和多阶段筛选,基于严格的数学和方法论质量评估,最终选取了160项主要研究。实证综合分析量化了隐私保证与模型效用之间的关键权衡(例如,精度下降与差分隐私预算之间的关系),并评估了包括同态加密和安全聚合在内的密码学协议的计算开销。所提出的分类法成功地将特定的对抗性威胁直接映射到拓扑节点上,揭示了当前切断层和梯度共享缓解措施在特定网络约束下的关键漏洞。通过弥合理论密码学框架与实践实施现实之间的差距,本综述为在资源受限的边缘网络中部署安全、合规的CML防御策略提供了一条战略路线图。
引言
在过去十年中,深度学习(DL)因其跨广泛应用领域的卓越表现而引起了研究界和业界从业者的广泛关注,包括自然语言处理(NLP)[1]、数据挖掘[2]和生成式人工智能[3]。这一成功得益于从大规模数据集中提取知识以及大量计算资源的可用性[4]。然而,集中式数据聚合如今面临着日益严格的隐私法规所带来的关键挑战,例如《通用数据保护条例》(GDPR)、《健康保险可移植性和责任法案》(HIPAA)和《加州消费者隐私法案》(CCPA)[5]。这些立法障碍严重阻碍了从分布式数据源中提取知识,进而制约了高性能深度学习模型的发展。
为应对这些限制,协同机器学习(CML)作为一种范式应运而生,它使多方能够在保持数据本地性的同时联合训练模型,从而缓解原始数据的直接暴露。然而,必须强调的是,仅保持数据本地性并不构成隐私保证:正如本综述系统所证明的,在协作过程中交换的工件仍然是信息丰富的信道,攻击者可以通过这些信道重建或推断私人数据。CML家族中最显著的技术包括联邦学习(FL)[6](涵盖水平和垂直数据划分策略[7])、分割学习(SL)[8]、知识蒸馏(KD)[9]和基于集成(EB)的方法[10]。
每种技术都引入了一种独特的去中心化学习架构,因此也带来了不同的安全挑战和缓解策略[11]。此外,它们本质上容易受到对抗性行动的威胁,例如提交旨在破坏训练收敛的投毒更新。除了直接攻击之外,这些框架还必须应对相互交织的挑战,包括需要在加强隐私保护的同时处理设备能力的异构性和网络条件的多样性[12]。
尽管CML技术通过保留本地原始数据共享了"隐私设计"的基础原则,但这一设计原则不应与实际隐私保证混为一谈。本地数据保留仅消除了原始记录的直接披露,并不能防止间接泄露,因为协作训练过程中交换的每个工件都是底层私人数据的确定性函数,因此不可避免地编码——并可能泄露——与之相关的信息。因此,CML系统并非免疫于安全威胁和隐私泄露。这些框架的分布式特性呈现了一个复杂且扩展的攻击面。近期研究表明,交换的中间信息——无论是FL中的梯度、SL中的切断层激活(破碎数据)还是KD中的软标签(logits)——都可以通过各种精密的攻击手段被攻击者利用。
这些漏洞使协作网络暴露于严重威胁之下,包括通过推断攻击重建私人训练数据,以及通过投毒攻击注入恶意后门来破坏全局模型的完整性。关键在于,不同架构的安全和隐私影响存在显著差异;例如,与FL相比,SL可能在抵御某些模型反转攻击方面提供更强的内在保护,但同时引入了与特征空间泄露相关的新漏洞。
尽管研究取得了实质性进展,但当前文献往往未能将这些架构范式与其底层的安全和隐私保护挑战进行系统关联。现有的综述和分类法主要关注FL的贡献,按数据划分策略对技术进行分类——区分水平联邦学习(相同特征、不同样本)和垂直联邦学习(不同特征、相同样本)[13]——或按系统架构(集中式与去中心化)[14]、[15]分类。
虽然这些分类提供了有用的组织框架,但它们忽视了一个关键维度:协作机制与其相关威胁向量之间的根本关系。例如,垂直联邦学习的实现可以使用梯度聚合或架构分割,然而这两种方法展现出根本不同的安全漏洞和隐私泄露模式,这是数据划分分类法无法捕捉的。同样,基于应用领域的分类法缺乏通用性,因为对抗性威胁往往跨越特定的部署环境。
这一差距阻碍了统一防御策略的发展。缺乏一个将信息交换模式与安全特征直接关联的分类法,安全CML系统的实际部署仍受阻碍,使研究人员和从业者无法获得系统指导来根据底层协作机制选择合适的密码学或算法防御。
为弥补这些差距,本系统性文献综述(SLR)摒弃了传统的、按架构孤立的分类方式。相反,我们提出了一种机制驱动的方法,基于FL、SL和KD的基础信息交换模式将它们统一在单一框架下。遵循Kitchenham和Charters的指导方针,本文提出以下主要贡献:
- 威胁与防御综合分析:综合梳理专为CML环境定制的最先进安全和隐私威胁及其对应的防御机制。
- 新颖的机制驱动分类法:提出一种统一分类法,基于共享通信媒介对CML安全和隐私风险进行分类,具体包括:权重/梯度共享(WS)、模型/破碎数据共享(MS)和知识共享(KS)。这三个类别并非临时标签,而是对应于协作系统可能暴露其私人数据工件的三个信息空间:参数空间(梯度和权重,它们是训练数据的数学可逆函数)、表示空间(计算过程中产生的中间激活)和输出空间(logits和原型等事后抽象)。这种信息论基础在本文引入并在分类法构建过程中形式化(第5节和第8节),正是它使分类法能够预测攻击面而非仅仅描述架构。
- 实证权衡评估:批判性地评估和量化CML防御的安全-效用-效率权衡,从而为安全关键应用选择合适范式提供可操作指导,包括在边缘设备资源约束下对防御可部署性的评估(第6.3.2节)以及医疗、金融、物联网/边缘和智能城市环境的领域特定部署指导(第7.4节)。
- 未来研究路线图:识别异构协作网络特有的开放挑战,并描绘未来探索的战略路线图。
本文其余部分组织如下。图1展示了本文的主题结构。第2节回顾了近期发表的关于FL、SL和KD安全的综述,指出现有文献中推动我们采用统一方法的碎片化问题。第3节详细阐述系统性综述方法论,包括基于PICOC的搜索策略、PRISMA选择过程、质量评估标准和数据提取方案。第4节提供了CML范式所需的背景知识,并批判性分析了现有分类法的局限性。第5节提出了基于机制的分类法,随后对三种共享知识媒介下的安全威胁(完整性和可用性)和隐私威胁(机密性)进行了全面分析。第6节调研了防御机制并评估了它们在WS、MS和KS架构中的适用性。第7节综合了研究发现,讨论了隐私-效用-效率三元悖论,将所提出的分类法转化为领域特定部署指导,并提出了战略性研究路线图。最后,第11节总结了论文的关键启示。
章节摘要
相关工作
近期文献显示,针对协同机器学习安全和隐私的综述日益增多。然而,大多数现有综述各自为政,主要关注单一架构——通常是联邦学习(FL)——而忽视了分割学习(SL)和知识蒸馏(KD)截然不同的威胁格局。
研究方法
为了对协同机器学习(CML)的安全和隐私保护格局进行无偏、全面且可复现的评估,本系统性文献综述(SLR)严格遵循Kitchenham和Charters[34]提出的系统性指导方针。此外,为确保主要研究的选取和综合具有绝对的透明度,综述方案遵循《系统综述和荟萃分析首选报告条目》(PRISMA)声明[35]。主要……
背景与关键概念
CML代表了一系列分布式机器学习范式,它们共享一个共同目标:在多个参与者之间训练模型而不暴露原始私人数据。为了给后续的安全和隐私分析提供必要的背景,本节简要概述了本综述所考虑的三个主要CML范式之间的架构差异,将代表性算法映射到其共享知识媒介,并批判性分析了现有分类法的局限性……
所提出的分类法
当前文献主要根据网络拓扑(例如集中式与去中心化)或数据划分(水平与垂直)对威胁进行分类。然而,正如第4.4节所讨论的,这些操作性分类无法捕捉系统的内在安全特征。例如,梯度反转攻击利用的是梯度向量本身的信息内容,无论该向量是发送到中央服务器还是对等节点。
为应对……
防御与对策
为了克服前文讨论的攻击,研究人员提出了多样化的防御机制。我们对160项主要研究的分析发现,其中152篇论文(95%)提出或评估了至少一种命名的防御技术,证实该领域已从威胁识别成熟到主动缓解阶段。我们将这些对策分为两大类:隐私保护技术(PPTs)和鲁棒性机制(RMs),分别用于防御……
讨论
对2019至2026年文献的系统综述揭示,隐私保护协同机器学习(PPCL)已从单一关注联邦学习(FL)演变为多样化的架构生态系统。与基础时代(2016–2020)——优先考虑基本连通性和收敛性——不同,当前最先进水平(2025–2026)是由应对复杂现实约束的需求驱动的:边缘设备资源限制、严重的数据异构性和高度……
研究问题综合
在本节中,我们综合系统性综述的实证和结构性发现,直接回答我们在方法论中确立的根本研究问题。
开放问题与未来方向(RQ5)
与前几节综合现有解决方案不同,本节识别了严格来源于160项主要研究实证分析的关键差距和局限性。我们并非对泛化的未来轨迹进行推测,而是暴露了所综述文献承认但系统性地未能缓解的具体、未解决的漏洞。每个轨迹都严格基于从我们的语料库中提取的定量数据(总结于表29)。
效度威胁(TTV)
本研究遵循了系统性文献综述研究的既定指导方针,包括详细的研究方案定义。然而,鉴于效度评估在实证研究中的重要性[249],本系统性文献综述遵循一套效度评估,包括:外部效度、内部效度、构念效度和结论效度。本节将详细审查这些效度以及每个效度中使用的缓解策略。
结论
本文通过分析160篇同行评审期刊论文(2019–2026),按照Kitchenham和Charters方法学,对协同机器学习(CML)的安全和隐私进行了系统性综述(SR)。本文的核心贡献是一种新颖的基于机制的分类法,根据共享知识媒介——梯度/权重(WS)、激活(MS)和logits(KS)——对威胁和防御进行分类,而非传统的拓扑或数据划分标准……
生成式AI和AI辅助声明
在本工作准备过程中,作者使用Google Gemini Pro-3.1(Plus)仅用于协助语言清晰度、流畅性和语法准确性。使用此工具后,作者根据需要审查和编辑了内容,并对已发表文章的内容承担全部责任。
CRediT作者贡献声明
Ammar Yaseen Tuama:写作–审阅与编辑,写作–初稿,形式分析,概念化。Taha Mohammed Hasan:写作–审阅与编辑,监督,软件,资源,项目管理,方法论,调查,资金获取,形式分析,数据整理,概念化。
Ahmad Chalak Shakir:写作–审阅与编辑、监督、项目管理、形式分析、概念构思。
利益冲突声明 作者声明,他们没有已知的竞争性财务利益或个人关系,这些可能影响本论文所报告的工作。
Ammar Yaseen Tuama 于 2016 年获得马来西亚博特拉大学(UPM)的网络安全硕士学位。他目前在伊拉克迪亚拉大学理学院计算机系攻读博士学位。他还隶属于基尔库克大学计算机科学与信息工程学院。他当前的研究兴趣集中在网络安全和深度学习上。此外,他还为无线方面的研究做出了贡献
Ammar Yaseen Tuama|Taha Mohammed Hasan|Ahmad Chalak Shakir 基尔库克大学计算机科学与信息工程学院,伊拉克基尔库克省基尔库克市,36001,伊拉克
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号