保护联邦学习免受主动重构攻击

《ACM Transactions on Internet Technology》：Securing Federated Learning Against Active Reconstruction Attacks

联邦学习（FL）在保护隐私的同时提升训练效率，被广泛应用于医疗、金融等领域。然而，主动数据重建攻击通过梯度反转可获取用户隐私数据，成为重大挑战。本文提出OASIS防御方案，基于数据增强技术有效对抗此类攻击且保持模型性能，在ImageNet、CIFAR100及多文本数据集上验证其有效性。

　　

摘要

联邦学习（FL）因其在保护用户隐私的同时保持模型训练效率方面的能力而受到了广泛关注。凭借这一优势，FL已被应用于许多领域，如医疗保健、金融、法律和工业工程等，这些领域由于数据包含敏感信息且隐私法规严格，数据难以轻易交换。然而，现有研究表明，FL协议容易受到恶意服务器发起的“主动”数据重构攻击的破坏。通过梯度反转，恶意服务器能够直接获取用户的私人数据。这类攻击尚未得到充分研究，且由于威胁严重，仍是一个主要挑战。在本文中，我们提出了OASIS这一基于数据增强技术的防御机制，该机制能够在不降低模型性能的前提下有效抵御主动数据重构攻击。为了推广我们的防御方法，我们揭示了支持这些攻击的梯度反转原理，并从理论上证明了无论攻击方式如何，该防御机制都具有鲁棒性。基于此，我们利用数据增强技术构建了防御方案，并证明了其破坏攻击原理的能力。我们在五个真实世界数据集上对OASIS进行了评估——两个基于图像的数据集（ImageNet和CIFAR100）以及三个基于文本的数据集（Wikitext、Stack Overflow和Shakespeare），这些数据集涵盖了视觉任务和语言建模等多种应用场景。综合评估表明OASIS的有效性，证实了其作为解决方案的可行性。