RobustPPFL：一种安全且鲁棒的隐私保护联邦学习框架，能够抵御投毒攻击

《IEEE Transactions on Network Science and Engineering》：RobustPPFL: A Secure and Robust Privacy-Preserving Federated Learning Framework Against Poisoning Attacks

本文提出RobustPPFL联邦学习框架，通过客户端加密模型性能验证、安全推理协议及分组验证机制增强抗毒害攻击能力，实验证明其有效保障隐私并抵御多数恶意客户端攻击。

　　

摘要：

联邦学习（FL）通过允许参与实体在保留本地数据所有权的同时协作训练共享模型，促进了去中心化的机器学习。为了解决分布式训练中固有的隐私问题，联邦学习框架中融入了保护隐私的机制，以提高数据的保密性并保护敏感信息。然而，这些隐私保护技术的实施引入了遭受投毒攻击的脆弱性，恶意行为者会操纵训练过程，从而降低模型的完整性或性能。当前的防御策略依赖于统计方法来减轻此类攻击，但它们缺乏足够的鲁棒性，在面对多种攻击类型或恶意客户端占多数时效果有限。为了克服这些局限性，我们提出了RobustPPFL，这是一个旨在抵御多种投毒攻击的隐私保护联邦学习框架，即使在恶意参与者占多数时也能保持高韧性。我们的方法整合了三项核心创新：首先，在训练过程中对客户端加密的模型进行性能验证，以便及时检测恶意客户端；其次，提出了一种安全的模型推理协议以实现隐私保护训练；最后，我们设计了一种基于分层聚合规则的分组验证机制，以优化效率并最小化恶意客户端检测过程中的干扰。我们通过在不同数据集和攻击场景下的广泛实验评估了RobustPPFL的性能，实验结果表明该框架能够有效保护隐私，并具有较高的抗投毒攻击能力。