PnA：针对边缘智能联邦学习的抗 poisoning 攻击的鲁棒聚合机制

《ACM Transactions on Sensor Networks》：PnA: Robust Aggregation Against Poisoning Attacks to Federated Learning for Edge Intelligence

联邦学习在智能城市中应用时，恶意客户端通过投毒攻击可能导致全球模型失效或引入后门。现有鲁棒聚合算法仍可被新型隐蔽投毒攻击绕过。本文提出Parts and All（PnA）机制，通过分层过滤恶意本地模型更新，有效抵御投毒攻击。实验表明PnA在三个数据集上优于现有方法，且对投毒强度设置鲁棒。

　　

摘要

联邦学习（FL）在智能城市的边缘智能应用中具有巨大潜力，它允许智能设备通过交换本地模型更新来协作训练全局模型，而不是共享本地训练数据。然而，恶意客户端可能通过实施“投毒攻击”来破坏全局模型，导致全局模型无法收敛、测试集预测结果错误或系统被植入后门。尽管某些聚合算法可以提高FL对恶意攻击的鲁棒性，但我们的研究表明，现有的隐蔽式投毒攻击仍能绕过这些防御机制。在这项工作中，我们提出了一种名为“Parts and All”（简称PnA）的鲁棒聚合机制，通过在检测到投毒攻击时过滤掉恶意本地模型更新来保护FL的全局模型。我们在三个具有代表性的数据集上进行了全面实验。实验结果表明，与现有的鲁棒聚合算法相比，我们提出的PnA在应对先进的投毒攻击时更为有效。此外，PnA在面对不同类型的投毒攻击时也能保持稳定的性能。