摘要
联合学习（FL）作为一种重要的分布式机器学习范式，使得许多用户能够在不共享原始数据的情况下共同训练模型。然而，FL的去中心化设计使其容易受到拜占庭式攻击和协同模型污染攻击的影响，在这些攻击中，恶意的一方会策略性地插入一些梯度，从而降低模型的整体完整性。即便是现有的对抗拜占庭式攻击的聚合方法（如几何中位数、Krum方法和修剪均值法），也无法抵御利用异常值检测统计漏洞的复杂协同攻击。在本文中，我们提出了FedSentinel这一新型的、具有抗拜占庭式攻击能力的联合学习框架，它结合了加密梯度验证和自适应信任加权聚合机制来防范协同模型污染攻击，这属于最严重的威胁之一。FedSentinel框架在三个关键方面进行了创新： - **加密梯度验证协议（CGAP）**：利用承诺机制和零知识范围证明来确保梯度的完整性，并验证提交的更新是否满足预定义的规范和方向限制； - **动态信任加权聚合（DT-RoA）**：根据历史梯度一致性和交叉验证信号来计算和更新每个客户的信任得分； - **协同攻击检测引擎（CADE）**：通过分析梯度协方差矩阵来检测和隔离协同的恶意客户端。 在CIFAR-10、CIFAR-100、FEMNIST和Sentiment140数据集上，通过对多达100个客户进行的实验（在30%的拜占庭式恶意环境下），结果显示FedSentinel的平均全局准确率为91.36%，而现有的最先进防御机制（如FLTrust、FLAME、RoFL、ShieldFL和DnC）的准确率仅为83.83–86.94%。FedSentinel在准确率上比这些机制高出4.42–7.53%，同时在协同拜占庭式后门攻击下将攻击成功率降低了53.2%。该框架为对抗环境中的联合学习提供了一种可验证且值得信赖的解决方案。
