FedREAS：一种用于联邦学习的强大且高效的聚合与选择框架

《ACM Transactions on Asian and Low-Resource Language Information Processing》：FedREAS: A Robust Efficient Aggregation and Selection Framework for Federated Learning

联邦学习模型部署中，针对客户端数据非独立同分布及对抗攻击问题，提出FedREAS方法。通过基准数据训练全局模型，调整客户端本地更新后，基于相似性加权聚合策略优化模型性能。实验表明该方法在模型准确率和抗攻击能力上优于传统联邦学习框架。

　　

摘要

在自然语言处理（NLP）领域，深度学习（DL）和神经网络（NN）技术已被广泛应用于机器翻译和情感分析，并展现了出色的性能。近年来，NLP 应用还结合了多模态数据（如视觉和音频数据），持续提升了语言处理能力。与此同时，神经网络模型的规模不断扩大，许多模型无法在计算资源有限的设备上运行。因此，将模型部署在云平台上已成为一种趋势。然而，尽管克服了计算限制，但在云中部署模型仍会给终端数据带来新的隐私风险。联邦学习（FL）方法通过将数据保留在客户端，并仅向中央服务器发送局部更新来保护数据安全。不过，FL 架构仍存在一些问题，例如易受对抗性攻击的影响以及数据分布的非独立同分布（non-IID）特性。在这项工作中，我们提出了一种名为 FedREAS 的联邦学习聚合方法。该方法中，服务器使用基准数据集训练全局模型并获取基准更新。在聚合局部更新之前，服务器会利用基准更新对局部更新进行调整，然后再返回调整后的更新结果。随后，根据调整后的局部更新与基准更新之间的相似性，服务器将这些局部更新进行合并，以获得更加稳健的更新结果。此外，FedREAS 还改进了客户端选择机制：在每轮训练开始时，该方法会根据特定策略、上一轮更新的相似性以及提交的数据来选择合适的客户端。我们在不同数据集上进行了实验，并将 FedREAS 与其他联邦学习方法进行了对比。实验结果表明，FedREAS 在模型性能和抗攻击能力方面均优于其他方法。