基于多臂老虎机的通信高效联邦神经协同过滤

《ACM Transactions on Recommender Systems》：Communication-Efficient Federated Neural Collaborative Filtering with Multi-Armed Bandits

联邦学习推荐系统通信效率优化方法研究，提出基于多臂老虎机的智能数据选择策略，通过设计奖励函数动态筛选10%最小必要数据包，在保持推荐性能的同时将通信量降低至传统方法的1/10，有效解决大规模协同过滤联邦训练中的梯度传输瓶颈问题。

　　

摘要

联邦学习（FL）在保护隐私和构建负责任的推荐系统中受到了广泛关注。最近的研究表明，在将联邦学习应用于常用的推荐方法（如协同过滤）时取得了令人满意的结果。然而，将联邦学习投入实际应用中的一个主要障碍是：随着系统中项目数量的增加，模型复杂性或需要通过通信渠道传输的梯度量会呈线性增长。为了解决这一挑战，我们提出了一种通信效率较高的联邦推荐系统中的神经协同过滤方法。首先，为了使我们的解决方案与其他深度神经架构保持一致，我们在联邦环境中构建了标准的神经协同过滤模型。其次，为了解决模型复杂性的问题，我们采用了多臂老虎机框架，该框架能够智能地为每次联邦模型训练选择较少的数据量。项目选择基于精心设计的奖励函数，该函数决定了哪些数据部分对特定用户最为合适。只有被选中的项目才会通过网络传输。联邦学习用户利用这种高效的数据传输方式来训练他们的本地模型，无需额外的优化。实验结果表明，仅使用模型数据量的10%，我们的方法就能实现与标准联邦神经协同过滤相当的推荐性能。