FedRSFL：面向特征级用户数据共享的联邦推荐系统与双向偏好蒸馏

《Neural Networks》：FedRSFL: Federated Recommender Systems with Feature-Level User Data Sharing

　　

联邦推荐系统（Federated Recommender Systems, FedRec）近年来取得较大进展，能够在保持推荐性能的同时保护用户数据隐私。然而，现有大多数联邦推荐系统要求每位用户将所有数据严格保存在本地设备上，忽视了那些对隐私关注较少且愿意与服务器共享数据以获得更优推荐效果的用户。为此，近期少数研究探索了带用户数据共享的联邦推荐系统，允许用户与服务器共享数据。但这些方法主要关注交互级用户—项目数据，而该类数据通常稀疏，且忽视了更细粒度的特征级数据。为解决该问题，研究人员探索一种带特征级用户数据共享（feature-level user data sharing）的联邦推荐系统框架，称为FedRSFL，允许用户与服务器共享其部分特征。然而，基于共享数据进行训练并非易事：同一共享交互会产生两个不一致的训练信号，因为客户端利用完整本地数据及其私有用户嵌入（private user embedding）来学习该交互，而服务器仅利用共享部分及独立用户嵌入（separate user embedding）来学习该交互；直接聚合两个模型会混合未对齐参数并损害全局模型（global model）。因此，FedRSFL通过双向偏好蒸馏（bidirectional preference distillation）耦合两端：客户端教会服务器共享数据所缺失的完整偏好，服务器教会客户端单个客户端无法看到的跨用户模式（cross-user pattern），从而使共享数据提升推荐效果，并让每个用户嵌入（user embedding）保留在其设备上。在三个公开数据集上的实验表明，特征级用户数据共享提升了推荐准确性，在每个数据集上相较最强基线，HR@10平均提升约3.8%。

研究背景与问题：Chaoqun Yang、Quoc Viet Hung Nguyen、Hongzhi Yin与Liang Qu围绕联邦推荐系统（Federated Recommender Systems, FedRec，指在联邦学习框架下训练推荐模型）中的用户数据共享问题开展研究。推荐系统通常依赖用户—物品交互历史学习偏好，但交互数据往往呈长尾且高度稀疏，常见补救方式是引入用户特征等辅助信息；然而集中收集用户数据与用户特征会带来隐私风险，并可能与GDPR等数据保护法规冲突。联邦学习通过将数据保留在本地设备、仅上传模型梯度并由中心服务器聚合成全局模型来保护隐私，已有FedRec多假设每位用户具有很高隐私需求且不愿共享任何数据，忽视了愿意以数据共享换取更优推荐效果的用户。近期少数方法支持交互级用户数据共享，但仅支持粗粒度的用户—物品交互数据，难以缓解交互稀疏问题，且忽视更细粒度的特征级数据；UC-FedRec虽触及特征级，但将共享用户特征视为需要保护的负担而非可利用资源。因此，研究人员提出FedRSFL，以利用特征级用户数据共享提升整体模型性能，尤其是共享数据用户。研究内容与结论：FedRSFL允许用户先共享部分交互，再在此基础上共享部分特征字段，服务器汇集共享数据形成服务器端数据集；客户端与服务器端分别训练同一基础推荐器，服务器为共享用户维护独立用户嵌入表p?_u。其核心挑战是同一共享交互在客户端与服务器端产生不一致训练信号，且两侧用户嵌入空间未对齐，直接联邦平均会混合未对齐参数并损害全局模型。为此，研究人员设计客户端—服务器双向偏好蒸馏：在预测层而非参数层互相教学，客户端向服务器传递共享数据缺失的完整偏好，服务器向客户端传递单个设备不可见的跨用户模式；用户嵌入p_u与p?_u均不离开设备；上传共享参数前采用本地差分隐私（local differential privacy, LDP，指在上传更新前裁剪并加噪）保护；最后以联邦平均（federated averaging）聚合客户端与服务器参数。三个公开数据集实验表明FedRSFL优于非共享联邦推荐系统与近期仅交互共享方法，共享用户获得预期更好推荐，非共享用户不受害且亦受益。其意义在于将自愿共享的特征级数据转化为可用协同信号，同时保持用户嵌入本地化。
关键技术方法（不超过250字）：研究使用三个公开数据集ML-100K、ML-1M与BlackFriday作为样本队列来源；以NeuMF为统一基础推荐模型，客户端与服务器分别基于本地数据和共享数据训练，并采用贝叶斯个性化排序（Bayesian Personalized Ranking, BPR）损失；对共享用户构建候选物品集，以带温度softmax生成软标签，实施客户端—服务器双向偏好蒸馏，并使用Kullback-Leibler（KL）散度约束；上传共享参数前进行L2裁剪与高斯机制（Gaussian mechanism）加噪以实现LDP，δ=10^-5；最终以联邦平均聚合客户端与服务器参数。

研究结果：
5.1 数据集：研究采用三个带用户特征的公开数据集。ML-100K与ML-1M各含gender、age、occupation三个特征字段，BlackFriday含gender、age、occupation、city category、years in current city与marital status六个字段；评分或购买被视作正交互。
5.2 基线：比较五个基线，包括非共享的FedMF、FedNCF、PFedRec，以及共享的PDC-FRS与UC-FedRec。
5.3 实验设置：每用户交互按7:2:1划分训练、验证与测试；默认10%用户完全共享全部交互与全部特征字段，30%用户部分共享一半交互与一半特征字段，60%用户不共享；采用采样排序协议，每个留出物品与99个未交互物品排序，报告HR@10与NDCG@10，取三次独立运行平均。
5.4 Top-K推荐（RQ1）：通过三数据集对比实验，FedRSFL在HR@10与NDCG@10上均最佳；相较各数据集最强基线，平均HR@10提升约3.8%，NDCG@10提升约6%；共享数据方法整体优于非共享方法，BlackFriday上FedRSFL达0.694 HR@10，强基线为0.679。
5.5 消融研究（RQ2）：通过移除双向偏好蒸馏、服务器端共享数据训练、稀疏用户更大蒸馏权重进行消融；完整模型最佳；移除蒸馏导致HR@10最大下降，移除服务器端训练导致NDCG@10最大下降，移除稀疏用户更大权重仅小幅下降。
5.6 超参数分析（RQ3）：通过变化部分共享用户的交互/特征共享比例、服务器聚合权重λ与嵌入维度d，发现共享比例变化对精度影响很小；中等λ最佳，过大λ会伤害；d增大后精度趋平，过大略过拟合。
5.7 本地差分隐私影响（RQ4）：通过变化隐私预算ε研究LDP影响；有限预算下精度略低于无噪声结果，成本主要来自裁剪；噪声仅在ε很小且参与客户端少时明显；ML-100K在最强隐私水平下降更明显，但仍远高于随机排序。
5.8 用户组分析（RQ5）：通过将测试用户分为完全共享、部分共享与非共享组并与FedNCF比较，发现共享用户获得更好推荐且共享越多增益越大；非共享用户不受害并因他人共享而获得较小收益。

讨论与结论（研究结论翻译）：研究人员研究了带特征级用户数据共享的联邦推荐系统，其中用户在交互通道之上自愿与服务器共享部分特征。研究表明共享数据难以直接使用，因为用户偏好由留在设备上的用户嵌入承载，且该嵌入还编码了用户未共享的数据。研究人员提出FedRSFL，让服务器以其独立用户嵌入表在共享数据上训练，并通过与联邦平均并行的双向偏好蒸馏与普通客户端联合训练。三个公开数据集实验表明，FedRSFL优于非共享联邦推荐系统与近期仅共享交互数据的方法，共享用户获得其期望的更好推荐，非共享用户不受害。未来工作拟将FedRSFL扩展到动态设置，即用户数据随时间变化且用户可随时改变共享内容，服务器端共享数据亦随时间变化，模型需跟随这些变化。