联邦推荐系统作为分布式知识融合：技术、挑战与未来方向

《Information Fusion》：Federated Recommender Systems as Distributed Knowledge Fusion: Techniques, Challenges, and Future Directions

　　

•我们建议将联邦推荐重构为隐私保护知识融合问题，自然地将 FedRec 文献与更广泛的信息集成领域联系起来，并为分析不同场景下的多样化挑战提供了原则性基础。•我们建立了四个关键推荐场景（即协作式、跨域、多模态和基于 LLM 的 FedRec）与其独特的融合范式之间的清晰联系。我们系统地分析了正在融合的知识是什么、采用了什么策略以及特定场景下的瓶颈是什么。•我们全面回顾了所有四个场景下的现有 FedRec 研究，根据场景特征和融合过程对文献进行了组织。•我们考察了涵盖整个领域的挑战，包括可信融合、用户治理参与、统一基准测试、差异化和自适应聚合策略、在线持续融合以及跨场景知识融合。引言推荐系统已成为现代信息技术不可或缺的一部分，为电子商务、社交媒体和流媒体平台提供个性化服务 [1], [2], [3], [4]。这些系统的有效性依赖于丰富的用户数据，包括行为数据（例如评分、点击和购买日志）[5], [6], [7] 和用户属性（例如社交关系、人口统计信息和上下文信息）[8], [9], [10]。随着对更准确和细粒度推荐的需求不断增长，所需用户数据的规模和敏感性也相应增加，引发了广泛的隐私担忧 [11]。同时，不同组织和平台持有的数据越来越被视为不能自由共享的专有资产，从而产生了众所周知的数据孤岛现象。GDPR1 和 CCPA2 等严格的数据隐私法规浪潮进一步加剧了这种情况。这些法规对个人数据的收集、传输和集中处理施加了严格限制。为应对这些挑战，联邦学习（FL）[12] 作为一种有前景的范式应运而生，它能够在数据孤岛之间实现协作模型训练，在不共享原始数据的情况下保护隐私。因此，推荐系统与 FL 的集成，即联邦推荐（FedRec）系统，吸引了迅速增长的研究关注，如图 1 所示。这种增长趋势源于两个领域之间的结构耦合，即推荐数据天然分布在大量客户端（个人移动设备或企业服务器）上，并且对隐私高度敏感。在集中式推荐系统（CenRec）中，服务器收集所有这些客户端数据，集中训练模型并提供推荐。而在 FedRec 系统中，省略了收集私有数据的过程，中央服务器仅收集模型参数、梯度或其他形式的抽象知识进行聚合。在这种范式中，服务器的角色从处理原始数据转变为聚合客户端上传的模型参数、梯度和其他形式的抽象知识。因此，我们认为 FedRec 系统本质上是数据隔离下的知识融合问题，如图 2 所示。在 CenRec 中，服务器在数据层面融合信息，将所有用户的原始交互记录收集和合并到一个统一的数据集中，在此基础上训练全局模型。在 FedRec 中，由于原始数据无法再收集，融合转移到了知识层面：服务器将分布式客户端贡献的模型参数、梯度更新、学习表示和其他形式的蒸馏知识综合成一个统一的全局模型。这一视角将 FedRec 与更广泛的信息融合领域 [13], [14], [15] 联系起来，该领域研究如何组合来自多个来源的信息，以实现比任何单一来源更准确、可靠和全面的推断。经典信息融合理论中的一个核心组织原则是融合发生的抽象层级。例如，在广泛采用的 Dasarathy 框架 [16] 中，融合被分为数据层面（操作原始观测）、特征层面（组合提取的特征）和决策层面（集成高级输出）。由于 CenRec 自然对应于数据层面融合，FedRec 将融合的重点从原始数据转移到了分布式客户端蒸馏的知识上。从这个视角出发，我们根据输入和机制来描述 FedRec 中的知识层面融合，后者包括聚合、对齐、迁移或蒸馏以及模型合并。在模型更新层面，服务器通过 FedAVG[12] 等聚合机制直接聚合客户端的模型参数或梯度。在表示层面，客户端交换编码用户或项目特征的已学习嵌入或其他特征。在预测层面，客户端共享模型输出而不是参数，通过预测层面迁移 [17] 实现融合。与通过交换知识形式区分的模型更新和表示层面融合不同，语义层面融合强调异构知识源中编码的信息。这超越了经典的信息融合层级，因为待融合的源不仅在抽象性上不同，在其本质上也不同。认识不同推荐场景下的融合源结构、输入形式、机制和瓶颈构成了我们综述的分析骨干。由于隐私限制，FedRec 在几个重要方面不同于经典信息融合设置。在传统融合设置中，融合中心（即服务器）可以直接访问每个数据源。在 FedRec 中，服务器只能观察客户端选择上传的知识，从而产生固有的信息瓶颈。此外，融合源可能是对抗性的：恶意客户端注入中毒更新以破坏融合模型，或正常客户端采用噪声（例如伪交互 [18], [19]）来保护隐私。与图像分类或自然语言处理等其他 FL 应用相比，FedRec 也表现出独特的融合挑战。首先，客户端数量众多但资源有限。参与的源数量可能达到数百万 [20], [21], [22], [23], [24]，而每个客户端的计算能力、存储容量和通信带宽都极其有限。其次，客户端之间的异构性要严重和独特得多。每个用户只与整个项目目录的一小部分发生交互，且个体交互模式高度个性化 [25], [26], [27], [28], [29]。客户端之间的极端稀疏性和异构性使得将本地知识融合到统一的全局模型中，比在客户端持有相对同质数据的设置中更具挑战性。客户端类型以及异构性的来源和本质随场景而变化。因此，融合策略也必须相应调整，这激发了本综述中开发的面向场景的分析。FedRec 中的知识融合本质上是依赖于场景的。不同的推荐场景涉及不同类型的知识，需要不同的融合策略，并面临不同的瓶颈。将 FedRec 视为统一的 FL 优化问题，如现有文献中的许多所做的那样 [11], [30], [31], [32], [33], [34]，掩盖了这些关键区别，并限制了所提出解决方案的实用价值。我们围绕四个代表性的 FedRec 场景组织文献。第 3 节考察协作式 FedRec，其中推荐仅源自用户 - 项目交互产生的协作信号。第 4 节随后考虑三个上下文增强场景：跨域、多模态和基于 LLM 的 FedRec。这些场景利用其他领域、模态或基础模型的信息补充协作信号。下面介绍这四个场景：•协作式 FedRec 构成了研究最广泛的设置，其中每个客户端是一个贡献个性化交互日志的个体用户。在此场景下，主要挑战在于集成极其异构和稀疏的用户级模型知识。这种统计异构性源于个体用户偏好的内在多样性，融合过程必须仔细平衡泛化（有益于所有用户的共享知识）和个性化（应保留在本地用户特定知识）。其他挑战包括保护融合过程的隐私、解决数据隔离导致的高阶交互信息丢失以及防御针对融合过程的对抗性攻击。•跨域 FedRec 自然构成了一个 FedRec 场景，其中客户端是在不同业务领域（例如电子商务和社交媒体）运营的平台或组织。在此设置中，系统的目标是融合跨域知识以缓解数据稀疏性和冷启动问题。与协作式 FedRec 的关键区别在于，此场景中的统计异构性通常是不同领域基本不同数据分布的自然结果，即标签漂移 [35], [36]。因此，有效的融合需要跨域对齐用户表示、项目语义或内容特征，所有这些都是在严格的数据隔离约束下进行的。•多模态 FedRec 将融合挑战扩展到在 FL 架构中对齐和集成异构信息模态（视觉、文本等）以及协作交互信号。这包括确定模态融合应该发生在哪里（服务器端或客户端），如何处理异构交互导致的 ID 嵌入不一致，以及如何处理不同客户端可能访问不同模态子集的情况。•基于 LLM 的 FedRec 是一个新兴领域，其目标是将大型语言模型（LLMs）中编码的世界知识与私有用户交互数据集成。此场景下的挑战在于如何高效地将 LLM 的知识迁移和适应到推荐任务中，通过诸如联邦微调部分参数或训练轻量级外部适配器等技巧，所有这一切都在 FL 设置下的计算和通信约束内。因此，“融合什么”和“如何融合”的问题在不同场景下有根本不同的答案。在协作式 FedRec 中，主要融合对象是模型参数和项目嵌入 [37], [38]，而在跨域 FedRec 中，它们是跨平台用户和项目表示 [39], [40], [41]。在多模态 FedRec 中，它们是异构模态特征 [42], [43]，在基于 LLM 的 FedRec 中，它们是基础模型知识和适配参数 [44], [45]。这意味着在所有场景之间通用和统一的 FL 优化策略无法充分满足这些多样化的融合需求。表 1 展示了当前联邦推荐系统中不同知识融合范式的分类。先前的综述已从各个角度回顾了 FedRec 研究，大致可分为两类。第一类从 FL 系统设计的角度切入 FedRec。Yang 等人 [32] 根据经典 FL 范式对 FedRec 方法进行了全面分类：水平、垂直和联邦迁移学习。Sun 等人 [11] 专注于解决 FedRec 中 FL 固有的挑战，包括统计异构性、通信成本和隐私保护。Wang 等人 [31] 专注于保护用户隐私，并从模型设计、隐私增强和系统实现的角度深入研究了水平 FedRec。Yang 等人 [33] 考察了跨用户设置下的安全和效率挑战，并从四个角度回顾了相关研究：隐私、安全、准确性和效率。第二类专注于特定的技术维度。Li 等人 [30] 回顾了 FedRec，重点关注集成基础模型以解决其局限性，而 Zhang 等人 [34] 提出了第一份专门针对 FedRec 中个性化建模的综述，系统地探索了个性化模型如何在去中心化设置中捕捉细粒度用户偏好。虽然这些综述提供了宝贵的见解，但它们主要围绕 FL 系统设计或特定技术目标组织 FedRec。因此，推荐场景下融合什么和如何融合的差异并不总是明确的。事实上，跨域 FedRec 中的统计异构性与协作式 FedRec 中的根本不同。前者源于具有完全不同数据分布的领域间的标签漂移，这是推荐场景本身的固有属性，而不是 FL 架构的副产品。因此，设计用于缓解一般 FL 架构中问题的解决方案是不够的，除非解决跨域知识融合中至关重要的域对齐问题。Zhang 等人 [34] 专注于个性化的综述提供了一个互补的视角。通过研究个性化模型如何补偿由均匀聚合引起的偏好损失，它解决了融合后保留什么的问题。与上述综述相比，我们的工作重点关注融合什么、如何融合以及为什么融合过程必须在跨场景下重新设计，从面向场景的角度对 FedRec 系统进行了系统和全面的回顾。我们没有通过 FL 系统设计的镜头看待 FedRec，而是从推荐研究人员和实践者的角度出发，建立了推荐场景与融合挑战之间的明确联系。在表 2 中，我们通过比较代表性 FedRec 综述的关注点、分类法、涵盖场景、融合处理、隐私和安全讨论以及基于 LLM 的 FedRec 覆盖范围，使这一区别具体化。本综述的主要贡献如下：•FedRec 的知识融合视角。

我们建议将联邦推荐重新框架化为一个隐私保护知识融合问题，其中 CenRec 在中心服务器上融合原始数据，而 FedRec 融合从数据孤岛中提取的知识。这种从数据级到知识级融合的转变是我们分析的统一视角。这一视角自然地将 FedRec 文献与更广泛的信息集成领域联系起来，并为分析不同场景下的多样化挑战提供了原则性基础。

•面向场景的融合挑战分析。我们建立了四个关键推荐场景（即协同、跨域、多模态和基于 LLM 的 FedRec）与其独特融合范式之间的清晰联系。对于每个场景，我们系统地分析了融合的是什么知识、采用了什么策略以及场景特有的瓶颈是什么。这种分解揭示了从统一的 FL 优化视角无法获得的见解。

•全面且结构化的综述。我们全面回顾了所有四个场景现有的 FedRec 研究，根据场景特征和融合过程对文献进行了组织。本文提供了比较表、结构化讨论和可视化图表，以确保进入该领域的研究人员和寻求部署指导的实践者都能从本次综述中受益。

•对开放挑战和未来方向的详细讨论。除了场景特有的问题（例如协同 FedRec 中伪交互下的对齐）外，我们还考察了跨越整个领域的挑战，包括可信融合、用户主导参与、统一基准测试、差异化自适应聚合策略、在线持续融合以及跨场景知识融合。

本文其余部分组织如下。第 2 节形式化定义了中心化和联邦推荐系统的过程，建立了从数据级到知识级融合的过渡。第 3 节回顾了协同 FedRec，分析了跨融合过程五个关键维度的异质用户级模型知识融合。第 4 节涵盖上下文增强 FedRec，包括跨域知识融合、多模态特征融合和基础模型知识融合。第 5 节讨论了训练策略、常用数据集和评估方法。第 6 节汇集了协同和上下文增强 FedRec 中出现的挑战，并讨论了相应的未来研究方向。最后，第 7 节总结全文。

章节摘要

FedRec 的流程：从数据融合到知识融合

无论是 CenRec 还是 FedRec 系统，都需要服务器和客户端的协作来提供推荐服务。然而，它们在信息融合发生的位置和方式上存在根本差异。在 CenRec 中，客户端主要充当数据生产设备，服务器从所有客户端收集原始数据并在数据层直接融合。在 FedRec 中，原始数据保留在每个客户端上。相反，服务器融合通过本地训练蒸馏的信息，通常以

协同 FedRec 中的知识融合

协同推荐系统面临两个主要挑战：学习有效的用户和项目表示，以及开发准确的交互建模方法。1) 表示学习。在中心化设置中，表示学习方法，从传统的矩阵分解 [156], [157], [158] 和基于注意力的方法 [159], [160] 到基于自编码器的模型 [161], [162], [163] 和图神经网络 [164], [165], [166], [167]，已被广泛探索。2) 上下文增强 FedRec 中的知识融合

协同 FedRec 在分布式客户端之间融合单一类型的知识（即用户 - 项目交互模式）。然而，在实践中，通过集成更丰富的上下文信息（包括跨域行为记录 [180], [181], [182], [183]、多模态项目特征 [184], [185], [186] 以及编码在大语言模型（LLMs）[7], [187], [188] 中的世界知识），推荐质量可以得到显著提升。将额外信息引入联邦

数据集与评估协议

FedRec 方法的可靠比较取决于一致的数据集和评估协议。本节总结了现有研究中使用的数据集、数据划分策略和指标，然后检查这些协议是否捕捉到了知识融合的贡献。

挑战与未来方向

第 3 节和第 4 节考察了协同和上下文增强 FedRec 中知识是如何融合的。下面，我们将这些未解决的问题归纳为六个交叉研究方向，并讨论它们如何在不同场景中产生。

结论

联邦推荐（FedRec）系统因其能够在日益严格的数据法规下保持原始用户数据本地化的同时支持个性化推荐，而引起了越来越多的研究关注。现有的综述主要从联邦学习系统设计的方法接近 FedRec，应用统一的优化策略，掩盖了潜在挑战的场景特定性质。为了填补这一空白，本文提出了一种知识融合

写作过程中生成式 AI 和 AI 辅助技术声明

作者仅使用生成式 AI 辅助工具进行语言润色，以提高手稿的可读性和清晰度。手稿的所有文献检索、概念化、分析和写作完全由作者完成。使用此工具/服务后，作者根据需要审查和编辑了内容，并对已发表文章的内容承担全部责任。

CRediT 作者贡献声明

米云奇：写作 - 审查与编辑，写作 - 初稿，可视化，验证，形式分析。沈佳奎：写作 - 审查与编辑，可视化。赵国帅：写作 - 审查与编辑，监督，项目管理，资金获取。刘呈旭：写作 - 审查与编辑，可视化，验证。沈佳烈：验证，监督，概念化。钱雪明：资源，项目管理，资金获取。

利益冲突声明

作者声明，他们没有已知的竞争性经济利益或个人关系，这些利益或关系可能影响本论文中报告的工作。

米云奇 | 沈佳奎 | 赵国帅 | 刘呈旭 | 沈佳烈 | 钱雪明