FedCRF：一种基于语义驱动的深度知识融合的联邦跨域推荐方法

《Information Processing & Management》：FedCRF: A Federated Cross-domain Recommendation method with semantic-driven deep knowledge Fusion

　　雷国|婷阳|徐宇|韩晓辉|蒋贵源|刘辉
山东师范大学计算机与人工智能学院，济南250358，中国

**摘要**
随着用户行为数据在不同平台上的分散程度日益增加，在保护隐私的同时实现跨域知识融合已成为推荐系统中的一个关键问题。现有的隐私保护跨域推荐（PPCDR）方法通常依赖于重叠的用户或项目作为桥梁，这使得它们不适用于非重叠的场景。这些方法在全局和局部语义的协同建模方面也存在局限性。为此，本文提出了一种基于深度知识融合的联邦跨域推荐方法（FedCRF）。FedCRF利用文本语义作为跨域桥梁，在非重叠场景下通过联邦语义学习实现跨域知识转移。具体而言，FedCRF在服务器端构建全局语义簇以提取共享的语义信息，并在客户端设计细粒度语义适应与转移（FGSAT）模块，以动态适应局部数据分布并缓解跨域分布差异。同时，它基于文本特征构建语义图来学习整合结构和语义信息的表示，并引入全局与局部语义表示之间的对比学习约束，以增强语义一致性并促进深度知识融合。在这个框架中，只有项目语义表示被共享，而用户交互数据保持本地存储，有效降低了隐私泄露风险。在多个真实世界数据集上的实验结果表明，FedCRF在Recall@20和NDCG@20方面的性能显著优于现有方法，验证了其在非重叠跨域推荐场景中的有效性和优越性。

**引言**
近年来，用户行为在不同系统中的多样性日益增加，这促使推荐系统研究人员探索从异构来源高效整合知识的方法以提高推荐性能。由此产生了跨域推荐（CDR），该方法旨在通过利用其他领域的宝贵知识来解决目标领域中的数据稀疏性和冷启动问题。因此，CDR在学术研究和行业应用中受到了广泛关注（Li等人，2022；Liu等人，2022；Zhu等人，2022）。传统的CDR方法通常依赖于领域间的重叠用户来实现用户偏好的转移（Zhu等人，2022；Zhu等人，2020）。在实际应用中，不同独立实体（如电子商务平台和生鲜配送应用，或线下超市和在线购物指南）之间的跨域协作需求正在增长。这些组织希望利用彼此的知识来优化推荐并扩大用户覆盖范围。然而，由于GDPR（2018年法规）等隐私规定和商业保密限制，它们无法共享用户ID和交互记录等敏感信息。更重要的是，这些组织的用户和产品往往不重叠，使得依赖重叠实体的传统CDR方法无效。我们关注的这种非重叠隐私保护跨域推荐场景旨在解决这一问题：在不共享敏感数据或不依赖重叠实体的情况下实现跨域知识转移。这种方法在确保合规性的同时，为孤立领域注入知识，弥合了“协作需求”与“隐私约束”之间的差距。

为了克服这一挑战，研究人员开发了非重叠跨域推荐方法（Cao等人，2022；Li等人，2022；Li等人，2023；Li等人，2022；Liu等人，2022；C. Wang等人，2019），以在用户不重叠的情况下促进有效的知识转移。这些方法通过学习跨领域的潜在结构或语义关系（例如表示解耦、结构建模或分布对齐）来实现跨域知识转移，从而在表示层面上实现部分融合，而无需直接共享用户数据。尽管这些方法在非重叠场景中显示出有希望的结果，但它们通常依赖于集中式训练或跨领域交互数据的共享，这可能违反数据合规性和用户隐私规定。特别是在用户行为数据无法跨其本地领域传输的情况下，这严重限制了现有方法的实际应用性。

隐私保护跨域推荐（PPCDR）已成为一个重要的研究课题。当前的方法通常利用联邦学习框架，使多个参与者能够在不共享原始交互数据的情况下协同训练模型，从而提高推荐性能（Jia等人，2025；Liao等人，2023；Lin等人，2024；Liu等人，2023；Wang等人，2024；Wang等人，2025；Wu等人，2022；Yan等人，2022）。例如，Wu等人（2022）开发了具有双模块结构的FedCRF：一个用于本地特征处理的个人模块和一个用于跨域知识共享的转移模块，以防止负面转移。Chen等人（2022）提出了PriCDR，在源域评分矩阵发布阶段引入了差分隐私机制，通过扰动数据来实现隐私保护，然后基于发布的数据进行跨域推荐建模。然而，现有的PPCDR方法仍存在以下局限性：（1）它们通常依赖重叠的用户或项目作为跨域知识转移的“桥梁”，这使得在保护数据隐私的同时充分利用跨域信息变得复杂。在真实世界数据集中，用户之间的重叠通常非常有限，同时实现有效知识转移和隐私保护是一个挑战。因此，在确保隐私的同时实现真正的非重叠跨域知识转移仍然是一个未解决的问题。（2）由于它们之间的分布差异，以前的方法无法很好地整合局部和全局领域信息。典型的非重叠跨域方法（如FFMSR（Lu等人，2025）使用服务器端静态聚类来聚合跨领域的项信息并构建统一的全局语义表示。然而，通过服务器端聚类生成的全局表示可以被视为跨域语义的高度压缩抽象，主要捕获与领域无关的高级特征。相比之下，本地客户端倾向于建模高度细粒度的特征表示（例如，需要区分“硬科幻”和“浪漫科幻”，而不是依赖粗略的“科幻”标签）。因此，全局和局部表示之间存在明显的语义分布差距，导致跨域对齐困难并降低模型性能。因此，需要智能系统能够动态平衡全局一致性和局部相关性。（3）它们主要关注使用ID模态来表示项目，而文本模态的重要性往往被忽视（Yan等人，2022；Zhang, Zheng, Zhong等人，2024）。许多方法（Wang等人，2025）只是表面地整合了这两种模态，使用加法或连接等技术，而没有实现深度整合。

为了解决上述局限性，我们提出了一种基于深度知识融合的联邦跨域推荐方法（FedCRF），该方法统一了全局语义共识、局部细粒度语义和基于ID的交互特征。具体来说，为了解决局限性1，我们利用自然语言的通用性来连接不重叠的领域。在语义空间中，语义相似的文本内容被映射到相似的向量表示。基于这一直觉，我们将来自不同领域的项映射到一个共享的语义空间，并使用服务器端聚类来创建捕获跨域共识的全局语义中心。这种方法促进了语义层面的关联，而不是实体层面的依赖，从而实现了基于纯粹语义理解的跨非重叠领域的无缝知识转移。为了解决局限性2，我们引入了细粒度语义适应与转移（FGSAT）模块。该模块利用服务器端的全局簇中心作为语义种子，并根据局部细粒度文本特征动态更新语义簇中心。通过注意力机制，它将全局语义结构与局部详细特征动态整合，便于在局部语义上下文中进行知识重映射。在第二阶段，我们通过双向对比学习进一步细化上一阶段的预学习领域知识。这种方法创建了双视图表示，并使用对比损失自动平衡全局和局部特征的贡献。为了解决局限性3，我们在模态层面进行语义融合，因为仅依赖单一模态或简单连接无法捕捉项目特定的变化。为此，我们从全局预训练和局部学习的表示构建语义图，其中每个图通过图卷积操作将项目间关系注入项目ID，生成融合的文本-ID表示。最终，语义和ID表示合并为统一的多模态表示，实现了显著的性能提升。

**动机和主要贡献**
在这项工作中，我们通过提出一种基于语义驱动的知识融合方法，在非重叠场景下研究PPCDR任务，以解决全局信息融合以及ID和语义特征整合有限的问题。为了在非重叠场景下进行领域知识转移，我们采用了联邦语义学习。具体来说，我们不是通过特定用户或项目来对齐领域，而是在语义层面进行融合，其中只有项目信息上传到服务器，用户信息仅在本地客户端使用。我们方法的核心是基于GNN的方法，用于学习用户偏好和项目表示。从表6中的实验结果可以看出，用户信息在很大程度上得到了保护。为了跨领域转移知识，我们将来自本地客户端的项表示上传到服务器进行知识融合，为此使用了静态聚类方法。然而，我们发现静态聚类只能提供粗粒度的语义融合（如图5(a)、(b)、(c)所示）。它无法很好地捕获局部数据的分布。为了解决这个问题，我们进一步使用改进的聚类方法对项表示进行聚类，其中引入了全局领域信息作为指导（该过程的可视化结果见图5(d)、(e)、(f)）。为了进一步利用服务器的全局领域知识来更新本地客户端，我们设计了基于局部语义信息和第二阶段预学习的语义信息构建的语义图的对比学习方法（在本地客户端进行细调，结合语义融合）（如图3所示）。通过这种方式，我们可以将预学习的领域知识进一步转移到特定领域，以增强其推荐效果。在我们的方法中，使用注意力机制在不同层面自适应地加权和融合语义信息（如图2所示）。具体来说，通过为增强后的项目语义表示、全局语义中心和细粒度语义中心分配动态权重，模型可以根据当前项目的语义特征选择性地强调更具区分性的语义来源。这种机制有效缓解了单一语义信息引起的偏差，提高了多源语义融合的灵活性和表现力。

我们在三对领域上进行了广泛的实验来评估我们的方法。从表2和表4的实验结果可以看出，我们的方法在所有评估指标上都表现最佳。这些结果证明了我们的方法在隐私保护跨域推荐任务上的有效性。

**相关工作**
本节探讨了跨域推荐、联邦推荐和推荐的语义建模方面的相关研究。

**方法**
本章系统地阐述了所提出的FedCRF。章节结构如下：第3.1节定义了问题表述并解释了关键符号。第3.2节介绍了FedCRF的总体架构和工作流程。第3.3节描述了作为模型基本输入的语义和ID表示的学习过程。第3.4节（全局簇）和第3.5节（细粒度语义适应与转移（FGSAT）模块介绍了服务器端聚类。

**实验设置**
本节概述了我们实验中调查的关键研究问题，并详细描述了数据集、评估协议、比较的基线方法以及FedCRF的实现细节。

**实验结果（RQ1）**
所有数据集的比较结果显示在表2中，得出以下结论：（1）所提出的FedCRF在所有数据集和评估指标上都优于所有基线方法，表现出稳定和一致的性能优势。这表明该方法能够有效融合ID和文本模态信息，并在非重叠场景中实现跨域语义知识的稳健桥接。（2）与单领域方法相比（NGCF）从结果中可以看出，本研究通过提出FedCRF框架解决了在隐私约束下进行跨领域推荐的问题。该框架采用联邦语义聚类来促进知识传递，仅通过共享项目文本表示来实现这一目标，从而确保用户行为数据严格保持本地化。细粒度语义传递模块和多模态融合机制的整合使得全局语义与本地个性化特征能够有效结合。

CRediT作者贡献声明：
郭磊：撰写 – 审稿与编辑、监督、项目管理、方法论、概念化。
杨婷：撰写 – 审稿与编辑、初稿撰写、软件开发、方法论、形式分析、概念化。
于旭：验证、资源获取、调查。
韩晓辉：可视化、资源获取、资金筹集、形式分析。
姜桂元：可视化、调查、资金筹集、形式分析。
刘辉：验证、软件开发、资源获取、项目管理。

利益冲突声明：
作者声明他们没有已知的可能会影响本文研究工作的财务利益冲突或个人关系。

致谢：
本项工作得到了中国国家自然科学基金（项目编号：62372277）、山东省自然科学基金（项目编号：ZR2022MF257、ZR2020YQ47）、以及教育部计算能力互联网与信息安全重点实验室开放项目（项目编号：2023ZD024）的支持。