DCL-GCDR：结合生成式增强与因果去噪的双视图对比学习推荐方法

《Neurocomputing》：DCL-GCDR: Dual-view contrastive learning with generative augmentation and causal denoising for recommendation

　　

摘要 图神经网络通过建模高阶用户 - 物品交互来增强协同过滤，但仍然存在对数据稀疏性和噪声敏感的问题。虽然自监督学习通过构建对比视图有效地缓解了稀疏性问题，但大多数方法依赖于在嵌入层上施加随机结构扰动或噪声注入。此类策略难以区分真实信号与噪声，可能会破坏有效的协同信号，同时引入无关的扰动。此外，先进方法将视图生成视为固定的预处理步骤，而不是任务导向的学习模块，导致生成的视图缺乏语义一致性，从而限制了性能提升潜力。为了克服这些局限性，本文提出了一种双视图对比学习推荐模型，DCL-GCDR。其核心思想是构建两个可学习的视图以提取更鲁棒的用户 - 物品表示：(1) 生成视图，利用多头注意力变分自编码器重建交互图，在保持结构的同时增加多样性；(2) 去噪视图，利用因果推理和集成学习通过软掩码自适应地抑制噪声交互。随后，对比学习对齐两个视图中相同节点的表示。为了进一步约束噪声对预测的影响，我们引入了一种后门分离损失，在预测层实现了因果信号与噪声的显式解耦。在三个真实数据集上的大量实验表明，DCL-GCDR 模型始终优于现有的最先进基线模型，在 Recall@20 上实现了 1.86% 的提升，在 NDCG@20 上实现了 2.00% 的提升。此外，消融实验验证了我们研究动机的有效性，并证明了 DCL-GCDR 模型中每个模块的必要性。

引言 基于图神经网络 (GNN) 的协同过滤 (CF) 已确立为推荐系统的主导范式，用于捕获高阶用户 - 物品交互 [16], [45]，从而在推荐准确性方面取得了实质性改进。通过将用户 - 物品交互表示为二部图，这些方法通过沿图结构进行迭代消息传递来学习节点嵌入，有效地编码了协同信号和潜在的用户偏好。早期的协同过滤模型主要依赖矩阵分解 (MF) 来学习静态嵌入 [2]，这往往不足以建模复杂的高阶关系模式。GNN 的出现带来了 PinSage [36]、NGCF [28] 和 LightGCN [8] 等方法，它们利用邻域聚合来精炼节点表示。例如，PinSage 和 NGCF 采用多层图卷积操作来捕获局部和全局图拓扑，而 LightGCN 通过移除非线性变换并专注于邻域聚合来简化架构，实现了卓越的效率和可扩展性。

尽管取得了这些进展，基于 GNN 的协同过滤方法仍然面临着现实世界推荐场景中普遍存在的固有数据稀疏性挑战。相对于整个用户 - 物品空间，观察到的交互稀缺导致监督信号不足，限制了学习到的表示的鲁棒性。为了缓解这一问题，自监督学习，特别是对比学习 (CL)，已被整合到基于 GNN 的推荐系统中 [12], [31]。CL 通过最大化相同节点的不同增强视图之间的一致性来增强表示学习。现有的推荐对比学习方法可以大致分为两类：(1) 结构增强，对图拓扑施加随机扰动（例如 SGL [29] 中的节点/边 dropout），和 (2) 表示增强，直接注入噪声到嵌入空间（例如 SimGCL [38] 利用均匀噪声，而 DimCL [41] 采用可学习的维度扰动）。

尽管具有这些好处，主流的对比学习方法存在两个根本局限性，根源于其固定、任务无关的视图生成过程。首先，其增强策略，例如 SGL 中的随机边 dropout 或 SimGCL 中的均匀噪声注入，是预定义且非自适应的。这些扰动的类型、幅度和目标是在训练之前设置的，并且保持静态；它们的参数不会根据推荐目标进行更新。因此，这些固定的预处理步骤无法区分真实的用户偏好与行为噪声（例如广告诱导点击或社会影响下的交互）。随机丢弃边可能会无意中移除稀疏但真实的交互，而向嵌入中添加任意噪声可能会扭曲有意义的语义模式，从而放大了破坏交互图的噪声。其次，更关键的是，因为视图生成与下游任务解耦，生成的增强视图缺乏保证的语义一致性和任务相关性。无论是修改图结构还是扰动嵌入，该过程不受提高推荐性能目标的指导。这限制了自监督信号的质量和可解释性。

为了解决固定视图生成范式的固有局限性，同时应对数据稀疏性和行为噪声的双重挑战，我们提出了一种新颖的双视图对比学习模型 DCL-GCDR，该模型引入了可学习的、目标导向的视图生成器，以取代随机的、任务无关的扰动。如图 1 所述，该模型协同整合了生成增强与因果去噪，以显式捕获用户的潜在兴趣并抑制虚假交互信号，从而增强学习到的表示的判别力和泛化能力。具体来说，DCL-GCDR 由两个可训练、互补的视图生成器组成：一个生成视图，采用基于注意力的变分图自编码器来重建和多样化交互图，同时保持语义保真度（例如，在购买太阳帽和太阳镜后推断用户可能对防晒霜有潜在兴趣，如图 1 所示），以及一个去噪视图，利用因果推理和专家网络集成来为每条边估计软掩码，将原始图分解为去噪图（因果信号）和后门图（虚假相关性），以确保模型专注于真实的用户偏好。这些视图在双层学习框架内优化：内循环使用贝叶斯个性化排序 (BPR) 损失 [20] 更新视图生成器，以使视图生成与推荐目标对齐，而外循环联合优化主要的协同过滤任务和两个视图上的对比学习。这种设计使 DCL-GCDR 不仅能够通过生成增强扩展有效训练信号，还能够通过因果去噪精炼监督信号，从而在稀疏和噪声条件下实现鲁棒的性能。

本工作的主要贡献总结如下：
• 我们提出了 DCL-GCDR，一种创新的双视图对比学习推荐框架，协同整合了生成图增强与因果去噪技术。与依赖随机扰动的方法不同，DCL-GCDR 通过学习任务感知的视图，实现了语义一致且具判别力的自监督学习。
• 我们开发了两个关键技术组件，一个用于生成多样化且结构忠实的图视图的基于注意力的变分图自编码器；以及一个具有后门分离损失函数的集成元去噪网络，显式识别并抑制破坏性噪声。所有组件均针对核心推荐目标进行端到端优化。
• 我们在三个真实数据集上进行了大量实验，表明 DCL-GCDR 在 Recall 和 NDCG 方面始终优于最先进基线模型。消融实验和在噪声环境中的性能测试进一步验证了该方法的有效性和鲁棒性。

本文其余部分组织如下。第 2 节回顾了关于基于 GNN 和自监督推荐的现有工作。第 3 节详细阐述了提出的 DCL-GCDR 模型，包括其任务定义、关键模块和训练过程。第 4 节呈现了大量实验和分析以评估模型性能。最后，第 5 节总结了本文并讨论了未来研究方向。

章节片段
相关工作
近年来，推荐系统研究主要集中于利用图神经网络学习用户和物品之间的高阶交互，同时采用自监督学习（特别是对比学习）来缓解数据稀疏性问题。最近的研究将因果推理理论引入推荐系统研究，以解决传统方法中存在的混淆偏差和选择偏差。本节回顾现有研究成果。

方法论
本节介绍了 DCL-GCDR 框架，该框架由三个核心模块组成。第一个模块采用图卷积编码器来捕获用户和物品之间的局部协同关系。第二个模块创新地提出了一种自适应自监督学习框架，包含两个可训练的视图生成器：基于多头注意力的变分生成图模型和因果去噪图模型。第三个模块处理模型优化阶段。

实验
为了评估 DCL-GCDR 模型的有效性，本节进行了系统实验，并讨论以下研究问题：
• RQ1: 与先进的推荐模型相比，DCL-GCDR 的表现如何？
• RQ2: DCL-GCDR 模型的不同组件对模型的推荐性能有何影响？
• RQ3: 不同的参数设置如何影响 DCL-GCDR 模型的最终性能？
• RQ4: 与...相比，DCL-GCDR 模型处理噪声数据的性能如何？

结论与未来工作
在本文中，我们提出了 DCL-GCDR，一种新颖的双视图对比学习框架，它整合了生成增强和因果去噪，以应对推荐系统中数据稀疏性和行为噪声的关键挑战。与依赖手工制作的扰动或随机增强的传统方法不同，DCL-GCDR 引入了两个可学习且互补的视图生成器：一个基于基于注意力的变分图自编码器的生成视图，该视图能够增强...

CRediT 作者贡献声明
张星：撰写 – 原稿，可视化，验证，软件，方法论，形式分析，数据整理，概念构思。吴立康：撰写 – 审稿与编辑，方法论，概念构思。程旭：撰写 – 审稿与编辑，方法论。肖英元：撰写 – 审稿与编辑，方法论，资金获取，概念构思。郑文广：撰写 – 审稿与编辑，概念构思。

利益冲突声明
作者声明他们没有已知的竞争性经济利益或个人关系，这些可能影响本文所报告的工作。

致谢
本工作受中国国家重点研发计划资助（编号：2021YFC3300402）。

张星在辽宁工程技术大学电子信息工程学院获得硕士学位。他目前正在中国天津工业大学攻读计算机科学与技术博士学位。他当前的研究兴趣包括推荐系统、图神经网络和对比学习。

张星 | 吴立康 | 程旭 | 肖英元 | 郑文广
天津工业大学计算机科学与工程学院，中国天津，300384