CISD：结合因果推断与语义依赖关系以实现下一项推荐

《Knowledge-Based Systems》：CISD: Fusing causal inference and semantic dependencies for next-item recommendation

　　王奥迪|丁杰宇

摘要：基于会话的推荐系统利用用户当前的交互数据来预测下一步的点击行为。由于会话序列较短且较为稀疏，大多数现有方法主要依赖于当前会话的信息。然而，它们往往无法充分利用物品之间的潜在因果关系以及复杂的语义依赖性，这可能导致推荐结果存在偏差。为了解决这些局限性，我们提出了一种名为“因果推断与语义依赖模型”（CISD）的推荐模型。该模型引入了关系挖掘模块来识别用户与物品之间的关系，从而提升推荐结果的可解释性和合理性。此外，还设计了多兴趣语义转换模块和会话-物品兴趣依赖模块，以更全面地捕捉用户的兴趣。通过纳入更高阶的语义依赖信息，CISD能够学习到更精确的用户意图表示。大量实验表明，该模型在多个评估指标上的表现均优于现有的基准方法。在三个数据集上，该模型在R@10指标上的提升幅度分别为2.27%、2.38%和1.84%，在M@10指标上的提升幅度分别为1.33%、1.27%和3.48%。

引言：随着互联网上信息的爆炸式增长，从海量且高度重复的数据中有效识别相关内容已成为一项重大挑战。作为智能信息过滤技术的核心方法，推荐系统通过建模用户偏好并利用上下文信号来提供个性化内容，从而在缓解信息过载方面发挥着关键作用[1]、[2]。由于其强大的实用价值，推荐系统已被广泛应用于新闻推荐、餐饮服务、医疗保健以及电子商务等多个领域[3]、[4]、[5]、[6]。随着算法及支撑技术的不断进步，推荐系统越来越成为连接用户与信息之间不可或缺的桥梁，进而提升了信息获取的效率并促进了内容的传播[7]。

鉴于对隐私保护日益重视，使用匿名用户数据以及保护个人信息已成为常见做法[8]。在许多实际应用中，用户以匿名或访客身份与在线服务进行互动，这意味着推荐系统只能获取当前会话的短期交互数据。然而，基于会话的推荐系统旨在利用匿名用户的短期交互行为，预测他们接下来可能感兴趣的物品。由于在匿名交互场景下无法获得长期用户画像，加之用户与物品之间的关系十分复杂，如何有效利用会话数据进行建模这一问题引起了研究人员的极大关注[9]。

为了解决这一问题，人们开发出了多种基于会话的推荐方法。早期的方法包括协同过滤和隐马尔可夫链模型[10]、[11]、[12]，它们通过分析用户的历史交互数据，利用以往时间步骤中的物品相似性或交互模式来预测未来的偏好。不过，这些方法仍不足以建模长期的物品依赖关系以及用户偏好的时间变化，从而限制了推荐效果。随着深度学习技术的广泛应用，循环神经网络等神经网络方法逐渐被整合到推荐系统中[9]。这些方法将会话信息视为序列数据，通过学习给定会话中物品之间的依赖关系来生成推荐，进而提升了推荐系统的性能。尽管在准确性方面取得了显著进展，但这些方法仍存在诸多局限。尤其是，大多数现有方法主要关注当前会话内的序列依赖关系，而忽视了上下文信息以及复杂的物品交互作用。因此，仅聚焦于当前会话序列，难以全面捕捉跨会话的物品关系以及动态的上下文因素，最终限制了推荐效果。

为弥补现有模型的不足，近期研究逐渐展现出将图神经网络应用于推荐系统的兴趣，因为图神经网络能够有效刻画复杂的结构化交互关系[13]、[14]。通过将会话序列转换为图结构，基于图神经网络的方法利用消息传递机制来明确捕捉不同上下文中物品之间的复杂依赖关系。这一能力有助于解决传统序列方法的一些局限性，使得图神经网络成为推荐系统领域的重要研究方向[15]。然而，大多数现有方法构建的会话图主要关注短距离依赖关系，且依赖成对的物品转换来进行预测。这样的设计限制了它们捕捉更高阶、更复杂转换模式的能力，导致模型在推断用户偏好时过度依赖最近的交互行为。 Consequently，这些方法中对用户行为的表征较为有限，进一步限制了推荐性能的提升[16]。

为进一步建模超出成对物品转换之外的复杂依赖关系，基于超图的方法被引入到基于会话的推荐系统中。作为传统图的推广，超图允许一条超边连接多个顶点，为表征物品之间更高阶的依赖关系提供了自然的方式。结合门控循环单元的超图卷积网络已被证明在建模物品之间的复杂依赖关系和序列模式方面具有有效性[17]。在超图构建过程中，每个会话中的多个物品通过超边相连，而这些超边又通过共享的物品相互关联，从而形成一个能够捕捉物品间高阶相关性的全局超图。然而，尽管超图能够建模更高阶的转换关系，但它们在解释用户与特定物品交互背后的原因方面仍存在局限。例如，如图1所示，Session1中的交互序列包含了对于卷心菜、葡萄、香蕉和芹菜等物品的点击行为。虽然这些物品属于不同的类别，但它们可能仍然反映出潜在的语义关联或共同的消费背景。这表明，除了共现模式之外，会话中的物品之间可能存在更深层次的依赖结构。然而，大多数现有方法主要关注共现关系，往往忽视了这种隐性的跨物品因果依赖关系，这可能导致表征学习出现偏差，进而使推荐性能不佳。这一现象表明，除了简单的共现之外，会话序列中可能还存在物品之间的潜在因果依赖关系。

为了解决这些局限性，我们提出了一种融合因果推断与语义依赖学习的下一项物品推荐模型。具体而言，通过将因果推断图与超图神经网络相结合，该模型能够捕捉会话中实体之间的潜在因果依赖关系以及语义关系。这种融合不仅提升了推荐精度，还增强了推荐过程的可解释性。

本研究的主要贡献如下：
• 我们为基于会话的推荐系统设计了一个关系挖掘模块，该模块能够捕捉用户行为背后的因果关系，同时减少虚假共现问题以及潜在的混淆偏差，进而提升推荐结果的合理性。
• 我们提出了一种分层偏好建模策略，该策略能够同时捕捉不同会话之间物品间的高阶多关系依赖关系以及会话内的语义依赖关系，从而学习到用户意图的潜在多层表征。
• 为便于语义相关的潜在兴趣之间实现过渡，我们整合了液态神经网络和注意力机制，使模型能够有效融合多维度信息，进而提升推荐精度和相关性。
• 在三个真实世界数据集上的大量实验表明，所提出的CISD模型在各项指标上的表现均优于现有的推荐方法。此外，通过消融实验进一步验证了CISD中各个模块的有效性。

相关工作：推荐系统是一种信息过滤方法，旨在利用用户的历史行为、偏好以及其他上下文信息来提供个性化建议。

预备知识：在基于会话的推荐问题中，我们给定了一组会话S={s1,s2,…,sm}和一组物品V={v1,v2,…,vn}。每个会话si表示为一组物品的序列，记为si={vi,1,vi,2,…,vi,t}，其中m和n分别代表会话总数和物品总数。基于会话的推荐系统的主要目标就是利用用户由si表示的短期交互历史，预测用户在下一个时间步最有可能交互的物品。推荐的物品应能够反映用户的……

概述：CISD模型的架构如图2所示。所提出的CISD模型旨在揭示并利用会话实体之间的因果关系，从而为会话行为建模提供另一种视角。通过同时建模物品的演变过程和结构依赖关系，该模型提升了学习到的表征质量，进而提高了推荐精度。CISD并非依赖单一的编码器，而是将用户的一系列交互行为作为输入，进而生成……

数据集：所提出方法的有效性是通过在多个广泛用于基于会话的推荐系统的数据集上进行的实验来验证的，这些数据集包括RetailRocket、1 Tmall、2以及Diginetica。3这些数据集由匿名交互序列组成，被广泛用于评估下一项物品的预测性能。在遵循标准的预处理流程之后……

结论：本文提出了CISD，这是一种融合了因果推理、多兴趣语义建模以及会话表征学习的基于会话的下一项物品推荐模型。与主要依赖物品共现模式的会话方法不同，CISD旨在通过考虑因果依赖关系以及更高阶的语义转换来揭示更有意义的物品关系。在多个数据集上的实验结果表明，该模型在提升……

CRediT作者贡献声明：王奥迪：写作——审阅与编辑、写作——初稿撰写、验证、方法论、概念设计。丁杰宇：写作——审阅与编辑、监督、资金获取、形式分析。

利益冲突声明：作者声明不存在任何可能影响本文所述工作的已知财务利益或个人关系。

致谢：本研究得到了中国国家自然科学基金（编号12172186、11772166）的支持。