ST-AHM: 一种结合对比学习的软阈值稀疏注意力超图模型,用于基于会话的推荐

《Expert Systems with Applications》:ST-AHM: a soft-threshold sparse-attention hypergraph model with contrastive learning for session-based recommendation

【字体: 大 中 小 】 时间:2026年10月01日 来源:Expert Systems with Applications 9.4

编辑推荐:

   •ST-AHM融合超图与关系图实现双通道建模。•HSPA在应用Sparsemax之前对所有注意力头的原始兼容性分数取平均,从而构建共享的稀疏关系支撑。•对比学习增强了用户意图的判别能力。•ST-AHM在三个基准数据集上均优于现有最先进方法。引言传统推荐模型,如基于用户画像或协

  
  • •
    ST-AHM融合超图与关系图实现双通道建模。
  • •
    HSPA在应用Sparsemax之前对所有注意力头的原始兼容性分数取平均,从而构建共享的稀疏关系支撑。
  • •
    对比学习增强了用户意图的判别能力。
  • •
    ST-AHM在三个基准数据集上均优于现有最先进方法。

引言

传统推荐模型,如基于用户画像或协同过滤的模型,严重依赖于数据。然而,在在线购物环境中,许多用户在不登录的情况下浏览和点击商品(如图1所示),这使得传统模型难以获取所需信息。为应对这一挑战,研究人员开发了基于会话的推荐(SBR)模型(Wang等,2021)。与依赖用户历史数据的传统方法不同,SBR模型专注于根据会话内的实时行为预测用户下一个感兴趣的物品(Zhang等,2024)。现有SBR模型可大致分为三类:基于传统方法的模型、基于潜在表示的模型和基于深度学习的模型。关联规则挖掘和序列模式挖掘是基于传统方法模型的典型示例。这些模型通过分析交互序列中物品之间的关系来生成推荐(Kalifa等,2022)。其主要优势在于易于理解和实现,但严重依赖物品共现,限制了其捕捉复杂用户行为模式的能力。基于潜在表示的模型通常采用矩阵分解或潜在向量表示等技术来揭示物品间的潜在关联(Sohafi-Bonab等,2023)。它们特别适用于用户行为稀疏的场景,能够在一定程度上克服传统方法的局限性。然而,这一特性也使它们难以提取复杂的用户特征和偏好,同时也缺乏有效处理非线性关系的能力。相比之下,利用深度神经网络的方法在处理SBR任务方面表现出卓越的能力。这些方法擅长从会话序列中提取复杂特征,从而能够准确建模用户意图和行为趋势(Wang等,2025)。
研究者开发了多种深度学习架构,包括循环神经网络(RNNs)和图神经网络(GNNs)。基于RNN的模型专注于捕捉会话的序列特性,能够有效建模物品间的高阶依赖关系(Quadrana等,2017)。然而,与严格有序的语序数据不同,会话数据通常在物品之间表现出复杂且非序列的关系,而这些模型未能充分解决这一问题。研究人员发现,将会话数据构建为会话图可以保留物品间的成对转换关系(Wu等,2019),从而更好地捕捉此类转换。尽管基于GNN的模型在捕捉长期依赖方面不如基于RNN的模型,但注意力机制已被证明在应对这一挑战方面非常有效。通过将注意力机制与GNN相结合,研究者开发了图注意力网络。基于图注意力网络(GATs)的模型结合了基于GNN的模型提取复杂关系的能力以及捕捉用户长期和短期兴趣的能力(Xu等,2019)。然而,GAT模型仍面临若干未解决的挑战:首先,此类模型往往无法充分处理会话中的噪声物品——例如,用户可能因各种原因(如广告或无意点击)而点击的物品,这些物品与用户的实际意图无关。其次,大多数基于GAT的模型仅依赖会话内数据,忽视了跨会话信息的重要性。
为应对上述挑战,我们提出了一种软阈值超图注意力模型(ST-AHM),这是一种双通道模型,能够同时捕捉会话内的高阶依赖关系和跨会话的协同信息。在会话内通道中,超图神经网络用于建模物品间的高阶关系。超图专用稀疏注意力(HSPA)在应用Sparsemax之前对所有注意力头的原始兼容性分数取平均,从而产生共享的稀疏支撑,同时保留头特定的值投影。增强后的序列通过一个无身份的空白节点读出进行汇总,而不是直接使用最后一次交互。在跨会话通道中,使用会话物品集之间的Jaccard相似性构建小批量会话图。关系图卷积传播协同信息,而空白节点表示作为由空白节点派生的查询,用于选择相关的相邻会话证据。对比目标进一步将有效交互表示与同一会话的空白节点增强视图对齐,并将其与打乱的表示区分开来。通过这种多模块协同设计,ST-AHM有效集成了局部动态和批量上下文关联,生成了对用户意图更为敏感的会话表示。总之,本文的主要贡献如下:
我们提出了一个协同建模框架,将会话感知超图与跨会话关系图相结合。该框架动态构建会话超图以捕捉每个会话内物品间复杂的高阶关系,同时利用关系图来建模相关会话前缀之间的批量局部关联。
我们引入了一种专为超图结构设计的稀疏注意力机制。它通过跨头分数平均和软阈值稀疏化来抑制弱支撑关系,并使用空白节点生成增强的会话意图表示。
我们在三个数据集上进行了大量实验。结果表明,ST-AHM优于现有的最先进模型。

章节摘要

基于GNN的方法

近年来,SBR引入了GNN以提升性能。一些研究者利用图神经网络整合用户、物品和上下文信息,构建能够更好地捕捉用户与物品之间复杂关系的模型。SR-GNN模型首次采用门控图神经网络(GGNN)用于SBR,在保留长期偏好信息的同时学习短期偏好。然而,由于GNN固有的局限性,其

方法论

图3展示了ST-AHM的架构。该方法包含一个会话内超图通道、一个无身份空白节点的会话读出机制、一个跨会话关系通道以及一个联合监督-对比目标。以下各小节将定义每个组件及其信息范围。

实验设计与分析

为确保实验的公平性,本文选择了基于会话推荐领域的基准数据集:Tmall、Diginetica和30Music。Tmall源自IJCAI-15竞赛,包含Tmall平台的购物日志;Diginetica来自CIKM Cup 2016;30Music描述用户的音乐收听行为。对于数据预处理,我们遵循先前工作中的标准预处理协议(Xia等,2021),包括移除包含

结论

我们提出了ST-AHM,这是一种双通道模型,将会话内高阶建模与跨会话协同信息相结合,用于匿名下一物品推荐。HSPA使用跨头共识稀疏化来抑制弱支撑关系,而无身份的空白节点则引导跨会话聚合通道。在Tmall、Diginetica和30Music上,ST-AHM优于所评估的基线模型,消融和效率分析表

CRediT作者贡献声明

陈容远:概念设计、方法论、调查研究、原稿撰写、审阅与编辑、获取资金。文杰斌:形式化分析、软件、数据整理、验证、资源、原稿撰写、审阅与编辑。何叶雨:指导、项目管理、获取资金、审阅与编辑。黄少年:形式化分析、数据整理、验证、资源、审阅与编辑。

利益冲突声明

作者声明以下财务利益/个人关系可能被视为潜在的利益冲突:陈容远报告称获得了湖南省自然科学基金的财务支持。陈容远报告称获得了湖南省教育厅支持的科研项目(25A0465)的财务支持。陈容远报告称获得了湖南省学位与研究生教育改革研究项目的支持。
陈容远|文杰斌|何叶雨|黄少年
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号