MSCL-Tail:面向长尾用户下一POI推荐的多模态语义增强对比学习
《Knowledge-Based Systems》:MSCL-Tail: Multimodal semantic-augmented contrastive learning for next POI recommendation of long-tail users
【字体:
大
中
小
】
时间:2026年08月30日
来源:Knowledge-Based Systems 8.0
编辑推荐:
# 摘要
下一个兴趣点(POI)推荐系统在应对长尾用户时面临显著挑战,因为这类用户的签到POI序列极其简短。尽管现有方法利用多模态数据或数据增强来解决这一问题,但它们往往存在多模态融合缺乏区分性、数据增强效果不佳的缺陷,从而引入语义噪声,无法真正有效地丰富简短的POI序列。
# 摘要
下一个兴趣点(POI)推荐系统在应对长尾用户时面临显著挑战,因为这类用户的签到POI序列极其简短。尽管现有方法利用多模态数据或数据增强来解决这一问题,但它们往往存在多模态融合缺乏区分性、数据增强效果不佳的缺陷,从而引入语义噪声,无法真正有效地丰富简短的POI序列。为此,我们提出了MSCL-Tail,一种面向长尾用户下一个POI推荐的多模态语义增强对比学习方法。具体而言,MSCL-Tail首先通过建模各模态特定的相似度并进行选择性融合,执行多模态语义感知的相似POI选择。随后,我们设计了两个专门的数据增强算子(即多模态语义替换和多模态语义插入),在保持序列完整性的同时,以语义相关的上下文信息有效地丰富简短的POI序列。此外,MSCL-Tail采用多任务训练策略,通过参数共享联合优化主要的下一个POI推荐任务和多模态语义增强对比学习任务,使模型能够为极短的签到POI序列学习判别性表征。在真实世界POI数据集上的大量实验表明,MSCL-Tail在长尾用户的下一个POI推荐中 consistently 优于当前最先进的方法,HR平均提升10.42%,NDCG平均提升10.99%。代码已公开于:https://github.com/ZZP-RS/MSCL-Tail
# 引言
随着基于位置服务的快速发展,兴趣点(POI)推荐已成为现实世界推荐系统(RSs)中的重要研究课题。其主要目标是对用户的历史签到POI序列进行建模,并预测其未来的到访行为[1]、[2]、[3]。准确的POI序列建模能够实现跨电商、内容平台和基于位置服务的个性化推荐,帮助用户应对信息过载、提升参与度,并支持用户偏好随时间变化时的决策。
下一个POI推荐作为传统POI推荐范式的延伸,近年来引起了越来越多的研究关注[4]、[5]。与侧重于预测用户对特定POI偏好的传统POI推荐不同,下一个POI推荐依赖于用户历史签到数据的时间顺序排列。与主要关注预测用户对特定POI偏好的传统POI推荐不同,下一个POI推荐强调用户历史签到数据的时间顺序。该方法能够捕捉用户偏好以及POI之间的相互依赖关系。早期关于建模用户签到POI序列的研究主要依赖于循环神经网络(RNNs)和卷积神经网络(CNNs)来捕捉用户行为的连续性和局部模式。然而,这些方法在捕捉长期依赖关系方面能力有限,且计算效率往往较低。基于自注意力机制的方法,如SASRec[6]和BERT4Rec[7],显著提升了长序列的建模能力;但它们通常忽略了时空约束。为了解决这一局限性,像STAN[8]和STGN[9]这样的时空感知模型通过建模时间间隔和地理距离来增强序列的真实性。此外,基于图的方法,如GETNext[10]、AGRAN[11]和STHGCN[12],纳入了全局结构以更好地捕捉POI转移模式。
在真实世界的POI推荐场景中,长尾用户构成了用户群体的绝大多数。遵循先前的研究[13]、[14],我们根据用户签到POI序列的长度将其分为长尾用户和短头用户两组。具体而言,首先按长度降序排列用户序列,从最短的序列开始,累计统计其签到次数,定义那些签到交互占总签到数20%的用户为长尾用户,其余用户则视为短头用户。图1展示了基于从东京、纽约、新奥尔良和费城四个城市收集的真实世界在线平台签到POI数据得出的用户长尾分布。如图所见,长尾用户通常只访问有限数量的POI,却占据了用户群体的大多数。这些用户中存在极短的签到POI序列,这大大增加了下一个POI推荐的难度,因为模型必须从高度稀疏的行为信号中推断偏好。值得注意的是,关于下一个POI推荐中长尾问题的研究通常涉及两个维度:长尾用户和长尾POI。在本文中,我们专注于前者,旨在提升具有稀缺简短POI序列的长尾用户的下一个POI推荐性能。
为了解决长尾用户的下一个POI推荐挑战,数据增强方法受到了越来越多的关注。早期方法采用启发式策略,如随机掩蔽或裁剪,这些策略可能破坏原始POI序列的语义一致性并引入噪声,尤其是对简短的POI序列。随后,轨迹补全方法在一定程度上缓解了数据稀疏问题。例如,TAU[15]基于地理和类别相关性插入中间POI,而AG-TDA[16]则通过图扰动和自适应关系挖掘来增强序列。然而,这些方法仍缺乏对用户兴趣水平或多模态语义一致性的显式控制。在表示学习方面,CL4SRec[17]和ContrastVAE[18]等对比学习方法已被应用于下一个POI推荐,通过增强视图学习更鲁棒的用户表示。同时,多模态学习被引入以丰富POI表示。POI通常与图像、评论和元数据相关联,这不仅增强了单个POI表示的质量,还为序列级建模提供了更丰富的语义支持。例如,MMPOI[19]整合了图像、文本和元数据以学习更具表达力的POI表示。M3PT[20]和Mandari[21]探索了多模态信息在序列表示中的应用,而MMSSL[22]等自监督框架进一步挖掘了模态内和模态间的关联,为下一个POI推荐提供了全面的语义理解。然而,现有的面向长尾用户的下一个POI推荐方法面临两个核心挑战:
- **[C1] 长尾用户的多模态信息融合存在噪声且缺乏区分性。** 不同模态中异构语义和噪声使无差别融合对行为监督极其有限的长尾用户尤为有害。多模态数据为POI提供互补但语义异构的信息。现有方法通常统一融合这些模态,忽略了固有的噪声和跨模态语义差异[19]、[21]、[23]。对于具有极短POI序列的长尾用户而言,行为监督的不足使得难以识别哪些模态真正具有信息量。结果,不相关的噪声模态信号淹没了有限的监督信号。虽然多模态信息有利于数据丰富的用户,但无差别的融合会放大噪声并降低长尾用户的性能。
- **[C2] 长尾用户简短POI序列的数据增强无效。** 传统的数据增强算子往往无法为长尾用户的简短交互序列生成有意义的变异,有时甚至引入有害的扰动。大多数现有的数据增强操作,如掩蔽、裁剪、重排序或生成性扰动,都是为具有较长交互历史的用户设计的,并严重依赖充分的上下文信息[15]、[17]、[24]、[25]。当应用于简短的POI序列时,这些操作往往进一步减少了本就稀缺的信息内容,或引入不反映用户真实兴趣的人造物品。结果,生成的增强视图要么缺乏信息量,要么具有误导性,在训练过程中提供弱或偏的监督信号。
为了解决这些挑战,我们提出了MSCL-Tail,一种面向长尾用户下一个POI推荐的多模态语义增强对比学习方法。MSCL-Tail整合图像、评论和元数据,执行多模态语义感知的相似POI选择,并应用选择性融合以过滤噪声并平衡各模态的贡献。生成的高质量相似物品随后被用于构建两个专门的POI序列增强算子,即多模态语义插入(MSI)和多模态语义替换(MSS),从而为具有简短POI签到序列的长尾用户生成更丰富的自监督信号。此外,MSCL-Tail通过纳入时空校准来增强主要的下一个POI推荐任务,以更好地反映真实世界的移动模式。最后,MSCL-Tail采用多任务训练策略,通过参数共享联合优化下一个POI推荐目标和多模态语义增强对比学习目标。这种整合使MSCL-Tail能够专门针对长尾用户的极短POI序列学习判别性表示。图2展示了MSCL-Tail的流程图。本文的主要贡献总结如下:
1. **面向降噪和选择性融合的多模态语义感知相似POI选择。** 我们提出了一种多模态语义感知的POI相似度选择流程,从各模态(如视觉内容、文本评论和元数据)独立地导出POI相似度。与现有多模态POI建模方法中常用的朴素融合策略不同[19]、[21]、[26]、[27],我们的方法通过可学习的权重系数整合这些模态特定的相似度。该过程生成高质量的候选POI用于序列增强,并降低长尾用户的多模态噪声[C1]。
2. **面向长尾用户简短POI序列的专用增强算子。** 我们设计了两个多模态语义感知的POI序列增强算子(即MSI和MSS),将由多模态相似度模块选择的语义一致的替代POI注入或替换序列中的POI。与可能破坏稀缺简短POI序列信号的通用扰动不同[15]、[17]、[24]、[25]、[28],MSI和MSS保持序列完整性,同时有意义地丰富上下文,为长尾用户生成可靠的自监督视图[C2]。
3. **面向长尾用户下一个POI推荐的多模态语义增强对比学习。** 我们将多模态语义感知的选择和增强流程整合到对比自监督目标中,并与主要推荐损失联合优化。通过在监督推荐任务和对比任务之间共享网络参数,MSCL-Tail学习了具有语义基础的多模态序列表示。与依赖通用、无约束序列扰动的先前方法不同[17]、[18]、[29],MSCL-Tail生成的表示对噪声更具鲁棒性,更适合极短的POI序列[C1, C2]。
本文其余部分组织如下:第2节回顾了下一个POI推荐、多模态POI推荐以及基于对比学习推荐的代表性研究。第3节详细阐述了所提方法的内容,包括多模态语义感知的相似POI选择、面向长尾用户的POI序列增强算子以及多任务联合学习。第4节报告了实验设置和结果。第5节对论文进行了总结并讨论了未来的研究方向。
# 相关工作
本节回顾了关于下一个POI推荐的代表性研究,并总结了多模态POI推荐和基于对比学习方法在最新进展方面的成果。
# 方法
在本节中,我们首先介绍全文使用的主要符号,讨论并形式化MSCL-Tail所解决的问题。然后,我们给出MSCL-Tail每个组件的正式描述。此外,我们还对MSCL-Tail的时间复杂度进行了分析。
# 实验
在本节中,我们首先描述实验设置。然后,我们呈现MSCL-Tail与当前最先进基准方法在下一个POI推荐中的全面比较,分别在整体用户和长尾用户上评估性能。接下来,我们进行消融研究以检验MSCL-Tail中各个关键组件的单独贡献。最后,我们进行敏感性分析以研究关键超参数对模型性能的影响。
# 结论与未来工作
在本文中,我们提出了MSCL-Tail,一种多模态语义增强对比学习方法,用于应对长尾用户下一个POI推荐的关键挑战。面对极短签到POI序列和无差别多模态融合噪声的双重障碍,MSCL-Tail引入了三项关键创新:(1)具有选择性融合的多模态语义感知相似POI选择过程,该过程过滤噪声跨模态关联并识别高质量的...
# CRediT作者贡献声明
Zhipeng Zhang:写作—初稿、获取研究资金、概念构思。
Mengyao Wang:验证、数据整理。
Yao Zhang:指导、方法论。
Yonggong Ren:软件、获取研究资金。
# 未引用的参考文献
[40]、[41]
# 利益冲突声明
作者声明他们不存在已知的竞争性经济利益或个人关系可能影响本文所报告的工作。
# 致谢
作者感谢以下资金支持:辽宁省科学技术厅重点研发计划(编号:2025JH2/101330116)、辽宁省自然科学基金联合基金计划(编号:2025-MSLH-439)、辽宁师范大学高层次人才培养计划(编号:25GDL005)。
Zhipeng Zhang | Mengyao Wang | Yao Zhang | Yonggong Ren
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号