《Neurocomputing》:FairFU: A study of fair recommendation mechanisms for graph comparison by fusing structural interaction and information bottlenecks
编辑推荐:
公平推荐模型FairFU通过深度交互融合、图扰动对比学习和双路径信息瓶颈正则化,有效抑制敏感属性偏见并提升推荐性能,实验验证其优于现有方法。
Bing Li|Xiaojian Xing|Zijun Lin|Xile Wang|Jiangtao Dong
江西师范大学人工智能学院,中国南昌
摘要
个性化推荐系统被广泛应用于各种在线服务中。它们通过挖掘历史用户行为数据来建模用户偏好,以实现个性化信息过滤。然而,在实际应用中,由于敏感属性的偏见,这些系统容易导致群体不公平问题。为了解决这些问题,现有研究从互信息最小化、图结构建模和对比学习的角度引入了公平性建模机制,这在一定程度上减轻了敏感信息的干扰。尽管如此,这些方法仍存在局限性,如单路径功能、结构偏见的未建模传播以及对比设计不足,使得在动态环境中难以在公平性和推荐性能之间取得稳定平衡。基于这些局限性,本文提出了一种名为FairFU的公平推荐方法,该方法整合了深度交互融合模块、图扰动对比学习和双路径信息瓶颈正则化。该方法的核心思想是构建一条信息瓶颈路径来压缩与敏感属性相关的信息,同时引入结构扰动对比学习和深度交互融合机制,以在推荐任务中充分保留关键协同信号并增强嵌入表示能力。在两个真实世界数据集上的实证研究表明,FairFU在有效抑制敏感信息引起的不公平偏见的同时,显著提高了推荐准确性,优于现有的主流公平推荐方法,并表现出优异的准确性-公平性权衡能力。
引言
在信息过载的时代,推荐系统已成为连接用户与内容的重要桥梁。无论是通过电子商务平台的产品推荐,还是社交媒体上的内容推送,个性化推荐在提升用户体验和平台效率方面都起着关键作用[1]。近年来,深度学习[2]和图神经网络(GNNs)[3]的进步显著增强了推荐系统的建模能力。这些技术不仅能够捕捉非线性行为,还能建模复杂的更高阶结构关系,推动推荐准确性的持续提升。尽管推荐效果不断改进,但推荐系统内的公平性问题日益受到关注。用户通常具有性别和种族等敏感属性[4]。当这些属性被模型隐式编码到用户表示中时,可能会导致对特定群体的偏见预测,从而带来内容歧视和机会不平等等伦理风险。例如,在招聘系统中,如果模型在学习用户特征时不可控地捕获了性别信号,它们可能会不成比例地向某些群体推荐低薪职位,从而加剧就业不平等[5]。因此,在不损害推荐性能的情况下有效控制用户表示中对敏感信息的依赖已成为推荐系统研究中的一个关键挑战。
当前推荐系统中的大多数公平性控制方法主要集中在表示空间层面的干预。常见策略包括通过基于互信息的目标来抑制敏感因素,或通过图结构建模来调节偏见传播。然而,一些代表性方法依赖于全局互信息优化,如FairMI及相关信息瓶颈或因果嵌入方法[7]、[8]、[9]、[10]、[11],这些方法主要将公平性视为静态表示压缩的问题。这些方法往往忽略了用户行为图的演化性质以及协作交互过程中隐藏的结构偏见的传播。相比之下,基于图的公平性方法,包括FairWalk、FairEGM和个性化子图建模方法[6]、[12]、[13]、[14]、[15],试图通过结构解耦或局部传播控制来调节公平性。虽然这些方法在提高局部邻域公平性方面有效,但通常缺乏对复杂交互路径和高阶协作表示中嵌入的敏感信息的细粒度控制。因此,现有方法难以精确抑制复杂结构嵌入中的敏感信息泄露。此外,尽管结构增强技术(如图神经网络和对比学习)可以提高表示能力,但如果控制不当,也可能放大结构敏感性,从而在公平性约束和结构建模之间产生潜在冲突。本文的核心问题是如何在增强表示能力的同时有效抑制敏感信息。
为了解决这个问题,本文提出了FairFU,这是一种公平推荐模型,它整合了深度交互融合模块、图扰动对比学习和双路径信息瓶颈正则化。该模型旨在通过节点级结构建模和敏感信息对齐机制,显著减少用户表示中对敏感属性的依赖,从而提高推荐准确性。具体而言,FairFU在其主要架构中设计了两种推荐主干结构:一种基于传统查找的BPR嵌入模型,另一种基于邻接传播的LightGCN图卷积模型,以适应不同的结构表示需求。在此基础上,模型进一步加入了深度交互融合模块。该模块通过节点级图到图嵌入对齐提取高阶特征,并使用图扰动视图构建SimGCL对比目标,以增强结构表示的一致性和泛化能力。此外,模型还包括一个敏感因子编码器,通过结构分类学习生成结构感知的敏感表示。这些被信息瓶颈正则化模块用于表示级别的敏感度对齐。最终,FairFU通过联合优化推荐排名损失、信息瓶颈损失、对比学习损失和正则化项,实现了性能和公平性的协同提升。
为了验证模型的有效性,我们在多个公共数据集上进行了实验评估。结果表明,FairFU不仅在推荐准确性上优于几种比较模型,而且在抑制敏感属性干扰和控制公平性方面也表现出显著优势。本工作的主要贡献如下:
- 从传播路径的角度分析图推荐中的公平性问题发现,敏感信息不仅在初始用户表示中泄露,在图卷积过程中也会被结构放大。基于这一观察,我们提出了一种双路径信息瓶颈机制,该机制在图卷积之前约束初始表示,在图卷积之后约束结构增强后的表示,从而抑制敏感信息在更高阶邻域中的传播和放大。
- 为了在多阶段表示中实现双路径公平性约束的协同效应,我们提出了一种结构交互融合和扰动一致性的联合机制。具体来说,结构交互融合模块在统一的表示空间中对初始表示与图传播表示进行对齐,为跨不同表示阶段的共同约束信息瓶颈提供了结构基础。同时,它在结构扰动下引入对比一致性约束,以稳定扰动图结构中信息瓶颈的优化过程,从而提高公平性约束的一致性和可靠性。
- 在多个真实世界推荐数据集上的系统实验表明,所提出的方法显著减少了用户表示中对敏感属性的依赖,同时保持了推荐准确性。消融研究进一步验证了双路径信息瓶颈及其互补机制在准确性-公平性权衡中的关键作用,始终优于各种公平推荐基线。
深度学习推荐模型中的挑战
在不断发展的深度学习推荐模型的背景下,这些模型依赖的行为数据具有大规模、复杂结构和属性敏感性等特点,对推荐表示的稳定性和公平性提出了新的挑战。研究人员提出了多种技术方法来应对这些挑战,包括特征压缩、表示偏见缓解、结构增强和公平性
方法和模型设计
如图1所示,本文提出了FairFU,这是一种公平推荐模型,它整合了深度交互融合模块、图扰动对比学习和双路径信息瓶颈正则化。该模型旨在在有效抑制表示中敏感用户信息(如性别)潜在泄露的同时,提高推荐准确性
实验数据集
为了验证所提出模型在不同推荐场景中的适应性和有效性,我们使用了两个广泛使用的公共推荐数据集MovieLens-1M [20]和LastFM [21],如表1所示。这两个数据集都展示了标准的用户-项目交互结构,并提供了性别信息,这被用作我们公平性评估中的敏感属性。这些数据集在之前的公平推荐研究中得到了广泛使用,使得研究具有意义
结论
本文通过提出FairFU来解决推荐系统中普遍存在的敏感属性偏见问题。这种公平推荐方法整合了深度交互融合模块、图扰动对比学习和双路径信息瓶颈正则化。与将所有优化目标统一到单一推荐路径的方法不同,FairFU构建了一条平行的敏感信息抑制路径,以独立建模潜在的偏见
Bing Li: 监督,项目管理。
Xiaojian Xing: 验证。
Zijun Lin: 可视化。
Xile Wang: 验证。
Jiangtao Dong: 调查。
竞争利益声明
作者声明他们没有已知的竞争财务利益或个人关系可能影响本文报告的工作。
致谢
本工作得到了中国国家自然科学基金(项目编号72161020)、江西省自然科学基金(项目编号20224BAB202023)和江西省技术创新基地计划(项目编号20242BCC32021)的支持。
Bing Li出生于1986年。他于2014年在中国武汉工业大学获得管理科学与工程博士学位。他目前是江西师范大学人工智能学院的副教授,负责一些由中国自然科学基金资助的研究项目。他的研究兴趣包括服务推荐、数据挖掘和信息管理。