# 中文标题 基于偏置均匀性与冗余消除的双重协同过滤推荐方法

《AI Open》:DCF: Uniformity optimization for dual collaborative filtering

【字体: 大 中 小 】 时间:2026年09月16日 来源:AI Open 8.9

编辑推荐:

  # 摘要翻译 近年来,对齐与均匀性(Alignment and Uniformity,AU)已被认为是增强协同过滤(Collaborative Filtering,CF)中用户和物品表示的有效策略。不同于依赖负采样的传统协同过滤损失函数(如贝叶斯个性化排序,

  
# 摘要翻译

近年来,对齐与均匀性(Alignment and Uniformity,AU)已被认为是增强协同过滤(Collaborative Filtering,CF)中用户和物品表示的有效策略。不同于依赖负采样的传统协同过滤损失函数(如贝叶斯个性化排序,Bayesian Personalized Ranking,BPR),基于对齐与均匀性的方法专注于为用户和物品表示施加均匀分布,直接对齐正样本用户-物品对。然而,现有的基于AU的方法通过分析发现,广泛使用的"均匀性"损失并不总能产生真正的均匀分布,其可能陷入局部最小值,导致表示聚集在一个低维子空间内。这一问题源于忽视了用户和物品均匀性之间显著的统计特性差异。这一疏忽未能考虑到用户和物品数量上的显著差异及其交互分布的差异,这需要不同的处理方式。为了解决这些挑战,有必要区分用户均匀性和物品均匀性,因其存在不同的统计特性而应区别对待。受此启发,研究人员提出了偏置均匀性(biased uniformity)和冗余消除(redundancy reduction)方法,并将其纳入基于AU的协同过滤损失中,从而发展出新的目标函数,称为双重协同过滤(Dual Collaborative Filtering,DCF)。所提出的DCF方法在广泛使用的基准数据集上表现出当前最优性能,超越了基于AU的基线方法,从而证实了其有效性。
# 论文解读

**一、研究背景与问题提出**

推荐系统广泛应用于视频推荐和电子商务等多种场景,协同过滤(Collaborative Filtering,CF)是提升推荐系统性能的关键技术。近年来,基于对齐与均匀性(Alignment and Uniformity,AU)的策略被认为是增强协同过滤中用户和物品表示学习的有效方法。与传统依赖负采样的贝叶斯个性化排序(Bayesian Personalized Ranking,BPR)损失不同,基于AU的方法专注于为用户和物品表示施加均匀分布,并直接对齐正样本用户-物品对。代表性工作DirectAU通过引入对齐损失(alignment loss)拉近正样本对的距离,同时利用均匀性损失(uniformity loss)使整体分布更加均匀。

然而,研究人员通过分析发现了一个关键问题:现有AU方法中广泛使用的均匀性损失函数并不总能产生真正均匀的分布。具体而言,由于均匀性计算基于欧氏距离,当两个节点距离为零时极易发生重叠,导致产生极端分布(extreme distribution)——即表面上损失函数值相同,但实际上表示聚集于低维子空间的局部区域内。研究人员通过构造一个包含四个节点的示例(均匀分布与极端分布得出相同的损失值-64)清晰地揭示了这一问题。此外,现有方法忽视了用户和物品之间显著的统计特性差异,包括数量差异和交互分布差异,采用相同的权重处理用户均匀性和物品均匀性,这并非最优方案。

针对上述问题,研究人员对现有协同过滤方法从三个类别进行了系统比较:实例级协同过滤(Instance-wise CF,ICF)、特征级协同过滤(Feature-wise CF,FCF)以及两者的结合(ICF+FCF)。其中,ICF方法(如DirectAU及扩展工作)从实例角度追求均匀分布,但容易产生冗余解(redundant solutions);FCF方法(如CL4CTR)优先进行特征表示学习,最小化表示间的冗余,但依然受极端均匀性困扰;ICF+FCF方法(如RecDCL)探索了两者的优势,但仅在高维表示(如2048维)下才显示出优势,在常用的64维设置下效果甚微。本研究旨在从ICF和FCF两个角度增强协同过滤中的均匀性,避免或缓解极端分布的出现。

**二、研究内容与意义**

研究人员开展了系统的实证研究并提出了双重协同过滤方法(Dual Collaborative Filtering,DCF)。首先,通过定义"边际度量"(Margin Metric)来量化嵌入空间中表示分散的程度,实验发现不同模型用户和物品嵌入分布存在不平衡现象。其次,通过引入FCF目标函数,在特征维度上优化交叉相关矩阵,使样本表示趋于正交,从而解决极端分布问题。在此基础上,DCF框架整合了两个核心组件:基于ICF的偏置均匀性协同过滤(Biased Uniformity Collaborative Filtering,BUCF)和基于FCF的冗余消除协同过滤(Redundancy Reduction Collaborative Filtering,RRCF)。BUCF通过为用户和物品均匀性损失函数分配不同的权重系数来捕捉推荐场景中多样化的数据分布;RRCF通过构建用户-物品正样本对的交叉相关矩阵,最小化矩阵非对角线元素来降低特征冗余。DCF可与任意基于AU的目标框架无缝集成,在三个公开数据集上的实验表明,该方法超越了当前最优的基于自监督学习和基于AU的协同过滤方法,证实了其有效性。

**三、关键技术方法**

研究方法主要涉及以下关键技术:(1)基于矩阵分解(Matrix Factorization,MF)和LightGCN的编码器架构,用于学习用户和物品的表示嵌入,嵌入维度固定为64;(2)采用Xavier初始化和Adam优化器,学习率设为0.001;(3)实验基于RecBole框架,在三个公开数据集上评估:AMiner(学术网站数据,包含5.3K用户、15.1K物品、163.0K交互)、Beauty(Amazon产品评论数据,包含22.4K用户、12.1K物品、198.5K交互)、Yelp(Yelp2018商业领域数据,包含31.7K用户、38.0K物品、1561.4K交互);(4)评估指标采用Recall@K和NDCG@K(Normalized Discounted Cumulative Gain),K取值{20, 50},按0.8/0.1/0.1划分训练/验证/测试集;(5)运用T-SNE和主成分分析(Principal Component Analysis,PCA)进行降维可视化,使用HDBSCAN聚类分析局部表示重叠,计算簇内相似度(Intra-Cluster Similarity,ICS)和最大近重叠比(Maximum Near-overlap Ratio,MNR)。

**四、研究结果**

**(1)实例级协同过滤实证研究**

研究人员通过构建DirectAU的两个简化变体(仅保留用户均匀性模块的w/o-item和仅保留物品均匀性模块的w/o-user),在三个数据集上验证了用户和物品均匀性对推荐性能的影响。如表2所示,移除任一均匀性组件均导致推荐性能下降,且用户和物品均匀性对不同数据集的影响程度各异。进一步引入边际度量(Margin Metric)分析BPR、BUIR、LightGCN和DirectAU四种模型的嵌入分布,如图2所示,推荐性能从左到右持续提升的同时,用户与物品的边缘距离差异持续减小,表明传统协同过滤模型中用户和物品分布存在显著不平衡。

**(2)局部表示重叠分析**

研究人员通过HDBSCAN聚类分析DirectAU训练过程中用户和物品嵌入的局部重叠情况。如图3所示,簇内相似度(ICS)在训练早期迅速上升至约0.7并保持高位,最大近重叠比(MNR)在早期训练后始终高于0.4,表明在最拥挤的局部区域,超过40%的嵌入对存在近重叠现象(余弦相似度大于0.95)。这一发现为引入特征级正则化目标以降低冗余提供了实证依据。

**(3)特征级协同过滤实证研究**

研究人员将FCF方法直接集成到DirectAU中,在AMiner和Beauty数据集上验证其效果。如表3所示,DirectAU+FCF在AMiner上的Recall@20从49.08提升至49.33,在Beauty上从14.07提升至14.32,表明通过特征级优化均匀性可有效提升推荐性能。研究人员据此提出观察结论:当两个节点重叠易产生极端分布时,FCF机制(强制节点内积趋近于零、促使样本表示正交)有助于实现更完美的均匀分布。

**(4)DCF整体性能评估**

如表5所示,以MF为编码器时,DCF在三个数据集上均取得最优性能:AMiner上Recall@20达50.41,较DirectAU提升2.71%;Beauty上Recall@20达14.57,较DirectAU提升3.55%;Yelp上Recall@20达11.32,较DirectAU提升2.63%。以LightGCN为编码器时(表6),DCF同样保持领先,如Beauty上Recall@20达14.79。DCF相较于LightGCN分别提升6.28%(AMiner)、20.02%(Beauty)和23.45%(Yelp)。

**(5)表示可视化与定量分析**

如图6所示,研究人员利用PCA降维和高斯核密度估计(Kernel Density Estimation,KDE)对Beauty数据集上五种模型的嵌入分布进行可视化。DCF的用户和物品嵌入分布相似且更为集中,均匀分布于较小区域内,有效避免了极端分布,而其他基线模型呈现局部聚集现象。定量分析(表7)进一步表明,DCF在Beauty数据集上Recall@20达14.57的同时,ICS降至0.6239,MNR降至0.0258,均优于DirectAU(ICS 0.6614,MNR 0.0578)和MAWU(ICS 0.6594,MNR 0.0452)。

**(6)效率分析**

如表8所示,在Beauty数据集上以LightGCN为骨干网络时,DCF内存消耗1322MB,每轮训练时间9.94秒,训练20轮收敛,NDCG@20达7.21。与RecDCL相比,DCF内存消耗降低18.4%,每轮训练时间减少52.7%,所需轮次减少80.4%,且NDCG@20从6.26提升至7.21。与MAWU相比,DCF每轮训练时间减少54.7%,总训练时间从504.39秒降至198.80秒,降幅达60.6%。

**(7)消融实验**

如表9所示,移除FCF目标导致Beauty和AMiner上性能持续下降;移除BUCF组件导致性能急剧下降(Beauty上Recall@20从14.57降至3.09);移除对齐目标导致最严重的性能退化(Beauty上Recall@20从14.57降至0.87),证实对齐是基于AU的协同过滤中最基础的优化信号。

**(8)超参数研究**

研究人员系统分析了各超参数的影响。如图7所示,权重系数α的调节应基于数据集中用户和物品的平均交互次数:AMiner上用户平均交互数约为物品的三倍,α应在3附近搜索;Yelp上两者相近,α在1附近搜索。图8显示批次大小并非线性提升性能,过大批次可能引入极端值干扰优化。图9表明DCF在不同嵌入维度下持续优于RecDCL,且不依赖高维表示。图10显示FCF目标系数λ在较宽范围内性能稳定,最佳效果在较小值时取得。

**五、讨论与结论**

本研究针对DirectAU中均匀性函数导致的极端分布挑战展开工作。研究人员从两个角度提出解决方案:一是引入偏置均匀性以适应推荐场景中用户和物品的多样化分布;二是引入冗余消除,通过优化交叉相关矩阵来增加对角线元素之和、减小非对角线元素,促使特征学习更加均衡。综合两个角度提出了双重协同过滤方法DCF,同时优化实例级和特征级目标函数。在三个公开数据集上,以MF和LightGCN为编码器的评估结果表明,DCF超越了当前最优的自监督学习(Self-Supervised Learning,SSL)和基于对齐与均匀性的协同过滤方法。未来工作将聚焦于严重缺失交互和属性的场景,探索自适应缺失数据恢复策略以增强模型的实用性。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号