基于残差重参数化与证据一致性的可靠性感知矩阵分解

《Neurocomputing》：Reliability-aware matrix factorization via residual reparameterization and evidence consistency

　　梁晨|杨云 中国江苏省苏州市苏州大学 215222 摘要 在用户反馈具有分布不规则性的情况下，实现可靠且可解释的偏好推断仍是推荐系统面临的核心挑战。这种不规则性通常表现为评分分布的偏斜、重尾以及稀疏性，这些特征会扭曲残差结构，破坏潜在因子估计的稳定性，进而削弱模型解释的依据。为解决这些问题，我们提出了广义可解释矩阵分解（GEMF），这是一种具有可靠性意识的矩阵分解框架，它将残差重参数化与基于证据的可靠性建模相结合。具体而言，GEMF通过引入广义逻辑变换来重新参数化评分空间，同时保留序数偏好关系。在转换后的空间中，通过联合建模相似用户之间的语义一致性以及局部偏好排序的序数一致性，来估计交互层面的可靠性。所得到的可靠性权重被纳入一个统一的优化目标函数中，该函数综合考虑了重建、基于可靠性的对齐、对比分离以及正则化作用。在三个Jester数据集和MovieLens-1M上的实验表明，GEMF在密集型不规则反馈和稀疏型显式反馈场景下均表现出优异的整体性能，从而证明了将残差稳定化与交互层面可靠性建模相结合对于实现稳健且可解释的推荐具有重要意义。引言 推荐系统是现代信息服务的核心组成部分，而准确且可解释的偏好建模对于做出可靠决策至关重要。矩阵分解作为一种基本的推荐范式，因其能够以良好的可扩展性和有效性学习出紧凑的用户-物品表示而备受青睐[1]、[2]。然而，现实中的用户反馈往往呈现出偏斜、重尾、异构以及多模态的分布特征。这类不规则的反馈会扰乱传统平方损失矩阵分解所依赖的残差结构，从而导致优化过程不稳定，产生的潜在表示也不可靠。如图1所示，Jester数据集的评分分布存在明显的偏斜和多模态特征，这反映了用户偏好的多样性以及交互强度的不均衡性[3]、[4]。尽管传统矩阵分解并未明确假设评分服从高斯分布，但其平方重建损失函数更倾向于那些具有相对对称且轻尾特征的残差。当这一条件不被满足时，极端评分可能会主导梯度更新，噪声较大的交互数据可能会扭曲潜在因子，而在训练过程中，支持度较低的观测值则可能受到过度影响[5]、[6]。这种残差层面的不稳定性也会降低模型的可解释性，因为基于不稳定表示得出的解释可能反映的是分布特性而非可靠的协同证据。现有研究主要从两个方向来解决这一问题：一类是具有鲁棒性和分布意识的可推荐方法，它们引入替代的似然假设，如泊松分解和指数族建模，或采用鲁棒目标函数来降低不规则观测值的影响[7]、[8]、[9]；这类方法虽然提升了优化的稳定性，但往往依赖于特定的分布假设或定制化的损失函数。另一类则是可解释性推荐方法，它们通过邻域相似性、注意力机制、解释性特征或结构约束等方式提高模型的透明度[10]、[11]、[12]、[13]。然而，许多此类方法侧重于语义层面的透明度，却忽视了底层反馈分布是否能够支撑稳定的解释。因此，在现有的基于矩阵分解的模型中，鲁棒性与可解释性之间仍然缺乏足够的关联。为填补这一空白，我们提出了广义可解释矩阵分解（GEMF），这是一种针对分布不规则反馈的、具有可靠性意识的矩阵分解框架。GEMF将每个观测到的评分视为具有不同可靠性的训练样本和协同证据。首先，它通过引入广义逻辑变换来重新参数化评分空间。与普通的标准化处理不同，广义逻辑变换能够以单调的方式重新参数化残差，从而在保留序数偏好关系的同时重塑有效的优化几何结构。其次，GEMF通过证据一致性来估计交互层面的可靠性——其中语义一致性用于判断相似用户是否支持某次交互，而序数一致性则用于检验该交互是否符合当地的偏好排序。之后，这些可靠性权重会被纳入一个统一的优化目标函数中，该函数共同调控重建、基于可靠性的对齐、对比分离以及正则化等操作。通过这种方式，GEMF将残差稳定化、可靠性估计以及可解释的表示学习整合在一个统一的框架之中。本研究的主要贡献如下：•我们提出了一种基于广义逻辑变换的残差重参数化策略，该策略能够在保持序数偏好关系的同时，稳定地在偏斜和重尾反馈下的矩阵分解学习过程。•我们开发了一种基于证据一致性的可靠性模型，该模型结合了语义一致性和序数偏好一致性，用于估计交互层面的可靠性。•我们构建了一个具有可靠性意识的矩阵分解目标函数，该函数同时考虑了重建精度、基于可靠性的对齐、对比分离以及正则化等因素。•大量实验结果表明，该框架在面对不规则反馈条件时，能够提升模型的鲁棒性和预测性能。本文结构：本文的其余部分安排如下：第2节回顾相关研究，第3节明确问题定义，第4节介绍所提出的GEMF框架，第5节汇报实验结果及分析。相关研究 本节梳理了与所提出的GEMF框架密切相关的现有研究。我们从三个概念维度展开讨论：（i）用于推荐的矩阵分解模型，（ii）对非高斯及不规则评分分布的鲁棒性，（iii）可解释的推荐模型。同时，我们也指出了现有方法的局限性，并阐述了为何需要一个能够同时兼顾鲁棒性与可解释性的统一框架。问题描述 设用户集合为，物品集合为。观测到的反馈由部分观测到的评分矩阵表示，其中表示用户对物品给出的评分（若存在则为该值）[26]。我们用表示已观测到的交互对集合。推荐系统的目标是为每个候选物品估计其未被观测到的偏好得分，并据此对物品进行排序：其中表示用户已经观测过的物品。本研究聚焦于不规则评分条件下的显式反馈推荐问题。所提出的模型 算法1 GEMF框架 为解决显式反馈推荐中存在的分布不规则性以及可解释性不足的问题，我们提出了GEMF，这是一种具有可靠性意识的矩阵分解框架，它将残差稳定化与基于证据的可靠性建模相结合。如算法1所示，GEMF首先通过广义逻辑变换将观测到的评分映射到一个稳定的空间中，随后通过结合语义一致性和序数偏好关系来估计交互层面的可靠性。实验 本节从预测精度、泛化能力、计算效率、参数敏感性以及各组件的有效性等方面，对所提出的GEMF框架进行评估。所有实验都遵循统一的流程：先将观测到的评分划分为训练集、验证集和测试集。GEMF首先对训练集的评分应用广义逻辑变换，然后基于语义和序数证据构建交互层面的可靠性权重，进而学习用户和物品的特征。结论 本研究探讨了在分布不规则反馈条件下实现可靠且可解释的推荐方法。为解决由偏斜、重尾以及稀疏评分分布所带来的不稳定性问题，我们提出了GEMF，这是一种具有可靠性意识的矩阵分解框架，它将残差重参数化与基于证据的可靠性建模相结合。具体而言，广义逻辑变换能够在保留序数偏好关系的同时重新参数化评分空间，而CRediT作者贡献说明 梁晨：撰写——初稿、可视化、监督、软件、资源、项目管理、方法论、研究工作。杨云：撰写——初稿、监督、软件。利益冲突声明 作者声明不存在任何可能影响本文研究成果的已知财务利益或个人关系。梁晨博士于2023年获得华东师范大学数据科学与工程学院的软件工程博士学位。他目前是苏州大学未来科学与工程学院的讲师兼硕士生导师，同时担任苏州大学与吴江区大数据公司合作的“大数据应用技术联合创新实验室”的副主任。他的研究方向为……