RGPTN：在带有噪声标签的图、超图和异构图上进行的学习

《Knowledge-Based Systems》：RGPTN: Learning on graphs, hypergraphs, and heterogeneous graphs with noisy labels

　　摘要
图神经网络在图学习任务中取得了出色的性能。然而，它们对标签噪声非常敏感，这可能会导致错误通过图结构传播并影响模型优化。现有的鲁棒方法通常是为单一图范式设计的，并依赖于成对的结构假设，这限制了它们在复杂场景中的有效性，例如具有更高阶交互的超图和具有多类型关系的异构图。在这项工作中，我们提出了鲁棒图传播-变换网络（RGPTN），这是一个统一的图学习框架，用于处理同质图、超图和异构图中的标签噪声。RGPTN整合了两个关键组件：结构统一和监督增强。具体来说，它构建了一个基础图，将多样化的交互表示为一般的关系形式，使得信息能够在解耦的传播-变换架构中一致传递。基于跨范式的图表示，RGPTN使用静态到动态的重新加权策略来增强监督信号以抑制噪声，并通过熵约束来恢复标签。在12个基准数据集上的广泛实验表明，RGPTN在对抗标签噪声方面始终表现出很强的鲁棒性，并且具有良好的跨范式泛化能力。

引言
近年来，图神经网络（GNN）在节点分类任务中取得了快速进展，并展示了强大的性能[1]。然而，在现实世界场景中，它们的性能可能会受到噪声的显著影响[2]、[3]、[4]。在不同类型的噪声中，标签噪声是最关键的挑战之一，因为获取高质量的手动注释通常成本高昂且容易受到注释者偏见的影响，从而使训练数据中引入噪声标签[5]。这种噪声监督会通过图结构诱导错误传播，严重影响GNN的学习过程，最终导致性能大幅下降[6]、[7]。因此，如何在噪声标签的情况下进行学习已成为开发可靠图学习系统的一个关键挑战。
为了解决图学习中的标签噪声问题，已经提出了各种鲁棒方法[5]。早期研究试图从计算机视觉中的带标签噪声学习（LLN）研究转移策略[8]、[9]。然而，这些方法大多忽略了图数据中的拓扑依赖性，导致性能不佳[5]。这一限制促使越来越多的研究聚焦于带标签噪声的图学习（GLN），通过明确结合结构信息来增强鲁棒性。现有的GLN方法大致可以分为几类：多任务正则化方法引入辅助目标（如链接预测）以提高表示的鲁棒性[10]；对比学习方法利用增强视图来捕捉数据的内在一致性并减轻标签损坏[11]、[12]；课程学习方法根据预定义的难度标准逐渐引入从简单到困难的训练样本，以减少对噪声标签的过早过拟合[13]、[14]；邻域一致性方法利用来自原始图结构或手动构建图的邻居节点之间的一致性来识别和纠正噪声标签[6]、[15]、[16]、[17]、[18]。
尽管这些方法有效，但它们主要为同质图开发。它们的鲁棒机制通常依赖于结构依赖的假设，例如成对一致性。然而，这些假设并不自然地适用于更复杂的图范式，如超图[19]和异构图[20]，在这些图中，更高阶的关系和多类型交互会显著改变信息传递和标签噪声传播。因此，现有方法往往对底层的图范式敏感，限制了它们在更一般场景中的适用性。
因此，开发一个在各种图范式中都有效的通用GLN框架非常重要。然而，由于两个关键挑战，这并不容易实现，如图1所示。(1) 结构不对齐。标签噪声传播与图结构紧密耦合。不同的图范式表现出不同的关系语义，导致噪声传播行为有显著差异。在同质图中，噪声主要通过成对边传播。在超图中，更高阶的关系会引起组成员间的交互和多节点依赖。在异构图中，多种节点和关系类型引入了多样化的语义路径，标签噪声可能沿着这些路径以不同的模式和强度传播。这种结构多样性使得设计一个适用于各种图范式的统一鲁棒机制变得困难。(2) 监督稀缺。现实世界中的图通常是稀疏且连接不均匀的[21]、[22]，这限制了可靠邻域监督的可用性。由于GLN方法通常依赖邻域信息来识别和减轻噪声标签，稀疏的连接性会大大降低它们的有效性。在高噪声率下，这一问题更加明显，因为可靠的邻居更加罕见，使得区分干净标签和损坏标签变得更加困难，增加了训练期间错误累积的风险。
为了解决这些挑战，我们提出了鲁棒图传播-变换网络（RGPTN），这是一个统一的图学习框架，用于处理同质图、超图和异构图中的标签噪声。RGPTN基于两个关键思想：结构统一和监督增强。(1) 结构统一。RGPTN构建基础图，为不同的图范式提供统一的视图。它以一般的关系形式表示成对、更高阶和异构交互，并实现跨图范式的一致信息传递机制。基于这种表示，RGPTN采用解耦的传播-变换架构，首先捕获结构信息，然后进行轻量级的特征变换。这种设计支持跨图范式的表现力强且高效的学习。(2) 监督增强。RGPTN通过两个耦合过程来增强监督信号，即噪声抑制和标签恢复。具体来说，RGPTN采用静态到动态的重新加权策略来降低不可靠节点的权重，其中初始节点可靠性在训练前进行估计，然后根据嵌入引导的邻域内的预测一致性进行迭代细化。此外，RGPTN鼓励信心强的预测逐渐从噪声标签中恢复有用的监督信号。在12个基准数据集上的广泛实验表明，RGPTN在各种噪声设置下始终表现出很强的鲁棒性，并且在跨图范式上具有有效的泛化能力。本工作的主要贡献总结如下：
- 一个用于带噪声标签的图的通用学习框架。我们提出了RGPTN，这是一个统一的框架，用于在同质图、超图和异构图下进行鲁棒学习。
- 一种跨范式图表示的结构统一方案。我们构建了一个基础图，并开发了一个解耦的传播-变换架构，以实现跨图范式的一致和高效学习。
- 一种对抗标签噪声的监督增强策略。我们设计了一种训练策略，将静态到动态的噪声抑制与标签恢复相结合，有效减少了噪声监督的影响，同时逐步提取可靠的训练信号。
- 全面的评估。我们在三种图范式的12个基准数据集上进行了广泛实验，证明了RGPTN在对抗标签噪声方面具有很强的鲁棒性，良好的跨范式泛化能力，并且与最先进的基线相比具有竞争力。

图神经网络（GNN）已成为图结构数据表示学习的强大方法[1]。早期的GNN研究主要集中在同质图上，其中节点和边是单一类型的，关系由成对链接表示。代表性的架构，如GCN[23]、GraphSAGE[24]和APPNP[25]，通过递归聚合来自局部邻域的信息来传播和变换节点特征。
与只建模成对关系的同质图不同，
同质图
同质图定义为G=(V,E)，其中V={v1,v2,…,vN}表示N个节点的集合，E?V×V表示连接节点对的边集合。图结构可以用邻接矩阵A∈{0,1}N×N表示，如果(vi,vj)∈E则Ai,j=1，否则Ai,j=0。每个节点vi都与一个特征向量Xi∈Rd相关联，所有节点特征堆叠成一个特征矩阵X∈RN×d。
超图
超图通过建模多个节点之间的更高阶关系来泛化成对图。正式地，超图的概述如下：
RGPTN遵循一个统一的流程，整合了结构统一和监督增强。它首先构建一个基础图来统一不同的图范式，然后通过解耦的传播-变换架构进行表示学习。然后通过抑制噪声监督并进一步恢复可靠标签来改进训练。图2展示了整个框架。
为了实现对多样化图范式的统一处理，我们进行了广泛的实验来回答以下研究问题：
RQ1（跨图范式的鲁棒性）：RGPTN能否在不同类型的噪声和噪声率下一致地处理同质图、超图和异构图中的噪声标签？
RQ2（跨范式泛化）：当将原本为同质图设计的鲁棒GNN方法转移到其他图范式时，RGPTN与它们相比如何？
RQ3（组件消融）：关键组件的缺失会对RGPTN的性能产生什么影响？

结论和未来工作
在这项工作中，我们提出了RGPTN，这是一个用于在带噪声监督下进行鲁棒图学习的通用框架，适用于同质图、超图和异构图。具体来说，RGPTN将不同的图范式建模为一个通用基础图表示，并引入了一个解耦的传播-变换架构来实现一致的信息传递。基于这种结构统一，RGPTN进一步结合了一个监督增强机制来抑制不可靠的节点。
作者贡献声明
甘泽明：撰写——原始草案、软件、方法论、概念化。
苏琳琳：撰写——审阅与编辑、验证、软件、方法论。
王金燕：验证、监督、方法论、资金获取。
李仙仙：验证、监督、方法论、资金获取。

关于生成式AI和AI辅助技术在写作过程中的声明
在准备这项工作时，作者使用了大型语言模型（例如DeepSeek）来提高手稿的可读性和语言质量。使用这些工具后，作者根据需要审阅和编辑了内容，并对已发表文章的内容负全责。

关于利益冲突的声明
作者声明他们没有已知的财务利益或个人关系可能会影响本文报告的工作。

致谢
本文得到了中国国家自然科学基金（编号U21A20474和62162005）、广西自然科学基金（编号2026GXNSFAA00641126）、广西研究生教育创新项目（编号YCBZ2025078和XYCB2025027）、广西“八桂青年拔尖人才”培训项目、广西“八桂学者”创新研究团队以及广西多源信息整合与智能处理协同创新中心的支持。

甘泽明 | 苏琳琳 | 王金燕 | 李仙仙