迈向鲁棒的图神经网络:一种针对图和标签噪声的综合策略

《Information Processing & Management》:Towards robust Graph Neural Networks: A comprehensive strategy against graph and label noise

【字体: 大 中 小 】 时间:2026年10月16日 来源:Information Processing & Management 8.1

编辑推荐:

   提出一个相互正则化的框架以缓解联合图噪声和标签噪声。 • 通过动态探索与静态稳定性引入图增强以应对噪声。 • 设计解耦的标签去噪以限制噪声引起的梯度和传播。 • 开发受控噪声预训练,在双噪声训练之前学习数据先验。 引言 大语言模型(Tang 等,2024)、多智能体协作(

  

提出一个相互正则化的框架以缓解联合图噪声和标签噪声。
• 通过动态探索与静态稳定性引入图增强以应对噪声。
• 设计解耦的标签去噪以限制噪声引起的梯度和传播。
• 开发受控噪声预训练,在双噪声训练之前学习数据先验。

引言

大语言模型(Tang 等,2024)、多智能体协作(Ding 等,2025)和推荐系统(H. Li 等,2025)的最新发展凸显了图结构数据的关键重要性。通过将实体表示为节点,将关系表示为边,基于图的学习方法(以图神经网络(GNN)为代表)已成为图信息处理、关系推理和知识提取的基础方法,在众多应用中展现出卓越的性能和推理能力。然而,这些能力在很大程度上取决于底层图数据的质量。在噪声或对抗性数据投毒的情况下,GNN的性能可能大幅下降。此外,消息传递的递归性质倾向于放大受损信息的影响,从而加剧了基于GNN的模型的脆弱性(Wang, Sun 等,2024)。

研究(Ju 等,2026;Zhong 等,2019)表明,在GNN的消息传递过程中,图噪声和标签噪声表现出有害的耦合效应。例如,虚假边加速了错误标签通过图的传播,而噪声标签反过来误导结构优化。然而,一些现有方法仅关注一种类型的噪声。例如,某些方法通过图增强或边权重学习等图级操作来缓解图噪声(Dai 等,2022;Wu 等,2022),而另一些方法则通过标签校正和正则化技术来处理标签噪声(Li 等,2024;Li 等,2023)。尽管缓解一种噪声可能间接减少另一种噪声的影响,但此类单目标方法无法明确解耦它们的相互干扰,导致在严重双噪声条件下性能次优。近年来,已提出几种统一的防御策略来同时处理两种噪声,但它们仍面临显著的结构挑战。一方面,通过全局自注意力机制绕过消息传递的方法(RNCGLN(Zhu 等,2024))可以防止噪声传播,但牺牲了GNN固有的局部结构偏差,从而降低了在标准或轻度噪声图上的性能。另一方面,保留GNN架构的鲁棒方法(如RTGNN(Qian 等,2023))通常将拓扑优化与标签监督紧密耦合,结构错误和语义错误可能在联合优化过程中相互强化。因此,在保持GNN固有结构敏感性的同时,打破结构与语义之间的误差放大,仍然是一个重要的研究挑战。

为了解决上述挑战,我们提出了一个名为鲁棒结构与标签去噪GNN(RSLD-GNN)的框架,该框架在保留GNN架构的同时,将结构优化与标签优化解耦,使两者相互正则化,从而缓解它们的误差放大。RSLD-GNN引入了平衡且具有探索性的综合图增强机制,其中知识蒸馏将结构信息从动态增强分支转移到静态增强的稳定主干上,从而防止动态增强视图受到潜在有害增强的干扰。为了隔离标签校正过程中结构噪声引起的梯度污染,我们设计了解耦的Mix-Pass自监督约束与独立的标签头,确保生成高质量伪标签的可靠语义路径。最后,优化后的标签结合基于损失的抑制策略动态重新加权边,限制残余噪声的传播路径。此外,每个模块都可以独立预训练,防止在联合优化过程中对多种噪声源过拟合。通过这种设计,结构增强与标签去噪相互引导和正则化,有效抑制了双噪声的放大。

与先前针对图噪声采用分散设计或在处理标签噪声时仅浅层利用图结构的方法不同,本研究提供了以下贡献:
• 我们提出了一个联合处理图和标签噪声的框架。其结构优化修复了因边的添加和删除而受损的图结构,通过蒸馏将动态探索与静态稳定性耦合在一起。
• 我们设计了一条解耦的标签去噪路径,将图噪声梯度与标签校正隔离开来,并采用基于损失的边重新加权来抑制残余噪声,使两种优化形成相互正则化的闭环。
• 我们开发了一种受控噪声预训练方法,使每个模块暴露于单一噪声源,防止在早期对复杂噪声过拟合。
• 我们在多个数据集和噪声设置下进行了广泛评估,证明了所提方法的有效性和鲁棒性。

本文其余部分组织如下。第2节阐述我们的研究目标。第3节回顾相关工作;第4节详细介绍所提出的RSLD-GNN;第5节展示实验设置;第6节报告实验结果;第7节阐述我们工作的应用和概念意义;第8节对本文工作进行讨论和总结。

各节摘要

研究目标

我们的研究目标是开发一个鲁棒的图信息处理框架,在保持可靠的结构和语义信息的同时,联合缓解图噪声和标签噪声。具体而言,我们的研究旨在:
• 开发一个能够提升联合图噪声和标签噪声下图表示可靠性的鲁棒图信息处理框架。
• 设计一个解耦的标签去噪框架,以减少图噪声和标签噪声之间的相互干扰。

面向图噪声的鲁棒学习

尽管GNN取得了出色的性能,但它们容易受到图噪声的影响(Wu 等,2019)。为增强其在图噪声下的鲁棒性,现有研究分为三类:图增强、边权重学习和图生成。

图增强通过移除噪声边或添加缺失边来提高结构质量。方法可分为静态方法(Dai 等,2022)和动态方法(Luo 等,2021;Wu 等,2022;Zhang 和 Zitnik,2020),其中动态方法

方法

在本节中,我们首先定义本文研究的主要问题和基础知识,然后详细介绍所提出的抗噪声方法RSLD-GNN。

实验设置

我们在同时受图噪声和标签噪声影响的数据上评估所提方法RSLD-GNN的性能,旨在回答以下研究问题:
• RQ1:与现有方法相比,我们的方法在受控噪声设置下的表现如何?
• RQ2:我们的方法是否优于现有图去噪和标签去噪技术的直接组合?
• RQ3:我们的方法在更大规模的真实应用数据上是否仍然有效?
• RQ4:方法的性能如何……

与基线的比较

为了全面评估方法在多种来源、多种类型噪声下的表现,我们在四个数据集上利用多种噪声组合场景进行了系统的对比实验。这些场景列举如下。

混合噪声:{GN, LN} = {0.15, 0.25}(轻度图噪声和重度标签噪声)和 {0.25, 0.15}(重度图噪声和轻度标签噪声);单一噪声:{GN, LN} = {0.0, 0.15}(轻度标签噪声)、{0.0, 0.25}(重度标签噪声)、{0.15, 0.0}(轻度图噪声)和 {0.25,

应用与概念意义

我们的方法通过提高噪声环境下结构信息和监督信息的可靠性,为鲁棒的图信息处理做出了贡献。它提供了一个信息优化框架,用于减少图表示学习中噪声信息的传播。所提出的框架具有多方面的概念意义。
• 鲁棒信息优化。协作图增强策略通过动态探索和静态

结论

在本研究中,我们开发了一种鲁棒的图信息处理方法,解决了半监督分类中的两个关键挑战:图噪声和标签噪声。首先,我们提出了原始图调整策略,整合了动态增强、静态增强和边重新加权。我们还引入了图蒸馏技术以进一步增强模型鲁棒性。其次,我们采用了一种基于早期训练样本损失和伪标签的边重新加权策略,灵活地

作者贡献声明

Jie Chen:撰写——初稿,可视化,验证,方法学,调查研究,形式化分析,数据整理。Fei Zhu:撰写——审阅与编辑,方法学,概念化。

利益冲突声明

作者声明不存在可能影响本文所报告工作的已知竞争性经济利益或个人关系。

致谢

本工作得到了国家自然科学基金(62576233)的支持。

Jie Chen | Fei Zhu
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号