重新审视不平衡图学习中的拓扑偏置:一种双重平衡的图神经网络方法
《Information Processing & Management》:Revisiting topological bias in imbalanced graph learning: A Dual-Balanced Graph Neural Network approach
【字体:
大
中
小
】
时间:2026年09月05日
来源:Information Processing & Management 8.1
编辑推荐:
# 摘要
节点分类中的类别不平衡问题可能会损害图神经网络(GNN)的判别能力,部分原因在于限制了类别级别的拓扑监督可达性。现有方法主要关注样本数量的平衡,而本文在均场邻域增长模型和长程消息传递的指数衰减假设下,从理论上刻画了少数类节点的有效监督强度如何随不平衡比的增加呈现幂
# 摘要
节点分类中的类别不平衡问题可能会损害图神经网络(GNN)的判别能力,部分原因在于限制了类别级别的拓扑监督可达性。现有方法主要关注样本数量的平衡,而本文在均场邻域增长模型和长程消息传递的指数衰减假设下,从理论上刻画了少数类节点的有效监督强度如何随不平衡比的增加呈现幂律衰减。这一条件性标度结果为有限的监督可达性如何约束少数类学习提供了理论解释。为此,我们提出了双平衡图神经网络(DB-GNN),该框架引入了监督重塑的图增强策略。通过构建类别平衡的监督锚点,DB-GNN实现了锚点级别监督数量的均等化,并缩小了类别间拓扑监督距离的相对差异。此外,我们设计了一种锚点引导的对齐机制,将平衡的锚点级别约束传递到对应的原始训练节点。我们还引入了一种稳定性感知的正则化策略,利用跨视图预测一致性对稳定的未标记节点施加伪监督,对预测不一致的节点进行负学习。在六个基准数据集上的实验表明,DB-GNN与强不平衡感知基线方法相比取得了具有竞争力的性能,在CiteSeer和Computers数据集上分别比对应设置下的次优方法获得了最高3.4和3.6个百分点的准确率提升。
# 引言
图结构为建模复杂系统中实体间的交互和依赖关系提供了一种通用表示,在社交网络(Zhang et al., 2022)、生物信息学(Ju et al., 2023, Zhang et al., 2025)和推荐系统(Chen et al., 2026, Shi et al., 2018)等领域得到广泛应用。与依赖规则网格结构的卷积神经网络不同,图神经网络(GNN)能够有效地在具有不规则连接模式的数据上进行表示学习,支持节点分类(Wu et al., 2025)和链接预测(Liu et al., 2024)等任务。GNN通过迭代消息传递更新节点表示,其中邻域聚合将特征变换与结构连接相结合。在此过程中,监督信号沿图拓扑传播,并可能随着传播距离的增加而衰减,导致节点间的监督强度呈现异质性。这些拓扑依赖的差异会影响优化动态和类别级别的泛化能力。
许多标准GNN研究采用一种理想化的平衡监督设置。该设置假设训练集中每个类别拥有数量相当的标记节点,其典型代表是经典基准中的标准设置(Kipf & Welling, 2017),即每类20个标记节点。然而,这一假设并不反映许多现实应用场景,在这些场景中,图数据通常表现出严重的类别不平衡(Ju et al., 2025, Liu et al., 2021, Zhao et al., 2021)。在这样的设置下,多数类样本可能会贡献更大的聚合梯度,并在全局训练目标下对参数更新产生更大的影响。这种不平衡可能削弱少数类监督,使学习到的决策边界偏向多数类,从而降低少数类的预测性能。这种优化偏差不仅损害了对少数类的判别能力,还降低了模型在实际应用中的整体可靠性。
为解决图学习中的类别不平衡问题,现有方法主要归为三种范式:生成增强技术(Qu et al., 2021, Zhao et al., 2021)在特征空间或图结构中生成少数类样本以补充监督;损失和训练调整策略(Chen et al., 2021, Song et al., 2022)通过调整损失权重或预测分布来纠正由类别频率差异引起的优化偏差;伪标签和自训练方法(Yan et al., 2025, Zhou and Gong, 2023)从未标记节点中挖掘潜在的少数类样本以扩展监督集。尽管这些方法在一定程度上缓解了性能下降,但它们主要通过监督数量或优化调整来应对类别不平衡,大多数方法并未显式调控监督载体的类别分布或由此导致的拓扑监督可达性差异。在类别不平衡条件下,标记节点在各类之间分布不均,既影响了图中监督的数量,也影响了其空间分布。在GNN中,监督通过消息传递而非直接标签分配来影响未标记节点。因此,监督的有效性既取决于标记节点的数量,也取决于拓扑监督可达性,后者刻画了未标记节点到同态标记节点的消息传递距离。当某类别的标记节点稀疏时,未标记节点可能需要更长的传播路径才能到达同态监督。这引出了一个问题:拓扑监督可达性如何影响有效监督强度?
在图结构中,监督的有效性不仅取决于标记样本的数量或权重,还取决于消息传递下的拓扑监督可达性。为了说明这种结构效应,图1提供了一个概念性示例。具体而言,图1(a)展示了类别不平衡下的标记节点分布,其中少数类表现出稀疏的监督。图1(b)描绘了拓扑监督可达性,其中未标记节点依赖于消息传递路径从同态标记节点获取监督。由于标签分布不均,少数类节点可能需要更长的路径才能到达同态监督。图1(c)说明了拓扑距离与分类性能之间的关系,表明更长的监督路径对应于更弱的有效监督。这些观察结果表明,图中的类别不平衡不仅涉及监督数量的差异,还涉及拓扑监督可达性的差异。少数类节点可能位于距同态标记节点更远的地方,需要监督信号通过更长的消息传递路径传播。由于GNN在长距离上保持信息的能力有限,这些延伸的路径可能会衰减有效监督,并约束少数类节点的表示学习。
受监督数量和拓扑监督可达性差异的启发,我们提出了双平衡图神经网络(DB-GNN)。该框架引入了一个图增强策略,实现锚点级别监督数量的均等化,并缩小类别间拓扑监督距离的相对差异。具体而言,DB-GNN构建了一组平衡的监督锚点,使每类的锚点数量相等并缩小类别间可达性的相对差异,从而缓解结构性监督偏差。在平衡监督锚点的基础上,我们进一步设计了一种锚点引导的预测分布对齐机制,将锚点级别的约束传递到对应的原始训练节点。此外,为应对长程传播下的信号衰减和未标记节点预测的不确定性,我们引入了一种稳定性感知的差异化正则化策略。通过利用跨视图预测一致性来评估节点可靠性,该策略对共识节点施加共识校准的伪监督,对分歧节点施加自适应负学习,从而为类别不平衡条件下的未标记节点学习提供差异化约束。
因此,本研究旨在建立一个图学习框架,以缓解类别不平衡引起的拓扑监督偏差。具体而言,我们追求以下研究目标:
(1)**揭示拓扑偏差的形成机制**:从理论上刻画拓扑距离如何影响监督信号的传播和有效性,解释少数类节点在类别不平衡下面临的结构性劣势。
(2)**平衡锚点级别监督数量并调控相对拓扑可达性**:实现锚点级别监督数量的均等化,并缩小类别间访问同态监督的相对差异。
(3)**确保有限监督条件下的有效表示学习**:缓解监督稀疏和受限信息传播对表示学习的不良影响。
本文的主要贡献总结如下:
(1)**理论分析视角**:我们从拓扑监督可达性的角度分析了类别不平衡与监督传播之间的关系。在均场邻域增长模型和长程消息传递的指数衰减假设下,我们推导出了一个条件性标度结果,表明少数类节点接收到的有效监督强度可能随不平衡比的增加而呈现幂律衰减。
(2)**新颖的图增强策略**:我们提出了一种新颖的图增强策略——双平衡图(DB-Graph)。通过引入监督锚点来重构监督载体的结构分布,该策略实现了锚点级别监督数量的均等化,并缩小了类别间拓扑监督距离的相对差异。
(3)**基于DB-Graph的学习框架**:在DB-Graph的基础上,我们建立了一个集成了监督约束与正则化策略的学习框架,以同时利用标记和未标记节点,从而提高类别不平衡条件下的泛化能力。
(4)**实验验证与实证发现**:在六个基准数据集上的系统实验表明,(i)所提出的方法在准确率(Accuracy)、平衡准确率(Balanced Accuracy)和宏平均F1(Macro-F1)指标上,与近期不平衡感知基线方法相比取得了具有竞争力或更优的性能;(ii)现有的以数量为中心的增强方法可以在一定程度上减少结构性差异,但需要大量的额外节点。
本文其余部分的组织如下:第2节回顾不平衡图学习的相关工作。第3节介绍必要的预备知识、经验分析和理论动机。第4节详述所提出的方法。第5节报告实验结果并提供综合评估。
# 各章节片段
## 图神经网络
图神经网络(GNN)已成为非欧几里得数据上表示学习的主要框架,通常分为谱域方法和空间域方法。谱域方法源于图信号处理,通过拉普拉斯矩阵的特征分解在傅里叶域中定义图卷积。ChebNet(Defferrard et al., 2016)等代表性工作采用多项式逼近来局域化谱滤波器,而GCN(Kipf & Welling, ...
## 预备知识与经验分析
## 方法论
我们提出了双平衡图神经网络(DB-GNN),该框架旨在实现锚点级别监督数量的均等化并调控类别间相对拓扑可达性,如图6所示。
## 数据集与不平衡设置
**数据集。** 我们在六个广泛使用的节点分类基准数据集上进行了实验,包括Cora、CiteSeer、PubMed、Photo、Computers和CS。这些数据集涵盖不同的图领域,并表现出多样化的结构特性。
**引文网络。** Cora(Sen et al., 2008)、CiteSeer(Sen et al., 2008)和PubMed(Namata et al., 2012)是引文网络基准数据集,其中每个节点代表一篇科学出版物,每条边表示两篇论文之间的引用关系。
# 局限性
DB-GNN通过重塑监督分布、实现锚点级别监督数量的均等化并缩小类别间拓扑监督距离的相对差异来改善不平衡节点分类。因此,其有效性取决于从可用标记节点构建的监督锚点的质量。在极端不平衡条件下,有限的少数类标记节点数量可能会削弱少数类锚点的代表性,从而限制进一步的...
# 结论
在本文中,我们从拓扑监督可达性的角度重新审视了图学习中的类别不平衡挑战。在均场邻域增长模型和长程消息传递的指数衰减假设下,我们的分析表明,更长的监督路径可能会衰减有效监督并约束少数类学习。为缓解这一问题,我们提出了双平衡图神经网络(DB-GNN)。该框架实现了...
# 启示与未来工作
本研究对现实世界图应用中的节点分类具有实际意义,在这些应用中,少数类往往对应于重要但代表性不足的实体,例如交易网络中的欺诈账户、医学知识图谱中的罕见疾病、社交平台中的异常用户以及推荐图谱中的小众物品。这些场景通常只为少数类提供有限的标记样本,且消息传递可能进一步限制它们对类别级别的...
# CRediT作者贡献声明
Qiyu Li:原稿撰写、可视化、软件、方法论、概念化。Xianxian Li:监督、方法论、资金获取。Cheng Zhang:可视化、数据整理。Jinyan Wang:论文审阅与编辑、监督、方法论、资金获取。
# 代码可用性
源代码和处理后的数据划分可在匿名仓库中获取:https://anonymous.4open.science/r/DB-GNN。
# 利益冲突声明
作者声明不存在已知的可能影响本文所述工作的竞争性经济利益或个人关系。
# 致谢
本文得到国家自然科学基金(编号:U21A20474和62162005)、广西自然科学基金(编号:2026GXNSFAA00641126)、广西研究生教育创新项目(编号:YCBZ2026088)、广西"桂派学者"创新研究团队项目、广西贵桂青年人才培养计划、广西人工智能研究院以及广西多源信息融合与智能协同创新中心的支持。
Qiyu Li | Xianxian Li | Cheng Zhang | Jinyan Wang
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号