PLocNet：个性化节点表示与局部结构保留技术在节点分类中的应用

《Neurocomputing》：PLocNet: Personalized node representations and local structure preservation for node classification

　　

王浩|杨 Funing

吉林大学计算机科学与技术系，长春，130012，吉林，中国

摘要

图神经网络（GNNs）在异构图上的性能受到严重限制，因为连接在一起的节点通常属于不同的类别。现有方法难以应对这一挑战，通常存在两个关键缺陷：它们无法区分不同粒度的信息，并且忽略了远距离节点之间的隐含关系。为了解决这些问题，我们提出了 PLocNet，这是一个受结构身份理论启发的新框架。PLocNet 通过明确地将结构身份与简单的邻域聚合分离来学习全面的节点表示。它采用多视图架构，同时捕获：（1）细粒度的节点特定属性以保持节点的独特性；（2）粗粒度的局部结构统计信息以理解邻域上下文；（3）多尺度的低维特征以编码长距离依赖关系。在九个基准数据集上的广泛实验表明，PLocNet 在节点分类方面的性能显著优于现有模型，尤其是在异构性较高的图中表现出更高的准确性和鲁棒性。源代码已发布在 https://anonymous.4open.science/r/PLocNet-B577。

引言

图神经网络（GNNs）已成为处理图结构数据的强大工具 [25]，在社交网络分析、推荐系统和生物信息学 [26] 等多种应用中显示出显著的价值。在 GNN 及其变体的下游任务中 [30]，节点分类是最基本的任务之一，旨在根据节点的内在特征和底层图拓扑结构预测节点标签。

最近的进展试图增强 GNN 的表达能力。然而，标准消息传递神经网络（MPNNs）在异构图上的性能显著下降，因为连接在一起的节点通常属于不同的类别。这个问题源于核心的消息传递机制，它难以捕捉此类图中存在的复杂依赖模式。因此，现有 GNN 存在两个关键限制：首先，它们无法区分 粗粒度（例如，邻域范围统计）和 细粒度（例如，独特节点特征）信息，将所有信号视为同等重要。其次，它们关注的是直接邻居，导致忽略了 长距离依赖关系，而这些关系对于全面理解图结构至关重要。

尽管最近的进展试图分别解决这些问题——例如，通过建模邻域分布 [3]、结合多尺度交互 [24]、通过理论框架理解异构性模式 [22] 或使用个性化感受野 [23]——但仍然缺乏一个系统地同时处理粒度和长距离上下文的统一框架。

与那些要么专注于设计适应异构性的消息传递方案，要么简单连接多视图特征的方法不同，PLocNet 引入了一个系统的信息粒度分离框架，通过理论驱动的设计选择同时处理拓扑和特征级别的异质性。为了填补这一空白，我们受到了 结构身份理论[15] 的启发，该理论认为节点的角色由其局部网络结构定义，而不仅仅是其直接连接。基于这一原则，我们提出了 PLocNet，这是一种多视图架构，旨在通过明确地将节点的结构身份与简单的邻域聚合分离来学习稳健的表示。PLocNet 同时处理不同粒度和尺度的信息，有效克服了标准 GNN 的限制。

本文的主要贡献总结如下：

• •
  基于结构身份的理论视角：我们通过结构身份理论的视角解决了过度平滑问题。通过区分邻近身份（邻域重叠）和结构身份（拓扑角色），我们为将节点特征学习与标准消息传递分离提供了原则性的动机。我们正式分析了我们的架构如何通过结构身份注入、多尺度残差连接和自适应层聚合来保持节点在不同网络深度下的可区分性。
• •
  多视图身份保持架构：我们提出了 PLocNet，这是一个结合了个人特征增强和局部特征提取的新框架。这种设计确保了无论网络深度如何，独特的节点特征都能被数学上保留，有效缓解了深度 GNN 中出现的表示崩溃问题。我们的理论分析提供了关于表示可区分性的正式保证，并通过受控的逐层实验得到了验证。
• •
  全面的实证验证：我们通过广泛的实验表明，PLocNet 在基准数据集上表现出优越的性能。值得注意的是，受控深度实验（2-64 层）显示，PLocNet 在同构和异构图中都能保持几乎恒定的准确率，而标准 GNN 基线模型则出现了灾难性的性能崩溃。我们的结果证实，明确建模结构身份使网络能够在传统 GNN 方法通常失败的深度上保持鲁棒性和准确性。

章节片段

图神经网络

图神经网络（GNNs）已成为处理图结构数据的强大工具，其核心机制是通过迭代聚合邻居信息来学习节点表示。早期的基础模型，如 GNN [16]、GCN [10]、GraphSAGE [7] 和 GAT [21]，确立了“消息传递”范式。后续研究，如引入池化操作（例如 DiffPool [29] 和 SAPool [11]）的工作，探索了更复杂的架构

方法论

本节详细介绍了提出的 PLocNet 框架。如图 1 所示，PLocNet 是一个多视图架构，通过两个主要模块处理信息：个人特征增强模块（包含两个互补的子模块）和降维模块，然后将它们的输出整合用于节点分类。我们首先定义问题和模型的整体架构，然后详细描述每个组件。

实验

为了全面评估我们提出的 PLocNet 模型在处理异构图和信息粒度挑战方面的性能，我们在一系列广泛使用的同构和异构图节点分类基准数据集上进行了广泛的实验。本章详细介绍了我们的实验设置、用于比较的基线模型、主要的比较研究结果，以及专门检验有效性的深入消融分析

结论

在本文中，我们指出了现有 GNN 方法中的两个关键限制：（1）由于同质性假设的失败，在异构图上的性能下降；（2）在表示学习中忽略了信息粒度和远距离节点关系。为了解决这些挑战，我们提出了 PLocNet，这是一种新的架构，它可以区分粗粒度和细粒度信息，同时捕获局部和远距离节点关系。

广泛的

CRediT 作者贡献声明

王浩：资源管理、项目管理、方法论、形式分析、数据整理、概念化。杨 Funing：可视化、验证、概念化。

利益冲突声明

作者声明他们没有已知的可能会影响本文工作的竞争性财务利益或个人关系。

王浩 目前在吉林大学计算机科学与技术学院攻读硕士学位。他的当前研究兴趣包括推荐系统、数据挖掘、对比学习、交通预测和知识图谱。