《Pattern Recognition》:GLAM: Unifying global–local graph geometry via asymmetric mutual learning
编辑推荐:
•逐节点曲率学习可捕获图中局部的几何异质性。•记忆平滑与自蒸馏可稳定跨层曲率演化。•非对称互学习将全局拓扑信息迁移至局部分支。•GLAM 在推理阶段仅保留 LeGNN 以实现高效预测。•更大规模图与运行时分析验证了性能与效率之间的权衡。引言图作为一种普遍存在的结构化数据形式,
- •
逐节点曲率学习可捕获图中局部的几何异质性。
- •
记忆平滑与自蒸馏可稳定跨层曲率演化。
- •
非对称互学习将全局拓扑信息迁移至局部分支。
- •
GLAM 在推理阶段仅保留 LeGNN 以实现高效预测。
- •
更大规模图与运行时分析验证了性能与效率之间的权衡。
引言
图作为一种普遍存在的结构化数据形式,被广泛应用于社交网络、生物网络、引文网络和推荐系统等领域 [1], [2], [3]。其拓扑结构编码了丰富的关系信息,能够支持对实体间交互的精确建模。图神经网络(GNNs)[4], [5] 利用多层邻域聚合来捕获多尺度特征,并在各类图相关任务中取得了显著的性能。然而,传统 GNN 通常将节点嵌入到欧氏空间中,并未考虑数据集中固有的几何特性。在服从幂律分布或具有层次结构的图中,欧氏空间的体积呈多项式增长,从而导致显著的几何失真 [6], [7]。相比之下,具有负曲率的双曲空间其体积随半径呈指数增长,天然适合树形数据,并使双曲图神经网络(HGNNs)[8], [9] 在此类场景下表现出色。
然而,现实中的图往往表现出明显的局部异质性:某些区域类似于负曲率的树,而其他区域则形成正曲率的环或稠密簇。尽管近期研究尝试通过融合欧氏信息与双曲信息 [10], [11] 或探索乘积 [12], [13], [14] 及伪黎曼流形 [15] 来应对这种复杂性,但这些方法仍受限于同质性假设:曲率被视作全局恒定的性质,因而无法动态适应局部几何变化。这一局限在马术俱乐部数据集(图 1)中尤为明显,即便仅有 34 个节点,其截面曲率分布仍呈现出复杂的多峰模式,与常规模型所施加的同质性假设直接相悖。这种僵化的一刀切式建模在处理混合结构时会造成表示瓶颈。这一观察促成了本文的核心建模原则:嵌入几何应允许在节点间变化,而非被固定为单一的常曲率空间。
尽管存在这种局部异质性,图数据仍可能表现出宏观尺度的规律性。例如,在用户—物品交互图中,局部存在大量环及其他复杂子结构,但在宏观尺度上节点度往往遵循幂律分布 [16]。在本文中,我们用全局同质性来指代这种图层面的规律性,而非指所有局部邻域共享相同结构的假设。与之相对,局部异质性指的是节点或邻域层面的几何变化,它反映为多样化的局部结构模式以及不同节点间估计的截面曲率差异。这种二元性,即局部几何多样性与全局拓扑规律性的共存,构成了设计模型的核心挑战:既要保持全局拓扑一致性,又要灵活适应局部结构变化。弥合这一鸿沟需要协调这些看似矛盾的属性,因为过分强调同质性会忽略局部复杂性,而仅关注异质性则会牺牲全局结构洞见;两条路径都会导致表示上的局限。
为应对这一挑战,我们提出了一种新颖的全局—局部非对称互学习图神经网络(GLAM)框架,它能够从宏观上捕获图的整体拓扑信息,并从微观上刻画节点之间的局部几何差异。具体而言,我们首先提出了一种局部异质图神经网络(LeGNN),该网络为每个节点动态分配一个可学习的常曲率黎曼流形,并通过层间平滑约束确保曲率参数连续过渡,从而实现对局部拓扑模式的个性化建模。随后,我们引入了全局同质图神经网络(GoGNN),其高效利用均匀的几何结构来捕获图的整体拓扑洞见,从而为 LeGNN 构建互补的结构参照。最后,我们引入了非对称互学习模块(AMLM),通过全局模型与局部模型之间的知识交互,在不同尺度上互补地融合几何特征。综上所述,本工作的主要贡献如下:
- •
统一的全局—局部几何框架:我们提出了 GLAM,一个联合建模全局同质拓扑与局部异质几何的统一框架,以便更好地捕获现实图中宏观结构规律性与微观几何多样性的共存。
- •
用于局部异质几何建模的 LeGNN:我们开发了 LeGNN,其学习逐节点曲率以建模局部异质几何,并通过记忆机制与自蒸馏进一步稳定其跨层演化,从而实现更鲁棒的局部几何建模。
- •
用于全局—局部交互的 AMLM:我们设计了 AMLM,以实现全局同质分支与局部异质分支之间的有效交互,从而共同利用宏观拓扑一致性与微观几何个性化。
- •
充分的实证验证:在节点分类与链路预测基准数据集上的实验,结合合成鲁棒性分析与运行时评估,验证了所提框架的有效性与实用价值。
本文其余部分组织如下:第 2 节回顾相关工作。第 3 节介绍关于黎曼几何和 -球极坐标模型的初步知识。第 4 节详细阐述了所提出的 GLAM 框架。第 5 节给出了详尽的实验及相应分析。最后,第 6 节对本工作做出总结。
章节摘要
图神经网络
图神经网络(GNNs)通过消息传递与邻域聚 come 学习节点级或图级表示。近期研究从不同角度对 GNN 进行了改进,包括自适应拓扑学习 [17]、谱滤波 [18]、异质亲和建模 [19], [20]、时空结构学习 [21],以及具有结构或位置编码的图 Transformer 架构 [22], [23]。
黎曼图神经网络
黎曼图神经网络将图的表示学习从欧氏空间扩展到更广的范围,以便更好地
初步知识
本节简要介绍黎曼几何的基本概念以及 -球极坐标模型。更多细节参见 [13], [33]。
概述
GLAM 将 LeGNN、GoGNN 和 AMLM 结合,以同时捕获图结构中的全局模式与局部变化。在 LeGNN 中,每个节点都会获得一个可学习的曲率参数,该参数以其截面曲率为初始值,然后通过记忆机制与自蒸馏机制在层间进行平滑。GoGNN 采用同质流形,对图的宏观结构信息进行建模并提供全局视角。AMLM 则融合 LeGNN 与 GoGNN 的输出
实验
为全面评估 GLAM 的有效性,我们开展了一系列实验。这些实验首先在与前沿基线在节点分类和链路预测任务上的对比开始,随后在合成数据集上进行鲁棒性验证。最后,我们呈现了模型的更广泛分析,涵盖消融研究、参数敏感性以及其他设计选择等方面。
结论
本工作中,我们提出了 GLAM,一个面向图结构化数据的全局—局部几何学习框架,旨在捕获现实图中通常共存的宏观规律性与微观异质性。GLAM 将局部异质分支(LeGNN)与全局同质分支(GoGNN)相耦合,以建模多尺度几何信息。具体而言,局部分支为每个节点分配可学习的常曲率几何空间以表征局部变化,并
CRediT 作者贡献声明
Qi Guangzhi:撰写—初稿、可视化、方法论、形式分析、概念构思。Liu Guojun:撰写—初稿、可视化、监督指导、方法论、形式分析。Zhao Juanhong:撰写—审阅与编辑、数据整理。Zhou Qi:撰写—审阅与编辑、数据整理。
利益冲突声明
作者声明不存在已知的可能影响本文所报告工作的竞争性经济利益或个人关系。
致谢
本工作得到了国家自然科学基金委员会(62676120、61976071)的资助。作者感谢审稿人的宝贵意见与建议。
Qi Guangzhi 目前正在哈尔滨工业大学攻读博士学位。他的研究方向包括图神经网络和推荐系统。
Qi Guangzhi|Liu Guojun|Zhao Juanhong|Zhou Qi