通过过采样和属性补全实现异构图神经网络

《Neural Networks》：Heterogeneous Graph Neural Networks via Oversampling and Attribute Completion

　　摘要
异构图神经网络（HGNNs）作为一种强大的方法，已经广泛应用于异构图的建模。然而，图数据中常常存在属性缺失的问题，这对HGNNs带来了显著的挑战。现有的方法主要集中在属性补全上，而忽视了类别不平衡的影响，从而限制了它们的有效性。为了解决具有类别不平衡的属性缺失异构图问题，我们提出了一种新的属性补全和类别平衡框架。具体来说，为了减轻类别不平衡，我们设计了一个高阶增强式类别平衡模块来减少表征偏差。此外，为了补全缺失的属性，我们提出了一种自监督的异构属性补全机制。据我们所知，这是首次专注于具有属性缺失的异构图中类别不平衡问题的研究。在三个基准数据集上，我们的框架超越了现有的属性缺失和类别不平衡模型，在节点分类任务上平均 improvement 为 2.45%，在节点聚类任务上平均 improvement 为 5.17%。此外，我们的高阶增强式类别平衡模块可以作为插件组件使用，将其集成到基线模型中后，平均 F1 分数提高了 0.44%。该工作的代码和数据可访问于：https://github.com/cherryyyy5/GraphHOAC.git。

引言
在现实世界中，许多系统可以用图来表示，例如社交网络（Duan 等，2025年）；推荐系统（El Alaoui 等，2025年）；知识图谱（Bai 等，2025年）；物联网网络（Chen 等，2026a；Chen, Zhang, Zhou, Cao, Qiu, 2025；Chen, Zhang, Zhou, Huang, Wu, Qiu, 2026b 等）。其中，异构图被广泛使用，因为它们能够包含多种类型的节点和关系，从而实现更全面的表示。异构图神经网络（HGNNs）（Chen 等，2021年；Shi 等，2025年；Wang, Ji, Shi, Wang, Ye, Cui, Yu, 2019年；Wang, Yu, Li, Shen, Yao, 2023年；Yu 等，2022年；Zhu 等，2025年）是学习异构图的有效方法，能够对复杂的图结构和节点进行建模，以获得用于下游任务的节点表示。然而，当前 HGNNs 的性能在很大程度上依赖于节点属性的完整性，而在现实世界的图中，属性缺失的情况非常普遍。例如，在互联网电影数据库（IMDB）中，电影、演员和导演可以构成一个异构图，其中一些节点由于隐私问题或数据收集方法的限制而缺少属性，如图 1 所示。这种属性缺失会导致异构图的出现（Xia 等，2025年），进而影响 HGNNs 中属性的传播和节点表示的表达能力。
现有研究（Fu 等，2020年；He 等，2022年；Jin 等，2021年）表明，随着缺失属性比例的增加，HGNNs 的性能会显著下降。为了解决属性缺失问题，已经提出了许多方法，如 HGNN-AC（Jin 等，2021年）、RA-HGNN（Zhao 等，2024年）、HetReGAT-FC（Li 等，2023a年）、AutoAC（Zhu 等，2023年）和 HeGAE-AC（Chen 和 Liu，2024年）。这些方法利用拓扑信息（如预训练的拓扑嵌入、残差架构或搜索策略）来指导注意力机制或属性补全过程，从而提高异构图中缺失属性的重建质量。然而，这些方法没有考虑到类别不平衡问题。
在实际情况中，异构图通常存在显著的类别不平衡。如图 1 和表 1 所示，在 IMDB 数据集中，导演节点所占比例相对较小，而演员节点则占据了主导地位。这种不平衡导致了两个关键问题：1）少数类节点容易被错误分类为 majority 类；2）缺少关键少数类信息会显著降低整体分类性能。研究人员提出了两类方法来解决图中的类别不平衡问题。一类方法是针对同构图设计的（例如 GraphSmote（Zhao 等，2021年）、GraphSR（Zhou 和 Gong，2023年）、GraphSHA（Li 等，2023b））。然而，这些方法通常难以处理异构图中多样的节点类型和复杂的结构。另一类方法是针对异构图设计的（例如 ImGAGN（Qu 等，2021年）、GraphSANN（Liu 等，2023年）、BARE（Jin 等，2025年）。然而，这些方法有两个局限性。首先，跨类型类别不平衡问题没有得到充分解决。当前的方法主要关注同一类型内的类别不平衡，而忽略了跨类型不平衡的传播效应。例如，在电影节点分类中，模型会汇总来自导演和演员节点的信息。演员节点相对较多，参与多种电影类型，常常引入噪声并导致表征偏差。相比之下，导演节点数量较少，但表现出更一致的类型偏好，因此提供了更具辨别性的信息。其次，在类别不平衡的异构图中，属性缺失问题被忽视了。在异构图中，属性缺失和类别不平衡是内在耦合的。属性缺失削弱了少数类节点的表示，并放大了类别偏差，而类别不平衡又引入了属性补全过程中的偏差，进一步降低了少数类的表示质量。因此，同时处理异构图中的属性缺失和类别不平衡仍是一个重要的研究空白。
基于上述分析，我们提出了一个新问题：同时解决异构图中的属性缺失和类别不平衡问题。为了解决这个问题，我们提出了一种通过过采样和属性补全来实现异构图神经网络的方法。我们的目标是克服两个主要挑战：（1）如何减轻类别不平衡对目标类别分类性能的偏差影响；（2）如何完全捕获属性缺失异构图中的复杂语义信息。为了解决这些挑战，我们提出了基于过采样和属性补全的异构图神经网络（GraphHOAC）。对于第一个挑战，我们提出了一个高阶增强式类别平衡模块，该模块利用基于高阶图结构的过采样机制来减轻类别不平衡。对于第二个挑战，我们提出了一种自监督的异构属性补全模块，该模块利用带有关联图卷积网络的掩码图自编码器来挖掘异构语义信息，并通过注意力机制实现属性补全。GraphHOAC 在具有属性缺失和类别不平衡的异构图上表现优于基线模型。主要贡献如下：
- 在本文中，我们提出了一个针对具有类别不平衡的属性缺失异构图的学习新问题，同时解决了属性缺失和类别不平衡问题。
- 我们提出了一种针对具有类别不平衡的属性缺失异构图的新异构图神经网络（GraphHOAC），它由三个模块组成：一个高阶增强式类别平衡模块用于平衡类别，一个自监督的异构属性补全模块用于补全缺失的属性，以及一个用于下游任务的预测模块。这是第一个在平衡类别的同时解决属性缺失异构图问题的方法。
- 我们提出了一种与模型无关的高阶增强式类别平衡模块，用于具有类别不平衡的属性缺失异构图，当将其作为插件组件集成到各种基线模型中时，可以显著提高性能。
- 我们在三个异构数据集上进行了广泛实验来评估我们模型的性能。实验结果表明，我们的模型达到了先进的性能水平，比基线模型有显著提升。

异构图的属性补全
为了解决异构图中属性缺失的问题，已经提出了许多异构图神经网络（HGNNs）。这些方法通过利用图结构信息和带属性的节点信息来补全缺失的属性。HGNN-AC（Jin 等，2021年）通过预训练模型学习节点的拓扑嵌入，然后利用注意力机制在拓扑嵌入的引导下完成属性补全。AC-HEN（Wang 等，2022年）生成...

初步定义
1. （异构图）???(??,?,?,?,??,??) 是一个异构图，其中 ?? 和 ? 分别表示节点集和边集。? 和 ? 分别表示节点类型和边类型集，且 |?|+|?|>2。每个节点 ??∈?? 通过函数 ??:??→? 映射到一个节点类型，每个边 ??∈? 通过函数 ??:?→? 映射到一个边类型。

2. （具有类别不平衡的属性缺失异构图）???(??,????,??,??,?,?,?,??,??) 是一个具有类别不平衡的属性缺失异构图，其中 ??={??1,?,????}...

方法论
在本节中，我们提出了一种新的 GraphHOAC 框架，旨在为具有类别不平衡的属性缺失异构图学习更好的节点表示。
图 2 展示了 GraphHOAC 框架，包括三个模块：高阶增强式类别平衡模块、自监督的异构属性补全模块和预测模块。（1）为了解决类别不平衡问题，高阶增强式类别平衡模块使用基于高阶图的过采样机制...

数据集
我们在三个异构图数据集上评估了我们的模型。这些数据集的详细信息如表 1 所示。
ACM 2：这个学术网络包含三种不同的节点类型，包括 4019 篇论文（P）、7167 位作者（A）和 60 个主题（S）。论文被分为三类，只有论文的属性直接来自数据集。
DBLP 3：这个学术网络包含四种不同的节点类型，包括 14328 篇论文（P）...

结论与未来工作
在本文中，我们提出了针对具有类别不平衡的属性缺失异构图的 GraphHOAC。这是第一个考虑异构图属性补全中类别不平衡问题的研究。GraphHOAC 由三个模块组成：（1）一个高阶增强式类别平衡模块，引入了基于高阶拓扑的过采样模块来缓解类别不平衡问题；（2）一个自监督的异构属性补全模块，利用掩码图自编码器...

致谢
本工作得到了中国国家自然科学基金（项目编号 62506177、62361045、62201297）、内蒙古自治区自然科学基金（项目编号 2025QN06010、2025QN06022）、内蒙古大学高层次人才项目（项目编号 10000-23112101/286）、内蒙古重点研发与成果转化项目（项目编号 2026YFSH0175）以及支持地方改革与发展基金的支持。

作者声明
作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。