IMMix：通过原型选择性混合增强方法实现类别不平衡的节点分类

《Pattern Recognition》：IMMix: Class-Imbalanced Node Classification via Prototypical Selective Mixup Augmentation

针对图神经网络在类别不平衡任务中的偏见问题，本文提出IMMix框架。通过可训练原型构建嵌入超球面，识别关键节点对，并采用选择性混合生成合成节点，在提升少数类性能的同时保持多数类性能。实验验证了其在多种场景下的有效性。

　　在当前的数据科学领域，图神经网络（GNNs）作为一种强大的工具，被广泛应用于捕捉复杂对象之间的关系。然而，随着实际应用场景的不断拓展，图数据中出现的类别不平衡问题逐渐凸显，成为影响模型性能的重要因素。类别不平衡指的是在图中，某些类别的节点数量显著多于其他类别，导致模型在训练过程中对多数类节点的识别能力较强，而对少数类节点的识别能力则相对薄弱。这一现象在诸如欺诈检测、社交网络分析、推荐系统等实际任务中尤为常见，其中多数类节点（如正常用户）的数量远超少数类节点（如欺诈者）的数量。

为了应对这一问题，研究人员提出了多种方法，主要集中在重新采样和重新加权两个方向。重新采样方法通过生成合理的合成节点来平衡类别分布，而重新加权方法则通过调整损失函数，使模型更加关注少数类节点。尽管这些方法在一定程度上提高了少数类节点的分类性能，但它们往往忽略了多数类节点的特性，导致在训练过程中对多数类节点的识别能力下降。这种权衡使得模型在面对类别不平衡问题时，难以在多数类和少数类之间实现均衡的性能表现。

为了解决这一挑战，本文提出了一种名为IMMix的新框架，该框架基于mixup增强策略，旨在提升GNNs在类别不平衡情况下的泛化能力。IMMix的核心思想是通过构建一个结构良好的嵌入超球体空间，从而在该空间中识别出关键的节点对。这些节点对由少数类节点和来自其他类别的辅助节点组成，且位于决策边界附近。随后，IMMix引入了一种名为SelectiveMixup的机制，该机制基于选定的节点对生成新的节点，同时保留类别特异性信息。这一过程有助于捕捉少数类节点与其他类别之间的分布差异，从而提升模型对多数类和少数类节点的识别能力。

IMMix的实现过程分为几个关键步骤。首先，通过学习多个原型，构建一个结构良好的嵌入超球体空间，从而确定少数类区域的边界。这一过程能够帮助模型学习一个具有类别内紧致性和类别间区分性的特征空间。其次，IMMix关注那些接近类别边界附近的少数类节点，并从这些少数类节点的辅助类别中采样辅助节点。这种采样方式能够在结构良好的嵌入空间中最大化类别之间的边界，从而帮助模型识别出接近决策边界的节点对。最后，基于选定的节点对，IMMix生成合成节点，并通过设计一种节点特征显著性方案，混合节点对的显著性信息。这一方案能够保留少数类节点和其他类别的语义信息，同时通过将少数类节点和辅助节点的1跳子图中的所有邻居采样，并结合其邻居分布生成合成边，从而构建一个更加完整的增强图。在该增强图上进行训练，能够帮助模型更好地捕捉少数类节点与其他类别之间的分布差异。

IMMix的优势在于它不仅能够提升少数类节点的分类性能，还能够保持甚至增强多数类节点的识别能力。这一特性使得IMMix在面对类别不平衡问题时，能够实现对多数类和少数类节点的均衡处理。通过在多个实际数据集上进行实验，包括长尾分布和自然类别不平衡场景，本文验证了IMMix的有效性。实验结果表明，IMMix在多种GNN结构上均表现出色，并且在多数类和少数类节点的分类任务中均优于现有的基线方法。

本文的主要贡献包括以下几个方面。首先，我们发现现有的类别不平衡图学习方法在提升少数类节点性能的同时，往往会牺牲多数类节点的性能。为了解决这一问题，我们提出了一种基于mixup增强策略的新型框架IMMix，该框架在处理类别不平衡问题时，同时考虑了多数类和少数类节点的性能。其次，我们通过利用选定的少数类节点和辅助节点对的类别特异性信息，生成新的节点并将其附加到原始图上，从而更好地捕捉少数类节点在决策边界附近的分布特性。第三，我们对IMMix进行了广泛的评估，涵盖了多个基准数据集以及现有的类别不平衡图学习和通用mixup方法。实验结果表明，IMMix在不同类别不平衡场景下均优于现有的基线方法，并且能够提升模型对多数类和少数类节点的泛化能力。

在实际应用中，类别不平衡问题对模型的性能有着显著的影响。以欺诈检测为例，欺诈者在社交网络中的数量远少于正常用户，这使得模型在训练过程中更容易受到多数类节点的影响，从而对少数类节点的识别能力下降。同样，在推荐系统中，某些用户群体可能较少，导致模型在处理这些用户时表现不佳。因此，如何在不牺牲多数类节点性能的前提下，提升少数类节点的识别能力，成为当前研究的重要课题。

IMMix的提出正是为了解决这一问题。通过构建一个结构良好的嵌入空间，IMMix能够帮助模型更好地理解类别之间的分布差异。在该空间中，模型能够识别出少数类节点与辅助节点之间的关键关系，并通过生成合成节点，使模型能够更全面地学习数据的分布特性。这种合成方式不仅能够保留少数类节点的语义信息，还能够帮助模型在决策边界附近更好地进行分类。通过将合成节点附加到原始图上，并在增强图上进行训练，IMMix能够在不破坏原始图结构的前提下，提升模型的泛化能力。

在实验部分，我们对IMMix进行了全面的评估。首先，我们测试了IMMix在类别不平衡节点分类任务中的性能表现，比较了其与现有基线方法的优劣。实验结果表明，IMMix在多个数据集上均优于现有的方法，特别是在处理长尾分布和自然类别不平衡场景时，表现出更强的适应性和稳定性。其次，我们验证了IMMix在不同类别不平衡场景下的泛化能力。无论是在长尾分布还是自然类别不平衡情况下，IMMix均能够保持对多数类节点的良好识别能力，同时提升对少数类节点的识别效果。第三，我们测试了IMMix在保持多数类节点性能的同时，是否能够有效提升少数类节点的识别能力。实验结果表明，IMMix不仅能够提升少数类节点的分类性能，还能够保持甚至增强多数类节点的识别能力，从而实现对多数类和少数类节点的均衡处理。

此外，我们还对IMMix的实现细节进行了深入探讨。IMMix通过学习多个原型，构建一个结构良好的嵌入空间，从而确定少数类区域的边界。这一过程能够帮助模型学习一个具有类别内紧致性和类别间区分性的特征空间。随后，IMMix通过识别少数类节点和辅助节点之间的关键关系，生成合成节点，并将其附加到原始图上。这种合成方式能够帮助模型更好地理解少数类节点与其他类别之间的分布差异，从而提升模型的泛化能力。通过将合成节点附加到原始图上，并在增强图上进行训练，IMMix能够在不破坏原始图结构的前提下，提升模型的识别效果。

IMMix的另一个重要特点是其在处理不同类别不平衡场景时的稳定性。无论是长尾分布还是自然类别不平衡情况，IMMix均能够保持对多数类节点的良好识别能力，同时提升对少数类节点的识别效果。这一特性使得IMMix在实际应用中具有更高的适应性和鲁棒性。通过在多个基准数据集上进行实验，我们验证了IMMix的有效性。实验结果表明，IMMix在多种GNN结构上均表现出色，并且在多数类和少数类节点的分类任务中均优于现有的基线方法。

综上所述，IMMix作为一种基于mixup增强策略的新型框架，能够有效应对类别不平衡问题。通过构建一个结构良好的嵌入空间，并在该空间中识别关键的节点对，IMMix能够帮助模型更好地理解少数类节点与其他类别之间的分布差异，从而提升模型的泛化能力。同时，IMMix能够在不牺牲多数类节点性能的前提下，提升少数类节点的识别效果，实现对多数类和少数类节点的均衡处理。这一框架的提出为解决类别不平衡问题提供了新的思路，并为未来的研究奠定了基础。