MASCN：用于对比深度图聚类的多视图属性-结构一致性网络

《Neurocomputing》：MASCN: Multi-view attribute-structure consistency network for contrastive deep graph clustering

　　

Xiangyi Teng|Hongbin Cao|Nina Shu

中国西安，西电大学，广州理工学院

摘要

对比深度图聚类是一种将对比学习策略与图神经网络相结合的无监督聚类方法。近年来，它在处理复杂图结构数据的各类任务中取得了显著进展。然而，该领域仍存在三个关键挑战：1）仅依赖数据相似性的聚类策略往往忽视节点之间更深层次的结构和语义关系，难以充分捕捉节点间的潜在交互。2）现有框架通常无法将聚类信息有效融入训练过程，因而缺乏将高置信度伪标签与语义类别准确对齐的机制。3）不同数据集之间正负样本对的分布差异很大，但现有方法往往低估了这种跨数据集的分布差距，且难以适应不同场景。为解决这些问题，我们提出了多视图属性-结构一致性网络（MASCN）。具体而言，首先引入多视图属性-结构增强模块，同时优化节点特征和图拓扑结构，以捕捉深层结构关联；其次设计置信度反馈融合机制，在训练过程中利用高置信度聚类结果进行反馈，从而动态纠正分类错误；最后提出异构加权样本调节策略，根据不同数据集中正负样本的分布差异调整权重系数，提升模型的泛化能力。在五个真实世界图数据集上的实验表明，MASCN的性能显著优于现有的先进方法。

引言

随着信息技术的快速发展，图结构数据因其独特的结构特性而变得无处不在，广泛应用于社交网络[1]、[2]、[3]、[4]、推荐系统[5]、[6]、[7]、[8]以及生物信息学[9]、[10]、[11]等领域。近年来，深度学习与图神经网络的结合推动了深度图聚类学习[12]、[13]的发展，使其成为一项重要的研究方向，为众多现实应用带来了显著变革。作为有效的自监督学习框架，对比学习[14]无需依赖标记数据即可学习出高质量的节点表示，逐渐成为深度图聚类领域的关键技术。

鉴于对比学习的出色性能，越来越多的研究开始将其应用于聚类任务。尤其是硬样本挖掘策略在这一领域展现了显著效果[15]、[16]、[17]。例如，Zhao等人[18]提出了一种去偏负采样方法（GDCL），用于减少聚类过程中的样本选择偏差，从而降低假阴性的负面影响，提升聚类性能。Liu等人[19]设计了具有解耦正则化的混合目标函数，能够灵活利用硬混合样本，在保持数据平滑性的同时提高模型的区分能力。此外，Liu等人[15]还提出了名为HSAN的硬样本感知网络，该网络同时关注硬正样本和硬负样本，有助于模型更好地理解复杂的边界情况。最近，Adnan等人[20]引入了不确定性估计和结构感知机制，进一步提升了模型识别困难样本的能力，增强了对比学习的泛化性能。CuCo[21]则通过评分函数对负样本进行难度排序，实现从简单样本到困难样本的逐步采样。

尽管上述方法已取得显著成果，但现有方法仍面临三个关键挑战。首先，仅依赖数据相似性的聚类策略容易忽略样本之间更深层次的结构和关联关系，难以捕捉节点间的潜在联系，从而在一定程度上降低了结果的可靠性。其次，大多数现有框架无法将聚类信息充分融入模型训练过程，缺乏将高置信度伪标签与真实语义标签准确对齐的机制，这会导致类别判别时的混淆，进而影响聚类的准确性和稳定性。最后，如图1所示，不同数据集中正负样本对的分布差异很大，但目前的方法往往没有充分重视这种跨数据集的分布差异，通常采用统一的加权策略，这限制了它们适应数据集特定特征的能力，进而制约了模型的泛化能力和预测精度。

为解决上述问题，本文提出了一种用于对比深度图聚类的多视图属性-结构一致性网络（MASCN）。具体而言，首先引入多视图属性-结构增强模块，解决传统方法仅关注数据相似性而忽视节点间内在结构关联的问题，该模块同时优化节点属性和拓扑结构，确保特征信息与结构信息的有效整合。其次，我们设计了置信度反馈融合模块，将该模块利用高置信度聚类结果作为伪标签反馈给网络，以纠正分类错误，减少不同类别之间的混淆。第三，考虑到不同数据集中正负样本对的分布特征可能存在差异，我们提出了异构加权样本调节策略，该策略根据数据集的特定属性为正负样本对分配不同的权重系数，并动态进行调整，从而使模型能更有效地区分简单样本和困难样本，提升其在不同数据场景下的泛化能力。总之，在完全无监督的环境下，所提出的MASCN框架通过三个模块的协同作用，提升了节点表示的质量和图聚类的准确性。本文的主要贡献如下：

• 1.
  提出了一种用于对比深度图聚类的多视图属性-结构一致性网络（MASCN）。该模型包含多视图属性-结构增强模块，从属性和结构两个角度共同强化节点表示。一方面，属性视角的增强能够捕捉局部特征细节及其与全局结构的一致性；另一方面，结构视角的增强则能揭示节点间潜在的拓扑关系。
• 2.
  设计了置信度反馈融合模块，该模块利用高置信度聚类结果作为监督信号，在模型训练过程中动态纠正类别判别错误，从而有效避免不同节点类别之间的混淆。
• 3.
  提出了针对正负样本对的不同加权样本调节方法。该方法根据样本的分布特征为不同类型的样本分配不同的权重，从而提升模型在面对跨数据集分布差异时的泛化性能。
• 4.
  在多个真实世界图数据集上进行了大量实验，实验结果表明，所提出的方法在ACC、NMI、ARI和F1等指标上的表现始终优于其他现有的先进对比学习方法，充分证明了MASCN的有效性和优越性。

章节节选

深度图聚类

近年来，深度学习的快速发展推动了深度聚类方法的大量研究[22]、[23]、[24]，并取得了显著成果。早期的深度聚类方法主要基于自编码器（AE），通常将重构损失与聚类特定的目标函数相结合，以优化网络结构。例如，Xie等人[25]首次提出了基于自编码器的深度嵌入聚类（DEC）模型，该模型同时优化了特征学习和

方法

在本节中，我们提出了一种用于对比深度图聚类的多视图属性-结构一致性网络（MASCN）。该方法通过三个核心模块的协同作用，有效提升了节点表示的质量和聚类性能，这三个模块分别是多视图属性-结构增强、置信度反馈融合以及不同加权样本调节。整个框架如图2所示。值得注意的是，所提出的框架并非这三个模块的简单组合

实验设置

数据集：为评估所提模型的有效性，我们在Liu等人[15]选取的五个基准数据集上进行了实验，这些数据集包括CORA、CITE、DBLP、BAT和AMAP。如表2所示，我们提供了每个数据集的统计信息，包括样本数量、边数、类别数量、特征维度、数据集类型以及相关的实验参数。

实现细节与评估方案：实验是在配备有

结论

本文深入分析了传统对比深度图聚类方法在处理困难样本时的局限性。传统方法通常依赖数据相似性进行聚类，难以发现节点间潜在的深层结构和关联信息。此外，它们缺乏将聚类信息反馈到模型训练中的有效机制，导致伪标签与真实标签之间难以对齐

CRediT作者贡献说明

Xiangyi Teng：撰写——审稿与编辑，撰写——初稿，资源获取，资金筹措。Hongbin Cao：撰写——初稿，可视化，验证，方法论，数据整理，概念构建。Nina Shu：资源获取，项目管理，调研，形式分析。

利益冲突声明

作者声明，他们不存在任何可能影响本文研究工作的已知利益冲突或个人关系。

Xiangyi Teng于2016年在中国成都的电子科技大学获得电子与工程学士学位，2021年在中国西安的西电大学获得电路与系统博士学位。2022年，他加入西电大学广州理工学院担任讲师，目前为西电大学副教授。他的当前研究兴趣包括复杂网络、图表示学习以及