《Knowledge-Based Systems》:Partition-guided adaptive filtering for discriminative multi-view representation learning
编辑推荐:
•提出了一种分区引导的多视图图过滤框架,用于半监督节点分类。•引入图粗化和谱专家聚合,以建模视图内结构异构性。•设计了一种跨视图表示构建机制,以捕获共享语义和互补信息。•执行自适应多视图融合,以学习更具判别性和信息量的节点表示。引言多媒体技术的快速发展导致在实际应用中出现了大
- •
提出了一种分区引导的多视图图过滤框架,用于半监督节点分类。
- •
引入图粗化和谱专家聚合,以建模视图内结构异构性。
- •
设计了一种跨视图表示构建机制,以捕获共享语义和互补信息。
- •
执行自适应多视图融合,以学习更具判别性和信息量的节点表示。
引言
多媒体技术的快速发展导致在实际应用中出现了大量多样化的异构数据,如社交网络 [1]、推荐系统 [2] 和生物网络 [3]。这些数据从不同来源、模态或关系视角描述同一对象,因此被称为多视图数据 [4]。与单视图数据 [5] 相比,多视图数据从不同来源捕获互补信息,显著增强了多种下游应用的性能,包括节点分类 [6]、聚类 [7] 和表示学习 [8]。然而,数据标注 [9] 耗时且费力,特别是对于结构和复杂多样的多视图数据。基于图的多视图学习可以通过图结构传播标签信息,这使得它在有限标注数据的半监督学习中非常有效。大量研究 [10], [11] 进一步表明,通过利用视图间的共享信息可以提高半监督分类性能。因此,基于图的多视图学习已成为半监督学习日益重要的解决方案。
图过滤在基于图的多视图学习中被广泛采用,以在图结构上传播和聚合信息,从而在节点分类任务中取得强劲性能。如图 1(a) 所示,大多数方法 [12], [13] 采用统一过滤策略,在同一视图内应用相同的过滤器。然而,最近的研究 [14], [15] 表明这种范式缺乏灵活性,未能显式建模局部结构、邻域关系和语义特征方面的差异。具体来说,对某些节点有效的全局过滤器对其他节点可能无效。为解决此问题,节点级过滤作为一种范式出现,为单个节点分配不同的过滤器,取得了显著的性能提升,特别是在异配性图 [16], [17] 中。然而,直接执行节点级过滤仍然计算昂贵。由于这种范式需要为大量节点选择独立的过滤器,它通常消耗大量的时间、存储和计算资源。此外,除了每个视图内的节点级过滤差异外,多视图图还涉及视图级差异。不同的视图从不同的特征空间或关系视角描述节点,从而提供跨视图一致和互补的信息。在实践中,不同视图包含的信息质量不一致。一些视图提供有效的判别信息,而其他视图包含干扰最终表示学习的冗余或噪声信息 [18]。虽然现有方法 [19] 通常采用注意力加权或特征拼接来融合多视图信息,但它们通常以相对粗略的方式整合不同视图,难以从冗余或噪声信号中区分有用信息。总体而言,现有的多视图图方法面临两个关键挑战: (1) 如何在解决节点级过滤成本过高的问题的同时为每个节点分配适当的过滤器; (2) 如何提取可靠的跨视图信息并自适应地平衡不同视图的贡献。
为了解决上述挑战,我们提出了分区引导的多视图图过滤 (PMGF),它捕获每个视图内的节点级差异,并自适应地整合来自不同视图的跨视图信息。如图 1(b) 所示,我们的方法采用分区引导的过滤策略。具体而言,提出的模型由分区引导的视图内过滤和跨视图表示构建组成。受图粗化启发,我们在视图级别引入了一种特征空间粗分区策略,以缓解节点级过滤的计算负担。模型首先在低秩特征空间中对节点进行分组。然后根据生成的分区为节点分配合适的谱过滤专家。这样,提出的模型允许不同节点使用不同的过滤模式,而不是应用相同的模式。同时,在视图之间,提出的模型结合多视图表示并测量跨视图距离以提取可靠的共享信息,从而促进跨视图一致性和互补性。在最终融合之前,它进一步自适应地加权不同视图的表示。提出的模型保留了每个视图内的节点级差异,并利用视图间的跨视图信息,从而提高了多视图节点分类。本工作的主要贡献总结如下:
- •
提出了一种分区引导的视图内过滤,以建模每个视图内的节点特定差异,允许不同节点采用不同的过滤模式,而不是共享统一过滤策略。
- •
开发了一种跨视图表示构建,以捕获共享语义并自适应地融合来自不同视图的表示,为多视图分类提供更信息丰富的节点表示。
- •
在多个基准数据集上的实验表明,提出的模型在多视图节点分类上始终取得比现有方法更强的性能。
章节摘要
相关工作
本节简要回顾了与此工作最相关的研究,包括基于图的多视图学习、图粗化和专家混合。
提出的方法
在本节中,我们提出了提出的分区引导的多视图图过滤 (PMGF) 框架。如图 2 所示,PMGF 包含两个关键组件:分区引导的视图内过滤和跨视图表示构建。前者通过分区引导的过滤捕获每个视图内的节点级差异,而后者利用跨视图共享信息并在融合前自适应分配视图特定权重。协同工作,这两个组件
实验
在本节中,我们进行了广泛的实验,以全面评估提出方法的有效性和鲁棒性。我们首先详细介绍了实验设置,然后报告并分析了多视图半监督分类任务上的结果。
结论
在本文中,我们提出了分区引导的多视图图过滤,用于多视图半监督节点分类。与主要依赖共享过滤或粗略视图级融合的现有方法不同,我们的方法显式建模了视图内异构性和跨视图共享信息。具体而言,它使每个视图内的不同粗节点分区遵循自适应传播模式,同时引入跨视图表示构建以捕获
CRediT 作者贡献声明
Shanru Xu: 撰写 – 初稿,可视化,验证,方法论,调查,形式分析,数据管理。 Weiran Liao: 撰写 – 审阅和编辑,监督,概念化。 Hongrong Chen: 撰写 – 审阅和编辑。 Yiqing Shi: 撰写 – 审阅和编辑。 Shiping Wang: 撰写 – 审阅和编辑,监督,资源,资金获取。
利益冲突声明
作者声明他们没有已知的竞争性经济利益或个人关系可能影响本文报告的工作。
致谢
这项工作部分得到了 国家自然科学基金 资助编号 U25A20527 和 62276065 以及 福建省自然科学基金 资助编号 2024J01510026 的支持。
Shanru Xu|Weiran Liao|Hongrong Chen|Yiqing Shi|Shiping Wang