融合图感知特征的多视图张量分解方法用于动态属性图嵌入

《Pattern Recognition》：Multi-View Tensor Factorization for dynamic attributed graph embedding with graph-aware features

　　我们提出了MV-TF，一种用于动态属性图嵌入的无监督多视图张量分解框架。引入了一种轻量级的图感知辅助视图，无需监督即可桥接拓扑结构与节点属性。纳入了稀疏子空间约束，以促进具有社区结构的节点表示学习。在五个真实数据集上的实验表明，MV-TF相较最先进方法取得了具有统计显著性的性能提升。动态图数据在日常生活中无处不在。例如，在Facebook上，用户经常发布或分享文本和视频，他们的互动可以被建模为一个图，其中用户是节点，他们之间的关系是边。用户分享的内容，如文本或视频，充当这些节点的属性。随着边和属性随时间演变，识别动态网络的演化模式变得具有挑战性。为了更好地理解和分析这些动态网络，学习节点的高质量表示是揭示实体之间关系的有效方法。该技术在推荐系统、蛋白质-蛋白质相互作用预测以及脑网络分析等领域得到广泛应用。然而，学习动态图数据的表示必须克服若干挑战：如何在每个快照中整合拓扑结构和属性，以及如何捕捉图随时间变化的模式？受这些挑战启发，我们聚焦于无监督动态属性图嵌入，其核心难点在于如何在统一框架中联合建模拓扑结构、属性以及时间演化。针对第一个挑战，现有的图嵌入工作主要分为三类：基于随机游走的图表示算法、图神经网络、张量分解，以及超图计算——后者能够捕捉超越成对边的高阶关系。前两类算法可视为矩阵分解技术的特例。然而，对于属性图，基于随机游走的嵌入方法无法有效处理属性信息。为同时捕捉拓扑结构和属性信息，多视图学习方法通常将属性图视为两个视图并分解相应矩阵。然而，捕捉局部信息仍是一项重大挑战。对于基于图神经网络的方法，虽然它们可以通过消息传递学习局部信息，但由于堆叠多个传播层导致的模型过度平滑问题，学习全局长程依赖关系仍然是一个挑战。因此，在避免深层架构的统一框架中，将多视图学习与局部结构引入机制相结合变得至关重要。在本工作中，我们旨在通过引入一种图感知辅助视图来弥合这一差距，该视图在分解前将局部结构上下文注入节点属性中，从而在单一的无监督框架中同时学习局部邻域信息和全局潜在耦合。第二个挑战要求算法能够跨快照提取高阶信息，使其对异常的网络演化行为具有更强的鲁棒性。基于随机游走的图嵌入方法试图捕捉序列模式，但在整合动态属性图时存在困难，且通常需要结合其他模型。许多现有的深度学习方法将图神经网络与序列模型相结合，但继承了神经网络的缺点，如高计算成本、难以捕捉超长程依赖关系，以及更重要的是，训练时需要真实节点标签，而后者在现实场景中往往稀缺。尽管张量分解方法在无监督方式下捕捉高阶时间相关性方面具有固有优势，但现有算法难以同时整合节点属性和拓扑信息。因此，迫切需要一个统一的无监督框架，能够联合建模拓扑结构和属性随时间的演化，同时有效融入局部结构线索。这一观察启发了我们提出耦合多视图张量建模方法，其中拓扑结构、属性和图感知上下文特征通过共享潜在因子进行对齐，而非独立建模。考虑到这些挑战，我们提出了多视图张量分解（MV-TF），一种用于动态属性图嵌入的新型无监督框架。MV-TF被设计为一种耦合多视图张量学习框架，其中拓扑结构、属性和图感知上下文信息在共享潜在空间中联合建模，以捕捉结构、属性和时间依赖关系。与许多依赖监督和迭代基于梯度的优化的深度动态图学习方法不同，MV-TF利用张量分解来捕捉拓扑结构、属性与时间之间的高阶相关性。我们的核心思想是将动态图表示学习形式化为多视图张量耦合问题，其中拓扑结构、属性及其时间演化通过统一分解进行联合建模。为弥合局部结构与全局分解之间的差距，我们引入了一种额外的图感知视图，通过消息传递将拓扑上下文编码到节点属性中。具体而言，如图1所示，动态属性图天然提供了三个互补视角：拓扑视图、属性视图和图感知视图。虽然拓扑视图和属性视图是必需的，但单独任何一个都无法反映它们之间的相互作用。图感知视图通过将拓扑上下文编码到节点属性中来桥接这一差距。这些张量在共享的节点和时间潜在因子下进行联合分解，自然地将结构信息和语义信息跨快照耦合在一起。进一步纳入稀疏子空间约束以促进社区结构嵌入的学习。MV-TF完全无需监督运行，并产生紧凑且高质量的表示，适用于节点分类等下游任务。本文的主要贡献总结如下：我们将无监督动态属性图嵌入形式化为耦合多视图张量学习问题，使得能够在统一框架中联合建模拓扑结构、属性和时间演化。我们引入了一种轻量级图感知辅助视图，并在共享潜在因子下将其与拓扑张量和属性张量联合分解，从而在不依赖深度监督的情况下桥接局部结构上下文和全局时间耦合。我们纳入了稀疏自表达约束，以保留学习嵌入空间中的社区结构，提高了节点表示的紧凑性、可判别性和可解释性。我们在五个真实数据集上进行了大量实验，表明MV-TF始终取得优越性能，并通过消融实验、敏感性分析、收敛性分析和统计分析验证了每个组件的有效性。过去几十年来，已提出了许多用于属性网络嵌入的方法。我们重点关注动态网络表示和张量分解的相关工作。在本节中，我们介绍了多视图张量分解（MV-TF），一种用于动态属性图节点嵌入学习的无监督框架。我们的方法通过将表示学习形式化为时间连贯的多视图张量耦合问题，联合建模图拓扑结构、节点属性及其时间动态的协同演化。如图1所示，MV-TF从一系列图快照中构建三个互补张量：（i）一个拓扑张量本节提供了大量实验以展示MV-TF的优势。因此，下面展示了节点分类结果及相关分析。代码可在以下链接获取。在本文中，我们提出了MV-TF，一种针对动态属性图表示学习的原则化且可解释的框架。该方法将问题形式化为多视图张量分解，以联合建模图拓扑结构和节点属性的演化，同时结合图感知上下文信息。一个轻量级消息传递模块增强了结构信息与属性信息之间的耦合，而一个稀疏约束子空间学习组件则有助于促进——**尤中靖**：原创撰稿、项目管理、方法论、资金获取、调查研究、稿件审阅与编辑。**张嘉伟**：可视化、软件、方法论、数据整理。**汤辰**：验证、调查研究、数据整理。**李佳璇**：软件、数据整理。**张国**：稿件审阅与编辑、正式分析。**张海俊**：资金获取、资源。**邵俊明**：稿件审阅与编辑、资金获取。**余俊智**：稿件审阅与——我们声明与本工作不存在利益冲突。我们声明不存在任何商业性或关联性利益与所提交的工作构成利益冲突。