多层网络中的生成规律性：一种共享潜在空间表示方法

《ACM Transactions on the Web》：Generative Regularities in Multi-Layer Networks: A Shared-Latent Space Representation Approach

　　摘要
理解多层网络中各层之间的结构规律性对于揭示其潜在的生成机制至关重要。尽管在多层网络中广泛探索了链接预测，但它通常被视为一个孤立的技术问题，常常忽略了其对网络结构和驱动边缘形成机制的更广泛影响。在本文中，我们研究了网络层在多大程度上表现出共享的生成规律性。通过检查各层潜在表示的对齐情况，我们评估了它们潜在机制的相似性，并利用这种对齐来提高预测性能。为此，我们引入了一个新的指标——跨层生成一致性（CLGC），该指标定量地捕捉了网络层之间的结构和生成对齐程度。CLGC基于共享潜在空间框架，认为由相似机制生成的字层将产生兼容的潜在表示。为了实现这一方法，我们提出了SupportNet——一种基于GCN的模型，并增加了对抗性训练，以有效地学习鲁棒的共享潜在空间表示。这些表示支持准确的链接预测和跨层生成一致性的可解释评估。在真实世界的多层网络上的实验表明，SupportNet在Kapferer数据集上将AUC提高了17.47%，AP提高了40.41%，AUPR提高了39.59%，而CLGC揭示了层与层之间的显著结构和生成对齐模式。

人工智能摘要
人工智能生成的摘要（实验性）
该摘要是使用自动化工具生成的，并非由文章作者撰写或审核。它旨在帮助发现、帮助读者评估相关性，并协助来自相关研究领域的读者理解这项工作。它旨在补充作者提供的摘要，后者仍然是论文的主要摘要。完整文章仍然是权威版本。点击此处了解更多信息。点击此处对摘要的准确性、清晰度和实用性进行评论。这样做将有助于改进和未来重新生成的版本。要查看这个人工智能生成的通俗语言摘要，您必须具有高级访问权限。

1 引言
多层网络越来越被认为是表示复杂系统的关键框架，在这些系统中，实体通过多种类型的关系或不同的模态进行交互[5, 38]。这样的网络中的每一层可能对应于一种不同的交互类型，例如社会联系[22]、通信模式[10]或相互依赖的基础设施连接[6]。通过捕捉这些层之间的交互，多层网络提供了对异构系统的全面而细致的视图[7]。在这个框架中，链接预测成为一个重要的分析任务：它试图利用观察到的网络结构来识别缺失或潜在的链接[9]。在多层设置中，链接预测方法通常利用来自多个层的信息来提高预测性能[1, 48]。尽管在链接预测方面做了大量工作[17, 43, 44]，但相对较少关注其揭示多层网络结构背后生成机制的潜力[16, 30]。
除了预测缺失的链接外，链接预测还可以作为一种工具来揭示多层网络背后的结构规律性。特别是，当在不同层上进行链接预测时，链接预测结果可以揭示这些层是否受相似的生成机制支配[20]。共享相似生成机制的层预计会产生兼容的潜在表示，反映了层与层之间的结构和生成对齐。量化这种对齐加深了我们对不同类型交互如何组织的理解，并为预测建模和多层表示学习提供了策略[14]。
这种生成一致性的概念是研究多层网络的核心[15]。例如，在社交网络中，线上和线下交互可能表现出相似的社区形成模式[30]；在基础设施网络中，由于它们的相互依赖性，电网和通信系统的形成和组织可能紧密相关[34]。这种一致性的存在意味着控制链接形成的规则在层与层之间，甚至在相关网络之间是相似的[20]。识别和量化这种一致性不仅加深了我们对网络系统的理解，还通过利用共享的生成规律性实现了更有效的预测建模[33]。
为了形式化这一观点，我们引入了跨层生成一致性（CLGC）的概念，该概念量化了网络层之间的结构和生成对齐程度。CLGC基于共享潜在空间范式[47]，其直觉是，如果从多个层共同学习的共享潜在空间表示能够准确预测每层内的链接，那么这些层的潜在生成过程很可能是相似的。本质上，当层与层之间的链接形成模式一致时，它们应该是可转移的，并且可以通过一个共同的嵌入空间有效捕获。
尽管有这种直觉，但评估和利用跨层生成一致性涉及几个重大挑战。首先，由于层特定的噪声、稀疏性和异质性等因素，学习真正的共享潜在空间是复杂的；简单地将不同层的嵌入合并可能会掩盖重要的结构信息。其次，需要确保共享表示不仅具有预测性，而且能够在层与层之间泛化，这需要在捕获共同语义和保留区分特征之间取得谨慎的平衡。第三，需要一个稳健且原则性的指标来定量评估生成一致性，重点关注生成机制的可转移性而不是表面的结构相似性。
为了克服这些挑战，我们提出了SupportNet（多层网络中的支持预测和一致性分析），这是一个基于GCN的对抗性框架，包括三个主要模块：(i) 层级表示提取器，它在链接级别独立学习层内结构特征；(ii) 潜在空间学习器，它使用生成器和鉴别器之间的对抗性训练来派生共享潜在空间表示；以及 (iii) 链接预测器，它共同优化共享潜在空间以提高链接预测性能。SupportNet学习的共享潜在空间表示是评估跨层生成一致性的基础。通过捕捉多个网络层下的共同结构规律性，这些表示使我们能够直接量化不同层的生成机制对齐的程度。
利用SupportNet和我们新定义的指标CLGC，我们定量评估了网络层之间结构和生成模式的一致性程度。具体来说，CLGC通过评估从多个层共同学习的共享潜在空间表示在每个单独层中转移和支持准确链接预测的能力来衡量生成一致性。通过系统地将CLGC应用于真实世界的多层网络，我们能够量化层与层之间的生成机制对齐程度，超越了定性观察，提供了跨层生成一致性的原则性数值评估。我们的实验表明，SupportNet不仅提供了强大的链接预测性能，而且通过使用CLGC，还揭示并量化了网络层之间的显著结构和生成对齐模式。
我们总结这项工作的主要贡献如下：
- 我们引入了CLGC，这是一个新的指标，通过评估共享潜在空间表示的可转移性来定量捕捉网络层之间结构生成机制的对齐程度。
- 我们开发了SupportNet，这是一个端到端的对抗性框架，它学习鲁棒的、抗噪声的共享潜在空间表示，支持有效的跨层链接预测和结构及生成一致性的评估。
- 我们通过在真实世界数据集上的全面实验验证了我们的方法，不仅展示了SupportNet的强大预测性能——在Enron数据集上的准确率提高了17.52%，AUC提高了16.35%——还展示了CLGC揭示跨层生成对齐有意义模式的能力。

12 相关工作
2.1 多层网络中的链接预测
链接预测旨在通过利用观察到的结构模式来识别社交和复杂网络中节点之间的潜在或缺失链接。虽然基础研究主要针对单层网络[23]，但最近的努力越来越多地关注多层网络，其中每一层代表一种不同的关系或交互上下文。实证研究表明，多层网络内的层通常显示出显著的结构相关性[22, 38]，这促使开发了能够有效整合层间信息的方法。
多层网络中的链接预测方法通常分为两类：基于拓扑的方法和基于特征学习的方法。基于拓扑的方法利用结构相似性度量（如共同邻居或基于路径的分数），并经常调整这些指标以考虑层间关系[31, 48]。一些方法通过将所有层合并为一个单一的聚合图来简化多层结构，从而可以直接应用标准的相似性度量[28, 29]。虽然聚合可以简化分析，但它有可能掩盖原始层中不同类型关系之间的重要区别。基于特征学习的方法使用机器学习或深度学习技术来学习节点或边的嵌入以进行链接预测。这些方法从传统的分类器[18]到更先进的模型（如图神经网络和层重建框架[1, 25]）不等。值得注意的是，LUSTER[47]引入了一种使用对抗性学习的共享潜在空间方法来提高跨层表示的鲁棒性。
尽管有这些进步，大多数现有方法主要是为了通过整合来自多个层的信息来提高预测准确性，而没有明确解决底层生成机制是否在层与层之间一致的问题。因此，它们对多层网络中控制链接形成的结构规则的洞察有限。相比之下，我们的工作通过同时考虑链接预测和生成一致性分析，为更深入地探索层间依赖性和生成对齐提供了框架。

2.2 多层网络中的结构生成模式
理解多层网络背后的结构模式是网络科学的基础。虽然动态网络的演变已经被广泛研究，开发了许多方法来模拟网络随时间的变化[16, 36, 41]，但对静态网络的生成机制关注较少，尤其是在多层设置中。在多层网络中，每一层可以被视为特定结构形成过程的结果，然而系统地研究这些层是否受一致的生成机制支配仍然很大程度上未被探索。
多层网络的结构通常受到潜在的社会、行为或组织规则的影响[20, 35]。例如，友谊和协作网络可能都受到节点相似性原则的影响，而信任和社会交互网络可能表现出类似的偏好连接或同质性模式。这种结构生成逻辑可以被视为一种隐性的“进化”——不是随时间，而是根据底层机制形成链接的方式。一些研究，如NSILR[48]，通过计算一个代表一层与另一层整体相似性的单一分数来量化层与层之间的相似性。虽然这些方法对于捕捉粗略的层级相似性有效，但它们将层内的所有链接视为统一的，并没有考虑细粒度的、特定于链接的变异。因此，它们可能忽略了层与层之间生成连接的细微差异，限制了它们揭示生成机制真正对齐的能力。
为了填补这一空白，我们引入了跨层生成一致性（CLGC），这是一个旨在量化静态多层网络层与层之间生成规律性一致性的指标。CLGC不是比较显式的结构特征，而是关注理解观察到的结构背后的因果机制。我们评估从多个网络层共同学习的共享潜在空间表示是否可以用来准确预测每个单独层内的链接。这种可转移性的成功表明了生成机制在层与层之间的对齐程度。

3 问题定义
设 \(\mathcal {G} = \lbrace \mathcal {G}^{(1)}, \mathcal {G}^{(2)}, \dots , \mathcal {G}^{(L)}\rbrace\) 表示一个包含L层的多层网络，其中每一层 \(\mathcal {G}^{(l)} = (\mathcal {V}^{(l)}, \mathcal {E}^{(l)})\) 由节点集 \(\mathcal {V}^{(l)}\) 和边集 \(\mathcal {E}^{(l)}\) 组成。通常，层与层之间的节点集对应于相同的实体集，而边集编码了这些实体之间的不同类型的关系或交互。
多层网络中链接预测的核心目标是通过利用层内结构模式和层间依赖性来推断每层中缺失或潜在的链接。正式地，给定观察到的边集 \(\mathcal {E} = \lbrace \mathcal {E}^{(l)}\rbrace _{l=1}^{L}\)，任务是预测每层中未观察到的链接 \(\mathcal {E}_\text{u} = \lbrace \mathcal {E}^{(l)}_\text{u}\rbrace _{l=1}^{L}\)。
除了预测准确性之外，我们还寻求量化跨层生成一致性（CLGC），它捕捉了控制链接形成的生成机制在不同层之间对齐的程度。CLGC的设计基于这样一个假设：如果从多个层共同学习的共享潜在空间表示能够准确预测每层内的链接，那么控制这些层的生成模式很可能是一致的。因此，CLGC作为一个原则性的指标，用于定量评估不同层生成机制之间的对齐程度。4 方法论 4.1 概述 我们介绍了SupportNet，这是一个对抗学习框架，能够有效地捕捉跨越多个网络层的鲁棒且抗噪声的共享潜在空间表示。利用这些学习到的表示，我们提出了一种新的指标——CLGC——它定量衡量多层网络中不同层的结构生成机制的对齐程度。4.2 SupportNet 图1展示了SupportNet的整体工作流程。该模型首先使用逐层表示提取器为每个网络层获取层内表示\(\Phi\)。然后将这些表示输入到潜在空间学习器中，该学习器由生成器和鉴别器组成，它们在对抗（极小极大）环境中运行。生成器的目标是产生在层间无法区分的共享潜在空间表示\(\overline{\Phi }\)，而鉴别器则试图根据这些表示正确识别每个链接的来源层。最后，链接预测器利用共享潜在空间表示来推断缺失的链接。以下部分提供了每个模型组件的更多细节。图1. 提出的模型SupportNet的概述。 (i) 逐层表示提取器学习每个单独层的层内表示。 (ii) 潜在空间学习器由生成器和鉴别器组成，通过对抗训练获得共享潜在空间表示。 (iii) 链接预测器预测链接是否缺失。4.3 逐层表示提取器 SupportNet中的逐层表示提取器使用L个独立的跳跃知识网络（JKNet）[46]，这些网络基于标准的GCN传播层，并通过灵活的多跳聚合机制对其进行增强，以学习每个网络层的层内节点表示。对于第l层，我们构建邻接矩阵\(A^{(l)} \in \lbrace 0,1\rbrace ^{|\mathcal {V}^{(l)}| \times |\mathcal {V}^{(l)}|}\)并初始化节点特征矩阵\(H^{(l,0)} \in \mathbb {R}^{|\mathcal {V}^{(l)}| \times d_n}\)，其中\(d_n\)是嵌入维度。GCN更新节点特征如下：\begin{equation} H^{(l,h+1)} = \sigma \left(\tilde{D}^{(l)-\frac{1}{2}} \tilde{A}^{(l)} \tilde{D}^{(l)-\frac{1}{2}} H^{(l,h)} W^{(l,h)}\right), \end{equation} (1)其中\(\tilde{A}^{(l)} = A^{(l)} + I\)向邻接矩阵添加自环，\(\tilde{D}^{(l)}\)是\(\tilde{A}^{(l)}\)的度矩阵，\(W^{(l,h)}\)是第h个GCN层的权重矩阵，\(\sigma (\cdot)\)表示ReLU激活函数。为了灵活地整合多跳信息，我们使用了一个配备跳跃知识（JK）机制的三层GCN主干网络，该机制聚合中间表示：\begin{equation} Z^{(l)} = H^{(l,1)} \oplus H^{(l,2)} \oplus H^{(l,3)} \in \mathbb {R}^{|\mathcal {V}^{(l)}| \times 3 d_n}. \end{equation} (2)由于连接会增加特征维度，我们应用一个全连接输出层将JK聚合的表示投影回所需的嵌入维度，得到第l层的最终节点嵌入：\begin{equation} N^{(l)} = Z^{(l)} W_{\text{out}} \in \mathbb {R}^{|\mathcal {V}^{(l)}| \times d_n}, W_{\text{out}} \in \mathbb {R}^{3d_n \times d_n}. \end{equation} (3)对于第l层中的每个链接\(e = (v_i, v_j)\)，其层内链接表示是通过连接其端点的嵌入来形成的：\begin{equation} \phi _e^{(l)} = N_{v_i}^{(l)} \oplus N_{v_j}^{(l)} \in \mathbb {R}^{d}, \end{equation} (4)其中\(\oplus\)表示连接，\(d = 2d_n\)是链接表示的维度。收集所有层的层内链接表示后，我们定义：\begin{equation} \Phi = \left\lbrace \phi _e^{(l)} \mid e \in \mathcal {E} \cup \mathcal {E}_u, l = 1, \dots , L \right\rbrace . \end{equation} (5)我们将逐层表示提取器形式化为一个函数：\begin{equation} M_L(\mathcal {G}; \Theta _L) : \mathcal {G} \rightarrow \Phi , \end{equation} (6)其中\(\mathcal {G}\)是输入的多层网络，\(\Theta _L\)表示提取器的参数。4.4 潜在空间学习器 SupportNet中的潜在空间学习器采用生成器-鉴别器框架来获得跨越多个网络层的鲁棒共享潜在空间表示。生成器负责生成这些共享表示，而鉴别器则被训练来识别每个链接的来源层，从而鼓励生成器学习在层间不变的表示。下面描述了每个组件的详细信息。生成器。为了捕捉不同层之间的共享潜在空间表示，生成器使用卷积神经网络（CNN）来处理逐层提取器产生的层内链接表示。CNN旨在聚合这个随机批次中相邻链接的信息，链接样本已被随机打乱，以便每个小批量包含来自不同层的链接，从而捕捉不同链接之间的共享潜在模式。从链接e开始的m个相邻链接样本的卷积操作定义为\begin{equation} \overline{\phi }_e = \sigma \left(\sum _{k=0}^{m-1} W_k \cdot \phi _{e+k} \right), \end{equation} (7)其中\(\sigma (\cdot)\)表示ReLU激活函数，\(W_k\)是捕获打乱小批量中链接嵌入之间相关性的可学习卷积滤波器权重。多层网络中所有链接的共享潜在空间表示结果为：\begin{equation} \overline{\Phi } = \left\lbrace \overline{\phi }_e \mid e \in \mathcal {E} \cup \mathcal {E}_u \right\rbrace \in \mathbb {R}^{|\mathcal {E} \cup \mathcal {E}_u| \times d}. \end{equation} (8)共享潜在空间表示的维度d与层内表示的维度相匹配。鉴别器。对于每个链接e，鉴别器旨在预测链接的来源层。它由一个全连接层和一个softmax激活函数组成：\begin{equation} d_e = \texttt {softmax}(W^T \cdot \overline{\phi }_e + b), \end{equation} (9)其中\(W \in \mathbb {R}^{d \times L}\)和\(b \in \mathbb {R}^{L \times 1}\)分别是权重矩阵和偏置向量，\(d_e \in \mathbb {R}^{L \times 1}\)表示每个层的预测概率。鉴别器使用交叉熵损失进行训练：\begin{equation} \mathcal {L}_{adv} = - \left[ \underset{e \sim \mathcal {E}}{\mathbb {E}} \sum _{l=1}^{L} y_{(e,l)} \log d_{(e,l)} + \underset{e \sim \mathcal {E}_u}{\mathbb {E}} \sum _{l=1}^{L} y_{(e,l)} \log d_{(e,l)} \right], \end{equation} (10)其中\(y_{(e,l)}\)是真值指示器（如果链接e属于层l则为1，否则为0），\(d_{(e,l)}\)是链接e位于层l的预测概率。\(\mathcal {L}_{adv}\)的值越低，表示鉴别器能够更容易地区分层；而较高的值表明生成器在使表示更具层不变性方面取得了成功。这个对抗过程形成了一个极小极大游戏：生成器试图最大化\(\mathcal {L}_{adv}\)（欺骗鉴别器），而鉴别器则试图最小化它（正确识别层）。潜在空间学习器可以形式化为以下函数：\begin{equation} M_S(\Phi ; \Theta _G, \Theta _D) : \Phi \rightarrow \overline{\Phi }, \end{equation} (11)其中\(\Theta _G\)和\(\Theta _D\)分别表示生成器和鉴别器的参数。函数\(M_S\)将层内表示\(\Phi\)映射到共享潜在空间表示\(\overline{\Phi }\)。4.5 链接预测器 链接预测器处理潜在空间学习器产生的共享潜在空间表示\(\overline{\Phi }\)。对于每个候选链接e，其表示\(\overline{\phi }_e\)被输入到一个全连接层中，以估计链接存在的概率。具体来说，预测概率\(p_e\)计算如下：\begin{equation} p_e = \texttt {softmax}(W_p^T \cdot \overline{\phi }_e + b_p), \end{equation} (12)其中\(W_p \in \mathbb {R}^{d \times 2}\)是权重矩阵，\(b_p \in \mathbb {R}^{2 \times 1}\)是偏置向量。为了训练链接预测器，我们使用交叉熵损失，其定义为\begin{equation} \mathcal {L}_{cls} = -\left[\underset{e \sim \mathcal {E}}{\mathbb {E}} \log (p_e) + \underset{e \sim \mathcal {E}_u}{\mathbb {E}} \log (1 - p_e)\right], \end{equation} (13)其中\(\mathcal {E}\)和\(\mathcal {E}_u\)分别表示观察到的和未观察到的链接集合。我们将链接预测器形式化为一个函数：\begin{equation} M_P(\overline{\Phi }; \Theta _P) : \overline{\Phi } \rightarrow P, \end{equation} (14)其中\(\Theta _P\)表示预测器的参数，P是基于共享潜在空间表示\(\overline{\Phi }\)的所有候选链接的预测概率集合。4.6 SupportNet优化 我们定义SupportNet的总体损失函数为\begin{equation} \mathcal {L}= \mathcal {L}_{cls}+\mathcal {L}_{adv}. \end{equation} (15)模型优化使用Adam算法[19]和衰减的学习率[13]进行。参数更新规则为\begin{equation} \theta ^{(t+1)}=\theta ^{(t)}-\eta _r(\nabla _{\theta } \mathcal {L}), \end{equation} (16)其中\({\theta }=\lbrace \theta _L \in \Theta _L,\theta _D \in \Theta _D,\theta _P \in \Theta _P\rbrace\)，\(\eta _r\)是学习率，它随时代数衰减如下：\begin{equation} \eta _r=\frac{\eta _0}{(1 + \alpha \times r)^{\beta }}, \end{equation} (17)其中r表示当前时代数与总时代数的比率，\(\eta _{0}=0.01\)是初始学习率，\(\alpha = 10\)，\(\beta = 0.75\)是根据[13]确定的超参数。在对抗训练过程中，生成器和鉴别器进行极小极大游戏：鉴别器通过梯度下降更新其参数以最小化\(\mathcal {L}_{adv}\)，而生成器更新其参数以最大化\(\mathcal {L}_{adv}\)，从而鼓励学习到的表示具有层不变性。为了实现这种对抗机制，一种常见的方法是使用梯度反转层（GRL）[8, 42]，它在反向传播过程中反转生成器参数的梯度。然而，由于\(\mathcal {L}_{adv}\)通常对\(\theta _G\)是非线性的，直接反转可能并不总是最优的。因此，我们采用了一种修改后的投影梯度下降（PGD）[26]策略，仅将干扰集中在生成器的梯度上，避免干扰前面的逐层表示学习器。在反向传播过程中，生成器参数\(\theta _{G} \in \Theta _G\)被扰动N次。n步后的累积干扰（\(n=1,2,\ldots ,N\)）由下式给出：\begin{equation} c^{(n)} = \sum _{i=0}^{n-1} \mu \cdot \mathrm{sgn}(\nabla _{\theta _{G}^{(i)}} \mathcal {L}_{adv}^{(i)}), \end{equation} (18)其中\(\mu\)是干扰系数，\(\mathrm{sgn}(\cdot)\)表示符号函数。这里，\(\theta _{G}^{(0)}\)和\(\mathcal {L}_{adv}^{(0)}\)是扰动前的初始状态，而\(\theta _{G}^{(n)}\)和\(\mathcal {L}_{adv}^{(n)}\)是n次扰动后的状态。如果累积干扰\(c^{(n)}\)超过半径\(\lambda\)，则将其投影回半径为\(\lambda\)的球面上，以防止过度扰动：\begin{equation} \theta _{G}^{(n)} = {\left\lbrace \begin{array}{ll} \theta _{G}^{(0)}+\frac{\lambda }{\Vert c^{(n)}\Vert _2}c^{(n)}, & \text{if } \Vert c^{(n)}\Vert _2 \gt \lambda \\ \theta _{G}^{(0)}+c^{(n)}, & \text{otherwise} \end{array}\right.} \end{equation} (19)其中\(\Vert \cdot \Vert _2\)表示\(\mathcal {L}_2\)范数。每次扰动后，使用方程10和更新后的\(\theta _{G}^{(n)}\)重新计算对抗损失\(\mathcal {L}_{adv}^{(n)}。经过N次扰动步骤后，生成器参数更新为\begin{equation} \theta _G^{(t+1)}=\theta _G^{(t)}-\eta _r\left(\nabla _{\theta _G} \mathcal {L}+\nabla _{\theta _G^{(N)}} \mathcal {L}_{adv}^{(N)}\right). \end{equation} (20)此更新结合了当前损失\(\mathcal {L}\)对\(\theta _G\)的梯度和N次扰动后的对抗损失\(\mathcal {L}_{adv}^{(N)}\)对\(\theta _G^{(N)}\)的梯度。通过结合这些梯度，更新过程将干扰信息注入生成器的参数优化中，增强了鲁棒共享潜在空间表示的学习。SupportNet工作流程。SupportNet的训练过程在算法1中概述如下。模型接收多层网络图\(\mathcal {G}\)和初始学习率\(\eta _0\)作为输入。它首先提取每个链接的真实层标签（即每个链接所属的层）和预测标签（即每个链接是否存在），如第1-2行所示。在每个时代开始时，根据方程17（第4行）更新学习率\(\eta _r\)。然后使用逐层提取器计算层内表示\(\Phi\)，并使用潜在空间学习器计算共享潜在空间表示\(\overline{\Phi }\)（第5行）。随后，计算对抗损失\(\mathcal {L}_{adv}\)、分类损失\(\mathcal {L}_{cls}\)和总损失\(\mathcal {L}\）（第6行）。然后多次扰动生成器的梯度以引入对抗干扰（第8-10行）。之后，更新参数\(\theta _L\)、\(\theta _D\)、\(\theta _P\)和\(\theta _G\)（第12-13行）。最后，对于每个未观察到的链接，模型预测其存在概率（第16行）。4.7 CLGC SupportNet旨在通过学习共享潜在空间表示\(\overline{\Phi }\)来捕捉结构特征并提供强大的链接预测性能。基于这一能力，我们利用这些共享表示来定量评估不同网络层之间的生成一致性。其背后的直觉是，如果几个网络层具有相似的结构生成模式，那么从它们学到的共享潜在空间表示应该能够在层间传递，而不会显著损失预测准确性，表明具有高程度的生成一致性。为了形式化这一点，我们引入了一个新的评估指标CLGC，它量化了共享潜在空间内的跨层生成一致性。该指标通过衡量联合学习的表示在网络层之间的传输效果，来评估生成模式之间的相似性以及共享潜在空间的有效性。图2展示了CLGC如何评估两个网络层之间生成机制的一致性。我们首先定义跨层链接预测评估分数为：
\[
\texttt {score}_{A|(A,B)} = \text{Eval}_{A}({{\rm S}{\rm\small{UPPORT}}{\rm N}{\rm\small{ET}}}(A, B),
\]
(21)
\]
其中\({{\rm S}{\rm\small{UPPORT}}{\rm N}{\rm\small{ET}}(A, B)\)表示在层A和层B的数据上联合训练的模型，\(\text{Eval}_{A}(\cdot)\)使用共享潜在空间嵌入来衡量层A上的链接预测性能。这个分数表明了由两层共同塑造的共享表示在捕捉与层A相关的结构特征方面的能力。

为了建立一个比较的参考点，我们定义了自层参考分数为：
\[
\texttt {score}_A = \text{Eval}_{A}({{\rm S}{\rm\small{UPPORT}}{\rm N}{\rm\small{ET}}}(A, A)),
\]
(22)
\]
其中\({{\rm S}{\rm\small{UPPORT}}{\rm N}{\rm\small{ET}}(A, A)\)表示仅在层A上训练的模型，\(\text{Eval}_{A}(\cdot)\)评估其链接预测性能。这个分数作为基线或上限，代表了在不结合其他层信息的情况下在层A上可以达到的最佳性能。

在此基础上，我们定义了从在层A和层B上联合训练的模型到层A的方向性可转移性为：
\[
\texttt {trans}_{(A,B) \rightarrow A} = \min \left(1, \frac{\texttt {score}_{A|(A,B)}}{\texttt {score}_A}\right).
\]
(23)
\]
该指标量化了当模型在A和B上联合训练时，在层A上的预测性能保留的程度，并通过相应的单层参考进行了归一化。在某些情况下，联合模型可能在给定层上实现比单层基线更高的链接预测性能。这种改进可能是由于训练的偶然效应，如噪声平滑或正则化，这些效应可以提高预测准确性。然而，CLGC的主要目的是评估生成一致性，即潜在表示——因此是底层的生成机制——在层之间的可转移性。按构造，可转移性衡量了使用共享表示时保留的原始单层性能的比例，其最大值自然限制为1。超过单层基线的性能提升不一定对应于生成一致性的增加；相反，它们可能是由于联合训练的副作用，而不是生成模式的真正对齐。因此，我们使用\(\min (1, \cdot)\)来截断可转移性分数，以便CLGC保持在[0,1]范围内，并准确反映生成一致性的程度。类似地，从联合模型到层B的可转移性定义为：
\[
\texttt {trans}_{(A,B) \rightarrow B} = \min \left(1, \frac{\texttt {score}_{B|(A,B)}}{\texttt {score}_B}\right),
\]
(24)
\]
其中\(\texttt {score}_B\)是B的自层参考，\(\texttt {score}_{B|(A,B)}\)是在A和B上联合训练时在B上的性能。

然后，层A和层B之间的整体CLGC分数定义为这两个方向性可转移性的平均值：
\[
{{\rm\small CLGC}}_{(A, B)} = \frac{\texttt {trans}_{(A,B) \rightarrow A} + \texttt {trans}_{(A,B) \rightarrow B}}{2}.
\]
(25)
\]
这个对称的度量反映了共享潜在空间中两层之间的相互结构和生成一致性程度。较高的\({{\rm\small CLGC}}_{(A, B)}\)值表明共享表示在两层之间有很好的泛化能力，表明它们的生成模式有很强的共性。相反，较低的值表明跨层一致性较弱，意味着共享潜在空间难以捕捉每层的独特特征。

这个框架自然可以扩展到多层网络\(\lbrace L_1, L_2, \ldots , L_n\rbrace\)的情况。对于每个单独的层\(L_i\)，我们定义从在所有层上联合训练的模型到\(L_i\)的可转移性为：
\[
\texttt {trans}_{(\lbrace L_1, \ldots , L_n\rbrace) \rightarrow L_i} = \min \left(1, \frac{\texttt {score}_{L_i| \lbrace L_1, \ldots , L_n\rbrace }}{\texttt {score}_{L_i}}\),
\]
(26)
\]
其中\(\texttt {score}_{L_i}\)是\(L_i\)的自层参考，\(\texttt {score}_{L_i| \lbrace L_1, \ldots , L_n\rbrace }\)是在所有层上联合训练时在\(L_i\)上的性能。

然后计算多层之间的整体跨层生成一致性，作为所有层之间可转移性的平均值：
\[
{{\rm\small CLGC}}_{(L_1, \ldots , L_n)} = \frac{1}{n} \sum _{i=1}^n \texttt {trans}_{(\lbrace L_1, \ldots , L_n\rbrace) \rightarrow L_i}.
\]
(27)
\]
这种多层公式量化了从所有层一起学习的共享潜在空间转移到每个单独层的程度。CLGC值接近1表示层之间的生成模式高度一致，而较低的值表明更大的差异和更具体的层结构模式。

总之，CLGC提供了一种统一和定量的方法来评估网络层之间的生成一致性，基于共享潜在空间表示的可转移性。

5 实验
在本节中，我们首先通过实证评估我们提出的方法SupportNet在链接预测任务上的性能，以证明其在建模共享潜在空间方面的有效性。然后，我们使用提出的指标CLGC来量化不同网络层之间的生成一致性程度。

5.1 数据集
为了全面评估SupportNet，我们使用了几个真实世界的多层网络数据集，描述如下：
(i) Aarhus [27] 是奥胡斯大学计算机科学系员工之间的5层网络，其中每一层对应于不同类型的关系——Facebook连接、休闲活动、工作相关互动和午餐互动。
(ii) Enron [40] 是Enron员工之间的2层网络，层代表与上级和同事的关系。
(iii) Kapferer [11] 是在一家裁缝店观察到的4层网络，涵盖了工作、帮助、友谊和情感关系。
(iv) LonRail [11] 是LonRail火车站的3层网络，层对应于通过地下、地面和Docklands Light Railway (DLR)的连接。
(v) TF [18] 是Twitter和Foursquare之间的2层网络。第一层代表Twitter上的关注关系，第二层代表Foursquare上的友谊关系。
(vi) Reddit [21] 被表示为一个由包含子版块之间超链接的帖子组成的2层网络。在这个网络中，每个节点对应一个单独的帖子，而边表示从一个帖子（源自源子版块）到另一个帖子（位于不同的目标子版块）的超链接的存在。第一层包括帖子标题中的超链接，而第二层包括嵌入在帖子正文中的超链接。这种分层结构使得可以区分子版块之间的互动模式。

表1总结了这些多层网络数据集的关键统计信息。在表中，\(c^{(l)}\)表示第l层的聚类系数，\(\langle \mu ^{(l)} \rangle\)表示节点的平均度，\(H^{(l)} = \frac{\langle {\mu ^{(l)}}^2 \rangle }{\langle \mu ^{(l)} \rangle ^2}\)表示异质性[24]。此外，\(\rho ^{(l)} = \frac{2|E^{(l)}|}{|V^{(l)}| (|V^{(l)}| - 1)}\)表示每层的密度。

表1. 数据集
# 节点数 # 边数
l 连接数 \(\vert \mathcal {V}^{(l)}\vert\) \(\vert \mathcal {E}^{(l)}\vert\) \(c^{(l)}\) \(\langle \mu ^{(l)} \rangle\) \(H^{(l)}\) \(\rho ^{(l)}\)
Aarhus [27] 61 62 0 1 60 19 30.67 33 6.43 33 1.21 29 0.10 90 2
Leisure 32 12 40.54 04 7.75 00 1.22 68 0.25 00 3
Work 25 21 0.26 80 1.68 00 1.38 89 0.07 00 4
Writing 47 88 0.39 25 3.74 47 1.51 43 0.08 14 5
Lunch 60 19 40.63 96 6.46 67 1.66 52 0.10 96
Enron [40] 15 12 61 11 0.00 00 1.87 32 2.66 52 0.01 33 2
Colleagues 11 71 28 0.00 00 2.18 80 1.49 25 0.01 89
Kapferer [11] 39 55 21 39 15 80.45 80 8.10 26 1.34 67 0.21 32 2
Assistance 39 22 30.49 77 11.43 59 1.22 62 0.30 09 3
Friendship 35 76 0.31 01 4.34 29 1.50 58 0.12 77 4
Emotional 37 95 0.33 51 5.13 51 1.55 58 0.14 26
LonRail [11] 36 94 41 11 27 13 12 0.03 11 2.30 26 1.18 04 0.00 85 2
Above ground 83 83 0.00 00 2.00 00 1.07 23 0.02 44 3
DLR 45 46 0.01 85 2.04 44 1.09 52 0.04 65
TF [18] 1,564 32,579 1 564 14,09 00.13 14 18.01 79 3.38 64 0.01 15 2
Foursquare 1,508 18,47 10.34 36 24.49 73 3.77 52 0.01 63
Reddit [21] 67,180 85 88 1 54,07 55 71,92 70.18 44 21.15 31 45.68 60 0.00 02 2
Bodies 35,77 62 86,56 10.18 09 16.01 97 24.31 41 0.00 02

5.2 基线
为了评估SupportNet的有效性，我们将其与一系列最先进的基线方法进行了比较，总结如下：
(i) Adamic Adar [2] 在将多层网络折叠为加权单层网络后，使用Adamic-Adar系数计算节点相似性。虽然简单高效，但这种方法忽略了跨层结构依赖性，无法捕捉复杂的多层互动。
(ii) Jaccard [39] 通过Jaccard系数测量节点相似性，同样是在将多层网络转换为加权单层网络之后。与Adamic-Adar类似，它没有考虑层间信息，仅限于局部邻域重叠。
(iii) NSILR [48] 引入了一个节点相似性指数，利用层内和层间表示来捕捉多层网络中的层相关性。然而，它主要在整层级别计算相似性，可能忽略了同一层内个别节点对之间的异质性。
(iv) SEAL [49] 构建邻接子图并应用DGCNN来学习它们的特征。为了公平比较，我们将多层网络转换为单层网络，并将层信息作为节点属性。SEAL没有明确建模多层依赖性，在折叠层时可能会丢失信息。
(v) LRM [1] 通过利用其他类似层的信息来重建网络层的观察结构。如果两个层的特征向量（反映网络的结构特征）接近，则认为这两个层相似。虽然在捕捉结构模式方面有效，但当层表现出非常不同的结构特征时，LRM可能会受到限制，因为该方法依赖于层间特征的对齐。
(vi) MultiSup [37] 通过聚合所有层的信息来提取链接的全面结构表示。虽然在捕捉结构模式方面有效，但它没有明确考虑层在语义或连接性方面的差异，这可能会限制在具有多种类型互动的网络中的性能。
(vii) MADM [25] 将多层信息的整合视为一个多属性决策问题，使用资源分配来表示层内相似性，使用余弦相似性来表示层间相似性。虽然系统性强，但它没有明确建模潜在的层间表示或自适应地权衡层贡献，这可能会限制在复杂多层网络中的性能。
(viii) MANE [3] 将每一层视为一个单独的“视图”，并通过促进层间的多样性和协作来增强表示学习。然而，它可能会低估层之间的强相关性，这可能会限制对相互依赖层的预测准确性。
(ix) MNERLP [28] 通过结合局部和全局表示来计算节点和边的相关性，并利用它们进行链接预测。然而，它没有明确建模层间的潜在一致性，这可能会限制其在多层链接预测中的有效性。
(x) HOPLP [29] 将多层网络合并为单个加权网络，调整相对层密度，并通过考虑更长的节点路径来迭代估计链接概率。虽然它捕捉了一些长距离依赖性，但由于网络合并，可能会丢失层特定的生成模式。

这些限制促使我们提出了SupportNet，它明确学习跨层的共享潜在空间，同时保留层特定信号，从而实现更准确的链接预测和生成一致性的原则性评估。

5.3 实验设置
为了评估模型性能，我们遵循标准协议：观察到的链接被标记为正样本，而未观察到的链接作为负样本。每个数据集被随机划分为训练集、验证集和测试集，比例为8:1:1，以确保可靠的评估。对于性能评估，我们使用ROC曲线下面积（AUC）、平均精度（AP）和精确度-召回曲线下面积（AUPR）作为评估指标。我们将随机种子设置为42，以确保所有实验的可重复性。对于逐层表示提取器，所有GCN使用64的隐藏层大小。层内节点表示维度设置为\(d_n=16\)，因此\(\Phi\)和\(\overline{\Phi }\)的维度为\(d=2d_n=32\)，即\(\Phi , \overline{\Phi } \in \mathbb {R}^{|\mathcal {E} \cup \mathcal {E}_u| \times d}\)。对于对抗性训练，我们使用扰动系数\(\mu =3\)，扰动半径\(\lambda =7\)，并且每批应用\(N=4\)个扰动。批量大小为128，训练进行最多100个周期，并使用提前停止[32]。我们的实现基于Python 3.8和PyTorch 2.1，在NVIDIA RTX A100 GPU上运行。对于所有基线方法，我们遵循原始论文并根据其推荐的设置微调超参数。

5.4 主要结果
表2总结了SupportNet和一系列基线模型在多个评估基准测试中的比较性能。我们报告了AUC、AP和精确度-召回曲线下面积（AUPR）作为评估指标。如表所示，SupportNet在所有指标上始终优于所有基线，突显了我们方法的有效性。例如，在Kapferer数据集上，SupportNet在AUC上超过了第二好的方法17.47%，在AP上超过40.41%，在AUPR上超过39.59%。

表2. 数据集
指标 Adamic Adar Jaccard NSILR SEAL MNR LPM CLGC SupportNet
Aarhus AUC 0.6485 0.6461 0.3751 0.8979 0.5935 0.5843 0.7351 0.5188 0.8780 0.8554 0.9035 (+0.62%) AP 0.3126 0.2807 0.1619 0.4952 0.1082 0.1574 0.3387 0.1353 0.5821 0.4991 0.6057 (+4.05%) AUPR 0.3539 0.3212 0.1388 0.4914 0.1185 0.4313 0.3320 0.1324 0.5893 0.5081 0.6034 (+2.39%)
Enron AUC 0.4882 0.4882 0.4887 0.8420 0.6659 0.5742 0.4808 0.7499 0.4771 0.4824 0.8668 (+2.95%) AP 0.0157 0.0157 0.0154 0.1324 0.0208 0.0888 0.0155 0.1200 0.0157 0.0157 0.1370 (+3.47%) AUPR 0.0078 0.0078 0.0134 0.1218 0.0428 0.1221 0.0104 0.0078 0.0155 0.1200 0.0157 0.1370 (+3.47%)
Kapferer AUC 0.5714 0.5578 0.1577 0.6179 0.5859 0.5549 0.6289 0.6274 0.7414 0.7054 0.8709 (+17.47%) AP 0.2976 0.2382 0.1962 0.2948 0.2837 0.0996 0.3138 0.3135 0.4400 0.4070 0.6178 (+40.41%) AUPR 0.3070 0.2465 0.1296 0.2886 0.3035 0.2207 0.3002 0.3064 0.4408 0.4082 0.6153 (+39.59%)
LonRail AUC 0.5296 0.5295 0.4983 0.6067 0.5903 0.6659 0.5549 0.5431 0.5435 0.8587 (+28.95%) AP 0.0147 0.0142 0.0108 0.0391 0.0054 0.0610 0.0155 0.0159 0.0150 0.0158 0.0851 (+39.51%) AUPR 0.0487 0.0482 0.0096 0.0334 0.0093 0.0709 0.0283 0.0139 0.0422 0.0440 0.0809 (+14.10%)
TF AUC 0.6768 0.6688 0.4475 0.5405 0.4952 0.9036 0.6343 0.3579 0.8908 0.8778 0.9408 (+4.12%) AP 0.1531 0.0553 0.0328 0.0108 0.0157 0.0973 0.0092 0.2889 0.1606 0.3318 (+14.85%) AUPR 0.1634 0.0657 0.0302 0.2520 0.0109 0.2163 0.0771 0.0092 0.2912 0.1632 0.3317 (+13.91%)
Reddit AUC 0.5650 0.5637 0.5656 0.7321 OOM 0.7198 0.6465 0.4182 0.8733 0.8706 0.9720 (+11.30%) AP 0.0788 0.0176 0.1041 0.2299 OOM 0.2169 0.1229 0.0148 0.5214 0.5134 0.5758 (+10.43%) AUPR 0.0991 0.0379 0.1185 0.2299 OOM 0.2347 0.1279 0.0148 0.5487 0.5441 0.5758 (+4.94%)
几个真实世界数据集上模型的预测结果（AUC、AP和AUPR）
粗体分数表示最佳结果，下划线分数表示第二好结果。OOM表示内存不足。

SupportNet的强大性能可以归因于几个核心设计原则：首先，SupportNet保留了原始的多层网络结构，而不是将其简化为单个加权网络。这种方法保持了每一层的独特拓扑特征，支持更准确的层内表示学习，并防止了由于早期层聚合而经常导致的结构信息丢失。其次，采用对抗性训练来学习跨网络层的共享潜在空间。这种机制促进了有效的层间信息交换，捕捉了常见的结构模式和依赖性，这对于建模一致的生成机制至关重要。第三，SupportNet采用了模块化架构，将层内表示提取、潜在空间对齐和链接预测分开。这种分离使得每个模块可以独立优化，同时确保最终预测受到局部和全局结构线索的指导。此外，这种模块化还便于下游分析，例如通过将预测结果与潜在结构模式联系起来，来评估跨层的生成机制的一致性。

在基线方法中，SEAL和MNERLP因其跨数据集的相对较强性能而脱颖而出。SEAL利用局部子图提取来减少来自无关节点的噪声，并结合了层感知特征来建模层间关系。MNERLP结合了局部和全局表示，以更全面地评估节点和边的相关性。然而，这两种方法都缺乏跨层的统一潜在对齐机制，这限制了它们完全捕捉网络间结构相似性的能力。相比之下，SupportNet将层内细节与层间一致性结合起来，从而实现了更准确和可解释的链接预测结果。

5.5 消融研究

如前所述，SupportNet由三个主要模块组成：逐层表示提取器、潜在空间学习器和链接预测器。我们进行消融实验，系统地评估SupportNet中关键组件的贡献。具体来说，我们关注潜在空间学习器模块，因为它负责学习跨网络层的共享潜在表示。我们专注于这个组件，因为它代表了将SupportNet与现有方法区分开来的关键机制，并且是我们框架的核心创新。与其他相对标准的组件（如逐层表示提取器或链接预测器）相比，潜在空间学习器更好地反映了我们的核心设计理念——提取一个共享的潜在空间表示，该表示能够捕捉跨层的隐含、可转移和互补信息。这种共享表示不仅直接增强了跨层链接预测的能力，还为后续分析跨层生成一致性提供了关键基础。

为了评估共享潜在空间的效果，我们构建了一个消融变体，称为“无潜在空间学习器（–L）”，通过移除潜在空间学习器并仅依赖逐层结构嵌入来进行链接预测。这种设置使我们能够隔离并量化对抗性学习到的共享潜在表示对整体模型性能的影响。我们使用AUC、AP和AUPR作为评估指标，在几个真实世界数据集上评估了完整的SupportNet及其消融变体。如图3所示，消融变体在所有数据集中都表现出显著的性能下降，强调了学习共享潜在空间表示对于捕捉跨层结构一致性和提高预测鲁棒性的重要性。

图3. 五个数据集的消融研究结果。完整模型（SupportNet）在AUC、AP和AUPR方面的表现明显优于没有潜在空间学习器的变体（–L），这证明了共享潜在空间表示的重要性。

仔细观察图3中的结果，可以得出以下观察：首先，移除潜在空间学习器导致所有数据集中的AUC、AP和AUC显著下降。例如，在Aarhus数据集上，AUC从0.9035下降到0.7248，AP从0.6057下降到0.3370，AUC从0.6034下降到0.3341，这突显了共享潜在空间在提高预测准确性方面的关键作用。其次，在具有高度稀疏层内结构的数据集中，性能差距尤为明显。例如，在LonRail数据集上，SupportNet将AUC从0.6512提高到0.8587，AUC从0.0182提高到0.0851，AUPR从0.0177提高到0.0809。如表1所示，LonRail在各个层内的结构信息有限，因此跨层共享潜在表示对于补偿语义信息的缺乏至关重要。第三，我们进一步观察到，在具有更多层的数据集上，SupportNet相对于消融变体的性能提升更为显著。例如，在Aarhus（5层）、Kapferer（4层）和LonRail（3层）数据集中，与只有两层的数据集（如Enron、TF和Reddit）相比，所有三个评估指标都有显著改善。这种趋势是预期的：具有更多层的数据集包含更丰富的跨层依赖性和互补的结构信号，而这正是潜在空间学习器旨在捕捉的。当这些跨层模式被有效聚合时，模型从共享潜在表示中受益更多，从而在结构复杂性更高的多层网络上获得更大的性能提升。

总体而言，这些消融实验证实了潜在空间学习器对于捕捉跨层共同模式以及提高模型的泛化能力和稳定性至关重要。

5.6 跨层生成一致性分析

本节的主要目标是确定不同网络层是否表现出一致的结构生成模式，以及共享生成机制在多大程度上控制了多层网络中的链接形成。为此，我们通过使用我们提出的CLGC指标（见第4.7节）来评估跨层学习到的表示的可转移性，从而分析网络层之间的对齐情况。虽然链接预测通常被视为估计缺失或未来连接的任务，但它也本质上反映了网络形成的结构机制——例如链接是如何在不同类型的关系或模态中形成、维护或组织的。通过利用CLGC，我们可以系统地评估生成一致性程度。具体来说，对于在方程21和22中定义的“跨层链接预测评估分数”，我们使用AUPR指标作为评估分数。跨层预测和层内预测之间的性能差距越小，表明生成机制的对齐性越强，结构一致性越高。

通过这项分析，我们旨在揭示跨层结构生成模式是否对齐，以及共享生成规则在多大程度上塑造了多层网络中的链接形成。我们从四个互补的角度呈现我们的分析：

(i) 网络内部层一致性，评估同一多层网络内各层生成机制的对齐情况。目的是揭示单个系统内的不同类型交互或关系是否由相似的结构形成规则产生。

(ii) 成对跨网络层一致性，评估来自不同多层网络的两层之间的一致性。这项分析旨在识别不同系统之间的结构相似性，揭示可能反映共同基本原理的共享生成模式。

(iii) 组合跨网络层一致性，检查三个或更多层的组合之间的生成对齐情况，可能跨越多个网络。这里的目的是捕捉更高阶的、全局的结构一致性模式，揭示一组层如何共同遵循共享或互补的生成机制。

(iv) 理论网络比较，将真实世界网络层与经典网络模型（随机图、小世界、无标度）进行比较。这项分析旨在用规范的生成机制来解释真实网络结构，提供一个理论基准，以评估真实世界层与已知结构规则的接近程度。

5.6.1 网络内部层一致性

我们评估同一多层网络内不同层之间的生成机制一致性，以确定单个系统中的各种类型交互或关系是否由相似的结构形成规则控制。为此，我们对Aarhus（5层）、LonRail（3层）和Kapferer（4层）数据集的所有层进行CLGC计算，并将结果以热图的形式展示在图4(a)、4(b)和4(c)中。在这些热图中，每个单元格对应于特定层对的CLGC分数，表示它们的结构对齐程度。这些可视化揭示的模式可以总结如下：

图4. 成对CLGC分数的热图，显示生成一致性。

首先，在Aarhus网络中，代表相似社交背景的层（如Facebook和Writing）表现出高一致性（0.9240），表明这些层中的交互由相似的生成机制控制。规模较小或连接较少的层（如Work）仍然与其他层有中等程度的对齐，表明即使是较小的关系层也对整体网络形成有重要贡献。其次，LonRail网络显示出中等程度的层一致性（0.6138–0.7217）。层大小的异质性（\(|V^{(l)}|\)范围从45到271）和密度（\(\rho ^{(l)}\)较小）导致结构模式不太均匀。虽然Underground和Above ground层有中等程度的对齐，但较小的DLR层与其他层的一致性略低。第三，Kapferer网络在三个数据集中表现出最高的内部层一致性。大多数层对显示出强烈的对齐，特别是Work–Emotional（0.9810）和Work–Assistance（0.9308），表明该网络中的多种类型的社会联系是根据高度相似的结构规则形成的。这一观察与第5.4节和第5.5节报告的结果一致，其中使用SupportNet模型提取共享潜在空间表示在Kapferer数据集上获得了最大的性能提升。

总体而言，这些结果表明，内部层一致性受到社交或功能交互类型以及每层结构特征的影响。具有较小、紧密层的网络倾向于表现出更高的一致性，而具有异构层大小和稀疏连接性的网络则表现出中等程度的对齐。这项分析强调了考虑多层生成机制对于理解单个系统中不同类型关系的形成和相互依赖性的重要性。

5.6.2 成对跨网络层一致性

我们的目标是评估不同多层网络中的结构生成模式是否对齐。尽管这些网络来自不同的真实世界系统，但它们的层可能仍然表现出相似的底层生成规则。一个类似的例子可以在生物学中找到：小鼠基因组与人类基因组大约有85%的相似性，猪基因组大约有90%的相似性，尽管在特定功能和生理结构上存在显著差异。这些相似性是因为许多生物子系统受到保守的生成规则的控制。类似地，跨网络层的相似性反映了普遍的结构机制（例如，社区驱动的形成、层次化连接性），为生成一致性提供了更广泛的视角。

为了研究这一点，我们计算了选定层之间的成对CLGC分数，并将结果以热图的形式可视化。在这项分析中，我们关注四个代表性层：Aarhus（第1层：Facebook）、Enron（第1层：Superiors）、LonRail（第1层：Underground）和Kapferer（第1层：Work），每个层分别对应于它们各自多层网络的第一层。图4(d)显示了结果热图，其中每个单元格代表给定网络层对的CLGC分数。观察到的模式可以总结如下：

首先，所有对角线条目的值都是1.0，这是预期的。这一结果与CLGC的定义（方程25）一致，该定义衡量了层间表示的相对可转移性。值1.0反映了完美的自我一致性，验证了该指标的正确性和稳定性。其次，在非对角线CLGC分数中，Enron（第1层：Superiors）和LonRail（第1层：Underground）之间的分数最高，为0.9800。这一高分数表明这两个层共享非常相似的生成模式。检查表1中的结构属性，我们发现这两个层都是稀疏的，并且表现出较低的聚类度（\(\rho ^{(l)}\) = 0.0133 vs. 0.0085，\(c^{(l)}\) = 0.0 vs. 0.0311），这解释了它们之间的强对齐。因此，CLGC分数有效地捕捉了这些层之间结构形成规则的潜在相似性。第三，最低的非对角线分数0.6422出现在Aarhus（第1层：Facebook）和Enron（第1层：Superiors）之间。较低的分数反映了它们生成机制的对齐性较低。从结构上看，Aarhus第1层更密集，聚类度更高（\(\rho ^{(l)}\) = 0.1090，\(c^{(l)}\) = 0.6733），而Enron第1层的聚类度较低（\(\rho ^{(l)}\) = 0.0133，\(c^{(l)}\) = 0.0），表明它们的局部邻域连接更紧密。这种结构差异与较低的CLGC分数相符，表明该指标有意义地反映了层形成模式的差异。

总体而言，这些发现表明CLGC有效地捕捉了跨层的一致性和细微的结构相似性。量化这种对齐性为理解真实世界多层网络中共享和不同的生成过程提供了宝贵的见解。

5.6.3 组合跨网络层一致性

为了进一步探索超出成对关系的结构对齐，我们评估了多个网络层之间的组合一致性。具体来说，我们计算了三种或四种网络层组合的CLGC得分，如图5所示。图5显示了多个网络层之间的群体进化一致性。从图5的结果中，我们发现了以下重要趋势：首先，所有三元组中的整体群体CLGC得分都相对较高，其中第1组的得分最高，为0.8319。这表明，尽管来自不同的领域，某些网络层集合具有强烈的潜在结构相似性，可能是由于类似的生成规则（如层次组织或优先连接）所塑造的。其次，高CLGC得分并不一定源于表面相似性（如共享领域或相同的层数量），而是源于层之间的结构互补性和强烈的协同效应。例如，尽管第2组和第4组有两个相同的层，但第2组的得分更高。这意味着层之间协作形成连贯结构模式的能力至关重要。某些层可能在不同的组合中起到“粘合剂”或“破坏者”的作用，显著影响最终的一致性。第三，我们观察到随着包含的层数量增加，CLGC得分普遍下降。例如，包含四层的第7组得分最低，为0.6539。这一趋势表明，随着组规模的扩大，由于层之间的异质性增加，结构一致性趋于减弱。随着结构上不同的层的加入，集体跨层生成一致性恶化，表明更大的网络集合不太可能共享统一的生成模式。这些发现表明，CLGC不仅能够捕捉到细粒度的成对对齐，还能自然地扩展到群体设置，揭示了结构一致性如何随群体组成和规模的变化而变化。这种可扩展性和敏感性使CLGC成为分析复杂网络系统中生成规律性和差异性的强大工具。

5.6.4 理论网络比较。为了更深入地了解现实世界网络层的结构特性，我们将其生成一致性与经典的理论网络模型进行了比较，即随机图[12]、小世界[45]和无标度[4]。具体来说，随机图[12]模拟的是边随机且均匀形成的网络。相比之下，小世界网络[45]具有高聚类性和短路径长度，平衡了规则性和随机性。同时，无标度网络[4]遵循幂律度分布，其中枢纽节点主导了连通性。在这项分析中，我们关注了两个具有代表性的且结构不同的层：奥胡斯（第1层：Facebook），它是奥胡斯数据集的第一层，以及安然（第2层：同事），它是安然数据集的第二层。我们计算了这些现实世界层与理论网络模型之间的CLGC得分。图6展示了结果，从中得出了几个关键观察结果：首先，尽管随机图的得分最高（0.8201），但小世界的得分也很接近（0.7944），这与表1中观察到的相对较高的聚类系数（\(c^{(l)} = 0.6733\)）和中等密度（\(\rho ^{(l)} = 0.1090\)）一致。这表明奥胡斯层表现出显著的局部聚类和短平均路径长度，这些特性被小世界模型很好地捕捉到了。较低的无标度得分（0.7137）反映了度分布并不严格遵循幂律，尽管存在一定的度异质性（\(\langle \mu ^{(l)} \rangle = 6.4333\)，\(H^{(l)} = 1.2129\)）。其次，随机图的CLGC得分为0.9807，表明该层表现出类似于均匀连通性的结构特征。这与表1中的统计数据一致：该层相对稀疏（\(\rho ^{(l)} = 0.0189\)）且没有聚类（\(c^{(l)} = 0.0\)），这解释了为什么假设边分布均匀的随机图能够达到最高的一致性。小世界和无标度模型捕捉到了其他结构方面，但得分较低，反映了与强聚类或幂律度模式的偏差。第三，我们观察到随机图模型通常在这些层上获得最高得分，表明在宏观层面上，这些网络层表现出部分均匀的连通性。小世界模型的得分略低，反映了现实网络中存在的局部聚类和短路径长度。无标度模型的得分最低，表明尽管这些层显示出一定的度异质性，但其度分布并不严格遵循幂律。一致性模式与表1中的关键结构统计数据一致，为理解潜在的生成机制提供了可解释的见解。

将现实世界的网络层与理论模型进行比较，为评估一个层与典型结构原型的匹配程度提供了一个可解释的框架，从而揭示了其可能的潜在生成机制。通过将现实世界层与经典模型联系起来，我们可以推断出可能驱动链接形成的原则——例如无标度网络中的优先连接或小世界网络中的聚类。这些见解有助于更系统地评估网络异质性，并为理解下游任务（如跨层链接预测）中的性能差异提供理论背景。

5.6.5 CLGC的应用和意义。对静态多层网络的研究填补了网络科学中的一个重要空白。尽管动态网络已经被广泛研究，但对于理解静态结构背后的生成机制的关注相对较少，尤其是在考虑多层时。即使在没有时间动态的情况下，网络层的形成也受到社会、行为或组织原则的影响。例如，友谊网络和协作网络可能受节点相似性的支配，而信任和交互网络可能表现出优先连接。分析这些生成机制在层之间的稳定性提供了关于观察到的结构起源的宝贵见解。首先，CLGC有助于评估单个多层网络内的生成一致性。通过计算同一网络中两个层之间的CLGC得分，如我们在5.6.1节中的成对分析所示，研究人员可以确定这些层是否由相似的生成过程所支配。高一致性表明，共享的潜在表示可以有效地用于联合建模和链接预测。相反，低一致性表明这些层封装了不同的结构模式，因此需要单独的建模方法。其次，CLGC适用于比较来自不同多层网络的层。正如我们对安然（第1层）和LonRail（第1层）的分析所示，高CLGC得分表明尽管底层网络领域不同，但它们在结构上存在相似性。这种跨网络分析通过识别在一个网络上训练的嵌入或模型可以适当地应用于另一个网络的场景，以及需要特定网络建模的情况，为迁移学习策略提供了信息。第三，CLGC支持涉及多个层的群体分析。我们在5.6.3节中的实验表明，评估三个或更多层的组合可以捕捉到结构一致性如何随群体组成而变化。某些组合表现出强烈的集体一致性，表明存在协同或互补的生成机制，而得分较低的组合则反映了异质性的增加。这些结果与网络压缩、多关系数据集成以及识别作为结构一致性锚点的层等任务相关。第四，CLGC允许在实证网络层和经典理论模型之间进行系统比较。通过量化观察到的层与随机图、小世界或无标度网络等典型模型之间的生成对齐，研究人员可以了解塑造现实世界网络的机制。这些比较分析提供了有意义的基准，并将实证结构置于已建立的生成框架中。总之，CLGC在多种场景中都具有实际效用：在单个网络内、多个网络之间、层组之间以及与理论模型相比。通过提供生成一致性的定量评估，CLGC为建模决策、迁移学习方法和可解释的表示学习提供了信息，从而提供了超出传统链接预测的价值。第5.6节中呈现的实验结果展示了CLGC如何直接应用于揭示有意义的结构模式，再次证实了它作为一个强大研究工具的实用性。

6 结论与未来工作。在这项工作中，我们解决了在多层网络中测量层间生成一致性这一很大程度上未被探索的挑战。我们引入了SupportNet，这是一个基于GCN的对抗框架，旨在学习能够捕捉层内结构和层间可转移模式的稳健共享潜在空间表示，以用于链接预测。在这个框架的基础上，我们提出了一种新的度量标准CLGC，通过评估这些共享表示的可转移性来量化跨层结构对齐。我们在现实世界多层网络上的广泛实验表明，SupportNet提供了强大的链接预测性能，而CLGC揭示了网络层之间结构和生成一致性的有洞察力的模式。这些发现强调，共享潜在空间表示不仅增强了链接预测，还提供了一种可解释的方法来分析网络耦合背后的生成机制。对于未来的工作，我们计划将我们的方法扩展到动态网络，探索更具表现力的骨干架构，并研究结构一致性与节点级语义之间的关系。