在具有多尺度卷积的双分支复杂网络中，采用注意力机制进行关键节点的识别

《Physica A: Statistical Mechanics and its Applications》：Key nodes identification in two-branch complex networks combined attention mechanism with multi-scale convolution

　　摘要
为了解决现有关键节点识别方法在处理稀疏网络时存在的特征表达能力不足和多尺度信息融合不足的问题，本文提出了一种结合注意力机制和多尺度卷积（DAMSCNN）的双分支复杂关键节点识别方法。首先，设计了一个可学习的填充机制，通过构建可训练参数来动态完成特征矩阵，有效缓解了传统零填充方法导致的信息缺失问题。然后，构建了一个结合多尺度卷积和通道注意力的双分支结构，以协同优化拓扑特征提取和特征重要性识别。最后，提出了一个注意力融合模块，通过学习不同特征之间的依赖关系来自适应地分配权重，以实现多源特征的有效整合，并进一步提高表达能力。实验结果表明，所提出的DAMSCNN方法在Kendall τ排序准确性方面优于最佳性能的基线方法，改进幅度介于1.11%到4.97%之间。这验证了所提方法的合理性和有效性，并为识别复杂网络中的关键节点提供了一种高效且稳定的解决方案。

引言
在数字时代，复杂网络广泛存在于社交互动、基础设施运营、生物调控等领域[1]、[2]。识别这些网络中的关键节点具有重要的理论价值和实际意义。例如，在社交网络中，准确定位关键节点可以优化营销资源的传递或抑制谣言传播[3]；在电力网络中，识别关键变电站可以提前部署维护，避免系统瘫痪[4]；挖掘关键蛋白质可以为疾病诊断和药物开发提供目标[5]。因此，识别复杂网络中的关键节点一直是网络科学和数据挖掘领域的研究热点。

大多数传统的关键节点识别方法主要依赖于基于网络拓扑的中心性度量。例如，度中心性（DC）[6]根据节点的直接邻居数量来衡量其重要性；介数中心性（BC）[7]关注节点在最短路径中的中介作用；特征向量中心性（EC）[8]考虑了转移邻居节点的重要性；k-壳层分解[9]则逐层确定节点的核心重要性。此外，一些方法（如半局部中心性（SLC）[10]）尝试整合局部和邻域信息，但仍然依赖于手动设计的特征组合规则，这在具有显著社区结构或稀疏拓扑的网络中的泛化能力有限。

随着网络规模的扩大和拓扑结构的复杂性增加，数据驱动的方法因能够自主学习网络特性而成为研究的焦点。这些方法可以分为机器学习分支和深度学习分支。每个分支从不同的方向解决了传统方法的局限性：优化特征工程和深度拓扑信息学习。基于机器学习的方法强调在网络内提取具有区分性的特征，利用领域知识，并随后使用经典机器学习算法开发用于识别关键节点的模型。例如，最小二乘支持向量机（LS-SVM）[11]、机器学习索引（MLI）[12]、集成学习方法（EL）[13] ?。这些方法在小规模结构化网络中具有很强的可解释性和稳定的性能，但高度依赖于手动特征设计经验。基于深度学习技术，神经网络用于自动提取网络拓扑信息并生成节点的深度特征表示。同时，结合SIR模型[14]、[15]来模拟节点传播影响并为模型训练生成排名标签。例如，InfGCN[16]利用图卷积网络的邻域特征聚合能力，通过多层卷积捕获节点的拓扑关联；RCNN[17]引入卷积神经网络，通过广度优先搜索提取固定大小的邻域网络，结合邻接矩阵和节点度构建单通道特征输入并学习节点影响；MRCNN[18]将RCNN扩展为三通道输入以提高特征多样性。

尽管现有的深度学习方法在关键节点识别任务中取得了显著进展，但在处理复杂和多变的网络拓扑时仍面临困难。RCNN[17]首次使用卷积神经网络完成这一任务，通过广度优先搜索为每个目标节点采样固定大小的局部子图，并将其单通道邻接矩阵输入CNN。然而，RCNN仅使用单通道编码二进制邻接信息，当采样样本图小于固定输入大小时使用零填充。MRCNN[18]通过构建三通道输入并额外结合节点度和k-壳层序列，将特征表示从单一拓扑视图扩展为三个互补视图。同时，MRCNN仍然继承了RCNN的零填充限制，并采用单分支卷积架构，对所有通道应用相同的固定卷积核大小。基于图的深度学习方法能够很好地建模全局拓扑，但通常将每个节点编码为单个向量，混淆了局部、社区和全局结构信号。此外，这些方法中的现有特征融合策略通常是静态的，这阻止了模型根据不同网络的具体拓扑动态调整不同特征源的相对重要性。

为了克服上述限制，本文提出了DAMSCNN，其方法创新体现在三个方面。首先，可学习的填充机制通过引入参与反向传播的可训练模板矩阵替代了零填充，使模型能够学习适合上下文的填充值，以保持稀疏网络中的结构连续性。这是对RCNN和MRCNN中零填充的直接和根本改进。其次，DAMSCNN采用双分支并行架构：一个分支使用多尺度卷积同时捕获细粒度的局部连接模式和更广泛的介观结构主题；另一个分支使用通道注意力机制显式重新加权局部、社区和全局特征通道的贡献。这种双分支设计超越了RCNN和MRCNN的单尺度单分支卷积，实现了更丰富、多分辨率的特征学习。第三，注意力融合模块动态学习每个分支的重要性系数，替代了现有工作中常见的静态融合策略。为了验证DAMSCNN的有效性，本文在真实复杂网络上将其与现有方法进行了比较。实验结果表明，DAMSCNN在不同类型的网络上取得了显著的结果。

DAMSCNN的创新之处在于，当采样邻域中的节点数量少于L时，使用可学习的填充来填充每个通道的空白区域，用可训练值代替零来填充间隙。多尺度卷积分支使用不同的卷积核从相同的特征矩阵中提取不同邻域范围的连接模式。通道注意力分支根据它们在不同网络中的相对有用性重新加权局部（ND）、社区（QCom）和全局（EC）通道。注意力融合模块学习多尺度特征和通道注意力特征对最终预测的贡献。本文的贡献在于识别了固定零填充、单一卷积尺度和静态特征组合无法在稀疏网络中识别关键节点时出现的问题，并将这些机制调整并整合到一个基于节点的局部/社区/全局结构输入的框架中。

DAMSCNN与RCNN、MRCNN的主要区别在于：在填充方面，特征矩阵的缺失部分用可学习值代替零填充；在架构方面，采用带有注意力机制的双分支并行网络替代了单分支、固定卷积核的CNN；在融合方面，分支输出通过注意力融合模块组合，该模块学习的权重取决于输入，而不是以固定方式组合它们。换句话说，MRCNN主要通过丰富输入特征来改进RCNN，而DAMSCNN进一步改进了不完整输入的完成方式、处理过程和最终特征融合。

本文的主要贡献如下：
• 针对稀疏网络中节点邻域子图大小不一致的挑战，设计了一种可学习的填充方法，通过可训练参数动态生成填充值，避免了传统零填充带来的信息损失，有效提高了模型在不同密度网络中的泛化能力；
• 构建了一个结合多尺度卷积和通道注意力的双分支网络架构，实现了节点多级拓扑特征的协同学习和互补增强，有效提高了模型捕获复杂结构模式的能力；
• 引入了注意力融合模块，使模型能够自动调整两种特征对不同网络拓扑的贡献比例，实现了从固定分配到动态分配的转换，显著提高了模型的适应性和表达能力；
• 提出了一种基于注意力机制和双分支卷积神经网络多尺度融合的关键节点识别方法。在真实网络上验证了该方法的排名准确性，并分别检查了其对邻域大小、噪声条件、训练网络拓扑和感染率的鲁棒性，为复杂网络中节点的重要性分析提供了新的解决方案。

相关工作
关键节点识别问题是网络科学的核心研究问题，旨在找出对复杂网络结构或功能有重要影响的节点。根据采用的核心技术，现有研究方法主要分为两类：传统方法和基于数据驱动的深度学习方法。

提出的方法
所提出的DAMSCNN框架如图1所示，包括两个核心步骤：特征矩阵生成和模型训练。首先，基于广度优先搜索（BFS）将网络节点转换为邻接矩阵。随后，使用邻居度之和（ND）、节点社区数量（QCom）、特征向量中心性（EC）和可学习填充将节点的局部、社区和全局信息转换为相应的特征矩阵。

数据集
在数据集中，使用真实网络来验证DAMSCNN方法的性能。这些网络包括社交/信息类网络、电网网络、路由网络和蛋白质网络。为了确定最佳训练网络配置，本文比较了由BA模型生成的具有不同大小的合成网络，平均度设置为{2,4,6,8}，节点数量设置为{1000,2000,3000,4000}。实验结果表明，该模型......

结论
在本文中，我们提出了一种名为DAMSCNN的关键节点识别方法。该方法通过三项核心创新有效提高了关键节点识别的排名准确性，并在大多数测试网络中对邻域大小和训练拓扑表现出鲁棒性。首先，提出了一种可学习的填充方法，用于解决传统特征矩阵构建方法在稀疏网络中的表示能力限制。该方法可以动态生成填充值......

数据可用性
数据将根据请求提供。

作者贡献声明
刘晓阳：撰写——原始草稿、可视化、数据整理、概念化；
陈晓虎：撰写——审阅与编辑、撰写——原始草稿、可视化、验证；
赵娜：撰写——原始草稿、可视化、验证；
Hocine Cherifi：方法论、形式分析、数据整理；
Asgarali Bouyer：验证、软件、资源。

利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系，这些关系可能会影响本文报告的工作。

致谢
本工作部分得到了国家自然科学基金（授权号62366057）、重庆市教育委员会重点项目（KJZD-K202401101）和重庆市社会科学联合会（2025NDYB107）的支持。

作者：
刘晓阳 | 陈晓虎 | 赵娜 | Hocine Cherifi | Asgarali Bouyer