面向鲁棒图学习的拓扑感知动态协同进化

《Neural Networks》：Topology-aware dynamic co-evolution for robust graph learning

　　

提出一种基于元梯度的动态闭环协同演化框架；引入拓扑感知校准以实现结构合理的更新；开发可微分的注意力DeepGCN；在强对抗攻击下超越最先进方法。

## 引言

图神经网络的快速发展推动了图结构数据建模的重大进展。通过迭代聚合和变换邻居节点信息，图神经网络能够有效捕获复杂的依赖关系并学习富有表达力的节点表示。这种消息传递范式在各种任务中表现出强大性能，包括节点分类、链接预测和图分类。因此，图神经网络已被广泛应用于众多实际场景，如物理系统建模、电商推荐和交通分析。

尽管取得了成功，图神经网络已被证明极易受到对抗攻击的影响。即使对图结构施加细微且不可感知的扰动——例如添加或删除少量边——也会显著降低模型性能。由于消息传递的递归特性，这些局部扰动会在各层中逐步放大，导致节点表示的全局性失真和决策边界的严重偏移。这种固有敏感性使结构鲁棒性成为在安全关键应用部署图神经网络的关键瓶颈。

为缓解这些漏洞，现有防御策略可大致分为三类：

- **图净化**：在模型训练前基于特定规则或启发式策略移除异常边。
- **对抗训练**：在训练过程中注入对抗性扰动以增强鲁棒性。
- **鲁棒模型**：修改消息传递或邻居聚合机制以减少对抗性扰动的影响。

尽管这些方法取得了一定成效，但它们存在根本性局限。图净化通常是静态的、一次性的预处理步骤，与下游学习完全解耦。此类全局启发式操作不可逆，且往往无法捕获细粒度的局部结构扰动。对抗训练引入了巨大的计算开销，且未显式恢复底层干净拓扑。鲁棒模型设计直接作用于受扰图，从本质上限制了其在结构层面消除对抗噪声的能力。此外，在深层架构中，这些局限因过平滑和局部扰动的指数级放大而加剧，导致鲁棒性下降。

为解决这些挑战，我们提出了一种新框架：**面向鲁棒图学习的拓扑感知动态协同演化（TADC）**。与依赖静态或全局统一策略的现有方法不同，TADC将图防御重新定义为目标明确的、动态的、闭环的优化过程。

具体而言，TADC首先引入结构-语义一致性探针，以识别局部结构与其语义表示不一致的脆弱节点。这实现了对攻击敏感区域的精确定位，避免了全局净化的低效性和不准确性。基于该定位，我们进一步设计了结构解耦机制，将可疑边隔离到不同的结构通道中，在保留干净语义信息的同时有效隔离对抗扰动。

最重要的是，为克服现有防御的解耦特性，我们在完全可微分的基于注意力的架构内开发了动态协同演化机制。关键在于，纯数据驱动的梯度往往会提出结构上不合理的边修改（例如连接完全无关的拓扑聚类）。为此，我们将验证元梯度与图先验融合，确保每次动态更新在最小化分类误差的同时严格遵循底层拓扑。通过利用验证引导的拓扑感知元梯度，TADC在训练过程中持续精炼图结构。这一过程建立了闭环反馈系统，使图拓扑和模型参数逐层联合优化和协同演化。这种动态交互使模型能够逐步纠正结构扰动并在整个学习过程中保持鲁棒性。

通过这一统一设计，TADC将图防御从静态启发式修正转变为自适应结构演化，显著增强了在多种对抗设置下的鲁棒性和泛化能力。本文的主要贡献总结如下：

- **闭环动态协同演化框架**：我们提出了一种反馈驱动的图学习范式，通过验证引导的元梯度联合优化拓扑和模型参数（公式(16)和(17)），实现持续的结构精炼并消除静态预处理的局限性。
- **拓扑感知的梯度校准机制**：我们识别了元梯度的拓扑无关局限性，并引入了一种将结构先验融入的原则性校准策略，确保证托拓扑更新的可靠性和合理性（公式(10)和(11)）。
- **完全可微分的基于注意力的DeepGCN架构**：我们设计了一个支持端到端优化并有效隔离对抗结构噪声的完全可微分注意力聚合框架（公式(13)–(15)）。
- **高攻击强度下的优越鲁棒性**：大量实验表明，TADC显著优于最先进方法，尤其在强对抗和高攻击率攻击下表现突出，凸显了其在挑战性鲁棒性场景中的有效性。

## 章节摘要

### 图对抗攻击

近年来的大量研究表明，图神经网络在受到对抗攻击时鲁棒性显著下降。根据攻击者的目标，现有攻击方法可大致分为全局攻击和目标攻击。全局攻击的目标是通过对整个图结构施加扰动来降低模型的整体有效性。Metattack是一种基于元学习的全局攻击方法。

### 符号表示

设 $G=(A, X)$ 表示一个包含 $N$ 个节点的图，其中 $A \in \mathbb{R}^{N \times N}$ 为邻接矩阵，$E \subseteq V \times V$ 表示边集。$A_{uv} = 1$ 表示节点 $u$ 和 $v$ 之间存在边。节点特征矩阵表示为 $X \in \mathbb{R}^{N \times F}$，其中 $F$ 为特征维度。度矩阵定义为 $D = \text{diag}(\text{deg}_1, \cdots, \text{deg}_N)$，其中每个对角元素 $\text{deg}_v$ 对应节点 $v$ 的度。对称归一化邻接矩阵为 $\hat{A} = \tilde{D}^{-1/2}(A + I_N)\tilde{D}^{-1/2}$。设 $Y \in \{1, \cdots, C\}$ 表示…

### 所提方法

本节介绍所提出的拓扑感知动态协同演化（TADC）框架，其整体架构如图1所示。TADC被设计为面向鲁棒图学习的目标明确的、拓扑感知的、闭环优化系统。该框架由两个紧密耦合的组件构成：(1) 图预处理：通过结构-语义一致性和结构解耦进行脆弱性定位；(2) 拓扑感知动态协同演化，实现持续的拓扑优化…

### 数据集

为全面评估TADC的性能，我们在五个常用基准数据集上进行了实验：Cora、Citeseer、Cora-ML、Pubmed和BlogCatalog。其详细统计信息见表2。

### 对比方法

为评估性能，TADC与十一种领先方法进行了对比：

- **GCN** 通过迭代聚合邻居特征来学习节点表示。
- **GAT** 通过注意力机制动态为不同邻居分配重要性权重…

## 结论

本文提出了拓扑感知动态协同演化（TADC），一种将鲁棒图学习重构为动态闭环优化过程的新框架。通过以目标明确的自适应结构精炼替代静态全局净化，TADC有效捕获了局部的、细微的对抗扰动。TADC集成了结构-语义一致性探针与多尺度结构解耦，显式隔离对抗异配噪声。

## CRediT作者贡献声明

- **张婷婷**：撰写初稿、软件、方法论、概念化
- **卢淑霞**：撰写审阅与编辑、监督、概念化
- **王梦茹**：验证、调查、形式化分析
- **刘斌**：监督、概念化

## 利益冲突声明

作者声明不存在可能影响本文所述工作的已知竞争性财务利益或个人关系。

## 致谢

作者感谢中国国家自然科学基金（项目编号：3254051）和中国博士后科学基金（项目编号：2023M741895）的支持。

张婷婷 | 卢淑霞 | 王梦茹 | 刘斌