DisenGE：通过学习多个协同子图来实现图神经网络的高质量解释

《Pattern Recognition》：DisenGE: Learning multiple collaborative subgraphs for faithful Graph neural network explanation

　　•DisenGE学习了多个协同子图以解释图神经网络（GNN）的预测结果。•多通道架构结合正交约束确保了生成的子图多样性。•提出的多通道保真度目标函数促进了子图之间的协作。•在合成数据和真实世界数据集上的表现均优于7种最先进的解释方法。

### 引言
图神经网络（GNN）作为处理图形结构数据的强大模型，在生物医学[1]、社交网络分析[2]等领域得到了广泛应用。尽管GNN性能优异，但其黑盒特性给理解其决策过程带来了挑战。在金融和医疗等高丽风险的领域，可解释性尤为重要。为解决这一难题，研究人员开发了多种解释方法。其中，事后解释器因能够在不修改GNN架构或参数的情况下对其进行解释而脱颖而出，具有更强的通用性和泛化能力。事后解释器通常旨在识别对GNN预测有显著贡献的输入图中的解释性子图。 recent的方法可分为两类：基于生成的方法和基于扰动的的方法。基于生成的方法根据Shapley值[3]和格兰杰因果关系[4]等目标函数从头开始生成连接的解释性子图；而基于扰动的方法通过对邻接矩阵[5]、[6]、[7]或特征矩阵[5]应用掩码机制来学习解释性子图。

尽管这些方法在解释不同架构的GNN方面取得了成功，但当前的事后解释器在处理依赖于多个协同子图而非单一解释结构的预测时存在局限。在许多实际应用场景中，与预测相关的信息分散在多个结构独立的子图中。例如，在化学信息学中，某些子结构（如NCI1中的“Combo”）只有在其他子结构存在的情况下才表现出生物活性[8]，分子的致突变性取决于NO2和NH2的同时出现[6]；在蛋白质科学中，结构独立的motif（如Rossmann折叠和TIM桶）在功能上相互协作[9]；在神经科学中，不同的脑网络（如默认模式网络、中央执行网络和显著性网络）共同参与认知功能[10]。鉴于这些现象的普遍性，我们认为训练有素的GNN应该能够自然地建模这些多个协同子图。我们设计了一项实验来验证这一观点。具体来说，我们创建了一个名为BA-3Motif的合成数据集，包含7个类别，每个类别有500个图。每个图由一个Barabási–Albert（BA）基础图加上一到三个随机连接的“房屋”、“星星”或“循环”结构组成。在一个三层GNN模型上训练后，该模型达到了99.7%的准确率。然后，我们采用Fvalue保真度[7]来评估这些子图如何协同解释GNN预测，该方法考虑了子图及其互补子图（原始图减去子图）与原始图之间的预测差异（详见第4节）。图1展示了解释包含所有三种子图的第四类图的预测时Fvalue保真度的结果。值得注意的是，使用单个子图或部分组合得到的保真度明显低于同时使用所有三种子图时的结果。这表明，即使是一个简单的三层GNN，即使没有明确的架构设计，也需要依赖多个协同子图来进行预测。基于此，我们认为可靠的事后解释必须明确考虑存在多个协同子图的可能性。

然而，像XGNN[11]、SubgraphX[3]、GEM[4]、Glocal-Explainer[12]和MOE[13]这样的基于生成的方法本质上生成的只是单个连接的子图。虽然基于扰动的方法可以通过掩码阈值生成包含多个断开组件的解释，但这些组件之间没有明确的关联。它们每次只生成一个掩码矩阵，并且缺乏鼓励解释性子图之间多样性和协作的机制。不同组件可能会捕捉到与核心解释拓扑上不相关的边，从而从根本上限制了这些方法识别共同驱动模型预测的多个子图的能力。

为填补这一空白，我们提出了Disentangled Graph Neural Network Explainer（DisenGE），它能够学习多个协同解释性子图以提供准确的GNN解释。DisenGE有三个关键贡献：首先，我们使用多通道掩码生成器从输入图中学习解耦的边掩码，从而提取多个不同的子图；其次，我们引入了正交约束来促使不同的生成器生成多样化的子图；最后，我们设计了一个多通道保真度目标，引导学习到的子图协同解释GNN预测。由于不需要每个通道独立学习一个完整的子图，正交约束和多通道保真度可以指导生成器在不同通道间适应性学习互补的子图片段，即使真实解释性子图的数量少于可用通道的数量。在四个数据集上的广泛实验表明，DisenGE优于七种最先进的解释器。

### 主要贡献
- 我们识别并解决了GNN解释器的一个普遍但未得到充分研究的限制：它们无法捕捉多个协同解释性子图。DisenGE利用解耦的表示学习来生成更准确的解释。
- 我们在DisenGE的架构中设计了多通道参数化的掩码生成器，并将其与正交约束和多通道保真度目标相结合，确保生成多样化的同时协同工作的子图，并适应不同数量的解释模式。
- 我们通过四个数据集的全面实验展示了DisenGE的有效性，对比了其与其他七种基线的表现。定量结果表明其保真度更高，定性分析也显示DisenGE的解释性子图既互补又符合领域知识。

### 相关工作
图神经网络（GNN）在图分类[14]、节点分类[15]和链接预测[16]等各种图相关任务中表现出色。然而，GNN的“黑盒”特性使得其预测结果难以解释，因此需要开发解释方法来深入了解其决策过程。研究人员提出了多种GNN解释器，其中事后解释器因无需修改模型架构而受到广泛关注。

为了识别驱动GNN预测的多个协同子图，我们基于三个核心动机设计了DisenGE：(1) 生成多个候选子图；(2) 确保它们捕捉到不同的结构；(3) 验证它们共同解释预测结果。为此，我们首先在多个通道上使用多个并行掩码生成器，同时从输入图中提取多个候选子图。其次，我们引入了正交约束来确保生成的子图具有多样性。

### 数据集与GNN
我们在三个真实世界数据集和一个合成数据集上评估了DisenGE的表现。表1总结了数据集的统计信息：
- **Mutagenicity [5], [6]**：这是一个包含4337个分子图的真实世界数据集，其中节点代表原子，边代表化学键。NO2和NH2官能团的存在被用作确定分子致突变性的依据[5], [6]。
- **NCI1 [33]**：这是一个来自化学信息学领域的真实世界数据集。节点代表原子。

### 结论与讨论
本文提出了DisenGE，通过解耦的表示学习来解释GNN的预测结果，解决了当前GNN解释器在识别多个协同解释性子图方面的局限性。DisenGE的有效性源于三个关键贡献：首先，在DisenGE的架构中构建了多通道参数化的掩码生成器，确保可以同时学习多个子图；其次，正交目标函数促进了生成器的协同工作。

### 贡献者声明
- Youmin Zhang：写作 - 审查与编辑、撰写初稿、可视化、方法论、数据分析、概念化。
- Li Liu：写作 - 审查与编辑、监督、项目管理、方法论、资金筹措、正式分析、概念化。
- Qun Liu：写作 - 审查与编辑、监督、项目管理、正式分析。
- Haixia Wu：可视化、验证、资源管理、项目管理、资金筹措。
- Shiming Fu：可视化、利益冲突声明。

### 致谢
本工作得到了国家自然科学基金（编号62476032、62576063、62221005）和重庆市教委重点合作项目（HZ2021008）的部分支持。

**作者列表**：
Youmin Zhang | Li Liu | Qun Liu | Haixia Wu | Shiming Fu