《Pattern Recognition》:Explanation-guided backdoor defense for ID and OOD attacks in graph neural networks
编辑推荐:
本文提出DMGNN方法,通过反事实解释识别图神经网络中的隐蔽ID和OOD触发,并采用反向采样剪枝消除触发影响,实验表明DMGNN将攻击成功率降至5%且模型性能损失小于3.5%。
郝穗|陈冰|张佳乐|朱成成|吴迪|Shivakumara Palaiahnakote
南京航空航天大学计算机科学与技术学院,南京,211106,中国
摘要
在最近的研究中,图神经网络(GNNs)极易受到多种对抗性攻击的影响。其中,图后门攻击是最突出的威胁之一,攻击者通过注入触发器和修改目标标签来使模型产生错误分类。这些攻击被分为分布外(OOD)攻击和分布内(ID)攻击。OOD攻击使用的触发器与干净的特征分布有显著差异,而ID攻击使用的触发器与干净的特征相似。现有的防御措施通过比较特征分布有效对抗OOD攻击,但在应对隐蔽的ID攻击时效果不佳,因为缺乏适当的监督信号会妨碍主要任务的准确性。为了弥补这一差距,我们提出了DMGNN来对抗ID和OOD图后门攻击,它能够有效消除隐蔽性,保证防御效果并提高模型性能。具体来说,DMGNN可以通过基于反事实解释预测标签转换来轻松识别隐藏的ID和OOD触发器。为了进一步过滤生成的可解释图的多样性并消除触发器的影响,我们提出了一种反向采样剪枝方法,在数据层面直接筛选和丢弃触发器。广泛的实验表明,DMGNN的性能远超现有的最先进防御方法,将攻击成功率降低到5%,同时模型性能仅下降3.5%以内。
引言
图结构数据在许多现实世界领域中无处不在,包括交易网络[1]、社交网络[2]和蛋白质结构图[3]。图数据中的潜在结构信息仍然无法获取。图神经网络(GNNs)[4]具有强大的表示学习能力,可以处理图结构数据上的节点和边特征,在节点分类[5]、图分类[6]和链接预测[7]等各种任务中表现出色。高性能的GNN模型依赖于大量的训练数据,这促使许多开发者在开放的网络环境中使用第三方公共图数据来训练他们的模型。不幸的是,这些第三方公共图数据通常包含错误信息,使得GNN容易受到后门攻击,从而危及GNN模型的安全性。
后门攻击是对GNNs最严重的安全威胁之一[8],[9]。后门攻击者[10]将触发器注入原始图,并将中毒样本的标签修改为目标标签来训练被篡改的模型,导致触发器和目标标签紧密关联。在测试过程中,注入了触发器的样本会被错误地分类为目标标签,而干净样本在被篡改的模型下会被预测为原始标签。攻击者设计了各种触发器来提高攻击成功率,主要包括修改图拓扑结构、调整节点特征和添加新节点。特别是,不同类型的触发器会导致分布外(OOD)和分布内(ID)后门攻击。图1通过特征分布展示了针对OOD和ID后门攻击的防御方法。OOD触发器很容易被检测出来,因为它们位于干净样本的决策边界之外。相比之下,ID触发器更难区分,因为它们的特征与干净样本的决策边界无缝融合,因此具有高度隐蔽性。因此,由于攻击类型的增加和隐蔽性的增强,GNN上的后门攻击引起了更多的关注和担忧。
在计算机视觉领域[11],[12]已经对后门防御进行了广泛研究。这些工作可能忽略了图拓扑结构特征,从而影响了防御的有效性。为了减轻图后门攻击,先前的研究主要探索了后门检测和净化的策略。前者[13],[14]侧重于利用可解释机制来区分被篡改的样本和干净样本。然而,这些方法只能识别样本中后门的存在,无法有效消除后门,使得减轻后门攻击造成的危害变得困难。后门净化方法[15],[16],[17]旨在通过区分后门特征和良性特征来消除后门触发器的影响,但这些方法仅适用于OOD图后门攻击。最近,张等人[18]利用随机边删除来区分中毒节点和正常节点,并设计了一种新的鲁棒训练方法来消除触发器。然而,由于在训练过程中缺乏被篡改样本的正确标签信息,这种方法无法保证识别出的恶意节点的标签能够恢复到原始标签。当同一类别中有过多的中毒节点时,这会导致该类别的模型预测准确性降低。
因此,迫切需要一种针对带有ID或ODD触发器的图后门攻击的后门防御方法,以有效减轻后门的影响,同时确保模型的高性能。
我们的工作。在本文中,我们探讨了一个关键问题,即设计一种针对GNN中ODD和ID后门攻击的新型解释引导的后门防御方法。本质上,我们面临两个挑战:? 如何识别隐藏的ID或ODD触发器以消除攻击的隐蔽性?? 如何消除触发器的影响以降低攻击的有效性并确保模型性能?为了解决这些挑战,我们提出了名为DMGNN的图后门检测和防御方法,旨在消除隐蔽性以保证防御效果并提高模型性能。无论图后门攻击中是ODD还是ID触发器,一个共同的事实是,一旦触发器被注入目标节点,预测标签就会转移到目标类别。因此,为了更好地发现ID和ODD触发器,我们提出了反事实解释方法,通过解释预测标签转换的原因来直接找到隐藏的触发器。同时,反事实解释方法为每个样本特征生成相应的可解释图。然而,单个样本可能有多个解释图,表明生成的图具有多样性,触发器无法被完全消除。为了进一步消除后门的影响,DMGNN引入了反向采样剪枝方法,选择与触发器最匹配的可解释图,并直接从被篡改的数据中移除该图。这确保了主要任务的准确性,同时实现了高效的防御。
总结来说,本文的贡献包括:
- •
我们提出了一种名为DMGNN的新型解释引导的后门识别和缓解方法,用于GNNs。它采用反事实解释方法来精确识别潜在的ID或ODD后门触发器。
- •
为了进一步减轻由于生成的可解释图多样性导致的触发器影响,我们设计了一种反向采样剪枝方法,在数据层面直接选择和移除每个中毒节点的触发器。它可以成功防御OOD和ID后门攻击,同时保证高模型性能。
- •
我们对四个真实世界的图数据集进行了广泛的DMGNN实验。实验结果表明,DMGNN对抗三种最先进(SOTA)图后门攻击的性能显著优于所有基线方法。
本文的其余部分组织如下。第2节讨论背景和相关工作。第3节描述问题定义和威胁模型。第4节介绍我们提出的DMGNN方法。第5节展示性能评估结果。最后,第6节总结本文并讨论未来的工作。
节选
DNNs上的后门攻击与防御
后门攻击是深度神经网络(DNNs)中一种强大的攻击类型,攻击者要么操纵原始数据,要么篡改模型参数以生成被污染的模型,从而严重降低模型的预测准确性。为了提高攻击效果,Gu等人[19]首次提出了针对DNNs的后门攻击,通过将像素块作为触发器注入原始数据。基于此,几项研究开始设计难以察觉的触发器。
问题定义
图后门攻击。攻击者将设计的触发器注入原始数据集,构建一个后门数据集,然后用它来训练GNN模型。训练后的模型成为后门模型。当用户将测试数据输入后门模型时,注入了触发器的测试数据将被错误地分类为目标类别,而干净的测试数据将被分类为原始类别。攻击者需要确保攻击的有效性
DMGNN框架
在本节中,我们全面描述了DMGNN,该框架旨在防御带有ID和ODD触发器的图后门攻击。这带来了两个挑战:? 如何识别图后门攻击中的隐藏ID或ODD触发器;? 如何在确保模型性能的同时有效消除触发器。为了解决上述挑战,提出了一种新的DMGNN方法,如图2所示。DMGNN的实现包括两个主要模块:反事实
性能评估
在本节中,我们将评估我们提出的DMGNN在不同的真实世界数据集上对抗几种SOTA图后门攻击方法的有效性,并回答四个关键研究问题:
- •
RQ1:DMGNN的优越性:与SOTA防御方法相比,DMGNN的表现如何?它能否在适应性攻击和不同模型架构下保持鲁棒性?此外,其在不同数据集上的时间复杂度如何?
- •
RQ2:
结论与讨论
在本文中,我们提出了DMGNN,这是一种针对带有ID和ODD触发器的各种图后门攻击的新型识别和缓解方法。通过在后门样本预测结果中添加噪声和去噪变化,DMGNN可以有效地识别隐藏的ID和ODD触发器。考虑到生成的可解释图的多样性,我们提出了反向采样剪枝方法来精确过滤和移除触发器。DMGNN可以成功提高防御效果
CRediT作者贡献声明
郝穗:写作——审稿与编辑,撰写——原始草稿,方法论,概念化。陈冰:写作——原始草稿,方法论,资金获取。张佳乐:方法论,资金获取。朱成成:验证,形式分析。吴迪:形式分析,概念化。Shivakumara Palaiahnakote:写作——审稿与编辑,监督。
利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系可能会影响本文报告的工作。
致谢
本工作得到了国家自然科学基金(编号:62176122、62061146002、62206238)和中国博士后科学基金(编号:2023M732985)的支持。