综述:AIIT:一种基于图像变换的可调积分对抗攻击方法

《Neural Networks》:AIIT: An adjustable integration adversarial attack based on image transformation

【字体: 大 中 小 】 时间:2026年05月03日 来源:Neural Networks 6.3

编辑推荐:

  郭云农|吴阳|刘静内蒙古大学计算机科学学院,中国呼和浩特摘要深度神经网络(DNNs)极易受到对抗性攻击的影响,这在自动驾驶和面部识别等安全关键应用中带来了巨大威胁。模型集成技术通过利用多个替代模型的梯度信息,通常被视为一种强大的黑盒攻击方法。但现有的使用集成模型的黑盒攻击方法倾向

  
郭云农|吴阳|刘静
内蒙古大学计算机科学学院,中国呼和浩特

摘要

深度神经网络(DNNs)极易受到对抗性攻击的影响,这在自动驾驶和面部识别等安全关键应用中带来了巨大威胁。模型集成技术通过利用多个替代模型的梯度信息,通常被视为一种强大的黑盒攻击方法。但现有的使用集成模型的黑盒攻击方法倾向于对多个替代模型的输出进行平均处理。这种做法忽略了这些不同模型之间的梯度差异以及对抗性样本的迁移特性。因此,上述方法限制了对抗性样本的多样性,从而导致在不同架构的模型上的攻击成功率较低。为了解决这些问题,本文提出了一种结合模型集成和输入转换的混合方法,称为AIIT。在AIIT中,我们考虑使用图像转换方法生成各种对抗性样本,并采用动态梯度调整来促进模型集成。此外,我们还提出了一种梯度优化算法来减轻替代模型的过拟合问题。在多个数据集上的广泛实验表明,与现有方法相比,我们的方法可以将攻击成功率提高13%到35%,平均攻击成功率可达90%,证明了其在提高模型迁移能力方面的有效性。

引言

深度神经网络(DNNs)已在自动驾驶、面部识别、个性化内容推荐、语音识别和机器翻译等领域取得了广泛应用。尽管取得了显著成就,但DNNs仍存在某些漏洞,其中最突出的是其对对抗性攻击的脆弱性,表明其模型鲁棒性不足。在实际的黑盒场景中,由于攻击者无法访问目标模型的架构或参数,对抗性样本的迁移能力成为关键因素(SAA(Zhu等人,2025年)。更重要的是,一些设计精良的对抗性样本能够在不同模型之间迁移,对黑盒应用构成现实威胁。
在黑盒对抗性攻击的背景下,提高对抗性样本的迁移能力已成为近年来的研究重点(HyGloadAttack(Liu等人,2024年);LLM(Cui等人,2024年);I2V(Wei等人,2023年)。替代模型与目标模型之间的差异程度决定了攻击迁移的成功率,相似度越高,迁移成功率越高。为了生成具有更好迁移能力的对抗性样本,人们提出了多种方法,包括基于梯度的攻击、基于输入转换的攻击和模型集成攻击。首先,基于梯度的方法依赖于替代模型的梯度信息来生成对抗性样本(FGSM(Goodfellow等人,2014年);I-FGSM(Kurakin等人,2017年);MI-FGSM(Dong等人,2018年);DI2-FGSM(Xie等人,2019年))。其次,基于输入转换的攻击侧重于对输入图像应用特定类型的转换(TIM(Dong等人,2019年);DIM(Xie等人,2019年);DEM(Zou等人,2020年);Admix(Wang等人,2021年);SSA(Long等人,2022年),从而提高对抗性样本的迁移能力。上述两种方法适用于架构差异较小的模型之间的迁移;然而,对于架构或参数差异较大的模型之间的迁移往往具有挑战性。第三,模型集成攻击通过结合具有不同架构的替代模型的输出来计算综合损失(Ens(Liu等人,2016年);SVRE(Xiong等人,2022年);AdaEA(Chen等人,2023年),从而提高不同模型之间对抗性样本的迁移能力。但现有文献中的模型组合攻击方法是对多个替代模型的结果进行平均处理,这种处理方式忽略了不同模型之间的梯度差异以及对抗性样本的迁移特性,从而限制了对抗性样本的多样性,导致在不同架构的模型上的攻击效果降低、成功率下降。因此,在动态结合具有不同架构的替代模型的梯度信息的同时增加对抗性样本的多样性,仍然是现有研究中的一个重要问题。
为了解决上述问题,本文介绍了基于图像转换的可调集成对抗性攻击(AIIT)。AIIT通过采用综合方法克服了关键限制,该方法结合了多种图像转换技术、动态梯度调整和强大的梯度优化。首先,我们引入了一个整体转换框架,将图像分割成块并应用了包括DCT掩码、局部缩放和丢弃在内的10种不同操作。由于使用了切片Wasserstein差异(SWD)来量化这些操作,并且这些操作旨在在不影响语义正确性的前提下最大化输入多样性(以及语义一致性),因此可以显著增加生成的对抗性样本的多样性。其次,我们设计了一种动态模型集成机制,根据替代模型之间的跨模型损失比率动态调整它们的权重。与现有方法中使用的静态集成(Ens(Liu等人,2016年);SVRE(Xiong等人,2022年)不同,我们的机制优先考虑迁移能力更强的模型,从而使扰动能够有效利用不同架构之间的共享漏洞。最后,为了避免替代模型对决策边界的过拟合,我们设计了一种梯度优化算法,该算法利用线性插值路径上的梯度。这种方法通过累积对输入扰动的敏感性来平滑非凸损失表面,从而更好地对抗黑盒模型。AIIT的主要贡献总结如下:
  • •
    我们是第一个利用输入转换概念来优化基于模型集成的黑盒攻击方法的研究者。这种方法通过应用图像转换生成多样化的对抗性样本,并通过动态整合具有不同架构的模型的梯度来提高对抗性样本的迁移能力。
  • •
    我们开发了一种梯度优化算法,该算法在动态梯度集成过程中整合线性路径上的梯度,以减少过拟合。这有助于平滑决策边界并提高对抗黑盒模型的泛化能力。
  • •
    实验结果表明,与现有的基于迁移的方法相比,AIIT在多种架构模型上的攻击成功率提高了13%到35%,平均攻击成功率达到了90%,证明了其在提高模型迁移能力方面的有效性。
  • 本文的其余部分安排如下:第2节回顾了关于对抗性攻击和防御的相关工作,重点介绍了基于梯度的攻击、输入转换技术和模型集成策略。第3节介绍了提出的AIIT框架,详细阐述了其三个核心创新:分块图像转换、动态梯度调整和通过线性路径集成的梯度优化。第4节在三个数据集上进行了全面实验,包括与最先进攻击方法的比较、针对高级防御的评估以及组件贡献的消融研究。第5节总结了我们的工作。

    章节片段

    对抗性攻击

    自从Szeegedy(2013)证明对抗性样本的存在以来,它们对由DNNs驱动的应用程序(如自动驾驶、面部识别、语音识别和机器翻译)构成了重大威胁。最近出现了一些攻击策略来评估DNNs的漏洞,例如基于梯度的攻击(Dong, Liao, Pang, Su, Zhu, Hu, Li, 2018; Goodfellow, Shlens, & Szegedy, Kurakin, Goodfellow, Bengio, 2017; Xie, Zhang, Zhou, Bai, Wang, Ren,

    AIIT的设计

    我们方法的总体流程如图1所示。在我们的方法中,我们引入了三个关键组件:图像转换、梯度调整和梯度优化。首先,通过多种图像转换方法将原始图像转换为一系列图像块。接下来,我们定义了对抗性比率,以评估替代模型对整体对抗性目标的贡献差异,并利用它来动态调节

    实验设置

    • •
      数据集
      我们使用CIFAR-10、CIFAR-100和ImageNet数据集(Deng等人,2009年)进行了实验,这些数据集在对抗性攻击研究中被广泛使用。CIFAR-10是一个常用的机器学习基准数据集,包含60,000张RGB图像,分布在10个类别中(50,000张用于训练,10,000张用于测试),每个类别包含6,000张图像。所有实验都在包含10,000张图像的完整测试集上进行。CIFAR-100与

    结论

    为了生成更具迁移能力的对抗性样本同时保持高攻击成功率,本文提出了一种名为AIIT的创新方法。该方法通过使用多种图像转换技术、动态梯度调整和强大的梯度优化来提高对抗性样本的迁移能力。广泛的评估表明,我们的AIIT在多种架构模型上的迁移能力得到了显著提升

    CRediT作者贡献声明

    郭云农:撰写——原始草稿、可视化、验证、监督、软件、资源、项目管理、方法论、调查、形式分析、数据整理、概念化。吴阳:撰写——审稿与编辑。刘静:撰写——审稿与编辑、验证、监督、资金获取。

    利益冲突声明

    作者声明他们没有已知的竞争性财务利益或个人关系可能会影响本文报告的工作。

    致谢

    本工作部分得到了中国自然科学基金(编号:62462047)、内蒙古重点研发与成果转化项目(编号:2025YFDZ0029)以及教育部生态大数据工程研究中心的支持。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号