分辨率不变的“无框”攻击
《Computer Vision and Image Understanding》:Resolution-invariant no-box attack
【字体:
大
中
小
】
时间:2026年04月30日
来源:Computer Vision and Image Understanding 3.5
编辑推荐:
彼得·德沃拉切克(Petr Dvo?á?ek)| 彼得·胡尔蒂克(Petr Hurtik)| 佩特拉·斯特沃利亚科娃(Petra ?tevuliáková)
奥斯特拉瓦大学,IT4创新卓越中心,模糊建模研究与应用研究所,4月30日,奥斯特拉瓦,702 00,捷克共和国
彼得·德沃拉切克(Petr Dvo?á?ek)| 彼得·胡尔蒂克(Petr Hurtik)| 佩特拉·斯特沃利亚科娃(Petra ?tevuliáková)
奥斯特拉瓦大学,IT4创新卓越中心,模糊建模研究与应用研究所,4月30日,奥斯特拉瓦,702 00,捷克共和国
**摘要**
在本文中,我们提出了一种抗分辨率变化的、任务无关的无箱式对抗攻击(RINA),该攻击针对视觉神经网络,能够在无需事先了解系统任务、架构或输入分辨率的情况下欺骗任何系统。与以往通常假设任务类型已知或依赖固定输入分辨率的无箱式攻击不同,我们的方法通过针对早期层进行攻击,从而具有更强的鲁棒性,并适用于现实世界场景。我们提出了一种新的对抗框架,该框架以一种方式扰动输入图像,从而破坏基本特征提取,同时保持人类观察者的感知相似性。我们的方法在卷积和基于Transformer的架构上进行了评估,显示出分类准确率的显著下降,特别是在Transformer模型上,其效果优于现有的无箱式攻击方法(如Hybrid Image Transformation,HIT)。此外,我们提供了开源实现,以促进无箱式对抗测试的进一步研究和实际应用。
**1. 问题阐述与相关工作**
目前,基于神经网络(NN)的算法在开放世界任务中取得了最佳准确率,例如在CityScapes(Cordts等人,2016年)或COCO(Lin等人,2014年)数据集上的对象检测、UTK Faces数据集上的人龄估计(Zhang等人,2017年),或在ImageNet(Deng等人,2009年)上的图像分类(Zhai等人,2022年)。由于为计算机视觉任务设计的NN通常包含数百万个通过基于任务数据使用反向传播算法调整的可训练参数,人类无法简单地追踪其决策背后的逻辑以发现异常情况。
对抗机器学习领域利用了这一深度学习缺陷,通过对输入进行非常微小且专门的(对抗性)扰动(Szegedy等人,2013年)。经过对抗性扰动的输入(对抗性输入)对人类来说难以检测,并且从人类视角看不会大幅改变其视觉内容。同时,对抗性输入会大幅改变NN的预测结果——它们欺骗了NN,降低了其在测试数据集上的准确率。用对抗性输入欺骗NN的过程称为对抗攻击。
**下载:**
- 下载高分辨率图像(817KB)
- 下载全尺寸图像
**图1.** 本文提出的对抗神经网络FA修改了原始图像x。FA引入的扰动xΔ以不同的α与原始图像混合。创建了四个版本的对抗数据集,α∈{0.85,1.0,1.15},表示为DRINA(?)。目标无箱神经网络FN在DRINA(?)上的精度显著降低,如Δe?所示。对抗数据集与其原始对应物的平均相似度表示为SSIMDo。
尽管大多数对抗性研究集中在基于深度学习的系统上,但最近的研究表明,脆弱性更为根本。例如,正如Riaz等人(2024年)所展示的,即使是传统的手工制作的计算机视觉流程——由于它们基于非学习且可解释的性质而被认为具有鲁棒性——也可以通过专门的对抗性输入进行攻击。他们的研究表明,基于手工特征的系统(如经典的SLAM或图像配准)可以在不需要模型梯度或训练数据的情况下被欺骗。这种更广泛的脆弱性背景增强了我们研究的动机,我们提出了在最严格的无箱设置下的对抗攻击,其中不假设对模型内部、API(应用程序编程接口)甚至输入分辨率的访问。
对抗攻击可以根据可用信息分为三类:白盒、黑盒和无箱。攻击组之间的区别如图2所示,其中说明了以下信息:在白盒和黑盒设置中,攻击者可以访问logits y并查询模型以获取其结果。然而,在白盒环境中,攻击者还有能力访问参数W并执行反向传播,因为系统是完全可微分的。在无箱场景中,攻击者只能监控系统的行为而无法获得定量数据。
**图像处理模型中的对抗机器学习的一般原理**由Szegedy等人(2013年)确立,其中引入了白盒攻击。随后,黑盒攻击被描述为在攻击者对受攻击系统的信息较少的情况下白盒攻击的扩展(Papernot等人,2016年;Liu等人,2016年;Chen等人,2017年;Su等人,2019年)。在Li等人(2020年)和Zhang等人(2022b)定义的无箱攻击中,攻击者被隐藏了更多信息(但不是全部信息)。在当前的无箱攻击定义中,一些关于模型的信息仍然泄露给了攻击者:包括输入分辨率和任务本身。以下提供了三种对抗攻击类型的详细解释。
**下载:**
- 下载高分辨率图像(142KB)
- 下载全尺寸图像
**图2.** 对抗神经网络攻击的分类(Chen等人,2017年),其中x代表NN的输入,y表示其输出(未经处理的logits),FN代表目标网络本身,W指的是NN的参数(权重)。
**1.1. 白盒攻击**
白盒攻击(Szegedy等人,2013年)需要完全访问目标NN的梯度。根据通过反向传播获得的梯度,可以改变输入的方向,这会大幅改变模型的准确率。这种改变被称为向图像添加对抗性扰动。白盒攻击对图像所做的对抗性扰动对人类来说是不可见的;异常情况无法用肉眼检测到。其缺点是需要先验知识和直接访问模型,而这在现实世界场景中很少能实现。
有多种方法可以执行白盒对抗攻击,例如FGSM(Goodfellow等人,2014年)、BIM(Kurakin等人,2016年)和MIFGSM(Dong等人,2018年)。
**1.2. 黑盒攻击**
黑盒攻击不需要直接访问目标模型或其梯度,但需要访问模型的API。一种方法是使用替代模型:一个在通过对目标模型API的多次查询获得的logits上训练的定制模型。然后使用白盒方法针对这个替代模型来制作对抗性输入,该替代模型由攻击者拥有。这种方法利用了对抗性输入的可转移性:当两个模型相似时,通过对一个模型进行的白盒攻击制作的对抗性输入很可能会欺骗另一个模型。替代模型通过在带有目标网络logit输出的数据上进行训练来实现相似性。黑盒攻击首次在MNIST(Papernot等人,2016年)上展示,后来在ImageNet(Deng等人,2009年)上使用多个替代模型进行了演示(Liu等人,2016年)。当前最先进的黑盒攻击之一是APPA(Yuan等人,2024年)。在替代模型上生成的对抗性输入可以很好地转移到其他黑盒模型上。然而,替代模型攻击本质上不如直接的白盒攻击有效,因为替代模型只是近似目标模型;针对它制作的对抗性输入可能无法完美转移。
另一种方法是通过API直接攻击目标模型,而不是通过替代模型。这消除了训练替代模型的需要。由于攻击者无法直接获得梯度,因此使用零阶优化方法通过查询带有轻微扰动的图像来近似梯度。然后通过经典梯度下降(Chen等人,2017年)或进化算法(Su等人,2019年)进行优化。零阶方法的性能可与白盒攻击相当,但需要大量的API查询,而这可能不被目标系统允许。
**1.3. 无箱攻击**
无箱攻击必须在第一次尝试时就成功,且无需与目标模型进行任何交互或反馈。一种有效的方法(Li等人,2020年)手动从与目标任务相同的域获取数据集,在其上训练替代模型,并利用对抗性可转移性使用在替代模型上制作的输入来攻击目标。这种方法有效地欺骗了NN,但仍需要了解任务和数据域。
**本文的创新性和贡献**
我们将对抗机器学习从2014年的范式推进到了2025年,当时引入了白盒攻击并需要直接访问模型权重(Szegedy等人,2013年),现在攻击者可以通过输入扰动故意提高错误率,而无需知道模型的任务。我们的贡献的核心思想是基于无箱攻击,针对具有两个类别的图像分类任务,如Dvo?á?ek等人(2023年)所提出的。该方法不具备抗缩放不变性,并且需要知道目标NN的输入分辨率。作者在CIFAR-10数据集(Krizhevsky等人,2009年)上评估了多种NN的性能。
其他研究探索了训练期间的随机(Xie等人,2019年)和系统化(Lin等人,2019年)调整大小,但这不应与本文引入的分辨率不变性混淆。在这些框架中,对抗性扰动是在下采样后应用的。这种设置不符合无箱场景,因为在无箱场景中目标模型的输入分辨率是未知的。相比之下,我们的框架在原始图像分辨率(例如600 × 600像素)生成扰动。在推理过程中,扰动图像及其扰动一起被下采样到目标模型的分辨率。虽然这种下采样降低了攻击效果,但它更真实地反映了攻击者不知道目标模型输入分辨率的现实世界无箱条件。
我们将我们的方法与HIT(Hybrid Image Transform)进行了比较,HIT是一种先进的无箱对抗攻击(代码可在线获取)。HIT根据固定模式修改图像的高频谱(Zhang等人,2022b)。作者仅在较旧的架构(VGG Simonyan和Zisserman,2014a;InceptionV3 Szegedy等人,2016年;ResNet He等人,2016a;DenseNet Huang等人,2017年)上评估了HIT,而没有与最新模型进行比较或提供观察效果的严格解释。因此,我们重新评估了Zhang等人(2022b)的方法,包括:(1)包括ViT(Dosovitskiy等人,2020年)、DeiT(Touvron等人,2021a)、Swin(Liu等人,2021年)和EfficientNet(Tan和Le,2019年)在内的最新架构;以及(2)目标网络的输入分辨率未知的真正无箱设置。与原始工作不同,我们将HIT转换应用于图像的原始分辨率。因此,我们的结果可能与Zhang等人(2022b)报告的结果不同。
在本文中,我们提出了RINA(抗分辨率变化的无箱攻击),这是一种针对图像处理系统的通用无箱对抗攻击方法。RINA既不依赖于特定任务,也不依赖于知道目标模型的输入分辨率。我们通过在ImageNet(Deng等人,2009年)上训练的模型上攻击来证明我们方法的有效性。
**主要创新如下:**
- 我们的方法在现代基于Transformer的架构上平均比现有方法HIT高出171%(Zhang等人,2022b)。
- 我们的方法具有抗分辨率变化性,不同于依赖于已知输入分辨率的方法(Li等人,2020年;Zhang等人,2022b)。
- 我们的框架是任务无关的,使用通用NN模拟而不是特定于任务的方法(Chen等人,2017年;Su等人,2019年)。
- 我们的方法针对NN的早期层,而不是嵌入在更深层中的逻辑,后者在无箱攻击设置中仍然无法访问。初步研究
四个方面影响了针对神经网络(NNs)的对抗性攻击的成功:对抗性输入的创建、它们与人类视觉的相似性、它们与网络特征表示的差异性,以及它们诱导错误预测的能力。以下部分总结了这些概念。
3.1. 为什么对抗性输入能够欺骗NN?
让我们正式描述输入图像的微小扰动对卷积神经网络(CNN)在推理阶段输出的影响。为了简化问题并且不失一般性,这里我们假设有一批单通道图像,并且卷积层只有一个核。设x为输入图像矩阵,x′=x+△x为通过扰动矩阵△x(△x~N,包含小的任意值)修改后的输入图像。我们假设CNN的第一层表示如下:
(1) z = w?x + b,其中b=0,
(2) a[1] = g(z?),z? = γ(z?E[z])Var[z] + ? + β,
其中w?x是输入图像x与核w的卷积结果,g是一个非线性激活函数,z?是通过具有缩放和偏移参数γ、β以及均值和方差E[z]、Var[z]的批量归一化得到的,所有这些参数在推理阶段都是固定的。因此,对于第l=2,...,L层:
(3) z[l] = w[l]?a[l?1],a[l] = g[l](z?[l]),
(4) y? = g[L](z?[L])。
现在让我们考虑通过微小扰动修改后的图像x′=x+△x作为CNN的输入图像:
(5) z′ = w?x′ = (w?x) + (w?△x) = z + △z,
z?′ = γz′?E[z]Var[z] + ? + β = γ(z+△z)?E[z]Var[z] + ? + β,
(6) γz?E[z]Var[z] + ? + β + γ△zVar[z] + ? = z? + γ△zVar[z] + ?,
(7) a′[1] = g(z?′) = gz? + γ△zVar[z] + ?。
扰动△x主要在公式(5)和(6)中影响过程。然后,在公式(7)中,非线性激活函数g被应用于处理后的输入,因此,激活值a′[1]与原始图像x的激活值a[1]有显著差异。这个类似的过程在后续层中重复L次,最终输出y?和y?′之间的差异是显著的。
3.2. 关于NN第一层的已知通用事实
NNs被专门设计用来生成图像特征表示。通常,低抽象度的特征在CNN的开始部分被编码,因此,随着图像在CNN中处理的深入,使用更高抽象度的特征来描述图像内容。同时,低抽象度的特征是由与任务无关的核产生的,这些核作为更深层的特征提取器(Bulat等人,2020年)。图3(a)展示了在ImageNet数据集(Deng等人,2009年)上预训练的ResNet152v2架构(He等人,2016b)中的第一层核的示例。这里的卷积滤波器(核)包括两种类型:(1)具有不同频率和旋转的“边缘”检测核,以及(2)用于去除噪声的高斯类核。我们假设大多数训练有素的卷积NN在第一层都有类似的核集。
在无箱攻击中,攻击者无法访问目标NN或其任何信息,例如其输入分辨率或任务。我们依赖于CNN第一层的核与图3(a)中的核相似这一事实,我们的目标是攻击这一层以欺骗NN,这与之前的工作(Li等人,2020年)旨在欺骗网络中编码的逻辑不同。专注于第一层也允许我们构建一个与任务无关的对抗性NN。为此,我们引入了模拟NN(稍后称为FS),这是一个不可训练的单层原型CNN,具有预定义的核(详见第4.2节)。预定义的核显示在图3(b)中。
4. 提出的框架
主要目标是创建能够欺骗特定NN的对抗性图像。整个框架可以分为四个部分:
- 对抗性NN – FA
- 损失函数 – L
- 模拟NN – FS
- 无箱NN – FN
FA、L和FS用于训练阶段,而FN仅在最终测试阶段用于评估对目标NN的攻击成功率。在训练阶段不会从FN获得任何反馈。提出的框架的训练图示如图4所示。
让我们定义一个通用的NN,其形式化和符号将在以下小节中用于定义特定的NN。NN可以定义为映射F:X→Y,其中X和Y分别代表一组输入数据和一组输出预测,这两者都取决于特定NN解决的特定任务。我们将在后续部分为使用的NN指定X和Y。
4.1. 对抗性NN – FA
对抗性NN FA以图像x(或更一般地,一批图像)作为输入,并产生具有与输入x相同分辨率和范围的对抗性图像xA。形式上,我们假设FA:X→Y,其中X,Y?Rh×w×3,即分辨率h×w的标准光栅彩色图像集。通过FA修改后的图像xA对人类来说应该是不可识别的,但应该能够欺骗目标无箱NN FN的预测。换句话说,xA的内容应该(1)对人类来说与x相似,(2)对FN来说不同。为了改变x的内容,首先将其编码为高度抽象的潜在表示,然后使用类似U-Net的架构(Ronneberger等人,2015年)将其投影回原始维度。为了实现对抗性图像xA所需的属性(1)和(2),我们计算x和xA之间的损失函数L(详见第4.3节)。属性(1)由相似性损失LS确保,它计算x和xA之间的均方误差(MSE)。属性(2)由对抗性损失LA确保,该损失通过两个附加模块获得:模拟NN FS和FMQ-Estimator FQ,这两者都在第4.2节中描述。
4.2. 模拟NN – FS
模拟NN FS是一个不可训练的单层CNN,它为FMQ-Estimator FQ(特征图质量估计器)预处理图像,两者一起用于估计对抗性损失LA,即LA=FQ(FS(x),FS(xA))。形式上,我们假设模拟NN为FS:X→Y,其中X?Rh×w×3是分辨率h×w的标准光栅彩色图像集,Y?Rh×w×k是由k个特征图组成的输出集,每个特征图的分辨率为h×w。k的值等于FS中卷积滤波器的数量。
请注意,对抗性损失LA从NN的角度估计原始图像x和对抗性图像xA之间的差异。因此,FS的目的是提供关于x在经过任意训练的CNN的第一层卷积层处理后与xA之间差异的洞察。如第3.2节所述,我们唯一已知的先验信息是CNN第一层的核通常是与任务无关的,并且对输入图像中的边缘敏感(Brachmann和Redies,2016年)。基于这一知识,提出的FS由具有人工创建的核的单层组成。这些核来自Sobel滤波器边缘检测核的旋转,因此它们是通用的,并具有所需的属性;见图3(b)。这部分的目标是估计图像x和xA的两组h×w×k特征图f和fA之间的差异(见图4)。然而,标准指标如MAE(平均绝对误差)不适用于特征图的所需比较。原因是这样的:如果我们有两个几乎相同的图像x和xA,它们之间的空间位移很小,对人类来说它们看起来相同,无箱NN FN会将它们分类为相同。在这种情况下,我们需要它们的特征图f和fA在模拟NN FS中几乎完全相同。然而,由于空间位移,MAE计算出的特征图之间的差异太大,这不是我们想要的结果;见图5以说明这种行为。因此,为了估计两组特征图之间的差异,我们训练了一个称为FMQ-Estimator的自定义NN。
4.2.1. FMQ-估计器 – FQ
我们正式定义FMQ-Estimator(特征图质量估计器)为NN FQ:X→Y,其中X?Rh×w×2k,Y∈[0,1]。其主要任务是从NN的角度而不是从人类的角度估计两张图像之间的差异。h×w表示RGB图像的原始分辨率,k是其经过FS处理后的特征表示的维度,2k反映了来自两张图像的特征表示的连接:原始图像(x)和对抗性图像(xA)。动机是训练NN FQ根据特征图来区分图像质量的下降。我们通过应用视觉失真来降低质量;网络学习猜测一对图像中的一个图像应用了多少失真,而另一个图像保持不变。我们构建了一个包含16种图像失真的流程,包括模糊、噪声、对比度和透视变形。在训练过程中,我们随机选择d~U(0,16)种失真,将它们应用于其中一张图像,并通过FS获得特征图。标签是d/16,因此FQ产生Y∈[0,1],损失函数是L1距离。给定两组投影到两组特征图中的图像,网络必须预测其中一个图像应用了多少失真,如图6所示。失真的数量代表视觉质量的倒数。对于FQ架构,我们训练了MobileNetV3、ResNet18和EfficientNetB0;选择了MobileNetV3作为最合适的。有关评估细节,请参见附录A。质量评分的视觉示例见图6。
为了清晰起见,我们明确指出FQ的训练与FA的训练是独立的,并且我们使用L1损失函数单独训练FQ。然后冻结FQ的权重,并在训练FA时使用它作为一个模块,该模块从FS的角度估计x和xA之间的差异。FQ的训练过程在图7的图表中展示。为了保证可重复性,我们发布了用于训练攻击者和FQ的代码以及重现我们实验所需的所有详细信息。
4.3. 损失函数 – L
最终的损失函数L由两个主要部分组成:LS – 相似性损失和LA – 对抗性损失。正如第4.1节已经提到的,LS从人类的角度估计两张图像的相似性,而LA从神经网络(NN)的角度估计图像的对抗性。形式上,设x为原始图像,xA为其对应的对抗性图像,两者都是分辨率为h×w的标准光栅彩色图像。损失函数L(x,xA)定义为(8)L(x,xA)=max(LS(x,xA),βLA(x,xA)),其中LS(x,xA)通过MSE计算(见第4.1节),用于估计x和xA的相似性;LA(x,xA)通过FS和FQ计算(见第4.2节),用于估计x和xA的特征图的差异性;参数β用于将两种损失保持在相同的范围内。LS和LA相互竞争;在每次训练迭代中,我们选择较大的损失值以保持平衡,防止任一损失占据主导。我们通过实验测量了训练过程中max运算符选择每种损失的频率:LS被选中的概率为40%,LA为60%。
4.4 无盒式神经网络(No-box NN)- FN
无盒式神经网络(FN)是我们想要欺骗和评估的最终目标。形式上,我们假设FN:X→Y,其中X?Rh×w×3是一组分辨率为h×w的标准光栅彩色图像,Y是由NN解决的特定任务(如图像分类、目标检测等)产生的输出集。在我们的示例中,目标NN执行图像分类任务,因此Y?Rc,c是类别的数量。与已知方法(Papernot等人,2016年;Carlini和Wagner,2017年)不同,我们的FN仅在FA训练完成且其权重固定后的测试阶段可用。此外,我们假设关于其结构(无论是卷积网络还是变换器)、输入图像的分辨率、训练数据集,甚至NN解决的任务,都没有额外的信息(Zhang等人,2022b年;Li等人,2020年)。由FA创建的对抗性扰动被添加到原始分辨率的图像中,因为从攻击者的角度来看,FN的输入分辨率是未知的(与Zhang等人,2022b年的方法不同)。
5. 训练细节
我们实验中使用的框架各组成部分的设置如下描述:
5.1 对抗性神经网络(Adversarial NN)
我们方法的核心是对抗性神经网络FA,它生成对抗性样本。对于FA,我们采用了U-Net架构(Ronneberger等人,2015年)和SE-ResNet50作为主干网络。该模型接收224 × 224像素大小的输入。我们在COCO 2017测试集的随机224 × 224裁剪图像上进行了387,000次迭代训练,批量大小为16。优化使用了AdamW优化器,学习率为10^-3。在训练过程中,我们应用了数据增强技术,包括缩放、翻转、透视变换、模糊和随机裁剪来调整输入大小。我们还使用了Loshchilov和Hutter(2016年)提出的余弦退火学习率调度器,并带有warm restart功能。
推理
在无盒式攻击环境中生成对抗性图像时——目标NN的输入分辨率是未知的——原始图像(x)不会直接缩放到对抗网络(FA)的规范输入尺寸(224 × 224像素)。相反,首先对x进行填充,使其高度和宽度都能被224整除。然后将填充后的图像分割成不重叠的224 × 224像素的块。每个块由FA独立处理以生成其对抗版本。随后,将这些对抗块重新组合以重建完整的对抗性图像,并移除填充部分以恢复原始图像分辨率。这个过程确保了对抗性变换在整个图像上一致应用,而不对目标模型的输入尺寸做出不合理的假设。图1和附录D中展示了通过这种方法生成的对抗性图像示例。在填充操作中使用反射模式,因为使用零填充会导致FA出现意外行为。由于FA是在只包含真实图像(如人物、物体和街道的图像)的数据集上训练的,当面对部分完全黑色的图像时,它无法产生良好的扰动(见图8)。
5.2 仿真神经网络(Simulation NN)
我们框架的第二个组成部分是仿真神经网络FS,它由一个具有12个5 × 5核的单个不可训练卷积层组成。这些核被设置为类似Sobel的边缘检测器滤波器(从3 × 3插值到5 × 5),并且相互旋转30°(如图3所示)。这部分的作用是在保持图像空间维度的同时对其进行变换。这个不可训练的模型代表了一个通常包含类似边缘检测器滤波器的通用NN,如第3.2节所述。然后,输出在FMQ-Estimator中进行处理,该估计器估计图像在Sobel滤波器特征空间中的差异程度。该框架的目标是生成在特征空间中与其原始对应图像尽可能不同的图像,同时保持对人类观察者的内容可见性。
5.3 FMQ-估计器(FMQ-Estimator)
FMQ-Estimator FQ从目标NN的角度估计图像的差异性(详见第4.2.1节)。它最初是与FA分开训练的,然后在FA训练中作为损失模块使用。FQ的训练使用了“COCO 2017测试”数据集,该数据集也用于FA的训练。使用快速且资源效率高的MobileNetV3 Large架构获得了最佳结果。我们在附录A中比较了其他架构的性能。FQ模型使用ImageNet预训练模型的权重进行初始化,并使用AdamW优化器和10^-3的学习率进行了20个时代的微调。FQ模型不用于FA的推理,仅用于FA的训练。
5.4 损失函数
回想一下,整个框架的损失函数是由公式(8)给出的复合损失,其中我们使用了相似性损失LS和对抗性损失LA。
- 相似性损失LS:MSE表示从人类视角来看x和xA的相似性。LS的目标是通过向x应用保持上下文的扰动来迫使FA获得xA。我们选择这种方法而不是其他方法,例如SSIM(结构相似性指数度量),因为后者会导致训练不稳定;或者使用基于感知相似性的另一个NN(Ledig等人,2017年),但这没有意义,因为目标FN也会欺骗它。
- 对抗性损失LA:它表示从NN的角度来看x和xA的差异性。其目标是从NN的角度产生尽可能不同的图像。它使用FS和FQ模块计算,即LA=FQ(FS(x),FS(xA))。
为了平衡公式(8)中的LS和LA,参数β被设置为β=15。
6. 结果
在本节中,我们展示了所提出的框架能够在没有任何关于FN的先验知识的情况下显著降低无盒式神经网络FN的性能。即使在我们的评估方案中FN的输入分辨率也是未知的,并且对抗性扰动是在原始分辨率下添加到原始图像中的。我们的框架最初关注CNN,但我们证明了它也适用于基于变换器的架构。我们在训练有图像分类能力的无盒式NN(FN)上测试了我们的对抗性NN FA,这些NN是在ImageNet(Deng等人,2009年)验证数据集上训练的。我们将这个数据集称为DO(原始数据集)。为了创建DO的对抗性对应数据集DRINA1.0,我们使用FA将DO中的每张图像转换为其原始分辨率。请注意,所提出的FA没有在多尺度环境下进行训练,由于它基于U-Net架构(Ronneberger等人,2015年),因此在处理非224 × 224像素分辨率的图像时表现不佳。为此,图像被分割成固定分辨率224 × 224的瓦片(更多细节见第5.1节)。我们通过计算差异xΔ=xA?x来提取单个xA的对抗性扰动,其中x是原始图像,xA是其对抗性对应图像。然后我们根据公式(9)xα=(1?α)x+αxA以不同的强度(α)重新应用这些扰动到图像x上,以研究对抗性的变化如何随扰动强度(由α表示)而变化。接着,我们创建了两个具有较不明显扰动的对抗性数据集版本,其中每个数据集中的图像都是通过(9)和α∈{0.85,1.0,1.15}获得的。这些新数据集分别称为DRINA0.85、DRINA1.0和DRINA1.15。DRINA1.15的平均SSIM与使用现有HIT方法(Li等人,2020年)创建的DHIT数据集的SSIM相同。为了比较我们攻击的有效性,我们主要关注具有相同SSIM的数据集:我们的DRINA1.15和现有的DHIT。
我们在对抗性数据集上测试了几种预训练NN架构的精确度。具体来说,我们选择了六种不同的图像分类模型家族来测试我们的对抗性攻击:ViT(Dosovitskiy等人,2020年)、DeiT(Touvron等人,2021b年)、Swin(Liu等人,2021年)、ResNet(He等人,2016a年)、VGG(Simonyan和Zisserman,2014b年)以及EfficientNet(Tan和Le,2019年)模型。ViT、DeiT、Swin和VGG家族的模型的评估分辨率为224 × 224像素。基于ResNet的模型的训练分辨率为224 × 224,但评估分辨率为288 × 288,因此我们使用了后者。EfficientNet模型的分辨率是渐进式的——从EfficientNetB0的224 × 224增加到EfficientNetB5的456 × 456。
我们还将我们的攻击效率与HIT(混合图像变换,HIT(Zhang等人,2022b年)进行了比较。在Zhang等人(2022b年)的原始方法中,攻击是直接应用于目标NN的输入分辨率的图像。我们认为这是他们解决方案的一个缺陷,因为在真正的无盒式攻击中,攻击者无法获得这一信息。我们以真正的无盒式方式重新实施了HIT实验,即将HIT扰动应用于原始图像的分辨率,然后进行缩放,由于缩放导致的信息损失,攻击性能可能会降低。这就是为什么我们的HIT攻击结果与原始文章(Zhang等人,2022b年)中的结果不同。表1提供了结果的简要总结,而图9展示了更详细的发现。请注意,在表1中,我们还提供了每个数据集的平均SSIM(结构相似性指数度量),以便评估对抗性数据集中的扰动。
表1. 清洁的ImageNet验证集Do与三种RINA生成的对抗性变体DRINA0.85、DRINA1.0、DRINA1.15、基于HIT的对抗性数据集DHIT和高斯噪声控制集DNOISE的比较。对于每个数据集,报告了与Do的平均结构相似性SSIM(SSIMDo),以及相对于Do的分类错误平均值(Δe?),分别针对所有模型(Δe?)、变换器模型(Δe?t)和卷积模型(Δe?c)(增加越大,退化越明显)。最后,Δ1.15,HIT总结了DRINA1.15与DHIT之间的相对差异。
让我们总结表1中的结果。HIT(Zhang等人,2022b)在DHIT中引入的扰动将原始图像和对抗性图像之间的SSIM降低了与我们的DRINA1.15(α=1.15)相同的程度。每个图像的SSIM是在其原始分辨率下计算的,而不是缩放到测试模型的规范分辨率。为了公平比较这些方法,我们关注DRINA1.15和DHIT的性能。我们的方法在现代基于变压器的架构(即ViT、DeiT和Swin)上将平均错误率Δe?t提高了171%,从而优于HIT攻击。然而,HIT无箱攻击在较旧的基于卷积的模型(如ResNet系列)以及高分辨率的EfficientNets变体上仍然更有效。我们在下面讨论了这种性能差异的潜在原因。我们还将RINA和HIT无箱攻击与简单的高斯噪声扰动进行了比较,如表1所示。高斯噪声使错误率增加了3%,而RINA使错误率增加了29%,HIT则平均增加了26%。图9更好地展示了我们方法在所有模型中的有效性。在EfficientNet模型系列中可以看到一个非常特殊的模式:随着模型容量的增加(B0是最小的,B5是最大的),我们攻击的有效性降低,而HIT攻击的有效性提高(Zhang等人,2022b)。我们攻击有效性的降低是可以预料的,因为较大模型的基础错误率本来就较低;然而,HIT攻击有效性的提高最初是出乎意料的。
下载:下载高分辨率图片(240KB)
下载:下载全尺寸图片
图9. 该图表显示了预训练模型集合的绝对分类错误率(%),按架构家族(ViT、DeiT、Swin、ResNet、VGG、EfficientNet)分组,并用垂直虚线分隔。标记类型表示评估集:干净基线(在Do上进行评估)、RINA对抗数据(在DRINA,0.85、DRINA,1.0和DRINA,1.15上进行评估)、高斯噪声控制集(在DNOISE上进行评估)以及HIT对抗数据(在DHIT上进行评估)。标记颜色编码了与相应干净图像的平均SSIM值(颜色条,SSIM),较低的SSIM值表示与Do的视觉偏差较大。不同标记类型之间的差异表明,具有相似SSIM值的扰动机制在不同模型家族中可能会产生显著不同的错误率增加。
随着EfficientNet容量的增加,HIT攻击有效性的提高可以通过以下事实来解释:EfficientNet模型的分辨率与其容量成比例增长。也就是说,最小的模型EfficientNet B0的输入分辨率为224像素,逐渐增加到EfficientNet B5模型的240、260、300、380和456像素。由于HIT在图像中添加了高频水印,当这些水印从原始分辨率降采样到B0模型的224像素分辨率时,会被严重破坏。由于降采样因子较小,更多的高频特征得以保留,因此HIT方法更加有效。
我们关于为什么我们的方法在变压器上的效果明显优于HIT(Zhang等人,2022b)的假设是,正如先前的研究所显示的,CNN更关注图像中的高频信息,而变压器则关注低频信息。举一个具体的例子:在ImageNet验证数据集(Deng等人,2009)中,过滤掉低频光谱后,ViT(变压器)的准确率下降幅度明显大于ResNet(Benz等人,2021)。这表明ViT没有学习到数据中的高频特征,而ResNet则学习了。变压器基于MHSA(多头自注意力)模块,而CNN基于卷积核。两者的区别在于CNN放大了高频信息,而MHSA实际上会减弱这种信号(Park和Kim,2022)。此外,HIT方法在图像中引入了高频水印。我们的方法没有这种限制,可以在更宽的频谱范围内修改图像。另一种解释来自Zhu等人(2025)的研究,他们指出层归一化将输入映射到输出的方式类似于双曲正切,因此可以用这种激活函数替代。tanh的参与可能性意味着在输入层中存在一个区间,在该区间内微小的变化会导致输出的大幅差异,即它可能容易受到对抗性攻击的影响。
7. 总结
神经网络是解决涉及高维数据的各种复杂问题的非常有效的工具。由于它们的复杂性,模型流形中存在一些空白,这些空白会导致行为不确定;这可以被利用来欺骗神经网络。我们已经正式证明了,当输入发生微小扭曲时,神经网络的输出可以被显著改变。我们提出的RINA框架正是基于这一事实。它使用一个固定的、预定义的单层模拟神经网络,并经过训练以生成具有保留视觉内容且与模拟网络输出不同的对抗性图像。利用神经网络的这一本质,我们可以在不知道其权重、输入分辨率、架构或任务的情况下成功欺骗各种神经网络,使其成为一种完全无箱的攻击。
CRediT作者贡献声明:
Petr Dvo?á?ek:写作——审阅与编辑、撰写原始草稿、可视化、验证、软件开发、项目管理、方法论、数据整理、概念化。
Petr Hurtik:写作——审阅与编辑、撰写原始草稿、监督。
Petra ?tevuliáková:写作——审阅与编辑、撰写原始草稿、形式分析。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号