基于深度哈希的深度神经网络对抗样本检测

《IEEE Reliability Magazine》：Deep Hashing-Based Detection of Adversarial Samples Against Deep Neural Networks

　　摘要：许多方法旨在加强深度神经网络对对抗样本的防御能力。然而，现有的防御技术，如去噪、网络蒸馏和对抗训练等，计算成本高且可靠性不足。此外，验证样本的清洁性以及过滤对抗样本在许多应用场景中仍面临巨大挑战。为了解决上述问题，本文提出了一种新颖的深度哈希模型，该模型结合了深度神经网络（DNN）特征提取与深度哈希方法进行哈希码生成，从而增强对抗样本检测能力。该模型由三个部分组成：ResNet50、用于哈希码生成的深度哈希模块以及用于识别对抗样本的阈值计算模块。在提供的数据集上，我们训练了ResNet50，从最后一个全连接层提取logits，并通过多种哈希模型生成哈希码。随后，利用对抗样本在所学到的汉明空间中相对于干净样本的分布偏差来识别对抗样本，并使用针对特定数据集校准的参数β_K。在四个流行数据集（MNIST、CIFAR-10、ImageNet100和GTSRB）上的实验结果表明，基于DBDH的深度哈希模型在检测主流攻击（如C&W、FGSM和BIM）产生的对抗样本方面优于其他方法。所提出的检测器达到了98.31%的平均准确率、99.23%的精确率、98.25%的F1分数和0.8%的假阳性率。平均响应时间为0.63秒，该检测方法利用深度哈希实现了高性能的对抗样本过滤。总体而言，紧凑的哈希码提供了一种新颖且具有区分力的特征表示方式，有助于构建具备抗攻击能力的检测机制，并提高攻击者规避防御的难度。