形态生成对抗性：反应-扩散模式揭示深度神经网络中的结构弱点

《Scientific Reports》：Morphogenic adversarialism: reaction-diffusion patterns reveal structural vulnerabilities in deep neural networks

　　

摘要

深度神经网络在图像识别任务中取得了显著成就，但它们仍容易受到精心设计的输入扰动的影响，这些扰动可能导致错误预测，而原始图像却几乎看不出变化。在本研究中，我们提出了图灵去质化攻击（TDA），这是一种受生物学启发的对抗性攻击方法，它利用反应-扩散过程生成结构化扰动，模拟自然界的模式形成机制。与传统方法依赖目标模型的梯度信息不同，TDA无需查询模型，仅需一组有限的控制参数就能生成连贯的空间模式。我们在涵盖自然图像、面部识别、医学影像和交通标志分类的七个基准数据集上，使用了基于卷积和变换器的神经网络架构来测试TDA的效果。该方法在所有数据集中都降低了分类性能，同时保持了与原始图像较高的视觉相似度。在Fashion-MNIST数据集上的平均攻击成功率为48.3%，在Labeled Faces in the Wild数据集上为63.3%，个别模型的成功率甚至可达80.5%。尽管性能有所下降，但图像质量依然得到较好保留，所有基准数据集的结构相似度均超过0.93，感知相似度则低于0.10。我们的实验还发现，模型的易受攻击程度取决于扰动的空间结构与不同架构所使用特征之间的相互作用。卷积网络在低分辨率图像上通常更易受攻击，而基于变换器的模型在较高分辨率下则越来越容易受到影响。消融分析表明，攻击效果主要与生成模式的空间组织有关，而不仅仅与扰动的幅度有关。这些研究结果表明，受生物学启发的模式生成机制能够揭示现代视觉系统中的系统性弱点，并为在现实且具有空间结构的扰动条件下评估模型鲁棒性提供了实用框架。