用于自动发现对抗性攻击的构建框架

《Scientific Reports》：A compositional framework for automated discovery of adversarial attacks

　　

摘要

深度神经网络易受对抗性攻击的影响，这是其安全部署面临的关键障碍。然而，目前对模型鲁棒性的评估仍依赖于有限的一组手动设计的、单一类型的攻击方式，这可能导致算法搜索空间中的大量区域未被探索。为解决这一局限，我们提出了一种组合框架，将对抗性攻击视为由可互换的功能模块构成的模块化系统，这些功能模块包括初始化器、损失函数、调度器以及一种新型的复合梯度计算器。通过该框架，新攻击的设计被转化为在这个复杂且分层化的空间中的黑箱优化问题。我们采用了元启发式策略，尤其是贝叶斯优化和自定义设计的进化算法，来自动发现新颖且有效的攻击配置。在经过强化训练的ResNet-18模型上进行的实验表明，通过这种自动化合成过程发现的攻击，在相同的扰动约束条件下，其攻击成功率高于现有的手动设计的基准测试方法和最先进的迁移学习基线方法（包括PGD、MIM、DIM以及AutoAttack系列），显示出更好的性能。我们的研究结果表明，自动化组合合成是一种发现可迁移对抗性漏洞的有效方法，同时也表明，借助查询功能的灰箱迁移审计方法，相比仅依赖固定的单一算法，能够提供更可靠的安全性评估。