类间特征空间几何结构与对抗脆弱性的关系研究

《IEEE Access》：Assessing Class-Level Adversarial Vulnerability Through Geometric and Semantic Similarity

　　

摘要：

深度神经网络依然极易受到对抗样本的影响，其中微小且不可察觉的扰动即可引发错误的预测。尽管以往的研究主要聚焦于样本级或模型级的鲁棒性，但类间结构关系在对抗行为中的作用仍亟待探索。在本研究中，我们探讨了特征空间几何结构与语义相似性如何与定向对抗脆弱性相关联。我们评估了多种架构下的类间脆弱性，并提出了一种复合脆弱性分数，该分数综合了多种攻击方法的结果。基于 ImageNet 的实验揭示了特征空间距离与攻击成功率之间存在显著相关性，表明表示更为接近的类别更容易受到定向操纵。我们进一步表明，尽管源自 WordNet 的语义距离也与对抗脆弱性密切相关，但所学特征空间的几何结构提供了更为一致且强烈的信号。最后，我们发现经常参与对抗交互的类别往往表现出更低的干净准确率以及对常见损坏的鲁棒性降低，这凸显了类级结构对于理解和改进模型鲁棒性的重要性。