自动驾驶车辆中针对深度学习模型的系统级攻击分类

《ACM Transactions on Software Engineering and Methodology》：A Taxonomy of System-Level Attacks on Deep Learning Models in Autonomous Vehicles

本文提出首个针对自动驾驶系统的系统级攻击分类体系，通过分析21篇相关论文，建立了12个顶级分类和多个子类，揭示了攻击特征、易攻击组件及威胁模型，并提炼了实践教训与未来研究方向。

　　

摘要

深度学习的出现及其惊人的性能使其能够应用于复杂系统，包括自动驾驶车辆。然而，当在深度学习模型的输入数据中引入微小的、具有对抗性的变化时，这些模型容易产生错误预测。这种错误预测在现实世界中可能会引发问题，从而导致整个系统的失效。近年来，越来越多的研究工作开始探讨针对利用深度学习组件的自动驾驶车辆发起攻击的方法。这些攻击主要针对自动驾驶车辆所处环境的各个要素，其有效性通过这些攻击引发的系统级故障来评估。但目前尚未有系统性的尝试对这些攻击进行分析和分类。在本文中，我们首次提出了针对自动驾驶车辆的系统级攻击分类体系。我们通过选取21篇具有高度相关性的论文来构建这一分类体系，并将其归入12个顶层分类类别及若干子类别中。该分类体系帮助我们分析了攻击特征、最常受到攻击的组件和系统、潜在的威胁模型，以及从输入扰动到系统级故障的故障链。我们为实践者总结了一些经验教训，并为未来的研究指明了可能的方向。