综述:针对自动驾驶的对抗性攻击的全面回顾:从单一模态到多传感器融合
《Neurocomputing》:A comprehensive review of adversarial attacks on autonomous driving: From single-modality to multi-sensor fusion
【字体:
大
中
小
】
时间:2026年05月09日
来源:Neurocomputing 6.5
编辑推荐:
梁京国|李光远|陈继成|李艳|张慧
北京航空航天大学交通科学与工程学院,北京,100191,中国
摘要
自动驾驶车辆的安全在很大程度上依赖于异构环境中的稳健感知能力;然而,物理传感器机制和深度学习算法中的漏洞为实际部署带来了关键瓶颈。与以往仅限于单一模态的调查不同,本文提出了一
梁京国|李光远|陈继成|李艳|张慧
北京航空航天大学交通科学与工程学院,北京,100191,中国
摘要
自动驾驶车辆的安全在很大程度上依赖于异构环境中的稳健感知能力;然而,物理传感器机制和深度学习算法中的漏洞为实际部署带来了关键瓶颈。与以往仅限于单一模态的调查不同,本文提出了一种全面的综述,严格 bridged 单传感器漏洞与多传感器融合脆弱性之间的差距。涵盖相机、激光雷达、雷达和 GPS 模态,我们通过一种新颖的任务中心分类法分析了关键研究。我们的分析遵循自下而上的路径:首先剖析了单个传感器中的基本扰动机制,然后阐明了这些单一模态攻击如何利用融合逻辑缺陷引发系统范围内的级联故障,有效地暴露了当前融合架构中的冗余悖论。为了应对这些威胁,我们将现代对策系统地分类为三个层次的防御框架,包括模型级免疫力、数据级净化和系统级跨模态仲裁。此外,我们还批判了评估协议中的有效性差距,并指出端到端驾驶和世界模型等新兴范式不可避免地扩大了对抗性攻击面。为了促进可持续的研究,我们在 https://github.com/Lyon2020/MSP-Attacks 上维护了一个不断更新的仓库。
引言
自动驾驶车辆 (AVs) 依赖精确的传感系统进行关键安全决策。这些系统必须在多种操作场景中可靠地运行 [1],[2]。为了实现这一目标,现代平台集成了多种传感器模态,如相机、激光雷达和雷达。这种融合构建了对周围环境的全面表示,以实现安全导航。通过利用异构传感器,AVs 执行基本功能,包括对象检测、语义分割和定位 [3],[4],[5],[6]。这些能力使系统能够实时解释复杂和动态的场景。因此,感知管道的稳健性至关重要。它直接决定了车辆在密集交通和复杂道路几何结构中正确响应的能力。在这一背景下,安全是 overriding 设计目标,保护自身车辆和脆弱的道路使用者 [7],[8],[9]。因此,保持传感器数据的完整性和一致性是自动驾驶车辆可靠运行的基础前提。
深度学习 (DL) 的最新进展彻底改变了自动驾驶。特别是卷积神经网络 (CNN) 和基于 Transformer 的架构显著改进了模块化管道和端到端 (E2E) 框架 [6],[10]。在这些系统中,深度神经模型处理高维传感器输入。它们执行从特征提取到下游决策的关键任务 [11]。为了最大化性能,通常为每种传感模态定制专门的架构。这种策略利用了模态特定的特性,同时促进了有效的多模态融合 [6],[11]。然而,这种依赖性也带来了显著的权衡。虽然 DL 提高了感知准确性,但它同时也扩大了攻击面。随着 AVs 对这些算法的依赖程度增加,它们不可避免地继承了 DL 模型的内在漏洞 [12]。
深度神经网络 (DNNs) 本质上容易受到对抗性攻击。对手可以向传感器输入中注入精心制作的扰动来利用模型的弱点 [13]。虽然这些扰动通常不易察觉,但它们会严重损坏感知输出。这种损坏会触发整个自动驾驶堆栈的级联故障。具体后果包括交通标志的误分类或不存在障碍物的幻觉。这些错误不可避免地导致轨迹规划错误和控制指令错误。涉及感知故障的现实世界事故生动地表明了这些风险的严重性 [14]。因此,加强感知框架的稳健性是当务之急。
这些不断升级的担忧引发了针对对抗性威胁的广泛研究 [15],[16]。现有研究涵盖了不同模态的广泛方法。对于相机,研究人员研究了像素级扰动和对抗性补丁。同样,像激光雷达和雷达这样的主动传感器面临从点云欺骗到射频干扰的各种威胁。甚至全球定位系统 (GPS) 也容易受到信号欺骗和干扰。除了单一传感器设置之外,最近的工作还转向了多传感器融合管道。这些研究分析了利用数据流之间结构弱点和不一致性的协调攻击。通过对这些机制的描述,研究社区旨在制定原则性的防御策略。最终,这项努力旨在恢复自动驾驶系统的可靠性。
为了整合领域知识,几项调查从不同角度总结了对抗性攻击。大量文献主要针对基于相机的威胁 [17],[18],[19],[20],[21],[22]。例如,Chi 等人 [16] 使用四维分类法提供了物理攻击的全面综合。除了相机,最近的工作还专注于特定的传感模态。Salguero 等人 [23] 首次专门针对激光雷达系统进行了综述。同样,Mahima 等人 [24] 通过跨模态视角系统化了 3D 感知的威胁。Deng 等人 [25] 和 Shen 等人 [26] 分析了从传感器到决策的攻击向量。然而,仍然存在差距。虽然一般的安全调查提供了有价值的系统级见解,但它们往往缺乏关于传感器聚焦的对抗性机制的足够深度 [2],[27],[28],[29],[30],[31],[32]。如图 1 中的定量分析所示,这项调查的独特范围在于其对主动传感器模态和跨模态融合的系统化研究,从而解决了先前以视觉为中心的研究中的关键差距。
尽管有这些基础性见解,现有调查仍存在三个主要局限。首先,大多数工作孤立地研究模态,仅关注相机或激光雷达。因此,它们缺乏整合所有关键传感器的统一视角。其次,该领域缺乏覆盖异构模态的全面分类法。这种缺失阻碍了对对抗性错误如何通过感知管道传播的结构理解。第三,也是最关键的一点,现有研究通常忽略了自动驾驶的特定背景。分析经常将威胁与高速动态和安全关键决策循环等领域特定约束脱节。这种疏忽在理论安全模型与实际部署要求之间造成了越来越大的差距。
为了解决这些挑战,有必要重新考虑对抗性攻击在自动驾驶功能层次结构中的组织和分析方式。在实际架构中,像相机、激光雷达、雷达和 GPS 这样的异构传感器提供了互补的环境观察,以支持关键感知任务,包括对象检测、语义分割、车道检测、深度估计和定位。这些任务代表了单个传感器对车辆整体感知能力的功能接口,并形成了原始观察与规划和控制等下游模块之间的关键桥梁。因此,必须不仅在传感器层面理解对抗性扰动的影响,还要了解攻击如何损害这些特定的感知功能。
受到这一观察的启发,本研究引入了一种创新的任务中心分类法,系统地 bridged 独立单模态漏洞与多传感器融合 (MSF) 系统的灾难性崩溃之间的差距。如图 1 中的统计比较所示,我们的工作涵盖了比现有调查更广泛的模态和更多的最新文献。此外,我们提出了一种原创的五层约束框架 (C1–C5) 来定义对抗性方法的基础优化目标。通过根据其对不可察觉性 (C1)、物理可实现性 (C2)、环境稳健性 (C3)、结构一致性 (C4) 和传感器级物理 (C5) 的重视程度对攻击进行分类,这种分类法使研究人员能够辨别攻击效果与环境生存能力之间的基本权衡。最终,通过将这种功能分析与第 5 节中详细阐述的系统防御范式相结合,本文为社区提供了验证、压力测试和加强下一代稳健自动驾驶感知堆栈的严格路线图。
通过提供对自动驾驶感知系统的全面、以传感器为中心的对抗性攻击综述,本研究解决了这些差距。我们的贡献有三个方面:
- 我们提供了涵盖相机、激光雷达、雷达和 GPS 模态的关键研究的全面综合。作为这一分析的补充,我们建立了 MSP-Attacks1,这是一个精心策划并不断发展的仓库,旨在为未来的社区研究提供可持续和可扩展的基础。
- 据我们所知,这是第一个提出任务中心分类法的调查,并进一步通过多维约束框架进行了增强。这种方法系统化了异构传感器的对抗性景观,并阐明了漏洞如何在不同功能任务中表现出来。
- 我们构建了一个由模型级、数据级和系统级范式组成的三方防御框架,系统地解决了当前自动驾驶平台面临的根本稳健性挑战。基于这些防御性见解,我们划定了保障下一代感知堆栈的前瞻性研究轨迹和战略路线图。
图 2 显示了本调查的结构框架。第 2 节建立了理论基础和评估指标,而第 3 节介绍了多维攻击分类法。第 4 至 6 节构成了分析核心,采用任务中心视角来审查相机、激光雷达、雷达和 GPS 模态的对抗性策略,最终在第 7 节中对多传感器融合进行了重点分析。为了弥合漏洞分析与系统加固之间的差距,第 8 节介绍了三方防御框架。最后,第 9 节讨论了开放性挑战和世界模型等新兴范式,并在第 10 节进行了总结性评论。
**传感器中心化的 AV 漏洞**
AVs 利用包括相机、激光雷达、雷达和 GPS 传感器在内的异构传感器套件,在各种汽车工程师学会 (SAE) 自动化级别 [33] 上实现环境感知。尽管它们具有互补性,但这些传感器具有内在的物理和算法约束,构成了多维的攻击面。单个模态的漏洞与其特定的信号转换机制密切相关。
**对抗性攻击的分类**
为了系统地表征自动驾驶感知面临的多样化威胁景观,我们基于五个正交维度对对抗性攻击进行分类:位置、领域、知识、目标和利用的物理介质。
**对相机感知的对抗性攻击**
在自动驾驶感知领域,相机是一种不可或缺的传感模态,因为它们能够在保持成本效益的同时捕获丰富的环境纹理信息。基于深度学习的视觉感知系统支持从 2D 图像分类、对象检测和语义分割到 3D 深度估计和对象检测等一系列任务。然而,跨越 2D 平面和 3D 的视觉感知方法...
**对激光雷达感知的对抗性攻击**
为了系统性地理解威胁景观,我们建立了一个基于激光雷达的对抗性攻击的层次分类法,由三个主要感知范式管理,如图 6 中视觉上 summarizes 的那样。在这个框架内,对象分类漏洞通过几何操作被利用,具体来说是通过稀疏点位移和形状变形。对象检测威胁分为物理层光学干扰和语义层...
**对毫米波雷达感知的对抗性攻击**
毫米波 (mmWave) 雷达利用频率调制连续波 (FMCW) 鸣叫来获取稳健的距离和多普勒速度测量。尽管具有这种内在的稳健性,但对射频传播的依赖使该模态容易受到电磁干扰和散射操纵的影响。我们将这些对抗性向量分为主动信号注入和被动反射调制。
**对多传感器融合的对抗性攻击**
多模型融合架构综合了冗余模态以增强感知稳健性;矛盾的是,这种集成表面引入了新的漏洞,其中融合逻辑本身成为妥协的载体。我们将这些威胁分为融合逻辑利用、跨模态协同优化和单源支配。表 7 总结了对多模态感知的对抗性攻击分类法,详细说明了传感器融合组合和具体的攻击...
**自动驾驶感知系统的防御策略**
这项全面综述的主要动机源于网络安全的“红队”理念:要构建不可渗透的防御,必须首先掌握攻击的艺术。面对日益复杂和多维的针对自动驾驶感知系统的安全威胁,仅仅关注攻击分析是不够的,无法完全界定系统的安全边界。因此,构建一个系统化的防御框架至关重要。
**讨论**
基于所呈现的全面分类法和分析,本节总结了当前研究面临的根本瓶颈,并勾画了保障下一代自动驾驶平台的战略轨迹。
**结论**
这项调查全面分析了自动驾驶面临的对抗性威胁景观,独特地围绕包括相机、激光雷达、雷达和 GPS 在内的异构传感器模态的核心功能感知能力及其多模态集成进行了构建。通过剖析从理论数字扰动到物理可实现威胁的演变轨迹,我们揭示了单个传感器内的复杂风险以及 C...
**作者贡献声明**
梁京国:撰写 - 原始草稿,调查。
李光远:撰写 - 原始草稿,调查。
陈继成:撰写 - 审查与编辑,方法论。
李艳:概念化,调查,项目管理。张辉:监督、方法论。利益冲突声明 作者声明他们没有已知的财务利益冲突或个人关系,这些关系可能会影响本文所述的工作。致谢 本研究由广州市科学技术局资助(项目编号:202009020002)。梁京果在中国北京航空航天大学获得了硕士学位,目前在该校交通科学与工程学院攻读博士学位。他的研究兴趣包括自动驾驶、计算机视觉、人工智能、深度学习以及智能车辆中的对抗攻击。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号