基于人工智能的汽车系统的早期可靠性评估

《ACM Transactions on Internet of Things》：Early Reliability Assessment of AI-based Automotive Systems

汽车AI算法可靠性评估面临安全法规与时间限制的双重挑战，TIARA方法通过两阶段静态分析与动态仿真结合，将计算复杂度降低43.2倍，并成功验证了在车道中心保持与紧急车道保持系统中的应用效果。

　　

摘要

强大的人工智能（AI）算法的出现推动了汽车领域先进功能的发展，对于实现自动驾驶和半自动驾驶车辆的部署至关重要。然而，由于多种因素，将这些先进且复杂的功能集成到汽车系统中颇具挑战性，这些因素包括：i) 必须严格遵守严格的安全法规，这需要有效的策略来确保及时开发的同时进行彻底的可靠性评估；ii) 市场投放时间较短，限制了开发、验证和确认的周期。特别是，由于目标系统（包括硬件和软件）的复杂性，分析影响基于AI的应用程序的故障效应变得十分困难。可靠性分析通常依赖于故障注入技术。然而，故障注入实验往往耗时过长，并且仅限于整个系统的某些组件，因此无法全面考虑故障对车辆层面的影响。本文提出了一种新的方法，称为“两步集成可靠性评估”（TIARA），用于早期估计影响汽车领域中执行基于AI的感知任务的硬件的故障对车辆层面的影响。TIARA允许早期探索和评估算法、驾驶单元以及关键的操作场景。该方法通过将故障注入技术应用于神经网络层面，并结合商用汽车级虚拟场景生成器，能够评估影响子系统的故障对车辆层面的影响。与以往的研究相比，TIARA通过采用两阶段评估策略大幅降低了计算成本。首先，它进行静态分析以确定故障漏洞并识别目标应用程序中最脆弱的代码部分；然后，重点关注神经网络中最易受影响的部分，并结合系统的感知、控制和驾驶特性来评估系统层面对车辆动态的影响。我们通过两个应用程序的全面评估验证了该方法的有效性：车道居中辅助（LCA）和紧急车道保持辅助（ELKA），这两个应用程序均使用了YoloP模型进行感知。在九种不同驾驶场景下的实验结果表明，TIARA能够根据相关驾驶动态和舒适度指标有效进行系统可靠性的早期评估，同时将计算复杂度降低了多达43.2倍（相比完全穷尽的评估方法）。此外，通过硬件在环（HIL）实现的验证表明，TIARA的结果与真实世界系统的行为高度吻合，证明了TIARA方法在汽车系统评估中的多功能性。