可解释人工智能在自动驾驶中的应用：基于YOLOv8模型的事后解释方法的比较研究

《IEEE Access》：Explainable AI in Autonomous Driving: A Comparative Study of Post-Hoc Explanations for YOLOv8

　　

摘要：

随着深度神经网络在安全关键型自动驾驶中的应用日益广泛，对透明度的需求变得十分迫切。尽管像YOLOv8这样的先进检测器能够实现高性能，但其“黑箱”特性阻碍了验证、调试和信任度的建立。本文通过在一个为自动驾驶场景训练的YOLOv8m模型上测试事后可解释人工智能（XAI）技术来应对这一挑战。我们使用了一个整合了MSCOCO、KITTI和UDACITY数据集的统一数据集，并实施了严格的“最小公分母”映射策略来解决不同领域之间的语义冲突。随后，我们评估了一套全面的解释方法，包括CAM变体、LRP和扰动技术，并采用了定性视觉分析以及Sensitivity-N和Faithfulness等定量指标。我们的研究揭示了一个关键的延迟与可信度之间的权衡：虽然像SHAP这样的扰动方法在理论上非常严谨，但它们的高延迟使它们不适用于实时审计，相比之下，基于梯度的方法更为高效。此外，在迪拜进行的实际测试证明了XAI的诊断实用性，能够成功区分真正的特征提取错误和由交通信号灯分布不一致引起的领域偏移。这些发现超越了简单的准确率评分，提供了一个数据驱动的框架，用于选择可解释的工具，从而促进真正值得信赖的自动驾驶感知系统的发展。