自动化系统的误报和漏报如何影响人们对自动驾驶的信任？

《International Journal of Industrial Ergonomics》：How do automation false alarms and misses affect human trust in automated driving?

错误类型与感知显著性对自动驾驶信任的影响研究。通过模拟驾驶实验，分析误报和漏报倾向对用户信任及接管行为的影响，发现漏报倾向显著降低信任并增加接管频率，风险感知起中介作用。当错误信号与感知显著性匹配时信任更低，验证了信号检测理论在自动驾驶场景中的适用性。

　　

Jue Li|Jiawen Liu|Long Liu

同济大学设计与创新学院，上海，中国

摘要

本研究旨在探讨错误警报和漏检对人类对自动驾驶系统（ADS）信任度的影响，以及这些错误的感知显著性是否会影响这些影响。在模拟驾驶实验中，我们将错误类型设定为容易产生错误警报或漏检的类型，并通过确保在匹配条件下两种错误都会触发警报，而在不匹配条件下只有错误警报会触发警报来操纵这些错误的感知显著性。在这些条件下评估了驾驶员的信任度和行为表现。结果表明，容易产生漏检的ADS中的参与者倾向于更密切地监控驾驶情况并准备接管车辆，与容易产生错误警报的ADS相比，他们感知到的风险更高，信任度更低。当感知显著性相匹配时，参与者的信任度也低于不匹配的情况。感知风险在错误类型与信任度之间起到了中介作用。ADS中的错误警报和漏检对信任度的影响与其他自动化系统不同。ADS设计者应意识到漏检的负面影响，并设计相应的干预措施以提高用户的警觉性。

引言

自动化技术在汽车行业的整合是一个不可避免的趋势，它将在未来几十年内显著影响现代社会的出行方式（Bansal和Kockelman，2017；Kyriakidis等人，2017）。根据汽车工程师协会（SAE，2018）的定义，高度自动化驾驶系统（ADS，即SAE L4级别自动化）能够在特定道路条件下完成所有驾驶操作，使用户能够进行与驾驶无关的任务（NDRT）（Haeuslschmid等人，2016；Haghzare等人，2018）。ADS可以减轻驾驶员的工作负担，减少交通事故的严重性和频率（Li等人，2026；Zhang等人，2023），并提高道路交通效率（Guériau等人，2016）。要充分发挥自动化的优势，关键在于解决用户信任和接受度的问题。然而，由于先入为主的观念，许多用户可能对自动化持怀疑态度（Hoff和Bashir，2015；Kraus等人，2020），这可能导致部分或全部自动化功能的弃用（Parasuraman和Riley，1997）。调查显示，缺乏信任的主要原因是人们认为这些系统并不总是可靠的，且容易出错（Kyriakidis等人，2015；Li等人，2023）。

ADS并不总是可靠的，因为自动化系统必须根据不断变化的环境中的不完美概率信息来诊断事件（Mishler和Chen，2023）。这一固有局限性可能导致ADS出现错误。在高度自动化的驾驶环境中，虽然从系统设计的角度来看人类驾驶员不再负责常规操作，但当错误发生时，确保人车系统安全的责任往往转移到驾驶员身上，驾驶员必须接管车辆控制权（Wotton等人，2022；Zhang等人，2023）。由于自动化错误违背了用户对系统性能的期望，经历这些错误的驾驶员通常会表现出信任度的下降（Ding等人，2025；Mishler和Chen，2023）。众所周知，ADS错误的频率（通常被视为可靠性的指标）与较低的信任度相关（Goddard等人，2012；Li等人，2025）。此外，ADS错误的类型及其后果（如错误偏好，即倾向于特定类型的错误，如错误警报和漏检）也会以不同的方式影响用户的信任度和驾驶表现。信号检测理论（SDT）表明，错误警报和漏检对人机协作的效果有显著差异（Meyer，2001；Rice和McCarley，2011）。在自动驾驶领域的研究也表明，驾驶员对ADS产生的漏检和错误警报的信任度受到不同影响（Avetisyan等人，2024；Li等人，2025）。

对ADS的适当信任以及“正确的使用方式”是实现安全、有益的自动驾驶的基础（Zhang等人，2019）。因此，系统地探讨不同类型的自动化错误如何影响驾驶员在复杂自动驾驶场景中的心理和行为反应至关重要。尽管现有关于信号检测自动化的研究已经初步探讨了错误偏好对人类信任度和表现的影响，但在其潜在机制方面的归因分析仍然不足，且在高风险环境（如自动驾驶）中的实证验证也有限。因此，本研究旨在探讨错误偏好（表现为错误警报或漏检）如何影响驾驶员的信任度及其对ADS的依赖程度。

研究部分摘要

对自动化的信任

对自动化的信任是指个人对自动化系统的信任，这种信任取决于系统的性能、流程和目的（Lee和Moray，1992），并直接影响自动化的使用和依赖程度。不适当的信任水平可能导致自动化系统的误用、弃用和滥用（Parasuraman和Riley，1997）。Lee和See（2004）提出了信任校准的概念，并提供了一个框架，强调信任应与系统的能力相匹配。

参与者

根据Cohen（1988）的标准，使用G?Power（版本3.1）进行了先验样本量计算。对于混合因子设计，分析采用了“ANOVA：重复测量，组内-组间交互作用”的方法，假设效应量为0.4（被认为是中等至较大），功效为0.85，alpha值为0.05，由此得出所需的最小样本量为24名参与者。因此，招募了32名参与者（14名男性和18名女性）参与实验，年龄范围

结果

由于本研究旨在分析多个变量之间的关系，因此采用了相关性分析方法进行统计分析。首先使用Shapiro-Wilk检验来检查所有因变量的正态性，因为样本量小于100（Zhang和Wu，2005）。对于总体呈正态分布且满足方差同质性假设（Levene检验）的因变量，进行了混合方差分析。对于存在缺失值和严重

讨论

在自动化信任研究中，较高的信任度通常与较低的干预频率和更大的依赖系统意愿相关。相反，不信任可能导致更频繁的干预，有时甚至更早的干预。正如Pan等人（2023）所发现的，当出现危险时，不信任会促使驾驶员主动接管车辆。在本研究中，车辆被编程为每次试验中犯一个错误。然而，在大多数试验中（N = 44/64），参与者并未进行干预

结论

先前的研究表明，错误警报对人类信任度和人机协作性能的损害比漏检更大，但其背后的原因——可能与这些错误的感知显著性有关——尚不清楚。基于这一前提，本研究设计了容易产生错误警报和漏检的驾驶自动化场景，以探讨错误偏好如何影响驾驶员的信任度，同时通过操纵自动化系统发出的信号模式来研究

CRediT作者贡献声明

Jue Li：撰写——初稿，验证，方法论，资金获取，正式分析，概念化。Jiawen Liu：可视化，验证。Long Liu：撰写——审阅与编辑，监督。

资金来源

本工作得到了中国博士后科学基金会 [资助编号 2025M773637]的支持。

利益冲突声明

我没有任何需要声明的利益冲突。

致谢

我们感谢所有参与者为这项研究提供的宝贵时间和贡献。