迈向以驾驶员为中心的人机交互：探讨透明度与可解释性对3级自动驾驶车辆中驾驶员体验的影响

《International Journal of Industrial Ergonomics》：Towards Driver-Centered Human–AI interaction: Examining the impact of transparency and explainability on driver experience in level 3 automated vehicles

　　摘要在SAE 3级自动驾驶系统中，以驾驶员为中心的人机交互至关重要，此时驾驶员需要在监控控制与非驾驶相关任务之间切换。本研究旨在探讨通过“环境现实”界面所提供的分层透明度和可解释性，如何在不同的安全紧迫程度和天气条件下影响驾驶员的信任度与使用体验。研究采用了2（紧迫程度：低 vs. 高）×2（天气：晴朗 vs. 多雾且多雨）×3（界面层级：描述性（T1）、预测性（T2）以及解释性/不确定性感知型（T3））的混合因子驾驶模拟实验，共有36名参与者参与，他们以玩2048游戏作为非驾驶相关任务。研究结果通过主观信任度、NASA-TLX评分、行为指标（自愿手动干预次数及非驾驶相关任务表现）以及眼动追踪数据来进行评估。结果表明，从T1层级到T3层级，驾驶员的信任度有所提升，这说明更丰富的透明度和可解释性有助于建立信任关系。NASA-TLX评分在各层级之间并无显著差异。从行为表现来看，更高层级的透明度往往意味着较少的自愿手动干预；而处于中间水平的预测性透明度（T2）则会导致非驾驶相关任务表现低于T1和T3层级，这反映出在解释支持不足时注意力会面临竞争。眼动追踪进一步揭示了不同场景下的信息优先级：在紧迫程度较高时，注意力会转向感知与预测相关的信息；而在能见度较低的情况下，则会更关注解释性与不确定性相关的信息。我们的研究结果表明，透明度和可解释性应具有分层结构，并能根据不同场景进行动态调整，从而在平衡信任建立与工作负荷及注意力管理之间找到最佳方案。

引言目前，汽车行业正处于从SAE 2级（部分驾驶自动化）向SAE 3级（条件驾驶自动化）过渡的关键阶段（SAE，2021）。驾驶员的角色正在逐渐从操作者转变为监督者，驾驶员与车辆之间的关系也由单向控制转变为双向协作（Sever和Contissa，2024）。尽管自动驾驶系统能够独立完成大部分驾驶任务，但驾驶员仍需在必要时对其进行监控；因此，在这一阶段，设计合理的车内交互界面尤为重要，因为它直接影响系统接管准备情况，进而关乎驾驶安全。与此同时，人工智能领域的快速发展，如大型语言模型以及视觉-语言-动作技术，正在加速从传统人机交互向人机智能交互的转变（Heyder等人，2023）。在这一变革中，车载智能代理成为一种极具前景的交互概念。它不仅仅能作为辅助工具处理次要任务，还能充当互动式的“队友”，传达系统的意图，协助决策，甚至在自动驾驶过程中影响驾驶员对控制感和舒适度的感知（Zang和Jeon，2025）。在人机智能交互中，用户的信任度、使用体验和满意度被公认为是决定其是否接受并持续使用人工智能系统的关键因素（Wang等人，2025）。在3级自动驾驶系统中，这些因素尤为重要，因为系统虽能在其设计运行范围内执行驾驶任务，但用户仍需随时准备响应系统接管请求，并在必要时采取补救措施。在这种共同负责的模式下，与系统能力相匹配的适度信任至关重要（Walker等人，2023）。过低的信任可能导致系统未被使用，而过高的信任则可能引发过度依赖，降低监控意识，增加在非正常情况下误用系统的可能性。刘等人（2023）在美国进行的一项全国性调查显示，只有1%的受访者表示信任自动驾驶汽车，而44%的受访者表示不信任，这凸显出为条件自动化系统设计以驾驶员为中心的人机智能交互界面的紧迫性。尽管许多自动驾驶系统的功能日益强大，但它们对自身如何感知环境以及如何做出决策的披露仍然有限。因此，对驾驶员而言，系统的感知和决策过程可能如同“黑箱”，这不仅限制了他们构建心理模型的能力，也使得难以预测系统的行为（Li等人，2025a）。这种不透明性是导致信任度失衡的重要原因，因为用户难以判断何时可以依赖系统，何时需要额外的监控。为此，可解释人工智能技术应运而生，它通过提供易于理解的解释，让用户明白系统感知到了什么、为何选择特定行动以及接下来将做什么，从而提升系统的透明度（Zhang等人，2024）。先前的研究表明，这类解释能够影响用户对人工智能系统的看法和信任度（Miller，2019）。Koo等人（2015）发现，在安全至关重要的情况下，向驾驶员说明系统决策的依据，能显著提升他们的信任度。同样，Li等人（2024）也发现，当用户对自动化的初始信任度较低时，适当提高透明度，比如提供更多与决策相关的解释性文本，有助于恢复其信任度。为了从人因角度明确透明度的要求，Chen等人（2018）提出了基于情境意识的智能体透明度模型，该模型将透明度信息分为三个层次：目标与行动（智能体当前的狀态/行动/计划）、推理过程（智能体的推理逻辑），以及预测与不确定性（智能体的预测结果及不确定性水平）。此外，Li等人（2023b）指出，人类的注意力资源本就有限。在时间压力较大的情况下，提供适当层次的信息可能比呈现所有细节更为有效且可行，尤其是在处理视觉或听觉信息时。鉴于此，在驾驶场景中仍有若干问题亟待解决：（1）透明度和可解释性信息应如何分类并构建层级结构？目前的研究多聚焦于具体的设计层面（Chen等人，2018），却未考虑那些有助于实现更高效信息层级结构的认知与人因因素（Koo等人，2015）；（2）何种解释内容和时机最为有效？已有研究表明，不同的解释详细程度会带来截然不同的信任效果，但这些研究尚未给出关于最优解释设计的通用指导原则（Zang和Jeon，2025）；（3）何种信息量既能帮助驾驶员理解情况并调整信任度，又不会给他们带来过重的认知负担或降低使用体验？虽然已知提高透明度能减少不确定性并增强信任，但过多的信息可能会产生“透明度悖论”，即过度的细节反而会损害用户的性能和满意度。在自动驾驶领域，这一权衡问题至今尚未得到充分解决（Zang和Jeon，2025）；（4）透明度和可解释性的效果是否因场景而异？还需要进一步研究来明确，透明度在不同驾驶场景下的有效性是否存在差异，尤其是其在交通密度和风险水平变化时的作用如何变化（Schrank等人，2025）。为填补这些研究空白，本研究探讨了在不同透明度及可解释性水平下，基于人机智能交互的设计如何影响SAE 3级自动驾驶系统中的驾驶员信任度与驾驶体验，以及这些效果是否会随驾驶场景的不同而有所变化。具体而言，本研究有以下三方面贡献：（1）我们为3级自动驾驶场景中基于车载智能代理的交互设计了分层透明的可解释性框架；（2）我们通过实证方法量化了这些交互设计对信任度建立及用户体验的影响，同时还将认知负荷、情境意识、注意力分配和驾驶表现等视为人因方面的结果指标；（3）我们发现了受场景影响的规律，明确了何时更丰富的解释有益，何时则会带来不必要的负担，从而将可解释性转化为更具实用价值的設计建议，助力打造更加以驾驶员为中心的人机智能交互界面。

相关研究目前，关于自动驾驶场景中人机信任关系与系统透明度的研究已形成较为系统成熟的理论体系，涵盖了概念定义、影响因素及测量方法等方面。然而，进一步的文献回顾表明，现有研究仍存在一些缺陷和局限，这些正是本研究的理论起点和研究切入点。

参与者本研究共招募了36名参与者（20名男性，16名女性，年龄在21至34岁之间，平均年龄为24.8岁，标准差为3.3岁），他们来自当地社区和高校。所有参与者均持有有效的中国驾照，平均驾驶经验为3.3年，每年驾驶里程至少为500公里。其中25名参与者有过乘坐2级或更高级别自动驾驶车辆的经历。他们身体健康，听力和视力均在正常范围。由于……

信任度对于每个界面层级（T1、T2、T3），都通过SPSS软件中的Shapiro–Wilk检验和Q–Q图来评估信任度数据的正态性。测试结果表明，各组信任度数据均未显著偏离正态分布（所有p值均大于0.05）。Levene检验则表明方差齐性假设成立（p值为0.859）。T1、T2和T3层级的平均信任度分别为44.69（标准差为13.17）、56.89（标准差为13.77）和70.87（标准差为13.81），每组样本量均为12人。通过单因素方差分析……

讨论本研究旨在探究在不同的安全紧迫程度和天气条件下，人机智能交互系统中不同层次的透明度和可解释性如何影响驾驶员的信任度与驾驶体验。以往关于系统透明度的研究大多依赖于视觉或听觉交互方式。而本研究则采用“环境现实”界面作为信息传递载体，在自动驾驶过程中提供三类信息：车辆自身状态信息……

结论本研究探讨了通过基于“环境现实”界面的人机智能交互系统，不同层次的透明度和可解释性如何在天气条件和安全紧迫程度共同作用的情况下，影响驾驶员的信任度与驾驶体验。相较于以往主要依靠视觉/听觉提示以及传统的系统主动接管请求模式，本研究将透明度和可解释性视为关于车辆自身状态的分层信息，从而推动了透明度研究的发展。……

作者贡献声明Jun Ma：验证、监督、资源协调、项目管理、资金筹措。Sibo Wang：文章撰写——审稿与编辑、初稿撰写、可视化处理、验证、软件应用、资源管理、方法设计、研究实施、正式分析、数据整理、概念构建。Jiaye He：文章撰写——审稿与编辑、可视化处理、方法设计、研究实施、正式分析。Jiateng Li：文章撰写——审稿与编辑、软件应用、资源管理、方法设计、研究实施、正式分析。Lizhuo Zang：……

利益冲突声明作者声明自己不存在任何可能影响本文研究结果的已知财务利益或个人关系。

Jun Ma | Sibo Wang | Jiaye He | Jiateng Li | Lizhuo Zang | Kang Liu上海交通大学汽车学院，中国上海嘉定区曹安路4800号，邮编201804