人机环境交互环中的可解释人工智能（XAI）：任务、解释策略与AI素养如何塑造用户参与度？

《International Journal of Human-Computer Studies》：XAI in the Human-Agent-Environment Loop: How Do Task, Explanation Strategy, and AI Literacy Shape User Engagement?

　　

• •
  呼吁采用适应性XAI，而非试图寻找"最佳"或"一刀切"的XAI。
• •
  任务主要影响XAI的主观体验，与人类相关的预测会引发较差的体验评估，但对行为预测变化没有显著影响。
• •
  解释策略在行为、感知和体验结果方面产生了最大且最普遍的影响。提供定量比率（DE、CA）的策略始终优于仅提供特征的策略（MO、CO）。
• •
  解释的内容（特征、趋势、比率）对用户预测的影响强于其范围（全局与局部）。全局解释增强了预测信心，而局部解释对AI素养较低的用户来说更易理解。
• •
  AI素养显著影响所有行为表现指标——包括预测变化、准确率和重新预测时间——素养较高的用户有更长的深思时间。然而，AI素养并不直接影响感知或体验结果，表明其影响作用是调节变量而非主观评价的主要驱动因素。
• •
  显著的交互效应（任务×策略和AI素养×策略）表明，解释策略具有情境依赖性：全局解释在与人类相关的高风险任务中表现更好，而局部解释在与人类相关的情境中表现欠佳。

引言

可解释人工智能（XAI）的基础可追溯至专家系统的早期研究（Swartout, 1985），当时决策背后的理由与决策本身同样重要。人工智能的近期进展，尤其是固有的不透明机器学习模型的兴起，重新激发了人们对该领域的关注（Lee, 2018）。人工智能（AI）向医疗到刑事司法等各个领域的快速整合，加剧了对透明度和问责制的要求。尽管前景广阔，XAI仍面临若干挑战。最首要的挑战之一是如何权衡模型的复杂性与解释的可解释性（Liang et al., 2017）。虽然XAI旨在弥合"黑箱"鸿沟，但现有研究往往将技术解释与影响其效果的人类和情境因素割裂开来。XAI框架传统上优先考虑技术可解释性，但以人为中心的研究表明，解释的效用因不同情境而差异巨大。同时，AI素养（AIL），即用户理解和批判性评估AI输出的能力，作为一个关键却尚未充分探索的调节变量而出现。先前的研究侧重于算法可解释性或用户信任。尽管如此，在理解任务、解释策略和AI素养如何共同塑造人机环境循环中的用户参与和决策方面，仍然存在重大空白。

各节摘要

不同任务中的XAI

不同领域对XAI有不同的要求。医疗和金融等高风险领域需要稳健、透明且可解释的AI系统，以确保信任、安全和合规性。在医疗领域，XAI在疾病预测、诊断和治疗计划中发挥着关键作用，常用SHAP和LIME等方法提供特征重要性和模型透明度（Ali et al., 2023）。在金融领域，XAI支持风险评估、欺诈检测以及

预实验

预实验用于确认工作量和数据筛选标准，调整材料，并估计效应量。预实验中有40人参与，其中8人退出；共收集了32份数据集。在数据筛选过程中，一名参与者的作答时间过短，排除休息时间后不到1800秒。使用24个注意力检验问题筛除了七人，其中三人错一个，两人错两个

对行为表现的影响

表4汇总了绩效的重复测量方差分析结果。所有自变量及其部分交互作用均与绩效指标相关。

任务的主效应对大多数指标显著，接近中等效应量，包括预测准确率（$F_{2.813,188.449}=3.805,p=0.013,{\eta }_p^2=0.054$）、重新预测准确率（$F_{2.796,201}=3.399,p=0.019,{\eta }_p^2=0.048$）和重新预测时间（$F_{2.845,190.647}=2.924,p=0.038,{\eta }_p^2=0.042$），但对预测变化不显著。

基于ELM的人-智能体-环境循环：XAI的整合框架

为系统考察任务、解释策略和AI素养如何共同塑造用户参与，提出了以基于ELM的人-智能体-环境循环为中心的整合框架，如图16所示。该框架认为，XAI系统的有效性不由任何单一因素孤立决定，而是产生于三个相互依赖成分的动态互动之中：环境（如任务）、智能体（如解释策略）和人类

结论

本研究在单一目标预测任务中，以基于ELM的人-智能体-环境循环为组织框架，以ELM为主要理论视角，考察了任务、解释策略和AI素养如何共同塑造人与XAI的互动。

首先，任务与主观体验相关，特别是感知公平性，而非外显的预测变化。在四个任务中，累犯率和沉船生存预测（与人类相关的任务）

CRediT作者贡献声明

袁天一：撰写——初稿、可视化、验证、软件、资源、项目管理、方法论、形式分析、数据整理、概念构思。饶培伦：撰写——审阅与编辑、指导、项目管理、方法论、调查研究、概念构思。

袁天一|饶培伦