《International Journal of Industrial Ergonomics》:Effects of proactivity, autonomy, and transparency on user perception in human-AI agent interactions
编辑推荐:
•已考察主动性、自主性和透明度对用户对人工智能代理感知的联合效应。•高主动性和低自主性的人工智能代理获得了最有利的主体评价。•高主动性和高自主性的人工智能代理导致较低的持续使用意愿。•透明度在维持不同条件下用户信任方面发挥着重要作用。引言大语言模型的近期进展推动了具有高度自主
- •
已考察主动性、自主性和透明度对用户对人工智能代理感知的联合效应。
- •
高主动性和低自主性的人工智能代理获得了最有利的主体评价。
- •
高主动性和高自主性的人工智能代理导致较低的持续使用意愿。
- •
透明度在维持不同条件下用户信任方面发挥着重要作用。
引言
大语言模型的近期进展推动了具有高度自主性的人工智能代理的出现(Acharya等,2025;Bandi等,2025)。人工智能代理已从传统的被动问答工具演变为智能实体。它们现在能够自主感知环境、执行复杂推理、规划并使用工具实现目标(Sapkota等,2026)。它们能够通过多步骤推理和从反馈中学习来解决非结构化复杂问题(Xi等,2025;Angelov等,2021)。这种自主性上的飞跃为人工智能代理释放了显著的商业潜力和应用价值。在旅游业中,人工智能代理正越来越多地用于支持旅行规划和决策(Prasanna等,2025;Xi等,2025)。旅行规划通常是一项认知负荷高的多步骤任务(Xi等,2025)。它涉及跨步骤的信息检索以及在多个备选方案之间的反复比较。旅行者必须整合关于交通、住宿和景点的碎片化信息。他们还需要在时间约束和预算限制之间取得平衡。人工智能代理可以通过向用户引出关键约束条件来提供帮助(Deng等,2024;Xi等,2025)。它们可以提供情境知识并建议可行的选项。用户随后可以通过反馈迭代地优化这些建议(Deng等,2024;Xi等,2025)。此外,旅游推荐研究表明,解释和透明度可以增强信任。它们还能提高用户采纳系统建议的意愿(Zhang和Chen,2020)。MarketsandMarkets(2023)预测,到2028年全球人工智能代理市场将达到285亿美元。Gartner(2024)估计,到2028年人工智能代理将自主做出15%的工作决策。总之,人类与人工智能代理之间的交互将变得越来越频繁和普遍。
在人与人工智能代理的交互过程中,用户的期望发生了转变,人工智能代理从单纯的工具转变为队友或数字助手(Seeber等,2020;Zhang等,2021,2025)。例如,用户期望代理主动检测需求(Shavit等,2023)、提供多步骤支持(Liao等,2016),并在复杂任务中形成互补关系(V?ssing等,2022)。然而,这种增强的代理感也使用户对人工智能代理的行为更加敏感。先前的研究强调了人们对人工智能行为边界的普遍模糊认知。关键问题包括系统何时应主动介入、它们能在多大程度上代替用户做决定,以及何时应展示其推理过程(Haresamudram等,2023)。当与人工智能代理的交互偏离用户期望时,可能导致控制感减弱、信任降低以及系统使用意愿下降(Hoff和Bashir,2015)。现有文献主要关注通过各种技术手段提高人工智能代理的任务完成率和推理准确性。这些技术包括架构优化(Xi等,2025)、提示工程(Wei等,2022;Ouyang等,2022)、多代理协作(Zhang等,2025)和工具调用能力(Acharya等,2025;Wu等,2022)。然而,此类研究通常忽视了用户在真实使用场景中如何理解、感知和评价人工智能代理的复杂行为模式(Amershi等,2019)。正如Shneiderman(2020)所强调的,构建具有可靠性和可依赖性的人本人工智能系统(HCAI)不仅依赖于高性能算法,还依赖于以人为中心的交互机制。
主动性、自主性和透明度常被用于确保用户对人工智能代理产生积极感知和评价。先前的主动性研究主要集中于推荐系统和对话助手的提示时机和主动行为(Liao等,2016;Deng等,2024)。虽然主动提供建议有助于提高任务效率,但过度或不及时的主动行为可能会被用户视为打扰、侵入甚至冒犯(Liao等,2023;Chien等,2024)。先前的研究已阐明了自动化水平对任务表现和用户感知的影响(Beer等,2014;Endsley,2017)。自主性可以减少工作负荷,但同时也可能削弱用户对系统的控制感(Beer等,2014)。存在一个悖论:系统越强大,用户越希望保留对关键决策的最终控制权(Lee和See,2004;Madhavan和Wiegmann,2007)。很少有关于生成式代理独特的基于意图的决策自主性的研究(Abou Ali等,2025)。透明度研究考察了人机协作场景中的解释方法、视觉呈现和信任建立机制(Angelov等,2021)。透明度是从黑箱到玻璃箱的技术转变展示(von Eschenbach,2021),也是人类在关键决策中依赖人工智能代理的心理前提(Glikson和Woolley,2020)。然而,过度的透明度可能会引发过高的认知负荷(Poursabzi-Sangdeh等,2021;Sweller,1994)。主动性、自主性和透明度这三种行为特征通常共同存在于人工智能代理中。需要从综合视角来理解它们的协同和冲突机制。在高主动性系统中,增加自主性可能会削弱用户的控制感或加剧不适感(Seppelt和Lee,2007;Raisch和Krakowski,2021)。在低主动性系统中,自主性可能反而减少工作负荷。遵循以人为本的设计原则,我们需要在人工智能代理设计中平衡主动性、自主性和透明度。这种平衡对于将人工智能代理从执行工具转变为协作伙伴至关重要。当前研究缺乏在统一实验框架内对主动性、自主性和透明度联合效应的考察。
近期的人体工程学研究进一步强调了这些行为问题的相关性。Peng等(2024)表明,用户对人机协作的感知因决策阶段和界面分离安排的不同而有所差异;Yu等(2025)通过行为和脑电图证据将个人的人工智能熟练度与人机协作联系起来;Zhang等(2026)开发了一个基于机器学习的人机协作人体工程学评价指标预测框架。这些研究表明,人工智能代理的设计不仅应通过技术能力来评估,还应通过交互行为如何塑造任务情境中的工作负荷、感知控制、信任和用户体验来评估。
总之,本研究旨在考察人工智能代理的主动性、自主性和透明度如何独立及交互地影响用户感知。基于技术接受模型(TAM)、期望确认模型(ECM)和信任理论,本研究将回答以下核心研究问题:主动性、自主性和透明度如何影响用户感知有用性、信任、期望确认、满意度和持续使用意愿?主动性与自主性之间是否存在显著的交互效应?在哪种三特征组合下用户感知达到最优或次优状态?我们的发现将为理解人与人工智能代理的交互机制提供实证证据,并为设计人工智能代理的行为模式提供指导。
章节摘要
人工智能代理
早期对人工智能代理的定义主要聚焦于自主计算实体。这些代理能够在特定环境中感知、推理和行动,通常被设计用于具有明确规则的结构化任务(Castelfranchi,1998)。此类代理的行为本质上是反应性的和局部的。然而,随着大语言模型和多模态推理架构的进步,代理获得了跨任务理解、语义等能力
研究设计
本研究采用2 × 2 × 2被试内设计。自变量为主动性、自主性和透明度。每个变量设两个水平:主动性(高/低)、自主性(高/低)和透明度(高/低)。三个自变量的水平组合形成八种实验条件。采用8×8平衡拉丁方来控制实验顺序。
因变量包括感知有用性、信任、期望确认、满意度和
操纵检验
操纵检验结果表明,使用提示工程对主动性、自主性和透明度进行的实验操纵是有效的。参与者报告在高主动性条件下的感知主动性(M = 5.79,SD = .73)显著高于低主动性条件(M = 4.90,SD = 1.01),t[31] = 5.03,p < 0.001。参与者感知到的自主性水平在高自主性条件下(M = 5.02,SD = 1.05)显著高于
讨论
本研究在复杂规划情境中考察了人工智能代理的行为,该情境与真实的工作场所决策支持任务高度相似。与简单的命令-响应场景不同,旅行规划任务要求用户整合碎片化信息、协调多个约束条件、比较备选方案,并与代理进行迭代决策。这种设置提高了研究结果在实际应用中的相关性,在这些应用中人工智能代理被期望支持规划、协调和
结论
本研究聚焦于复杂规划任务中的人与人工智能代理交互。它考察了主动性、自主性和透明度对用户感知的独立及交互效应。主动性和透明度对自评指标表现出显著的正向影响,尤其在感知有用性、信任、期望确认、满意度和持续使用意愿方面。主动性的正向效应在自主性较低时尤为明显,但在自主性较高时则大幅
CRediT作者贡献声明
Na Liu(刘娜):写作–审阅与编辑、写作–原稿撰写、方法论、调查、概念构思。Yuxin Zuo(左雨欣):写作–原稿撰写、调查、正式分析、概念构思。
利益冲突声明
作者声明不存在已知的可能影响本文所报告工作的经济利益或个人关系方面的竞争利益冲突。
致谢
本工作受国家自然科学基金资助(项目编号72371033)。
刘娜|左雨欣