透明度和协作对人机团队信任与绩效的影响

首页今日动态人才市场新技术专栏中国科学人云展台
BioHot
云讲堂直播会展中心特价专栏技术快讯免费试用

生物通官微
陪你抓住生命科技
跳动的脉搏

生物通首页 > 今日动态 > 正文

透明度和协作对人机团队信任与绩效的影响

《Proceedings of the Human Factors and Ergonomics Society Annual Meeting》：Effects of Transparency and Cooperation on Trust and Performance in Human-AI Teams

【字体：大中小】 时间：2026年08月31日 来源：Proceedings of the Human Factors and Ergonomics Society Annual Meeting

编辑推荐：

　　摘要随着人工智能在复杂工作环境中日益充当活跃的团队成员，理解AI行为如何影响信任和团队绩效至关重要。本研究通过一项基于合作性疾病治疗模拟的三人（人-人-AI）人机协作任务，考察了AI透明度和合作性的影响。146名参与者（73个团队）被分配至2（合作性：高 vs. 低）× 2（

摘要

随着人工智能在复杂工作环境中日益充当活跃的团队成员，理解AI行为如何影响信任和团队绩效至关重要。本研究通过一项基于合作性疾病治疗模拟的三人（人-人-AI）人机协作任务，考察了AI透明度和合作性的影响。146名参与者（73个团队）被分配至2（合作性：高 vs. 低）× 2（透明度：高 vs. 低）被试间设计的四种条件之一。主观信任、行为依赖、团队效率和胜率分别通过问卷调查、游戏行为数据和系统日志进行测量。主观信任、行为依赖和胜率在各条件间均未出现显著差异。然而，在控制AI处理时间后，与高透明度AI代理交互的团队完成回合的时间显著快于与低透明度AI代理交互的团队。这些发现表明，透明度可能在不影响新组建人机团队信任和团队有效性的情况下提升协作效率。

引言

人工智能（AI）的进步正在日益改变军事指挥与控制、应急响应和工业运营等复杂、高风险领域的工作方式。随着AI系统从决策支持转变为活跃的团队成员，人机协作（Human-AI Teaming, HAT）已成为人因工程研究的核心关注点（美国国家科学院、工程院和医学院 [NASEM], 2022）。与传统的人机交互不同，有效的人机协作要求人类与AI代理之间持续相互依赖，包括协调的任务分工以及在协作过程中的持续信息交流（Courtright et al., 2015）。

在相互依赖的团队中，信任是实现不确定环境下协调、依赖和信息共享的关键机制。信任在人类-人类团队和人类-AI团队中均与绩效提升密切相关（Demir et al., 2021）。尽管信任的重要性毋庸置疑，但在HAT文献中，"信任"和"协作"的概念仍然定义不够明确，尤其是在AI代理日益扮演协作者而非工具角色的背景下（O'Neill et al., 2023）。尽管已有部分实证研究阐明了特定的、可观察的AI队友行为如何影响协作信任与团队绩效（Funke et al., 2023），但相关研究仍然有限，需要更多探索。本研究旨在补充这一实证研究的不足，考察两种AI队友行为——透明度和合作性——如何影响人机团队中的信任与绩效，并提出以下研究问题：1）AI队友的透明度如何影响人机团队中的信任与绩效？2）AI队友的合作性如何影响人机团队中的信任与绩效？3）透明度与合作性如何交互作用影响人机团队中的信任与团队绩效？

背景

信任是一个多维度的认知、情感和社会构念，在心理学、组织行为和人与计算机交互领域已被广泛研究。从协作的角度来看，对AI队友的信任主要由代理在执行任务过程中的行为所驱动（Demir et al., 2021；Georganta & Ulfert, 2024）。

在此语境下，两种行为尤为相关：透明度和合作性。透明度指的是AI队友以人类队友可理解的方式沟通其意图和决策过程的程度，从而降低不确定性并支持协调（Zhang et al., 2024）。合作性反映了代理对人类输入的响应程度及其将该输入纳入自身行动的意愿。不合作或不对齐的行为可能会削弱信任，即使系统绩效很高也是如此（Johnson et al., 2023）。

方法

146名参与者完成了6轮回合制的棋盘游戏风格合作任务，团队必须合作交换资源以研发出对抗4种病毒的解药，同时管理病毒的传播。选择该资源交换棋盘游戏任务是因为棋盘游戏是激发压力下的实时团队协作情境的有效方式，且无需昂贵的高保真模拟系统和/或大量的参与者与实验员培训（Anania et al., 2016；Anglin & Kring, 2016）。参与者以两人一组招募，并被分配不同的游戏内角色，每个角色拥有独特的优势，团队需要这些优势才能成功。

这些两人小组与一个自动化代理配对，组成3人团队（N_团队?=?73），每位玩家在团队中执行不同的角色。团队被随机分配至四种实验条件之一，以2（合作性：高 vs 低）× 2（透明度：高 vs 低）被试间设计操纵自动化代理的行为。在高合作性（HC）条件下，自动化代理在选择行动时会纳入玩家的输入，而在低合作性（LC）条件下，玩家的输入不会被纳入，尽管代理仍试图玩得很好并赢得游戏。透明度操纵（高透明度HT；低透明度——LT）改变了AI决策过程向玩家传达的程度（以口头和文本形式传达）。

在高透明度条件（HT）下，AI向人类玩家更多地说明它计划做什么以及为什么这么做。在低透明度条件下，AI仅简要说明它计划做什么。例如，本研究中高透明度的沟通方式为："我要去旧金山，分享旧金山卡片，以便更接近发现解药"，而低透明度的沟通方式为："我要去旧金山。"

使用人机交互问卷（HAIQ；Xiao et al., 2019）在任务中途和结束时测量对AI的主观信任。在向医疗官建议行动时，玩家需从下拉菜单中选择建议行动（如：治疗疾病、移动、建立研究站）。他们必须协调选择相同的选项才能继续。行为依赖被操作化为团队在任务中向自动化代理建议行动时选择"信任医疗官的选择"选项的频率。

团队绩效通过平均回合时长和胜率进行评定，数据来源于系统游戏日志。这些指标同时捕捉了效率（基于时间的指标）和有效性（胜率），从而提供多维度的团队绩效评估。利用这些数据，本研究旨在考察合作性和透明度对信任（行为信任和主观信任）以及绩效结果的影响。

结果

两个2（透明度：高/低）× 2（合作性：高/低）的因子方差分析（ANOVA）考察了合作性行为和系统透明度是否影响了信任。第一个ANOVA使用HAIQ（信任问卷）得分作为因变量。HAIQ得分在合作性（低：M?=?56.04，SD?=?15.45；高：M?=?54.69，SD?=?15.10）和透明度（低：M?=?55.95，SD?=?13.76；高：M?=?54.73，SD?=?16.75）条件下相当接近。第二个ANOVA使用了行为指标：即玩家向医疗官建议行动时选择"信任医疗官的选择"的比例（占总回合数的比例）。这些事件在合作性（低：M?=?.29，SD?=?.20；高：M?=?.30，SD?=?.02）和透明度（低：M?=?.30，SD?=?.02；高：M?=?.31，SD?=?.02）条件下也基本一致。两个基于信任的ANOVA均不显著（p值均 > .05）。

另一个2（透明度：高/低）× 2（合作性：高/低）的ANOVA考察了团队有效性。该ANOVA使用团队成功率（获胜游戏数占总游戏数——6局——的比例）作为因变量。团队在合作性（低：M?=?.87，SD?=?.14；高：M?=?.83，SD?=?.17）和透明度（低：M?=?.86，SD?=?.14；高：M?=?.83，SD?=?.18）条件下均未出现显著胜率差异。该ANOVA不显著（p > .05），表明医疗官的行为操纵未影响团队的成功频率。

最后，一个2（透明度：高/低）× 2（合作性：高/低）的协方差分析（ANCOVA）在控制AI回合时长的同时，考察了透明度和合作性对平均回合时长的影响，F(4, 80)?=?31.23，p < .001，η_p²?=?.61。因变量为平均回合时长，协变量为AI平均回合时长。将AI平均回合时长作为协变量是因为系统预实验发现AI代理处理游戏决策所需的时间存在显著差异，我们推测AI回合时长可能会影响人类回合时长。该协变量显著，F(1, 80)?=?117.16，p < .001，η_p²?=?.594，同时透明度的主效应也显著，F(1, 80)?=?5.644，p = .020，η_p²?=?.066。高透明度团队（M?=?97.33，SD?=?17.17）完成回合的速度显著快于低透明度团队（M?=?99.22，SD?=?20.92）。