在医疗、投资和驾驶等场景中，人们对人工智能系统的决策共识、感知到的价值相似性以及信任程度

《BMC Psychology》：Decisional agreement, perceived value similarity, and trust in AI systems across medical, investment, and driving contexts

　　

摘要

背景

在涉及重大决策时，信任是对人工智能（AI）进行合理依赖的关键因素，但当决策需要权衡不同价值时，用户如何评估AI和人类决策者仍不清楚。我们研究了在三种不同情境下，决策一致性、声明的理想结果概率以及主观感知风险是否与信任度相关。

方法

在三项基于小故事的研究（总样本量N=1,609）中，参与者评估了AI或人类决策者在医疗决策（研究1，普通参与者）、投资决策（研究2，普通参与者）以及与驾驶相关的道德困境（研究3，专业出租车司机）中的表现。每项研究都采用了2×2×2的被试间设计，涵盖了决策者类型、决策一致性（决策者是否同意参与者的初始选择）以及理想结果概率（20% vs 80%）这三个因素。随后，参与者对信任度、感知到的价值相似性以及感知风险进行了评分。

结果

在所有三项研究中，决策一致性都与对AI和人类决策者更高的感知价值相似性以及更大的信任度相关。与80%的结果概率相比，20%的结果概率条件增加了感知风险；然而，在任何研究中，理想结果概率并没有显著影响信任度。在某些模型中，感知风险与信任度呈负相关，但这些相关性通常较为微弱，并且因研究和信任度评分方式的不同而有所差异。在医疗和投资情境中，普通参与者更信任人类决策者而非AI决策者；而在驾驶情境中，专业出租车司机在不同类型的决策者之间没有表现出明显的信任差异。对理想结果概率与决策者一致性之间交互作用的探索性分析并未提供明确的调节证据，尽管研究2的结果并未得出明确结论。

结论

简而言之，在涉及价值判断的AI与人类决策者的互动中，信任度的判断更倾向于与基于一致性的价值线索相关，而非与理想结果概率相关。研究结果表明，用户可能将决策一致性视为感知价值相似性的一个可获取的线索，而感知风险则反映了依赖于具体情境的独立评估，而不是理想结果概率的直接代理指标。