《Frontiers in Psychology》：Trust and interaction design in AI-enabled systems: a systematic literature review
随着人工智能（Artificial Intelligence, AI）日益融入日常系统，理解用户如何感知AI并与之交互对于系统有效设计至关重要。本系统性文献综述分析了来自IEEE Xplore、ACM Digital Library、Scopus和Web of Science数据库中2023年后发表的1,565篇同行评审学术论文，最终纳入33篇符合纳入标准的文献。遵循系统综述和荟萃分析首选报告项目（Preferred Reporting Items for Systematic reviews and Meta-Analyses, PRISMA）框架，本综述考察了AI赋能系统中用户信任的定义与测量方式，以及哪些交互设计因素会影响用户信任。研究结果表明，现有文献体现了作者、机构和学科背景的多元贡献，同时也采用了多样化的定义和方法论，形成了碎片化的研究体系。此外，本综述识别出九个关键设计因素，包括可解释性（explainability）、拟人化（anthropomorphism）、置信度（confidence）、界面（interface）、错误（errors）、安全性（security）、透明度（transparency）、能力（competence）和感知控制（perceived control）。总体而言，该领域需要建立更大范围的共识，以支持每个设计因素形成更强有力且更具内聚性的研究体系。
# 1 引言（Introduction）
随着人工智能（AI）的快速发展，AI赋能系统已广泛嵌入医疗保健、自动驾驶和智能辅导系统等日常生活的关键领域。生成式AI（Generative AI, GenAI）工具的公开普及显著提升了公众对AI的认知与期望，但交互设计因素如何影响用户信任的研究仍呈碎片化状态，表现为信任概念化不一致、实证证据有限以及依赖主观评估手段。本研究在既有系统综述的基础上从三个方面拓展：分析后生成式AI时代研究方法的转变；深入考察参与者人口统计学分布；主题比较研究人员所操控的交互设计因素。研究提出三个核心问题（RQ1、RQ2、RQ3），分别关注学科与机构趋势、信任的定义与测量策略、以及影响用户信任的交互设计因素。
## 1.1 背景（Background）
### 1.1.1 信任的定义（Defining trust）
信任概念经历了多学科演变，从Rotter的泛化期望，到Mayer等人将信任定位为在风险与不确定性条件下愿意暴露脆弱性，再到Rousseau等人强调其多面性和情境依赖性，以及Lee和See将其拓展至人机自动化情境。本研究采用Mayer等人的定义，即信任是用户基于AI系统将执行预期功能的期望而愿意对其行为暴露脆弱性，并强调信任的动态建构特性，随用户交互经验的累积而不断演化。
### 1.1.2 交互设计因素（Interaction design factors）
研究采用Crampton Smith的四维交互设计框架，涵盖语义（Semantics）、视觉表征（Visual representations）、物理具身（Physical embodiment）和时间（Time）四个维度。该框架相比Nielsen的分类体系更具包容性，尤其时间维度对AI系统具有特殊意义，因为AI输出可随交互过程自适应演化。已有研究广泛考察了可解释AI（Explainable AI, XAI）、拟人化（Anthropomorphism）和置信度信号等因素对信任的影响。
## 1.2 方法（Methods）
### 1.2.1 检索策略（Search strategy）
本综述遵循PRISMA指南，检索了IEEE Xplore、ACM Digital Library、Scopus和Web of Science四个数据库，检索时间为2025年6月，语种限定为英文，时间范围为2023年1月至2025年6月。检索词组合了信任测量术语、交互/界面情境术语和AI系统术语三类概念，使用布尔逻辑AND连接，经预实验确认检索效力后确定最终检索式。
## 1.3 研究筛选（Study selection）
纳入标准包括：以英文发表且时间在2023年1月1日至2025年6月10日之间；考察交互设计因素（语义、视觉、物理或时间维度）对信任的影响；通过直接交互或模拟评估AI赋能系统；涉及人类参与者；报告实证发现；经过同行评审。筛选过程分为摘要筛查和全文筛查两个阶段，由多名研究人员协作完成，最终33篇文献全部满足纳入标准。
## 1.4 数据提取与分析（Data extraction and analysis）
数据提取涵盖发表年份、作者与机构隶属、学科、信任定义、AI系统类型、信任测量方法、样本量及人口统计学特征、设计因素、关键词和局限性评估。
### 1.4.1 学科分类（Discipline categorization）
利用Web of Science Research数据库对论文进行学科归类，无法索引时通过期刊或摘要判断，由两名研究人员独立执行，一致性达82.35%，分歧通过协商解决。
### 1.4.2 设计因素主题分析（Design factor thematic analysis）
全文筛选中识别每篇论文操控的主要交互设计因素，经四位研究人员归纳为九个主题类别：可解释性、拟人化、置信度、界面、错误、安全性、透明度、能力和感知控制。
# 2 结果（Results）
## 2.1 作者隶属机构（Author affiliation）
纳入文献涵盖了48个机构，帝国理工学院出现频率最高（n=4），其余机构多为每所1至2篇。学术机构占85.71%，产业和研究机构占14.28%，包括微软、谷歌和诺基亚贝尔实验室，通常与学术伙伴合作。这一分布表明研究呈现分布式而非机构中心化格局。
## 2.2 论文学科（Paper discipline）
计算机科学占比最高（78.38%），工程学次之（18.92%），其余分布在机器人学、医学信息学、信息科学、社会科学、艺术等学科领域。
## 2.3 信任定义（Trust definitions）
63.64%的文献报告了明确的信任定义，引用最多的为Lee和See以及Mayer等人的定义。共识别出9个不同的定义来源，多源自自动化和组织心理学领域，虽经适配AI情境的调整，但尚未形成AI专属的统一定义。
## 2.4 信任测量（Trust measurement）
72.73%的研究仅采用自我报告测量，21.21%采用混合方法，6.06%仅采用行为测量。最常用的量表为Hoffman等人的XAI信任量表，另有研究自主开发量表。混合方法主要以自我报告结合行为测量为主。
## 2.5 测量的AI系统（AI systems measured）
基于模拟的AI系统出现频率最高（n=13），其次为会话式AI（n=10）、机器学习算法（n=4）和卷积神经网络（CNN）（n=4）。模拟系统的普遍使用反映了研究者对实验控制的方法论偏好。
## 2.6 研究人群（Population）
样本量介于10至1,511之间，平均245.73。93.93%的文献报告了人口统计学数据。多数研究面向成年人，33.33%的研究样本来自西方国家，仅12.12%的研究完全来自非西方国家，呈现出WEIRD（西方、受教育、工业化、富裕、民主）人口偏差特征。
## 2.7 设计因素（Design factors）
九个设计因素类别中，可解释性最多（20篇），拟人化次之（5篇），置信度（3篇），界面和错误各2篇，安全性、透明度、能力和感知控制各仅1篇。各因素可映射至Crampton Smith框架的多个维度。
### 2.7.1 可解释性（Explainability）
XAI相关研究在20篇文献中出现。研究发现，热图解释在复杂视觉任务中可提升用户对AI推理的理解并增强信任，但多种解释同时呈现会增加认知负荷并降低操作绩效，部分情况下即使提供解释也未改善信任。
### 2.7.2 拟人化（Anthropomorphism）
操控拟人化特征的实验设计产生混合结果：多项研究发现拟人化对信任无显著影响或仅具有条件性效应，而长期使用分析显示感知拟人化程度更高的用户报告更高水平的诚信型信任，且拟人化的作用方向因线索类型而异。
### 2.7.3 置信度（Confidence）
置信度通过语言表达措辞、与已知正确信息的对比以及视觉化量化证据三种方式进行操控。置信度信号影响用户的依赖分配，当置信度表达与实际准确性错位时，会导致过度依赖或信任下降。
### 2.7.4 界面（Interface）
文本界面比语音或具身界面获得更高信任，尤其在医疗保健情境中。但两篇文献共享四位作者，属于同一研究团队的研究路线，尚需独立团队的重复验证。
### 2.7.5 错误（Errors）
错误发生时机的研究结论相矛盾：一篇认为后期错误更具破坏性，另一篇认为早期错误影响更大。两者一致发现是系统在错误后表现良好时信任可以较快恢复，且错误影响高度依赖情境利害程度。
### 2.7.6 新兴设计因素（Emerging design factors）
安全性、透明度、能力和感知控制各仅有1篇文献支撑，证据基础薄弱，难以识别一致模式，反映了当前研究的空白。
# 3 讨论（Discussion）
## 3.1 RQ1：学科和机构趋势（disciplinary and institutional trends）
### 3.1.1 作者隶属机构（Author affiliation）
机构分布广泛且无主导机构，表明研究视角的多样性，但也可能因独立研究群体采用不同的理论视角和测量方法而加剧概念碎片化。
### 3.1.2 论文学科（Paper discipline）
文献集中于计算机科学同时横跨多学科，这种广度与深度并存的特征提示学者应在保持学科深度的同时开展跨学科整合，以协调碎片化的信任概念化。
## 3.2 RQ2：定义、测量策略和人群（definitions, measurement strategies, and populations）
### 3.2.1 信任定义（Trust definition）
九个不同定义来源反映出领域内缺乏共识，但与既有研究相比，定义透明度有所提升（63.64%对比此前30.43%）。AI专属定义开始出现，尚未形成收敛趋势。
### 3.2.2 信任测量（Trust measurement）
自我报告测量的主导地位与此前研究一致，测量工具的碎片化限制研究间的可比性。Hoffman量表是最常用的标准化工具，混合方法的增加是积极信号，但生理测量的应用仍处于早期阶段。
### 3.2.3 测量的AI系统（AI system measured）
模拟系统的盛行反映对实验控制的偏好，也引发对生态效度的关切。会话式AI的广泛研究与其现实普及度相符，自主系统几乎缺失构成显著研究空白。
### 3.2.4 研究人群（Population）
人口统计学呈现WEIRD偏差，限制外部效度。英文文献限定可能进一步加剧地理偏斜。建议未来研究在地理、年龄、教育背景等方面扩大参与者多样性，并考察文化差异对设计因素与信任关系的影响。
## 3.3 RQ3：影响用户信任的交互设计因素（interaction design factors shown to affect user trust in AI-enabled systems）
### 3.3.1 设计因素（Design factors）
总体上缺乏长期研究，信任在持续交互中的演化过程尚未得到充分考察，未来应关注超越单次实验会话的设计因素。
### 3.3.2 可解释性（Explainability）
XAI研究丰富但影响机制复杂。AI准确性感知与信任正相关，但研究应转向信任校准（trust calibration），即帮助用户区分可靠与不可靠的系统输出，而非单纯提升信任水平。
### 3.3.3 拟人化（Anthropomorphism）
后生成式AI时代的研究挑战了拟人化必然增强信任的既有观点。应区分拟人化设计特征与用户的拟人化反应感知，长期研究中交互的累积效应值得关注。
### 3.3.4 置信度（Confidence）
置信度信号的作用呈现条件性特征，校准良好的不确定性表达有利于适度依赖，缺乏不同置信度沟通方式间的直接比较研究。
### 3.3.5 界面（Interface）
用户偏好文本型会话界面的发现可能受情境调节，部署情境应作为独立变量加以操控，未来研究还需拆解语音、视觉表征和物理在场等界面特性。
### 3.3.6 错误（Errors）
错误时机的影响高度依赖情境，错误恢复策略、错误类型与严重程度的区分，以及长期交互中的信任动态均是需要进一步探究的方向。
### 3.3.7 新兴设计因素（Emerging design factors）
安全性、透明度、能力和感知控制各自证据极为有限，需通过复现研究、机制分析及跨情境考察来确定这些因素是否作为独立维度还是更广泛的设计原则发挥作用。
## 3.4 局限性（Limitations）
本研究存在三项主要局限：摘要筛查由单名研究人员执行可能引入选择偏差；检索词反映研究团队既有知识偏好，可能遗漏小众或新兴设计因素；跨学科比较因各领域特有的研究惯例而难以完全等价。
# 4 结论与未来方向（Conclusion and future directions）
本综述表明，该领域研究正在提出更具深度的问题，但缺乏统一的概念语言和方法一致性，限制了知识的累积性建构。可解释性是相对成熟的领域，而新兴设计因素仍需建立基础文献。未来研究应：采用一致的核心信任定义；更多开展真实AI系统的实验而非仅依赖模拟；优先进行长期追踪研究；转向行为、生理、心理物理和纵向测量相结合的混合方法路径；扩大参与者群体的多样性。上述方向的推进将支持跨情境设计趋势的识别，并为AI赋能系统的可信设计提供更具普遍性的指导。
