一种用于人机交互实时信任估计的量子启发框架：一项初步研究

《Scientific Reports》：A quantum-inspired framework for real-time trust estimation in human–AI interaction: a pilot study

　　

摘要

信任是人类与人工智能协作有效性的决定因素，影响着用户是否恰当地接受或拒绝系统的推荐。在安全攸关的领域中，校准不当的信任可能导致不安全的覆盖决策或对错误输出的盲目接受。然而，现有的信任测量方法往往是静态的，依赖主观自我报告，且难以捕捉交互过程中的动态波动。本研究提出了一种量子启发的计算框架，用于人类-人工智能协作中的实时信任估算。该模型将信任表示为一种概率状态，使其能够根据多个交互变量（如情感、任务进展、回复清晰度和准确性指标）进行演化，从而实现无需假设固定线性关系的上下文敏感性评估。我们在基于文本的交互环境中实例化了该框架，并将模型估算的信任与15名参与者提交的349条自我报告信任评分进行比较。基于量子的估算结果与人信任评分密切跟踪，平均偏差为-0.78（0-100量表），且与自我报告信任评分具有高度对应性。本工作展示了将量子启发的建模应用于人类-人工智能交互中实时信任评估的可行性。该框架为能够监控并适应用户信任演变的AI系统提供了概念验证，适用于自动驾驶、临床决策支持及其他高风险环境。