《Psychology & Marketing》:When AI Remembers: Investigating the Dual Role of Long-Term Memory in Chatbots
编辑推荐:
本研究考察了人工智能(AI)聊天机器人中长期记忆(long-term memory, LTM)的双重角色及其对客户结果的影响。研究人员基于心智感知理论(Mind Perception Theory)和隐私计算理论(Privacy Calculus Theory
本研究考察了人工智能(AI)聊天机器人中长期记忆(long-term memory, LTM)的双重角色及其对客户结果的影响。研究人员基于心智感知理论(Mind Perception Theory)和隐私计算理论(Privacy Calculus Theory),将LTM概念化为一种基于连续性的设计能力,可被解释为功能性服务特征、隐私相关线索或拟人化推断的基础。研究在电子商务客户服务情境中开展了三项受控的基于场景的在线实验,操纵了LTM的存在,并在研究3中操纵了记忆启用条件下用户数据控制(user data control)的提供。结果表明,LTM显著提升了满意度和持续使用意向,而其对口碑(word-of-mouth, WoM)意向的影响主要是间接的。具体而言,LTM通过增强胜任力感知改善了结果,尽管这些益处部分被感知拟人化和隐私关注所抵消。在研究2中,隐私赋权的基线感知不足以缓解与LTM相关的隐私关注;然而,在记忆启用条件下,研究3中引入明确的用户数据控制机制提高了感知隐私赋权,进而通过序列中介(serial mediation)降低了隐私关注并改善了结果。这些发现展示了明确的用户数据控制如何帮助管理记忆启用型聊天机器人表征中的隐私关注,并为设计具有稳健用户控制机制的记忆启用型聊天机器人提供了指导。
人工智能(AI)驱动的对话式代理正从实验性应用转变为企业客户参与的战略支柱,但多数商业代理仅在孤立会话中运行,将回访用户视为陌生实体,造成“交易性失忆”(transactional amnesia),阻碍长期客户关系的建立。为克服这一局限,行业开始引入长期记忆(long-term memory, LTM),使AI能够跨会话保留并调用用户特定上下文。然而,现有LTM研究多聚焦于检索准确率、上下文窗口效率等技术指标,对用户如何解释和响应持久记忆缺乏理论化认识。LTM既可能被理解为功能性服务能力,也可能被感知为拟人化心智线索或隐私相关线索,从而形成隐私—个性化悖论。本研究基于心智感知理论(Mind Perception Theory,解释用户对非人实体的心智归因)与隐私计算理论(Privacy Calculus Theory,解释用户在收益与风险之间的权衡),通过三项实验检验LTM对满意度、持续使用意向和口碑(word-of-mouth, WoM)意向的影响及其心理机制,并进一步考察用户数据控制在记忆启用型聊天机器人中的作用。
研究人员开展的研究采用三项受控的基于场景的在线实验。参与者为美国居民、以英语为主要语言的电商聊天机器人当前或潜在用户,通过Prolific平台招募。研究1和研究2采用单因素被试间设计(聊天机器人LTM:不存在 vs. 存在),研究3采用2(用户数据控制:存在 vs. 不存在)×1(记忆:存在)被试间设计。实验使用标准化对话截图作为刺激,以隔离记忆线索并保持交互内容一致。主要统计方法包括协方差分析(ANCOVA)检验直接效应,使用PROCESS Model 4并行中介和Model 6序列中介进行偏差校正Bootstrap中介分析;采用Cronbach‘s α、组合信度(CR)、平均方差抽取量(AVE)和Fornell-Larcker标准检验信效度。
**研究1:LTM的直接效应**
研究1在电商购物场景中要求参与者想象与AI聊天机器人进行两次交互,第二次间隔一周;记忆条件下聊天机器人能调用第一次交互中的产品信息,无记忆条件下则重新询问。ANCOVA结果显示,LTM显著提高了用户满意度(F(1, 148)=6.623, p=0.011, η
p2=0.043)、持续使用意向(F(1, 148)=4.702, p=0.032, η
p2=0.031)和口碑意向(F(1, 148)=4.385, p=0.038, η
p2=0.029),支持H1a–H1c,表明LTM对核心客户结果具有直接正向作用。
**研究2:中介机制**
研究2在相同设计基础上纳入感知拟人化、感知胜任力、隐私关注和隐私赋权作为中介变量。ANCOVA结果表明,LTM显著提升满意度和持续使用意向,但对WoM意向的直接效应不显著。并行中介分析显示,LTM对满意度、持续使用意向和WoM意向主要通过感知胜任力产生正向间接效应,同时通过感知拟人化和隐私关注产生负向间接效应。对于WoM意向,LTM通过感知胜任力提高口碑,但通过隐私关注削弱口碑,导致直接效应不显著。序列中介分析进一步发现,隐私赋权未能在LTM与隐私关注之间起显著中介作用,H5和H6未获支持;隐私关注单独构成负向中介路径,部分抵消了LTM的正向效果。
**研究3:用户数据控制的赋能机制**
研究3在所有条件下均启用LTM,并操纵是否向用户提供数据使用选择权。ANCOVA结果显示,提供用户数据控制显著提升满意度、持续使用意向和WoM意向。序列中介分析表明,用户数据控制通过增强感知隐私赋权,进而降低隐私关注,最终改善三项结果,支持H7。这说明在记忆启用条件下,赋予用户结构性数据控制能够通过心理赋权路径缓解隐私顾虑。
**讨论与结论**
研究人员讨论指出,LTM对WoM意向的影响较个人使用结果更为脆弱,因为口碑是一种具有社会评价后果的高阈值信号。研究2中新手用户比例较高(31.8% vs. 研究1的18.1%),这一样本构成差异可能部分解释从直接效应到间接效应的模式变化。在心理机制上,感知胜任力是最稳健的正向路径,而感知拟人化路径较弱且不一致,说明用户主要将记忆视为功能性服务能力而非心智证据。隐私关注始终作为负向中介,表明记忆是否被接受取决于被记住的信息是否敏感、可预期和可控。服务情境也会影响记忆的适宜性,例如零售情境中记住尺码偏好可能被视为便利,而在医疗或金融情境中记忆敏感信息则可能引发更强担忧。结论可以概括为:LTM是一种条件性能力,既能增强感知胜任力,也可能引发隐私关注;提供明确的用户数据控制机制有助于增强感知隐私赋权、降低隐私关注,从而在记忆启用型聊天机器人中平衡隐私与个性化需求,为设计有效且负责任的人机交互系统提供指导。