“我被理解了吗？”：身体表现与心智理论之间的相互作用如何影响基于大型语言模型（LLM）的对话式代理在感知信任、拟人化、存在感、可用性和用户体验方面的表现

《ACM Transactions on Interactive Intelligent Systems》：‘Am I Understood?’: How the Interplay Between Embodiment and Theory of Mind Behavior Affects LLM-based Conversational Agents on Perceived Trust, Anthropomorphism, Presence, Usability, and User Experience

LLM对话代理因自然对话能力受关注，但隐私、幻觉和偏见问题影响信任。本研究提出实体化（ECA/TTS）和行为化（ToM指导）两种拟人化形式，通过实验发现两者结合的极端情况（最高/最低水平）会降低用户信任，揭示拟人化形式间的复杂关系，为提升人机交互体验提供新视角。

　　

摘要

近年来，基于大语言模型（LLM）的对话式代理因其具备自然、类似人类的对话交互能力而变得越来越受欢迎。然而，由于对隐私的担忧、可能出现错误回答（通常称为“幻觉”）以及与社会偏见相关的问题，人们对LLM仍存有疑虑。先前的AI研究表明，拟人化形式能够积极影响用户的感知。然而，在基于LLM的对话式代理研究中，这一方面尚未得到充分探索。我们的研究采用了两种拟人化形式：具身化和行为化。具身化拟人化形式包括聊天机器人、带有文本转语音（TTS）功能的聊天机器人以及具身化对话式代理（ECA）界面设计。行为化拟人化形式则涉及使用或不使用心智理论（ToM）原则进行训练的LLM。在实证评估中，我们探讨了行为化形式与具身化形式之间的相互作用，以及它们如何共同影响用户对基于LLM的对话式代理在信任度、拟人化程度、存在感、可用性和用户体验方面的看法。我们的研究结果证明了这些效应的存在，为这两种拟人化形式对感知到的拟人化程度、存在感、可用性以及用户体验的影响提供了新的见解，并揭示了它们对用户信任度的积极影响。然而，两种形式组合中最高（即具有心智理论行为的ECA）和最低（即没有心智理论行为的聊天机器人）的情况都导致了较低的用户信任度，这表明具身化与心智理论行为之间存在复杂的关系，值得进一步研究。