通过欺骗来建立信任？生成式人工智能的社会暗示对人们感知到的信任度的影响

《ACM Transactions on Interactive Intelligent Systems》：Tricking into trusting? The influence of social cues of a generative AI on perceived trust

生成式AI信任校准研究：探讨"打字行为"和"个性化称呼"通过感知相似性影响善意、能力和完整性信任。2x2实验（N=617）显示打字行为显著提升善意信任，但拟人化倾向未调节效应，感知相似性独立预测信任。

　　

摘要

像ChatGPT这样的生成式人工智能系统越来越多地被用于协助完成任务或获取信息。由于这些系统在生成内容方面的可靠性并不完美，人类用户需要谨慎判断可以对这些系统信任到何种程度（即所谓的“校准信任”）。然而，基于媒体方程的假设，可以推测系统展示的社会线索可能会引发超出实际需要的信任感。基于这一背景，本研究采用2x2被试间设计（N=617）探讨ChatGPT使用的“打字行为”和“个性化称呼”这两种社会线索是否能够提升用户对系统的信任感（包括善意、能力和诚信方面），以及这种效应是否受到感知相似性的影响，并是否受到拟人化倾向的调节。研究结果表明，“打字行为”这一社会线索显著提升了用户对系统善意方面的信任感；而感知相似性和拟人化倾向对此效应并无调节作用。不过，研究还发现，感知相似性本身能够显著预测用户对ChatGPT的信任程度。