《Frontiers in Artificial Intelligence》：Unravelling the dynamics of privacy, security, and trust in AI-powered self-service chatbots in the retail sector: a systematic literature review
编辑推荐：
随着人工智能驱动的自助服务聊天机器人在零售领域的部署日益增加，客户参与的性质发生了转变，提供了可扩展、高效且个性化的互动体验。尽管取得了这些进展，围绕隐私、安全性和信任的担忧仍然塑造着用户的认知并影响其采纳行为。本研究对2016年至2026年间发表的学术成果进
随着人工智能驱动的自助服务聊天机器人在零售领域的部署日益增加，客户参与的性质发生了转变，提供了可扩展、高效且个性化的互动体验。尽管取得了这些进展，围绕隐私、安全性和信任的担忧仍然塑造着用户的认知并影响其采纳行为。本研究对2016年至2026年间发表的学术成果进行了全面的系统性文献综述（systematic literature review, SLR），旨在批判性地审视这些相互关联的构念如何影响零售环境中聊天机器人技术的接受与使用。基于PRISMA框架，研究人员从Scopus、Web of Science、ScienceDirect和IEEE Xplore等主要学术数据库中筛选出共计54项研究。研究结果表明，隐私担忧——尤其是那些与数据透明度、知情同意及第三方数据共享相关的方面——仍然是用户抵触的主要来源。安全漏洞，包括数据泄露风险及加密机制不足，进一步削弱了对聊天机器人系统的信心。研究结果还表明，信任是影响行为意向和用户满意度的重要变量。本研究通过将零散的见解整合成一个连贯的框架，解释了零售聊天机器人背景下隐私、安全性与信任之间的相互关联性，从而为现有文献做出了贡献。研究同时强调，组织需要采取透明的数据实践、加强网络安全基础设施，并优先考虑合乎伦理的人工智能设计，以培养可持续的用户信任。本文最后指出了未来研究的关键空白，特别是在用户体验和跨文化视角方面。
1 背景与情境
过去十年间，零售业经历了深刻变革，这主要由数字技术和人工智能的进步所驱动。其中，AI驱动的聊天机器人已成为增强客户互动、简化运营流程以及大规模提供个性化服务的关键工具。这些系统被嵌入在线零售平台、移动应用程序和社交媒体渠道，执行回答客户查询、推荐产品和促进交易等多种功能。然而，对这些系统的依赖也引发了关于隐私、安全性和信任的重大关切。零售聊天机器人通常需要访问敏感用户数据，包括个人信息、浏览行为和购买历史。这种对数据的依赖加剧了消费者和监管机构的审查，尤其是在数据隐私权意识增强以及《通用数据保护条例》（General Data Protection Regulation, GDPR）等法规实施的背景下。与传统的真人互动不同，聊天机器人沟通往往缺乏透明度，使用户难以理解其信息是如何被处理的，这种不清晰可能导致侵入感和失控感，进而削弱信任。此外，数据驱动型个性化在零售环境中的应用在便利性与隐私之间制造了张力，用户必须在定制化推荐的益处与数据暴露的风险之间权衡。这种张力因先进AI算法的“黑箱”性质而进一步加剧，因为数据请求或推荐背后的理由对最终用户而言往往是模糊的。安全性问题进一步使这一局面复杂化。聊天机器人集成到零售系统中引入了潜在漏洞，可能被恶意行为者利用。研究表明，一些聊天机器人平台缺乏足够的安全措施，易受黑客攻击、数据泄露和未授权访问的影响。这类事件不仅危及用户数据，还会损害相关组织的声誉，导致难以恢复的消费者信任损失。因此，信任成为决定零售环境中聊天机器人技术成功与否的关键因素。信任不仅影响初始采纳，还影响持续使用和客户忠诚度。然而，在AI系统中建立信任面临独特挑战，因为用户可能认为聊天机器人不如真人代理可靠或负责。用户在与聊天机器人互动时往往表现出较低的信任水平，尤其是在处理复杂或敏感问题时。这凸显了组织需要通过透明沟通、可靠性能和道德设计实践来解决信任赤字问题的必要性。虽然现有研究已分别探讨了这些构念，但仍缺乏综合分析它们如何在零售聊天机器人环境中共同影响用户行为的研究。本研究旨在通过提供系统性文献综述来填补这一空白，为该领域的演变提供见解并确定未来研究的关键领域。
2 理论基础
在数字环境中解释用户行为的多种理论框架有助于更好地理解零售领域中AI驱动聊天机器人的采纳和使用。其中，技术接受模型（Technology Acceptance Model, TAM）应用最为广泛，它认为感知有用性和感知易用性是技术采纳的主要决定因素。然而，在AI和聊天机器人技术背景下，仅凭这些因素不足以解释用户行为。研究者已将TAM扩展到包含信任和感知风险等构念，认识到它们在塑造用户认知中的关键作用。信任理论则聚焦于用户与技术之间的关系动态，认为信任是多维度的，涵盖对能力、可靠性和诚信的看法。在聊天机器人环境中，信任不仅受系统性能影响，还受部署该技术的组织之意图的影响。用户必须相信零售商不会滥用对话数据或使其落入不当之手，这种“制度信任”维度与技术本身的信任同样重要。隐私计算理论（Privacy Calculus Theory）进一步丰富了这一分析，指出用户在决定是否披露个人信息时会进行成本-收益评估。在零售聊天机器人背景下，这种权衡尤为明显，用户必须判断个性化推荐的益处是否超过隐私方面的担忧。若感知风险大于益处，用户可能提供虚假信息或完全脱离互动。此外，社会临场感理论（Social Presence Theory）揭示了聊天机器人的设计和沟通风格如何影响用户认知。展现出类人特征（如对话式语言和共情能力）的聊天机器人更有可能创造社会临场感，从而增强用户参与度和信任。然而，这也引发了关于透明度和潜在欺骗的伦理问题，特别是当用户未意识到自己在与AI系统互动时。“恐怖谷效应”（Uncanny Valley effect）表明，适度的拟人化可以建立亲和力，但近乎完美的人机模仿如果在细微之处失败，则会引发不信任和不安。综合来看，这些理论框架为理解AI驱动聊天机器人环境中隐私、安全性和信任之间的复杂互动提供了坚实的基础，强调了在塑造用户行为时需要考虑技术与心理因素的多元方法。
3 方法论
3.1 研究设计与方法
本研究采用系统性文献综述（systematic literature review, SLR）方法，对零售行业中AI赋能的自助服务聊天机器人相关的隐私、安全性和信任问题进行详细且结构化的考察。该综述结合了定性知识综合与定量出版趋势分析。SLR遵循PRISMA（Preferred Reporting Items for Systematic Reviews and Meta-Analyses）指南以确保研究的透明度、可复制性和方法论严谨性。研究中使用了Microsoft Excel来组织综述过程中获取的信息，提取了每项研究的作者、发表年份、研究主题、所用方法和结论等重要信息，便于识别文献中的主题和模式。
3.2 数据来源与检索策略
文献检索在四个以收录高质量同行评审研究而闻名的数据库中进行：Scopus、Web of Science、ScienceDirect和IEEE Xplore。检索过程采用了特定的关键词组合和布尔运算符结构。主要检索短语包括：“AI chatbot” AND “retail”、“conversational AI” AND “privacy”、“chatbot security” AND “trust”以及“e-commerce chatbot” AND “consumer trust”。为增强检索的稳健性，还使用了同义词和相关关键词，如“virtual assistant”、“digital agent”和“customer service automation”。选定出版物的时间范围限定在2016至2026年之间，反映了聊天机器人发展的显著变化期。相同的核心概念针对每个数据库的检索语法进行了调整。
3.3 纳入与排除标准
为确保相关性和质量，筛选过程中应用了具体的纳入与排除标准。纳入标准包括：发表于2016至2026年间；出现在同行评审期刊、学位论文和会议论文中；聚焦于AI驱动的聊天机器人或会话代理；至少涉及隐私、安全性或信任中的一个主题；研究背景为零售、电子商务或客户服务。排除标准包括：社论或非同行评审论文；仅关注技术开发而不涉及用户影响的论文；未涉及隐私、安全性或信任的论文；以及非英文论文。
3.4 PRISMA流程
研究选择过程遵循PRISMA框架，包括识别、筛选、合格性和纳入四个关键阶段。检索过程始于1282条记录，包括数据库检索到的1245篇文章和其他来源的37条额外记录。去除重复后，筛选了1108篇独立研究。经过标题和摘要筛选，145项研究被认为适合进行全文评估。在合格性阶段，阅读了全部145篇文章以确定是否符合所有预设的纳入标准。此阶段排除了91篇文章，原因包括：未专门聚焦于AI聊天机器人；未讨论本综述核心的信任、隐私或安全性主题；研究背景不在客户服务或消费者互动范围内；为会议摘要或社论且缺乏足够的实证证据；无法获得全文或为重复出版物。最终，54项研究符合纳入标准并被选入最终的SLR。
3.5 信度与效度
为确保信度和效度，SLR遵循了系统且一致的过程。分析仅纳入了满足合格性标准的研究，使用了事先定义的纳入与排除标准。所有54项纳入研究均使用明确的方法学质量标准进行了正式评估，评估标准包括研究设计的充分性、研究目标的清晰度、方法的适当性、数据收集和分析的透明度以及报告结果的合理性与一致性。数据以系统方式提取和记录，以减少错误并确保一致性。为增强全面性和可信度，文献检索借助了知名的学术数据库。对检索、筛选、选择和质量评估程序进行了详细记录，以提高结果的可重复性和透明度。
4 结果
4.1 出版趋势
对出版分布的分析显示了该领域的增长模式。2016至2026年间，关于AI聊天机器人、信任、隐私和安全性的研究呈现出明确且持续的增长。2016年仅有一项研究，2017至2019年间研究产出相对较少，表明该领域仍处于起步阶段。从2020年起，研究活动显著增长。2025年是数据集中产出最高的年份，贡献了11项研究。这一激增预计反映了生成式人工智能（generative artificial intelligence, GenAI）技术的快速发展以及对构建安全、可信和以用户为中心的AI聊天机器人系统日益增长的关注。2026年的较低出版数量应谨慎解读，因为该年度在进行综述时尚在进行中，更多研究可能尚未发表或被索引。
4.2 数据提取与综合
采用结构化数据提取过程对所选研究进行系统分析。从每篇文章中提取的关键信息包括：作者及发表年份、研究方法、研究背景、主要发现和理论框架。提取的数据随后使用主题分析方法进行综合，允许识别各研究间的重复模式和关系。分析表明，隐私、安全性和信任不仅是文献中的主导主题，而且是深度互联的构念，共同塑造消费者对零售领域AI驱动自助服务聊天机器的认知和行为意向。这些因素并非独立运作，而是动态互动，既影响聊天机器人技术的初始采纳也影响其持续使用。
4.3 隐私、安全性与信任的比较框架（AI vs. 人类）
该比较框架结构化地综合了信任、隐私和安全性在AI驱动聊天机器人相较于人类零售代理中的不同表现。AI系统通过可靠性、速度和一致性建立认知性或计算性信任，这在交易性情境中尤其有价值。然而，近期系统通过对话设计模拟共情的尝试正在模糊这一界限。在隐私风险方面，AI的风险是系统性和可扩展的，涉及数据聚合和持久存储，而人类代理的风险则被视为个体化和短暂的。然而，人类中介的违规行为（如内部威胁或疏忽数据处理）若嵌入治理不善的系统中也可能扩大规模。在安全性本质上，AI面临的是技术性或算法性漏洞（如提示注入、API泄露和模型中毒），而人类代理则面临行为性或社会性漏洞（如社会工程、人为错误和物理盗窃）。责任归属方面，AI的“黑箱”性质使得法律归责困难，而人类系统的责任则更为线性，但大型组织中责任的官僚化分散也可能使问责变得模糊。透明度和错误恢复方面，人类代理在适应性和可解释性上具有优势，但可解释AI和升级协议方面的进步正在缩小这一差距。
4.4 隐私关注
隐私关注是阻碍聊天机器人采纳的最广泛讨论且持续重要的障碍之一。用户对其个人数据在聊天机器人生态系统中如何被收集、处理和共享表达了相当大的担忧，尤其在涉及敏感信息的零售环境中。一个反复出现的问题是数据处理实践的透明度不足。许多聊天机器人系统在数据收集机制上的披露有限，使用户对数据使用程度和潜在的第三方访问感到不确定。这种不透明性导致了AI系统的“黑箱”感知，显著降低了用户信心并增加了感知风险，最终阻碍了参与。此外，对数据驱动型个性化的日益依赖加剧了这些担忧。零售聊天机器人旨在基于用户行为提供定制化推荐，这需要大量的数据收集。虽然这增强了便利性和用户体验，但也引发了关于监控和数据利用的担忧。这种张力与隐私计算理论的原理相符，即用户不断评估感知收益与隐私风险之间的权衡。当用户认为这种权衡不利时，他们与聊天机器人系统互动的意愿会显著下降。文献还强调了感知控制在缓解隐私担忧中的作用。当用户感觉对自己的个人数据有控制权（包括管理权限和访问隐私设置的能力）时，他们更倾向于信任和参与聊天机器人系统。然而，许多聊天机器人平台未能以用户友好的方式提供此类控制机制，进一步导致了用户不满。
4.5 感知安全性
与隐私关注密切相关的是与聊天机器人技术相关的安全挑战。文献识别了一系列技术漏洞，包括加密协议不足、认证机制薄弱以及对网络攻击的敏感性。在零售环境中，聊天机器人常处理交易和财务数据，此类漏洞可能导致严重后果，如身份盗窃和金融欺诈。实证研究表明，许多聊天机器人系统未达到既定的网络安全标准，从而使敏感用户数据暴露于潜在泄露风险。然而，文献也强调安全性不仅仅是技术问题，也是感知问题。用户对安全性的感知在塑造其行为中起着关键作用，通常独立于实际存在的安全措施。研究发现，感知风险显著影响用户参与度，较高的感知风险导致与聊天机器人系统的互动减少。这表明，即使技术上安全的系统，如果未被用户感知为安全，也可能无法获得用户接受。实际安全与感知安全之间的区别凸显了沟通在建立用户信心中的重要性。组织不仅要实施强大的安全措施，还必须向用户清晰地传达这些措施，包括提供可见的安全指标（如加密徽章和隐私保证），并教育用户其数据如何受到保护。此外，文献表明安全担忧与信任密切相关。用户更倾向于信任他们认为安全的系统，因为安全性减少了不确定性和感知风险。相反，安全失败可能对信任产生不成比例的影响，导致用户关系和品牌声誉的长期损害。
4.6 信任
信任作为文献中一个核心且统一的构念出现。研究结果一致表明，信任是聊天机器人技术初始采纳和持续使用的关键决定因素。没有足够的信任，用户不太可能有意义地参与聊天机器人系统，无论其功能性或便利性如何。文献的一个关键见解是，对聊天机器人的信任普遍低于对人类代理的信任。用户对于在复杂或敏感的互动中依赖聊天机器人更加犹豫，常常偏好人类帮助。这种信任赤字归因于几个因素，包括AI系统被认为缺乏情感智能、责任感和可靠性。与人类代理不同，聊天机器人常被视为非人性化且无法理解细微的用户需求。尽管存在这些挑战，文献也识别出若干可以增强对聊天机器人系统信任的因素，包括系统性能、透明度和沟通风格。能够提供准确及时响应的聊天机器人更有可能被视为有能力和可靠的，从而增加用户信任。同样，数据处理实践的透明度可以减少不确定性并促进信任。拟人化的作用也被强调为影响信任的重要因素。展现出类人特征的聊天机器人更有可能创造社会临场感，从而增强用户参与和信任。然而，这种效应并非普遍积极。一些研究表明，过度的拟人化可能导致不适或伦理问题，特别是如果用户感到关于互动性质的误导。这表明在增强用户体验和维护透明度之间存在微妙的平衡。除了系统相关因素外，组织声誉在塑造信任中也起着至关重要的作用。用户更倾向于信任由知名且信誉良好的品牌部署的聊天机器人系统，因为这些组织被认为更可靠和负责。这表明信任在多个层面运作，既包括技术本身也包括其背后的组织。
4.7 隐私、安全性、信任与持续使用/采纳之间的相互关系
一个整合的概念框架展示了隐私关注、安全性和信任在影响消费者对零售领域AI驱动自助服务聊天机器人的采纳、满意度和持续使用方面的相互依存关系。该框架将这些因素视为高度互联而非独立的。隐私关注成为框架的关键起点，涉及对数据收集实践的认识、个人信息保护、潜在数据滥用及其可控性。感知安全性是指对聊天机器人保护用户信息免受网络威胁能力的信念，包括加密、数据处理、可靠性和防止未授权访问。实际技术安全与感知安全是不同的；如果没有安全性的证据，消费者可能仍然不确定并不愿参与。因此，清晰的安全沟通可以增强消费者的保障。在高感知安全性的情况下，消费者的不确定性和感知风险可能会降低，有助于建立信任。信任成为连接概念的核心，定义为消费者对组织和聊天机器人将如何管理信息、保持公平和透明的信心。信任是AI技术接受和使用的关键决定因素。因此，消费者的隐私和安全性感知会影响信任，同时信任有助于将这些感知转化为行为结果。右侧的结果包括消费者的初始采纳、满意度、持续使用和口碑传播。采纳被视为动态而非一次性决策。信任聊天机器人的消费者更倾向于采纳它并与之互动。该框架还识别了五个调节因素：感知控制可以影响聊天机器人的智能和拟人化对消费者信任的效果；拟人化如果适当应用可以积极影响参与，但如果过度则可能成为刺激源；透明度和可解释性可以通过提供关于聊天机器人行为和信息请求原因的更多解释来建立信任；组织声誉也是一个重要因素，因为消费者不仅对聊天机器人而且对其运营的零售商建立信任；任务复杂性和互动风格也会影响对聊天机器人的反应，消费者在处理复杂和敏感任务时可能更不愿意使用聊天机器人，而非正式的互动风格可能积极影响参与但增加隐私担忧。
