大型语言模型（LLM）代理的新出现的安全性与隐私问题：基于案例研究的调查

《ACM Computing Surveys》：The Emerged Security and Privacy of LLM Agent: A Survey with Case Studies

大语言模型代理（LLM agents）因快速发展和广泛应用，暴露出安全隐私漏洞，需系统性研究其威胁分类、对人类及环境的影响、现有防御策略及未来趋势，结合案例增强理解。

　　

摘要

受大型语言模型（LLMs）快速发展的启发，LLM代理已进化为能够执行复杂任务的智能体。如今，LLM代理被广泛应用于各个领域，处理海量数据以与人类交互并完成任务。LLM代理的广泛应用证明了其显著的商业价值；然而，这也暴露了安全和隐私方面的漏洞。现阶段，对LLM代理的安全性和隐私性进行全面研究变得十分必要。本调查旨在全面概述LLM代理所面临的新出现的隐私和安全问题。我们首先介绍LLM代理的基本知识，接着对这些威胁进行分类和分析，随后讨论这些威胁对人类、环境及其他代理的影响。随后，我们回顾现有的防御策略，并探讨未来发展趋势。此外，该调查还包含了多种案例研究，以便于读者更好地理解相关问题。通过强调这些关键的安全和隐私问题，本调查旨在推动未来研究，从而提高LLM代理的安全性和隐私性，增强其在未来应用中的可靠性和可信度。