用于网络安全的大型语言模型：系统性文献综述

《ACM Transactions on Software Engineering and Methodology》：Large Language Models for Cyber Security: A Systematic Literature Review

综述分析超4万篇文献，系统评估185篇顶级论文，探讨LLM在网络安全中的应用扩展、架构趋势、高级技术方法及自主代理等新兴方向，揭示数据集局限与未来挑战，为研究与实践提供全景参考。

　　

摘要

大型语言模型（LLMs）的快速发展为在包括网络安全在内的各种应用领域中利用人工智能开辟了新的机会。随着网络威胁的数量和复杂性的不断增加，对能够自动检测漏洞、分析恶意软件并应对攻击的智能系统的需求也在不断增长。在这项调查中，我们对LLMs在网络安全中的应用（LLM4Security）进行了全面的文献回顾。通过收集超过40,000篇相关论文，并系统地分析了来自顶级安全和软件工程领域的185篇论文，我们旨在全面了解LLMs如何被用于解决网络安全领域的各种问题。

通过分析，我们发现了几个关键发现。首先，我们观察到LLMs被应用于越来越多的网络安全任务中，包括漏洞检测、恶意软件分析和网络入侵检测。其次，我们分析了不同LLM架构（如仅编码器、编码器-解码器和仅解码器）在各个安全领域的应用趋势。第三，我们识别出了一些改进LLMs以适应网络安全需求的更复杂技术，例如高级微调、提示工程和外部增强策略。一个重要的新兴趋势是使用基于LLM的自主代理，这代表了从单一任务执行向协调复杂的多步骤安全工作流的范式转变。此外，我们发现用于训练和评估LLMs的数据集往往有限，这突显了需要更全面的数据集以及利用LLMs进行数据增强的必要性。最后，我们讨论了未来研究的主要挑战和机遇，包括需要更具解释性的模型、解决LLMs固有的安全风险，以及它们在主动防御方面的潜力。

总体而言，我们的调查提供了LLM4Security当前技术水平的全面概述，并确定了几个有前景的未来研究方向。我们相信，这项调查中呈现的见解和发现将为LLMs在网络安全中的应用这一不断发展的知识体系做出贡献，并为该领域的研究人员和从业者提供宝贵的指导。