针对网络安全和IT支持场景对开源大型语言模型进行微调：关于LLM微调技术的比较研究

《IEEE Open Journal of the Computer Society》：Fine-Tuning Open-Source Large Language Models for Cybersecurity and IT Support: A Comparative Study on LLM Fine-Tuning Techniques

　　

摘要：

人工智能（AI）的研究重点已经从探索大型语言模型（LLMs）是否能够处理特定领域的任务，转变为如何优化它们的影响。自然语言处理（NLP）的进步使得LLMs能够在问答、文本分类和翻译等复杂任务上实现显著的准确性和效率。因此，本研究评估了使用三种先进技术（监督微调（SFT）、低秩适应（LoRA）和量化低秩适应（QLoRA）对开源LLMs（参数量从20亿到90亿不等）进行微调，以提升其在网络安全和IT支持方面的效果。结果表明，SFT在两项任务的损失指标上表现更优；而LoRA和QLoRA分别将GPU内存和计算成本降低了99%和60%，同时性能相当。Llama、Mistral和Phi等模型在所有方法中都表现出较高的泛化能力，这使得它们特别适合在资源有限的环境中部署。