针对增强网络理解对轻量级大语言模型（LLM）进行微调：一种重述与对比的方法

《IEEE Transactions on Machine Learning in Communications and Networking》：Fine-Tuning Lightweight LLM for Enhanced Network Understanding: A Rephrase and Contrast Approach

　　

摘要：

将大型语言模型（LLMs）应用于通信网络领域已成为学术界和工业界的重要研究方向。然而，这一领域的进展受到两个关键挑战的制约：一是基于提示的技术的泛化能力有限；二是缺乏能够充分发挥轻量级LLMs潜力的高效微调方法。为克服这些障碍，本文提出了Rephrase and Contrast（RaC）这一新颖的微调框架，该框架通过系统地将问题重构与正确和错误响应的比较评估相结合，显著提升了LLMs的理解能力和逻辑推理能力。我们的贡献主要有三点：首先，我们介绍了RaC框架，并通过广泛的实验验证了其有效性；在针对网络问题的综合基准测试中，微调后的模型准确率比基线模型提高了15.84%。其次，为了促进模型的稳健训练，我们开发了一种基于GPT的数据挖掘流程，从现有的网络教材中生成高保真的问答（QA）对，从而构建了一个全面的数据集。此外，我们还引入了ChoiceBoost-X数据增强技术，用于扩展数据集的同时减少多项选择题中的位置偏差。第三，为了推动可复现的研究和社区驱动的创新，我们以开源形式发布了完整的工具链，包括：（1）专门为网络问答任务微调的LLaMA3.1-8B模型；（2）从教材中精选的训练数据集；（3）用于未来研究的标准化基准测试的多难度测试集。