构建信任体系：在NextG安全协议中基于有限数据标注的领域特定关系提取方法用于形式化验证

《IEEE Open Journal of the Communications Society》：Scaling Trust: A Domain-Specific Relational Extraction for Formal Verification with Limited Data Annotation in NextG Security Protocols

　　

摘要：

为了确保特定领域协议的可靠性和安全性，包括5G RRC以及国防部的网络规范，进行正式建模与验证是极为重要的。然而，由于技术语言的复杂性及专业术语众多、标注数据的缺乏，以及机器学习模型难以有效处理词汇表外场景，这些任务面临着诸多挑战。为解决这些问题，本研究提出了一种混合框架，将大型语言模型与特定领域的模型M?相结合，并运用蒙特卡洛树搜索方法，动态平衡生成式模型和基于分类的模型在关系提取和正式属性生成方面的应用。该框架能够系统地分析不同条件下生成式模型和分类模型的性能。生成式模型在结构化且具有上下文感知的环境中表现优异，但由于其序列依赖性，在词汇表外场景中容易出现错误传播。而分类模型则对词汇表外数据具有较强鲁棒性，但在结构化数据集中难以有效利用上下文依赖关系。基于蒙特卡洛树搜索的模型则整合了这两种方法，通过动态调整对先验信息及独立性的依赖程度，实现了更高的鲁棒性和适应性。实验结果表明，该模型在复杂的词汇表外场景中仍能保持高精度，性能优于传统模型。通过结合信息论的理论成果与实验验证，本研究为在标注数据有限的场景中进行关系提取和正式建模提供了一种可扩展且具备韧性的解决方案。未来的工作将致力于通过先进的奖励机制优化该蒙特卡洛树搜索框架，将其应用扩展到更多特定的领域协议中，同时加入可解释性功能，以提高方案的可靠性。

显示更多