《Frontiers in Artificial Intelligence》:KG-HiAttention: synergizing AI-based knowledge graphs and deep learning for explainable software vulnerability analysis
编辑推荐:
软件漏洞分析对维护安全可靠系统至关重要,然而传统深度学习模型常表现为“黑盒”,缺乏透明度且无法有效利用代码的显式结构语义。本文提出KG-HiAttention,一种新型神经符号框架,将亚符号深度学习与符号化基于人工智能的知识图谱协同融合。研究人员为每个软件函数
软件漏洞分析对维护安全可靠系统至关重要,然而传统深度学习模型常表现为“黑盒”,缺乏透明度且无法有效利用代码的显式结构语义。本文提出KG-HiAttention,一种新型神经符号框架,将亚符号深度学习与符号化基于人工智能的知识图谱协同融合。研究人员为每个软件函数构建受代码属性图启发的轻量级程序图,通过行级边近似控制流和数据流依赖关系。该符号结构由图注意力网络处理,并通过多模态融合(拼接与多层感知机分类器)与预训练CodeT5编码器生成的语义嵌入进行融合。在真实世界BigVul数据集上的实验表明,KG-HiAttention取得了竞争性性能(AUC-ROC 0.763 ± 0.009,五组随机种子),统计上与强混合集成基线相当,同时将特异性从基线的0.321提升至0.458,并提供基线无法提供的基于图的解释性。
研究背景与意义
随着现代数字基础设施日益复杂,软件漏洞对系统安全与可靠性的威胁持续加剧,人工漏洞检测已难以应对大规模软件系统的维护需求。自动化软件缺陷预测作为安全领域的核心研究方向,旨在部署前识别潜在缺陷代码组件。近年来,深度学习技术虽推动了该领域发展,以CodeT5、LineVul为代表的预训练模型将代码视为序列文本学习语义模式,但仍面临两大局限:其一,源代码不仅是文本,更包含抽象语法树、控制流图等丰富的层级结构与执行逻辑,标准Transformer架构难以捕捉长程结构依赖,导致“语义鸿沟”;其二,深度模型普遍存在“黑盒”不透明问题,仅输出预测结果而无法解释判定特定代码行为漏洞的原因,阻碍了开发人员对结果的信任与实际采纳。在此背景下,神经符号人工智能通过融合神经网络的学习能力与符号逻辑的推理能力成为解决路径,其中代码属性图作为整合语法、控制流与数据流的统一图结构,为构建程序知识的符号基底提供了可能。本文发表于《Frontiers in Artificial Intelligence》,提出了KG-HiAttention框架,旨在兼顾漏洞检测性能与解释性,为工业界提供兼具准确性与可操作性的分析工具。
关键技术方法
研究人员采用BigVul数据集开展研究,该数据集包含4432个来自Linux内核、Chrome等真实开源项目的C/C++函数,按7:3比例分层抽样划分为训练集与测试集,并固定随机种子确保可复现性。核心技术方法包括:构建轻量级代码属性图作为人工智能知识图谱,以代码行为节点,通过启发式规则提取顺序控制流边与变量复用数据流边,舍弃完整静态分析的复杂结构以提升扩展性;设计三流并行编码架构,分别通过CodeT5编码器提取代码语义特征、图注意力网络学习程序图结构特征、多层感知机投影手工静态特征;采用多模态特征拼接融合策略,将三类特征输入多层感知机完成二分类预测;通过五组独立随机种子实验验证稳定性,并结合插入/删除曲线、排名一致性等指标评估解释性。
研究结果
3.1 定量性能
实验结果显示,KG-HiAttention集成模型在五组种子下的平均AUC-ROC达0.763±0.009,与混合集成基线(0.777±0.005)无统计学显著差异,但在特异性指标上从0.321提升至0.458,显著降低了误报率。AUC-PR值为0.877±0.005,F1值为0.820±0.012,整体判别能力与现有强基线相当,同时具备基线缺乏的图基解释能力。
3.2 消融分析
通过逐步移除模型组件验证贡献:仅使用CodeT5语义编码时AUC-ROC为0.741±0.020;加入代码属性图分支后提升至0.759±0.013,精度达0.796±0.008;完整融合专家特征与集成策略后达到最优,证实各模态特征的互补性。
3.3 可解释性案例研究
以CWE-121缓冲区溢出漏洞为例,模型通过图注意力权重可视化证据流向:高注意力集中在memcpy与strcpy等关键内存操作代码行,且通过控制流与数据流边连接至输入源,形成符合开发者认知的漏洞传播路径,相比传统模型的特征重要性排序,提供了更细粒度的实例级解释。
3.4 可解释性评估
研究人员采用代理指标验证解释可靠性:删除高注意力代码行导致模型置信度显著下降,插入则上升,删除与插入曲线AUC分别为0.847与0.823;五次重复实验的解释排名一致性均值达0.893±0.026,证实解释的鲁棒性。在CWE-22/79/89/119四类漏洞的精选案例中,顶部注意力行均与标注的漏洞行匹配。
讨论与结论
神经符号协同效应分析表明,代码属性图与图注意力网络有效弥补了纯Transformer模型在长程依赖建模上的不足,结构推理与集成聚合共同贡献了相对于CodeT5 2.2个百分点的AUC-ROC提升。在性能与解释性的权衡中,KG-HiAttention虽未超越混合集成基线的预测精度,但提供了可追溯至具体代码行的可微分解释路径,解决了传统集成树模型的黑盒问题。效率评估显示,轻量级图构建仅需0.080±0.089毫秒每函数,端到端推理吞吐量达459函数每秒,峰值GPU内存占用仅0.68GB,适配消费级硬件与持续集成流程。研究同时指出局限性:解释性评估依赖代理指标,尚未开展大规模开发者用户研究与跨项目、跨语言验证。最终结论为:KG-HiAttention实现了竞争性漏洞检测性能与图基解释性的统一,其轻量级知识图谱架构具备实际部署可行性,为基于人工智能的知识图谱在软件工程领域的落地提供了实证支持,未来工作将扩展至多语言场景与动态程序分析信号融合。