NEXUS-IDS：物联网入侵检测中流式节点图神经网络从结构可解释性到语义可解释性的发展

《Internet of Things》：NEXUS-IDS: From Structural to Semantic Explainability in Flow-Node Graph Neural Networks for IoT Intrusion Detection

　　马哈·德里斯|萨法·本·阿提塔拉|阿德尔·阿马尔|瓦迪·布利拉
沙特阿拉伯利雅得苏丹王子大学机器人技术与物联网实验室，邮编12435

摘要
随着物联网生态系统的飞速发展，人们亟需准确且可解释的入侵检测系统。本研究提出了NEXUS-IDS，这是一种用于可靠物联网安全分析的框架，整合了基于图的深度学习、可解释人工智能技术以及大型语言模型。该框架的核心是流节点图神经网络，它将网络流量视为节点，通信关系视为边，以此捕捉攻击模式中的关联特征。为提升透明度，该框架采用了双层可解释机制，结合基于GraphLIME的结构特征归因与基于大型语言模型的语义解释。这种方法能将模型输出转化为分析师可理解的威胁描述，并通过基于熵值的不确定性校准来增强可信度。在Edge-IIoTSet和IoTID20数据集上的实验显示，该系统的检测准确率分别达到了94.30%和97.42%。在默认阈值τ=0.3的情况下，基于熵值的过滤机制会将Edge-IIoTSet中19.33%的流量以及IoTID20中32.08%的流量直接传递到语义处理层。在该层中，语义缓存可解决大部分请求，使得相应流量中的缓存命中率分别达到14.33%和27.29%，从而将需要调用大型语言模型的次数降至最低，仅为5.00%和4.78%。通过对四种不同参数规模（82M–70B）的架构进行自动化评估以及结构化专家评估，结果显示两者结果高度一致。对随机样本的专家评估表明，这些基础模型的平均评分可达4.2/5.0。不过，专家标记出的幻觉发生率差异较大，介于0%至77%之间，这说明其质量与事实可靠性仍需进一步独立评估。因此，目前大型语言模型驱动的语义层仅被视为一种辅助研究原型。尽管其背后的检测与结构归因功能较为稳健，但要实际应用这些语义解释，仍需人工干预来确保信任度的合理设定。

引言
过去十年间，物联网取得了飞速发展，通过连接医疗、工业、交通及智慧城市领域的数十亿台异构设备，彻底改变了现代数字生态[1]。虽然这种高度互联性带来了智能自动化优势，但也扩大了网络攻击面，使得物联网基础设施容易遭受分布式拒绝服务攻击、数据窃取以及恶意软件传播等大规模攻击[2][3]。传统的入侵检测系统往往难以应对这些不断变化的威胁，因为它们在扩展性、对异构环境的适应能力以及决策过程的透明度方面存在不足[4]。

机器学习和深度学习的最新进展为入侵检测提供了更强大的技术支持[5]。然而，模型复杂性的增加也引发了信任度和责任归属方面的问题，尤其是在那些至关重要的物联网应用中。此外，深度神经网络的黑箱特性使得安全分析师难以理解、验证检测结果并据此采取行动。因此，将可解释人工智能技术融入入侵检测系统，对于提升透明度、增强系统可靠性以及符合新兴的人工智能治理标准而言至关重要[6]。

随着大型语言模型在自然语言推理方面的进步，它们能够生成具有上下文意义且易于人类理解的解释，为安全分析带来了新的可能性。当与GraphLIME或GNNExplainer等结构化可解释方法相结合时，大型语言模型可以弥合低级网络事件与高级人类理解之间的语义差距[7]。不过，将大型语言模型应用于关键安全领域也面临着诸多挑战，包括可能影响实时检测的计算开销、可能导致分析人员误判的幻觉现象，以及需要通过不确定性量化来确保解释结果的可靠性。要解决这些问题，就需要设计出能够在解释质量与运营效率之间取得平衡的新架构。

为应对这些挑战，本研究提出了NEXUS-IDS这一创新框架，它通过整合基于图的深度学习、可解释人工智能技术以及大型语言模型驱动的语义解释，采取了以人为中心的处理方式。该框架的核心目标是实现透明且实用的物联网入侵检测。其所采用的流节点图神经网络模型将物联网流量中的空间依赖关系和关联模式通过节点与边的形式表现出来。该框架的双层可解释机制结合了基于GraphLIME的结构化推理与基于大型语言模型的语义推理。在语义处理层，通过基于熵值的不确定性校准来标记置信度较低的预测结果，同时利用上下文特征强化解释的合理性，并通过语义缓存来降低计算负担。这样的设计不仅能够将模型输出转化为自然语言形式的威胁描述，还能透明地展示预测的不确定性，进而实现高效、实时的检测应用。不过，由于大型语言模型的幻觉发生率仍然较高，且现有的确定性约束机制也存在局限，因此该语义层目前仅作为研究原型存在。它被设计为一种需要人工干预的辅助工具，在当前版本下不宜用于自动化的事件响应决策。

在Edge-IIoTSet和IoTID20这两个基准数据集上的实验结果表明，NEXUS-IDS不仅具备更高的检测准确率，还能生成既能体现技术层面的分析结果，又能便于人类理解的解读内容。除了性能上的优势，该框架还为物联网网络提供了一种以人为中心、透明且可靠的入侵检测方案。

本研究的主要贡献如下：
1. 新型的流节点图神经网络架构：我们设计了一种基于图的入侵检测模型，其中网络流量被视为节点，通信模式被视为边，通过两跳消息传递机制实现有效的关联学习，同时保持流量级别的分类精度。
2. 具有幻觉抑制功能的双层可解释框架：我们提出了一种全面的可解释框架，它结合了基于GraphLIME的结构化特征归因方法，以及基于大型语言模型并伴有熵值不确定性校准的语义解释方法。
3. 基于熵值的语义生成与不确定性量化：我们开发了一种语义解释方法，该方法根据香农熵值来判断预测的不确定性，对于高熵值预测结果会主动发出警告，从而透明地展现预测的不确定性，不过要完全避免幻觉现象仍需其他辅助机制。
4. 高效的大型语言模型部署架构：我们设计了一种资源高效的集成策略，通过基于熵值的过滤和语义缓存机制，仅对约5%的样本触发大型语言模型的解释功能。我们对四种不同参数规模的大型语言模型进行了性能与延迟的对比测试。
5. 严格的大型语言模型质量评估与专家验证：我们使用Mixtral-8×22B模型作为独立评估工具，对语义质量与事实准确性进行了系统评估。这些自动化评估结果通过针对96个解释样本的结构性专家评估得到了验证，结果显示不同评估者之间的评价一致性非常高，ICC值为0.91。
6. 多数据集的综合验证：我们在Edge-IIoTSet和IoTID20数据集上对该框架进行了测试，分析了其检测准确率、解释的真实性、结构可解释性、语义质量、幻觉发生率、缓存命中率以及推理延迟等指标。
7. 用于关键基础设施的可靠人工智能解决方案：我们设计了一种以人为中心的设计方案，注重提供可验证的解释、有依据的归因以及透明的不确定性说明，从而在高性能检测与实用的安全情报之间取得平衡，适用于工业控制系统和智慧城市基础设施。

本文的其余部分结构如下：第二节回顾了物联网入侵检测、可解释人工智能技术以及网络安全领域中大型语言模型的相关研究进展；第三节详细介绍了NEXUS-IDS框架及其设计理念；第四节阐述了该框架的核心方法，包括图构建、流节点图神经网络模型、基于GraphLIME的结构化可解释方法以及基于大型语言模型的语义解释模块；第五节介绍了所使用的数据集及预处理流程；第六节展示了实验评估与分析结果，涵盖了实验方案、入侵检测性能、结构可解释性、语义可解释性、性能与延迟的权衡关系、幻觉现象评估以及各种消融实验；第七节总结了主要研究成果并指出了存在的局限性；第八节对全文进行了总结，并提出了未来的研究方向。