《Computer Networks》:AMSE-DL: Stacking ensemble with SHAP explainability for intrusion detection in IIoT networks
编辑推荐:
摘要工业物联网已经改变了关键基础设施,但同时也扩大了易受复杂网络威胁攻击的界面。在工业物联网环境中进行入侵检测面临诸多挑战——严重的类别不平衡、处理多类攻击的难度以及深度学习模型的不可解释性。在本研究中,我们提出了AMSE-DL,这是一种专为工业物联网网络设计的、具有SHAP可解
摘要
工业物联网已经改变了关键基础设施,但同时也扩大了易受复杂网络威胁攻击的界面。在工业物联网环境中进行入侵检测面临诸多挑战——严重的类别不平衡、处理多类攻击的难度以及深度学习模型的不可解释性。在本研究中,我们提出了AMSE-DL,这是一种专为工业物联网网络设计的、具有SHAP可解释性的堆叠集成框架。我们的方法采用三阶段堆叠流程,结合四种不同的分类器——增强型DNN、CNN-BiLSTM、随机森林和AdaBoost——以及一个在验证集元特征上训练的随机森林元学习器。其核心思路很简单:利用不同分类器的多样性,自适应地学习针对特定数据集的组合方式,无需手动调整权重。我们在四个知名的工业物联网数据集上测试了该框架,效果十分出色:在X-IIoTID上的宏观F1值为99.43%,在HAI上为99.65%,在Edge-IIoT上为92.53%,在CIC-IIoT 2025上为91.71%。统计检验表明这些改进具有显著意义,相对于DNN(d = 2.11)和CNN-BiLSTM(d = 1.46),效果极为明显。在Friedman检验中,该堆叠集成方法的平均排名也为1.75(p = 0.013),进一步证明了其在不同数据集上的稳定性。此外,基于SHAP的可解释性功能可为每个预测结果提供可理解的特征重要性排序,为保护关键工业基础设施提供了实用且可靠的解决方案。
引言
工业物联网通过实现前所未有的连接性和自动化,改变了制造业、能源和医疗保健等关键基础设施领域的发展格局。然而,这种发展也带来了更大的攻击面,使得这些系统容易遭受高级网络攻击[1]。预计全球物联网设备的数量将超过300亿台,到2025年网络犯罪带来的损失可能高达10.5万亿美元。因此,强大的入侵检测系统对于保护工业物联网网络至关重要[2]、[3]、[4]。
深度学习方法被视作工业物联网入侵检测的强大工具,因为它们能够从高维网络流量数据中自动学习复杂的模式[5]。不过,独立的深度学习模型存在诸多局限,比如严重的类别不平衡问题,少数攻击类别的数量远远少于正常流量,这就导致那些重要但罕见的攻击难以被检测出来[6]。传统的过采样(SMOTE、ADASYN)和欠采样技术并不能有效解决类别不平衡问题,尤其是在多类分类场景中[7]。而集成学习技术,尤其是堆叠架构,通过利用不同分类器之间的多样性来捕捉互补的模式,其性能优于单一分类器[8]、[9]。最近关于多阶段深度学习的研究也显示出在解决工业物联网环境中的类别不平衡问题方面的潜力,部分数据集上的检测准确率接近完美[10]。
但目前的方法大多在有限的数据集上进行评估,缺乏整合性的可解释机制,而且在不同的工业物联网环境中难以保持稳定的性能。在工业环境部署入侵检测系统时,可解释性变得越来越重要,安全分析人员需要了解模型预测的依据,才能信任警报并采取相应措施[11]。SHAP(Shapley加性解释值)是一种用于解释局部和全局特征重要性的常用方法[12]。为了解决这些缺陷,本文提出了一种自适应多阶段可解释深度学习框架——AMSE-DL-Hybrid-Stacking,该框架在堆叠架构中整合了四种互补的分类器:增强型深度神经网络、CNN-BiLSTM、随机森林和梯度提升算法,同时还使用一个在验证集元特征上训练的随机森林元学习器。我们在四个不同的工业物联网数据集(X-IIoTID、CIC-IIoT 2025、Edge-IIoT、HAI)上进行了全面评估,证明了该框架具备很强的泛化能力,同时通过基于SHAP的可解释性功能提供了实用的安全洞察。AMSE-DL框架通过三阶段流程运行:第一阶段是在训练集上独立训练四种不同的基础分类器;第二阶段是从验证集的预测结果中生成元特征;第三阶段则是训练随机森林元学习器,以最优方式整合各基础分类器的输出。这种多阶段设计确保元学习器是在样本外的预测结果上运行,从而避免过拟合,并能根据分类器的性能表现动态调整权重。该框架之所以被称为“自适应”的原因在于,元学习器能够自主学习针对特定数据集和特定类别的最优组合方式,无需手动调整集成模型的权重,这一点通过在不同数据集中对比各组分的贡献程度已得到实证验证(见第4.3节)。本研究的主要贡献如下:
- •
我们提出了一种框架,它将四种不同的基础分类器(增强型DNN、CNN-BiLSTM、随机森林和AdaBoost)与一个在验证集元特征上训练的随机森林元学习器相结合。与以往用于工业物联网入侵检测的、采用同质分类器或简单投票机制的堆叠方法不同,我们的框架充分利用了分类器之间的多样性,从而实现自适应的、针对特定数据集的最优组合。
- •
我们首次对四种不同的工业物联网数据集进行了全面的堆叠集成框架评估,结果显示该框架具有很强的泛化能力,对应的宏观F1值分别为99.43%、99.65%、92.53%和91.71%,相比传统方法平均提升了7.77%。
- •
我们在那些通常难以检测的少数攻击类别上取得了显著提升,比如密码攻击(提升40.31%)、DDoS_HTTP攻击(提升32.02%)、上传攻击(提升29.84%)、暴力破解攻击(提升27.41%)以及HAI攻击(提升16.55%),这充分证明了混合不同分类器的方法比基于采样的方法更有效。
- •
我们通过Friedman检验(p = 0.013)以及Cohen’s d效应量进行配对比较,给出了严格的统计验证,证明该框架相比传统的深度学习方法具有显著优势。
- •
我们借助基于SHAP的可解释性功能,识别出针对特定数据集的关键特征,这有助于安全分析人员理解模型的决策逻辑,进而制定有效的威胁缓解策略。
本文的其余结构如下:第2节将回顾有关深度学习在工业物联网入侵检测中的应用、集成方法以及可解释性的相关研究;第3节介绍所提出的AMSE-DL框架,以及包括数据集、预处理方法和评估指标在内的实验设置;第4节展示实验结果与分析,包括对研究发现的讨论、存在的局限性以及未来的研究方向。统计分析是基于4个数据集进行的,由于样本量有限,其结果需谨慎解读,建议在更多数据集上开展验证。本文的最后部分在第5节。
章节要点
相关工作
本节我们将探讨深度学习、类别不平衡问题解决方法、多阶段架构、集成学习方法以及工业物联网入侵检测中的可解释性相关内容,并通过对比分析突出本研究的贡献。
方法论
本节我们将介绍用于工业物联网入侵检测的自适应多阶段可解释深度学习混合堆叠框架——AMSE-DL-Hybrid-Stacking。首先会明确问题的定义,接着阐述相关理论背景,再介绍该框架的各个组成部分以及实验设置。
实验结果
我们对所提出的AMSE-DL-Hybrid-Stacking框架在四个工业物联网入侵检测数据集上了进行了全面测试。这些框架还与多种传统基准方法进行了对比,通过消融实验明确了各组分的贡献,同时进行了统计显著性分析,并通过SHAP分析深入了解了模型的可解释性特征。
结论
本文提出了AMSE-DL-Hybrid-Stacking,这是一种用于工业物联网网络入侵检测的自适应多阶段可解释深度学习框架。该框架通过整合四种不同的基础分类器——增强型DNN、CNN-BiLSTM、随机森林和梯度提升算法,并结合堆叠集成结构与随机森林元学习器,有效解决了严重的类别不平衡问题、多类分类的复杂性以及模型可解释性方面的难题。
生成式人工智能与人工智能辅助技术声明
在撰写本文的过程中,作者们使用了基于大型语言模型的人工智能助手,用以提升文本的清晰度、结构安排和语法水平,同时帮助优化语言表达。该人工智能工具并未被用于生成科学内容、实验结果、数据分析或研究结论。所有的技术内容、分析结果、解读意见以及最终结论均由作者亲自构思、验证并确认,作者对内容的真实性承担全部责任。
CRediT作者贡献说明
纳西尔·侯赛因:文章撰写——初稿编写、项目管理、正式分析、数据整理。巴赫特·谢尔·阿里:文章撰写——审阅与编辑、正式分析、概念构建。李帅勇:项目指导。乌斯曼·J·武希希:文章撰写——审阅与编辑、结果验证。阿尔塔夫·侯赛因:文章撰写——审阅与编辑、结果可视化。
未引用参考文献
[52]、[53]、[54]、[55]
利益冲突声明
作者声明,他们不存在任何可能影响本文研究结果的已知财务利益冲突或个人关系。
纳西尔·侯赛因|巴赫特·谢尔·阿里|李帅勇|乌斯曼·J·武希希|阿尔塔夫·侯赛因