基于领域增量学习方法的物联网网络入侵检测持续学习技术

《Applied Soft Computing》：Continual learning for adaptive IoT network intrusion detection via domain-incremental learning methods

　　摘要：随着物联网设备的日益增多，网络入侵的风险也在上升，这促使人们开发能够应对新出现攻击的网络入侵检测系统。然而，基于新威胁重新训练的模型往往会出现灾难性遗忘现象，从而导致对原有攻击的检测性能下降。本文在逐步引入九种不同类型攻击的增量训练方案下，使用三种物联网/网络入侵数据集（UQ-IoT-IDS-2021、Kitsune和CIC-IDS-2017），评估了基于神经网络的NIDS的持续学习策略。我们在平衡和非平衡训练环境下，比较了八种不同的持续学习策略，包括权重继承、正则化、重放以及它们的组合形式，在多层感知器、长短期记忆网络和Transformer架构上的表现。在三个数据集中，基于重放的策略最终阶段的宏观F1值保持在0.92–0.98之间，平均遗忘率低于0.05，而仅依赖正则化或简单顺序学习的策略则会导致宏观F1值下降0.30–0.55，遗忘率超过0.32。重放方法的资源占用较低，在每类样本有100个的缓冲情况下，多层感知器上的峰值CL状态内存低于0.4MB，训练时间也与权重继承方法相近。在三种深度架构以及非平衡场景下，通过PR-AUC和高召回率下的假阳性率衡量，其性能排名依然稳定。与三种无监督异常检测器相比，当有新攻击类型的标记样本时，监督式持续学习是更有效的选择。研究结果表明，在领域递增的物联网NIDS场景中，基于记忆的机制对于维持检测性能至关重要。

引言：物联网的快速发展改变了数字化格局，数以十亿计的互联设备被嵌入到工业、商业和关键基础设施中。虽然这种普遍的连接性提升了运营效率，但也扩大了攻击面。物联网网络具有动态特性，设备种类多样，流量模式多变，为不断演变的网络威胁提供了滋生环境。因此，保护这些生态系统需要强大的网络入侵检测系统，能够实时识别恶意活动。当前NIDS部署模型的一个关键局限在于它们依赖于静态的批量学习方式。传统的机器学习分类器通常是在离线环境下，使用固定的历史数据集进行训练。当新的攻击向量出现时，这些静态模型会迅速过时，无法泛化到新的威胁分布。常见的解决办法是使用包含历史和新兴模式的累积数据集从零开始重新训练模型。但在计算资源、能源预算和带宽有限的物联网环境中，频繁的全量重新训练在计算上不可行，实际操作中也难以实现。持续学习提供了一种资源高效的替代方案，它允许模型从数据流中逐步更新。然而，标准神经网络在这种场景下会出现灾难性遗忘问题，即为新任务优化参数往往会破坏之前任务优化的权重，从而导致对历史威胁的检测性能大幅下降。这就需要在模型的可塑性与稳定性之间找到平衡，安全系统既要具备足够的可塑性以整合新的攻击模式，又要保持足够的稳定性以防范已知攻击。为了在安全背景下严格评估这一矛盾，我们将本研究定义为领域递增学习。与旨在扩展标签空间以区分特定攻击类型的类别递增学习不同，领域递增学习要求模型在“正常”与“攻击”这一二元任务的决策边界上保持一致，同时“攻击”领域的分布逐步发生变化。这一定义反映了NIDS的实际运作需求，即无论具体是哪种攻击类型，都需要持续检测异常。此外，这一区别在解释基于正则化的持续学习方法时也很重要。在物联网流量中，新出现的攻击可能会导致特征分布发生显著变化，从而降低不同阶段参数的重用率，限制诸如弹性权重巩固之类的参数正则化方法的效果。尽管持续学习在计算机视觉领域已得到广泛研究，但其在NIDS中的应用仍相对较少。本研究通过实证评估多种持续学习策略在不同网络环境中的适应性入侵检测效果，填补了这一空白。我们使用了涵盖物联网和企业流量的三种入侵数据集，模拟了NIDS面对不断变化的威胁时的运行过程。系统地评估了八种不同类别的持续学习策略，包括作为基础对比的权重继承方法，基于正则化的弹性权重巩固、突触智能和无需遗忘学习方法，基于重放的经验回放、平均梯度周期记忆和深度经验回放++方法，以及将这两种方法结合的EWC + ER策略，还将联合训练作为上限进行比较。每种策略都在平衡和非平衡数据集环境下，在三种神经网络架构上进行了测试，同时还与传统的随机森林和SVM算法以及三种无监督异常检测器进行了对比。这些研究结果为设计适用于物联网网络的适应性长期安全NIDS提供了实用指导。本研究的贡献如下：首先，我们设计了用于NIDS的持续学习评估框架，通过定义增量训练和累积测试方案，反映了NIDS如何随着新攻击类型的出现而不断更新。该框架通过统一的处理流程——包括特征处理、平衡与非平衡采样以及固定的二元标签空间——实现了对不同物联网和企业数据集中各种持续学习策略的系统性评估。其次，我们在三种真实的入侵数据集上，使用三种深度学习架构，在平衡和非平衡环境下，与传统算法及三种无监督异常检测器进行了实验比较。我们通过一系列量化指标，如宏观F1值、平均遗忘率、PR-AUC、高召回率下的假阳性率以及每次攻击的F1值，再加上训练时间开销和峰值CL状态内存，来分析系统的部署成本。最后，我们在九种反映随时间变化的攻击分布的序列任务场景下，对比了八种主要类别的持续学习策略——包括权重继承、正则化、重放及其组合形式，并以联合训练作为上限，同时还对正则化强度、重放缓冲区大小和任务顺序进行了敏感性分析，以评估各策略的稳健性。本文的其余部分结构如下：第2节回顾了持续学习和物联网NIDS的相关研究；第3节详细介绍了我们所提出的框架及具体的持续学习策略；第4节描述了实验设置，包括数据集和评估方案；第5节呈现实验结果；第6节讨论研究结论的意义；第7节总结全文。

章节摘录：网络安全中的持续学习。持续学习旨在解决从数据流中学习的同时不遗忘先前获取知识的难题。这类策略大致可分为正则化、重放和基于架构的方法，最近还有针对特定挑战如对抗性防御的改进方案。在NIDS领域，这意味着模型需要适应新的攻击模式，同时不能降低对历史威胁的检测性能。在这一框架下，有三类主要任务……

方法论：本节详细介绍了为物联网NIDS设计的持续学习框架，用于评估各种持续学习策略。基于第2节所指出的研究缺口，该框架采用模块化设计，包括数据处理流程、持续学习策略以及严格的增量训练方案，用于评估领域递增学习场景下的知识保留情况。

UQ-IoT-IDS-2021：我们使用了UQ-IoT-IDS-2021数据集，该数据集包含了在各种攻击场景下来自真实物联网设备的网络流量。原始数据包捕获信息通过Kitsune特征提取器转换为100个时间统计特征，这些特征总结了五个指数加权时间窗口（100毫秒、500毫秒、1.5秒、10秒和1分钟）内的流量级行为（如数据包大小统计和到达间隔时间）；当前数据包长度也会被添加进来，形成每个数据包的特征。

评估：本节报告了对第3节中介绍的持续学习策略的实证评估结果。评估内容围绕实践者在为自适应NIDS选择持续学习策略时面临的问题展开——在不同攻击逐渐增加的情况下，哪一类方法能保持性能稳定。第5.3节分析了不同数据集上各种持续学习策略的对比性能，第5.4节探讨了遗忘与稳定性问题以及基础架构对排名的影响，第5.5节则描述了在不同类别下的表现情况。

研究发现总结：评估结果在三个数据集、三种神经网络架构以及非平衡场景下都支持六个结论：首先，重放是缓解NIDS中灾难性遗忘现象的最有效方法——没有重放机制，即使使用最强的正则化方法，平均遗忘率也仍会高于0.32；其次，仅依靠正则化方法（如EWC、LwF、SI）并不能比权重继承方法带来更好的性能，而将正则化与重放结合使用也不会比单独使用重放方法有明显优势；第三……

结论：我们研究了在领域递增学习场景下适用于物联网NIDS的持续学习策略，此时检测目标保持不变，而攻击分布则会随时间变化。为此，我们设计了一个基于增量训练和累积测试方案的持续学习评估框架，反映了NIDS在实际中如何随着新攻击类型的出现而不断更新。通过使用三种真实世界的数据集和三种深度学习架构，我们对这些策略进行了测试……

作者贡献声明：Oliver Delgado负责撰写原文初稿、软件开发、方法设计、研究实施、数据整理和概念构思；Hyunjae Kang负责审稿与编辑、可视化处理、结果验证、软件开发和方法设计；Ulysses Lam同样负责审稿与编辑、可视化处理、结果验证和数据整理；Jung Taek Seo负责监督工作、概念构思；Dan Dongseong Kim负责审稿与编辑、监督工作、项目管理以及概念构思。

利益冲突声明：作者声明没有已知的财务利益或个人关系可能影响本文的研究成果。

致谢：本研究得到了韩国政府能源技术评价与规划院（KETEP）的资助，该项目由韩国产业通商资源部支持（项目名称为“构建网络物理攻击响应系统与安全管理系统，以提高实时分布式资源的可用性”，编号为RS-2023-00303559）。

Oliver Delgado | Hyunjae Kang | Ulysses Lam | Jung Taek Seo | Dan Dongseong Kim
澳大利亚昆士兰大学电气工程与计算机科学学院，布里斯班，QLD 4072