面向物联网网络中小样本和零日入侵检测的可解释元学习

《Internet of Things》：Explainable meta-learning for few-shot and zero-day intrusion detection in IoT networks

　　

**摘要**

机器学习入侵检测系统（IDS）在应对物联网（IoT）中的罕见攻击家族和未见过（零日）威胁时面临困难，而不透明的决策又阻碍了分析员的信任。我们提出了一种可复现的框架，将基于优化的元学习与基于度量的元学习相结合，并对可解释性进行量化评估，以用于小样本和零日入侵检测。我们将七种元学习器——MAML、FOMAML、Reptile、Meta-SGD、ANIL、BOIL和原型网络——与LightGBM和1-D CNN基线模型在ASEADOS-SDN-IoT、RT-IoT2022和UNSW-NB15三个数据集上进行比较。实验采用了无训练/测试泄漏的协议，包括分层70/10/20划分、ANOVA选择30个特征以及三阈值SMOTE重平衡，且全部仅在训练集上拟合；记录在案的例外情况是，标签监督的特征选择器也能看到被扣留的零日攻击家族的标签。零日泛化能力通过情节式$K=20$-shot对被扣留攻击家族的分类以及模型无关的开放集新颖性检测来评估。使用SHAP和LIME解释每个模型，并用八个指标评估解释质量。原型网络在情节式宏F1上表现最强（0.75），优于基于梯度的变体（0.07–0.49）；当预测被限制在情节类时则为0.43-0.53。然而，LightGBM和Meta-SGD的开放集AUROC值可达0.997。理论分析解释了这一区别：原型网络不需要类特定参数，而基于距离和ReLU的softmax置信度可以远离数据增长。适配后的元学习器在每1000条流的推理时间低于0.75毫秒，带来了可观的CPU加速效果。SHAP在忠实度和稀疏度方面更优，而LIME的不忠度更低；解释器之间的一致性适中（0.47–0.58）。完整的流水线和工件已公开发布。

**引言**

物联网（IoT）设备的大量普及使得现代网络的攻击面扩张速度远超防御工具的跟进能力：新型攻击家族不断涌现，而它们产生的流量最初是稀缺的、无标签的，且与训练存档中的任何数据都不相似。基于学习的入侵检测系统（IDS）已成为保障IoT部署安全的主流范式，在攻击家族于训练数据中充分表示时取得了出色结果。梯度提升树和深度神经网络等监督分类器在精心策划的基准测试中通常报告近乎完美的准确率，这一成功推动了它们在学术原型和商业网络监控产品中的采用。

元学习——"学会学习"——最近作为一种互补范式出现，瞄准了不同的运行模式：元学习算法不是将固定的决策边界拟合到大规模标注语料库，而是在一个由小样本任务构成的分布上优化快速适应能力。诸如MAML [1]和原型网络 [2]等算法产生的初始化参数或嵌入表示，仅凭K个标注示例即可专门化为新颖类别，这一特性与网络安全分析员在运营环境中实际分诊新型攻击家族的方式自然对应。在IoT入侵检测领域，Lu等人 [3]将小样本MAML应用于IoT流量，Yan等人 [4]的元学习IDS将样本生成、特征映射和度量模块相结合用于5G工业互联网流量，[5]提出了一种面向IoT的自适应MAML框架，每种方法都报告了从少量标注样本中有效适应的能力。与此同时，在任何安全运营环境中部署学习检测器时，越来越受到第三个要求的约束，即原始准确率之外的正交需求：分析员必须能够审查某条流为何被标记，这使得不透明的预测器不被认可，除非它们配有可靠的事后解释：Sharma等人 [6]使用SHAP和LIME两种方法解释深度IoT IDS，Gaspar等人 [7]则展示了一种基于MLP的IDS，表明在使用此类解释之前必须通过扰动分析进行验证。这三条线索——长尾类分布、零日新颖性和对可审计决策的需求——共同构成了本研究定位的背景。

尽管这一领域发展迅速，但三个差距限制了现有文献对元学习在IoT入侵检测中的应用所能得出的结论。

**(i) 算法覆盖范围狭窄。** 已发表的评价通常只在一个或两个数据集上考虑一种或两种元学习器，这使得无法得出关于哪一类元学习——二阶、一阶、仅头部、仅主体或基于度量的——实际上适合网络遥测数据的结论。Lu等人 [3]和 [5]的基于MAML的检测器各自仅评估了一种基于优化的学习器，Yan等人 [4]的系统仅涉及一种基于度量的设计（表1），而第2节综述的Q1期刊系统至多评估一到两种元学习器，很少在相同协议下对基于度量的和基于梯度的家族进行对比，且通常不将已见类别上的小样本性能与真正的零日泛化能力区分开来。

**(ii) 零日协议不一致且过于宽松。** 许多工作在元训练期间存在的类别上评估"小样本"性能，从而高估了新颖泛化能力 [8]。大量零日检测文献将该问题框定为异常或开放集检测——面向社交IoT边缘的深层Q网络启发式方法 [9]、具有差异性加权的不相似开放集识别 [10]，以及基于DQN和脉冲DQN的IIoT检测器通过重构误差标记未知攻击 [11], [12]——这些方法标记某条流为未知而不指明其家族。检测是不可或缺的——它是在新家族的任何示例被标记之前唯一能提出的问题——但它与分析员在标记了几条被标记的流之后命名该家族是不同的问题。先前的工作通常只单独评估其中一种；所缺失的是对同一被扣留家族上同时进行两者的评估，以便研究两者之间的交接过程。

**(iii) 可解释性未经测量。** 可解释性即使在有涉及时，也仅通过少数几个SHAP图进行说明，几乎从未进行过量化评估。近期工作量化了监督IDS模型的SHAP和LIME解释的质量，并表明该质量在不同模型和解释器之间差异显著，因此在使用解释之前必须进行检查，以确认可在安全运营中信赖 [13]；迄今为止，尚无任何IDS研究对元学习检测器的解释进行评分。

这些差距的综合意味着，目前该领域缺乏一个单一、受控的基准，实践者可以据此决定部署哪一类元学习，如何将真正的零日新颖性检测与小样本分类区分开来，以及所得到的解释是否确实值得信赖。

本研究的研究动机直接源于IoT安全团队的运营现实。首先，实际流量的类分布极其长尾：新型或罕见攻击家族，按定义而言，在需要响应之前仅被观察到极少数次，而传统的监督模型——包括深度网络——对这类类别会过拟合或忽略，正如Guo [8]对基于ML的零日检测的综述和Ahmad等人 [14]的系统性文献综述所指出的。其次，零日攻击完全没有任何历史签名，因此已部署的检测器必须从分诊期间收集的少量标注示例中适应，而不是从头重新训练，这正是Lu等人 [3]的小样本MAML检测器所针对的场景。每次观察到新家族时就从头重新训练监督模型在边缘计算环境下在计算和运营上都是不可行的，因为计算资源和重新训练窗口都极为稀缺；而从二十条标注流中在秒级内适应的元学习初始化参数则更契合这一约束。第三，而且越来越是一个监管问题而非仅仅是便利性问题，分析员必须能够在事后为检测决策提供正当理由，这促使我们将任何候选检测器与已经过验证而非仅假设其质量可信赖的解释配对。这三种压力促使我们建立一个基准，在统一、无训练/测试泄漏的实验协议下联合评估元学习家族、零日泛化能力和解释质量（被扣留的零日家族从所有模型训练中排除，但不从标签监督的特征选择器中排除，见第3.1节），而非像先前的工作那样进行孤立评估。

正式地，本文所解决的问题是三个方面的。给定一个类分布呈长尾的标注IoT/网络流数据集，(1) 应如何训练检测器，使其既能分类被充分表示的攻击家族，又能分类完全从训练中扣留的攻击家族，并从分诊时收集的仅K条标注支持流中进行适应；(2) 在方法论上应如何将以前未见过家族的检测与在少量标注示例可用之后对该家族的分类区分开来，因为这些是具有不同失败模式的不同的运营任务；(3) 应如何对附加在任何此类检测器上的事后解释进行量化评估，以使分析员对被标记决策的信任是有依据的而非仅仅是说明性的。目前没有任何现有研究在统一的、可复现的、模型无关的协议下，在多个异构IoT/网络数据集上始终如一地回答所有三个问题——而这正是本文旨在解决的问题。

遵循第1.3节的动机和第1.4节的公式化，本研究的具体目标是：

1. 在三个异构的公开IoT/网络数据集上，对涵盖所有主要算法家族的七种元学习器——MAML、FOMAML、Reptile、Meta-SGD、ANIL、BOIL和原型网络——与强监督基线模型（LightGBM和1-D CNN）进行基准测试，采用相同的预处理方法。

2. 设计并应用零日评估协议，其中稀有攻击家族从所有元训练情节中扣留（第3.4节），并通过情节式小样本分类和统一的模型无关开放集新颖性检测评分评估这些家族，该评分适用于所有基线和元学习模型。

3. 使用涵盖忠实度、简约性、鲁棒性和方法间一致性的指标组对每个模型的SHAP和LIME解释质量进行量化，而非仅仅进行说明。

4. 将完整流水线——数据清洗、无泄漏的划分与缩放、特征选择、类别重平衡、训练、评估、解释和图表生成——作为单一的带种子的可复现脚本发布。

本文通过单一的端到端基准及其开源实现关闭了第1.2节识别的差距，并回答了第1.4节的三个问题。其贡献与第1.5节的目标一一对应：

1. **统一的IoT IDS元学习基准。** 涵盖所有主要家族的七种元学习器——MAML、FOMAML、Reptile、Meta-SGD、ANIL、BOIL和原型网络——在完整标签空间上通过共享全局头部进行情节式训练，并在三个公开IoT/网络数据集上与LightGBM和1-D CNN在相同的预处理下进行比较：ASEADOS-SDN-IoT、RT-IoT2022 [15]和UNSW-NB15 [16]。与通常孤立评估一种或两种元学习器的先前工作不同，此设计允许在二阶、一阶、仅头部、仅主体和基于度量的适应策略之间进行直接的、受控的比较。

2. **被扣留家族的零日协议与小样本适应。** 稀有攻击家族从所有元训练情节中扣留（但不从标签监督的特征选择器中扣留，见第3.1节），并通过情节式（每类$K=20$条支持流）评估以及统一的模型无关开放集新颖性检测评分进行评价，该评分应用于每个基线和元学习模型；此外，全局K-shot适应还产生可与监督基线直接比较的全测试集指标，后者作为上界参考。这明确地将新颖家族的分类与其检测区分开来——两个连续的分析员分诊阶段，先前的工作通常孤立地评估它们。理论分析（第3.6节）说明了为何这两个阶段由不同的模型胜出。

3. **可解释性量化审计。** 每个模型都使用SHAP [17]和LIME [18]进行解释，解释本身使用八个指标进行评估，涵盖忠实度（保真度、不忠度、全面性、充分性 [19], [20]）、简约性（稀疏度）、鲁棒性（稳定性）和方法间一致性（特征一致性、排名相关性）。据我们所知，没有先前的IDS研究将此类审计与元学习检测器相结合；最接近的一项 [13]仅对监督模型使用六个指标对SHAP和LIME进行评分。

4. **可复现性。** 完整流水线——数据清洗、无泄漏的划分与缩放、ANOVA特征选择、三阈值重平衡、训练、评估、解释和图表生成——作为单一的带种子脚本发布；本文中的所有表格和图表均由该脚本自动生成。代码连同实现本次修订中所有敏感性、校准和计时分析的配套脚本，已在github.com/youssefboulkhiout/explainable-meta-ids公开提供。

本文其余部分的组织如下：第2节综述了关于入侵检测中少样本和元学习、零日攻击检测以及IDS可解释AI的相关工作。第3节详细介绍了所提出的框架，包括数据准备、基线学习器、带共享全局头部的元学习协议、全局K-shot适应和零日评估流程、可解释性审计，并以理论分析收尾，该分析为这些设计选择提供了动机（第3.6节）。第4节描述了实验设置，涵盖三个基准数据集和完整的超参数配置。

第5节报告并分析了跨越六个难度递增阶段的结果——封闭集性能（第5.1节）、回合级少样本和零日分类（第5.2节）、封闭集下对留出家族的恢复（第5.3节）、开放集检测（第5.4节）、解释质量（第5.5节）以及计算成本（第5.6节），随后进行敏感性和稳健性分析（第5.7节），并讨论研究结果的实际意义（第5.8节）和局限性（第5.9节）。第6节概述了未来工作，第7节对论文进行总结。
章节片段
相关工作
本节回顾了本文借鉴的三个文献领域：用于入侵检测的少样本和元学习（第2.1节）、零日攻击检测（第2.2节），包括用于工业物联网的深度强化学习开放集检测器，以及用于IDS（入侵检测系统）的可解释人工智能及其解释质量评估（第2.3节）。本节以表1的比较综合作为结尾。
提出框架
图1总结了该框架：共享的数据准备前端为两个并行分支提供输入——全监督基础学习器和回合级元训练适配器——它们的输出汇聚到共同的评估、零日和可解释性后端中，从而确保每个下游数值都在相同条件下计算。设 ??={(????,????)}????=1 表示一个清理后的数据集，其中 ????∈???，????∈??={1,?,??}。该流水线在三个数据集上按顺序且完全相同地执行，并在实验设置中进行了描述。
本节规定了语料库（第4.1节）、完整的超参数配置以及执行环境（第4.2节）；与发布的脚本一起，它们精确地定义了该实验。
结果与讨论
我们以六个难度递增的步骤报告模型的结果：完整测试集上的封闭集性能（第5.1节）、回合级少样本和零日分类（第5.2节）、封闭集下对留出家族的恢复（第5.3节）、未知攻击的开放集检测（第5.4节）、解释质量审计（第5.5节）以及计算成本（第5.6节）。第5.7节报告敏感性和稳健性分析，第5.8节综合了这些结果，逐一实验。
未来工作
上述发现和局限性提示了六个方向：(i) 现实的新颖性——在多个随机种子上进行跨数据集、时间分割和留一法家族的零日协议；(ii) 专为新颖性设计的检测器——特征空间、基于能量和重建误差的拒斥器（如 DC-IDS [11]）、距离感知原型和开放集元训练目标，使一个模型既能检测又能命名新家族；(iii) 变化的标签空间——类增量元学习
结论
回到第1.6节宣布的贡献，我们提出了一个统一、无训练/测试泄漏且完全可复现的框架（有记录的唯一例外是留出家族被排除在所有模型训练之外，但未排除在标签监督的 ANOVA 选择器之外，第3.1节），该框架在三个异构的物联网/网络数据集上对七个元学习器与强监督基线进行了少样本和零日入侵检测的基准测试，并且——独特地——将此与一个...结合。
CRediT 作者贡献声明
Youssef Boulkhiout：写作——审阅与编辑，写作——初稿，验证，项目管理，方法论，形式化分析，概念化。Lakhdar Goudjil：写作——审阅与编辑，验证，方法论。Samir Balbal：写作——审阅与编辑，指导。Khaled Nasri：验证，项目管理。
利益冲突声明
作者声明他们没有已知的竞争性经济利益或个人关系，这些利益或关系可能会影响到本文报告的工作。
Youssef Boulkhiout | Lakhdar Goudjil | Samir Balbal | Khaled Nasri
谢夫01大学——法赫特·阿巴斯分校，理学院，计算机科学系，阿尔及利亚，谢夫，19000