基于优化主动样本选择策略的精准物联网入侵检测方法

《Ad Hoc Networks》：Toward accurate IoT intrusion detection using optimized active sample selection strategies

　　摘要：入侵检测系统在保护物联网网络免受各类网络威胁方面发挥着重要作用。然而，传统的机器学习与深度学习模型仍存在诸多问题，如严重的类别不平衡、依赖人工调整超参数，以及获取标注数据成本高昂。本研究以TON_IoT数据集为研究对象，针对这些局限提出了改进方案。为解决数据不平衡问题，采用了基于距离加权的随机仿射阴影采样技术；同时对LeNet模型应用贝叶斯优化，得到了LeBayesNet模型，该模型能为高精度威胁检测提供最优配置。此外，EntroLeNet将基于熵的不确定性引入学习过程，以提高模型的鲁棒性。MargiLeNet则利用基于边际的主动学习方法，对最不确定的样本进行标注。实验结果表明，LeBayesNet、MargiLeNet和EntroLeNet在准确率上分别比现有机器学习与深度学习模型高出6.90%、5.80%和4.27%，在接收者操作特征曲线下面积上分别高出6.19%、6.43%、8.05%和7.52%。同时，这三种模型还将汉明损失分别降低了72.84%、60.49%和43.21%。为确保模型的鲁棒性与泛化能力，评估过程中采用了10折交叉验证，并通过曼-惠特尼U检验验证了性能提升的统计显著性。此外，通过沙普利加性解释与局部可解释模型无关解释方法，提升了模型的可解释性，有助于了解特征的重要性及决策过程。

1. 引言与背景
物联网使得智能家居、工业系统、医疗保健及交通等领域得以实现快速发展，它是由大量相互连接的设备构成的庞大网络，这些设备能够通过数据通信技术实现高效协作，从而带来显著优势[1][2]。这类物联网设备通常在几乎无需人工干预的情况下运行，极大提升了效率与便利性。但它们日益广泛的普及、高度的多样性以及较为薄弱的安全机制，使其容易遭受各种网络攻击[3][4]。
物联网设备面临的攻击往往利用了弱密码、更新不足以及处理能力有限等问题。这类攻击可能危及数据保密性、干扰服务功能，甚至控制设备并将其用于构建僵尸网络，进而长期秘密运作[5][6]。与传统计算机系统不同，大多数物联网攻击难以被及时发现，因为这些设备通常监控力度较弱，且使用寿命较长，这就需要采取主动且智能的防护措施来保障其安全[7][8]。
由于物联网攻击具有动态特性，传统的基于特征签名的检测方法往往效果不佳。而机器学习与深度学习作为一种数据驱动且具备自适应能力的手段，可应用于物联网环境中的行为分析、异常检测及实时防御[9][10]。为了在资源有限的条件下实现强大的安全防护，亟需开发出可扩展且轻量级的安全机制与协议。本研究是对已有工作的进一步拓展[11]。
在[7]中，研究者提出了一种创新的安全架构与攻击检测方法，借助深度学习模型有效识别恶意设备。该方法采用卷积神经网络提取数据的精确特征表示，再通过长短期记忆网络对这些特征进行分类。实验所使用的数据集包含20台感染了Raspberry Pi系统的物联网设备，该方法的攻击检测准确率高达96%，其性能也优于近期出现的多种基于深度学习的攻击检测方法。

表1. 缩写与说明
缩写 说明
AIA 人工智能
BO 贝叶斯优化
GB 梯度提升
GRU 门控循环单元
LIME 局部可解释模型无关解释
MCC 马修斯相关系数
MLP 多层感知器
ProWRA S基于距离加权的随机仿射阴影采样
PR-AUC 精确率-召回率曲线下面积
ReLU 修正线性单元激活函数
ROC-AUC 接收者操作特征曲线下面积
Sigmoid 二分类任务中最终全连接层所使用的 sigmoid激活函数
SHAP 沙普利加性解释
10-FCV 10折交叉验证
b(1) 第一个卷积层中的偏置项
f(x;θ) 由可学习权重参数化的函数，可将输入x映射为预测概率y?
p1 第一个最大池化层的池化窗口大小
p2 第二个最大池化层的池化窗口大小
pk(2) 第二个卷积层经过最大池化后的输出
wj(1) 第一个卷积层中的核权重
wj(2) 第二个卷积层中的核权重
xi 第i个样本的输入数据向量
y?i 第i个样本的预测概率，用于指示其所属类别
yi 第i个样本的真实标签
θ 模型中的一组可学习权重

在[8]中，研究者提出了一种面向深度学习的攻击识别与缓解方法。本研究则为物联网开发了一种全新的四阶段攻击检测方法。数据预处理的第一个步骤是数据标准化，随后会提取经过优化的递归特征消除结果，以及基于二阶技术指标（如平均真实波幅、累积波动率、交叉波动率以及改进后的指数移动平均线）的特征，同时还包括更高阶的统计特征（如峰度、方差、偏度）。通过CMIHBO方法选出最优特征。攻击的存在是通过整合多种分类器的输出平均值来检测的，这些分类器包括循环神经网络、双向门控循环单元以及双向长短期记忆网络。在Cat and Mouse Integrated HBO方法中，会对双向长短期记忆网络的权重进行精细校准。一旦检测到攻击事件，就会立即实施推荐的BAIT针对性缓解策略，将恶意节点从网络中移除。

在[10]中，研究者使用了RT_IoT2022数据集，该数据集展现了更为复杂的物联网攻击场景。他们采用了受生物启发的元启发式算法——粒子群优化方法，用于特征选择与优化，这一方法能有效降低计算负担，进而提升模型性能。研究还对比了支持向量机、K最近邻算法、分类提升树、朴素贝叶斯、卷积神经网络以及长短期记忆网络等多种模型在区分正常流量与恶意流量方面的能力。

在[12]中，研究者提出了一种结合人工神经网络、卷积神经网络、长短期记忆网络以及循环神经网络的僵尸网络识别系统。他们同时使用这些单一模型以及所提出的ACLR模型进行性能对比，研究采用了UNSW-NB15数据集，该数据集涵盖了九种不同的攻击类型：正常流量、普通攻击、漏洞利用攻击、模糊测试攻击、拒绝服务攻击、侦察攻击、分析攻击、后门攻击、壳代码攻击以及蠕虫攻击。实验结果表明，所提出的ACLR模型准确率可达0.9698，充分体现了其在识别僵尸网络攻击的复杂模式与特征方面的有效性。通过10折交叉验证，当k值为3、5、7和10时，该模型的准确率分别为0.9749，这证明了其良好的鲁棒性与泛化能力。该模型能够精准检测僵尸网络，其接收者操作特征曲线下面积高达0.9934，精确率-召回率曲线下面积则为0.9950。

表2. 相关工作总结及其局限性，以及我们的解决方案
所用方法 局限性 我们的解决方案
基于卷积神经网络进行特征提取、长短期记忆网络进行攻击分类[7] 无法处理类别不平衡问题 采用ProWRA技术实现有效的类别平衡
基于递归特征消除、统计指标、CMIHBO方法，以及由循环神经网络、双向门控循环单元、双向长短期记忆网络组成的集成模型[8] 计算复杂度过高 通过LeBayesNet优化降低计算量
基于粒子群优化，结合支持向量机、K最近邻算法、分类提升树、朴素贝叶斯、卷积神经网络、长短期记忆网络等模型[10] 未进行数据平衡处理 采用ProWRA解决类别不平衡问题
结合人工神经网络、卷积神经网络、长短期记忆网络、循环神经网络的混合模型，并通过10折交叉验证进行评估[12] 未对超参数进行优化 采用贝叶斯优化优化LeNet模型
基于联邦学习，结合自编码器与通过随机搜索优化的深度学习模型[13] 标注效率较低 采用MargiLeNet与EntroLeNet实现基于主动学习的标注
结合XGBoost与Light Gradient Boosting Machine模型，采用合成少数类过采样技术进行平衡与特征分析[14] 合成少数类过采样技术无法处理边界样本 采用ProWRA通过为边界样本赋予特定权重来解决这一问题
基于图结构相似度与差异度的主动学习方法[15] 图处理会导致较高开销 采用MargiLeNet实现针对表格数据的轻量级主动学习

在[13]中，研究者研究了基于无监督与有监督深度学习模型的物联网设备入侵检测系统训练方法，这些模型是通过联邦学习进行训练的。他们将经过联邦学习训练的模型结果，与未经过联邦学习训练的模型在包含9台物联网设备的N-BaIoT数据集上的表现进行了对比。研究还采用了随机搜索方法对深度学习模型的超参数进行优化，以提高模型准确率，并通过多种性能指标评估预测结果。实验表明，在对这9台物联网设备进行评估时，经过联邦学习训练的无监督自编码器模型在所有指标上的整体表现最为优异。

在[14]中，研究者借助集成分类器——极端梯度提升树与轻量梯度提升机，分析了物联网流量的脆弱性，以此识别各类网络攻击。他们采用合成少数类过采样技术对数据集中的类别进行平衡，还在RT-IoT2022数据集上进行了特征重要性分析。该研究还总结了这些分类器的优点与缺点，并提出了相应的实施框架，用以提升物联网网络的安全性。

在[15]中，研究者提出了一种基于数据来源信息的入侵检测框架，并融入了主动学习机制。该框架设计了两种新的主动学习策略：最相似图查询策略与最大差异查询策略。这两种采样策略会根据数据来源图的相似程度，或是根据当前训练集样本之间高冗余度与巨大差异度的需求，挑选样本来更新训练集，从而提升学习过程的效率与效果。

近期的研究开始探索少样本学习技术在物联网入侵检测中的应用，旨在减少对大规模标注数据集的依赖。Lu等人[16]提出了一种基于模型无关元学习的少样本物联网入侵检测模型，仅需少量标注样本即可检测新类型的攻击。Bovenzi等人[17]研究了少样本学习在物联网攻击流量分类中的应用，发现其F1分数优于非少样本学习的基准模型。Liang等人[18]提出了一种针对分布式工业物联网的变分少样本学习模型，重点解决了数据不平衡与分布外攻击问题。Dina等人[19]提出了FS3模型，该模型结合了自监督学习、少样本学习、对比训练以及K最近邻算法，用以应对标注数据不足与类别不平衡的问题。与这些方法不同，我们的框架通过主动学习选取最具信息量的样本进行标注，采用基于距离加权的随机仿射阴影采样技术平衡少数类攻击样本的比例，利用贝叶斯优化提升LeNet模型的性能，同时借助沙普利加性解释与局部可解释模型无关解释方法提高模型的可解释性。因此，所提出的框架既补充了少样本学习领域的研究，也为降低标注成本、解决类别不平衡问题以及提升物联网入侵检测的可解释性提供了新的解决方案。表1列出了文中使用的缩写与符号，表2.1则总结了相关研究工作。

1.1. 研究缺口
以往研究中存在的不足可归纳为以下几点：
•以往的研究难以有效解决类别不平衡问题，导致模型性能存在偏差，总是偏向于多数类。
•许多入侵检测模型缺乏系统的超参数调优机制，往往导致分类准确率无法达到最优水平。
•人们常常忽视标注数据数量有限这一问题，这不仅会增加训练成本，还会降低模型对未知样本的泛化能力。
•现有的主动学习方法往往无法准确筛选出最具信息量或最不确定的样本，从而导致额外的标注工作量。
•目前大多缺乏对研究结果的严格统计验证，这使得研究结果的可靠性与可重复性受到质疑。
•评估方法往往不够统一，也很少采用交叉验证来确保所得性能指标具有普遍适用性。
•入侵检测模型的可解释性与可理解性较差，这一点很少被重视，这不仅增加了理解模型选择过程的难度，也降低了人们在实际应用中对这些模型的信任度。

1.2. 研究贡献
本文针对物联网生态系统中的入侵检测问题，提出了一种更为可靠的入侵检测系统，有效解决了数据不平衡、超参数优化以及标注数据稀缺等关键问题。
•为解决类别不平衡问题，本文提出了ProWRA技术，该技术能够生成具备边界感知能力的合成样本，从而增强少数类样本的代表性。
•本文采用贝叶斯优化技术对LeNet模型进行优化，得到了性能更优异的LeBayesNet模型，该模型的检测效率更高。
•此外，本文还提出了两种基于主动学习的模型：MargiLeNet，该模型采用基于边际的主动学习方法，高效筛选并标注最不确定的样本；EntroLeNet则基于熵的主动学习方法，进一步提升在不确定性条件下的样本筛选效率。这两种模型都能在降低标注成本的同时，提高模型的泛化能力。
•为确保评估结果的可靠性，本文采用了10折交叉验证方法，并通过曼-惠特尼U检验验证了不同模型之间的性能差异是否具有统计显著性。
•最后，为提升模型的可解释性与可理解性，本文采用了沙普利加性解释与局部可解释模型无关解释方法，这些方法能够为人们提供有关模型运作机制及决策过程的宝贵洞察。

1.3. 论文结构
本文的其余部分结构如下：第2节介绍所提出的物联网入侵检测系统模型。第3节阐述仿真环境、实验结果、对比分析、资源消耗情况、统计分析、模型的泛化能力、消融实验，以及通过LIME与SHAP方法进行的可解释性分析。第4节则总结本文的研究结论，并指出未来的研究方向。2. 物联网入侵检测的拟议系统模型
该系统首先进行数据准备，如图1所示，通过最小-最大缩放和标签编码来确保数据的质量与一致性。为解决类别不平衡问题，采用了ProWRAS技术，该技术能在保持类别结构的同时生成接近决策边界的合成样本。此外，还引入了LeBayesNet以提高模型精度。MargiLeNet和EntroLeNet这两种主动学习方法则分别利用边际值和熵值来选择最具信息量的样本。表3列出了所使用的各种方法。

表3. 拟议方法概览
| 方法 | 描述 | 关键特点 |
|------|------|----------|
| ProWRAS | 用于处理类别不平衡的合成数据生成技术，可通过创建注重边界特征的少数类样本来提升其表现 | 注重边界特征的采样方式，能增强少数类样本的代表性 |
| LeNet | 专为物联网环境下的入侵检测而优化的基线CNN模型 | 结构轻量，特征提取效率高 |
| LeBayesNet | 经过超参数调优的LeNet优化版本，可提升分类性能 | 自动化超参数优化，检测精度更高 |
| MargiLeNet | 一种主动学习框架，通过选择靠近决策边界的样本来降低标注成本 | 基于边际值的不确定性采样，数据标注效率更高 |
| EntroLeNet | 另一种主动学习框架，依据最大熵原则选择样本以捕捉最不确定的实例 | 基于熵值的不确定性采样，泛化能力更强 |
| 10-FCV | 将数据分为10个子集的验证技术，有助于实现稳健可靠的模型评估 | 降低过拟合风险，确保模型具备良好泛化能力 |
| Mann–Whitney U检验 | 用于比较不同模型性能差异的非参数统计检验方法 | 不需要假设数据服从正态分布，可实现统计显著性检测 |
| SHAP和LIME | 用于解释模型预测结果并识别特征重要性的可解释AI技术 | 具有模型无关性，可提供局部及全局层面的解释 |

2.1 数据集描述
ToN_IoT数据集是一种结构完善的现代数据资源，旨在评估人工智能技术在物联网及工业物联网环境中的网络安全应用[20]。该数据集包含了多种类型的数据，如网络流量和遥测数据，这些数据均来自能够模拟现实世界中针对物联网系统的网络攻击的测试环境。该数据集由新南威尔士大学堪培拉分校工程与信息技术学院的物联网实验室开发。它为模拟攻击以及记录不同威胁场景下的系统行为提供了安全的测试环境。得益于其带标签且结构化的设计，ToN_IoT数据集便于开展监督学习和无监督学习任务。其中包含的真实网络流量进一步提升了其在实际应用中的可靠性和适用性。该数据集共有461,044条记录，涵盖45个特征，能够反映各类良性及恶意活动。为便于实验开展并控制计算量，研究人员选取了100,000条记录作为代表性子集，这样既保持了数据的分析完整性，又便于对基于深度学习与机器学习的入侵检测模型进行有效评估。表4列出了该数据集的部分特征。

表4. 数据集详细信息
| 类别 | 特征 |
|------|------|
| HTTP活动相关 | http_method、http_uri、http_trans_depth、http_version、http_request_body_len、http_status_code、http_user_agent、http_orig_mime_types |
| SSL活动相关 | ssl_version、ssl_cipher、ssl_resumed、ssl_established、ssl_subject、ssl_issuer、ts |
| 连接属性相关 | src_ip、dst_ip、src_port、dst_port、duration、proto、service、src_bytes、dst_bytes、conn_state |
| DNS记录相关 | dns_query、dns_qtype、dns_qclass、dns_rcode、dns_AA、dns_RD、dns_RA、dns_rejected |
| 违规指标相关 | weird_name、weird_addl、weird_notice |
| 流量统计相关 | src_pkts、dst_pkts、src_ip_bytes、dst_ip_bytes、missed_bytes |
| 标签信息相关 | label、type |

2.2 数据集预处理
为使ToN_IoT数据集适合用于入侵检测模型的训练与评估，需对其进行系统化的预处理。首先，从45个特征中剔除了IP地址、端口号以及时间戳（即src_ip、src_port、dst_ip、dst_port和ts），因为这些特征无法为检测任务提供有效信息。剩余的40个特征中包含一个目标变量，因此可用于模型训练与评估的特征共有39个。为保持各类攻击类型的比例，并提升计算效率，从原本包含461,044条记录的完整数据集中选取了100,000条记录作为子集。虽然完整数据集信息更为全面，但会大幅增加计算量和训练时间，且并不能显著提升分类性能。因此，有必要缩小数据集规模，同时仍保持数据的代表性。为此采用了分层随机抽样法，该方法能够确保抽样数据集中的类别分布与原始数据集保持一致。也就是说，如果某种攻击类型在完整数据集中占一定比例，那么在缩小后的数据集中也会保持相同的比例。这种方法保证了缩小后的数据集能够公平地反映原始数据的特点，从而使得模型能够在不引入偏差、也不改变类别分布的情况下高效地进行训练与评估。由于数据集中的部分特征（如DNS字段、SSL参数、HTTP元数据以及日志指标）属于对象型分类特征，因此需通过标签编码将这些分类变量转换为对应的数值形式。标签编码技术[21]会为特征列中的每个不同类别分配一个唯一的整数值，从而帮助深度学习模型更好地理解非数值数据[22]。从数学上来看，若xi表示特征列中的一个类别，则标签编码器会将其映射为唯一的整数值yi，满足以下关系：(1)yi=f(xi)，其中f:类别→Z。输入特征以及用于表示各类网络活动或攻击的目标列都会经过这样的处理。随后会对数据进行归一化处理，所有特征值都会通过最小-最大缩放被映射到同一尺度上。通过将特征值缩放到预定范围（通常为[0,1]），该技术可避免某个特征因数值大小过高而占据主导地位[23]。具体的缩放公式如下：(2)Xscaled=X?Xmin/Xmax?Xmin，其中X为原始特征值，Xmin和Xmax分别为该特征在整个数据集中的最小值和最大值[24]。最后，多类目标变量会被转换为二进制类别，以便进行二元分类。除良性类别（标签值为5）外，其余所有类别都被标记为1（代表攻击），而良性实例则被标记为0。这种二进制标记方式让模型专注于区分良性与恶性活动，从而简化了入侵检测的工作流程。

2.3 利用邻近加权随机仿射阴影采样实现数据平衡
ProWRAS是一种先进的过采样技术[25]，专门用于在保持原始数据分布不变的前提下提升少数类样本的代表性，从而解决类别不平衡问题。本研究将该技术应用于存在类别不平衡的ToN_IoT数据集，成功检测出了少数类的入侵尝试。该技术会将那些靠近决策边界的少数类样本归为一组，并给予那些更靠近多数类样本区域的组更高的权重，因为这些区域更容易出现误分类现象。设D={(xi,yi)}i=1n为该数据集，其中xi∈Rd，yi∈{0,1}，类别y=1代表少数类。ProWRAS会识别出靠近决策边界的少数类样本构成的簇Ck?Dmin。每个簇的重要性权重wk是根据其与多数类样本Dmaj的距离来计算的，计算公式为：(3)wk=1|Ck|∑x∈Ckminx′∈Dmaj‖x?x′‖。该技术通过分析少数类样本与多数类样本之间的“地理关联”来实现这一目标[25]。这些经过加权处理的簇会生成合成样本，从而提升分类精度，尤其是针对那些处于决策边界附近的区域。为了生成一个合成样本，ProWRAS会从某个簇Ck中选取一部分阴影样本构成子集S，其样本数量由max-conv参数决定[26]。随后，该合成样本xsyn会被计算为所选样本的平均值，计算公式为：(4)xsyn=1|S|∑x∈Sx。此外，为保证样本的多样性，还可以对所选阴影样本的协方差进行监控，计算公式为：(5)ΣS=1|S|?1∑x∈S(x?x?)(x?x?)T，其中x?为子集S中样本的平均值。通过控制ΣS的值，ProWRAS能够维持少数类样本的代表性结构。在应用数据平衡处理之前，该数据集包含100,000条记录以及39个特征。经过平衡处理后，训练集包含104,112条记录，测试集包含26,028条记录，其中训练集的特征和标签格式分别为104,112×39，训练标签为104,112；测试集的特征格式为26,028×39，测试标签为26,028。这样的数据分布能够确保各类别的样本数量达到适当平衡，从而为模型的训练与评估提供可靠的基础。ProWRAS通过控制少数类合成样本与多数类样本之间的差异，确保合成样本能够准确反映多数类的特征，进而避免两类样本相互混合。通过灵活控制合成样本的数量及生成位置，max-conv和net-conv等参数有助于避免某一类别的样本过多，同时提升生成数据的多样性。在ToN_IoT数据集上应用ProWRAS后，数据集的类别分布更加均衡，有助于模型在数据分布不均的环境中更准确地识别那些罕见且细微的入侵模式。

2.4 问题建模
LeNet模型的目标是学习一个函数f(x;θ)，该函数由一组可学习的权重θ参数化，能够将输入xi映射为一个预测概率y?i∈[0,1]，该概率值反映了样本属于某一类别的可能性[27]。模型的训练过程是通过最小化二元交叉熵损失函数来实现的，具体公式为：(6)L(θ)=?1n∑i=1nyilog(y?i)+(1?yi)log(1?y?i)，其中y?i=f(xi;θ)为正类样本的预测概率。该损失函数会对那些置信度较高但预测错误的样本施加惩罚。针对一维输入的LeNet架构由一系列卷积层和池化层组成，之后是全连接层。一个带有ReLU激活函数的典型卷积层可以表示为：(7)zk=ReLU∑j=0m?1wjxk+j+b，其中m为卷积核的大小，wj和b分别为该层的权重和偏置值。每个卷积层的输出都会经过最大池化操作。后续的卷积层和池化层也遵循相同的结构。最终，经过池化处理后的特征会被展平，再传递给全连接层，从而产生最终的预测结果。卷积层和池化层之后是对输出数据进行展平处理，展平后的数据再传递给全连接层，最终形成预测结果。最后一个全连接层采用sigmoid激活函数，输出值位于(0,1)区间内，非常适合用于二元分类任务。LeNet模型还具有可解释性强、效率高等优点，其结构较为浅，参数数量较少，因此非常适合处理小型数据或表格结构的数据。由于其擅长识别结构化模式，该模型非常适用于实时入侵检测任务，能够快速、准确地区分良性与恶意流量。不过，由于架构较浅且特征提取能力有限，当处理的数据复杂度或规模增大时，LeNet模型的性能可能会出现下降。此外，面对类别不平衡或噪声较多的数据时，LeNet模型的泛化能力也可能受到影响。通过采用自适应学习率、正则化策略等优化工具，以及主动学习方法——即有选择地查询最具信息量的样本进行标注——可以有效缓解这些限制，进一步提升模型的鲁棒性和准确性。

2.5 拟议的LeBayesNet：基于贝叶斯优化的改进版LeNet
贝叶斯优化（BO）是一种强大的全局优化方法，能够在目标函数计算成本较高的情况下，找到深度学习模型最佳的超参数设置[28]。在ToN_IoT数据集中，正是通过使用贝叶斯优化来调整一维LeNet架构的超参数，从而实现入侵行为的识别。为估算目标函数f(x)的值，其中x包含多种超参数，如滤波器数量、卷积核大小、学习率、优化器类型以及全连接层的单元数量，贝叶斯优化会构建一个替代模型，通常采用高斯过程（GP）来预测结果[29]。其核心目标是通过尽可能减少f(x)的计算次数，来确定最优解x?=argmaxxf(x)。在每次迭代过程中，都会最大化探索与利用之间平衡的获取函数a(x)，以此寻找下一个最有潜力的超参数配置。通过合理地探索超参数空间[30]，该方法能够确保贝叶斯优化以最低的计算成本找到最优的LeNet模型配置。下载：下载高分辨率图片（219KB）下载：下载完整尺寸图片。用于二元分类的LeNet模型由两个一维卷积层、最大池化层、一个展平层、两个全连接层以及一个Sigmoid输出层组成。表5展示了贝叶斯优化在ToN_IoT数据集上得到的最佳超参数配置。搜索空间涵盖了不同的卷积层数量、滤波器数量、卷积核大小、全连接层单元数量、优化器类型以及学习率参数。对于第一个卷积层，理想的配置是使用20个滤波器，卷积核大小为3×3；第二个卷积层则使用48个滤波器，卷积核大小为5×5。用于96单元全连接层的自适应矩估计（Adam）优化器的学习率经过精确调整后为0.000867。这样的最优配置显著提升了模型在相应分类任务中的泛化能力和性能表现。全连接层负责整合这些特征以得出最终预测结果，而卷积层则负责检测数据序列特征中的时间模式。该1D卷积层的数学运算公式为：(8)y(i)=(x?w)(i)+b=∑j=0k?1x(i+j)?w(j)+b，其中x为输入数据，w为核函数（或滤波器），b为偏置项，k为核大小。图1展示了LeBayesNet的工作原理。LeBayesNet在入侵检测方面具有显著优势，它能自动确定识别复杂攻击模式的最优参数配置，从而降低人工调整超参数时的错误概率，提升检测系统的准确性与效率。LeBayesNet的工作机制如算法1所示。表5为优化后的超参数参数。超参数数值范围最优值filters_14–3220kernel_size_1{2, 3, 5}3filters_216–6448kernel_size_2{2, 3, 5}5dense_units16–12896optimizer{Adam, SGD}Adam学习率10?4 - 10?20.0008672.6. 主动学习主动学习是一种深度学习方法，算法可通过与用户交互来标记最具信息量的数据点。当标记数据稀缺或获取成本高昂，且希望用更少的标记样本实现高精度时，这种方法尤为有用。在主动学习中，模型会通过从未标记数据集中选择那些最有可能提升模型性能的数据点来迭代训练。那些不确定性最高或最模糊的样本会被优先标记，这样既能降低整体标记成本，又能提升模型对未知数据的处理能力。MargiLeNet在训练过程中利用MBAL来选择不确定性最高的样本进行标记[31]。不确定性的度量是通过计算预测的边际值来实现的，该值反映预测概率与决策边界的接近程度。边际值最小的样本被视为不确定性最高，会被选中用于标记。这种方法通过聚焦于最模糊的数据点来优化决策边界，进而提升模型的泛化能力，同时减少标记工作量。对于需要在高不确定性区域提升分类性能的场景，该方法尤为有效。另一方面，EntroLeNet采用EBAL方法，以熵作为衡量不确定性的指标，熵是用来表示不可预测性的一个参数[32]。熵用于衡量模型预测的不确定性：不确定性越高，熵的值就越大。模型会选择熵值最高的样本进行标记，这样就能让模型专注于那些最不确定的预测结果，尤其是模型信心最低的预测。这种方法提升了模型学习模糊样本的能力，有助于泛化，因为它侧重于探索输入空间中不确定的部分。数据集D被分为两个子集：占总数据量20%的测试集Dtest，以及占剩余80%的临时集Dtemp。在整个主动学习过程中，这个测试集不会被修改，仅用于最终评估。临时集Dtemp会被平分为两等份，一份作为初始标记训练集L0，占数据总量的40%，另一份作为未标记池U0，也占40%。2.6.1. 提出的MargiLeNet：基于边际值的主动学习LeNetMBAL是一种不确定性采样方法，模型在每次迭代中都会从未标记数据集中选择不确定性最高的实例进行标注[33]。在二元分类中，后验类别概率可用于量化这种不确定性。下载：下载高分辨率图像（255KB）下载：下载全尺寸图像如图2所示，LeNet模型使用训练集L0进行训练，而在主动学习过程的每次迭代中，都会从未标记池U0中选择模糊的样本。设f(x)表示正类 的预测概率，其中x∈Rd表示一个输入样本。x的边际不确定性定义如下：(9)u(x)=|f(x)?0.5|如图2所示，那些最接近决策边界、不确定性最高且u(x)值最小的样本，对训练最具参考价值。在每次迭代(t)中，模型会根据算法2选出不确定性值最高的Top N个样本：(10)St=argminx∈U0|ft(x)?0.5|,|St|=N，此处U0表示第t次迭代时的未标记池，ft则表示第t次迭代的模型。这些被选中的样本St会被标记后加入训练集L0，从而在下次迭代中更新模型。下载：下载高分辨率图像（285KB）下载：下载全尺寸图像图2. 物联网入侵检测中主动学习的流程图。LeNet通过多轮主动学习进行训练，每轮都会将不确定性最高的20%样本添加到训练集中（即那些预测概率最接近0.5的样本）。通过这种迭代式的训练优化过程，模型能够更好地处理难以分类或模糊的样本，从而提升整体性能。在标记数据昂贵且稀缺的入侵检测领域，这种策略尤为重要。通过仅针对不确定性高的案例进行处理，MBAL能以更少的标记样本提升检测效果，进而更有效地识别罕见和新兴的攻击模式。2.6.2. 提出的EntroLeNet：基于熵值的主动学习LeNetEBAL能在保持模型性能的同时降低标注成本。与图2所示的随机选择样本标注不同，该策略能让模型根据不确定性选择最具信息量的样本[34]。熵是用于评估二元分类中不确定性的常用统计量。对于一个被预测属于正类的样本，其预测概率为p∈(0,1)，则熵的定义为H(p)=?plog2(p)?(1?p)log2(1?p)。较高的熵值意味着预测的不确定性更高。因此，熵可作为不确定性指标，引导模型优先学习那些模糊或难以理解的样本。LeNet-5架构的训练依赖于标记过的训练集。该模型包含一个输入层，接着是一个重塑层，用于将输入数据转换为(d,1)格式，以便进行1D卷积操作。卷积层会应用核大小为3的滤波器并采用ReLU激活函数，之后通过最大池化操作降低数据维度。经过两个卷积-池化模块后，输出数据会被展平，再经过密集层处理，最终通过一个Sigmoid激活函数输出二元分类的概率值。下载：下载高分辨率图像（264KB）下载：下载全尺寸图像设第t次迭代的训练过程为学习函数ft:Rd→[0,1]，该函数是利用标记数据Lt={(xi,yi)}i=1nt进行训练的，其中nt为第t次迭代的标记样本数量。模型的训练是通过最小化二元交叉熵损失来实现的：(11)LBCE=?1nt∑i=1ntyilogft(xi)+(1?yi)log(1?ft(xi))。模型训练完成后，会在测试集(Xtest,ytest)上进行预测，并计算各种性能指标。为了继续进行主动学习过程，训练好的模型会对未标记池Xpool中的样本预测概率，如算法3所示，每个样本xj∈Xpool对应的概率值为pj=ft(xj)。随后会使用之前的公式计算每个预测结果的熵值。熵值最高的k个样本会被视为不确定性最高的样本，然后被加入标记集：Lt+1=Lt∪{(xj,yj)}j∈Ut，其中Ut表示熵值排名前k的样本的索引。这些被选中的样本会从未标记池中移除，整个过程会持续进行，直到达到预定的迭代次数或未标记池中的样本被全部处理完。在物联网领域，EntroLeNet架构具有诸多优势。首先，物联网设备会产生大量数据，但人工标注既成本高昂，有时甚至不可行。EntroLeNet只关注那些最模糊的样本，从而减少了所需的标记数量，提升了学习效率。其次，LeNet的轻量级架构使其适合在物联网系统常见的资源受限环境中使用。主动学习机制能让模型动态适应新的或未曾观察到的模式，这对于需要应对不断变化或未知攻击模式的物联网入侵检测来说尤为重要。表6展示了现有模型与本文提出的LeBayesNet、MargiLeNet、EntroLeNet四种技术在物联网入侵检测的二元分类任务上的性能对比情况。指标GBDTGRUMLPLeNetLeBayesNetMargiLeNetEntroLeNet准确率0.7770.7530.5000.7340.9140.9770.9670.953F1分数0.8040.7970.6650.7390.9210.9780.9640.955精确度0.7150.6760.5090.7230.8880.9640.9570.924召回率0.8940.9020.5660.7560.9010.9920.9790.987ROC-AUC0.7040.8470.5400.8570.9180.9770.9920.987MCC0.5780.5640.4980.4690.8280.9560.9350.909PR-AUC0.7040.8020.4990.8370.8710.9600.9910.983汉明损失0.3810.2460.5010.2650.0810.0220.0320.046执行时间（秒）106.11105.10396.021.31183.17251.1597.07106.11推理时间（秒）0.050.022.841.722.612.285.192.62表7展示了这四种技术在物联网入侵检测的多类分类任务上的性能对比情况。指标GBDTMLPGRULeNetLeBayesNetMargiLeNetEntroLeNet准确率0.3240.4250.2620.2000.8860.9710.9460.936精确度0.3190.4270.2180.1110.8970.9720.9460.938召回率0.3240.4250.2620.2000.8860.9720.9460.936F1分数0.2100.3500.2090.1200.8810.9720.9460.936ROC-AUC0.8190.8140.7300.5720.9950.9990.9970.997PR-AUC0.3840.3520.2560.2060.9700.9940.9800.978MCC0.2730.4020.1960.2480.8750.9680.9400.929汉明损失0.6760.5750.7380.7990.1140.0290.0540.064执行时间（秒）4.2505.14010.320769.730762.942670.566499.307355.303推理时间（秒）0.1430.0521.7932.8347.9457.68710.2898.223表8列出了各类性能指标及其计算公式。指标公式准确率准确率=TP+TNTP+TN+FP+FNPrecision精确度Precision=TPTP+FP召回率召回率=TPTP+FNF1分数F1分数=2×Precision×RecallPrecision+RecallROC-AUCAUC=∫01TPR(FPR)d(FPR)PR-AUCAUCPR=∫01Precision(Recall)d(Recall)汉明损失汉明损失=1N∑i=1N1(yi≠y?i)3. 模拟与结果本节介绍了所有的实验及结果。相关模拟会重复多次，表6和表7给出了这些实验的平均结果。在多类分类任务中，LeNet的实验结果存在一定波动，但仅记录出现频率最高的实验结果。为确保公平比较，如表8所示[35]，这些模型在应用于ToN_IoT数据集后，会通过不同的性能指标进行评估。此外，表9还详细分析了现有模型与本文提出模型的性能特点。3.1. 实验设置与数据划分所有实验都在Google Colab平台上进行，这是一种基于云的服务，可轻松使用GPU资源及已安装的机器学习工具包。实验流程中，scikit-learn（v1.2）被用于数据预处理、特征转换以及模型评估，而TensorFlow及其他标准库则用于模型开发。每种配置都会通过多次独立实验来验证，以此获得稳定可靠的结果，确保结果具有统计意义且可重复。为了在相似条件下评估模型的性能，数据集会被划分为80%的训练集和20%的测试集。在主动学习实验中，训练集还会进一步分为两个相等的部分：40%的标记数据用于初始模型训练，另外40%的未标记数据则作为主动学习过程中迭代选择样本的来源。这样的安排能够在真实条件下模拟标记数据有限的情况，让模型有机会通过选择有价值的样本不断缩小决策范围。表9展示了现有模型与本文提出模型的性能分析结果。模型（准确率）分析结果GB（0.777）准确率和精确率均相对较低，说明其在处理复杂的入侵模式时适应性较差。DT（0.753）性能略优于GB，但过拟合问题可能会影响其对未知数据的泛化能力。GRU（0.500）在处理数据时存在困难，可能是由于特征中的时间关联信息不足所致。MLP（0.734）性能处于中等水平，若不进一步调整，则无法充分捕捉特征间的相互作用。LeNet（0.914）具备较强的分类能力，非常适合从结构化的物联网入侵数据中提取特征。LeBayesNet（0.977）因采用了基于贝叶斯优化的超参数调整方法，能够更好地界定决策边界，因此获得了最高的准确率。MargiLeNet（0.967）借助MBAL方法提高了标注效率，从而实现了较高的准确率以及更好的泛化能力。EntroLeNet（0.953）通过EBAL方法提升了对不确定区域的覆盖范围，保持了较高的检测性能。3.1.1. 提出的模型与现有机器学习及深度学习模型在二元分类和多类分类任务中的对比表6和图3(a)展示了本文提出的LeBayesNet、MargiLeNet、EntroLeNet三种模型与决策树（DT）、梯度提升树（GB）、GRU、多层感知机（MLP）以及基础版LeNet等传统模型在物联网入侵检测的二元分类任务中的各项性能指标对比情况。图3(a)则呈现了不同模型在二元分类任务中准确率、F1分数、精确度及召回率等指标的对比表现。传统的GB和DT模型性能较为一般，其中GB的准确率仅为0.777，精确率为0.715，这说明它难以处理物联网遥测数据中的不平衡现象及细微模式。DT的准确率为0.753，精确率为0.676，这可能是由于其基于规则的结构化处理方式所致，但它仍然缺乏处理高度动态入侵场景的泛化能力。MLP的准确率为0.734，精确率为0.723，而GRU的表现是最差的，其准确率仅为0.500，召回率为0.566。GRU性能不佳的原因是它不擅长处理非序列化的表格数据，容易导致过拟合，进而影响泛化能力。相比之下，LeNet在所有核心指标上的表现都十分出色，准确率达到了0.914，体现了浅层卷积神经网络在处理结构化数据中的局部模式识别能力。不过，LeBayesNet的性能更胜一筹，其在准确率、F1分数、精确率及召回率方面的数值分别达到了0.977、0.978、0.964和0.992，这得益于其基于贝叶斯优化的超参数调整方法，该方法比手动搜索或网格搜索更能高效地探索参数组合，找到与数据特征最为匹配的滤波器尺寸、核大小及学习率。MargiLeNet和EntroLeNet的性能也相当不错，它们的准确率分别为0.967和0.953，F1分数分别为0.964和0.955，精确率分别为0.957和0.924，召回率分别为0.979和0.987，这两者都采用了主动学习策略，通过优先处理不确定性最高或最模糊的样本，逐步优化决策边界。下载：下载高分辨率图像（602KB）下载：下载全尺寸图像图3. 物联网入侵检测中提出的模型与现有模型在二元分类及多类分类任务上的整体性能对比。表7和图3(b)则展示了现有模型与本文提出模型在各类性能指标上的对比情况。图4(a)展示了在二分类任务中，现有模型与所提出模型在马修斯相关系数和汉明损失方面的对比情况。GB、DT和GRU的马修斯相关系数分别为0.578、0.564和0.498，表明其预测结果与实际标签之间的关联较弱。GB的汉明损失值为0.381，GRU为0.501，这些较高的数值反映出它们在处理复杂模式或少数类时存在严重误分类问题。MLP的馬修斯相关系数有所提升，为0.469，汉明损失为0.265；DT的汉明损失为0.246，但相比所提出的模型仍表现不佳。LeNet将汉明损失显著降低至0.081，同时马修斯相关系数达到0.828，显示出其性能的均衡性。LeBayesNet的馬修斯相关系数接近最优值，为0.956，汉明损失最低，仅为0.022，体现了其在保持所有类别预测一致性方面的出色能力。MargiLeNet和EntroLeNet的馬修斯相关系数分别为0.935和0.909，汉明损失为0.032和0.046，表明它们能够通过聚焦不确定样本来学习有用的特征。

图4(b)则对比了所提出模型在多类入侵检测任务中的马修斯相关系数与汉明损失情况。GB的馬修斯相关系数仅为0.273，汉明损失高达0.676，说明其预测结果与实际类别之间的关联很弱，且误分类频繁发生。DT的表现有一定改善，马修斯相关系数为0.402，汉明损失为0.575，但仍受过拟合和泛化能力有限的问题困扰。MLP的性能较差，马修斯相关系数为0.196，汉明损失高达0.738，反映出它在处理不平衡数据集时的类别边界识别能力不足。GRU的馬修斯相关系数为0.248，汉明损失最为严重，达0.799，进一步证明了它在非序列数据建模方面的低效性。相比之下，LeNet的馬修斯相关系数为0.875，汉明损失仅为0.114，表明它能够提取出较强的层次化特征。其中，LeBayesNet的馬修斯相关系数和汉明损失分别达到0.968和0.029，这是由于BO机制提升了预测稳定性并减少了分类误差。MargiLeNet的馬修斯相关系数为0.940，汉明损失为0.054；EntroLeNet的馬修斯相关系数为0.929，汉明损失为0.064。这两款模型都通过运用主动学习策略，聚焦于不确定或模糊样本，相较于传统方法有了显著改进。总体而言，所提出的模型降低了误分类率，提升了预测可靠性，因此在物联网环境的多类入侵检测任务中更具优势。

图5(a)展示了现有模型与所提出模型在二分类任务中的运行时间对比。GB模型需要106.11秒，这反映了其迭代提升阶段及基于树的集成构建所带来的计算开销。DT模型总共耗时105.10秒，由于采用单树结构，时间略短，但仍存在递归分割操作带来的额外开销。GRU的运行时间最长，达396.02秒，这是因为RNN具有固有的序列特性，需要逐步传播依赖关系，而在大规模数据集上会导致较高的计算成本。相反，MLP的运行时间最短，仅为1.31秒，其前馈设计能够快速进行矩阵运算，无需经历卷积或循环处理的复杂性。基线模型LeNet的运行时间为183.17秒，这一数值较高，是因为其卷积和池化操作虽能提取层次化特征，但也增加了训练时间。经过BO优化的LeBayesNet模型耗时251.15秒，尽管其预测性能更佳，但超参数优化又带来了额外的计算成本。在所提出的主动学习模型中，MargiLeNet的运行时间为97.07秒，效率相对较高，因为MBAL机制通过聚焦不确定样本减少了冗余计算。EntroLeNet的运行时间为106.11秒，略高于MargiLeNet，这是因为EBAL机制需要额外的概率计算来识别最具模糊性的样本。总体来看，研究结果表明MLP虽然训练速度最快，但会以牺牲精度为代价；而所提出的优化模型和主动学习模型则通过适度增加运行时间，实现了在检测精度和鲁棒性方面的显著提升。

图5(b)对比了所提出模型在多类入侵检测任务中的运行时间。GB模型仅需4.250秒，DT模型需5.140秒，这两种都是轻量级的基于树的结构，训练速度快，但预测能力有限。MLP由于需要进行迭代梯度更新，运行时间较高，为10.320秒，不过仍快于卷积或循环神经网络。GRU的运行时间最高，达769.730秒，这是因为其循环结构需要按顺序处理数据，导致在大规模多类数据集上产生较大开销。LeNet的运行时间为762.942秒，反映了其获取各类特征的卷积和池化操作所带来的计算成本。高效的LeBayesNet模型运行时间为670.566秒，虽然BO机制有助于选择最优超参数，但似乎也增加了训练开销。在所提出的主动学习模型中，MargiLeNet和EntroLeNet的效率均有显著提升，运行时间分别为499.307秒和355.303秒。MargiLeNet得益于MBAL机制减少了冗余计算，而EntroLeNet则通过EBAL机制筛选出最具信息量的模糊样本，进一步提升了效率。这些结果验证了这样一个观点：虽然传统框架能更快完成训练，但代价是预测性能较差；而所提出的框架则更为平衡，因为它们在保持与传统深度学习框架相同检测精度和性能的同时，运行时间大幅缩短。

图6(a)展示了所有模型在二分类任务中的ROC-AUC值，该指标用于量化分类器在不同阈值下区分不同类别的能力。GRU的ROC-AUC仅为0.540，略好于随机猜测，这是由于其结构与数据集的非序列特性不匹配所致。GB和DT的ROC-AUC分别为0.704和0.847，具备一定的分类能力，但它们的静态学习结构使其无法适应入侵数据中细微的分布变化。MLP的ROC-AUC稍高，为0.857，因为它具有非线性学习的优势，但在处理边缘案例时仍显不足。LeNet的ROC-AUC达到0.918，由于配备了层次化特征提取器，其性能优于浅层机器学习模型。LeBayesNet通过BO机制对架构进行优化，调整滤波器和密集层的容量以提高分类的可分性，其ROC-AUC进一步提升至0.977。MargiLeNet在MBAL机制的辅助下，通过对最佳决策区域进行精细调整，其ROC-AUC达到0.992；EntroLeNet的ROC-AUC为0.987，与LeBayesNet相近，这些都体现了EBAL样本选择机制在提升模型置信度和类别区分能力方面的有效性。

图6(b)对比了所提出模型在多类入侵检测任务中的ROC-AUC值。GB的ROC-AUC为0.819，DT的ROC-AUC为0.814，二者在面对不平衡多类场景时，都难以实现良好的精确度-召回率平衡。MLP的ROC-AUC仅为0.730，反映出其在区分多种攻击类型时的困难。GRU是所有模型中表现最差的，其ROC-AUC仅为0.572，表明它不太适合处理非序列型的入侵检测数据。相比之下，LeNet凭借卷积滤波器提取强大的层次化特征，显著提升了分类能力，其ROC-AUC达到0.995。LeBayesNet的ROC-AUC最高，为0.999，几乎实现了完美的分类可分性，这是因为BO机制使得模型架构和学习过程在分类方面都达到了最优状态，是所有所提模型中最成功的。MargiLeNet和EntroLeNet的表现也同样出色，它们的ROC-AUC分别达到0.994和0.978，这体现了主动学习策略通过聚焦不确定和模糊样本，有效强化了数据集中关键区域的决策边界。总体而言，研究结果证明，尽管传统模型在类别区分能力上表现不佳，但所提出的优化方法和主动学习策略却能实现近乎完美的分类效果，从而确保在物联网环境中实现高度可靠的入侵检测。

图7(a)展示了现有模型与所提出模型在二分类任务中的PR-AUC值，这一指标在误报和漏报影响较大的不平衡数据集中尤为重要。GRU的PR-AUC仅为0.499，再次显示出其精确度-召回率权衡能力的薄弱。GB和DT的PR-AUC分别为0.704和0.802，但由于决策边界过于简化且缺乏迭代优化，仍存在不足。MLP和LeNet的PR-AUC分别为0.837和0.871，虽然权衡表现更好，但LeNet受固定架构的限制。LeBayesNet的PR-AUC达到0.960，得益于BO机制，模型能够更精准地捕捉少数类特征。MargiLeNet和EntroLeNet通过主动聚焦有信息量的样本，并基于不确定性学习强化少数类决策边界，其PR-AUC分别提升至0.991和0.983。所提出模型PR-AUC的持续上升，证明了它们在高度不平衡的场景下，也能有效区分真实入侵行为与正常活动。

图7(b)对比了所提出模型在多类入侵检测任务中的PR-AUC值。GB的PR-AUC为0.384，DT的PR-AUC为0.352，二者在不平衡多类场景下都难以实现良好的精确度-召回率平衡。MLP的PR-AUC仅为0.256，甚至无法有效控制误报和漏报的情况。GRU的PR-AUC最低，为0.206，进一步证明了它在处理非序列型、不平衡数据时的薄弱性能。相比之下，LeNet给出了0.970的稳定基准值，体现了卷积架构在处理各类入侵特征时的泛化能力。在所提出的模型中，LeBayesNet的PR-AUC最高，为0.994，这是因为BO机制能够精准优化超参数，从而改善精确度-召回率平衡。MargiLeNet和EntroLeNet的PR-AUC也表现优异，分别为0.980和0.978，这是因为它们的主动学习策略能够聚焦于不确定和模糊样本，进而强化数据集中关键区域的决策边界。这些结果充分表明，所提出的优化方法和主动学习策略优于传统方法，因为它们能够实现更可控的精确度-召回率平衡，而这在入侵检测中尤为重要，因为减少误报和漏检是核心目标。

图7.表10. 物联网入侵检测中现有模型与候选模型的整体PR-AUC比较。表10. 物联网入侵检测模型的资源使用指标。模型峰值内存（MB）CPU利用率（%）GPU运行时间（秒）模型大小（MB）多类入侵检测GB0.52391.500.031决策树0.092.000.0045多层感知器?5.6374.100.0520GRU?95.4532.500.0354LeNet195.26466.317.7920.1382LeBayesNet194.737107.98.4180.552MargiLeNet97.42268.2500.1382EntroLeNet97.4231.500.1382二分类入侵检测GB0.57823.600.0149DT0.00784.000.0033MLP63.2773.000.0520GRU38.59437.000.0354LeNet28.0162.500.0591LeBayesNet34.3242.500.5445MargiLeNet16.00469.300.1334EntroLeNet16.02.500.13823.2 资源利用与推理性能分析表10总结了不同模型在多类和二分类物联网入侵检测中的资源使用情况。在多类场景下，像GB和DT这样的传统基于树的模型在训练时所需内存极少，峰值内存分别仅为0.523MB和0.0MB，对GPU的要求也很低，因此尽管CPU利用率较高（GB为91.5%，DT为92%），仍适合用于轻量级物联网设备。而像MLP和GRU这样的轻量级神经网络由于测量误差会出现负的内存值（分别为?5.637MB和?95.453MB），不过它们的CPU和GPU需求依然很低。包括LeNet、MargiLeNet、EntroLeNet和LeBayesNet在内的卷积模型则需要更多的内存（LeNet为195.264MB，MargiLeNet为97.422MB，EntroLeNet为97.423MB，LeBayesNet为194.737MB），同时CPU或GPU的使用率也更高，尤其是LeNet和LeBayesNet，这反映了卷积运算和概率计算带来的计算开销。相比标准版LeNet，MargiLeNet和EntroLeNet能更高效地利用资源，而LeBayesNet则在概率建模与适度的资源消耗之间取得了平衡，其CPU利用率高达107.9%。在二分类场景中，内存使用量和CPU利用率通常较低。GB模型需要0.578MB的内存，CPU利用率为23.6%，而DT的效率则极高（内存仅0.0078MB，CPU利用率为4%）。像MLP和GRU这样的神经模型内存消耗适中（分别为63.277MB和38.594MB），CPU和GPU使用率也较低。LeNet及其变体在内存和CPU利用率之间存在权衡：LeNet需要28.016MB的内存，CPU利用率较低；MargiLeNet的内存消耗为16.004MB，但CPU利用率较高（69.3%）；EntroLeNet则保持较低的内存消耗（16MB），CPU利用率也较低。LeBayesNet的亮点在于它仅需34.324MB的内存，模型大小为0.5445MB，同时CPU和GPU使用率都很低，非常适合在资源受限的环境中进行概率预测。总体而言，基于树的模型在内存和计算效率方面表现优异，卷积网络和循环网络则能在更高资源成本下实现更强大的特征提取能力，而LeBayesNet则在概率建模与适度资源消耗之间实现了良好平衡。表11. 不同优化技术的性能比较。指标LeNet结合RS算法LeNet结合遗传算法准确率0.7720.921F1分数0.7600.923精确度0.7900.930召回率0.7300.922ROC-AUC0.8500.901MCC0.5400.840PR-AUC0.7700.872执行时间（秒）221.09529.10汉明损失0.4120.3213.3 不同优化技术的性能比较表11对比了经过RS算法、遗传算法以及作为LeBayesNet基础的贝叶斯优化算法优化后的LeNet模型的性能。RS算法的优化效果相对较差，准确率为0.772，F1分数为0.760，ROC-AUC为0.850。出现这种不佳结果是因为RS算法是随机的且没有指导性，即超参数设置是随机选取的，没有参考历史评估结果，导致对搜索空间的探索不够充分，往往无法捕捉到复杂的超参数相互作用，因而调整效果不佳。相应地，经过RS算法优化的LeNet的精确度和召回率分别仅为0.790和0.730，汉明损失高达0.412，说明分类错误频繁，泛化能力较弱。相比RS算法，遗传算法的表现要好得多，因为它采用了交叉、变异和选择等进化方法，通过种群适应度来控制搜索过程，并探索超参数空间中具有潜力的区域。如表11所示，经过遗传算法优化的LeNet准确率和F1分数可达0.921，精确度和召回率分别为0.930和0.922，ROC-AUC为0.901，MCC也提升到了0.840，这说明模型的预测一致性及与真实标签的匹配度都有所提高。不过，遗传算法的缺点是执行时间较长，为529.10秒，而且它仍然缺乏精确预测隐藏配置影响的概率建模能力，其汉明损失也未能降至0.321以下，表明在决策边界附近仍存在较多分类错误。相比之下，如表6所示，LeBayesNet在各项指标上均优于RS算法和遗传算法。它的准确率最高可达0.977，F1分数为0.978，精确度和召回率分别为0.964和0.992，ROC-AUC更是高达0.977，说明类别间的区分度几乎完美。贝叶斯优化算法通过构建概率替代模型——通常是高斯过程——根据之前的评估结果来近似性能分布，它通过获取功能实现了探索与利用之间的最佳平衡，从而以较少的迭代次数找到最优的超参数组合。这种系统化且高效的数据驱动调优方式提升了模型的泛化能力，从最低的汉明损失0.022和最高的MCC值0.956即可看出这一点。与遗传算法或RS算法不同，贝叶斯优化算法能够根据已有的学习结果动态调整搜索方向，从而避开不良区域，找到与数据特征分布及类别不平衡情况更为匹配的良好配置。因此，LeBayesNet是一种极为高效、节省资源且具备强大稳定性的物联网入侵检测模型。表12. 不同主动学习策略的性能比较。指标LeNet结合不确定性采样LeNet结合蒙特卡洛方法准确率0.6000.851F1分数0.7020.872精确度0.5630.795召回率0.9310.961ROC-AUC0.6700.920MCC0.2840.732PR-AUC0.5910.910执行时间（秒）453.00639.00汉明损失0.3920.1433.4 不同主动学习策略的性能比较为了评估各种主动学习策略在提升ToN_IoT数据集入侵检测性能方面的效果，表12记录了相关结果，这些策略包括对LeNet模型进行不确定性采样处理[36]、蒙特卡洛 Dropout处理，以及所提出的MargiLeNet和EntroLeNet框架。这些策略在训练期间样本选择的机制上存在本质差异，进而直接影响模型的泛化性能、计算效率以及错误率。基于不确定性的主动学习方法，也就是采用不确定性采样的LeNet，是根据样本距离决策边界的远近来选择样本，该距离是通过边际概率u(x)=|f(x)?0.5|来表示的。这种方法能减少随机标记的使用，但无法处理那些类别间重叠严重的模糊区域。表12显示，采用该方法时模型的准确率仅为0.600，MCC值较低，为0.284，汉明损失较高，为0.392，这些都表明标签之间的相关性较差，分类错误频发。精确度为0.563，F1分数为0.702，说明该分类器未能实现误报率和漏报率之间的良好平衡。虽然召回率高达0.931，但这意味着模型过于敏感，区分精度较低。另一方面，蒙特卡洛 Dropout[37]则通过随机前向传播来估计认知不确定性，通过多次采样来提升模型置信度。这样一来，通过平均预测值，它能更精准地选择有价值的样本，因此经过蒙特卡洛 Dropout处理的LeNet在准确率上有了显著提升，达到了0.851，F1分数为0.872，MCC值为0.732。它的精确度为0.795，召回率为0.961，说明该模型在减少误报的同时能更有效地检测入侵行为。不过，这种改进的代价是执行时间增加了639.00秒，这在对延迟要求较高的应用场景中限制了它的实用性。汉明损失降低到0.143，也表明分类错误有所减少，模型的泛化能力得到提升。所提出的MargiLeNet将MBAL算法整合到LeNet中，每轮迭代都会选择那些最接近决策边界的模糊样本进行标注。与固定启发式方法不同，MargiLeNet会随着高不确定性数据的变化逐步更新决策边界。表6中的结果显示，这种MargiLeNet的准确率为0.967，F1分数为0.966，尤其突出的是其MCC值高达0.935，说明预测结果与真实标签之间存在很强的线性相关性。它在PR-AUC指标上也表现出色，为0.991，同时汉明损失仅為0.032，进一步证明了其适应数据复杂性的能力。最后，EntroLeNet则采用熵作为样本选择指标，熵H(p)=?plog2p?(1?p)log2(1?p)可用于衡量所有类别预测的总体不确定性。这使得模型能够聚焦于最具不确定性的样本，而不仅仅是那些边缘样本。因此，如表6所示，EntroLeNet在各项指标上的表现都与MargiLeNet相当，准确率为0.953，F1分数为0.955，MCC值高达0.909，同时在PR-AUC指标上表现最优，为0.983，执行时间也相对较短，仅为106.11秒。它的汉明损失为0.046，是所有主动学习策略中最低的，这说明它不仅效率更高，性能也同样强劲。表14. 所提出模型10折交叉验证的平均值与标准差结果。模型召回率F1分数精确度准确率ROC-AUC MCC PR-AUC 汉明损失LeBayesNet0.9913 ± 0.00090.9779 ± 0.00100.9642 ± 0.00100.9769 ± 0.00070.9770 ± 0.00080.9558 ± 0.00100.9600 ± 0.00080.0220 ± 0.0008MargiLeNet0.9785 ± 0.00080.9641 ± 0.00100.9571 ± 0.00100.9670 ± 0.00080.9917 ± 0.00070.9350 ± 0.00080.9910 ± 0.00080.0320 ± 0.0008EntroLeNet0.9870 ± 0.00080.9550 ± 0.00080.9241 ± 0.00100.9530 ± 0.00080.9870 ± 0.00080.9090 ± 0.00080.9830 ± 0.00080.0460 ± 0.00083.5 10折交叉验证10折交叉验证是一种广泛用于深度学习模型评估及泛化性能估算的技术。如图8[38]所示，它将原始数据集划分为十个大小相等的子集或折叠。在每次迭代中，其中一个折叠用于测试，其余九个则用于训练[39]。这一过程重复十次，每个折叠恰好被用作一次测试集。最终的性能指标则是通过计算十次迭代结果的平均值来得出的[40]。从数学上讲，对于某个性能指标M，10折交叉验证的估计值可表示为：(12)M10-FCV=1K∑i=1KMi，其中K=10，Mi为第i个折叠上的性能得分（如准确率、F1分数等）。在所研究的入侵检测框架中，10折交叉验证被用来验证LeBayesNet、MargiLeNet和EntroLeNet这三种模型的稳健性与一致性。表13展示了二分类场景下这三种模型在十次折叠测试中的各项性能指标。表格的结构为：每行第一个加粗数值为未进行10折交叉验证时的实际性能，中间十个数值为10折交叉验证中各折叠对应的性能值，最后一个加粗数值则为十次折叠性能的平均值。下载：下载高分辨率图片（255KB）下载：下载全尺寸图片图8. 10折交叉验证的运作流程。对于LeBayesNet模型，所有指标的实际表现都一直处于较高水平（召回率为0.992，F1分数为0.978等），显示出出色的基础性能。各次10折交叉验证的单独结果略有波动，例如召回率在0.990到0.993之间变化，精确度和准确率也呈现类似趋势。同样以加粗形式标出的平均值进一步证明了该模型的稳定性，所有分类指标的最终平均值为0.991，汉明损失的平均值为0.022。这表明该模型在不同的数据划分情况下都能保持优异表现，具备很高的泛化能力。在MargiLeNet中，各项指标的初始值分别为0.979（召回率）、0.964（F1分数）、0.957（精确度）和0.967（准确率）。在交叉验证过程中，这些数值略有波动（例如召回率在0.977到0.978之间），但平均值始终稳定在0.978，与实际值完全一致。ROC-AUC的平均值为0.992，MCC的平均值为0.935，显示出较强的区分能力和预测质量。PR-AUC也表现出良好的稳定性，平均值为0.991。汉明损失值在0.031到0.033之间波动，平均值为0.032，说明分类错误率较低。EntroLeNet在10-FCV测试中同样表现优异。虽然其实际召回率为0.987，F1分数为0.955，但不同测试组的数值略有差异（召回率：0.986至0.988，F1分数：0.954至0.956）。平均F1分数仍为0.955，体现了性能的一致性。其准确率平均为0.953，ROC-AUC平均值为0.987，PR-AUC为0.983。汉明损失在不同测试组中的数值在0.045到0.047之间波动，平均值为0.047，虽略高于LeBayesNet，但仍处于较低水平，表明模型可靠性良好。总体而言，所有模型均表现出持续的高平均分数，说明它们具有出色的泛化能力，而较低的汉明损失则进一步证明了分类错误极少。这些结果验证了所提出模型的有效性，同时也凸显了在现实世界的入侵检测系统中运用交叉验证来确保性能的重要意义。表14展示了所提模型在10-FCV测试中的平均值及标准差，证实了它们在所有测试组中的性能稳定且一致。

3.6. 曼-惠特尼U统计检验
曼-惠特尼U检验是一种非参数统计检验方法，用于判断两个独立群体之间是否存在显著差异[41]。与t检验不同，它不要求数据服从正态分布，常用于比较两组数据的中间值或处理有序数据。该检验首先将两组的所有数值进行排序，然后计算U统计量。数学表达式如下：(13)U=R1?n1(n1+1)2，其中R1是第一组的排名之和，n1是第一组的样本数。另一种计算方式为：(14)U2=R2?n2(n2+1)2，R2为第二组的排名之和，n2为第二组的样本数。将两组计算得到的U统计量与曼-惠特尼分布的临界值进行比较，若p值较小（通常小于0.05），则可拒绝原假设，即认为两组之间存在显著差异。对于大样本量，可通过以下公式将U统计量近似为正态分布，从而计算z分数：(15)z=U?μUσU，其中μU=n1n22，σU=n1n2(n1+n2+1)12。表15展示了不同模型——LeBayesNet、MargiLeNet和EntroLeNet的曼-惠特尼U检验结果。该检验针对多种指标进行，同时计算相应的T统计量和P值。对于LeBayesNet，所有指标的T统计量均为0，P值为3.03×10?5，这一极低的P值表明该模型的性能明显优于LeNet，且差异具有统计学意义，说明这种优势并非偶然。MargiLeNet各指标的T统计量为4.5，P值为7.45×10?5，与LeBayesNet类似，P值也表明其性能更优，尤其是在ROC-AUC指标上，P值为2.58×10?5。EntroLeNet在准确率和召回率指标上的T统计量为15.5，P值为0.000944；F1分数的T统计量为117.0，P值为0.008197。这些结果都表明EntroLeNet在所有测试指标上的表现均显著优于LeNet，具有明显的统计学意义。综上，所有模型（LeBayesNet、MargiLeNet和EntroLeNet）的P值均非常低，说明它们在性能上存在显著差异，因此比P值较高、在区分物联网入侵检测中的良性与恶意活动方面表现较差的LeNet更具优势。

表15. 不同模型的曼-惠特尼U检验结果
模型 指标 曼-惠特尼U检验 空 空
T统计量 P值
LeBayesNet 准确率 0.0 3.03×10?5
F1分数 0.0 3.03×10?5
精确度 0.0 3.03×10?5
召回率 0.0 3.03×10?5
ROC-AUC 0.0 3.03×10?5
MargiLeNet 准确率 4.5 7.45×10?5
F1分数 4.5 7.45×10?5
精确度 4.5 7.45×10?5
召回率 4.5 7.45×10?5
ROC-AUC 0.0 2.58×10?5
EntroLeNet 准确率 15.5 0.000944
F1分数 117.0 0.008197
精确度 4.0 7.26×10?5
召回率 15.5 0.000944
ROC-AUC 0.0 2.74×10?5

表16. 在CICIoT2023数据集上，现有模型与所提出的LeBayesNet、MargiLeNet、EntroLeNet模型的性能对比
指标 GBDT MLP GRU LeNet LeBayesNet MargiLeNet EntroLeNet
准确率 0.186 0.251 0.088 0.517 0.813 0.870 0.833 0.853
精确度 0.185 0.220 0.061 0.516 0.812 0.875 0.831 0.856
召回率 0.186 0.251 0.088 0.517 0.813 0.870 0.831 0.853
F1分数 0.122 0.160 0.040 0.469 0.788 0.868 0.832 0.849
ROC-AUC 0.891 0.859 0.621 0.959 0.991 0.991 0.998 0.993
PR-AUC 0.327 0.200 0.097 0.534 0.592 0.698 0.682 0.670
MCC 0.184 0.245 0.064 0.506 0.809 0.867 0.835 0.849
汉明损失 0.814 0.749 0.912 0.483 0.187 0.130 0.150 0.147
执行时间（秒） 2.700 0.080 4.820 1363.230 598.870 489.170 268.730 326.770

3.7. 在CICIoT2023数据集上的泛化能力评估
为评估所提出模型的泛化能力，我们在专为物联网入侵检测设计的新型基准数据集CICIoT2023上进行了实验[43]。该数据集包含超过一百万条网络流量记录，涵盖了47种特征，包括流量统计信息、数据包级特性以及时间相关特征，能够全面反映物联网通信行为。在模型训练之前，会对数据集进行仔细预处理，确保没有缺失值。类别标签通过标签编码器进行处理，而特征则保持原始数值形式，不进行额外缩放，以此保留数据的原始分布特征。我们采用分层抽样方法，选取了100,000条具有代表性的数据样本，以确保抽样数据中的类别分布与原始数据集一致。随后，我们对特征矩阵进行最小-最大缩放，为模型输入做准备。最后，运用与原始数据集相同的预处理策略——ProWRAS技术，对数据集进行平衡处理。这样的设置确保了所提出的模型是在一个规模较大、真实且具有代表性的物联网数据集上接受测试，从而验证其在不同数据源下的有效性和稳健性。表16详细对比了传统机器学习模型、深度学习架构以及所提出的LeBayesNet、MargiLeNet和EntroLeNet模型在CICIoT2023数据集上的性能表现。在传统机器学习模型中，GB模型的准确率为0.186，F1分数为0.122，MCC为0.184，尽管ROC-AUC高达0.891，表明其具备一定的分类能力，但由于缺乏阈值无关的区分能力，整体分类效果不佳。DT模型的性能略有提升，准确率为0.251，MCC为0.245，但其精确度仅为0.220，F1分数为0.160，反映出多类分类时的不稳定问题。MLP模型的表现最差，准确率为0.088，F1分数为0.040，PR-AUC仅为0.097，说明该模型无法有效捕捉该数据集中的复杂物联网攻击模式。GRU模型相比传统方法有了显著提升，其准确率为0.517，F1分数为0.469，MCC为0.506，ROC-AUC高达0.959，但也存在较高的计算成本，其执行时间为1363.230秒。作为基线的LeNet模型进一步提升了分类性能，准确率为0.813，F1分数为0.788，MCC为0.809，ROC-AUC接近最优值，为0.991，同时汉明损失降低到0.187，充分体现了卷积特征提取在物联网入侵检测中的有效性。所提出的LeBayesNet模型表现更为出色，其准确率为0.870，F1分数为0.868，MCC为0.867，ROC-AUC依然保持在很高的水平，为0.991，PR-AUC也有提升，为0.698。较低的汉明损失值0.130进一步证明了其多类分类结果的稳定性。MargiLeNet模型的准确率为0.833，F1分数为0.832，ROC-AUC表现极为优秀，达到0.998。此外，由于其架构较为简单，执行时间仅为268.730秒，远低于GRU和LeNet模型，具有更好的计算效率。EntroLeNet模型也同样表现强劲，其准确率为0.853，F1分数为0.849，MCC为0.849，ROC-AUC为0.993，同时精确度和召回率均保持在0.856和0.853左右，显示出稳定的学习特性。总体而言，所提出的模型在性能上均显著优于传统的机器学习模型以及基线深度学习模型，展现出更强的稳健性和区分能力。较高的ROC-AUC和PR-AUC值表明，即使在类别不平衡的情况下，这些模型也能保持稳定的性能。良好的精确度-召回率平衡以及较低的泛化误差，进一步证明这些模型能够有效捕捉具有区分度的物联网流量特征，而非过度拟合特定数据集的模式。因此，多项评估指标的持续优化以及出色的运行速度，都表明所提出的LeBayesNet、MargiLeNet和EntroLeNet模型具备良好的泛化能力，能够在具有不同攻击模式的现实物联网数据集中发挥良好作用。

表17. 消融研究：MargiLeNet与EntroLeNet的性能对比
属性/指标 MargiLeNet EntroLeNet
优化器 Adam（学习率=0.01） 随机梯度下降（学习率=0.05）
激活函数 Tanh ReLU
滤波器/卷积层 [4, 8, 8] [4]
核大小 5 5
池化操作 1D最大池化（窗口大小为3） 1D最大池化（窗口大小为1）
密集层神经元数 8 8
准确率 0.91 0.82
精确度 0.90 0.87
召回率 0.89 0.74
F1分数 0.90 0.80
ROC-AUC 0.95 0.93
PR-AUC 0.92 0.90
MCC 0.85 0.65
汉明损失 0.07 0.17

3.8. 消融研究
表17展示了在特定超参数设置下，MargiLeNet和EntroLeNet模型的性能表现。虽然两种模型的结果尚可，但相较于所提出的最优配置，当前选择的超参数导致了较低的性能。在MargiLeNet中，采用的优化器是学习率为0.01的Adam优化器，而EntroLeNet则选择了学习率为0.05的随机梯度下降优化器。学习率直接影响模型的收敛速度，在MargiLeNet中较小的学习率使得模型能够更平滑地收敛，但并未带来最佳性能；而EntroLeNet中较高的学习率可能导致模型收敛困难，进而使性能稍逊。激活函数也对模型性能有影响，MargiLeNet采用了双曲正切函数，该函数在学习非线性特征方面效果不佳，而EntroLeNet则使用了ReLU激活函数，表现更好。虽然Tanh函数的输出范围在[-1, 1]之间，但由于梯度消失问题，其收敛速度可能较慢[44]；相比之下，ReLU虽然在某些情况下收敛更快，但在该数据集中表现最优，这也是导致EntroLeNet的召回率和F1分数较低的原因。在卷积层结构方面，MargiLeNet采用了三层卷积层，分别带有4、8、8大小的滤波器，而EntroLeNet仅有一层卷积层，配有4个滤波器。MargiLeNet更复杂的架构使其能够捕捉更多复杂特征，但这也增加了计算复杂度，导致训练时间变长，且可能存在过拟合问题，影响其泛化能力。相反，EntroLeNet的架构较为简单，滤波器数量较少，虽可能无法捕捉所有重要特征，从而导致准确率和召回率较低。池化策略也是造成性能差异的原因之一，MargiLeNet使用窗口大小为3的1D最大池化，而EntroLeNet则使用窗口大小为1的相同池化操作。MargiLeNet较大的池化窗口能更大幅度地降低模型的空间维度，有助于特征提取，但也会丢失部分重要细节；而EntroLeNet较小的池化窗口虽然保留了更多信息，但降采样速度较慢，可能导致效率低下，进而影响召回率和精确度。这些结果清楚地表明，尽管两种模型所选择的超参数还算合理，但并非最优方案。MargiLeNet的准确率为0.91，仍低于最优配置下的性能，EntroLeNet的准确率仅为0.82。MargiLeNet中使用的Adam优化器、Tanh激活函数以及更复杂的卷积层结构，并未能充分发挥模型的性能，而EntroLeNet采用的SGD优化器及更简单的架构同样导致了欠佳的性能表现。这些超参数使得两种模型的性能均低于预期或最优水平。

3.9. 局部可解释的模型无关解释方法
LIME方法属于模型无关型解释方法，因为它能够解释任何复杂机器学习模型的预测结果，无论该模型的架构如何[45]。该方法不会试图对整个模型进行全局解释，而是专注于生成局部解释，以阐明模型在特定实例附近的决策行为。对于那些内部决策过程不透明的黑箱模型，如集成算法或神经网络，LIME尤其有用。它通过使用更简单的模型，如决策树或线性回归，来模拟复杂模型在特定输入下的行为，从而解释模型为何会给出某种预测结果。LIME的工作原理是，对目标实例周围的输入数据进行微小调整，然后观察黑箱模型预测结果的变化。随后，利用这些经过修改的实例及其对应的预测结果，训练出一个能够在该特定领域复制复杂模型行为的简单模型。这类替代模型会依据对预测结果影响最大的实例权重，帮助用户理解决策的生成过程。3.9.1. LeBayesNet的LIME分析图
图9(a)展示了使用所提出的LeBayesNet模型进行物联网网络入侵检测时，针对某一特定预测的LIME分析结果。0.19代表良性类别，0.81代表恶意类别。LIME会在输入实例附近用一个更简单的、易于理解的模型来近似复杂的深度学习模型，从而为单个预测提供易于人类理解的解释。该图显示了哪些特征对模型将输入判定为入侵（攻击）的影响最大。分析表明，如ssl_resumed ≤0.00和ssl_established ≤0.00这样的特征，对将该实例判定为攻击起到了重要作用。模型将不存在已恢复或已建立的安全套接层会话视为可疑模式，这类情况通常与恶意活动相关。此外，dns_qtype ≤0.00、http_user_agent ≤0.00以及weird_notice ≤0.00这些特征也支持了攻击的判定，反映出DNS查询和HTTP行为中的异常或缺失迹象。这些特征表明存在偏离标准协议使用的情况，而正常情况下这类情况应为良性，因此当它们缺失或为0时就会引发怀疑。相反，虽然ssl_cipher和http_status_code等特征也在解释中出现，但它们的负面影响相对较弱，略偏向于将该实例判定为良性。不过，这些特征的影响力仍不如那些支持攻击判定的主要特征。

下载：高分辨率图片（333KB）
下载：全尺寸图片
图9. LeBayesNet在物联网入侵检测中的LIME分析
图9(b)提供了所提出的LeBayesNet模型对预测结果的LIME解释的汇总可视化展示，具体说明了该模型在区分良性与恶意物联网网络活动时的表现。这是一张汇总图，它通过汇总多个实例的局部解释，来确定哪些特征最频繁且以最大程度影响模型的决策。图中的每根柱子代表一个特征，其长度和方向（左右）分别反映了该特征对分类结果的影响大小和方向。在入侵检测方面，如ssl_resumed ≤0.00和ssl_established ≤0.00这类特征始终对预测攻击具有很强的正向影响。这些特征表明，不存在SSL会话恢复和SSL握手行为，是物联网流量中异常行为的显著标志。dns_qclass ≤0.00和http_user_agent ≤0.00进一步增加了入侵的可能性，意味着缺乏域名系统查询类型或HTTP用户代理信息，而这些在正常流量中都是异常现象。此外，weird_notice、weird_name以及http_orig_mime_types等特征值均≤0.00，说明存在异常或缺失的协议级通知及MIME类型，可能预示着潜在异常。相反，ssl_cipher和http_status_code等特征对良性分类的影响相对较小，但略有偏向良性。这种汇总型的LIME总结有助于提升模型的可解释性，能够一次性确定并展示在多次预测中最具影响力的属性，从而验证模型的决策结果，并为物联网安全系统带来透明度。

下载：高分辨率图片（313KB）
下载：全尺寸图片
图10. MargiLeNet在物联网入侵检测中的LIME分析
下载：高分辨率图片（313KB）
下载：全尺寸图片
图11. EntroLeNet在物联网入侵检测中的LIME分析

3.9.2. MargiLeNet的LIME分析图讨论
为了做出特定预测，所提出的MargiLeNet——即MABL与LeNet架构的结合体——会生成如图10(a)所示的LIME分析图。当模型将某个输入实例判定为入侵时，LIME图中会显示出最显著的特征。每个属性的数值大小及其方向都反映了它对最终预测的影响，要么有利于良性类别，要么有利于恶意类别。在这次特定的预测中，对模型影响最大的特征包括ssl_established ≤0.00、ssl_resumed ≤0.00等，这些特征显著影响了模型将该实例判定为攻击的结果。不存在SSL会话的建立与恢复，意味着没有安全的通信模式，而这正是恶意流量中常见的现象。此外，dns_qclass ≤0.00和http_uri ≤0.00等特征也对攻击预测有正向贡献，表明存在异常或缺失的DNS类别信息、缺乏SSL协议版本信息，以及没有明确的HTTP统一资源标识符，这些都是物联网环境中偏离正常行为的迹象。另外，dns_RA、dns_RD以及dns_rejected等特征值均≤0.00，进一步支持了攻击的判定。这些特征代表了缺失或异常的DNS响应属性，如递归可用性、响应码以及拒绝标志。最后，http_request_body_len ≤0.00表明请求体内容缺失，这在正常的HTTP交易中极为少见，因此会被视为可疑信号。这种LIME分析清晰地揭示了表明入侵存在的细微特征模式，从而提升了模型的可解释性，也有助于分析人员在物联网安全场景中验证模型的预测逻辑。图10(b)中的MargiLeNet模型LIME汇总图，展示了基于物联网网络活动的多次预测中最重要的特征。该图确定了始终用于将案例划分为良性或攻击类型的特征。每个特征都与≤0.00的阈值相关联，体现了模型对特定网络行为存在与否的敏感度。在最具影响力的特征中，ssl_established ≤0.00和ssl_resumed ≤0.00再次成为入侵的强有力指标。它们的缺失意味着缺乏安全的会话处理机制，而这正是恶意流量中常被利用的手段。dns_qclass ≤0.00这一特征表明存在缺失或异常的DNS查询类别，进一步强化了对潜在威胁的判定。同样，ssl_version ≤0.00则指出存在非标准的SSL版本，这一特征通常与可疑行为相关。此外，http_uri ≤0.00凸显出HTTP URI的缺失或被篡改，这可能意味着存在精心设计的攻击载荷或经过混淆的攻击模式。其他值得注意的特征还包括dns_RA、dns_rcode、dns_RD以及dns_rejected，这些特征的数值均≤0.00，共同反映了DNS响应属性中的异常，如递归可用性、响应码以及被拒绝的查询。最后，http_request_body_len ≤0.00表明HTTP请求载荷极少或完全缺失，这也是与DoS攻击或探测尝试相关的常见模式。从该图的总体情况可以看出，MargiLeNet能够利用DNS流量和安全通信协议中的细微模式作为入侵的判断依据，展现了其在处理物联网环境中的复杂且隐蔽的攻击行为方面的能力。

3.9.3. EntroLeNet的LIME分析图讨论
图11(a)展示了LIME对EntroLeNet模型做出的解释。此类可视化图表明确了模型预测恶意输入样本时所考虑的因素。其中，ssl_resumed这一特征的数值小于或等于0.00，对判定为恶意类别的预测起到了最显著的正向作用，说明不存在SSL会话恢复会引发怀疑。紧随其后的是http_request_body_len这一特征，其数值较低也具有很强的正向影响，表明较短的HTTP请求体长度往往与攻击模式相关。此外，weird_notice ≤ 0.00所反映的不存在异常通知的情况，也对攻击预测有正向贡献。ssl_established ≤ 0.00和http_trans_depth ≤ 0.00等特征也支持了恶意分类，表明缺乏安全的通信建立过程以及较浅的HTTP事务深度是重要的判断依据。其他特征如dns_qclass ≤ 0.00、http_version ≤ 0.00以及http_uri ≤ 0.00也被用来识别异常，它们表明缺失的DNS类别、过时的HTTP版本以及HTTP中缺失的URI都与物联网网络环境中的恶意活动有关。图11(b)中的LIME汇总图则汇总了EntroLeNet模型在多次预测中所涉及的重要特征。该图直观地展示了在众多样本中，哪些特征始终对模型的决策产生最显著的影响。最突出的特征依然是ssl_resumed ≤ 0.00和ssl_established ≤ 0.00，再次强调了缺失的SSL会话行为与攻击预测之间存在密切关联。接下来是http_trans_depth ≤ 0.00，表明在攻击场景中，HTTP事务结构往往较为简单。此外，dns_qclass ≤ 0.00和http_version ≤ 0.00也表现出明显的贡献，进一步印证了模型所识别的规律：过时或缺失的DNS及HTTP特性是威胁的强烈指示信号。其他特征如http_uri ≤ 0.00、dns_qtype ≤ 0.00以及http_resp_mime_types ≤ 0.00，也都通过揭示网络通信模式中的偏差，为攻击预测提供支持。weird_notice ≤ 0.00这一特征则因通信过程中存在异常或不合常规的情况，进一步增强了模型进行恶意分类的能力。最后，与之前的观察一致，http_request_body_len ≤ 0.00也起着重要作用，表明请求载荷的减少或缺失是异常行为的典型标志。

3.10. Shapley加性解释方法
SHAP是一种用于评估机器学习和深度学习模型预测结果的统一方法[46]。它基于Lloyd Shapley在1953年提出的合作博弈论中的Shapley值原理。在数据集中，每个元素都被视作博弈中的一个参与者，而模型的预测结果则相当于该博弈中的奖励。SHAP的主要目的是将预测结果平均分配给所有输入特征，从而衡量每个特征对最终输出的影响程度。SHAP的运作原理是通过考虑所有不包含该特征在内的可行特征子集，来确定该特征的边际贡献[47]。模型会针对每个包含或不包含该特征的子群体分别进行预测，然后记录两者之间的差异。某个特征的Shapley值则是通过平均所有子群体中的这些差异得出的[48]。这种全面的方法能够捕捉特征之间的依赖关系和交互效应，确保每个特征的影响都能得到公平且一致的评估。由于SHAP值的加性特性，模型的预测结果相当于所有特征贡献的总和再加上一个基准值[49]。这一特性使得解释结果更加清晰易懂：能够提升预测准确性的特征对应正的SHAP值，而削弱预测准确性的特征则对应负值。任何机器学习或深度学习模型都可以使用SHAP方法；不过，特征数量越多的模型，计算精确的Shapley值所需的计算资源就越多。在物联网领域，SHAP通过量化每个特征对模型预测的贡献，为人们提供了宝贵的洞察，提升了机器学习和深度学习模型在物联网环境中的可解释性，帮助相关方更好地理解并信任模型的决策结果，尤其是在需要实时决策的安全检测和异常检测任务中，可解释性至关重要。

3.10.1. LeBayesNet的SHAP分析图讨论
图12(a)展示了LeBayesNet模型的SHAP汇总图。该图全面解释了各种特征是如何影响模型在物联网网络入侵检测中的决策过程的。src_ip_bytes这一特征表示从源IP地址发送出的字节数，在检测数据外传和异常流量模式方面起着关键作用。proto特征指的是网络通信中使用的协议类型（例如传输控制协议TCP、用户数据报协议UDP），对于识别与特定协议相关的攻击模式（如DoS攻击）非常重要。conn_state特征反映了网络连接的当前状态，对于识别端口扫描或连接劫持等异常或攻击行为至关重要。最后，dns_qclass特征表明DNS查询的类别有助于检测恶意的域名查询或基于DNS的攻击，比如DNS隧道攻击。这些特征被认定为模型预测中最具影响力的因素，凸显了它们在区分物联网环境中的良性与恶意网络活动方面的作用。图12(b)则展示了LeBayesNet模型对某一特定预测生成的SHAP瀑布图。该可视化图表通过展示每个特征相对于模型平均预测值（即基准值）的贡献程度，来分解最终输出的概率。根据SHAP值的不同，各特征要么将预测结果推向恶意类别，要么使其偏向良性类别。其中src_ip_bytes这一特征的影响最为显著，它大幅提升了预测结果向恶意类别倾斜的程度。源IP字节数过高或异常，往往意味着存在异常的通信行为，进而表明可能存在恶意活动。proto特征也有正向影响，进一步推动预测结果向攻击类别靠拢。在物联网流量中，某些不常见或可疑的协议类型通常与入侵行为相关。同样，conn_state的SHAP值为正，说明该样本的网络连接状态更有利于将其归类为入侵行为。异常或意外的连接状态往往反映出典型的网络攻击模式。而dst_pkts特征则具有轻微的负向影响，使预测结果略微偏向良性类别。目标数据包数量正常或较低，通常意味着存在常规的通信模式，这可视为良性行为的标志。

下载：高分辨率图片（459KB）
下载：完整尺寸图片

图12. 用于物联网入侵检测的LeBayesNet的SHAP分析

3.10.2 MargiLeNet的SHAP图表分析
图13(a)展示了所提出的MargiLeNet模型的SHAP概要图。在该图中，各特征根据其对模型输出的平均影响程度进行排序，影响最大的特征位于顶部。proto特征表示通信中使用的协议，这对于识别网络流量的性质及其与特定攻击类型的关联至关重要。src_ip_bytes特征用于衡量从源IP地址发送的数据量，其异常值可能表明存在数据窃取或DDoS攻击等行为。dns_qclass特征代表DNS查询的类别，对于检测可疑的域名查询以及基于DNS的攻击（如隧道攻击）具有重要意义。dns_AA特征反映DNS响应中的权威应答标志，有助于识别可能表明恶意活动的DNS查询异常（例如DNS欺骗）。最后，conn_state特征揭示了网络连接的当前状态，对于检测异常的连接模式或未经授权的访问尝试起着重要作用。这些特征共同为理解模型在区分物联网网络中的良性与恶意活动方面的能力提供了重要依据。

如图13(b)所示，值为0.667的service特征也对攻击预测有正向贡献。在此背景下，service特征用于描述通信会话中所使用的服务类型。0.667这样的数值表明该服务较为罕见或出现频率较低，MargiLeNet认为这增加了恶意行为的可能性。因为某些很少使用或出乎意料的服務往往与物联网环境中的利用尝试或未经授权的访问行为相关。另一个重要的特征是proto，其值为0.5，表示通信过程中使用的协议类型。这一中等数值表明所使用的协议本身既非高度良性也非高度可疑，而是处于模糊状态。MargiLeNet将这种不确定的协议使用情况视为略微倾向于恶意预测，因为它不符合HTTP或HTTPS这类安全、常见的通信协议的典型特征，因此会带来适度的正向SHAP贡献。最后，值为0的dns_qclass特征也对攻击分类有正向作用。dns_qclass特征通常用于编码DNS查询的类别，数值为0则表示缺少或存在异常的DNS类别信息。缺乏诸如IN（互联网）这样的标准DNS查询类别是非常可疑的，模型会将此视为恶意或异常行为的强烈信号。因此，这一特征也会促使整体预测结果向恶意方向偏移。

下载：高分辨率图片（484KB）
下载：完整尺寸图片

图13. 用于物联网入侵检测的MargiLeNet的SHAP分析

下载：高分辨率图片（468KB）
下载：完整尺寸图片

图14. 用于物联网入侵检测的EntroLeNet的SHAP分析

3.10.3 EntroLeNet的SHAP图表分析
图14(a)展示了EntroLeNet模型的SHAP概要图，从中可以全局视角了解不同特征对所有实例模型预测结果的影响。在各特征中，dns_qclass是最具影响力的因素。dns_qclass特征通常表示DNS查询的类别，数值为0时意味着缺少或存在异常的DNS类别信息，这类情况始终与正向的SHAP值相关，这些值会将预测结果推向恶意类别。这反映了模型认识到DNS查询分类中的异常或缺失是物联网网络中可疑活动的强烈信号。src_ip_bytes特征在模型的决策过程中也具有重要作用。src_ip_bytes数值较低时，往往对应着源设备发送的数据量异常少的异常通信模式。另一个重要特征是proto，它表示通信中使用的协议类型。处于中间水平或异常的协议数值会对攻击预测产生正向影响。模型已经了解到，像TCP或UDP这样的常见协议通常属于良性行为，但当某种协议的行为模式偏离常规时，就会增加不确定性，提高将此类流量归类为恶意行为的可能性。proto的SHAP值表明，这类非典型的协议使用方式通常会提升检测到入侵的概率。最后，conn_state特征用于反映网络连接的状态，也是影响模型输出的重要因素。EntroLeNet会将某些特定的连接状态，尤其是那些表示握手未完成、连接重置或失败的状态，标记为异常情况。这类状态往往与侦察、DoS攻击或伪造会话等攻击场景相关。在图表中，conn_state特征显示，那些具有可疑或异常连接状态的实例，其正向的SHAP值表明它们会对攻击预测产生正向影响。

图14(b)展示了EntroLeNet模型的SHAP瀑布图，其中贡献最大的特征依次为dst_bytes、src_ip_bytes、dst_ip_bytes和dns_qclass。dst_bytes的值为0.796，它会使预测结果明显偏向良性类别，因为在物联网环境中，发送到目标端的数据量越多，通常说明是正常的通信行为。相比之下，src_ip_bytes的数值为0.146，数值较低，也会使预测结果偏向良性类别，因为源IP发送的数据量异常少，可能表明存在不完整或可疑的行为。同样，dst_ip_bytes的数值为0.801，数值较高，会产生负面影响，因为它反映出目标设备能够正常接收大量数据的正常通信模式，从而进一步支持将该流量归类为恶意行为。最后，dns_qclass的值为0，会对良性分类产生较强的正向贡献，因为缺少或异常的DNS查询类别通常与攻击场景相关。

3.11 LIME与SHAP的比较分析
LIME和SHAP是两种广泛用于解释复杂机器学习模型预测结果的工具。这两种方法都旨在通过将某个实例的预测结果归因于其各个输入特征，从而提高“黑箱”模型的透明度。不过，它们在理论基础、实现机制以及可解释性保障方面存在显著差异。LIME通过在感兴趣的预测结果附近对复杂模型的行为进行局部近似来实现功能。它通过通过对原始实例进行扰动来生成合成数据点，然后在这些样本上拟合一个简单且易于理解的模型，通常是决策树模型。之后，就可以利用这个替代模型的系数来解释预测结果。LIME具有模型无关性和灵活性，用户可以自行定义局部范围并选择替代模型的类型。但由于采样过程中存在随机性，其解释结果可能会因每次运行而有所不同，且无法保证一致性。

相比之下，SHAP基于博弈论，尤其是Shapley值的概念。SHAP通过考虑所有可能的特征组合，并测量每个特征在所有组合中的边际贡献，来计算特征的影响程度。这样一来，其解释结果不仅具有一致性，而且更为全面，因为所有特征的SHAP值之和等于模型的输出结果。SHAP拥有坚实的理论基础，还能确保特征归因的公平性，但其精确计算成本较高，尤其是在处理具有大量特征的模型时。为了解决这一问题，SHAP提供了诸如TreeSHAP之类的高效近似方法，适用于基于树的模型[50]。虽然LIME和SHAP都能用于实现局部可解释性，但SHAP的优势在于可以通过对多个实例的Shapley值进行聚合，从而提供全局性的解释。LIME主要侧重于局部解释，缺乏将其实证结论推广到全局层面的合理方法。此外，SHAP的解释结果是确定性的且可重复的，而LIME由于采用随机采样方法，其解释结果可能会有所差异。

4. 讨论
实验结果表明，所提出的框架通过解决类别不平衡、超参数优化以及标记数据不足三大难题，为物联网入侵检测提供了有效的解决方案。ProWRAS技术的应用提升了少数类别的代表性，使得模型能够更可靠地检测到罕见的攻击模式。在所提出的各种模型中，LeBayesNet由于采用了贝叶斯优化技术，能够选出更有效的超参数配置，因此在分类精度、ROC-AUC值、MCC指标以及汉明损失等方面，都优于传统的机器学习和深度学习模型，整体性能最优。主动学习模型MargiLeNet和EntroLeNet也表现优异，它们能够筛选出最具信息量和最不确定的样本进行标记，这样既减少了标记工作量，又保持了较高的检测精度，因此非常适合那些标记物联网攻击数据成本高昂或难以获取的场景。10折交叉验证以及Mann–Whitney U检验进一步证明了所提出模型的稳健性和统计显著性。此外，在CICIoT2023数据集上的测试也表明，该框架具备良好的泛化能力，其性能不仅限于最初的ToN_IoT数据集。通过LIME和SHAP进行的可解释性分析，帮助识别出影响入侵检测决策的关键特征，提升了所提模型的透明度，这些解释有助于人们更好地理解模型行为，增强对关键安全物联网应用的信任度。总体而言，实验结果表明，该框架在检测性能、系统稳健性以及可解释性之间取得了良好的平衡。不过，若要在动态变化的物联网环境中实际应用该框架，还亟需进一步开展实时部署测试、对抗性鲁棒性评估、概念漂移处理以及边缘设备测试等工作，以确认其实际可行性。

5. 结论、局限性及未来工作
本文提出了一个将现有模型与优化技术和主动学习方法相结合的有效物联网网络入侵检测系统。本研究使用的数据集ToN_IoT存在严重的类别不平衡问题，为此采用了ProWRAS过采样技术来平衡数据集。所提出的各类模型相较于传统的以及现有的机器学习和深度学习方法，均取得了显著的性能提升。具体来说，LeBayesNet的准确率为0.977，ROC-AUC值为0.977，同时汉明损失仅为0.022。而MargiLeNet的准确率为0.967，ROC-AUC值为0.992，汉明损失为0.032。此外，所提出的EntroLeNet模型也表现出较强的性能，其准确率为0.953，ROC-AUC值为0.987，汉明损失为0.046。为确保模型的稳健性和可靠性，所有模型都经过了10折交叉验证，同时运用Mann–Whitney U检验来验证实验结果的统计显著性。此外，还通过实施LIME和SHAP技术，实现了对入侵检测预测结果的可解释性分析。

尽管所提出的框架性能优异，但仍存在一些局限性。目前的实验是在离线环境下进行的，因此仍需研究其在动态物联网流量、延迟限制以及资源受限条件下的实时部署效果。此外，预处理流程也需要进一步优化，采用更加严格的基于分割意识的设计，以避免任何可能的数据泄露问题。对于大规模物联网环境而言，还需要深入分析其计算复杂性、延迟问题以及扩展性。目前还尚未对该框架的抗对抗攻击能力进行评估。最后，当前的研究并未明确探讨概念漂移问题，而当物联网流量模式随时间发生变化时，概念漂移可能会影响模型的性能。

虽然所提出的框架在物联网网络中的入侵检测任务中表现出色，但未来仍有许多工作需要开展。未来的研究将在真实的物联网环境中部署这些模型，以评估其实际效率、扩展性、延迟表现以及资源消耗情况。同时，将会采用更加严格的基于分割意识的前处理和平衡策略，以防止数据泄露并提升模型的可靠性。此外，还将进一步研究计算复杂性问题，以及模型在面对对抗性扰动和规避攻击时的鲁棒性。概念漂移的检测与适应方法，比如在线学习以及增量式重新训练，也值得进一步探索。最后，性能最佳的模型，如LeBayesNet，将在Raspberry Pi 4/5等边缘设备上进行测试，以评估其推理时间、内存使用情况、能耗以及部署的可行性。CRediT作者贡献说明：Nadeem Javaid：撰写——审阅与编辑、指导、研究、概念设计。Aymin Javed：撰写——初稿、可视化、验证、方法论。Sherali Zeadally：验证、研究、形式分析、概念设计。Muhammad Ayaz：概念设计、数据整理、形式分析、可视化。Nadeem Javaid|Aymin Javed|Sherali Zeadally|Muhammad Ayaz