NAS优化的TinyML入侵检测用于超低功耗物联网边缘设备

《Internet of Things》：NAS-Optimized TinyML Intrusion Detection for Ultralow-Power IoT Edge Devices

　　

物联网（IoT）环境中的入侵检测面临一个持续存在的差距，即深度学习模型的高预测性能与其在超低功耗嵌入式设备上的可行性之间的矛盾，因为许多现有方法超出边缘微控制器的内存、延迟和能量约束，并依赖领域特定数据集，限制了跨域泛化。本研究提出一种通过神经网络架构搜索（NAS）优化的Tiny机器学习（TinyML）入侵检测框架，该框架在一个多域、特征对齐的数据集上训练，该数据集整合了异构源，包括TON_IoT、IoT-23、Edge-IIoTset和一个受控实验数据集，通过统计对齐和降维获得32–64个特征的紧凑表示，同时保留超过99%的信息方差。实验结果显示，在IoT-23上F1-macro得分超过0.95，在受控场景中超过0.98。同时，硬件级验证确认了部署可行性，推理延迟为2.48 ms，RAM使用低于20 KB，每次推理能耗为0.39 mJ，证明了直接在IoT边缘设备上进行高效自主入侵检测的可行性。

**论文解读：NAS优化的TinyML入侵检测框架在超低功耗物联网边缘设备中的应用**

**研究背景与问题**

随着物联网（IoT）的快速扩展，高度分布式基础设施由异构、资源受限的设备组成，这些设备在动态且关键的环境中运行，面临拒绝服务攻击、自动扫描和协议级利用等多样网络威胁。在边缘场景中，由于连接有限、延迟约束严格和隐私限制，集中式安全机制往往不足。基于深度学习的入侵检测系统（Intrusion Detection System, IDS）在受控环境中表现出色，但其部署在IoT边缘设备上仍受限，因为许多方法依赖计算密集型架构，内存和能量需求高，不适合超低功耗微控制器。即使应用剪枝或量化等后训练优化，这些模型仍常无法满足严格硬件约束，特别是内存预算低于128 KB的设备。这一检测能力与部署可行性之间的差距是一个核心限制。

Tiny机器学习（TinyML）通过在严格资源约束下实现设备端推理，提供了一个有前景的替代方案。然而，设计有效的TinyML基IDS模型仍面临挑战，包括非平稳流量模式、类别不平衡和有限表示能力。神经网络架构搜索（Neural Architecture Search, NAS）提供了一种系统机制，用于探索紧凑架构，同时整合延迟、内存和能量约束，特别适合嵌入式部署场景。此外，数据集异构性引入额外复杂性，广泛使用的数据集如TON_IoT、IoT-23和Edge-IIoTset在特征分布、类别平衡和统计特性上存在显著差异，阻碍跨域泛化和可重复性。现有轻量级边缘导向IDS方法主要关注模型级优化或模态集成，未明确纳入硬件感知架构搜索、多域数据对齐和微控制器部署验证，限制了在同时需要泛化和严格资源约束场景中的应用。

**研究内容与结论**

本研究提出一个TinyML基入侵检测框架，将多域特征空间对齐与硬件感知神经网络架构搜索（NAS）相结合，在严格资源约束下运行。研究人员构建了一个混合数据集，通过受控降维实现紧凑特征表示（32–64维），适用于嵌入式部署。该框架整合了异构数据集（TON_IoT、IoT-23、Edge-IIoTset和一个受控实验数据集），并在多域条件下评估检测能力和部署可行性。优化后的模型在IoT-23上达到F1-macro超过0.95，在受控数据集上超过0.98，同时保持低计算开销。硬件级验证在Cortex-M类微控制器上进行，确认了方法的可行性，推理延迟低于2.5 ms，RAM使用低于20 KB，每次推理能耗约0.39 mJ。这些结果表明，将硬件约束直接纳入架构搜索过程，能够在资源受限的IoT环境中实现实用的设备端入侵检测。

该论文发表在《Internet of Things》期刊，为超低功耗IoT边缘设备提供了一种高效、自主的入侵检测解决方案，弥合了深度学习性能与嵌入式部署之间的差距，具有重要的实际应用意义。

**主要关键技术方法**

研究人员采用了以下关键技术方法：（1）多域数据集工程与特征对齐，包括从TON_IoT、IoT-23、Edge-IIoTset和受控环境数据集（CTD）构建混合数据集，通过时间对齐（50–100 ms重采样）、归一化（对数缩放、Z分数标准化、低维哈希编码）和两阶段特征降维（互信息选择后通过线性投影或参数少于5K的轻量自编码器获得32–64维表示）；（2）硬件感知神经网络架构搜索（NAS），采用多目标优化（联合检测损失、延迟、能量和内存，权重系数λ₁、λ₂、λ₃），结合可微优化（DARTS）和ProxylessNAS启发约束，搜索空间包括深度1–3层、宽度8–128单元、Conv1D、深度可分卷积、密集层和压缩线性算子，以及激活函数（ReLU6、Tanh、SiLU）；（3）TinyML模型训练、量化与部署流水线，包括量化感知训练（QAT）、结构化剪枝（压缩比90–95%）、转换为TensorFlow Lite Micro并部署在ARM Cortex-M4微控制器上，进行硬件级评估。

**研究结果**

**4.1 多域数据集特征与特征空间对齐表征**
通过统计比较四个域（TON_IoT、IoT-23、Edge-IIoTset、CTD）的样本量、特征维度和类别分布，发现显著异质性。主成分分析（PCA）表明，所有域均可压缩至32维表示，保留接近100%的信息方差。二维投影显示各域几何结构差异：TON_IoT呈现中等相关聚类；IoT-23高度集中，受良性流量主导；Edge-IIoTset分散且多密集区域；CTD形成分离聚类。这解释了直接跨域训练不可行，需特征空间对齐。

**4.2 选出模型（θ*）的检测性能**
使用NAS选出的θ*模型在IoT-23上F1-macro为0.972，在CTD上为0.989，在组合域上为0.972。对比基线模型（随机森林、线性SVM、紧凑MLP），紧凑MLP在组合域表现良好（F1-macro 0.972），而线性SVM较低（0.789）。TON_IoT和Edge-IIoTset因预处理后类别退化为单一有效类，被排除于监督评估。

**4.3 微控制器硬件上的运行时性能（延迟、RAM、能量）**
θ*模型在Cortex-M4上实现推理延迟2.48 ms，动态RAM 18.7 KB，FLASH 52.4 KB，每次推理能量0.39 mJ，优于基线模型（5.87 ms, 34.6 KB, 118.3 KB, 1.21 mJ）和量化模型（3.92 ms, 26.1 KB, 71.8 KB, 0.73 mJ），表明NAS结构优化是效率提升的主要因素。

**4.4 鲁棒性与跨域泛化分析**
在噪声注入（σ=0.03–0.15）和时间漂移条件下，所有域的性能退化渐进，无突然崩溃。IoT-23对其他域表现出最高鲁棒性（ΔF1-macro最大-6.14%），CTD最敏感（-12.39%），组合域呈中等行为。跨域迁移测试显示不对称性：从CTD训练到IoT-23评估退化更大，反之较小；组合域训练则退化适中。

**4.5 消融研究与NAS搜索收益**
消融实验表明，移除NAS、量化感知训练、剪枝、硬件约束或混合数据集中的任一组件，均导致性能下降或资源增加。例如，移除NAS使F1-macro从0.972降至0.931，延迟从2.48 ms增至5.87 ms；移除混合数据集使F1-macro降至0.943。θ*在Pareto前沿上处于非支配解，平衡了检测性能与计算效率。

**讨论与结论**

讨论部分指出，研究结果与先前研究一致，即高容量单域模型易过拟合，而受控非线性容量模型在准确性和泛化间更稳定。本研究通过将硬件约束作为主要设计变量，扩展了这一视角。多域对齐和特征降维过程在紧凑潜在空间中保留了判别能力，支持异构IoT数据的统一流水线。基线模型性能依赖于数据结构性质，强调鲁棒评估指标的必要性。识别出退化域的存在挑战了均匀跨域泛化的假设，需先进行可行性分析。鲁棒性实验表明模型捕获稳定模式，但不同域间变异性验证了多域训练的价值。局限性包括：跨域评估受限于有效类别分布，硬件性能可能因微控制器架构而异，且方法依赖预定义数值特征，可能无法完全捕捉动态环境中的演化流量模式。本研究的贡献在于联合整合了异构数据集特征空间对齐、TinyML约束下的硬件感知NAS，以及真实微控制器硬件验证，实现了在严格资源限制下跨域稳定性能的实用入侵检测框架。

研究结论总结：本研究通过联合整合多域特征空间对齐、硬件感知神经网络架构搜索和真实微控制器硬件验证，解决了TinyML约束下IoT环境中的入侵检测问题。结果表明，嵌入式系统的检测性能强烈受数据结构属性及其与约束执行环境兼容性的影响。所提方法表明，紧凑特征表示和约束感知架构设计能够在异构域间保持稳定检测性能的同时实现高效部署。通过将硬件约束直接纳入NAS过程，所得模型在预测能力和资源效率间达成一致平衡，支持在Cortex-M类设备上的实际实现。此外，跨域行为分析表明，数据集结构差异直接影响模型可迁移性，凸显了部署前受控对齐和验证的重要性。鲁棒性实验显示，在噪声和时间漂移下性能渐进退化，无突然不稳定性，表明优化模型在扰动下保留相关判别模式。本研究存在局限性，包括评估限于公开数据集和受控环境、残余域偏移效应以及未探讨类特定校准或细粒度对抗鲁棒性。未来工作将聚焦于TinyML约束下的自适应和联邦学习策略、跨更多硬件平台的验证，以及多样化操作条件下的更全面评估。