《AI》:Comparative Evaluation of ANN, LSTM, and 1D-CNN Models for Energy-Efficient Prediction of Low-Cost Gas Sensor Time-Series Data
编辑推荐:
本研究调查了人工神经网络(ANN)、长短期记忆网络(LSTM)作为循环神经网络(RNN)的代表以及一维卷积神经网络(1D-CNN)在时间序列预测中的应用,通过低成本气体传感器的瞬态信号读数用例进行展示。尽管这些架构在物联网预测应用中被广泛使用,但缺乏在相同实验
本研究调查了人工神经网络(ANN)、长短期记忆网络(LSTM)作为循环神经网络(RNN)的代表以及一维卷积神经网络(1D-CNN)在时间序列预测中的应用,通过低成本气体传感器的瞬态信号读数用例进行展示。尽管这些架构在物联网预测应用中被广泛使用,但缺乏在相同实验条件下系统比较其性能的研究,特别是在能量受限的传感场景中。主要目标是评估在能效数据采集场景下模型精度、计算成本和内存需求之间的权衡。使用186个记录的瞬态样本进行了全面的实验分析,所有模型在一致的预处理、相同的数据划分和统一的超参数设置下进行训练和评估。性能评估使用了均方根误差(RMSE)、决定系数(R2)、标度平均绝对误差(MAE)、训练时间和模型大小作为关键评估指标,并考虑了不同的输入序列长度。结果显示,LSTM模型取得了最高的精度,RMSE为3.69%,R2为0.85,标度MAE为0.04,有效捕捉了长期时间依赖性。1D-CNN在精度和训练效率之间表现出平衡折中,而ANN提供了最短的训练时间但整体性能较低。将输入读数从186减少到仅10-20个,导致RMSE仅增加2-4%,模型大小减少高达50%,使得这种配置特别适合边缘或嵌入式物联网设备。研究结果表明,即使在数据减少的条件下,人工神经网络也能保持高预测精度,有助于为智能化和分布式物联网环境开发低功耗、资源高效的传感系统。
随着物联网(IoT)中互联设备数量激增,高效且准确的传感器数据预测成为关键研究重点。低成本气体传感器在环境监测、工业安全和能源系统中至关重要,但连续高频数据采集消耗大量能量和存储资源。传统统计模型难以捕捉传感器时间序列中的非线性、噪声和复杂时间依赖性,导致预测精度低。近年来,机器学习(ML)和深度学习(DL)方法如人工神经网络(ANN)、长短期记忆网络(LSTM)和一维卷积神经网络(1D-CNN)在时间序列预测中表现出巨大潜力。然而,现有研究多聚焦于单一架构或特定应用场景,缺乏在统一实验条件下系统比较不同架构性能的工作,特别是在能量受限的传感场景中,很少同时考虑预测精度、计算复杂度和部署效率之间的权衡。为此,本研究人员开展了一项系统对比研究,采用ANN、LSTM和1D-CNN三种典型神经网络架构,在一致的预处理、数据划分和超参数设置下,基于低成本气体传感器瞬态信号数据评估其性能。实验使用MQ-2气体传感器在密封室中采集的瞬态响应数据(共381个瞬态,其中304个用于训练,77个用于测试),每个瞬态包含186个采样点。研究人员通过变化输入序列长度(从186个读数降至2个)和采样策略(均匀、对数、指数、前n个连续值),全面分析了精度、训练时间和模型大小之间的权衡。结果表明LSTM模型精度最高(RMSE=3.69%,R
2=0.85,MAE=0.04),ANN训练最快但性能最低,1D-CNN在精度与效率间取得平衡。将输入读数从186降至10-20个仅使RMSE增加2-4%,但模型大小减少达50%,训练时间显著缩短。这一发现表明,即使在数据减少条件下,神经网络也能保持较高预测精度,为资源受限的边缘物联网设备开发低功耗、资源高效的传感系统提供了可行方案。该论文发表在《AI》期刊上。
为开展研究,本研究人员采用了三个主要关键技术方法:其一,基于瞬态信号分析的能效数据采集框架,通过20秒在线/120秒休眠的优化配置(源于前期研究[2]),利用实时时钟和MOSFET开关控制传感器间歇工作,从MQ-2传感器(样本队列来源:密封室中381个瞬态,10 Hz采样)获取186个采样点组成的瞬态响应。其二,三个神经网络模型(ANN、LSTM、1D-CNN)的构建与超参数优化,使用Keras框架(Python 3.9.13),采用Adam优化器、ReLU激活函数和MSE损失函数,通过网格搜索确定最优神经元数、学习率、批次大小和epoch(ANN:64单元/0.001学习率/500 epoch;LSTM:16单元/0.005学习率/200 epoch;1D-CNN:16单元/0.001学习率/500 epoch)。其三,系统性输入长度缩减与采样策略(均匀、对数、指数、前n个连续值),在保持模型架构不变的前提下,评估不同数据密度对性能的影响,并采用RMSE、R
2、MAE、训练时间和模型大小作为多维评估指标。
关于研究结果,根据论文主体部分内容,保留四个小节标题进行概述:
4.1 ANN结果概述
通过表4展示的36种超参数组合,研究人员发现最佳ANN配置(64单元,0.001学习率,500 epoch)在20/120秒在线/休眠比下达到RMSE 6.74%,模型大小2211 kB,训练时间44.06秒。模型大小主要由神经元数决定,训练时间受epoch和学习率影响,最优配置具有最小模型大小。
4.2 LSTM结果概述
表5显示,36种超参数组合中有5种因训练不稳定出现NaN值。最佳LSTM配置(16单元,0.005学习率,200 epoch)达到最低RMSE 3.69%,R
2=0.85,模型大小143 kB,训练时间169.8秒。中等规模的超参数设置实现最优性能和中等训练时间。
4.3 CNN结果概述
表6中,最佳1D-CNN配置(16单元,0.001学习率,500 epoch)达到RMSE 5.48%,R
2=0.81,模型大小1756 kB,训练时间44.14秒。最优模型同样具有最小单元数和学习率,但针对输入长度的敏感性低于其他架构。
4.4 分段大小分析
研究人员将最佳超参数配置应用于11种不同输入长度(从186个读数降至2个),如表7和图3-5所示。结果发现:使用全部186个读数时LSTM性能最优(RMSE 3.69%),1D-CNN次之(RMSE 5.48%),ANN最差(RMSE 6.74%)。将输入减至20个读数时,对数或均匀采样在ANN和1D-CNN中表现最佳;减至10个读数时,指数采样对ANN和1D-CNN最优,而LSTM在固定间隔采样(每10秒取一个值)下达到RMSE约4.0%;减至仅2个读数(首尾值)时,所有模型RMSE约12-14%,但训练时间降至16.6-28.5秒,模型大小降至50 kB。总体而言,输入从186减至10-20个读数导致RMSE仅增加2-4%,而模型大小减少达50%。
在讨论部分,研究人员指出LSTM因递归结构需最长训练时间,但模型大小最小;ANN训练最快但模型最大;1D-CNN处于中间。实践上,对精度要求极高的场景(如导航安全)应使用LSTM,但在资源受限的嵌入式系统中,采用短输入段(如10个读数)可显著提高效率且保持可接受精度。限制包括数据集规模有限(仅381个瞬态)、仅使用单层架构、未在真实嵌入式硬件上部署。未来工作将探索自动超参数优化、混合架构(如LSTM-CNN)、模型压缩技术(剪枝、量化、知识蒸馏)以及图神经网络(GNN)用于时空预测。结论部分翻译自原文第6节:本研究评估了ANN、1D-CNN和LSTM三种神经网络在能效数据采集条件下预测低成本气体传感器瞬态响应的性能。实验框架考虑了多种输入大小和超参数组合,强调了模型精度、训练时间和内存需求之间的权衡。结果表明LSTM模型实现了最高预测精度(RMSE 3.69%,R
2=0.85,MAE=0.04),有效捕捉了长期时间依赖性;ANN训练时间最短但对输入长度和模型大小更敏感;1D-CNN在计算效率和预测精度间提供了平衡折中。将输入读数从186减至10-20个仅使RMSE增加2-4%,同时显著降低模型大小(高达50%)和训练时间,这种配置非常适合资源受限或边缘物联网系统。未来工作将研究自动超参数优化、混合深度学习架构、嵌入式部署以及基于GNN的时空模型。