《Sensors》:Response-Patch CNN–Transformer Multitask Learning Model for VOCs Identification Using Electronic Nose
编辑推荐:
电子鼻系统易受交叉敏感性、噪声和基线漂移的影响,使得挥发性有机物(VOCs)的定性识别与定量预测难以同时实现。为解决上述问题,本研究提出一种基于响应分块序列的CNN–Transformer多任务学习模型。首先构建多通道活动曲线以定位响应起始点并提取定长样本;随
电子鼻系统易受交叉敏感性、噪声和基线漂移的影响,使得挥发性有机物(VOCs)的定性识别与定量预测难以同时实现。为解决上述问题,本研究提出一种基于响应分块序列的CNN–Transformer多任务学习模型。首先构建多通道活动曲线以定位响应起始点并提取定长样本;随后利用滑动窗口将长响应序列划分为有序分块。CNN用于捕获与信号上升、峰值及恢复相关的局部动态模式,可学习的位置嵌入(positional embedding)与Transformer则用于建模分块间的顺序关系与长程时间依赖。任务特定的压缩-激励(squeeze-and-excitation, SE)注意力分支自适应增强分类与回归相关特征,并采用基于不确定性的损失加权策略平衡两个学习目标。在分块长度为75、步长为37的设置下,模型取得了0.9717的准确率(Accuracy)、0.9696的F1分数(F1-score)、5.0789 ppm的平均绝对误差(MAE)以及0.9467的决定系数(R2)。对比实验与消融实验证实了模型优越的综合性能及各提出模块的有效性。该方法为电子鼻应用中VOCs的集成识别与定量分析提供了一种可行方案。
一、研究背景与问题
挥发性有机物(VOCs)广泛存在于工业生产、环境监测、食品安全和医学诊断等领域,部分VOCs具有毒性并对人体健康构成潜在威胁,因此对其进行快速准确检测具有重要意义。传统分析方法如气相色谱、质谱及气相色谱-质谱联用虽检测精度高,但受限于设备昂贵、操作复杂且难以现场应用。相比之下,基于气体传感器阵列的电子鼻具有响应快、成本低、易于集成等优势,为VOC检测提供了有效途径。
早期电子鼻数据分析主要依赖传统机器学习方法,其性能取决于人工特征设计。随着深度学习发展,卷积神经网络(CNN)、循环神经网络(RNN)、长短期记忆网络(LSTM)和时间卷积网络(TCN)等逐步应用于气体响应时间序列建模,以提取不同尺度的局部动态特征和时间依赖关系。Transformer通过自注意力机制进一步增强全局依赖建模能力,多任务学习也被越来越多地用于同时进行气体分类和浓度预测。
尽管在联合定性与定量检测、时间序列特征建模和多任务学习方面取得了进展,但现有研究鲜有同时充分利用响应分块内部局部动态特征和分块间长程时间依赖信息。不同响应分块尺度对局部和全局特征建模的影响也未被系统研究。此外,分类和回归任务关注特征信息的不同方面,完全共享的表征可能限制任务特定信息的表达。
二、研究内容与结论
针对上述不足,本研究提出一种基于响应分块序列建模的CNN–Transformer多任务学习模型。模型采用CNN提取每个响应分块内的局部动态特征,利用位置嵌入和Transformer建模分块间的长程时间依赖关系,并引入任务特定SE机制自适应重校准分类和回归所需特征,从而实现VOC种类识别与浓度预测的联合建模。
研究通过对比不同响应分块尺度,确定分块长度75、步长37为最优配置。在严格的按文件分组五折交叉验证下,模型气体识别准确率达到0.9717,F1分数为0.9696,浓度预测MAE为5.0789 ppm,R2为0.9467。对比实验表明,该模型在定性与定量检测方面均优于传统机器学习方法和代表性时序深度学习模型。消融实验证实了CNN局部特征编码、Transformer全局时序建模、任务特定SE注意力、位置嵌入和多任务损失加权的有效性。
该研究的意义在于:通过有效结合局部响应动态与长程时间依赖,为电子鼻同时进行VOC分类和浓度预测提供了一体化解决方案;响应分块表示和任务特定特征增强的有效性展示了该模型在其他多通道VOC传感和时间序列分析任务中的应用潜力。
三、关键技术方法
研究人员采用以下关键技术方法开展研究:其一,构建多通道活动曲线,结合活动强度、局部斜率和激活通道数定位各浓度阶段实际响应起始点,并同步提取包含80点基线、600点气体暴露和370点空气恢复的定长样本,总长度1050点。其二,采用滑动窗口将每个样本沿时间维度划分为有序响应分块序列,窗口长度L从55到195个采样点以20为增量变化,步长设为分块长度的一半向下取整。其三,构建CNN–Transformer多任务模型,CNN由两个一维卷积层组成(32和64个卷积核,大小分别为5和3),经批归一化和ReLU激活后,通过全局平均池化和全局最大池化拼接并映射为64维特征向量;可学习位置嵌入逐元素加到各分块特征上;单层Transformer编码器采用两个注意力头建模分块间长程依赖,前馈网络隐藏维度为128;任务特定SE模块对共享特征进行全局平均池化后经两层全连接(64→8→64)和Sigmoid生成特征权重,实现分类和回归分支的自适应特征重校准。其四,采用基于可学习不确定性的损失加权策略平衡分类交叉熵损失和回归均方误差损失。数据来自8个MQ系列金属氧化物半导体气体传感器(郑州炜盛电子科技有限公司),包含12种VOCs在10至100 ppm浓度范围(10 ppm递增)的响应,每个VOC选取5次完整实验运行,共600个响应样本。数据按原始实验文件分组进行五折交叉验证,每折480个训练样本和120个验证样本。
四、研究结果
4.1 响应分块长度对模型性能的影响
研究人员考察了分块长度从55到195采样点的八种配置,并纳入单分块配置(1050/1050)作为参照。结果表明模型性能随分块配置变化,75/37配置取得最佳综合性能,准确率0.9717,F1分数0.9696,MAE 5.0789 ppm,R2 0.9467。相比之下,单分块配置准确率0.9633,F1分数0.9622,MAE 5.7431 ppm,R2 0.9212。这说明将完整响应序列划分为多个分块有利于局部动态特征提取和分块间时序建模。较短分块可能割裂局部响应动态,较长分块则减少时序单元数量,75/37配置在预测性能和模型复杂度之间取得了适当平衡。
4.2 CNN–Transformer多任务模型的整体性能
在75/37响应分块设置下进行五折交叉验证,模型气体识别平均准确率0.9717,F1分数0.9696,浓度预测MAE 5.0789 ppm,R2 0.9467,各指标标准差较小,表明模型具有良好的稳定性和泛化能力。混淆矩阵显示大多数样本集中在对角线上,12种VOCs均得到有效识别,少数类别间的误分类可能源于传感器响应模式的相似性。浓度预测散点图显示大多数预测值接近理想线,在低(10–30 ppm)、中(40–70 ppm)、高(80–100 ppm)浓度范围的MAE分别为3.51、5.66和5.87 ppm,对应平均偏差为?2.33、?0.43和?1.67 ppm,表明存在一定低估,尤其在低浓度下更为明显,可能与传感器噪声、基线漂移和实验运行间响应变化有关。
4.3 损失函数与训练收敛
模型采用基于可学习不确定性的加权策略构建多任务损失函数,分类损失用交叉熵计算,回归损失用均方误差计算,其可学习对数方差参数在训练中自适应平衡两个任务。训练曲线显示分类准确率和回归R2在早期快速上升,交叉熵损失和MSE逐渐下降并趋于稳定。五折训练时长分别为145、195、101、133和200个轮次,由于第三折训练时长最短,取前101个轮次计算五折平均学习曲线。验证回归曲线存在局部波动,可能源于少数样本的较大预测误差以及多任务训练中共享参数的调整。总体来看,平均学习曲线在显示区间内未出现验证性能持续恶化,表明模型收敛良好、训练稳定且无明显过拟合迹象。分类和回归任务同时收敛表明不确定性加权有助于平衡两个任务在优化中的贡献。
4.4 对比实验
研究人员将所提模型与机器学习模型(ET、KNN、SVM)和深度学习模型(CNN、TCN、LSTM、RNN)进行对比,所有模型采用相同的按文件五折划分,每折480个训练样本和120个验证样本,超参数基于相关先前研究和预实验选定并保持固定。实验结果表明,所提模型在气体识别和浓度预测的所有评价指标上均取得最优综合性能。
4.5 消融实验
研究人员对CNN局部特征编码器、Transformer全局时序编码器、任务特定SE注意力、多任务损失加权和位置嵌入五个关键组件进行消融实验。去除CNN后准确率仅下降0.17个百分点,F1分数几乎不变,但MAE从5.0789增至6.0918 ppm,R2下降0.0397,表明CNN主要贡献于提取浓度相关的局部动态特征。去除Transformer使准确率和F1分数分别下降0.67和0.63个百分点,MAE增至6.7554 ppm,R2下降0.0448,说明其承担分块间全局时序依赖建模功能。去除SE使准确率和F1分数下降0.84和0.78个百分点,MAE增至5.9061 ppm,R2下降0.0302,表明任务特定SE增强了任务相关特征。去除损失加权使准确率和F1分数下降2.17和2.11个百分点,MAE增至5.9430 ppm,R2下降0.0265,确认其有助于平衡分类和回归任务。去除位置嵌入使准确率和F1分数下降0.84和0.78个百分点,MAE增至6.0122 ppm,R2下降0.0235,说明分块顺序信息的重要性。完整模型在所有变体中取得最佳综合性能。
4.6 SE特征权重可视化
研究人员通过热图可视化分类和回归分支的SE特征权重分布。分类分支对较广泛的特征通道赋予相对较高的权重,表明气体识别需要多个判别性特征;回归分支的高权重集中在较少通道上,这些通道可能与响应强度和浓度变化更密切相关。这一结果证明任务特定SE注意力根据各任务目标自适应重校准共享特征,从而增强任务相关特征表示。
五、讨论与结论
本研究提出基于响应分块序列的CNN–Transformer多任务学习模型,用于VOC识别和浓度预测。通过比较不同响应分块尺度,确定分块长度和步长75/37为最优配置,实现局部动态特征与全局时序信息的联合建模。在严格的按文件五折交叉验证下,模型气体识别准确率0.9717,F1分数0.9696,浓度预测MAE 5.0789 ppm,R2 0.9467,在定性与定量检测方面均表现良好。与传统机器学习方法和代表性时序深度学习模型相比,所提模型取得更优综合性能。消融实验证实了CNN局部特征编码、Transformer全局时序建模、任务特定SE注意力、位置嵌入和多任务损失加权各组件均发挥积极作用。
研究仍存在若干局限:模型仅在相对稳定的环境条件和固定的浓度递增序列下评估,未系统考察环境变化、传感器不完全恢复或暴露历史效应的影响;对未见浓度水平和独立外部测试数据的泛化能力尚未验证;低浓度下存在一定预测偏差。这些局限反映了现有实验数据和评估方案的范围。未来工作将通过更广泛的实验条件、替代暴露序列和独立测试来提升模型鲁棒性和浓度预测精度。