Δ-Net软传感器设计：面向小样本数据集的差分神经网络方法

《Engineering Applications of Artificial Intelligence》：Soft sensor design with small datasets using a difference-based neural network

　　

软传感器（Soft Sensor, SS）是工业过程的数学模型，常用于监测与控制。基于人工智能的数据驱动技术通常用于辨识此类模型。当待估变量需经实验室分析测定时，数据稀缺成为挑战性问题。本文提出一种称为Δ-Net的差分神经网络，用于在仅有数百条标注数据时开发动态非线性软传感器。Δ-Net利用案例差分启发式（Case Difference Heuristic, CDH）方法，基于两个并行神经网络处理输入样本对。Δ-Net在通过对原始小数据集进行成对排序所得的增强数据集上训练，子网络输出经组合后估计对应输出之差。输出样本的重构计算为样本到一组锚点距离之均值，以提升预测鲁棒性。该方法应用于知名工业基准数据集，结果表明其性能优于其他数据增强方法，包括自助重采样（bootstrap resampling）、变分自编码器（Variational Autoencoder, VAE）与Wasserstein生成对抗网络（Wasserstein Generative Adversarial Network, WGAN）。

研究背景方面，现代工业装置日益复杂，重要质量变量（如化工浓度、冰点）常需实验室分析，导致标注样本稀少（常仅每日一至两次测量，一年仅数百条），难以支撑数据驱动非线性动态软传感器（Soft Sensor, SS）建模，易过拟合且泛化差。现有小样本应对策略涵盖正则化、核方法、数据增强（含VAE、条件VAE、WGAN等）、集成、半监督及迁移学习，但生成式增强易引入分布偏移。为此，研究人员以硫磺回收单元（Sulfur Recovery Unit, SRU）与常压蒸馏塔（Topping Distillation Column, TDC）煤油冰点为对象，提出Δ-Net以缓解小样本动态系统辨识难题。该研究发表于《Engineering Applications of Artificial Intelligence》，意义在于为实验室分析频次低的过程提供无需合成伪数据的成对重组增强范式，并在基准上超越六类基线。

关键技术方法上，研究人员构建双分支非参数共享的多层感知机（Multilayer Perceptron, MLP）架构，受连体网络（Siamese network）启发但分支独立优化；将原始小训练集按允许重复的两两 disposition 生成 n2 对输入与输出差值标签，形成增强集训练映射 F(x?,x?)≈y??y?；推断时以测试样本与全部训练样本成对前向，按式(9)取双向差分之均值加锚点已知输出重构 y??^Te，等价于以训练集为锚点的集成式CDH重建；动态性通过非线性有限冲激响应（Nonlinear Finite Impulse Response, NFIR）回归向量接入，避开了NARX对输出反馈的依赖；超参由KerasTuner贝叶斯搜索确定，早停基于验证损失。样本队列来源为公开SRU基准（截取1k样本再分25%–100%训练档）与炼油厂TDC历史数据（336日测冰点，70/10/20分割）。

研究结果部分，引言指出质量变量难测促生SS需求，小样本界定采用小数据指数（Small-Data Index, SDI）=可学参数量P_L/|X^Tr|，SDI>1即小数据问题。相关工作归纳六基线：岭回归、支持向量机（Support Vector Machine, SVM）、多层感知机、自助加噪重采样集成、VAE-ANN、WGAN-ANN，并明确NFIR而非NARX作动态载体。Δ-Net章节给出架构（图2）、损失(7)、重建(8)(9)及双算法（训练成对批增强、测试全配对平均），强调双分支不共享权重以增加表示柔性并借平均滤波抑噪。工业应用章节描述SRU（输出SO₂、H₂S，5输入时延1/3/5/7/9步，共25维）与TDC（18输入预测煤油冰点，336样本）。结果讨论中，SRU在25%档（200训练）Δ-Net得RMSE=0.046、R2=0.85，优于ANN(RMSE=0.053,R2=0.81)、WGAN-ANN(0.063,0.72)、VAE-ANN(0.065,0.71)、Bootstrap(0.072,0.64)、Ridge(0.073,0.62)、SVM(0.085,0.49)；随训练比升至100%，Δ-Net达RMSE=0.035,R2=0.91，相对最佳基线RMSE改进最高51%、R2改进最高74%；100次权初始化试验显示方差最小。TDC上Δ-Net亦居首，验证对小样本回归鲁棒。

讨论与结论翻译总结：研究人员指出Δ-Net通过将小集重组为成对差分标签，实现“以原数据重组代合成”的增强，训练集基数平方级放大且不需伪标注；双分支独立MLP与全训练锚点平均重建构成集成—增强混合，对输入空间噪声具滤波效应；在SRU不同训练比例与TDC真实小样本场景均稳定优于生成式与浅层基线。结论确认：所提Δ-Net可有效辨识仅数百标注的动态非线性工业过程，CDH框架下的差分映射与锚点均值重构是小样本软传感器建模的可行路径，相较VAE/WGAN等生成增强避免分布漂移，具备传感器维护期替代硬件测量的实用价值。