基于Transformer-LSTM融合网络的污水BOD5指标软测量方法与性能优化研究

本文创新性地提出LSformer模型，通过将LSTM嵌入Transformer多头注意力（Multi-Head Attention）层计算，优化Q、K、V输入信息，提升对BOD5时间序列时序相关性及非线性特征的捕捉能力；改进多头注意力输出结构，实现注意力头串行拼接输出，增强模型稳定性和表达力。实验表明该模型在BSM1基准数据集和实际场景中均表现出优越的软测量性能。

　　

Section snippets

LSTM neural network

长短期记忆网络（LSTM）属于循环神经网络（RNN）的一种特殊类型。凭借其门控机制的特性，LSTM能够保留或丢弃输入信息，从而实现对长期依赖关系的捕捉，因此在众多领域取得了巨大成功并被广泛应用。LSTM主要包含以隐藏层状态和细胞状态为核心的结构，包括遗忘门、输入门和输出门。以下是各门的计算流程：

Methodology

本节主要阐释LSformer的核心机制。随后，针对污水排放指标五日生化需氧量（BOD₅）建立基于LSTM与Transformer的软测量模型。图5展示了LSformer的主体结构，其中包括嵌入了LSTM的串行多头注意力模块（LSMA）以及多头注意力的串行拼接输出结构。

Benchmark simulation model 1(BSM1)

污水处理过程复杂且包含多个环节。活性污泥模型（ASM）常被用于模拟污水处理厂的运行过程（Wu et al., 2016）。然而，由于进水成分多变及活性污泥过程的复杂性，直接使用ASM模型作为污水处理厂模拟平台存在一定局限。为解决这一问题，国际水协会（IWA）开发了——

Conclusion

本文开发了一种用于污水处理过程软测量应用的数据驱动LSformer模型。该模型通过将LSTM嵌入Transformer的多头注意力层计算，分析Q、K、V变量的序列时序信息，与Transformer相互优化输入信息，降低模型计算复杂度，从而辅助模型提取BOD₅数据中的时序相关性及非线性特征。

CRediT authorship contribution statement

Xiaoling Zhang: 撰写初稿、修改与审阅、方法论、验证。

Zhi Qi: 撰写初稿、修改与审阅、方法论。

Peng Chang: 方法论、监督、数据整理。

Zhiqi Hu: 方法论。

Declaration of competing interest

作者声明不存在任何已知的竞争性财务利益或个人关系，以免影响本研究报告的客观性。