一种基于MSLR变换器的新型深度学习故障检测模型，应用于化学过程

《Canadian Journal of Chemical Engineering》：A novel deep-learning fault detection model of MSLR-transformer for chemical process

多尺度稀疏低秩Transformer方法有效提升化学过程故障检测能力，通过多尺度卷积、响应强度稀疏筛选和低秩线性注意力机制优化特征提取效率与计算复杂度，并在青霉素发酵和东岳公司流程验证中优于传统模型。

　　

摘要

尽管Transformer在捕捉数据中的长距离依赖关系方面表现出色，但其计算复杂度较高，且难以高效提取多尺度特征。因此，在处理具有跨尺度特性和丰富时间特征的化学过程数据时，其故障检测性能受到限制。为了解决这些问题，本文提出了一种基于多尺度稀疏低秩Transformer（MSLR-Transformer）的故障检测方法。首先，构建了一个具有多尺度感受野的并行卷积结构。该结构利用差异化的卷积核同时提取多级时间特征，从而增强了感知多尺度动态变化的能力。其次，引入了一种基于响应强度的稀疏筛选机制，用于剔除冗余信息并突出高响应特征，从而减少过程数据中的局部噪声干扰。然后，通过基于核函数映射的低秩线性注意力对特征进行降秩处理，降低了计算复杂度，同时实现了全局依赖关系的捕捉。最后，将所提出的方法应用于青霉素发酵（PF）过程和田纳西东曼（TE）过程，以验证其有效性。实验结果表明，该方法在故障检测方面优于传统模型。