《Frontiers in Artificial Intelligence》:DST-SGR: a Mamba-inspired dual-stream spectro-temporal network for remaining useful life prediction of rotating machinery
编辑推荐:
摘要专业翻译
引言: 滚动轴承的剩余使用寿命(Remaining Useful Life, RUL)预测在预测性维护中至关重要。高频振动信号呈现双域挑战,因为冲击在时域中最明显,而谐波在时频分析中最明显。现有方法受限于LSTM网络中的梯度消失问题和Transf
摘要专业翻译
引言: 滚动轴承的剩余使用寿命(Remaining Useful Life, RUL)预测在预测性维护中至关重要。高频振动信号呈现双域挑战,因为冲击在时域中最明显,而谐波在时频分析中最明显。现有方法受限于LSTM网络中的梯度消失问题和Transformer模型的O(L2)二次计算成本。
方法: 研究人员提出DST-SGR,一种受Mamba启发的双流时频网络,其中选择性时序建模通过优化的门控循环(基于GRU)状态交互实现,计算复杂度为线性O(L),并在完全跨平台的PyTorch实现中完成。时域分支从原始时间序列数据中检测冲击,而频域分支从STFT频谱图中学习谐波特征,三个时频交互模块(Spectro-Temporal Interaction Blocks, STIBs)通过双向交叉门控融合将两个流耦合。
结果: 在NASA IMS轴承数据集上,在无泄漏、文件级评估协议和分段RUL标签下,DST-SGR在测试集上达到MAE为0.152、RMSE为0.191,五折文件级交叉验证MAE为0.128 ± 0.004,并且在故障位置改变的情况下泛化到IMS测试2和测试3。
讨论: 该模型包含131,137个可训练参数,在NVIDIA RTX 4060 GPU上训练约0.97小时,表明以适度的计算资源即可实现有竞争力的预测精度。
论文解读文章
一、研究背景与问题
旋转设备如风力涡轮机、涡轮航空发动机、压缩机及高速列车是现代工业应用的重要组成部分,滚动轴承(Rolling Element Bearing, REB)作为其中关键的机械部件,承担载荷并确保运动平稳。尽管结构相对简单,轴承却占电机故障案例的约40%–50%,即使微小缺陷也可能迅速导致灾难性后果。工业停机成本可达每分钟数千美元,全球维护成本每年高达数十亿美元,因此维护策略正从反应式和预防式维护转向基于状态的维护(Condition-Based Maintenance, CBM)和预测性维护(Predictive Maintenance, PdM),其中剩余使用寿命(Remaining Useful Life, RUL)预测是核心任务之一。
然而,利用高频振动数据进行可靠的RUL估计面临多重挑战。第一,轴承退化具有双域特性:时域中剥落产生具有特征故障频率的冲击信号,信号微弱、非平稳且混有噪声;频域中损伤导致谐波结构变化,产生轴承故障频率和边带结构,因此需要在时域和频域同时建模。第二,工业振动监测系统以20 kHz等高采样频率运行,即使小观测窗口也会产生长序列数据,传统LSTM和GRU面临梯度消失和内存问题,而Transformer的计算复杂度为O(L2)。第三,轴承退化本质上是非平稳过程,统计特征随时间变化,且公开数据集如NASA IMS和PRONOSTIA规模较小。第四,传统方法依赖手工特征需要大量领域知识,CNN虽擅长局部特征学习但无法捕捉长程依赖,循环模型存在内存约束和梯度消失问题,而状态空间模型(State Space Models, SSMs)特别是Mamba虽实现线性计算复杂度,但仅局限于时域操作,未能利用对轴承故障分析至关重要的频谱信息。
二、研究内容与意义
为克服上述不足,研究人员提出DST-SGR(Dual-Stream Spectro-Temporal Network),一种端到端的双流时频网络。该架构采用两个独立处理流:时域流从原始振动波形(2,048个采样点)中提取冲击模式信息,频域流通过短时傅里叶变换(Short-Time Fourier Transform, STFT)生成频谱图(窗口64,跳跃长度16),两者均通过受Mamba启发的选择性门控循环(Selective Gated Recurrent, SGR)模块建模,计算复杂度为线性O(L)。为促进两流交互,研究提出时频交互模块(Spectro-Temporal Interaction Blocks, STIBs),通过双向交叉门控融合实现特征传递:时域特征自适应采样以对齐频域特征,频域特征上采样以将冲击事件与其频谱特征关联。最终,两流特征经全局池化、拼接后输入多层感知机(Multi-Layer Perceptron, MLP)回归头,使用Huber损失进行RUL估计。在NASA IMS轴承数据集上,DST-SGR在无泄漏文件级评估协议下取得测试集MAE 0.152、RMSE 0.191,五折文件级交叉验证MAE为0.128 ± 0.004,并能泛化至IMS测试2和测试3的不同故障位置。模型仅含131,137个可训练参数,在NVIDIA RTX 4060 GPU上训练约0.97小时,表明以适度计算资源即可实现有竞争力的预测精度,为工业场景中的高效轴承寿命预测提供了新方案。
三、关键技术方法
研究人员采用以下核心技术方法开展研究。其一,双流架构设计:时域流保留2,048个时间步的原始分辨率嵌入以捕捉短至10个时间步的冲击事件,频域流通过可训练的STFT模块(NFFT=64,跳跃长度H=16)生成128×33的频谱图,两流均映射至48维嵌入空间。其二,Mamba启发的选择性门控循环模块:每个SGR块依次应用层归一化、深度可分离一维卷积(核大小4)和GRU门控循环,其中更新门和重置门实现输入依赖的信息流控制,状态维度为12,扩展率为2,中间维度为96,通过cuDNN优化核实现线性O(L)复杂度。其三,双向交叉门控融合机制:时域特征经自适应平均池化下采样至128长度后与频域特征拼接并经GELU激活生成融合特征,频域特征经上采样至2,048长度后与时域特征拼接融合,均通过残差连接和层归一化稳定训练。其四,数据集与评估协议:采用NASA IMS轴承数据集(辛辛那提大学智能维护系统中心获取),包含四个Rexnord ZA-2115双列轴承,转速2,000 RPM,径向载荷6,000磅,采样频率20,480 Hz,使用测试1的34天运行至失效数据(轴承3外圈故障、轴承4滚动体缺陷),信号分割为2,048样本的非重叠窗口并逐记录标准化,RUL标签采用分段退化模型。其五,回归头设计:两流特征经全局平均池化获得各48维紧凑表示后拼接为96维向量,经MLP(维度[96, 48])回归输出RUL预测,使用Huber损失训练。
四、研究结果
4.1 双域建模的必要性验证。 研究人员通过对比实验证实,仅依赖时域或仅依赖频域信息均不足以准确预测RUL。时域流擅长捕捉冲击事件但缺乏谐波结构信息,频域流擅长识别故障特征频率(如BPFO约236 Hz、BPFI约297 Hz)但时间分辨率不足,双流联合建模可同时利用两种互补的退化特征。
4.2 SGR模块的线性复杂度优势。 实验表明,SGR模块通过门控循环近似实现Mamba的选择性状态空间建模,在保持线性O(L)计算复杂度的同时有效避免了LSTM的梯度消失问题和Transformer的二次计算成本,能够高效处理2,048长度的高频振动序列。
4.3 交叉门控融合的有效性。 通过STIB模块的双向交叉门控融合,模型能够将时域冲击事件与频域频谱特征相关联。消融实验显示,移除交叉融合机制后预测精度显著下降,证实了跨域信息交互对轴承退化建模的关键作用。
4.4 文件级评估协议下的预测性能。 在无泄漏、文件级评估协议下,DST-SGR在IMS测试1上取得测试集MAE为0.152、RMSE为0.191,五折文件级交叉验证MAE为0.128 ± 0.004,表明模型具有稳定的预测性能。
4.5 跨条件泛化能力。 在IMS测试2和测试3上,尽管故障位置发生变化,DST-SGR仍能保持有效的RUL预测性能,验证了模型对不同退化场景的泛化能力。
4.6 计算效率。 模型仅含131,137个可训练参数,在NVIDIA RTX 4060 GPU上训练约0.97小时,以适度的计算资源实现了有竞争力的预测精度,适合工业部署场景。
五、讨论与结论
讨论部分总结: 现有方法无法同时满足三个需求:结合时域和频域的退化特征、对高频长序列振动信号进行线性计算、关联两个域之间时域冲击与频域对应物的交互。CNN无法处理全局序列建模,LSTM存在梯度消失和顺序计算问题,Transformer计算量随序列长度二次增长,而Mamba虽实现线性扩展但仅限时域操作。DST-SGR通过双流架构和STIB交叉门控融合机制统一解决了上述问题,在保持线性计算复杂度的同时充分利用了时频双域信息。
研究结论: 研究人员提出DST-SGR,一种受Mamba启发的双流时频网络,通过时域流和频域流的并行处理以及STIB模块的双向交叉门控融合,在NASA IMS轴承数据集上实现了优异的RUL预测性能。模型在文件级无泄漏评估协议下取得MAE 0.152、RMSE 0.191,五折交叉验证MAE为0.128 ± 0.004,并成功泛化至不同故障位置。仅131,137个可训练参数和约0.97小时的训练时间表明,DST-SGR以适度计算资源即可实现竞争性的预测精度,为旋转机械预测性维护提供了一种高效且可部署的解决方案。