面向机械不平衡退化趋势预测的时间平衡均方误差（TBMSE）损失函数研究

本文针对机械退化趋势预测（DTP）中存在的时序不平衡数据分布问题，创新性地提出了一种时间平衡均方误差（TBMSE）损失函数。该方法将DTP重构为多任务回归问题，利用高斯混合模型（GMM）分别建模训练标签分布和累积信息噪声，并通过端到端网络结构学习GMM参数。实验表明，TBMSE能有效缓解预测偏差，提升长尾分布下的预测精度。

　　

Highlight

本研究提出了一种新颖的时间平衡均方误差（TBMSE）损失函数，用于解决机械退化趋势预测中的时间不平衡分布问题。与现有方法不同，TBMSE从多任务视角出发，将基于多输出策略的DTP任务视为多个具有时间依赖性的回归任务的组合。从统计学角度，它将单个预测任务的损失分解为三个部分：随机噪声、不平衡误差和信息噪声。随机噪声等价于标准MSE损失函数，而不平衡项则利用训练标签分布恢复平衡预测。信息噪声源于缺失数据，并随时间推移而增加，导致后期时间步预测精度下降。为捕捉这些效应，TBMSE使用高斯混合模型（GMM）对不平衡误差和累积信息噪声进行建模。不平衡误差的GMM参数通过两阶段期望最大化（EM）算法拟合训练标签分布来学习。由于累积信息噪声未知，直接使用EM算法学习相应GMM参数不可行。为此，设计了一种网络结构，利用随机梯度下降进行端到端学习。具体而言，采用自注意力机制捕捉不同预测任务间的相关性，并为每个GMM分量生成权重系数，同时使用全连接层确定各分量的方差。

Conclusion

本研究将退化趋势预测任务视为多任务学习的一种特殊形式。从理论角度，将时间不平衡分布下的退化趋势预测任务损失建模为随机噪声、不平衡误差和累积信息噪声的组合。基于此，提出了一种新颖的时间平衡均方误差损失函数。TBMSE使用高斯混合模型（GMM）对训练数据集的标签分布和缺失数据引起的时间不确定性进行建模。不平衡误差的GMM参数通过EM算法直接拟合训练标签分布得到。对于时间不确定性，设计了一种基于注意力的网络结构来生成相应的GMM参数，并通过随机梯度下降（SGD）进行端到端优化。在IMS轴承数据集和真实涡桨发动机数据集上的实验表明，TBMSE能够有效缓解时间不平衡分布问题，显著提高退化趋势预测的准确性。