一种新型混合元学习模型及其在旋转机械少样本故障诊断中的应用

《Pattern Recognition》：A novel hybrid meta-learning model and its application in few-sample fault diagnosis of rotating machinery

　　• 本文提出了一种新的混合元学习故障诊断模型。• 在归纳推理中，该模型以低延迟实现了可靠的准确率。• 在转导推理中，该模型以延迟为代价实现了高准确率。• 该模型对噪声具有鲁棒性，原型平均可能缓解特征偏移。• 该模型在跨域迁移诊断中表现良好。引言旋转机械的故障具有破坏性，且开展故障实验成本高昂。数据驱动的故障诊断常常面临训练数据不足的难题。近年来，基于元学习的故障诊断方法因能在样本显著减少的情况下实现卓越性能而受到研究者广泛关注 [1], [2], [3], [4], [5]。在元学习中，模型学习如何快速适应全新任务，从而减少新任务所需的数据量。一般而言，基于元学习的故障诊断方法可分为三类 [3], [6], [7]：基于度量的方法、基于优化的方法和基于模型的方法。基于度量的方法旨在通过度量函数学习一个良好的嵌入空间 [8], [9], [10]。近期研究持续将度量学习扩展到少样本故障诊断领域。例如，文献 [4] 采用以1D-CNN为骨干网络的元关系网络 [11] 进行轴承诊断，并引入了一种元迁移学习策略，即采样目标域中的部分类别用于训练。该研究对迁移机制进行了全面讨论，并展示了度量学习在少样本场景中的潜力。类似地，文献 [12] 借鉴了匹配网络 [13] 和原型网络 [14]，利用CNN将时域信号映射到判别性特征空间，再进行基于度量的分类。他们进一步使用轴承和齿轮箱数据集验证了跨域泛化能力。尽管基于度量的元学习具有快速推理和易于部署的优点，但现有研究表明其性能可能对学到的嵌入空间较为敏感 [15]，因而可能对过拟合较为脆弱，尤其是在任务多样性受限时。另一方面，基于优化的元学习在不同任务间提供了更大的灵活性和适应性。在这类方法中，模型无关元学习（MAML）[16] 仍是最具代表性的框架。在少样本故障诊断中，一些研究已探索了MAML在各类工业应用中的潜力。例如，文献 [17] 采用基于CNN的MAML模型预测风力涡轮机轴承温度，证明了其性能优于Reptile [18] 等基准方法。类似地，文献 [19] 将MAML引入少样本轴承诊断，并结合时频表征以更好地捕捉瞬态振动特征。更近期的研究中，文献 [20] 使用基于Transformer的MAML模型，通过一维时域信号实现跨域轴承诊断，取得了令人振奋的结果。尽管取得了上述进展，当前基于优化的模型通常依赖于相对轻量的网络架构。这是因为这类模型需要构建完整的双层计算图以进行外循环梯度计算 [15]；因此，随着网络参数数量的增加，对GPU内存的需求急剧上升。基于模型的方法具有更好的可扩展性，尤其是那些采用并行架构（如Transformer）的方法。通过将整个支撑集编码为潜在表示并传递给解码器进行预测，这些方法避免了在内循环中显式计算距离度量或更新梯度的需求。然而，该架构中的任务定义较为模糊；通过这种过度的聚合方式定义任务，限制了模型的能力。受这些观察的启发（图1），本文提出了一种新颖的混合模型，能够同时优化特征嵌入和度量模块。在训练阶段，该模型融合了结合度量学习与编码器–解码器框架的混合架构。从基于模型学习的角度看，该模型将全局特征提取任务与编码器–解码器框架分离，以减轻编码器–解码器的计算负担；从度量学习的角度看，该模型利用编码器–解码器执行原本的即时硬距离度量，旨在实现更细腻的比较。在推理阶段，该模型根据延迟要求自适应地执行快速归纳推理或更准确但较慢的转导推理。本文的主要贡献如下：(1) 提出了一种新颖的混合元学习架构，正式地集成了基于模型的上下文建模与基于度量的比较方法。我们提供了理论证明（命题1，命题2），表明交叉注意力比较算子将经典的匹配网络和原型网络作为特例包含在内，同时学习了自适应的集合条件匹配；并且正交标签编码是类原型形成的数学上必要且充分的条件。(2) 在多个基准数据集上进行了全面的实证与结构评估，分离了表示层比较、解码器注意力模式以及查询无关组件的消融分析，在多个少样本任务中评估了模型在受控物理AC-SNR条件下的鲁棒性，并从工业场景适配的角度探讨了注意力机制在流式在线监控、分布式机器集群和离线批量检测中的应用。文章其余部分组织如下：第2节介绍混合架构、推理方法和理论性质。第3节呈现实验结果、模型行为分析、消融研究、鲁棒性评估和跨域诊断。最后，第4节给出结论。方法本节首先介绍模型的主要框架，随后介绍推理方法，具体包括归纳推理和转导推理。实验设置本研究使用了三个广泛认可的基准数据集，包括CWRU轴承数据集 [25]、DIRG轴承数据集 [26] 和MCC5-THU齿轮数据集 [27]。这些数据集旨在捕捉旋转部件（如轴承和齿轮）在多种工况下的信号，包括单一故障和复合故障。三个数据集的实验平台如图4所示。本研究使用的数据集描述如下：1. CWRU数据集（D?）：在结论本文提出了一种新颖的混合元学习诊断模型，以解决有限数据场景下旋转机械的故障诊断问题。该模型采用全局特征提取器以减轻编码器–解码器架构的计算负担，同时利用交叉注意力替代度量学习中的距离计算。模型的训练与应用分为三个阶段进行：特征提取器预训练、元学习训练作者贡献声明曲晓东：撰写 – 原稿撰写，可视化，验证，方法论，数据整理。李万友：撰写 – 审阅与编辑，项目管理。李宏亮：撰写 – 审阅与编辑，方法论，概念构思。施秀江：撰写 – 审阅与编辑，资金获取。张衡成：撰写 – 审阅与编辑，验证。周怡：撰写 – 审阅与编辑，调查研究。利益冲突声明作者声明不存在任何可能影响本文报告工作的已知财务利益关系或个人关系。致谢本研究得到了黑龙江省科学技术厅（项目编号：2024ZXDXA13）的资助。曲晓东 | 李万友 | 李宏亮 | 施秀江 | 张衡成 | 周怡