面向多源故障诊断的不确定性感知对比元学习范式

《RELIABILITY ENGINEERING & SYSTEM SAFETY》：Uncertainty-Aware Contrastive Meta-Learning Paradigm for Multi-Source Fault Diagnosis

　　

摘要 基于深度学习的智能诊断方法在设备管理与维护方面已展现出显著的有效性。然而，其优越的诊断性能高度依赖于大规模、高质量标注数据的可用性。当基于实验室数据训练的的诊断模型部署到真实工业环境中时，其性能受到三个相互关联的挑战所制约。首先，目标域中通常仅有少量带标签样本，导致跨域泛化能力不足。其次，由噪声和实际工况变化引起的样本特征可靠性差异，在原型构建和关系评估中很少得到一致的利用。第三，现有的多传感器融合方法往往无法捕捉位于不同时频表示对应局部区域的、相关但非冗余的故障特征。为此，本文提出了一种不确定性感知的对比元学习网络（UCM-Net）。UCM-Net的一个显著特征是，在原型构建和关系评估中跨模块使用输入依赖的异方差潜在特征不确定性。对于每个支持样本和查询样本，逐维估计特征方差，并汇总为样本级不确定性分数。该分数首先用于聚合具有不同可靠性水平的支持样本。累积的不确定性随后从支持样本传递到原型。基于这些不确定性，查询-原型关系分数被自适应调整，以在分布偏移下提高鲁棒性。具体而言，UCM-Net由三个协同模块组成：（1）一种跨模态注意力融合机制，通过可学习的跨模态融合策略在异构表示空间中捕捉判别性故障特征；（2）一种不确定性感知的原型网络，集成输入依赖的异方差潜在特征不确定性估计，构建可靠性感知的类别原型，增强样本稀缺和噪声干扰下的诊断鲁棒性；（3）提出一种多尺度对比元学习策略，在样本级、类别级和任务级增强表示学习。此外，设计了一种不确定性感知的关系网络，通过考虑不确定性信息来自适应调整查询-原型关系分数。所提方法缓解了不确定样本造成的干扰，提高了故障识别的可靠性。在三个公开数据集（帕德博恩数据集、东南大学数据集和渥太华数据集）以及一个私有往复泵数据集上进行的广泛实验表明，在小样本场景（五类九样本）下，UCM-Net取得了94.08±0.58%（往复泵数据集）、83.07±2.49%（帕德博恩数据集）、92.75±1.25%（渥太华数据集）和84.60±1.90%（东南大学数据集）的诊断准确率，相较于现有的元学习基线方法取得了显著提升。此外，UCM-Net在多源异构数据融合诊断、变工况下相似故障类型识别以及多类故障分类方面的优越性能，充分验证了其工程应用的可行性。

引言 旋转机械是现代工业系统中的关键组成部分。它在航空航天、轨道交通、风力发电和流程工业等多个领域的能量转换和动力传输中得到广泛应用[1,2]。包括滚动轴承和齿轮箱在内的传动部件，在长期交变载荷和复杂工况的共同作用下，极易受到疲劳剥落、齿面磨损和裂纹扩展等损伤模式的影响。如果这些初期损伤未能及时识别和处理，可能会引发灾难性的级联故障[3]。

近年来，以卷积神经网络[4]、残差网络[5]和Transformer[6]为代表的深度学习方法，凭借其端到端特征提取能力，在滚动轴承[7]、行星齿轮箱[8]和感应电机[9]等部件的健康状态监测方面取得了显著进展。这些方法从根本上改变了传统上高度依赖人工特征工程和领域专家知识的诊断范式。然而，这些方法优越的诊断性能建立在一个前提之上，即大规模、高质量标注数据的可获得性。当使用实验室数据训练的诊断为模型应用于真实工业环境时，其性能受到三个相互关联的限制的制约。首先，目标域中标注样本的稀缺限制了模型对未见故障类别和工况的适应能力。其次，现有方法很少将样本特定的潜在特征不确定性纳入原型构建和查询-原型关系评估中。第三，传统的多传感器融合方法可能会忽视在不同时频特征图的对应局部位置出现的相关但非冗余的故障特征。以下各节将对每个问题进行全面的回顾和分析。

在标注样本极度有限的条件下实现跨域泛化仍然是一个具有挑战性的问题。工业设备需要尽可能保持健康运行状态，这使得典型故障状态的持续时间极为有限。加之人工标注的高昂成本，目标域中的带标签故障样本往往少于十个[10]。与此同时，主流深度学习范式隐含地假设训练数据和测试数据是独立同分布的。然而，工业现场中经常变化的转速、载荷和工艺参数不断违反这一假设。在这种严重受限的标注条件下，基于深度神经网络的诊断模型，如CNN、ResNet和Transformer，可能会过度拟合小规模的目标域训练集。具体而言，这些高容量模型可能学习到样本特定的噪声或偶然模式，而非可迁移的故障特征，从而降低其对未见样本和工况的泛化能力。

元学习为应对小样本和跨域问题提供了一个有效的框架。通过采用情景式"学习如何学习"策略，元学习使模型能够从有限样本中获取可迁移的知识。通过从大量辅助任务中积累跨任务元知识，元学习可以在仅有少量样本的情况下对新任务实现快速泛化和适应[11]。根据学习机制的差异，现有的元学习方法可以大致分为基于优化的方法、基于度量方法和基于模型的方法[12]。其中，以原型网络和关系网络为代表的基于度量方法，由于其非参数度量特性，在工程故障诊断中受到青睐。在具体应用中，Zhang等人[13]提出了一种融合域适应和元学习的跨域小样本诊断框架。Ma等人[14]将多尺度膨胀卷积和自适应关系模块引入跨域元学习，以增强变工况下的泛化能力。Chang等人[15]设计了一种具有自适应学习率的元学习网络。Han等人[16]提出了一种基于多样化Wasserstein对抗网络的单域泛化方法。Mu等人[17]开发了一种基于任务导向Theil指数并采用梯度校准策略的元学习网络。

尽管上述研究取得了积极进展，但现有的元学习诊断方法仍共享一个根本性的设计局限。标准原型计算机制通过等权平均聚合支持集样本来生成类别原型，这在本质上无法感知各个样本特征估计之间的可靠性差异。在目标域包含来自不同分布的极少样本的跨域场景中，少数含噪声样本的特征偏差将对原型估计产生不成比例地放大的影响，导致诊断性能的系统性退化。这种等权聚合的结构缺陷，迄今为止在基于元学习的故障诊断研究中尚未得到明确解决。

对输入依赖的特征不确定性缺乏跨模块建模和利用，会导致工业诊断中的置信度评估不可靠。独立于上述方法学设计问题之外，现实世界中的工业振动信号具有固有的随机性，这些随机性源于传感器噪声、安装误差和工况波动，且无法消除。确定性特征建模将概率分布强制压缩为单点估计，不可避免地丢弃了关于特征可靠性的差异信息。这导致模型在高噪声场景下产生过度自信的错误预测，引入的工程风险远超准确率本身的下降[18,19]。

为了解决工业诊断中的置信度评估不可靠问题，不确定性量化方法提供了系统性的建模工具。MC-Dropout易于实现，但会成倍增加推理时间。深度集成学习提供可靠的结果，但会产生高昂的计算成本。证据深度学习[20]在类别级置信度估计方面具有独特优势，但其类别级不确定性输出无法在特征维度级别提供细粒度的自适应权重计算支持。相比之下，异方差神经网络[21]可以在单次前向传播中为每个特征维度独立输出均值和方差。其逐维方差建模特性使其能够在特征维度级别直接计算自适应聚合权重。异方差方法在准确率与效率的权衡以及下游任务兼容性方面表现出显著优势，这构成了本研究采用该方法的核心动因。

在故障诊断应用方面，Li等人[22]将贝叶斯网络与Transformer相结合进行不确定性感知建模，在多模态轴流风扇故障诊断中取得了良好的诊断效果。Tang等人[23]开发了一种用于跨域小样本故障诊断的轻量级关系网络；然而，该方法仍然是确定性的，并未显式估计或传播特征不确定性。Zhou等人[24]将证据深度学习与多尺度空间注意力及Transformer相结合，用于不确定性感知的小样本齿轮箱诊断。Gu等人[25]提出了一种基于对称径向基向量的故障诊断不确定性量化方法，在涉及类别不平衡和演变故障模式的任务中表现出很强的鲁棒性。

不确定性量化的研究也已扩展到故障诊断之外。Kendall和Gal[26]在贝叶斯深度学习中结合了输入依赖的偶然不确定性（aleatoric uncertainty）和与模型相关的认知不确定性（epistemic uncertainty），而Depeweg等人[27]利用带有潜变量的贝叶斯神经网络将预测不确定性分解为偶然不确定性和认知不确定性两部分。在小样本学习中，Zhang等人[28]对查询-支持相似度中的不确定性进行了建模，Yuan等人[29]利用查询侧的预测不确定性进行透射性原型优化。在机械故障诊断中，Han和Li[30]采用不确定性感知的深度集成进行分布外检测，Zhou等人[31]开发了证据卷积神经网络进行不确定性估计，Ren等人[32]对可信故障诊断中的不确定性感知深度学习进行了综述和评估。更为直接的是，Lian等人[33]在元学习框架内集成了基于不确定性的样本过滤和贝叶斯元知识，用于不平衡工业故障诊断。这些研究表明，联合建模偶然不确定性和认知不确定性，以及将不确定性与元学习结合用于故障诊断，并非全新概念。

概率和贝叶斯元学习进一步研究了源于任务模糊性和有限任务特定观测的不确定性。Finn等人提出了PLATIPUS，该方法通过变分目标学习模型参数的分布来扩展MAML，并从近似后验中采样合理的任务特定模型进行随机适应[34]。Yoon等人开发了贝叶斯MAML，通过将基于梯度的元学习与非参数变分推断相结合，在快速适应过程中实现对任务特定参数的近似后验推断[35]。Nguyen等人提出了VAMPIRE，该方法利用基于梯度的变分推断学习概率模型参数先验和任务特定后验，特别强调校准的小样本预测[36]。这些方法主要通过模型参数或任务特定参数上的分布来刻画认知不确定性或任务级不确定性。当进一步配备输入依赖的异方差似然时，概率元学习也可以表示数据依赖的偶然不确定性。然而，仅进行参数后验推断并不一定构成对两类不确定性分量的显式分解。

本研究的不确定性范围有所不同且更为局限。UCM-Net不推断网络权重或任务特定适应参数的后验分布。相反，它在潜在特征空间中预测输入依赖的异方差方差，并将该方差作为可靠性估计，跨模块用于原型构建和关系评估。因此，本方法应被理解为一种异方差潜在特征不确定性感知的基于度量的元学习框架，而非对偶然不确定性和认知不确定性的完整贝叶斯分解。

因此，本研究并不声称提出了新的偶然-认知不确定性分解方法或针对模型参数的贝叶斯后验推断。其方法论重点在于输入依赖的异方差潜在特征不确定性在基于度量的元学习中的跨模块利用。具体而言，对每个支持样本或查询样本逐维估计特征方差，并汇总为样本级可靠性描述符。该描述符指导支持集聚合，支持样本来源的不确定性进一步汇总到原型级别，查询侧和原型侧的不确定性描述符共同用于调节查询-原型关系分数。当前的公式并未正式地从总预测不确定性中分离出偶然不确定性分量。在上述综述的代表性研究中，这种将支持样本来源的特征不确定性显式传播贯穿原型构建至关系评估的做法，在多源跨域小样本旋转机械诊断领域仍缺乏充分探索。

多源传感器信息融合中细粒度局部互补关系的利用不足。工业旋转机械在运行过程中会产生多维同步信号，包括振动、声发射和电流。不同物理量对特定故障类型在时频域上的响应展现出由底层物理机制所支配的结构性互补差异。以轴承外圈故障为例，特征频率处的冲击脉冲在径向振动信号中表现为时域幅值的突变，而在定子电流谱中则表现为边带分量的幅值调制。这两类信号在时频表示的局部区域内具有精确的物理相关性[37,38]。

单一传感器信号很难全面表征此类多物理场耦合故障演化机制[39]。相比之下，多传感器信号的合理融合能够从互补角度弥补单一信息源的感知盲区，并有效抑制随机噪声[40]。关于与元学习的结合，Gültekin等人[41]提出了一种融合多轴振动频谱图的深度元关系网络。Song等人[42]构建了一个融合多传感器时域信号的具有通道注意力的原型网络。Jiang等人[43]将时域信号和频谱的双分支融合引入原型网络。Zhang等人[44]提出了一种异构信息融合元学习方法，在数据层面整合多通道时域信号。所有这些研究都验证了多源融合对少样本诊断性能的积极贡献。然而，现有研究均面临一个尚未解决的共同局限，即在相应的局部时频区域中对相关但不冗余特征的利用。特征拼接策略完全忽略了传感器间的相互依赖关系。尽管通道注意力中的全局压缩操作引入了通道选择性，但它们丢弃了不同传感器在不同时频区域的局部位置相关性。因此，特定局部时频区域内振动信号与电流信号之间的细粒度物理相关性无法被有效捕获。在此，上述三大局限之间的内在关联变得显而易见。多源融合中细粒度局部信息的丢失削弱了特征表示的完整性，对准确的 uncertainty 建模施加了固有的信息约束。此外，现有方法通常不将从支持样本评估到类原型构建再到后续查询-原型关系评估的样本可靠性信息传播下去。因此，不可靠的支持样本可能会使估计的类原型产生偏差，而在评估该原型与查询样本的关系时，与该原型相关的 uncertainty 并未被考虑。这一局限可能会降低噪声少样本跨域条件下的诊断鲁棒性。尽管如此，鲜有研究联合探讨以下内容：(1) 多传感器时频特征局部区域之间基于位置的交互；(2) 在类原型构建中使用支持样本的不确定性；(3) 将原型不确定性传播到查询-原型关系评估中；(4) 在统一的少样本故障诊断框架内，在样本、原型和查询-原型三个层面施加对比约束。这一研究空白构成了本工作的核心学术定位和创新动机。

基于上述分析，本文提出了一种用于多源旋转机械故障诊断的不确定性感知对比元学习网络（UCM-Net）。本研究的主要贡献总结如下：

(1) 提出了一种位置感知的跨模态注意力融合机制（CMAF），用于多源信号融合。该方法在两级架构中整合了模态内注意力和跨模态注意力，使每个局部时频区域能够选择性聚合来自不同传感器的互补信息。与全局融合策略相比，CMAF保留了局部特征相关性并提升了跨传感器交互能力。

(2) 提出了一种异方差不确定性驱动的自适应原型网络（HUAPN），以提升基于原型的诊断可靠性。引入异方差不确定性编码器，在维度级别估计每个样本的特征不确定性。基于估计的不确定性生成自适应权重，实现鲁棒的原型聚合。此外，原型级别的不确定性被传递到关系模块，并与查询不确定性联合集成以优化查询-原型相似度。该策略降低了不确定信息的影响，增强了复杂条件下的诊断可靠性。

(3) 开发了一种多层对比元学习框架（MLCL），以提升少样本故障诊断中的表示学习。从三个互补视角引入对比约束：样本级、原型级和查询-原型级学习。所提出的策略同时减少了类内特征变异并扩大了类间差异于嵌入空间中。这种多层优化提升了特征判别力，促进了更准确的异方差不确定性建模。

(4) 开发了一种具有联合不确定性调制的置信度感知关系网络（CAUM），通过轻量级调制机制将查询和原型不确定性纳入关系分数校准。结合HUAPN，CAUM实现了从不确定性感知的原型构建到查询-原型关系评估的不确定性传播，而CMAF和MLCL则进一步提升了特征融合和判别性表示学习。

本文其余部分组织如下。第2节介绍多头注意力机制和元学习的基本理论。第3节详细阐述UCM-Net框架的整体架构及各模块的实现细节。第4节展示在三个公开基准数据集和一个私有数据集上的实验设置与对比分析。第5节提供关于关键参数敏感性和各模块有效性的深入消融分析讨论。最后在第6节得出结论。

**第2节 小节**

**多头自注意力**

作为特征融合框架的关键计算单元，多头自注意力机制（MHSA）将自注意力子模块扩展为多个并行分支，使模型能够从多个互补表示子空间中协同提取和集成异构语义特征。在该机制中，自注意力捕获输入序列中不同位置之间的依赖关系。它计算位置之间的相似度分数，以及……

**所提出的方法**

本节系统阐述所提出的不确定性感知对比元学习网络（UCM-Net）。不确定性感知作为核心设计线索贯穿UCM-Net的整个流程。信息传播链可总结如下：不确定性编码器为每个样本输出特征分布参数（μ, σ2），其中方差σ2驱动支持样本的自适应加权，以生成类原型P和原型不确定性U。

**实验研究**

为验证UCM-Net的有效性，本研究构建了四组覆盖不同诊断场景的对比实验，涉及多源异构数据融合诊断、变工况下相似故障类型识别以及多故障类型分类诊断。详细阐述实验配置，随后对所得结果进行分析和讨论。

**N与W之间的讨论**

实验结果从K和N两个角度均展现出一致的性能变化模式。以往复泵数据集为例，随着K的增加，模型对类内分布的拟合精度逐步提高，诊断准确率稳步上升。然而，当K超过5时，性能增益趋于平缓，表明在K=5时模型已经能够充分捕获类内特征信息，增益有限。

**结论**

针对旋转机械跨域故障诊断中的三大挑战——显著的领域分布差异、标注样本极度稀缺以及噪声干扰下的原型退化，本文提出了一种端到端的元学习框架（UCM-Net）。所提出的框架包含四项核心创新。CMAF实现了传感器间基于位置的细粒度信息交互。其两级级联注意力架构避免了……

**CRediT作者贡献声明**

王卫红：撰写——审阅与编辑，撰写——原稿，验证，监督，项目管理，方法论，数据整理，概念化。赵鑫文：验证，监督，资源，项目管理，调查，资金获取，数据整理，概念化。谭天：验证，监督，软件，项目管理，形式分析，数据整理，概念化。李小敏：软件，项目管理，方法论，……

王卫红|赵鑫文|谭天|李小敏|蒋立志|张黎明