一种重叠感知修正的双分支深度神经网络用于齿轮箱开放集故障诊断

《RELIABILITY ENGINEERING & SYSTEM SAFETY》：An Overlap-Aware Rectification Deep Neural Network with Dual-Branch Architecture for Gearbox Open-Set Fault Diagnosis

　　摘要

开放集故障诊断要求准确识别已知故障，同时拒绝未见故障类别，但决策边界附近的特征重叠可能导致误拒和误收。本研究提出了一种重叠感知校正网络，结合多尺度特征提取、双分支度量学习和三阶段决策策略。具有明确马氏距离证据的样本被直接接受或拒绝，而处于中间缓冲区域的样本则进一步通过预测不确定性、局部流形不一致性、类间距离模糊性和边界位置进行评估。在东南大学和重庆大学齿轮箱数据集上的实验表明，OAR-Net在SEU上的平均总体准确率、未知故障检测率和F1值分别为98.93%、99.32%和99.13%，在CQU上分别为99.01%、99.31%和98.99%。在SEU上，OAR-Net相比平均OA最强的基线FDML，分别将平均OA和F1提高了2.52和2.61个百分点。跨速度实验进一步表明，OAR-Net在较小速度变化下保持相对稳定的性能，但随着速度差异增大性能下降。这些结果支持了重叠感知分阶段验证用于齿轮箱开放集故障诊断的有效性。

引言

作为旋转机械中的关键设备，齿轮箱在风力发电机、机床和车辆等众多领域中发挥着核心作用。然而，在长期服役过程中，齿轮可能出现点蚀、裂纹、断齿和磨损等故障。若未能及时检测这些故障，可能导致计划外停机、维护成本增加以及运行可靠性降低。因此，可靠的齿轮箱故障诊断对于状态监测和预测性维护至关重要。

近年来，深度学习在闭集假设下被广泛应用于智能故障诊断。早期研究主要集中于利用卷积神经网络和循环神经网络从原始振动信号中自动提取判别性特征，减少对人工特征工程的依赖。为进一步增强振动信号的特征表示能力，注意力机制和多尺度特征提取模块被广泛纳入诊断框架，使模型能够自适应地关注关键的故障冲击。此外，考虑到工况不可避免的变化，域自适应和迁移学习方法被广泛研究以对齐不同工作域间的特征分布。近年来，图神经网络和基于Transformer的模型等先进架构已被成功应用于捕捉旋转机械中复杂的时空相关性。

在实际应用中，测试时遇到的故障类别可能并未完全包含在训练集中。传统的闭集分类器仅针对预定义类别设计，因此无法显式识别未见类别的样本。开放集故障诊断通过同时分类已知故障和检测未知故障类别来解决这一局限性。

为应对开放集识别的挑战，已开发了多种开放集识别方法，如单类支持向量机、最大软概率、OpenMax、CROSR和基于能量的分布外检测方法。基于这些来自计算机视觉的理论基础，识别异常或未见故障模式已成为确保复杂工业系统可靠性和运行安全的关键要求。为增强故障诊断模型在实际工业场景中对未知故障的识别能力和泛化性能，随后提出了多种开放集故障诊断方法。针对滚动轴承故障，Xu等人提出了一种基于串行多尺度卷积原型学习网络结合高效通道注意力机制的框架，以提取关键特征并识别未知故障。在多模态数据处理方面，Ye等人提出了用于轮式机器人的MMOGAN模型，利用生成对抗网络进行开放集诊断。原型学习通过表征已知类别的中心原型来识别未知样本。Ke等人开发了一种基于双类别分类器的原型学习方法。为提高诊断结果的可靠性，Kong等人提出了一种用于开放集故障诊断的深度证据学习框架，通过证据挖掘估计诊断可信度。在特征融合方面，Sun等人提出了一种结合潜在表示提示和时频融合的开放集分类方法，以提高对未知故障的表示能力。

现有的开放集故障诊断方法已在多种实验设置下提高了未知故障检测性能。然而，其性能可能受到有限标注数据和训练与测试条件之间分布偏移的影响。为解决这些问题，半监督学习、数据增强、域自适应和迁移学习已被引入开放集故障诊断框架。

为应对实际工业数据中标签稀缺和不完整的普遍问题，半监督学习和数据增强技术已被广泛应用。Cheng等人提出了开放集半监督对比学习，利用未标注数据增强模型鲁棒性。当难以获取真实故障数据时，Xu等人提出了一种模拟数据辅助的双路径特征融合框架，以解决滚动轴承的不完整数据诊断问题。在目标域标签完全缺失的场景中，Wang等人设计了一种伪标签辅助对比学习模型，该模型整合距离、密度和熵，在不依赖标注信息的情况下自适应地隔离分布外故障。

为克服不同工况下的数据分布差异，域自适应和迁移学习方法已被广泛研究。在此背景下，对抗学习框架被广泛采用以实现特征对齐；例如，Zhao等人构建了一个双对抗网络，同时对齐共享域并识别开放集样本。为进一步防止未知故障干扰对齐过程，Zhang等人通过采用加权域分离策略严格隔离域私有特征，推进了这一范式。Wang等人提出了一种自监督开放集跨域诊断方法。Yang等人通过多二元相似性过滤实现了变工况下的多源域开放集诊断。此外，为应对工况完全未知且新故障完全不可预测的极端场景，Song等人最近引入了一种知识重组与偏好校准框架。此外，图神经网络擅长处理复杂的空间关系。为利用这一优势，Yin等人提出了一种基于逻辑规则的混合变量图神经网络，以学习工业过程中连续和离散变量的空间拓扑结构。针对分布式多源数据，Mao等人提出了一种原型驱动的联邦框架，利用基于距离的损失优化特征间距并实现可靠的未知故障拒绝。在异常检测和新网络结构方面，Gao等人提出了一种基于极值理论的开放集场景分布式诊断方案。Lin等人创新性地将逆集总参数热网络与开放集Kolmogorov-Arnold网络相结合，用于风力发电机齿轮箱的开放集诊断。Zhou等人提出了一种特征解缠元学习方法，用于域泛化的开放集智能故障诊断。

这些研究将开放集故障诊断扩展到涉及有限标签和分布偏移的场景。然而，许多现有方法在区分已知和未知样本时仍依赖单一或静态的决策边界。当已知和未知特征分布在分类边界附近重叠时，这种决策规则可能变得模糊。

总体而言，尽管现有研究已取得进展，但在不完整集合下的开放集故障诊断仍面临特征重叠带来的挑战，即边缘已知样本可能被拒绝，而接近已知类分布的未知样本可能被错误接受。传统的拒绝选项或基于分数的开放集策略通常根据决策分数或阈值直接做出接受/拒绝决策，而靠近已知-未知边界的模糊样本可能需要额外评估。这促使引入一个中间决策区域，在此区域中，这些样本可以在最终决策前接受进一步检查。

为解决这些不足，本文提出了一种用于齿轮箱开放集故障诊断的重叠感知校正网络。OAR-Net采用动态双边界将测试样本划分为直接接受区、直接拒绝区和重叠区。位于重叠区的样本在最终决策前，使用互补的不确定性和距离相关指标以及局部KNN信息进行进一步评估。本研究的主要贡献总结如下：

（1）构建了多尺度表示学习架构，以获得紧凑且具有判别性的故障特征，用于后续开放集决策。

（2）建立了双边界样本路由机制，根据类条件距离分布将测试样本划分为高置信接受区、直接拒绝区和模糊重叠区。

（3）开发了重叠感知的三阶段渐进决策策略，其中仅对模糊样本通过互补的不确定性和距离指标以及局部KNN验证进行进一步评估。

（4）在多种开放集配置下，在两个齿轮箱数据集上评估了所提方法，并进行了消融实验、参数敏感性分析和跨速度分析。

本文的其余部分组织如下。第2节提供问题描述。第3节详细介绍所提出的OAR-Net框架。第4节通过实验和结果分析全面讨论所提方法的具体细节，第5节总结主要工作和关键发现。

章节片段

开放集诊断的数学表述

设已知标签空间为Yk={0,1,2,…,K}，未知标签空间为Yu={K+1,…,K+U}，它们在物理意义上是严格互斥的，即Yk∩Yu=?。开放集故障诊断任务基于以下数据集定义：

（1）训练集Dtrain={(xi,yi)}i=0K，其中xi表示振动信号样本，yi是xi对应的标签，且yi∈Yk。模型仅基于已知故障模式进行训练。

（2）测试集Dtest={(xj,yj)}j=0K+U，其中yj∈Yk∪Yu。测试集

多尺度特征提取模块架构

关于齿轮故障的特征尺度，振动信号既包含短时瞬态冲击分量，也包含长期周期性趋势分量，单一尺度的卷积核无法同时捕捉这两者。为解决齿轮振动信号包含分布在多个频带中的故障相关分量的问题，MSFEM采用并行多分支结构，使用三个不同尺寸的卷积核同时处理输入信号。

实验设置

所有实验均在配备NVIDIA GeForce RTX 4090 GPU（24 GB）的工作站上进行。深度学习模型使用PyTorch 1.13、Python 3.9和CUDA 11.6实现。除非另有说明，所有模型使用Adam优化器训练100个epoch，批大小为64，初始学习率为0.001，不使用学习率调度器。为考虑模型训练的随机性，每个实验独立重复五次，使用固定

结论

本研究开发了用于齿轮箱开放集故障诊断的OAR-Net，特别关注位于已知-未知决策边界附近的模糊样本。该框架结合了多尺度特征提取、双分支表示学习和三阶段决策策略，其中处于中间缓冲区域内的样本接受额外的多指标验证。主要发现总结如下。

（1）多尺度特征提取和

CRediT作者声明

Haiyu Lu：数据管理、正式分析、调查、软件、验证、可视化、写作-初稿、写作-审阅与编辑。Zengfeng Shi：软件、验证、写作-审阅与编辑。Minmin Xu：概念化、正式分析、资金获取、方法论、项目管理、资源、监督、写作-审阅与编辑。Ruilong Hu：软件、验证、写作-审阅与编辑。Wennian Yu：概念化、资源、写作-审阅与编辑。Fengshou

CRediT作者贡献声明

Haiyu Lu：写作-审阅与编辑、写作-初稿、可视化、验证、软件、调查、正式分析、数据管理。Zengfeng Shi：写作-审阅与编辑、验证、软件。Minmin Xu：写作-审阅与编辑、监督、资源、项目管理、方法论、资金获取、正式分析、概念化。Ruilong Hu：写作-审阅与编辑、验证、软件。Wennian Yu：写作-审阅与编辑、资源。

Haiyu Lu|Zengfeng Shi|Minmin Xu|Ruilong Hu|Wennian Yu|Fengshou Gu