《Neurocomputing》:CMCA: A cluster matching based class-incremental unsupervised domain adaptation method for bearing fault diagnosis
编辑推荐:
摘要在条件多变的轴承故障诊断中,目标状态数据通常是在轴承使用生命周期中逐步获得的。为解决这一问题,我们提出了一种类增量无监督域适应(CI-UDA)框架,该框架能够在保持不同标签空间下知识一致性的同时,对不同阶段的域进行对齐。现有的基于样本的共享类过滤和伪标签分配方法忽略了域间差异
摘要
在条件多变的轴承故障诊断中,目标状态数据通常是在轴承使用生命周期中逐步获得的。为解决这一问题,我们提出了一种类增量无监督域适应(CI-UDA)框架,该框架能够在保持不同标签空间下知识一致性的同时,对不同阶段的域进行对齐。现有的基于样本的共享类过滤和伪标签分配方法忽略了域间差异带来的不确定性,且缺乏全局性的类级决策方法。这导致了共享类识别不准确、监督信号精度低以及解决方案不佳。本文提出了聚类匹配方法来解决这些问题。该方法首先通过增强源域训练来校准源模型的潜在空间,然后对目标域特征进行聚类,并利用设计的匹配协议将这些聚类与类标签进行最优匹配,从而为目标数据提供清晰、精确的监督信号。我们的方法在三个数据集上进行了验证,平均诊断准确率超过95%,优于现有方法。
引言
滚动轴承是旋转机械中的关键部件[1]、[2]。在运行过程中,它们会面临高转速和重负载等诸多挑战,因此极易出现故障。如果不能及时准确地检测和诊断这些故障,很容易导致设备严重损坏,甚至造成巨大的经济损失[3]。近年来,深度学习方法被引入到故障诊断领域,推动了各种端到端诊断解决方案的出现[4]、[5]。深度学习包括有监督和无监督两种范式:有监督方法利用标签信息对故障信号进行分类[4]、[5],而无监督方法则能在标签信息匮乏的情况下诊断故障[6]、[7]、[8]。
然而,传统的深度学习方法通常假设训练数据和测试数据遵循相同的分布,而在实际运行条件多变的情况下,这一假设往往不成立。深度迁移学习通过在不同域之间传递知识来缓解目标域标签不足的问题。具体而言,无监督域适应(UDA)用于对齐不同域之间的特征分布,部分域适应(PDA)则通过仅匹配共享类来处理标签空间不匹配的问题,而类增量域适应(CIDA)则通过重放、蒸馏和动态建模等方法处理流式数据。
由于轴承的退化是一个缓慢的过程,工程师们很少能够一次性从目标域收集到完整的故障类别。实际上,目标域的故障数据是以传感器信号流的形式逐次出现的,而且随着轴承使用时间的延长,还会不断出现新的故障类别[9]。本文研究的是一种更为现实的任务,即类增量无监督域适应(CI-UDA)。如图1所示,CI-UDA假设在整个增量过程中源故障样本始终可用,而目标数据则是以类增量的方式分批出现,且仅在单个时间步内可用[10]。这种设计不仅符合实际工业环境中的存储限制,还能确保模型能够有效处理不断变化的目标数据[11]、[12]。同时,CI-UDA问题对输入数据的类型和学习模式没有限制。解决CI-UDA问题需要重点考虑两点:(1)减少源域和目标域之间的分布差异,因为这两个域的标签空间在每个时间步都会发生变化;(2)在长期增量学习过程中保留旧类别的知识,以避免灾难性遗忘[13]。
作为CI-UDA领域的初步研究,[10]正式定义了该任务,并提出了ProCA作为首个解决方案。在每个时间步中,ProCA利用源模型预测目标样本,以累积预测概率作为共享类的检测指标。这种方法使得预测结果偏向于源模型,而忽视了域间的差异,从而无法充分利用更具区分度的特征,进而降低了共享类检测和域对齐的准确性。其后续研究[13]引入了伪标签蒸馏技术,用于筛选出置信度低的类标签,然后再通过多层对齐来重新整理特征空间。这一策略在一定程度上解决了共享类检测和伪标签生成过程中的域差异问题,但它并未系统地评估类级的不确定性。在面对复杂任务时,标签蒸馏往往会将目标数据与易混淆的私有类对齐,从而导致对齐错误[14],并使算法收敛到局部最优解,进而降低最终准确率。[15]通过引入潜在空间拓扑保持功能增强了该算法。虽然这减少了算法对源数据的依赖,但通过两种指标筛选并取并集的方式来检测共享类,可能会引入额外的标签噪声,从而导致监督信号不清晰且精度较低。
现有的方法过度重视单个目标样本的预测结果,却忽视了由于域间差异,预测结果本身具有不确定性这一事实。此外,当前方法在处理共享类划分时也缺乏稳健的决策机制。这些局限性导致了共享类的分类错误、监督信号精度下降,以及训练过程容易陷入局部最优解。
本文提出了基于聚类匹配的CI-UDA方法(CMCA),该方法从新角度解决了这些问题,它通过样本聚类实现全局性的类级判断,并设计了专门的匹配协议来实现聚类样本的最优类分配。具体而言,CMCA首先通过增强源域训练(AST)利用增强样本和原始样本来优化源模型,提高类间可分离性并优化潜在空间结构。在得到优化后的源模型之后,该方法再运用二维嵌入聚类将目标数据特征分组为不同的聚类。随后,通过双重最优匹配协议将这些聚类与最优类标签进行匹配。此外,还设有修正模块,可通过修正集来纠正聚类匹配过程中的潜在错误,从而实现全局最优解。本文的贡献如下:
- 1.
提出了专为轴承故障诊断设计的CI-UDA方法CMCA,该方法能够同时处理类增量式的目标数据输入以及源域和目标域之间不一致的标签空间。
- 2.
通过AST优化源域的潜在空间结构,提升了类间特征的可分离性。
- 3.
通过聚类匹配为目标样本获取共享类和伪标签。
- 4.
通过修正模块纠正之前的聚类匹配过程中的错误,从而实现全局最优解。
章节节选
无监督域适应
无监督域适应(UDA)旨在在分布偏移的情况下,将带有标签的源域知识转移到无标签的目标域。现有的UDA方法主要分为三种范式。基于度量值的方法通过最小化最大均值差异等统计距离来对齐源域和目标域的特征分布[16]、[17]。对抗性方法则利用梯度反转层,通过极小极大游戏来学习与域无关的特征[18]、[19]。自监督方法则
方法
CMCA采用了常规CI-UDA方法[10]、[13]所采用的自我训练流程。图2展示了CMCA的执行流程,附录A中的伪代码则提供了更详细的实现步骤。
实验
我们进行了对比实验和消融研究,以评估CMCA流程的效果。该诊断模型是用Python、PyTorch以及CUDA API在配备NVIDIA RTX 4080 Super 16GB VRAM显卡的AMD Ryzen 9900x CPU上实现的。
讨论
本文提出了聚类匹配作为一种解决CI-UDA问题的新方法,并围绕这一理念设计了用于轴承故障诊断的CMCA算法。AST模块用于微调模型的潜在空间,以支持聚类匹配,而DOM协议和修正模块则有助于让CMCA的决策趋向全局最优。实验结果证明了所提方法的有效性。
不过,目前的研究也存在一些局限性。首先,聚类
CRediT作者贡献声明
高学进:撰写——审阅与编辑,撰写——初稿,可视化,验证,方法论,资金获取。穆卓云:撰写——审阅与编辑,撰写——初稿,指导,方法论。高慧慧:撰写——审阅与编辑,指导,资金获取。韩华云:撰写——审阅与编辑,指导,资金获取。杨红岩:撰写——审阅与编辑,指导,资金获取。齐永生:指导,资金获取。
利益冲突声明
作者声明,他们不存在任何可能影响本文研究成果的已知财务利益或个人关系。
致谢
本研究得到了国家自然科学基金(62573010、62303026、62573013、62363029、62473015)、北京市自然科学基金(4222041、4252027)以及北京市教育委员会科研计划(KM202410005034)的支持。同时,我们也衷心感谢编辑和审稿人提出的建设性意见,这些意见有助于提升本文的质量。
高学进于2006年在中国北京工业大学获得模式识别与智能系统专业博士学位。他目前是北京工业大学信息科学与技术学院的教授。他的研究兴趣包括智能监控、故障诊断以及复杂系统的性能评估。
Xuejin Gao|Zhuoyun Mu|Huihui Gao|Huayun Han|Hongyan Yang|Yongsheng Qi
北京工业大学信息科学与技术学院,中国北京100124