一种基于条件监督的对比自编码器,结合动态温度缩放技术,用于在多条件不平衡数据环境下进行异常检测
《Expert Systems with Applications》:A condition-supervised contrastive autoencoder with dynamic temperature scaling for anomaly detection under multi-condition imbalanced data
【字体:
大
中
小
】
时间:2026年03月10日
来源:Expert Systems with Applications 7.5
编辑推荐:
洪旭|陈叶虎|李亚松|周正|朱启祥|孙创|严汝强
西安交通大学机械工程学院,中国陕西省西安市710049
摘要
在工业生产中,异常检测对于确保机械设备的安全运行至关重要。然而,设备通常在多种工作条件下运行,每种条件的持续时间各不相同。这导致正常数据的分布不平衡,从而
洪旭|陈叶虎|李亚松|周正|朱启祥|孙创|严汝强
西安交通大学机械工程学院,中国陕西省西安市710049
摘要
在工业生产中,异常检测对于确保机械设备的安全运行至关重要。然而,设备通常在多种工作条件下运行,每种条件的持续时间各不相同。这导致正常数据的分布不平衡,从而削弱了模型的特征学习能力,降低了异常检测的性能。为了解决这个问题,本文提出了一种基于条件监督的对比自动编码器(CSCAE-DTS),并引入了动态温度缩放机制。首先,设计了一种基于条件监督的对比损失函数,利用条件标签作为监督信号来优化自动编码器的特征空间。这种设计增强了条件内部特征的紧凑性和条件间特征的可分性,使得能够从正常样本中提取出具有辨别能力的条件相关特征,并减轻了条件变化对异常检测的干扰。其次,为了解决数据不平衡问题,分析了对比学习中的温度系数如何影响特征分布和梯度贡献。据此,提出了一种动态温度缩放策略,根据每种条件的样本数量调整温度系数,从而平衡了不同条件下负样本的梯度贡献,使模型能够更好地学习少数条件下的特征分布。在涉及高达10:1不平衡比例的HUST轴承、Qianpeng和HUST齿轮箱数据集上的实验结果表明,所提出的方法在常见条件下异常检测指标上达到了90%以上的性能,并且在少数条件下比所有基线模型高出10%以上。
引言
在现代制造业中,机械设备发挥着越来越重要的作用,因为其运行状态极大地影响了生产过程的安全性和可靠性(He & Shen, 2023)。然而,设备在长时间连续运行过程中经常面临速度和负载变化等复杂的工作条件,这使得故障不可避免(An et al., 2023)。研究表明,未能及时检测和解决故障可能导致严重的安全风险和巨大的经济损失(Z. Zhou et al., 2023)。因此,机械设备异常检测的研究具有重要的理论和实践意义。它能够实现早期故障预警,提高运行可靠性,并降低维护成本。
为了开发可靠的机器异常检测方法,研究人员进行了广泛的探索和实践(Xu et al., 2025)。在早期阶段,学者们通过分析故障机制构建了表征设备运行状态的指标(如均方根、故障特征频率(Rashid et al., 2016)和熵(Liu et al., 2019))。然而,这些指标在选择和解释上严重依赖于人工经验。随后,采用了信号处理技术(如傅里叶变换、小波变换和经验模态分解)来提取时频域中的故障相关特征(Attoui et al., 2020)。然而,这些方法对于具有非平稳信号的复杂机械设备效果较差。由于现代工业过程的复杂性不断增加,各种机器学习方法(如一类支持向量机(Amer et al., 2013)、随机森林(Wang et al., 2020)和主成分分析(Xiang & Gong, 2008)已被应用于设备异常检测。这些方法可以自动从数据中学习特征,大大减少了对外部领域知识的依赖(Feng et al., 2021)。
为了更好地处理大规模高维数据,深度学习方法被广泛用于异常检测(Di Fiore et al., 2022)。基于自动编码器(AE)的重建是深度学习异常检测的经典范式。该方法通过编码和解码过程来重建输入信号,使用特征空间距离或重建损失作为异常度量标准。其核心在于捕捉正常数据的低维流形,从而准确重建训练分布内的样本。相比之下,偏离该分布的异常样本在特征空间或重建输出上会表现出显著差异。例如,Liu等人(Liu et al., 2024)首先通过小波变换获得数据的时间频率表示,然后设计了一个结合AE和集成Wasserstein生成对抗网络的模型,对轴承异常检测进行了改进。Xu等人(Xu et al., 2023)利用动态AE分析了信号的时空异常特征矩阵,实现了冷启动阶段的异常检测。为了更好地监控切削工具的健康状态,Sun等人(Sun et al., 2023)在正常数据的潜在表示中保持了一致性,并提出了一个健康指标来量化异常程度。Hu等人(Hu et al., 2025)保留了复杂的AE损失公式,并结合了结构化特征空间和重建误差来检测燃煤电力系统的故障。Vu等人(Vu et al., 2022)通过将正常数据和已知异常数据分隔到特征空间的两个不同区域,改进了多分布自动编码器。这些精细的潜在表示随后作为分类器的输入用于异常检测。
上述大多数方法都是基于设备稳定运行的假设,即健康状态下收集的信号保持相同的分布,信号变化仅受机械健康状态的影响。然而,在工业生产环境中,机械设备通常在多种条件下运行,不同条件的持续时间存在显著差异。例如,CNC机床在加工不同工件时表现出不同的切割负载模式;常规加工条件持续很长时间,而特殊条件只在特定阶段短暂出现。同样,当工业机器人执行不同任务时,其关节驱动系统的运动速度和动态特性会有显著变化,高动态条件仅出现在局部任务阶段。在这种运行模式下,收集到的正常监控数据呈现出多条件和不平衡的分布。多种条件的存在导致正常数据分布随着条件的变化而发生显著偏移。因此,模型难以区分由条件变化引起的分布差异和由健康状态变化引起的差异,从而导致误报或漏检。此外,样本分布的不平衡导致模型训练过程被常见条件所主导,从而在学习到的特征空间中未能充分表示少数条件,大大削弱了异常检测模型的辨别能力。
为了解决机械设备在多条件运行下的异常检测性能下降问题,已经进行了大量研究。例如,Liu等人(Liu et al., 2025)通过将状态空间模型与神经网络结合,明确地将多种条件纳入动态建模过程,通过交替参数更新策略实现了多条件异常检测。Zhou等人(H. Zhou et al., 2023)构建了一个混合系统响应模型,并引入了双重扩展卡尔曼滤波来开发不同条件下的健康指标。然而,这些方法严重依赖于正常运行状态下的准确系统建模,而在复杂的机械系统中很难准确建立,从而限制了它们的工程应用性。受解耦表示学习的启发,一些研究试图通过将条件相关变量与健康状态区分任务中固有的特征分离来减轻运行条件变化对系统健康建模的影响。为了处理直升机传动系统中的多条件异常检测,Wu等人(Wu et al., 2023)使用域转移机制和域对抗回归来解耦飞行状态无关的鲁棒特征。Zhou等人(Zhou et al., 2024)通过对VAE潜在特征施加不同强度的KL分布约束,实现了条件相关特征和健康状态特征的分离。然而,这种基于解耦的方法假设条件和健康信息是完全可分的,而实际上在现实世界的旋转机械中它们通常表现出强烈的耦合非线性交互。现有研究主要集中在系统建模或特征解耦上,对多条件下正常数据分布不平衡的关注有限。针对这一问题,Yan等人(Yan, Shao, Min, et al., 2023)开发了一种图自适应自动编码器来处理条件变化,并使用动态权重优化(DWO)来调整不同条件下的重建损失。然而,DWO策略仅通过损失权重调整来平衡训练速度,未能直接解决数据不平衡引起的特征学习偏差。
最近,自监督学习技术在获取下游任务的有效数据表示方面展现出了显著优势。对比学习是其关键技术之一,它鼓励神经网络学习具有辨别能力的语义特征(Xu et al., 2024),并在广泛的异常检测应用中表现出强大的性能。Yang等人(Yang et al., 2023)优化了对比学习中的负样本构建策略,以提取更具有辨别能力的健康状态表示,从而提高了单类分类器的异常检测性能。Tang等人(Tang et al., 2025)通过结合监督对比学习(SCL)和多头图注意力网络,解决了动态数据分布下正负样本边界模糊的问题。Darban等人(Darban, 2025)通过引入各种类型的异常作为负样本并结合邻近信息,有效学习了正常样本和异常样本之间的偏差。为了克服从单一视角检测图数据异常的局限性,Yang等人(Yang et al., 2025)采用了多视角对比学习来捕捉之前被忽视的异常模式。Chi等人(Chi & Mao, 2025)利用对比学习构建了跨域正负样本对,优化了特征表示的辨别能力,提高了工业小样本场景下异常检测模型的可迁移性和鲁棒性。尽管对比学习在静态条件下的异常检测中表现优异,但在多条件不平衡环境下的有效应用仍大多未得到探索。
为了克服这些挑战,本研究提出了一种新的异常检测方法,将不同条件的正常样本映射到特征空间的不同区域,并在不平衡情况下改善特征分布。首先,将基于条件监督的对比学习集成到自动编码器框架中,利用条件标签来优化正常样本特征的内部和条件间边界。其次,分析表明温度系数在对比学习中起着关键作用。采用了一种基于每种条件样本大小的动态温度缩放策略,有效地增强了少数条件样本的辨别能力。本研究的主要贡献如下:
(1) 提出了一种基于条件监督的对比自动编码器,结合动态温度缩放,有效解决了多条件和不平衡正常数据分布下的异常检测问题。
(2) 利用条件信息作为对比学习的标签,对自动编码器提取的特征表示施加条件监督的对比约束。这种机制使编码器能够捕捉与条件相关的表示,使得每种条件下的特征簇更加紧凑,条件之间的分离更加清晰,从而减轻了条件变化对健康状态识别的干扰。
(3) 提出了一种动态温度缩放策略,其中温度系数与每种条件的频率成正比。对于常见条件,模型强调类级特征学习以产生更集中的分布;对于少数条件,它加强实例级表示以确保更均匀的分布。这种策略有效缓解了数据不平衡导致的性能下降。
(4) 在轴承和齿轮数据集上进行了广泛实验,验证了所提出的CSCAE-DTS。结果表明,CSCAE-DTS在多条件和不平衡数据下实现了出色的性能,并能有效适应异常检测。
本文的其余部分组织如下:第2节介绍相关理论。第3节介绍所提出的CSCAE-DTS方法。第4节描述了在三个数据集上的实验验证。第5节进行了相应的讨论。最后,第6节总结了本文并提出未来发展方向。
**AE-based异常检测**
基于AE的信号重建是异常检测的基本范式。AE由编码器和解码器组成。输入信号x被送入由多个卷积层组成的编码器,以获得低维特征表示z。解码器由多个转置卷积层组成,从提取的特征z中重建原始信号x?。通过最小化输入x和重建信号x?之间的重建误差来训练AE网络。
**问题定义**
本研究旨在解决在多种条件下运行的机械设备的异常检测问题,这些条件下的正常样本分布不平衡。具体来说,存在M种不同的工业设备运行条件,用集合C=c1,c2,...,cM表示,每种条件对应的正常样本数量设为nc。在训练阶段,只有每种条件下收集的正常样本集是可用的,用D=(xk,yE)表示。本节通过三个案例研究来评估所提出的CSCAE-DTS方法在多条件和数据不平衡场景下的异常检测效果。第一个案例研究是在HUSTbearing数据集上进行的,该数据集是使用Spectra-Quest机械故障模拟平台收集的。第二个案例研究基于Qianpeng数据集,这些数据来自一个平行轴齿轮箱测试台。第三个案例研究是在HUSTgearbox数据集上进行的。
在本节中,我们通过比较所提出的CSCAE-DTS模型的几个变体来评估条件监督对比损失和动态温度缩放策略的有效性。Qianpeng数据集上的实验结果展示在表6中,前四个指标也在图13中以条形图的形式进行了可视化,以便于比较。可以观察到,通过在特征空间中加入条件监督对比损失,CSCAE模型的表现优于其他模型。
结论本文提出了一种新颖的异常检测方法,即CSCAE-DTS,用于工业环境中多种条件和数据分布不平衡下的旋转机械。通过将条件信息作为监督信号融入到对比学习框架中,该方法引导自动编码器学习具有明确条件区分属性的特征表示。因此,正常样本在条件内部表现出强烈的凝聚性,在不同条件之间也具有这种特性。
CRediT作者贡献声明:
洪 Xu:概念化、方法论、形式分析、研究、写作——原始草案、资源。
陈叶 Hu:方法论、概念化、研究。
李亚松:概念化。
周 Zheng:形式分析、研究。
朱启祥:形式分析。
孙创:写作——审阅与编辑、监督。
严如强:写作——审阅与编辑、资金获取、监督。
利益冲突声明
作者声明他们没有已知的可能会影响本文工作的竞争性财务利益或个人关系。
致谢
本工作部分得到了中国国家自然科学基金(授权号U23A20620)、中国国家自然科学基金(编号92360308)、秦创源项目(授权号2024QCY-KXJ-036)以及中国国家技术基础研究项目(2023110B004)的支持。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号