基于对抗漂移预测与方向多样化边界排斥的无样例类增量故障诊断

《ADVANCED ENGINEERING INFORMATICS》:Exemplar-free class-incremental fault diagnosis via adversarial drift prediction and directionally diverse boundary repulsion

【字体: 大 中 小 】 时间:2026年09月23日 来源:ADVANCED ENGINEERING INFORMATICS 11.5

编辑推荐:

   摘要 基于深度学习的故障诊断方法在静态闭集假设下取得了显著的性能。然而,在工业场景中,新的故障类别不断涌现,要求模型在扩展诊断能力的同时不遗忘已学习的旧类别。尽管现有的基于经验回放的方法缓解了灾难性遗忘问题,但在数据隐私和设备端存储受限的条件下,保留历史样本是不可行的。同时

  

摘要

基于深度学习的故障诊断方法在静态闭集假设下取得了显著的性能。然而,在工业场景中,新的故障类别不断涌现,要求模型在扩展诊断能力的同时不遗忘已学习的旧类别。尽管现有的基于经验回放的方法缓解了灾难性遗忘问题,但在数据隐私和设备端存储受限的条件下,保留历史样本是不可行的。同时,特征漂移和特征重叠问题也日益凸显:1)特征提取器的更新导致旧原型偏离其真实分布;2)新类别特征逐渐侵入旧类别的特征空间。针对上述问题,本文提出了一种基于无经验样本类增量学习(EFCIL)的故障诊断方法,该方法集成了对抗漂移预测和方向多样边界排斥机制。在增量训练过程中,旧的特征提取器通过将新类别特征向旧原型方向优化来生成对抗样本。计算新旧特征提取器之间的特征差异,用于动态训练漂移预测器,以校准旧原型和边界特征。同时,采用方向聚类策略从每个方向簇的边缘中选择边界特征作为排斥锚点,并通过排斥损失将新类别特征推离旧类别区域。实验表明,所提方法有效缓解了各任务中的灾难性遗忘问题,与其他方法相比取得了更优的诊断性能。

引言

旋转机械(如齿轮箱和轴承)的健康监测与故障诊断在现代工业中对于保障运行安全和降低维护成本起着至关重要的作用[1]。近年来,基于深度学习的智能故障诊断方法凭借其强大的自动特征提取能力,在闭集数据集上取得了显著的精度[2][3][4]。然而,在实际工业场景中,通常难以预先收集所有可能的故障类别。随着机器逐渐退化,新的故障类别可能不断涌现,这要求诊断模型在持续扩展识别能力的同时不遗忘已学习的知识[5][6]。这种学习范式被称为类增量学习(CIL)。其核心要求是:当新故障类别被依次引入时,模型应学习新类别的判别性表示,同时保持对所有先前已学类别的可靠识别能力[7]。

当深度模型仅使用新引入类别的样本进行更新时,其参数可能趋向当前任务,导致在早期类别上的精度大幅下降。基于经验回放的方法通过保留少量代表性的旧类别样本,并在训练新任务时将其重放,来缓解这一问题。Rebuffi等人[8]提出了增量分类器与表示学习方法,将代表性样本与知识蒸馏和分类器学习相结合,为CIL建立了经典基线。经验回放策略也被应用于故障诊断领域[9][10][11][12][13]。然而,由于设备端存储有限、数据传输带宽受限以及日益严格的数据隐私要求,在工业环境中保留历史原始信号往往不可行[14][15][16]。因此,实用的诊断系统必须在无经验样本约束下运行,即无法存储或重新访问旧的原始信号。在该约束下,特征漂移会加剧遗忘问题:特征提取器(FE)持续为新类别更新,而先前特征空间中构建的旧类别表示和决策几何结构逐渐与当前特征空间不匹配。因此,在无法访问旧信号的情况下测量和补偿这种不可见漂移,成为无经验样本类增量学习(EFCIL)的核心问题。

现有的EFCIL方法大致可分为三类:基于正则化的方法、基于生成回放的方法和基于原型的方法。

1)基于正则化的方法通过选择性约束参数更新来减少遗忘[17][18]。Kirkpatrick等人[17]提出了弹性权重巩固(EWC),利用Fisher信息矩阵识别先前学习知识的重要参数,并通过二次惩罚限制其变化。Liu等人[18]引入了任务自适应显著性监督(TASS),结合边界引导的显著性正则化、辅助低级监督和显著性噪声注入,以维持跨任务的注意力图一致性。这些方法避免了存储旧样本,但主要是被动地限制参数变化。它们不直接测量特征提取器更新后单个旧类别表示的移动情况,也不显式地将旧类别参考点重新定位到新的特征空间中。因此,在具有显著表示漂移的长任务序列中,其有效性可能会降低。

2)基于生成回放的方法训练生成器来合成旧类别的伪样本或伪特征,以便在增量训练期间进行回放[19][20]。Liu等人[19]开发了一种用于终身轴承故障诊断的生成特征回放方法,通过回放对齐生成旧类别特征。Tong等人[20]提出了PMI-CFS-DFCL,该方法执行逐层模型反演和对比特征选择,用于无数据CIL。生成回放可以提供比单个原型更丰富的旧类别信息,但其性能很大程度上取决于生成数据的保真度和多样性。此外,生成器本身必须跨任务更新,可能受到遗忘或误差累积的影响。对于资源受限的故障诊断系统而言,这些额外的优化和存储需求是不理想的。

3)基于原型的方法计算并存储旧类别的特征均值,在推理时使用最近类别均值(NCM)分类器进行分类[21][22][23][24][25][26]。由于它们保留的是紧凑的特征空间摘要而非历史原始信号,基于原型的方法在内存效率、隐私风险和诊断简洁性之间提供了一种特别有吸引力的折中方案。其推理路径轻量:当前特征提取器提取特征,NCM分类器将其与每个已知类别的一个原型进行比较。它们还提供了旧类别的显式几何表示,使得当特征提取器可以适应新类别时,原型校正成为可能。这些优势对于边缘设备上的故障诊断非常重要,在这些场景中,回放原始多通道信号或在推理时运行生成器是不理想的。

已经开发了多种代表性的基于原型的方法。FeTrIL[21]在初始任务后冻结特征提取器,并通过新旧原型之间的几何平移生成伪旧类别特征。FeCAM[22]同样保持特征提取器固定,但将欧几里得距离替换为各向异性马氏距离,并对类间协方差进行建模,以更好地捕捉异构特征分布。Gomez-Villa等人[23]提出了可学习漂移补偿方法,该方法从当前任务数据中学习表示变化,并将存储的旧类别统计量迁移到更新后的特征空间中。Ye等人[25]提出了一种用于无经验样本旋转机械诊断的自适应原型校正与分离网络,采用基于最优传输的原型校正和混合对比学习。近期的研究进一步探索了可学习的特征空间转换。在原型校正方法中,对抗漂移补偿(ADC)[26]是一种经典且具有代表性的方法。ADC在先前特征提取器下将当前任务样本扰动向旧类别原型方向,测量由此产生的对抗样本在先前特征空间和当前特征空间之间的位移,并使用其平均位移来校正旧原型。其简单的生成过程、仅使用原型的长期记忆机制、与NCM推理的兼容性,以及在标准和细粒度EFCIL基准上的强大性能,使其成为进一步研究的理想基础。因此,本工作以ADC为起点,研究其中心级、逐任务补偿机制尚未解决的以下两个问题。

尽管具有上述优势,ADC仍有两个问题未能得到充分解决。首先,它在当前任务模型训练完成后才估计漂移,并对每个旧原型应用一个类级别的位移。这种任务级别的单次校正无法持续跟踪特征提取器在增量任务内更新过程中发生的渐进的、类别依赖的且可能是非线性的表示变化。其次,ADC主要通过原型中心来表示和校正旧类别。原型指示类别的中心位置,但并不描述类别分布在不同方向上如何向相邻类别延伸。因此,仅校正原型并不能显式地防止新类别特征进入旧类别的依赖于方向的边缘区域。这些局限性是ADC和相关中心级校正策略特有的,不应推广到所有基于原型的方法,因为不同方法在冻结特征提取器、建模协方差、生成伪特征或校正类别统计量等方面的机制各不相同。

上述观察促成了对ADC的扩展,旨在保留其实用优势的同时,提升其跟踪特征空间演变和保护旧类别边缘的能力。因此,本文提出了一种名为对抗漂移预测与方向多样边界排斥(ADP-DDBR)的无经验样本类增量故障诊断方法。在初始任务中,特征提取器和分类器使用交叉熵损失进行训练,并为每个初始类别构建一个原型以及方向选择的边界特征。在每个后续的增量任务中,使用当前任务样本在冻结的先前特征提取器下生成向旧类别原型方向的对抗漂移样本。先前特征提取器与当前特征提取器之间的特征差异为非线性预测器提供漂移监督。与一次性校正不同,该预测器在计划好的校准时期进行训练和使用,随着特征提取器的演变更新旧类别原型和边界特征。同时,从多个相对于原型的方向选择的边界特征与校准后的原型一起作为排斥锚点,显式地阻止新类别特征进入旧类别边缘区域。在推理时,NCM分类器仅需要当前特征提取器和校准后的原型。

综上所述,本文的主要贡献如下:

(1)在ADC的中心级、一次性漂移补偿之外,提出了一种动态监督的漂移预测与周期性校准机制。从当前任务数据构建的对抗漂移样本为紧凑的非线性预测器提供样本级监督,该预测器在特征提取器于增量任务内变化时反复更新旧类别原型和边界特征。该设计在保持原始信号无经验样本约束的同时,使旧类别参考点能够跟踪不断演变的特征空间。

(2)在ADC所使用的原型为中心的旧类别表示和校正之外,引入了一种方向多样的边界排斥机制。对于每个旧类别,从其原型方向的多角度选择边界特征,并与原型进行联合校准。由此产生的锚点描述了旧类别分布的中心和依赖于方向的边缘,从而减少新类别在决策边界附近的侵入和特征重叠。

(3)对ADC基础上所提的扩展在两个机械故障诊断数据集上进行了系统评估。研究内容包括基于ADC的加性消融、对抗漂移估计的直接验证、参数和漂移预测器架构敏感性分析、计算成本分析,以及类别相似性和边界覆盖的机制级分析。这些实验量化了动态校准和方向边界保护对稳定性-可塑性权衡的单独和综合影响。

各章节片段

基于EFCIL的故障诊断

在基于深度学习的机械故障诊断中,故障类别随时间顺序不断出现。设$C_t$表示第$t$个增量任务中引入的新故障类别集合,其中$t = 0, 1, \cdots, T$。任务0为初始任务,$T$是最后一个任务的索引,同时也是初始任务之后的增量任务数量。因此,完整序列共包含$T+1$个任务。不同任务的类别集合互不相交,即对于任意$i \neq j$,有$C_i \cap C_j = \emptyset$。在初始任务中,模型可以访问……

所提方法

图3展示了整体框架。该方法包括初始任务阶段和增量任务阶段。在初始任务阶段,特征提取器使用交叉熵损失进行训练,并计算并存储初始类别的原型和边界特征。在增量任务阶段,在不访问旧样本的情况下学习新类别。该阶段包含三个核心模块:(1)对抗漂移样本生成,使用旧的特征提取器从……创建对抗样本。

案例研究一

该案例研究在基于EFCIL的故障诊断设置下,使用BJTU-RAO转向架传动系统数据集对所提出的ADP-DDBR方法进行了评估。

案例研究二

该案例研究进一步在齿轮传动实验平台上对所提出的ADP-DDBR方法进行了评估,以验证其在不同机械系统和故障类型上的泛化能力。

结论

本文提出了一种名为ADP-DDBR的基于EFCIL的故障诊断方法,以解决在无法存储历史故障样本时由特征漂移和特征重叠引起的灾难性遗忘问题。在两个数据集上的大量实验表明,ADP-DDBR始终优于最先进的无经验样本方法,取得了最高的累积准确率和最低的遗忘率。主要结论如下:

(1)所提出的对抗漂移……

CRediT作者贡献声明

Yaoxiang Yu:撰写—初稿,可视化,验证,方法论,概念构思。Yuli Niu:撰写—初稿,方法论,概念构思。Xueyi Li:方法论,概念构思。Tianyang Wang:监督,资金获取。Liang Guo:监督,资源提供。Shaoze Yan:监督,概念构思。

褚福来:监督,概念构思。
利益冲突声明
作者声明不存在已知的竞争性经济利益或个人关系,这些关系可能影响本文所报告的工作。
致谢
本工作由中国国家重点研发计划(项目编号:2024YFB3310702)资助。
尤晓祥 | 牛雨丽 | 李学毅 | 王天阳 | 郭亮 | 阎绍泽 | 褚福来
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号