Semi-TFCDG：面向机器剩余使用寿命预测域泛化的半监督时频对比学习

《MECHANICAL SYSTEMS AND SIGNAL PROCESSING》：Semi-TFCDG: Semi-supervised time–frequency contrastive learning for domain generalization in machine remaining useful life prediction

　　

领域泛化（DG）是在未见域中进行剩余使用寿命（RUL）预测的一种有前景的范式。然而，大多数DG方法假设存在多个完全标注的源域，这一假设在工业场景中往往难以满足，因为标注样本获取成本高昂，而无标签数据则更容易收集。这激发了半监督域泛化（SSDG）的研究，该方法无需访问目标信息即可利用无标签源数据。尽管无监督对比学习能够有效利用无标签数据中的退化信息，但通常采用的预训练-微调范式往往将表示学习与下游RUL预测目标解耦。此外，它对频域退化信息和时频关系建模能力有限。为解决这些挑战，本文提出了一种面向RUL预测的半监督时频对比域泛化方法Semi-TFCDG。Semi-TFCDG在统一的单阶段端到端训练框架内，利用有限的标注源数据和大量无标签源数据，为未见域学习鲁棒的退化表示。具体而言，Semi-TFCDG通过时频协作无监督对比学习从无标签数据中提取时域模式、频域结构和时频一致性信息。进一步地，通过标签感知监督对比学习和RUL回归监督，使真实标签持续指导退化语义表示的学习。此外，通过语义感知跨域对比对齐，在标注和无标注源域之间建立细粒度的退化相关语义关系。在一个真实工业数据集和两个公开数据集上的实验验证了Semi-TFCDG在SSDG设置下的有效性。引言

预测与健康管理（PHM）是确保持续可靠运行和安全的关键技术，它能够实现主动维护决策和运营性能的持续优化 [1]。作为PHM的核心任务之一，剩余使用寿命（RUL）预测与预测性维护策略的发展和维护资源的合理分配直接相关 [2], [3]。RUL预测研究通常遵循两条主要技术路线，即基于模型的方法和基于数据的方法 [4]。前者利用失效机制的先验知识和数学表征来描述退化过程，其预测结果相对可解释。然而，当应用于具有复杂退化机制和显著随机扰动的变工况工业设备时，它们通常需要大量的建模努力和参数标定成本，这限制了其可扩展性 [5], [6]。相比之下，基于数据的方法受益于传感技术和数据采集能力的进步，能够直接从历史运行数据中提取退化模式，从而减少对精确物理模型的依赖 [7], [8], [9], [10]。因此，它们在复杂工业系统的RUL预测中展现出更强的适应性和实际应用潜力，并逐渐成为PHM领域的研究主流。

尽管数据驱动的RUL模型具有强大的表示和预测能力，但它们通常假设源数据和测试数据具有相同的分布。这一假设在真实工业应用中难以满足，因为工况（OCs）可能频繁变化。因此，在一个工况上训练的模型在部署时可能遇到未见工况，由此产生的分布偏移（DS）可能严重损害其预测性能 [11]。同时，为新兴工况收集完整的寿命耗尽（RTF）数据并相应更新模型的成本高昂且劳动密集 [12]。因此，在变化工况下实现可靠的RUL预测仍然是一个困难但重要的问题。

为解决这一挑战，域自适应（DA）被引入RUL预测中。它通过度量学习或对抗学习等机制缓解跨域分布偏移。该策略旨在学习更具鲁棒性的工况不变特征，即域不变的退化表示，并引起了广泛关注 [13]。然而，直接将现有DA方法应用于跨域RUL预测存在明显局限性。一方面，传统DA框架假设在训练期间可获得目标域样本或其分布的先验知识。在实际预测应用中，未来工况在模型开发期间往往不可用。这使得提前获取这些条件下的退化轨迹变得不切实际 [14], [15]。另一方面，DA可以减少已知域之间的分布不匹配，但其自适应能力通常受限于训练期间观察到的域。一旦模型迁移到先前未见的工况，由此产生的分布偏移可能超出其自适应范围 [16]，难以保证可靠的泛化能力。

基于域泛化（DG）的RUL预测为在分布偏移下提高预测鲁棒性提供了一种可行途径。与DA方法不同，DG旨在训练可直接应用于未见工况的模型，而无需目标域样本 [17]。近年来，多源域泛化（MDG）成为活跃的研究方向 [18], [19], [20]。通过利用多个源域的标注数据，这些方法寻求提取对域变化不太敏感的退化表示，从而更好地泛化到未知工况。然而，当前MDG方法的共同前提是存在多个域的完整RTF轨迹。这一前提在工业应用中往往不现实，因为出于安全和可靠性考虑，机器通常在严重故障前就被停用。因此，完全标注的寿命周期数据难以获取，而无标签右删失记录（包含不完整退化信息）则更为常见。这种情况催生了一种更现实的学习场景，即只有有限数量的标注源数据可用，而存在大量来自不同工况或设备的无标签右删失源数据。

自监督学习（SSL）在近期研究中备受关注，因为它能够通过避免直接依赖真实标签从无标签数据中进行表示学习 [21], [22], [23]。特别是，基于实例区分的对比学习在各种时间序列任务中展现了相当潜力。然而，现有的用于RUL预测的SSL方法仍面临若干挑战。首先，大多数现有方法主要关注时域建模，缺乏对退化数据频率属性和时频关系的系统表征。深入挖掘频率信息可以揭示不同的见解并捕捉细微表示。其次，现有方法通常采用由预训练和微调组成的两阶段范式 [24], [25], [26]。在预训练阶段，编码器将大规模无标签数据映射到潜在空间，并利用基于实例区分的无监督对比损失优化编码器。预训练后，编码器在有限数量的标注数据上进行调整，以便学习的表示能更好地迁移到下游任务。这种范式不可避免地引入了额外的训练开销，更重要的是，存在与优化目标不一致的风险，因为预训练期间优化的实例级区分任务与RUL回归所需的退化语义本质上不对齐。此外，预测模型仅在微调阶段受益于标签信息，无法充分利用真实标签指导的有价值监督信号和回归信号。而且，当综合考虑两个阶段时，自监督框架本质上是在半监督数据集上运行。这一观察自然激发了开发单阶段端到端半监督范式以充分利用部分标注数据的动机。

为解决上述挑战，本文提出了Semi-TFCDG，一种用于RUL预测的半监督时频对比域泛化框架。Semi-TFCDG专为实际场景设计，在这些场景中有限数量的标注源数据与大量无标签源数据并存。在无法访问任何目标域信息的情况下，它通过统一的单阶段端到端训练框架为未见工况或先前未见的机器学习鲁棒的退化表示。具体而言，Semi-TFCDG由三个模块组成。首先，为无标签数据开发了一个时频协作无监督对比学习（TFCUCL）模块。它通过时域和频域增强构建互补视图，并将时域对比学习、频域幅值-相位对比学习和时频一致性学习集成到统一优化过程中。其次，一个标签感知监督对比学习（LASCL）模块利用标注样本及其增强视图来建模连续退化标签之间的语义关系。该模块进一步与RUL回归监督集成，使真实RUL标签能够持续指导表示学习和预测模型优化。第三，一个语义感知跨域对比对齐（SACDCA）模块联合建模无标签数据的伪标签语义和置信度、阶段先验以及跨域语义邻近性。它在两类源域之间建立了细粒度的跨域退化语义关系，从而对齐具有相似退化语义的样本表示并增强域外（OOD）泛化能力。Semi-TFCDG的有效性及其半监督域泛化（SSDG）能力在一个真实工业数据集和两个公开轴承数据集上得到验证。本文的主要贡献总结如下：

- 提出了一种用于RUL预测的SSDG框架。与主要依赖多个完全标注源域的现有MDG方法不同，所提出的Semi-TFCDG针对一个有限标注源域和多个无标签源域这一更实际的设置。在统一的单阶段端到端框架中联合利用标注和无标签数据以学习鲁棒的域不变退化表示。

- 为无标签退化数据开发了一种TFCUCL机制。它联合探索时域模式、频域幅值-相位结构和时频语义一致性，从而弥补现有基于SSL的RUL预测方法对频域退化信息和时频耦合关系利用不足的问题。

- 构建了一种标签感知的单阶段监督优化机制。通过将TFCUCL、LASCL和RUL回归监督集成到统一训练过程中，真实标签持续约束退化语义空间和预测模型优化，有效缓解了传统两阶段范式中表示学习目标与下游预测目标之间的不一致性。

- 提出了一种SACDCA策略。它将伪标签语义和置信度、阶段先验以及跨域语义邻近性联合纳入跨域匹配过程，从而在共享表示空间内实现细粒度的退化语义对齐，并显著增强预测模型的OOD泛化能力。

后续章节安排如下：第2节提供相关工作综述。第3节详述所提出的Semi-TFCDG方法。第4节报告并讨论实验结果。第5节总结本文。

**自监督学习**

SSL从丰富的无标签数据中提取信息表示，因此对于完整退化标签稀缺的RUL预测具有重要价值 [27]。大多数基于SSL的预测方法在微调前先构建预训练任务或增强视图以学习退化表示 [28], [29]。Krokotsch等人 [29] 通过相对RUL预测预训练任务预训练了一个孪生编码器。Aguiar等人 [30] 采用自回归任务进行……

**问题设定与定义**

我们将输入空间定义为 $X \subset \mathbb{R}^d$，RUL标签空间定义为 $Y \subset \mathbb{R}$。域 $D_k$ 由 $X \times Y$ 上的底层联合分布 $P_{XY}(D_k)$ 表征。在本文中，每个物理资产及其完整退化轨迹被视为资产级域，从该轨迹中提取的样本被视为从 $P_{XY}(D_k)$ 生成的观测。设备特性、工况和退化或失效模式方面的差异可能单独或共同导致分布……

**案例一：IEEE PHM 2012轴承数据集**

图2展示了用于轴承退化实验的PRONOSTIA试验台 [48]。在整个测试过程中，安装了两个加速度计以监控水平和垂直方向的振动信号。振动信号以25.6 kHz的采样率记录，每10秒采集0.1秒，每个样本产生2560个采样点。基于转速和负载的变化，收集的数据被分为三个不同的组……

**结论**

本文提出了Semi-TFCDG，一种面向未见域RUL预测的SSDG方法。与依赖多个完全标注源域的现有DG方法不同，Semi-TFCDG针对标注数据稀缺、无标签退化数据丰富且目标数据不可访问的实际工业场景。它在单阶段端到端框架内联合利用有限的标注源数据和多个无标签源数据，学习判别性且域不变的CRediT作者贡献声明：

Jie Shang：撰写—审阅与编辑，撰写—原稿，可视化，验证，软件，方法论，调查，形式分析，数据管理，概念化。
Haobo Qiu：撰写—审阅与编辑，监督，资源，项目管理，资金获取。
Liang Gao：监督，资源，项目管理，资金获取。
Chen Jiang：撰写—审阅与编辑，验证，资源，资金获取。

恩里科·齐奥：验证、资源、项目声明、利益冲突声明
作者声明他们没有已知的相互竞争的经济利益或个人关系，这些利益或关系可能被认为会影响本文所报告的工作。
致谢
本研究由国家重点研发计划 [项目编号 2024YFB3311203] 和国家自然科学基金委员会 [项目编号 52475260] 资助。
商杰 | 邱海波 | 高亮 | 蒋辰 | 恩里科·齐奥