一种基于模型不可知元学习(model-agnostic meta-learning)和任务嵌入(task embeddings)的跨域少量样本剩余使用寿命估算框架

《COMPUTERS IN INDUSTRY》:A cross-domain few-shot remaining useful life estimation framework based on model-agnostic meta-learning with task embeddings

【字体: 时间:2025年10月11日 来源:COMPUTERS IN INDUSTRY 9.1

编辑推荐:

  针对跨域小样本剩余使用寿命(RUL)估计的挑战,本文提出一种基于改进MAML的框架,通过轨迹分割构建多任务元学习,设计独立于网络的任务嵌入以降低过拟合,并采用Representation Change提升跨域适应性。实验表明,该框架在涡轮发动机和风力齿轮箱数据集上,RMSE和Score分别提升9%和31%。

  剩余使用寿命(RUL)估计是通过监测数据预测系统在何时会发生故障,从而实现主动维护。这种技术对于提高系统运行的可靠性和安全性具有重要意义。然而,当新的系统故障出现时,基于历史故障数据训练的预测模型往往难以准确估计其剩余使用寿命。历史数据与新故障数据之间的分布偏移,加上新故障数据数量极少,形成了跨领域的小样本预测场景,这对许多基于深度学习的RUL估计方法构成了重大挑战。为应对这一挑战,本文提出了一种基于模型无关元学习(MAML)与任务嵌入的新型跨领域小样本RUL估计框架。首先,采用一种分割策略来构建更多的元任务,从而捕捉更全面的退化信息,实现高效的元知识提取。其次,设计了一种与主干网络无关的任务嵌入,将任务特异性退化知识编码为低维向量,缓解由于有限标注数据引起的过拟合问题,从而提升RUL估计的性能。此外,将编码的退化知识仅注入到特征提取器中,使表示变化成为主要的适应策略,从而增强模型在跨领域环境中的适应能力。实验结果表明,该框架在涡扇发动机和风力涡轮齿轮箱数据集上具有显著的效果和优势。在评估指标RMSE和Score上,估计结果分别提升了9%和31%。

在预测性维护和健康管理(PHM)技术领域,RUL估计是其中的核心组成部分。PHM技术的目标是准确预测机械系统的健康状态,并基于该状态进行合理的维护和管理,从而确保系统运行的安全性、可靠性和经济性。随着工业系统的复杂性不断增加,对RUL估计的需求也日益增长。传统的RUL估计方法通常依赖于大量标注数据,这在实际应用中往往难以满足。尤其是在跨领域场景下,由于不同操作条件、故障模式和系统噪声的影响,历史数据与新数据之间的分布偏移问题尤为突出。为应对这一问题,研究人员提出了多种迁移学习(TL)方法,以将历史领域中学到的知识迁移到当前领域。这些方法通常分为域适应和归纳迁移学习(inductive TL)两种类型。域适应方法主要依赖于源域与目标域之间的相似性,通过调整特征空间来适应新的任务。然而,当目标域的数据有限且标注不足时,这些方法可能无法充分发挥作用,因为它们不利用当前域的监督信息。

相比之下,归纳迁移学习方法在跨领域小样本场景下表现出更强的适应能力。这些方法能够利用当前域中少量的标注数据,诱导出一个具有普遍适用性的预测模型。预训练-微调是典型的归纳迁移学习策略,其中模型首先在源域上进行预训练,然后在目标任务上进行微调。这种方法在一些简单的RUL估计场景中取得了良好的效果,但在面对较大的域偏移时,可能会出现性能下降甚至负迁移的现象。为解决这一问题,元学习(meta-learning)作为一种新兴的方法,被用于跨领域小样本RUL估计。元学习的目标是通过学习多个任务的元知识,使模型能够在少量数据的情况下快速适应新任务。其中,模型无关元学习(MAML)作为一种通用的元学习算法,近年来在RUL估计领域受到广泛关注。

然而,目前基于MAML的跨领域小样本RUL估计框架仍存在一些局限性。首先,这些框架通常通过从源域中提取轨迹来构建元任务的支撑集。但在工业场景中,可用轨迹的数量有限,这可能会影响元知识的高效提取,从而降低模型的准确性。其次,这些框架在适应过程中使用少量标注样本更新整个模型,以学习任务特异性退化知识。然而,在高维参数空间中使用有限样本计算梯度可能会导致过拟合问题。第三,这些框架依赖于特征空间的复用来进行适应,其成功取决于源域与目标域之间的相似性。而在跨领域场景下,这种受限的特征空间变化可能限制模型的适应能力。

为克服上述挑战,本文提出了一种基于改进MAML的跨领域小样本RUL估计框架。该框架的主要创新点包括:首先,采用一种分割策略,将单条轨迹划分为多个子轨迹,以构建更多的元任务。这种策略能够显著增加元任务的数量,从而提供更丰富的退化信息,使元学习算法能够从扩展后的元任务中提取更通用的元知识。其次,引入任务嵌入机制,以优化MAML算法在RUL估计中的应用。在适应过程中,仅更新任务嵌入而不是整个预测模型的参数,使得模型能够在低维参数空间中计算梯度,从而获取任务特异性退化知识,有效降低有限标注数据带来的过拟合风险。最后,采用表示变化作为主要的适应策略,而不是依赖于特征空间的复用。通过将任务嵌入与特征提取器进行专门连接,使提取的退化表示的特征空间能够显著变化,从而提升模型在跨领域环境中的适应能力。

在实验部分,本文在涡扇发动机和风力涡轮齿轮箱数据集上进行了广泛的测试。涡扇发动机的数据集来自NASA的C-MAPSS数据集,该数据集包含了四个子集:FD001、FD002、FD003和FD004。每个子集由多个多变量时间轨迹组成,这些轨迹被划分为训练轨迹和测试轨迹。在第二个实验中,本文使用基于JT9D发动机的新型航空涡扇发动机退化数据集,通过建立热力学机制模拟模型来构建数据集。这些数据集的标准参数和组件参数来源于NASA开发的热力学系统建模与分析工具箱。第三个实验则关注于工业风力涡轮齿轮箱的条件监测系统,以验证该框架在实际工业应用中的适用性。风力涡轮齿轮箱的传动系统主要包括主轴、一级行星齿轮组和二级平行齿轮组,其简化结构如图6所示。

在分析分割策略时,本文发现该策略能够有效增加元任务的数量,从而捕捉更全面的退化信息。然而,分割段数P的选择对估计性能具有重要影响。为了分析这一影响并高效利用提供的数据,本文在实验中采用了不同的P值进行测试。通过比较四个实验场景的结果,本文展示了RMSE指标的变化情况,并分析了不同P值对模型性能的影响。此外,本文还讨论了该框架在不同工业领域的应用潜力。在航空领域,由于飞机发动机和关键结构部件的成本极高,标注数据通常非常有限。因此,能够基于少量标注数据优化预测模型的能力,对于航空维护系统的实时健康监测和故障预测具有重要意义。在风能领域,风力涡轮齿轮箱的运行环境复杂,且数据采集和标注过程具有挑战性。本文提出的框架能够有效适应这些挑战,提高预测的准确性。

本文的实验结果表明,该框架在多个数据集上均表现出优越的性能。在涡扇发动机数据集上,模型的RMSE和Score指标分别提升了9%和31%。在风力涡轮齿轮箱数据集上,实验结果同样显示了显著的提升。此外,该框架在处理跨领域小样本问题时,表现出较强的适应能力。通过引入任务嵌入机制,模型能够在低维参数空间中进行有效的知识提取和更新,从而避免过拟合问题。同时,通过专注于表示变化而非特征空间的复用,模型能够更好地适应新的退化模式,提高跨领域环境下的预测准确性。

本文的研究为跨领域小样本RUL估计提供了一种新的解决方案。该框架不仅能够提高模型在有限数据下的泛化能力,还能够适应不同工业场景下的复杂退化模式。未来的研究方向可能包括进一步优化任务嵌入机制,以提高模型在不同任务之间的迁移能力。此外,还可以探索其他元学习算法在RUL估计中的应用,以拓展该框架的适用范围。同时,随着数据采集技术的进步,未来可以收集更多高质量的标注数据,以进一步提升模型的性能。最后,该框架的工程应用潜力也值得进一步研究,以验证其在实际工业环境中的可行性。

本文的贡献不仅在于提出了一种新的跨领域小样本RUL估计框架,还在于对现有方法的局限性进行了深入分析,并提出了相应的改进措施。通过引入分割策略和任务嵌入机制,本文解决了传统方法在元任务构建、参数更新和特征空间适应方面的不足。这些改进措施使得模型能够在有限数据下进行有效的学习和适应,从而提高预测的准确性。此外,本文还通过多个实验验证了该框架的有效性,展示了其在不同数据集上的优越表现。实验结果表明,该框架不仅能够提升RUL估计的性能,还能够适应不同的工业场景,具有广泛的适用性。

在实际应用中,该框架可以用于航空、风能和其他工业领域的预测性维护系统。对于航空领域,该框架能够有效处理飞机发动机和关键结构部件的退化模式,提高维护计划的准确性。对于风能领域,该框架能够适应风力涡轮齿轮箱的复杂运行环境,提高预测的可靠性。此外,该框架还可以用于其他类型的机械系统,如工业设备、汽车零部件等,以实现更高效的维护和管理。未来的研究可以进一步探索该框架在更多类型机械系统中的应用,以验证其普适性。

综上所述,本文提出了一种基于改进MAML的跨领域小样本RUL估计框架,该框架通过分割策略和任务嵌入机制,解决了传统方法在元任务构建、参数更新和特征空间适应方面的不足。实验结果表明,该框架在多个数据集上均表现出优越的性能,能够有效适应不同工业场景下的复杂退化模式。该框架的工程应用潜力值得进一步研究,以验证其在实际工业环境中的可行性。未来的研究方向可能包括进一步优化任务嵌入机制,探索其他元学习算法的应用,以及收集更多高质量的标注数据,以提升模型的性能。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号