一种基于故障不可知元学习的与熵流（exergy）相关的故障诊断框架，适用于工业多模态批量处理过程

《Neurocomputing》：An exergy-related fault diagnosis framework based on fault-agnostic meta-learning for industrial multimode batch processes

针对多模式批处理过程中数据分布差异、样本不足及传统机器学习方法泛化能力差的问题，提出基于熵分析相关故障鲁棒元学习（FAML）的诊断框架。通过最大信息系数筛选熵相关变量并转换为二维图像数据，结合改进的MAML模型与Inception模块，采用多步损失优化提升训练稳定性，最终在热连轧真实工业数据验证中表现优于传统方法。

　　

张传芳|尹文晓|彭凯翔|张学义

教育部工业过程知识自动化重点实验室，北京科技大学自动化与电气工程学院，北京，100083，中国

摘要

为了适应消费者需求的多样性和激烈的市场竞争，制造业正逐渐转向实施灵活的生产系统。工作模式的多样性、故障数据的稀缺性、不同批次之间的数据分布差异以及能源消耗信息的不充分利用导致传统的基于机器学习的故障诊断方法普遍性较差且诊断准确性低。为了解决上述问题，本文提出了一种基于故障不可知元学习（FAML）的与熵相关的故障诊断框架，用于多模式批量过程。首先，选择与熵相关的变量并将其转换为图像数据作为诊断模型的输入。然后，基于模型不可知元学习（MAML）和Inception模块，我们开发了FAML网络，通过防止其在诊断任务中过拟合来提高其训练稳定性。最后，将基于FAML的故障诊断框架应用于实际的热轧带钢生产线（HSMP）过程。实验结果表明，FAML在不同模式和批次下的诊断准确性高于其他方法。

引言

随着计算机和传感器技术的快速发展，工业过程越来越多地融入大规模信息集成和强交互。这一趋势是由需要适应产品规格的频繁调整、原材料质量的变化以及其他不确定的外部因素所驱动的[1]。因此，多模式过程已成为工业环境中的一个关键特征。然而，与单模式过程相比，多模式过程由于生产规模的扩大和复杂性的增加而带来了重大挑战。特别是，多模式过程中故障的发生往往会导致高风险的生产环境和产品质量不稳定[2]。为了解决这些问题并确保生产安全和产品质量稳定，研究人员提出了数据驱动的多模式过程故障诊断（MPFD）技术[3]。这些MPFD方法在工业应用中显示出了有希望的结果。

通常，MPFD方法可以分为基于多变量统计分析、机器学习和深度学习的方法。最初的研究集中在多变量统计分析和机器学习上，该领域有许多值得注意的研究。例如，赵等人提出了一种用于诊断具有多种运行模式的工业流化催化裂化单元故障的多元主成分分析（PCA）模型[4]。王等人开发了一种使用模式转换概率（MTP）的有效诊断方法，用于多模式退火炉系统[5]。王等人结合基于Q学习的故障估计和迭代学习控制，为MIMO系统提供了一种稳健的容错解决方案[6]。张等人提出了一种基于改进的核独立成分分析（RKICA）的故障诊断方法，用于田纳西东曼（TE）过程[7]。同样，宋等人开发了一种使用标准化k最近邻（SkNN）的多模式过程故障检测和诊断（FDD）框架[8]。周等人提出了一种基于稳健K均值（RKMM）的多粒度聚类算法和基于非负矩阵分解（NMF）的特征学习算法，用于多相流设施[9]。然而，与其他领域相比，深度学习方法在MPFD中的应用相对有限。吴和赵采用了一种基于迁移学习的FDD方法，用于多模式化学过程[10]。高等人开发了一种称为分层模式识别和堆叠去噪自编码器（HMI-SDAE）的新MPFD方案，用于TE过程[11]。李等人开发了UM-GearEccDataset，这是一个包含多个级别齿轮偏心故障的全面数据集，旨在支持故障机制分析和基于深度学习的故障诊断[12]。值得注意的是，基于深度学习的方法的成功在很大程度上依赖于几个因素：1）足够的训练数据量；2）高质量（准确标记的）训练数据；3）训练数据和测试数据遵循相同的分布并属于同一故障类型。然而，在实践中满足这些要求往往具有挑战性。由于设备成本高和样本标记耗时，导致获得标记故障样本的成本很高，用于训练模型的标记故障样本数据有限[13]。因此，迫切需要开发出需要较少超参数优化、使用少量训练数据并表现出强泛化能力的方法，以满足多模式过程中高性能故障诊断的需求。

元学习，也称为学习如何学习，是一种学习技术，它使模型能够在仅有少量训练样本的情况下快速适应新任务[14]。通常，它可以分为基于优化、度量和模型的方法。在这些方法中，基于优化的方法为各种深度学习模型提供了通用的学习框架，并在故障诊断研究中得到了广泛应用。在基于优化的方法中，模型不可知元学习（MAML）是一种突出的方法，近年来受到了广泛关注[15]。例如，张等人提出了一种基于MAML的机械轴承故障诊断方法，其准确率比其他基于度量的方法高出25%[16]。同样，李等人使用二维卷积神经网络（CNN）作为他们的元学习故障诊断（MLFD）方法的骨干[17]。他们证明了他们的方法在准确识别故障方面的优越性。另一项由余等人进行的研究将MAML与使用时频特征矩阵（TFSM）的多标签CNN相结合，用于滚动轴承故障诊断，进一步提高了诊断性能[18]。除了MAML之外，一种称为Reptile的相关变体在元学习设置中也显示出前景。Reptile与一阶MAML密切相关，但它不需要为每个任务分离训练和测试阶段[19]。利用Reptile，裴等人开发了一种利用增强型Wasserstein自编码器（WAE）与Reptile相结合的故障诊断框架[20]。

尽管基于MAML的方法被认为是优雅和灵活的，但它们在MPFD中的应用却很少受到关注。与机械故障诊断相比，MPFD更为复杂。除了多模式特性外，工业过程还可能具有多批次特性。批次过程的时间延迟、时变不确定性和干扰给系统诊断带来了挑战[21]。例如，在热轧带钢生产线（HSMP）过程中，带钢是分批生产的，每个卷代表一个不同的批次。不同批次之间的数据分布不同，故障类型也更加多样。现有基于MAML的方法的一个主要限制是，它们的初始模型可能偏向于特定的故障，尤其是在元训练阶段采样的故障[22]。因此，这些有偏的初始模型可能在检测未知的新故障时表现不佳。此外，传统的基于MAML的方法还存在训练不稳定和故障特征提取不足的问题[23]。此外，在MPFD的背景下，能量的概念经常被忽视。然而，在实际的多模式过程中，物料流动是由能量流动驱动的，并遵循预定义的程序。通过整合热力学的第一定律和第二定律，熵分析可以帮助更好地理解多模式过程，区分能量质量，并量化低效率的方向[24]。因此，我们提出了一种结合熵分析的新故障诊断框架，以解决上述问题。主要贡献总结如下：

• 1)
  利用最大信息系数（MIC）选择与熵相关的变量，同时使用Gramian角场（GAF）将这些变量转换为二维（2D）图像数据，从而保留原始过程数据的时空信息。
• 2)
  开发了一种新的故障不可知元学习（FAML）模型，用于与熵相关的故障诊断。在MAML框架的基础上，我们将Inception模块集成到原始网络中，修改其目标函数，并采用多步损失优化（MSL）来提高训练过程的鲁棒性和稳定性。
• 3)
  进行了广泛的实验，使用HSMP的故障数据来评估所提出的FAML模型的有效性。将FAML的性能与几种最先进的方法进行了比较，并提供了定量结果和定性分析以验证其优越性。

本工作的其余部分组织如下。第2节简要介绍了元学习、MAML、熵分析和Inception模块。第3节，我们开发了与熵相关的故障诊断框架。随后，在第4节中，我们将所提出的方法应用于实际的热轧带钢生产线（HSMP）案例研究。最后，在第5节中得出了一些结论。

部分摘录

元学习的间歇性训练

与传统的机器学习方法不同，元学习利用来自几个相互关联任务的先前经验，并利用获得的知识来提高其在新任务上的性能。重点从模型在单一任务上的性能转移到其在多个任务上的学习能力。因此，它在解决传统神经网络有限的泛化能力和对新情况的适应能力差的问题上非常相关

方法论

本节介绍了与熵相关的故障诊断框架的设计细节。

验证研究：应用于HSMP

本节提供了HSMP的概述，然后将所提出的方法与其他最先进的方法进行比较，以验证其卓越的故障诊断性能。

结论

在这项工作中，提出了一种用于工业多模式批量过程的新颖基于FAML的与熵相关的故障诊断框架。该框架包括三个相关部分：与熵相关变量的图像数据转换、FAML模型构建和故障诊断。首先计算了过程变量与熵效率之间的MIC，并将不同模式和批次的训练数据转换为图像数据。其次，我们从三个方面对MAML模型进行了改进。

未引用的参考文献

[32]

CRediT作者贡献声明

张传芳：撰写——原始草案 尹文晓：验证。彭凯翔：概念化、监督。张学义：软件

利益冲突声明

作者声明他们没有已知的可能会影响本文所述工作的竞争性财务利益或个人关系。作者声明以下可能被视为潜在竞争性利益的财务利益/个人关系：

致谢

这项工作得到了中国国家重点研发计划（编号2021YFB3301201）和中国国家自然科学基金（NSFC）（项目编号62303041、U21A20483、61873024、62203042）的支持。同时感谢北京科技大学的基本研究基金（FRF-TP-22-142A1、FRF-IDRY-22–002）的支持，中国。

张传芳分别于2013年和2015年在沈阳东北大学获得学士和硕士学位，2021年在北京科技大学获得自动控制博士学位。他目前是北京科技大学自动化与电气工程学院的副教授。他的研究兴趣包括工业过程监控、故障诊断、数据分析和