利用大模型进行领域知识驱动的故障诊断架构搜索

《Engineering Applications of Artificial Intelligence》:Leveraging large models for domain knowledge-informed architecture search of fault diagnosis

【字体: 大 中 小 】 时间:2026年09月21日 来源:Engineering Applications of Artificial Intelligence 9.0

编辑推荐:

   •将自适应小波包张量集成到NAS中,以编码故障领域知识。•通过黎曼流形映射对齐语言模型语义预测器与图神经网络拓扑预测器。•利用Shapley值驱动的动态剪枝加速架构搜索。引言机械故障诊断(MFD)是现代工业系统状态监测与预测性维护的关键组成部分(L. Fang等,2026),

  
  • •
    将自适应小波包张量集成到NAS中,以编码故障领域知识。
  • •
    通过黎曼流形映射对齐语言模型语义预测器与图神经网络拓扑预测器。
  • •
    利用Shapley值驱动的动态剪枝加速架构搜索。

引言

机械故障诊断(MFD)是现代工业系统状态监测与预测性维护的关键组成部分(L. Fang等,2026),局部退化可能通过耦合传动链传播,最终导致整个生产流程的中断(Li等,2026;Zhi等,2025)。诊断不力可能因允许初始故障发展为二次损坏、非计划停机和安全事故而带来巨大的运营和经济损失;而误报警和错误分类则可能导致不必要的维护、不当干预、质量下降以及废品率上升(Hu等,2025;Wan等,2026)。
近年来,基于深度学习的故障诊断技术因其能够显著提高MFD系统的准确性和鲁棒性而被广泛应用于工业制造领域(L. Fang等,2025)。然而,对更强模型逼近能力和泛化能力的持续追求导致神经网络架构越来越深、越来越宽,其手动设计变得越来越复杂和劳动密集型(Tan等,2025)。此外,不同的诊断场景要求诊断模型在保持跨异构工况和设备鲁棒性的同时识别微弱的故障特征(Zhang等,2026)。因此,通常需要进行架构定制化以适应不同的数据特征和运行条件(Xia等,2019)。这种场景依赖的定制化使架构设计成为MFD的实际瓶颈。
为减轻这一负担,神经架构搜索(NAS)作为一种自动化的架构设计范式应运而生(Li等,2023)。NAS将设计任务形式化为一个离散检索问题,在预定义的搜索空间中选择一个最优架构(Yu等,2025)。通过自动化候选选择,NAS直接减少了对手动专家试错的依赖。然而,随着搜索空间的扩大和模型深度的增加,相应的计算开销迅速增长,使得大规模架构搜索既昂贵又耗时。
已有大量研究致力于提高NAS的效率(Zhang等,2021),所得架构往往优于手工设计。然而,现有研究很少探讨与性能崩溃相关的内在搜索策略偏差(Chu等,2020)。在典型的MFD模型中,浅层倾向于参数化操作,而深层则偏好非参数化操作以实现可靠的故障分类(X. Zhang等,2023)。非参数化操作(如跳跃连接和池化)在初始化时即可生效,有利于特征和梯度的传播;而参数化操作则必须先学习有用的滤波器,其贡献才能反映在验证目标中(X. Zhang等,2023)。面对复杂的真实工业环境,缺乏先验领域知识(DK)引导的当代NAS方法(Bansal等,2024;Wang等,2024)往往表现出对非参数化操作的搜索偏好,而牺牲了参数化操作(Wang等,2024;Zhou等,2021;C. Wang等,2025)。这种主导地位可能抑制了捕获瞬态和多尺度振动模式所需的可学习特征提取操作,最终降低诊断性能甚至引发完全的崩溃。这暴露了核心的DK鸿沟:自动搜索与决定哪些架构操作具有诊断意义的MFD知识之间仍然脱节。
为弥合这一差距,使用MFD DK微调的预训练大模型(LM)在预测和生成可行的诊断架构方面显示出潜力(Liao等,2025)。然而,它们在大规模搜索空间中的推理和预测效率显著下降,且跨异构场景的泛化能力仍然有限(Nasir等,2024)。综上所述,这些挑战阻碍了NAS的实际部署,并限制了LM在MFD应用中的工程价值。
为应对MFD中高度抽象的DK无法有效引导模型架构搜索这一挑战,我们提出了一种基于大模型的领域知识引导架构搜索方法(LM-DKAS),该方法利用预训练大模型将MFD DK集成到架构-性能建模和自动搜索中(Yu等,2025)。该框架旨在提高诊断准确率、跨场景泛化能力和搜索效率,其详细组件和三阶段工作流程在第3.1节中阐述。本文的主要贡献如下。
  • 1.
    构建了一个整体化的LM-DKAS框架,将基于MSADM的架构建模、双通道语义-拓扑性能预测以及改进的Shapley动态剪枝统一为一个端到端的NAS流程,提升了诊断准确率、泛化能力和效率。
  • 2.
    建立了一种DK感知的架构表示。利用AWPD注入DK并构建一个统一超参数、算子类型、拓扑和信息流描述符的MSADM数据集。DK还通过改进的LM微调目标函数进一步融入,同时联合训练一个双通道预测器以建模语义-拓扑性能关系。
  • 3.
    提出了一种基于黎曼流形的路由门控融合机制,以集成语义和拓扑性能向量。通过改进的Shapley计算(含贡献梯度、自适应阈值和分布差异检测)实现了动态剪枝策略,从而减少了计算开销并增强了动态泛化能力。
本文其余部分组织如下。第2节回顾相关工作与挑战。第3节介绍所提出的LM-DKAS方法,包括多维架构表示、采用注意门控机制的双通道预测器融合学习范式以及基于改进Shapley计算的自适应剪枝策略。第4节阐述LM-DKAS的完整搜索过程。第5节展示实验结果。第6节总结全文。最后,附录提供了所提方法的更多细节。

章节摘要

相关工作

目前,基于NAS的MFD方法正迅速成为研究焦点。本节回顾了NAS在故障诊断中的最新进展以及LM在NAS中的现状,同时探讨了向这些NAS任务引入DK的优势与挑战。

基于大模型的领域知识引导架构搜索

鉴于MFD中DK的高度抽象性和复杂性(Zhao等,2020),现有方法难以有效利用DK来引导诊断模型架构的搜索。因此,我们利用大模型的强大能力来学习复杂的DK表示(Yu等,2025),并将我们的方法设计为一个最小但完整的闭环NAS过程。NAS过程由三个核心组件定义:指定候选架构的搜索空间、搜索

MFD模型的完整架构搜索过程

为实现所提出的LM-DKAS方法,我们利用大模型学习复杂DK表示的强大数据能力(Yu等,2025)。通过集成MFD的先验DK,LM-DKAS能够有效搜索最优诊断架构,从而避免从零知识状态开始搜索的低效。完整搜索过程如图3所示。
首先,构建诊断模型搜索空间。采用受控分层随机采样(CHRS)策略(

实验分析

实验主要围绕从运行设备中拆卸的轴承-齿轮箱组件展开分析,如图4所示。同时,在自建实验平台上以及公开数据集DIRG机械滚动轴承数据集(Yan等,2019)和XJTU齿轮箱数据集(Li等,2022)上验证了LM-DKAS方法的泛化能力。自建实验平台允许调整转速、改变载荷以及进行

结论

本文提出了一种LM驱动、DK引导的MFD NAS方法,以解决将高度抽象的故障领域知识纳入诊断架构设计的难题。所提出的LM-DKAS方法首先将故障相关时频特征和架构信息转化为统一的MSADM表示,使领域知识能够以可计算的形式参与搜索过程。双通道预测器旨在联合捕获语义和

作者贡献声明(CRediT)

罗芳:撰写-审阅与编辑,撰写-初稿,可视化,验证,软件,方法论,调查,形式化分析,数据管理,概念化。施建华:验证,监督,项目管理,资金获取,形式化分析。吴立刚:项目管理,调查,形式化分析。谭金彪:撰写-审阅与编辑,监督,形式化分析。王世勇:监督,资金获取。江春:验证,

利益冲突声明

作者声明不存在已知的可能影响本文所述工作的竞争性经济利益或个人关系。

致谢

本研究由广东省精密装备与制造技术重点实验室(项目编号:PEMT202404)、广东省自然科学基金(项目编号:2024A1515012009,项目编号:2025A1515010865)以及清远市科技计划项目(项目编号:2025KJJ015)资助。
罗芳 | 施建华 | 吴立刚 | 谭金彪 | 王世勇 | 江春 | 万家福
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号