从确定性到贝叶斯:基于后验不确定性的预训练模型人机协同故障诊断方法

【字体: 时间:2025年08月01日 来源:Journal of Industrial Information Integration 11.6

编辑推荐:

  本文创新性地提出了一种基于拉普拉斯近似(Laplace Approximation, LA)的后验不确定性(post-hoc uncertainty)方法,可将预训练确定性神经网络快速转换为贝叶斯神经网络(BNN),突破传统先验不确定性(ante-hoc)方法需调整模型结构、重复训练的局限。通过校准(calibration)和分布外(OOD)检测实验验证,该方法在保留模型性能的同时,构建了不确定性支持的人机协同(human-computer collaborative)故障诊断新范式,为解决智能诊断中的黑箱效应和问责机制缺陷提供了新思路。

  

Highlight

本研究主要创新与贡献如下:

• 提出基于不确定性支持的人机协同故障诊断新范式,突破传统单一模型驱动的诊断逻辑,缓解过度依赖智能模型带来的双重陷阱。

• 构建基于LA的后验不确定性方法,可将任意预训练确定性神经网络快速转为BNN,解决现有方法需调整模型结构(如变分推断VI)、重复训练(如深度集成)的痛点。据我们所知,这是机械故障诊断领域首个后验不确定性研究。

• 通过在域内和跨域场景下的校准与OOD检测实验,证明该方法的不确定性估计质量与先验方法相当甚至更优,为后续研究提供重要参考。

Laplace approximation

设数据集D={(xn,yn)}n=1N,L层神经网络fW的参数为W。基于LA理论,我们将后验分布p(W|D)近似为以最大后验估计(MAP)为中心的高斯分布,其协方差来自MAP估计负Hessian矩阵的逆。为降低计算复杂度,采用费雪信息矩阵(Fisher information matrix)层间分块对角化近似,虽忽略层间关联但保留了层内参数相互作用——这显著优于VI方法中参数完全独立的假设。

Proposed method

3.1节概述方法框架,3.2节详解如何通过LA后验不确定性将预训练网络转为BNN,3.4节描述算法实现。核心是通过ERM训练获得MAP估计后,仅需单次Hessian近似计算即可实现贝叶斯推断,避免传统BNN参数翻倍或深度集成的巨额计算成本。

Experimental setup

参考[32]采用两种评估指标:①校准性(calibration)——预测分布中softmax概率应反映真实正确率;②OOD检测能力——扩展至跨域场景验证方法对域偏移的鲁棒性。所有实验均对比先验方法(VI-BNN、深度集成)与其他后验方法。

Conclusion

LA后验不确定性方法成功构建了人机协同诊断范式,既克服了先验方法的结构调整与重复训练缺陷,又通过不确定性量化缓解了传统范式过度自信预测的风险。未来可探索该方法在工业大模型上的应用,并开发更高效的Hessian近似算法。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号