
-
生物通官微
陪你抓住生命科技
跳动的脉搏
从确定性到贝叶斯:基于后验不确定性的预训练模型人机协同故障诊断方法
【字体: 大 中 小 】 时间:2025年08月01日 来源:Journal of Industrial Information Integration 11.6
编辑推荐:
本文创新性地提出了一种基于拉普拉斯近似(Laplace Approximation, LA)的后验不确定性(post-hoc uncertainty)方法,可将预训练确定性神经网络快速转换为贝叶斯神经网络(BNN),突破传统先验不确定性(ante-hoc)方法需调整模型结构、重复训练的局限。通过校准(calibration)和分布外(OOD)检测实验验证,该方法在保留模型性能的同时,构建了不确定性支持的人机协同(human-computer collaborative)故障诊断新范式,为解决智能诊断中的黑箱效应和问责机制缺陷提供了新思路。
Highlight
本研究主要创新与贡献如下:
• 提出基于不确定性支持的人机协同故障诊断新范式,突破传统单一模型驱动的诊断逻辑,缓解过度依赖智能模型带来的双重陷阱。
• 构建基于LA的后验不确定性方法,可将任意预训练确定性神经网络快速转为BNN,解决现有方法需调整模型结构(如变分推断VI)、重复训练(如深度集成)的痛点。据我们所知,这是机械故障诊断领域首个后验不确定性研究。
• 通过在域内和跨域场景下的校准与OOD检测实验,证明该方法的不确定性估计质量与先验方法相当甚至更优,为后续研究提供重要参考。
Laplace approximation
设数据集D={(xn,yn)}n=1N,L层神经网络fW的参数为W。基于LA理论,我们将后验分布p(W|D)近似为以最大后验估计(MAP)为中心的高斯分布,其协方差来自MAP估计负Hessian矩阵的逆。为降低计算复杂度,采用费雪信息矩阵(Fisher information matrix)层间分块对角化近似,虽忽略层间关联但保留了层内参数相互作用——这显著优于VI方法中参数完全独立的假设。
Proposed method
3.1节概述方法框架,3.2节详解如何通过LA后验不确定性将预训练网络转为BNN,3.4节描述算法实现。核心是通过ERM训练获得MAP估计后,仅需单次Hessian近似计算即可实现贝叶斯推断,避免传统BNN参数翻倍或深度集成的巨额计算成本。
Experimental setup
参考[32]采用两种评估指标:①校准性(calibration)——预测分布中softmax概率应反映真实正确率;②OOD检测能力——扩展至跨域场景验证方法对域偏移的鲁棒性。所有实验均对比先验方法(VI-BNN、深度集成)与其他后验方法。
Conclusion
LA后验不确定性方法成功构建了人机协同诊断范式,既克服了先验方法的结构调整与重复训练缺陷,又通过不确定性量化缓解了传统范式过度自信预测的风险。未来可探索该方法在工业大模型上的应用,并开发更高效的Hessian近似算法。
生物通微信公众号
知名企业招聘