综述：工业故障诊断中的可解释人工智能：系统性综述

这篇综述全面探讨了可解释人工智能（XAI）在工业故障检测与诊断中的应用，系统分析了XAI方法（如SHAP、Grad-CAM）的分类框架、解释生成机制及评估策略，并指出当前以特征归因为主的零阶解释与工业5.0人本需求间的差距，为构建可信、可审计的工业AI系统提供了研究方向和挑战。

　　

工业故障诊断中的可解释人工智能：系统性综述

引言

随着工业4.0和5.0的推进，人工智能（AI）与机器学习（ML）在工业故障检测与诊断中的应用日益广泛。然而，传统"黑箱"模型的不可解释性阻碍了其实际部署。欧盟《人工智能法案》等法规的出台，进一步要求高风险工业AI系统具备透明度和可审计性。可解释人工智能（XAI）通过生成人类可理解的解释，成为解决这一问题的关键。

理论基础与分类框架

XAI的核心在于提供模型决策的可解释性（interpretability）和可审计性（auditability）。现有方法可分为：

1. 透明模型：如决策树（DT）、线性回归，通过结构本身提供解释；
2. 后解释方法：包括SHAP（基于博弈论）、Grad-CAM（梯度加权类激活映射）等特征归因技术。

提出的新分类法从四个维度划分XAI：

• 通用性：模型无关（如LIME）与模型特定（如LRP）；
• 解释范围：局部（单样本）与全局（全数据集）；
• 输出形式：图像热力图、表格特征权重、文本规则；
• 方法论：特征归因（占主流）、反事实解释、规则提取等。

工业应用现状

分析33篇文献显示，XAI主要应用于四大领域：

1. 设备监测（如轴承故障诊断）：SHAP结合1D-CNN分析振动信号特征；
2. 流程控制（化工过程）：LRP迭代修剪模型输入提升可解释性；
3. 产品质检（医药胶囊缺陷检测）：Grad-CAM定位图像缺陷区域；
4. 网络安全（IIoT入侵检测）：Shapley值识别异常流量特征。

关键发现：

• 93.9%研究采用特征归因方法，SHAP使用频率最高（13篇）；
• 84.8%依赖图形化输出（如热力图、聚类图），但仅21.7%适合非专家操作员；
• 仅2项研究整合领域专家反馈验证解释有效性。

挑战与未来方向

1. 性能-可解释性权衡：深度学习模型（如Transformer）需开发内在解释机制；
2. 多模态解释：结合特征权重（表格）、注意力图（视觉）和自然语言描述；
3. 合规性设计：满足EU AI Act对高透明度（如Article 13）和人工监督的要求；
4. 评估标准化：需建立兼顾定量指标（如规则覆盖率）与用户体验的框架。

结论

当前工业XAI仍以零阶特征解释为主，与高阶人类推理存在断层。未来需发展人本中心的解释系统，通过混合方法（如贝叶斯网络+反事实生成）和全流程解释集成，推动工业AI从"黑箱"到"玻璃箱"的演进。