基于TreeSHAP引导的随机森林迭代压缩方法用于可解释边缘故障检测与失效模式分类

《Electronics》：TreeSHAP-Guided Iterative Compression of Random Forests for Interpretable Edge Fault Detection and Failure-Mode Classification

　　

摘要 面向边缘部署的工业故障检测机器学习系统面临两项实际约束：边缘设备上有限的计算与内存资源，以及对透明、可解释决策支持的需求。随机森林（Random Forest）等树集成模型在工业表格数据上表现优异，但其规模阻碍了边缘部署，且现有压缩方法往往以牺牲可靠的概率排序为代价换取紧凑性。本研究设计了一种TreeSHAP引导的随机森林分类器迭代压缩框架，利用精确Shapley值驱动闭环中的序贯特征消除与重训练。在AI4I 2020与SECOM基准上，该压缩策略与两种节点提取启发式方法及多种替代特征选择方法在统一协议下进行了比较。结果表明，组合策略在保持排序质量的同时显著减小了模型规模，且基于TreeSHAP的特征选择相较于统计类与无监督类替代方法实现了更优的精度-紧凑性权衡；该框架还扩展至多类失效模式分类及外部高维数据集。在树莓派4（Raspberry Pi 4）与Jetson Nano上的边缘推理延迟通过桌面测量的时钟频率缩放进行估计；估计结果表明可实现毫秒级便携推理且存储占用可忽略不计，为边缘故障检测提供了一种轻量级且可解释的方案。

论文解读

一、研究背景与问题

现代制造业正经历以工业4.0范式为核心的数字化转型，数百个联网传感器持续从生产设备流式传输运行数据，为数据驱动的决策创造了机遇。其中最具价值的应用之一是自动化故障检测与状态监测，通过当前传感器读数识别设备异常与失效模式，从而支持维护决策并减少计划外停机。行业报告估计，计划外停机每年给制造商造成约500亿美元的损失，而预测性维护相比传统策略可降低维护成本25–30%、减少故障70–75%。

尽管机器学习在工业故障检测领域取得了显著进展，两个持续存在的挑战阻碍了广泛的边缘部署。第一个挑战关乎计算效率：许多高性能模型（如梯度提升集成、深度神经网络及混合架构）计算开销大，不适合工厂环境中普遍存在的资源受限边缘设备。第二个挑战涉及可解释性：工业操作员和维护工程师需要透明的决策支持而非不透明的黑箱预测，他们不仅需要知道预测了故障，还需要理解模型为何得出该结论，以便适当采取行动。

现有研究存在明显空白：多数研究将模型轻量化与可解释性视为两个独立步骤，很少有研究构建由可解释性信号驱动的压缩闭环，或将该类策略与节点提取压缩方法进行比较，并在多个数据集和边缘平台上验证部署可行性。

二、研究内容与意义

针对上述空白，研究人员提出了一种TreeSHAP引导的随机森林分类器迭代压缩框架，将可解释性反馈整合到模型轻量化流程中，用于可解释的边缘故障检测与失效模式分类。该框架的核心创新在于：可解释性不是附加在训练模型之后的后续分析模块，而是主动参与模型压缩决策的组成部分。具体而言，可解释性阶段计算的SHAP重要性分数同时驱动一次性特征选择与迭代压缩循环，在可解释性与效率之间建立了闭环反馈机制。

研究的主要贡献包括：对八种机器学习模型在随机化超参数调优和5折分层交叉验证下进行系统基准测试，并严格将SMOTE-Tomek重采样限制在训练折内以消除重采样数据泄漏；设计了可解释性引导的迭代压缩循环，通过TreeSHAP反馈驱动逐次特征消除与重训练，并采用基于验证集的非劣效性停止规则自动选择工作点；将所提压缩策略与两种节点提取启发式方法（受MicroForest和Splitting Stump Forest启发）进行头对头比较，并与Gini重要性、互信息、PCA、递归特征消除、置换重要性和稳定性选择等替代特征选择方法进行消融研究；在两个公开数据集（AI4I 2020和SECOM）及两种任务设置（二分类故障检测和六类失效模式分类）上进行评估；在树莓派4和NVIDIA Jetson Nano上进行边缘部署可行性研究。

三、关键技术方法

研究人员使用了以下主要技术方法：TreeSHAP精确可解释性分析（基于合作博弈论计算精确Shapley值）；SMOTE-Tomek重采样技术（合成少数类过采样结合Tomek链接清洗）；随机森林（Random Forest）模型及其结构剪枝与特征空间缩减策略；迭代压缩循环算法（Algorithm 1，交替执行模型训练、验证集评估、SHAP重要性计算与最不重要特征消除）；节点提取启发式方法（MicroForest风格与Splitting-Stump-Forest风格）；时钟频率缩放的边缘延迟估计方法。数据集来源包括AI4I 2020铣床预测性维护数据集（10,000个样本，6个传感器特征，3.4%故障率）和SECOM半导体制造数据集（1,567个晶圆样本，590个过程传感器信号，6.64%故障率）。

四、研究结果

多模型性能比较。 八种调优模型在AI4I 2020测试集上的比较显示，LightGBM取得最高F1分数0.727和最高精确率0.651，XGBoost紧随其后（F1=0.722）并取得最佳AUC-ROC 0.984，随机森林达到F1=0.671和AUC-ROC=0.981。三种树集成方法一致性地大幅优于所有非集成方法。单棵决策树F1仅为0.540，支持向量机为0.487，K近邻为0.462，逻辑回归尽管召回率最高（0.882）但F1仅0.303。该结果表明，对于混合数值与类别特征的工业表格传感器数据，精心调优的树集成仍难以被超越，且在类别不平衡下集成与单模型之间的性能差距显著扩大。

随机森林轻量化分析。 调优基线随机森林（200棵树，深度15）占用7789 KB，桌面单样本推理耗时27.1 ms。深度剪枝策略（S1）将模型缩小11.1倍至702 KB，但F1从0.671降至0.567。SHAP驱动特征选择（S2）实现10.2倍压缩至761 KB，F1为0.591。组合策略（S3：前5个SHAP特征、30棵树、深度6）实现最激进的36.5倍压缩（7789 KB至214 KB），F1为0.506，但AUC-ROC 0.975仍保持在基线（0.981）的0.006以内，单样本推理时间从27.1 ms降至16.0 ms。混淆矩阵分析显示，压缩改变了分类器的工作点而非均匀退化：组合变体检测到更多故障（63/68 vs. 57/68）但以精确率下降为代价。校准分析表明，组合变体Brier分数0.038、ECE 0.090，存在适度过度自信，与阈值偏移一致。跨十次随机重划分的鲁棒性分析确认AUC-ROC结论稳定，而F1分数因测试集仅含68个故障样本而波动较大。

特征选择与剪枝消融。 在相同下游配置下比较SHAP、Gini、互信息（MI）、PCA、递归特征消除（RFE）、置换重要性和稳定性选择。SHAP与Gini选择相同的五个特征并取得相同分数（F1=0.591，AUC=0.979）。RFE和稳定性选择独立识别出相同的替代特征集，取得所有选择器中最高F1 0.739（AUC 0.986）。置换重要性F1为0.500，MI选择F1仅0.316，PCA压缩F1为0.516。该结果表明SHAP选择并未在所有选择器中最大化F1，其作用在于将选择标准与精确逐实例解释耦合在同一机制中。

可解释性引导迭代压缩循环。 迭代循环在验证集上的F1保持在0.59–0.68范围内，直到四特征步骤验证F1从0.634骤降至0.323，触发停止规则。循环返回六特征集合{转速、扭矩、刀具磨损、温差、功率、磨损-扭矩乘积}，重训练后测试F1为0.592，AUC-ROC 0.985，大小677 KB。与一次性top-k选择相比，循环在五特征和四特征处出现分歧，表明循环不保证优于一次性选择的特征排序，其经过验证的贡献在于停止规则，无需事后目视检查即可自动选择工作点。

多类失效模式分类与SECOM验证。 六类失效模式分类中，压缩变体使用前五个SHAP特征和30棵树深度6，性能以宏平均F1和宏平均one-vs-rest AUC-ROC衡量。在SECOM高维数据集上，基线随机森林（100棵树，深度10）在269个预处理特征上训练，压缩变体限制为前10、20、50个SHAP特征及组合变体，迭代循环在90/10训练/验证划分上执行，验证F1记录于每一步。

边缘部署可行性。 组合变体在树莓派4和Jetson Nano上的估计推理延迟为毫秒级，存储占用可忽略不计。ONNX Runtime加速路径进一步降低延迟，为边缘部署提供了便携Python和编译运行时两种选择。

五、讨论与结论

讨论部分指出，组合策略位于压缩曲线的膝点位置：保留基线AUC-ROC的99.4%而仅消耗2.7%的存储空间。压缩主要改变分类器的工作点而非均匀退化性能，这种偏移可通过成本敏感阈值调整加以管理。校准分析揭示了SMOTE-Tomek训练导致的先验偏移问题，模型在平衡患病率下训练因而在自然3.4%患病率下系统性高估故障概率，验证集选择的阈值可在实际使用中补偿该偏差。特征选择消融表明SHAP选择与RFE和稳定性选择识别的替代特征集仅在一个特征上不同（刀具磨损vs.磨损-扭矩乘积），说明该特征对排序对训练划分敏感。

研究结论为：TreeSHAP引导的迭代压缩框架能够在保持排序质量的同时显著减小随机森林模型规模，为边缘故障检测提供轻量级且可解释的解决方案。基于TreeSHAP的特征选择在精度-紧凑性权衡上优于统计类和无监督类替代方法。组合压缩策略在36.5倍压缩下保持AUC-ROC在基线的0.006以内，边缘推理延迟估计为毫秒级且存储占用可忽略。该框架验证了可解释性信号可主动驱动模型轻量化决策，而非仅作为事后分析模块，为边缘智能工业监测提供了实用的方法学参考。