面向工业设备健康监控的多模态自适应加权蒸馏

《Engineering Applications of Artificial Intelligence》：Multi-modal adaptive weighted distillation for industrial equipment health monitoring

　　

摘要

传统工业设备健康监控中的知识蒸馏面临三个关键瓶颈：异构模态的几何错位、难以承受的离线存储开销，以及静态参数与非平稳数据流的失配。本文提出了首个多模态自适应加权蒸馏（MAWD）框架，通过三项原创性贡献系统性地解决了这些局限性。首先，将异构振动和声发射特征映射到对称正定流形上，利用黎曼距离和Karcher均值实现超越欧氏空间的保几何跨模态对齐。其次，提出双层多教师协同机制，为特征提取分配模态专属教师，为关系知识融合分配跨模态教师，实现预测分布和中间表示的二级知识转移。第三，基于滑动窗口的在线自适应模块实时动态校准蒸馏温度和模态权重，消除了离线存储成本并缓解了由设备状态演变引起的知识漂移。三个案例研究实验表明，MAWD在工业数据集上的故障诊断准确率比最先进的多模态蒸馏方法高出7.4%，同时实现了68%的模型大小缩减、92%的存储开销降低、边缘设备上超过50%的能耗降低以及高达748%的推理吞吐量提升。消融研究验证了每个核心模块的独立和协同贡献，其中SPD流形对齐提供了超过13%的准确率提升。

引言

工业4.0将工业设备健康监控从被动维护转变为预测智能，提高了运营效率和安全性（Cao等，2023；Zhao等，2025）。这一转变依赖于传感器的大量普及，从而产生大量异构的多模态数据流。振动信号通过时频特征编码机械异常（Chen等，2025；Zhang等，2025），而声发射（AE）信号通过高频瞬态脉冲捕获微观结构变化（Hase等，2012）。这些模态的互补性使得跨模态知识的整合成为可能，以克服单一数据源的限制并实现更可靠的诊断。

然而，将多模态数据压缩为紧凑、高效的模型以进行实时部署仍然具有挑战性。现代知识蒸馏（KD）已超越基于固定温度Kullback–Leibler（KL）散度的传统单教师单学生框架，采用了整合多层次对齐、解耦或统一损失函数以及训练中自适应优化的新架构。

最近，Jin等（2023）提出了一种多层次logit蒸馏方法，该方法仅使用输出logit来约束实例级、批次级和类别级的相关性。这种策略使紧凑的学生模型能够在不访问中间教师特征的情况下达到与特征蒸馏相当的准确率。Zhao等（2022）提出的解耦蒸馏通过分离目标类与非目标类或动态融合硬标签与软标签来缓解暗知识的平均偏差；这两种方法被广泛采用为领域基线。为解决跨层和跨尺度知识转移中的失配问题，Cao等（2024）以及后续方法包括UniKD和WKD，为中间层和输出层构建了统一约束，并用Wasserstein距离等分布度量替换了KL散度（Lv等，2024）。这些进展使KD从独立的logit匹配转变为跨越整个网络的全局一致知识传播。

同时，工业设备健康监控也整合了上述技术。声振多模态融合诊断通常采用深度教师轻量级学生架构（Lei等，2020；Zhang等，2019a）。跨模态特征对齐、异构模态提取、KD和迁移学习减小了模型大小和推理延迟，促进了边缘部署、跨条件适应和跨设备泛化（Pennec等，2006）。典型方案将振动诊断知识转移到声发射学生网络，或将深度融合模型压缩为决策树以实现微秒级推理。

当前最先进的（SOTA）KD方法仍可提出三个关键瓶颈。

第一，工业模态的异构性挑战了传统KD。Hinton等（2015）提出的传统KD假设教师和学生之间的数据同质性，这一原则在图像分类（Xie等，2025）和自然语言处理（Deng等，2025）中有效。相比之下，工业数据存在于不同的特征空间：振动信号表现出时频混合特征，而AE数据由稀疏的脉冲序列组成（Shen等，2023；Song等，2023）。将这些不同的分布强制纳入单一"通用教师"网络——这在最近的多模态蒸馏方法中很常见（Li等，2022；Lu等，2025；Lopes等，2024）——会导致知识错位。在这种情况下，教师无法捕获其主要未训练的模态的内在模式，从而为学生提供次优或误导性的指导。

第二，离线蒸馏需要过多的存储，与工业实时需求相冲突。工业系统每天产生太字节的数据（Yu等，2025a）。传统KD预先训练大型教师并在学生训练前存储其中间表示（Salman等，2025）。这种方法存在存储成本高和知识过时的缺陷：一旦教师为新设备状态进行了微调，蒸馏的知识就会过时（Yadikar和Ubul，2023）。对于资源受限的工业物联网边缘设备，离线蒸馏是不可行的（Liu等，2025）。

第三，传统蒸馏参数是静态的，与工业数据流的动态性质不匹配。制造车间会经历电压波动、负载变化或环境噪声等突然扰动，导致模态间非平稳的质量变化（Sui等，2025）。然而，大多数蒸馏方案使用固定超参数和均匀的模态权重（Qi等，2025）。这种僵化是有问题的：固定的高温度可能会洗掉高质量模态的关键知识，而均匀加权会迫使暂时受损模态的知识干扰并降低学生学习（Shang等，2022）。

现有解决方案是不完整的。工业故障从根本上表现为信号协方差结构的系统性偏移。然而，传统的欧氏运算只能捕获线性统计特征，无法有效衡量分布级差异。在线蒸馏（Tzelepi等，2021；Qian等，2022）缓解了存储成本，但专为单模态任务设计，缺乏跨模态对齐机制。多模态融合技术（Ahmad等，2021；Lee等，2020）在特征级集成方面表现出色，但忽略了知识级转移。它们产生的复杂模型不适合边缘部署（G?k?e和Andi?-?ak?r，2020；Boros和Dumitrescu，2015）。缺乏一个统一框架来同时解决多模态异构性、实时效率和动态质量适应问题。总之，没有现有框架能同时解决异构特征对齐、实时存储效率和动态参数适应问题。

为弥合这一关键差距，本文提出了一种新颖的多模态自适应加权蒸馏（MAWD）框架。该框架首先将异构振动和声发射特征投影到对称正定流形上，并采用黎曼距离和Karcher均值实现超越传统欧氏空间约束的保几何跨模态对齐。它整合了双层多教师协同架构，将模态特定教师用于单独特征提取，跨模态教师用于关系知识融合，从而实现预测分布和中间表示的层次化知识转移。配备了基于滑动窗口的在线自适应（OA）策略，该框架进一步实时动态校准蒸馏温度和模态权重，消除了离线存储成本，并有效抑制了由时变设备状态引起的知识漂移。

如表1所示，MAWD通过整合SPD流形对齐、多教师蒸馏和OA来填补这些差距，为边缘部署产生了轻量级、高保真的诊断模型。

我们的主要贡献有三方面：

●基于SPD流形的特征对齐：与扭曲工业信号协方差结构的欧氏对齐不同，我们将振动和AE特征映射到统一的SPD流形上，保持其内在几何以实现一致的跨模态转移。

●多教师协同蒸馏：超越独立训练-后期融合范式，我们引入跨模态教师来捕获模态间关系，在统一几何空间下实现二级知识转移。

●在线自适应知识机制：替代静态加权，我们提出了一种基于滑动窗口的机制，动态调整模态权重和蒸馏温度，消除了离线存储成本并缓解了知识漂移。

本文的组织结构如下。第2节回顾相关工作。第3节描述MAWD架构。第4节呈现案例研究和讨论以验证方法。第5节总结。

相关工作片段

多模态学习

多模态学习整合来自多个模态的信息以提高性能（Gandhi等，2023；Yuan等，2025）。传统方法分为早期融合和后期融合类别，两种融合策略如图1所示。早期融合，例如特征拼接（Li等，2021）或加权特征融合（Xiao等，2025），在输入层拼接特征但忽视了模态间异构性，导致冗余和噪声。后期融合处理...

方法论

本节介绍MAWD框架，包括其方法论和算法细节。它整合了SPD流形对齐、多教师协同蒸馏和在线自适应（OA）机制，以解决上述局限性。图3展示了MAWD框架，为工业设备健康监控提供了一种实用的多模态KD方法。

实验研究

本节呈现实验以评估MAWD框架的计算性能。目标包括性能验证、比较分析、消融研究、泛化能力和实时性能。实验设计涵盖五个维度：

●数据集维度：结合合成数据和真实工业数据，分别在受控和真实场景中验证算法。

●比较方法维度：包括传统方法、深度学习方法以及...

结论

设备健康监控的演变正从单模态转向多模态智能方法。传统KD方法在工业多模态场景中固有的局限性：它们假设教师和学生之间的数据分布相同，依赖离线预训练和中间特征存储，并采用固定的模态权重和蒸馏温度。本文提出的MAWD框架通过SPD流形对齐异构模态特征空间...

CRediT作者贡献声明

Hu Yu：写作—审阅与编辑，写作—初稿，可视化，验证，监督，资源，项目管理，方法论，调查，资金获取，正式分析，数据管理，概念化。Weiping Yan：写作—审阅与编辑，监督，资源，方法论，调查，正式分析，数据管理。Li Liu：写作—审阅与编辑，监督，资源，项目管理，方法论，调查，正式分析，数据...

利益冲突声明

作者声明他们没有已知的竞争经济利益或个人关系可能影响本文中报告的工作。

致谢

本工作得到了国家自然科学基金（项目编号51675060）、国防科技基础研究项目特别资金（项目编号JSZL2022110A）和江苏省研究生科研与实践创新计划（KYCX25_0598）的支持。

Hu Yu|Weiping Yan|Li Liu|Qizhi Wan|Wenzheng Liu|Wenguang Zhou|Zhao Zhang|Rupeng Zhu|Weifang Chen