一种基于深度学习的强大模型，用于在临床环境中对心音图信号进行去噪处理

《Engineering Applications of Artificial Intelligence》：A robust deep learning based model for denoising phonocardiogram signals in clinical environments

本文提出基于证据理论与Swin-Transformer的Eviformer模型，用于机械故障诊断中的不确定性量化。通过构建Dirichlet分布投影和约束损失函数，有效处理分布外故障、噪声干扰及变转速场景，提升维护决策可靠性。

　　在现代工业生产和维护过程中，机械设备的故障诊断是一项至关重要的任务，它不仅关系到生产效率，也直接影响到设备运行的安全性。随着人工智能技术的迅速发展，深度学习方法在智能故障诊断领域得到了广泛应用。这些方法能够自动提取复杂数据中的特征，从而显著提高故障诊断的准确性。然而，现有的深度学习模型在面对不确定或不可预测的信号时，往往难以准确评估其诊断结果的不确定性，这在一定程度上限制了模型在应对突发情况时的能力。

为了解决这一问题，本研究提出了一种基于深度证据学习的改进型Transformer模型——Eviformer。该模型首先采用基于Swin-Transformer（ST）的分布投影器，保留了ST在振动信号特征提取方面的优势，同时将这些信号直接投影到带有二阶概率的Dirichlet分布中。此外，通过引入新的证据修正项和约束因子，重构了证据约束损失函数，从而实现了更精确的不确定性量化。使用齿轮-轴承振动数据集进行实验，研究在多种场景下进行了对比测试，包括分布外的齿轮故障、未监测部件的故障、噪声干扰以及变速条件等。实验结果表明，该方法能够在遇到与训练集分布显著不同的振动信号时，迅速发出基于不确定性的预警，从而为维护决策提供重要的支持。

近年来，Transformer模型因其强大的自注意力机制，在机械振动信号的时序分析中表现出色。这种模型能够捕捉长距离依赖关系，因此在智能故障诊断领域受到广泛关注。例如，在2022年，Chen等人提出了一种增强型视觉Transformer，用于处理不平衡数据集的编码过程，提高了编码器在长尾分布的轴承数据集中的分类能力。在2022年，Fang等人开发了一种轻量级Transformer模型，通过结合卷积嵌入和线性自注意力机制，在样本有限的情况下实现了高精度的轴承故障诊断。在2023年，Sun等人提出了一种轻量级Transformer模型，通过卷积操作替代多个注意力链接，大幅降低了模型的空间复杂度，同时提高了轴承和齿轮故障诊断的准确性。在2024年，Yan等人开发了一种广播自注意力模块，通过减少大量网络参数，实现了行星齿轮箱和轴承的轻量化故障诊断，同时考虑了工业现场的硬件条件。

为了应对更加实际的场景，学者们进一步将先进的深度学习方法应用于更复杂的诊断任务。例如，在2022年，Shao等人将自注意力机制引入子域自适应网络的特征提取模块，以减少变速场景与恒速场景之间的信号特征差异，实现了跨域故障诊断。在2024年，Lu等人提出了一种对比编码框架，有效识别开放集故障诊断中的未知故障类别。在2024年，Li等人同时利用卷积神经网络的局部特征提取能力和Transformer的全局特征提取能力，构建了一种具有多分支交叉级联结构的网络，从而在噪声环境下高效完成轴承的故障诊断。

尽管已有研究在一定程度上提升了故障诊断的性能，但仍存在一些挑战。首先，现有的深度学习方法通常仅进行点估计，输出固定概率值，忽略了诊断过程中的不确定性。因此，这些“端到端”的深度学习架构（Ren et al., 2024; Cai et al., 2024）在工业应用中难以获得足够的信任。其次，实际工业运行条件下的信号，如变速或噪声增加，往往具有复杂多样的特征。当前的研究方法通常缺乏有效的方法，以持续捕捉这些变化的信号成分。第三，由于训练数据有限，很难在所有可能的场景下模拟数据分布。在测试过程中，模型可能会将新出现的故障类型或未被传感器监测的部件故障误判为训练数据集中的已知故障类型。

随着智能故障诊断系统在安全关键和高成本工业环境中的广泛应用，模型不仅要能够识别已知的故障类型，还必须能够有效应对意外或未见过的条件。一个能够在遇到不确定或分布外数据时发出可靠警报的诊断系统，对于预防设备故障和减少停机时间具有重要价值。因此，除了高分类准确率之外，不确定性量化的能力正在成为深度学习在实际维护操作中被采用的关键要求。本研究正是基于这一需求，提出了一种将故障识别与不确定性估计相结合的统一框架，以实现更加可信和主动的决策过程。

Eviformer模型的提出，旨在解决深度学习在故障诊断中面临的不确定性问题。该模型利用证据学习方法，生成代表二阶概率的Dirichlet分布，从而计算诊断结果及其对应的不确定性值。对于无法直接诊断的故障，模型通过提高不确定性值发出预警，促使人工干预。这种方法不仅提升了诊断效率，也通过有效的警报机制增强了安全性，从而实现更加明智的维护决策。本研究的主要创新点包括以下几个方面：

首先，将基于证据理论的不确定性计算方法整合到最新的Swin-Transformer模型中，通过结构上的改进，使模型能够直接将信号投影到具有二阶概率的Dirichlet分布中。同时，保留了Swin-Transformer在复杂信号特征提取方面的强大能力，使该增强模型不仅能够输出诊断结果，还能够提供量化的不确定性值。

其次，通过引入两个新的证据修正项和一个约束因子，重构了证据约束损失函数。这种配置有助于快速收敛均方误差（MSE）损失函数，并实现对不确定性的更精确评估。该方法在训练过程中提高了模型对不同信号特征的适应能力，从而增强了其在实际应用中的鲁棒性。

最后，在涉及未知故障类型、未监测部件的故障、噪声干扰或变工况条件的实际诊断场景中，通过统一的不确定性预警系统，有效地引导人工干预。该系统能够在不同情况下提供一致的不确定性评估，帮助维护人员及时采取措施，避免潜在的故障风险。

本文的结构安排如下：第二部分介绍了相关的证据理论基础。第三部分详细阐述了所提出的Eviformer方法。第四部分通过多种验证场景评估了该方法的有效性，包括分布外的齿轮故障、未监测部件的故障、噪声干扰以及变速条件等，这些场景紧密反映了实际的工业诊断环境。

在证据理论的框架下，故障诊断问题可以被视为一个具有K个分类的诊断任务。给定一个输入样本x_i，目标是获得每个类别的预测后验概率，即p = [p^(1), p^(2), ..., p^(K)] ∈ ?^(1×K)。此外，每个类别标签对应的预测概率p^(k)还会被赋予一个非负的信念质量b^(k)。在K个互斥类别标签的框架下，定义了一个整体的不确定性u，该不确定性能够反映模型对诊断结果的不确定程度。

分布投影器是Eviformer模型的核心组成部分之一。该模块的作用是将输入的信号投影到一个带有二阶概率的Dirichlet分布中。在数据集中，S = {x_i, y_i}，其中N是样本总数，每个样本x_i ∈ ?^(1×len)是一个一维振动信号片段，长度为len个点，y_i是该样本的健康状态类别标签。如图2所示，经过传统的深度学习网络f(θ)（称为概率映射器，参数为θ）处理后，可以获得每个类别的预测概率p_i = [p_i^(1), p_i^(2), ..., p_i^(K)] ∈ ?^(1×K)。这种处理方式本质上是一种点估计方法，即对每个类别输出一个固定概率值，忽略了模型对未知情况的不确定性评估。

为了克服这一局限，Eviformer模型引入了分布投影器，将传统的点估计方法扩展为能够反映信号分布不确定性的方法。该投影器不仅保留了Swin-Transformer在复杂信号特征提取方面的优势，还能够将信号直接投影到带有二阶概率的Dirichlet分布中，从而实现对诊断结果的不确定性量化。这种扩展方法能够使模型在面对未知或分布外的信号时，及时发出基于不确定性的预警，提高维护决策的可靠性。

在数据描述部分，实验设置如图9所示，通过故障模拟平台收集了不同轴承健康状态下螺旋齿轮的信号。在平行齿轮箱上安装了一个传感器，用于测量水平振动加速度，采样频率为16 kHz。在不同的实验场景中，如理想条件下的准确率测试、噪声场景下的不确定性测试以及变速场景下的不确定性测试，对Eviformer模型进行了验证。这些实验场景涵盖了实际工业诊断环境中常见的各种情况，为模型的性能评估提供了真实的数据支持。

在结论部分，本研究提出了一种基于深度证据学习的Eviformer模型，该模型能够有效解决深度学习在不同场景下的不确定性问题。通过将Swin-Transformer的特征提取能力与证据约束损失相结合，模型能够实现对诊断结果的不确定性量化。实验结果表明，该方法在各种场景下均表现出色，能够准确识别分布外的齿轮故障，并在未监测部件的故障、噪声干扰以及变速条件下提供有效的不确定性评估。这一研究为工业环境中的智能故障诊断提供了新的思路，有助于提高维护决策的准确性和可靠性。

Eviformer模型的提出，不仅提升了故障诊断的性能，还增强了模型在面对未知情况时的适应能力。通过引入证据理论，该模型能够在诊断过程中提供更精确的不确定性评估，使维护人员能够更加全面地了解设备的运行状态。此外，该模型在实际应用中表现出良好的鲁棒性，能够适应不同的信号特征和环境条件，从而为工业现场的故障诊断提供可靠的支持。

在作者贡献部分，Jingjie Luo负责撰写原始稿件、方法论、形式分析、数据管理和概念化。Fucai Li负责撰写和编辑、监督、项目管理以及概念化。Xiaolei Xu负责撰写和编辑以及验证。Wenqiang Zhao负责项目管理和资金获取。Dongqing Zhang负责项目管理和资金获取。

在竞争利益声明部分，作者声明他们没有已知的财务利益或个人关系，可能会影响本文所报告的研究工作。

在致谢部分，本文得到了国家电网公司科技项目的资助。

综上所述，Eviformer模型的提出为工业环境中的智能故障诊断提供了新的解决方案。通过将深度证据学习与Swin-Transformer模型相结合，该模型能够在不同场景下实现对诊断结果的不确定性量化，从而提高维护决策的准确性和可靠性。在未来的研究中，可以进一步探索该模型在更多复杂场景下的应用，如多类型故障的识别、实时诊断的优化以及与其他传感器数据的融合等。这些研究将有助于推动智能故障诊断技术在工业领域的进一步发展和应用。