基于振动信号的复合维度放大图像和视觉Transformer的GIS机械故障分类方法
徐苏、
贾斌、
刘毅、
王飞、
胡晓宝、
马明、
杨玉龙、
王京刚
《Electronics》:GIS Mechanical Fault Classification Method Based on Composite Dimensionally Upscaled Images of Vibration Signals and Vision Transformer
Su Xu,
Bin Jia,
Yi Liu,
Fei Wang,
Xiaobao Hu,
Ming Ma,
Yulong Yang and
Jingang Wang
【字体:
大
中
小
】
时间:2026年05月02日
来源:Electronics 2.6
编辑推荐:
摘要 为了解决在复杂运行条件下从气体绝缘开关设备(GIS)中提取机械故障特征的挑战,以及传统一维时间序列信号诊断精度不足的问题,本文提出了一种基于振动信号复合维度上采样图像和Vision Transformer(ViT)算法的GIS故障分类方法。该方法首先
摘要 为了解决在复杂运行条件下从气体绝缘开关设备(GIS)中提取机械故障特征的挑战,以及传统一维时间序列信号诊断精度不足的问题,本文提出了一种基于振动信号复合维度上采样图像和Vision Transformer(ViT)算法的GIS故障分类方法。该方法首先采用滑动窗口切片策略将原始长序列振动信号分割成多个重叠的时间段。然后,利用Gramian角和场(GASF)、Gramian角差场(GADF)和Markov转移场(MTF)对这些分割后的信号进行复合维度上采样,将得到的特征投影到三通道RGB复合二维图像中。随后,Vision Transformer(ViT)的全局自注意力机制处理这些维度上采样的数据,以实现GIS设备的故障分类。实验结果表明,与单通道ViT变体、卷积神经网络(CNN)和残差网络(ResNet)相比,所提出的算法在训练集实验中取得了最高的整体性能,并且通过消融研究和对比实验验证了该方法的优越性。此外,该算法在测试集上的平均准确率达到了95.63%,证明了其可靠性和准确性。
1. 引言
作为电力系统的核心控制和保护单元,气体绝缘开关设备(GIS)的运行稳定性直接关系到电网的安全[1]。相关统计数据显示,GIS内部的故障几乎完全由机械缺陷引起,例如内部异物、接触不良和屏蔽盖松动[2]。由于GIS振动信号包含了丰富的设备机械状态信息,通过非接触式振动监测可靠地识别其运行状态已成为当前电力系统运行和维护领域的重要方法。为了有效评估GIS的运行状态,早期学者主要关注振动信号的统计和频域特征,并提出了一系列解决方案。Zhu等人[3]通过将振动信号的时间域短时能量与变分模态分解后的频域边缘谱能量融合,建立了一个特征集来表征开关设备的机械状态;针对GIS接触状态的恶化,Cao等人[4]提出使用振动信号的Hilbert边缘谱能量熵作为特征量,有效区分了不同的电气接触状态。然而,上述大多数方法依赖于手动建立数学模型,试图提取能够有效表示设备状态变化的特征参数。尽管传统的信号处理技术,如快速傅里叶变换和短时傅里叶变换,对于具有单一运行模式的最简单振动信号具有良好的提取性能,但在复杂变电站运行条件下,对于非周期性、非平稳信号以及强烈瞬态影响的信号,它们的特征提取效果通常会显著降低[5]。此外,这些方法高度依赖于专家的先验知识,不利于大量监测数据的智能处理和泛化应用。
随着人工智能学习技术的发展,神经网络具备了适应性地挖掘状态数据背后的深层特征并形成模型的能力,从而实现运行状态的识别[6]。因此,相关学者开展了结合原始数据和神经网络分析GIS故障的研究。Zhong等人[7]提出了一种用于几何机械缺陷的特征提取和分类方法,该方法结合了独立本征模函数(IIMF)分析和改进的多核映射快速多类相关向量机。实验表明,该方法在小样本量和强背景噪声干扰条件下能够准确分类设备状态。在Zhong等人的另一篇文章[8]中,他们提出使用振动信号和改进的Squeeze Net一维卷积神经网络对GIS机械缺陷进行诊断和状态评估。这种方法代表了一种专为GIS机械故障诊断设计的高级一维卷积方法,可以实现相对准确的故障分类。然而,基于传统深度学习的上述方法仍然存在显著缺点。在处理高采样率的长时间序列数据时,一维网络的训练收敛困难且计算效率低。此外,很难确保时间序列相关性的完全保留,这容易导致信号相位特征的丢失,从而降低GIS故障的识别准确性。
为了解决上述问题,研究人员提高了原始数据的维度以获取更多特征,随后将其与神经网络算法结合进行分析和研究上采样的信号。Wang等人[9]提出了一种基于GAF的数据维度上采样方法。该方法创新地将一维时间序列映射到极坐标系中,并将其转换为二维图像;在实现高阶空间表示的同时,完全保留了原始序列的时域动态特性。近年来,这项技术已在机械故障诊断领域得到广泛应用。Tong等人[10]证明GAF与深度残差网络结合可以非常有效地提取复杂机械缺陷的特征。Nilim等人[11]指出,MTF通过编码信号区间之间的转移概率,可以出色地表征非平稳信号的统计转移动态。然而,现有的单维度上采样方法,包括基于Gramian角场或Markov转移场的方法,存在三个根本限制。首先,它们依赖于不完整和正交的物理先验,特别是时间连续性和统计转移模式之间的互斥性;其次,对随机噪声和瞬态影响干扰的鲁棒性不足;第三,得到的单通道灰度图像的信息密度低,这特别限制了全局注意力机制(如Vision Transformer)的有效性。
为了克服这些限制,本文提出了一种复合维度上采样策略。具体来说,通过将Gramian角和场映射到红色通道,Gramian角差场映射到绿色通道,Markov转移场映射到蓝色通道,构建了一个三通道RGB图像。这种设计使得正交物理先验的互补整合成为可能,提供了信息冗余以减轻噪声的影响,并产生了高密度的故障特征表示,充分利用了ViT的全局自注意力机制。这些贡献构成了本工作的核心新颖性。值得注意的是,将一维时间序列信号转换为更高维度表示,然后应用强大的序列模型的方法论范式最近在多个领域受到了广泛关注。例如,Xie等人[12]提出了MARU-MTL算法用于连续血压估计。通过将原始一维雷达脉冲波(RPW)信号转换为更高维度的特征表示,他们的研究有效解决了RPW信号对运动伪影、呼吸干扰和环境杂波的固有敏感性问题。这一成功应用进一步验证了我们工作中采用的策略的广泛适用性。
首先,本文创新性地基于GASF、GADF和MTF构建了一个异构特征复合图像。通过利用三个RGB通道,它实现了物理连续性、瞬态影响变化和全局演化概率的多视图特征融合,从根本上解决了单上采样算法处理复杂干扰时信息遗漏的问题。具体而言,这种表示的根本新颖性在于它能够将异构特征域映射到一个统一的多维张量中。通过合成这些不同的域,复合图像的空间坐标和颜色梯度赋予了特定的、互补的物理意义,使得模型的特征密度显著高于任何单通道成像方法。其次,针对复合高阶图像的特征提取需求,本文引入了Dosovitskiy等人[13]提出的Vision Transformer。与传统的CNN局部感受野不同,ViT依靠其核心的自注意力机制,可以实现全局长距离依赖性的感知[14,15,16]。因此,它可以从复合特征图中准确提取GIS设备的深层故障演化模式,其准确率远超过传统的卷积神经网络架构,从而使状态分类更加准确,并解决了单维网络训练收敛困难和准确率低的问题。
2. GIS振动信号的复合维度上采样和ViT算法构建
本文提出的故障诊断方法通过四个核心组件开发,具体研究步骤如图1所示。图1. 整体研究框架示意图。首先,为了解决GIS振动信号的非平稳特性,采用滑动窗口和切片算法结合Markov转移矩阵将原始振动信号上采样为二维图像。其次,为了克服Markov转移矩阵的缺点——即振幅相关性减弱和时间锚定不牢固——分别应用GASF、GADF和MTF来改进原始上采样信号。这些信号融合生成RGB复合维度上采样图像,从而构建了一个包含四种状态类别的图像分类数据集:内部异物、接触不良、正常状态和屏蔽盖松动。最后,将RGB复合图像输入到Vision Transformer网络中,通过图像拼接、位置编码和多层Transformer编码器进行全局自注意力建模。然后通过分类层输出故障诊断结果,并使用混淆矩阵和准确率等评估指标验证所提方法的有效性。
2.1. GIS振动数据的复合维度上采样算法和数据集构建
为了获取GIS振动实验数据并建立复合维度上采样图像数据集,图2显示了构建的GIS振动信号采集平台的示意图。图2. 在相同条件下振动信号采集的示意图。根据图中所示的GIS设备的三种模拟机械缺陷,使用高精度激光多普勒振动仪和数据采集系统完成了GIS设备在四种不同运行状态下的振动信号采集。采样频率设置为20 kHz,以确保完全采集高频振动信号。图2. 在相同条件下振动信号采集的示意图。为了充分提取长序列振动信号中的局部故障特征,采用了窗口长度为2048点、步长为512点的窗口滑动分割策略。选择这些参数的理由如下:采样频率为20 kHz时,2048点的窗口长度对应大约0.1秒的时间持续期,足以捕获主导振动频率的至少一个完整周期,并包含由屏蔽盖松动或异物等机械缺陷引起的瞬态影响事件。此外,2048是一个2的幂次,确保了任何潜在频域分析的计算效率。512点的步长使得相邻窗口之间的重叠率为75%,确保不会错过位于窗口边界附近的瞬态故障特征,并在连续样本之间提供平滑的特征过渡。此外,这种重叠策略通过从原始信号生成多个重叠段,有效增强了数据集的鲁棒性,而不会引入冗余信息。这将采集到的振动加速度信号分解为多个重叠的时间段,确保无论故障特征在信号中的位置如何都能被有效捕获。图3显示了原始振动数据和滑动窗口后的振动信号频谱。正常状态、内部异物、接触不良和屏蔽盖松动下的GIS的基本频率能量带特征存在交叉重叠,这可能导致误判。图3. 原始振动数据和振动信号频谱。此外,原始GIS振动信号具有典型的非平稳和瞬态影响特性。传统的快速傅里叶变换(FFT)在处理此类信号时存在缺陷,如丢失时域信息、对非平稳性的适应性差以及特征稀释。
2.1.1.马尔可夫转移场(MTF)是一种图像编码方法,它通过马尔可夫转移概率将原始振动信号转换为二维时间序列图像[17,18,19]。假设时间序列数据被离散化,并根据其值范围的分位数划分为Q个区间。序列中的每个数据点都可以映射到相应的区间。通过基于马尔可夫链原理计算状态转移概率,可以得到一个大小为Q × Q的状态转移概率矩阵,如公式(1)所示,其中表示测量采样点从时间t的状态转移到时间t+1的区间的概率。(1)通过将时间信息纳入状态转移概率矩阵,并将每个状态转移概率沿时间序列排列,可以得到一个大小为n × n的马尔可夫转移场矩阵MTF,如公式(2)所示。这里表示区间之间的转移概率,采样点按照时间序列的顺序排列。(2)MTF矩阵中的元素将数据点转换为像素,形成一个具有时间相关性的二维特征图像。由于选定的采样点数量直接影响生成的编码图像的大小,因此直接使用过大的图像作为图像分类的输入显然是不合适的。为了提高计算效率,使用模糊核对每个区域进行非重叠像素平均处理。在MTF图像编码过程对每个样本在不同载荷下的图像进行编码后,随后应用像素平均处理。与传统时域分析方法相比,MTF编码的图像保留了时间信息,能够更清晰地区分不同载荷下的特征数据。切片数据被输入到马尔可夫转移矩阵中,生成一个224 × 224 × 3的维度放大图像,如图4所示。尽管MTF在捕捉动态过程方面表现出色,但在处理GIS的高采样率数据时存在局限性。第一个局限性是幅度相关性的减弱:MTF关注状态之间的转移概率,但稀释了信号的特定幅度大小。例如,在GIS故障中,松散的屏蔽层会导致整体能量的衰减;MTF对这种绝对幅度差异的表示不够直观。第二个局限性是时间锚定的相对松散:MTF主要反映统计模式,在表示特定时间点与幅度之间的精确对应关系方面,其性能不如极坐标变换方法。图4. 马尔可夫转移场放大图像。2.1.2. 格拉米安角场为了弥补单个马尔可夫转移场在表示序列时间相关性方面的统计局限性,本文引入了GAF技术,从而提出了一种基于复合特征融合的高阶维度放大机制。MTF关注信号幅度状态的统计转移模式,而GAF可以有效地固定并保留一维振动信号的绝对时间动态特性[20]。对于预处理和标准化的一维GIS振动信号序列,将其映射到极坐标系统中。其相位角映射的数学模型定义如公式(3)所示。(3)其中表示序列中第i个采样点的信号幅度,表示极坐标系统中第i个采样点对应的相位角。基于上述极坐标映射机制,格拉米安角场进一步被分为两种矩阵形式:GASF和GADF[21]。它们二维空间元素的数学计算公式分别定义如公式(4)所示。(4)其中表示格拉米安角和场特征矩阵中第i行第j列的像素元素值;表示格拉米安角差场特征矩阵中第i行第j列的像素元素值;和分别表示时间节点i和j处序列的极坐标相位角。为了实现时域、频域和统计域特征的多分辨率协同表示,设计了一种复合特征融合图像结构。具体来说,上述三种算法生成的二维特征矩阵依次作为数字图像的三个独立颜色通道进行空间映射和叠加。在这种复合结构中,GASF矩阵映射到R通道,旨在提供全局时间相关的背景,从而表征GIS机械动作的物理连续性;GADF矩阵映射到G通道,主要用于突出波形内的瞬态尖峰和局部机械影响特征;MTF矩阵映射到B通道,引入马尔可夫概率指纹,从而揭示不同能量级别状态之间复杂振动信号的固有统计模式。根据上述结构生成所有复合维度放大图像的数据后,根据故障类型创建并编码数据集。状态编码和总数据量如表1所示。表1. 状态代码和总数据量。从生成的RGB特征图中可以看出,不同故障的特征图存在显著差异,这验证了特征提取的有效性。四种GIS状态的样本数量基本平衡,满足了数据平衡的要求,不会对神经网络的结果产生偏见影响;因此,不需要进行数据增强操作。原始信号首先通过独立采集运行进行分离。随后应用滑动窗口策略生成样本。最终,数据集共产生了24,028个样本,训练集与测试集的总体比例约为9:1,确保了数据集之间没有数据泄露。单个马尔可夫转移场特征图像通过灰度映射呈现,只能表征振动信号幅度状态的统计转移模式,其纹理结构显示出均匀的块状分布。由于在映射之前需要状态分箱,信号中的高频瞬态影响和绝对相位(包含关于故障演变的关键信息)被严重平滑,导致图像的整体信息熵较低。相比之下,如图5所示,本文提出的复合维度放大特征融合图像显示出显著的高阶表示优势。在这张复合图像中,三个RGB通道的交织不仅保留了MTF的全局统计背景,还通过引入极坐标场的三角映射清晰地描绘了对角纹理和高频亮点,代表了信号的动态转换。这种从单一统计域到“时间-动态-统计”域的多维信息放大极大地丰富了图像的颜色和空间纹理细节。它为后续的视觉Transformer自注意力机制提供了更高密度的故障特征锚点,从根本上解释了所提出架构在识别精度上的优越性。图5. 复合维度增强特征融合图。更重要的是,这种包含高阶特征的RGB复合图像与ViT的网络架构具有极高的内在兼容性。受局部卷积核感受野限制的CNN难以全面分析全局图像中的隐含时间模式。相比之下,ViT采用全局图像拼接和自注意力机制,使其能够直接计算图像中任意两个子区域之间的注意力权重[22]。在本文的复合特征矩阵中,图像的空间坐标(i,j)在物理意义上严格对应于时间轴上的两个特定时刻。因此,当ViT处理此类RGB图像时,实际上是在进行全局长距离依赖性的时间交叉分析。复合RGB图像中的丰富颜色和纹理差异为ViT的自注意力提供了高信息密度的优化目标,使其能够准确提取潜在GIS故障的深层演变模式,计算深度远超过传统的一维时域分析。2.2. 基于GIS复合放大图像的ViT图像分类算法2.2.1. ViT的结构和工作流程ViT是一种创新架构,它将Transformer模型应用于计算机视觉任务。ViT仅使用Transformer的编码器部分进行特征提取和表示学习。ViT的核心思想是用Transformer的注意力机制替代传统的卷积操作。与传统CNN不同,ViT将图像分割成固定大小的块并将其展平成序列,然后将该序列输入Transformer模型进行处理。在Transformer内部,使用自注意力结构来捕获序列中不同位置之间的相关信息。通过多层Transformer编码器,ViT可以从输入图像中学习更高层次的特征表示,最终输出图像的类别预测结果。Transformer架构中的自注意力机制本质上缺乏感知输入顺序的能力;也就是说,在计算注意力权重时,该机制对序列的排列是不变的[23]。然而,对于复合图像,不同位置的图像块对应于GIS动作过程中不同时刻的子振动序列,具有严格的时间顺序。具体来说,左上角的图像块对应于振动信号的开始时间,右下角的图像块对应于信号的结束时间。这种空间位置与时间顺序之间的对应关系对于故障诊断至关重要。ViT通过显式位置编码解决了这个问题。它将每个图像块的空间位置编码为特征向量,并将其添加到图像块嵌入中。这使得自注意力机制在计算注意力权重时能够感知大量的时间信息,从而严格遵循振动信号的时间逻辑,同时保持其全局建模能力。相比之下,尽管CNN通过卷积核的滑动顺序隐式保留了空间结构,但它们的局部连接特性使得在浅层建立长时间相关性变得困难,而深度堆叠可能导致时间细节的模糊和丢失。ViT算法的结构图如图6所示。ViT分为嵌入层、编码层和分类层。图6. ViT算法的结构图。嵌入层负责将输入的RGB复合图像转换为嵌入向量序列。在物理意义上,每个图像块对应于GIS的一个子振动序列段。随后,每个图像块通过可训练的线性投影层展平并映射为D维嵌入向量。同时,为了保持图像块之间的空间位置关系,引入了可学习的位置编码并添加到图像块嵌入中,使模型能够感知时间轴上每个子振动序列的时间顺序。此外,在序列的开头附加了一个可学习的类别标记向量,其最终输出将作为整个图像的全局特征表示。Transformer编码层由多个堆叠的Transformer编码器模块组成,每个模块包含两个核心子层:多头自注意力机制和前馈神经网络。多头自注意力机制计算序列中任意两个位置之间的注意力权重,以实现全局感受野下的特征交互。它可以准确捕获RGB复合图像左下角和右上角像素所表示的信号从开始到结束的时间相关性,同时关注由GADF增强的瞬态影响特征和MTF在局部图像块中描绘的统计纹理。在每个子层之后应用残差连接和层归一化,以促进梯度流动和训练稳定性。通过多层编码器的堆叠,模型逐渐构建了振动信号全局演变模式的深度表示。分类层根据编码器输出的类别标记向量实现故障类别的区分。类别标记通过多层感知器(MLP)头进行非线性变换,并最终通过SoftMax函数映射到四个故障类别的概率分布,完成GIS机械状态的端到端诊断。这个分类层使用标准的多类交叉熵损失函数进行优化,与嵌入层和编码器层一起构成了一个完整的端到端可训练的网络架构。在基于Vision Transformer构建GIS故障诊断模型时,为了更有效地利用复合图像中的类别信息并执行后续的分类任务,引入了一个可学习的类别标记向量。这个类别标记是一个具有与其他图像块嵌入向量相同数据格式的可训练参数,两者都是D维向量。它的核心功能是聚合整个图像的全局类别信息,以辅助后续的故障分类。在完成图像块化和线性投影操作后,这个类别标记被插入到结果嵌入序列的开始处。在Transformer模型的训练过程中,类别标记通过多头自注意力机制与其他所有图像块嵌入进行交互,使模型能够将分散在各个图像块中的故障特征信息收敛到类别标记中。最终,其对应的编码器输出被用作整个复合图像的全局表示,用于GIS机械状态的区分。
2.2.2 图像块化和位置编码
由于ViT模型的注意力机制本质上缺乏对输入顺序的感知,而对于GIS故障诊断任务来说,复合图像不同区域的视觉特征序列必须具有清晰的空间顺序。因此,需要为每个图像块添加位置编码,以保留其在原始图像中的位置信息[24]。通过引入位置编码,Transformer可以有效地建模图像块之间的相对空间关系,从而增强故障特征的表示能力。在输入视觉特征序列时,位置编码以加性方式与图像块嵌入结合。本研究采用了一种确定性的位置编码方法,具体的编码方案如公式(5)所示。
(5)
在上述公式中,pos表示每个视觉特征向量的块位置索引,位置索引从左到右、从上到下排列;其中使用了某种方法来确保视觉特征向量中的偶数维度2m和奇数维度2m + 1分别对应正弦和余弦编码,同时保持相同的角速度。
2.2.3 多头自注意力机制
在构建编码器层的过程中,本文采用了基于自注意力机制的多头注意力模块。自注意力机制的结构组成如图7所示,主要由三个部分组成:查询矩阵、键矩阵和值矩阵[25]。
图7. 自注意力机制架构图
这里,查询(Q)矩阵用于生成查询向量,每个查询向量对应一个图像块,并用于在注意力机制中搜索与该块相关的信息;键(K)矩阵用于生成键向量,每个键向量代表一个块,指示当前块与其他块之间的相关性;值(V)矩阵用于生成值向量,每个值向量代表一个块,表示当前块的特征信息。通过对图像特征序列应用线性投影,可以根据以下步骤获得和计算查询矩阵、键矩阵和值矩阵。首先,计算Q和K之间的点积;为了防止结果过大,将其除以某个值。整个计算过程如公式(6)所示。
(6)
其中是键向量的维度,SoftMax函数将结果归一化为概率分布。
本文采用的多头注意力机制是自注意力机制的增强版本,其基本结构如图8所示。首先,Q、K和V通过h个不同的线性变换进行映射,意味着有h个注意力头;然后,将不同注意力头的输出连接起来;最后,再次进行线性变换。
图8. 多头注意力机制架构图
在本文构建的ViT故障诊断网络中,输入特征通过每组注意力头映射到不同的表示子空间。这使得模型能够关注不同子空间中的不同图像区域,从而增强故障特征的表示能力。其相对于整个结构的整个计算过程可以如公式(7)所示表达。
(7)
其中、和分别代表、和的权重矩阵;表示输入到多头注意力机制和从多头注意力机制输出的标记向量的长度;和分别代表多头注意力机制中每个头的V和K的维度。
2.2.4 编码器层
在完成多头注意力机制的构建后,本文在其后连接了一个MLP层,用于特征的展平和规范化,以形成最终的特征向量生成模型。最终形成的编码器层如图9所示。激活函数采用GELU激活函数,MLP层由一系列规范化和全连接层组成。图9. 编码器层结构
每个编码器层包括一个多头注意力机制和一个前馈神经网络,并采用残差连接和层规范化。选定的激活函数是GELU。最终形成的编码器层的输出序列大小与输入保持一致。对于本文中使用的ViT-B/16模型,输入是[197, 768],输出也是[197, 768]。
从编码器输出中提取出对应于类别标记的[1, 768]向量,并通过MLP获得分类结果。ViT-B/16模型使用的损失函数如公式(8)所示。
(8)
其中是真实标签的独热编码,是模型预测的第c类的概率,是故障类别的总数。本文为GIS建立了总共4个状态类别。
3. GIS故障分类模型的验证
3.1 GIS状态分类模型的构建和训练
根据Vision Transformer的标准结构和工作流程,本文基于ViT-B/16构建了一个图像识别模型,用于复合尺寸放大图像的故障分类。输入图像大小为128 × 128 × 3,ViT-B/16模型的结构和数据流如图10所示。
图10. ViT-B/16模型的结构和数据流
如图10所示,输入的RGB复合图像首先通过图像块化层。因为输入图像大小为128 × 128,本文使用核大小为16 × 16、步长为16的卷积层进行块化操作,得到一个8 × 8 × 768的特征图。随后,沿高度和宽度维度进行展平处理,得到一个大小为64 × 768的特征向量序列。
在展平后的特征序列前端,通过连接层添加了一个可学习的类别标记,以聚合全局分类信息;此时,序列大小变为65 × 768。接着进行位置嵌入的加法操作。由于位置嵌入与特征序列的大小完全相同,这可以理解为数值上的逐元素加法。本文中的位置嵌入使用可训练参数,使模型能够在训练过程中自适应地学习图像块的位置关系。
在通过添加了位置编码的输入序列后,将其通过Dropout层输入到堆叠的Transformer编码器层中。本文采用了12个Transformer编码器的堆叠,每层包含一个多头自注意力机制和一个前馈神经网络。通过12个编码器层后,输出序列的大小保持不变,仍然是65 × 768。最后,经过层规范化处理后,得到最终的编码器输出。
通过从编码器输出中切片,提取出大小为1 × 768的类别标记对应的特征向量。这个向量被输入到MLP头部分类头中,以获得最终的分类输出。本文为GIS故障诊断任务建立了总共4个故障状态;因此,MLP头部的输出维度为4,对应于每个类别的预测概率。
为了验证ViT算法在GIS故障诊断任务中的优越性,选择了CNN图像分类网络和ResNet图像分类网络作为比较模型,并保持所有模型的训练超参数一致。ViT程序和比较图像识别程序的超参数设置如下:批量大小=16;迭代次数设置为500;初始学习率设置为0.001。为了确保不同网络架构之间的公平性和严谨性,在所有模型的训练过程中引入了自适应学习率衰减策略。该策略允许每个模型根据验证损失的变化动态调整其学习率,从而确保每种架构都能达到各自的最佳收敛状态。训练使用Windows 10操作系统和GPU进行模型训练。主机计算机配备了NVIDIA GeForce RTX 4070显卡、32 GB 2933 MHz DDR4 ECC内存、M.2 1 TB PCIe NV Me Class 50固态硬盘、Intel Core i7 13700F 3.0 GHz处理器、NVIDIA 537.70驱动程序和CUDA版本12.2。编程使用Python 3.9和PyCharm 2019进行,利用TensorFlow 2.0框架。
3.2 模型评估指标
完成模型训练后,使用准确性、精确度、召回率和F1分数[26]进行评估。每个评估指标的公式如公式(9)–(12)所示。
其中TP表示真正有故障且被正确预测为有故障的样本数量;TN表示真正正常且被正确预测为正常的样本数量;FP表示真正正常但被错误预测为有故障的样本数量;FN表示真正有故障但被错误预测为正常的样本数量。
(9) (10) (11) (12)
针对多类分类任务,本文采用上述方法计算分类模型的性能指标,以全面评估模型在GIS状态分类方面的能力。
3.3 GIS故障分类的实验结果分析
为了验证基于复合尺寸放大图像和ViT组合的GIS故障诊断方法的有效性,将预处理后的复合尺寸放大图像数据集随机分为训练集和测试集,比例为9:1。需要注意的是,由于在高电压GIS设备上进行物理故障模拟具有高风险和巨大成本,原始振动信号的总持续时间有限。因此,重叠滑动窗口技术本质上是一种时间数据增强策略,以满足ViT架构的大量数据需求,并帮助模型学习平移不变性。虽然随机分割展示了模型在当前实验设置下的出色表示能力,但在未来的现场测试阶段,需要使用完全独立的采集运行进行跨实例验证,以进一步测试其绝对泛化能力。经过滑动窗口采样后,获得了21,625个训练集样本和2403个测试集样本,涵盖了四种GIS状态:内部异物、接触不良、屏蔽层松动和正常状态。为了确保比较的公平性,所有模型都设置了相同的训练周期(500次),使用Adam优化器进行参数优化,并且初始学习率为0.001。为了验证复合维度放大图像和ViT模型的优越性,设计了一个消融实验,将复合维度放大图像与MTF图像在ViT分类模型下进行比较,同时还进行了在不同分类模型条件下复合维度放大图像的优越性实验。图11显示了训练集上损失函数随迭代次数的变化情况。如图11所示,每个实验的损失误差都随着迭代次数的增加而呈现下降趋势。其中,MTF-ViT的损失下降速度相对较快,但最终稳定在大约1.06左右,表明尽管该模型的分类能力令人满意,但单通道MTF的数据特性限制了其性能上限。GASF-ViT和GADF-ViT的损失误差也呈现类似的下降趋势,最终都稳定在大约1.00左右,表明GASF和GADF在单通道条件下具有相当的特征表示能力。Composite Image-CNN和Composite Image-ResNet的损失误差下降速度较慢,最终分别稳定在大约0.90和0.90左右,揭示了传统卷积神经网络在提取复杂特征方面的局限性。相比之下,Composite Image-ViT的初始损失误差最低,其下降曲线在整个训练过程中最为平滑且最快,没有明显的波动,最终达到大约1.01的最小损失误差。这些结果表明,单通道变体(GASF-ViT、GADF-ViT和MTF-ViT)受到各自单编码策略信息不完整的限制,其损失值通常高于三通道复合模型。Composite Image-CNN和Composite Image-ResNet受到传统卷积架构的局部感受野限制,导致损失收敛速度较慢,最终损失值较高。相反,Composite Image-ViT在收敛速度和最终损失值方面都表现出最佳性能,表明基于复合维度放大振动信号的图像和ViT的算法具有更强的特征提取能力和拟合度。
为了评估每个实验的分类性能,图12展示了训练集上的准确率比较。如图12所示,当迭代到50个周期时,Composite Image-ViT的准确率达到80.0%,而其他比较模型的准确率均为58.0%或更低。随着迭代次数的增加,所有模型的准确率逐渐提高,但在收敛速度和最终收敛值上存在显著差异。其中,Composite Image-ResNet和Composite Image-CNN的收敛速度较慢,其准确率在整个训练过程中始终低于Composite Image-ViT。在单通道ViT变体中,MTF-ViT的表现优于GASF-ViT和GADF-ViT,但三者都低于三通道复合模型。在所有比较模型中,Composite Image-ViT始终保持最高的准确率,收敛曲线最为平滑,没有明显波动。经过500次迭代后,该模型在训练集上达到了97.8%的峰值准确率。总之,使用Composite Image-ViT算法对复合图像进行故障诊断后,模型的分类准确率显著提高,且在整个训练过程中曲线保持平滑,没有明显波动。这表明Composite Image-ViT算法在GIS故障分类任务中具有极高的预测准确性和出色的稳定性,能够有效实现对振动信号维度放大图像的准确分类。
图13显示了在测试集上生成的ViT模型的混淆矩阵。图中的标签0、1、2和3分别代表四种GIS运行状态:内部异物、屏蔽盖松动、正常状态和触点接触不良。如表2所示,基于复合维度放大图像和ViT组合的GIS故障诊断模型在所有四种状态类别中都表现出优异的分类性能。对于触点接触不良的分类效果最佳,准确率为97.02%,精确率为97.34%,召回率为96.02%,F1分数为97.18%。这归因于复合维度放大图像中触点接触不良所呈现的显著特征,如异色纹理、多点高亮和斑点噪声。ViT的自注意力机制能够有效捕捉这些全局异常模式。正常状态的识别效果也很优秀,准确率为95.60%,召回率为95.60%,F1分数为95.60%。正常状态的不对称异色纹理为模型提供了相对清晰的区分边界。屏蔽盖松动的识别效果良好,准确率为95.38%,精确率为94.10%;然而召回率相对较低,表明有些样本被错误分类为其他故障。内部异物的识别较为稳定,准确率为94.50%,召回率为95.45%,F1分数为94.50%。内部异物的规则高亮网格纹理具有一定程度的可识别性,但在与屏蔽盖松动的边界处存在一定的模糊区域。错误分类主要发生在具有相似特征的故障类别之间。这种错误分类模式符合物理现实,因为这些故障类型在特定临界状态下的振动特征确实存在一定程度的相似性。总体而言,该模型在测试集上的平均准确率达到95.63%。这表明基于复合维度放大振动信号的图像和ViT算法的GIS故障诊断方法能够有效识别GIS的四种典型机械故障状态,并在分类这四种典型机械故障状态时表现出高准确率和可靠性。
针对GIS机械故障诊断问题,本文提出了一种基于振动数据的复合维度放大图像与Vision Transformer组合的故障诊断方法。首先,使用滑动窗口技术对原始振动加速度信号进行分割。然后分别应用复合维度放大算法将一维时间序列信号映射为具有红、绿、蓝三个通道的RGB复合图像,从而实现了时域演化特征、冲击敏感特征和状态转换统计特征的三维信息编码。接着,基于预处理后的RGB复合图像数据集建立了ViT-B/16故障分类模型。通过图像拼接、位置编码和多头自注意力机制实现了全局特征建模和端到端故障识别。通过与其他深度学习模型的比较以及性能指标的评估进行了实验验证。本文的主要结论如下:(1) 在模型训练过程中,Composite Image-ViT模型稳定收敛,损失曲线平滑下降,没有明显的过拟合现象。在测试集上的实验验证结果表明,结合复合维度放大图像和ViT算法的故障诊断方法在GIS状态分类任务中的平均准确率达到95.63%,能够准确分类四种GIS机械故障状态,证明了模型的准确性和可靠性。(2) 与单通道ViT变体和传统识别网络相比,所提出的Composite Image-ViT模型在训练集上获得了最高的整体性能,所有三种单通道变体的性能均低于所提出的三通道复合模型。此外,Composite Image-ViT具有最快的收敛速度、最低的最终损失和最稳定的准确率曲线。ViT的自注意力机制有效地实现了全局感受野下的特征交互,从而增强了故障特征的区分性能。(3) 所提出的复合通道融合编码策略实现了多视图特征的互补性和信息冗余的补偿,有效克服了传统一维信号处理方法的局限性,如特征单一性和对噪声干扰的敏感性,为GIS机械状态的精确识别提供了可靠的技术支持。(4) 需要注意的是,本研究中的实验数据是从单一实验室GIS设备在受控条件下收集的。尚未在不同GIS设备、多样化的变电站环境或不同电压水平上进行验证。因此,所提出的方法在类似实验室条件下具有提高GIS设备状态评估能力的潜在实用价值。通过对不同GIS配置和现场条件进行进一步交叉验证,该方法可能为GIS的智能运维和故障预警提供新的技术途径。同时,它也为其他高压电气设备的机械故障诊断方法研究提供了有价值的参考,有待适当的调整和验证。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号