基于迁移学习的智能铁路缺陷分类框架
《Results in Engineering》:An Intelligent Rail Defect Classification Framework Based on Transfer Learning
【字体:
大
中
小
】
时间:2026年05月15日
来源:Results in Engineering 7.9
编辑推荐:
伊姆兰·加富尔(Imran Ghafoor)| 纳乌曼·穆尼尔(Nauman Munir)| 塔克-兰·钱(Tak-Lam Chan)| 安迪·齐-霍·钱(Andy Chi-Ho Chan)| 阿里·拉萨·沙希德(Ali Raza Shahid)| 胡海波(Haibo Hu)
伊姆兰·加富尔(Imran Ghafoor)| 纳乌曼·穆尼尔(Nauman Munir)| 塔克-兰·钱(Tak-Lam Chan)| 安迪·齐-霍·钱(Andy Chi-Ho Chan)| 阿里·拉萨·沙希德(Ali Raza Shahid)| 胡海波(Haibo Hu)
中国香港特别行政区新界可靠性与安全研究中心
摘要
为了确保铁路运营的安全和可靠,对铁路轨道缺陷进行智能分类是必要的。监督学习算法(SLAs)在完全自动化缺陷检测和分类方面显示出巨大潜力。然而,由于缺乏标记的现场数据,这些算法在铁路系统中的应用仍然受到限制。与纯物理模型相比,缩放的物理模型(SDMs)可以再现真实世界的铁路状况,并生成反映铁路系统动态行为的大规模数据集。同时,当源领域和目标领域密切相关时,转移学习(TL)已被证明是有效的。因此,本研究提出了一个铁路轨道缺陷分类框架,该框架将铁路SDM与基于TL的方法相结合。开发了一个结合了振动测量系统的铁路SDM,并创建了一个包含健康轨轨信号和缺陷轨轨信号的数据库。一个卷积神经网络(CNN)被训练用于在时域和频域中对SDM信号进行分类,频域模型的测试准确率达到99.15%。然而,其在现场采集的信号上的性能显著下降。为了解决这个问题,实施了TL方法,其中在SDM上预训练的模型使用少量样本数据进行微调。基于TL的CNN(TrL-CNN)在频域信号上的准确率达到了98.31%。与包括深度神经网络(DNN)和残差网络(ResNet)在内的基线模型相比,TrL-CNN表现出更高的准确率(98.31%)、更窄的置信区间(±0.3%)和更短的训练时间(约16分钟)。这些结果证实了所提出方法在准确性、稳健性和计算效率方面的最佳平衡。
1. 引言
铁路轨道是铁路运输系统的基础,健康的轨道对其安全性至关重要。周期性的铁路应力会导致表面缺陷的产生,如滚动接触疲劳(RCF)、头部检查(HC)、凹陷缺陷和轨轨起伏。这些表面缺陷会增加轮对在轨段上的垂直动态载荷,加速轨道和特定车辆部件的退化[1]。如果未经处理,轨面缺陷最终可能导致铁路故障。因此,对轨道缺陷的评估已成为铁路运输公司面临的重要安全挑战[2]。及时检测和分类轨道缺陷对于理解其形成机制并采取措施至关重要。此外,智能分类轨道缺陷在安全性、成本效益和环境保护方面具有显著优势。
在过去三十年中,随着传感器和通信技术的快速发展,通过车辆动态响应监测铁路结构健康状况受到了广泛关注。轨轨起伏或其他缺陷会显著影响车辆-轨道系统的动态响应,轮轨力是轮轨交互条件的精确指标[3]。在不同的轨道缺陷检测方法中,常规列车通常配备了振动加速度计进行日常监测。因此,基于振动信号的轨轨缺陷检测在过去三十年中已成为重要的研究焦点[[4], [5], [6], [7]]。目前,基于振动信号的轨轨缺陷检测主要关注两个方面:(1)数据采集和测量[[8], [9]]以及(2)信号处理和分析[[10], [11]]。研究了多种信号处理技术,如时频分析[12]、希尔伯特变换[13]、经验模态分解(EMD)[14]和奇异值分解(SVD)[15]来分析振动信号。然而,这些技术存在一些局限性,例如EMD受到端点效应和模态混叠的影响[16]。
从轨道检查中收集的数据通常规模庞大,精确定位缺陷既耗时又费力。此外,需要经验丰富且技术娴熟的专家来分类轨道缺陷,这增加了检测成本。人类评估的主观性进一步复杂化了缺陷的准确分类。基于人工智能的算法,主要是基于监督学习的算法,为自动化缺陷检测和分类提供了有希望的解决方案[[17], [18], [19]],包括检测和分类轨轨表面的缺陷[[20], [21], [22], [23]]。然而,由于缺乏现场采集的缺陷样本,基于监督学习的缺陷分类模型可能因训练数据有限而面临过拟合问题。此外,监督学习方法需要大量现场采集的缺陷数据进行训练,从而减少了可用于验证的测试数据样本数量。一些研究人员使用无监督学习(USL)技术来克服缺陷检测领域的问题[[24], [25]]。然而,USL建模缺乏对缺陷数据的理解,因为这种方法完全依赖于正常样本的建模。这可能导致分类性能较差,以及潜在的高假阳性/假阴性率[26]。
最近,开发了更先进的深度学习范式来直接解决标记现场数据稀缺的问题。这些包括用于数据增强的生成模型[27]、用于快速适应的少量样本元学习策略[28],以及从有限样本中学习鲁棒表示的自监督框架[29]。虽然这些方法代表了显著进展,但它们主要依赖于有限真实世界数据的统计学习,通常需要复杂的架构调整。
上述基于监督学习的方法的数据可用性不足的缺点可以通过从物理模型(如缩放物理模型和有限元方法(FEM)仿真)生成人工缺陷数据集来克服[30,31]。近年来,使用基于FEM仿真的数据驱动方法和在真实信号上进行测试的损伤检测受到了关注[32,33]。然而,FEM模型通常建立在某些假设之上,这些假设过于简化了真实世界的复杂性。
相比之下,SDMs可以在较小规模上复制物理系统,允许真实的相互作用和响应,从而产生更现实的数据。例如,一个用于轨轨的SDM能够捕捉轮轨相互作用的基本物理动态,包括接触力、振动传播和结构共振。这产生了包含真实噪声、阻尼和材料特性的振动信号。重要的是,它在保持完全实验控制和可重复性的同时实现了这一点,因为可以在仪器化的实验室环境中精确引入和测量缺陷,而这在现场条件下是不可能的。
尽管取得了进展,但实验室内生成的信号与现场采集的信号之间往往存在差距,使得在人工数据集上训练的传统机器学习模型难以在现场采集的数据集上有效运行。转移学习(TL)有助于解决这些挑战,特别是在高质量基准数据集不足的情况下。TL利用从一个领域获得的模式来解决不同但相关的任务[34],当模型的初始训练与目标数据集密切相关时效果显著。在TL中,微调是一种特定方法,其中使用目标领域的样本来调整预训练模型特定层的参数。此外,微调需要目标领域的标记数据,而基于铁路振动的监测很少提供缺陷标签数据。因此,当目标领域可用于训练的数据非常少时,少量样本学习(FSL)方法成为关键。FSL方法通过仅使用来自目标领域的少量样本进行迭代训练,使模型表现得更好[35]。
研究人员已经研究了TL和FSL在轨道异常/缺陷检测中的应用。Sochin L.等人使用EfficientNet-B3进行转移学习,从包含带有缺陷和无缺陷的铁路轨道预分类图像的现场采集数据集中检测轨面缺陷[36]。Merve Y.等人分别使用了在ImageNet数据集上预训练并在包含铁路图像的数据集上微调的VGG16和ResNet101V2模型[37]。Zheng等人应用了深度转移学习(DTL),使用最初在COCO数据集上开发的RetinaNet和YOLOv3模型来检测轨面裂缝。所提出的框架在开源仓库和中国铁路公司获取的轨轨图像数据集上进行了验证[38]。Ali M.等人使用三个预训练模型ResNet50V2、InceptionV3和VGG16,利用铁路轨轨图像数据集进行故障检测[39]。Hui L.等人提出了基于TL和多接入边缘云计算(MEC)网络的实时轨面缺陷检测框架,使用轨轨图像数据集[40]。Zhaorui H.等人提出了一个基于图像数据的少量样本检测器,用于高速铁路基础设施缺陷的自监督预训练[41]。Zhaorui H.等人提出了基于多尺度注意力机制的高速铁路基础设施缺陷的少量样本对象检测(FSOD)[42]。Xiaopei C.等人将FSL模型应用于高速铁路混凝土板轨道的图像数据集,以检测三种异常情况,即裂缝、轨板间隙和完好状态[43]。文献回顾表明,针对铁路基础设施,TL主要被研究用于使用图像数据集检测表面缺陷/异常,无论是公开可用的还是从铁路行业收集的,而其在基于振动的数据集中的应用仍然有限[32]。与图像数据相比,振动信号数据提供了更敏感和实时的信息来检测轨轨表面和内部缺陷。TL在缺陷检测和分类方面可以发挥重要作用,然而,其在这一领域的应用需要进一步研究。值得注意的是,应探索其弥合缩放模型数据和现场采集数据之间差距的能力,因为现场采集数据集中的缺陷标记工作繁琐且往往不可用。
因此,本研究提出了一种基于振动数据和转移学习方法的智能轨轨缺陷分类框架。首先,开发了一个基于铁路缩放模型(SDM)的实验设置,用于捕获代表健康、裂缝和起伏条件的不同轨轨样本的振动信号。其次,进行了数字信号过滤以去除噪声,并应用快速傅里叶变换(FFT)以获得频域中的信号。然后,对代表东南亚国家铁路轨道的健康、裂缝和起伏条件的现场采集信号进行了相同的信号处理。接下来,开发了一个卷积神经网络(CNN)模型,并在该SDM数据集上进行了训练,以在时域和频域中对轨轨振动信号进行分类。最后,为了对现场采集的数据集中的缺陷进行分类,通过转移学习TR-CNN对CNN进行了适配,其中预训练模型使用少量目标领域样本在FSL设置下进行了微调。本研究的主要贡献如下:
- 开发了生成来自不同轨轨样本振动信号的铁路SDM系统。
- 形成了包含从东南亚铁路公司维护记录中收集的振动缺陷信号的现场采集数据集。
- 设计了一个框架,将铁路SDM与TrL-CNN相结合,以便在有限的现场采集数据下实现轨轨缺陷的智能分类。
- 比较了时域和频域振动信号的分类准确性。
本文的其余部分组织如下:第2节介绍了数据采集程序、数据库生成和提出的轨道缺陷分类框架方法。第3节展示了结果和讨论,第4节总结了研究。
2. 轨道缺陷分类框架
所提出的轨道缺陷分类框架主要包括从铁路SDM获取实验数据以及从铁路行业获取的现场数据。此外,应用了信号处理方法来去除噪声并使缺陷迹象更加明显。然后,使用少量样本转移学习方法将预训练的CNN模型与现场采集的信号进行微调。所提出框架的逐步概述如图1所示。调整步骤的详细信息如下:
下载:下载高分辨率图像(743KB)
下载:下载全尺寸图像
图1. 所提出的缺陷检测和分类框架概述。
2.1. 数据采集
2.1.1. 铁路缩放模型(SDM)
在本研究中,设计并实现了一个铁路轨道缩放模型的实验平台,如图2所示。所开发的铁路SDM提供了受控实验和参数(如传感器位置、轨道几何形状和缺陷条件)的轻松调整,提供了反映真实世界条件的多样化数据集。该模型旨在在受控实验室条件下为特定的制造缺陷几何形状生成物理上准确的振动特征。它有效地捕捉了缺陷几何形状与其振动响应之间的基本因果关系。
下载:下载高分辨率图像(709KB)
下载:下载全尺寸图像
图2.实验设置用于从铁路缩小模型中记录振动信号。生成的数据为训练深度学习(DL)模型提供了有用的基础。一旦DL模型在这个SDM数据集上训练完成,就可以实施迁移学习,将预训练模型的知识应用于实际现场采集的数据。这种方法利用了模型在SDM数据上的初始学习,使得模型能够更快、更准确地适应实际情况,并且几乎不需要额外的训练。最终,这种方法提高了实际铁路系统中缺陷检测和分类的效率和精度。SDM设置包括微步驱动器、步进电机、线性运动导轨、滑动平台和铝制T型槽挤出件。微控制器单元(MCU)、电源和6轴加速度计用于运动控制和数据采集。当车轮经过轨道时,6轴加速度计会记录横向、纵向和垂直方向的振动响应。常见的铁路损坏包括RCF裂纹和波纹,如图3(a)和图3(b)所示。轨道的循环载荷会生成这些疲劳裂纹,随着时间的推移,这些裂纹会变大并最终导致轨道故障[44]。轨道波纹是沿轨道纵向表面出现的波浪状不规则现象[45]。轨道波纹会影响车辆和轨道的服务寿命,如果不加以处理,可能会导致严重的脱轨[46]。下载:下载高分辨率图片(470KB)下载:下载全尺寸图片图3. (a) 有裂纹的实轨(47),(b) 有波纹的轨道(48),(c) 健康的轨道(49)及其对应的SDM轨道 (d) 有裂纹的样本A,(e) 有波纹的样本B和(f) 健康的样本C。为了模拟真实的铁路轨道缺陷,开发了缩放模型(SD)轨道:如图3(d)和图3(e)所示,分别有裂纹的样本A和有波纹的样本B。此外,研究还包括了一个健康的SD轨道样本C,以测试TL模型的多类分类能力,如图3(f)所示。所有三个SD轨道的长度均为450毫米。虽然SDM在受控实验室条件下能够捕捉到铁路缺陷的基本振动特征,但它无法完全再现复杂的轮轨动态、长期的材料退化或服役中轨道的环境变化。为了弥合这一现实差距,提出了2.3节中讨论的迁移学习策略。该方法具有可扩展性,随着更多标记数据集的出现,可以扩展到其他类型的缺陷。未来对SDM的改进还可以包括可变的速度、负载和环境舱,以进一步提高源域的保真度。2.1.2. 现场采集的数据预训练模型在东南亚地铁(MRT)铁路轨道上采集的现场数据上进行了验证。这些数据由一家铁路咨询组织提供。现场采集的数据包括安装在火车轮子上的压电传感器的振动时间序列信号。图4显示了压电传感器系统的配置。压电传感器战略性地安装在铁路车辆的轮组件上,用于测量从轨道传递的振动。当车轮在轨道上移动时,传感器会捕获不同幅度、频率和加速度的振动。这些传感器将机械应力转换为电信号,并传输到数据采集系统。下载:下载高分辨率图片(224KB)下载:下载全尺寸图片图4. 传感器配置示意图。2.1.3. 信号处理通常应用信号处理技术来分析铁路轨道振动信号,因为这些信号复杂且噪声较大,但包含重要信息。轨道振动信号中的噪声来自各种来源,如环境因素、仪器设备和数据采集系统。有效的去噪信号处理技术包括独立成分分析、小波去噪和数字滤波。本研究使用带通滤波来去除SDM和现场采集信号中的噪声。频域中的缺陷/异常通常表现为频率成分,这使得它们的识别更加容易[50]。快速傅里叶变换(FFT)算法计算序列或其逆的离散傅里叶变换(DFT)。DFT的公式如下[51]:(1)Xk=∑{n=0}{N?1}xnei2πknN,k=0,…….,N?1,其中e是自然对数的底数,i是虚数单位。本研究使用FFT将SDM和现场采集的时域信号转换为频域信号。2.2. 数据集创建2.2.1. SDM信号数据集从样本A、B和C采集的信号的时间和相应频率图如图5所示。这些信号使用了带通滤波器进行过滤,因为原始信号中包含实验设置和环境的噪声。图5(a)中的时间图显示了轨道中间与裂纹处记录的振动相对应的显著峰值。轨道上的裂纹会改变轨道的自然频率,使频谱变宽[52,53],如图5(b)所示。图5(c)显示了几个峰值,反映了样本B上记录的波纹振动。在频域中,波纹会产生窄带、高幅度的峰值或一系列峰值[54,55],如图5(d)所示。健康的轨道样本C在时间和频域中显示出相对稳定的信号特征,分别如图5(e)和图5(f)所示。从铁路SDM中创建了一个包含三种类型时间序列信号的数据库,即健康、裂纹和波纹。该数据库共有1185个信号,包括395个健康信号、396个裂纹信号和395个波纹信号。数据库被分为训练集和测试集,训练集包含90%的信号,而10%的信号被保存在测试集中,如表1所示。此外,为了检查模型的变异性,所有信号都使用FFT转换到了频域,并创建了另一个包含频域信号的数据集。表1. SDM信号数据库的分割为训练集和测试集。空单元序号信号数训练集测试集健康H39535639裂纹CR39635640波纹CO39535639总信号数118510681182.2.2. 现场采集的信号数据集维护记录中记录了不同类型的铁路异常缺陷,包括曲线处的轨道侧面磨损、T型焊缝间距偏差、T型焊缝 clip off 事件、轨道裂纹和波纹。此外,还记录了日期、里程数、缺陷代码和相应的简短文本描述。这些日志用于标记不同类型的缺陷信号。由于轨道裂纹和波纹对列车脱轨有重大风险,并且便于在3D缩小模型中实现,因此选择了这些缺陷类型的信号作为测试集。此外,数据库中还包括了没有记录缺陷的信号作为健康信号。这些信号是在列车在两个站点之间行驶时记录的,选定样本的相应轨道里程约为2.392公里,范围从2.488公里到4.880公里。这包括多种类型的振动信号。由于每个SDM信号包含60000个数据点,因此所有现场采集的信号都保持了相同的长度,以确保一致性。缺陷位置根据维护记录中的里程位置进行了相应的分窗处理。图6(a-f)分别显示了具有裂纹、波纹和健康状态的样本现场采集信号的时间和相应频域图。在这些信号中,使用带通滤波器去除了噪声,并应用FFT将其转换为频域。当列车在轨道上行驶时,多种振动源(例如轨道几何不规则性、结构缺陷、车轮扁平、轮轨接触动态和铁路交叉等)共同作用于整体振动特征。这些振动源的相互作用使得结果信号非常复杂。在这些信号中定位缺陷峰值是一项具有挑战性的任务,特别是在时域信号中,裂纹和波纹相关特征容易被真实世界振动所掩盖。相比之下,频域信号显示了与SDM信号相似的缺陷特征。例如,图6(b)中的频谱相对较宽,而图6(d)中的尖锐窄带峰值更为明显。共有397个信号被选为测试集,如表2所示。下载:下载高分辨率图片(439KB)下载:下载全尺寸图片图6. 现场采集的具有裂纹(a, b)、波纹(c, d)和健康状态(e, f)的信号的时间和相应频域图。表2. 东亚一家铁路公司收集的现场信号数据库。空单元现场信号健康155裂纹115波纹127总信号数3972.3. 缺陷分类模型2.3.1. 迁移学习基于迁移学习(TL)的方法利用从一个领域或任务中获得的知识或模式来解决不同的相关任务。当源任务和目标任务具有相似特征时,TL特别有效。例如,在智能缺陷检测中,从人工缺陷中获得的知识可以作为识别自然缺陷的先验信息。这种先验知识通过在大规模且标记良好的数据集上训练模型来获得,使模型能够泛化为实际条件。在迁移学习中,数据集通常被划分为源域和目标域。这使得模型能够使用有限的目标数据(小样本学习)或在某些情况下无需目标数据(零样本学习)来学习目标类别,通过利用从源域学到的信息[56]。2.3.2. 少样本学习(FSL)方法在机器学习中,FSL是一种旨在使模型仅使用少量数据样本就能更好地执行特定任务的方法。与传统的ML和数据挖掘技术不同,FSL不假设训练数据和测试数据属于相同的特征空间和分布[57]。FSL利用先验经验通过从其他来源添加样本、使用未标记数据、从其他数据集中获取知识或根据元知识调整超参数来从有限数据中进行泛化。虽然FSL可以使用各种算法和神经网络架构,但大多数方法都集中在TL、元学习或它们的组合上。TL利用预训练模型的有价值特征。对于分类模型,微调是一种有效的方法,通过应用监督学习到一小部分标记的示例上来适应新的类别。2.3.3. 卷积神经网络(CNN)卷积神经网络(CNN)由于其稀疏连接和权重共享能力而被证明具有高度的鲁棒性。CNN可以自动选择特征,而无需额外的信号处理方法[58]。在这项研究中,使用包含SDM振动信号的训练数据集训练了一个一维(1D)CNN。CNN学习过程的架构和流程图如图7所示。CNN中有三种类型的层:卷积(CN)层、池化层和全连接(FC)层[59]。卷积层中的核或多通道滤波器通过从输入中提取高级特征。在池化层中,特征被降采样以减少维度。最后,在全连接层中进行分类,整合学习到的特征并输出缺陷类别的概率分布。卷积层和全连接层使用了修正线性单元(ReLU)激活函数。它使得网络能够从提取的特征中实现非线性学习,表达式为:(2)ReLU(x)=max?0,x。下载:下载高分辨率图片(581KB)下载:下载全尺寸图片图7. 基线CNN的学习过程架构和流程图。使用的池化层类型是最大池化层。它通过选择输入特征中的局部最大值来加速训练并减少维度[60]。在全连接层应用了Dropout以防止网络过拟合。在此方法中,训练过程中以概率p关闭了一些神经元。CNN使用TensorFlow 2.0开发和应用。CNN架构由五个卷积层、三个池化层和三个全连接(FC)层组成。每个卷积层和第一个FC层使用了ReLU激活函数。此外,还使用了Adam优化器和交叉熵损失函数。在卷积层之间,使用了0.5的dropout概率。模型的参数在表3中给出。表3. 卷积神经网络(CNN)的参数。
### 步骤与层结构
| 步骤 | 层 | 输出形状 | 参数 |
|------------|-------------|--------------|-------------------------|
| 特征提取 | Conv2D(16) | → Conv2D(32) | → Conv2D(32) |
| | (None, 1, 555) | | 7,440 |
| 下采样 | MaxPool | → Conv2D(32) | → MaxPool | → Conv2D(32) |
| | (None, 1, 17, 32) | | 6,208 |
| 分类器 | Flatten | → Dropout | → Dense | → Dropout | → Dense | → Dropout | → Dense | → Dense |
| | (3) | | 318,300 |
### 转移学习和少量样本学习
为了提高CNN在实地数据集上的性能,采用了转移学习和少量样本学习的方法。具体来说,使用FSL方法对预训练的CNN(基线CNN)进行了微调,其中使用了来自目标领域/实地的少量样本(即10%)来微调模型。最终的基于转移学习的改进版CNN(TrL-CNN)在实地信号数据集上进行了测试。模型一直微调到饱和状态。在这项研究中,仅使用10%的目标领域数据,提出的框架就实现了更好的分类准确率。然而,如果性能低于阈值,可以采取多种策略来提高准确率,例如增加目标领域数据的比例、采用其他转移学习方法或改进基线模型。TrL-CNN的学习过程架构和流程图如图8所示。
#### 下载:下载高分辨率图片(824KB)| 下载:下载全尺寸图片
图8. 提出的TrL-CNN的学习过程架构和流程图。
### 评估指标
这些模型的性能通过准确率、精确度、召回率和F1分数来进行评估。此外,还生成了混淆矩阵来检查模型在不同类别中正确识别缺陷的能力。
- **准确率**:定义为正确分类的观测值数量与总观测值数量的比率。
- **召回率**:衡量真正例与真正例和假负例之和的比率。
- **精确度**:反映在所有预测为正的结果中正确识别出的正例的比例。
当精确度和召回率都较高时,模型被认为表现完美;反之亦然。
- **F1分数**:是精确度和召回率的调和平均值,提供了一个综合这两个指标的单一平衡指标。
这些评估指标——准确率、精确度、召回率和F1分数在方程(3-6)中定义如下:
(公式省略)
## 结果与讨论
为了确保基线CNN的性能准确且稳定,它在SDM和实地采集的信号数据集上进行了测试。该模型在SDM信号上的表现良好,但在实地采集的信号上无法进行分类。接下来,使用转移学习对模型的性能进行了测试,并用FSL方法对预训练的基线CNN进行了少量样本的微调。
### 3.1 使用SDM信号数据集的模型评估
在这项研究中,使用卷积神经网络(CNN)对铁路SDM振动信号进行了分类。CNN的架构和模型参数在2.3节中讨论。基线CNN的性能评估是在铁路SDM的时域和频域数据集上进行的。图9显示了时域SDM数据集的学习曲线。CNN的测试准确率从大约35%开始持续上升,直到大约第135个周期时达到饱和点,之后几乎保持不变。学习过程在第350个周期终止,因为稳定的学习准确率表明模型已达到饱和。时域铁路SDM数据集的平均准确率为96.63%。另一方面,精确度、召回率和F1分数分别为96.76%、96.66%和96.67%。
#### 下载:下载高分辨率图片(139KB)| 下载:下载全尺寸图片
图9. SDM时域数据集的基线CNN学习曲线。
频域铁路SDM数据的学习曲线如图10所示。平均测试准确率从33%开始,但与时域数据集相比,它在大约第90个周期就达到了饱和点。频域SDM数据集的平均准确率为99.18%,高于时域数据集。其他指标(如平均精确度、召回率和F1分数)也有所提高,分别达到了99.10%、98.98%和98.94%。模型性能指标的结果及其平均值±标准差(SD,其中n=10)以及95%置信区间在表4中总结。这些结果表明,基线CNN模型在时域和频域SDM信号上都表现良好,相对来说,频域的表现更好。这种改进可以归因于频域能够将缺陷相关的能量集中在局部的频谱特征中,同时减弱随机噪声的影响。
#### 下载:下载高分辨率图片(108KB)| 下载:下载全尺寸图片
表4. CNN在时域和频域SDM数据集上的性能参数(百分比)
| | 准确率 (%) | 精确度 (%) | 召回率 (%) | F1分数 (%) |
|---------|------------|------------|------------|------------|
| CNN(时域) | 96.63±0.01 | [96.62, 96.65] | 96.76±0.10 | [96.64, 96.88] |
| | 96.66±0.08 | [96.57, 96.76] | 96.67±0.05 | [96.60, 96.73] |
| CNN(频域) | 99.18±0.03 | [99.13, 99.23] | 99.10±0.12 | [98.91, 99.29] |
### 3.2 使用实地采集数据集的模型评估
图11展示了在SDM信号上训练并在实地采集的时域信号上测试的基线CNN模型的学习曲线。可以看出,测试准确率在初期有所波动,随后出现急剧下降并在后期部分恢复。其余周期的准确率基本保持稳定,但在后期出现了波动。总体而言,时域的泛化能力有限。
#### 下载:下载高分辨率图片(132KB)| 下载:下载全尺寸图片
图11. 在实地时域数据集上训练的基线CNN学习曲线。
#### 下载:下载高分辨率图片(140KB)| 下载:下载全尺寸图片
图12. 在实地频域数据集上训练的基线CNN学习曲线。
为了提高分类准确率,结合使用了转移学习和少量样本学习来增强模型性能。从目标领域实地数据集中选择了少量样本(10%),并应用了少量样本学习的微调策略。这种方法有助于防止过拟合,并提高模型适应新任务的能力。我们在微调过程中使用了dropout层,以帮助模型在数据有限的情况下进行规范。
#### 下载:下载高分辨率图片(126KB)| 下载:下载全尺寸图片
图13和图14显示了使用TrL-CNN后的时域和频域数据集的准确率曲线。在图13中,测试准确率从36%开始,在接下来的几个周期内迅速上升到65%,然后在大约第130个周期达到饱和点。之后,准确率基本保持稳定,最高准确率在第265个周期达到90.85%。频域数据集的测试准确率曲线趋势类似,但起始准确率较低(25%),但在大约第47个周期达到饱和,并在其余周期保持稳定。
#### 下载:下载高分辨率图片(122KB)| 下载:下载全尺寸图片
表6显示了基线CNN和提出的TrL-CNN在时域和频域实地数据集上的分类准确率。对于时域数据集,基线CNN正确分类了34.19%的健康信号,但将27.74%的健康信号误分类为裂缝,将38.07%的健康信号误分类为波纹。裂缝被正确识别的比例为71.60%,而波纹被正确识别的比例为22.83%,但其中有29.14%的裂缝信号被误分类为波纹。
#### 下载:下载高分辨率图片(126KB)| 下载:下载全尺寸图片
表6. 基线CNN和TrL-CNN在实地信号上的混淆矩阵(百分比)
为了更详细地评估模型在各类别上的性能,使用了混淆矩阵。对于时域SDM数据集,基线CNN正确识别了97.5%的健康信号,尽管将2.5%的健康信号误分类为裂缝。同样,97.5%的裂缝信号被正确识别,但有2.5%的裂缝信号被误分类为波纹。波纹信号的准确率为94.87%,其中5.13%的这类信号被错误地预测为健康信号。
#### 下载:下载高分辨率图片(122KB)| 下载:下载全尺寸图片
在频域数据集上,基线CNN正确识别了49.03%的健康信号,但剩余大约50%的健康信号被误分类为波纹。对于裂缝信号,模型仅正确识别了15.57%的裂缝信号,大部分裂缝信号被误分类为健康或波纹。在频域数据集中,基线CNN的准确率最高,分别为健康信号92.93%、裂缝信号94.95%和波纹信号92.93%。总体而言,由于SDM和实地采集信号在波形和频率模式上的差异,基线CNN在分类所有类别时面临挑战。相比之下,提出的TrL-CNN在实地数据上的性能显著提高。对于时域数据集,TrL-CNN正确识别了87.68%的健康信号、92.00%的裂缝信号和92.93%的波纹信号;对于频域数据集,TrL-CNN的准确率分别为健康信号94.95%、裂缝信号92.00%和波纹信号94.95%。这些结果证实,转移学习方法显著提高了分类准确率,并使基线CNN能够更有效地泛化到实际的实地信号。
### 3.3 与其他深度学习模型的比较分析
为了全面评估提出的TrL-CNN框架,将其性能与两个基准模型进行了比较:标准的全连接深度神经网络(DNN)和先进的残差网络(ResNet)。
#### 3.3.1 深度神经网络(DNN)
DNN是一种基本的深度学习架构,旨在学习数据中的复杂模式。它由多个全连接层组成,每层应用线性变换后跟着一个非线性激活函数。在这项研究中,使用全连接DNN来评估更简单的架构是否能够捕捉从铁路轨道记录的振动信号中的缺陷模式。DNN的参数在表7中给出。该网络包括一个输入层、两个隐藏层(每个层的dropout概率为0.5)和一个输出层。输入层的节点数量由振动信号的采样点决定。输出层的数量设置为三个,等于类别的数量。隐藏层应用了修正线性单元(ReLU)函数以增强学习能力。
表7. 全连接DNN的参数
#### 3.2 残差网络(ResNet)
残差神经网络(ResNet)是一种更高级的架构,引入了跳跃连接或残差连接来解决非常深的网络中的梯度消失问题。这些跳跃连接允许梯度直接通过网络传播,使得训练更深层次的模型成为可能。由于其有效学习层次特征的能力,ResNet已成为许多分类任务中广泛采用的基准模型。在这项研究中,我们使用了为了一维振动信号量身定制的ResNet架构,其参数在表8中给出。该网络由九个卷积层组成,每个卷积层都采用了批量归一化(BN)作为激活函数,并使用指数线性单元(Elu),之后是最大池化层来下采样特征图。在池化之后,应用了四个全连接层,并在这些隐藏层之间插入了dropout层以避免过拟合。这种ResNet设计提供了更深层、更复杂的架构,使我们能够评估这类模型是否能够在相同的缺陷分类任务上超越提出的TrL-CNN。
表8. 残差网络(ResNet)的参数
| 块 | 层数 | 输出形状 | 参数 | 输入 | 输入层 | Dropout |
|------------|------------|------------|------------------|------------------|--------------------|
| | 1, 5 | 989 | 8 | 1 | (None, 1) |
| Conv2D(16) | → | Conv2D(32) | → | (None, 1, 555) | |
| Conv2D(32) | → | Conv2D(32) | → | (None, 1, 555) | |
| | 7,440 | | | | |
| 残差块1 | | Conv2D(32) | → | (None, 1, 555) | |
| Conv2D(32) | → | Conv2D(32) | → | (None, 1, 555) | |
| | 6,400 | | | | |
| | Downsampling | MaxPool | → | Conv2D(32) | → | |
| Conv2D(32) | → | MaxPool | → | Conv2D(32) | → | |
| | (None, 1, 17, 32) | | | |
| | 6,208 | | | | |
| | Flatten | → | Dropout | → | Dropout | → |
| | Dense | → | Dropout | → | Dense | → | |
| | → | Dense | → | Dropout | → | Dense | → |
| | (3) | 318,603 | | | |
表9展示了提出的TrL-CNN与DNN和ResNet在有无少量样本迁移学习下的性能比较。没有少量样本迁移学习的DNN和ResNet分别简称为基线DNN和基线ResNet,而有少量样本迁移学习的则称为TrL-DNN和TrL-ResNet。观察结果发现,没有少量样本迁移学习时,所有模型在时间和频率域上的表现都较差。例如,在频率域数据集中,基线DNN、ResNet和CNN的平均准确率分别为50.31%、51.50%和52.25%。应用少量样本迁移学习后,性能显著提高:TrL-DNN的平均准确率上升至75.17%,TrL-ResNet为98.48%,CNN为98.31%。这一观察结果表明,所有架构都从少量样本迁移学习中受益匪浅。这也证实了在SDM数据上预训练模型为使用少量样本方法适应现场数据提供了坚实的基础,无论使用哪种深度学习架构。
表9. 不同架构(DNN、ResNet和CNN)下,基于时间和频率域数据的基线模型和迁移学习模型的性能指标。指标以平均值±标准差的形式报告,并附有95%的置信区间。
| 指标 | 基线DNN(时间) | 基线DNN(频率) | TrL-DNN(时间) | TrL-ResNet(时间) | TrL-DNN(频率) | 基线ResNet(时间) | 基线ResNet(频率) |
|--------------|-----------|-----------|------------|------------|------------|-----------|-----------|
| 准确率(%) | 40.86±0.68 | 50.31±0.25 | 62.00±0.77 | 75.17±0.98 | 47.42±0.73 | 51.50±0.67 |
| 精确度(%) | 45.73±2.76 | 43.59±1.34 | 92.29±0.61 | 98.48±1.11 | 49.50±1.35 | 49.99±1.53 |
| 召回率(%) | 40.86±0.68 | 45.73±2.76 | 92.29±0.61 | 97.98±1.49 | 49.98±1.54 | 49.50±1.35 |
| F1分数(%) | 41.70±0.97 | 42.31±1.46 | 91.31±0.91 | 97.94±1.51 | 41.90±1.12 | 43.42±1.12 |
表9的另一个关键观察结果是,在所有模型中,经过微调后,频率域信号比时间域信号获得了更高的准确率。例如,TrL-DNN在频率域的准确率为75.17%,而时间域为62.00%。同样,TrL-ResNet在时间域的准确率为90.56%,在频率域为98.48%,TrL-CNN分别为90.85%和98.31%。频率域信号的相对较高性能可以由几个因素解释。首先,时间域信号复杂、噪声大且在视觉上相似(见图6(a, c, e)),这使得模型难以找到可区分的特征,从而导致性能不佳。相比之下,每个频率域信号类别都显示出可区分的特征。例如,裂纹谱是宽带的,在多个频率上分布能量(见图6(b);起伏谱呈现尖锐的窄带峰值(见图6(d)),而健康谱则相对平滑(见图6(f))。重要的是,这些光谱特征在SDM数据(见图5(b, d, f)和现场采集数据(见图6(b, d, f))之间是一致的。由于SDM数据和现场采集数据之间的域差距较小,模型能够从SDM数据中学习到这些基本的光谱模式,并利用少量样本学习将其应用于现场数据。
关于架构比较,DNN的准确率最低(75.2%),这可能是由于其简单的全连接结构在捕捉复杂空间模式方面效果较差。TrL-ResNet的准确率(98.48%)略高于TrL-CNN(98.31%),但其置信区间稍宽(±1.1%)。TrL-CNN结合了更高的准确率和更窄的置信区间,体现了高准确率和稳定性之间的最佳平衡。此外,TrL-CNN的训练时间(使用Intel Core Ultra 7 265处理器和32GB内存)比TrL-ResNet(22分钟36秒)更短。较快的训练时间和大致相似的测试准确率使得TrL-CNN在实际需要模型重新训练或更新的场景中更加实用,特别是在资源有限的操作环境中。
4. 结论
本研究提出了一种基于迁移学习的新型铁路缺陷分类框架。与使用纯数值模拟方法不同,本研究利用SDM生成了三种铁路振动信号类别(健康、裂纹和起伏)的源域数据。首先用生成的SDM数据对CNN进行预训练,然后使用少量(10%)现场采集的数据通过少量样本学习方法对模型进行微调,最终得到了基于迁移学习的CNN(TrL-CNN)作为缺陷分类模型。在东南亚一个铁路组织的实际现场采集的数据中,对该TrL-CNN模型的缺陷分类性能进行了测试。TrL-CNN在频率域数据集中的表现优于其他模型,平均准确率达到98.31%。与基线模型(DNN和ResNet)的比较分析证实了所提出方法的优越性。TrL-CNN不仅取得了最高的准确率(98.3%),置信区间也最窄(±0.3%),同时训练时间也较短(16分钟37秒),比TrL-ResNet(22分钟36秒)更优。本研究的主要结论如下:
- 所提出的框架提供了一种利用铁路振动数据进行铁路缺陷分类的智能方法,消除了特征提取和分析的挑战。它在准确率、稳定性和计算效率之间取得了最佳平衡,且优于DNN,并且所需时间更短。
- 开发的基于SDM的实验设置成功生成了来自不同类型铁路缺陷的振动数据。这些数据类似于真实现场数据,使得基于实验缩放设置的TL和FSL能够有效用于铁路缺陷分类模型的构建。
- 基于TL的缺陷分类模型利用铁路SDM数据进行有效预训练,减少了对真实现场缺陷数据的依赖,而这种数据通常难以获得。此外,其与SDM数据的关联使得该模型能够在未来的各种工作条件和场景中应用。
- 此开发的基于铁路SDM的实验系统结合迁移学习方法,可以为实际场景中的铁路缺陷智能分类奠定基础。
**资助**
本研究完全由可靠性与安全进步中心(CAiRS)的资助支持,该中心隶属于AIR@InnoHK研究集群,同时也得到了香港特别行政区政府创新及科技委员会(ITC)对香港中国国家铁路电气化和自动化工程技术研究中心的资助(拨款编号K-BBY1)。
**CRediT作者贡献声明**
- Imran Ghafoor:撰写——审阅与编辑、撰写——原始草稿、可视化、验证、软件、方法论、调查、正式分析、数据策划、概念化。
- Nauman Munir:撰写——审阅与编辑、验证、监督、方法论、调查、概念化。
- Tak-Lam Chan:监督、软件、资源管理、项目协调、资金筹集、概念化。
- Andy Chi-Ho Chan:可视化、软件、资源管理、数据策划、概念化。
- Ali Raza Shahid:撰写——审阅与编辑、可视化、验证、方法论、正式分析、数据策划。
- Haibo Hu:监督、资源管理、项目协调、资金筹集、概念化。