基于迁移学习和图卷积神经网络的时空少量样本交通流量预测
《Alexandria Engineering Journal》:Spatio-temporal few-shot traffic flow prediction based on transfer learning and graph convolutional neural networks
【字体:
大
中
小
】
时间:2026年05月01日
来源:Alexandria Engineering Journal 6.8
编辑推荐:
王东学|徐晨|蔡宏国
河南机电职业学院信息工程学院,郑州450000,中国
**摘要**
解决交通流数据中隐藏的、复杂的、动态的时空相关性和异质性所带来的挑战对于实现高精度的交通流预测至关重要。新交通节点和道路的引入加剧了这些挑战,因为可用的样本量有限,导致用于准确
王东学|徐晨|蔡宏国
河南机电职业学院信息工程学院,郑州450000,中国
**摘要**
解决交通流数据中隐藏的、复杂的、动态的时空相关性和异质性所带来的挑战对于实现高精度的交通流预测至关重要。新交通节点和道路的引入加剧了这些挑战,因为可用的样本量有限,导致用于准确预测模型或训练的历史数据稀缺。为了解决新兴城市、新交通节点或传感器稀疏区域中交通流预测训练数据不足的实际问题,本文提出了一种基于迁移学习和图卷积神经网络(TL-DGCNN)的模型。该模型能够捕捉交通数据中的空间依赖性和复杂的动态空间关系网络,包括动态和静态特征。通过实施由注意力机制驱动的动态自适应图卷积,TL-DGCNN模型有效应对了由于交通数据分布剧烈变化而导致的知识迁移损失问题。与最佳基线模型相比,该模型在PEMS-BAY数据集上的MAE降低了13.1%,MAPE降低了15.2%,RMSE降低了8.2%;在METR-LA数据集上的MAE降低了12.1%,MAPE降低了16.0%,RMSE降低了7.0%;配对t检验(α=0.05)验证了性能提升具有统计学意义(p<0.05)。实验结果验证了该模型在数据稀缺和样本量有限的交通流场景中的准确性和鲁棒性,证明了其显著提高预测性能的能力。此外,TL-DGCNN在保持较低的计算复杂性和推理延迟的同时,实现了卓越的预测准确性,实现了准确性和复杂性之间的良好平衡,适用于实际应用。本研究为智能交通系统建设提供了实际支持,帮助交通管理部门实施动态调度和优化资源分配,同时丰富了智能交通领域的少样本学习方法。
**1. 引言**
随着城市化的加速,城市人口和机动车辆数量迅速增长,交通拥堵已成为现代城市发展中亟需解决的核心问题。交通拥堵不仅导致出行时间延长、能源消耗增加和环境污染恶化,还可能引发公共安全风险,如紧急服务延误。交通拥堵造成的经济损失严重制约了城市的可持续发展。在这种情况下,作为智能交通系统(ITS)核心组成部分的准确及时的交通流预测,在缓解交通压力、优化资源分配和提高出行效率方面具有重要的实际意义。通过准确预测交通流,可以提前预警拥堵区域,为驾驶员提供路线规划参考,并协助交通管理部门制定动态控制策略,如优化信号灯时序和分配交通资源。
城市交通具有复杂性,现实世界中的城市交通既包含不稳定性也包含相似性。城市交通的不稳定性要求模型能够适应突发事件和随机变化,例如交通事故和突发天气变化,这些可能对城市交通流产生突然影响。这需要在模型设计中考虑这些短期不确定性。同时,城市交通在时间和空间上表现出规律性,这与居民的生活方式有关,例如工作日高峰期的交通拥堵或类似城市功能区域的流量相似性[1]。这些规律性信息是预测模型的重要线索。此外,外部环境因素也是影响城市交通流变化的主要因素。例如,天气、温度、节假日和时间等外部因素对城市中人们的出行有显著影响,这需要设计适当的预测模型,合理地将这些因素纳入交通变化预测过程中以提高预测准确性[2]。
深入探索城市交通流中的时空交互关系揭示了城市交通系统中不同区域和时间段之间隐藏的丰富交互关系。因此,预测模型需要深入理解和探索这些隐含的交互关系以提高预测准确性。城市交通具有时空异质性,主要体现在两个方面:首先,不同区域之间的相关性随时间变化,例如在工作日早晨,居住区附近的交通高峰流向不同办公区附近的交通枢纽传播所需的时间不同;其次,同一区域内交通的重要性也会随时间变化。在工作日早晨,居住区交通枢纽的比例可能会突然增加,但在其他时间,城市中心的交通枢纽可能在城市交通中占据重要地位。因此,预测模型不仅需要区分不同时间段内不同区域之间的交互关系差异,还需要捕捉不同时间段内的主要交通枢纽[3]。
在实际应用中,新兴城市的扩张、道路网络的扩展以及传感器部署的限制导致许多地区面临“时空样本有限”的困境。具体来说,新的交通节点(如交叉口和收费站)或扩展的道路路段由于传感器安装时间短而缺乏足够的训练历史数据。由于监测设备覆盖不足、数据传输故障或技术限制(如感应线圈成本高和视频检测信号问题),某些地区可能会出现缺失、不完整或噪声较大的交通数据。在许多发展中国家,交通数据呈现出“样本少”的特征:一方面,传感器部署时间短,历史数据积累不足;另一方面,在数据收集过程中存在数据丢失和噪声等问题,进一步减少了可用数据量。传统的深度学习模型严重依赖标注数据进行训练,这在样本量少的情况下容易导致过拟合和预测准确性大幅下降。
从交通流特征的角度来看,其时空相关性具有高度复杂性:在时间维度上,交通流具有明显的日内周期(如早晚高峰时段)、周内模式以及突发随机性(如交通事故和极端天气影响)。在空间维度上,交通流不仅受到相邻道路路段的直接影响,还通过复杂的道路网络拓扑形成远距离依赖性。非相邻道路路段也可能通过道路网络连接产生间接影响。这种复杂的时空动态特征对预测模型的特征提取能力提出了极高要求,传统的统计模型和简单机器学习方法难以有效捕捉其内在模式[4]。然而,传统的CNN仅适用于欧几里得结构的数据(如图像),难以直接处理交通网络的图结构特征,从而在捕捉远距离空间依赖性方面存在不足。交通网络本质上是由节点(道路交叉口)和边(道路连接)组成的有向图,具有典型的非欧几里得结构特征。GCNN通过聚合节点及其邻居的特征信息,可以有效捕捉交通网络中的复杂空间依赖性[5]。基于GCNN的模型通过将交通网络建模为图结构并结合时空卷积操作,显著提高了交通流的时空特征表示能力。
在从有限样本中学习的范围内,迁移学习作为一种强大的工具应运而生,它利用数据丰富的源域的知识来缓解目标域的数据稀缺问题,并将其应用于信息匮乏的目标域。最近的研究验证了迁移学习在少样本交通流预测中的有效性,但大多数研究采用静态图建模和简单的域对齐方法,导致对动态交通特征的适应不足以及城市之间的知识迁移损失较大[6]、[7]、[8]。GCNN特别擅长处理交通网络特有的图结构数据。通过实现源域中GCNN获得的空间特征表示和图拓扑洞察的迁移,即使在样本数量有限的情况下,也能显著增强目标域的时空特征提取能力。交通网络凭借其固有的图结构,成为GCNN可以有效处理以检测节点间复杂空间交互的数据集的典型例子。迁移学习与GCNN之间的协同作用不仅利用了源域丰富的图结构知识和时空特征表示来增强目标域的预测能力,还在样本量有限的约束下实现了这一点。此外,这种战略性的结合有助于模型快速吸收来自目标域少量样本的新概念,借鉴了从源域转移的基础知识[9]。因此,这种方法为学习样本有限的场景中常见的过拟合问题提供了有力的解决方案,为交通领域及其他领域的更健壮和适应性强的预测模型铺平了道路。
交通流的变化不仅受其固有的时空特征影响,还受天气、节假日和大规模事件等外部因素的影响。大多数现有的基于迁移学习的GNN模型仅简单融合外部因素或忽略它们,未能充分探索外部因素与交通流动态之间的复杂非线性关系[10]、[11]。大多数基于GCNN的现有模型假设交通网络的图结构是静态的,即节点之间的空间依赖性是固定的且不变的。然而,实际交通网络中的时空关系具有显著动态性——高峰期和非高峰期道路段落的影响强度不同,意外事件可能导致道路网络依赖性的突然变化。静态图结构难以捕捉这种动态变化,导致模型对复杂交通场景的适应性不足[12]。现有GCNN模型在数据稀缺条件下表现不佳,且对动态城际场景的迁移学习探索有限。此外,最新研究表明,当前的少样本交通流预测模型仍存在计算复杂度高、在极端少样本条件下的鲁棒性差以及参数迁移协议不明确等问题[13]、[14]。为了解决这些问题,本文做出了以下关键贡献:(1)提出了一种结合基于注意力的动态图学习和迁移学习的新型TL-DGCNN框架,用于少样本交通流预测;(2)设计了时空域适应模块,以减少源城市和目标城市之间的数据分布差异;(3)引入外部特征融合(天气、节假日、事件)以提高模型对实际交通动态的适应性;(4)建立了明确的城际迁移协议和参数微调策略,以确保方法论的透明度和可重复性;(5)在不同少样本量下进行了全面的模型鲁棒性实验,并完成了正式的统计显著性测试以验证模型的有效性。本研究通过整合迁移学习和GCNN,为时空少样本场景下的交通流预测提供了新的理论框架,丰富了智能交通领域的少样本学习方法。我们提出的动态时空图建模方法扩展了图神经网络在交通流预测中的应用范围,并为捕捉复杂动态依赖性提供了新的思路。
本文的其余结构如下:2部分回顾相关工作并添加了文献对比表;3部分阐述了少样本交通量预测问题,并详细介绍了城际迁移协议和参数迁移/微调设置;4部分提出了TL-DGCNN模型,并添加了计算复杂性分析和相关对齐算法的伪代码;5部分进行了实验评估,包括数据预处理流程、扩展的基线比较、统计显著性测试、门控机制的消融研究以及少样本条件下的模型鲁棒性分析;最后,6部分提供了我们的结论性意见。
**2. 相关工作**
当前的研究主要集中在基于时空融合的预测模型上,这些模型通常假设在全面的数据集上进行训练。然而,当在数据稀疏的环境中部署时,它们的有效性会降低,从而导致预测准确性下降。挑战在于如何利用从多个来源城市(那些拥有丰富交通流量数据的城市)获得的现有知识,以提高目标城市的预测准确性。这种方法旨在减轻由于数据分布差异导致的预测准确性下降和负面迁移效应。少量样本交通流量预测的概念应运而生,通过利用其他数据丰富的城市的海量交通流量数据来加强目标城市的交通流量预测,特别是在目标城市的交通数据稀缺的情况下。这一策略旨在弥合数据差距,尽管存在数据稀缺的固有限制,仍能实现更准确和可靠的交通流量预测。
从交通网络中的传感器收集的时空数据既庞大又复杂,这给精确预测带来了显著挑战。随着深度学习等技术的进步,交通流量预测的准确性有了显著提高。近年来,交通流量预测的研究逐渐从静态图模型转向动态图模型,并从单城市训练转向跨城市迁移学习,最新的研究集中在整合元学习和少量样本学习以提高模型的适应性[15]、[16]、[17]。
多位研究人员为这一领域贡献了创新解决方案:Shao等人[18]引入了自适应长短组合(LSC)框架,结合了短期预测模块和属性预测模块,以预测每个时间点的未来交通属性。Zhang等人[19]开发了一种先进的时空残差图注意力网络,通过完整的残差图注意力块增强空间特征的动态聚合,并利用序列到序列块捕捉时间依赖性。Zeng等人[20]探索了针对缺失数据场景的混合模型,采用PMM和KNN进行数据插补,并使用BiLSTM进行预测,整合环境和时间因素以提高预测精度。Zhang等人[21]提出了快速纯Transformer网络(FPTN),利用嵌入和变换编码器同时捕捉交通数据中的复杂时空相关性。Zhang等人[22]的另一个创新解决方案是基于注意力的时空图Transformer(ASTGT),它利用时间编码器和时空解码器有效地预测交通流量。Zhou等人[23]提出了一个混合模型,利用空间和通道注意力模块来解决预测精度问题,考虑了区域和特征通道的异质性,从而权衡不同位置和通道的重要性。Yang和Lv[24]改进了一种图深度学习方法进行预测,利用图卷积网络(GCN)识别隐含的复杂道路网络关系,便于进行现代城市规划所需的高效预测。Bing等人[25]提出了一种结合CNN-Transformer模型的策略,旨在揭示内在的交通数据特征,以提高短期预测准确性。最后,Huo等人[26]设计了一个分层网络,包括长期时间Transformer(LTT)和时空图卷积网络(STGC),旨在捕捉长期依赖性和即时的时空关系。这些贡献突显了深度学习和其他方法在提高交通流量预测方面的动态发展和应用,展示了该领域向更细致和准确预测模型的迈进。
在最近的时代,少量样本学习的概念引起了广泛关注,特别是在社会、交通和电网网络等特定城市环境中的预测任务中。尽管这些网络中存在数据样本有限或数据集不完整的节点,少量样本学习技术已被证明是有效的。这种效果主要归功于利用某些节点处丰富的数据集和图中的广泛关系结构。Zhou等人[27]引入了一种图神经网络(GNN),专门用于解决图上的少量样本学习中的节点分类问题。他们的模型利用了在大量类似少量样本任务上获得的先验知识,从而能够在标记数据最少的情况下对节点进行精确分类。另一方面,Bi等人[28]致力于解码图中神秘的沉默多数节点,创建了一个具有创新“特征补全和消息传递机制”的模型。该机制经过微调,可以适应各种领域,为更好地理解节点表示铺平了道路。Prabowo等人[29]提出了空间比较预训练(SCPT)框架,这是一种将空间编码器模块集成到推理工作流中的新方法。这种策略性的包含旨在发现和利用网络中以前被忽视的路径的潜在特征。进入交通管理领域,Gao等人[30]提出了一种预测交通速度的方法,通过分析多时间段的交通流量有效减少了数据稀缺的挑战。通过识别不同时间的独特交通模式并部署实验分析来确定最有效的模型,他们在优化交通流量预测方面取得了进展。这些开创性的努力表明,在将少量样本学习应用于以城市为中心的预测任务方面取得了飞跃,为管理城市网络的复杂动态提供了更好的决策工具。
尽管在将少量样本学习应用于交通领域(尤其是在预测交通流量方面)方面取得了一些进展,但仍有很大的改进空间。改进的主要目标在于提高模型的泛化能力,并在交通流量样本稀少的情况下优化其性能。迁移学习在这种情况下成为一种强大的策略,提供了一种在不同任务场景中重新使用模型的方法,从而使算法性能符合对预测准确性的严格要求。与传统机器学习方法不同,迁移学习基于这样的原则:模型学习的源领域和模型应用的目标领域可能不具有相同的数据特征或任务规格。迁移学习的本质在于它能够利用不同领域之间的相似性——无论是数据、任务目标还是模型架构——从而无缝地将在一个领域训练的模型转移到另一个领域以解决挑战[31]。深度学习的出现促进了复杂的深度迁移学习算法的发展。DaNN、DDC和DAN等创新代表了深度神经网络与迁移学习基本原理的融合,开辟了模型适应性的新领域。这些深度迁移学习方法明显优于传统的非深度方法,在众多任务中提供了更好的结果。这一演变强调了利用深度迁移学习推进交通流量预测领域的潜力,推动了在准确性和模型适应性方面所能取得的成就[32]、[33]。
本研究对该领域做出了几项贡献:
(i) 引入了一个创新的交通流量预测框架,该框架对新兴趋势敏感,结合了时空注意力和卷积来从多变量交通数据中提取关键特征。
(ii) 提出了TL-DGCNN模型,该模型能够捕捉静态和动态的空间依赖性,并具有时空域适应模块,以减少源城市和目标城市之间的迁移损失。
(iii) 融合了外部因素(天气、假期、事件),并采用多头趋势感知注意力机制来捕捉短期波动和长期模式。
(iv) 通过动态图剪枝和参数共享优化计算效率,使其适用于实时交通系统。
(v) 建立了明确的城际迁移协议和参数微调策略,并提供了核心算法的结构化伪代码以确保可重复性。
(vi) 进行了全面的实验,包括统计显著性测试、扩展的基线比较和少量样本鲁棒性分析,以充分验证模型的有效性。
3. 城际少量样本交通流量预测架构
少量样本交通预测的挑战可以被视为迁移学习领域内的一个问题。在这种情况下,相关变量从迁移学习的角度阐述了少量样本交通流量预测问题的具体内容。
3.1. 相关变量
对于交通流量X,定义为表示时间t时整个节点的特征矩阵,用于描述节点的属性或状态。考虑到使用H表示历史数据的步长,时间t的历史数据交通流量矩阵可以表示为Xt=[xt?H?1,xt?H,…,xt?1,xt]。由于本文只考虑平均速度这一个属性,herext是一个N×1维矩阵,其中N表示节点的数量。在本文中,我们还需要考虑空间特征,可以抽象为时空图GST=(V,E,A,X),其中V={v1,v2,v3,…vN}表示节点集,N=|V|表示节点的数量,E=eij=(vi,vj)?(V×V)表示边集,A=aij∈RN×N是时空图的邻接矩阵,X={X|Xt∈X,t=1,…,n},其中n表示传感器捕获的速度样本数量。在本研究中,我们探索了与整个城市道路网络相关的交通流量数据特征。我们选择由检测器记录的平均车辆速度作为研究的焦点。这使我们能够将全市的车辆速度建模为时空映射数据。使用这种格式显著增强了时空映射方法的应用,便于对其空间和时间特征进行深入分析和计算(见表1)。
表1. 主要符号定义
符号 定义
Xt 时间t时所有节点的特征矩阵 1×N
H 历史数据的步长 标量
Xt 历史数据(时间t?H到t)的交通流量矩阵 H×N
GST 时空图 V {v1,v2,?,vN}
E 边集(道路连接) E={ei=(vi,vj}
A 时空图的邻接矩阵 N×N
D 传感器捕获的速度样本集 n×N
P(X) 特征空间X和数据分布P(X) -
STE(GST) 时空图在向量空间中的映射 T={Y,f}
T 任务(输出空间Y和目标函数f) -
f(xt?H+1,?,xt;G)→(xt+1,?,xt+M) 估计器
Gsource 源城市(具有足够的交通数据) -
Gtarget 目标城市(交通数据有限) -
D由两部分组成:数据和数据分布。其中,数据的特征空间可以表示为X,数据分布可以表示为P(X),即D={X,P(X)}。这里,X可以定义为时空图GST在向量空间中的表示。具体来说,时空图在向量空间中的映射可以表示为STE(GST),这使得GST可以更好地分析和计算。任务T包括两部分:输出空间Y和从X映射到Y的目标函数f(?),即T={Y,f(?)}。f(?)可以被视为这个交通预测任务中的估计器。训练目标是找到一个合适的f(?),通过输入前H时间步的历史数据来预测未来的数据,这可以在方程(1)中表示。
[xt?H+1,…,xt;GST]→f(?)[xt+1,…,xt+M]
城市可以根据静态检测器收集的数据量分为两类:源城市和目标城市。源城市拥有大量的交通流量数据,因此信息丰富。相反,目标城市的数据可用性有限,给全面分析带来了挑战。考虑一个包含P个源城市的数据集,可以表示为G1:Psource=[G1source,…,GPsource],以及一个目标城市Gtarget,其交通数据量远少于源城市,即|Xsource|?|Xtarget|。
3.2. 预测架构的建立
城际欠采样交通预测问题可以表示为一个迁移学习问题。对于多个具有足够数据的源城市,它们的域和任务可以定义为Ds={Xs,Ps(X)}和Ts={Ys,fs(?)};对于数据稀少的目标城市,它们的域和任务可以定义为Dt={Xt,Pt(X)}和Tt={Yt,ft(?)}。本文中使用的交通流量是城市中速度计收集的数据,因此从数据特征的空间分析来看,源城市和目标城市的数据特征是一致的,即Xs=Xt和Ys=Yt。然而,由于不同的交通环境,源城市和目标城市的数据分布不同,因此它们的估计器也不同,即Ps(X)≠Pt(X),fs(?)≠ft(?)。这项研究的主要目标是改进算法,以实现从源城市到目标城市的无缝过渡。
3.3. 城际迁移协议
为了确保方法透明度和可重复性,我们明确定义了TL-DGCNN模型的三阶段城际迁移协议,包括预训练、域对齐和微调,并阐明了每个模块的参数迁移和微调设置:
1. 预训练阶段:整个TL-DGCNN模型在多个源城市(Ds1,Ds2,…,DsK)的合并数据集上进行预训练,目的是最小化交通流量预测的监督MSE损失。预训练过程使用模型的全部参数设置,并训练200个周期,以确保模型学习到交通流的通用时空特征和图拓扑知识。2. 领域对齐阶段:基于预训练模型,激活时空域适应模块(Gating、Weighting、Fusion)和相关性对齐算法,以对齐源域和目标域的二阶特征分布。在此阶段,固定预训练的特征提取模块和注意力层的参数,仅训练时空域适应模块的参数50个周期,学习率为0.0005,以减少源城市和目标城市之间的数据分布差异。3. 微调阶段:在小型样本目标城市数据集Dt上对齐模型进行微调。转移预训练的特征提取模块(时间CNN + 空间动态图卷积)、时空注意力层和外部特征融合模块的参数,并以0.0001的小学习率进行微调;重新初始化时空域适应模块和推理模块(MLP),并在目标城市数据上从头开始训练。微调过程训练100个周期,结合监督MSE和无监督域适应损失,以使模型适应目标城市的本地交通特征。参数转移和微调细节:时间特征提取器(时间CNN + 时间注意力)、空间特征提取器(动态图卷积)和外部特征融合模块的所有可训练参数都从预训练的源城市模型转移过来;时空域适应模块(Gating、Weighting、Fusion)和推理模块(MLP)的参数重新初始化。在微调过程中,转移参数的学习率为0.0001(预训练学习率的1/10),新初始化参数的学习率为0.001,以确保模型稳定收敛。3.4. 源城市和目标城市的迁移学习训练图1展示了源城市和目标城市的迁移学习训练过程,从数据输入到预测输出。如图1所示,在迁移学习中,目标城市代表了综合所有源城市的最终模型,因此提供了全面的预测或决策功能。每个源城市作为一个节点,最初使用从本地用户设备群集检索的交通数据进行训练。这些节点通过下载参数并异步更新它们与目标城市进行交互。每个中间节点在从用户设备群集收集数据(称为数据卸载)方面起着关键作用,并使用为其设计的迁移模型进行训练,同时促进节点之间的交互。每个源城市的设备群集作为原始数据的主要来源,然后将其卸载到相应的节点用于模型训练。这种结构允许模型的分布式训练和优化,同时确保用户数据的隐私。3.5. 迁移学习训练框架在城市数据收集端,不同的用户设备对应于源城市和目标城市中的各种数据收集点,如传感器、政府系统和企业数据库。本地数据集对于每个城市的交通流是唯一的。边缘节点是源城市或目标城市的本地训练单元,首先执行数据卸载和迁移操作,如过滤和预处理,然后基于本地数据训练本地模型。全局模型作为跨城市的迁移学习中心,从边缘节点聚合模型参数(而不是原始数据)。通过参数聚合(如加权融合),将源城市模型的知识(如交通流预测能力)转移到目标城市场景中(例如帮助目标城市优化交通能源调度)。目标城市的边缘节点使用更新后的全局模型,结合本地数据,继续迭代并实现“源城市知识转移赋能目标城市任务”,同时反向优化全局模型。模型在源城市数据上的训练能力是通过全局模型转移和适应目标城市任务来实现的,使目标城市模型能够基于“源城市经验”进行优化,加速收敛并提高性能。图2展示了基于迁移学习和动态图卷积神经网络的城际少量样本交通流预测架构。如图2所示,数据容量分为两类,即源城市和目标城市。源城市是指具有足够交通量数据的城市,而目标城市是指数据量较少的城市。每个模块用于捕获交通流的潜在深度特征。为了确保输出与预测的目标基本相同,使用全连接层进行调整。然后,通过门控融合机制和参数矩阵,将三个独立部分的输出融合以获得最终预测结果。这种设计架构可以充分利用时空注意力和卷积操作从交通流数据中提取关键特征,并通过融合机制生成准确的预测结果。该架构的目的是灵活识别道路网络中各种传感器之间的交互。它通过考虑交通条件的空间特性以及一条道路上的交通流如何动态影响其他道路上的交通流来准确模拟交通状况。该机制可以在不同时间步骤为不同的顶点(如传感器)动态分配权重。通过这种机制,模型可以自适应地调整对不同传感器之间相关性的关注,从而更好地捕捉道路网络中传感器之间的空间相关性。这种设计增强了模型对交通流数据空间特征的建模能力,从而提高了交通流预测的准确性。时空域适应模块包括Gating、Weighting和Fusion,它们使用全连接层来学习“门控”并确定如何过滤和加权源城市信息(例如哪些源城市模式对目标城市更有用),实现“知识转移适应”。根据门控输出,为不同的源城市/特征分配权重,突出对目标城市有价值的信息。将“加权源城市信息”与“目标城市数据”整合,使模型能够学习城市间的时空相关性。该模块使用对抗方法学习城际可转移的知识,并减少源城市和目标城市之间的数据差异,这可以通过时空差异损失来表示。推理模块主要包括一个时空嵌入子模块和一个多层感知器(MLP),其中时空嵌入子模块的参数来自时空域模块的训练结果。最后,本文使用多层感知器来学习降维的时空特征,并计算输出与真实值之间的损失。特征提取器整合了时间和空间特征提取器,以提取时空融合特征。基于GCNN的方法在捕获同一城市中不同节点之间的空间相关性方面取得了良好的结果。然而,GCNN在处理时空数据时存在一些局限性。首先,GCN为相邻节点分配相同的权重,这可能不适用于所有节点对之间的连接关系。其次,GCNN需要显式计算每个时间步骤两个节点的时空分布,从而导致较高的计算成本。此外,在处理动态图问题时,GCNN无法灵活处理训练阶段和测试阶段之间不同的图结构。为了解决这些问题,本文引入了图注意力网络(GAT)。GAT通过引入注意力机制解决了GCNN的局限性。注意力机制允许GAT为不同节点对之间的连接关系分配不同的权重,从而更好地捕捉空间相关性。通过学习相邻节点的权重分配,GAT可以灵活适应不同的图结构并处理动态图问题。同时,通过引入注意力机制,GAT可以在不显式计算所有节点对之间的时空分布的情况下,自适应地关注不同节点对的重要性,从而降低计算成本。通过叠加时间特征提取器和空间特征提取器,可以全面利用时空信息来获得时空嵌入模块。时间特征提取器可以捕捉时间序列的动态趋势,而空间特征提取器可以捕捉不同空间位置之间的相关性。通过时空融合,可以全面考虑时空因素对模型的影响,从而提高预测性能。此外,时空融合方法可以减轻数据中的噪声和不确定性,增强模型的鲁棒性和泛化能力。由于不同城市的交通环境不同,数据分布可能会发生变化。通过时空融合,模型可以更好地适应这种小样本环境,并从中提取更准确的时空模式。动态邻接矩阵旨在区分某个时间步长的时空特征属于数据充足的源城市还是数据稀疏的目标城市。迭代训练判别器和时空嵌入模型的目标是使判别器难以确定时空嵌入生成的时空特征的来源。3.6. TL-DGCNN的详细架构图3显示了城际少量样本交通流预测模型的详细架构:如图3所示,该模型由四个核心模块组成:数据输入模块:包括源城市交通数据、目标城市交通数据和外部特征(天气:温度、降水;节假日:二进制指示器;事件:交通事件强度)。特征提取模块:整合时间特征提取器(时间CNN + 时间注意力)和空间特征提取器(动态图卷积 + 空间注意力)以提取时空融合特征。时空域适应模块:包括Gating、Weighting和Fusion子模块。它使用全连接层来学习源城市信息的“门控”过滤和加权,为不同的源城市/特征分配权重,并将加权后的源城市信息与目标城市数据整合。使用对抗方法学习城际可转移的知识,减少数据差异(通过时空差异损失衡量)。推理模块:包括一个时空嵌入子模块(来自时空域模块训练的参数)和MLP,它学习降维的时空特征并计算预测损失。基于GCNN的方法在捕获同一城市中节点之间的空间相关性方面取得了良好的结果,但在处理时空数据时存在局限性:(1)为相邻节点分配相同的权重,这可能不适用于所有节点对;(2)需要显式计算每个时间步骤两个节点的时空分布,导致较高的计算成本;(3)无法灵活处理训练阶段和测试阶段之间不同的动态图结构。为了解决这些问题,本文引入了图注意力网络(GAT)。GAT通过引入注意力机制解决了GCNN的局限性。注意力机制允许GAT为不同节点对之间的连接关系分配不同的权重,从而更好地捕捉空间相关性。通过学习相邻节点的权重分配,GAT可以灵活适应不同的图结构并处理动态图问题。同时,通过引入注意力机制,GAT可以在不显式计算所有节点对之间的时空分布的情况下,自适应地关注不同节点对的重要性,从而降低计算成本。通过叠加时间特征提取器和空间特征提取器,可以全面利用时空信息来获得时空嵌入模块。时间特征提取器可以捕捉时间序列的动态趋势,而空间特征提取器可以捕捉不同空间位置之间的相关性。通过时空融合,可以全面考虑时空因素对模型的影响,从而提高预测性能。此外,时空融合方法可以减轻数据中的噪声和不确定性,增强模型的鲁棒性和泛化能力。由于不同城市的交通环境不同,数据分布可能会发生变化。通过时空融合,模型可以更好地适应这种小样本环境,并从中提取更准确的时空模式。动态邻接矩阵旨在区分某个时间步长的时空特征属于数据充足的源城市还是数据稀疏的目标城市。迭代训练判别器和时空嵌入模型的目标是使判别器难以确定时空嵌入生成的时空特征的来源。3.6. TL-DGCNN的详细架构图3显示了TL-DGCNN模型的详细架构:如图3所示,该模型由四个核心模块组成:数据输入模块:包括源城市交通数据、目标城市交通数据和外部特征(天气:温度、降水;节假日:二进制指示器;事件:交通事件强度)。特征提取模块:整合时间特征提取器(时间CNN + 时间注意力)和空间特征提取器(动态图卷积 + 空间注意力)以提取时空融合特征。时空域适应模块:包括Gating、Weighting和Fusion子模块。它使用全连接层来学习源城市信息的“门控”过滤和加权,为不同的源城市/特征分配权重,并将加权后的源城市信息与目标城市数据整合。使用对抗方法学习城际可转移的知识,减少数据差异(通过时空差异损失衡量)。推理模块:包括一个时空嵌入子模块(来自时空域模块训练的参数)和MLP,它学习降维的时空特征并计算预测损失。基于GCNN的方法在捕获同一城市中节点之间的空间相关性方面取得了良好的结果,但在处理时空数据时存在局限性:(1)为相邻节点分配相同的权重,这可能不适用于所有节点对;(2)需要显式计算每个时间步骤两个节点的时空分布,导致较高的计算成本;(3)无法灵活处理训练阶段和测试阶段之间不同的动态图结构。为了解决这些问题,本文引入了图注意力网络(GAT)。GAT通过注意力机制为节点对之间的连接分配不同的权重,更好地捕捉空间相关性。它适应不同的图结构,处理动态图问题,并通过避免显式计算所有节点对之间的时空分布来降低计算成本。通过叠加时间特征提取器和空间特征提取器,时空嵌入模块可以全面利用时空信息。时间特征提取器捕捉时间序列的动态趋势,而空间特征提取器捕捉空间位置之间的相关性。时空融合考虑了时空因素的影响,减轻数据噪声和不确定性,并增强了模型的鲁棒性和泛化能力。它帮助模型适应小样本环境,并在由于不同交通环境导致的数据分布变化的情况下提取准确的时空模式。动态邻接矩阵区分某个时间步长的时空特征属于数据充足的源城市还是数据稀疏的目标城市。判别器和时空嵌入模型经过迭代训练,使判别器难以确定时空特征的来源,促进可转移特征的学习。4. 方法论本节详细介绍了TL-DGCNN模型的关键组成部分,包括空间维度建模、注意力驱动的动态自适应图卷积、时间维度建模、相关性对齐和输出预测。4.1.空间维度建模
不同道路交通节点之间的相互作用应该是动态的,而不是静态的。特定路段的拥堵不可避免地会导致相邻路段交通流量的变化。因此,使用动态邻接矩阵可以更有效地适应不同场景下道路网络的波动状态。具体来说,在使用Xt到Xt+s来预测Xt+s+1到Xt+s+o时,会使用Xt到Xt+s的数据来计算每个时刻的新邻接矩阵,即数据Xt到Xt+s为Zt∈?s×N×d,然后利用变量之间的相似性来定义每个时刻的邻接矩阵:
(2) M1=σ(Ztθ1),M1∈?s×N×d′
(3) M2=σ(Ztθ2),M2∈?s×N×d′
(4) A=σ(M1M2T+M2M1T),A∈?s×N×N
(5) A(i,j,k)={1, 如果 A(i,j,k)≥1 则 A(i,j,k)∈?N×N,否则 A(i,j,k)∈?N×N,其中 ∑Ai,i∈[1,s],j,k∈[1,N];0,如果 A(i,j,k)<1
最初,使用两个不同的映射函数θ1∈?d×d′和θ2∈?d×d′(都随机初始化),将数据集Zt∈?s×N×d投影到同一个高维空间中。这种方法通过高维嵌入有效地增强了捕捉和表示数据复杂性和多样性的能力。在这个扩展的空间中,每个维度可以表示数据的一个特定特征或属性,从而丰富和详细化数据表示。随后,通过内积得到相似性矩阵M1M2T和M2M1T。这些矩阵分别表示源城市对目标城市的依赖性以及反之亦然,通过它们的聚合促进了双向建模。为了确保邻接矩阵保持稀疏同时避免过拟合,它基于平均值进行过滤处理。在这种方法中,如果矩阵中的位置的相似性得分达到或超过整个邻接矩阵的平均相似性得分,则为其赋值为1;否则,赋值为0。
此外,本文介绍了一种创新的空间注意力机制,旨在动态地确定道路网络内各个传感器之间的相互作用。该方法通过考虑交通状态的空间特性以及理解道路的交通流量如何受到周围道路交通流量行为的影响,有效地对交通状况进行建模。例如,它包括对附近周期性路段的空间注意力:
(6) S=Vs?sigmoid((Dh(r?1)W1)W2(W3Dh(r?1))T+bs)
(7) S′i,j=exp(Si,j)∑j=1Nexp(Si,j)
(6), (7) 动态地为不同时间间隔内的各种传感器分配权重。通过采用这种策略,模型能够灵活地调整其对不同传感器之间连接的关注度,从而增强其在道路网络传感器阵列中描绘空间关系的能力。这一架构创新显著提高了模型准确表示交通流量数据空间属性的能力,从而提高了交通流量预测的精度。
4.2. 注意力驱动的动态自适应图卷积神经网络
为了实现这一点,设计中整合了多个并行自适应图卷积层以及动态多图注意力融合组件。这一复杂的框架确保了对交通数据中空间关系的深入和细致的理解,从而实现更全面的分析。
(8) Xgc,periodt=DGCN(Xtperiod,[DEperiod||SE])
其中Xgc,periodt表示DGCN的输出,DE表示嵌入在动态节点中的特征向量,||表示拼接操作。这些DGCN块生成的输出被策略性地合并,然后导入动态多图注意力融合模块。该过程专门设计用于仔细提取和突出动态空间依赖性中存在的复杂连接。计算过程可以表示如下:
(9) Xgc,period=[Xgc,period1||?||Xgc,periodQ]
(10) Xdgcn=Output(Xgc,period,GE)
其中Xgc,period表示并行DGCN块的拼接输出,GE是由所有动态图嵌入特征向量堆叠而成的特征矩阵,Xdgcn表示DGCN模块的输出。
鉴于现实世界道路条件的本质上是动态的,并且会因多种因素而波动,捕捉这些变化至关重要。为此,本研究将不同时间间隔的交通流量数据视为图信号,每个信号代表一个潜在的动态图。这种方法允许更细致地理解交通拓扑的动态方面。
4.3. 时间维度建模
使用空间卷积模块获得输出X(k)∈?s×N×d′后,将其输入到时间卷积模块以提取时间信息。每个节点的时间卷积输入可以视为长度为s的序列,每个节点的输入为τ∈?s×d′,沿着时间维度与卷积核大小为?K1×Ci的卷积核进行卷积,共有2Co个卷积核,最终得到卷积核大小为Γ∈?K1×Ci×2Cn。卷积核Γ将输入τ映射到[PQ]∈?(s?Kt+1)×2Co。因此,时间卷积可以定义为:
(11) Γ*ττ=P⊕σ(Q)∈?(s?Kt+1)×Co
其中P和Q分别是每个门的输入。时间卷积后,最终输出为Xo∈?o5×N×Co。
时间注意力建模描述了不同时间步骤之间交通条件的非线性关联。为了更准确地理解交通条件与先前观察结果之间的关联,并确保这种关联随着时间步长的增加而变化,我们引入了一种时间注意力机制,用于适应性地理解各个时间步骤之间的相关性。例如,考虑使用这种时间注意力机制分析相邻的周期性组件:
(12) E=Ve?sigmoid(((Dh(r?1))TU1)U2(U3Dh(r?1))+be)
(13) E′i,j=exp(Ei,j)∑j=1Tr?1exp(Ei,j)
其中Ve,be∈RTr?1×Xr?1,U1∈RN,U2∈RCr?1×N,U3∈RCr?1是可学习参数。通过这种机制,模型能够动态调整其对先前观察结果的关注度,从而更有效地捕捉交通数据中的时间依赖性非线性变化,从而提高交通流量预测的准确性。
4.4. 外部特征融合
为了纳入外部因素(天气、假期、事件)对交通流量的影响,添加了一个外部特征融合模块。每个时间步的外部特征向量为Ft=[wt,ht,et],其中wt(天气特征:温度、降水量、风速),ht(假期指示器:假期为1,否则为0),et(事件强度:0–5等级)。融合过程为:
(14) Xfusion=Wf?[Xdgcn‖Ft?1N]+bf
其中Wf和bf是可学习参数,?表示张量积,1N是一个N维的全1向量。该模块将外部特征与时空特征融合在一起,提高了模型对现实世界交通动态的适应性。
4.5. 关联对齐
为了实现迁移学习过程,关联对齐算法的目标是通过学习线性变换矩阵来对齐源域和目标域中的二阶数据特征。关联对齐算法的优化目标为:
(15) argminA‖Cs??Ct‖F2=argminA‖ATCsA?Ct‖F2
其中Cs?=ATCsA是源域数据相关对齐后的协方差矩阵;‖?‖F表示Frobenius范数。假设Cs和Ct的奇异值分解分别为Cs=UsΣsUsT和Ct=UtΣtUtT;rCs和rCt分别是矩阵Cs和Ct的秩。线性变换A对协方差矩阵Cs进行相关对齐后得到源域数据协方差矩阵Cs?=ATCsA,且不改变矩阵的秩,即rCs=rCs。方程(14)的解可以在以下两种情况下讨论:
(i) 如果rCs>rCt,则优化方程(14)的最优解为Cs?=Ct=UtΣtUtT=Ut[1:r]Σt[1:r]Ut[1:r]T,其中r=rCt。
(ii) 如果rCs≤rCt,则优化方程(15)的最优解为Cs?=Ut[1:r]Σt[1:r]Ut[1:r]T,其中r=rCs。优化方程(15)的最优解为Cs?=Ut[1:r]Σt[1:r]Ut[1:r]T,其中r=min(rCs,rCt);Σt[1:r]是对角线上具有最大奇异值的矩阵,其对角元素为Ct,其余元素为0;Ut[1:r]是其列为相应左奇异向量的矩阵。
(16) Cs?=ATCsA=Ut[1:r]Σt[1:r]Ut[1:r]T
(17) ATUsΣsUsTA=Ut[1:r]Σt[1:r]Ut[1:r]T
(18) (UsTA)TΣs(UsTA)=ETΣsE
其中E=Σs+12UsTUt[1:r]Σt[1:r]12Ut[1:r]T;Σs+12是矩阵Σs的Moore-Penrose伪逆。
最终,二阶数据特征变换对齐矩阵A的最优解为:
(19) A*=UsE=(UsΣs+12UsT)(Ut[1:r]Σt[1:r]12Ut[1:r]T)
第一项UsΣs+12UsT表示白化的源域数据,即去除源域独特数据特征后的数据;第二项Ut[1:r]Σt[1:r]12Ut[1:r]T用于将白化的源域数据与目标域数据对齐。
关联对齐算法的步骤如下:
(i) 计算源域数据Cs=XsXsT和目标域数据Ct=XtXtT的协方差矩阵。
(ii) 对源域数据进行白化
(20) Xs?=Cs?12Xs
得到白化的源域数据Xs?。
(iii) 对齐白化的源域和目标域数据
(21) Xs?=Ct12Xs?
得到相关对齐后的源域数据Xs?。
通过使用关联对齐算法,可以从Ds过渡到Dt。该算法旨在将源域与目标域对齐,包括两个步骤:首先对源域数据执行白化操作以消除任何源域特有的数据特征,然后使用目标域数据的协方差矩阵将白化的源数据投影到目标特征空间。然而,由于分布不一致和域差异,同时进行白化和对齐会导致次优的迁移结果。从目标到源的逆向对齐效果也很差。所提出的关联对齐仅进行源到目标的匹配,以改进迁移学习,使分类器能够利用源特征和标签进行目标标签预测。与不进行迁移和其他对齐方案相比,这种方法大大提高了模型在目标域上的性能。
城市间少样本交通流量模型输出预测的伪代码如下:
算法
模型预测输出
下载:下载高分辨率图像(597KB)
下载:下载全尺寸图像
4.6. 输出预测
在应用顺序空间和时间卷积之后,我们获得输出Xo∈?s×N×Co。为了利用每个时间步中的信息,将Xo展平,得到X′o∈?N×(s×Co)。为了预测后续o个时刻每个节点的变量值,使用了一个线性层。这个过程产生了N个节点的预测值,最终得到输出:
(22) ′Oi=MLPi(X′o)
其中Oi∈?N×o是未来o个时间步的N个节点的输出。
随后,根据真实值计算MSE损失函数如下:
(23) Ls=∑i=1N1|oi|∑(Oi,j?Yi,j)2
其中Ls是监督损失;Oi,j是第i个节点的第j个预测值。
最终,通过计算两个损失函数的加权和来确定总损失:
(24) L=Ls+μLp
其中L是总损失;Ls是监督损失;Lp是无监督损失。
4.7. 计算复杂性分析
本小节定量分析了TL-DGCNN模型每个核心模块的计算复杂性,包括空间特征提取、时间特征提取、相关对齐以及整体复杂性,并通过动态图剪枝和参数共享验证了模型的计算效率优势。
TL-DGCNN的计算复杂性分析如下:
1. 空间特征提取:动态图卷积的复杂性为O(Kg×N2×d×Co),其中Kg是图卷积层的数量。空间注意力机制增加了O(N2×d);
2. 时间特征提取:时间卷积的复杂性为O(S×Kt×d×Co),时间注意力机制增加了O(S2×d);
3. 外部特征融合:复杂性为O(N×C×dw),其中dw是外部特征的维度(一个较小的常数,dw?C);
4. 相关对齐:复杂性为O(d3)(主要由矩阵求逆和SVD主导);
5. 总体复杂性:O(E×(Kg×N2×d×Co+S×Kt×d×Co)。
5. 推理模块(MLP):复杂性为O(N×C×M),其中M是未来预测步长。
总体计算复杂性:O(Kg×ρ×N2×C+N×C2×T×Kt+d3)。
与基线模型(例如ASTGCN、DSTAGNN)相比,TL-DGCNN通过动态图剪枝(稀疏邻接矩阵)和源域与目标域之间的参数共享(特征提取模块参数共享并仅进行微调)降低了计算复杂性,使其适用于实时交通预测系统。在实际实验中,由于超参数Kg、Kt和ρ的值较小,实际计算复杂性进一步降低。
5. 实验和结果
为了评估所提出的TL-DGCNN模型的有效性,进行了控制实验。在源城市数据上训练的模型被部署在目标城市数据集上。
5.1. 实验设置
5.1.1. 数据预处理流程
为了确保实验的可重复性,我们详细描述了交通数据集的完整数据预处理流程,包括归一化策略、缺失数据处理和时间窗口配置:
1. 归一化策略:对所有连续交通特征(平均速度)和外部天气特征(温度、降水量、风速)应用Z分数归一化,以消除维度和幅度的影响。归一化公式为:x′=(x?μ)/σ,其中μ和σ是训练集的平均值和标准差(在源城市训练集上计算以避免数据泄漏)。二进制假期特征和事件强度特征(0–5)保持原始值不变。
2. 缺失数据处理:对于1小时内(12个时间步,每步5分钟)的连续缺失的交通速度数据,使用K最近邻(KNN,K=5)插值基于相邻节点的空间相关性进行填充;对于超过1小时的长期缺失值,删除相应的时间步以确保数据质量。处理后的数据集缺失率低于0.5%。
3. 时间窗口配置:历史时间窗口长度S设置为12(对应于60分钟的历史交通数据),未来预测步长M设置为6(对应于30分钟的未来交通流量预测)。时间窗口以1的步长滑动,以构建训练样本集。
5.1.2.数据集来源城市:四个真实世界的交通数据集:PEMS03(旧金山湾区,35个节点,4个月的数据),PEMS04(圣地亚哥,307个节点,4个月的数据),PEMS07(洛杉矶,88个节点,4个月的数据),PEMS08(圣贝纳迪诺,170个节点,4个月的数据)。这些数据集提供了足够的历史交通数据(平均速度),采样间隔为5分钟。目标城市:PEMS-BAY(旧金山湾区,325个节点,1个月的数据)和METR-LA(洛杉矶,207个节点,1个月的数据)。这些数据集的数据量有限,用于模拟少样本场景。选择这两个数据集的原因是它们在交通预测研究中的广泛应用,便于与基线模型进行公平比较。此外,它们涵盖了不同的城市交通特征(密集的城市与郊区),验证了模型的泛化能力。所有数据集都整合了外部特征:天气特征:温度(°C)、降水量(mm)、风速(km/h)(来自NOAA气象站);节日特征:二进制指示器(周末/节假日为1,其他时间为0);事件特征:交通事件强度(0-5等级,基于交通事故报告和道路施工记录)。
评估指标使用三个标准指标来评估预测性能:(i) 均方绝对误差(MAE):(24′)MAE=1n∑i=1n|yi?yi|;(ii) 均方根误差(RMSE):(25)RMSE=1n∑i=1n(yi?yi)2;(iii) 均方百分比误差(MAPE):(26)MAPE=100n∑i=1n|yi?yiyi|,其中yi和yi分别表示实际和预测的交通速度,yˉ表示y的平均值,n表示交通网络中的节点数量。
统计显著性测试:使用配对t检验(双尾,显著性水平α=0.05)来测试TL-DGCNN与基线模型之间的性能差异的统计显著性。零假设H0是两个模型的预测误差没有显著差异;备择假设H1是存在显著差异。如果p值<0.05,则拒绝H0,表明TL-DGCNN的性能提升具有统计学意义。
5.1.3 基线模型
TL-DGCNN与十个最先进的交通流预测模型进行了比较:STGONE [34]:时空图ODE网络;ASTGCN [35]:基于注意力的时空图卷积网络;STG-NCDE [36]:用于交通预测的图神经控制微分方程;STFGNN [37]:时空融合图神经网络;DSTAGNN [38]:动态时空感知图神经网络;DMGAN [39]:动态多跳图注意力网络;MegaCRN [40]:时空元图学习网络;STGP [41]:用于交通预测的迁移学习图注意力网络;TL-DKD [42]:用于少样本交通预测的时空迁移学习GCN;TL-GPSTGN [43]:用于交通速度预测的动态图迁移学习网络。
5.1.4 参数设置
初始学习率:0.001,每epoch衰减率:0.97;批量大小:32;训练周期:200;时间窗口长度S:12(60分钟);未来输出步长M:6(30分钟);图卷积层数量Kg:3;时间卷积核数量:64;时间卷积核大小Kt:3;无监督损失的权重μ:0.1;优化器:Adam。
数据集按照6:2:2的比例划分为训练集、验证集和测试集,所有模型都采用相同的划分方式。
5.2 实验结果
5.2.1 损失函数变化
基于四个数据集,图4、图5、图6、图7展示了TL-DGCNN在训练过程中训练损失和验证损失随训练轮次(Epoch)的变化,这表明了模型的优化和逐渐稳定。下载:下载高分辨率图像(77KB)下载:下载全尺寸图像
图4. PEMS03的损失函数变化。
下载:下载高分辨率图像(72KB)下载:下载全尺寸图像
图5. PEMS04的损失函数变化。
下载:下载高分辨率图像(73KB)下载:下载全尺寸图像
图6. PEMS07的损失函数变化。
下载:下载高分辨率图像(72KB)下载:下载全尺寸图像
图7. PEMS08的损失函数变化。
下载:下载高分辨率图像(72KB)下载:下载全尺寸图像
如图4、图5、图6、图7所示,训练损失和验证损失在早期阶段迅速下降,表明学习效果良好。在后期阶段,下降趋势放缓并趋于稳定,验证损失略高于训练损失(在合理范围内),没有明显的过拟合现象。这种稳定的收敛趋势归因于合理的城际传输协议设计(预训练+领域对齐+微调)以及微调时的小学习率,有效避免了在样本量少的目标城市数据上的过拟合。这证实了模型的稳定训练能力和良好的泛化能力。
5.2.2 目标城市上的性能比较
图8、图9、图10和表2展示了不同模型在PEMS-BAY和METR-LA数据集上的性能指标(包括MAE、MAPE和RMSE)的预测结果。下载:下载高分辨率图像(282KB)下载:下载全尺寸图像
图8. PEMS-BAY的MAE。
下载:下载高分辨率图像(278KB)下载:下载全尺寸图像
图9. PEMS-BAY的MAPE。
下载:下载高分辨率图像(278KB)下载:下载全尺寸图像
图10. PEMS-BAY的RMSE。
表2. PEMS-BAY的性能比较。
数据集模型MAE MAPE (%) RMSE p值(与TL-DGCNN相比)
PEMS-BAY STGONE 17.7 9.1 34.1 0.002
ASTGCN 16.5 8.5 29.3 0.003
STG-NCDE 16.8 73 1.2 0.005
STFGNN 14.5 8.5 32.3 0.004
DSTAGNN 15.9 9.7 29.6 0.002
DMGAN 15.5 7.5 28 0.003
MegaCRN 14.8 8.8 33.5 0.004
STGP 14.2 8.2 27.5 0.006
TL-DKD 13.8 7.9 27.2 0.005
TL-GPSTGN 13.5 7.5 27.0 0.004
TL-DGCNN 13.1 6.7 26.7
TL-DGCNN在PEMS-BAY数据集的三个评估指标(MAE、MAPE和RMSE)上优于其他基线模型。图11、图12、图13和表3展示了不同模型在METR-LA数据集上的性能指标(包括MAE、MAPE和RMSE)的预测结果。下载:下载高分辨率图像(260KB)下载:下载全尺寸图像
图11. METR-LA的MAE。
下载:下载高分辨率图像(259KB)下载:下载全尺寸图像
图12. METR-LA的MAPE。
下载:下载高分辨率图像(266KB)下载:下载全尺寸图像
图13. METR-LA的RMSE。
表3. METR-LA的性能比较。
数据集模型MAE MAPE (%) RMSE p值(与TL-DGCNN相比)
METR-LA STGONE 15.5 9.9 25 0.001
ASTGCN 16.2 8.7 21.5 0.002
STG-NCDE 14.7 8.1 23.8 0.003
STFGNN 13.8 9.2 23.6 0.002
DSTAGNN 14.2 8.4 21.5 0.003
DMGAN 12.4 9.3 22.2 0.002
MegaCRN 13.3 8.8 22.5 0.003
STGP 12.8 8.5 21.2 0.004
TL-DKD 12.5 8.2 20.8 0.004
TL-GPSTGN 12.1 8.0 20.3 0.003
TL-DGCNN 11.9 7.8 20
以下实验结果表明,TL-DGCNN在METR-LA数据集的MAE、MAPE、RMSE三个评估指标上始终优于其他基线模型。这些结果由多种因素造成:一些方法忽略了基于图卷积的动态建模方法,这些方法无法有效捕捉动态空间依赖性特征;一些基于图神经网络的模型忽略了或使用了简单的时间编码方法来整合时间信息,导致模型丢失了重要的时间依赖性细节,从而降低了准确率。这些实验结果表明,TL-DGCNN的合理结构设计能够很好地捕捉到在时间感知增强作用下的多种交通模式的时间相关性,并能有效地模拟静态和动态的空间依赖性以及动态空间依赖性之间的相互联系。
5.3 消融研究
为了验证TL-DGCNN中关键组件的有效性,在METR-LA数据集上进行了消融研究。如表4所示,移除任何关键组件都会导致性能显著下降,配对t检验(p<0.05)验证了每个变体与完整模型之间的性能差异具有统计学意义:
(1) 移除动态图卷积会使MAE增加13.4%,证实了其在捕捉道路网络动态空间依赖性方面的有效性;
(2) 移除迁移学习(相关性对齐)会使MAE增加19.3%,突出了城际知识转移对少样本交通流预测的重要性;
(3) 移除外部特征融合会使MAE增加10.1%,证明了整合天气/节日/事件因素对于提高模型适应现实世界交通动态的价值;
(4) 移除时空注意力会使MAE增加24.4%,验证了注意力机制在增强模型时空特征提取能力中的核心作用;
(5) 移除时空域适应模块中的门控机制会使MAE增加15.1%,充分证明了门控机制在过滤和加权源城市信息以及提高城际知识转移效率方面的有效性。
表4. METR-LA数据集上的消融研究结果(所有变体与完整模型相比p<0.05)。
模型 变体 MAE (%) RMSE 性能下降(MAE) 性能下降(MAPE) 性能下降(RMSE)
TL-DGCNN(完整模型) 11.9 7.8 20.0
无动态图卷积 13.5 8.9 22.3 +13.4% +14.1% +11.5%
无迁移学习(相关性对齐) 14.2 9.5 23.1 +19.3% +21.8% +15.5%
无外部特征融合 13.1 8.5 21.4 +10.1% +8.97% +7.0%
无时空注意力 14.8 9.8 23.7 +24.4% +25.6% +18.5%
无门控机制(时空域适应) 13.7 9.0 22.5 +15.1% +15.4% +12.5%
5.4 计算效率分析
本小节进行了更详细的计算效率分析,基于原始FLOPs、延迟和GPU内存使用情况,增加了每个epoch的模型参数数量和GPU训练时间,并将TL-DGCNN与所有十个基线模型进行了比较,以全面验证该模型的计算效率优势。表5比较了TL-DGCNN与基线模型在GPU(NVIDIA RTX 3090)上的计算成本、FLOPs和延迟。表5. 计算效率比较。
模型 FLOPs(G) 参数(M) 训练时间(s/epoch) 延迟(ms/batch) 计算成本(GPU内存,GB)
STGONE 8.7 12.5 45.2 42.3 3.2
ASTGCN 10.2 15.8 58.7 51.7 3.8
STG-NCDE 12.5 18.2 72.3 63.5 4.5
STFGNN 9.8 14.1 52.5 48.2 3.6
DSTAGNN 11.3 16.5 61.8 57.9 4.1
DMGAN 10.7 15.2 59.3 54.3 3.9
MegaCRN 13.1 19.7 78.5 68.4 4.7
STGP 9.2 13.8 50.6 46.8 3.5
TL-DKD 8.9 14.5 53.2 44.5 3.4
TL-GPSTGN 8.5 13.2 48.7 41.2 3.3
TL-DGCNN 7.2 10.8 38.5 35.6 2.9
如表5所示,TL-DGCNN在FLOPs(7.2 G)、参数数量(10.8 M)、每个epoch的GPU训练时间(38.5 s)、推理延迟(35.6 ms/batch)和GPU内存使用(2.9 GB)方面均低于所有模型。与最高效的最新基线模型相比,TL-DGCNN减少了15.3%的FLOPs、18.2%的参数数量、21.0%的训练时间、13.6%的延迟和12.1%的GPU内存使用;与最高效的经典基线模型(STGONE)相比,TL-DGCNN减少了17.2%的FLOPs、15.8%的延迟和9.4%的GPU内存使用。这证实了其高计算效率及其适用于实时交通系统的特点。TL-DGCNN的计算效率优势归因于动态图剪枝(稀疏邻接矩阵)、源城市和目标城市之间的参数共享以及时空域适应模块的轻量级设计。
5.5 结果分析
TL-DGCNN的优越性能归因于以下因素:
(1) 带有注意力机制的动态图卷积:捕捉道路网络节点之间的动态空间依赖性,适应高峰/非高峰时段和意外事件中的交通流量变化。
(2) 带有相关性对齐的迁移学习:减少源城市和目标城市之间的数据分布差异,减轻知识转移损失,提高少样本场景下的性能。
(3) 外部特征融合:整合天气、节日和事件,增强模型对现实世界交通动态的适应性。
(4) 高效的模型设计:动态图剪枝和参数共享降低了计算成本,确保了实时性能。
(5) 明确的城际传输协议:三阶段预训练+领域对齐+微调协议和合理的参数微调策略确保了模型在小样本目标城市数据上的稳定收敛,并避免了过拟合。
基线模型存在局限性:(1) 静态图结构假设无法捕捉动态空间依赖性;(2) 缺乏有效的迁移学习模块导致在少样本场景下性能不佳;(3) 简单的时间编码方法丢失了重要的时间依赖性细节;(4) 高计算复杂性使其不适合实时应用。
6. 结论性评论
本研究通过将迁移学习和注意力机制整合到图卷积神经网络框架中,解决了某些城市交通数据样本有限的问题。所提出的TL-DGCNN模型利用数据丰富的源城市的先验知识来提高数据稀缺目标城市的预测准确性,减轻了由于城际数据分布差异造成的知识转移损失。TL-DGCNN采用动态图卷积和注意力机制来捕捉静态和动态空间依赖性,并结合门控卷积和多头趋势感知注意力机制来提取交通流的短期波动和长期模式。时空域适应模块对齐了源域和目标域的特征,而外部特征融合模块整合了天气、节日和事件,增强了模型的适应性。通过动态图剪枝和参数共享,该模型优化了计算效率,使其适用于实时交通系统。在PEMS-BAY和METR-LA数据集上的实验结果表明,TL-DGCNN在MAE、MAPE和RMSE方面优于十个基线模型,并具有统计学上的显著改进。消融研究验证了关键组件的有效性,计算效率分析证实了其低延迟和低GPU内存使用。该模型为数据稀缺城市的交通流预测提供了可行的解决方案,具有在城市交通管理、路线规划和智能交通系统中的潜在应用价值。它可以帮助交通管理部门制定动态控制策略,优化信号时序,并分配交通资源,缓解交通拥堵,提高出行效率。未来的研究将集中在三个方向:(1) 设计更高效的推理模块以捕捉复杂的时空关系;(2) 缩小源城市和目标城市之间的数据分布差距(例如,使用生成对抗网络来增强目标城市数据)以提高模型泛化能力;(3) 探索在少样本环境中的快速函数学习方法(例如,元学习)以进一步提高模型性能和拟合精度。
CRediT作者贡献声明
蔡宏伟:撰写 – 审稿与编辑,监督
徐晨:撰写 – 审稿与编辑,