Fed-ASTGCN:一种用于联邦时空交通预测的组件特定聚合策略

《Neurocomputing》:Fed-ASTGCN: A component-specific aggregation strategy for federated spatial-temporal traffic forecasting

【字体: 大 中 小 】 时间:2026年09月18日 来源:Neurocomputing 6.7

编辑推荐:

   •联邦ASTGCN,结合门控膨胀卷积、自适应图学习和MLP预测头。•组件级聚合,对空间参数采用softmax温度加权。•在高度非独立同分布(Non-IID)偏差条件下,在PEMS04、PEMS07、PEMS08上取得最优联邦平均绝对误差(MAE)。•在中等偏差条件下,组件级聚

  

•联邦ASTGCN,结合门控膨胀卷积、自适应图学习和MLP预测头。•组件级聚合,对空间参数采用softmax温度加权。•在高度非独立同分布(Non-IID)偏差条件下,在PEMS04、PEMS07、PEMS08上取得最优联邦平均绝对误差(MAE)。•在中等偏差条件下,组件级聚合在所有网络上均优于标准FedAvg。•在非IID异质性({0.1, 0.5})下,通过5个随机种子的统计验证。

引言

交通预测是智能交通系统(ITS)的基石,能够实现实时路线引导、交通拥堵控制、动态网约车调度以及长期基础设施规划[1]。过去十年间,路侧传感器网络和车联网的普及使得前所未有的交通数据量变得可及。然而,这些数据日益分散在多个利益相关方手中,包括城市管理部门、公路管理部门、区域交通机构和网约车公司等私营运营商。他们各自不同的职责、管辖范围和竞争性利益使得原始数据共享难以实现。《欧盟通用数据保护条例》(GDPR)等数据保护法律,以及日益增长的数据主权和商业敏感性方面的顾虑,使集中式数据聚合在法律上充满风险,在操作上也难以实施。尽管跨机构协作训练有助于提升对多样化城市交通模式的预测精度,但如何以保护隐私的方式从这类碎片化、异构的数据中训练准确的预测模型仍然是一个未满足的需求,这正是联邦交通预测所试图解决的问题。

深度学习在过去几年大幅推进了集中式交通预测的研究。图卷积网络(GCN)的引入使得将传感器视为节点、物理邻接视为边,从而显式建模道路网络拓扑成为可能。在此基础上,时空图神经网络(STGNN)成为主流方法,将图卷积与多种时间模块(如门控循环单元、膨胀因果卷积或自注意力)相结合,同时建模空间结构和时间动态[2]、[3]。以注意力机制为驱动的方法,如基于注意力的时空图卷积网络(ASTGCN)[4],通过专门的时空注意力机制自适应地加权不同传感器和时间区间的重要性,进一步提升预测精度,将模型容量集中于最有信息的区域和最相关的历史区间。近期的基于Transformer的扩展通过传播延迟感知[5]、图-混合器集成[6]和相对位置卷积架构[7]等机制,针对交通特定动态对注意力机制进行了改进。然而,所有这些方法都假设训练期间可以集中访问完整的传感器网络。

联邦学习(FL)[8]为这一挑战提供了一种解决方案,允许多个参与者在不交换原始观测数据的情况下协作训练共享模型。越来越多的工作将该范式应用于交通预测,采用了循环网络、图ODE、多项式分解、提示学习和解耦等设计[9]、[10]、[11]、[12]、[13],第2.3节对此进行了综述。个性化联邦方法已经超越了统一的FedAvg,通过分割、正则化或个性化参数来应对客户端异质性。通用的个性化联邦方法按网络层、输出类别或客户端相似性进行分割,而近期针对联邦时空预测的一系列工作则显式地沿空间/时间轴进行分割[14]、[15]、[16]、[17](综述见第2.3节)。然而,在这些设计中,每次只有单一参数组在客户端之间聚合到共享模型中;互补的参数组要么被排除在服务端聚合之外以实现个性化,要么仅在服务器上计算一次而非在客户端间复制并聚合。没有任何方法在每个通信轮次中,在服务器端按照两种不同的规则同时聚合空间和时序/结构参数组,以生成单一共享模型——这正是本文所占据的设计空间。

这一结构与通用的、语义无关的参数分割方式不匹配,因为时空图模型的参数组编码了性质上截然不同的模式。空间参数(包括对传感器关系进行评分的注意力权重和定义自适应邻接矩阵的嵌入向量)捕获的是每个传感器层面的特异性依赖关系,当各机构的数据在共享传感器网络上分布不均时,即使不考虑它们各自拥有的传感器差异,各机构对这些依赖关系的估计也截然不同。相比之下,时序参数编码的是跨网络共享的通用周期性模式,如高峰时段、工作日-周末循环和季节性趋势。在任何忽略这种不对称性的规则下聚合这两个参数组,会稀释来自信息量大的客户端的贡献的空间表示,并且无法提供优先吸收这些表示的机制。这会扩大联邦与集中式模型之间的精度差距,在现实的非独立同分布(Non-IID)异质性条件下这一效应尤为显著[18]、[19]。

为克服这一局限,我们提出了Fed-ASTGCN,一个联邦框架,其核心设计原则是聚合策略应遵循参数语义而非在模型上统一应用。Fed-ASTGCN在ASTGCN基础上扩展了多尺度门控膨胀时间卷积、自适应图学习[20]和多层次预测头,以增强其对异构时空信号的建模能力。在服务器端,该框架将模型参数分为空间组(空间注意力权重和自适应图嵌入)和时序/结构组(时间注意力、切比雪夫系数、门控时间卷积和预测头),对前者采用softmax温度性能加权,对后者保留数据比例FedAvg。这种参数类型感知的聚合使全局模型能够在Non-IID条件下优先吸收高性能客户端的空间表示,同时保持通用时序模式的稳定性。与先前联邦时空学习中的空间/时间分割方法不同——后者通过将某一个参数组排除在聚合过程之外或重新定位来实现个性化[14]、[15]、[16]、[17]——Fed-ASTGCN在每个轮次都在服务器端聚合两个参数组,仅区分各自合并的规则,从而输出仍为单一共享全局模型。这一原则可推广到任何参数组编码了性质上不同模式的联邦图学习任务,对可部署、符合法规的智能交通系统具有直接意义。

本文的主要贡献总结如下:

•我们提出了Fed-ASTGCN,一个联邦框架,将基于注意力的时空图卷积网络引入跨机构共享传感器网络上的交通预测,在基础架构上扩展了多尺度门控时间卷积、自适应图学习和多层次预测头,以更好地建模空间-时间依赖关系,尽管存在客户端异质性。

•我们提出了组件级聚合机制,对空间参数采用softmax温度性能加权,对时序和结构参数保留数据比例FedAvg,其动机在于客户端特异性空间模式与通用时序模式之间的经验不对称性。统一加权的对照实验表明,增益来源于移除空间组的数据比例性而非特定于性能信号,第6.1节的估计界预测了该结果及其幅度;因此该方法不存在对精度敏感的超参数。

•在四个真实PEMS数据集上针对九种最先进基线的全面评估表明,Fed-ASTGCN在四个数据集中的三个上位居联邦方法之首,在两个数据集上匹配或超越集中式MTGNN,同时指出客户端异质性水平而非网络规模是决定聚合策略选择的主导因素。

本文结构如下:第2节综述相关工作;第3节介绍Fed-ASTGCN框架;第4节介绍实验设置;第5节呈现结果;第6节探讨影响与局限;第7节总结。

相关文献节选

用于交通预测的时空图学习

交通网络自然地映射为图,传感器作为节点,边由空间邻近性确定。图卷积网络(GCN)[21]使得在此类图上显式建模空间依赖成为可能,催生了一类现已主导集中式交通预测的时空图神经网络家族[2]。STGCN(时空图卷积网络)[22]堆叠了将图卷积与门控时间卷积相结合的空时模块,

方法论

本节介绍Fed-ASTGCN框架,该框架由三个协调组件构成:(1)一个增强的ASTGCN骨干网络,在基础架构[4]上扩展了多尺度门控膨胀时间卷积、自适应图学习[20]和多层预测头;(2)一个联邦训练流程,允许多个机构在不共享原始观测数据的情况下协作学习全局模型;以及(3)一个组件级聚合策略,对空间

数据集

我们的评估使用了四个来自加州性能测量系统(PeMS)的交通数据集,如表2所示。每个数据集记录每5分钟采样的交通速度读数,网络规模从170到883个传感器不等,时间覆盖范围为59到123天。每个数据集按时间顺序划分为训练集(60%,最早的)、验证集(20%,中间的)和测试集(20%,最近的),以确保时间顺序并防止数据泄漏。

在四个网络上,数据

结果

在本节及配套的表格中,我们用Attention(Attn)表示我们在第3.4节中定义的组件级聚合,用Standard(Std)表示对所有参数统一应用的原生数据比例FedAvg。

空间/时间不对称性为何重要

我们的核心主张是,STGCN的空间和时间组件在联邦训练下表现不同,应当采用不同的聚合方式。数据集特征使这一点变得具体可感:日周期在各网络间几乎一致,但每个传感器的交通强度分布高度偏斜且具有各客户端的特异性。标准FedAvg的统一数据比例加权对于共享结构参数(时间周期、切比雪夫卷积)是一个合理的先验,

结论

本文提出了Fed-ASTGCN,一个用于时空交通预测的联邦框架,其核心设计原则是空间参数和时间参数应采用不同的聚合方式。实验表明,对空间注意力和自适应图参数采用性能加权聚合,同时对其余时序和结构部分采用数据比例平均,在中等异质性条件下相较于标准FedAvg带来了稳定增益,在四个PEMS网络上均取得胜利。

CRediT作者贡献声明

Khuda Bux Brohi:撰写——审阅与编辑,撰写——原始草稿,可视化,软件,方法论,调查研究,形式化分析,数据整理,概念化。Jie Hu:撰写——审阅与编辑,验证,监督,方法论。Muhammad Zeeshan Amir:撰写——审阅与编辑,验证。Mohamed Juma Khamis:撰写——审阅与编辑,验证。Tianrui Li:撰写——审阅与编辑,监督,资源,项目管理,资金获取,概念化。

利益冲突声明

作者声明不存在已知的可能影响本文所述工作的竞争性财务利益或个人关系。

致谢

本研究得到国家自然科学基金(编号:U2468207)、四川省科技计划(编号:2024NSFTD0036)和中央高校基本科研业务费专项资金(编号:2682026ZT007)的资助。

作者简介

Khuda Bux Brohi|Jie Hu|Muhammad Zeeshan Amir|Mohamed Juma Khamis|Tianrui Li
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号