基于专家知识的联邦学习与稀疏路由技术在分布式交通预测中的应用

《Computer Communications》：Expert-wise federated learning with sparse routing for distributed traffic prediction

　　•一种用于智能交通环境中跨异构区域客户端进行分布式交通预测的联邦专家混合框架。•一种基于动态特性的路由模块，能够区分重复性与非重复性交通模式。•一种按专家分类的聚合机制，根据实际使用情况同步共享的专家模型。•一种部分共享设计，仅限制在专家模块层面进行同步，而非对整个模型进行聚合。在与边缘智能交通分析相关的离线及在线场景下，该框架在METR-LA和Luzern数据集上的表现均优于传统联邦学习方法。引言现代城市交通感知系统越来越多地部署在地理上分布广泛的区域，这些区域的感知、存储和预测功能通常分散在多个本地基础设施中，而非集中于单一平台。在这种环境下，交通预测不仅是一个应用问题，也是一个分布式学习问题，因为预测模型必须在尊重数据本地性的前提下在各个区域客户端之间运行。准确的短期和中期预测对于缓解拥堵、信号协调、公共交通运营以及更广泛的城市交通管理而言仍然非常重要[1]、[2]、[3]。近年来，各种深度学习模型在交通分析领域展现出了强大的预测能力，从以拥堵为目标的架构[4]到集成式的全网络预测框架[5]。这些成果证明了数据驱动的预测方法在智能交通系统中的价值[6]，但大多数现有方法仍建立在集中式训练的假设之上。在真实的区域部署环境中，这一假设很难维持。交通数据自然分布在不同的区域和组织中，这实际上限制了直接的数据共享[7]。同时，交通流具有高度的异构性，其时间模式受到周期性规律以及事故、极端天气等不规则事件的共同影响[8]。因此，用于区域交通系统的协作预测框架必须同时满足两个要求：在边缘客户端保留本地数据，同时支持在异构环境中的有效协作。从更广泛的角度来看，这使得交通预测不仅是一个预测问题，也是一个城市计算问题，即分布式感知区域需要支持本地化分析以及跨区域协作。联邦学习为这种协作提供了天然的基础，它允许客户端在本地进行训练并交换模型更新，而无需暴露原始数据[9]。多项研究表明，联邦学习在分布式交通场景中能够实现具有竞争力的预测性能[10]。然而，标准的联邦学习通常依赖于整个模型的聚合，当各客户端的交通模式存在显著差异时，这种方法可能效果不佳。在异构条件下，不同客户端的模型更新可能会相互干扰，导致全局模型偏向于平均化的行为，而无法准确反映本地动态特征[11]。虽然有一些个性化或多任务版本的联邦学习可以部分解决这一问题，但它们仍然通常在整体模型或整体任务的层面上运作，而非通过结构化的模型组件协调来实现优化[12]。本研究考虑的主要限制不仅仅是标准联邦学习精度下降的问题，还有由全模型聚合带来的角色不一致性问题。在异构交通环境中，相同的共享参数可能因某个客户端处的周期性高峰流量模式而发生变化，而在另一个客户端则可能因事件或天气因素而出现波动。对这些更新值进行平均处理后得到的全局模型虽然能反映整体趋势，但却无法清晰区分稳定的周期性行为与不规则的局部干扰。这也会降低模型的可解释性，因为完整模型无法表明是哪种时间模式影响了预测结果，或是哪种模式在客户端之间传递。专家混合机制通过为不同的任务分配给专门的专家来处理异构的时间模式，从而提供了一种互补的解决方案[13]、[14]。通过门控机制，专家混合框架能够区分常规的与异常的交通行为，进而减少不同模式之间的相互干扰[15]。这种专家专业化策略在交通预测领域展现出巨大潜力，还能通过利用路由机制提升模型的可解释性[16]。不过，目前大多数基于专家混合机制的交通预测模型都假定在集中式环境下进行训练，而现有的联邦学习与专家混合框架结合的研究在交通应用场景中的应用仍然有限[17]。尤其是，对所有专家采用统一的聚合方式可能会模糊各专家的特定职能，削弱专业化带来的优势[18]。此外，一些联邦学习交通预测方法还依赖额外的空间或图结构信息来进行协调[19]、[20]，这可能会增加敏感网络拓扑信息的暴露风险。这些局限性促使人们寻求一种更加模块化的联邦学习设计，即在保留本地专业化的同时，仅同步那些可转移的专家知识。为了解决这些问题，我们提出了用于跨异构区域客户端进行分布式交通预测的联邦稀疏路由联邦学习框架——FSR-FL。在该框架中，我们将交通模式分为两种基本类型：（i）重复性模式，指的是诸如日常和每周周期之类的规律且可预测的行为；（ii）非重复性模式，包括由事故、特殊事件或极端天气等因素引发的异常、事件驱动型的波动。FSR-FL框架利用两种专门的专家模型来处理这两种模式，通过本地路由机制实现客户端端的适应性调整，并根据专家的实际使用频率在服务器端进行按专家分类的聚合处理。这种部分共享设计使得无需依赖全模型聚合即可实现结构化的全球协同，因此更适用于异构的边缘计算环境。我们的主要贡献如下：•我们提出了FSR-FL，这是一种用于跨异构区域客户端进行分布式交通预测的联邦专家混合框架。该框架将交通动态分解为不同的专门专家模型，并采用部分共享设计，在以智能交通为目标的边缘环境中实现全球协作与本地适应之间的平衡。•我们设计了一种基于动态特性的路由机制以及一种按专家分类的聚合策略。路由模块会根据交通流的波动程度来指导专家的选择，而聚合策略则会根据专家的使用频率来实施结构化的专家级同步，从而确保全局更新结果能更准确地反映当地的真实交通模式。•我们在METR-LA数据集上对所提出的框架进行了测试，此外还首次在Luzern数据集上进行了验证。大量实验结果表明，在与智能交通应用相关的离线及模拟在线场景下，FSR-FL在短期和中期预测任务中的表现始终优于各类传统基准方法。章节节选集中式交通预测模型交通预测领域已经有了多种集中式方法的探索，从传统的统计模型到最新的神经网络架构都有涉及。传统方法作为轻量级且易于理解的参考模型依然具有实用价值。典型的例子包括季节性ARIMA模型、基于卡尔曼滤波的预测方法、指数平滑法、诸如改进型K最近邻预测这样的模式匹配方法，以及支持向量回归算法[21]、[22]、[23]、[24]、[25]。这些方法都是系统概述所提出的FSR-FL框架分为三个层次的结构，如图1所示，这一设计有助于在异构区域之间实现高效的协作式交通预测。在最底层的物理交通层，交通传感器持续从各个分布区域收集原始数据流。为了保障数据本地性和安全性，这些来自不同区域的独立数据集仅存储并在本地边缘设备（如路侧单元）上进行处理，确保原始数据永远不会问题定义假设存在一个由k∈{1,…,K}表示的不同区域的客户端组成的联邦系统。每个客户端k都存储本地的多变量交通流数据以及可选的外生变量。用t表示全局时间索引，L表示回溯窗口的长度，H则表示预测范围。在构建本地预测窗口之前，每个客户端都会将其观测数据映射到由数据源定义的统一时间网格上。可选的外生变量也会被映射到相同的时间戳上，而缺失的值则会被处理掉。实验与评估本节将在模拟的边缘计算环境中对所提出的框架进行评估，以便用于分布式智能交通分析。根据扩展后的实验设计，我们将评估内容分为数据集规范、基准方法与实现设置、评估指标、主要预测性能表现、数据分布与时间变化分析、专家激活行为、消融实验、路由效率以及敏感性分析几个方面。讨论上述实验结果表明，所提出的FSR-FL框架能够有效应对从分布式且异构的交通数据中学习所带来的挑战。一个重要的发现是该框架的路由机制具备良好的可解释性，它能够根据当前的交通模式可靠地选择合适的专家模型，这一特点在两个数据集上都得到了验证。此外，该框架还展现出良好的可扩展性和灵活性。其模块化结构不仅允许用其他架构替换现有的专家模型，还……结论本文介绍了FSR-FL，这是一种用于在异构区域动态条件下进行分布式交通预测的联邦稀疏路由框架。通过结合具有特定功能的专家模型以及按专家分类的聚合机制，FSR-FL避免了全模型聚合所带来的局限性，实现了客户端之间更为有序的协作。在两个选定的数据集上进行的大量实验，包括基准对比、消融实验、路由效率测试以及敏感性分析，都表明所提出的设计能够提升……CRediT作者贡献说明王业通：撰写——初稿、可视化、方法论、数据整理。熊文泽：撰写——初稿、验证工作。李万新：撰写——审阅与编辑、监督工作、方法论、研究设计、概念构思。郭浩：撰写——审阅与编辑、研究工作。张杰：撰写——审阅与编辑、监督工作。阮文辉：撰写——审阅与编辑、监督工作。马克·内贾德：监督工作。利益冲突声明作者们声明自己不存在任何可能影响本文研究结果的已知财务利益关系或个人关系。致谢本研究部分得到了江苏省科技青年人才扶持计划（项目编号：JSTJ-2025-144）、西安交通大学科研发展基金（项目编号：RDF-22-02-106）、陕西省自然科学基础研究计划（项目编号：2025JC-YBMS-688）以及太仓市2024年度重点研发计划（项目编号：TC2024SF10）的支持。王业通|熊文泽|李万新|郭浩|张杰|阮文辉|马克·内贾德