《Vehicular Communications》:Decentralized intelligence for internet of vehicles: A hierarchical blockchain federated learning approach
编辑推荐:
摘要网联与自动驾驶车辆需要可靠的合作学习来支持交通安全关键感知任务,例如交通标志识别。然而,在车联网中,由于隐私和带宽约束,原始驾驶数据无法集中处理,而传统机器学习架构难以适应由此产生的大规模和数据异构性。联邦学习(FL)通过本地训练解决了数据隐私问题,但大多数现有联邦学习框
摘要
网联与自动驾驶车辆需要可靠的合作学习来支持交通安全关键感知任务,例如交通标志识别。然而,在车联网中,由于隐私和带宽约束,原始驾驶数据无法集中处理,而传统机器学习架构难以适应由此产生的大规模和数据异构性。联邦学习(FL)通过本地训练解决了数据隐私问题,但大多数现有联邦学习框架仍然依赖中心聚合服务器,引入了单点故障,限制了系统在动态车联网(IoV)环境中的韧性。为克服这一局限性,我们提出了一种去中心化的层级区块链联邦学习框架,车辆在其中训练本地模型并将更新提交至区域基站(BS)。每个基站使用独立的验证数据集进行基于验证的模型选择,而由微区块(用于区域选择)和关键区块(用于全局共识)组成的双层区块链,在没有中心服务器的情况下协调去中心化聚合。在基于非独立同分布(non-IID)数据分布的德国交通标志识别基准数据集(GTSRB)上,与FedAvg、Krum和FLTrust进行比较评估,所提出的框架达到了93.35%的测试准确率,在30%标签翻转攻击下仍保持92.78%的准确率,并且在高达50%的基站不可用的情况下仍能维持可靠运行。因此,该框架为车联网应用提供了一种具有韧性的去中心化学习解决方案,可满足在对抗性行为和基础设施部分不可用条件下对可靠识别性能和持续运行的需求。
引言
车联网(IoV)是一种新兴范式,通过车与车(V2V)、车与基础设施(V2I)以及车与万物(V2X)通信,赋能智能交通系统,支持实时数据交换以提升交通效率和道路安全[1]、[2]、[3]。一个关键的赋能者是自动驾驶车辆,其每天产生数十GB的传感数据和上下文数据[4],而机器学习(ML)对于处理这些数据以支持车道检测、碰撞避免和路径规划至关重要。然而,传统机器学习架构无法满足大规模车联网网络在规模、异构性和隐私方面的需求,这些网络生成有关交通流量、道路状况和驾驶员行为的高度敏感信息[1]。
联邦学习(FL)允许客户端执行本地训练,仅与中心聚合器共享模型更新[5]、[6]、[7]、[8]、[9],聚合器通过加权平均将它们整合,从而解决了数据隐私问题。尽管联邦学习减少了原始数据传输,但中心聚合器仍然是单点故障(SPoF),在non-IID和高度动态的车联网环境中性能可能会下降。
区块链技术最初作为比特币的分布式账本而开发[10],提供了一种互补的、去中心化的且具有防篡改性的协调机制[11],其与联邦学习的集成已被探索以改善基于车联网的学习中的透明度、鲁棒性和可问责性[6]、[12]、[13]。然而,直接集成会带来额外成本[14],有限的区块链可扩展性导致在密集车联网环境中吞吐量低和延迟增加,而高车辆移动性导致通信不稳定[15]并限制了同步联邦学习方法。
大多数现有的区块链-联邦学习方法仍保留中心化架构,其中单个服务器执行模型聚合并将更新记录在区块链上。这支持了可审计性,但保留了单点故障,限制了分布式模型选择和评估的机会。在不降低学习性能的前提下消除中心聚合器仍然是一个开放挑战。
为解决这一差距,我们设计了一种完全去中心化的层级区块链联邦学习框架,用于车联网。车辆在设备上训练模型并将参数发送到其关联的基站(BS),每个基站将接收到的模型在区域验证集上进行评估并选择一个候选模型。然后双层区块链协调全局阶段:微区块记录区域选择,关键区块在基站间建立全局共识。该框架消除了对中心协调器的需求,并维护了模型更新的可验证记录。
本工作主要贡献如下:
- •
我们为车联网设计了一种去中心化的层级联邦学习框架,将本地训练、区域聚合和全局协调集成在统一系统中。该设计消除了对中心服务器的需求,并将聚合分布在多个基站上。
- •
我们在系统工作流中集成了基于验证准确率的层级模型选择机制。每个基站评估本地模型并选择一个候选模型,全局阶段在区域间选择一个模型。这用两级选择过程取代了加权平均。
- •
我们引入了双层区块链结构作为系统设计的一部分,以协调基站间的模型更新。微区块表示区域选择,关键区块表示全局决策。该结构维护了更新的可验证记录,并支持在没有中心聚合服务器的情况下进行协调。
- •
我们设计了通信流程,使得聚合在基站级别进行,仅有选中的模型被传输到全局阶段。与转发所有本地更新的方案相比,这减少了跨区域通信。
- •
我们实现了所提出的系统并在GTSRB数据集上进行评估,数据分布为非IID。我们将其与标准联邦学习和选定的鲁棒聚合方法进行比较,并包含消融分析和标签翻转攻击下的鲁棒性评估。
本文其余部分组织如下。第2节回顾相关工作。第3节描述系统模型。第4节详述所提出的框架。第5节和第6节分别呈现理论分析和实验分析。第7节总结全文并概述未来研究方向。
章节摘要
相关工作
近期研究广泛探讨了机器学习、联邦学习和区块链技术在车联网环境中的集成。本节从三个关键维度调研了先前的工作:机器学习在车联网中的应用、用于车联网的联邦学习架构以及区块链赋能的联邦学习框架,然后再定位我们的贡献。
系统模型
本节形式化了所提出框架背后的层级架构、去中心化联邦学习协议和区块链协调机制。我们描述了两层系统拓扑,定义了区域和全局基于准确率的选择程序,并详细说明了双层区块链结构如何在确保模型来源的密码学可验证性的同时协调分布式聚合。
基于区块链的去中心化层级联邦学习框架
本节呈现了实现第3节所定义的层级架构的操作协议。如图2所示,该协议在每个训练轮次中依次执行四个步骤。
理论分析
本节量化了所提出框架相对于集中式区块链联邦学习在延迟、容错性和安全性方面的优势。数学模型展示了层级聚合如何降低开销,分布式协调如何缓解单点故障,以及密码学验证如何增强完整性。
实验评估
本节通过交通标志分类案例研究实证验证了理论发现,尽管所提出的系统模型可以适应车联网上下文中的任何神经网络应用。我们的评估重点关注准确率、精确率、召回率、F1分数、交叉熵损失和计算时间,以评估所提出方法的学习性能、可扩展性、鲁棒性和容错能力。
结论与未来工作
本文提出了一种用于车联网的去中心化层级区块链联邦学习框架。该框架用两级验证选择过程取代了中心聚合服务器,分别在区域和全局级别执行。由微区块和关键区块组成的双层区块链提供了模型来源、防篡改协调和可独立验证的全局模型选择。在GTSRB上的实验结果表明,所提出的
CRediT作者贡献声明
Mina Zamanirafe:撰写—审阅与编辑,撰写—原始草稿,可视化,验证,软件,方法论,调查,形式化分析,概念化。Ning Zhang:撰写—审阅与编辑,可视化,指导,方法论,概念化。Ahmed Hamdi Sakr:撰写—审阅与编辑,可视化,指导,方法论,概念化。
利益冲突声明
作者声明他们不存在可能影响本文所述工作的已知竞争性财务利益或个人关系。
Mina Zamanirafe|Ning Zhang|Ahmed Hamdi Sakr
加拿大安大略省温莎市温莎大学电气与计算机工程系,邮编N9B 3P4