基于双重知识蒸馏（Dual Knowledge Distillation）联邦学习（Federated Learning）的车联网（Internet of Vehicles, IoV）异常检测方法（IoVFD）

《Future Generation Computer Systems》：IoVFD: Anomaly detection method for Internet of Vehicles based on federated learning with Dual Knowledge Distillation

　　

车联网（Internet of Vehicles, IoV）通过可靠高效的车联网通信（Vehicle-to-Everything, V2X）技术提升道路安全、交通管理与驾驶体验。由于其开放特性及复杂的通信基础设施，IoV易受入侵，导致网络中出现各种异常。因此，异常检测已成为保障IoV安全的关键技术。然而，现实世界中车辆间的网络流量数据是非独立同分布（non-IID）的，这使得现有方法无法在不将数据传输至云端的情况下准确检测异常。为解决这些问题，研究人员提出了IoVFD，一种基于双重知识蒸馏（Dual Knowledge Distillation）联邦学习（Federated Learning, FL）的IoV异常检测方法，该方法通过不在车辆外传输数据来降低隐私风险，同时提高异常检测准确率。IoVFD的核心理念是将所有车辆的本地检测模型的知识蒸馏至云端的全局模型，并利用全局模型指导车辆上本地检测模型的训练。此外，为缓解非独立同分布（non-IID）数据对全局模型的影响，研究人员提出了一种基于无数据（data-free）的多本地检测模型知识蒸馏（Knowledge Distillation, KD）方法，通过伪数据生成器将本地检测模型的知识充分蒸馏到全局模型中。研究人员在公开的ToN_IoT数据集上进行了实验评估。IoVFD的平均准确率（Accuracy）和F1值（F1-score）比最佳基线方法分别提高了2%和2.36%，证实了IoVFD的有效性。

论文解读：IoVFD——基于双重知识蒸馏联邦学习的车联网异常检测方法

研究背景与意义

随着智能网联汽车的快速发展，车联网（Internet of Vehicles, IoV）作为下一代智能交通系统的关键范式，通过车联网通信（Vehicle-to-Everything, V2X）技术实现了车辆、道路与云基础设施等交通核心组件的交互互联，提供了可靠高效的通信服务。例如，车辆可利用短程通信技术进行基本安全消息的广播或多播，增强道路安全；也可利用远程通信技术与云平台或手机通信，以提升驾驶体验和交通管理。然而，IoV作为一个巨大的开放交互网络，易受各类恶意攻击从而导致网络异常。车辆对外通信手段的增加伴随着攻击面的扩大，使其更易受外部攻击。IoV中的异常可能导致交通拥堵，甚至造成重大经济损失和交通事故。尽管密码学广泛用于保障IoV通信消息的完整性，但无法及时检测攻击者故意发送的恶意消息，因此异常检测技术成为提升IoV安全的研究重点。

目前，基于机器学习（Machine Learning, ML）的IoV异常检测方法按训练模式主要分为集中式和联邦学习（Federated Learning, FL）两类。集中式方法需将车辆数据发送至云端训练，存在隐私泄露问题，且不符合车辆网络安全技术要求中数据应仅本地存储的标准。FL允许车辆在本地训练检测模型，仅上传模型梯度用于云端或路侧单元聚合全局模型参数并更新本地模型，保障了数据隐私。但在现实场景中，不同车辆因网络行为和遭遇攻击各异，产生了非独立同分布（non-IID）的网络流量数据，导致现有基于FL的IoV异常检测模型难以收敛且检测准确率低。高误报率影响驾驶体验，高漏报率则可能遗漏危险攻击。因此，亟需一种既能防止车辆原始数据外传，又能在高度异构的非独立同分布（non-IID）流量分布下保持有效的IoV异常检测方法。

为解决上述问题，研究人员提出了IoVFD（基于双重知识蒸馏联邦学习的车联网异常检测方法）。该研究发表在《Future Generation Computer Systems》。IoVFD的核心思想是车辆本地检测模型与云端全局模型相互学习，既利用不同车辆数据的知识，又缓解不同车辆间非独立同分布（non-IID）数据的影响，提高IoV异常检测准确率。具体而言，本地模型的知识被蒸馏至云端全局模型，同时全局模型的知识被蒸馏至车辆本地模型。此外，为在无真实车辆数据的情况下充分蒸馏本地检测模型的知识，引入了能利用标签生成伪数据的生成器，通过Kullback-Leibler散度损失保证伪数据分布与全局数据分布相似，并通过基于混沌的高斯噪声采样和多样性损失保证伪数据多样性。在车辆端，利用全局模型指导每个本地模型学习，使本地检测模型保留本地数据分布个性的同时，保留其他本地模型的知识，提高异常检测准确率。研究人员使用公开网络数据集ToN_IoT进行了全面评估，验证了该方法的有效性。

主要关键技术方法

研究人员提出了IoVFD框架，采用双重知识蒸馏（Dual Knowledge Distillation）机制：一方面在云端通过无数据知识蒸馏（KDFree）将多车辆本地异常检测模型的知识聚合至全局模型，为此训练了一个伪数据生成器，利用Kullback-Leibler（KL）散度损失匹配分布并结合多样性损失与混沌高斯噪声保证伪数据质量；另一方面在车辆端利用全局模型通过知识蒸馏指导本地检测模型训练，结合本地分类损失与蒸馏损失更新本地模型。实验部分使用公开ToN_IoT网络数据集（包含正常流量及扫描、拒绝服务（DoS）、分布式拒绝服务（DDoS）、勒索软件、后门、注入、跨站脚本、密码和中间人等九类攻击），采用准确率（Accuracy）、F1值（F1-score）和假阳性率（False Positive Rate, FPR）作为评估指标，并与Local、ACLFL、GRUFL和FED-IDS等基线方法对比。

研究结果

相关研究（Related work）

目前，机器学习（ML）因其强大分类能力广泛用于IoV异常检测，按训练模式分为集中式和联邦学习（FL）两类。基于集中式学习的IoV异常检测方法通常需云端收集车辆网络流量数据训练传统ML和深度学习（Deep Learning, DL）检测模型；基于FL的方法则旨在不集中数据的前提下训练模型以确保隐私安全。

方法（Method）

联邦学习（FL）可在不集中数据的情况下训练模型，保障IoV异常检测的训练目标与隐私安全。但因IoV中不同车辆网络行为不一致，导致各车网络流量数据为非独立同分布（non-IID），对基于FL训练的检测模型准确率构成挑战。为此研究人员提出IoVFD，一种基于双重知识蒸馏（Dual Knowledge Distillation）FL的IoV异常检测方法。IoVFD框架包含：1）车辆端：每辆车用本地流量数据初步训练本地异常检测模型，通过结合本地分类损失与全局模型蒸馏损失的联合损失函数优化本地模型；2）云端：接收本地模型并更新全局模型，同时通过无数据知识蒸馏（KDFree）方法，利用伪数据生成器生成伪数据，以本地模型作为教师、全局模型作为学生，通过KL散度损失将多本地模型知识蒸馏至全局模型，生成器训练兼顾分布相似性与数据多样性。

实验设置（Experimental setting）

为验证方法有效性，研究人员使用公开ToN_IoT数据集进行评估。该数据集为来自异构数据源的标记网络数据，包含正常网络数据及扫描、拒绝服务（DoS）、分布式拒绝服务（DDoS）、勒索软件、后门、注入、跨站脚本、密码和中间人攻击等九类网络攻击异常数据。

结论（Conclusion）

IoV的开放性使其易受攻击并产生网络异常，异常检测成为保障IoV安全的关键技术。但在数据不出车辆的前提下，不同车辆数据的非独立同分布（non-IID）特性对现有检测方法的准确率构成挑战。对此研究人员提出IoVFD：首先每辆车利用本地流量数据初步训练本地异常检测模型；其次在云端通过无数据知识蒸馏（KDFree）将多本地检测模型知识蒸馏至全局模型；然后在车辆端利用全局模型通过知识蒸馏指导本地模型训练，兼顾本地数据分布个性与其他本地模型知识，提高异常检测准确率。在ToN_IoT数据集上的广泛实验表明，该检测方法与最佳基线方法相比，平均准确率（Accuracy）和F1值（F1-score）分别提高2%和2.36%，假阳性率（False Positive Rate, FPR）降低0.75%，证实了IoVFD的有效性。

讨论总结

该研究针对车联网（IoV）在非独立同分布（non-IID）数据场景下，基于联邦学习（FL）的异常检测模型准确率低且需保障数据不出车辆的隐私要求，提出了IoVFD方法。通过云端无数据双重知识蒸馏聚合多车本地模型知识，及车辆端全局模型知识蒸馏指导本地模型训练，有效缓解了非独立同分布（non-IID）带来的收敛与精度问题。实验在ToN_IoT数据集上验证了其平均准确率与F1值优于最佳基线，假阳性率更低，为隐私保护的车联网异常检测提供了有效方案。