毫米波系统中基于激光雷达辅助的波束跟踪的无数据知识蒸馏方法

《IEEE Transactions on Vehicular Technology》：Data-Free Knowledge Distillation for LiDAR-Aided Beam Tracking in MmWave Systems

　　

摘要：

我们提出了一种无数据知识蒸馏（DF-KD）框架，用于基于激光雷达的毫米波波束跟踪。该框架的目标是根据一系列过去的激光雷达测量数据来预测最优的当前及未来波束。具体而言，我们采用了一种知识反演方法，通过生成器从随机噪声中合成类似激光雷达的序列，并利用元数据损失函数来使合成数据与真实数据的内部特征统计特性保持一致，而无需使用原始激光雷达样本。随后，学生模型仅基于这些合成数据进行训练，训练过程中可选用库尔贝克-莱布勒散度损失函数，或是我们提出的、用于衡量教师模型与学生模型原始输出对数概率值之间差异的均方误差损失函数。在DeepSense数据集上的仿真结果表明了该方法的有效性。特别是，所采用的卷积神经网络门控循环单元（CNN-GRU）作为教师模型架构，其对应的DF-KD学生模型性能优于仅使用GRU的方案；同时，均方误差损失函数所带来的性能与标准知识蒸馏损失函数相当，但所需的超参数更少。