分布式通信与感知中协作学习的知识蒸馏技术

《IEEE Communications Magazine》：Knowledge Distillation for Collaborative Learning in Distributed Communications and Sensing

　　

摘要：

第六代（6G）无线网络的兴起有望提供超可靠、低延迟和节能的通信、感知和计算服务。然而，传统的集中式人工智能（AI）范式并不适合6G生态系统去中心化、资源受限且动态变化的特性。本文探讨了知识蒸馏（KD）和协作学习这两种技术，它们能够实现轻量级AI模型在分布式通信和感知（C&S）节点中的高效和可扩展部署。首先，我们对KD进行了概述，并强调了其在设备异构性、任务多样性和资源受限的分布式场景中特别有效的原因。接着，我们研究了KD通过各种知识蒸馏和部署策略在促进中央节点与分布式节点之间的协作学习中所起的作用。最后，我们通过系统的数值研究证明了基于KD的协作学习能够有效支持多模态感知辅助的波束跟踪应用，从而显著提升性能并降低复杂性。