一种用于无线信道表示的多任务基础模型，采用对比学习和掩码自编码器技术

《IEEE Journal on Selected Areas in Communications》：A Multi-Task Foundation Model for Wireless Channel Representation Using Contrastive and Masked Autoencoder Learning

　　

摘要：

当前在无线信道表示中应用的自监督学习方法往往借鉴了为文本和图像处理开发的范式，但没有充分考虑无线通信的独特特性和限制。为了解决这一差距，我们提出了ContraWiMAE（Wireless Contrastive Masked Autoencoder），这是一种基于Transformer的基础模型，它将掩码重建和掩码对比学习结合起来用于无线信道表示。我们的关键创新在于引入了一种新的、受无线环境启发的对比目标函数，该函数利用了无线环境中的固有特性（如噪声、衰落和部分可观测性）作为自然的数据增强手段。通过在未见过的场景和条件下进行广泛的评估，我们证明了该方法在多种下游任务中的有效性，包括跨频率波束选择、视距检测和信道估计。ContraWiMAE在多种无线环境中表现出优异的线性可分性和适应性，在具有挑战性的条件下，其数据效率和性能均优于监督学习基线模型。与最先进的无线信道基础模型进行的对比评估进一步证实了我们的方法在性能和数据效率方面的优势，凸显了其在自监督无线信道表示学习领域作为强大基线的潜力。为了促进这一方向的进一步研究，我们公开了ContraWiMAE的模型权重和训练流程。