通过深度学习实现FDD大规模MIMO系统中多用户通信的可扩展收发器设计

《IEEE Transactions on Wireless Communications》：Scalable Transceiver Design for Multi-User Communication in FDD Massive MIMO Systems via Deep Learning

低开销FDD系统大规模MIMO联合收发器设计采用深度学习框架，通过分层码本RVQ-VAE实现灵活反馈，结合共享反馈的EGAT网络实现多用户自适应预编码，并提出渐进训练策略。实验验证其跨反馈容量和用户数场景的优越扩展性。

　　

摘要：

本文探讨了在频分双工（FDD）系统中，用于低开销下行链路的大规模多输入多输出（MIMO）通信的联合收发器设计，包括导频传输、信道特征提取与反馈以及预编码。尽管深度学习（DL）在解决这一问题方面展现出巨大潜力，但现有方法在实际应用中往往存在可扩展性不足的问题，因为训练阶段得到的解决方案仅适用于固定的反馈容量和固定数量的用户。为了解决这一限制，我们提出了一种基于DL的新框架，该框架由协同工作的神经网络组成，能够通过一次训练生成部署阶段所需的所有收发器配置，这些配置可以适应不同大小的反馈码本和用户数量。所提出的框架包括一个残差向量量化变分自编码器（RVQ-VAE）用于高效信道反馈，以及一个边缘图注意力网络（EGAT）用于鲁棒的多用户预编码。该框架通过分层码本结构灵活调整RVQ码本大小来适应不同的反馈容量，并通过反馈模块共享机制和EGAT的固有可扩展性实现用户数量的扩展。此外，还提出了一种渐进式训练策略以进一步提升数据传输性能和泛化能力。在真实世界数据集上的数值结果表明，我们的方法在可扩展性和性能上均优于现有方法。