基于CNN-BiLSTM混合深度学习框架的大规模MIMO-NOMA系统信号检测研究

为解决6G网络中非正交多址接入(NOMA)系统因连续干扰消除(SIC)技术误差传播导致的信号检测瓶颈，研究人员提出了一种结合一维卷积神经网络(1D-CNN)和双向长短期记忆网络(BiLSTM)的混合深度学习框架。该模型在256×256大规模MIMO-HQAM系统中实现了60%的远用户(FU)和55%的近用户(NU)高优先级比特误码率(BER)降低，相比传统SIC-MLD方法提升显著。研究成果为6G超密集网络提供了低复杂度、高鲁棒性的信号检测新范式。

　　

在6G网络迅猛发展的背景下，非正交多址接入(NOMA)技术因其高频谱效率被视为替代传统正交多址(OMA)的关键方案。然而，现有基于连续干扰消除(SIC)的接收机存在误差传播问题，尤其在信道状态信息(CSI)不完美时，传统最小均方误差(MMSE)和最大似然检测(MLD)方法的性能急剧下降。更棘手的是，大规模多输入多输出(MIMO)系统与分层正交幅度调制(HQAM)的结合，使得信号检测面临高维干扰和计算复杂度的双重挑战。

为突破这些技术瓶颈，研究人员创新性地构建了CNN-BiLSTM混合深度学习框架。该模型通过1D-CNN提取信号空间特征，结合BiLSTM捕捉时序依赖关系，在256×256天线配置的MIMO-NOMA系统中实现了突破性进展。研究表明，该方案使高优先级(HP)比特的误码率(BER)在近用户(NU)和远用户(FU)分别降低60%和55%，较传统SIC-MLD提升显著。相关成果发表于《Results in Engineering》，为6G超密集网络提供了兼具低复杂度与高鲁棒性的信号检测新范式。

关键技术方法包括：1) 构建包含384×1输入维度的1D-CNN-BiLSTM混合架构；2) 采用16QAM和64QAM分层调制生成50000组训练数据；3) 使用Nadam优化器进行在线训练，批量大小达8000；4) 在瑞利衰落信道下评估不同信噪比(SNR)的BER性能。

系统模型设计
通过数学建模证明，在功率域NOMA系统中，结合HQAM调制和不同用户功率分配系数(α₁=0.25, α₂=0.75)，提出的混合模型能有效处理多用户干扰。接收信号Y(n)=X(n)?H(n)+σ(n)的卷积运算被转化为深度学习可处理的特征向量。

调制优化
采用64-HQAM星座图，通过调整层级距离比(r₁=h₁/h₂, r₂=h₂/h₃)实现高/低优先级比特的差异化保护，使MSB(最高有效位)比LSB(最低有效位)具有更强的噪声免疫力。

模型性能
在完美CSI条件下，HP比特达到10^-3 BER仅需1.8dB SNR(NU)，较BiLSTM和CNN分别降低1dB和1.8dB。Nadam优化器使性能进一步提升0.5dB，验证了模型对训练参数(学习率0.01，批量8000)的强适应性。

计算效率
相比SIC-MLD单次迭代的2796万FLOPs，CNN-BiLSTM总计算量仅5084万FLOPs，且无需迭代收敛，实时性显著提升。

该研究开创性地将深度学习引入大规模MIMO-NOMA系统，通过1D-CNN与BiLSTM的协同作用，解决了传统方法在动态信道下的性能瓶颈。特别值得注意的是，模型对不完美CSI的鲁棒性使其具备实际部署价值，为6G网络的海量连接需求提供了关键技术支撑。未来可进一步探索智能反射面(RIS)增强下的系统扩展，推动无线通信向更高维度的智能化发展。