面向双色散信道的Optical-OTFS鲁棒Transformer神经网络联合检测器：信道估计、BER与PSD评估

《Array》：Robust Transformer Neural Network based Signal Detector for Optical-OTFS in Doubly Dispersive Channels with BER and PSD Evaluation

　　

• 面向Optical-OTFS（光学正交时频空，Optical Orthogonal Time Frequency Space）的基于Transformer（变换器）的联合检测与信道估计。
• 自注意力（self-attention）学习全局时延-多普勒（delay-Doppler）信道依赖关系。
• 在10%和20%信道状态信息（CSI，channel state information）误差下实现鲁棒检测。
• 在真实光学湍流信道下评估BER（bit error rate，比特误码率）和PSD（power spectral density，功率谱密度）。
• T-NN（Transformer Neural Network，Transformer神经网络）提升检测性能与频谱约束（spectral confinement）。

论文由Arun Kumar、Nishant Gaur、Mehedi Masud、Hossam Meshref和Aziz Nanthaamornphong等完成，研究面向双色散光湍流信道中的Optical-OTFS（光学正交时频空，Optical Orthogonal Time Frequency Space）系统，提出基于Transformer Neural Network（T-NN，Transformer神经网络）的联合信道估计与信号检测框架，并以BER（bit error rate，比特误码率）和PSD（power spectral density，功率谱密度）评估性能。

研究背景方面，随着6G等下一代无线与光网络发展，高数据速率、超可靠、低时延通信需求增强。短距光纤与FSO（free-space optical，自由空间光）等光通信可提供大带宽、抗电磁干扰和安全传输，但其信道常同时具有频率选择性与时间选择性，形成双色散（doubly dispersive）效应，即同时存在时延扩展与多普勒扩展。移动平台、大气湍流、机械振动等会引起快速时变多径和频移。OTFS（orthogonal time frequency space，正交时频空）将符号映射到时延-多普勒域，较OFDM（orthogonal frequency division multiplexing，正交频分复用）更适合高移动与强色散信道。然而，传统OTFS接收机常假设完美CSI（channel state information，信道状态信息），或先估计信道再检测，在快速时变、非线性光信道中会造成误差级联。深度学习可学习复杂非线性映射，但已有OTFS深度学习研究多集中于RF（radio frequency，射频）场景，很少针对Optical-OTFS开展联合信道估计与检测，且未充分纳入真实光损伤与双色散特性，因此研究人员开展该研究。

研究人员提出T-NN框架，在时延-多普勒域联合进行信道估计与信号检测，利用自注意力学习全局时延-多普勒依赖，并在10%和20% CSI误差、Log-Normal Optical Turbulence和Optical Turbulence Fading等光湍流损伤下评估。结果表明，T-NN较传统和近期OTFS检测器显著提升BER性能，获得约8.4–10 dB SNR（signal-to-noise ratio，信噪比）增益，较Bi-LSTM、Deep Unfolding、EP、AMP和MP等先进方法近1.4–8 dB改善，并具有更低带外PSD底与更好频谱约束。其意义在于为可靠、节能、高吞吐Optical-OTFS通信提供鲁棒检测框架。

关键技术方法方面，研究人员采用MATLAB R2024生成仿真数据集，按70:15:15划分训练、验证和测试，使用独立信道实现，未涉及人体或动物样本。输入为接收时延-多普勒域符号和导频矩阵，经线性嵌入和位置编码后送入6层编码器、6层解码器Transformer，每层含8头多头自注意力、前馈网络、残差、层归一化和dropout。双输出头分别输出OTFS符号估计与时延-多普勒信道估计。复合损失含符号重建、信道估计、比特级交叉熵和稀疏正则化，采用Adam优化。仿真采用256×256 OTFS帧、256-QAM（quadrature amplitude modulation，正交幅度调制）、光C波段193.1 THz、最大多普勒200 Hz、时延扩展1 μs、10%和20% CSI误差，并考虑大气衰减、湍流闪烁、指向误差及散粒/热噪声。

研究结果中，5. Simulation Results通过MATLAB R2024仿真比较不同检测算法。在Log-Normal Optical Turbulence信道、256-QAM下，达到目标BER所需SNR约为：Conventional Optical-OTFS 17.2 dB，MMSE 15.8 dB，QRM-MLD 14.9 dB，MP 13.8 dB，AMP 12.9 dB，EP 11.8 dB，Deep Unfolding 10.9 dB，Bi-LSTM 9.8 dB，T-NN 8.4 dB；T-NN相对基线增益约8.8 dB，相对近期先进方法约1.4–7.4 dB。在Optical Turbulence Fading信道下，各方法分别约18.6、17.1、16、15、14、13、12、10.8和9.2 dB；T-NN相对基线增益约9.4 dB，相对先进方法约1.6–6.8 dB。10% CSI误差、Log-Normal条件下，T-NN约10 dB，较基线增益约10 dB，较先进方法约1.6–8 dB；10% CSI误差、Optical Turbulence Fading条件下，T-NN约10.4 dB，较基线约8.4 dB，较RNN、CNN、SVM分别约1.8、2.9、4 dB，较传统方案约5–7.6 dB。20% CSI误差、Log-Normal条件下，T-NN约9.8 dB，较基线约9.4 dB，较Bi-LSTM约2 dB、Deep Unfolding约3.2 dB、EP/AMP/MP约4–6 dB；20% CSI误差、Optical Turbulence Fading条件下，T-NN约10.8 dB，较基线约9.2 dB，较Bi-LSTM约1.7 dB、Deep Unfolding约2.9 dB、EP约4 dB、AMP/MP约5–6 dB。PSD分析使用重建基带时域波形的Welch周期图、Hann窗8192、50%重叠、8192点FFT并归一化，结果显示T-NN在所有比较方案中带外谱底最低，频谱约束最好。训练数据集按70:15:15划分；训练准确率约92.55%，验证准确率约90–91%，高于SVM 80%、CNN 85%和RNN 87%，训练与验证差距小，表明泛化较好。

5.1. Complexity Analysis通过比较各检测算法数学运算得出：ZFE和MMSE需矩阵求逆，复杂度为O(N³)；QRM-MLD为指数复杂度O(M^K)；SVM约O(N_s³)，其中N_s为支持向量数；CNN为与层、滤波器和特征相关的复杂度；RNN为O(T²)；MP、AMP、EP为与迭代次数相关的复杂度；Deep Unfolding较高；Bi-LSTM为O(T²)量级的顺序处理复杂度；T-NN通过自注意力保持二次复杂度，在BER性能、鲁棒性与计算效率之间提供有利折中。

讨论部分指出，T-NN的BER提升看似较大，但源于所考虑的严苛光信道，包括Log-Normal Optical Turbulence、Optical Turbulence Fading、时延-多普勒干扰、闪烁、非线性失真、指向误差以及10%和20% CSI误差；256-QAM星座密集，对残余干扰和估计误差敏感。传统与迭代检测器依赖简化概率或线性假设，难以补偿强时延-多普勒耦合和非线性光失真。T-NN通过多头自注意力在整帧时延-多普勒网格上全局提取特征，有效抑制残余干扰并改善符号判别。其性能趋势在两种湍流信道、完美CSI及10%、20% CSI误差下一致；但具体BER改善取决于调制阶数、湍流严重度、OTFS帧尺寸、训练集多样性和Transformer超参数。PSD方面，检测精度越高，重合成波形带外泄漏越低，T-NN最接近理想带限OTFS频谱。

结论翻译：本工作证明，所提T-NN在理想和挑战信道条件下，对双色散光湍流衰落信道中的Optical-OTFS系统显著优于传统和近期最先进OTFS检测方案。在Log-Normal Optical Turbulence和Optical Turbulence Fading场景、完美CSI以及10%和20%信道估计误差下，T-NN在显著更低SNR水平持续达到目标BER，相比基线Optical-OTFS获得约8.4–10 dB SNR增益，相比Bi-LSTM、Deep Unfolding、EP、AMP和MP等先进OTFS检测器获得近1.4–8 dB改善。PSD分析表明，T-NN相较所有传统和先进OTFS检测方法具有更优频谱约束和更低带外频谱泄漏，从而提高频谱效率并减少密集光无线通信环境中的邻道干扰。复杂度分析显示，尽管T-NN通过高效自注意力保持二次计算复杂度，但与迭代和穷举OTFS检测器相比，仍在BER性能、鲁棒性和计算效率之间提供有利平衡。尽管优势显著，该框架仍有局限：性能强依赖足够多样训练数据集，以代表光湍流条件和信道损伤的广泛变化；此外，尽管Transformer比QRM-MLD等穷举搜索检测器计算更高效，二次自注意力操作仍可能给实时大规模OTFS系统和硬件受限光通信设备带来实现挑战；而且研究主要关注单用户Optical-OTFS场景和静态Transformer架构，未来可研究自适应Transformer模型、多用户OTFS系统、轻量硬件感知实现以及对抗实际光硬件损伤的鲁棒性。解决这些方面将进一步提升基于T-NN的Optical-OTFS系统在下一代可靠、节能、高吞吐光无线通信网络中的实际适用性。