基于广义互信息代价函数的光纤非线性神经补偿新范式

针对光纤非线性补偿中传统均方误差(MSE)代价函数导致非高斯分布、影响前向纠错(FEC)性能的问题，上海交通大学团队创新性提出基于高斯约束的广义互信息(GMI)代价函数。实验证明，在1600 km传输中GMI较MSE实现0.8 dB的FEC后增益，为光通信神经网络训练确立了新标准。

　　

在追求超高速光纤通信的道路上，克尔非线性效应如同一个顽固的"拦路虎"——随着传输功率提升，它产生的非线性噪声会严重制约系统容量。传统数字信号处理(DSP)算法如数字反向传播(DBP)虽能通过求解非线性薛定谔方程(NLSE)的逆模型来补偿损伤，但始终面临性能与复杂度的矛盾。近年来，长短期记忆网络(LSTM)等神经网络算法展现出惊人潜力，但一个隐藏的陷阱逐渐浮现：广泛使用的均方误差(MSE)代价函数会制造"监狱窗口"效应——它虽然能通过将噪声信号推向最近星座点来降低前向纠错(FEC)前的误码率，却导致信号呈现非高斯分布，使得基于高斯假设的对数似然比(LLR)计算失效，最终造成FEC解码后性能不升反降。

上海交通大学的研究团队在《Optical Fiber Technology》发表的这项研究，首次系统揭示了MSE代价函数在AWGN信道和真实光纤信道中分别造成1.0 dB和0.45 dB的FEC后信噪比(SNR)损失。为破解这一困局，他们创新性地设计了基于高斯分布约束的广义互信息(GMI)代价函数，配合双向长短期记忆网络(Bi-LSTM)结构，在50 GBaud、1600 km传输实验中实现了比MSE方法高出0.8 dB的FEC后增益。这项研究不仅纠正了"仅看FEC前指标"的认知误区，更为神经网络在光通信领域的应用确立了全新的训练准则。

关键技术方法包括：1)构建Bi-LSTM网络架构处理光纤信道记忆效应；2)设计GMI代价函数约束输出分布；3)采用64QAM调制信号验证性能；4)通过AWGN信道对照实验分离非线性效应；5)在1600 km实地光纤链路进行验证。

【原理分析】
研究团队首先剖析了MSE代价函数的本质缺陷：其欧式距离最小化目标会扭曲噪声分布，形成星座图热力图中特有的"监狱窗口"模式。相比之下，新提出的GMI代价函数通过最大化互信息量，强制保持信号的高斯分布特性，确保LLR计算的有效性。理论分析表明，在无非线性效应的AWGN信道中，GMI方法能完全避免MSE带来的1.0 dB SNR损失。

【神经网络结构】
采用具有记忆功能的Bi-LSTM网络处理光纤非线性。该结构通过遗忘门、输入门和输出门的精巧设计，有效捕捉光纤中的时序依赖性。网络部署在接收端DSP之后，主要对经过常规线性补偿的信号进行二次优化。

【实验结果】
在AWGN信道中，MSE训练导致FEC后SNR恶化1.0 dB，而GMI组与理论最优解完全吻合。在1600 km光纤实验中，MSE组出现0.45 dB的OSNR损失，GMI组反而获得0.8 dB的净增益。星座图分析清晰显示，GMI有效消除了MSE产生的非对称噪声簇。

这项研究确立了神经网络补偿性能评估的新范式：必须同时考察FEC前后指标。提出的GMI代价函数不仅解决了"监狱窗口"效应，更启示研究者应依据信息论本质而非直观距离度量来设计损失函数。该成果为未来太比特级光通信系统提供了关键技术支持，其"分布保持型"神经网络训练思想也可拓展至其他通信场景。值得注意的是，Zekun Niu等作者在文末特别强调，所有增益声明都需经FEC解码验证，这一严谨态度为领域研究树立了标杆。