科研速递

上海交通大学电子工程系义理林教授课题组（LIFE，Laboratory of intelligent fiber ecosystem）利用可微辅助信道解决了端到端深度学习的反向传播受阻问题，并首次基于长距离光纤传输信道实现了端到端全局优化。相关成果以“End-to-End Deep Learning for Long-haul Fiber Transmission Using Differentiable Surrogate Channel”为题于2022年1月发表于国际光学期刊《Journal of Lightwave Technology》。博士生牛泽坤为第一作者，义理林教授为通信作者。

随着接收端算法的逐渐成熟，光纤长距传输性能提升的重点转向了发端优化以及端到端优化。端到端深度学习通信系统将收发两端都部署为神经网络，通过深度学习的优化思路，对发端和收端进行联合优化，从而达到全局最优的通信性能。端到端深度学习通信系统概念于2017年首次提出，并于2018年在短距光通信系统中得到验证。

虽然全局优化的思路非常新颖，尤其是给出了通信系统发端优化的新架构，但是端到端深度学习依赖于反向传播算法计算梯度，而这需要信道的数学模型。在真实系统当中，尤其是长距光纤传输系统中，信道模型往往是未知的，从而限制了端到端深度学习的应用。虽然可以使用各种简化信道（例如EGN信道），但是简化信道存在精准度问题，另外EGN类似的统计信道无法用于波形上的优化。由于上述原因，基于端到端深度学习优化的光纤长距传输系统尚未有报道。

科研速递

图 1 基于可微分辅助信道的端到端深度学习光传输系统

为了解决上述反向传播受阻问题，LIFE课题组进行了长达三年的持续深入研究。首先从理论上分析了端到端深度学习系统的信息量理论，得出端到端深度学习同时完成收端最大似然解码和发端最大化互信息量的结论。由于端到端深层的架构，训练过程需要避免梯度消失问题，LIFE课题组创新地使用了MSE损失函数替代传统使用的BCE损失函数，在实际训练效果上达到了更好的性能。进一步地，结合反向传播算法，分析了端到端优化时所需的信道信息特征，利用神经网络构建一个可微辅助信道，对信道进行简易建模。简易模型仅仅对优化所需的特征进行建模，省去对随机效应的建模，参考微扰思路设计残差架构减少梯度消失问题。基于可微辅助信道的系统架构如图1所示，训练过程中，通过可微辅助信道进行反向传播计算发端微分，从而实现端到端全局优化。

研究成果

图 2 长距光纤传输系统中端到端深度学习几何整形结果

基于端到端深度学习训练的几何整形如图2所示，展示了1040 km下16/32/64-ary调制格式下的结果，上图为低非线性场景，下图为高非线性场景。针对不同的场景，发端神经网络都能够学习相对应的最优几何整形。借助端到端深度学习的架构，该项工作探讨了长距光纤传输系统中几何整形的性能极限。对比于矩形QAM与AWGN信道下优化的几何整形，基于非线性信道的几何整形在广泛的信道条件范围内都能达到最优的性能，并且随着信号调制阶数的增加，性能增益越明显，如图3所示。

图 2 长距光纤传输系统中端到端深度学习几何整形结果

端到端深度学习是一种通信系统架构最优设计的手段，给出了逼近信道香农容量限的新途径。将全局优化和传统最优算法结合是当前光通信智能化发展的趋势，而解决端到端深度学习反向传播受阻的核心难题为真实信道的全局优化打开了大门。未来拟研究基于端到端深度学习实现长距光纤传输系统的发端概率几何混合整形以及收端最佳均衡，突破光纤非线性限制，逼近线性信道的香农容量限。

LIFE课题组一直致力于光纤通信系统的算法设计、系统架构设计以及智能化发展。目前，课题组深入研究基于人工智能方法的光纤信道建模、非线性补偿算法以及系统性能全局优化工作，开发基于Python的光纤通信系统智能仿真平台，为光传输领域持续发展贡献力量。该方向工作得到国家自然科学基金杰出青年基金（62025503）、科技部重点研发计划(2018YFB1800904)以及上海交通大学-华为先进光技术联合实验室的支持。

论文全文：https://ieeexplore.ieee.org/abstract/document/9705153