受生物启发的无反向传播训练光学神经网络(Bio-inspired Backpropagation-free Training for Optical Neural Networks, B-ONN)

《Light-Science & Applications》:Bio-inspired backpropagation-free training for optical neural networks

【字体: 大 中 小 】 时间:2026年07月07日 来源:Light-Science & Applications 24.0

编辑推荐:

  摘要:光学神经网络(Optical Neural Networks, ONNs)可在光速下执行矩阵运算,有望带来高能效计算的革命性进展。然而传统光学神经网络(Traditional ONNs, T-ONNs)严重依赖误差反向传播(Backpropagation

  
摘要:光学神经网络(Optical Neural Networks, ONNs)可在光速下执行矩阵运算,有望带来高能效计算的革命性进展。然而传统光学神经网络(Traditional ONNs, T-ONNs)严重依赖误差反向传播(Backpropagation, BP)算法,因缺乏互易误差路径及对加工缺陷极度敏感,与物理光学系统本质不兼容。本文提出一种受生物启发的无反向传播光学神经网络(Bio-inspired Backpropagation-free Optical Neural Network, B-ONN),通过逐层目标传播(Target Propagation)机制规避梯度反向传播,引入可训练误差卷积核(Trainable Error Convolution Kernel),使各层基于目标信号而非链式法则梯度进行局部学习(Local Learning),消除了前向与后向光路精确光学共轭的需求。实验结果表明,B-ONN在MNIST和Fashion-MNIST数据集上分别达到93.25%和82.28%的准确率,与T-ONN性能相当;且在相位噪声(σ≈0.4π时仍保持约75%准确率)和对准误差(±3像素内保持约75%准确率)下表现出更优鲁棒性。研究人员利用可编程空间光调制器(Spatial Light Modulator, SLM)系统对B-ONN进行了物理验证,手写数字识别准确率达95%;进一步通过双光子纳米打印(Nano-printing / Two-Photon Polymerization, TPP)实现芯片级集成,维持94%准确率,证实B-ONN可从可编程装置有效迁移至固定器件。关键的是,B-ONN学习得到的平滑相位分布赋予其固有的结构鲁棒性,无需噪声增强训练;其局部学习规则亦支持可扩展深层架构中的异步并行更新。本工作为光学计算系统在真实场景中的部署开辟了一条切实可行之路。
论文解读:《Bio-inspired backpropagation-free training for optical neural networks》发表于《Light: Science & Applications》
研究背景与意义
人工人工智能模型复杂度的指数增长正使电子硬件逼近热耗与带宽极限,光学神经网络(Optical Neural Networks, ONNs),尤其是基于波前工程的差分深度神经网络(Diffractive Deep Neural Network, D2NN),因能以光速进行大规模并行计算且能耗极低而备受关注。然而ONNs的广泛部署受限于训练效率:标准反向传播(Backpropagation, BP)算法依赖全局误差链与精确梯度计算,要求前向与后向光路严格物理对称(光学时间反演对称性),这在非互易光学元件、加工偏差及系统对准误差下极难实现,导致BP梯度与硬件实际响应失配。现有无BP方案如直接反馈对齐(Direct Feedback Alignment, DFA)难以匹配卷积架构的空间特征,前向—前向算法(Forward-Forward Algorithm, FFA)缺乏像素级方向引导,物理局部学习(Physical Local Learning, PhyLL)需逐层顺序标定限制扩展性。因此亟需一种兼顾物理硬件表达能力与算法学习效率、兼容非互易器件且支持深层扩展的训练范式。本文受生物电路中局部误差驱动突触可塑性启发,提出B-ONN框架以解决上述矛盾。
研究人员开展了一种基于逐层目标传播与可训练误差卷积核的无反向传播光学神经网络(B-ONN)训练框架研究,通过数值仿真、SLM可编程光学实验及TPP纳米打印芯片级实验验证其性能,得出B-ONN在分类精度上与基于BP的传统光学卷积神经网络(Traditional Optical Convolutional Neural Network, T-ONN)相当甚至深层更优,且对相位噪声与对准误差具固有鲁棒性,可顺利从可编程系统迁移至固定加工芯片的结论,为可扩展、抗扰、制备就绪的智能光子系统提供了新范式。

主要关键技术方法
研究人员采用MNIST及Fashion-MNIST数据集(28×28上采样至84×84零填充为112×112,60000训练/10000验证,30%作测试),构建多层相调制的D2NN前向传播模型(Fresnel/傅里叶域卷积描述)。核心算法为B-ONN:每衍射层引入独立可训练误差卷积核Em+1=exp(iθm+1),通过目标传播公式?m=Um?F(βEm+1)?δm+1local生成层间目标,局部误差δmlocal=Um??m驱动相位梯度Δφm=2Re{i·F(Pm)·Um(?rm)⊙δmlocal},误差核按Δθm=γΔφm更新(β=0.9, γ=0.1)。物理实现含三单元:光复振幅编码单元(Optical Complex-Amplitude Encoding Unit, OCEU)用单相-only SLM相位载波编码复光场;光局域误差单元(Optical Local Error Unit, OLEU)基于马赫—曾德尔干涉仪(Mach–Zehnder Interferometer, MZI) π相移实现光域减法得δmlocal;光并行梯度单元(Optical Parallel Gradient Unit, OPGU)通过空间干涉与CMOS相移干涉术提取复梯度。SLM实验用532 nm激光、振幅SLM输入、相位SLM权重、4f缩束及CMOS探测;芯片实验用双光子聚合(Nanoscribe TPP)制作双层衍射片,515 nm激光入射CMOS采集。

研究结果
Design principle and underlying physics of B-ONN(B-ONN的设计原理与底层物理)
研究人员将全局优化分解为去中心化波前驱动更新规则,训练含前向衍射调制与每层可训练误差卷积核E两个光学期。E经训练自适应近似前向衍射算子之逆而非严格共轭,消除光学时间反演对称刚性要求。推导给出局部误差定义、目标传播公式及误差核更新律,理论分析显示E与前向核伪逆夹角由初始90°收敛至~34°,表明E学得了正则化逆算子而非严格数学逆,兼顾误差解卷积与高频噪声抑制。
All-optical in-situ training implementation(全光原位训练实现)
研究人员搭建含OCEU(单相SLM复场全息合成)、OLEU(MZI干涉相减免光电转换)、OPGU(全场并行干涉单帧CMOS采梯度)的全光原位训练系统,论证B-ONN核心运算可完全映射于光学域执行,规避电子反向传播延迟与能耗瓶颈。
B-ONN for image classification(B-ONN用于图像分类)
在MNIST与Fashion-MINIST上三层B-ONN与T-ONN精度差距<0.5%(93.25% vs 93.7%; 82.28% vs 82.8%),t-SNE显示末层特征类间分离清晰。加深至3–9层时,7层起B-ONN超越T-ONN,9层达95.10%,归因于局部目标传播解耦层间依赖避免深层梯度消失/爆炸,而T-ONN随深度退化,表明B-ONN具更优深层可扩展性。
Architecture-inherent noise robustness of B-ONN(B-ONN架构固有的噪声鲁棒性)
施加零均值高斯相位噪声(σ:0→0.5π)模拟刻蚀/SLM量化误差,及±像素横向错位模拟装调漂移。T-ONN于σ>0.2π明显衰退,B-ONN于σ≈0.4π仍~75%;错位±3像素内B-ONN>75%而T-ONN 1–2像素即跌破60%。相位分布对比显示T-ONN习得多高频尖锐结构,B-ONN收敛于全局平滑缓变相位——等效内置低通滤波,优化至宽平极小点因而具固有抗噪与容错性,无需噪声感知训练。
Experimental demonstration of B-ONN(B-ONN实验演示)
四分类(0–3)手写数字SLM系统5轮收敛,仿真99.5%、物理实验95%准确率;混淆矩阵与输出面能量分布证实B-ONN有效将光能量路由至对应探测器子区,实验受限NA滤高频与CMOS阈值使斑更集中。
Chip-scale integration of B-ONN via diffractive architectures(基于衍射架构的芯片级集成)
双层D2NN经TPP制备(SEM可见连续相位台阶圆角化——Fabrication Smoothing),B-ONN训练20轮验证集94%准确率;仿真与实测光强空间路由吻合,TPP工艺致连续相位平台(Continuous Phase Plateau)恰好匹配B-ONN学到的平滑相位权重,算法与制造约束协同,确认B-ONN为制备就绪(fabrication-ready)方案。

讨论与结论总结
讨论指出B-ONN以光学干涉在光速下执行复杂空间变换,数字优化器(如Adam)仅加速收敛,系统习得平滑抗噪相位分布仿生局部学习规则。B-ONN以约3倍物理面积开销换取9层架构18倍动态电内存访问削减,绕过存储墙但增加硬件集成难度,未来需单片光子集成与3D异构封装压缩尺寸,并探索低秩近似或随机投影精简误差核像素占用。
结论翻译:
本研究为光学神经网络引入了一种无反向传播训练框架,有效解决了全局基于梯度的学习与光学系统物理约束间的不兼容性。B-ONN利用光学干涉以光速执行复杂空间变换,确保本质平滑且噪声鲁棒的相位分布,仿效生物电路中局部学习规则。性能增益源于空间换智能的策略权衡——以约3倍物理空间开销实现9层架构中18倍动态电内存流量削减,并通过级联独立OLEU/OPGU模块将电学基元简化为低功耗减法。未来单片光子集成是压缩物理尺寸、增强大规模B-ONN结构鲁棒性的关键。随光学计算走向实用化,训练方法须与光子集成进展同步演进,后续将探索轻量化目标生成机制(低秩近似/随机投影)压缩误差核像素足迹,并依托单片光子集成与先进3D异构封装 Consolidate 级联光学模块。本工作确证B-ONN不仅是理论模型,更是面向鲁棒、高能效、可制备集成光子系统的可行路径。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号