基于福勒 - 诺德海姆退火器的开 - 关神经形态伊辛机:突破组合优化难题的新曙光

《Nature Communications》:

【字体: 时间:2025年04月01日 来源:Nature Communications

编辑推荐:

  为解决组合优化问题中现有伊辛机求解精度和扩展性的难题,研究人员开展了神经形态伊辛机(NeuroSA)的研究。结果显示,NeuroSA 在求解 MAX-CUT 和最大独立集(MIS)等问题时表现优异,能接近或超越当前最优解,为组合优化问题求解带来新途径。

  在科学研究的广阔领域中,组合优化问题一直是困扰着众多学者的难题。就像在一个复杂的迷宫里寻找最优路径,每一步决策都可能影响最终结果。二次无约束二进制优化(QUBO)和伊辛(Ising)模型作为解决这类问题的关键,受到了广泛关注。然而,现有的硬件加速器在求解时存在诸多问题。量子伊辛机虽理论上能找到最优解,但在物理上难以扩展以解决大规模问题;经典的 QUBO/Ising 求解器,如基于忆阻器的 Hopfield 网络等,受计算精度和外围读出电路动态范围的限制,在处理高复杂度问题时,很难稳定地接近或超越当前最优解(SOTA)。此外,模拟退火(SA)算法虽能保证找到 QUBO/Ising 基态,但传统使用神经形态硬件模拟 SA 动态的尝试,无法保证渐近收敛到伊辛基态。在这样的背景下,为了突破组合优化问题求解的困境,华盛顿大学圣路易斯分校(Washington University in St. Louis)等机构的研究人员开展了关于神经形态伊辛机(NeuroSA)的研究。他们提出的 NeuroSA 架构,在解决组合优化问题方面展现出了巨大潜力,相关研究成果发表在《Nature Communications》上。
研究人员为开展此项研究,主要运用了以下关键技术方法:首先,建立了异步伊辛机模型,通过推导得到 NeuroSA 的神经元模型,该模型由一对异步开 - 关(ON-OFF)神经元构成,其阈值由福勒 - 诺德海姆(FN)退火器自适应调整;其次,设计了实现 FN 退火器的动力系统模型,产生符合 SA 最优退火调度的动态阈值;最后,利用主成分分析(PCA)对网络动态进行降维可视化,并通过多次运行 NeuroSA 求解组合优化问题,统计结果生成经验概率密度函数。
研究结果如下:
  1. 小规模图实验:将 NeuroSA 应用于 10 节点的 MAX-CUT 图,其动力学可分为高温和低温阶段。在高温阶段,网络动力学沿网络梯度快速收敛;在低温阶段,虽会被困在全局最优解附近,但能周期性逃逸以进一步探索,最终随着退火过程,在最优解附近的停留时间增加。
  2. 中等规模图实验:在 800 节点的 G15 图上求解 MAX-CUT 问题,NeuroSA 找到的解随时间收敛到 SOTA 状态。研究发现,FN 退火器产生的噪声阈值动态影响神经元的放电概率,且只有使用 FN 退火器和指数分布噪声时,得到的解分布才更集中于 SOTA。
  3. 不同 MAX-CUT 图的基准测试:对不同 Gset 图上的 MAX-CUT 问题进行基准测试,NeuroSA 的解始终能达到 SOTA 的 99% 以内。将其映射到并行架构(如 SpiNNaker2 平台)上具有算法优势,可使解的分布更集中于 SOTA,但在有限运行时间内,NeuroSA 无法找到超越 SOTA 的解。此外,SpiNNaker2 平台在能量消耗上优于 CPU 实现。
  4. MIS 问题的基准测试:NeuroSA 在求解最大独立集(MIS)问题时,无需超参数调整,得到的解分布集中,且始终能找到比当前 SOTA 更好的解。
    在研究结论和讨论部分,NeuroSA 架构在功能上与模拟退火优化引擎同构,为渐近收敛到伊辛基态提供了理论保证。它能利用现有和未来大规模神经形态平台的计算能力,通过 FN 退火器的随机特性模拟 SA 算法的动态。虽然 O (1/log) 退火调度可能使收敛速度较慢,但可借助神经形态平台的硬件加速来缓解。NeuroSA 对通信错误具有一定容忍度,可采用混合方法加速收敛。此外,NeuroSA 在并行架构上具有算法优势,且在能量和时间消耗上优于 CPU。然而,NeuroSA 也面临一些挑战,如生成独立同分布随机变量的能耗问题,以及寻找新解需要大量计算周期和能量消耗。总体而言,NeuroSA 架构为解决组合优化问题提供了新的思路和方法,有望在未来的研究和应用中取得更显著的成果,推动相关领域的发展。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号