基于忆阻器的可重构架构用于二值化神经网络:实现与鲁棒性分析

《Neural Networks》:Memristor-based Reconfigurable Architecture for Binarized Neural Networks: Implementation and Robustness Analysis

【字体: 大 中 小 】 时间:2026年05月16日 来源:Neural Networks 6.3

编辑推荐:

  刘晓阳 | 徐茜 | 尹邦虎 | 朱如生摘要忆阻器为计算设备提供了内存计算和并行计算的能力,使其在构建神经网络加速器方面具有很大潜力。基于忆阻器的突触的电导值充当神经网络中的权重。然而,忆阻器电导的非线性和变化性使得电导的精确调整变得困难,从而导致对神经网络计算至关重要的乘累加操

  
刘晓阳 | 徐茜 | 尹邦虎 | 朱如生

摘要

忆阻器为计算设备提供了内存计算和并行计算的能力,使其在构建神经网络加速器方面具有很大潜力。基于忆阻器的突触的电导值充当神经网络中的权重。然而,忆阻器电导的非线性和变化性使得电导的精确调整变得困难,从而导致对神经网络计算至关重要的乘累加操作出现误差。相比之下,二值化神经网络仅使用两个权重值,这些权重值可以通过忆阻器的高电导状态和低电导状态有效表示。因此,忆阻器特别适合实现二值化神经网络,因为它们的性能受到这些器件缺陷的影响较小。在本文中,提出了一种基于忆阻器的可重构内存计算架构,用于实现二值化神经网络(BNNs)。该架构的可重构性是通过模块化组合专用忆阻器层来实现的,包括卷积层、全连接层、批量归一化层和池化层,从而能够构建适用于不同任务的网络结构。二进制权重根据忆阻器的平均中点映射到其高电导状态和低电导状态,并采用两阶段编程方案来确保状态设置的稳定性。该架构的有效性通过模式分类任务得到了验证:基于忆阻器的二值化多层感知器的MNIST测试错误率为1.80 ± 0.06%;基于忆阻器的二值化卷积神经网络的MNIST测试错误率为0.66 ± 0.05%,CIFAR-10测试错误率为31.63 ± 0.61%(而基于软件的对应模型的测试错误率分别为1.72 ± 0.04%/0.62 ± 0.06%/30.89 ± 0.88%)。仿真实验进一步表明,这两种网络都具有很强的抗噪声能力和容错能力:基于忆阻器的二值化多层感知器能够容忍高达20%的权重噪声;基于忆阻器的二值化卷积神经网络的权重噪声临界阈值为20%;同时,这两种网络都能在容忍30%的输入噪声和12.5%的故障粘滞率的情况下保持性能稳定。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号