使用三值忆阻器实现的三元定量神经网络

《Cognitive Neurodynamics》:Ternary quantitative neural network implemented with tri-valued memristors

【字体: 大 中 小 】 时间:2026年04月10日 来源:Cognitive Neurodynamics 3.9

编辑推荐:

  三值忆阻器神经网络设计实现高精度识别。提出基于三值忆阻器的全硬件前向计算电路、权重设置方法及更新算法,结合激活函数电路和WTA电路,平衡硬件可行性与权重表示能力。仿真验证可正确识别z/v/n字符,在MemTorch平台扩展LeNet-5实现MNIST测试准确率98.47%。

  

摘要

作为一种纳米级、非易失性的设备,并且与CMOS技术兼容,忆阻器非常适合用于内存计算,为加速神经网络计算提供了新的途径。然而,基于忆阻器的神经网络通常使用连续型忆阻器或二进制忆阻器。连续型忆阻器需要精确的电压幅度和占空比来设置电阻值,这增加了实际应用的难度;而二进制忆阻器由于只有两种电阻状态,因此权重表示的精度有限。相比之下,三值忆阻器具有三种离散的电阻值,能够表示更广泛的权重状态,并且电阻设置机制更为简单。这使得人工神经网络的硬件可行性与权重表示能力之间达到了更好的平衡。本文提出了一种基于三值忆阻器的三值神经网络设计方案。该设计方案包括一个完全基于硬件的前向计算电路(使用三值忆阻器交叉阵列)、一种基于三值忆阻器的权重设置方法、一种用于三值量化神经网络的权重更新算法、一个激活函数电路以及一个“胜者通吃”(WTA)电路。该设计结合了忆阻器的天然突触特性和量化神经网络的计算优势,为轻量级全硬件神经电路设计提供了可行的硬件平台和实现方案。通过LTSpice电路仿真验证,该方案能够正确识别测试字符‘z’、‘v’和‘n’。此外,该方案还被扩展到了MemTorch平台上的LeNet-5网络,在MNIST基准测试中实现了98.47%的识别准确率。

作为一种纳米级、非易失性的设备,并且与CMOS技术兼容,忆阻器非常适合用于内存计算,为加速神经网络计算提供了新的途径。然而,基于忆阻器的神经网络通常使用连续型忆阻器或二进制忆阻器。连续型忆阻器需要精确的电压幅度和占空比来设置电阻值,这增加了实际应用的难度;而二进制忆阻器由于只有两种电阻状态,因此权重表示的精度有限。相比之下,三值忆阻器具有三种离散的电阻值,能够表示更广泛的权重状态,并且电阻设置机制更为简单。这使得人工神经网络的硬件可行性与权重表示能力之间达到了更好的平衡。本文提出了一种基于三值忆阻器的三值神经网络设计方案。该设计方案包括一个完全基于硬件的前向计算电路(使用三值忆阻器交叉阵列)、一种基于三值忆阻器的权重设置方法、一种用于三值量化神经网络的权重更新算法、一个激活函数电路以及一个“胜者通吃”(WTA)电路。该设计结合了忆阻器的天然突触特性和量化神经网络的计算优势,为轻量级全硬件神经电路设计提供了可行的硬件平台和实现方案。通过LTSpice电路仿真验证,该方案能够正确识别测试字符‘z’、‘v’和‘n’。此外,该方案还被扩展到了MemTorch平台上的LeNet-5网络,在MNIST基准测试中实现了98.47%的识别准确率。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号