一种基于垂直NAND闪存且无背景模式依赖的突触串架构

《Nano Energy》:A back-pattern-dependency-free synaptic string architecture using vertical NAND flash memory

【字体: 大 中 小 】 时间:2026年04月24日 来源:Nano Energy 16.7

编辑推荐:

  Jong-Won Back|Sung-Ho Park|Ho-Nam Yoo|Yeongheon Yang|Joon Hwang|Jong-Ho Lee 韩国首尔国立大学电气与计算机工程系及跨校半导体研究中心,首尔08826 摘要 垂直NAND(V-NAND)闪存是用

  Jong-Won Back|Sung-Ho Park|Ho-Nam Yoo|Yeongheon Yang|Joon Hwang|Jong-Ho Lee
韩国首尔国立大学电气与计算机工程系及跨校半导体研究中心,首尔08826

摘要
垂直NAND(V-NAND)闪存是用于神经形态计算的理想平台,但基于传统V-NAND的神经网络存在背向模式依赖问题,即检测到的电流值会受同一串中其他单元的编程状态影响,从而降低推理的准确性与可靠性。本文提出了一种用于二进制神经网络的新型突触串架构,可从根本上消除背向模式依赖。该架构通过在单个V-NAND串内串联集成突触单元对来表示有符号权重,而非像传统方案那样在相邻串间使用并行单元对。每个权重由两个被编程至相同阈值电压的单元共同表示,其顺序相反则代表符号的正负,这样无论权重分布如何,每条串中的编程单元数量始终固定。这种确定的串结构从设计上就消除了背向模式依赖,并使各串的保持特性趋于一致。研究使用商用100多层V-NAND闪存对所提出的突触串架构进行了实验验证,还将经过校准的整串SPICE模型应用于MNIST数据集的神经网络模拟。实验表明,该架构通过抑制由背向模式依赖和保持特性引起的误差,提升了推理精度,且推理能耗仅为传统V-NAND基神经网络的2.08%,展现出良好的可扩展性和能效优势。

引言
深度神经网络(DNN)的快速发展推动了人工智能在图像识别、语音处理和自然语言理解等诸多领域的显著进展[1][2][3]。然而,传统的冯·诺依曼计算架构将存储单元与处理单元物理分离,由于数据需要在存储单元与逻辑单元之间频繁传输,因此存在较高的能耗和延迟问题[4]。随着现代神经网络对大规模向量-矩阵乘法运算以及大量参数存储的需求不断增加,这一所谓的冯·诺依曼瓶颈已成为亟需解决的问题。

神经形态计算作为一种新兴技术框架,通过在存储单元内部直接执行向量-矩阵乘法运算,有效减少了数据传输量,提升了能效,有望突破这一瓶颈[4][5][6]。在神经形态系统中,突触器件以电导状态存储神经网络权重,通过欧姆定律和基尔霍夫电流定律即可实现加权求和操作。为此,电阻式随机存取存储器、相变存储器等多种非易失性存储技术已被广泛研究作为潜在的突触器件[4][6]。尽管这些技术具有诸多优势,但仍面临器件间差异较大、可靠性不足、开关行为具有随机性以及集成难度高等挑战,难以实现大规模、高可靠的部署。

二进制神经网络为克服这些器件级限制提供了一种有效的算法框架[7][8]。通过将权重和激活值限制在+1或-1这样的二元值范围内,二进制神经网络大幅降低了对突触精度和电导线性度的要求,使其具备更强的抗器件差异和噪声干扰能力。此外,二进制神经网络中的加权求和操作可通过简单的电流比较或二元电阻状态的累积来实现,这大大降低了外围电路的复杂度与能耗。正是这些特点,使得二进制神经网络特别适合基于非易失性存储器的神经形态系统。

在这一背景下,NAND闪存作为一种极具潜力的突触器件候选者,受到了广泛关注。NAND闪存是目前技术最为成熟的非易失性存储技术之一,具有极高的存储密度、出色的数据保持性能、高耐用性以及成熟的制造工艺[9][10]。尤其是垂直NAND闪存,通过将存储单元垂直堆叠并在串内进行串联连接,实现了创纪录的比特密度[11][12]。对于需要海量突触权重的现代神经网络而言,这类特性极具吸引力。基于上述优势,已有不少研究提出了基于垂直NAND闪存的神经形态架构。现有工作通过采用脉宽调制方案、多级电导调节技术或二元突触操作等方式,成功展示了利用V-NAND闪存实现向量-矩阵乘法运算的可能性,且无需改变其基本单元结构,即可获得具备竞争力的推理精度与能效表现。虽然V-NAND闪存的读取脉冲持续时间通常仅为几微秒,略慢于忆阻器等一些新兴突触器件,但其成熟的技术水平、良好的可制造性和高可靠性仍具有显著优势。此外,现有的最先进V-NAND技术已可实现300多层垂直堆叠,从而实现极高密度且成本低廉的权重存储,同时具备稳定的数据保持与耐用性能。这些特点使得V-NAND闪存成为需要大容量、高可靠性权重存储的推理型神经形态硬件的重要选择。

然而,V-NAND闪存特有的串结构也带来了一些独特挑战,使其与基于交叉开关的突触阵列存在本质区别[16]。在V-NAND串中,多个存储单元在位线与源线之间串联连接,因此在读取操作时,未选中的单元也需要被施加偏置电压。这样一来,检测到的位线电流不仅受目标突触单元的影响,还会受到同一串中其他单元编程状态的影响。更为重要的是,突触单元的有效电导并非仅在编程时刻确定。即使某个单元被编程至目标阈值电压,一旦同一串中的其他单元随后被编程,该单元的读取电导也可能发生变化,如图1(a)所示[17]。随着相邻单元编程状态的不断变化,串内的电压分布也会随之改变,从而导致检测到的位线电流出现与历史状态相关的波动。这种现象被称为背向模式依赖,它会导致突触单元的输出电流取决于串中其他单元的编程模式,而非其自身的存储状态,进而使得基于电流求和的神经形态计算过程中不断积累误差。

在传统基于V-NAND闪存的二进制神经网络架构中,突触权重通常是通过在相邻V-NAND串之间形成并行突触对来实现的,如图1(b)所示。在这种结构中,每个突触对的输出是通过减去两个相邻V-NAND串的位线电流来表示负值权重(“-1”)。由于每条串的检测电流都会受到同一串中其他单元编程状态的影响,因此并行突触对的输出会不可避免地受到串内整体编程模式的影响。这就使得背向模式依赖成为这类架构固有的问题,因此必须采取某种措施来缓解这一问题,才能保证神经形态计算的可靠性。

以往的研究尝试通过在V-NAND串内引入补偿单元来缓解背向模式依赖[17]。这类方法通过刻意对某些单元进行编程或擦除操作,以平衡整个串的编程模式,从而稳定检测到的位线电流。虽然基于补偿单元的方案能够在一定程度上减轻背向模式依赖,但由于需要额外的单元、频繁的编程/擦除操作以及复杂的编程历史管理,必然会增加系统的复杂性。

在本研究中,我们提出了一种完全不同的基于V-NAND闪存的神经形态计算操作方案,即突触串架构。与传统方案将突触权重映射到并行NAND串上并在问题发生后再尝试补偿背向模式依赖不同,所提出的突触串架构是在单个V-NAND串内串联集成突触权重对,如图1(b)所示。该架构专为二进制神经网络设计,其中突触权重取+1或-1这样的二元值。每个突触权重由两个被编程至相同阈值电压水平(分别为0伏和2伏)的单元组成,但根据权值的正负,这两个单元的排列顺序相反。重要的是,由于突触对在单个V-NAND串内是串联排列的,因此无论训练得到的权重值为何,每个突触串中始终包含相同数量的低阈值电压单元和高阈值电压单元。这样一来,V-NAND串的编程状态背景就具有确定性且保持不变,从而从根本上消除了传统基于V-NAND的突触架构中因编程模式变化而产生的背向模式依赖问题。

这种确定的突触串构成方式还有助于减少由数据保持特性引起的误差。在V-NAND闪存中,由于电荷流失导致的电导随时间变化的情况,会受到串内编程单元数量的影响[18]。传统架构由于各串中编程单元数量的不同,会出现保持特性不均匀的问题。而所提出的突触串架构则通过设计确保每个串中的编程单元数量始终相同,从而实现了保持特性的均匀化,无需额外的补偿机制即可避免不同串之间的保持性能差异。

此外,所提出的突触串架构还能实现更高效的推理方式。传统的基于V-NAND的神经网络通常会将每条字线对应到一个权重层,这意味着在推理过程中,每个层都需要依次读取所有V-NAND串。而所提出的架构则将权重层与漏极选择线相对应,使得属于同一权重层的所有突触单元都位于同一个由漏极选择线连接的串组中。因此,在每次读取操作中,只需访问与所选漏极选择线(即所选权重层)相连的V-NAND串。这种选择性读取方式大大减少了不必要的串激活,从而降低了推理过程中的读取能耗。

图1(c)将所提出的基于突触串的V-NAND二进制神经网络架构与之前报道的基于V-NAND的神经网络方案进行了对比[10][14]。为了系统地研究所提出突触串架构的操作特性、可靠性及其优势,我们使用了SK海力士生产的100多层商用V-NAND闪存进行了实验测试。我们对包括电流求和行为、对背向模式依赖的抵抗能力以及数据保持特性在内的各项器件级性能进行了实验分析。根据实验测得的器件特性,我们建立了整串SPICE模型,以精确描述所提出突触串在实际工作条件下的行为。随后,我们将这些模型参数引入神经网络模拟中,从而能够在系统层面定量评估推理精度与系统的稳定性。通过这种实验与仿真相结合的方法,本研究证明了所提出的突触串架构能够为基于商用V-NAND闪存的二进制神经网络实现提供一种可靠、高效且无背向模式依赖的解决方案。

章节节选
V-NAND闪存结构与背向模式依赖
图2(a)展示了V-NAND闪存的整体架构以及神经网络的操作方式。在本研究中,我们使用了具有100多层堆叠结构的商用三态单元V-NAND闪存作为实验测试对象(详见补充说明1)[19][20][21][22][23]。虽然所提出的突触操作仅使用二元状态,而非闪存原有的多级存储功能,但我们仍选择商用三态单元平台,因为它代表了实际应用中较为常见的V-NAND技术。

讨论
本研究表明,通过引入突触串架构,商用V-NAND闪存完全可以被改造为一个既可靠又高效的二进制神经网络推理平台。与传统方案利用相邻串间的并行突触对来表示有符号权重的做法不同,我们所提出的方案是在单个串内串联集成突触对。这一结构上的改变消除了传统方案中导致背向模式依赖的自由度。

方法
V-NAND闪存:本研究中的所有器件级实验均使用SK海力士生产的商用垂直NAND闪存器件进行。这些器件采用基于电荷陷阱的存储结构,具有超过100层的高度垂直堆叠结构。
电气特性测试:电气测量是在探针台上使用Keysight B1500A半导体参数分析仪完成的。编程和读取电压脉冲是分别施加到器件上的。

作者贡献
J.W.B.提出了该研究的构思。J.W.B.与S.H.P.负责实验实施并撰写论文。J.W.B.、S.H.P.与H.N.Y.共同设计了实验方案。J.W.B.、Y.Y.和J.H.负责制定实验流程。J.H.L.负责整个项目的监督工作。所有作者都对研究结果进行了讨论,并对论文内容提出了修改意见。

CRediT作者贡献声明
Ho-Nam Yoo:方法设计、实验研究。
Yeongheon Yang:资源提供。
Joon Hwang:软件开发。
Jong-Ho Lee:论文初稿撰写、项目监督、资源协调、资金申请、形式化分析、数据整理。
Jong-Won Back:方案验证、方法设计、形式化分析、数据整理。朴成浩:写作——初稿撰写、可视化处理、正式分析、数据整理。代码提供情况用于BNN模拟的代码,可在合理请求下从相应作者处获取。利益冲突声明作者声明不存在任何可能影响本文所报告工作的已知财务利益或个人关系。致谢本项工作部分得到了首尔国立大学2026年度“未来ICT先锋教育与研究计划”中的BK21 FOUR项目的支持,该项目提供了包括工作站在内的实验室环境;另外还得到了SK海力士公司2026年的支持,该公司为研究提供了测试晶圆、设备以及相关测量数据。本项工作基于Jong-Won Back的博士论文[30]。Jong-Won Back于2024年获得韩国首尔首尔国立大学的电气工程博士学位,目前是韩国利川SK海力士公司研发技术发展部的工程师。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号