垂直AND闪存:超越V-NAND的高能效、可扩展、快速存内计算新架构

《Nano Convergence》:Analysis of vertical AND flash memory for energy-efficient, scalable, fast CIM beyond vertical NAND flash memory

【字体: 大 中 小 】 时间:2026年04月25日 来源:Nano Convergence 11

编辑推荐:

  为解决冯·诺依曼架构中的数据移动瓶颈,研究人员开展了针对垂直NAND(V-NAND)和垂直AND(V-AND)闪存用于存内计算(CIM)的性能比较研究。研究发现,通过消除通偏置(pass-bias)要求,V-AND在低推理次数和堆叠层数增加时展现出卓越的能效优势,为高能效、可扩展、快速的CIM加速器提供了有前景的候选方案。

  
在人工智能(AI)浪潮席卷视觉、语言处理等众多领域的今天,一个“古老”的计算架构问题——冯·诺依曼瓶颈,正日益成为制约AI算力发展的核心枷锁。传统的CPU/GPU在执行大规模AI计算时,需要在内存和处理单元之间频繁搬运海量数据,这种“数据跑来跑去”的过程消耗了大量能量和时间,效率低下。存内计算(Compute-in-Memory, CIM)技术应运而生,它试图打破这种藩篱,直接在存储数据的内存单元内部进行模拟计算,从而最大限度地减少数据移动。
在众多非易失性存储器中,三维垂直NAND(V-NAND)闪存因其成熟的商业量产和超高密度特性,被视为CIM的潜在载体。然而,V-NAND为优化传统存储操作而设计,其在执行CIM时所固有的结构性限制,例如施加在非选中字线(Word-Line, WL)上的“通偏置”开销,以及源线(Source-Line, SL)沟槽和连线带来的寄生电容,严重制约了其能效。与此同时,另一种三维架构——垂直AND(V-AND)闪存——被开发出来,旨在克服V-NAND在高度并行访问方面的困难。那么,在CIM的竞技场上,V-NAND和V-AND究竟孰优孰劣?哪一种架构能在密度、能耗和延迟之间取得更佳平衡,从而成为下一代高能效CIM加速器的理想选择?这正是本研究试图解答的核心问题。
为了系统比较V-NAND与V-AND在CIM应用中的性能,研究人员开展了一项结合了理论建模与实验验证的综合研究。本研究首先对两种架构的拓扑结构进行了精确定义和公平比较,基于实际工艺参数(如沟道孔间距、源线沟槽间距等)计算了单位单元面积,并评估了其布线长度与寄生电容。接着,研究设定了统一的评估场景:采用二进制神经网络(Binary Neural Network, BNN)作为计算负载,其中每个二元权重由一对分别存储高、低阈值电压的闪存单元表示。在此基础上,研究建立了详细的能耗分析模型,该模型全面考虑了字线/位线(Bit-Line, BL)的动态充电能耗、单元静态电流能耗、灵敏放大器(Sense Amplifier)能耗以及V-NAND特有的通偏置设置能耗。模型参数(如栅电容、漏电容、寄生电容、单元电流水平等)通过技术计算机辅助设计(Technology Computer Aided Design, TCAD)仿真、SPICE电路仿真以及已发表的实验数据综合确定。最后,研究将该分析模型应用于具体的BNN推理任务(如VGG-9网络),系统评估了在不同通偏置电压、堆叠层数、阵列规模及乘积累加(Multiply-Accumulate, MAC)操作次数下,两种架构的能耗表现、所需计算周期(延迟)以及面积效率。
2. 背景
本研究首先明确定义了用于公平比较的V-NAND和V-AND阵列的拓扑特征。通过对比顶部视图和基于工艺假设的尺寸参数,研究发现V-AND结构的单位单元面积比V-NAND结构大约60%,即V-NAND在存储密度上具有优势。在CIM操作方面,研究假设采用相同的BNN模型,其权重编码方案如图2所示。在V-NAND中,通过驱动一对漏极选择线(Drain Select Line, DSL)中的一条为高电压来编码输入;在V-AND中,则通过驱动一对WL中的一条为高电压来编码。V-NAND在执行单次读取时,需要对所有未选中WL施加通偏置电压(Vpass),而V-AND则无需此操作。能耗模型综合考虑了动态能量(EWL, EBL, ESet)、静态能量(Ecell)以及外围电路能量(Esense, ERef),其中连线长度和寄生电容基于布局图计算,并通过TCAD仿真验证。
3. 结果与讨论
能耗比较结果显示,V-NAND中必须对未选中单元施加通偏置的要求带来了显著的能耗开销,这使得其在单次预充电后仅执行有限次数读取操作(即低推理次数场景)时能效低下。即使采用4V的相对较低通偏置,V-NAND在读取次数较少时的能效也显著低于V-AND,且该劣势随通偏置电压和堆叠层数的增加而加剧。相反,V-AND无需通偏置,其对堆叠层数的能耗敏感度主要源于位线漏电容的适度增加,因此具有更好的可扩展性。对一次包含1000次MAC操作的BNN推理进行能耗细分分析发现,在假设5V通偏置、96层堆叠、1024×1024阵列规模的条件下,V-AND总能耗为755 nJ,而V-NAND为963 nJ,高出27%。V-NAND中WL/SSL设置能耗约占总能耗的10%,而V-AND无此项开销。此外,若考虑V-NAND为产生高通偏置所需的内置电荷泵能量开销(约250 nJ/次),两者的能效差距将进一步拉大。
在延迟(所需MAC周期数)方面,由于V-NAND阵列一次只能激活一个楼层(floor)进行读取,当神经网络层的规模超过单个阵列容量时,该层必须被分割到多个阵列或同一阵列的不同楼层中顺序访问,从而增加了计算周期。本研究采用图7所示的权重映射方案分析了卷积层的计算需求。结果显示,对于全连接层或当阵列尺寸N较小时,V-NAND需要更多的访问周期。而V-AND支持跨楼层的层间并行访问,可在单次访问中完成更多计算。如图8所示,随着阵列尺寸N增大,两种架构存储所有权重所需的楼层数和单次推理所需MAC周期数均减少,但在小N值时,V-NAND因需顺序访问多个楼层而导致所需周期数显著高于V-AND。这意味着V-AND在计算并行性和延迟方面更具优势,尤其适合大规模、高性能的神经网络模型。
4. 结论
本研究首次对用于CIM应用的V-NAND和V-AND闪存进行了系统性的比较分析。研究得出的核心结论是:尽管V-NAND闪存在单元密度上具有显著优势,但其对未选中单元强制施加的通偏置操作带来了巨大的能量开销。V-AND闪存通过消除通偏置需求,实现了显著提升的能效。这一优势在低推理次数场景和高堆叠层数下尤为突出,显示出V-AND在可扩展性方面的潜力。此外,在计算延迟和并行性方面,V-AND支持跨楼层的层间并行访问,而V-NAND通常仅限于逐层顺序访问,这使得V-AND在处理大规模神经网络层时能提供更低的延迟和更高的吞吐量。综合来看,V-AND闪存在密度、能耗和延迟之间提供了一个更有利于CIM应用的平衡点。这些发现确立了V-AND闪存作为V-NAND闪存的有力替代方案,为设计下一代高能效、可扩展、快速的存内计算加速器指明了有前景的新方向。该研究为基于三维非易失性存储器的CIM操作优化提供了重要的见解,相关成果发表在《Nano Convergence》期刊上。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号