《Advanced Science》:A Unified Flash Memory Platform for Mode-Adaptive and Robust AI Computation
编辑推荐:
计算存储一体化(CIM)架构通过减少数据移动开销,为能效人工智能提供了一条有前景的路径。然而,大多数现有CIM硬件在精度、能效和鲁棒性之间以固定的折衷方式运行,限制了对多样化工作负载的适应性。在此,研究人员提出了一种基于AND型电荷陷阱闪存阵列的双模CIM加速
计算存储一体化(CIM)架构通过减少数据移动开销,为能效人工智能提供了一条有前景的路径。然而,大多数现有CIM硬件在精度、能效和鲁棒性之间以固定的折衷方式运行,限制了对多样化工作负载的适应性。在此,研究人员提出了一种基于AND型电荷陷阱闪存阵列的双模CIM加速器,该加速器无需器件级结构修改即可实现能量自适应操作。通过在相同器件结构中集成晶体管模式电流感测和电容模式电荷感测,所提出的架构通过外围切换与每种感测模式相关联,允许在单个硬件平台内灵活地在高精度计算和超低功耗、抗噪声操作之间切换。实验结果证明了可靠的向量-矩阵乘法、硬件神经网络推理以及对器件和电压变化的强容忍性。系统级基准测试进一步证实了能效的提高和外围开销的减少。这项工作建立了一个实用且可扩展的CIM平台,能够动态平衡性能和鲁棒性,为能量自适应人工智能(AI)硬件提供了多功能基础。
**论文解读:基于AND型电荷陷阱闪存的双模计算存储一体化平台**
**研究背景与问题**
人工智能(AI)的快速发展导致计算需求激增,传统冯·诺依曼架构中内存与处理器之间的数据移动(即“内存墙”)成为能效和延迟的主要瓶颈。计算存储一体化(CIM)架构通过在内存阵列内直接执行计算,显著降低数据搬运开销,被认为是一种有前景的解决方案。然而,现有CIM硬件大多在精度、能效和鲁棒性之间采用固定折衷设计,无法适应多样化的AI工作负载需求——例如训练与精确推理需要高精度和高吞吐量,而边缘推理、持续感测等场景则优先考虑超低功耗与抗噪声能力。因此,亟需一种能够动态权衡精度、能效与鲁棒性的统一硬件平台。
**研究内容与结论**
研究人员提出了一种基于AND型电荷陷阱闪存(CTF)阵列的双模CIM加速器,该加速器在相同的TiN/Al
2O
3/Si
3N
4/SiO
2/poly-Si(TANOS)器件叠层中同时集成了晶体管模式(电流感测)和电容模式(电荷感测)两种工作模式,通过外围偏置与读出配置实现模式切换,无需器件级结构修改。晶体管模式支持多级权重表示和快速读出的高精度计算,而电容模式则提供超低静态功耗和强鲁棒性的二进制操作。实验结果表明,该平台在48×24阵列上实现了可靠的向量-矩阵乘法(VMM)和硬件神经网络推理,并对器件变化和电压变化表现出强容忍性。系统级基准测试(NeuroSim框架,22nm节点,ResNet-50在ImageNet数据集上)进一步证实,电容模式相比1T–1RRAM基准实现了3.22×的能效(TOPS/W)提升和6.83×的模数转换器(ADC)能耗降低,晶体管模式也分别获得2.20×和2.43×的提升。该工作建立了一个实用且可扩展的CIM平台,能够动态平衡性能与鲁棒性,为能量自适应AI硬件提供了多功能基础。论文发表在《Advanced Science》。
**主要关键技术方法(不超过250字)**
研究人员采用CMOS兼容工艺制备了基于TANOS叠层的AND型电荷陷阱闪存阵列(48×24单元),通过外围电路配置(源线SL接地/浮空、字线WL与漏线DL偏置)实现晶体管模式(电流感测)与电容模式(电荷感测)的双模操作。使用半导体参数分析仪(B1500A)和低漏电开关矩阵(E5250A)进行电学表征,并利用多频率电容测量单元(MFCMU)和波形发生器/快速测量单元(WGFMU)分别获取电容-电压(C–V)特性和瞬态放电电流。基于Fashion-MNIST数据集和VGG-like卷积神经网络进行硬件推理验证,将最后一个全连接层(24×10)映射到阵列上,采用差分对方案和15级(晶体管模式)或三元(电容模式)量化感知训练(QAT)。系统级能耗与面积评估使用NeuroSim框架,结合实测器件特性缩放至22nm节点。
**研究结果**
**3. 晶体管模式与电容模式操作**
- **晶体管模式编程/擦除特性**:通过Fowler–Nordheim(FN)隧穿实现的增量步进脉冲编程(ISPP)和擦除(ISPE)可产生超过6V的存储窗口,且器件在10
5次循环后保持稳定。100个随机器件调谐至8个电流水平(1–8 μA,步长1 μA),平均绝对误差约0.1 μA,证明高精度多级电流调谐能力。
- **晶体管模式VMM验证**:48×24阵列中,测得的漏极电流与单个器件电流的算术和呈强线性相关(R
2=0.999),确认模拟VMM的准确性。
- **电容模式C–V特性**:电容模式中,低于阈值电压(V
th)时仅栅-漏交叠电容(C
ov)贡献,呈现低电容态(C
off≈0.5 pF);通道形成后增加栅氧化层电容(C
ox),呈现高电容态(C
on≈2.0 pF)。100个随机器件的C
on与C
off标准差均为0.022 pF,证明二元分离清晰且鲁棒。
- **电容模式VMM优化**:通过固定电压差(V
c?V
d=1 V)并扫描V
c,确定最优读脉冲条件(V
c=4.5 V, V
d=3.5 V),此时V
th变化2 V内输出电荷变化<5%。在48×24阵列中,测得的输出电荷与理想求和电荷呈强线性相关(R
2=0.996),验证了电容模式VMM的准确性。
**4. 双模CIM性能**
- **硬件神经网络推理**:将VGG-like CNN的全连接层映射至阵列,晶体管模式(15级量化)硬件推理精度达94.19%,电容模式(三元量化)达93.08%,与软件训练结果(94.53%和93.22%)接近。
- **鲁棒性评估**:向权重注入随机噪声,晶体管模式在200%噪声水平下精度下降超过26%,而电容模式仅下降19.22%,证明电容模式对器件状态变化具有更强鲁棒性。
- **系统级基准测试**:NeuroSim仿真显示,电容模式TOPS/W提升3.22×,ADC能耗降低6.83×;晶体管模式TOPS/mm2提升1.71×,ADC能耗降低2.43×。两种模式互补,可依据工作负载需求动态切换。
**结论与讨论**
研究人员总结指出,所提出的双模AND型闪存CIM架构在统一器件结构中实现了晶体管模式(高精度计算)和电容模式(超低功耗、强鲁棒性)的灵活切换。器件与阵列层面,晶体管模式提供精细多级权重表示和精确模拟VMM,电容模式提供二元但高度鲁棒的电荷域操作且静态功耗近乎为零。硬件推理表明晶体管模式峰值精度更高,而电容模式在器件状态变化和噪声下保持竞争力。系统级基准测试进一步证实电容模式能效更优、ADC开销更低,晶体管模式吞吐密度更高。这些互补特性使同一硬件平台能在从能量受限边缘推理到性能关键计算的广泛工作负载中高效运行。该工作为工作负载自适应的内存计算提供了实用且可扩展的方案,在一个统一的闪存平台上动态平衡精度、鲁棒性和能效。