《Advanced Intelligent Systems》：Methods for Setting Device Specifications for Analog In-Memory Computing Inference
编辑推荐：
基于非易失性存储器（NVM）的模拟内存计算（AIMC）为实现超节能深度学习提供了一条变革性途径，能够实现高速、低功耗且性能可扩展的推理。近期进展已通过硬件感知训练展示了浮点级精度，凸显了AIMC与传统数字架构竞争的潜力。随着AIMC的NVM技术持续发展，一个用
基于非易失性存储器（NVM）的模拟内存计算（AIMC）为实现超节能深度学习提供了一条变革性途径，能够实现高速、低功耗且性能可扩展的推理。近期进展已通过硬件感知训练展示了浮点级精度，凸显了AIMC与传统数字架构竞争的潜力。随着AIMC的NVM技术持续发展，一个用于定义器件规格目标的系统性框架对于平衡推理精度与制造成本至关重要。关键器件参数，如存储窗口（memory window）、读取噪声和编程噪声（read and program noise）以及电导漂移（conductance drift），在不同时间尺度上直接影响推理保真度，同时影响可制造性。这些参数的强相互依赖性使优化复杂化，因为调整一个参数可能放宽或收紧对其他参数的约束。为应对这一挑战，研究人员提出了一套全面的方法论，用于映射实现浮点等效精度所需的多维器件规格空间，并以相变存储器（PCM）作为代表平台。跨模型评估——涵盖卷积神经网络（CNN）、循环神经网络（RNN）和Transformer架构——揭示了器件特性必须在此耦合景观中进行协同优化。由此产生的分析识别出可提供可比精度的一组规格集，从而实现灵活、成本效益高的硬件设计，并为可扩展、商业可行的AIMC部署铺平了道路。
**模拟内存计算（AIMC）器件规格设定方法——论文解读**
**研究背景与问题**
随着人工智能（AI）模型向大规模发展，传统冯·诺伊曼架构受限于“存储墙”，严重制约了AI计算的能效和延迟。模拟内存计算（AIMC）直接在存储阵列内执行计算，通过减少数据搬移，显著提升能效和吞吐量，适用于资源受限的边缘设备和高性能数据中心。然而，模拟存储器件固有的非理想性——包括噪声、漂移、有限存储窗口等——阻碍了AIMC的广泛部署。现有研究多聚焦单一非理想性对推理精度的影响，忽略了多个参数间的相互依赖性。此外，器件特性随时间演化，短期最优配置未必适用于长期。因此，亟需一种系统性框架，在保证推理精度的同时，定义兼顾制造可行性的器件规格目标。本研究旨在通过量化多维器件参数空间的可行组合，为AIMC器件规格设定提供实用指南。论文发表在《Advanced Intelligent Systems》。
**主要技术方法**
研究人员采用硬件感知（HWA）训练方法，在软件中模拟器件非理想性（如噪声注入）以增强模型鲁棒性。使用IBM模拟硬件加速套件（AIHWKIT）中的PCM噪声模型，基于IBM制造的100万器件阵列实测数据校准。系统扫描存储窗口（线性编程范围g
max?g
min）、噪声尺度（编程噪声和读取噪声的缩放因子，相对于默认模型）和漂移尺度（电导漂移系数缩放因子）等参数，在五个推理时间点（1秒、1小时、1天、1周、1年）评估三个代表性深度神经网络（DNN）：ResNet-32（卷积神经网络CNN）、LSTM（循环神经网络RNN）和BERT-base（Transformer架构）。使用CIFAR-10、SQuAD v1.1、GLUE (MRPC)和Penn Treebank (PTB)数据集。通过归一化精度度量（η
n，定义见公式1）和等精度准则（η
n≥99%）确定可行器件规格。
**研究结果**
- **Results for BERT**：在1秒后，存在多种噪声尺度和存储窗口的组合可满足等精度准则（η
n≥99%）。引入漂移尺度后，较大漂移加速精度随时间的衰减，且高噪声条件下退化更显著。表明多参数需联合考虑以确定最优配置。
- **Results for LSTM**：经过HWA训练的LSTM（LSTM
HWA）在所有五个推理时间点均保持等精度，显示RNN对器件非理想性具有显著鲁棒性。三维轮廓图显示：短期（1秒、1小时）参数空间较宽，漂移尺度影响小；长期（1天至1年）可行空间收缩，需更大存储窗口补偿高噪声和高漂移。通过热力图查找表（图4）量化了不同存储窗口和漂移尺度下的最大可容忍噪声尺度。降低漂移尺度（如从1.0降至0.05）显著放宽长期规格要求，使等精度在更宽范围内实现。
- **Results for ResNet-32**：ResNet
HWA在1小时达到等精度，但1年时精度下降。三维轮廓图显示其可行参数空间远小于LSTM，表明ResNet对长时间尺度非理想性更敏感。查找表（图7）显示，在1年时，高漂移（接近1.0）下仅最大存储窗口（>24 μS）且低噪声（<0.3）可行。降低漂移尺度同样放宽规格，但ResNet仍需更紧的器件约束。
**总结讨论与研究结论**
讨论部分指出：本研究通过系统探索三大类DNN架构，揭示了漂移尺度、噪声尺度、存储窗口与推理时间之间的定量相互依赖关系。减小漂移可提升模型对噪声的容忍度，而增大存储窗口是补偿漂移和噪声影响的关键。不同模型对非理想性的鲁棒性差异显著，LSTM优于ResNet，因此AIMC器件规格应依据部署的DNN架构定制。研究人员还利用已知PCM器件演示（如投影层结构、同质结等）估算了其AIMC性能，并指出规格指南可用于指导器件优化方向（如降低噪声以达浮点精度）。研究结论为：在AIMC系统上实现鲁棒的长期推理需要应对漂移、噪声、存储窗口和推理时间等交织的设计景观，应采用以应用需求和部署时程为导向的整体设计方法。本研究为器件级特性与系统级鲁棒性之间的桥梁提供了定量基础。
