具有高效原位训练功能的鲁棒忆阻神经网络

《Integration》：Robust memristive neural networks with efficient in-situ training

　　• 一种新颖的忆阻式前馈多层神经网络架构，通过每个突触仅使用一个忆阻器来实现空间效率，无需任何晶体管。
• 一种创新的原位训练算法，基于在线梯度下降反向传播，利用交叉开关的并行性实现权重矩阵中所有权重的恒定时间更新，无需额外的内存或存储。
• 一种用于编码输入和控制信号的方案，以控制忆阻式多层神经网络（MNN）的推理和训练。
• 对实际非理想情况的详细分析，包括：器件变异性；卡住故障条件；偷电路径效应；电导漂移；接近阈值的编程行为；随机电导变化；以及非线性电导效应。

引言
忆阻式神经形态计算系统在实时数据处理方面表现出色，因为它具有并行和内存计算的能力，克服了冯·诺伊曼架构中的内存墙瓶颈[1]、[2]。作为非线性无源电路元件，忆阻器因其可调的非易失性电导状态而在神经形态电路中具有前景，类似于生物突触。忆阻器在忆阻式突触中的电导代表突触权重[3]。已经提出了各种基于忆阻器的人工突触，包括忆阻器桥[4]、[5]、两个晶体管和一个忆阻器（2T1M）[6]、一个晶体管和一个忆阻器（1T1M）[7]、两个忆阻器（2M）[8]、[9]、[10]以及一个忆阻器（1M）[11]、[12]。通过在忆阻式交叉开关（MCB）[13]上使用这些突触，构建了忆阻式多层神经网络（memristive MLNNs）。这些MCB既作为存储器存储突触权重矩阵，也作为内存处理器执行矩阵-向量乘法[14]、向量-向量外积[6]以及权重矩阵更新[6]。

忆阻式多层神经网络（memristive MLNNs）[6]、[7]、[8]、[9]、[10]、[12]、[15]、[16]、[17]、[18]、[19]可以通过离线或原位进行训练。在离线训练中，镜像神经网络在外部电路或软件上进行训练，最终权重设置在忆阻式MLNNs的MCB中[15]、[19]、[20]。原位训练直接在神经形态硬件上进行，由于减少与外部硬件的通信而更加节能和快速[20]。此外，它还能克服硬件缺陷[8]，因此是解决忆阻器缺陷和训练延迟的合适选择。对于忆阻式MLNNs而言，关键因素包括人工突触的大小以及原位训练期间修改权重所需的时间。晶体管的功耗和物理面积远大于忆阻器[21]，这鼓励避免在突触中使用晶体管。在[22]中，提出了一种每个突触由四个忆阻器组成的感知器神经网络。在[6]、[23]中的研究使用每个突触两个晶体管（2T1M类型），但能在恒定时间内更新MCB中所有忆阻器的电导。在[7]、[24]中的工作将MLNNs的MCB大小减小到1T1M突触，实现了原位训练期间的恒定更新时间。为了提高空间和能源效率，在[8]、[9]中提出了不使用晶体管的2M类型突触。但在训练过程中，更新交叉开关中忆阻器的时间较长，即在[8]中一次更新一条交叉开关线，在[9]中一次更新一个忆阻器。带有2M突触的忆阻式MLNN [10]在原位训练期间实现了权重矩阵的恒定时间更新。然而，为了减小MCB的大小（1M类型），Zhang等人[12]提出了一种只使用一个忆阻器的人工突触，但他们的训练方法是一次更新一个MCB中的一个忆阻器的电导，使得训练时间效率低下。

我们提出的忆阻式MLNN架构及其原位训练方法专注于减小忆阻式交叉开关的面积（1M类型）并提高交叉开关更新时间至???(1)。此外，本研究还分析了故障容忍度、器件变异性以及对忆阻器电导非线性对忆阻式MLNN性能的影响。

表1定性地将忆阻式MLNN和原位训练与早期工作进行了比较，表明所提出的工作将人工突触的大小减小到一个忆阻器，并将更新交叉开关中所有忆阻器的时间缩短至??(??)。我们的主要贡献如下：
(1) 一种忆阻式前馈多层神经网络架构，通过每个突触仅使用一个忆阻器来实现资源和空间效率；
(2) 一种基于在线梯度下降反向传播的创新原位训练算法，实现无需任何额外存储的恒定时间权重矩阵更新；
(3) 一种用于编码输入和控制信号的方案，以控制忆阻式MLNN的推理和训练；
(4) 验证这种忆阻式MLNN架构及其原位训练方法，并研究其在以下情况下的鲁棒性：(i) 器件变异性；(ii) 卡住故障；(iii) 忆阻器电导的非线性；(iv) 偷电路径问题；(v) 电导漂移；(vi) 接近阈值电压时的电导编程；(vii) 电导的随机变化；(viii) 我们架构的可扩展性。

第2节概述了在线梯度下降反向传播算法的初步知识。第3节介绍了忆阻式交叉开关中提出的突触和神经元的详细信息以及所需的外围设备，即编码器和控制信号用于开关。第4节解释了单个MCB上的推理和更新操作原理以及忆阻式MLNN的相关算法。第5节提供了仿真结果，第6节给出了结论性意见。所有粗体的小写字母和大写字母分别表示向量和矩阵。

背景
多层神经网络（MLNNs）通过数据点进行训练以学习数据环境。监督式在线梯度下降反向传播学习算法[26]训练MLNNs，其中学习过程由损失函数指导。MLNN包括一个输入层和一个输出层以及一个或多个隐藏层的神经元。训练过程包含两个阶段：前向传播或前馈和反向传播。在前向传播期间，输入数据逐层从...

忆阻式神经网络架构
图2(a)展示了忆阻式SLNN架构的概览。图2(b)说明了通过级联忆阻式SLNNs获得的具有一个隐藏层的忆阻式MLNN。整个计算主要包含前向推理、后向推理和权重更新。在第k隐藏层的向量??(??)或输出层的向量??的计算称为前向推理。在第k层进行后向推理时，向量??(??)=(??(??))?????(??)的定义见第2节...

在MCB上的推理和更新操作
在这项工作中，忆阻器在其???????????????????????????????? vs ???????????图（图3(a)）的线性递增和递减部分内操作，以保持所有内存活动在线性域内。设????????和????????表示线性区域内的最大和最小电导。对于神经元????，忆阻器????,??和开关????的电导分别表示为????,??和????，通常具有以下特性：
1. 当开关????打开时，?????????,??；
2. 当开关????关闭时，?????????,??。

实验结果
所提出的忆阻式SLNNs和MLNN使用开源的LTSpice XVII模拟器进行模拟，运行在Ubuntu 20.04 LTS环境下，配备8核1.6 GHz Intel Core i5处理器和8 GB RAM。表4给出了分类的数据集、网络类型及其每层的特征数量、交叉开关的数量及其大小以及电阻??0。???????和???????的值分别选择为10μ?s和1ms。对于所有使用忆阻器进行的模拟，...

结论
本研究提出了一种新的忆阻式多层神经网络（MLNNs）架构以及高效的原位训练算法。所提出的基于梯度下降的反向传播方法能够在???(1)时间内同时更新交叉开关中所有忆阻器的权重。每个突触仅使用一个忆阻器实现，从而简化了电路设计。所提出的架构表现出高可靠性，因为即使当1%的忆阻器出错时，MLNN的准确性几乎不受影响。

关于手稿准备过程中使用生成AI和AI辅助技术的声明：
在准备这项工作时，作者使用了ChatGPT来润色句子。使用该工具/服务后，作者根据需要对内容进行了审查和编辑，并对发表文章的内容负全责。

关于利益冲突的声明：
作者声明他们没有已知的竞争性财务利益或可能影响本文报告工作的个人关系。

Santlal Prajapati | Manobendra Nath Mondal | Susmita Sur-Kolay