基于忆阻器的贝叶斯神经网络的模块化三维集成技术，结合内在的随机高斯权重生成机制

《IEEE Transactions on Electron Devices》：Monolithic 3-D Integration of Memristive Bayesian Neural Network With Intrinsic Stochastic Gaussian Weight Generation

　　

摘要：

贝叶斯神经网络（BNNs）通过概率权重采样，能够在安全关键任务中实现鲁棒的不确定性量化，在自动驾驶等场景中表现优于过度自信的深度神经网络（DNNs）。然而，BNN的硬件实现面临两个根本瓶颈：高斯随机数生成（GRNG）电路所占的面积和功耗过大，以及传统2维架构中的冯·诺依曼瓶颈。在这里，我们展示了一种单片3D集成式忆阻式BNN（M3D-BNN），它通过利用电阻式随机存取存储器（RRAM）和二氧化钒器件的内在随机性来解决这些瓶颈。所提出的M3D-BNN将忆阻式标准高斯分布（SGD）生成器、忆阻式ReLU激活函数（MRA）单元以及基于40纳米1-Mb RRAM的片上计算（IMC）核心集成到三层3D堆栈中。在智能运动规划任务中进行验证时，M3D-BNN实现了与软件相当推理精度，并且在预测不确定性量化方面比传统DNNs有显著改进。与2D版本相比，我们的设计在处理速度上有所提升，在能耗上也有所降低，为边缘设备的高效智能决策提供了能效更高的硬件加速途径。