基于FPGA的高性能贝叶斯神经网络推理加速器

《IEEE Transactions on Circuits and Systems for Artificial Intelligence》：High-Performance Bayesian Neural Network Inference Accelerator Based on FPGA

针对贝叶斯神经网络在边缘计算中的部署难题，提出基于FPGA的加速器方案，优化权重生成与前向推理模块，采用流水线和分布式存储策略，在Xilinx ZYNQ7020平台实现0.05秒单次推理，较CPU和GPU加速比达254.8倍和6.2倍，能效提升28.4倍，准确率98.4%。

　　

摘要：

贝叶斯神经网络（BNNs）通过概率建模提供了强大的不确定性估计能力，但其极高的计算复杂性和资源消耗限制了其在边缘计算中的应用。在本文中，我们提出了一种基于FPGA的BNN推理加速器，该加速器优化了关键模块，包括权重生成和前向推理过程。通过结合流水线技术和分布式存储策略，我们的设计在计算效率和资源利用之间实现了平衡。在Xilinx ZYNQ7020平台上的实验结果表明，在100 MHz的时钟频率下，该加速器的单次推理延迟为0.05秒，相比CPU和GPU平台分别实现了254.8倍和6.2倍的加速效果，同时能耗效率比GPU高出28.4倍，并保持了98.4%的识别准确率。