基于分布差异感知的混合精度量化技术，软硬件协同优化的高吞吐量CNN加速架构，用于机载遥感应用

《IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing》：Software-Hardware Co-Optimized High-Throughput CNN Acceleration Architecture for on-board Remote Sensing Based on Distribution Difference-Aware Mixed-Precision Quantization

　　

摘要：

近年来，卷积神经网络（CNN）在各种遥感智能任务中表现出色。然而，在机载应急响应等场景中，需要第二级的机载处理以实现低延迟和高精度要求，而机载平台的资源有限和功率约束使得难以在芯片上高效处理CNN的大规模参数和密集计算。为了解决上述问题，本文提出了一种基于分布差异感知混合精度量化（DDAMQ）的实时机载CNN加速架构，通过硬件和软件的协作优化实现了高效的部署。在算法层面，采用低位数量化来减少计算和资源开销。此外，通过特征分布差异建模和异常值抑制来动态优化量化位数和剪枝阈值，显著减轻了低位数量化带来的精度损失，并提高了模型性能。在硬件层面，优化了计算和存储结构，以提高资源利用率并降低 overall 功耗，使得该架构更适用于资源受限的实时智能处理任务。构建了一个资源消耗评估模型，为满足FPGA芯片资源约束的高效部署提供指导。基于四种主流CNN模型在五个典型数据集上的实验在AMD-Xilinx VC709开发板上进行了验证。结果表明，在相似的压缩比下，所提出的DDAMQ策略在分类性能上具有优势；与最新的先进技术相比，所设计的CNN加速架构在吞吐量和能效方面至少提高了2.17倍和2.13倍。