基于解析性资源-成本模型的面向无乘数整数推理的CNN架构优化

《Information》：CNN Architecture Optimization for Multiplierless Inference

　　

摘要

许多卷积神经网络（CNN）架构主要以分类准确率和软件层面的指标进行优化，但未必充分考虑了资源受限的整数推理需求。本研究旨在弥补这一不足，通过一种针对无乘数整数推理的解析性资源–成本模型，从后续片上内存计算（In-Memory Computing, IMC）实现的角度优化CNN架构。出于减少数据移动并避免显式乘法器的需要，所提出的方法将候选CNN架构约束在可通过内存查找、加法与移位来实现的整数运算上，而非传统的乘累加操作。分布式算术（Distributed Arithmetic）为这一无乘数计算形式提供了理论基础，而所提出的HWCost模型则与验证性能及验证效率一起用于对候选架构进行排序与筛选。候选架构通过结合六种再设计技术生成：使用全局平均池化（GAP）以降低分类器复杂度、采用量化感知训练（QAT）优化权重精度、减小卷积滤波器尺寸、选择合适的下采样策略、对GAP之前的特征图尺寸施加2的幂次约束，以及面向纯整数推理的训练策略。我们在MNIST、FashionMNIST、CIFAR-10和PneumoniaMNIST数据集上评估了这些技术的综合效果。结果表明，在MNIST和FashionMNIST上，所选的紧凑模型将预估HWCost降低了至多 ，同时测试准确率仅下降约一个百分点或更少。在CIFAR-10上，成本最低的候选模型相对于准确率最高的候选模型将预估HWCost降低了 ，但代价是准确率下降幅度较大。在PneumoniaMNIST上，效率优先的候选模型在独立测试集上的平衡准确率与验证集上平衡准确率最高的候选模型相当，同时所需的预估HWCost显著更低。