用于非线性函数加速的完全可重构可编程VLIW架构

《IEEE Transactions on Very Large Scale Integration (VLSI) Systems》：A Fully Reconfigurable and Programmable VLIW Architecture for Nonlinear Function Acceleration

　　**摘要：**由于计算模式多样且仍在不断演进，非线性函数已成为神经网络推理的主要性能瓶颈。现有方案在效率与灵活性之间存在取舍：固定功能硬件虽然高效但难以扩展，而通用底层的处理方案对于多种非线性函数而言效率仍然不足。我们提出了全可重构向量（FRV）-特殊函数单元（SFU）-超长指令字（VLIW），这是一种全可重构且可编程的VLIW架构，用于加速可表示为可配置算术、归约、加载/存储及特殊函数原语上的有向无环图（DAG）的非线性函数。编译器将每个函数分解为具有依赖感知能力的DAG。特殊函数由采用分段二次近似的轻量级SFU执行，而功能单元虚拟化（FUV）则在向量算术与二次计算之间动态重新分配可重构功能单元（RFU），以适应工作负载需求。静态多模式调度器在FUV模式间执行周期精确调度，为每个工作负载选择最低延迟配置，并生成相应的VLIW指令流。采用台积电28纳米CMOS工艺实现后，FRV-SFU-VLIW相比SwiftTron非线性模块实现了高达35.2倍的周期缩减，并在归一化面积上实现了5.7倍的降低；在跨平台指示方面，相比基于现场可编程门阵列（FPGA）的通用非线性加速器，实现了2.0至25.0倍的每元素周期缩减，并且在保持端到端精度损失可忽略不计的情况下，相比高端GPU在独立非线性函数的能效上实现了15.9至26.3倍的提升。