一种混合式的内部-外部积SRAM计算内存GEMM引擎，具备精确自适应的收缩数据流特性

《IEEE Journal of Solid-State Circuits》：A Hybrid Inner–Outer-Product SRAM Compute-in-Memory GEMM Engine With Precision-Adaptive Systolic Dataflow

　　

!<---->

摘要：

本文介绍了一种用于通用矩阵乘法（GEMM）的高效SRAM计算内存（CIM）宏设计。该设计采用了混合内积-外积（HIOP）架构，实现了权重的长期复用和输入的短期复用，从而将整体SRAM访问次数减少了1.57倍。同时，还开发了一种数据精度自适应的数据流机制，以确保CIM宏在不同数据精度下能够平衡使用带宽（BW）。得益于CIM的并发读写和计算能力，操作周期减少了19%至38.5%。该CIM宏采用22纳米工艺制造，在8位输入和权重条件下，对于GEMM操作能实现56.2 TOPS/W的能效（EE），对于乘累加（MAC）操作则能达到71.65 TOPS/W的能效。宏本身的面积效率为3.18 TOPS/mm2，系统整体面积效率为1.89 TOPS/mm2，这一表现明显优于现有的最先进（SOTA）设计。

!<---->!<---->!<---->

!<---->