一种混合键合的 12.1 TOPS/mm2 56 核深度神经网络处理器，配备 2.5 Tb/s/mm2 三维片上网络，采用英特尔 18A 和英特尔 3 工艺

《IEEE Journal of Solid-State Circuits》：A Hybrid-Bonded 12.1 TOPS/mm2 56-Core DNN Processor With 2.5 Tb/s/mm2 3D Network on Chip in Intel 18A and Intel 3

　　

摘要：

本文介绍了一种模块化 3D 堆叠众核处理器，该处理器使用 9 μ m 混合键合互连 (HBI) 将通用 RISC-V 基础裸片与领域专用深度神经网络 (DNN) 加速器裸片集成在一起。自定义的 14×4 ×2 3D 片上网络 (3D NoC) 在 112 个瓦片之间提供了扁平化的分布式共享内存地址空间，实现了堆叠裸片之间的高带宽和低延迟数据移动。该处理器采用 Intel 3 底部裸片（包含 56 个顺序执行 RISC-V 内核）和 Intel 18A 顶部裸片（包含 56 个 DNN 加速器瓦片）实现，达到了 12.1 TOPS/mm² 的计算密度。硅片测量表明，与 2D 访问模式相比，3D 访问模式的内存吞吐量提高了高达 39%，且垂直通信没有可观察到的能耗惩罚，峰值吞吐量为 33 TOPS，在 0.5 V 下的峰值动态效率为 16.1 TOPS/W。该处理器在 MLPerf 小型图像分类基准测试中实现了 53 μ s 的延迟和 15.6 μ J 的每次推理能耗，证明了架构感知的混合键合 3D 集成利用能够实现可扩展且节能的 AI 处理。