ADEM：通过自适应数据流和高效合并加速稀疏矩阵乘法

《ACM Transactions on Architecture and Code Optimization》：ADEM: Accelerating Sparse Matrix Multiplication with Adaptive Dataflow and Efficient Merging

　　

摘要AI 摘要

要查看此 AI 生成的摘要，您需要拥有高级访问权限。

了解更多登录

摘要

摘要

稀疏矩阵-稀疏矩阵乘法（SpMSpM）是科学计算和机器学习中广泛使用的关键计算内核。不同矩阵之间多变的稀疏模式对具有固定数据流架构的传统加速器构成了重大挑战。尽管近期研究探讨了动态数据流方法来更好地捕捉多样化稀疏条件下的内存访问模式，但这些解决方案仍难以同时提升数据复用、负载均衡和合并效率。为了解决这些局限性，我们提出了一种基于自适应数据流和高效合并的 SpMSpM 加速器（ADEM）。ADEM 从四个关键方面精心设计。首先，我们提出了分段纤维树（SFT）数据结构，该结构通过对传统纤维树的进一步划分来更好地支持我们的数据流范式，同时增强数据复用。随后，我们提出了一种缓存感知数据流来缓解内存溢出问题。此外，ADEM 将乘法阶段和合并阶段解耦，利用 SFT 结构实现细粒度的任务调度，从而改善负载均衡。最后，该加速器集成了异构合并单元，专门针对两种不同类型的合并操作进行了优化，从而显著提高了合并器的利用率。与最先进的基线系统相比，ADEM 在 VGG-16、ResNet-50 和 SuiteSparse 工作负载上分别实现了 1.25×、1.73× 和 1.16× 的平均加速比。

AI 摘要

AI 生成摘要（实验性）

本摘要由自动化工具生成，并非由本文作者撰写或审核。其目的是支持发现、帮助读者评估相关性，并协助来自相邻研究领域的读者理解本工作。它旨在补充作者提供的摘要，后者仍然是本文的主要概述。全文仍然是权威版本。

点击此处对本摘要的准确性、清晰度和实用性进行评论。这将有助于信息改进和未来的重新生成版本。

要查看此 AI 生成的通俗摘要，您需要拥有高级访问权限。