通过统一编译接口共同探索硬件加速与张量程序的优化方法

《ACM Transactions on Design Automation of Electronic Systems》：Co-exploration of Hardware Acceleration and Tensor Programs via Unified Compilation Interface

加速器设计框架BACO通过多级抽象实现硬件与软件协同优化，采用可微分性能模型自动探索加速器设计点，结合高效重要性评估策略同步优化多层参数，实验表明其性能优于现有状态-of-the-art方案及人工调优版本。

　　

摘要AI 摘要

要查看此由 AI 生成的摘要，您必须具有高级访问权限。

了解更多登录

摘要

摘要

与通用处理器相比，特定领域的硬件加速器在速度和能效方面具有巨大潜力。然而，这些加速器的设计和开发过程通常需要大量的手动工作，尤其是在硬件设计和高性能张量程序的开发方面。已经进行了大量研究来单独优化这些方面，这导致了多种可能性的出现，同时也带来了相当大的挑战。为了解决这一挑战，我们提出了 BACO，这是一个端到端的一环搜索框架。BACO 的目标是提供一个统一的编译接口，以便于硬件和软件的协同探索。BACO 的关键元素是其多层次抽象，它不仅精确地定义了自定义硬件指令和配置状态的行为，而且还通过“块”的概念实现了计算和数据移动的细粒度优化。基于这种抽象，我们开发了一种编程语言和编译器，该编译器结合了可微分的性能模型，可以自动探索各种高性能设计点。此外，BACO 还采用了一种高效的策略来估计重要性，从而能够同时优化多个层次以提高端到端的性能。这种方法促进了快速协同探索，同时减少了开发工作量。实验结果表明，BACO 在性能上大幅超过了现有的最先进搜索解决方案和手动调整的版本。此外，我们计划将整个代码库开源。

AI 摘要

AI 生成的摘要（实验结果）

此摘要是使用自动化工具生成的，并非由文章作者撰写或审核的。它旨在帮助发现、帮助读者评估相关性，并协助来自相关研究领域的读者理解本文的工作。它旨在补充作者提供的摘要，后者仍然是论文的正式摘要。完整文章是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。这样做将有助于改进和未来重新生成的版本。

要查看此由 AI 生成的简单语言摘要，您必须具有高级访问权限。