MEDEA：面向异构超低功耗平台能效型DNN推理的设计时多目标管理器

《ACM Transactions on Embedded Computing Systems》：MEDEA: A Design-Time Multi-Objective Manager for Energy-Efficient DNN Inference on Heterogeneous Ultra-Low Power Platforms

　　

摘要AI 摘要

要查看此 AI 生成的摘要，您必须拥有高级访问权限。

了解更多登录

摘要

摘要

随着对设备端人工智能需求的增长，在资源受限的超低功耗（ULP）平台上高效执行基于深度神经网络（DNN）的应用程序变得至关重要。结合专用处理元素（PE）的异构架构已成为实现所需性能和能效的关键解决方案。然而，在这些平台上执行应用程序时优化能源消耗，需要高效管理平台资源，包括处理元素、功耗特性和内存占用，同时还要满足关键的应用程序截止时间要求。本文提出了 MEDEA，一种新颖的设计时多目标管理器，用于异构超低功耗（HULP）平台上的节能 DNN 推理。MEDEA 独特地集成了以下功能：内核级动态电压和频率调整（DVFS）以实现动态能耗适应；适合专用加速器的内核级粒度调度；以应对严重内存限制的内存感知自适应平铺技术；以及所有功能均在基于时间约束的优化策略下进行，该策略根据应用程序截止时间来最小化能耗。为展示其实用性，我们在 HEEPTimize 上评估了 MEDEA，这是一个异构超低功耗平台（22 纳米，基于 FPGA 原型），除近存储计算（NMC）和粗粒度可重构阵列（CGRA）加速器外，还配备了一个 RISC-V 处理器。使用生物医学癫痫检测案例研究的实验结果表明，与代表性的最先进方法相比，MEDEA 实现了高达 38% 的整体能耗降低，同时始终满足所有时间和内存要求。这种效果归功于其集成功能，我们的分析表明，在特定场景下，仅内核级 DVFS 就可贡献超过 31% 的节能效果。

AI 摘要

AI 生成的摘要（实验性）

本摘要由自动化工具生成，未经本文作者撰写或审核。它旨在支持文献发现、帮助读者评估相关性，并协助来自相邻研究领域的读者理解本文。本摘要意在补充作者提供的摘要，后者仍然是论文的权威摘要。全文仍为权威记录版本。 点击此处了解更多。

点击此处对本摘要的准确性、清晰度和实用性提出意见。您的反馈将有助于改进和未来的重新生成版本。

要查看此 AI 生成的简明摘要，您必须拥有高级访问权限。