在边缘计算环境中基于RISC-V平台的深度学习：硬件与软件支持的探讨

《ACM Computing Surveys》：Deep Learning on RISC-V Platforms at the Edge: A Perspective on the Hardware and Software Support

边缘计算中深度学习部署需兼顾效率、可扩展性和灵活性，RISC-V架构因商用解决方案支持成为边缘智能的事实标准架构。硬件设计从数据并行处理、新型数据表示（如张量格式）到数据流优化（内存-计算协同）均有分类，专用设计（如TPU加速）与通用架构并存。软件工具涵盖从硬件协同设计到自动调优的编译框架，最终研究聚焦于异构计算优化、低功耗算法设计及边缘-云协同架构。

　　

摘要

在资源有限的设备中，对始终处于活跃状态的人工智能的需求不断增长，这使得深度学习在边缘设备的部署成为既必要又具有挑战性的任务。这类设备需要具备高效性、可扩展性和灵活性。RISC-V 已经成为现代边缘计算平台的事实标准架构，主要用于处理深度学习工作负载，而这一趋势因越来越多针对推理任务设计的商业解决方案的出现而得到进一步加强。本调查对用于边缘计算的深度学习硬件架构进行了系统分类，这些架构根据其并行处理数据的方式、数据表示方法、数据传输优化方式以及是否采用特定应用的设计进行了划分。同时，还涵盖了相关的支持软件工具，包括硬件-软件协同设计方法、自动调优工具和编译器框架等。最后，本文总结了一系列关键发现，并指出了该领域最具前景的研究方向。