EvoHRL：边缘计算中细粒度DNN划分与多实例部署的联合优化

《Future Generation Computer Systems》：EvoHRL: Joint Optimization of Fine-Grained DNN Partitioning and Multi-Instance Deployment in Edge Computing

本文提出了一种创新的进化分层强化学习（EvoHRL）算法，解决了边缘计算中深度神经网络（DNN）推理的协同优化难题。该研究突破了传统固定划分方案和单实例部署策略的局限，通过遗传算法（GA）与分层强化学习（HRL）的融合，实现了细粒度DNN划分与多实例部署的联合优化。实验表明，EvoHRL能显著降低端到端（E2E）延迟30-70%，为资源受限的异构边缘环境提供了高效的DNN应用部署方案。

　　

亮点

结论

在本研究中，我们介绍了EvoHRL，一种用于异构边缘集群中多个DNN（深度神经网络）应用的创新性细粒度划分和多实例部署算法。我们首先使用M/D/1/N排队模型分析了多个DNN模型的等待时间和服务时间，这为开发旨在最小化每个DNN端到端（E2E）延迟的灵活划分和多实例部署策略提供了依据。为了解决这一联合优化问题的复杂性，我们首先...

作者贡献声明

Teng Wang： 撰写 – 初稿，可视化，验证，方法论，研究，形式分析，数据整理，概念化。 Xiang He： 撰写 – 审阅与编辑。 Yin Chen： 资金获取。 Zhongjie Wang： 形式分析。

利益冲突声明

作者声明以下可能被视为潜在竞争利益的财务/个人关系：

Zhongjie Wang报告称哈尔滨工业大学提供了资金支持。Zhongjie Wang报告其与哈尔滨工业大学的关系包括：雇佣关系。Zhongjie Wang有专利正在申请中。不存在任何其他可能构成利益冲突的关系或活动。如果有其他作者，他们声明他们...

致谢

本文的研究工作得到了中国国家重点研发计划（2022ZD0115404）、中国国家自然科学基金（62372140）和中国黑龙江省博士后科学基金（LBH-Z23145）的资助。

作者简介

Teng Wang 于2021年获得哈尔滨工业大学软件工程学士学位，并于2023年获得哈尔滨工业大学软件工程硕士学位。他目前正在哈尔滨工业大学攻读软件工程博士学位。他的研究方向包括分布式计算、边缘智能和边缘计算。