面向移动边缘计算网络DNN推理任务,联合优化模型分割、提前退出与资源分配策略的研究

《Chinese Journal of Electronics》:Joint Resource Allocation and Computation Offloading for DNN Inference with Model Partition and Early Exit in MEC Networks

【字体: 大 中 小 】 时间:2026年04月16日 来源:Chinese Journal of Electronics 3

编辑推荐:

  随着人工智能与移动边缘计算融合,深度神经网络(DNN)推理任务在资源受限设备上高效执行面临延迟与精度平衡的挑战。本研究针对多服务器、多设备MEC网络,提出联合DNN模型分割、提前退出选择、设备关联、带宽与计算资源分配的优化框架,旨在最大化长期平均推理性能。研究采用Transformer辅助的深度确定性策略梯度算法求解,仿真验证了方案在权衡延迟与精度方面的优越性。该工作为复杂边缘智能场景下的动态资源调度提供了新思路。

  
在智能工厂、虚拟现实等新兴应用驱动下,人类社会正迈向“万物智联”时代,对无线通信提出了前所未有的高要求。这些智能应用产生的任务通常计算密集且延迟敏感,需要强大的网络计算能力。然而,在物联网等场景中,大多数终端设备资源受限,自身处理能力有限,难以独立完成深度学习等计算密集型任务。为此,多接入边缘计算应运而生,通过将任务卸载到网络边缘的服务器,用户可以低延迟、低能耗地完成这些计算任务。在此背景下,边缘智能作为MEC专门用于智能学习与推理的新范式,受到了广泛关注。
在边缘智能框架下,基于深度神经网络的推理任务可以由终端设备和边缘服务器协同执行。因此,计算卸载和资源分配对系统性能具有重要影响。现有研究多将DNN推理任务视为不可分割的整体,每个任务只能在设备或边缘服务器中的一个位置处理,这忽略了DNN架构为资源分配提供的灵活性。近年来,出现了利用DNN独特结构的思想,即通过模型分割和提前退出来进一步提升系统性能。模型分割将整个DNN网络划分为若干可独立工作的子网络,使设备和边缘服务器能够通过在不同节点上分布式执行DNN网络来协作完成任务。与将整个任务卸载到边缘服务器相比,该机制可以更好地利用设备的本地计算,有可能进一步提升系统性能。同时,由于传输的是中间层特征而非原始输入数据,设备与服务器间的通信开销得以降低。另一方面,提前退出机制在网络中间层后添加早期退出分支,允许网络在早期阶段终止,这有助于以牺牲一定精度为代价进一步减少推理延迟,从而在延迟和精度之间提供更灵活的权衡。
尽管已有研究探索了在边缘智能网络中利用模型分割和提前退出进行资源分配,但大多数方法存在一些局限性。首先,系统模型相对简单,通常只考虑单一类型的任务,这限制了其在具有多个服务器、设备以及多种DNN任务类型的实际边缘计算场景中的应用。其次,多数工作关注短期性能,在单个时隙进行优化,忽略了长期队列稳定性和随机任务到达,而这在实际部署中至关重要。第三,除了模型分割和提前退出选择外,设备-服务器关联、计算和通信资源分配等其他优化变量可以联合考虑,以进一步提升系统性能。
为解决这些局限,本文研究了一个多服务器、多设备MEC网络中,面向多种DNN推理任务的联合资源分配与计算卸载问题。目标是最大化所有设备的长期平均效用,该效用是整个服务周期内任务延迟和推理精度的加权和。为此,本文构建了一个优化问题,综合考虑了任务卸载决策、计算资源分配、带宽分配、DNN分割以及提前退出分支选择。由于问题复杂度高,研究采用了深度强化学习方法进行求解。本文的主要贡献总结如下:首先,提出了一个多服务器、多设备的MEC网络,其中设备随机生成多种类型的DNN推理任务。设计了一个效用函数,作为推理延迟和精度的归一化加权和。为最大化长期效用,构建了一个优化问题,以联合确定卸载决策、模型分割、提前退出分支、计算和带宽分配。在构建的问题中,长期队列稳定性、多个时隙的任务随机生成、以及计算和带宽资源的限制都得到了考虑。其次,为解决所提出的问题,设计了一个基于DRL的方案。首先将问题转化为马尔可夫决策过程,然后利用Transformer辅助的深度确定性策略梯度算法求解。该算法采用Transformer作为多状态编码器,有效捕捉历史状态间的依赖关系并减少动作空间,从而获得更好的性能。最后,通过生动的仿真验证了所提方案的有效性,结果表明所提方法优于其他基准方案。
本研究发表于《Chinese Journal of Electronics》。作者为开展此研究,主要应用了以下关键技术方法:首先,构建了包含多服务器、多设备、多类型DNN任务的MEC系统模型,并定义了基于逻辑层的模型分割和提前退出机制。其次,建立了包含本地计算和协同计算两种模式的详细任务、延迟、能耗及精度数学模型。接着,将复杂的长期联合优化问题形式化为一个包含离散和连续变量的随机优化问题。为解决此高维、非凸的优化问题,研究者将其转化为马尔可夫决策过程,并创新性地采用了Transformer辅助的深度确定性策略梯度算法。该算法利用Transformer架构对系统历史状态序列进行编码,以捕捉时序依赖关系,并利用DDPG框架处理连续动作空间。最后,通过仿真实验,使用典型的DNN模型(如VGG-16、ResNet-18、GoogLeNet)和标准数据集(Cifar-10、Cifar-100、Fashion-MNIST)验证了所提算法的性能。
系统模型与问题构建
研究人员考虑了一个包含N个设备和M个边缘服务器的MEC系统。服务周期被划分为多个等长的时隙,设备在每个时隙随机生成推理任务。系统中有K种类型的推理任务,每种任务有其独特的DNN模型。设备每次只能生成一种类型的任务,相应的DNN模型已本地嵌入。任务生成服从泊松分布。所有任务类型的DNN模型均已预先部署在边缘服务器上,设备与服务器之间存在无线链路,设备可通过计算卸载寻求服务器的帮助。该系统模型为后续的优化问题提供了基础框架。
模型分割与提前退出机制
为加速DNN推理并提高计算灵活性,本研究框架集成了模型分割和提前退出两项关键技术。模型分割将DNN模型划分为若干段,为分层部分任务卸载提供了可能。最小的分割基本单元被称为逻辑层。对于VGGNet等链式拓扑的DNN模型,一个逻辑层可由一个或多个实际层(如一系列卷积层)组成。对于ResNet或GoogLeNet等有向无环图拓扑的模型,并行层或具有快捷连接的层被视为一个不可分割的逻辑层。因此,一个DNN模型可被视为多个逻辑层的顺序连接。传统的完全卸载策略可被视为一种特例,通过将分割点设置在第一个逻辑层之前实现;而完全本地计算模式则可通过将分割点设置在最后一个逻辑层之后实现。另一方面,提前退出机制在骨干模型上添加了多个早期退出分支,只要满足推理精度要求,就提供了在早期阶段终止推理以节省任务延迟的机会。每个逻辑层后都可以添加若干分支层以形成一个提前退出点。在一般机制中,提前退出以牺牲精度为代价来节省推理延迟。通常,每个逻辑层都可以与几个分支层相接,形成一个提前退出。研究人员采用网格搜索方法筛选出少量有代表性的候选退出点以供实际使用,从而降低了早期退出选择的复杂性。
计算模型
计算模型包含本地计算和协同计算两种模式。在本地计算模式下,设备生成的任务在本地处理,任务延迟仅来自本地计算,能耗也仅来自本地计算,推理精度取决于早期退出的选择。在协同计算模式下,每个设备选择一个边缘服务器,借助DNN分割来帮助处理任务。假设设备n选择服务器m作为助手,并决定在第l'个逻辑层分割DNN模型,它将在本地执行DNN直到第l'层,然后将输出特征图卸载到配对的服务器m,剩余计算由配对的服务器接管。协同计算模式的推理延迟包括四个部分:本地计算延迟、卸载延迟、服务器排队延迟(包括处理前一时刻积压任务的等待时间和当前时刻多任务到达的排队时间)以及服务器计算延迟。设备的能耗则包括本地计算能耗和任务卸载能耗。
基于TDDPG的问题求解
为解决所提出的高复杂度联合优化问题,研究人员设计了一种基于深度强化学习的方案。首先,将长期优化问题转化为马尔可夫决策过程,定义了状态空间、动作空间和奖励函数。状态空间包含设备队列长度、服务器队列长度、信道状态信息和任务到达信息。动作空间则包括设备-服务器关联、带宽分配比例、计算资源分配、模型分割点和提前退出选择。奖励函数定义为所有设备效用的加权和,旨在最大化长期累积折扣奖励。接着,利用Transformer辅助的深度确定性策略梯度算法来求解这个MDP。TDDPG算法包含Actor网络和Critic网络。其创新之处在于引入了一个基于Transformer编码器的状态特征提取模块,用于对历史状态序列进行编码,以捕捉系统动态的时序依赖性,从而提供更丰富的状态表征来指导策略学习。Actor网络根据当前状态输出确定性动作,Critic网络则评估状态-动作对的价值。通过交替训练这两个网络,算法能够学习到近似最优的联合资源分配与计算卸载策略。
仿真结果与讨论
仿真结果表明,在不同的设备数量、任务到达率和DNN模型下,所提出的TDDPG-CORA算法在系统平均效用方面均 consistently 优于其他基准算法(如DDPG、DQN、Greedy和Random算法)。具体而言,随着设备数量增加,所有算法的效用都会下降,但TDDPG-CORA的下降幅度最小,表现出更好的可扩展性。在权衡延迟与精度方面,TDDPG-CORA能够实现更优的帕累托前沿,即在给定的延迟约束下获得更高的推理精度,或在所需的精度水平下实现更低的延迟。此外,算法在训练过程中表现出良好的收敛性和稳定性。消融实验进一步证实了Transformer编码器在提升算法性能方面的关键作用,其捕捉历史状态依赖的能力有效缓解了部分可观测性带来的挑战,并帮助减少了无效的探索。
研究结论与重要意义
本研究的核心结论是,在包含多服务器、多设备、多类型DNN任务的复杂移动边缘计算网络中,通过联合优化模型分割点、提前退出选择、设备-服务器关联、带宽和计算资源分配,可以显著提升系统的长期平均性能,在推理延迟和精度之间实现更优的权衡。所提出的基于Transformer辅助深度确定性策略梯度的智能资源管理算法,能够有效处理高维状态和动作空间,并适应动态的网络环境与随机任务到达。
这项研究具有重要意义。首先,在理论层面,它提出了一个更全面、更贴近实际边缘计算场景的系统模型和问题形式化方法,将模型分割、提前退出、多维资源分配和长期队列稳定性纳入统一的优化框架,推动了边缘智能资源管理理论的发展。其次,在方法论上,创新性地将Transformer架构与深度强化学习相结合,用于解决MEC中的协同推理问题,为处理具有复杂时空依赖的序列决策问题提供了新思路。最后,在实际应用层面,所提方案为自动驾驶、工业物联网、增强现实等对延迟和精度有严格要求的边缘智能应用提供了可行的技术途径,有助于在资源受限的设备上高效部署和运行复杂的DNN模型,从而加速边缘智能的落地。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号