缓解边缘计算中的 GPU 碎片化和尾延迟:一种液体驱动的图强化学习算法

《Expert Systems with Applications》:Mitigating GPU Fragmentation and Tail Delay in Edge Computing: A Liquid-Driven Graph Reinforcement Learning Algorithm

【字体: 大 中 小 】 时间:2026年10月13日 来源:Expert Systems with Applications 9.4

编辑推荐:

   •我们提出了一种面向资源优化的协同调度框架。•我们提出了CVaR-Lyapunov方法来减少GPU碎片和尾部延迟。•我们设计了Liquid-GRL来增强基于强化学习的调度决策。引言随着物联网(IoT)和移动智能设备的快速普及,海量数据感知和计算正日益向网络边缘迁移Babu e

  
  • •
    我们提出了一种面向资源优化的协同调度框架。
  • •
    我们提出了CVaR-Lyapunov方法来减少GPU碎片和尾部延迟。
  • •
    我们设计了Liquid-GRL来增强基于强化学习的调度决策。

引言

随着物联网(IoT)和移动智能设备的快速普及,海量数据感知和计算正日益向网络边缘迁移Babu et al. (2023)。这一演变催生了边缘计算(EC)的兴起,通过在接近最终用户(EUs)处部署计算和存储资源来实现低延迟、高带宽和邻近感知处理Chai, Yuan, & Li (2023)。然而,EC系统仍然面临实时调度和资源协调方面的持续性挑战,其中异构任务流具有多样化的需求,必须在有限且波动的容量下高效处理。为了应对这些挑战,先前的研究探索了强化学习(RL)Cai, Fu, & Liu (2022)、图神经网络(GNNs)Chen et al. (2024)和基于优化的方法He et al. (2025),共同推动向更具自适应性的边缘调度框架发展。然而,大多数方法主要优化全局性能,同时忽略了两个关键的实际问题:
首先,GPU资源碎片限制了调度效率和资源利用率。在视频分析、AR/VR渲染和自动驾驶等场景中,GPU是使深度模型进行实时推理的核心计算单元。然而,当多个任务在单个GPU上并发运行时,资源碎片很容易发生。这是因为大多数任务需要连续的资源块,而多个GPU设备的剩余部分无法通过聚合来满足这一需求Weng et al. (2023)。因此,当GPU设备的剩余资源不足以容纳新任务时,它们将保持空闲并变成碎片Ye et al. (2024),从而降低总体利用率和调度灵活性。其次,缺乏尾部性能保障损害了系统稳定性和服务可靠性。例如,自动驾驶任务严重依赖超低延迟推理,过大的延迟可能导致控制故障和安全风险;在AR/VR渲染中,极端延迟会导致感知失真和用户不适,严重降低服务可用性。虽然此类尾部事件发生频率较低,但它们往往造成严重后果,包括违反截止时间、调度中断甚至系统级故障Li, Sharma, Ports, & Gribble (2014); Panda & Sarangi (2024)。
为缓解上述系统级挑战,先前的研究从资源调度和风险建模的角度提出了各种优化策略。虽然其中一些方法Du, Jia, Dustdar, Chen, & Wang (2025); Liu et al. (2023)改进了整体性能,但它们通常依赖于基于静态配额的分配,即在任务初始化时分配固定的CPU/GPU比例He, Sun, Wang, Li, & Zhang (2023); Xia, Yao, Li, & Mao (2021)。这种僵化的设计限制了GPU资源的可重构性和重用性,从而降低了高并发工作负载下的系统弹性和效率Weng et al. (2023)。同时,现有研究采用Lyapunov漂移和条件风险价值(CVaR)机制来增强不确定性下的系统韧性。Lyapunov框架关注长期平均稳定性,并有效缓解拥塞和积压累积Bi, Huang, Wang, & Zhang (2021a); Zhu et al. (2025),但它无法捕捉高影响的瞬态风险。相比之下,CVaR机制建模尾部风险并抑制极端损失Cui et al. (2025); Jia et al. (2025),却缺乏对长期累积的持续调控。这种差异凸显了需要一个统一的优化框架,在动态EC系统中同时确保长期稳定性和尾部风险敏感性。
除资源控制和风险控制外,现有方法在系统状态感知方面仍表现出局限性。许多RL方法将系统属性和任务属性拼接为统一输入Lv et al. (2022); Munir et al. (2021); Qiao et al. (2026a),忽略了系统结构和任务特征之间的内在差异,削弱了模型的感知能力。虽然基于GNN的方法可以建模基站之间的结构依赖关系Zhang, Han, Xu, & Zhang (2025b),但它们通常依赖最后一层的表示或直接融合多层表示,难以区分不同层次信息对调度决策的影响。在GNN中,不同层的表示反映了从浅层局部状态到更高阶邻域信息的逐步聚合过程。基于注意力的TransformerDeng et al. (2025); Wu et al. (2025)可以增强不同层之间的特征交互,但它们主要关注整体特征融合,可能削弱浅层局部服务状态与更深层邻域工作负载影响之间的区分。相比之下,液体神经网络(LNNs)Hasani, Lechner, Amini, Rus, & Grosu (2021)基于连续时间动力学构建,可以将多层GNN输出视为从浅层到深层的伪时间序列,并沿此序列递归更新隐藏状态Zhang et al. (2025a)。因此,LNN辅助的状态感知机制更好地保留了每个BS的局部资源负载条件,同时逐步纳入邻域工作负载影响,从而支持动态边缘系统中更可靠的调度决策。
为了解决EC调度中的GPU利用率碎片、尾部风险累积和僵硬的系统状态感知问题,我们提出了一种资源-风险-决策协同调度框架。具体而言,资源层采用双边界GPU分配机制,为每个任务分配保证利用率和上限利用率,以支持高并发工作负载下的弹性GPU重用。风险层引入CVaR-Lyapunov优化框架,将工作负载压力引起的尾部风险纳入漂移加惩罚目标中,以实现长期队列稳定性和尾部风险控制。决策层开发了基于强化学习的液体增强图表示调度(Liquid-GRL)算法,该算法将多层GNN输出视为伪时间结构序列,并使用LNN捕获沿图传播深度的状态演化。这些层相互耦合,其中GPU分配影响服务能力和队列演化,CVaR-Lyapunov目标评估队列压力引起的尾部风险,而Liquid-GRL学习由所得风险感知在线优化目标指导的任务调度策略。主要贡献总结如下:
  • •
    我们提出了一种用于碎片化GPU重用的双边界动态GPU分配机制。与静态配额式或单一比例GPU分配方案不同,所提出的机制同时考虑保证利用率和上限利用率,在保留最小执行需求的同时实现碎片化GPU资源的弹性重用。
  • •
    我们开发了一种用于风险感知在线调度的CVaR-Lyapunov联合优化框架。我们没有将CVaR视为孤立的度风险指标,而是将源自队列压力的尾部风险转化为Lyapunov漂移加惩罚目标,使处理效率、队列稳定性和尾部延迟风险能够在统一动态系统中进行优化。
  • •
    我们设计了用于自适应任务卸载和资源分配的Liquid-GRL。与传统基于GNN的RL方法直接使用或融合图层表示不同,Liquid-GRL将多层GNN输出建模为伪时间结构序列,使策略能够逐步整合局部资源状态和高阶工作负载交互,从而在动态EC系统中做出更可靠的调度决策。

章节摘要

资源分配和风险感知队列控制

计算资源调度在边缘系统中起着核心作用,直接影响任务执行效率和队列稳定性。先前的研究探索了CPU和GPU的异构资源调度。Xia等人Xia et al. (2021)提出了一种面向大规模任务的在线优化算法,通过需求感知分配提高了吞吐量。He等人He et al. (2023)开发了一种CPU-GPU协调策略以提高系统性能。然而,许多现有方法假设

系统模型

我们考虑一个由一组BS组成的EC系统N={1,?,|N|},其中每个BS随时间从用户处接收任务请求,如图1所示。BS在同一时间帧内接收的任务数量、类型和大小是不可预测的。BS之间通过大容量无线回传链路(如毫米波或NR-U)互连,形成类似新兴MEC/C-RAN部署的部分网状协作边缘网络。一个云控制器定期交换全局负载信息

Liquid-GRL任务在线决策算法

如图2所示,所提出的Liquid-GRL框架由两个紧密耦合的阶段组成:任务调度和资源分配,它们联合优化以高效处理大规模任务流。

仿真环境

我们模拟了一个包含N个BS的动态EC系统。仿真以离散时间槽进行。在前K个时间槽内,每个BS在每个时间槽内接收随机数量的待处理任务,范围从1到|P|。生成的任务被添加到相应BS的任务队列中,然后根据不同类型的调度算法调度到基于CPU或GPU的处理节点上。在前K个时间槽之后,不再生成新任务,仿真继续进行直到所有待处理

结论

本文提出了一种面向动态边缘环境的风险感知和结构自适应调度框架。我们首先设计了一种基于动态GPU分数的GPU感知分配方案,以提高细粒度资源利用率并缓解高并发下的碎片问题。为了解决长期稳定性问题,我们纳入了CVaR正则化的Lyapunov控制机制,实现了尾部敏感的漂移调节。此外,我们提出了一种Liquid-GRL算法,将GNN与

未引用浮动体

表1。

CRediT作者贡献声明

何晓:概念化、方法论、软件、验证、形式化分析、调查、写作 – 原始草稿、可视化。庞善琛:概念化、方法论、监督、项目管理、写作 – 审稿与编辑。张奎杰:方法论、形式化分析、验证、写作 – 审稿与编辑。白芸:数据整理、调查、验证、写作 – 审稿与编辑。桂海元:数据整理、软件、可视化、写作 – 审稿与编辑。思博

利益冲突声明

作者声明不存在可能影响本文所报告工作的已知竞争性经济利益或个人关系。
何晓|庞善琛|张奎杰|白芸|桂海元|思博乔
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号