《Computer Communications》:EcoRun: Energy-aware container scheduling and resource allocation in serverless edge computing
编辑推荐:
计算系统的可持续性已使能源效率成为现代计算基础设施中的关键考量因素。云与边缘计算具有庞大且快速增长的能量足迹特征。无服务器(Serverless)计算提供了一种通过将资源供应外包给云提供商来抽象基础设施管理的范式,从而简化软件开发、部署和运维治理。尽管具有上述
计算系统的可持续性已使能源效率成为现代计算基础设施中的关键考量因素。云与边缘计算具有庞大且快速增长的能量足迹特征。无服务器(Serverless)计算提供了一种通过将资源供应外包给云提供商来抽象基础设施管理的范式,从而简化软件开发、部署和运维治理。尽管具有上述优势,现有的无服务器平台主要采用静态容器缓存策略,即在函数调用后将其实例保留固定时长,以最小化后续请求的冷启动延迟。然而,此类静态策略固有限制了其对能源感知系统运行的支持能力,从而制约了可持续无服务器部署的实现。为弥补上述不足,研究人员提出了一种自适应的动态请求调度与容器缓存算法,专门用于优化分布式异构边缘环境中的能源成本。所提出的系统EcoRun是一种无服务器调度器,将容器调度与缓存机制集成于现有无服务器平台之中。通过联合优化请求调度与容器生命周期管理,EcoRun降低了总体能源成本。该联合优化问题计算上具有挑战性,属于NP难问题,且因缺乏确定性的未来信息(如请求到达模式)而进一步复杂化。为缓解这些挑战,研究人员首先构建了一个能源成本最小化问题,包含容器运行成本、容器切换成本和流量路由成本。随后,研究人员开发了一种具有可证明性能保证的在线调度算法,并辅以动态管理实例生命周期的容器缓存策略。研究人员展示了EcoRun的架构设计,并通过仿真以及在Knative平台上的原型实现对其性能进行了评估。在真实世界测试床上的实验结果表明,相较于基准方法,EcoRun实现了24.4%的请求延迟降低和15.3%的能源成本减少,彰显了其在增强无服务器边缘计算系统性能与可持续性方面的有效性。
**论文深度解读:EcoRun——无服务器边缘计算中的能量感知调度与资源分配**
**一、研究背景与动机**
随着物联网(IoT)设备的爆发式增长,海量数据在网络边缘产生,催生了视频监控、边缘人工智能(AI)及车联万物(V2X)等应用场景。边缘计算通过将云服务推向靠近终端用户的位置,有效克服了远距离数据传输带来的能耗问题。然而,边缘节点普遍存在资源受限与管理复杂等挑战。无服务器(Serverless)计算作为一种按需付费的轻量级服务模式,将复杂应用封装为轻量级容器(即无服务器函数),为边缘计算的高效管理提供了新思路。尽管无服务器计算在延迟降低与资源效率方面具有显著优势,能源效率正成为可持续边缘计算的核心需求。国际能源署报告指出,大型数据中心工作负载的快速增长导致能耗以每年20%–40%的速度大幅攀升;Cisco亦报告全球约30%的服务器处于空闲状态。无服务器计算理论上可通过复用空闲服务器来回收浪费的能源,但现有平台(如AWS与Azure)普遍采用固定时长缓存策略(如函数执行后保留10至20分钟),以降低后续请求的冷启动延迟。然而,基于对Microsoft Azure真实调用轨迹的分析发现,超过59%的函数在10分钟内未被调用,且不同函数的调用频率差异巨大(最频繁与最不频繁函数间差异达108倍)。这揭示出无服务器函数具有显著的时域波动性与跨函数异构性,固定时长缓存策略无法在系统性能与能效之间取得有效平衡。因此,如何依据函数调用特征实现能量感知的容器缓存与请求调度,成为可持续无服务器边缘计算中亟待解决的关键问题。
**二、研究内容与结论**
针对上述问题,研究人员提出了EcoRun系统,一种集成的无服务器调度器,通过联合优化请求分发与容器生命周期管理来降低分布式异构边缘环境中的总体能源成本。研究人员首先将问题形式化为整数线性规划(ILP),目标函数包含容器运行成本、容器切换成本与流量路由成本,并证明了该问题为NP难问题。随后,研究人员设计了具有可证明竞争比的在线请求调度算法,以及基于函数优先级(综合考虑切换成本、调用频率与容器大小)的容器缓存算法。通过在Knative平台上的原型实现与大规模轨迹驱动的仿真实验,EcoRun在真实测试床上相较于现有最优基准(Flame与Wild)实现了24.4%的请求延迟降低和15.3%的能源成本减少。该研究的重要意义在于首次系统性地将函数调用特征(切换成本、调用频率、函数大小)与数据位置感知融入无服务器边缘计算的容器调度与缓存决策,为实现可持续边缘计算提供了可行且高效的技术路径。
**三、关键技术方法概述**
研究人员主要采用了以下关键技术方法:(1)将能源成本优化问题建模为整数线性规划(ILP),并归约为广义分配问题(GAP)以证明其NP难性;(2)设计在线请求调度算法,基于缓存容器优先、邻近节点卸载与必要时本地新建容器的策略,实现常数竞争比的理论保证;(3)提出优先级驱动的容器缓存策略,依据切换成本、调用频率与容器大小动态终止低优先级容器以释放资源。实验验证方面,研究人员使用纽约州76个边缘服务器的真实拓扑(数据源自纽约州地理空间管理办公室),结合Microsoft Azure 14天无服务器调用轨迹(包含数百万次调用),利用Zipf分布(指数β取0.5、0.75与1.0)生成边缘工作负载,在Network Simulator 3(ns-3)仿真器及Knative真实测试床(11台虚拟机,Kubernetes 1.28,Go 1.18.1实现)上分别进行大规模评估,并与Flame、Wild及固定缓存(FC)策略进行对比。
**四、研究结果**
**4.1 仿真环境下的总体性能**
仿真实验使用真实拓扑与能源价格数据,对比EcoRun与Flame、Wild及FC在不同Zipf-β参数(即不同工作负载)下的表现。结果显示,在β=0.5、0.75与1.0三种负载下,EcoRun的每百万次调用平均能源成本分别为$100.60、$83.53与$95.29,相较于Flame、Wild与FC分别降低了59.2%、69.8%与71.4%。能耗累积分布函数(CDF)分析显示,EcoRun第95百分位能源成本分别为$133.65、$292.06与$125.46,显著优于所有基准方法,验证了联合优化请求调度与容器缓存在能耗削减方面的优越性。
**4.2 仿真中的平均能源与切换成本**
在切换成本维度,EcoRun在三种负载下的切换成本仅为$10.87、$12.31与$8.91,而Flame分别高达$24.69、$32.47与$81.79。该结果表明,基于函数调用频率与切换成本感知的缓存策略能高效复用近期可能被调用的热门容器,从而显著减少新容器的频繁启动,有效抑制了切换成本对总体能源成本的贡献。
**4.3 Knative真实测试床结果**
在Knative平台(版本1.14.1,部署于11台4GB内存虚拟机)上,EcoRun被实现为独立集群调度器。测试结果表明,在三种负载下,EcoRun每百万次调用的平均能源成本分别为$120.01、$126.27与$138.97,较Flame降低15.3%,较Wild降低25.8%,较FC降低25.9%。尽管EcoRun的缓存命中率(83%、79%、74%)略低于Flame(96%、95%、96%),但EcoRun通过牺牲部分缓存命中率以换取通信成本与切换成本的综合优化,在总体能源效率上取得显著优势。
**4.4 Knative中的箱线图能源成本分析**
通过箱线图分析能源成本分布,在β=0.5时EcoRun第75百分位成本为$187.41/百万次调用,优于Flame和Wild;在β=0.75时EcoRun中位数成本仅$92.21,远低于Flame与Wild的$139.27与$172.09;在β=1.0时EcoRun最大成本为$245.03,低于Flame的$279.91。该结果表明EcoRun不仅降低平均成本,同时改善了能源成本的整体分布形态,尤其在高负载场景下更具稳定性。
**4.5 Knative中的响应延迟**
端到端响应延迟是衡量无服务器系统用户体验的关键指标。实验显示,EcoRun的平均延迟在0.76s至0.84s之间,最大延迟介于2.08s至2.62s;而Flame的平均延迟为0.86s至0.90s,最大延迟达2.66s至2.90s。EcoRun在延迟的第75与第95百分位均取得最佳表现,说明其在通信延迟与函数缓存之间实现了有效权衡,避免了Flame因忽略节点容量与通信距离而产生的尾延迟问题。
**五、总结与结论**
在讨论部分,研究人员指出EcoRun通过动态适应时变工作负载与到达模式,有效降低了冷启动发生频率,但依然存在可拓展空间:边缘网络(尤其移动网络场景)具有时变连接性、间歇链路与动态拓扑,集中式编排器可能面临扩展决策挑战;将EcoRun与容器快照、层共享及检查点恢复等技术结合,可进一步降低冷启动延迟;针对大型数据中心场景,还需重新设计流量路由模型以适应其层级化拓扑特征。研究结论部分,本文研究了无服务器边缘计算中的能源成本最小化问题,证明其为NP难问题,并提出两种具有性能保证的在线算法,兼顾了边缘计算的分布式与异构性以及无服务器计算的突发性与高并发特性。通过Knative原型实现与大规模仿真,EcoRun在真实测试床上实现了24.4%的延迟降低与15.3%的能源成本减少,其关键特征在于融合了无服务器工作负载的多项重要属性以动态适应时变负载与到达模式。