尾部学习：一种用于减轻自主边缘系统尾部延迟的自适应学习方法

《ACM Transactions on Autonomous and Adaptive Systems》：Tail-Learning: Adaptive Learning Method for Mitigating Tail Latency in Autonomous Edge Systems

针对边缘计算中动态多媒体应用的高QoS需求，提出基于拉普拉斯变换与强化学习的调度方法，有效降低尾延迟并缓解头部阻塞问题，实验验证其效率。

　　

摘要

在边缘计算领域，对高质量服务（QoS）的需求日益增长，尤其是在动态多媒体流媒体应用（如增强现实/虚拟现实和在线游戏）中，这迫切需要有效的解决方案。然而，采用基于分布式计算的边缘计算范式反而加剧了尾延迟问题。由于边缘服务器支持的多媒体服务种类有限，且用户请求具有动态性，使用传统的排队方法来模拟分布式边缘计算中的尾延迟颇具挑战性，这会显著加重前端（HoL）阻塞现象。为应对这一挑战，我们开发了一种基于学习的调度方法，该方法能够根据传入的分布式任务大小动态选择合适的边缘服务器进行执行。为了优化边缘计算范式的利用率，我们利用拉普拉斯变换从理论上推导出边缘服务器响应时间的上限。随后，我们将这一上限纳入强化学习框架中，以促进尾延迟的优化，并为自主分布式调度提供决策依据。实验结果表明，与现有方法相比，该方法在降低尾延迟方面更为高效。