边缘设备上流处理服务的多维度自动扩缩容

《IEEE Transactions on Services Computing》：Multi-Dimensional Autoscaling of Stream Processing Services on Edge Devices

　　摘要：边缘设备的资源有限，这必然导致本地资源不足以应对不断变化的请求负载的情况。现有的自动扩展机制完全专注于资源扩展，而边缘设备需要其他方式来维持已部署服务的服务级别目标（SLO）。为了解决这些问题，我们引入了多维自动扩展平台（MUDAP），它支持跨服务和资源层级的细粒度垂直扩展。MUDAP支持针对可用参数定制的服务特定扩展，例如针对特定服务扩展数据质量或模型大小。为了优化边缘设备上的服务执行，其中多个服务争夺一个全局资源池，我们提出了一个使用结构知识回归分析（RASK）的扩展智能体。RASK智能体高效地学习处理环境的连续回归模型，以优化跨已部署服务的全局SLO满足率。我们将我们的方法与两种自动扩展器——Kubernetes VPA和一个强化学习智能体——进行了比较，以将最多9个服务扩展到单个边缘设备上。我们的结果表明，RASK仅需20次迭代（即观察200秒的处理）即可推断出准确的回归模型。通过逐步增加弹性维度，与基线相比，RASK维持了最高的请求负载，同时SLO违规率减少了28%。