TraDE：一种基于网络和流量感知的微服务自适应调度机制，适用于动态变化的环境

《IEEE Transactions on Parallel and Distributed Systems》：TraDE: Network and Traffic-Aware Adaptive Scheduling for Microservices Under Dynamics

微服务架构通过容器编排提升系统灵活性，但动态工作负载和网络延迟导致性能下降。本文提出基于网络和流量感知的自适应调度框架TraDE，集成于Kubernetes平台，实验显示其较传统方法降低响应时间48.3%，提升吞吐量1.2-1.5倍，维持95.36%服务交付率，有效应对持续工作负载和网络波动。

　　

摘要：

从单体架构向微服务架构的转变提高了应用程序设计的灵活性及其可扩展性。这种方法通常使用由容器编排平台管理的计算集群来部署微服务。然而，这种转变带来了显著的挑战，尤其是在容器化服务的有效调度方面。这些挑战因不可预测的场景而变得更加复杂，例如具有不同执行流量的动态工作负载以及集群节点之间的变化通信延迟。现有的研究往往忽视了动态请求对运行中的微服务的实时流量影响，以及集群节点之间的不同通信延迟。因此，即使是最优部署的微服务也可能随着时间的推移而出现严重的性能下降。为了解决这些问题，我们提出了一个具有网络和流量感知能力的自适应调度框架TraDE，该框架可以动态重新部署微服务实例，以在托管集群内变化的流量和网络条件下保持所需的性能。我们将TraDE实现为Kubernetes平台的扩展。此外，我们在一个真实的计算集群中部署了微服务应用程序，并进行了广泛的实验来评估我们框架在各种场景下的性能。结果表明，TraDE在重新调度运行中的微服务方面非常有效，能够在保持高吞吐率的同时提升端到端性能。与现有方法NetMARKS相比，TraDE将应用程序的平均响应时间减少了多达48.3%，并在保持95.36%的吞吐率的同时，将吞吐量提高了1.2-1.5倍，并展示了在持续工作负载和动态网络条件下满足服务质量（QoS）目标的强大自适应能力。

引言

在普及的云计算领域中，微服务已成为一种关键的架构，彻底改变了基于云的应用程序的设计和实现方式。微服务以其模块化和去中心化的设计而著称，提供了良好的灵活性和可扩展性，能够满足现代云部署应用程序的动态需求[1]、[2]、[3]。然而，这种转变也带来了微服务管理和性能优化方面的重大挑战，特别是对于具有复杂工作流程和依赖关系的微服务[4]、[5]、[6]、[7]。用户请求的不确定性，加上微服务之间的不同执行路径以及节点之间的通信延迟差异，大大增加了确保部署在集群节点上的微服务符合服务质量（QoS）标准的难度。在云环境中，众多微服务共存、相互交互，并且经常在各种应用程序之间共享[8]、[9]。这可能导致由于资源竞争和请求执行路径中的级联延迟而导致的性能下降。这些问题直接影响到延迟和吞吐量，而这对于满足QoS目标至关重要。