一种基于Meta-Proximal策略优化的任务交互图调度器，该调度器具备预测性资源分配和容错型微检查点机制，用于多云环境中自适应Spark工作流的调度

《Engineering Applications of Artificial Intelligence》：A meta Proximal policy optimization driven task interaction graph scheduler with predictive resource provisioning and fault-tolerant micro-checkpointing for adaptive spark workflow scheduling in multi-cloud systems

　　

摘要

在异构多云环境中，Spark工作流中的高效任务调度仍然是一个关键挑战，这主要是由于资源可用性的动态变化、虚拟机（VM）性能的不稳定以及跨云容错性的需求。现有的方法通常依赖于静态启发式算法或强化学习模型，这些方法需要大量的重新训练，从而限制了其适应性和可扩展性。为了克服这些限制，本文提出了基于元近端策略优化（Meta-Proximal Policy Optimization, Meta-PPO）的Task Interaction Graph Scheduler（Meta-PPO-TIGS）框架，该框架能够实现自适应、高效且具备容错性的Spark工作流调度。该框架应用人工智能（AI），特别是通过元近端策略优化（Meta-PPO）来实现任务调度、资源分配和故障恢复。Meta-PPO-TIGS将Spark作业表示为任务交互图（Task Interaction Graphs, TIGs），并整合了三个模块：一个基于上下文的弹性资源管理器（Context-Aware Elastic Resource Manager, CAERM）用于预测性资源分配，一个基于方差的性能监控器（Variance-Aware Performance Monitor, VAPM）用于监控VM稳定性并进行任务重映射，以及一个复制的微检查点层（Replicated Micro-Checkpointing Layer, RMCL）用于轻量级的跨云容错。利用Meta-PPO，调度器可以快速适应未见工作流类型和异构云环境，而无需重新训练。大量实验表明，与最先进的方法相比，Meta-PPO-TIGS在作业完成时间（makespan）、资源利用率、故障恢复时间和成本效益方面都有所提升。实验结果显示，平均执行时间为820秒，资源利用率为85%，任务重映射频率为12次，检查点开销为45秒，故障恢复时间为60秒，延迟为120毫秒。此外，成本效益提高了5.0%的相对百分比偏差（Relative Percentage Deviation, RPD）。这些发现证实了Meta-PPO-TIGS为下一代多云工作流调度提供了一个稳健、自适应且可扩展的解决方案。

引言

在像Apache Spark这样的分布式计算系统中（Salloum等，2016年；Wang和Khan，2015年），高效调度大规模数据处理工作流对于性能和成本管理至关重要。一种流行的解决方案是使用Spark来运行复杂的作业，通过将它们划分为任务，并在一个有向无环图（Directed Acyclic Graph, DAG）中对这些任务进行排序，同时明确定义任务之间的数据依赖性和数据传输（Zhao等，2021年；Li和Wen，2025年）。在多云环境中，这种模型更加复杂，因为底层云平台的差异性和变异性（Gulino等，2020年；Islam等，2020年）。VM类型的多样性、动态定价、性能波动和工作负载变化等因素使得根据资源利用率、执行延迟和故障风险来高效调度任务变得困难（Bal等，2022年；Shiva Rama Krishna和Mangalampalli，2023年）。在异构云服务和实时作业需求的情况下，自适应和容错的工作流管理尤为重要（Mushtaq等，2024年；Sohani和Jain，2021年）。

已有许多研究探讨了如何在多云环境中调整Spark工作流调度，例如使用静态配置规则、基于启发式的方法和强化学习技术（Li和Chen，2024年；Mirza等，2024年）。常见的方法是依赖于固定的分配策略或简单的性能阈值，但这种方法没有考虑云工作负载的特性和性能变化（Islam等，2021年；Reddy和Gokulnath，2024年）。高级方法使用强化学习，特别是近端策略优化（Proximal Policy Optimization, PPO），通过反馈来调整任务调度策略以适应环境（Jin和Xu，2021年；Lohse等，2021年）。但是，这些模型通常只针对特定类型的工作负载或云应用环境进行训练，因此难以应对新的云应用环境或快速适应运行时的变化。这意味着在许多系统上的资源分配效率低下，对性能问题的响应速度较慢，应对VM不稳定或跨云故障的能力也较弱。因此，需要一种调度机制来快速适应未知的工作负载，并在异构多云环境中高效且容错地处理和利用资源。

本研究的关键创新在于将元近端策略优化（Meta-Proximal Policy Optimization）与任务交互图表示法结合在一起，用于自适应的多云Spark调度。与传统的基于有向无环图的调度器和标准强化学习方法不同，所提出的框架在一个统一的元学习架构中结合了预测性资源分配、主动的VM稳定性监控和轻量级的跨云检查点功能。这种设计能够快速适应未见的工作负载，提高容错性，并高效利用资源，从而增强异构多云环境中的调度性能和操作可靠性。

基于这一创新，我们提出了一种基于Meta-PPO的调度器，用于管理多云系统中的Spark工作流，称为Meta-PPO-TIGS。它将作业表示为任务交互图（Task Interaction Graphs, TIGs），并提供三个监控模块：资源需求预测模块（CAERM）、VM不稳定性检测模块（VAPM）和跨云检查点模块（RMCL）。与传统PPO方法相比，我们的元策略具有快速学习能力，能够处理多种工作负载和云环境，支持动态VM分配、自适应检查点调整和主动任务重映射。这样，资源不会被错误分配，VM不稳定性得到降低，重新执行成本也得以减少，所有这些都提升了执行时间、成本效益和系统的韧性。

• •
  引入了任务交互图（Task Interaction Graph, TIG）来表示Spark工作流，捕获细粒度的任务依赖性和数据交换，这比传统的基于阶段的DAG模型提高了调度精度。
• •
  基于上下文的弹性资源管理器（Context-Aware Elastic Resource Manager, CAERM）通过分析工作流结构和历史工作负载轨迹来进行预测性资源分配，从而在多变的云环境中实现性能和成本的平衡。
• •
  基于方差的性能监控器（Variance-Aware Performance Monitor, VAPM）主动跟踪VM级别的性能指标，如CPU占用时间、I/O延迟和吞吐量波动，从而及早发现不稳定的虚拟机并进行动态任务重映射，以保持执行稳定性。
• •
  复制的微检查点层（Replicated Micro-Checkpointing Layer, RMCL）在多个云提供商上实现关键任务阶段的轻量级增量状态快照，提供跨云容错性，同时减少了检查点开销和故障恢复时间，相比传统的粗粒度检查点方法更为高效。
• •
  Meta-PPO-TIGS利用元学习驱动的近端策略优化（Meta-Proximal Policy Optimization, Meta-PPO）机制，能够快速适应异构云环境和多样化的任务类型。通过学习仅需少量迭代即可微调的初始化参数，该框架能够做出高效的调度决策，无需完全重新训练策略，从而克服了传统PPO方法的刚性。

本文的其余部分安排如下：第2节讨论了Spark工作流调度技术的现有进展，第3节通过数学解释介绍了提出的Meta-PPO-TIGS，第4节讨论了实验获得的性能结果比较研究，最后第6节总结了本文和未来的工作方向。

章节片段

相关工作

应用的复杂性、可用资源的多样性以及可持续性目标使得在多云环境中高效的工作流任务调度变得更加重要。当前的研究主要集中在两个主题上：多云系统的先进调度模型和基于优化的动态自适应资源管理。

提出的方法概述

提出了一种新型的基于元近端策略优化的任务交互图调度器（Meta-PPO-TIGS），用于多云环境中Spark工作流任务的高效调度。图1展示了Meta-PPO-TIGS的架构，用于自适应Spark工作流调度。在Meta-PPO-TIGS中，传入的Spark作业被表示为任务交互图（TIGs），其中每个节点对应一个单独的任务，边表示它们之间的依赖性和数据交换。调度器结合了三个特定的

结果与实验

• A)
  仿真设置

所有实验都在一台配备Intel Core i7-12700F CPU、32 GB RAM、Ubuntu 22.04 LTS操作系统和12 GB VRAM的NVIDIA RTX 3060 GPU的专用工作站上完成。所提出的Meta-PPO-TIGS框架使用Python 3.10和PyTorch 2.0实现。所有模型计算都采用单精度浮点数（FP32）算术运算。工作流调度仿真使用了改进版的WorkflowSim

结论

本文提出了一种基于元近端策略优化的任务交互图调度器（Meta-PPO-TIGS），用于解决异构多云环境中的自适应Spark工作流调度问题。该框架引入了三个特定模块：用于不同云之间的轻量级检查点（RMCL）、VM不稳定性检测（VAPM）和预测性资源分配（CAERM），以有效应对动态资源分配中的低效问题、任务进度滞后问题以及故障

CRediT作者贡献声明

Gaurav Raj：概念构思。Kamaljit Kaur：数据整理。Arun Prakash Agrawal：资金获取。Praveen Kumar：方法论。Pushpendra Kumar Pateriya：项目管理。Akash Punhani：软件开发。

知情同意

本研究无需签署知情同意书。

伦理批准

本文不包含任何由作者进行的涉及人类参与者或动物的研究。

资金

本研究没有获得任何资金支持。

利益冲突声明

作者声明他们没有已知的财务利益或个人关系可能影响本文报告的工作。

Gaurav Raj|Kamaljit Kaur|Arun Prakash Agrawal|Praveen Kumar|Pushpendra Kumar Pateriya|Akash Punhani

印度Sharda大学计算机科学与工程系（Department of CSE, SSCSE），Greater Noida