一种基于三层人工智能的动态应用程序部署方法，适用于云-边缘环境

《Future Generation Computer Systems》：A three-tier AI-based approach for dynamic application placement in cloud–edge environments

边缘-云环境中动态资源编排与AI驱动的应用部署方法，提出三层架构：底层边缘节点使用增量学习实时预测资源状态，中层通过联邦学习协同优化多节点预测，顶层采用强化学习全局决策应用迁移策略，在100种动态场景中实现97%的资源约束满足率与用户低延迟平衡。

　　

作者：Efterpi Paraskevoulakou、Chrysostomos Symvoulidis、Panagiotis Karamolegkos、George Kousiouris、Dimosthenis Kyriazis

希腊比雷埃夫斯大学数字系统系

摘要

向6G时代的过渡以及人工智能（AI）驱动功能的快速普及，在边缘-云环境中引入了一个关键挑战：如何在满足终端用户延迟要求的同时，实现计算和网络资源的动态编排和自适应分配。应对这一挑战需要协同和动态地解决多个因素，以支持复杂且时间敏感的边缘应用的部署和管理。这涉及到在部署和运行时平衡计算、网络和存储资源的分配，同时确保放置决策能够适应不断变化的用户需求。为了解决数据量增加和AI驱动的工作负载增长问题，我们提出了一种基于AI的三层编排器。该系统利用特定于应用的信息、基础设施级别的信息和以用户为中心的信息来主动表征系统行为，以确定最佳的边缘应用放置方案。放置决策还通过实时资源利用指标和用户与边缘节点的动态接近程度得到进一步增强。该架构采用分布式设计。前两层分别使用增量学习和联邦学习，而最后一层应用集中式强化学习来确定最终的放置动作。这种设计能够在平衡资源利用和用户需求的同时，实现自适应和高效的工作负载分配。在100个模拟场景中验证了所提出的工作负载放置方法，这些场景具有动态的用户接近程度和波动的边缘资源，准确率达到97.0%，即满足资源约束同时保持用户接近度的放置比例。

引言

由分布式边缘设备生成的数据量迅速增长以及对高级服务需求的增加，迫切需要能够管理和协调复杂边缘-云基础设施的AI驱动机制。

编排涵盖了协调分布在不同环境中的工作负载之间交互的所有操作[1]。它包括三个密切相关的维度：服务编排、工作负载编排和资源编排[2]。现代编排框架旨在加速服务交付、简化优化并降低运营成本[3]。它们通过基于容器的应用部署、持续监控计算和网络资源以及适应应用级需求来实现这一目标。 有效的编排还需要监控系统健康状况，采用垂直和水平扩展来处理波动的需求，并部署智能调度和负载均衡机制。这些能力必须能够主动运作并适应快速变化的条件，以确保高可用性、可靠性、低延迟和可扩展性。人工智能的发展进一步强化了这一需求，因为机器学习方法现在在异常检测、预测性维护和智能负载均衡中发挥着核心作用。随着边缘智能[4]的兴起，在网络边缘执行的AI模型能够提供关于系统行为、用户活动和应用需求的预测性见解——这些能力对于动态资源分配和保持高质量的服务（QoS）和用户体验（QoE）至关重要。 然而，将应用程序分布在分散的边缘基础设施上仍然具有挑战性。资源限制、不可预测的工作负载模式以及用户流动性引入了传统优化方法难以有效处理的动态条件。经典方法如遗传算法[5]、元启发式方法如粒子群优化[6]和线性规划[7]可以产生高质量的解决方案，但通常需要大量的计算时间，并且在不确定性较高时表现不佳。 这些挑战在移动边缘计算（MEC）系统中尤为明显[8]，如图1所示，服务必须部署在靠近最终用户的位置以最小化延迟。由于边缘节点的资源有限以及用户需求的空间变化，主动调度和应用感知对于防止过载、资源碎片化和用户体验下降至关重要。 a. 知识缺口和动机。 尽管最近的研究利用AI进行边缘-云编排和放置，但大多数方法将编排流程视为一个单阶段决策问题：要么是（i）对当前遥测数据即时响应的反应式调度器，要么是（ii）离线或集中训练的单一学习模块，无法持续适应非静态的边缘条件。实际上，边缘环境表现出动态变化的工作负载模式、系统异构性（具有不同能力的节点）以及限制集中训练原始遥测数据的隐私和带宽约束。这在闭环编排设计中造成了缺口，这些设计可以：（a）在本地预测近期的资源动态，（b）在不交换原始数据的情况下协作改进预测的稳健性，以及（c）利用全局可观测性在用户移动时做出协调的放置决策。 b. 问题陈述。 为了解决这一缺口，我们考虑了在云-边缘连续体中动态应用放置的问题，其中用户接近度和节点资源条件随时间演变。目标是在重新适应事件期间确定是进行本地扩展还是将应用程序迁移到另一个边缘节点，从而在防止资源饱和的同时最小化用户感知的延迟。 c. 假设 基于这一问题表述，预计整合轻量级和动态的自优化端到端AI驱动决策制定，主要使用在复杂序列数据模式上训练的模型，可以实现动态最优或接近最优的应用程序放置调度，同时减少零接触配置的挑战。 为了使上述假设可测试，本研究由以下研究问题指导：

• RQ1： 在每个边缘节点部署的轻量级自优化（增量学习 - IL-）预测AI模型是否能够足够好地捕捉非静态资源动态，以实现主动的资源重新适应？
• RQ2： 当本地预测性能下降（概念漂移 [9]）时，AI（联邦学习 - FL-）是否可以在不交换原始遥测数据的情况下进一步提高预测的稳定性和准确性？
• RQ3： 考虑到控制平面具有全局可观测性，集中式AI模型（强化学习 - RL-）是否能够生成比启发式和监督基线更平衡用户接近度和资源可用性的准确放置决策？

为了解决这些挑战，本文提出了一种新颖的分散式方法，该方法结合了多层基于AI的编排器。根据预测的资源条件，编排器在平衡用户延迟和资源利用的同时动态地放置应用程序。 本研究的主要贡献包括：

• 闭环、三层编排流程： 我们提出了一种端到端的编排设计，该设计集成了预测、保护隐私的协作细化和边缘环境中的动态放置的顺序决策。
• 第1层：概念漂移下的IL： 我们设计了轻量级的节点级无缝代理，它们使用增量学习[10]和弹性权重合并（EWC）[11]从流式遥测数据中持续学习，以减轻灾难性遗忘。
• 第2层：按需异步联邦细化： 我们引入了一种事件触发的FL机制[12]，仅在本地预测性能下降时激活，从而减少通信并提高稳健性，而无需共享原始数据。
• 第3层：具有全局可观测性的集中式RL决策： 我们将放置问题表述为马尔可夫决策过程（MDP），并使用RL [13] 近端策略优化（PPO）模型，在考虑资源可用性和用户接近性的同时决定扩展和迁移动作。
• 性能基准测试和评估： 我们在100个场景中评估了所提出的方法，并将其与监督机器学习基线和启发式放置方法（First-Fit (FF) 和 Best-Fit Bin Packing (BF-BP) [14] 进行比较，证明了基于RL的编排器的决策准确性和整体性能显著提升。

本文的其余部分结构如下：第2节回顾了边缘-云编排和应用放置的相关工作。第3节阐述了问题并描述了系统模型。第4节介绍了所提出的AI驱动的编排框架。第5节提供了实验设置和评估结果。第6节总结了研究，讨论了局限性以及未来的研究步骤。

背景和相关工作

本节回顾了文献的两个主要方面。第一个方面关注编排机制，包括调度、网络和基于学习的方法，用于管理边缘应用程序的生命周期。第二个方面解决了以边缘为中心的环境中的应用程序放置问题[15]，其中必须平衡多个约束和优化目标（例如能效，其中基于深度强化学习（DRL）的调度已被广泛探索[16]，以提高……

系统模型和问题表述

在本节中，我们解决了在时变系统条件下的动态边缘应用程序放置问题，同时保持资源利用在可接受的水平。所考虑的环境遵循主-工作节点范式[31]。在这种设置中，大量的地理分布的边缘节点负责在靠近具有不同需求的用户的地方托管和执行应用程序。更具体地说，系统模型……

概念架构

图2展示了所提出的三层AI驱动编排器在边缘-云连续体中的概念架构和执行工作流程。该架构分为三个逻辑层：底部的用户层，中间的基础设施层，以及顶部的控制平面（进入云层）。这种分层设计明确了用户交互、分布式边缘智能和集中决策是如何协调的。 在底部，用户层

实验设置和评估

本节分为两个主要部分。第一部分指出了用于部署和执行所提出的编排机制的选定的边缘环境设置，第二部分给出了给定演示场景的评估结果。

结论

本手稿提出了一种新的AI驱动的编排机制，用于边缘-云环境中的资源管理和应用程序生命周期优化。该机制基于Kubernetes构建，采用了分布式多层AI架构，结合了增量学习、异步联邦学习（FedAsynch）和强化学习。这些组件实现了实时资源预测和主动重新适应，以实现最佳应用程序放置，平衡资源……

CRediT作者贡献声明

Efterpi Paraskevoulakou： 撰写 – 审阅与编辑、撰写原始草稿、资源、方法论、调查、形式分析、概念化。 Chrysostomos Symvoulidis： 撰写 – 审阅与编辑。 Panagiotis Karamolegkos： 撰写 – 审阅与编辑。 George Kousiouris： 撰写 – 审阅与编辑。 Dimosthenis Kyriazis： 撰写 – 审阅与编辑、监督。

利益冲突声明

作者声明他们没有已知的竞争财务利益或个人关系可能影响本文报告的工作。