CLAP：一种跨层自适应流水线推理调度技术，用于资源高效的边缘-云视觉系统

《ACM Transactions on Architecture and Code Optimization》：CLAP: Cross-Layer Adaptive Pipelining Inference Scheduling for Resource-Efficient Edge-Cloud Vision Systems

边缘-云协同视觉推理系统通过多尺度场景感知模块和自适应流水线调度策略优化资源分配，结合强化学习实现效率与性能平衡。实验表明其吞吐量提升2.1倍，相比现有方法在准确率、延迟和能耗上分别提升3%、35%和35%。

　　

摘要人工智能摘要

要查看此由人工智能生成的摘要，您必须具有高级访问权限。

了解更多登录

摘要

摘要

随着基于视频的应用程序的迅速发展，边缘计算与云端的协作已成为大规模视觉推理的主流模式。然而，现有的边缘计算-云端系统主要侧重于任务卸载和静态资源分配，常常忽略了现实世界场景的动态性和异构性。任务场景复杂性的显著变化导致系统性能低下。在本文中，我们提出了CLAP，这是一种用于边缘计算-云端视觉系统的跨层自适应流水线推理调度框架。首先，CLAP引入了一个轻量级的多尺度场景感知模块，该模块能够以最小的开销准确描述传入任务的视觉复杂性。基于这种复杂性分析，我们设计了一种自适应的多阶段流水线调度策略，该策略能够动态调整处理粒度，并选择性地激活边缘节点和云端节点上的各个处理阶段。此外，我们将资源分配问题表述为一个多智能体决策问题，并利用跨层强化学习在复杂目标下优化任务分配，有效平衡了准确性、延迟和能耗。在公共数据集上的广泛测试表明，与传统仅依赖云端或仅依赖边缘的计算方法相比，CLAP的吞吐量提高了2.1倍以上，同时满足了准确性要求。与最先进的边缘计算-云端方法相比，CLAP在推理准确性上提高了3%，同时将端到端的资源开销、延迟和能耗降低了35%以上，证明了其在动态、大规模视觉应用中的有效性。

人工智能摘要

人工智能生成的摘要（实验结果）

此摘要是通过自动化工具生成的，并非由文章作者撰写或审核。它旨在帮助读者发现相关内容、评估文章的相关性，并帮助来自相关研究领域的读者理解本文的工作。它是对作者提供的摘要的补充，作者提供的摘要仍然是文章的官方摘要。完整文章才是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。

要查看此由人工智能生成的通俗语言摘要，您必须具有高级访问权限。