REMAC: 面向长期机器人操作的自我反思与自我进化多智能体协作

《Pattern Recognition》：REMAC: Self-reflective and self-evolving multi-agent collaboration for long-horizon robot manipulation

　　

• •
  具有自我反思和自我演进能力的多机器人规划。
• •
  用于自适应任务重规划的前置和后置条件检查。
• •
  一个基于 RoboCasa 的长程多机器人任务基准。

引言

近年来，视觉语言模型 (VLMs) 在机器人控制任务中得到了显著应用 [1], [2]。VLMs 结合了视觉信息与语言描述，使机器人能够理解和执行复杂任务，从而展现出强大的规划能力。在家庭环境中，机器人经常面临一系列复杂、长程的任务，例如准备食物或整理柜子 [3]。这些任务通常涉及多个阶段，并要求机器人对环境有全面的理解。此外，像烹饪这样的任务可能需要多个机器人协作，以确保效率和品质。在这种情况下，如何利用 VLMs 指导多个机器人正确规划并执行任务仍然是一个关键挑战。

现有的长程任务规划方法通常以机器人观察图像和包含场景信息的复杂提示作为输入，并输出多阶段任务计划 [4], [5]。然而，这些模型需要对环境和任务都有全面的知识，通常通过复杂的、特定场景的提示来提供。如果没有这种详细的输入，VLMs 可能难以推断关键的空间和逻辑约束，导致不可行或低效的任务计划 [6]。此外，依赖 VLMs 为整个任务生成单一的固定计划往往是低效的。环境的变化或子任务执行的失败都可能导致完全重新规划，使得该方法在动态场景中脆弱且不灵活。另一方面，对于需要双手协调的任务，当前的方法通常涉及拆分复杂任务并将它们分配给多个机器人进行同步执行 [7], [8]。这些方法只能处理短程任务，缺乏动态细化初始计划的机制，限制了它们在长程任务中的有效性 [9]。因此，指导多个机器人准确完成长程、多阶段任务仍然是一个重大挑战。

在本文中，我们提出了一种名为 REMAC 的新型长程、多机器人任务规划框架，如图 1 所示，该框架使智能体能够持续与环境交互，并通过自我反思和自我演进来提高规划。REMAC 是一个零样本框架，能够基于人类提供的简洁任务描述，在各种场景中生成高效且可行的多机器人协作任务计划。最终的任务计划是通过反思和演进中的迭代进展生成的。具体来说，基于场景信息和任务目标，VLM 将生成机器人执行的初始计划。在执行每个子任务时，VLM 会检查前置条件，根据场景反思潜在的规划错误，并检查后置条件以确保成功执行。这种反思机制有效地捕捉了关键场景信息，使 VLM 能够生成更合理的计划，并防止其在处理大量信息时忽略关键约束。

图 1 说明了提出的 REMAC，它允许 VLM 根据场景信息纠正任务规划错误，指导多个机器人协作完成符合场景约束的任务计划。为了验证 REMAC 的有效性，我们基于 RoboCasa 构建了一个长程机器人操作和导航的多智能体基准，包含 4 个任务类别、27 种任务风格和 50+ 种不同对象。在此上的广泛实验证明了框架的有效性。我们还基准测试了包括 DeepSeek-R1、o3、QwQ、Qwen3 和 Grok3 在内的最新推理模型的反思能力。

总之，我们的贡献如下。

• •
  我们提出了一种具有自我反思和自我演进能力的多机器人协作规划框架，用于长程和多阶段任务。
• •
  我们引入了一种自我演进机制，利用前置和后置条件检查模块进行环内任务重规划和未来任务优化。
• •
  我们构建了一个基于 RoboCasa 的多机器人模拟环境，提供了物理控制器，以及一个评估最先进推理模型的综合长程基准。
• •
  广泛实验证明了框架的有效性，*例如*，与单机器人基线相比，将平均成功率提高了 40.0%，效率提高了 52.7%。

章节摘要

基于 VLM 的机器人任务规划

视觉语言模型 (VLMs) 将来自自然语言和图像的输入转换为基于模型的规划器可以解释的形式语言 [10], [11]。最近的研究展示了语言模型在机器人控制方面的潜力。SayCan [12] 引入了一种框架，通过结合语言知识和可执行技能，将语言模型推理落实到机器人可供性中。Grounded Decoding [13] 进一步将接地模型纳入语言生成，使具身

问题陈述

给定高级语言指令 $I$ 和环境 $E$，我们的目标是理解 $E$ 的布局及其包含的对象，并将 $I$ 分解为可以分配给多个机器人进行高效执行的多个子任务。值得注意的是，为了确保通用性，语言指令 $I$ 被设计为独立于任何特定场景，这给机器人的移动和操作任务带来了重大挑战。例如，考虑指令“加热蔬菜”。

方法

在本节中，我们详细阐述了我们提出的框架的具体内容，该框架包括两个相互连接的阶段。给定场景信息和任务目标，大型语言模型将高级任务描述分解为由低级策略执行的子任务。对于每个子任务，还会进行评估以评估其可行性和完成整体进度，并将相关的反思系统地记录在缓冲区中。最后，利用

实验

我们设计了一系列实验来回答以下问题：

• 1.
  我们的框架与当前最佳的长程和推理困难任务顶层规划方法相比如何？
• 2.
  基于前置和后置条件的检查机制，结合由反思知情的迭代演进机制，在多大程度上提高了长时间跨度内的成功率？
• 3.
  相对于单机器人任务规划，反思引导的多机器人任务

结论

我们提出了 REMAC，这是一个在 RoboCasa 大规模模拟环境中建立的任务规划框架，整合了自我反思和自我演进方法。该框架通过利用前置条件检查的信息来迭代细化初始计划，并采用后置条件检查来指导重试尝试，从而解决了具有挑战性的长程多机器人任务规划设置。结果，它大大提高了成功率和操作

CRediT 作者贡献声明

Puzhen Yuan: 写作 – 原稿，方法论，概念化。 Angyuan Ma: 写作 – 原稿，方法论，概念化。 Yunchao Yao: 写作 – 审阅与编辑。 Huaxiu Yao: 写作 – 审阅与编辑。 Masayoshi Tomizuka: 写作 – 审阅与编辑。 Mingyu Ding: 写作 – 审阅与编辑。

利益冲突声明

作者声明，他们没有已知的竞争性经济利益或个人关系，可能会影响本论文报告的工作。

Puzhen Yuan|Angyuan Ma|Yunchao Yao|Huaxiu Yao|Masayoshi Tomizuka|Mingyu Ding