通过大型语言模型(LLM)引导的分解方法实现物理验证的动作掩蔽技术,用于自主挖掘任务

《AUTOMATION IN CONSTRUCTION》:Physics-validated action masking with LLM-guided decomposition for autonomous excavation

【字体: 大 中 小 】 时间:2026年08月23日 来源:AUTOMATION IN CONSTRUCTION 12.6

编辑推荐:

  •FEE(地质工程力方程)多面体验证确保执行的每条轨迹在物理上都是可行的。•大型语言模型(LLM)无需微调即可对复杂几何形状进行零样本相位分解。•动作掩码机制将强化学习(RL)的探索限制在每一步中由LLM定义的相位区域内。•单一策略能够处理平整地面、开沟和多区域挖掘,无需重新训练

  
  • •
    FEE(地质工程力方程)多面体验证确保执行的每条轨迹在物理上都是可行的。
  • •
    大型语言模型(LLM)无需微调即可对复杂几何形状进行零样本相位分解。
  • •
    动作掩码机制将强化学习(RL)的探索限制在每一步中由LLM定义的相位区域内。
  • •
    单一策略能够处理平整地面、开沟和多区域挖掘,无需重新训练。

引言

液压挖掘机在建筑、采矿和民用基础设施领域的土方作业中占有很大比例。然而,该行业面临着熟练操作员持续短缺的问题,这一问题因劳动力老龄化和培训新操作员的高成本而加剧,因为操作重型设备需要多年经验才能安全高效地工作[1]。自主挖掘技术解决了这一劳动力挑战[2],同时通过将人类操作员从危险环境中移除来提高操作一致性和安全性。然而,技术难点在于任务的本质:与具有可预测工作空间的结构化制造不同,挖掘是在不规则地形上进行的,系统必须同时确定空间目标、规划挖掘顺序,并满足动态物理约束,如液压缸力量限制、翻转稳定性裕度和土壤与挖掘机之间的相互作用力。现实世界的场景还要求具备多任务能力:平整不规则表面、控制深度的开沟以及在空间分离的区域之间协调,每种任务都涉及难以用固定规则编码的独特几何推理。
经验丰富的操作员通过分层推理来应对这种复杂性:他们首先根据几何形状和可达性将地形划分为多个空间区域,然后规划符合运动学和稳定性约束的动作序列,最后在安全操作范围内执行。这种推理从高层次的空间分解延伸到低层次的约束感知控制,依赖于难以形式化的隐含领域专业知识。自主系统必须在满足三个基本要求的同时复制这种分层能力:无需人工规则工程即可适应不同的目标几何形状,确保所有执行的动作都在执行器和稳定性限制范围内,并且在无需大量人类示范的情况下学习有效策略。现有的方法分别解决这些要求。基于规则的方法通过保守的设计来确保安全,但无法推广到新的几何形状。基于学习的替代方法在挖掘场景中取得了有希望的结果:模仿学习从示范中复制专家的挖掘动作[3],强化学习(RL)则用于训练代理的低层次手臂控制[4]、[5]以及连续挖掘和自适应挖掘策略[6]、[7]。然而,基于RL的方法在大型动作空间中存在样本效率低的问题。此外,RL和模仿学习都不能提供安全保障,在探索过程中存在违反约束的风险。安全的RL通过拉格朗日惩罚[8]或障碍函数来解决这个问题,但它是通过惩罚调整而非显式物理验证来执行约束的,通常会导致过于保守的策略。目前没有一种方法能够将系统的几何推理与基于物理的安全验证结合起来,同时保持样本效率。
本文提出了自主物理验证挖掘(APEX)这一分层框架,它将高层次的几何推理与低层次的约束感知执行分开。第一阶段通过评估候选轨迹满足两个物理标准来构建物理验证的动作空间:可行的末端执行器力的凸多面体[9]和通过地质工程力方程(FEE)[10]计算的每个关键帧处的土壤阻力。只有满足液压缸力量限制、翻转稳定性裕度和土壤阻力约束的轨迹才会被保留到离线库中。第二阶段在随机生成的挖掘目标上训练一个带有掩码的proximal policy optimization(PPO)代理;在测试时,视觉-语言模型(Gemini 2.5 flash)对目标几何形状进行零样本相位分解,无需特定任务的微调,将每个相位边界转换为动作掩码,以限制RL策略在相应的空间子区域内活动。
APEX的目标是自主区域挖掘,其中机器从固定位置出发,在手臂的可达工作范围内将地形塑造成目标轮廓(单次设置/固定点操作)。需要协调机器移动、载重-运输-倾倒循环或多台机器协作的的大规模土方作业不在本文的讨论范围内。
贡献。 本研究的主要贡献包括:
  • •
    物理验证的动作空间构建: 通过凸力多面体分析结合FEE土壤阻力进行离线轨迹验证,确保每个动作都满足液压、稳定性和滑动约束,从而提供无需基于惩罚的近似的结构安全保障。
  • •
    基于LLM的零样本几何分解: 视觉-语言模型无需特定任务的微调即可将复杂目标几何形状分解为连续的挖掘阶段,将空间分析转换为引导训练有素RL策略的阶段动作掩码。
  • •
    几何感知的掩码强化学习: 一种联合位置-方向动作掩码机制在每个决策步骤将每阶段的空间有效性编码为2D布尔矩阵,限制PPO策略在可行子区域内活动,同时保持样本效率。这种设计将训练与任务几何形状解耦,使单一训练策略能够泛化到平整地面、开沟和多区域挖掘,而无需针对特定任务进行重新训练。
组织结构。 第2节回顾了相关工作,并介绍了本文中使用的物理建模基础。第3节介绍了所提出的框架。第4节报告了实验结果。第5节总结了研究的局限性和未来方向。

章节片段

初步研究和相关工作

本节首先回顾了挖掘运动学、自主规划和机器人学基础模型方面的相关工作(第2.1节)。然后介绍了本文中使用的两种物理建模基础:基于多面体的挖掘机动力学可行性分析(第2.2节)和土壤阻力模型(第2.3节)。

方法论

在第2节建立的物理建模基础上,本节介绍了所提出的框架。第3.1节正式化了挖掘问题并提供了框架概述。接着详细介绍了三个技术组成部分:第3.2节的基于RL的挖掘规划,第3.3节使用第2.2-2.3节中的动力学和土壤模型进行的多面体基轨迹验证,以及第3.4节的基于LLM的几何分解。

实验结果

本节依次评估了APEX的三个贡献。第4.2节通过检查FEE-多面体约束如何在不同土壤密度下塑造物理上可行的动作空间来验证离线轨迹库。第4.3节通过基于网格的消融研究评估了LLM的分解质量和RL策略的性能。第4.4节通过在Vortex物理引擎中部署整个流程来评估迁移效果,该引擎是一个更高保真的模拟器,包含详细的

结论

本文提出了APEX,这是一个分层框架,它将自主挖掘分为三个互补的层次:基于LLM的几何分解用于高层次的空间推理,掩码强化学习用于自适应动作选择,以及基于多面体验证的轨迹执行用于物理安全保障。LLM无需特定任务的微调即可对复杂目标几何形状进行零样本空间分解,将几何分析转换为连续的动作

CRediT作者贡献声明

Junhyung Cho:撰写——审阅与编辑,撰写——原始草案,软件开发,方法论,数据分析,概念化。Mingyu Shin:调查,方法论,验证,可视化,撰写——审阅与编辑。Byeongjin Kim:方法论,调查,资金获取,数据分析,概念化。Baekdong Cha:方法论,调查,资金获取,数据分析,概念化。Joongheon Kim:撰写——原始草案,可视化,验证,

手稿准备过程中生成式AI和AI辅助技术的声明

在准备本项工作时,作者使用了Claude(Anthropic)工具来辅助实现基于多面体的研究方法。使用该工具后,作者根据需要审阅和编辑了内容,并对发表文章的内容负全责。

利益冲突声明

作者声明他们没有已知的可能影响本文报告工作的财务利益或个人关系。

致谢

本项目得到了技术创新计划(授权号:1415187715)的支持,该计划由韩国贸易、工业与能源部(MOTIE)资助,旨在开发基于专家工作数据的智能挖掘机AI学习平台。
Junhyung Cho|Mingyu Shin|Byeongjin Kim|Baekdong Cha|Joongheon Kim|Soyi Jung
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号