基于Transformer时序强化学习的串联弹性执行器近端策略优化控制方法
《Actuators》:Transformer-Based Temporal Reinforcement Learning for Series Elastic Actuator Control
【字体:
大
中
小
】
时间:2026年09月25日
来源:Actuators 2.4
摘要
串联弹性执行器(SEAs)因其优异的低刚度和力控性能,已被广泛应用于协作机器人、康复机器人以及其他柔顺机器人系统中。然而,弹性元件的引入也增加了动力学复杂性,导致了非线性、参数不确定性和振荡等问题。为了解决这些问题,本文提出了一种基于Transformer的时序强化学习控制方法,用于近端策略优化(PPO)框架内的SEAs控制。首先,用Transformer替代传统的多层感知机(MLP)策略网络,通过自注意力机制从观测序列中提取时序依赖特征。其次,在策略输入中引入了固定长度的历史状态窗口,以缓解部分可观测马尔可夫决策过程(POMDP)导致的性能退化问题。仿真和硬件实验均验证了所提出方法的有效性。在仿真中,该方法实现了优异的瞬态性能(10–90%上升时间为0.111秒,超调量为3.68%)以及稳定的正弦跟踪。在物理SEA平台上的实验进一步证实了其实际可行性:多目标阶跃跟踪的10–90%上升时间约为0.15秒,超调量低于2.3%,而长时间正弦跟踪(60°幅度,0.1 Hz)的均方根误差约为2.3°,控制动作平滑无抖振。与MLP、LSTM和CNN架构的对比研究表明,Transformer策略在抑制弹性振荡和生成平滑控制命令方面具有显著优势,证实了时序建模在SEA系统复杂动力学中的有效性。针对历史窗口长度(L = 1–8)的消融研究表明,在快速目标切换下,至少需要四个历史步长来抑制弹性振荡,而当L ≤ 8时,平均推理时间保持在0.81毫秒以下。在硬件负载实验(0–1200克)中,跟踪均方根误差从7.70°单调增加到8.55°,峰值超调从2.50%增加到8.53%,所有运行均保持稳定,无控制器故障或发散;完整的控制任务,包括Transformer推理,在实时控制器上0.61毫秒内执行完毕。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号