《Frontiers in Neurorobotics》：Low-cost fine-tuning of SmolVLA with smoothness regularization and chunk-aware auxiliary supervision for language-conditioned manipulation
编辑推荐：
Vision-Language-Action（VLA）模型为语言条件操作提供了统一接口。本文报告一项负结果：一种针对SmolVLA的低成本后训练方案，结合LoRA、时间平滑正则化器（temporal smoothness regularizer）以及来自动作变
Vision-Language-Action（VLA）模型为语言条件操作提供了统一接口。本文报告一项负结果：一种针对SmolVLA的低成本后训练方案，结合LoRA、时间平滑正则化器（temporal smoothness regularizer）以及来自动作变化伪标签（action-variation pseudo labels）的分块感知辅助监督（chunk-aware auxiliary supervision），在30,000步预算下（约为原始2,000,000步SmolVLA方案的1/67）未能提升操作成功率。由于辅助分类器仅在训练期间使用，且运行时块长度保持固定为k = 8，研究人员将该配置称为SmolVLA+LoRA+S&C（smoothness and chunk-aware auxiliary losses），而非“自适应”。研究人员在四个LIBERO套件上采用统一协议评估，每个单元格500个回合（50个回合 × 10个任务变体）。在三个训练种子下，匹配的固定分块k = 8基线达到四套件宏成功率10.9%±1.1，而SmolVLA+LoRA+S&C达到3.5%±1.4；预先指定的主要比较显示在LIBERO-Spatial（?16.4个百分点，精确符号翻转置换检验p = 0.004）和LIBERO-Object（?17.5 pp，p = 0.002）上存在显著缺陷，匹配对秩双列效应量分别为?0.96和?1.0。匹配组件消融将平滑损失定位为有害项（仅平滑损失使性能崩溃；仅分块分类器大致匹配基线），执行动作日志显示该正则化器使轨迹加加速度（jerk）增至三倍（1.69 vs. 0.59 RMS）——与其意图相反。相比之下，一种无需训练的推理时时间集成（temporal ensembling）基线在基线表现良好的两个套件上将成功率提高一倍以上（Spatial 36.2 vs. 19.0%；Object 56.2 vs. 24.0%），代价为2.3 × 步率成本，且10–100K预算扫描显示S&C缺陷从未闭合。研究人员得出结论：对于所测试的配置、预算和基准，附加的动作侧损失无法与良好调优的固定分块竞争，而推理时时间集成是相同计算量下更强的用途。
研究背景方面，具身人工智能的发展受到视觉、语言与控制融合的推动。早期语言条件机器人学习表明，自然语言指令可监督操作策略，随后RT-1、RT-2、PaLM-E、Octo、OpenVLA、SmolVLA等Vision-Language-Action（VLA，视觉-语言-动作）模型推动多模态观测与语言指令直接映射为机器人动作。SmolVLA为紧凑开源VLA骨干。问题在于：基础规模VLA研究雄心与普通实验室计算约束之间存在鸿沟；时间动作建模仍是开放设计问题；动作分块提高效率与稳定性，但固定块大小可能与阶段变化的操作动力学不匹配。相关时间动作建模工作包括ACT、Diffusion Policy、Behavior Transformer、Decision Transformer等。本文研究低成本VLA适应问题：在SmolVLA+LoRA训练目标中加入平滑正则化器和分块感知辅助分类器，是否能在小实验室现实计算预算下提升策略。研究在四个LIBERO套件上以30,000步受控研究评估。其贡献包括组件加权平滑惩罚、分块伪标签构造、统一每单元格500回合协议、受控负结果评估、匹配组件消融、轨迹平滑度与计算成本测量、推理时时间集成比较以及10–100K预算扫描。研究人员得出的结论是：对于所测试配置、预算和基准，附加动作侧损失不如良好调优的固定分块；推理时时间集成是相同算力下更强用途。这一结论有意义地界定了训练时分块感知表示学习与推理时自适应分块调度，并给出该轻量动作侧监督无效的计算区间。
关键技术方法概要：研究使用SmolVLA基础检查点（lerobot/smolvla_base），LoRA（Low-Rank Adaptation，低秩适配）秩64，30,000优化步，批大小32，RTX-3090级GPU。样本队列来源为LIBERO四套件：LIBERO-Spatial、LIBERO-Object、LIBERO-Goal、LIBERO-10，每任务50个人类遥操作演示用于训练，评估回合从任务特定初始化分布抽取。动作输出为7维离散动作分词器，每维256 bins，训练时使用连续期望a
t+i。组件加权平滑正则L
smooth用每维σ
d标准化。分块伪标签由动作变化统计s
t、每套件冻结25/50/75百分位阈值、候选K={1,2,4,8}、长度9中心多数量滑动窗口聚合构成，辅助分类器为两层MLP，训练时与动作头联合训练，推理不使用。评估统一每单元格500回合（50回合×10任务变体），统计包括精确符号翻转置换检验、重心化bootstrap、匹配对秩双列效应量、Wilcoxon Holm校正、层次bootstrap与Friedman检验；另设时间集成基线和10–100K预算扫描。
6.1 统一协议下主要结果（Main results under the unified protocol）：四套件宏成功率为固定k = 8基线10.9%±1.1，S&C为3.5%±1.4。缺陷集中在基线有能力的LIBERO-Spatial和LIBERO-Object；LIBERO-Goal和LIBERO-10两者接近地板。S&C在Spatial、Object所有六个套件–种子单元格中低于基线。旧100回合每单元格结果被取代。
6.2 主要推断与探索性比较（Primary inference and exploratory comparisons）：预指定主要比较显示，LIBERO-Spatial平均配对差异?16.4 pp，精确符号翻转p = 0.0039，95% bootstrap CI（?20.9, ?11.3），匹配对秩双列r
rb = ?0.96；LIBERO-Object为?17.5 pp，p = 0.0020，CI（?21.7, ?13.7），r
rb = ?1.0。Goal和LIBERO-10差异不显著且接近地板。层次bootstrap支持种子变化下缺陷稳健。探索性24项检验经Holm校正后无p < 0.05，仅作方向性证据；仅分块分类器除Spatial轻微?5.4 pp（原始p = 0.07）外与基线无显著差异。
6.3 组件消融、夹爪排除与额外比较（Component ablations, gripper exclusion, and additional comparisons）：平滑损失为有害项。仅平滑损失在Spatial 0.2%、Object 0.4%崩溃；仅分块分类器约匹配基线；全组合接近平滑主导水平。排除夹爪维度从平滑惩罚恢复部分缺陷（Spatial 7.6 vs. 3.6%，Object 19.8 vs. 12.0%）但仍低于基线。时间集成在基线有能力两套件上翻倍以上：Spatial 36.2 vs. 19.0%，Object 56.2 vs. 24.0%，宏23.1% vs. 10.9%，代价2.3 × 步率。系数扫描未改善，且不声称单调关系。
6.4 负结果诊断分析（Diagnostic analysis of the negative outcome）：S&C动作token损失平台约0.83，基线约0.56，说明辅助项损害主目标。分块分类器top-1准确率0.41–0.47，超过多数类0.29但远未达oracle。过正则化定位到平滑项与离散低方差动作维度交互，尤其夹爪约占惩罚28%。归因基于消融，不声称梯度级机制。
6.5 Rollout示意（Rollout illustration）：一个示意性rollout显示S&C在接近阶段停滞且未抓取，仅作定性示例，未标注失败分类。
6.6 轨迹平滑度与计算成本（Trajectory smoothness and compute cost）：S&C使总jerk RMS达1.69±0.09，基线0.59±0.07，约三倍；归一化动作变化翻倍，控制反转增加42%，夹爪变化2.8 ×。排除夹爪恢复夹爪变化但不恢复总体jerk。LoRA训练2.97M/450M参数（0.66%），30K约4 GPU-hours；评估每500回合单元格2.5–3 GPU-hours；时间集成减速2.3–2.4 ×。
6.7 预算扫描（RQ4，Budget sweep）：10K步两者弱；30K差距最大；基线在30K后改善并饱和，S&C各检查点近零；缺陷随预算扩大并持续，不闭合，排除不足优化为唯一解释。
讨论部分总结：讨论将失败定位到平滑项，分块辅助损失约中性；平滑梯度与动作预测竞争，执行动作反而更不平滑，最可能因可微期望动作偏离argmax解码，而运行时仍执行argmax。预算扫描说明非单纯优化不足；夹爪排除不消除总体jerk，失败不能仅归因二元夹爪。对低成本VLA研究而言，训练时正则化声明应伴匹配组件消融并测量正则化量本身；单预算研究不能区分“伤害”与“未收敛”；训练时分块感知表示学习与推理时自适应分块调度须分开命名分析；小预算下最便宜强基线在推理侧，时间集成零训练最大增益但2.3 ×推理成本。研究限于全模拟，不建立辅助抓取、康复或临床结论。限制包括计算规模、部分配置单种子、无验证拆分、感知校准与同步未建模、仅仿真、推理时平滑覆盖有限、感觉范围有限。
研究结论翻译：本研究检验了在SmolVLA+LoRA基线中加入平滑正则化器和分块感知辅助分类器，是否能在小型实验室现实的30,000步预算下改善语言条件操作。在四个LIBERO套件上采用统一的每单元格500回合协议，并对两个关键配置各训练三个种子，配置（SmolVLA+LoRA+S&C）未优于匹配的固定分块基线：宏成功率为3.5%±1.4 vs. 10.9%±1.1，预先指定的精确符号翻转置换检验将显著缺陷定位到LIBERO-Spatial和LIBERO-Object。匹配组件消融将缺陷归因于平滑损失，排除夹爪的变体恢复其中一部分，且10–100K检查点扫描显示差距不随预算闭合。证据支持一个有界结论：对于所测试的配置、预算和基准，附加动作侧损失无法与良好调优的固定分块竞争。它不支持动作侧正则化一般不具有成本效益的更广泛主张。该修订贡献了校正后的统计方法（精确符号翻转置换检验、重心化bootstrap、Holm校正探索性族、匹配对秩双列效应量、层次种子级不确定性）、完全指定并审计的伪标签构造、匹配组件消融、轨迹平滑度与计算成本测量、研究内时间集成比较器以及预算扫描。这些材料为在其他预算和骨干网络上对动作侧监督进行后续研究提供了可重复基础。
