跳到正文
arXiv · 机器人与计算机视觉· Wei Dai, Jinkun Liu, Jiayi Chen, Han Liu, Wenbo Ding, Shaolun Huang·· 4 小时前精选AI 评分78

EmbodyAgent:基于蒸馏、SFT 和 RL 的后训练具身 VLM 智能体

EmbodyAgent: Post-Training Embodied VLM Agents via Distillation, SFT, and RL

AI 导读

论文提出 EmbodyAgent 框架,旨在将开源权重视觉语言模型转化为高性能具身智能体。该框架包含三个紧密耦合的管道:利用强教师模型在强制‘思考后编码’契约下合成黑盒数据并过滤成功轨迹;通过监督微调(SFT)将解释与编程目标蒸馏至一个 9B 参数的开放权重 VLM,同时训练视觉和语言编码器;最后通过在线强化学习(RL)优化学生生成的片段。

推荐理由

提出 EmbodyAgent 框架,通过黑盒数据合成、SFT 与在线 RL 三阶段蒸馏训练,将 LIBERO 空间任务测试成功率从 0% 提升至 84%,并解决代码执行中的运行时错误模式。

来源:arXiv · 机器人与计算机视觉 · arxiv.org