跳到正文

技术方向

机器人学习与VLA 最新动态

视觉语言动作模型、模仿学习、强化学习和操作策略,关注任务条件、数据与成功率。

840 条精选近 30 天 569 条共收录 3,491 条

更新

机器人学习与VLA的精选

11月18日周三第 1–20 条
  1. arXiv · 机器人与计算机视觉85

    面向人形机器人的视频模仿学习中的直接动态重定向方法

    针对单目视频演示到人形机器人运动迁移的形态失配问题,本文提出直接动态重定向(DDR)方法。该方法在物理仿真器中利用基于采样的模型预测控制求解器,直接在任务空间追踪人体关键点,无需接触标注或中间几何重定向步骤。

    推荐理由:提出直接动态重定向方法,在仿真中实现零样本迁移至不同尺寸实体机器人,并开源代码与数据集。

  2. arXiv · 机器人与计算机视觉82

    MillBill:一种具备几何反馈的加工代理

    MillBill 是一种将加工决策与几何执行及验证分离的智能体系统。给定边界表示零件、毛坯和材料信息,本地托管的中大型开放模型负责提出操作和切削参数;几何约束生成器则生成刀具路径、模拟材料去除并返回反馈以优化计划。系统考虑了刀库的物理可达性而非仅可见性。基于 Qwen3.8-27B 的评估显示,MillBill 在指定公差内的目标表面积比例上优于前沿模型方法。代码与论文已公开。

    推荐理由:该工作提出将加工决策与几何执行分离的代理架构,在仿真环境下验证了其对复杂零件加工的优越性。

  3. arXiv · 机器人与计算机视觉83

    RiDEx:一种用于扩散强化学习的奖励感知方向性探索方法

    论文提出 RiDEx 方法,旨在解决基于奖励的扩散模型后训练中的探索效率问题。该方法将局部探索集中在去噪速度场中与奖励相关的子空间内,利用条件残差或可微奖励梯度确定子空间,并通过同状态下的等量反向扰动测量终端奖励响应。

    推荐理由:针对高维潜在空间探索效率低的问题,提出奖励感知的方向性探索方法,在四个对齐任务上实现最高峰值奖励并显著加速目标达成。

  4. arXiv · 机器人与计算机视觉82

    权重空间编程:大语言模型原生编写神经网络权重以控制真实拖拉机

    该论文提出“权重空间编程”概念,即大语言模型依据自然语言规范直接读写神经网络权重,无需优化器或梯度下降。研究将 GPT-6 Astra 和 Claude Fable 5.1/5.2 应用于自动拖拉机引导任务,在仿真中修复了为另一台拖拉机训练的 253 参数网络,并从零权重编写出控制器;两者均能正确分析闭环控制理论。

    推荐理由:研究展示了大语言模型直接读写神经网络权重的方法,成功在真实拖拉机控制器中实现路径引导。

  5. arXiv · 机器人与计算机视觉83

    M3OPD-Reasoner:一种基于多教师同策略蒸馏的视觉语言模型后训练开放配方

    论文提出 M3OPD-Reasoner 这一完全开放的视觉语言模型(VLM)后训练方案,涵盖图像 STEM、图像感知和视频三个推理领域。研究构建了包含 1.35M 样本的监督微调数据集和 19.3K 样本的强化学习数据集,并在去污染后的 21 个基准测试上验证了多教师同策略蒸馏(MOPD)结合组序列策略优化(GSPO)及混合强化学习的最佳组合效果。

    推荐理由:作者提出 M3OPD-Reasoner 开源配方,通过多教师同策略蒸馏与强化学习结合,在图像 STEM、感知及视频推理任务上实现性能提升。

  6. arXiv · 机器人与计算机视觉82

    AgentWorld:面向自动驾驶的代理中心化视觉语言动作世界模型

    针对现有世界 VLA 模型在像素级生成中保留大量无关细节导致性能瓶颈的问题,本文提出 AgentWorld 模型。该模型采用离散代理 Token 联合进行推理与轨迹规划,每个 Token 动态关联周围物体的语义、3D 几何、运动及交互上下文。

    推荐理由:提出 AgentWorld 模型,通过离散代理 Token 替代像素级生成,聚焦驾驶场景中的物体交互与动力学以支持规划。

  7. arXiv · 机器人与计算机视觉82

    随机多样性窗口:诊断机器人扩散采样中的噪声影响

    该论文针对机器人控制中扩散模型的随机性作用研究不足的问题,引入每步反事实诊断以测试采样噪声对最终输出的影响。研究发现不同配置下噪声诱导的偏差在下游可能放大、收缩或衰减,据此定义“随机多样性窗口”并应用针对性干预策略。实验显示,利用低影响区域替换 DDPM 步骤为 DDIM 跳步,可将网络评估减少最多 40-60%,时钟时间减少最多 85%,且在保持可行性、成本和多样性方面未发现一致变化。

    推荐理由:提出随机多样性窗口诊断方法,揭示去噪过程中噪声影响的时间敏感性,并通过采样干预实现推理加速。

  8. arXiv · 机器人与计算机视觉83

    Body Schema Policy:基于身体图式的视觉 - 动作接口用于高效机器人位姿操作

    论文介绍 Body Schema Policy (BSP),一种将身体图式构建为视觉与动作接口的模仿学习策略,其潜在身体图式在机器人运动学树上放置关节和连杆 token,利用学习到的螺旋运动传递特征。

    推荐理由:提出将身体图式作为视觉与动作接口的模仿学习策略,在仿真及真实机器人上以极少参数实现高效全身位姿控制。

  9. arXiv · 机器人与计算机视觉83

    InteractVLA:将视觉语言动作模型转化为机器人操作的可交互工具

    现有代理操作系统将预训练的视觉语言动作策略视为不透明的语言原语,在指令或场景扰动下无法调整行为。本文提出 InteractVLA 框架,通过双向几何接口使预训练流式 VLA 成为可被几何引导和检查的工具:正向利用测试时几何引导将末端执行器目标转化为输入梯度,反向暴露动作片段与相机重投影以诊断空间差异并修正后续调用。

    推荐理由:提出 InteractVLA 框架,通过双向几何接口将预训练 VLA 转化为可交互工具,实现测试时几何引导与递归自我改进。

  10. arXiv · 机器人与计算机视觉84

    JointGV:基于并行图动力学的视觉世界模型结构感知修正方法

    针对视觉世界模型在实体姿态和空间关系上的递归误差限制长视界规划问题,本文提出 Joint Graph--Visual Dynamics Correction (JointGV) 插件。

    推荐理由:提出 JointGV 插件,在不重构视觉模型前提下利用图动力学修正长视界预测漂移,在 DMC 与真实倒立摆实验中显著降低误差。

  11. arXiv · 机器人与计算机视觉82

    Progress Predicts Policy:一种基于语言条件标量场的混合机器人策略方法

    论文介绍 Progress Predicts Policy (PPP),该方法通过学习语言条件的标量场并利用其微分诱导命令,结合共享世界模型读取动作梯度以生成连续或离散动作控制。实验表明,在无需额外标注的情况下,仅拟合演示进度值即可实现优于行为克隆的策略性能,适用于仿真与真实机器人操作任务。

    推荐理由:该工作提出通过语言条件标量场学习混合策略,无需独立动作头或迭代搜索,在仿真与真实机器人操作中优于行为克隆。

  12. arXiv · 机器人与计算机视觉82

    随着学生模型 rollout 继续,视觉后门持续增长:在线蒸馏中的后门传播风险研究

    本文针对视觉语言模型的在线蒸馏(OPD)范式,挑战了其对后门传播具有天然抵抗力的直觉。研究发现,一旦超过临界阈值,攻击成功率会迅速接近 100%,且该过程不依赖显式恶意响应,而是由教师模型分配的异常概率质量累积驱动。作者提出了一种无需显式注入触发器的新型触发器设计,揭示了 OPD 中被忽视的后门传播机制及其潜在安全风险。

    推荐理由:该文挑战了在线蒸馏对后门传播具有天然抵抗力的直觉,揭示了在特定阈值下攻击成功率可达 100% 的机制及无需显式触发器的新设计。

  13. arXiv · 机器人与计算机视觉82

    InertialVideo World Models:引入惯性先验的视频世界模型

    论文介绍 InertialWorld 模型,该模型在自回归生成中利用惯性状态演化机制,避免每步重复重建导致的误差累积。核心组件 Inertial Memory 包含欧拉网格与拉格朗日载体,结合动作条件运动预测下一帧并融合新旧内容。实验涵盖机器人操作、3D 游戏仿真和开放世界导航,性能对标现有基线。代码链接见 arXiv 页面。

    推荐理由:提出将惯性作为先验的 InertialWorld,通过欧拉网格与拉格朗日载体结合,解决视频预测中的误差累积问题。

  14. arXiv · 机器人与计算机视觉83

    Heave-Ho:去中心化长程多个人形协作框架

    论文介绍 Heave-Ho 框架,旨在解决人形机器人长程协作中的全身交互、长期规划与同步难题。该框架在底层利用多智能体后训练适配物理耦合交互,在高层训练视觉语言规划器并设计基于语音的领导者 - 跟随者协调机制,实现无需网络通信的去中心化执行。

    推荐理由:提出去中心化多个人形协作框架,通过视觉语言规划与语音协调机制实现无需网络通信的长程协同。

  15. arXiv · 机器人与计算机视觉82

    CueClash:前沿视觉语言模型对近画面平面三维关系的判断存在偏差

    论文 CueClash 通过构建渲染场景揭示视觉语言模型(VLM)在从图像推断三维关系时存在的线索冲突与深度压缩缺陷。实验显示,Claude Opus 5.5、GPT-5.5 和 Gemini 3.6 Flash 等模型在低推理努力下存在显著准确率差距,且其生成的俯视场景地图往往保留图像的深度缩短特性而非真实布局。研究还发现模型在处理 CV-Bench 照片中的可靠二维线索误导时也会失效。

    推荐理由:该研究揭示了前沿 VLM 在从图像推断三维关系时存在的线索冲突与深度压缩缺陷,并量化了不同模型的表现差异。

  16. arXiv · 机器人与计算机视觉83

    ReLAP:基于 JEPA 空间的循环视频预测进行潜在动作预训练

    论文介绍 ReLAP 框架,该框架在冻结的 JEPA 表示空间内耦合局部逆动力学学习与循环多步预测。共享逆动力学模型从相邻观测推断紧凑连续潜在动作,而潜在世界模型递归预测未来 JEPA 特征以鼓励时间连贯的动态。

    推荐理由:该工作提出在冻结 JEPA 空间内结合局部逆动力学与循环多步预测的潜在动作预训练框架,并在 LIBERO 基准上取得 SOTA 表现。

  17. arXiv · 机器人与计算机视觉78

    DreamFAR:一种支持实时与长视界交互的多样化物体世界模型

    论文提出了 DreamFAR 世界模型,其动力学模型完全基于大规模机器人遥操作数据从头训练,未使用互联网视频预训练。该架构专为机器人原生数据设计,体积显著小于高性能视频生成模型,在商业 GPU 上运行速度达 10 FPS。实验表明,DreamFAR 在预测长视界未来及理解接触与因果关系方面优于现有模型,并展示了策略评估与混合数据协同训练等应用潜力。

    推荐理由:该工作提出无需互联网预训练的机器人原生世界模型,在长时序接触预测上优于现有方法。

  18. arXiv · 机器人与计算机视觉78

    FlowRRT:基于蒸馏 MPPI 策略的单足复杂地形敏捷跳跃运动规划

    论文提出了 FlowRRT,这是一种针对离散地形单足跳跃的激动力学规划器。该方法将多起点 MPPI 专家离线收集的可行动作集通过条件流匹配蒸馏为生成采样器,以解决传统方法在狭窄不连通动作空间中的局限性。

    推荐理由:提出将 MPPI 专家蒸馏为生成采样器的 FlowRRT,在单足跳跃任务上实现更短规划时间与更高成功率。

11月17日周二
  1. arXiv · 机器人与计算机视觉78

    ODEWorld:一种通过物理时间流的连续预测架构

    arXiv 论文介绍了一种名为 ODEWorld 的新方法,利用物理时间流(PT-Flow)构建基于常微分方程的连续潜在世界模型。该方法在压缩的潜在空间内将未来预测重构为 ODE 求解器的时间积分,有效解决了表示坍塌问题,支持任意时序分辨率、回溯预测及丰富的规划导向信息。实验表明其在视频生成和机器人控制任务中表现优异。

    推荐理由:该工作提出基于 ODE 的连续时间世界模型,解决了离散模型的表示坍塌问题并支持任意时序分辨率与回溯预测。

  2. arXiv · 机器人与计算机视觉82

    PRIME:基于情境记忆嵌入的 VLA 模型感知反馈

    该论文提出 PRIME 方法,通过跨注意力机制聚合过去感知、推理及导航目标的潜在表示,为 VLA 模型提供情境记忆反馈,使其感知查询具备意图驱动性。实验显示,该方法在基准测试中实现了 82.47 的驾驶得分和 60% 的成功率,显著优于现有基线。材料仅包含预印本摘要与元数据,未涉及真实部署或开源代码。

    推荐理由:PRIME 通过引入情境记忆嵌入机制,以极小参数成本实现了感知模块的意图驱动注意力,在 Bench2Drive 基准上刷新了 VLA 模型的驾驶得分与成功率。