TIDE:一种用于机器人操作的基于人机回环的在线后训练方法
论文提出了 TIDE 系统,这是一种无需学习评论家、奖励模型或动作评分器的在线后训练框架。该方法通过源条件监督学习,利用部署过程中收集的人机交互数据和策略生成的轨迹来更新策略。
推荐理由:该工作提出无需奖励模型或价值函数的在线后训练框架,利用部署中的人机交互数据快速更新策略。
论文提出了 TIDE 系统,这是一种无需学习评论家、奖励模型或动作评分器的在线后训练框架。该方法通过源条件监督学习,利用部署过程中收集的人机交互数据和策略生成的轨迹来更新策略。
推荐理由:该工作提出无需奖励模型或价值函数的在线后训练框架,利用部署中的人机交互数据快速更新策略。
论文 NavBind 提出一种方法,用于诊断视觉语言动作(VLA)导航模型是否真正遵循指令而非仅依赖视觉线索或历史轨迹。研究构建了包含 3,252 个路线分叉场景的数据集,通过对比不同分支下的动作序列、概率分布及注意力变化,发现高导航成功率并不等同于对指令的忠实执行。材料为预印本,未报告真实机器人部署结果。
推荐理由:该工作通过构建路线分叉数据集,揭示导航 VLA 模型高成功率可能未忠实遵循指令的现象。
论文提出 SMR,一种基于语义条件的流式神经运动重定向方法。该方法将人类动作转换为机器人感知的任务空间目标,利用在仿真中受接触、动力学和执行器约束的物理专家直接跟踪这些目标,并训练单因果 Transformer 对执行后的状态轨迹进行建模。实验表明,相比直接优化和物理修正基线,该方法在保持语义保真度和物理有效性的同时,实现了更优的闭环控制性能。
推荐理由:提出 SMR 方法,利用语义条件物理专家在仿真中生成符合动力学约束的运动轨迹,并通过因果 Transformer 实现流式重定向。
该研究调查了世界动作模型因生成骨干网络不同而导致的泛化性能差异,提出表征先验应在策略训练前构建分离冗余信息与分布内流形的几何结构。通过量化视觉变化下的噪声正交性,发现更高的先验正交性与更强的视觉鲁棒性及策略泛化相关,并观察到随之而来的特征位移抑制与稳健动作生成能力。
该文介绍 SimPT(Simulation-based Post-Training),一个集成策略 rollout、修正数据采集、策略训练及独立评估的自动化仿真框架,旨在解决人类在环后训练中监督成本高和重复实机评估受限的问题。
针对两轮倒立摆等不稳定平台,传统级联模块存在计算开销与延迟问题。本文提出一种轻量级的状态依赖目标协调方法,通过调整平衡稳定与导航目标的相对贡献权重,无需额外控制层级或辅助控制器即可解决两者冲突。
arXiv 论文 ACT--Flow 提出一种在线学习框架,结合自适应动作分块 Transformer 与条件残差流策略,用于视觉引导的插入任务。该方法通过锚点引导预热吸收成功执行的动作,并基于更新后的先验重新计算残差目标;层级评论家评估交互结果以加权生成的残差候选者。
arXiv 预印本论文 RoPT 针对单目视觉在快速物体运动下易发散的痛点,提出一种融合视觉感知、时序运动学与全局重定位的闭环跟踪框架。该方法通过掩码跟踪处理遮挡,利用因子图正则化帧间更新并预测姿态,同时引入主动重定位模块实现故障自恢复。作者在基准测试与真实机器人演示中验证了其在快速运动场景下的高生存率。
SLoSa 是一个神经符号压缩与微调框架,旨在训练具备小体积、低能耗和安全意识的机器人任务规划基础模型。该方法利用经典规划器构建安全感知数据集,并通过验证引导的奖励机器进行监督与强化学习微调以对齐安全约束。
论文介绍 GGraph,这是一个开源的 GPU 加速图库,旨在为自主移动机器人提供稀疏的空间表示以支持规划与强化学习。现有图库多针对单机器人或固定图设计且依赖 CPU,限制了可扩展性。
该论文提出在偏好条件强化学习中评估奖励、优势、损失及 PCGrad 等不同层级的目标聚合策略。实验结合响应度与效用指标,对比两种人形控制框架发现:早期聚合能产生更广泛的行为响应但伴随其他目标的非预期变化,而晚期聚合虽提升控制精度却牺牲了部分响应性。材料为预印本版本,未报告真实机器人部署结果或具体性能数字。
针对视障人士使用导盲犬或手杖在陌生区域导航时的不确定性问题,该研究提出了 Context-Aware Navigation Explanation 框架,利用大语言模型将感知上下文与规划的未来轨迹整合,生成自然语言的机器人移动解释。
该研究针对多智能体协作迭代任务,提出一种利用历史可行轨迹构建联合安全集的学习框架。框架在每步选择终端状态与广义纳什均衡,仅当满足合作接受规则及个体非降级要求时才采纳新解。理论证明该方法保证递归可行性,并刻画了各玩家成本跨迭代不增加的充分条件。
论文提出 Flexible Feature Editing Pipeline (FLEX),利用大模型根据自然语言反馈对机器人内部表征进行添加、泛化和掩蔽三种迭代修正,以解决仅靠轨迹演示无法解释任务特征的问题。
该论文提出 inr2action 方法,利用共享的元学习初始化拟合机器人操作视频,将每个独立经验编码为固定大小的权重增量(delta)作为记忆。该方法通过投影层将权重增量映射为 token 嵌入,进而条件化语言模型进行问答和解码器执行关节命令回归,无需在查询时检索帧。实验显示,该方法在 RoboMME 基准上超越随机猜测,且证明了元学习初始化对于编码内容的关键作用。
论文提出了 Real2Sem2Real (R2Sem2R) 方法,旨在解决现有方法依赖深度传感或仅针对演示对象生成数据的局限。该方法利用 DINOv3-distilled Gaussian splats 跟踪 SE(3) 姿态,结合语义对齐将数字孪生体与演示物体匹配,并将人类手部动作映射为可行的机器人抓取策略。
推荐理由:该方法利用单个人类 RGB 演示生成跨语义实例的机器人数据,在真实机器人上验证了策略泛化能力。
这篇论文介绍了 T-WLA(世界 - 语言 - 动作)架构,旨在解决接触丰富操作场景中视觉策略更新滞后于触觉条件变化的问题。该架构利用共享视觉记忆同时指导基础动作生成和轻量级触觉修正器,无需重新运行视觉分支即可预测残差修正。
该研究提出一种无需力/力矩传感器的物理人机交互(pHRI)控制框架,通过神经网络补偿摩擦与未建模动力学以提升观测器性能。实验表明该方法在保持末端位姿与力跟踪精度的同时实现了鲁棒的广义力估计。此方案适用于多种缺乏专用传感器的人机协作机器人平台。
针对人机交互中主动引导与被动跟随两种状态的控制目标差异及现有方法对预设阈值敏感的局限,本文提出一种新型框架。
该论文提出Harness Scaling这一新维度,旨在解决现有智能体系统仅依赖单一固定执行器(harness)导致的特化与迁移受限问题。研究通过构建因子化解耦的执行空间、选择平衡的因子覆盖子集以及组织跨配置训练,实现了从单点训练到多样化配置的扩展。
论文介绍 AW-0 框架,通过统一架构联合建模代码、未来视频和机器人动作,利用代码专家生成可复用的技能程序以连接规划与执行。作者还提出了自动化策展流程来构建技能库。在 RoboTwin 2.0 及物理双手操作任务上的评估显示,该方法在任务性能、语言遵循、语义推理及鲁棒性方面均优于 VLA 和 WAM 基线。材料为预印本论文,未提及同行评审状态或具体开源代码仓库。
推荐理由:该工作提出结合代码规划与视频预测的代理世界动作模型,在仿真及物理任务上优于基线。
美国具身智能初创企业 Eka Robotics 近日宣布完成 1.5 亿美元的 A 轮融资,投后估值约 14.5 亿美元。本轮由 a16z 和 F-Prime 联合领投,三星等机构跟投。公司专注于研发重视力反馈的 VFA(Vision-Force-Action)机器人基础模型及自研灵巧夹爪,采用物理仿真与强化学习相结合的技术路线。目前正与多家工业客户开展试点合作。
针对连续控制强化学习中 Critic 预测回报无法准确导出动作梯度的问题,本文提出 Forward Entropy-Regularized Policy Optimization (FERPO)。
推荐理由:提出无需对 Critic 求导的策略优化新算法 FERPO,通过前向 KL 正则化提升探索与样本效率。
针对富接触操作场景,视觉信息难以区分不同接触结果且反应式控制响应滞后,本文提出 ForeTac 预测性接触引导框架。该框架通过代表 - 预测 - 评估 - 引导循环,编码当前触觉状态并基于候选动作序列预测未来触觉潜变量轨迹,利用从成功与失败物理交互中学到的接触质量目标进行评估。
这篇博士论文提出训练神经隐式表示来离线学习哈密顿 - 雅可比(HJ)可达性解,以在实时控制中区分安全与必撞状态。研究展示了五种方法:前四种将学习到的函数作为模型预测控制的终端约束或控制巴利尔函数的候选项,第五种则通过顶点输入的并行树搜索生成标签,解决了网格求解器限制低维模型的问题。仿真和硬件实验表明,该方法在短视域和移动障碍物场景下比几何及手工设计的基线具有更好的碰撞避免能力。
该论文提出一种基于 Transformer 的自编码器架构,旨在解决跨不同骨骼拓扑结构的运动重定向难题。核心贡献是引入可学习的骨架图扁平化方法,将基于图的位移编码以乘法形式整合进模型,从而在无需成对数据的情况下实现完全无监督训练。实验表明,该方法在零样本评估中将全局关节位置误差降低了 43-47%,并在包含专家动画师的用户研究中,在动作对齐和物理合理性方面获得最高排名。
本文介绍了一种端到端管道,用于捕获手术室中的运动并训练手术机器人策略,已在活体动物上验证。作者引入了一种安装在标准腹腔镜器械轴上的器械状态记录器,利用惯性传感器、飞行时间传感器和霍尔传感器恢复其姿态和钳口状态,无需外部相机或追踪器。
该研究针对传统四足机器人难以利用机械共振的问题,提出了一种框架,使非线性动力学在设计过程中可预测。作者展示了高顺应性四足机器人 eBert,利用新理论工具识别出六种非线性正常模式(NNMs),并在仿真和硬件上验证了其存在。
针对过驱动多旋翼分配中贪婪策略导致指令跳变、努力最小化策略无法保证权限的问题,提出基于对数行列式度量与控制屏障函数的新方法。该方法在六旋翼与八旋翼仿真及 300 次随机任务中,将硬力矩误差降低 79 倍且从未离开认证集。鲁棒变体在全部 150 个扰动系统上保持权限下限,支持未建模气动与延迟下的闭环控制。
针对端到端策略在高精度接触任务中脆弱且泛化差的难题,本文提出一种模块化方法,利用机器人自主在真实环境中采集接触密集段的数据,并通过离线强化学习转化为高效策略。该方法将局部策略与传统运动规划结合以解决长视界装配任务,在四个真实世界任务中仅需 2-2.5 小时自主数据采集即可实现 96% 的平均成功率(对比纯规划基线为 55%,最强端到端基线为 37%),并将施力降低 49%。
论文提出 PAKE 框架,将全身操控分解为部分参考运动生成与底层模仿控制。引入基于大规模数据集训练的运动学归一化流模型以生成多样化参考,高层控制器在潜在空间导航以利用冗余解,底层控制器执行动态一致运动。系统在四足机器人加六自由度机械臂上验证,仿真基准测试优于基线,硬件部署在 24 次任务中实现末端位姿跟踪误差 4.5 cm 与 0.14 rad,同时保持移动跟踪精度。
针对机器人策略难以在不同机械结构间泛化的问题,研究提出了 KITE 框架,将操作任务解耦为本体无关的交互意图预测和本体特定的运动学解码。该方法仅利用源机器人的演示数据训练交互策略,并通过学习基于接触模式的交互意图表示,结合各目标本体的合成运动学数据生成指令,从而实现无需额外任务演示即可迁移到新结构机器人上的零样本技能转移。
论文提出了 MolmoMotion 框架,包含由 1.16M 视频构建的动作描述 3D 点轨迹数据集 MolmoMotion-1M、涵盖 111 类物体与 61 种运动类型的基准 PointMotionBench,以及支持自回归坐标预测和流匹配轨迹生成的通用模型。该模型在语言指令引导下能准确预测多样化运动模式,并在机器人操作训练效率及视频生成真实性方面展现出良好的迁移效果。
论文介绍了一种名为 Flow Control 的方法,用于实时引导视觉语言动作(VLA)模型的动作输出。该方法将用户输入的键盘指令写入 VLA 流匹配动作专家的初始条件,无需重新训练或微调即可实现高保真且符合原分布的引导。
推荐理由:提出无需微调的流控制方法,利用通用输入实时引导 VLA 动作,提升任务成功率与完成速度。
针对视觉语言动作模型在异步推理中因延迟导致动作与场景状态不匹配的问题,该工作提出 DEFLECT 离线后训练框架。该方法利用轨迹数据中预测时刻不可用但记录可用的执行时刻观测值,构建时序对比以生成偏好监督信号,从而优化策略对陈旧输入的适应性。
针对单目RGB视频中人机交互4D重建难的问题,该方法提出首个类别无关的重建方案,利用基础模型预测并联合优化姿态假设与渲染比对,确保时空及像素对齐。实验显示其在分布内和未见数据集上的重建误差分别降低38%和36%,支持零样本泛化至互联网视频。代码与预训练模型将公开。
针对深度强化学习在直接关节力矩控制中解耦不自然的问题,该方法利用专家演示数据构建隐式动作先验以辅助策略探索。结合风格奖励机制后,智能体能更精准复现专家行为,且在迁移任务中的性能显著优于仅依赖奖励水平的基线。相关视频与预印本代码已公开,适用于双足机器人运动学习研究。
该论文介绍 Planning Under Noise (PUN),这是一种学习噪声感知价值场的神经算子,用于在不熟悉几何结构中进行规划。研究针对随机最优控制中的边界条件与梯度计算挑战,提出使用反射 Neumann 条件和 Dirichlet 目标条件,并将 Monte Carlo 求解器扩展至高维。
针对部分可观测性下无人机导航及远程接管后恢复自主性的挑战,本文发现标准循环策略在中断后会因上下文改变导致任务变量解码困难且增加碰撞风险。为此提出三种中断感知架构,通过独立特征流、专用中断记忆或门控环境特征来条件化循环处理。仿真结果显示,最强架构相比基准将中断后的碰撞减少 74%,任务失败降低 69%,且不损害无中断时的性能。
针对 Joint-Embedding Predictive Architectures (JEPAs) 存在的对象信息分散、缺乏显式实体对应以及点距离对空间位移不敏感等挑战,该研究提出 Slot-based Joint-Embedding Predictive Architecture (Slot-JEPA)。