arXiv · 机器人与计算机视觉· Christian A. Rogers, Qian Lin, Daniel S. Brown·· 24 天前AI 评分51
VLA 是否知晓其将失败?物理 AI 系统中可解释的成功与失败模式
Do VLAs Know They Will Fail? Interpretable Success and Failure Patterns in Physical AI Systems
AI 导读
该研究提出利用 OpenVLA 激活的稀疏自编码器(SAE)表示来预测机器人任务失败,并在达到不可恢复状态前识别出相关特征。作者通过定位显著激活变化的时间区间,揭示了导致成功或失败的特定行为模式,并开发了基于 VLM 的解释管道生成这些模式的描述,验证了其与特征激活的一致性。
来源:arXiv · 机器人与计算机视觉 · arxiv.org