arXiv · 机器人与计算机视觉· Sudhanshu Srivastava, Faisal Aqlan·· 10 天前AI 评分74
OpenVLA 目标表征定位与编辑:违反禁止指令的机制分析
Localizing and Editing the Goal Representation of a Vision-Language-Action Model
AI 导读
该论文研究了视觉语言动作模型 OpenVLA 是否遵循如“不要把碗放在炉子上”这类禁止性安全约束。实验显示,在 LIBERO-Goal 基准上,否定词对任务执行无显著影响,模型以 79% 的概率执行了被禁止的任务。
来源:arXiv · 机器人与计算机视觉 · arxiv.org