跳到正文
arXiv · 机器人与计算机视觉· Kunal Bhosikar, Nicole Meng, Charu Sharma, Yingjie Lao·· 16 天前精选AI 评分78

Spoofing the Latent State:不可察觉的目标图像攻击破坏 LeWorldModel 的规划能力

Spoofing the Latent State: Imperceptible Goal-Image Attacks Derail Planning in LeWorldModel

AI 导读

该论文研究了联合嵌入预测架构(JEPAs)在 LeWorldModel 中的测试时间鲁棒性。分析发现,物体状态主导了潜在距离,但编码器无法轻易隔离或重定向这种几何结构。实验表明,仅对单帧输入施加极小的白盒扰动即可让编码器将物体姿态记录为攻击者任意选择的状态,导致 Push-T 等任务的规划成功率从 87% 骤降至 32%,且该漏洞在四个标准基准测试中均存在。

推荐理由

该研究揭示了 LeWorldModel 在测试时对微小图像扰动的脆弱性,攻击可诱导规划器将物体状态误判为任意姿态,导致任务成功率大幅下降。

来源:arXiv · 机器人与计算机视觉 · arxiv.org