跳到正文
arXiv · 机器人与计算机视觉· Jaehyuk Lee, Yeajin Lee, Suhyun Bae, Donghun Lee·· 2 天前精选AI 评分78

POKE:一种用于 VLA 模型的离线探测与高效剪枝方法

POKE: Probe Offline, Keep Efficiently for Vision-Language-Action Models

AI 导读

针对视觉语言动作(VLA)模型推理成本高且注意力分数无法直接衡量 token 对动作影响的问题,该方法定义动作敏感度并解决在线评分导致的剪枝图锁定偏差。通过离线计算全图敏感度并蒸馏至不足 30 万参数的学生模型,在推理时无需反向传播即可进行评分引导的多样性选择。

推荐理由

POKE 方法离线计算全图动作敏感度并蒸馏至小参数学生模型,在 LIBERO 等基准上实现高效剪枝与高成功率。

来源:arXiv · 机器人与计算机视觉 · arxiv.org