arXiv · 机器人与计算机视觉· Jaehyuk Lee, Yeajin Lee, Suhyun Bae, Donghun Lee·· 2 天前精选AI 评分78
POKE:一种用于 VLA 模型的离线探测与高效剪枝方法
POKE: Probe Offline, Keep Efficiently for Vision-Language-Action Models
AI 导读
针对视觉语言动作(VLA)模型推理成本高且注意力分数无法直接衡量 token 对动作影响的问题,该方法定义动作敏感度并解决在线评分导致的剪枝图锁定偏差。通过离线计算全图敏感度并蒸馏至不足 30 万参数的学生模型,在推理时无需反向传播即可进行评分引导的多样性选择。
推荐理由
POKE 方法离线计算全图动作敏感度并蒸馏至小参数学生模型,在 LIBERO 等基准上实现高效剪枝与高成功率。
来源:arXiv · 机器人与计算机视觉 · arxiv.org