Zora 等框架加速 VLA 推理
热点事件持续更新
Zora 等框架加速 VLA 推理
3 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
Zhengyang Cheng 等人公开了 Zora 软硬件协同设计框架,旨在解决资源受限平台上视觉语言动作(VLA)模型的自回归生成延迟问题。该方案利用轻量级检索增强生成草案模型结合机器人动力学替代昂贵的神经网络草案模型,并通过运动学引导的动作接受策略与 KV-cache 共享注意力机制降低批验证开销。 另有研究提出 SR-VLA 框架,试图通过预测输入前瞻和选择性 KV Cache 修复减少 VLA 执行卡顿问题。Suho Yoo 等人发布了预印本论文 VSpark,针对传统推测解码在机器人控制中因动作 token 冗余导致草案被频繁拒绝的问题,提出了面向自回归视觉语言动作模型的推测解码加速方法。
AI 根据报道生成 · 12 小时前更新
最新进展11月18日 13:00
SR-VLA:通过预测输入前瞻和选择性 KV Cache 修复减少 VLA 执行卡顿事件进展
3 个进展
- 11月18日 13:00 · 1 篇报道SR-VLA:通过预测输入前瞻和选择性 KV Cache 修复减少 VLA 执行卡顿arXiv · 机器人与计算机视觉:SR-VLA:通过预测输入前瞻和选择性 KV Cache 修复减少 VLA 执行卡顿
- 11月18日 13:00 · 1 篇报道VSpark 加速自回归视觉语言动作模型解码arXiv · 机器人与计算机视觉:VSpark:面向自回归视觉语言动作模型的推测解码加速方法
- 11月10日 13:00 · 1 篇报道提出 Zora 框架加速 VLA 推理arXiv · 机器人与计算机视觉:Zora:基于检索推测与硬件加速的高效 VLA 推理框架
报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv · 机器人与计算机视觉SR-VLA:通过预测输入前瞻和选择性 KV Cache 修复减少 VLA 执行卡顿
论文提出 SR-VLA 框架,解决视觉语言动作(VLA)策略在推理阻塞下一段动作时产生的控制停顿问题。
- arXiv · 机器人与计算机视觉VSpark:面向自回归视觉语言动作模型的推测解码加速方法
该论文旨在加速生成机器人动作的自回归视觉语言动作模型(VLAs)。针对传统推测解码在机器人控制中因动作 token 冗余导致草案被频繁拒绝的问题,作者提出了 VSpark 方法。
11月10日
- arXiv · 机器人与计算机视觉Zora:基于检索推测与硬件加速的高效 VLA 推理框架
针对资源受限平台上视觉语言动作(VLA)模型的自回归生成延迟问题,本文提出了 Zora 软硬件协同设计框架。该方法利用轻量级检索增强生成(RAG)草案模型结合机器人动力学替代昂贵的神经网络草案模型,并通过运动学引导的动作接受策略与 KV-cache 共享注意力机制降低批验证开销。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 911月18日 15:00
- 近 24 小时变化
- –
02.557.510
11月13日11月15日11月17日11月19日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。