arXiv · 机器人与计算机视觉· Jungseob Lee, Seongtae Hong, Dongyub Jude Lee, Chanjun Park, Jaehyung Seo, Sugyeong Eo, Heuiseok Lim·· 2026-10-07精选AI 评分82
Vision Is Not Overhead:面向视觉语言模型的无损推测解码单步分块起草技术
Vision Is Not Overhead: One-Pass Block Drafting for Lossless Speculative Decoding in Vision-Language Models
AI 导读
arXiv 论文提出 GLANCE 方法,解决视觉语言模型(VLM)中自强化循环导致推测解码受阻的问题。该方法通过单次前向传播完成整个块的草稿生成与验证,无需压缩或隐藏图像信息,在保持输出一致的前提下显著提升推理速度。实验显示,GLANCE 在生产引擎中比自回归解码快至 3.05 倍,平均超越 EAGLE3-VL 头并在地面任务上提升约 11%。代码已开源。
推荐理由
提出 GLANCE 方法,通过单次前向传播完成块级草稿生成与验证,在保持输出一致的前提下显著提升 VLM 推理速度。
来源:arXiv · 机器人与计算机视觉 · arxiv.org