arXiv · 机器人与计算机视觉· Qishu Hu, Haozhao Wang, Zicong Hong, Yufeng Zhan, Yuanqing Xia·· 4 小时前AI 评分65
Raptor:基于推测解码的拒知自适应树
Raptor: Rejection-aware Adaptive Tree based on Speculative Decoding
AI 导读
论文提出 Raptor,这是一个无需训练的框架,旨在解决长视觉上下文下推测计算成本高的问题。该方法提取拒绝反馈信号来区分候选覆盖不足与过度深层扩展,据此联合调节树的深度、分支宽度及生成预算。实验在两个 VLM 和七个多模态基准上进行,实现了最高达 2.39 倍的平均加速比。
来源:arXiv · 机器人与计算机视觉 · arxiv.org