跳到正文
arXiv · 机器人与计算机视觉· Xiaolin Lin, Kai-Chiang Wu, Bing Li, Grace Li Zhang·· 13 小时前AI 评分72

让小型模型先阅读:长交错图文输入的更快预填充方法

Let a Small Model Read First: Faster Prefill for Long Interleaved Image-Text Inputs

AI 导读

针对视觉语言模型处理长交错输入时预填充耗时过长的问题,论文提出 SkimPrefill 方法。该方法利用一个未训练的小型混合模型(Qwen3.5-0.8B)在低分辨率下快速读取完整输入并筛选关键单元,将其作为精简提示词传递给目标大模型。

来源:arXiv · 机器人与计算机视觉 · arxiv.org