arXiv · 机器人与计算机视觉· Guangzong Si, Dong Wang, Yifan Yu, Miao Liu, Panwang Pan, Wentao Zhu·· 2026-10-20AI 评分72
ReTrace:面向高效多模态大语言模型的视觉回溯压缩方法
ReTrace: Visual Backtracking for Efficient Multimodal Large Language Models
AI 导读
针对多模态大语言模型(MLLMs)将图像编码为稠密视觉令牌序列导致的高计算开销问题,本文提出 ReTrace 框架。研究指出早期低显著性令牌在中间层仍会主动检索上下文,因此引入休眠令牌状态以缓存非关键令牌而非直接删除。
来源:arXiv · 机器人与计算机视觉 · arxiv.org