跳到正文
arXiv · 机器人与计算机视觉· Guangzong Si, Dong Wang, Yifan Yu, Miao Liu, Panwang Pan, Wentao Zhu·· 2026-10-20AI 评分72

ReTrace:面向高效多模态大语言模型的视觉回溯压缩方法

ReTrace: Visual Backtracking for Efficient Multimodal Large Language Models

AI 导读

针对多模态大语言模型(MLLMs)将图像编码为稠密视觉令牌序列导致的高计算开销问题,本文提出 ReTrace 框架。研究指出早期低显著性令牌在中间层仍会主动检索上下文,因此引入休眠令牌状态以缓存非关键令牌而非直接删除。

来源:arXiv · 机器人与计算机视觉 · arxiv.org