跳到正文
arXiv · 机器人与计算机视觉· Weizhong Huang, Zhicheng Liu, Yan Zhang, Fei Chao, Xiawu Zheng, Liujuan Cao·· 12 小时前AI 评分59

LoopZip:面向高效循环视觉语言模型的视觉 Token 压缩算法

LoopZip: Visual Token Compression for Efficient Looped Vision-Language Models

AI 导读

针对循环视觉语言模型(VLM)重复处理长序列导致的计算与显存开销问题,论文提出免训练的 LoopZip 压缩算法。该方法通过构建紧凑候选池、跨调用选择及权重绑定值修正,有效保留关键信息并减少输出偏差。实验表明,在 LoopVL-1B 上,50% 剪枝比下保留原模型 97.16% 性能,87.5% 剪枝比下超越最强基线 5.36%,显存占用降低约 58%,端到端推理速度提升 2.01-2.47 倍。

来源:arXiv · 机器人与计算机视觉 · arxiv.org