跳到正文
arXiv · 机器人与计算机视觉· Lei Yang, Dayan Wu, Yiliang Zhu, Xinze Liu, Hengjie Zhu, Zihao Zhang, Ding Wang, Peng Fu, Zheng Lin·· 13 小时前AI 评分72

CanopyKV:超越局部裁剪的快速主动视觉推理记忆方法

CanopyKV: Remember beyond the Crop for Fast Active Visual Reasoning

AI 导读

论文介绍 CanopyKV,一种无需训练的 KV 缓存压缩框架,旨在解决主动视觉推理中因累积裁剪和推理 token 导致的显存膨胀问题。该方法利用父子裁剪关系区分被替换证据与未来探索所需的互补信息,通过工具元数据提供保留信号并减少后续注意力成本。

来源:arXiv · 机器人与计算机视觉 · arxiv.org