arXiv · 机器人与计算机视觉· Mengzhao Wang, Yanli Ji, Wangmeng Zuo, Chongjun Tu·· 9 天前AI 评分65
自适应视觉 KV Cache 复用用于高效多轮迭代多模态推理
Adaptive Visual KV Cache Reuse for Efficient Multi-Turn Iterative Multimodal Reasoning
AI 导读
针对多轮视觉推理中重叠观察导致冗余编码的问题,作者提出了一个无需额外训练的自适应视觉 KV Cache 复用框架。该方法根据裁剪大小和缓存情况选择全量重编码或区域复用路径;在复用路径上,通过位置键重绑定修正注意力匹配,利用意图引导增强关键内容价值,并保留源状态以供后续检索。实验基于 Mini-o3 在五个基准设置中验证了方法在减少推理时间的同时保持了整体精度。
来源:arXiv · 机器人与计算机视觉 · arxiv.org