跳到正文
arXiv · 机器人与计算机视觉· Junhyeok Lee, Sangyoon Lee, Jaeho Lee·· 28 天前AI 评分74

Cache Locally, Recompute Selectively for Streaming Video Understanding

Cache Locally, Recompute Selectively for Streaming Video Understanding

AI 导读

针对流式视频理解中上下文不匹配导致的精度与效率权衡问题,本文提出了 FrameBlend 方法。该方法通过选择性 KV 重计算,在空闲预填充阶段使用更短注意力窗口以降低成本,并在查询时刻利用相关上下文重新计算关键帧的 KV 缓存。

来源:arXiv · 机器人与计算机视觉 · arxiv.org