arXiv · 机器人与计算机视觉· Weizhong Huang, Huaijia Kou, Tianyu Xie, Xiawu Zheng, Liujuan Cao·· 9 天前AI 评分42
SemanticKV:语义对齐 KV Cache 压缩提升智能体视频生成效率
Semantically Aligned KV Cache Compression for Efficient Agentic Autoregressive Video Generation
AI 导读
SemanticKV 是一种无需训练的 KV Cache 压缩方法,首次利用规划器提取的语义约束指导缓存保留。该方法在 Causal Forcing 任务下将 6.04 GB 显存降至 1.81 GB(3.35x 减少),推理速度提升 1.22 倍且 VBench 总分达 84.10,优于最强压缩基线。
来源:arXiv · 机器人与计算机视觉 · arxiv.org