跳到正文
arXiv · 机器人与计算机视觉· Ryan Lucas, Petros Prastakos, Rahul Mazumder·· 4 小时前精选AI 评分78

Online Temporal Rotations for 2 Bit KV-Cache Quantization in Video Diffusion Transformers

Online Temporal Rotations for 2 Bit KV-Cache Quantization in Video Diffusion Transformers

AI 导读

针对长视频生成中 KV 缓存的瓶颈问题,论文提出 TRQ 方法,通过在线旋转相邻帧缓存以适配每段视频的独特模式,在保持轻量级格式的同时提升主体一致性。该方法无需梯度或修改模型权重,并发布了融合的 Triton 内核以提升推理效率。

推荐理由

提出 TRQ 方法,通过在线旋转缓存适配视频特有模式,在 2-bit 精度下提升长视频生成的主体一致性。

来源:arXiv · 机器人与计算机视觉 · arxiv.org