arXiv · 机器人与计算机视觉· Ryan Lucas, Petros Prastakos, Rahul Mazumder·· 4 小时前精选AI 评分78
Online Temporal Rotations for 2 Bit KV-Cache Quantization in Video Diffusion Transformers
Online Temporal Rotations for 2 Bit KV-Cache Quantization in Video Diffusion Transformers
AI 导读
针对长视频生成中 KV 缓存的瓶颈问题,论文提出 TRQ 方法,通过在线旋转相邻帧缓存以适配每段视频的独特模式,在保持轻量级格式的同时提升主体一致性。该方法无需梯度或修改模型权重,并发布了融合的 Triton 内核以提升推理效率。
推荐理由
提出 TRQ 方法,通过在线旋转缓存适配视频特有模式,在 2-bit 精度下提升长视频生成的主体一致性。
来源:arXiv · 机器人与计算机视觉 · arxiv.org