跳到正文
arXiv · 机器人与计算机视觉· Zhen Wang, Ning Lai, Qingtao Yu·· 29 天前AI 评分68

CALM:一种用于自回归视频生成的缓存压缩技术

Offline Makes Online Better: Calibrated Cache Compression for Video Generation

AI 导读

针对自回归视频生成中 KV-cache 内存消耗问题,作者提出 CALM(Calibrated Allocation for Layer-Head Merging)方法。

来源:arXiv · 机器人与计算机视觉 · arxiv.org