跳到正文
arXiv · 机器人与计算机视觉· Qirui Li, Guangcong Zheng, Qi Zhao, Jie Li, Bin Dong, Yiwu Yao, Xuewei Li, Zequn Qin, Xi Li·· 15 天前AI 评分72

Compact Attention:利用结构化时空稀疏性加速视频生成

Compact Attention: Exploiting Structured Spatio-Temporal Sparsity for Fast Video Generation

AI 导读

针对 Transformer 视频生成的二次计算复杂度瓶颈,研究提出 Compact Attention 框架。该方法发现不同注意力头在不同粗粒度查询 - 键区域存在功能专业化行为,据此构建可搜索、可复用的头特异性掩码,并提出变形双窗口稀疏模式机制及召回率驱动的离线自动搜索算法。

来源:arXiv · 机器人与计算机视觉 · arxiv.org