跳到正文
arXiv · 机器人与计算机视觉· Xuecheng Wu, Aichen Feng, Jinyan Chen, Qingjie Zhao, Julien Lai·· 3 天前精选AI 评分82

Token2Tile:通过低秩空间实现基于 Tile 执行的 Token 级稀疏注意力以加速视频 DiTs

Token2Tile: Token-Wise Sparse Attention with Tile Execution through a Low-Rank Space for Video DiTs

AI 导读

arXiv 论文《Token2Tile》提出了一种无需训练的稀疏注意力算子,旨在解决视频扩散 Transformer 中注意力机制的二次计算成本瓶颈。该方法结合每查询评分与残差、在线低秩空间及 Tile 执行策略,将选中的 Key 打包至 GPU 核以加速推理。

推荐理由

该工作提出了一种无需训练的稀疏注意力算子,在视频扩散模型上实现了显著加速且精度损失极小。

来源:arXiv · 机器人与计算机视觉 · arxiv.org