arXiv · 机器人与计算机视觉· Xuecheng Wu, Aichen Feng, Jinyan Chen, Qingjie Zhao, Julien Lai·· 3 天前精选AI 评分82
Token2Tile:通过低秩空间实现基于 Tile 执行的 Token 级稀疏注意力以加速视频 DiTs
Token2Tile: Token-Wise Sparse Attention with Tile Execution through a Low-Rank Space for Video DiTs
AI 导读
arXiv 论文《Token2Tile》提出了一种无需训练的稀疏注意力算子,旨在解决视频扩散 Transformer 中注意力机制的二次计算成本瓶颈。该方法结合每查询评分与残差、在线低秩空间及 Tile 执行策略,将选中的 Key 打包至 GPU 核以加速推理。
推荐理由
该工作提出了一种无需训练的稀疏注意力算子,在视频扩散模型上实现了显著加速且精度损失极小。
来源:arXiv · 机器人与计算机视觉 · arxiv.org