跳到正文
arXiv · 机器人与计算机视觉· Yeonjae Kim, Omin Kwon, Seong Hoon Seo, Jae W. Lee·· 23 天前精选AI 评分78

TriTile:一种用于视频扩散 Transformer 的三层注意力方法

TriTile: Three-Tier Attention for Video Diffusion Transformers

AI 导读

该研究提出 TriTile(含 Triage)方法,针对视频扩散模型中视觉 Token 注意力计算成本高的问题,设计了跳过、低精度估算及残差修正三种近似层级。该方法通过轻量级路由器根据块统计信息动态分配层级,仅在误差降低值得到额外算力时才升级精度,并融合执行于 RTX Blackwell GPU 的 FP4 Tensor Core。

推荐理由

该方法在无需训练的情况下,利用硬件特性实现了视频生成模型的加速与精度提升。

来源:arXiv · 机器人与计算机视觉 · arxiv.org