arXiv · 机器人与计算机视觉· Yeonjae Kim, Omin Kwon, Seong Hoon Seo, Jae W. Lee·· 23 天前精选AI 评分78
TriTile:一种用于视频扩散 Transformer 的三层注意力方法
TriTile: Three-Tier Attention for Video Diffusion Transformers
AI 导读
该研究提出 TriTile(含 Triage)方法,针对视频扩散模型中视觉 Token 注意力计算成本高的问题,设计了跳过、低精度估算及残差修正三种近似层级。该方法通过轻量级路由器根据块统计信息动态分配层级,仅在误差降低值得到额外算力时才升级精度,并融合执行于 RTX Blackwell GPU 的 FP4 Tensor Core。
推荐理由
该方法在无需训练的情况下,利用硬件特性实现了视频生成模型的加速与精度提升。
来源:arXiv · 机器人与计算机视觉 · arxiv.org