跳到正文
arXiv · 机器人与计算机视觉· Jarek Liesen, Matthew T. Jackson, Benjamin Ellis, Shimon Whiteson, Jakob N. Foerster·· 29 天前精选AI 评分78

MoDDiT:扩散 Transformer 中的简单令牌路由

MoDDiT: Simple Token Routing in Diffusion Transformers

AI 导读

arXiv 预印本论文提出 MoDDiT 架构,旨在解决扩散 Transformer(DiT)在处理自然图像时未能利用背景稀疏性的问题。该方法通过学习将令牌独立路由至 MLP 和自注意力操作,实现了跨令牌、图像及去噪步的动态计算分配。

推荐理由

该工作提出 MoDDiT 架构,通过动态路由机制在图像与视频生成中降低计算成本并提升性能。

来源:arXiv · 机器人与计算机视觉 · arxiv.org