跳到正文
arXiv · 机器人与计算机视觉· Junha Park, Jaemyung Yu, Jaehui Hwang, Jong-Seok Lee, Dongyoon Han·· 17 天前AI 评分48

No Channels Left Behind:扩散模型加速的残差门机制研究

No Channels Left Behind: Understanding Diffusion Acceleration through Residual Gates

AI 导读

该研究揭示扩散 Transformer 训练加速(如 REPA)源于 AdaLN-Zero 残差门$\alpha$的重构而非仅靠特征结构。引入归一化参与率 nPR 发现,更广泛的门参与伴随更好的生成质量。基于此提出无需教师的径向目标,在 ImageNet $256\times256$上提升 FID 并增加门参与度。

来源:arXiv · 机器人与计算机视觉 · arxiv.org