arXiv · 机器人与计算机视觉· Junha Park, Jaemyung Yu, Jaehui Hwang, Jong-Seok Lee, Dongyoon Han·· 17 天前AI 评分48
No Channels Left Behind:扩散模型加速的残差门机制研究
No Channels Left Behind: Understanding Diffusion Acceleration through Residual Gates
AI 导读
该研究揭示扩散 Transformer 训练加速(如 REPA)源于 AdaLN-Zero 残差门$\alpha$的重构而非仅靠特征结构。引入归一化参与率 nPR 发现,更广泛的门参与伴随更好的生成质量。基于此提出无需教师的径向目标,在 ImageNet $256\times256$上提升 FID 并增加门参与度。
来源:arXiv · 机器人与计算机视觉 · arxiv.org