跳到正文
arXiv · 机器人与计算机视觉· Tongtong Liang, Siqi Kou, Ziqiao Xi, Esha Singh, Kun Zhou, Zhijie Deng, Alexander Cloninger, Yu-Xiang Wang, Rahul Parhi·· 2026-10-08AI 评分48

Residual-Stream Burden Shapes Representation Learning in Diffusion Transformers 研究论文

Residual-Stream Burden Shapes Representation Learning in Diffusion Transformers

AI 导读

该研究表明,扩散 Transformer 中残差流的噪声保留负担决定了模型对清洁、噪声或速度预测目标的适应差异。实验证实,通过引入空间索引超连接(SiHC)直接扩展残差流带宽,可在 ImageNet $256^2$ 数据集上实现 FID 1.71 的生成效果。论文目前处于审稿中状态,相关代码与权重尚未公开。

来源:arXiv · 机器人与计算机视觉 · arxiv.org