arXiv · 机器人与计算机视觉· Benyuan Meng, Yiliang Zhang, Jin-Wen Wu, Qianqian Xu, Qingming Huang, Longtao Huang·· 2026-10-12精选AI 评分78
为何缺乏长跨层连接的 DiT 模型在表征学习中表现不佳
Why DiT Models Underperform as Representation Learners without Long Skip Connections
AI 导读
本文指出尽管扩散 Transformer(DiT)生成能力强,但其提取的特征往往较弱。研究通过从头训练证实引入长跨层连接(LSCs)可显著提升特征质量,并揭示其机制:输入包含潜变量和噪声信号,主骨干网络同时传递两者会污染图像信号,而 LSCs 能直接短路噪声至所需位置,保留更纯净的图像信息。代码已开源。
推荐理由
通过从头训练揭示长跨层连接能提升扩散模型特征质量,并阐明其机制与扩散目标的关系。
来源:arXiv · 机器人与计算机视觉 · arxiv.org