arXiv · 机器人与计算机视觉· Youngjoong Kim, Duhoe Kim, Woosung Kim, Jaesik Park·· 16 天前AI 评分65
Stabilizing Consistency Training: 基于流图分析与自蒸馏的一致性模型稳定化研究
Stabilizing Consistency Training: A Flow Map Analysis and Self-Distillation
AI 导读
该论文针对一致性模型从头训练时的不稳定性和低可复现性问题,从流图视角进行理论分析并揭示退化解成因。作者提出改进的自蒸馏方法 iSD 以优化梯度范数,并结合训练时分类器自由引导扩展为 iSD-T,在图像生成及无需预训练扩散模型的策略学习任务中提升了性能与稳定性。
来源:arXiv · 机器人与计算机视觉 · arxiv.org