arXiv · 机器人与计算机视觉· Furkan Horoz, Ozgur Kara, Kaan Oktay, Adil Kaan Akan, Atakan Kara, Anand Bhattad, James Matthew Rehg·· 3 天前AI 评分72
通过探测激活恢复蒸馏图像和视频生成器的多样性
Restoring Diversity in Distilled Image and Video Generators by Probing Activations
AI 导读
蒸馏扩散模型虽降低采样延迟但导致样本多样性严重坍缩。本文探究发现学生模型将激活方差集中到更少的方向,且该现象位于去噪初始步骤的中间层。为此提出 ReDiverse 方法:训练时通过轻量适配器微调回归教师特征方差,推理时无训练机制沿预计算的主成分方向引导激活。在图像和视频蒸馏基准测试中,该方法在保持生成质量的同时一致恢复了样本多样性,并得到用户研究支持。
来源:arXiv · 机器人与计算机视觉 · arxiv.org