跳到正文
arXiv · 机器人与计算机视觉· Mahesh Bhosale, Yuanhao Zhai, Siwei Lyu, Junsong Yuan, David Doermann, Defang Chen·· 13 天前AI 评分68

FisherDistill:通过闭式解 Fisher 判别器实现扩散分布蒸馏

FisherDistill: Diffusion Distribution Distillation via Closed-Form Fisher Critics

AI 导读

论文介绍 FisherDistill 方法,利用冻结教师网络的中间表示估计真实与生成样本的一阶和二阶统计量,推导最大化分离特征分布的闭式解方向。该方法作为轻量级修正信号补充原有蒸馏目标,无需引入对抗判别器或其优化循环。实验表明,在多种蒸馏框架下,该方法能一致提升生成质量并显著缩小与对抗精炼版本的差距。

来源:arXiv · 机器人与计算机视觉 · arxiv.org