跳到正文
arXiv · 机器人与计算机视觉· Jaihoon Kim, Lingxiao Li, Soshi Shimada, Roshni Cooper, Minhyuk Sung, Yiwei Zhao·· 20 天前AI 评分73

sDMD:一种基于 Sinkhorn 分布匹配的蒸馏新方法

sDMD: Sinkhorn Distribution Matching Distillation

AI 导读

论文提出 sDMD(Sinkhorn Distribution Matching Distillation)方法,旨在改进现有的分布匹配蒸馏(DMD)。该方法通过引入最优传输项并自适应激活修正机制,解决了 DMD 在低密度区域引导不可靠及模式坍塌的局限性。

来源:arXiv · 机器人与计算机视觉 · arxiv.org