arXiv · 机器人与计算机视觉· Hamza Etcibasi, Ramazan Gokberk Cinbis·· 20 天前AI 评分58
无需对齐表示:基于随机原型的知识蒸馏
You Don't Need Aligned Representations: Knowledge Distillation via Random Prototype Spaces
AI 导读
本文提出 RPKD(Random Prototype Knowledge Distillation),挑战知识蒸馏中师生模型需占用兼容或显式对齐特征空间的假设。
来源:arXiv · 机器人与计算机视觉 · arxiv.org