Hugging Face Daily Papers·· 2026-10-01AI 评分70
Omni-Embed-Mini:通过稠密蒸馏实现多模态绑定且不遗忘文本
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
AI 导读
论文 Omni-Embed-Mini 提出一种 0.9B 参数模型,能在不更新任何文本侧参数的情况下将文本、语音、音频、图像、视频及富视觉文档映射到共享空间。其核心思路是利用冻结骨干网络对稠密级联标题的嵌入作为教师信号,配合轻量投影器和 LoRA 适配器完成对齐。
来源:Hugging Face Daily Papers · arxiv.org