跳到正文
arXiv · 机器人与计算机视觉· Tao Tao, Anke Tang, Enneng Yang, Zhi Hou, Xiaogang Wang, Dacheng Tao·· 2 天前精选AI 评分78

UNITE:基于共享锚点一比特分解的具身 VLM 专家整合框架

UNITE: Consolidating Embodied VLM Specialists via Shared-Anchor One-Bit Factorization

AI 导读

论文提出 UNITE 框架,通过共享锚点一比特分解技术将多个具身视觉语言模型(VLM)专家整合为紧凑的混合专家模型。该方法在保持各专家前馈块路由能力的同时,仅用不到 0.6M 参数完成微调,显著降低存储占用。实验显示该模型在导航与三维场景理解基准上优于单一专家及多种静态合并方法,且相对于未压缩 MoE 几乎无损。

推荐理由

提出 UNITE 框架,通过共享锚点一比特分解将多个具身 VLM 专家整合为紧凑混合专家模型,在保持存储效率的同时提升导航与场景理解能力。

来源:arXiv · 机器人与计算机视觉 · arxiv.org