跳到正文
arXiv · 机器人与计算机视觉· Ziang Wu, Peng Jin, Qishen Yin, Munan Ning, Hao Li, Peizhen Zhang, Huihui Zhou, Li Yuan·· 5 小时前AI 评分75

Relax Within, Balance Across:Vision-Language Mixture-of-Experts 在组成偏移下的负载均衡研究

Relax Within, Balance Across: Load Balancing under Composition Shifts in Vision-Language Mixture-of-Experts

AI 导读

论文发现 Vision-language mixture-of-experts (MoE) 模型如 Qwen3-VL 在固定路由下,当分辨率、动态分块或图像数量改变导致图像与文本 token 比例变化时,负载平衡会发生显著偏移。

来源:arXiv · 机器人与计算机视觉 · arxiv.org