arXiv · 机器人与计算机视觉· Nguyen Quang Trung, Hoang Phan, Shuo Sun, Longyin Zhang, AiTi Aw·· 11 小时前精选AI 评分83
M3OPD-Reasoner:一种基于多教师同策略蒸馏的视觉语言模型后训练开放配方
M3OPD-Reasoner: An Open Recipe for Post-Training Multimodal Reasoning with Multi-Teacher On-Policy Distillation
AI 导读
论文提出 M3OPD-Reasoner 这一完全开放的视觉语言模型(VLM)后训练方案,涵盖图像 STEM、图像感知和视频三个推理领域。研究构建了包含 1.35M 样本的监督微调数据集和 19.3K 样本的强化学习数据集,并在去污染后的 21 个基准测试上验证了多教师同策略蒸馏(MOPD)结合组序列策略优化(GSPO)及混合强化学习的最佳组合效果。
推荐理由
作者提出 M3OPD-Reasoner 开源配方,通过多教师同策略蒸馏与强化学习结合,在图像 STEM、感知及视频推理任务上实现性能提升。
来源:arXiv · 机器人与计算机视觉 · arxiv.org