Hugging Face Daily Papers·· 2026-10-15AI 评分65
面向统一视觉语言模型的解耦式在线策略专家蒸馏方法
Skill-Decoupled On-Policy Expert Distillation for Unified Vision-Language Models
AI 导读
针对强化学习在多目标优化中易产生梯度冲突及奖励黑客问题,本文提出技能解耦的在线策略专家蒸馏(SCOPED)方法。该方法独立训练能力专用专家并通过奖励引导提取显性技能,指导学生模型内部化程序知识而不依赖显式技能推理。实验显示 SCOPED 在八项多模态基准上均优于骨干网络及混合能力强化学习,且能提升对任务相关视觉证据的关注度并保留专业专长。所有代码与数据已公开。
来源:Hugging Face Daily Papers · arxiv.org