跳到正文
Hugging Face Daily Papers·· 2026-10-15AI 评分65

面向统一视觉语言模型的解耦式在线策略专家蒸馏方法

Skill-Decoupled On-Policy Expert Distillation for Unified Vision-Language Models

AI 导读

针对强化学习在多目标优化中易产生梯度冲突及奖励黑客问题,本文提出技能解耦的在线策略专家蒸馏(SCOPED)方法。该方法独立训练能力专用专家并通过奖励引导提取显性技能,指导学生模型内部化程序知识而不依赖显式技能推理。实验显示 SCOPED 在八项多模态基准上均优于骨干网络及混合能力强化学习,且能提升对任务相关视觉证据的关注度并保留专业专长。所有代码与数据已公开。

来源:Hugging Face Daily Papers · arxiv.org