跳到正文
Hugging Face Daily Papers·· 2026-10-05精选AI 评分82

结构化 MoE 专家选择以适配智能体强化学习

Structuring MoE Expert Selection for Agentic Reinforcement Learning

AI 导读

该研究针对长程 LLM 智能体常用稀疏混合专家(MoE)模型但行为与结构协同设计不足的问题,发现专家路由在语义相似操作间存在重叠特性。作者提出分层路由控制框架,鼓励轮次级专家选择对齐智能体操作并正则化 token 级选择以维持局部一致性,同时引入熵门控机制解决后训练稳定性问题。

推荐理由

原文提出分层路由控制框架,解决智能体强化学习中 MoE 专家选择与轨迹结构不匹配问题,在基准测试中成功率提升超 10 个百分点。

来源:Hugging Face Daily Papers · arxiv.org