arXiv · 机器人与计算机视觉· Jiahao Guo, Bao Tang, Haoxiang Cao, Jingfeng Yao, Bo Li, Wenyu Liu, Kun Gai, Changqian Yu, Xinggang Wang·· 17 天前精选AI 评分82
MoETok:一种用于 1D 视觉 Tokenizer 的稀疏专家路由方法
MoETok: Sparse Expert Routing for 1D Visual Tokenizers
AI 导读
论文提出 MoETok,这是一种针对 1D 视觉 Tokenizer 的稀疏专家路由方法。研究揭示查询在语义监督下自发分化为 Content(内容)和 Detail(细节)两类角色,路由器据此学习适应不同 token 表示的特化处理路径。
推荐理由
该工作揭示了查询在语义监督下自发分化为内容与细节两类角色,并提出稀疏专家路由机制以提升重建与生成性能。
来源:arXiv · 机器人与计算机视觉 · arxiv.org