跳到正文
arXiv · 机器人与计算机视觉· Ruixiao Dong, Jianmin Bao, Bozhi Luan, Zijie Meng, Xin Tao, Pengfei Wan, Kun Gai, Li Li, Houqiang Li·· 17 天前AI 评分70

PixelMoE:基于 LLM 风格混合专家架构的像素空间扩散模型扩展

PixelMoE: Scaling Pixel-Space Diffusion with LLM-Style Mixture-of-Experts

AI 导读

论文提出 PixelMoE,一种利用标准 Token-Choice 路由和细粒度路由专家进行输入自适应稀疏计算的像素空间生成框架。该方法结合共享专家捕捉通用表示及基于偏置的负载均衡策略,并引入像素空间分层流匹配以在去噪轨迹中调整空间分辨率。

来源:arXiv · 机器人与计算机视觉 · arxiv.org