跳到正文
arXiv · 机器人与计算机视觉· Jiongfan Yang, Weichen Fan, Haiwen Diao, Zhongang Cai, Ziwei Liu·· 20 天前AI 评分43

Read, Allocate, Route:SpecSlot 角色耦合分词提升像素空间生成 Transformer 效率

Read, Allocate, Route: Role-Coupled Tokenization for Pixel-Space Generative Transformers

AI 导读

SpecSlot 是一种像素空间整流流 Transformer,通过仅让低频槽参与全局注意力而将高频细节建模为局部交互。在 ImageNet-512 上,该模型相比控制组 FID 提升 2.84、FLOPs 减少 3.9%,且成本仅为 JiT-B/16 的 38.2%。目前论文处于 ICLR 2027 审稿中,代码与权重暂未开放。

来源:arXiv · 机器人与计算机视觉 · arxiv.org