跳到正文
arXiv · 机器人与计算机视觉· Yi Tan, Beier Zhu, Sirui Chen, Cheng Chen, Xingyu Zhu, Yuan Zhou, Zhenshan Tan, Tianrun Chen, Hanwang Zhang·· 16 天前AI 评分49

RouteREPA:解决像素空间模型对齐冲突的轻量级路由方法

RouteREPA: Routed Representation Alignment for Just Image Transformers

AI 导读

RouteREPA 提出利用依赖表示的路由器,自适应地分配任务导向表示以解决 Just Image Transformers (JiT) 中判别性对齐与像素生成间的冲突。在 ImageNet-1K (256x256) 实验显示,该方法在所有模型规模下均优于标准 REPA,且 JiT-H/16 仅需 PixelREPA 三分之一训练轮次即可超越其性能。

来源:arXiv · 机器人与计算机视觉 · arxiv.org