跳到正文
arXiv · 机器人与计算机视觉· Keshigeyan Chandrasegaran, Yue Zhao, Armin W. Thomas, Ehsan Adeli, Jiajun Wu, Juan Carlos Niebles, Li Fei-Fei, Michael Poli·· 2026-10-20精选AI 评分82

无需语言预训练的文本生成图像建模:Halcyon 系列模型研究

Text-to-Image Generative Modeling Without Language Pretraining

AI 导读

本文提出 Halcyon,一个完全从头预训练的早融合多模态自回归模型家族,基于 100M 对图像 - 文本数据集 GPIC 训练。实验显示,Halcyon-0.52B 和 Halcyon-1.6B 在生成质量上分别优于 LlamaGen-XL/8 和 JiT-T2I-XXL/8++,且预训练计算量分别减少 18.2 倍和 275 倍。

推荐理由

研究表明无需互联网级语言预训练即可实现强文本生成图像能力,且早融合多模态自回归模型在计算效率上显著优于现有方案。

来源:arXiv · 机器人与计算机视觉 · arxiv.org