arXiv · 机器人与计算机视觉· Arnab Sanyal, Sandeep Chinchali·· 2 天前精选AI 评分78
Chameleon:扩散模型高效量化中的动态格式适配器
Chameleon: Dynamic Format Adapter for Efficient Diffusion
AI 导读
该论文提出 Chameleon 框架,将量化格式本身作为离散变量,按权重通道和激活层动态从 INT8、FP8 等集合中选择,而非固定单一格式。在 SDXL、PixArt-$\alpha$ 等模型上,该方法在所有位宽设置下均取得最佳 FID,推理速度较 FP16 提升 1.09 倍且权重体积缩小 3 倍。材料为预印本,未提及同行评审状态或开源代码仓库。
推荐理由
提出 Chameleon 框架,通过动态选择激活与权重的混合格式在固定位宽下实现最佳 FID 与推理速度提升。
来源:arXiv · 机器人与计算机视觉 · arxiv.org