arXiv · 机器人与计算机视觉· Yuan Liao, Jae-sun Seo·· 2026-10-09AI 评分72
MiX:面向端到端低比特视觉语言模型的微倒置缩放加速技术
MiX: Micro-Inverted-Scaling for End-to-End Low-Bit Vision-Language Model Acceleration
AI 导读
论文针对边缘设备内存带宽瓶颈提出的子 8 位量化难题,提出 MiX 格式通过数学上反转微缩放范式(将私有指数与共享尾数结合)来避免异常值导致的下溢。该研究引入自适应双格式推理框架以处理非对称拓扑,并在多个视觉语言模型上验证了 4.5 比特格式的精度优势及相比现有加速器的面积效率提升和速度增益。
来源:arXiv · 机器人与计算机视觉 · arxiv.org