跳到正文
arXiv · 机器人与计算机视觉· Yanjing Li, Sheng Xu, Baochang Zhang, Xianbin Cao, Yawei Li·· 4 小时前AI 评分67

基于动力学感知量化与蒸馏的视觉语言模型高效隐式推理

Efficient Latent Reasoning for Vision-Language Model via Dynamics-Aware Quantization and Distillation

AI 导读

该论文提出了 QL-VLM 框架,旨在降低视觉语言模型的中间推理步骤和执行成本。方法包括使用非均匀码本的 Dynamics-Guided Quantization (DGQ) 以保留旋转键结构,以及 Dynamics-Preserving Distillation (DPD) 以保持低精度推理下的预测一致性。

来源:arXiv · 机器人与计算机视觉 · arxiv.org