跳到正文
arXiv · 机器人与计算机视觉· Dongkeun Lee, Wonjun Lee·· 13 小时前AI 评分43

MoMoVL:面向端侧稀疏激活视觉语言模型的模态感知自适应压缩框架

MoMoVL: Modality-Aware Adaptive Compression for On-Device Sparsely-Activated Vision-Language Models

AI 导读

MoMoVL 提出一种针对混合专家架构视觉语言模型的模态感知自适应压缩框架,通过联合利用专家激活分布与模态量化敏感度优化位宽分配。实验显示该方法相比均匀精度基线降低内存占用最高 15.44%,在保持准确率的同时改善端侧推理的精度 - 压缩权衡。代码与数据已公开,论文被 WSDM 2027 Findings 接收。

来源:arXiv · 机器人与计算机视觉 · arxiv.org