arXiv · 机器人与计算机视觉· Donggeun Kim·· 14 天前AI 评分44
MAEP:面向 MoE 多模态大模型的感知专家剪枝方法
Modality-Aware Expert Pruning for MoE-Based Multimodal Large Language Models
AI 导读
MAEP(Modality-Aware Expert Pruning)提出一种免训练框架,通过分解模态重要性实现专家剪枝。该方法将文本侧作为保留信号、视觉低注意力 Token 作为剪枝信号,在三个 MoE-MLLM 基准上优于无感知基线,使约 58 GB 模型权重适配单张 40 GB GPU。代码已开源,论文待 NeurIPS 2026 评审。
来源:arXiv · 机器人与计算机视觉 · arxiv.org