跳到正文
arXiv · 机器人与计算机视觉· Chaehee Song, Seokil Ham, KiHyun Seol, Jihyun Lee, Yubin Choi, Changick Kim·· 2 天前AI 评分73

视觉 Token 选择的可靠性分析:CoRePruner 框架

How Reliable Is Visual Token Selection? Rethinking Pruning in Multimodal LLMs

AI 导读

该论文指出当前基于注意力或多样性的视觉 Token 剪枝方法存在局部不稳定和全局不一致的局限。作者提出 CoRePruner,这是一个无需训练的框架,结合了指令感知的多样性与可靠性感知注意力机制。实验表明,该方法在多种 MLLM 架构和图像基准测试中提升了性能,尤其在激进剪枝下表现更好,且在视频基准上保持竞争力。

来源:arXiv · 机器人与计算机视觉 · arxiv.org