arXiv · 机器人与计算机视觉· Chaehee Song, Seokil Ham, KiHyun Seol, Jihyun Lee, Yubin Choi, Changick Kim·· 2 天前AI 评分73
视觉 Token 选择的可靠性分析:CoRePruner 框架
How Reliable Is Visual Token Selection? Rethinking Pruning in Multimodal LLMs
AI 导读
该论文指出当前基于注意力或多样性的视觉 Token 剪枝方法存在局部不稳定和全局不一致的局限。作者提出 CoRePruner,这是一个无需训练的框架,结合了指令感知的多样性与可靠性感知注意力机制。实验表明,该方法在多种 MLLM 架构和图像基准测试中提升了性能,尤其在激进剪枝下表现更好,且在视频基准上保持竞争力。
来源:arXiv · 机器人与计算机视觉 · arxiv.org