跳到正文
arXiv · 机器人与计算机视觉· Xiaoyang Ma, Chi Wang, Hong Sun·· 2026-10-12AI 评分73

SheafPrune:一种基于层几何引导的视觉 Token 剪枝方法

SheafPrune: Sheaf-Guided Graph Propagation for Visual Token Pruning

AI 导读

针对多模态大语言模型处理完整视觉序列导致预填充成本高的问题,该方法提出利用层几何构建稀疏图文图进行相关性传播,并通过节点度修正重要性评分。实验显示,在冻结 LLaVA-NeXT-8B 主干下,仅保留 10% 的视觉 Token 即可实现 5.15 倍的预填充加速和 84% 的端到端 FLOPs 降低,且在多种骨干网络与预算设置下表现最优。

来源:arXiv · 机器人与计算机视觉 · arxiv.org