arXiv · 机器人与计算机视觉· Riccardo Renzulli, Gabriele Spadaro, Shruthi Gowda, Alaa Eddine Mazouz, Van-Tam Nguyen·· 2026-10-19AI 评分75
TORINO:基于可解释概念重叠的视觉语言模型 Token 减少方法
TORINO: Token Reduction via Interpretable Concept Overlap in Vision-Language Models
AI 导读
该研究针对视觉语言模型计算成本高、视觉 Token 数量大的问题,提出 TORINO 框架。该方法无需微调底层模型,利用稀疏自编码器将视觉 Token 投影到可解释潜在空间,通过定义概念重叠度对共享语义内容的 Token 进行分组,进而执行剪枝或合并操作。实验表明,TORINO 能根据输入复杂度动态调整压缩率,在显著减少视觉 Token 数量的同时保持最小性能损失。
来源:arXiv · 机器人与计算机视觉 · arxiv.org