跳到正文
arXiv · 机器人与计算机视觉· Guorui Lu, Qinyu Chen·· 8 天前AI 评分74

C$^2$-Routing:面向高效视觉语言推理的互补裁剪与压缩路由方法

C$^2$-Routing: Complementary Cropping and Compression for Efficient Vision-Language Inference

AI 导读

针对视觉问答任务中视觉 - 语言模型的高计算开销问题,提出 C$^2$-Routing 方法,自适应选择裁剪或压缩策略以平衡局部细节与全局上下文。该方法引入安全门控机制利用联合正确率分布指导回退,在 RTX 3090 上验证显示相比单纯截断视觉 Token,平均减少端到端 FLOPs 36.53%、视觉 Token 42.36%,任务得分仅下降 0.77%。

来源:arXiv · 机器人与计算机视觉 · arxiv.org