跳到正文
arXiv · 机器人与计算机视觉· Suho Yoo, Youngjoon Jang, Hyebin Cho, Joon Son Chung·· 12 小时前AI 评分58

Out of Sight, Still in Mind:Omni-LLMs 推理时的 Token 压缩方法

Out of Sight, Still in Mind: Token Compression for Omni-LLMs

AI 导读

该论文提出 ReMo 框架,旨在降低多模态大模型在推理阶段的输入 Token 成本。该方法无需训练,通过跨模态对齐去除冗余视觉信息,并用轻量级检测器将物体级视觉 Token 替换为紧凑的文本代理。

来源:arXiv · 机器人与计算机视觉 · arxiv.org