arXiv · 机器人与计算机视觉· Hui Zhu, Saleh Zare Zade, Rafi Ibn Sultan, Deng Pan, Arun Ross, Dongxiao Zhu·· 14 小时前AI 评分71
BOS Summary:一种无需训练的推理方法以增强序列首 Token 的上下文承载能力
BOS Summary: The First Token Matters
AI 导读
论文提出 BOS Summary,这是一种无需训练、仅在预填充阶段修改因果掩码约束的推理时方法。它允许序列首(BOS)Token 聚合所有视觉和文本输入 Token 以生成自导出的上下文表示,同时保留其他 Token 的标准因果注意力。该方法在多个 VLM 和 LLM 家族及八个基准测试中优于直接提示、思维链提示及近期的 sink 干预方法,并显示出对后续层注意力分配的改善作用。
来源:arXiv · 机器人与计算机视觉 · arxiv.org