Hugging Face Daily Papers·· 2026-10-01精选AI 评分78
基于选择的结构化推理:迈向高效的多模态搜索智能体
Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents
AI 导读
针对小模型在多模态搜索任务中因自由生成推理导致的高延迟与低效问题,本文提出了一种基于选择的结构化推理(SSR)框架。该框架将高层推理重构为预定义的、可复用的自然语言候选集,模型在每个步骤仅根据当前上下文从这些候选集中进行选择,无需辅助任务头。
推荐理由
该框架将推理重构为候选选择,利用共享 KV Cache 并行评分,在保持任务性能的同时显著降低多模态搜索代理的推理延迟。
来源:Hugging Face Daily Papers · arxiv.org