跳到正文
Hugging Face Daily Papers·· 15 天前精选AI 评分78

工具无需以文本形式表达:面向智能体的潜在上下文压缩

Tools Need Not Speak in Text: Latent Context Compression for Agents

AI 导读

针对大语言模型智能体在处理多步交互时上下文开销过大且注意力分散的问题,本文提出了 Coca-Cola 模型,将工具观测结果压缩为连续潜在 token 并嵌入输入空间。

推荐理由

提出连续潜在上下文压缩方法,显著降低 Agent 推理成本并提升任务性能。

来源:Hugging Face Daily Papers · arxiv.org