Berkeley BAIR Blog·· 2026-07-26精选AI 评分65
ABBEL:学习自然语言信念状态以实现内存高效的长程交互
Teaching LLMs to Update Beliefs for Efficient Long-Horizon Interaction
AI 导读
针对大语言模型在长程交互中因上下文过长导致性能下降的问题,文章提出 ABBEL 框架,将递归摘要任务转化为对自然语言“信念状态”的监督更新。通过引入基于重构的“信念分级”机制,该框架在 CollabBench 协作编程和 Combination Lock 游戏中显著缩小了与全量上下文模型的差距,同时大幅降低峰值 Token 消耗并减少训练步数。
推荐理由
提出 ABBEL 框架,通过监督自然语言信念状态更新解决长程交互中的上下文压缩性能损耗问题。
来源:Berkeley BAIR Blog · bair.berkeley.edu