Prune the Summary, Not the History: Source-Judged Compaction for Long-Horizon Agents
中文摘要
由模型生成 · 人工抽检论文指出长程LLM智能体的上下文压缩摘要会混入压缩器自身的推理，智能体无法区分事实与臆测，83%失败源于执行了无环境依据的摘要条目。作者提出免训练的Source-Judged Compaction（SJC），用非生成式判定模型Jev为每条摘要打分并剔除无来源条目，在AppWorld和OfficeBench上提升2.1%-8.9%可靠性且不增加token消耗。
全文
已译中文arXiv:2610.20927v1 公告类型：新
摘要：长程LLM智能体依赖上下文压缩：当交互历史超出上下文窗口时，压缩器会将其替换为自然语言摘要。我们表明，这些摘要所包含的不仅仅是发生过什么的记录。压缩提示词要求给出决策和下一步行动，因此每份摘要都会把环境所确立的事实与压缩器所书写的推理混在一起，而智能体事后无法区分二者。在对一个广泛使用的结构化压缩器的分析中，83%的失败运行可追溯到执行某条具体摘要条目的动作，其中大多数条目没有任何环境输出作为支撑。我们提出Source-Judged Compaction（SJC），这是一种免训练的后处理步骤，它对每条摘要条目评分，判断其在环境输出或先前摘要中是否有来源，并移除没有来源的条目。它既不改变智能体也不改变压缩器，每次压缩仅增加一次低成本的judge请求。该judge是Jev，一个非生成式决策模型，它以校准后的概率而非文本回答来源问题。在AppWorld和OfficeBench上、使用两个智能体模型时，SJC将跨运行可靠性相较底层压缩器提升2.1%-8.9%，且不增加智能体的token用量。
本译文由模型自动生成，仅供参考与快速理解；涉及数字、版本、命令、法律条文等请以原文为准。
原文附件
2 个 · 均跳转原站，本站不托管文件正文为原站公开内容的抓取与清洗结果，英文条目附模型生成的中文译文；两者均仅供参考， 准确内容请以原站为准。内容版权归原作者所有，若认为侵权请联系我们下线。