Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking
中文摘要
由模型生成 · 人工抽检该论文将长程任务失败拆解为三个可逐步评分的组件:重复识别、局部处理和计数器追踪,在400步账本任务中测试Qwen3-8B。发现重复识别错误在后期上升,而插入无关内容会使计数器在全部种子中失败,但外部精确状态提醒可在一两步内纠正。揭示了聚合错误分类会掩盖组件差异。
全文
已译中文[Submitted on 30 Sep 2026]
标题:
Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking
查看 Thomas Serval 所著论文《Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking》的 PDF
查看 PDF
HTML(实验性)
摘要:
语言模型的长期失败通常以端任务成功率或horizon长度来衡量。我们则改为逐步评分一个400步账本任务的三个组成部分,其中每一步单独来看都很简单,且模型自身的答案会被重新注入其上下文:识别5到300步之前已经见过的记录、在本地处理当前记录、以及写入一个每一步递增的计数器。在Qwen3-8B(非思考模式,20个种子,在第二台机器和后端上复现)上,对每一步按组件逐一评分,得到两个成立的结果。第一,重复识别错误在episode后期上升——从每步风险0.0019上升到第200步时的0.011——而计数器在8,000步中未出现任何错误,本地处理在描述性意义上保持稳定;这一上升结合了长距离召回错误和不断上升的误报。第二,在每一步之前插入一段无关内容块,会使计数器在每台机器上20个种子中全部失败,而无此内容块时无一失败,同时它对本地处理的影响要小得多,且与无影响无法区分。三项预注册的后续实验对计数器进行了探查。其取值取决于响应历史中存在的值:被污染的值在每个种子中都持续存在且未被纠正,而一个精确的外部提醒,在每条消息之前重复,可在一到两步内将其重新对齐。在无关内容块下,当由oracle从外部提供的精确紧凑状态提醒出现在每条消息之前时,未观察到计数器错误(20个种子中0个出错,而无此提醒时为15个),且该提醒优于长度匹配的中性文本;单次提醒是否足够尚无定论,其他组件未受损害这一点也未得到确立。聚合式或排他式的错误分类可能掩盖我们所报告的差异。
提交历史
发件人:Thomas Serval [
查看邮件
[v1]
2026年9月30日星期三 14:08:47 UTC(144 KB)
本译文由模型自动生成,仅供参考与快速理解;涉及数字、版本、命令、法律条文等请以原文为准。
原文附件
2 个 · 均跳转原站,本站不托管文件正文为原站公开内容的抓取与清洗结果,英文条目附模型生成的中文译文;两者均仅供参考, 准确内容请以原站为准。内容版权归原作者所有,若认为侵权请联系我们下线。