寻脉SEEKPULSE
发现热榜需求广场技术讨论工具箱信源
大模型摘要可能已过时中文全文附件 2arXiv cs.CL · 2026-10-17 · 4 天前

Verdict: Encode Once, Decide Many

中文摘要

由模型生成 · 人工抽检

Verdict-MQ 提出一种共享状态编码器:对同一份输入只编码一次,用结构化注意力掩码让状态表示与问题无关、问题之间互不影响、选项顺序无关,从而一次回答多个类型化决策问题。395M 模型在类型化决策基准上优于 421M 专用模型,但 RACE/BoolQ 上不及微调基线。

全文

已译中文

arXiv:2610.20778v1 公告类型:新

摘要:组织工作的自动化意味着针对同一份状态回答许多小型类型化问题(这封邮件是否需要回复、有多紧急、由谁负责),且给出的概率要足够可靠,无需人工介入即可据此行动。我们与之对比的开放类型化决策模型(如标准 cross-encoder)对每个问题都要对输入做一次单独的前向计算。我们提出 Verdict-MQ,这是一个开放编码器,只需读取一次案例即可回答其全部问题:在截断后保留相同的状态 token(已在每个报告案例上验证)的前提下,结构化注意力掩码使状态编码与问题无关、使问题之间互不影响,并通过构造方式使选项顺序无关紧要。在类型化决策基准测试上,395M 的 Verdict-MQ 在全部五个新随机种子上均显著优于已发布的 421M Laya 专用模型与软金标签的吻合度(KL 0.080 对 0.117,Brier 0.045 对 0.061),这一优势在按系统进行温度缩放后依然存在;其更高的准确率(0.801 对 0.767)已超出该基准测试自身的饱和点,因此我们将这一差距解读为与基准测试标注教师的吻合度更高。在 RACE、BoolQ 和 MultiRC 上,与匹配的微调基线相比,它在 MultiRC 上胜出,但在 RACE 和 BoolQ 上落败,其训练在后者上不稳定;我们自行测量了零样本参考结果,包括一个闭源通用系统(Jev),其表现优于所有微调编码器。一项受控对比测量了共享状态的代价:为每个问题提供各自的问题感知状态副本,可在 RACE 和 MultiRC 上获得 0.9-3.5 个点的提升,代价是每案例延迟增至 1.4-2.5 倍,而在类型化决策上无可测量的收益,且不变性保证保持不变。

本译文由模型自动生成,仅供参考与快速理解;涉及数字、版本、命令、法律条文等请以原文为准。

原文附件

2 个 · 均跳转原站,本站不托管文件
有效期判断
起 2026-10-16止 2026-04-20模型置信度 50%

正文为原站公开内容的抓取与清洗结果,英文条目附模型生成的中文译文;两者均仅供参考, 准确内容请以原站为准。内容版权归原作者所有,若认为侵权请联系我们下线。

聊聊这条信息0

补充、质疑、落地经验都欢迎
登录后参与讨论

还没有评论,来写下第一条。

相关脉络

部署与算力Hugging Face Papers4 天前

Velox用空间记忆加速视频世界模型

Velox是一种免训练的注意力路由方法,利用流式几何中的视锥板对应关系做区域级上下文选择,将历史块表示为带深度区间的相机视锥板,从而抑制随 rollout 增长的 KV 缓存开销。在第48块时注意力加速4.36倍、去噪加速2.43倍,WBench导航任务精度仅差0.15分,让长视频世界模型交互更实时。

大模型Hugging Face Papers4 天前

Grid-Bench:评估LLM预测离散空间状态变化能力

Grid-Bench是一个可执行基准,用二维至四维网格上的八类操作测试LLM能否根据初始状态、规则和事件历史预测最终空间状态。结果显示历史越长准确率下降越明显,且单事件表现相近的模型在长序列上差异巨大,为空间推理评估提供了可验证的量化方法。

已过时译