Verdict: Encode Once, Decide Many
中文摘要
由模型生成 · 人工抽检Verdict-MQ 提出一种共享状态编码器:对同一份输入只编码一次,用结构化注意力掩码让状态表示与问题无关、问题之间互不影响、选项顺序无关,从而一次回答多个类型化决策问题。395M 模型在类型化决策基准上优于 421M 专用模型,但 RACE/BoolQ 上不及微调基线。
全文
已译中文arXiv:2610.20778v1 公告类型:新
摘要:组织工作的自动化意味着针对同一份状态回答许多小型类型化问题(这封邮件是否需要回复、有多紧急、由谁负责),且给出的概率要足够可靠,无需人工介入即可据此行动。我们与之对比的开放类型化决策模型(如标准 cross-encoder)对每个问题都要对输入做一次单独的前向计算。我们提出 Verdict-MQ,这是一个开放编码器,只需读取一次案例即可回答其全部问题:在截断后保留相同的状态 token(已在每个报告案例上验证)的前提下,结构化注意力掩码使状态编码与问题无关、使问题之间互不影响,并通过构造方式使选项顺序无关紧要。在类型化决策基准测试上,395M 的 Verdict-MQ 在全部五个新随机种子上均显著优于已发布的 421M Laya 专用模型与软金标签的吻合度(KL 0.080 对 0.117,Brier 0.045 对 0.061),这一优势在按系统进行温度缩放后依然存在;其更高的准确率(0.801 对 0.767)已超出该基准测试自身的饱和点,因此我们将这一差距解读为与基准测试标注教师的吻合度更高。在 RACE、BoolQ 和 MultiRC 上,与匹配的微调基线相比,它在 MultiRC 上胜出,但在 RACE 和 BoolQ 上落败,其训练在后者上不稳定;我们自行测量了零样本参考结果,包括一个闭源通用系统(Jev),其表现优于所有微调编码器。一项受控对比测量了共享状态的代价:为每个问题提供各自的问题感知状态副本,可在 RACE 和 MultiRC 上获得 0.9-3.5 个点的提升,代价是每案例延迟增至 1.4-2.5 倍,而在类型化决策上无可测量的收益,且不变性保证保持不变。
本译文由模型自动生成,仅供参考与快速理解;涉及数字、版本、命令、法律条文等请以原文为准。
原文附件
2 个 · 均跳转原站,本站不托管文件正文为原站公开内容的抓取与清洗结果,英文条目附模型生成的中文译文;两者均仅供参考, 准确内容请以原站为准。内容版权归原作者所有,若认为侵权请联系我们下线。