大模型Hugging Face Papers4 天前
OmniVerifier-C1 分解式分级视觉验证器
提出 OmniVerifier-C1,将传统二值视觉验证器改为自动分解复杂提示或规则并逐项打分的分级验证器,配合解耦强化学习训练,在文生图与 Maze、Sudoku 等规则化世界建模任务上优于二值验证器,为世界建模智能体提供更可靠的连续评判信号。
已过时译★ 26
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 4 条符合条件
提出 OmniVerifier-C1,将传统二值视觉验证器改为自动分解复杂提示或规则并逐项打分的分级验证器,配合解耦强化学习训练,在文生图与 Maze、Sudoku 等规则化世界建模任务上优于二值验证器,为世界建模智能体提供更可靠的连续评判信号。
针对多奖励RL中GDPO将各奖励优势均匀铺满整条回复的问题,提出MRTPO:利用各验证器实际检查的信息,通过对比有无该验证器信息时策略的下一token分布,用逐token的Jensen-Shannon距离衡量相关性并重新分配优势,无需辅助模型或token级标注。在text-to-SQL、多约束指令跟随和工具调用上收敛更快、效果更好。
提出 GGPO,一种面向可验证奖励的离策略强化学习算法,通过最小化同一提示下响应的 KL 调整奖励的对数均值指数对比,避免学习者到行为策略的重要性权重,从而降低长响应的高方差。实验显示其在数学推理上优于 GRPO 和 AGRO,并能在策略陈旧度增大时保持性能。
提出 RRI(递归奖励改进)方法,用对抗性元提示演化监督模型自写评分标准:先让对手模型写出钻空子的答案,再让同一模型写诚实答案,通过最多两步修复使诚实答案胜出,并将发现的漏洞反馈到后续任务生成。在 HealthBench Professional 上较基线提升 10.9-12.4 分,且无需外部模型,显著改善开放式专家任务的自改进效果。