大模型arXiv cs.AI4 天前
Failure Is the Mother of Success: Recovering Supervision with Grounding Hindsight
RSHD 方法针对 GRPO 训练中全部 rollout 失败时无监督信号的问题,让策略对失败尝试写纠正笔记并在上下文中重解,仅当重解成功率高于原组且未泄露答案时才采纳,再蒸馏回普通提示策略。无需额外推理,跨模型与领域稳定优于 GRPO。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 1 条符合条件
RSHD 方法针对 GRPO 训练中全部 rollout 失败时无监督信号的问题,让策略对失败尝试写纠正笔记并在上下文中重解,仅当重解成功率高于原组且未泄露答案时才采纳,再蒸馏回普通提示策略。无需额外推理,跨模型与领域稳定优于 GRPO。