CoTranslator: Reverse to Forward Chain-of-Thought Translator for Reasoning Distillation
中文摘要
由模型生成 · 人工抽检CoTranslator 提出一种反向到正向的思维链翻译器，用于推理蒸馏。它先用已知答案生成廉价的反向 CoT，再学习将其翻译为接近经拒绝采样验证的正向 CoT 分布，从而在保持学生无答案推理一致性的同时降低教师调用成本。在六个数学基准上平均准确率最高提升 5.82 个百分点，4B 学生以约 36% 算力保留 95% 拒绝采样精度，并可零重训迁移到新数据集、教师和 STEM 任务。
全文
已译中文arXiv:2610.20828v1 公告类型：新
摘要：推理蒸馏需要带有正确答案的思维链（CoT）数据，但高效获取此类数据仍然具有挑战性。先进行前向 CoT 生成（FCG），再进行拒绝采样（RS），可以产生经过验证的、仅含问题的回答，但对于困难问题可能需要大量教师调用。反向 CoT 生成（RCG）成本更低，因为它以已知答案为条件，但获取该答案可能导致事后合理化，并与学生模型无答案的推理设置不匹配。我们提出 CoTranslator，它学习将反向 CoT 回答转换为经过验证的前向回答的分布。在一小部分配对的反向回答与经拒绝采样得到的前向回答上训练后，它支持对学生训练数据进行大规模生成与验证。在六个数学基准测试上对六个学生模型进行评估，CoTranslator 相比语义抑制将平均准确率最多提升 $5.82$ 个百分点。对于两个 4B 学生模型，它保留了拒绝采样平均准确率的 $95.0\%$，同时仅使用其估计算力的 $35.9\%$。无需重新训练，同一转换器即可迁移到新的数学数据集、不同的教师模型以及 STEM 问题，分别为 4B 和 8B 学生模型将 STEM 平均准确率提升 $4.88$ 和 $4.31$ 个百分点。这些结果表明，CoTranslator 为推理蒸馏提供了一种高效且可迁移的方法。
本译文由模型自动生成，仅供参考与快速理解；涉及数字、版本、命令、法律条文等请以原文为准。
原文附件
2 个 · 均跳转原站，本站不托管文件正文为原站公开内容的抓取与清洗结果，英文条目附模型生成的中文译文；两者均仅供参考， 准确内容请以原站为准。内容版权归原作者所有，若认为侵权请联系我们下线。