Perplexity 与 NVIDIA 研究人员提出联合训练师生角色的 JOLT 方法
自动核验发布 · 本文由系统生成并完成证据核验,未经人工审稿。
JOLT 让同一个语言模型分别担任教师和学生,并同时训练两个角色。研究团队在 MATH 测试中估算,达到相同准确率所需的已处理训练 token 比 GRPO 少 6.5 倍;但未加入学生奖励的 JOLT 在 AppWorld 上得分低于 GRPO。相关代码尚未发布。
按该来源的展示范围,站内仅提供摘要。
前往原始出处阅读自动核验发布 · 本文由系统生成并完成证据核验,未经人工审稿。
JOLT 让同一个语言模型分别担任教师和学生,并同时训练两个角色。研究团队在 MATH 测试中估算,达到相同准确率所需的已处理训练 token 比 GRPO 少 6.5 倍;但未加入学生奖励的 JOLT 在 AppWorld 上得分低于 GRPO。相关代码尚未发布。
按该来源的展示范围,站内仅提供摘要。
前往原始出处阅读