reward model 标签归档 | 土法炼钢 · 系统与基础设施

reward model 标签归档

共 2 篇文章 · 返回首页

【强化学习与大模型后训练】13｜RLVR：可验证奖励如何训练推理能力

2026-05-29 | rl-posttraining | #RLVR #verifiable rewards #reward hacking #DeepSeek-R1 #rule-based reward #reinforcement learning #reasoning models #reward model #alignment #safety

RLVR用规则或形式化验证器替代学习的奖励模型，以减少reward hacking、提高透明度，适用于数学、代码等具备ground truth的任务。

【强化学习与大模型后训练】15｜过程奖励 PRM vs 结果奖励 ORM

2026-05-29 | rl-posttraining | #process reward model #PRM #ORM #outcome reward model #step-level supervision #PRM800K #Math-Shepherd #verifier #reasoning #RL #reward model

过程奖励模型（PRM）对推理的每个中间步骤打分，相比仅评估最终答案的ORM提供更密集的训练信号，但标注成本更高。