報酬モデルとは

AIが生成した回答に対して、人間にとってどれくらい好ましいかを点数化して評価するAIのこと。この採点結果をもとに別のAIを訓練することで、より自然で安全な回答ができるように導く。

たとえるなら — 生徒が書いた作文に対して、良い点や改善点を採点して成長を促す添削指導員のような存在です。