AIが立ち止まって考え直す合図は自力で編み出したのではなくデータの模倣と判明

思考型AIが学習済みのAIが実際に答えを出す処理。使うたびに計算コストがかかる。">推論を見直す際に挟む特定の合図は、強化学習を通じて自律的に獲得されたものではなく、訓練データから引き継がれたものであるとする研究結果が公開された。

推論モデルが思考過程を再考する際、「wait」などの言葉を出力する挙動は、強化学習がモデルに発見させた能力とみなされることが多かった。しかし研究チームがオープンモデルの学習履歴を追跡したところ、元のモデルに該当する単語が含まれていない場合、強化学習によって数学ベンチマーク「MATH-500」の精度が大きく向上しても、その言葉はほぼ出現しないことが確認された。

分析によると、この合図は「OLMo-3」の事前学習の途中で混入したり、推論手順を教え込む微調整データによって多くのモデルに導入されたりしていた。研究チームは、特定の単語の出現頻度だけで推論能力を判断することはできないと指摘した。また、AIモデルを用いた自動評価手法が人間の評価傾向と逆の結果を示す事例があるとして注意を促している。