即答モードのAIが賢くなる現象、元の「熟考モード」が漏れただけと判明
要点 3行
- 即答モードでAIを強化学習させると推論力が上がる現象について、元の熟考能力の漏れ出しであると判明した。
- Qwen3の各モデルで検証したところ、学習が進むにつれて内部の活性化状態が熟考モードに近づくことが確認された。
- 性能向上は新たな推論能力の獲得ではなく、モデルが元々備えていた能力が再活性化した結果だと指摘している。
学習済みのAIが実際に答えを出す処理。使うたびに計算コストがかかる。">推論モデルが即答モードで強化学習を受けた際に性能が向上する現象について、新たな推論能力を獲得したのではなく、元から備わる熟考モードの能力が漏れ出て再活性化したことによるものだとする研究が発表された。
研究チームは「Qwen3」の1.7B、4B、8Bを用い、推論ステップを省く「NO-THINKモード」において強化学習手法GRPOで検証した。精度が上がるにつれて回答は長くなり、内部の活性化状態も熟考を行う「THINKモード」へ近づいた。Qwen3-8Bの解析では、熟考に関連する低次元の活性化空間を元の値に置き換えると強化学習による性能向上の大半が失われた。さらに、更新幅を広げても熟考モード自体の精度を超えることはなかった。
強化学習の学習信号が熟考に似た回答を優遇し、元々備わっていた能力が呼び戻されていたと分析している。
この記事は arXiv cs.CLの発表を AI が日本語に要約したものです。正確な内容は原文をご確認ください。
アプリで開く