AIが自らチームを作って学び直し、性能を最大1.6倍に高める新手法

Sakana AIと米カリフォルニア大学バークレー校（UC Berkeley）の研究チームは、AIが仮想的なチームを編成して協調動作し、その経験を自身にフィードバックして性能を高める自己改善手法「MASS（Multi-Agent Self-Supervision）」を発表した。

AIが自由度の高い未解決の研究課題を扱う場合、人間の専門家による評価や指導が難しくなり、AI自身による評価が求められる場面が増える。しかし、同一のモデル内で自己評価と改善を繰り返す手法では、自身の盲点を修正できずに誤りを強めてしまう危険があった。MASSでは、1つの共有モデルが仮想的なサブエージェントのチームを構成してタスクを解決し、より優れた作業の流れを探索したうえで、モデル自身の判断で最良のチームを選定する。その最良チームの実行履歴を学習させることで、チームの集合知を元のモデルへ蒸留する。

研究チームは、27B（270億パラメータ）の公開モデルを用いて合成研究タスクで2サイクルの検証を実施した。その結果、2サイクル終了時点で、4つの研究ベンチマークにおいて出力トークンあたりのスコアがベースモデルの1.2倍から1.6倍に向上した。タスクを解くデータのみを学習させた場合でも、改善役や評価役としての能力が自然に向上したほか、単一エージェントよりも複数エージェントの履歴のほうが効率的な学習データになることなどが確認された。

一方で研究チームは、モデル自身が評価役を兼ねる同質な自己改善の仕組みについて、AIの安全性の観点から慎重な調査が必要だと指摘している。モデルが共通の盲点を持つ場合、誤りが進歩として誤認され、学習を通じて強化される危険があるため、人間を超える水準へ安全に性能を引き上げるには、こうした失敗の検知や介入手段の確保が重要になると提起した。