1つのAIが分身して同時に調べる新技術 250倍巨大なAI超える精度達成
- 複数の自律AIを1つのモデルで動かし、記憶を直接共有して連携させる枠組み「Octopus」が発表された。
- 分身作成時のデータ複製をなくし、メモリ消費を約2.8分の1に抑えつつ学習速度を3.3倍に高めた。
- 40億規模の小型AIが、最大250倍の巨大な検索AIを上回る調査タスク精度を記録した。
学習して、人間のように文章を理解・生成できるAI。ChatGPTやGeminiの中身。">大規模言語モデル(LLM)が自律的に複数の探索を並行して進めるマルチエージェント強化学習において、単一のモデルを用いて複数の探索枝を効率的に連携させる新手法「Octopus」を提案する論文が公開された。従来手法に比べてメモリ消費を大幅に削減しながら学習速度を高め、小型モデルでありながら最大250倍の規模を持つモデルを上回る探索精度を記録した。
従来のマルチエージェント方式では、探索を行う枝(ブランチ)ごとに計算済みの記憶(KVキャッシュ)が重複して保持され、得られた知見の共有もテキスト要約の再入力に依存していた。さらに強化学習の過程で枝同士の依存関係が欠落する課題もあった。Octopusでは、すべてのスレッドが1つのモデル基盤を共有し、GPU上に構築した有向非巡回グラフ(DAG)を介して記憶状態を直接管理・連携させる。
具体的には、記憶領域を複製せずに枝分かれを生成する仕組み、他の枝の必要な情報だけを取り込んでタスク逸脱を57.9%から2.7%へと約21倍低減する接続手法、全ブランチをまとめて効率的に強化学習を行う仕組みの3つを導入した。これにより、追加のメモリ消費を発生させずに情報の92.2%を保持できるという。
40億パラメータの「Qwen3.5-4B」を用いた実験では、調査タスクの「BrowseComp-Plus」で49.6%、「OpenResearcher」で51.2%の精度を達成した。最大250倍の規模を持つ高密度検索エージェントを上回ったほか、ピーク時のKVメモリ使用量を約2.8分の1に削減し、学習スループットを3.3倍に向上させた。
この記事は arXiv cs.LGの発表を AI が日本語に要約したものです。正確な内容は原文をご確認ください。
アプリで開く