文章に変換せずAI同士が直接伝達、後半に1回送るだけで正答率87.8%に向上
要点 3行
- 拡散言語モデル同士がテキスト化を経ず、内部状態を4つの数値列に圧縮して直接受け渡す手法が検証された。
- 知識を分担した実験では正しい伝達で正答率80.8%となり、別の情報を送ると46.8%に低下した。
- やり取りを4回繰り返すよりも、後半に1回送る方が87.8%に達し、情報を伝える時期の重要性が示された。
AI同士が文章へ変換することなく、生成途中の内部状態を直接やり取りして協力できることを示す研究結果がarXivで発表された。従来の複数AI連携では内部状態を破棄してテキスト経由で通信していたが、新手法では送信側のノイズ除去状態を4つの符号付き密ベクトルに圧縮して受信側へ伝達する。
検証では、送信内容を無関係なものに差し替えるとTiny-A2Dで63.6ポイント、Dream-7Bで100.0ポイントの優位性が失われた。根拠を分担したQASC課題でも、正しい通信で80.8%の正答率を達成した一方、無関係な情報では46.8%へ低下し、内容が反映されていることが確認された。
さらに、やり取りを4回繰り返す構成よりも、プロセスの後半に1回だけ伝える構成が87.8%に達し、正答率が7.0ポイント高くなった。情報交換の回数よりも渡す時期が重要であることを示唆している。
この記事は arXiv cs.AIの発表を AI が日本語に要約したものです。正確な内容は原文をご確認ください。
アプリで開く