AIが「いま考えるべきか」を自ら判断、性能を落とさず計算量を削る新手法

学習して、人間のように文章を理解・生成できるAI。ChatGPTやGeminiの中身。">大規模言語モデルを用いたAIエージェントにおいて、行動のたびに思考を挟む必要性を自律的に判断し、計算コストを抑える学習手法「RACE」を提案する論文が発表された。

従来のAIエージェントは一連の作業で行動を起こすごとに推論を行うのが一般的だが、以前の推論が後続の行動を支え続けられる場合、毎ターンの推論は必須ではない。一方で、高コストな生成検証を使わずに推論が必要かどうかを見極めることが課題だった。研究チームは、推論を取り除いた際の後続行動の尤度低下が行動の再現性と強く連動することを発見した。これをもとに、影響の小さい思考ターンを特定する手順を構築し、教師ありファインチューニングや強化学習に組み込んだ。

代表的な4つのエージェントベンチマークで実験を行ったところ、タスクの処理性能を維持または向上させながら、推論にかかるコストを大幅に削減できることを確認したという。