第18回 推論モデル
「考えてから答える」AI

「考えてから答える」AIの登場

第5回で見たように、学習して、人間のように文章を理解・生成できるAI。ChatGPTやGeminiの中身。">LLMは次にくる言葉を一つずつ予測して文章を作ります。ふつうのモデルは、質問を受けるとすぐに答えの文章を書き始めます。

これに対して推論モデルは、答えを書く前に「考える」時間をとります。問題をいくつかに分け、順番に解き、途中で「この計算は合っているか」と見直す。こうした考えの過程を、まず文章として書き出してから、最後に答えをまとめるのです。

なお、ここでいう「推論」は「筋道を立てて考える」という意味です。第14回で扱った、モデルを使う工程としての「推論」とは別の言葉なので注意してください。

どうやって考えているのか

もともと、AIに「一歩ずつ考えて」と指示すると、難しい問題の正答率が上がることが知られていました。途中の考えを書き出すこのやり方は、思考の連鎖(Chain-of-Thought)と呼ばれます。

推論モデルは、この考え方をモデルそのものに組み込んだものです。強化学習などを使って、答えにたどり着くまでの考え方そのものを鍛えています。その結果、数学やプログラミング、論理パズルのように、筋道を積み上げる必要がある問題で特に力を発揮します。

考えるほど、時間とお金がかかる

推論モデルの考える過程は、それ自体が大量の文章の生成です。つまり、考える量を増やすことは、使う段階(推論の工程)での計算を増やすことでもあります。考える時間を長くするほど難しい問題に強くなりやすい、という性質は推論時スケーリングと呼ばれ、モデルを大きくする(第13回)のとは別の、性能を伸ばす道として注目されています。

その代わり、答えが出るまでの待ち時間は延び、費用も増えます。多くのサービスでは、考えるのに使った分も料金に含まれます。そのため、考える量を利用者が調整できるようにしているサービスもあります。質問の難しさに応じて、考える量を自動で変えたり、ふつうのモデルと推論モデルを切り替えたりするサービスも増えてきました。

考える過程をどこまで見せるかも、サービスによって違います。すべてを表示するもの、要約だけを表示するもの、表示しないものがあります。

たとえるなら

ふつうのモデルはクイズ番組の早押しで答える人、推論モデルは計算用紙を何枚も使ってから答えを書く人です。簡単な問題なら早押しで十分ですし、そのほうが速い。でも難しい文章題なら、途中の式を書きながら解く人のほうが正解にたどり着きやすいのです。

向いている仕事、向いていない仕事

推論モデルが向いているのは、複雑な計算、プログラムの不具合の原因探し、条件の多い計画づくりなど、何段階も考えを積み上げる仕事です。たくさんの条件を一つずつ照らし合わせて矛盾がないかを確かめる作業にも力を発揮します。

一方、簡単な質問への素早い返事や気軽な雑談は、推論モデルの出番ではありません。考える時間が、待ち時間と費用を増やすだけになりがちです。

また、推論モデルでも間違いはゼロにはなりません(第8回)。画面に表示される「考えの過程」についても、実際の計算の中身をそのまま表しているとは限らない、という研究があります。

ニュースを読むコツ

「推論モデルを発表」「思考モードを搭載」というニュースでは、どんな問題で強くなったのかと、そのぶん時間や費用がどれだけ増えるのかをセットで見てください。ベンチマーク(第17回)の点数を比べるときも、考える時間をどれだけ与えた結果なのかで点数が変わるので、条件をそろえて読むことが大切です。

推論モデルの登場で、「モデルを大きくする」だけでなく「使うときにしっかり考えさせる」ことでも性能を伸ばせるようになりました。新しいモデルの発表を読むときは、その性能がどちらの工夫から来ているのかに目を向けると、技術の大きな流れが見えてきます。