第10回 ファインチューニング
AIを自社向けに調整する

AIを自社向けに調整する

ChatGPTのような生成AIは、何でもそつなくこなす反面、会社ごとの決まりごとまでは知りません。報告書はこの書式で、お客様への返信はこの口調で、問い合わせの分類はこの基準で。こうした自社ならではの「型」をAIに身につけさせる方法のひとつが、学習済みのAIに自社データなどを追加で学ばせて、特定の用途に合わせて調整すること。">ファインチューニングです。

ファインチューニングは、すでに学習を終えたモデルに、目的に合った例を追加で学習させ、モデルそのものを調整する技術です。日本語では追加学習とも呼ばれます。

2段階で作られるAI

LLM(大規模言語モデル)は、まずウェブや本などの膨大な文章で、言葉の使い方や幅広い知識を身につけます。これを事前学習と呼び、できあがったモデルは、さまざまな用途の土台になることから基盤モデルとも呼ばれます。

ファインチューニングでは、この基盤モデルに「質問と理想の答え」の組のような例を、事前学習とは比べものにならないほど少ない量だけ見せて学習させます。すると、モデルの中の数値(第13回で扱うパラメータ)が書き換わり、例と同じような答え方をするようになります。

実は、私たちがふだん使うチャットAIも、事前学習を終えたモデルを、質問と良い答えの例でファインチューニングして、会話が上手になるように作られています。

得意なことと、苦手なこと

ファインチューニングが特に向いているのは、決まった書式や口調、分類の基準など、答え方の「型」をそろえたいときです。同じ作業を大量にこなす仕事では、毎回長い指示を書かなくても、狙った形の答えが安定して返るようになります。たとえば、お客様との応対記録を決まった項目の報告書にまとめる、問い合わせを社内の基準どおりに振り分ける、といった仕事です。

反対に、毎日変わる最新の情報や、頻繁に更新される社内の知識を覚えさせるのは苦手です。内容が変わるたびに学習をやり直す必要があり、しかも覚えさせた知識を正確に引き出せるとは限りません。知識を正しく答えさせたいなら、資料を探して渡すRAG(第9回)の方が向いています。

どう使い分けるか

AIを自社向けにする方法は、大きく3つあります。プロンプトの工夫(第7回)、RAG、そしてファインチューニングです。手軽な順に試すのが基本で、まずプロンプトを工夫し、知識が足りなければRAGを組み合わせ、それでも答え方の型がそろわないときにファインチューニングを検討します。

プロンプトの中で答え方の例をいくつか見せるだけでも、答えの形はかなりそろいます。このやり方はフューショット学習と呼ばれ、ファインチューニングの手前で試せる手軽な方法です。

ファインチューニングには、例となるデータを集めて整える手間と、学習の費用がかかります。最近は、モデル全体を作り直すのではなく、小さな追加部品だけを学習させるLoRAのような方法が広まり、以前より手軽になりました。それでも、3つの中でいちばん準備の手間が重い方法であることに変わりはありません。

たとえるなら

料理の基礎を身につけた料理人が、あるお店に入って、看板料理の味つけや盛り付けを何度も作りながら覚えていくようなものです。注文のたびにメモで伝えるのがプロンプト、レシピ帳を手元に置くのがRAGだとすれば、ファインチューニングは、店の味そのものを体に覚え込ませる修業にあたります。

ニュースを読むコツ

「〇〇業界に特化したAIモデル」「自社データでファインチューニング」というニュースを見たら、どんな例で学習させたのか、元の基盤モデルと比べて何がどれだけ良くなったのかに注目してみてください。比べる相手や測り方が書かれていない発表は、効果を割り引いて読むのが安全です。