戸倉 ジャスミン
先生、RAG で外部知識が使えるなら、ファインチューニングって要らなくない?
香月 リサ 先生
ジャスミンちゃん、鋭い疑問ね!
実は現場でも混同されがちなところ。
今日は両者の違いをはっきりさせましょう。
深見 つむぎ
そうなんですか?
RAG とファインチューニングの使い分け、私も気になっていました。
香月 リサ 先生
まずファインチューニングは、事前学習済みモデルを自社データで追加学習することね。
たとえば医療分野の LLM を作りたい場合、医学論文や臨床ガイドラインのデータで追加学習すると、医療用語や推論に強いモデルになるの。
深見 つむぎ
補足: ファインチューニングには主に3種類あります。
①教師ありファインチューニング(SFT)=指示と回答のペアで学習、②継続事前学習=大量の専門コーパスで追加事前学習、③DPO/RLHF=選好データで調整。
用途で使い分けます。
戸倉 ジャスミン
で、RAG と FT の使い分けって具体的には?
香月 リサ 先生
いい質問。
整理するとこうよ。
RAG は「検索して参照する」から、最新情報や頻繁に更新されるデータに強い。
ファインチューニングは「モデル自体の振る舞いを変える」から、特定の口調・スタイル・専門知識の定着に向いているの。
雪村 ましろ
RAG は参考書を見ながら答える、ファインチューニングは知識をしっかり覚え込むイメージ?
香月 リサ 先生
ぴったり!
しかも両者は排他ではないの。
「FT したモデルで RAG を使う」という併用パターンが、実務では一番強力なことが多いわ。
戸倉 ジャスミン
うそっ!?
併用できるの!
具体例でいうと、会社のチャットボットで社員対応するなら、どっち?
深見 つむぎ
基本は RAG で社内ナレッジを動的参照、プラス FT で「会社らしい丁寧な応答口調」を定着、という併用パターンが強力です。
知識は変わりやすく、口調は不変、という分類ですね。
香月 リサ 先生
つむぎさんの分類、実務的ね。
ファインチューニングの注意点として、①学習データの量と質が重要(数百〜数千の高品質例が目安)、②過学習のリスク、③元モデルの汎用性が失われる壊滅的忘却(Catastrophic Forgetting)のリスクもあるの。
戸倉 ジャスミン
壊滅的忘却って響きヤバっ…AI も記憶喪失するんだ。
医療に特化させすぎて日常会話が下手になる、みたいな?
香月 リサ 先生
そう、そのイメージで正解よ。
だからバランスが難しいの。
最近はフルファインチューニングではなく、次回扱う LoRA などパラメータ効率型FTが主流になっているわ。
コストも壊滅的忘却も軽減できるため、個人・中小企業でも実行可能になったの。
雪村 ましろ
AI のカスタマイズ、用途ごとにレシピが違うんだね。
ぽわわ〜、AI もお店のオーダーメイドみたいで楽しい。
和菓子屋さんのオリジナル練り切りと、既製品を組み合わせた詰め合わせ、って感じ?
香月 リサ 先生
試験では「FT=モデル自体を調整」「RAG=外部知識参照」の違い、そして併用可能な点を押さえて。
両者は対立ではなく補完関係よ。
次回は LoRA で「軽いカスタマイズ」を扱うわ。
実務では OpenAI の API でファインチューニングできるのは GPT-3.5/GPT-4o-mini、オープンソースの LLaMA/Mistral は完全自由にチューニング可能——という違いもあるので、目的とコストで使い分けるのが現場ノウハウね。
確認クイズ
ファインチューニングが RAG より適しているケースはどれか。
- 最新のニュース記事を参照したい
- モデルの口調や専門知識を変えたい
- 大量の社内文書を検索したい
- リアルタイムデータを取得したい
こたえを見る
正解: 2. モデルの口調や専門知識を変えたい
ファインチューニングはモデル自体の振る舞い(口調・スタイル・専門知識)を変えるのに適しています。最新情報・文書検索・リアルタイムデータはいずれも RAG が向いている用途です。