AIの動作は大きく「学習フェーズ」と「推論フェーズ」に分かれます。この2段階の仕組みを理解しましょう。
戸倉 ジャスミン
AIって一回作ったら完成じゃん?
って思ってたんだけど、裏で何段階もあるらしいね?
香月 リサ 先生
そう、大きく2段階に分かれているの。
学習(トレーニング)と、推論(インファレンス)ね。
雪村 ましろ
がくしゅう…ふぇぇ、なんだか学校みたいな言葉ですねぇ。
深見 つむぎ
実際、受験勉強で例えられることが多いの。
学習フェーズは「教科書を読み込んで知識を蓄える時期」、推論フェーズは「試験本番で問題を解く時期」という具合ね。
戸倉 ジャスミン
おお、その例えわかりやすい!
じゃあ、あたしたちが今ChatGPTに質問投げてる瞬間って…推論フェーズってこと?
香月 リサ 先生
正解。
GPT-4 のような LLM は、事前に何ヶ月もかけて学習フェーズを終えているの。
利用者が質問を投げるたびに、その学習済みモデルを使って「推論」が走るわ。
深見 つむぎ
コストの違いも覚えてね。
学習は数千台のGPUで数週間〜数ヶ月、費用は数十〜数百億円規模。
一方、推論は1回あたりの計算は比較的軽く、低コストで大量配信できるの。
雪村 ましろ
そんなにぃ!?
学習って、そんなにお金かかるんですかぁ…!
戸倉 ジャスミン
うそっ!?
そりゃ個人じゃ手が出せないわけだ。
だから大企業しか最先端LLMを作れないって話になるんだね。
香月 リサ 先生
そう。
その非対称性ゆえに、「API経由で大企業の学習済みモデルを借りる」ビジネスモデルが主流になっているの。
OpenAI や Anthropic がそう。
深見 つむぎ
ここで重要なのが、学習データには「カットオフ日付(Knowledge cutoff)」があること。
その日以降の出来事はモデルは知らない。
雪村 ましろ
えっ、じゃあ昨日のニュースはChatGPTには答えられないんですかぁ?
香月 リサ 先生
厳密にはそう。
ただし最近はRAG(検索拡張生成)やブラウジング機能で、推論時に最新情報を外部から引いてくる仕組みも普及しているわ。
戸倉 ジャスミン
推論するときに追加情報を注入するって感じか。
柔軟じゃん!
深見 つむぎ
そう。
だから「学習 vs 推論」という2分法に、第三の概念として「検索(Retrieval)」が加わる時代とも言えるわね。
香月 リサ 先生
試験では「学習=Training」「推論=Inference」「コストの非対称性」を押さえて。
より深い話はPhase 4以降で扱うわ。
確認クイズ
AIの「推論(Inference)」フェーズの説明として最も正しいものはどれか。
- 大量のデータからパターンを学び取る段階
- 学習済みモデルを使って新しい入力に予測・判断を出す段階
- 学習データを収集・整理する前段階
- モデルの内部パラメータを初期化する段階
こたえを見る
正解: 2. 学習済みモデルを使って新しい入力に予測・判断を出す段階
推論(Inference)は学習済みモデルを使って新しい入力に対して予測・判断を出す段階です。私たちが普段ChatGPT等に質問を投げる瞬間がこれに該当します。学習(Training)とは別のフェーズです。