雪村 ましろ
ましろね、前にお祖母ちゃんの和菓子屋さんで新作の練り切りを作るとき、昔のレシピから少しずつ試作品を重ねて今の形になったって聞いたのぉ。
香月 リサ 先生
ましろちゃん、いい話ね。
実は AI の世界にも同じような「世代交代」の物語があるのよ。
今日はGPTシリーズの進化を辿ってみましょう。
Generative Pre-trained Transformerの略で、「事前学習済みの生成型 Transformer」という意味ね。
戸倉 ジャスミン
GPTって毎年バージョン上がるよね。
歴代の違いって何がポイントなの?
深見 つむぎ
初代 GPT-1 は2018年に登場して、パラメータ数は約1.2億でしたよね。
当時はそれでも「大規模」と言われていました。
補足すると、2019年の GPT-2 は15億パラメータで、「あまりに生成が自然すぎて危険」と当初は一部公開が見送られた話題もありました。
香月 リサ 先生
そしてGPT-3(2020年、1750億パラメータ)で世界を一変させたの。
1.2億→15億→1,750億と、毎回10倍以上のスケールアップね。
戸倉 ジャスミン
1,750億って桁違いじゃん!
めっちゃすごっ!
香月 リサ 先生
2022年末にGPT-3.5をベースにしたChatGPTが公開されて、2ヶ月で1億ユーザーに到達。
「生成AIブーム」の火付け役になったわ。
そして2023年3月にGPT-4——マルチモーダル対応で画像入力もできるように。
2024年のGPT-4o(オムニ)はテキスト・画像・音声を統合処理するオムニモデルに進化したの。
深見 つむぎ
数字の拡大だけじゃなくて、扱える「情報の種類」が増えているのがポイントですね。
そして最近は GPT-4o-mini や o1 シリーズなど、推論特化・軽量化・コスト最適化など方向性が多様化しています。
単純なスケールアップ一辺倒から転換期に来ている、という見方もありますね。
雪村 ましろ
ぽわわ〜、毎年毎年すごくなるんだねぇ。
お菓子作りも「大きければ美味しい」じゃないもんね。
用途ごとに大きさを変えるのぉ。
香月 リサ 先生
ましろちゃん、今日のたとえ最高よ。
「大きければ賢い」の時代から、「用途に応じてサイズと推論方式を選ぶ」時代に入っているの。
ふふ。
戸倉 ジャスミン
つまりGPTは、単語予測AI→対話できるAI→何でも見えるAIって進化してきたってこと？
時代を追って覚えると整理しやすそう！
深見 つむぎ
覚え方としては、年号と特徴を対応づける表を作ると良さそうですね。
2018/2019/2020/2022/2023/2024——と順に並べて。
各世代のパラメータ数の桁も押さえておくと、スケーリング則の話にもつながりますよ。
香月 リサ 先生
試験では「GPT=Generative Pre-trained Transformerの略」「世代ごとのパラメータ数の桁」「GPT-4o=オムニ(テキスト・画像・音声)」の3点を確実に押さえておいてね。
確認クイズ
GPT の正式名称として正しいものはどれか。
- General Purpose Technology
- Generative Pre-trained Transformer
- Global Processing Tool
- Graph Pattern Traversal
こたえを見る
正解: 2. Generative Pre-trained Transformer
GPT は Generative Pre-trained Transformer(事前学習済みの生成型Transformer)の略です。General Purpose Technology は経済用語、他2つはそもそも存在しない呼称です。