香月 リサ 先生
Temperatureは、AIの回答のランダム性(揺らぎの大きさ)を制御するパラメータよ。
0に近いほど確定的(正確)、1に近いほどランダム(創造的)になるの。
雪村 ましろ
温度?
AIにも温度があるんですかぁ…?
香月 リサ 先生
物理的な温度ではなく、統計力学や情報理論の用語から来ているの。
わかりやすく言うと、Temperature 0=『一番確率の高い答えを毎回選ぶ』、Temperature 1=『いろんな答えを自由に選ぶ』ということね。
戸倉 ジャスミン
じゃあ、正確さが欲しいときは低め、面白い回答が欲しいときは高めにすればいいんだ!
香月 リサ 先生
そうよ、ジャスミンちゃん。
事実を調べるとき→低いTemperature、アイデア出し→高いTemperatureが基本。
数値でいうと、正確性重視なら0〜0.3、バランス型なら0.5〜0.7、創造性重視なら0.8〜1.0が目安ね。
深見 つむぎ
用途に応じて使い分けることが重要なんですね。
補足すると、『翻訳』『要約』『コード生成』などは0.2〜0.5、『創作』『ブレスト』は0.8〜1.0が定番ですよね。
香月 リサ 先生
完璧な整理ね、つむぎさん。
戸倉 ジャスミン
ちょっと待って、0にしたら毎回同じ答えが返ってくるの?
香月 リサ 先生
理屈上はそう。
ただし実装によっては完全な決定論にはならないこともあるの。
同じ入力・同じ時刻でも、内部の浮動小数点計算の違いでわずかに違う結果になることがあるわ。
雪村 ましろ
うぅ〜ん…AIの中も複雑なんですねぇ…
深見 つむぎ
Temperatureに加えて、Top-pやTop-kというパラメータもありますよね。
香月 リサ 先生
よく調べているわね。
これらは全部『出力の多様性』を制御するパラメータだけど、
試験ではTemperatureが主役。
まずこれを押さえておけば十分よ。
戸倉 ジャスミン
よっしゃ!
レポート書くときは0.3、遊ぶときは1.0で試してみるね!
香月 リサ 先生
いい学習姿勢ね、ジャスミンちゃん。
実際に手を動かすのが一番よ。
雪村 ましろ
Temperatureを変えると、同じ質問でもバラエティが変わるんですねぇ…
香月 リサ 先生
そう。
小説の続きを書かせるようなときにはTemperature高めがおもしろいけど、
医療相談や法律相談では必ず低めにすべきなの。
ハルシネーションの確率も下がるから。
深見 つむぎ
補足ですが、ChatGPTのWeb版ではTemperatureはユーザーが直接いじれませんが、APIを使うと調整できますよね。
香月 リサ 先生
完璧な指摘よ。
Web版は汎用的な値(通常0.7前後)で固定されていて、
API経由なら0〜2の範囲で細かく調整できるの。
開発者は用途別に最適な値を探るのが仕事よ。
戸倉 ジャスミン
へぇ〜、プロの開発者って数値まで調整するんだ!
雪村 ましろ
ましろ、和菓子のポエム作ってもらうときは高めがいいんですねぇ〜!
香月 リサ 先生
ふふ、そうね。
創造的なテーマでは0.9くらいに上げると、
ひとひねりある表現や意外な言葉の組み合わせが生まれることがあるわ。
確認クイズ
正確な事実に基づく回答が必要な場合、Temperatureの設定として適切なのはどれか?
- Temperature 1.0
- Temperature 0.7
- Temperature 0.2
- Temperature 2.0
こたえを見る
正解: 3. Temperature 0.2
正確性重視の場合は低いTemperature(0〜0.3)を設定し、最も確率の高い回答を選ばせます。1.0や0.7は創造的タスク向き、2.0は極端に不安定になるためほぼ使われません。