香月 リサ 先生
今日はハルシネーション対策を復習するわよ。
試験の頻出テーマで、配点も高い傾向があるから要注意!
深見 つむぎ
つまりAIが事実と異なることをもっともらしく生成する現象…ですよね。
実務でも深刻な課題です。
戸倉 ジャスミン
それって、AIが嘘つくってこと? 裏切りじゃん! AIさん、そんなことするの?!
雪村 ましろ
えぇ…AIさんが嘘をつくのぉ…? こわいよぉ…
香月 リサ 先生
落ち着いて、みんな。
AIに「嘘をつく意図」はないのよ。
結果として事実と異なるだけで、悪意はないの。
でも、だからこそ対策が必要なのよ。
深見 つむぎ
意図と結果を分けて理解することが、この分野の第一歩ね。
倫理的議論でも重要な視点よ。
戸倉 ジャスミン
じゃあ、AIが意図的に騙してるってこと? 人工知能さん、実は悪いやつなの?
香月 リサ 先生
ジャスミンちゃん、違うのよ。
AIに「嘘をつく意図」はまったくないの。
あくまで「統計的に自然に見える文」を生成しているだけで、結果として事実と異なることがある。
悪意ではなく、仕組みの限界と考えてね。
雪村 ましろ
なんだかAIさんも無邪気で可愛いような…でもちょっと怖いかも…複雑な気持ち〜
深見 つむぎ
意図ではなく仕組みの限界、という理解は倫理的・法的な議論でも重要ね。
責任の所在を考える土台になるわ。
戸倉 ジャスミン
AIに悪気はないのか…ちょっと安心したけど、やっぱ信じすぎたらダメじゃん。
用心が大事ってことだね!
香月 リサ 先生
信頼と懐疑のバランス。
それが付き合い方の基本よ。
雪村 ましろ
AIの回答をそのまま信じたらダメ…って、ちょっと寂しいような…
香月 リサ 先生
ましろちゃん、気持ちはわかるわ。
でも、AIは便利な「下書きを作る助手」であって、最終判断は人間がする。
これをHuman in the Loopと呼ぶの。
AIと人間がチームを組むイメージね。
戸倉 ジャスミン
助手ってことか! あたしとバドミントン部のコーチみたいな関係だね!
深見 つむぎ
…ジャスミンちゃん、例えがピタッとハマる時があるわよね。
感心するわ。
チームメイトの喩え、すごくわかりやすい。
雪村 ましろ
じゃあAIくんもわたしたちのチームメイトだねぇ!
香月 リサ 先生
「AIは敵ではなく相棒」。
その関係性で付き合っていけば、怖くないわよ。
確認クイズ
ハルシネーションの説明として最も適切なものはどれか?
- AIが意図的に嘘をつく現象
- AIが事実に基づかない情報をもっともらしく生成する現象
- AIの処理速度が低下する現象
- AIがプロンプトを理解できない現象
こたえを見る
正解: 2. AIが事実に基づかない情報をもっともらしく生成する現象
ハルシネーションは、AIが事実に基づかない内容をもっともらしく生成してしまう現象です。意図的な嘘ではなく、次トークン予測という仕組み上の限界が原因です。対策にはファクトチェック・RAG活用・Human in the Loopなど多層的なアプローチが必要です。