ハルシネーションの原因と種類

(ふふ)やる気ね。
じゃあ一気に行きましょう。
原因は大きく3系統あるの。
『データ起因』『生成メカニズム起因』『運用起因』——この枠組みが試験でも使える整理よ。

そう。
ここを内在的ハルシネーション?
と呼ぶこともあるわ。
一方、学習データに存在しない情報を『それっぽく』でっち上げるのが外在的ハルシネーション?
。
この2分類は押さえておきたいわね。

いい例え! まさにそんなイメージよ。

その通り。
そして運用起因は、曖昧なプロンプト、長すぎる会話で文脈が薄れる、などの使い方の問題。
ここは次の対策編で詳しくやるわね。

ちなみに2024年以降、RLHF?
(人間のフィードバックによる強化学習)でハルシネーションは以前より減ったけど、ゼロにはなっていないの。
これは技術の限界として受け入れる必要があるわ。

特に『外在的ハルシネーション』は、ユーザー側で識別しづらいのが厄介。
自信満々に語られる未知情報ほど要注意、というパラドックスね。

ももさんの言い換え、素晴らしい。
自分の言葉で覚え直すのが一番深い理解に繋がるのよ。

あんずさん、AIリスク対応の本質を突いてるわね。
『症状名→原因→処方』の流れは、医療もAIも同じ構造なのよ。