ハルシネーションとは - AIが嘘をつく?

それよ、あんずさん。
今日の主役はハルシネーション?
——日本語では幻覚?
と訳されるわ。
AIが事実と異なる内容を、あたかも本当っぽく生成してしまう現象のこと。

嘘をつこうとしている訳じゃないのがポイントなの。
LLM?
は『次に来る確率が高い単語』を選んで文を作る仕組みだから、『正しいか』ではなく『自然か』を優先してしまうのよ。

(くすっ)ゆきさんにもそういう一面があるのね。
閑話休題。
代表的な事例としては、実在しない論文の引用、架空の判例、存在しない人物のプロフィール生成などがあるわ。

そう、あの事件は世界的なニュースになったわね。
だから『AIが言ったから正しい』は通用しない——これが試験でも実務でも大原則なのよ。

特に注意したいのは、専門性の高い領域 (医療・法律・歴史など) や、最新情報が絡む領域ね。
古い知識で自信満々に答えることもあるから。

言葉が研究分野の発展とともに揺れるのは、自然なことなのよ。
用語の変遷自体も、AI 倫理の研究史として面白い視点だと思うわ。

心構えこそ最大の対策よ。
特に実務で使うなら『AI の答えを下書きと見なす』習慣が鉄則。
下書きに事実誤認がないかを人間が裏取りする、この流れを崩さないでね。