総復習 - ハルシネーション対策

今日はハルシネーション対策を復習するわよ。
試験の頻出テーマで、配点も高い傾向があるから要注意!

落ち着いて、みんな。
AIに「嘘をつく意図」はないのよ。
結果として事実と異なるだけで、悪意はないの。
でも、だからこそ対策が必要なのよ。

あんずさん、違うのよ。
AIに「嘘をつく意図」はまったくないの。

あくまで「統計的に自然に見える文」を生成しているだけで、結果として事実と異なることがある。
悪意ではなく、仕組みの限界と考えてね。

信頼と懐疑のバランス。
それが付き合い方の基本よ。

ももさん、気持ちはわかるわ。
でも、AIは便利な「下書きを作る助手」であって、最終判断は人間がする。

これをHuman in the Loop?
と呼ぶの。
AIと人間がチームを組むイメージね。

「AIは敵ではなく相棒」。
その関係性で付き合っていけば、怖くないわよ。