AIの実力を正しく理解するために、「できること」と「できないこと」を整理しましょう。
戸倉 ジャスミン
ねえ、生成AIってもう何でもできちゃうんじゃない?
宿題だって全部やってくれそうだし…
深見 つむぎ
ジャスミンちゃん、それは危険な誤解よ。
AIは万能ではなく、むしろ「できないこと」を知ることのほうが重要なの。
香月 リサ 先生
そうね、AI万能論は試験でも典型的な誤答の罠。
まずAIができることを整理すると、パターン認識、大量データ処理、繰り返し作業の自動化、統計的予測、自然言語処理、画像・音声生成ね。
雪村 ましろ
得意なことだけ見てると、すっごく万能っぽく見えちゃうんですけどぉ…
深見 つむぎ
次にできないこと、または苦手なことを挙げましょう。
(1)因果関係の真の理解、(2)常識判断、(3)未知の状況への対応、(4)感情の本質的理解、(5)長期的な倫理判断、(6)物理的身体経験に基づく知識。
戸倉 ジャスミン
因果関係って、「AだからB」ってちゃんとわかるってこと?
AIはパターンしか見てないから、たまたまの相関と本物の因果をごっちゃにしちゃう、みたいな?
香月 リサ 先生
その通り、ジャスミンちゃんいい理解ね。
これが相関と因果の混同という古典的問題。
「アイスクリームが売れる日は水難事故が増える」を見てAIは因果だと誤解するかもしれないけど、実際は両方とも『暑さ』が原因という第三変数問題ね。
雪村 ましろ
あぁ〜、どっちも暑さが原因なんですねぇ!
人間は気づけるけど、AIは騙されちゃうかもぉ…
深見 つむぎ
また、ハルシネーションという問題もある。
AIは学習データにない質問でも、それらしい答えを自信たっぷりに生成してしまう。
これは「知らない」と言えない設計的限界なの。
戸倉 ジャスミン
なるほど、知ったかぶりしちゃうってことか(笑)。
でもそれって怖いね、医療や法律で使ったら大事故じゃん。
香月 リサ 先生
だから医療・法律・金融などの高リスク領域では、AIの出力を鵜呑みにせず、専門家のレビューが必須とされているの。
雪村 ましろ
じゃあAIって万能じゃなくて、得意なところだけお任せして、苦手なところは人間がカバーする感じなんですねぇ?
深見 つむぎ
まさに前回の Human-AI Collaboration につながる話ね。
AIの限界を知ることが、正しい活用の第一歩。
戸倉 ジャスミン
学校の課題を丸投げしたくなる気持ち、ちょっと抑えとくね…。
香月 リサ 先生
現実的には、AIの出力を「下書き」として使い、最終チェックや責任は人間が担う、というのが健全な使い方ね。
深見 つむぎ
試験では「AIの限界を問う問題」が頻出。
特に『AIは因果関係を理解しない』『ハルシネーションを起こす』『常識判断が苦手』あたりは選択肢でよく狙われるわ。
確認クイズ
AIが苦手とする領域として最も適切なものはどれか。
- 大量の画像データの分類
- 過去の売上データからの需要予測
- 因果関係の真の理解や常識的判断
- 定型業務の自動化
こたえを見る
正解: 3. 因果関係の真の理解や常識的判断
AIは因果関係の真の理解や常識的判断が苦手です。AIは統計的な相関パターンを学習しますが、真の因果(なぜそうなるか)を理解しているわけではありません。画像分類・予測・定型業務自動化はAIの得意分野です。