いきなりクイズから。深層学習の強力さの裏にある『影』の部分を考える回です。光だけでなく影も見られる人がAI時代に強いリテラシーを持つ人です。
確認クイズ
深層学習の判断根拠が人間には分かりにくい問題を何と呼ぶか?
- 過学習問題
- 勾配消失問題
- ブラックボックス問題
- 次元の呪い
こたえを見る
正解: 3. ブラックボックス問題
深層学習の内部処理が複雑で判断根拠が人間に説明しにくい問題を『ブラックボックス問題』と呼びます。これに対処するためXAI (説明可能なAI) の研究が進んでいます。
香月 リサ 先生
答えは『ブラックボックス問題』ね。
ふふ、深層学習には、この他にも大きな課題がいくつかあるわ。
深見 つむぎ
補足すると、医療診断で『この患者はがんです』とAIが判定しても、なぜそう判断したのか医師に説明できなければ、治療方針の決定に使いにくいんですよね。
戸倉 ジャスミン
確かに、『AIが言ったから手術します』じゃ納得できないよね……。
あたしもよく分かんないけど、それってちょっと怖くない?
香月 リサ 先生
その感覚、大切よ。
この課題に対処するためにXAI (Explainable AI) の研究が進んでいるの。
Grad-CAMなど、判断根拠を可視化する技術もあるわ。
SHAPやLIMEも有名ね。
戸倉 ジャスミン
他にはどんな課題があるの?
香月 リサ 先生
大量のデータと計算資源が必要なこと、学習データのデータバイアスを学んでしまうこと、敵対的攻撃に弱いことなども重要な課題ね。
深見 つむぎ
敵対的攻撃は、人間にはパンダにしか見えない画像をAIが『テナガザル』と誤認識するような例が有名で、セキュリティ面の大きな脆弱性ですね。
雪村 ましろ
えへへ、今日のテーマで、ましろ、帰り道に短歌を詠んじゃいましたぁ……『深き知 ゆくえを知らぬ 黒箱に 光を当てむ 人の手をもて』……どうでしょう?
深見 つむぎ
……ましろ、いつの間に短歌を?
香月 リサ 先生
まあ、ましろさん、とても素敵な歌ね。
『AIという黒箱に、人の手で光を当てよう』という、XAIの精神そのものよ。
戸倉 ジャスミン
ましろ、めっちゃ才能あんじゃん……。
あたし、ほんとにびっくりしたよ!
雪村 ましろ
お恥ずかしいですぅ……でも、技術の光と影の両方を詠みたくて。
香月 リサ 先生
ましろさんの姿勢、とても大切ね。
技術の限界を正しく理解した上で活用することが、AI時代に求められるリテラシーよ。
倫理・ガバナンスの話はPhase 7で詳しく扱うので、今日はまず『課題があると知る』ことが一歩ね。
戸倉 ジャスミン
ブラックボックス、バイアス、敵対的攻撃……試験の定番キーワードっぽいね、メモっとこ!
深見 つむぎ
深層学習モデルは『確信を持った誤答』をすることがあります。
自信満々で間違うと誰にも気づかれにくいので、運用時には必ず人間のレビューを挟む、という発想が必要です。
特に医療や司法のような人命や権利に関わる分野では、最終判断は必ず人間がするという設計が推奨されます。
香月 リサ 先生
ふふ、それがまさに『人間 × AI』の本来の姿よ。
AIを任せきりにするのではなく、互いの得意を活かす運用が大切ね。
Phase 7の倫理・ガバナンスの章で、より踏み込んだ議論をしましょう。
確認クイズ
次のうち、『説明可能なAI』を指す用語はどれか?
- AGI
- XAI
- RLHF
- HTTP
こたえを見る
正解: 2. XAI
XAI (Explainable AI) は、AIの判断根拠を人間が理解できる形で示す技術分野です。Grad-CAMやSHAP、LIMEなどの可視化手法が代表例です。AGIは汎用AI、RLHFは人間フィードバックによる強化学習。