戸倉 ジャスミン
先生、AIが『あなたはローンが組めません』って判定したとして、『なんで?』って聞き返せないのってヤバくないですか?
香月 リサ 先生
ジャスミンちゃん、いい問題提起ね。
そこで登場するのがXAI——説明可能AIの分野よ。
今日は代表選手のSHAPとLIMEを紹介するわ。
深見 つむぎ
どちらも『このAIがなぜその答えを出したか』を人間に説明する手法ですよね。
補足すると、両者は発想が少し違います。
AIのブラックボックス問題に少しでも光を当てるためのツール、と言えます。
香月 リサ 先生
まずSHAPは、ゲーム理論のShapley値をベースにしているの。
各特徴量が予測にどれだけ貢献したかを『公平に』配分する考え方ね。
雪村 ましろ
特徴量ごとに貢献度を配る…なんだかお菓子の分け合いみたいだねぇ。
深見 つむぎ
ましろちゃんの例え、実は結構的確なんだよ。
『予測値という一つのケーキを、年収・年齢・勤続年数などの特徴量で公平に切り分ける』イメージ。
戸倉 ジャスミン
(ぽん)あ、あたしの妹が『ケーキ食べた貢献度、誰が一番!?』って揉めるのと同じだよね!
『お皿に乗った量』と『おかわり回数』で配分するやつ!
香月 リサ 先生
(くすっ)ジャスミンちゃんの妹ネタ、意外と本質を突いてるわよ。
SHAPの強みはグローバルな説明も局所な説明もできること。
深見 つむぎ
一方のLIMEは『個別の予測』に特化した手法で、対象の予測の周辺だけを単純な線形モデルで近似する発想です。
モデル非依存なので、ランダムフォレストでも深層学習でも同じ枠組みで説明できます。
戸倉 ジャスミン
SHAPは公平さ重視、LIMEは手軽さ重視って感じ?
香月 リサ 先生
いい整理ね。
厳密さで選ぶならSHAP、速さ・汎用性ならLIME、っていうのが目安ね。
深見 つむぎ
医療AIや金融AIのように『理由を説明しないといけない領域』で重宝されます。
EU AI Actでも高リスクAIには説明義務が課されていますね。
雪村 ましろ
AIが『なんとなく』で答えるんじゃなくて、ちゃんと根拠を見せてくれるって、安心できるねぇ。
ぽわわ〜。
戸倉 ジャスミン
あたしも妹に『なんでカレーばっか作るの?』って聞かれたら説明できなきゃダメだもんね。
『今日は金曜だから』『冷蔵庫に玉ねぎ余ってたから』『あたしが疲れてたから』って要素ごとに貢献度を出せば、妹も納得してくれる気がする!
香月 リサ 先生
(微笑んで)ジャスミンちゃんのその感覚、そのまま説明責任の話に繋がるのよ。
AIの判断を人間が監査できる仕組みを持つこと自体が、社会に受け入れられる条件なの。
深見 つむぎ
ちなみにSHAPは計算コストが高く、LIMEは結果が実行ごとに揺れやすいという弱点もあります。
実務では両者を併用して傾向を掴むのが一般的で、完璧な説明はないけれどそれぞれの得意を組み合わせて納得感を高める、という使い方になります。
確認クイズ
SHAPとLIMEの説明として正しい組み合わせはどれ?
- SHAPはゲーム理論のShapley値由来、LIMEは局所的線形近似
- SHAPは局所的線形近似、LIMEはShapley値由来
- SHAPもLIMEも深層学習専用で他モデルには使えない
- SHAPは画像専用、LIMEは自然言語専用
こたえを見る
正解: 1. SHAPはゲーム理論のShapley値由来、LIMEは局所的線形近似
SHAP (SHapley Additive exPlanations) はShapley値をベースに特徴量の貢献度を公平に配分する手法。LIME (Local Interpretable Model-agnostic Explanations) は対象予測の周辺を線形モデルで近似する手法で、モデル非依存が特徴です。