クイズからスタート。『AUCが1.0のモデルはどんなモデル?』この答えをたぐりながら、ROC曲線とAUCの意味を体感します。不均衡データでも強い評価指標を理解しましょう。
クイズよ。
『AUCが1.0のモデル』はどんな性能? 完璧・ランダム・最悪・不明の4択。
1.0って100%ってことっしょ? もう完璧じゃん!
正解は完璧ですね。
その理由を一緒に見ていきましょう。
まずROC曲線(Receiver Operating Characteristic Curve)はね、分類モデルの『しきい値』を動かしたときに、真陽性率(TPR=Recall)と偽陽性率(FPR)がどう変わるかを描いた曲線よ。
しきい値って…?
ロジスティック回帰みたいに『確率0.5以上なら陽性』と判定する時の『0.5』のこと。
この値を0.1にしたり0.9にしたりすると、検出の敏感さが変わるの。
しきい値を下げると陽性判定しやすくなるけど誤検出も増える、逆に上げると見逃しが増える…要はそういうことか!
まさに。
そのトレードオフを可視化するのがROC曲線です。
曲線が左上(TPR高・FPR低)に寄るほど良いモデルです。
そして曲線の下の面積がAUC(Area Under the Curve)。
最大値1、ランダム予測では0.5、逆に判定してしまうモデルは0に近づくわ。
とってもシンプルな総合スコアなのよ。
ROC曲線がグラフ、AUCがその下の面積、ということですね〜。
そう。
AUCは『しきい値を変えても、どれだけ良い分類ができるかの平均的な力』を1つの数字でまとめているわ。
モデル同士を単純比較したい時に便利ね。
AUCが0.5ってことは、要はコイントスと同じ? つまり何の役にも立たないモデルってこと?
その通りです。
AUCが0.5以下なら、逆に予測すると良くなるという皮肉な状況です。
1に近づくほど優秀ってことなんですね〜!
不均衡データの評価でもAUCは重宝されるわ。
正解率だけでは見えない性能を数値化できるの。
ただし注意点として、極端な不均衡データではAUCも楽観的な値を出すことがあるため、PR曲線(Precision-Recall曲線)も併用するのが実務では推奨されます。
そっか、指標も万能じゃないんだね。
複数を見比べる癖をつけないとな〜!
現実のAI評価では、ビジネス上のコスト(誤検出の損失、見逃しの損失)も加味してしきい値を調整するの。
モデルの性能指標はあくまで判断材料ね。
評価って、数字だけじゃなくて意味を理解することが大切なんですね〜。
仕上げクイズ、AUCは0〜1のどの値が最高?
1ですね。
AUCが高いモデル、使ってみたいですね〜!
実務でもAUC 0.85以上あれば合格ラインって言うらしいよ! だんだん数字の感覚つかめてきた!
正解。
試験では『ROC曲線のTPRとFPR』『AUCは1が最高・0.5がランダム』を押さえて。
確認クイズ
AUCの値が0.5のモデルの性能はどう評価されるか?
- 非常に優れた性能
- ランダムな推測と同程度
- 完全に間違った予測
- 過学習の状態
こたえを見る
正解: 2. ランダムな推測と同程度
AUC=0.5はROC曲線が対角線と一致し、コイントスと同程度の性能であることを意味します。1に近いほど優秀、0に近いほど逆予測気味で、実用性がないことを示します。