ROC曲線とAUC - モデルの総合力を測る

ROC曲線とAUCの基本を解説。モデルの分類性能を正しく評価しよう。

クイズからスタート。『AUCが1.0のモデルはどんなモデル?』この答えをたぐりながら、ROC曲線とAUCの意味を体感します。不均衡データでも強い評価指標を理解しましょう。

若葉 みどり 先生(普段) 若葉 みどり 先生

クイズよ。
『AUCが1.0のモデル』はどんな性能? 完璧・ランダム・最悪・不明の4択。

胡桃 あんず(普段) 胡桃 あんず

1.0って100%ってことっしょ? もう完璧じゃん!

白銀 ゆき(普段) 白銀 ゆき

正解は完璧ですね。
その理由を一緒に見ていきましょう。

若葉 みどり 先生(普段) 若葉 みどり 先生

まずROC曲線(Receiver Operating Characteristic Curve)はね、分類モデルの『しきい値』を動かしたときに、真陽性率(TPR=Recall)と偽陽性率(FPR)がどう変わるかを描いた曲線よ。

桜井 もも(あせる) 桜井 もも

しきい値って…?

若葉 みどり 先生(普段) 若葉 みどり 先生

ロジスティック回帰みたいに『確率0.5以上なら陽性』と判定する時の『0.5』のこと。
この値を0.1にしたり0.9にしたりすると、検出の敏感さが変わるの。

胡桃 あんず(笑い) 胡桃 あんず

しきい値を下げると陽性判定しやすくなるけど誤検出も増える、逆に上げると見逃しが増える…要はそういうことか!

白銀 ゆき(普段) 白銀 ゆき

まさに。
そのトレードオフを可視化するのがROC曲線です。
曲線が左上(TPR高・FPR低)に寄るほど良いモデルです。

若葉 みどり 先生(笑顔) 若葉 みどり 先生

そして曲線の下の面積がAUC(Area Under the Curve)。
最大値1、ランダム予測では0.5、逆に判定してしまうモデルは0に近づくわ。
とってもシンプルな総合スコアなのよ。

桜井 もも(普段) 桜井 もも

ROC曲線がグラフ、AUCがその下の面積、ということですね〜。

若葉 みどり 先生(普段) 若葉 みどり 先生

そう。
AUCは『しきい値を変えても、どれだけ良い分類ができるかの平均的な力』を1つの数字でまとめているわ。
モデル同士を単純比較したい時に便利ね。

胡桃 あんず(普段) 胡桃 あんず

AUCが0.5ってことは、要はコイントスと同じ? つまり何の役にも立たないモデルってこと?

白銀 ゆき(普段) 白銀 ゆき

その通りです。
AUCが0.5以下なら、逆に予測すると良くなるという皮肉な状況です。

桜井 もも(笑顔) 桜井 もも

1に近づくほど優秀ってことなんですね〜!

若葉 みどり 先生(普段) 若葉 みどり 先生

不均衡データの評価でもAUCは重宝されるわ。
正解率だけでは見えない性能を数値化できるの。

白銀 ゆき(普段) 白銀 ゆき

ただし注意点として、極端な不均衡データではAUCも楽観的な値を出すことがあるため、PR曲線(Precision-Recall曲線)も併用するのが実務では推奨されます。

胡桃 あんず(普段) 胡桃 あんず

そっか、指標も万能じゃないんだね。
複数を見比べる癖をつけないとな〜!

若葉 みどり 先生(普段) 若葉 みどり 先生

現実のAI評価では、ビジネス上のコスト(誤検出の損失、見逃しの損失)も加味してしきい値を調整するの。
モデルの性能指標はあくまで判断材料ね。

桜井 もも(普段) 桜井 もも

評価って、数字だけじゃなくて意味を理解することが大切なんですね〜。

胡桃 あんず(普段) 胡桃 あんず

仕上げクイズ、AUCは0〜1のどの値が最高?

白銀 ゆき(普段) 白銀 ゆき

1ですね。

桜井 もも(笑い) 桜井 もも

AUCが高いモデル、使ってみたいですね〜!

胡桃 あんず(笑い) 胡桃 あんず

実務でもAUC 0.85以上あれば合格ラインって言うらしいよ! だんだん数字の感覚つかめてきた!

若葉 みどり 先生(笑顔) 若葉 みどり 先生

正解。
試験では『ROC曲線のTPRとFPR』『AUCは1が最高・0.5がランダム』を押さえて。

確認クイズ

AUCの値が0.5のモデルの性能はどう評価されるか?

  1. 非常に優れた性能
  2. ランダムな推測と同程度
  3. 完全に間違った予測
  4. 過学習の状態
こたえを見る

正解: 2. ランダムな推測と同程度

AUC=0.5はROC曲線が対角線と一致し、コイントスと同程度の性能であることを意味します。1に近いほど優秀、0に近いほど逆予測気味で、実用性がないことを示します。

この記事の関連書籍

Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。

この記事について

AIパスポートスタディが作成した教材です。運営について・記事の作り方

試験についてはこちらをご覧ください: GUGA 生成AIパスポート公式ページ

この記事を共有