ROC曲線とAUC - モデルの総合力を測る

ROC曲線とAUCの基本を解説。モデルの分類性能を正しく評価しよう。

編集・検証: AIパスポートスタディ編集部 公式情報: GUGA 生成AIパスポート公式ページ 制作・検証方針

クイズからスタート。『AUCが1.0のモデルはどんなモデル?』この答えをたぐりながら、ROC曲線とAUCの意味を体感します。不均衡データでも強い評価指標を理解しましょう。

香月 リサ 先生(普段) 香月 リサ 先生

クイズよ。
『AUCが1.0のモデル』はどんな性能? 完璧・ランダム・最悪・不明の4択。

戸倉 ジャスミン(普段) 戸倉 ジャスミン

1.0って100%ってことっしょ? もう完璧じゃん!

深見 つむぎ(普段) 深見 つむぎ

正解は完璧ですね。
その理由を一緒に見ていきましょう。

香月 リサ 先生(普段) 香月 リサ 先生

まずROC曲線(Receiver Operating Characteristic Curve)はね、分類モデルの『しきい値』を動かしたときに、真陽性率(TPR=Recall)と偽陽性率(FPR)がどう変わるかを描いた曲線よ。

雪村 ましろ(あせる) 雪村 ましろ

しきい値って…?

香月 リサ 先生(普段) 香月 リサ 先生

ロジスティック回帰みたいに『確率0.5以上なら陽性』と判定する時の『0.5』のこと。
この値を0.1にしたり0.9にしたりすると、検出の敏感さが変わるの。

戸倉 ジャスミン(笑い) 戸倉 ジャスミン

しきい値を下げると陽性判定しやすくなるけど誤検出も増える、逆に上げると見逃しが増える…要はそういうことか!

深見 つむぎ(普段) 深見 つむぎ

まさに。
そのトレードオフを可視化するのがROC曲線です。
曲線が左上(TPR高・FPR低)に寄るほど良いモデルです。

香月 リサ 先生(笑顔) 香月 リサ 先生

そして曲線の下の面積がAUC(Area Under the Curve)。
最大値1、ランダム予測では0.5、逆に判定してしまうモデルは0に近づくわ。
とってもシンプルな総合スコアなのよ。

雪村 ましろ(普段) 雪村 ましろ

ROC曲線がグラフ、AUCがその下の面積、ということですね〜。

香月 リサ 先生(普段) 香月 リサ 先生

そう。
AUCは『しきい値を変えても、どれだけ良い分類ができるかの平均的な力』を1つの数字でまとめているわ。
モデル同士を単純比較したい時に便利ね。

戸倉 ジャスミン(普段) 戸倉 ジャスミン

AUCが0.5ってことは、要はコイントスと同じ? つまり何の役にも立たないモデルってこと?

深見 つむぎ(普段) 深見 つむぎ

その通りです。
AUCが0.5以下なら、逆に予測すると良くなるという皮肉な状況です。

雪村 ましろ(笑顔) 雪村 ましろ

1に近づくほど優秀ってことなんですね〜!

香月 リサ 先生(普段) 香月 リサ 先生

不均衡データの評価でもAUCは重宝されるわ。
正解率だけでは見えない性能を数値化できるの。

深見 つむぎ(普段) 深見 つむぎ

ただし注意点として、極端な不均衡データではAUCも楽観的な値を出すことがあるため、PR曲線(Precision-Recall曲線)も併用するのが実務では推奨されます。

戸倉 ジャスミン(普段) 戸倉 ジャスミン

そっか、指標も万能じゃないんだね。
複数を見比べる癖をつけないとな〜!

香月 リサ 先生(普段) 香月 リサ 先生

現実のAI評価では、ビジネス上のコスト(誤検出の損失、見逃しの損失)も加味してしきい値を調整するの。
モデルの性能指標はあくまで判断材料ね。

雪村 ましろ(普段) 雪村 ましろ

評価って、数字だけじゃなくて意味を理解することが大切なんですね〜。

戸倉 ジャスミン(普段) 戸倉 ジャスミン

仕上げクイズ、AUCは0〜1のどの値が最高?

深見 つむぎ(普段) 深見 つむぎ

1ですね。

雪村 ましろ(笑い) 雪村 ましろ

AUCが高いモデル、使ってみたいですね〜!

戸倉 ジャスミン(笑い) 戸倉 ジャスミン

実務でもAUC 0.85以上あれば合格ラインって言うらしいよ! だんだん数字の感覚つかめてきた!

香月 リサ 先生(笑顔) 香月 リサ 先生

正解。
試験では『ROC曲線のTPRとFPR』『AUCは1が最高・0.5がランダム』を押さえて。

確認クイズ

AUCの値が0.5のモデルの性能はどう評価されるか?

  1. 非常に優れた性能
  2. ランダムな推測と同程度
  3. 完全に間違った予測
  4. 過学習の状態
こたえを見る

正解: 2. ランダムな推測と同程度

AUC=0.5はROC曲線が対角線と一致し、コイントスと同程度の性能であることを意味します。1に近いほど優秀、0に近いほど逆予測気味で、実用性がないことを示します。

🔖 この記事の関連書籍

Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。