数学で習った一次関数、実はれっきとした回帰モデル。クイズから入って『線形回帰』の中身を再発見します。一次関数がAIの世界ではどう解釈されるのか、楽しんでください。
ではクイズよ。
『y = 2x + 3』という式、中学で習ったわよね。
この式で機械学習ができると思う?
いやいや、あれって中学数学でしょ?
AIの話とは違うんじゃない?
つまり、結論から言うとできる、ということですよね? 線形回帰は一次関数でデータを表現する、最もシンプルな回帰モデルです。
あらあら、つむぎさん先回り。
そうなのよ、線形回帰は y = ax + b で表される直線でデータを近似する。
aが傾き、bが切片ね。
えへへ、中学数学がそのまま出てくるなんて不思議〜。
AIの世界では、aは重み、bはバイアスと呼ぶわ。
学習とは、手元のデータとのズレが最小になるaとbを見つけることなの。
広告費をx、売上をyにしたら、『広告1万円で売上+2万円、元々3万円は売れる』みたいなモデルになるってこと? めっちゃ実用的じゃん!
まさにそのイメージです。
気温と売上、勉強時間と点数など、ビジネスや教育の現場でも広く使われます。
入力が複数ある場合は重回帰と呼ぶわ。
たとえば y = a1*x1 + a2*x2 + … + b のように、広告費・季節・気温など複数の要因をまとめて式にする。
たくさんの要因を1つの数式で表すんですね〜。
ただし線形回帰は『直線関係』前提なので、曲線的な関係(例: 気温と電気代)をうまく捉えきれない弱点もあります。
その場合は多項式回帰や非線形モデルが必要になります。
パラメータの求め方の代表が『最小二乗法』よ。
データ点と直線の縦方向の距離の2乗和が最小になるようにaとbを決める、数学的にとても美しい手法なの。
最小二乗法って、昔どこかで聞いたことある!
あれが機械学習の入口だったんだ!
そうですね。
統計学の古典から機械学習の基礎まで連続していることがわかりますね。
もうひとつの強みは、結果の解釈のしやすさ。
係数を見れば『xが1増えるとyはa増える』と素直に説明できる。
シンプル・イズ・ベスト、ってやつだね!
複雑な深層学習とはまた違う良さがあるんだ〜。
直線でも分析できるなんて、意外とパワフルです〜。
実際、ビジネスの意思決定では解釈しやすい線形回帰が今でも主役です。
特徴量をうまく選べば深層学習と近い性能が出ることもあるくらいです。
仕上げクイズ。 y = 3x + 5 の式で、xが2のときyはいくつ?
11ですね。
3×2+5=11。
中学数学で解ける問題がAIに繋がってるって、なんだか嬉しいです〜!
あたしも、中学時代の数学がまさか伏線になってたなんて思わなかったよ!
復習する気になるね!
線形回帰は統計学の古典でありながら、特徴量を工夫すれば最新の機械学習モデルに匹敵する性能を出すこともあります。
基礎の強みですね。
正解。
試験では『線形回帰=直線で近似』『重みと切片(バイアス)を学習』『複数入力は重回帰』を押さえましょう。
確認クイズ
線形回帰で求めるパラメータはどれか?
- クラスタ数と重心
- 傾き(重み)と切片(バイアス)
- 木の深さと分岐条件
- 近傍数kと距離関数
こたえを見る
正解: 2. 傾き(重み)と切片(バイアス)
線形回帰では直線 y = ax + b の傾きa(重み)と切片b(バイアス)をデータから求めます。クラスタ数はk-means、木の深さは決定木、近傍数はk-NNのパラメータで、それぞれ別手法です。