線形回帰 - 直線でデータを表す
線形回帰の基本を解説。一次関数でデータの傾向をとらえる仕組みを学ぼう。
数学で習った一次関数、実はれっきとした回帰モデル。クイズから入って『線形回帰』の中身を再発見します。一次関数がAIの世界ではどう解釈されるのか、楽しんでください。
若葉 みどり 先生
ではクイズよ。
『y = 2x + 3』という式、中学で習ったわよね。
この式で機械学習ができると思う?
胡桃 あんず
いやいや、あれって中学数学でしょ?
AIの話とは違うんじゃない?
白銀 ゆき
つまり、結論から言うとできる、ということですよね? 線形回帰は一次関数でデータを表現する、最もシンプルな回帰モデルです。
若葉 みどり 先生
あらあら、ゆきさん先回り。
そうなのよ、線形回帰は y = ax + b で表される直線でデータを近似する。
aが傾き、bが切片ね。
桜井 もも
えへへ、中学数学がそのまま出てくるなんて不思議〜。
若葉 みどり 先生
AIの世界では、aは重み、bはバイアスと呼ぶわ。
学習とは、手元のデータとのズレが最小になるaとbを見つけることなの。
胡桃 あんず
広告費をx、売上をyにしたら、『広告1万円で売上+2万円、元々3万円は売れる』みたいなモデルになるってこと? めっちゃ実用的じゃん!
白銀 ゆき
まさにそのイメージです。
気温と売上、勉強時間と点数など、ビジネスや教育の現場でも広く使われます。
若葉 みどり 先生
入力が複数ある場合は重回帰と呼ぶわ。
たとえば y = a1*x1 + a2*x2 + … + b のように、広告費・季節・気温など複数の要因をまとめて式にする。
桜井 もも
たくさんの要因を1つの数式で表すんですね〜。
白銀 ゆき
ただし線形回帰は『直線関係』前提なので、曲線的な関係(例: 気温と電気代)をうまく捉えきれない弱点もあります。
その場合は多項式回帰や非線形モデルが必要になります。
若葉 みどり 先生
パラメータの求め方の代表が『最小二乗法』よ。
データ点と直線の縦方向の距離の2乗和が最小になるようにaとbを決める、数学的にとても美しい手法なの。
胡桃 あんず
最小二乗法って、昔どこかで聞いたことある!
あれが機械学習の入口だったんだ!
白銀 ゆき
そうですね。
統計学の古典から機械学習の基礎まで連続していることがわかりますね。
若葉 みどり 先生
もうひとつの強みは、結果の解釈のしやすさ。
係数を見れば『xが1増えるとyはa増える』と素直に説明できる。
胡桃 あんず
シンプル・イズ・ベスト、ってやつだね!
複雑な深層学習とはまた違う良さがあるんだ〜。
桜井 もも
直線でも分析できるなんて、意外とパワフルです〜。
白銀 ゆき
実際、ビジネスの意思決定では解釈しやすい線形回帰が今でも主役です。
特徴量をうまく選べば深層学習と近い性能が出ることもあるくらいです。
若葉 みどり 先生
仕上げクイズ。 y = 3x + 5 の式で、xが2のときyはいくつ?
白銀 ゆき
11ですね。
3×2+5=11。
桜井 もも
中学数学で解ける問題がAIに繋がってるって、なんだか嬉しいです〜!
胡桃 あんず
あたしも、中学時代の数学がまさか伏線になってたなんて思わなかったよ!
復習する気になるね!
白銀 ゆき
線形回帰は統計学の古典でありながら、特徴量を工夫すれば最新の機械学習モデルに匹敵する性能を出すこともあります。
基礎の強みですね。
若葉 みどり 先生
正解。
試験では『線形回帰=直線で近似』『重みと切片(バイアス)を学習』『複数入力は重回帰』を押さえましょう。
確認クイズ
線形回帰で求めるパラメータはどれか?
- クラスタ数と重心
- 傾き(重み)と切片(バイアス)
- 木の深さと分岐条件
- 近傍数kと距離関数
こたえを見る
正解: 2. 傾き(重み)と切片(バイアス)
線形回帰では直線 y = ax + b の傾きa(重み)と切片b(バイアス)をデータから求めます。クラスタ数はk-means、木の深さは決定木、近傍数はk-NNのパラメータで、それぞれ別手法です。
この記事の関連書籍
Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。
この記事について
AIパスポートスタディが作成した教材です。運営について・記事の作り方
試験についてはこちらをご覧ください: GUGA 生成AIパスポート公式ページ