今日の主役はジャスミンちゃん。ニューラルネットワークの入力層・中間層・出力層という基本構造を、ジャスミンちゃんのバドミントン部組織図に例えて理解していきます。例え名人ジャスミンが冴え渡る回。複雑に見える図でも、役割ごとに見れば怖くありません。
戸倉 ジャスミン
なあ先生、ニューラルネットって層があるって聞くけど、層ってどう並んでんの?
香月 リサ 先生
基本は3つに分かれているの。
データを受け取る『入力層』、計算を進める『中間層 (隠れ層)』、そして結果を出す『出力層』ね。
入力から出力へ、信号が一方向に流れるの。
戸倉 ジャスミン
あー、なんかそれ、会社の組織みたいじゃない? 受付 (入力層) が情報を受けて、中の部署 (中間層) で処理して、広報 (出力層) が発表する感じじゃん!
深見 つむぎ
……意外と上手い例えね、ジャスミンちゃん。
しかも中間に部署が多い会社ほど処理の段階が細かい、というところまで合っているのが悔しいわ。
戸倉 ジャスミン
もしくは、バドミントン部で例えると、ボール貰うやつ (入力)、パス回すやつら (中間)、シュート決めるやつ (出力) って感じじゃん。
しかも中間にいるやつが多いチームの方が戦術に幅が出る。
香月 リサ 先生
素晴らしい! まさにそれが深層学習の本質ね。
中間層が増えるほど複雑な処理ができるようになる。
だから『深層』と呼ぶのよ。
信号の流れは左から右、つまり入力から出力への一方向で、これを『順伝播 (forward propagation)』と言うわ。
雪村 ましろ
えへへ、ジャスミンちゃん、今日冴えてますぅ!
深見 つむぎ
各層のニューロン同士はどう接続されているんですか? 全結合が基本なんでしょうか。
香月 リサ 先生
はい、最も基本的なのは全結合層で、ある層のすべてのニューロンが次の層のすべてのニューロンに接続されているの。
ただしCNNやRNNなど、目的に応じた特殊な接続方式もあるのよ。
戸倉 ジャスミン
つまりバドミントンで言えば、基本は全員と連携、でも試合によっては『この2人だけ集中連携!』っていう特別な動きもあるってことか〜!
香月 リサ 先生
その喩え、本当にぴったり。
あなた、飲み込みが早いわね。
雪村 ましろ
わたしもジャスミンちゃんの例え、すごくわかりやすくて好きですぅ……尊敬しちゃいます。
深見 つむぎ
普段は雑なのに、今日だけはちょっと見直したわ。
……明日には忘れるけど。
戸倉 ジャスミン
ちょっと、素直に褒めてよ〜!
香月 リサ 先生
そして層を数えるときは、原則として入力層は数えずに『隠れ層と出力層の合計』でネットワークの深さを表すの。
AlexNetは8層、ResNet-152は152層、現在のLLMでは100層を超える例もあるわ。
現実のモデルではバイアスも含めてパラメータが数百万〜数兆個にもなって、全て学習で自動的に調整される値なのよ。
信号の流れが『入力 → 中間 → 出力』の一方向であることを『順伝播 (forward propagation)』と呼ぶこともあわせて押さえておきましょう。
雪村 ましろ
部員1人ずつの役割が自動的に決まるみたいな感じですぅ。
AIも1層ずつ情報を噛みしめて進んでいくんですねぇ。
試験では層の数え方も問われるそうなので、気をつけますぅ。
確認クイズ
ニューラルネットワークにおいて『深層学習』の『深層』が指すのはどれか?
- 入力データの複雑さ
- 中間層 (隠れ層) が多いこと
- 出力の精度が高いこと
- 学習にかかる時間が長いこと
こたえを見る
正解: 2. 中間層 (隠れ層) が多いこと
深層学習の『深層 (ディープ)』は、中間層 (隠れ層) が多い、すなわちネットワークが深いことを意味します。深さがあるからこそ、データから複雑な特徴を段階的に抽出できます。
