ニューラルネットワークの構造
入力層・中間層・出力層の役割と、ネットワーク構造の基本を学びます。
今日の主役はあんずちゃん。ニューラルネットワークの入力層・中間層・出力層という基本構造を、あんずちゃんのバドミントンサークル組織図に例えて理解していきます。例え名人あんずが冴え渡る回。複雑に見える図でも、役割ごとに見れば怖くありません。
胡桃 あんず
ねえ先生、ニューラルネットって層があるって聞くけど、層ってどう並んでんの?
若葉 みどり 先生
基本は3つに分かれているの。
データを受け取る『入力層』、計算を進める『中間層 (隠れ層)』、そして結果を出す『出力層』ね。
入力から出力へ、信号が一方向に流れるの。
胡桃 あんず
あー、なんかそれ、会社の組織みたいじゃない? 受付 (入力層) が情報を受けて、中の部署 (中間層) で処理して、広報 (出力層) が発表する感じじゃん!
白銀 ゆき
……意外と上手い例えね、あんずちゃん。
しかも中間に部署が多い会社ほど処理の段階が細かい、というところまで合っているのが悔しいわ。
胡桃 あんず
もしくは、バドミントンサークルで例えると、ボール貰うやつ (入力)、パス回すやつら (中間)、シュート決めるやつ (出力) って感じじゃん。
しかも中間にいるやつが多いチームの方が戦術に幅が出る。
若葉 みどり 先生
素晴らしい! まさにそれが深層学習の本質ね。
中間層が増えるほど複雑な処理ができるようになる。
だから『深層』と呼ぶのよ。
信号の流れは左から右、つまり入力から出力への一方向で、これを『順伝播 (forward propagation)』と言うわ。
桜井 もも
えへへ、あんずちゃん、今日冴えてますぅ!
白銀 ゆき
各層のニューロン同士はどう接続されているんですか? 全結合が基本なんでしょうか。
若葉 みどり 先生
はい、最も基本的なのは全結合層で、ある層のすべてのニューロンが次の層のすべてのニューロンに接続されているの。
ただしCNNやRNNなど、目的に応じた特殊な接続方式もあるのよ。
胡桃 あんず
つまりバドミントンで言えば、基本は全員と連携、でも試合によっては『この2人だけ集中連携!』っていう特別な動きもあるってことか〜!
若葉 みどり 先生
その喩え、本当にぴったり。
あなた、飲み込みが早いわね。
桜井 もも
わたしもあんずちゃんの例え、すごくわかりやすくて好きですぅ……尊敬しちゃいます。
白銀 ゆき
普段は雑なのに、今日だけはちょっと見直したわ。
……明日には忘れるけど。
胡桃 あんず
ちょっと、素直に褒めてよ〜!
若葉 みどり 先生
そして層を数えるときは、原則として入力層は数えずに『隠れ層と出力層の合計』でネットワークの深さを表すの。
AlexNetは8層、ResNet-152は152層、現在のLLMでは100層を超える例もあるわ。
現実のモデルではバイアスも含めてパラメータが数百万〜数兆個にもなって、全て学習で自動的に調整される値なのよ。
信号の流れが『入力 → 中間 → 出力』の一方向であることを『順伝播 (forward propagation)』と呼ぶこともあわせて押さえておきましょう。
桜井 もも
部員1人ずつの役割が自動的に決まるみたいな感じですぅ。
AIも1層ずつ情報を噛みしめて進んでいくんですねぇ。
試験では層の数え方も問われるそうなので、気をつけますぅ。
確認クイズ
ニューラルネットワークにおいて『深層学習』の『深層』が指すのはどれか?
- 入力データの複雑さ
- 中間層 (隠れ層) が多いこと
- 出力の精度が高いこと
- 学習にかかる時間が長いこと
こたえを見る
正解: 2. 中間層 (隠れ層) が多いこと
深層学習の『深層 (ディープ)』は、中間層 (隠れ層) が多い、すなわちネットワークが深いことを意味します。深さがあるからこそ、データから複雑な特徴を段階的に抽出できます。
この記事の関連書籍
Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。
この記事について
AIパスポートスタディが作成した教材です。運営について・記事の作り方
試験についてはこちらをご覧ください: GUGA 生成AIパスポート公式ページ