誤差逆伝播法 (バックプロパゲーション)

さて、ニューラルネットワーク?
が学習するとき、まず入力から出力へ計算を進めて予測を出します。
これを順伝播と呼ぶわ。
その予測と正解の差を損失関数?
で数値化して、次にその誤差を出力層から入力層に向けて逆方向に伝えていくの。
これが誤差逆伝播法。

ゆきさん、焦らなくていいのよ。
あんずさんが分かる言葉で説明してみましょうか。
あんずさん、テストの答え合わせで、どこで間違えたか一個一個さかのぼること、あるじゃない? それと同じなの。

まさにそれ。
ニューラルネットワーク?
も同じで、出力の誤差を順に遡って『この層のこの重み?
が悪かったから、少し減らしましょう』と少しずつ調整するの。

勾配降下法?
という仕組みで、学習率?
に勾配をかけた分だけ重みを動かすのよ。
これを何万回も繰り返すうちに、ネットワーク全体の誤差が小さくなっていくの。
1回の繰り返しをイテレーション?
、データ全体を1周するのをエポック?
と呼ぶわ。

ゆきさんの厳密さは大切よ。
あんずさんとももさんの素朴さも大切。
両方あるから学習が深まるの。