RNN - 時系列を理解するニューラルネット

ふふ、画像に強いのがCNNなら、順番のあるデータに強いのがRNN?
よ。
文章、音声、株価の推移など、順序が意味を持つデータに使うの。

例えば『犬が猫を追いかけた』と『猫が犬を追いかけた』は同じ単語でも順序が違うと意味が変わるでしょ? RNNはそれを捉えられるの。
音声も『あ・い・う』と『う・い・あ』では意味が違うわね。

そのとおり。
各ステップで『前の自分の出力』と『今の入力』を合わせて次の計算をするの。
数式で言うと h_t = f(W·x_t + U·h_{t-1} + b) のように、前の隠れ状態 h_{t-1} が入力の一部として使われるわ。

素敵な例えね。
音声認識でも、前に聞こえた音の文脈があるから次の音が『あ』なのか『い』なのか判断しやすくなるの。

とても良い質問ね。
実は基本的なRNNには『勾配消失問題?
』があって、長い系列になると過去の情報が薄れやすいの。
これを解決するためにLSTM?
やGRU?
が登場したのよ。
これは次の記事で扱いましょう。

試験では『RNNは〇〇データに強い』という形でよく問われるから、『順序のあるデータ』『時系列データ』というキーワードで押さえておくといいわね。