タグ

あとで読むとrnnに関するyubessyのブックマーク (1)

  • BESOM(ビーソム)ブログ LSTM 、ちょっとだけ理解を試みる

    BESOM(ビーソム)は、ベイジアンネットを用いて大脳皮質の情報処理を再現する機械学習アルゴリズムです。BESOMに関連する研究者向けの情報発信をしていきます。(内容は個人の意見であり所属する組織の見解ではありません。) 時系列データを学習するニューラルネットの一種、 LSTM について、 ちょっとだけ理解しようと試みたので、自分用のメモをここに書いておきます。 「Long Short-Term Memory in Recurrent Neural Networks」 http://www.felixgers.de/papers/phd.pdf ドイツ Hannover 大、 FELIX GERS の Thesis, 2001 。 p.11 に「従来の(初期の)LSTM」の全体像が書かれている。 が、メモリブロックが1つに省略されているので全体像が分かりにくい。 (RNNの中間層の各ユニッ

  • 1