深層学習による自然言語処理 - RNN, LSTM, ニューラル機械翻訳の理論

本稿ではニューラルネットワーク，誤差逆伝播法，言語モデル，RNN，LSTM，ニューラル機械翻訳の一連の手法について数理的に解説する． 前編の目次 ニューラルネットワーク 順伝播 (Forwardpropagation) 逆伝播 (Backpropagation) リカレントニューラルネットワーク (RNN) Recurrent Neural Network Language Model (RNNLM) Backpropagation Through Time (BPTT) Long Short-Term Memory (LSTM) Gated Recurrent Unit (GRU) RNN のドロップアウトとバッチ正規化 ニューラル機械翻訳 (NMT) Sequence to Sequence (seq2seq) 注意 (Attention) 双方向エンコーダー・多層LSTM 評価手法

[DummyWitty]

“中村良”

[otituke]

なるほどわからん

[t_f_m]

あとで

[gayou]

む、難しい。。

[userhiro]

ニューラルネットからニューラル機械翻訳までの一連の手法について数理的に解説

[elu_18]

卒論を加筆して 『【前編】深層学習による自然言語処理 - ニューラル機械翻訳の理論・実装・実験 -』 を公開しました． RNN，LSTM，GRU，BN，seq2seq，Attenti… https://t.co/b52CZZuJLH https://t.co/gtP8kVQ6w8