「もはやsqrtがボトルネックになる時代ではない」 これは激しい

TOKOROTENTOKOROTEN のブックマーク 2014/08/07 14:07

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

AdaGradが12倍速くなる魔法

    AdaGradは学習率を自動調整してくれる勾配法の亜種で、いろんな人が絶賛しています。 勾配を足し込む時に、各次元ごとに今までの勾配の2乗和をとっておいて、その平方根で割ってあげるだけと、恐ろしくシンプルで...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう