ED法+交差エントロピーをTF/Torchで実装してみた（おまけでBitNet×ED法を検証） - Qiita
ED法の記事その３です。 その１：金子勇さんのED法を実装してMNISTを学習させてみた その２：ED法を高速化してその性能をMNISTで検証してみた もう記事を書く予定はなかったんですが、思ったより頭から離れなかったので記事に起こしました。 今回はED法をTorchとTFで実装し交差エントロピーとReLUを実装しました。 なので正規のMNISTを学習してみたいと思います。 最後にBitNet×ED法を試して考察しています。 本記事を含めたED法のコードをGithubに作成しました。 追加の実装 ED法+交差エントロピー まずは今までの平均二乗誤差（MSE;Mean Squared Error）のイメージです。 MSEのlossは（正解データ-出力）で表され、それをED法で学習します。 次に交差エントロピーのイメージです。 各出力に対してED法ニューラルネットを作成し、その出力達をsoft
