誤差逆伝播法とは - Cognicull誤差逆伝播法 誤差逆伝播法とは、勾配法によるニューラルネットワークの学習において、重み付け（もしくはバイアス）の勾配を連鎖律で求める方法のことです。ニューラルネットワークの学習の高速化手法の一つです。 適当な重み付けw（赤色）の勾配は、言い換えると、損失関数の出力の変化の割合（微分係数）を表します。よって、wの関数を微分して、導関数を求めておけば、瞬時に勾配を求めることができます。 順伝播型ニューラルネットワークは、多変数関数を含む合成関数なので、適当な重み付けwの微分は、合成関数の偏微分により行えます。よって、wに対して、多変数関数の連鎖律を作ります。 つまり、損失関数の出力からwに向かって、連鎖律を作ると、勾配（偏微分係数）が求まります。誤差逆伝播法に、逆伝播という言葉が含まれるのはこのためです。 誤差逆伝播の実例 例えば、2層の全結合層と活性化関数の層で構成される以下のニューラルネッ
