畳み込みニューラルネットワークの可視化 - 人工知能に関する断創録

Deep Learningの学習結果（重み）はブラックボックスで、隠れ層のユニット（特に深い層の！）が一体何を学習したのかがよくわからないと長年言われてきた。しかし、今回紹介する方法を使うとニューラルネットが何を学習したのか目で見える形で表現できる。 畳み込みニューラルネットで学習したフィルタの可視化というと以前やったように学習した第1層のフィルタの重みを直接画像として可視化する方法がある。 しかし、畳み込みフィルタのサイズは基本的に数ピクセル（MNISTの例では5x5ピクセル程度）のとても小さな画像なのでこれを直接可視化しても何が学習されたか把握するのはとても難しい。たとえば、MNISTを学習した畳み込みニューラルネット（2016/11/20）のフィルタを可視化しても各フィルタがどの方向に反応しやすいかがわかる程度だ。 各フィルタが何を学習したかを可視化する別のアプローチとして各フィルタ

[sugyan]

面白い。アイドル顔識別器で騙すのは試したけどキレイな入力つくるの出来なかったからまたやってみるか…

[elu_18]

Kerasブログ更新。フィルタの出力を最大化する入力画像を勾配法によって求めることで畳み込みニューラルネットワークを可視化する方法について実験した。正則化を導入すると鮮やかな画像が得られた。次はいよいよDeep D

[kowa]

goigleのDEEP DREAMの内訳なのかなー。心理物理や神経生理の視覚刺激に役立ちそう

[yukimori_726]

[