ニューラルネットの逆襲から５年後 | Preferred Research

私が2012年にニューラルネットの逆襲（当時のコメント）というのをブログに書いてからちょうど5年が経ちました。当時はまだDeep Learningという言葉が広まっておらず、AIという言葉を使うのが憚られるような時代でした。私達が、Preferred Networks（PFN）を立ち上げIoT、AIにフォーカスするのはそれから1年半後のことです。 この5年を振り返る良いタイミングだと思うので考えてみたいと思います。 1. Deep Learning Tsunami 多くの分野がこの5年間でDeep Learningの大きな影響を受け、分野特化の手法がDeep Learningベースの手法に置き換わることになりました。NLP（自然言語処理）の重鎮であるChris Manning教授もNLPで起きた現象を「Deep Learning Tsunami」[link] とよびその衝撃の大きさを表して

[mfks17]

“Deep Learningは、生成モデルでも大きなブレークスルーを起こしました。”

[prototechno]

2017年の記事

[yassan0627]

全体の流れがまとまっててすごく良い

[goodstoriez]

“知能をケーキに例えるなら、教師なし学習は本体であり、教師あり学習はケーキの飾り、強化学習はケーキ上のサクランボぐらいである。私達は…ケーキ本体の作り方はわかっていない”

[wackyhope]

岡野原大輔氏によるエントリ。"私が2012年にニューラルネットの逆襲（当時のコメント）というのをブログに書いてからちょうど5年が経ち／この5年を振り返る良いタイミングだと思うので考えてみたいと思います"

[hiddy216]

なるほど、まだ進化の余地があるのか

[yumu19]

「現実世界の問題を解く上で、現実世界の様々な制約を克服するためにシミュレーション上で学習、検証することがより一層必要になります」ふむ。

[TanUkkii]

“今後は、誤差逆伝播法だけではなく、離散変数での最適化も可能な離散/組み合わせ最適化法[link]、遺伝的アルゴリズムや、進化戦略[link], を使った手法も必要になるでしょう。”

[gamella]

良い！

[zou3dazou]

"従来の機械学習の考え方ではパラメータ数が少ない方がモデルの複雑さは下がり、過学習しにくくなりますがDNNの場合、汎化性能はモデルが大きければ大きいほど高いことも予想されています"

[masatoi]

"Chainerは開発者の得居がGW明けに突然作ってきて、"

[noit0ru319]

人工知能 なるほどわからん

[zetta1985]

“人は1年間に10時間/日*3600秒/時*365日*10Hz=1.3億回の画像をみてそれらで予測学習や、補間学習、ノイズ除去学習をすることができます。”

[mzi]

よい記事です。

[RabbitBit]

5年間で何があったか。

[akulog]

良いまとめ

[raitu]

良記事。人工知能の状況とりまとめ

[naggg]

さすがPFNさん。はてさて５年後はどうなることやら・・・？

[gnufrfr]

もう、ファ〜としか言いようがないファ〜

[yubessy]

本物のまとめ記事だ

[satojkovic]

完全に世の中が変わりましたね

[karaage]

簡潔に重要な要素がまとまっている

[manjirou99]

私達は凄まじい進化とパラダイムシフトの中にいる。産業革命以上の時代の変遷に立会い干渉する事が出来るのは技術者としてとても幸せな事だと思います。

[nilab]

ニューラルネットの逆襲から５年後 | Preferred Research

[TequilaBancho]

「脳のシナプスは10^14個あるが，人は10^9秒しか生きられない。サンプル数よりパラメータ数の方がずっと多いことになる。（中略）1秒あたり10^5個の制約が必要となり，多くの教師無し学習をしているとの考えに行き着く」

[cancamayum]

これ！！医療なら大量の医療データをぶち込み医師の決断を補助、受験みたく特定分野を学ぶ道具。入れるデータは決まっておる。“DLが大きく成功しているのは教師あり学習。本当に難しい問題を解くには教師なし学習”

[augsUK]

教師なし学習にならないと、データ蓄積型の課題解決の外の人にとっては興味だけで終わるからな。そこに手を出すより教師ありを続けた方がアカデミックにもビジネスにもよい時期なのだろうが。

[kei_1010]

記事がなぜか真っ白で読めないから、あとで読む。

[sonots]

Software2.0

[stealthinu]

ディープラーニングが注目されだしてからもう５年。この５年の進化はほんとすごかった。あと５年先を考えてもまだ冬の時代が来るとは考えられない。教師なし学習のブレークスルーは夢だな…

[kana0355]

もう，5年も経つのか……．