「深層学習はなぜ賢いのか？」 | RAD-IT21

1.はじめに 深層学習の躍進から始まる人工知能ブームが始まって久しい。深層学習は、2012年の画像処理の大会でその存在が広く認知され、その後に様々な分野への応用が推進された。有名な例の一つとして、DeepMind社/Google社による囲碁AIのAlphaGoが、2016年に人間のトッププロを破ったことは象徴的なイベントとして宣伝された[1]。2020年現在の深層学習は、社会インフラや科学技術の探究など多くの領域の基盤を支える技術として、社会の様々な場所に浸透し始めている。この活躍はいろいろな要素の複合の結果ではあるが、その要因を一言で述べるなら、「深層学習は賢い」という経験的事実、つまり既存の技術ではできなかった情報処理を深層学習が行うことができるということがあるだろう。 本稿では、”深層学習はなぜ賢いのか”という一般的な問いに対して、数理的な側面からの議論を行う。ここでは、数理の一つの

[sameo]

深層学習が「汎化する」ことが得意なわけはまだ分からず、仮説段階。有力な仮説の一つに、「暗黙的正則化」がある（名称にはいくつかのバリエーションがある）