タグ

deep-learningとaistに関するnabinnoのブックマーク (3)

  • 第18回 全脳アーキテクチャ勉強会 ~ 全脳規模計算 ~

    高橋 恒一氏 講演概要 深層学習が認識技術を大幅に進展させたことにより、次世代の人工知能技術の焦点の1つは認知、意思決定、行動の統合になると考えられ、この点で脳のアーキテクチャに学べる点は多い。計算コア単体の性能が頭打ちになり、ムーアの法則の終わりも見えてきた現状では、認知=行動サイクルを脳に匹敵する規模でリアルタイムかつ高性能に実行するには大規模な並列化が必須である。その一方で、現在主流の人工神経回路(ANN)のほとんどはネットワーク全体が同期的に評価され、各社が提供するTensorFlow, Chainer, Theanoなどのフレームワークもそれを反映した設計となっている。誤差逆伝播による同期ボトルネックの除去は脳型人工知能の開発において重要な課題の1つである。発表では、我々が開発する脳型人工知能基盤ソフトウエアBriCA(Brain-inspired Computing Arch

    第18回 全脳アーキテクチャ勉強会 ~ 全脳規模計算 ~
  • 大脳皮質と deep learning の類似点と相違点

    脳とdeep learning のアーキテクチャには共通の特徴が多くありますが、 脳にはあるのに現在(2012年時点)の deep learning にはない重要な特徴もあります。 その中には deep learning の性能をさらに向上させる 有望なヒントが含まれているのではないかと思います。 そこで、大脳皮質と deep learning の類似点と相違点を簡単にまとめてみました。 特に「脳は上の層ほど発火がスパース」「脳はあまり深くなくむしろ横に広い」 「脳では領野ごとに強い個性がある」といった特徴は、 重要なのではないかと思います。 ◆ 大脳皮質に見られる「深いネットワーク」 大脳皮質の視覚野(腹側経路と背側経路)、聴覚野、体性感覚野、運動野には 「深いネットワーク」の構造が見られる。 これらの領域における主な領野の階層構造を [Felleman and Essen 1991]

  • Deep learning 用語集

    deep learning とは、従来よりも多くの層を持ったニューラルネットを用いる 機械学習技術です。 deep learning は、画像認識、音声認識などの分野で、 いろいろなベンチマークで従来技術を超える性能を出しており、 注目を集めています。 私自身も勉強不足ですが 僭越ながら、 deep learning 関連用語について自分の理解で簡単にまとめました。 (挙げてある原論文もちゃんと読んでません! 間違いがあればぜひご指摘ください。) Deep Learning auto-encoder または RBM などを積み重ねた深い構造を持つ機械学習器。 従来は研究者が手作りしていた特徴抽出器を、 代わりに大量のデータから学習させ自己組織化させるアプローチとも言える。 deep learning を特徴抽出器として使い、 識別器としては最上位層でSVMなどを使うこともある。 deep

  • 1