Deep Learning勉強のための書籍【2018年版】 - HELLO CYBERNETICS
はじめに 初級編 ゼロから作るDeep Learning 中級編 scikit-learnとTensorFlowによる実践機械学習 PythonとKerasによるディープラーニング 上級編 Pro Deep Learning with TensorFlow Deep Learning はじめに ディープラーニングに関する書籍は山ほど出てきています。 その中でどれを読めば良いのか分からない、というのは初心者にとって最初の問題でもあるでしょう。まずはブログなどのネットの情報を参考に勉強をする人が多いかと思われますが、私のブログも含め、大抵は個人の興味に沿ってバラバラに話題が提供されるため、できれば1つ1つ順を追って解説してくれる物が欲しいと感じるのが本音と思われます。 今回は、数ある書籍の中でも私自身が所持していておすすめできるディープラーニングの書籍を載せたいと思います。 初級編 ゼロから作
ディープラーニングによるホットドッグ検出器のレシピ - クックパッド開発者ブログ
研究開発部の画像解析担当のレシェックです。techlife を書くのは初めてです。よろしくお願いいたします。 最先端の機械学習を使うためには、常に自分のスキルアップが必要です。そのために、毎日論文を読んだり、新しいオープンソースのコードを試してみたり、クックパッドのデータで実験しています。これはちょっと料理の練習と似ています。新しいモデルを学習させるのは料理をオーブンに入れるのと同じ気持ちです。オーブンの温度は学習率と同じで、低すぎだとよく焼けず、高すぎだと焦げてしまいます。しかし、ちゃんと他のリサーチャーの論文やブログの中のレシピを見ながら自分のデータでモデルを学習させると、失敗せずに済むかもしれません。 このエントリでは、そういった機械学習のレシピの一例を紹介します。 このブログで使っているテスト画像はPixabayから取得した、Creative Commonsのライセンスの写真です。
ディープラーニングの限界 | POSTD
(注：2017/04/08、いただいたフィードバックを元に翻訳を修正いたしました。 @liaoyuanw ) この記事は、私の著書 『Deep Learning with Python（Pythonを使ったディープラーニング）』 （Manning Publications刊)の第9章2部を編集したものです。現状のディープラーニングの限界とその将来に関する2つのシリーズ記事の一部です。 既にディープラーニングに深く親しんでいる人を対象にしています（例：著書の1章から8章を読んだ人）。読者に相当の予備知識があるものと想定して書かれたものです。 ディープラーニング： 幾何学的観察 ディープラーニングに関して何より驚かされるのは、そのシンプルさです。10年前は、機械認識の問題において、勾配降下法で訓練したシンプルなパラメトリックモデルを使い、これほど見事な結果に到達するなど誰も想像しませんでした。
画像を最適かつ自動的にトリミングするニューラルネットワークのご紹介
Twitterに直接画像をツイートできるようになったのは2011年。以来、Twitterを楽しむ上で不可欠な要素になりました。Twitter上には、毎日数百万を超える画像がアップロードされていますが、それぞれのサイズも解像度も異なるため、UI上で各画像を最適な形で表示できるように処理を行うことが課題になっていました。皆さんのタイムライン上の画像は、一貫性があり、より多くのツイートを目にできるようにトリミングされています。今回は、Twitterがどの画像をトリミングし、画像のどの部分を表示するか、どのように決めているのかをご案内します。 以前は、顔認識技術を利用し、画像の中でもっともわかりやすい顔を中心にトリミングを行っていました。これはもっともわかりやすい方法ではありましたが、全ての画像に顔が含まれているわけではないため、ベストな方法とは言えませんでした。また、使用していた顔認識技術では顔
東大松尾研が「Deep Learning基礎講座演習コンテンツ」を無償公開 | Ledge.ai
東京大学の松尾研究室が、東大で行われているDeep Learning基礎講座演習コンテンツを無償公開しました。 公開されたのは、演習パートのコンテンツ。講義パートはどうやら別途公開されるそう。 コンテンツの内容はざっくり下記。 演習中心での学習GPUを利用したモデル学習を学ぶ実際にモデルを学習させながら技術を習得研究者向けコンテンツJupyter notebook形式での配布コードは全てTensorFlow (TM)と標準的なライブラリ（Numpy, Scipy, Scikit-learn等）で構成 松尾教授のツイッターによれば、主に研究者向けに作成したもので、GPUを利用してモデルを学習するような実践的な内容となっているとのこと。 東京大学のDeep Learning基礎講座の演習コンテンツを無償公開しました。主に研究者向けに松尾研で作成したもので、GPUを利用してモデルを学習するような
Understanding Learning Rates and How It Improves Performance in Deep Learning
This post is an attempt to document my understanding on the following topic: What is the learning rate? What is it’s significance?How does one systematically arrive at a good learning rate?Why do we change the learning rate during training?How do we deal with learning rates when using pretrained model?Much of this post are based on the stuff written by past fast.ai fellows [1], [2], [5] and [3] .
Deep Learningにおける知識の蒸留 | Code Craft House
ここ数年のDeep Learningの発展は目覚ましく、急速に実用化が進んでいます。タスクによっては人間に匹敵する精度に達しているものもあり、システムの一部品としてデプロイする場面も増えてくると思います。そこで問題になるのが計算機資源の制約です。学習時には大量の学習データを用意し、GPUなどの計算資源で数時間や数日かかるような学習をしますが、推論時には限られたメモリや計算資源のもとで動作させる必要があります。リアルタイムに大量の入力データを捌く必要があったり、スマートフォンやエッジデバイスなどで動作させる場合には、この制約はさらに強くなります。 深くて大きいモデルの方が精度が出るが、実用を考えると軽量なモデルにする必要がある。こういった場面で最近よく使われる手法として、 知識の蒸留 (Knowledge Distillation) と呼ばれる方法があります。これは、（典型的には）大きくて複
Google and Uber’s Best Practices for Deep Learning
There is more to building a sustainable Deep Learning solution than what is provided by Deep Learning frameworks like TensorFlow and PyTorch. These frameworks are good enough for research, but they don’t take into account the problems that crop up with production deployment. I’ve written previously about technical debt and the need from more adaptive biological like architectures. To support a via
ディープラーニングの応用のための具体的方針まとめ - HELLO CYBERNETICS
はじめに 目標の設定と指標の決定 目標の設定 指標の決定 評価指標に対する最低限の知識 機械学習における知識（補足） ニューラルネットワークの学習 最初に使うニューラルネットワーク 時間的にも空間的にも独立である複数の特徴量を持つデータ 空間の局所的な構造に意味のある多次元配列データ（例えば画像） 時間的な変動に意味のあるデータ（例えば音声、自然言語） ニューラルネットワークの細かい設定 ユニットの数と層の数 正則化 活性化関数 ドロップアウト バッチ正規化 学習の早期終了 性能が出ない場合 データの追加収集 ニューラルネットの設定をいじる 用いるニューラルネット自体を変更する 新たなニューラルネットワークの考案 コードを書くにあたって データ成形 結果を記録するコード フレームワークの利用 フレームワークの選択 ChainerとPyTorch TensorFlow Keras 最後に は
Deep learningの概要とドメインモデルの変遷
Deep Learningの概要、最近の成果と、フレームワーク実装者の視点で見たドメインモデルの変遷について。
府大生が趣味で世界一の認識精度を持つニューラルネットワークを開発してしまった論文を読んだ - Qiita
Deep Learning Advent Calendar 2016の20日目の記事です。 ConvNetの歴史とResNet亜種、ベストプラクティスに関連スライドがあります（追記） 背景 府大生が趣味で世界一の認識精度を持つニューラルネットワークを開発してしまったようです。 M2の学生が趣味でやっていたCIFAR10とCIFAR100の認識タスクで，現時点での世界最高性能の結果を出したそうだ…趣味でっていうのが…https://t.co/HKFLXTMbzx — ニーシェス (@lachesis1120) 2016年12月7日 府大のプレスリリース 一般物体認識分野で、府大生が世界一の認識精度を持つニューラルネットワークを開発 黄瀬先生の研究室の学生さんだそうです。凄いですね！ ちょうどResNet系に興味があったので、読んでみます。この論文を理解するには、ResNet, (Wide
区二区,亚洲成A∧人片在线观看无码,在线无码视频,自拍无码精品一区二区,freeXXXX国产HD中文对白,无码性午夜视频在线观看
超薄丝袜足j一区二区,亚洲成A∧人片在线观看无码,在线无码视频,自拍无码精品一区二区,freeXXXX国产HD中文对白,无码性午夜视频在线观看
Chainer + Dask で 並列 Deep Learning したい <1> - StatsFragments
この記事は Chainer Advent Calendar 2015 17 日目の記事です。 はじめに サイズが大きいデータを Deep Learning すると学習に時間がかかってつらい。時間がかかってつらいので並列処理して高速化したい。 並列化するのに良さそうなパッケージないかな? と探してみると、Dask という並列 / Out-Of-Core 計算パッケージを見つけた。これと Chainer を組み合わせると並列処理が簡単に書けそうな気がする。 最初は MNIST を並列化してみたが、データが小さすぎるせいか むしろ遅くなってしまった。もう少し大きいデータである CIFAR-10 を使い、より深いネットワーク構造でその効果を確かめたい。 最終的には以下二つの処理を並列化することを目指す。 Data Augmentation DNN の学習 1. Data Augmentation
Deep learningの軽い紹介
2. 目的と注意 • 最近 Deep Learning が熱いですね • そこで Deep Learning を初心者の方でもわ かりやすいようにまとめてみました • 自分自身機械学習は論文や本での独学なの で、間違ってる点があれば教えてください 4. • Deep Learning • Deep Neural Network(DNN) • Neural Network(NN) • Hidden Markov Model(HMM) • Gaussian Mixture Model - Hidden Markov Model(GMM-HMM) • Deep Neural Network - Hidden Markov Model(DNN-HMM) • 機械学習 • パターン認識 • 時系列データの認識 • 音声認識 • 画像認識 • モーション認識 • 音楽リズム認識 • 経済モデル • 感
Deep Learning Master Class
Tel Aviv University | Wednesday-Thursday, November 5-6, 2014 Wednesday Nov. 5th 8:30-9:10: Gathering 9:10-9:30: Opening: Yehuda Afek, Gadi Singer 9:30-11:30: Yann LeCun (Facebook, NYU) The Unreasonable Effectiveness Of Deep Learning 11:30-12:00: Break 12:00-13:00: Yaniv Taigman (Facebook) Web-Scale Training for Face Identification 13:00-14:00: Lunch 14:00-15:00 Amnon Shashua (HUJI/ICRI-CI) SimNets
はじめるDeep learning - Qiita
そうだ、Deep learningをやろう。そんなあなたへ送る解説記事です。 そう言いながらも私自身勉強しながら書いているので誤記や勘違いなどがあるかもしれません。もし見つけたらご連絡ください。 Deep learningとは こちらのスライドがとてもよくまとまっています。 Deep learning つまるところ、Deep learningの特徴は「特徴の抽出までやってくれる」という点に尽きると思います。 例えば相撲取りを判定するモデルを構築するとしたら、普通は「腰回りサイズ」「マゲの有無」「和装か否か」といった特徴を定義して、それを元にモデルを構築することになります。ちょうど関数の引数を決めるようなイメージです。 ところが、Deep learningではこの特徴抽出もモデルにやらせてしまいます。というか、そのために多層、つまりDeepになっています。 具体的には頭のあたりの特徴、腰のあ
実装ディープラーニング
はじパタLT資料です。ディープラーニングのライブラリの使い方が知りたい方は15ページからご覧ください。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
有害コメント検出の論文：「Comment Abuse Classification with Deep Learning」を読んだ | 10001 ideas
なぜGPUはディープラーニングに向いているか
深層学習入門
