深層学習入門：画像分類（5）Attention 機構 | SBテクノロジー (SBT)
こんにちは、データサイエンスチームの白石です。 前回は、マルチタスク学習を試してみて、犬猫分類器の精度向上を試みました。 結果としては、明確に改善した、と言い切れるほど大幅な改善はありませんでしたが、マルチタスクの導入によって精度が向上するケースも確認できました。 今回は、Attention 機構と呼ばれる仕組みを導入し、犬猫分類器の精度向上を試みます。 「機械学習導入支援サービス」の詳細はこちら Attention 機構とは何か Attention 機構は、現代の深層学習の花形と言える仕組みです。 Attention 機構というと、自然言語処理などでよく使われる技術だ、と思われる方もいらっしゃるかもしれません。歴史的には、Seq2Seq と呼ばれる自然言語処理などで使用されるリカレントニューラルネットワークベースのモデルに対して組み込まれ、大きな注目を集めました。近年では、機械翻訳のため
OpenAIが発見したScaling Lawの秘密 - ディープラーニングブログ
OpenAIはGPT-3の次の研究を始めています． 世間がGPT-3のデモに湧き上がる中，OpenAIはScaling Lawに関する2本の論文をひっそりと公開しました． Scaling Lawを一言で説明するなら「Transformerの性能はたった3つの変数のべき乗則に支配されている」というものです． Scaling Lawはそれ単体だけなら興味深い話で終わるかもしれません．実際に英語圏でもあまり話題にあがっていません．しかし，この法則の本当の凄さに気づいている研究者もいて，なぜ話題にならないのか困惑しています． I am curious why people are not talking more about the OpenAI scaling law papers. For me, they seem very significant. What I heard so far:
現地調査の生産性が5倍に、VRとのコラボや海外展開もポポロプラントのビジネスを変えたFARO Laser Scanner | サポーターズ・コーナー
現地調査の生産性が5倍に、VRとのコラボや海外展開も ポポロプラントのビジネスを変えたFARO Laser Scanner 液化天然ガス(LNG)基地などの計測、設計を手がけるポポロプラント株式会社（本 社：川崎市 武蔵小杉駅前）は5年にわたる検討の末、ついにFAROの3Dレーザースキ ャナー「Focus3D X 130」を導入しました。それ以来、プラントの現地調査効率が5倍に なったほか、バーチャルリアリティー（VR）によるプレゼンテーション、海外での測量 プロジェクトなど、同社のビジネスは急速に拡大中です。 現地調査の生産性が5倍に これまで2人がかりで1週間以上もかかっていたプラント機械室の現地調査が、FAROの『Focus3D X 130』を導入した後は、わずか1日で完了するようになりました。5分の1以下です」と3Dレーザースキャナーの生産性向上効果を語るのは、実際に現場で指揮を執
代表的な機械学習手法一覧 - Qiita
概要 本ページは、代表的な機械学習の手法の特性について独自に簡単にまとめたページです。 （ご意見、ご指摘等あったらご連絡ください。） 世の中のスタンダードなものとして下記もあるので、それを踏まえてご参照いただければと思います。 - ScikitLearn Choosing the right estimator - Microsoft Azure Machine Learning Studio の機械学習アルゴリズム チート シート - 朱鷺の杜Wiki 機械学習 教師データあり 回帰 (一般化)線形回帰 ロジスティック回帰 サポートベクターマシーン(SVM) 木 決定木（CART) 回帰木 ランダムフォレスト 勾配ブースティング木 ニューラルネットワーク(NN) パーセプトロン 畳み込みニューラルネットワーク(CNN) 再起型ニューラルネットワーク(RNN) 残差ネットワーク(ResNe
CodeIQについてのお知らせ
2018年4月25日をもちまして、 『CodeIQ』のプログラミング腕試しサービス、年収確約スカウトサービスは、 ITエンジニアのための年収確約スカウトサービス『moffers by CodeIQ』https://moffers.jp/ へ一本化いたしました。 これまで多くのITエンジニアの方に『CodeIQ』をご利用いただきまして、 改めて心より深く御礼申し上げます。 また、エンジニアのためのWebマガジン「CodeIQ MAGAZINE」は、 リクナビNEXTジャーナル( https://next.rikunabi.com/journal/ )に一部の記事の移行を予定しております。 今後は『moffers by CodeIQ』にて、 ITエンジニアの皆様のより良い転職をサポートするために、より一層努めてまいりますので、 引き続きご愛顧のほど何卒よろしくお願い申し上げます。 また、Cod
「モデル」とは何か，について考えていたことを，DSIRNLP(データ構造と情報検索と言語処理勉強会)で発表してきました - a lonely miner
先日， @overlast さんから，DSIRNLP(データ構造と情報検索と言語処理勉強会 )という会にお誘いを頂きまして，以前から考えていたことをちょこっとお話してきました．当日の様子は， @mamoruk さんが togetter にまとめてくださっていますので，そちらもご覧ください． 第5回 データ構造と情報検索と言語処理勉強会 #DSIRNLP - Togetterまとめ 私の発表スライドは slideshare に置いておきました．いくつか直したいところがあるので，そのうち差し替えるかも． いまさら聞けない “モデル” の話 @DSIRNLP#5 from Koji Matsuda 他の方々がものっそい最先端な話ばかりのなか，私一人だけがひどくぼんやりとした内容でたいへん恐縮でしたが，問題意識を共有するきっかけを頂けたことに感謝しています． そもそもこの話をしようと思ったきっかけ
データサイエンスをPythonで試す(6_SVMとランダムフォレスト) - あれもPython,これもPython
今回はSVMとランダムフォレストです。 どちらも機械学習の花型ですね。 今回は教科書でも、分類がメインなので、 Orangeではなく、いよいよsklearnを使用してみます。 手を動かしながら学ぶ ビジネスに活かすデータマイニング 作者: 尾崎隆出版社/メーカー: 技術評論社発売日: 2014/08/22メディア: 単行本（ソフトカバー）この商品を含むブログ (6件) を見る 準備 import numpy as np import pandas as pd from sklearn.svm import SVC from sklearn.ensemble import RandomForestClassifier from sklearn.metrics import accuracy_score データの読み込み test = pd.read_csv("ch8_test.txt",se
ベイズ企画集会
企画者：深澤圭太（横国大・環境情報）・角谷拓（東大・農学生命） 日時: 2008年3月15日 18:00-20:00 会場: 福岡国際会議場 4F Room D 概要 ESJ55プログラムのページ 解説編 ベイズ統計入門編（＞ダウンロード） 企画集会概要（＞ダウンロード） 空間自己相関とは？（＞ダウンロード） 条件付自己回帰（CAR)とは？（＞ダウンロード） ベイジアンキャリブレーションとは？（＞ダウンロード） MCMC法とは？(＞ダウンロード） 実装編 CARってどうやってやるの？（＞久保さんのページ） x,y座標からCARモデルの近傍点指定引数を生成する関数（＞Rスクリプトをダウンロード） 事例編 空間的自己相関を考慮した外来樹木アカギの分布予測 深澤圭太, 小池文人（横国大）, 田中信行（森林総研）, 大津佳代（日林協） 空間自己相関を考慮した湿地における絶滅危惧植物の分布予測モデル
グラフィカルモデルによる確率モデル設計の基本 - 作って遊ぶ機械学習。
今回から数回にわたって、グラフィカルモデルを利用した確率モデルの設計についてお話しします。従来の統計モデルと比べ、機械学習を機械学習たらしめているものの一つは、扱う現象の複雑さにあると言えます。複雑な現象を解析するためにはそれに見合った複雑なモデルが必要で、それを簡潔に記述するための方法としてグラフィカルモデルが開発されました。 「グラフィカルモデルを使って現象をモデル化し、必要に応じて近似推論法を用いて未知の値を推定する」 という一連の流れが身につくと、いろんなデータサイエンスの課題に対してシンプルかつフォーマルに取り組めるようになります。 それではまず始めに、超超超重要な確率の加法定理と乗法定理の確認をしてみましょう。 ・加法定理（sum rule）*1 \[ p(x) = \sum_y p(x,y) \] ・乗法定理（product rule） \[ p(x,y) = p(x|y)p
連載：サーバーサイドJava初心者のためのWebシステム入門 第5回
第5回 Webサイトの詳細設計 樫山友一 2002/5/28 第4回でアーキテクチャの設計が終わりました。今回は、アーキテクチャを利用した詳細設計に入っていきます。前回までに作成したプラットフォームに依存しないモデルがいかにプラットフォームに依存したモデルとなっていくかが分かります。具体的には、システムのEntityモデルをどのように実装に落としていくかに焦点を置いて解説します。 まず、前回作成したプラットフォームに依存しないモデルをもう一度見てみましょう。 ここでは、開発チームが理解しやすく、モデルが分かりやすいように日本語でモデルを記述しています。しかし、今回からはJ2EEを前提としたモデルを作成するためにJavaを利用することを前提にモデルを作成します。よって、モデルはJavaの言語仕様に沿った形で記述することになります。今回は以下のような手順で開発を進めましょう。 モデルをJava
Java入門 -MVCモデル-｜オンライン動画授業・講座のSchoo（スクー）
Javaプログラムをこれから始める方に向けて、毎回一つの要素を深堀りしながらJavaプログラムの書き方を学んでいただけます。 このコースでは、JavaのWebアプリケーション技術であるJava EEの要素を学びながら、全14限でショッピング風サイトの作成を目指します。 7限目はWebアプリケーション設計概念である「MVCモデル」について学びます。MVCモデルに基いたプログラム作成についてハンズオンを通して学んでいただければと思います。 ■事前準備 この授業は「Java入門（全3回）」 https://schoo.jp/course/280 及び「Java入門 -計算機プログラムを作りながら学ぶJavaの基本-（全10回）」https://schoo.jp/course/311を受講された方を対象としています。Javaのプログラムを書いたことが無い方は、事前に受講しておいて下さい。 この授業
MVCモデルの概念を漫画で解説してみる | hijiriworld Web
ユーザーインタフェースをもつアプリケーションソフトウェアの多くは、「MVC」モデルに基づいて設計されています。 MVCでは、プログラムを、Model（モデル）、View（ビュー）、Controller（コントローラ）という3つの要素に分割し、お互いに呼び出し合って処理が実行されていきます。 この概念を漫画で表現したら分かりやすのではないかと思い、トライしてみます。 設定 MVCモデルで設計された「なにかの申し込みシステム」があるとします。 処理の内容は、なにかの申し込みをしたユーザ情報をデータベースに格納する、だけです。 なにかの申し込みシステムの構成員 第1話 – なにかの申し込みシステムの日常 なにかの申し込みシステムの処理の流れを覗いてみましょう。 おや？ユーザが申し込みにやってきましたよ… このように、モデル、ビュー、コントローラは、お互いに協力し合いながら処理を行っています。 誰
キミの設計に「トレーサビリティ」はあるか ― ＠IT情報マネジメント
システム開発の流れを俯瞰（ふかん）する 1.1 「ビジネス要求」から「実装・テスト」までステップは5段階 システム開発の工程は5つに分けることができます。すなわち、 ビジネス要求（の分析） システム要求（の分析） 機能（の設計） メソッド（の設計） 実装・テスト（の実施） です（図1）。 「ビジネス要求（の分析）」から「機能（の設計）」までを開発工程の前半とします。前半段階では、構築すべきシステムに対するビジネス・サイドの要求を明らかにします。つまり、業務を見える化（モデル化）し、誰にでもわかる形に仕立てます。 「メソッド（の設計）」から「実装・テスト（の実施）」までを開発工程の後半とします。後半段階では主に、システムに対するビジネス要求を実現するための機能（メソッド）を設計します。設計作業が終了すると、実装、テストを行い、機能が正しく実装されているか、ビジネス要求が満たされているかを検証
キミの設計に「トレーサビリティ」はあるか
2 分析モデルを設計するまでの各工程の詳細 ビジネス要求の分析から機能の設計までの流れを図にすると、図3のようになります。 2.1 ビジネス要求の分析 ビジネスモデルが不明確で曖昧（あいまい）な場合は、どのようなビジネスモデルなら目的を達成できるかを検討し、それを実現するためのビジネスモデリングを行います。As-isモデル（現状）を分析し、目的を達成するためのTo-beモデル（未来）を検討します。すでにビジネスモデルの概要がある場合は、ビジネスプロセスを明確化し、プロセスを業務フローで詳細に定義することで、ビジネス要求を定義します。ビジネス要求の分析には、データフローダイヤグラムを利用した構造化設計手法や、UMLを利用したRUPをベースにしたビジネスモデリングの手法があります。これらの手法をカスタマイズし、プロジェクトに合った手法を適用することがよいでしょう。 2.2 システム要求の分析
システム環境情報学特論 モデルとは何か？ 担当：小野里 雅彦
1 モデルとは何か？ モデルとは何か？ 北海道大学大学院情報科学研究科 システム情報科学専攻 システム環境情報学特論 担当：小野里 雅彦 北海道大学情報科学研究科 システム情報科学専攻 小野里 雅彦 (Masahiko Onosato) 2 モデル論 はじめに モデル論 はじめに 現在のCAD／CAM／CAEに代表されるディジタル化され た設計・生産（Computer-Aided Design and Manufacturing） においては，モデルは不可欠なものとなっている． その一方で，モデルという概念は多様な内容を含み，また モデルに起因して発生する問題も多く存在する． 今回の講義では，モデルというものを，その原点から問い 直し，そこに含まれるさまざまな意味内容と，利用の方法，問 題点などについて考えていく． 北海道大学情報科学研究科 システム情報科学専攻 小野里 雅彦 (Masah
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
統計数理研究所 H24年度公開講座「確率的トピックモデル」
転送中
index.htm