実務の現場においてモデリング（統計学的・機械学習的問わず）を行う上での注意点を挙げてみる - 六本木で働くデータサイエンティストのブログ
気が付いたら僕がデータ分析業界に身を置くようになってそろそろ5年近くになるんですね*1。この5年間の間に色々勉強したり業界内で見聞してきた経験をもとに、「実務の現場においてモデリングを行う上での注意点」についてだらだらと書いてみようと思います。 と言うのも、色々な現場で様々なモデリング（統計学的にせよ機械学習的にせよ）が行われていることが伝わってくるようになった一方で、ともすれば「え？こんな基礎的なポイントも守ってないの？」みたいなとんでもないモデリングがまかり通る現場があると愚痴る声を業界内で聞くことが少なくないので。自戒の意も込めて重要なポイントを備忘録としてブログ記事にまとめておくのも有益かなと思った次第です。 この記事では手法選択（線形・一般化線形・ベイズ＋MCMC・識別関数・識別モデル・生成モデル・樹木モデル・Deep Learning etc.）の話題は割愛しました。一般に、モ
[PDF]最小二乗法の今と昔
‐‐ ‐‐ Yin Jun‐Feng (Tongji University) 5 . 6 . 2008 House Open NII • • • • ⎩ ⎨ ⎧ = − = + ) 2 ( 2 3 ) 1 ( 5 3 2 L L y x y x ⎩ ⎨ ⎧ = − = + ) 2 ( 2 3 ) 1 ( 5 3 2 L L y x y x 1 , 1 ) 2 ( 2 3 ) 1 ( 5 3 2 = = ⎩ ⎨ ⎧ = − = + y x y x y x L L 1 , 1 ) 2 ( 2 3 ) 1 ( 5 3 2 = = ⎩ ⎨ ⎧ = − = + y x y x y x L L x y 5 3 2 = + y x 2 3 = − y x ) 1 , 1 ( 0 ⎪ ⎩ ⎪ ⎨ ⎧ = + − = − = + ) 3 ( 1 ) 2 ( 2 3 ) 1 ( 5 3 2 L L L y x
Stackingに関して （１） - 東京に棲む日々
予測モデルのコンペで使われているStackingという手法に関して。 モデルをEnsembleしまくって、マルチステージモデルにして予測精度を高めるときに使われる手法とのこと。 実務家な私も、業務でマルチステージモデル(2ステージ)を組む必要があったので、そのためのメモ。 kaggleなどで発明され、まだ教科書にはなっていない方法論のようで、以下を参照。 KAGGLE ENSEMBLING GUIDE 具体的には以下のような課題（データ）があった。 目的変数y(0,1のBinomial)、説明変数rとXでモデルを作りたい。 rは個々のセールスマンを示すようなカテゴリカルデータで、変量効果として扱いたい。 Xは営業日誌のようなテキストデータから単語抽出して、TF-IDF変換した横長なデータ。 混合モデル（Logistic GLMM）を作成したいが、横長なXをそのままロジスティックモデルの変数
PRML読書会の思い出（と復々習レーンkick-offのお知らせ） - naoya_t@hatenablog
しっかし３年前の６月にPRMLを読み始め「事前分布？ なにそれおいしいの」だった頃のshuyoに「３年後には言語処理学会やNAISTで発表してんねんで」とつぶやいてみたい。信じないだろうけどｗ PRML読書会を始めてくださった @naoya_t さんには感謝しまくってもし足りない— Nakatani Shuyoさん (@shuyo) 4月 9, 2012 PRML読もうとか言い出したのもう3年前になるのか… 生駒読書会 @mamorukさんの生駒日記より： 夕方、仕事の合間を縫って生駒市役所へ行き、転出届を出す。生駒市はかれこれ7年間住んだが、住みやすかったなぁ。NAIST に来る学生は不満たらたらな人も多いかもしれないが (遊び場所やバイト先がないとかいうことで)、家族で住むなら全国的にも相当住みやすい場所ではないかと思う。むしろ生駒を離れないといけないのが寂しい限りである。生駒を離れて
「子供に解けて大人に解けない問題」を統計的に無理やり解いてみた - ほくそ笑む
今日は、R-bloggers に面白い記事が上がっていたので、それを紹介してみようと思います。 問題 「子供にはすぐに解けて、大人にはなかなか解けない不思議な問題」をご存知でしょうか？ 最近ネットで割と話題になりました。 その問題は、次のようなものです。 8809 = 6 7111 = 0 2172 = 0 6666 = 4 1111 = 0 3213 = 0 7662 = 2 9312 = 1 0000 = 4 2222 = 0 3333 = 0 5555 = 0 8193 = 3 8096 = 5 7777 = 0 9999 = 4 7756 = 1 6855 = 3 9881 = 5 5531 = 0 2581 = ? https://twitter.com/#!/yappyJP/statuses/172086299099004928 なかなか面白い問題です。 答えはここでは書きませ
統計的機械学習入門
統計的機械学習入門(under construction) 機械学習の歴史ppt pdf 歴史以前 人工知能の時代 実用化の時代 導入ppt pdf 情報の変換過程のモデル化 ベイズ統計の意義 識別モデルと生成モデル 次元の呪い 損失関数, bias, variance, noise データの性質 数学のおさらいppt pdf 線形代数学で役立つ公式 確率分布 情報理論の諸概念 (KL-divergenceなど) 線形回帰と識別ppt pdf 線形回帰 正規方程式 正規化項の導入 線形識別 パーセプトロン カーネル法ppt pdf 線形識別の一般化 カーネルの構築法 最大マージン分類器 ソフトマージンの分類器 SVMによる回帰モデル SVM実装上の工夫 クラスタリングppt pdf 距離の定義 階層型クラスタリング K-means モデル推定ppt pdf 潜在変数のあるモデル EMアル
第7回 討論会資料 - 人工知能学会 データマイニングと統計数理研究会 (SIG-DMSM)
人工知能学会 データマイニングと統計数理研究会 (SIG-DMSM) 討論会「データ分析からうまれる、広がる研究と交友の輪」 「データに関わる人たちのすれちがい」神嶌 敏弘 (産業技術総合研究所) 発表資料のダウンロード 手法を作る人の間のすれちがい 機械学習（有用性）統計（妥当性）データベース（効率性）をそれぞれ重視 実用的なデータ解析にはどれも重要な要素なので，あまり一つの要因にはこだわりすぎない 手法を作る人と使う人のすれちがい データ分析のときに何を重視するか？ 作る人：分析手法に思い入れがあるので，解析手法が正しく使われ，結果が妥当であることを重視 使う人：データに思い入れがあるので，データから期待した結果がでることを重視 データ分析はデータのモデリング次第で結果が変わる 「あるモデルという見方の下では，こういうことがいえる」ということしか帰納的にはいえない 作る人：そん
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
http://0xdata.com/blog/2015/03/spark/certification/
Amazon.co.jp: The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Second Edition (Springer Series in Statistics) (English Edition): Hastie, Trevor, Tibshirani, Robert, Friedman, Jerome: Digital Ebook Purchas
速水桃子「パターン認識と機械学習入門」