trapexit.org: Erlang community site
We build transformative solutions for the world’s most ambitious companies. By providing user-focused consultancy, high tech capabilities and connection to diverse communities. We’re the world-leading experts at building massively scalable distributed systems. We have over 20 years of experience building critical digital infrastructure that scales to billions of users without error. We create a re
統計的機械学習(Hiroshi Nakagawa)
統計的機械学習 (under construction) 導入ppt pdf 情報の変換過程のモデル化 ベイズ統計の意義 識別モデルと生成モデル 次元の呪い 損失関数, bias, variance, noise 数学のおさらいppt pdf 線形代数学で役立つ公式 情報理論の諸概念 (KL-divergenceなど) 指数型分布族、自然共役 正規分布(条件付き、および事前分布) 評価方法ppt pdf 順位なし結果の評価(再現率、精度、適合率、F値) 順位付き結果の評価 線形回帰と識別ppt pdf 線形回帰 正規方程式 正規化項の導入 線形識別 カーネル法ppt pdf 線形識別の一般化 カーネルの構築法 最大マージン分類器 ソフトマージンの分類器 SVMによる回帰モデル SVM実装上の工夫 モデル推定ppt pdf 潜在変数のあるモデル EMアルゴリズム 変分ベイズ法 Expecta
第11回 Kansai.pm / スペルミス修正プログラムを作ろう - naoyaのはてなダイアリー
昨日は第11回 Kansai.pm でした。 今回は無理を言って自分がホストを担当させていただきましたが、面白い発表が多く開催した自分も非常に満足でした。 PFI の吉田さんによる Cell Challenge での計算機に合わせたアルゴリズムのチューニング手法の発表 (発表資料) は圧巻でした。伊奈さんの本文抽出の話 (発表資料)、はこべさんのコルーチンの話 (発表資料)、いずれも難解になりがちなところを凄く分かりやすく解説されていて、さすがだなと思いました。各々ショートトークも、いずれも良かったです。 スペルミス修正プログラムを作ろう 自分も 20 分ほど時間をいただいて、スペルミス修正プログラムの作り方について発表しました。 スペルミス修正プログラムを作ろうView more presentations from Naoya Ito. スペルミス修正プログラムについてはずばり スペル
新はてなブックマークでも使われてるComplement Naive Bayesを解説するよ - 射撃しつつ前転 改
新はてブ正式リリース記念ということで。もうリリースから何週間も経っちゃったけど。 新はてなブックマークではブックマークエントリをカテゴリへと自動で分類しているが、このカテゴリ分類に使われているアルゴリズムはComplement Naive Bayesらしい。今日はこのアルゴリズムについて紹介してみる。 Complement Naive Bayesは2003年のICMLでJ. Rennieらが提案した手法である。ICMLというのは、機械学習に関する（たぶん）最難関の学会で、採択率はここ数年は30%を切っている。2003は119/371で、32.1%の採択率だったようだ。 Complement Naive Bayesの位置づけは 実装が簡単 学習時間が短い 性能もそこそこよい という感じで、2003年段階にあっても、絶対的な性能ではSVMに負けていた。しかし、学習が早いというのは実アプリケーシ
Introduction to Information Retrieval #12 の復習資料 - naoyaのはてなダイアリー
Introduction to Information Retrieval 輪読会 12章の復習資料を以下にアップロードしました。 http://bloghackers.net/~naoya/iir/ppt/iir_12.ppt 12章は、は "Language models for information retrieval" ということで、確率的言語モデルを情報検索に適用する話でした。 確率的言語モデル 確率的言語モデルとは、自然言語を数学的に扱うモデルに単語列、文字列が起こる確率を与えたものです。例えば "frog said that toad likes dog" という単語列 s があったとして、それぞれの単語の生起確率が与えられているとします。 frog said that toad likes that dog M1 0.01 0.03 0.04 0.01 0.02 0.04
『入門ベイズ統計』の読みどころ - hiroyukikojima’s blog
今回は、前回の日記の補足。 前回の統計学の面白さはどこにあるか - hiroyukikojimaの日記で松原望先生の本 入門ベイズ統計―意思決定の理論と発展 作者: 松原望出版社/メーカー: 東京図書発売日: 2008/06メディア: 単行本購入: 107人 クリック: 2,061回この商品を含むブログ (46件) を見るを紹介した。そのときは、この本を手にしていなかったので、早速注文した。そして今、手に入って、ぱらぱらと眺めてみた。そう、予想通り、これは名著『統計的決定』放送大学に大幅加筆をしたものだった。というわけで、紹介してしまった手前、責任をもってもうちょっとフォローしなければ、と思ってこれを書いている。 この本は確かに名著である。その理由をいくつか挙げてみよう。まず挙げるべきは、 ベイズ推定の哲学的背景について包み隠さず正面から書いている という点である。前回も書いたが、ベイズ推
統計学入門
さて皆さん、「数字は魔物、統計は数字のトリック」などと言われ、統計学はある人々からは疫病神のように忌みに嫌われ、またある人々からは金科玉条のごとく無条件に信奉され、はたまた別の人々からは塵芥のごとく無視されています。 しかしやかましくいわれている割には、その本質が十分理解されているとはいい難いのが現状ではないでしょうか？ 研究現場の研究者が統計手法を利用する時に犯す間違いのうち、ほぼ90％のものが非常に初歩的なものです。 そしてそれらの間違いは研究者が統計学の基本的な事柄をはっきりと理解していないか、あるいはそれらを誤解していることが原因になっています。 例えば研究現場でしばしば間違って使われている統計手法のベスト3は次のようなものです。 有意確率(p値)と「有意差あり」の意味 標準偏差(SD)と標準誤差(SE)の使い分け 多重比較の使用方法 これらは全て非常に初歩的かつ基本的なことです。
Class N-gramモデルとHMM、もしくはどこが隠れてるねん - 射撃しつつ前転 改
Class N-gramモデルというのは、各単語はあるクラスに所属するものとし、クラスの連なりによって次の単語の確率分布を予測する言語モデルである。各単語がどのクラスに所属するかは、コーパスの対数尤度を最大化するように決定される。 このモデルはHMMと非常に似ている。HMMとの違いは、HMMでは単語があるクラスへと所属する確率が存在するのに対し、Class N-gramモデルでは単語はあるクラスへと確実に所属するところだ。つまり、クラスAに所属する単語は、クラスBやCには絶対に所属しない。（HMMだと、クラスAへの所属確率0.8, クラスBへの所属確率0.1、みたいになる。）比べてみるとつまり、HMMの方がちょっと柔らかい印象を受ける。 今、ちょっと嘘を書いた。もしかするとClass N-gramモデルという言葉で、各単語のクラスへの所属確率をイメージする人もいるかもしれない。ただ、この日
Linusのクリスマスプレゼントが引き起こした問題（2/2） － ＠IT
1月版 Linusのクリスマスプレゼントが引き起こした問題 上川純一 日本ヒューレット・パッカード株式会社 コンサルティング・インテグレーション統括本部 2008/1/31 /dev/randomと/dev/urandomのエントロピー Linuxカーネルには、環境ノイズをエントロピー源として利用し、乱数生成に活用する機能があります。具体的には人間の利用するキーボードなどの入力デバイスのタイミングの「ぶれ」などを活用します。 /dev/randomで提供されている乱数生成の仕組みは、この機能を活用していますが、サーバ運用の場合に問題が発生します。サーバは、人間が入力デバイスで直接操作しない場合が多いため、エントロピーが足りなくなり、十分にランダムな乱数が生成できなくなるのです。 このように十分なエントロピーが得られない場合、/dev/urandomは妥協して疑似乱数を返しますが、/dev/
「ページビューを稼ぐにはやはりブクマだよね」を検証してみた
昨日のエントリーに引き続き、今日もブログのページビューの統計解析。今日は、一週間あたりのブックマーク数とページビューの相関関係をプロットしてみた。 これもしっかりと相関関係が出ている（一つだけ例外的に４８０近くもブックマークを集めたにも関わらずページビューが極端に低い週があるが、これは年末で例外的にトラフィックが低かった週のデータ）。 最小二乗法で求めた直線の方程式は、Y＝53595+45X（Y:ページビュー、X:ブックマーク数）。Coefficient Determination（R^2）は３７％。相関関係はエントリー数よりも強い。"45X"の項目は、ブックマークが一つ増えるとページビューが４５増えることを示しており、ページビューを稼ぐためにはブックマーカーに受ける記事を書くことが一番の近道だ、ということを表す。 ◇ ◇ ◇ さて、ここまで読んでいただいて、あなたはどう感じただろうか？「
Restricted Boltzmann Machineが勉強したいよ - 射撃しつつ前転 改
Deep Belief Netが面白そう Restricted Boltzmann Machineというのを勉強しないといけなさそう？ Restricted Boltzmann Machineの前に普通のBoltzmann Machineの勉強が必要そう Boltzmann MachineはHopfield Networkにsimulated annealingを導入したものらしいので、まずHopfield Networkの勉強がいるね ←いまここ Hopfield Networkとか、なんかの教科書で読んだ覚えはあるんだけど、しっかりとした記憶としてはまったく定着していない。学生時代、もうちょっと真面目に勉強しておけば良かったね…。
AKB48の44枚問題とTeao分布 - 射撃しつつ前転 改
AKB48というアイドルグループが、CD付属のポスターを全員分集めると参加資格が得らられるリリース記念イベント「春の祭典」を開催するそうだ。2chとかでも反応がすごいみたい。1枚1250円のCDで、ポスターはランダムに付属、人数は44人という、直感的にはどれだけ金をつぎ込めば参加資格が得られるのか分からないイベントだ。 最低限の枚数44枚の購入で揃う確率は44!/44^44で、だいたい2.9x10^-72 1.29x10^-18（追記：計算間違えてた）になる。ほぼ0と言って良い。では、すべてのポスターの出現確率が一様であるとして、どれぐらい買えば44枚をコンプリートできるのか。 このように、おまけをコンプリートするために必要なおかしの数を計算する問題は一部では食玩問題と呼ばれており、また、m個のおまけがn個のおかしの購入で揃う確率に関しては、奈良の方ではTeao分布と呼ばれている。 詳しい
Text Processing in Python (a book)
A couple of you make donations each month (out of about a thousand of you reading the text each week). Tragedy of the commons and all that... but if some more of you would donate a few bucks, that would be great support of the author. In a community spirit (and with permission of my publisher), I am making my book available to the Python community. Minor corrections can be made to later printings,
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Amazon.co.jp: Distribution Theory and Transform Analysis: An Introduction to Generalized Functions, with Applications (Pure & Applied Mathematics S.): Zemanian, A. H.: 本
InfoQ: Apache Mahout: 拡張性の高い機械学習アルゴリズム
gamma functions « Python recipes « ActiveState Code
TechCrunch Japanese アーカイブ » 音声の未来は音なしの音声？
CSDL | IEEE Computer Society
IT news, careers, business technology, reviews
CRF - 西尾泰和のはてなダイアリー
