タグ

機械学習と無限=夢幻に関するomega314のブックマーク (2)

  • Infinite Hidden Markov Modelによる教師なし品詞推定

    概要 The Infinite Hidden Markov Modelを読んだ C++で実装した はじめに Infinite Hidden Markov Model(以下IHMM)は、隠れマルコフモデル(HMM)の状態数をデータから決定することができるモデルです。 HMMにおける状態遷移確率をディリクレ過程によって生成することで無限の状態数を扱います。 それぞれの状態からの遷移確率に共通の(離散的な)基底分布を与えることで現在の状態数を共有し、さらにこの基底分布の基底分布として連続分布を与えることで新しい状態を無限に生成することができます。 参考文献 最近のベイズ理論の進展と応用 (III) ノンパラメトリックベイズ IHMMによる「不思議の国のアリス」の学習例が載っています ノンパラメトリックベイズ法 続・わかりやすいパターン認識―教師なし学習入門― ディリクレ過程や隠れマルコフモデルの

  • ノンパラメトリックベイズ

    • – • • – • • } , , , { 2 1 N X x x x L = ) | ( Θ X p Θ • – • – ) | ( Θ X p ) | ( Θ x p ∏ = = Θ 6 1 ) | ( k x k k p θ x } , , , , , { 6 5 4 3 2 1 θ θ θ θ θ θ = Θ ∏∏ = = = Θ N n k x k k n X p 1 6 1 , ) | ( θ 1 ) | ( 6 1 = = Θ ∑ ∫ = k k d p θ x x } , , , { 2 1 N X x x x L = n x • – • – • Θ Θ ) | ( X p Θ ) | ( X p Θ • } , , , , , { 6 5 4 3 2 1 θ θ θ θ θ θ = Θ ∏∏ = = = Θ N n k x k k n X p 1 6 1 , ) |

  • 1