2008-10-27おさらい データ を生成する分布はどれか、という潜在変数 が決まれば、事前分布 から生成されたパラメータ が一意に決まる、ということだった。 今回はIRMで の事前分布として用いられているChinese Restaurant Process (CRP)をみてみる。 予測分布 仮に今、 までの潜在変数 が既知であるとすると、 番目の潜在変数の予測分布は というように表せる。積分内の第1項目は簡単で, 番目の分布が選ばれる確率だから 。 第2項はベイズの定理 (Bayes' theorem) より つまり、 だとわかる。 すると、この積分は に関して期待値を計算していることになるので、 (ディリクレ分布の期待値を参照。) の極限 上の式の極限 をとると、混合数が無限個の場合 要素を 個持つクラスタに属する確率は 新規クラスタ に属する確率は となる。。 Chinese Restaurant
