多峰性の事前分布ってどうやって作るの？ - 作って遊ぶ機械学習。

ベイズ学習では、複雑なモデルにおけるパラメータの学習を効率的に行うために、しばしば観測モデルに対する共役な事前分布を仮定します。例えばベルヌーイ分布のパラメータの事後分布を推定するために、事前分布をベータ分布にしたりします。ウェブを検索すると様々な確率分布のパラメータに対応する共役事前分布のリストを見つけることができますが、そもそも、データを表現する観測モデルが決まってしまうと自動的にそのパラメータの事前分布が決まってしまうのは何だか窮屈な感じがしてしまいます。 今回はグラフィカルモデルを工夫することによって、もっと自由な、例えば多峰性の事前分布などを簡単に作れることをお話ししたいと思います。 [必要な知識] 下記をさらっとだけ確認しておくといいです。 ベイズの定理（確率の加法定理、乗法定理） グラフィカルモデルの基礎 多次元ガウス分布 基礎的な行列計算 さて、改めてベイズ学習におけるパラ

[fubar_foo]

あとで読む。もう一つ潜在変数を導入するってことなのかな。

[remcat]

ベイズ学習、多次元ガウス分布 >多峰性のガウス分布を事前分布にしても、最適化のような計算をせずに解析的に事前分布と同じ関数形の事後分布が求まる