MCMCと変分近似 - 作って遊ぶ機械学習。

今回は代表的な２つの確率分布の近似推定手法であるMCMCと変分近似を比較します。変分近似に関しては複数回にわけて記事にしているのでそちらを参照されるとよいです。 変分近似（Variational Approximation）の基本（１） 変分近似（Variational Approximation）の基本（２） 変分近似（Variational Approximation）の基本（３） さて、MCMC（Markov Chain Monte Carlo）は、サンプリング手法の一種です。サンプリングでは、解析的に計算できない事後分布の統計量などを、データをサンプリングすることによって近似的に求めます。今回はMCMCの中でも一番シンプルで便利なギブスサンプリング（Gibbs sampling）と呼ばれる手法を紹介します。 前回取り上げた2次元ガウス分布の近似問題をまた例に取り上げます。今回はこの