指数型分布族とは 確率変数 x∈Rmx \in \mathbb{R}^mx∈Rm を規定する密度関数がパラメータ θ∈Rd\theta \in \mathbb{R}^dθ∈Rd を用いて以下の形に表現できるとき、この分布を指数型分布族といいます。 p(x∣θ)=1Z(θ)h(x)eθ⊤ϕ(x)p(x|\theta) = \frac{1}{Z(\theta)}h(x)e^{\theta^\top \phi(x)}p(x∣θ)=Z(θ)1h(x)eθ⊤ϕ(x) ただし Z(θ)Z(\theta)Z(θ) は正規化項なので以下の積分で与えられます。 Z(θ)=∫Rmh(x)eθ⊤ϕ(x)dxZ(\theta) = \int_{\mathbb{R}^m}h(x)e^{\theta^\top \phi(x)} dxZ(θ)=∫Rmh(x)eθ⊤ϕ(x)dx θ\thetaθ を標準パラメータ (