タグ

ブックマーク / qiita.com/ta-ka (3)

  • pythonで制約ボルツマンマシン実装 - Qiita

    はじめに こんにちは @ta-ka です. この記事は 数学とコンピュータⅡ Advent Calendar 2017 の25日目の記事です. pythonで制約ボルツマンマシンを実装しました. 教科書として『深層学習』を使いました. 記事の構成 はじめに 制約ボルツマンマシン ボルツマン分布 条件付き分布 対数尤度関数 パラメータ更新 CD法 実装 結果 おわりに 下図のような構造を持つ無向グラフを考えます. $v_{i}$ を可視変数,$h_{j}$ を隠れ変数と呼び,$v_{i}, h_{j}$ は $0$ か $1$ の値をとります. ボルツマン分布 ボルツマン分布を下式で定義します. 指数部分の値が大きいほど,$\boldsymbol v, \boldsymbol h$ の生起確率が高くなるような分布です. \begin{align} p(\boldsymbol v, \bol

    pythonで制約ボルツマンマシン実装 - Qiita
  • pythonでHMMのパラメータ推定実装 - Qiita

    はじめに python で HMM のパラメータ推定を実装しました. 教科書として『続・わかりやすいパターン認識』を使いました. 記事の構成 Hidden Markov Model サイコロ投げ 記号の整理 評価 forward algorithm backward algorithm 推定 Baum-Welch algorithm スケーリング 実装 結果 おわりに Hidden Markov Model 一時点前の状態に依存して現在の状態が確率的に決まるような特性を マルコフ性 と呼び, マルコフ性を満たす過程を マルコフ過程 と呼びます. このような事象の例として,株価や音声信号,言語などが挙げられます. マルコフモデルにおいて,出力記号の系列のみ観測でき,状態の系列が観測できないモデルを 隠れマルコフモデル(Hidden Markov Model) と呼びます. サイコロ投げ H

    pythonでHMMのパラメータ推定実装 - Qiita
  • pythonでSVM実装 - Qiita

    はじめに pythonでSVM(サポートベクターマシン)を実装しました. 教科書として『はじめてのパターン認識』を使いました. 記事の構成 はじめに SVM マージン最大化 主問題 ラグランジュ未定乗数法 KKT条件 双対問題 解の求め方 pythonでの実装 結果 おわりに 追記情報 SVMとは,最大マージンを実現する2クラス線形識別学習法です. 教科書によると,他クラスの識別は $K-1$ 個の一対多SVMで実現することが多いようです. マージン最大化 次のようなデータ集合を考えます. データの総数を $N$ とすると,$i = 1,...,N$となります.

    pythonでSVM実装 - Qiita
  • 1