特異値分解 | 行列の分解 | プログラマーのための線形代数

特異値分解 “Singular-Value Decomposition” は、行列の分解の中で、おそらくもっとも機械学習への応用範囲が広いものです。なぜなら固有値分解などと比べて、安定して解を求めることができるからです。そのためコンピュータ・サイエンス関連でも、データの次元削減やファイルの圧縮、ノイズの除去などさまざまなアプリケーションに使われています。 特異値分解とは 特異値分解は、以下のように行列を 3 つの構成要素にまで削減する行列分解方法です。なお、ここでは簡単化のために実数の行列を扱い、複素数の行列は無視することにします。 \[ A = U \Sigma V^T \] \(A\) は \(m \times n\) の行列です。\(U\) は \(m \times m\) の直交行列です。\(\Sigma\) は \(m \times n\) の対角行列です。そして \(V^T\)