Ridge回帰とLasso - 突然終わるかもしれないブログ

Ridge回帰とLassoの簡単な方法の紹介です（メモ）． Rのパッケージglmnetを使って簡単にできます*1． Ridge回帰とLasso 線形回帰モデルとは \[ y=X\beta+\varepsilon,\quad y\in\mathbf{R}^n,\quad X\in\mathbf{R}^{n\times p},\quad \beta\in\mathbf{R}^p,\quad \varepsilon\in\mathbf{R}^n, \] というモデルです．$y$は目的変数，$X$は説明変数（計画行列）です．誤差項$\varepsilon$には平均0の正規分布を仮定するのが基本的です． さてデータ$(X,y)$からパラメータ$\beta$を推定することが線形回帰モデルの目標ですが，Ridge回帰は \[ \hat{\beta}_{\mathrm{ridge}}:=\mathrm{a

[hoxo_m]

良い記事。