PRML読書会の最終回に参加してきました.今回はスペシャルゲストのしましまさんが参加され,ラスボスを迎えての感動の最終回となりました. 最終回は前から気になっていた14章ブースティングの発表を担当しました.ブースティングは使ったことがあったけれど,なんでそれでうまく学習できるのか,という部分を全然知りませんでした.PRMLではVC次元による解釈はせずに,それまでの試行で得られた弱学習器とその重みを固定して現在の試行の弱学習器とその重みを損失関数を最小化するように決定している逐次最適化という解釈で式の導出を説明しています.ここの導出は非常に簡単で,いつも演習問題をサボ微分ができないゆとりにも優しい,とても簡単な微分で導出することができました. また,尤度演習14.7では変分最小化によって式(14.28)の導出を行うのだけれど,ゆとりに自信を与えてくれるような非常に優しいパターンになっていて,