Nelder-Mead methodをRで実装した - yasuhisa's blog

最適化理論の課題提出期限が過ぎたと思うので、うpします。この辺の軌跡を書くためのコードです。 www.yasuhisay.info Nelder-Mead methodがどんな手法の説明はこの辺に書いている。一行で要約すると、ヘッセ行列、勾配ベクトルすら使わずに関数値のみで動いていく最適化手法で変数が非常に多いときなどに威力を発揮するような手法です。 課題では(図示するために)2変数の最適化問題となっていますが、コード自体はさらなる多変数でも動くように作ってます。まあ、結局optim関数で実装されているので実際に使うことはないと思うけど、自分でいじりたくなったときのためということで。あと、パラメータを変えたときにTeXをちまちま編集するのが面倒だったので、RでTeXを吐いてincludeするようにしているなど。収束判定は結構微妙なところがあり、論文にもいろいろ書いてあったが面倒だってので定