SVMにおける2次計画問題の解法に対する考察
SVMの 2次計画問題に関する解法の考察 東京理科大学工学部経営工学科 沼田研究室 4400079 戸田健一 卒業研究発表 1 発表構成 1. はじめに 2. クラス判別とSVM 2-1. クラス判別問題 2-2. サポートベクターマシン 2-3. 線形分離不可能な場合のSVM 2-4. 非線形SVM 3. 4. 5. 6. 7. Sequential Minimal Optimization(SMO) 2段階SMO 実験 実験結果，考察 まとめ 参考文献 2 1.はじめに パターン認識問題におけるクラス判別手法： サポートベクターマシン(SVM)[1],抄録[3] SVM：2次計画問題を解く →データが多くなるにつれて計算量が非常に多くなる Sequential Minimal Optimization (SMO) [2],[3],抄録[1],[2]： SVMによる2次計画問
Support Vector Machine が気になる
ちょっと調べたいことがあったのでメモ。 Support Vector Machine という、パターン認識へ適用できる学習機械があるらしい。 サポートベクターマシン [Wikipedia] はっきり言って、Wikipedia を読んでもなんのことかさっぱりわからない。 ということで、下記に比較的わかりやすい解説を発見。 SVM を使うと，なにが嬉しいの？ その他、リンク。 Support Vector Machine [TAKASHI ISHIDA HomePage] Support Vector Machine って，なに？ [Masato Aoba's Web-page] サポートベクターマシン [宇都宮大学 工学部電気電子工学科 情報通信システム工学講座 足立・平田研究室] サポートベクターマシン(SVM) [机上の空論] Kernel m
Support Vector Machine - にゃあさんの戯言日記
昨日の話の続き。 実験で学習をするロボットを作るということで、学習のためのアルゴリズムをいくつか調べた。そこで最終的に採用したのがSupport Vector Machine(SVM)。詳しい説明は各サイトでどうぞ。 提案された当初のSVMは線形分離可能な2クラスを識別するためのアルゴリズムだったのだけど、カーネルトリックと呼ばれる手法を取り入れることによって非線形な集合の識別にも適用することができるようになった。実際に使ってみると、確かににょろーんとした境界を張って識別してくれるんだよなあ。不思議。 Javaアプレットでデモを作ってみたので、よかったら遊んでみてください。 http://nya3.jp/files/SVMDemo/SVMDemo.html (Javaアプレット) http://nya3.jp/files/SVMDemo/example1.png (例1) http://n
サポートベクターマシン入門
次へ: はじめに サポートベクターマシン入門 栗田 多喜夫 Takio Kurita 産業技術総合研究所 脳神経情報研究部門 Neurosceince Research Institute, National Institute of Advanced Indastrial Science and Technology takio-kurita@aist.go.jp visitors since Jul. 19, 2002. 概要: 最近、サポートベクターマシン(Support Vector Machine, SVM)と呼ばれるパター ン認識手法が注目されており、ちょっとしたブームになっている。カーネルトリッ クにより非線形の識別関数を構成できるように拡張したサポートベクターマシン は、現在知られている多くの手法の中でも最も認識性能の優れた学習モデルの一 つである。サポートベクターマ
ところでサポートベクターマシンって何なの？ - きしだのHatena
最近、機械学習とか、そのアルゴリズムのひとつであるサポートベクターマシンとかやってるわけですが、そもそも機械学習ってなんなんでしょか？ 機械学習ってのは、なんとなく与えられた点の分類から、新たに与えられた点の分類を推測するのですが、ようするに、点が与えられたときにそこから分類の領域を推測しておいて、新たな点がきたときにはどの領域に入るかを判別するのです。 ニューラルネットワークは、名前にニューロンとかついてて、とてもステキな響きがするのですが、あれは関数のあてはめを行っているのです。そうやって関数をあてはめることで、領域の境界面を求めます。 NN法は、学習とかせず、一番近いデータが同じ分類になるはずという戦略でやってます。 サポートベクターマシンも考え方としてはNN法と同じで、新しい点がやってくると、学習したそれぞれの点までの近さを計算して、一番ちかい分類を求めます。そのため、学習データが
SVM - 機械学習の「朱鷺の杜Wiki」
Freeware† mloss:linear-svm, mloss:support-vector-machines, mloss:svm, mloss:support-vector-machine SVM Software @ www.svms.org LIBSVM (C) Weka LibSVM (WLSVM) LIBLINEAR：大規模計算用，L1/L2損失 (C/C++) liblinear2scipy：pythonラッパー SVM perf, SVM light (C) Tree Kernels in SVM-light SVM python：pythonインターフェース Algorithm-SVMLight：perlインターフェース LaSVM：近似オンライン学習の利用による高速化 svmsgd @ Léon Bottou：確率的勾配降下法の利用 Pegasos AI-Categ
Making The Road Blog - phpでLIBSVM(追記あり)
前回のエントリーでPHPでもSWIGが使えることが分ったので，実際にC言語で書かれたライブラリをPHPエクステンションにコンバートしてみた． 今回PHPエクステンション化に挑戦したライブラリはLIBSVM．有名なサポートベクターマシーンのライブラリ．つかったことけど（え 選んだ理由は 最近SVM勉強中 Python用のインターフェイスファイルが付属 とくに学術系に顕著だが，Perl，Python，Ruby用のインターフェイスは用意されているのにPHPでは用意されていないことが多い．それもSWIGで作っただけのインターフェイスなのに． 他のLL言語に比べてPHPはなめられている気がしなくもない．インタラクティブなシェル(php -a)がイマイチだから？WEB専用だから？ とりあえず結論からいうとLIBSVMもPHPで使えるんです！仲間にいれてください！ 個人的な思いは置いといて，以下，
Zinniaの多クラス分類法 - 射撃しつつ前転 改
ZinniaというSVMベースの新しい手書き文字認識エンジンがリリースされたので、早速ソースコードを少し読んでみた。 文字認識というのは、機械学習では多クラス分類という問題に分類される。しかもクラス数が認識したい文字数（数千文字程度だろう）分だけ存在するという、なかなか計算量的に厳しい問題である。二値分類器を使って多値分類器を構成する方法にはone vs rest, one vs one, その他にもいろいろあるらしいが、その中のどれを使っているのかというところに興味があった。Webによると、50〜100文字/秒の認識速度と書いてあったので、コードを読む前の予測としては、one vs oneかなーと思っていた。（速度的にはone vs oneの方がone vs restより速い。） しかし、そんな予想を裏切り、recognizer.cppの148行めあたりからには以下のようなコードが書いて
Support Vector Machine
最近よく巷で耳にするモノ． SVM， Support Vector Machine， さぽーとべくたーましん． これっていったい，どんなもんなんでしょう． なにやら便利そうなモノらしいので，ちょいと調べて要点をまとめてみようかな，なんて． でも，ただまとめただけだとそのへんの記事を読むのとなんにも変わらないので， コーディングするために必要な知識を中心にまとめてみることにします．
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
やる夫はSVMを実装したようです やる夫で学ぶ非線形なSVM