Confidence Weighted Linear Classificationを読んだ - 射撃しつつ前転 改

ICML2008で発表されたDredzeらのConfidence Weighted Linear Classificationを読んだ。これは線形分類器を学習する新しいオンライン学習型アルゴリズムの提案である。すぐに使える実装としてはOLLというオープンソースのライブラリがあり、実際に良い実験結果が出ているようだ。 Confidence Weightedのアイデアは、よく出てくる素性に関しては一回の更新における数値の変更量を減らしてやり、あまり出てこない素性に関しては、一回の更新でぐっと値を変更してやろう、というものである。 こういった新しい更新方法を考案した動機を明らかにするために、Perceptronを使って、単語を素性として評判分類の学習を行うような問題を考えてみる。肯定的な評価のサンプルとして"I liked this author."というものがあったとすると、このサンプルの分類

[aidiary]

オンライン学習

[peroon]

オンライン学習

[HeavyFeather]

分類器のオンライン学習について

[tettsyun]

CW

[syou6162]

オンライン機械学習のアルゴリズムCWの分かりやすい説明。なぜブクマしていなかったのか

[n_shuyo]

自分でデータを作ってOLLに食わせてみたら、Confidence Weighted はダントツの精度だった。読まなきゃ。

[sett-4]

ICML2008で発表されたDredzeらのConfidence Weighted Linear Classificationを読んだ。これは線形分類器を学習する新しいオンライン学習型アルゴリズムの提案である。すぐに使える実装としてはOLLというオープンソースのライブラリがあり、実際に良い実験結果が出ているようだ。

[otonasi_kaoru]

詳しく見てみる

[hiromark]

"パラメータを多次元正規分布から生成されたものと考え、その分散を信頼度として扱うことで、収束の早い線形識別器の学習アルゴリズム"、ちょっと深追いしてみたい。