cl-random-forestでは通常のランダムフォレストに加えて、ランダムフォレストの構造を使って特徴抽出し、それを線形分類器で再学習するという手法を実装している(Global refinement of random forest)。 通常のランダムフォレストに対して、この手法がどういう分類をしているかを見るために、二次元のデータでの実際の分類結果を可視化してみる。 参考: パッケージユーザーのための機械学習(5):ランダムフォレスト このエントリではXORのデータで、綺麗に分かれている場合とかなりオーバーラップしている場合 とでランダムフォレストの決定境界を描いている。データはそれぞれのリンク先にある。 ランダムフォレストを構築 まずはXORのデータからランダムフォレストを構築する。完全なコードはここにある。 (defparameter *target* (make-array 1