Accumulated Local Effects（ALE）で機械学習モデルを解釈する - Dropout

はじめに Partial Dependence 特徴量が独立の場合 数式による確認 PDの実装 特徴量が相関する場合 PDがうまく機能しない原因 Marginal Plot Marginal Plotの数式 Marginal Plotのアルゴリズム Maginal Plotの実装 Accumulated Local Effects ALEのアイデア ALEはうまく機能するのか ALEのアルゴリズム ALEの実装 ALEの数式 まとめ Appendix：線形回帰モデルの場合 参考文献 この記事をベースにした発表資料です！ speakerdeck.com はじめに Random Forestやディープラーニングなどのブラックボックスモデルは、予測性能が高い一方で解釈性が低いというトレードオフを抱えています。 これを克服するために、ブラックボックスモデルに後から解釈性を与える「機械学習の解釈手法

[rawwell]

"ALEについてより詳しく知りたい場合は元論文のApley and Zhu(2020)をご確認ください"

[skypenguins]

“ALEは特徴量が強く相関する場合でも、（データが存在する範囲での）特徴量をとモデルの予測値の関係をうまく解釈することができる”

[misshiki]

“特徴量に相関があるとなぜPDがうまく機能しないのかを説明し、この状況でうまく機能する手法としてAccumulated Local Effects（ALE）を紹介。PythonでALEのアルゴリズムを実装することを通じてALEの振る舞いを確認”