タグ検索の該当結果が少ないため、タイトル検索結果を表示しています。
ちょっと前に、しょうもないことを某所で放言したら思いの外拡散されてしまいました。 機械学習の説明可能性（解釈性）、大半のケースで求められているのは厳密な分類・回帰根拠ではなく受け手の「納得感」なので、特に実ビジネス上は説明可能性に長けたモデルを開発するより、納得できないお客さんを巧みに関係性構築した上で口八丁で完璧に説得できる凄腕営業ピープルを雇う方が重要— TJO (@TJO_datasci) 2019年11月23日 これ自体は与太話なので実際どうでも良い*1のですが、最近色々な研究や技術開発の進展はたまた実務家による考察などを見ていて、「機械学習の説明可能性（解釈性）というのは思った以上に複雑な迷宮だ」と感じることがままあったのでした。 ということで、今回の記事では僕のサーベイの範囲でザッと見て目についた資料などを超絶大雑把にリストアップした上で、主に実務における説明可能性とは何かとい
こんにちは。Merpay Advent Calendar 2019 の24日目は、メルペイ Machine Learning チームの @yuhi が機械学習における解釈性についてお送りします。 目次 機械学習における解釈性とは なぜ解釈性が必要なのか 1. サービスを提供する事業者としての説明責任 2. 推論結果に対する社内外の関係者の理解 3. モデルのデバッグ、精度改善 どのようなアプローチがあるのか SHAPについて サマリ 基本的なアイディア 問題設定 説明可能モデルに対して満たしてほしい性質 説明可能モデルを求める SHAPの実装について 最後に References 機械学習における解釈性とは 深層学習をはじめとする機械学習分野の発展に伴って、これまでにないユニークなサービスが開発され、また多くの業界において業務が効率化、高度化されつつあります。メルペイでも機械学習を用いて、
機械学習とタスクについて 回帰や分類などのタスクに機械学習モデルを活用することがあります。 例えば、以下の記事ではフクロウの種類を分類するために深層学習モデルを活用しています。 PyTorch Lightning入門から実践まで -自前データセットで学習し画像分類モデルを生成-ディープラーニングフレームワークPytorchの軽量ラッパー”pytorch-lightning”の入門から実践までのチュートリアル記事を書きました。自前データセットを学習して画像分類モデルを生成し、そのモデルを使って推論するところまでソースコード付で解説しています。...
【DL輪読会】SimCSE: Simple Contrastive Learning of Sentence Embeddings (EMNLP 2021)
3つの要点 ✔️ディープニューラルネットワーク（DNN）の解釈性を向上するためにDNNと決定木を組み合わせる手法が提案されてきたが、既存の手法は精度が悪く、DNNの構造を大きく変えてしまう点で問題があった。 ✔️ 本論文では、Neural-Backed Decision Trees（NBDTs）によって上記の問題を解決する。Tree Supervison Lossと言う損失関数を導入することで、DNNの構造を変えず、通常のDNNから大きく精度を落とさずに、解釈性のあるモデルとして、SOTAを達成した。 ✔️ NBDTsが計算過程の意味を解釈できる量的・質的根拠を示している。 NBDT: Neural-Backed Decision Trees written by Alvin Wan, Lisa Dunlap, Daniel Ho, Jihan Yin, Scott Lee, Henry
SHAP を用いた機械学習への解釈性付与
（noteの「クリエイターを応援する」で応援していただけると嬉しいです。よろしくお願いします） SHAP（SHapley Additive exPlanations）とは背景昨今では機械学習モデルに解釈性や説明性が強く求められるようになっており「説明可能なAI（Explainable AI｜XAI）」が着目されるようになっている。 SHAPは、予測モデルに対してそのような解釈性を付与するために作られたライブラリ。 SHAPとは協力ゲーム理論のシャープレイ値（Shapley Value）を機械学習に応用したオープンソースのライブラリ。 SHAPを使うことで、ある機械学習モデルが導き出した予測値に対して、それぞれの特徴量の影響をどれだけ受けたか（寄与の度合い）を求めることができる。 特に、変数重要度をデータ個別に出せる点が、SHAPの魅力的な点と言える。 アウトプット例として、例えば以下の図。
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
機械学習の説明可能性（解釈性）という迷宮 - 渋谷駅前で働くデータサイエンティストのブログ
機械学習における解釈性について | メルカリエンジニアリング
機械学習モデルの説明性・解釈性について -SHAPによる実践あり-｜はやぶさの技術ノート
BlackBox モデルの説明性・解釈性技術の実装
![[みんなのケータイ]そろそろ何とかして欲しい、おサイフケータイの初期化](https://cdn-ak-scissors.b.st-hatena.com/image/square/2e57bb8b64219fe44091a2bc5d584dd618f55169/height=288;version=1;width=512/https%3A%2F%2Fk-tai.watch.impress.co.jp%2Fimg%2Fktw%2Flist%2F1591%2F477%2F2k.jpg)
山本一成🌤️TuringのCEO on X: "AIがいい手を指しても解釈性が無いと表現される一方で、羽生さんが「妙手ですね〜」といったら、とりあえずみんなが納得するの不公平感がある😵💫 AIのアウトプットの解釈性に疑問が呈される問題は本当は解釈性ではなくて、人間の介在による安心感や納得感がほしいだけだと思ってる。"
木構造でニューラルネットワークを解剖！？精度と解釈性のトレードオフを解消するNBDTとは
kuruma-news.jp
yakuin-hoshu.com
www.youtube.com
www.nikkei.com
www.47news.jp
qiita.com/akima