ちょっと前に、しょうもないことを某所で放言したら思いの外拡散されてしまいました。 機械学習の説明可能性（解釈性）、大半のケースで求められているのは厳密な分類・回帰根拠ではなく受け手の「納得感」なので、特に実ビジネス上は説明可能性に長けたモデルを開発するより、納得できないお客さんを巧みに関係性構築した上で口八丁で完璧に説得できる凄腕営業ピープルを雇う方が重要— TJO (@TJO_datasci) 2019年11月23日 これ自体は与太話なので実際どうでも良い*1のですが、最近色々な研究や技術開発の進展はたまた実務家による考察などを見ていて、「機械学習の説明可能性（解釈性）というのは思った以上に複雑な迷宮だ」と感じることがままあったのでした。 ということで、今回の記事では僕のサーベイの範囲でザッと見て目についた資料などを超絶大雑把にリストアップした上で、主に実務における説明可能性とは何かとい

恵比寿駅の喫茶店。イヌ、サル、キジが張り詰めた空気でテーブルに同席している。 喫茶店のドアを開けて、桃太郎が入ってくる。 桃太郎「おつかれーっす」 イヌ、サル、キジ「……っす」 桃太郎「ごめんごめん、遅くなっちゃったわ。いやね、きのう金太郎と浦島太郎と飲みがあってさ」 キジ「え、あの有名な……」 桃太郎「そうそう。お互い名刺交換して。まぁやっぱ視座の高さが違ったわ。特に浦島太郎なんて玉手箱開けた経験者だし。金太郎は店にクマで乗り付けてた。ツキノワグマ」 サル「はー、すごいっすね」 桃太郎「浦島太郎、酔って乙姫に今から店こいよ！ってLINEしてたわ。ま、来なかったんだけど」 イヌ「……」 桃太郎「で、今日は何の話だっけ？」 サル「えーっと、それがっすね……」 桃太郎「来月の、鬼ヶ島ロンチの話？」 キジ「いや……」 イヌ「……俺から話すわ。実は、四人の座組みの件で、もう一回ちゃんと話したくて」