説明可能なAIとは | Googleの「Explainable AI」に触れながら解説 | Ledge.ai

AIが注目されている理由のひとつであるディープラーニングには、モデルがブラックボックスになるという問題がある。そこで、医療業界や金融業界を筆頭に、「説明可能なAI」への注目が集まっている。今回は、そもそも説明可能なAIとは何か？という部分から、最近Googleが発表した説明可能なAIを実現するためのツールの長短まで、株式会社HACARUSのデータサイエンティストである宇佐見一平氏に解説してもらった。 こんにちは、HACARUSデータサイエンティストの宇佐見です。 「説明可能なAI」という言葉はご存知でしょうか。 説明可能なAIとは、米国のDARPAの研究が発端の概念で、モデルの予測が人間に理解可能であり、十分信頼に足る技術、またはそれに関する研究のことを指します。 たとえば医療業界のように、診断の理由を患者さんに説明しなけらばならない場合には、説明可能で解釈性の高いモデルが必要です。このよ

[misshiki]

“GoogleのExplainable AIでは、Feature Attributionという値によってモデルの予測結果を評価します。Feature Attributionの計算方法には「Integrated Gradients」と「Sampled Shapley」があります。”

[name-25137412]

「たとえば画像に対してFeature Attributionを用いてモデルが重要視した部分はわかりますが、なぜそこを重要視したのか、どのような計算をして重要視したのかまではわかりません」ふむ