【記事更新】私のブックマーク「説明可能AI」（Explainable AI） – 人工知能学会 (The Japanese Society for Artificial Intelligence)

説明可能AI（Explainable AI） 原 聡（大阪大学産業科学研究所） はじめに 2018年に本誌5 月号（Vol. 33, No. 3, pp. 366-369）の”私のブックマーク”に「機械学習における解釈性」という記事を書いた。前記事の執筆から1年が経ち、機械学習モデルの解釈・説明技術を取り巻く社会的な情勢の変化や新たな研究の発展など、数多くの進展があった。本記事はこれら近年の変化・進展についてまとめた、上記の”私のブックマーク”の続編である。本記事を読む前に、まずは上記の前記事をご一読いただきたい。 用語について 本記事では、機械学習モデルの出力に加えて、その出力を補助する追加の情報（モデルの解釈、判断根拠の説明、など）を出力する技術一般および研究分野全体を指す用語としてXAI（Explainable AI, 説明可能AI）を用いる。XAIはアメリカの国防高等研究計画局（D

[iww]

『しかし、以下の論文では説明そのものの信頼性に問題がある可能性が指摘されている。』

[call_me_nots]

ありがたいブックマーク

[aquarickn]

説明が難しいブラックボックスモデルばかりだと企業へ当て込む際、説明が出来ないのに説明をしなければならない事もあり、それで導入を見送られるケースはあった。結局一昔前の説明が出来るモデルはまだまだ必要。