富士通研と北海道大が「説明可能なAI」を共同開発--AIの信頼性／透明性を向上

印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 富士通研究所と北海道大学は、人工知能（AI）が自動判断した結果をもとに、望む結果を得るために必要な手順を自動で提示できる技術を世界で初めて開発した。 今回、共同開発したAI技術を用いて、糖尿病、ローンの与信審査、ワインの評価の3種類のデータセットで検証したところ、今回の開発技術が全てのデータセットと機械学習アルゴリズムの組み合わせにおいて、少ない労力で推定結果を望む結果に変更するための適切なアクションと実施順序を取得できたことを確認し、特にローンの与信審査のケースでは半分以下の労力を実現したという。 この技術によって、AIが出した判断理由を知るだけでなく、個々の利用者が望む結果を得るために取るべき改善の手順を示すことが可能となる。 例え

[momomo1234]

ただのdiff-in-diff分析のようにも見えるが。昔からある技術をAIと銘打ってるだけにも見えるので今後を見守りたい。

[yamada_k]

前から言っていなかったっけ。

[mirie0908]

「人間に理解可能なAI目指したらそれは大したものにはならなかった」ってオチはないんだろうか。。

[naggg]

反実仮想説明については → https://www.fujitsu.com/jp/group/labs/about/resources/article/202102-aaai-21.html

[gonta79]

うん、この方向性は、あり得ると思って期待していた。医療のほか、自動運転などでも、説明できることは重要だろう。