タグ

技術とXAIに関するmohnoのブックマーク (1)

  • ディープラーニングの研究が進めばAIのブラックボックス問題は解決しますか?

    回答 (5件中の1件目) ディープラーニングは昔ニューラルネット(神経回路網)と言われていました。 モデルとなった神経回路網において、神経の結合、処理状態がわかれば考えていることがわかるのか?と言われればそれは無理ですね。これはブラックボックスです。 じゃ、考えていることがわかるようなニューラルネットは作れるかと問われれば、できないと断言はできない。 ちなみに三十年くらい前のAIの主要トピックスは。 エキスパートシステム これは専門家の知識を記述するもので内容はわかります。 ファジーシステム どこ行ったんでしょうね? ニューラルネット でした。

    ディープラーニングの研究が進めばAIのブラックボックス問題は解決しますか?
    mohno
    mohno 2019/09/24
    パラメータが人の理解できる量じゃないということなんだな。自動運転とかの法制度をどうするか、とか難しそうではある。「Explainable AI(XAI)という分野」/あと、こういう人がソニーの中にいるというのは頼もしい感じ。
  • 1