ディープラーニングの研究が進めばAIのブラックボックス問題は解決しますか？

回答 (5件中の1件目) ディープラーニングは昔ニューラルネット（神経回路網）と言われていました。 モデルとなった神経回路網において、神経の結合、処理状態がわかれば考えていることがわかるのか？と言われればそれは無理ですね。これはブラックボックスです。 じゃ、考えていることがわかるようなニューラルネットは作れるかと問われれば、できないと断言はできない。 ちなみに三十年くらい前のAIの主要トピックスは。 エキスパートシステム これは専門家の知識を記述するもので内容はわかります。 ファジーシステム どこ行ったんでしょうね？ ニューラルネット でした。

[sho]

明に書かれてないけど「人類はすべての知識を継承できないから継承可能なロジックを生み出した」という前提が一番大事な認識ですね。

[htbman]

この手の話、「直感」などの過度な擬人化が状況をややこしくしてる。この話は「過程を見える化する方法が現状わからない」という馴染み深い課題にすぎない

[midnight-railgun]

20XX年。AIはついに野球の極意を解明した。AI「球がスッと来たらグッと構えてガーンと打てばOK」

[sysjojo]

「カンと経験」のカンの部分をディープラーニングがやれると思ってる。ロジックで説明できるのは経験の部分やろ。でも人間がカンって言ってるものって突き詰めると経験だったりすることあるよね。

[xlc]

ディープラーニングって「直感を鍛える」みたいなもんだと思ってる。なので選択の理由が説明できない。

[hz75hz]

とはいえ「直感」に基づいた社会は人類が誕生してから数万年続き、その間はほとんど技術革新が起きなかった。現実世界から課題を設定してロジックを組み立てることが、技術革新には不可欠なのだろう。

[Pink]

ai

[Domino-R]

ではそもそも「直観」とはなんだったのだろう？　と話が展開していかないのが面白い。考えることをやめたのかね？/要は因果関係と相関関係は本質的に同じって事だけど、両者の差に敏感なはてなーはどこ行った？

[enu7]

人間の意識的な行動さえも説明は後付け。演繹的な説明はディープラーニングと別実装で良いんじゃないかな。

[beginnerchang]

モデルの瑕疵を、追加データによって修正できるなんて嘘八百。それなら瑕疵が出る前に追加データを与えておけば良かったのに、なんで追加しなかったの？って話になる

[shoesstyle]

ディープラーニングのブラックボックス問題

[syukit]

面白かった〜。説明できない治療薬の話、なんかのアニメで似たようなのあったな。攻殻機動隊？サイコパス？

[topaz2]

よいまとめ

[paravola]

一つの重要な視点として、そもそもディープラーニングが登場する以前から世の中には、「ロジックでは説明できないが、直感は十分に機能する」ケースは無数にあった、ということです。機械翻訳や囲碁もその良い例です

[ymatsuzakun]

“象の全てが説明できなくて”

[otchy210]

人間の直感も、その背後にあるのは DL と同様の脳内の仕組みだよね。過去の大小含む多量の経験によるロジックではない未来予測。なので、それを人間以上に早く多くやる DL に勝てないのは当たり前。

[Dragoonriders]

参照できるからといって理解できるのかと言われるとNO。膨大なロジックの海で溺れるのが人間。せいぜい理解できるのは方向性程度で、深層学習の仔細を一切合切を理解できるとは思わない事だ、という事だろう。

[jaguarsan]

関数グラフアートみたいなもんで、与えられたパラメーターから任意の点にプロットできるけど、その関数に意味があるかはわからないようなものと理解

[i-yan193]

「直感」という表現をやめて「経験則」と言おう。これから自分はそうする。

[doirou]

説明しろと言われれば適切な説明をでっち上げるMLはそのうちできそう。で、それって人間がやってることと同じだと思い当たる。

[programmablekinoko]

どうでもいいがQuoraの知恵袋以下な雑な質問に対してエスタブリッシュメント諸氏が丁寧な回答をつけていくの、モチベーションは何なんだ

[ksugimori]

統計力学みたいに個々の詳細に目を瞑って「直感」をモデル化することってできないんでしょうかね？

[myaoko]

企業の企画書の上では「ブラックボックス」のままにしておいてくれた方が導入時の方便に使いやすいこともある

[takashi_kun]

「現状では明確な基準がないから、どっちのAIの方が優秀か(正確に)見分けられない」という意味なら、今後の研究で解決するかもしれない

[uva]

直観に近いものなのか

[aipacommander]

"ほとんどが「ディープラーニングのお気持ち」を理解しようとする程度のものです。" うむむむむ（説明したいマン

[skypenguins]

数学科でやるような数学と物理学科でやるような物理学を知らないとまともに仕組みなんて理解できないんだよなあ(工学部並みの感想)

[heavenward]

めちゃくちゃ興味深すぎる

[Bi-213]

奇跡の御業を目の当たりにして、受け入れて委ねることができるか。電子の神の前では皆等しく無知なので、自分なりの納得の構築と信仰心がこれからは必要となりましょう。

[threetea0407]

ディープラーニングを理解している人とそうでない人がはっきり分かれるブコメ群だ

[tengo1985]

説明可能なことが求められるなら、説明可能にするのが困難なモデルを説明可能にするためにがんばるより、最初から説明可能なモデルを生成するほうが筋がいいと感じるんだけどどうなんだろう

[yuya_presto]

ディープラーニングとは結局何なのかについて書かれてた。

[showii]

文体がキモいのは何故なのか。ごめんなさい

[IGA-OS]

我々がブラックボックスだ！

[LM-7]

非常に良い回答。ロジックは明らかだが人間に理解できないほど複雑なのがディープラーニングであり、理解できないものでもうまく使う方法はある。フレーム問題を回避して実世界で行動ができることがその証左。

[hisawooo]

時々我々も6年の勉強と10年以上の経験に基づいて治療してるんだから短時間で全部説明できると思わないでほしいと思うことがある（特にわざわざネット上で絡んでくる人は基礎医学くらいは自分でやってほしいみある

[kujoo]

変数が全て見えてる複雑系ってヤツ。ブラックボックスかどうかってのは極論すると線形かどうかって話、かな？

[hobbling]

人間の脳みそのニューロンの動きを見ても、人間が何を考えてるのかわかりません

[kazoo_oo]

前9割が端的に「人間は不要です」という話で、そこから「この優秀な部下を使役できるのです」という展開に安心する人はいるのかな。その状況自体にゾクゾクはする。