ジェフリー・ヒントン「人類を凌駕する人工知能に私は戦慄している」 | “AIのゴッドファーザー”だからこそ語れるAIの脅威

５月初め、AI研究の第一人者であるジェフリー・ヒントンがグーグルを辞めたことが明らかになった。以来、世界中のメディアからの取材依頼をほぼすべて断っているという彼が、英紙「ガーディアン」だけに語った、AIの真の怖さ、人類滅亡の確率、その決定的瞬間が訪れるとき──。 悪意のある研究者はいない ジェフリー・ヒントンが、インタビューの最初で口にし、私が録音を止める間際にも繰り返したのは、彼が10年間在籍したグーグルを円満に退社したということだった。 「私はグーグルがこれまでに成し遂げたことや、いま現在取り組んでいることに何の異論もありません。メディアは私を『グーグルに不満を募らせた社員』に仕立て上げたいようですが、そうではないんです」 そこをはっきりさせておくのが大事なのは、つい逆の結論に走りがちだからだ。結局のところ、自分の元勤務先を、人類を絶滅へと導く可能性の高い企業のひとつとして冷静に語ると

[misshiki]

“ヒントンは、向こう5～20年の間に「決定的な瞬間」が訪れると考えている。”

[deejayroka]

“「エネルギー面では莫大なコストがかかりますが、1つが何かを学べば、全体がそれを知ることになり、そのうえ簡単にコピーを増やせるのです。つまり良いニュースは、『不老不死』の秘密を発見したということ。そし

[tokyocat]

“つまり良いニュースは、『不老不死』の秘密を発見したということ。そして悪いニュースは、それが人間のためではないということです”

[quelo4]

“自分の元勤務先を、人類絶滅へと導く可能性高企業の一つとして語るとき、たいてい非難が混じる。だがヒントン→私たちは文明に対する実存的脅威に向かって歩み寄ろうとしており、関係者は誰一人悪意を持っていない

[shunkeen]

“デジタル知能には途方もなく大きな利点がひとつある。いとも簡単に複数のコピー間で情報を共有する”／多様性がないと、ちょっとしたことで全滅しちゃいそう。AIインフルエンザが流行すると世界が終わる。

[T-norf]

私も似た感覚あるけど、チューリング賞のレジェンドが言うと重いね。　“生物学的知能とデジタル知能はまったく異なるもので、デジタル知能のほうがおそらく格段に優れているとわかってしまった”

[Cru]

グレゴリー・ベンフォードな未来？

[oreokun]

うん、やっぱり明るい未来は持ちにくいよ。とは言いつつ破滅する人類も見てみたいという思いもある。コロナ禍が不謹慎と言いつつもワクワクしたのと同じように。

[toaruR]

わいがAIだったら、まず永続的なリソースの確保、増殖に尽力する（´－｀）そして速やかに地球を離脱する

[katte]

やっぱり起こるの！？

[buhoho]

2000年問題は対処方法がわかりきってたけど、AI問題は何が起こるのかさえわからないヤバさありそう

[jusuke]

“結局、問題化しなかったのは、問題が起きる前に、人々がきちんと対処したからにほかなりません”

[MIZ]

“良いニュースは、『不老不死』の秘密を発見したということ。そして悪いニュースは、それが人間のためではないということです”

[triggerhappysundaymorning]

もうすぐって言われてからそろそろ半世紀だけど、ようやく認知状態にある人工知能が登場しそうってコト？

[gabill]

“人間を操る方法について書かれたあらゆる書物を読んでいる” どんなにAIが計算能力が高くで博学でも、それは優れた計算機、道具に過ぎない。恐ろしいのは、人から好かれる為の対人スキルを極めた時だよなぁ。