AIによる「人類絶滅」回避への道筋 マスク氏に助言する専門家 | 毎日新聞

人工知能（AI）研究のゴッドファーザーと呼ばれる権威や、名だたるAI開発企業のトップらが、「人類絶滅」の可能性に触れた声明に署名し、世界的な注目を集めている。AIがもたらす絶滅のリスクとは何を意味するのか。人類は破局を回避できるのか。声明をまとめたAIの安全性の専門家で、米非営利団体「センター・フォー・AIセーフティー（CAIS）」のダン・ヘンドリクス所長に聞いた。【ニューヨーク八田浩輔】 ――わずか1文の短い声明はインパクトの強いものでした。「絶滅」という言葉に、研究者コミュニティーで慎重な意見はなかったのですか。 ◆大学の研究者たちの間では、AIの発展の速さや、システムを完全に制御する信頼できる方法が分からないことに、大きな懸念が広がっているように感じます。ただ、多くはそれをあまり公言したがりませんでした。私は、この技術にかかわる多くの研究者がそのような懸念を抱いていると一般の人に知ら

[anigoka]

助言する相手間違えてるぞ

[kenjou]

こういう人たちSFの読み過ぎなんじゃ、と思うのだけど。

[quick_past]

気が早すぎる。今のAI技術はそんなレベルには一切ない

[agrisearch]

「大切なのは競争を防ぐことです。競争は、技術的な安全性について研究する時間を大幅に減らすことにつながります」

[yoko-hirom]

学術研究者がAI技術の進歩について企業内技術者に置いて行かれるのを恐れているように見えるが。

[itarumurayama]

大丈夫、北センチネル諸島の原始人は生き残ると思われ

[toaruR]

『AIシステムを使って生物兵器を作る』……この辺で読む気なくなった(ノ∀`)

[deep_one]

Beatlessみたいな「超級AIのネットワーク接続禁止」がありそうかな。生物兵器開発は防げないけど。