AIの専門家が「今からAIの暴走を心配するのは早すぎ」との楽観論に徹底反論

by Jonny Lindner 近年目覚ましい発展を遂げている人工知能(AI)については、「核兵器よりも危険」といった脅威論が叫ばれている一方で、「脅威論は無責任だ」という楽観的な意見も存在します。そんな中、AIの第一人者とされるカリフォルニア大学サンフランシスコ校の情報工学教授スチュワート・ラッセル氏は、自著「Human Compatible: Artificial Intelligence and the Problem of Control」の中で、「AIの脅威を心配するのは決して早すぎない」と述べて、楽観論に対し徹底的な反論を繰り広げています。 Many Experts Say We Shouldnt Worry About Superintelligent Ai Theyre Wrong - IEEE Spectrum https://spectrum.ieee.org/com

[BUNTEN]

AIが資本主義的に用いられれば99%の人類にとっての脅威になり得ると俺は思う。要は使われ方。

[OkadaHiroshi]

AIの暴走を心配して規制しようとも思っても、規制に消極的な国が必ず現れるので規制は不可能だと思う。(核よりも拡散防止は難しい)、なおAIが最初に暴走するの金融部門だと思う(参照:ノーストリリア)

[yoko-hirom]

原発脳「ゼロリスクを要求するのはバカ」「毎年沢山の天然知能が発生しているのに人工知能を恐れるのは似非科学」「大勢の無能で薄めれば無害」

[t-murachi]

要件を見誤ったシステムが時として大きな危険や損害をもたらすのはAIに限った話ではないしつい先日もキャッシュレス絡みとか個人情報保護絡みとかでやらかしのニュースを見たばかりでは…(´・ω・`)

[ku__ra__ge]

大規模なワーム被害が出たときに「AIの暴走」とか言っとけば当たったことになるでしょ

[ak1024]

2019年、メディアミックスブログサービス『Tumblr』のポルノ識別AIは突如暴走しはじめ、犬、砂漠、トマト等の画像を削除し始めた。リザードンは高確率でフィルタリング対象になった。

[kakei-akihiko]

記事に出てきてる連中は知らないだろうけど、日本では、実際に起きていない問題を理由に落ち込んだり人を非難したりする行為を被害妄想というんだよ。

[RCHeLEyl]

これからよく分からないものが台頭してくる可能性が高いのだから、それに対してきちんと考えをめぐらすことは大事。でも出来ればお互い幸せになりたいよねえ。