「GPT-4より強力なAIの開発を直ちに停止せよ」──公開書簡にマスク氏やウォズニアック氏が署名

AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6カ月間停止するように呼びかける書簡を公開し、本稿執筆現在1000人以上が署名している。イーロン・マスク氏や、米Appleの共同創業者、スティーブ・ウォズニアック氏の名前もある。 人類にとって深刻なリスクをもたらす可能性のある一般的なタスクにおいて、人間と競合するようになったAIシステムに対する懸念から提示された。現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるため、研究者や開発者に対して、これらのリスクを十分に評価し、必要な対策を講じるよう呼びかけている。 また、AIがもたらす利益とリスクの均衡を保つために、国際的な協力と競争の制限が重要だと主張する。信頼性、アライメント、忠誠心などを確保するために必要な

[buu]

君たちが困りそうだということはわかった。

[mogmognya]

万が一欧米で開発停止の合意がとれても中国が言うこと聞くとも思えないし、なんの効果もないのでは。

[hom_functor]

GPT-4に追いつこうとする行為も禁止せよと主張しないならただの負け組の時間稼ぎ

[feel-think]

署名をした人間が利害関係者である以上、何を言っても説得力がない。彼らは「社会のため」と言いながら、実際には自分たちの利益のために行動しているのではないか。

[bigburn]

マスク氏はOpenAIを買収しようとしたが拒否られて資金援助を止めた（そのためOpenAIは営利に走った）という話がバラされてたので、単に拗ねてるとしか思えない

[GENS]

やっちゃったもん勝ちでズルズル拡まっていって、徐々に世界とのすり合わせも進むでしょ。違法動画投稿サイトだったYouTubeみたいに。

[klaps]

さすがに遅すぎたと思う。モラトリアムが機能することはほとんどなさそう。世界は激変する。

[hinonono]

むしろGoogleなどの王手が論文だけ出してシステムは隠してたせいで、他社との殴り合いで隠してたものを同時にぶっ放しあう今の急加速が起きてるんだと思うんですけど。

[kenzy_n]

既にAI自身が開発を始めていても不思議ではない。

[Sephy]

過度に恐れすぎ。適切に枷を嵌めれば恐ろしい事にはならない。が、それを外してネットに放流する奴が現れるのは否定しない。そういう奴はいずれ自分で開発するから対抗技術を持つためにも開発を止めるのは逆に危ない

[naggg]

“MetaのチーフAIサイエンティストを務めるヤン・ルカン氏は「私はこの書簡に同意しないし、署名もしない」とツイート”

[nilab]

「AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6カ月間停止するように呼びかける書簡を公開し、本稿執筆現在1000人以上が署名」

[obata9]

[[開発][][chatGPT][規制]]非営利のAI研究組織FLIは巨大AI実験の一時停止を求める書簡を公開した。「GPT-4より強力なAIの開発を少なくとも6カ月停止せよ」としている。マスク氏やウォズニアック氏、「サピエンス全史」のハラリ

[hitoyasu]

"AIの安全性について"

[invoicekun]

一番いらなくなるの俺らなんだが…何も分かってないな。

[aya_momo]

人間の流すデマの方がずっと害悪。

[mamezou_plus2]

ロボッタ、奴隷の反乱ですね。それともラッダイト運動?

[mizukemuri]

開けたパンドラの箱を閉じるのは無理じゃないっすかね

[gabill]

トゲゾー甲羅

[soyokazeZZ]

現状の富の配分の方が均衡を保ってないのでなんの説得力もないな

[misojiru]

人類にそれが出来ればとっくに戦争も核兵器も経済格差も無くなってるのよ…

[grankoyan2]

そこまでのこと？　という思いと、そこまで来たかという思い

[knok]

それよりもOpenAI APIの「OpenAI製品と競合するモデルの開発に使うこと禁止」が個人的には嫌だなあ

[mahinatan]

アリバイ作りでは。問題が起きたとき「あの時俺たちは反対したんだけどね〜」って言い訳するための。誰だってAIの責任取らされたくないだろうし。

[Reinassance]

マスク氏はともかく、ウォズニアック氏もか。まあどんどん開発して人類を自由にしてください。権威主義や階級性社会がAIでなくなってくれるなら、早ければ早いほどいい。

[mangakoji]

人類は地球を覆うロボットを発明するために生まれた。 万物の霊長を明け渡すシンギュラリティの日までに『愛を定義』しなければ 人類は滅ぶ 。 『悔改めよ』

[laranjeiras]

中国は気にせずガンガン進むだろうからAI機械帝国 vs 人間というSFの古典的テーマが現実になりそう。マシンガン搭載した自律ドローンを潜水艦から大量に放たれたら勝てる気しない。

[maeda_a]

競争相手がいるのに自分だけ開発を止めるのは難しい。GAFAが協定を結んだとしてもスタートアップの開発を止める強制力はない（止めようとしたら違法だろう）。規制できるとしたら政府しかないが他国との競争もあるし

[inazuma2073]

法整備とか先にしておかないと、今のEメールみたいにスパムか犯罪で使われるのがほとんどみたいな事になりそうではある。

[itsumonotokoro]

ウォズニアック「働いて、笑おう」

[deep_one]

その理由で停めるなら「AIの判断をクリティカルな実務に使用すること」だろ。まぁあんな大ボケするものをノーチェックで使おうとするやつはいないと思うが。

[tyosuke2011]

それは出来ない相談

[deejayroka]

"　MetaのチーフAIサイエンティストを務めるヤン・ルカン氏は「私はこの書簡に同意しないし、署名もしない」とツイートした。"

[shoh8]

こんなブレーキきくわけない

[quwachy]

100兆パラメータ超えのAIは2024年までお預け

[mn36555023]

はい

[kagoyax]

もうちょっと筋の通った記事書いてるメディアありませんか？行動の動機付けが足りないのか正確じゃないのか知らんけどモヤモヤしか残らない

[tick2tack]

安全性や倫理問題に関して広く議論しルールを決めようとするのは良いと思うが、開発を停止させる理由がわからん。Twitterやテスラでも何かしらやってるはずだが停止させてるの？

[inurota]

ウォズならともかくイーロン・マスクに倫理的なことを説かれても「どの口が？」以外の感想がないので、この手のオープンレターに看板として依頼する著名人の人選はPVじゃない指標で考えたほうが良いと思います。

[katabel]

既得権益のラッダイト運動な。お気持ちに1円の価値も無いし技術の進歩阻害する奴は悪。賛同してる馬鹿は死んでくれ。