｢AIで人類が滅びる｣と予言する知識人7人
｢AIで人類が滅びる｣と予言する知識人7人2023.05.03 20:0018,398 Lucas Ropek - Gizmodo US ［原文］ （ satomi ） どこまでが謂れなき恐怖で、どこまでが本当の話なのか。決めるのはあなた。 ChatGPTなどの次世代AIアプリの登場で、業界は右も左も一攫千金のチャンス！と浮き足立っていますが、規制がないまま開発が進んでしまうことに警鐘を鳴らす識者もいます。今に取り返しのつかないことになると。 代表的な予言を7つ選んでみました。 ①｢皆殺しにされる｣（英国・博士課程研究員）Image: Victor Moussa / Shutterstockオックスフォード大学の博士課程でAIの安全性を研究するMichael Cohenさんは、英国の国会で証言台に立って、AIも核兵器と同じように規制しなければならないと主張。｢超人AIは危険度がまったく違う
「GPT-4より強力なAIの開発を直ちに停止せよ」──公開書簡にマスク氏やウォズニアック氏が署名
AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6カ月間停止するように呼びかける書簡を公開し、本稿執筆現在1000人以上が署名している。イーロン・マスク氏や、米Appleの共同創業者、スティーブ・ウォズニアック氏の名前もある。 人類にとって深刻なリスクをもたらす可能性のある一般的なタスクにおいて、人間と競合するようになったAIシステムに対する懸念から提示された。現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるため、研究者や開発者に対して、これらのリスクを十分に評価し、必要な対策を講じるよう呼びかけている。 また、AIがもたらす利益とリスクの均衡を保つために、国際的な協力と競争の制限が重要だと主張する。信頼性、アライメント、忠誠心などを確保するために必要な
マイクロソフトのAI「Tay」が一時復活、また暴言
Microsoftの人工知能（AI）チャットボット「Tay」は、若者のくだけた会話を模倣するよう作られたが、Twitter上で扇動的で人種差別的な発言を繰り返した後、先週いったん「寝かしつけられて」いた。だが、短い仮眠を終えたTayは30日に目を覚まし、数時間にわたって無意味なたわごとを吐き出した末に、再び眠りについた。 このAIを使ったTwitterボットは、Microsoftの研究プロジェクトの1つとして世に送られたもので、現実の人間とのやり取りを通じて、ミレニアル世代独特の会話を学ぶように設計されていた。だが、登場から数時間で、TayはTwitterによってインターネット上の最も悪い言葉を教えこまれてしまった。そこで生みの親であるMicrosoftは、「調整」を行うためとして、しばらくTayをオフラインにする対応を取った。 だが、外出を禁じられた反抗的なティーンエージャーの多くと同様
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
