AI黙示録は“簡単に”回避できる | p2ptk[.]org

以下の文章は、電子フロンティア財団の「The Tech Apocalypse Panic is Driven by AI Boosters, Military Tacticians, and Movies」という記事を翻訳したものである。 Electronic Frontier Foundation 人工知能が世界を破滅させるのではないか、という懸念と不安が高まり続けている。兵器化されたAIの安全保障上のリスクについて米国務省の委託報告書が、その懸念をさらに悪化させている。 『ウォー・ゲーム』や『ターミネーター』ような人気映画、デジタル・シミュレーションでAIが必要以上に核兵器を使いたがるというレポート、AIが人間よりも早く核の脅威を評価できるというアイデア、これらに共通するシナリオは、コンピュータにボタンを押す権限を持たせてしまったとか、核の脅威のシミュレーション結果を見せて人間に決断を

[ichise]

AIが暴走して世界が滅ぶようなシステム、AIが暴走するより先にバグかハッキングで滅ぶほうが絶対早い

[hinonono]

シミュレーションが設計不良なだけじゃろ。現実の核兵器は大金がかかるんで利害関係者も膨大なせいで倫理や濫用の抑止がめちゃ強。戦力等のゲームバランスだけ考えるなら、現実にもっとぶっ放されててもおかしくない

[ite]

「AIに武器をもたせるな」と言うのは簡単だけれど、そんな提言を無視する敵国が大量のドローンで攻めてきたときに本当にそれを守り続けられるだろうか。兵士の命は民主主義国の方が高い。