超知能ＡＩが人類を滅ぼす…？ - デマこい！

超知能ＡＩの暴走リスク このブログではＡＩの歴史と現在、そして近未来について考察してきました。 今回の記事では、もう少し先の未来――ＡＩが人間と同等かそれ以上の知能を身に着けて、「超知能」となった時代の話をしましょう。 超知能ＡＩの暴走は、サイエンス・フィクションでは定番のテーマの１つです。 たとえば映画『ターミネーター』は、自我に目覚めたＡＩ「スカイネット」が人類に反旗を翻し、機械の軍隊で襲い掛かるという設定でした。映画『マトリックス』は、人類は薬漬けで眠らされて、一生を夢を見ながら過ごすという設定でした。機械の目的は、人体から出る微弱な電流を電源として利用することでした。ビデオゲーム『デトロイト：ビカム・ヒューマン』では、奴隷として扱われていたアンドロイドたちが立ち上がり、人権を主張するという物語が描かれました。 これらのシナリオは、どれほど現実味があるのでしょうか？ じつを言えば、私

[quwachy]

人間がミスで人間を殺す数とAIが人間を殺す数どっちが多いんだろう、血管切って患者殺した医者の記事見て思った。

[nekomikenyan]

人類が自らよりも知能が劣る動物に対してこれまでどんな仕打ちをしてきたかを考えれば明白。超知能が爆誕すればその行動は予測不能だし、思考や思想背景も全く理解できないだろう。こんなものは制御不能の核と同じ。

[gabill]

このままでは100年以内に核戦争で人類滅亡していたが、自傷行為をやめない患者に手錠をかけてベッドに縛り付けるような緊急措置をAIが取ってくれたお陰で人類はAIに安全に支配されるようになりました、というオチとか

[udofukui]

面白い

[manjirou99]

人類は自分が主観的経験を持ってるか自問したほうが良い、人類の個体の神経系を接続した場合、複数の個体が同じ主観を経験する様になると予測して進ぜよう。主観は神経系のデザイン次第で制御可、ならばそれは客体だ