ロボットの反乱を防ぐ「ロボット工学三原則」が現実的ではない理由 : カラパイア

一部の著名人や専門家が懸念するように、人工知能（AI）が本当に人間を滅ぼすほど危険なものなのかはまだわからない。 だが少なくとも人類は、機械の反乱を防ぐためのアイデアを何十年も前にから提唱している。それが「ロボット工学三原則」だ。 20世紀のSF作家「アイザック・アシモフ」が考案したこの有名な三原則がプログラムされたロボットやAIなら、ただひたすらに人間の幸せのために貢献してくれるはずだ。 だが、当のアシモフ自身が予見しているように、この三原則は必ずしもロボットの反乱を防いではくれず、思いがけない結果を招くことになるかもしれないという。 一体なぜ、ロボット三原則ではダメなのか？ 急速にAIが普及している今だからこそ、この重要な問題について考えてみよう。

[You-me]

アシモフ自体が作品を通じてそれを描いているのに改めて説明いる？

[Nean]

ヒトだって……と思うことはよくある。

[myogab]

って、「人間」の判定がそもそも難しい。昔のSFによくあった「生命反応」とかの検知もね。

[ROYGB]

自動車の自動運転にもロボット三原則的なものは必要。