同社は米国時間7月5日の発表の中で、「われわれよりもはるかに賢いAIを制御し、統制下に置いておく」ためのチームを立ち上げると述べた。 同社は、向こう10年以内に登場する可能性のある極めて高い知性が、これまでに生み出されたテクノロジーの中で最大の影響を与えるものとなり、世界で最も重要な問題を解決するのに役立つだろうと述べた。一方、「最も危険なものとなる可能性もあり、人間の無力化、さらには人類の絶滅さえもたらす可能性もある」という恐ろしい警告を記している。 同社によると、現状では人類の方がAIよりも賢いため、AIの動作を統制し続けることが可能だという。しかしAIの知性が人類のそれを追い越した場合には、何が起こるのだろうか。 ここで、同社のチーフサイエンティストであるIlya Sutskever氏と、AIアライメント(AIの安全性を確保するための統制技術)の責任者を務めているJan Leike氏