Now we know what OpenAI’s superalignment team has been up to 人工「超知能」暴走防止へ、 オープンAIが初成果を発表 オープンAIは、「人工超知能」の暴走を防ぐために社内に組織したチームによる研究成果の第一弾を発表した。その手法は、比較的性能が劣る大規模言語モデルに、より強力な大規模言語モデルを監督させるというものだ。 by Will Douglas Heaven2023.12.15 14 オープンAI(OpenAI)は、「超知能」の暴走を防ぐため社内のイニシアチブとして設立された「スーパーアライメント・チーム」による最初の成果を発表した。同社の言う超知能とは、人間を上回る知能を持つようになる可能性がある、仮説上の未来のコンピューターのことである。 同社の多くの発表とは異なり、今回の成果は大きな画期的な躍進を告げるものではない。地