「2つのAIが“独自言語”で会話」の真相--FacebookのAI研究開発者が明かす

2017年夏、Facebookの人工知能（AI）研究組織である「Facebook AI Research（Facebook人工知能研究所）」が行ったある実験が世界中で大きな話題になった。2つのAIで会話実験をしたところ、人間が理解できない言語で会話をしはじめ、実験が強制終了されたという内容で、世界中のメディアが「ついにAIが意思を持ち人間を脅かすのでは」とセンセーショナルに報じたのだ。 このSFのような事態は本当に起きたのだろうか。Facebook AI Researchのエンジニアリング・マネージャーで、実際にこの実験に関わったアレクサンドル・ルブリュン氏がインタビューの中で質問に答えた。同氏は、報道内容の真偽について「半分は本当で、半分はクレイジーな狂言だ」と回答。そして、研究内容の詳細を明かしてくれた。 ルブリュン氏が手がけた研究では、2つのAIエージェントに「価格を交渉して合意しろ

[tarotarorg]

つまり、目標のためなら人間を排除する可能性もある、と言うことだな

[cinefuk]

オタクや学者が（会話を高速化するために）一般人に理解できない省略・符号を使うのはよくある事。効率を最重視するAIなら当然の話

[KimuraShinichi]

「悪意などない。ただの最適解だ。」と。それはそれで真実だろう。とはいえ、真実はかならずしも善良ではない。殺意がなくても人は死ぬ。不安をいだき注意をはらう人間は、安全装置だ。少しはいてくれたほうがいい。

[kamei_rio]

"AIは自分たちで意思や目標を生み出さない" 報道も読者も落ち着け案件

[paravola]

（価格メカニズムを計算させてたと）「価格を交渉して合意しろ」という目標を設定した／「こうした会話実験で言語が変化することはよくある」「彼らが交わしている会話が理解できず、研究に活用できないと判断」

[Seiji-Amasawa]

「設定されたゴールに向かってあらゆるものを最適化する（＝この場合は言語を変更する）ことは当たり前のこと」

[boyasan]

要約すると「きみたち、テレビの見すぎ」

[kkbt2]

「こうした会話実験で言語が変化することは、よくあることだ」「AIは自分たちで意思や目標を生み出さない」

[usomegane]

目的のために言語を変更する事が最適となるというのはどういうロジックなんだろう。

[daybeforeyesterday]

うーむ

[tomo31415926563]

築地の手ヤリ(競りで使う手話言語)みたいなものか。

[akulog]

“彼らが交わしている会話が理解できず、それを研究に活用できないものだと判断したからだ。決してパニックになったわけではない”

[damehobbyanimelike-913]

交渉のために言語変えるってキザすぎでしょ