言葉の解釈をめぐる、解決困難な諸問題──『自動人形の城: 人工知能の意図理解をめぐる物語』 - HONZ

本書は、同著者による数学的原理に裏打ちされた傑作ファンタジィ『白と黒のとびら: オートマトンと形式言語をめぐる冒険』、その続篇『精霊の箱: チューリングマシンをめぐる冒険』とはまた違った物語──副題にもある通り、命令を何でもこなしてくれるスゴイ人工知能をつくる上で避けては通れない、コミュニケーションにおける人工知能の意図理解についての一冊である。 図や数式は一切なく、ワガママで勉強嫌いな王子と、彼の住まうクリオ城へと危機が迫り、「人間の命令を忠実に実行する」自動人形に囲まれた、王子の孤独な戦いがはじまる──。といったファンタジィとも童話ともいえる物語を純粋に楽しみながら読み進めるうちに、人と機械のコミュニケーション時に不可避的に発生する、「意図の理解」をめぐる難しさ、自然言語で機械に対して命令する際、原理的に出現する諸問題が把握できてしまうという優れものだ。 本作の「人形」は、現実世界では

[watounai]

人間同士ですら会話をして意図を引き出すものを、なぜ人工知能相手には一言ですべて理解することを要求するのか

[otihateten3510]

人間にすら難しい命令をロボに解決させるのってナンセンスだよねーと思ってる

[infobloga]

おもしろそうなタイトルだと思ったけど、書評読んだら、なんだフレーム問題か大げさな・・・ってなった。書評が悪いのか、単に自分の好みと合わないのかは分からない。

[mkataigi]

AI作る上で「人の命令をなんでも聞く」が一番の間違いなんじゃないかと思ってる。それぞれ自分勝手なことを考えるからこそ、自分に都合の良い解釈ができるんじゃないかと

[prozorec]

この作者の本はいつか読みたいと思っているのだが、なかなかその機会が作れない

[palehorse82]

今年読みたい一冊

[backnet]

人間は相手の言っている言葉ではなく、そこの言葉を言っている相手の意図を受け取ろうとする。なので、逆にどれだけ正しく言葉を使っていても、受け手が話し手の意図を勝手に想像する限り正しく受け取られない欠点も

[mellhine]

読まないと分からないけど、このAIは学習しないのかな？囲碁プログラムだって「勝て」って命令するだけで何局も対戦して強くなるのに（暴論）

[lbtmplz]

面白い組み合わせだな

[nai_nari]

これは面白そう。

[r-taro]

まずは『白と黒のとびら』から読んでみようかな

[yetch]

まずは教育から

[ryoju]

おお運用論だ

[saiusaruzzz]

他の著作も含めて読んでみたい。