「A.I.は新たなマッキンゼー・アンド・カンパニーになるのだろうか？」テッド・チャンが問うA.I.驚異論。「私たちは誰もがラッダイトになるべきだ」

人工知能について語ろうとするとき、私たちは比喩に頼りがちです。新規なものや馴染みの薄いものを扱うときは大体そうなります。比喩は本質的に不完全なものですし、選択は慎重にする必要があります。良くない比喩は私たちを惑わせるからです。たとえば、強力なA.I.は、よくおとぎ話に出てくる魔法のランプの精霊に例えられます。この比喩は、強大な存在を自分の命令に従わせることの難しさを強調しています。コンピュータ学者のスチュアート・ラッセルは、触れたもの全てを黄金に変えるよう要求したミダス王のたとえ話を引き合いに出して、A.I.が自分の望んだことではなく命令通りに動いてしまうことの危険性を説いています。この比喩にはいくつかの問題があるのですが、ひとつは、この比喩が参照するストーリーから間違った教訓を導き出している点にあります。ミダス王のたとえ話のポイントは、強欲は我が身を滅ぼすこと、そして富を求めていると本当