ChatGPTなどの対話型AIは「正解を探す検索エンジン」ではなく「単語の計算機」と考えるべきだという指摘

近年はOpenAIが開発した「ChatGPT」やGoogleの「Bard」など、高性能な対話型AIが登場して注目を集めています。これらの言語モデルを用いたAIについて、「質問したら何でも答えてくれる検索エンジンのようなもの」と考えている人も多いかもしれませんが、ソフトウェア開発者でブロガーのSimon Willison氏が、「言語モデルを用いた対話型AIは検索エンジンではなく『単語の計算機』と考えた方がいい」と述べています。 Think of language models like ChatGPT as a “calculator for words” https://simonwillison.net/2023/Apr/2/calculator-for-words/ 多くの人々はChatGPTなどの対話型AIにさまざまな質問をして、その答えがどれほど正確なのか、あるいはデタラメなものな

[hinonono]

従来の検索も、計算機（コンピュータ）で行わせてる、テキストデータ等に対する計算そのものでしょうに。違いがあるとすれば、「正解を」「正確な」の方だろうな。その代わり曖昧な対話ができるだけの柔軟さがある。

[eagleyama]

“本当に優れているのは質問に対する正確な回答ではなく、言語操作だ

[nekoline]

いい表現だ。“言語モデルを用いた対話型AIは検索エンジンではなく『単語の計算機』”

[masaru_al]

『Willison氏は、対話型AIにまつわる課題の多くは、対話型AIが実際よりも優秀に見えてしまう点にあると指摘』

[shirotorabyakko]

「言語モデルは単語の計算機のようなものである」

[yoko-hirom]

巧言令色即ち知とする人間社会の欠陥。

[softstone]

AIは進歩して身近になったのにそのイメージは未だにAll if full of love の引き写しなのが、使う側の進歩が足りてないことを象徴してるよ。

[shunkeen]

“「計算機はいつでも同じ答えを返すが、言語モデルは同じプロンプトを与えられても回答が微妙に異なる」という欠陥があります”／temperatureを0にするんじゃ、ダメなのかな？会話の履歴も揃える必要はあるけど。

[nemoba]

シンギュラリティの正体は、人類の知能は、程よくチューンした人口無能よりも下だっだだけ。というオチに

[ginga0118]

こいつに質問しても意味ない。アシスタントとして使うべき。

[ET777]

めっちゃどうでもいいけどBing（GPT5？）の作家書き分け遊びにサリンジャーを指定するとなぜかパンクしがち

[kuzumimizuku]

わかってる人の例えという感じもした。今も既に、対話型に限らずAI全般でAI=正解的な認識をする人はいるなあ。でも、そういう人は人相手でも「断定調の説明=正解」「期待する"ぽい"答え=正解」と思ってるフシはある。

[julajp]

フードプロセッサーみたいに、プロセッサーよなぁ。何を投入して、どれだけ、処理させるか。あらかじめ、出てくるであろう出力をより明確に意図しておくのがコツみたいな。

[mayumayu_nimolove]

兆京垓の次の単位の予まで計算出力させたら急に精度が良くなったらしい。だから計算機というより公文式。

[ryosuke134]

そう、単語の計算機だから英語が主軸として扱われるし、最大のプログラミング言語になっていくって話になる。