ChatGPTを賢くする呪文 - 日本経済新聞

米オープンAIのChatGPT（チャットGPT）は高性能な対話型AIとして世界中で注目を集めた。ChatGPTは大量のテキストを学習した「大規模言語モデル」というタイプのAIだ。このAIは自然な文章を作るのが得意だが、数学のように論理的な思考を組み合わせるのが苦手だ。ところが問題文の最後にある「呪文」を付け加えると、見違えるように問題の正答率が上がる。その呪文はこうだ。「Let's thin

[ryosuke-fujii]

言語モデルの中に論理的な思考に強い単語のネットワークと、直感的な思考に強いネットワークの双方が獲得、「step by step」のような言葉は前者のネットワークとひもづいているという考え方。おもしろい。

[djshigy]

chatgpt

[KoshianX]

“小島さんは現在、「大規模言語モデルの中には直感的に答える思考法と、論理的な思考法の双方が獲得されているのではないか」と考えている” カントの感性と理性じゃないか。本当に両方あるのか? まさか悟性も……?

[ideahack]

　step by step

[hide_nico]

“「ChatGPTの内部では、質問のされ方に応じてデータの処理方法が変化しているのだろう」「人間が創造性を発揮する時も、脳の中でかなり近いことをやっているのではないか”

[sh19910711]

"問題文を入力するだけだとAIは「8」と答えてしまうが回答文の書き出しを「Let's think step by step」と指定してやるだけでAIは順路立ててボールの個数を整理し問題に正解 / 『step by step』の言葉がスイッチのように働く"

[mayumiura]

呪文は呪文でも「考えるな、感じろ」は思考を妨害する、に吹イタw＞あたしの頭の中だそれ

[Nean]

“呪文は数学の文章題から論理的な推論問題、演繹（えんえき）法や帰納法といった記号推論で幅広く有効だった。特に数学の文章題は正答率が17.7%から78.7%に上がった。”

[zu2]

“「こう考えていくと、大規模言語モデルの内部は『多重人格』だといえるかもしれない」と小島さんは話す”

[Nyoho]

“筆頭著者は東京大学大学院博士課程3年で、この呪文の発見者でもある小島武さんだ。”

[netafull]

“「こう考えていくと、大規模言語モデルの内部は『多重人格』だといえるかもしれない」”

[zakkie]

“むしろChatGPTのようにAIに直接質問して答えを分析し、内部の知識構造を探る研究が盛んになっている。それは、実験協力者に課題を解いてもらい、脳や心の機能を調べる心理学の研究にも似ている。”

[tick2tack]

"let's think step by step" 一定以上の深さの学習モデルでないとダメと。/　単語に紐づくネットワークのが使用されてるのではと。刈り込みみたいなのではないのか。

[kappaseijin]

“思考の連鎖を明示的に促す内容の言葉ほど得点アップの効果が高かった。” promptするフローが載ってる。助かる

[Humisawa]

“このAIは自然な文章を作るのが得意だが、数学のように論理的な思考を組み合わせるのが苦手だ。ところが問題文の最後にある「呪文」を付け加えると、見違えるように問題の正答率が上がる。”

[localnavi]

「一歩ずつ段階を踏んで考えよう」と考え方を指示すると、文章題の正解率が跳ね上がるとのこと。

[chopwave]

一歩ずつ考えよう