【GPT】プロンプトエンジニアリング手法まとめ - Qiita

はじめまして、sonesuke( https://twitter.com/sonesuke ) です。 LLMのニュースを追っかけ続けたので、これからキャッチアップする人用にまとめておきます。 単発のプロンプトテクニックについてはこちらご覧ください。 これだけは知っとけ用語 各手法の説明を読む前に、これらの用語を読んでおくと各手法がわかります。知っている人は飛ばしてください。 プロンプトエンジニアリング 入力(プロンプト)を工夫して性能をあげようというアプローチ。 機械学習系で精度アップといえば、追加学習させたりモデルを拡張するのですが、LLMではモデルが大き過ぎてコストが洒落になりません。 そのような事情からプロンプト側を工夫することで、回答に直接影響を与えるという手法が発達しています。 ファインチューニング モデルを新たな学習データで追加学習させ、モデルのパラメータを更新し、精度を高め

[shunkeen]

arXivのリンクをちゃんと貼ってて偉いなと思いました（小学生並の感想）。査読されてない論文だったとしても、実績があるんだかないんだかわからない自称専門家のブログ投稿よりは信ぴょう性ありそうだものな。

[hatakazu93]

技術

[jugones5]

こういうのって素人にとっては何書いてあるのかマジでわからない。

[nemoba]

結局、ICL(Few-shot)とCoT(Chain of Thought)の発展しかない。ICLはGPTそのものなので、純粋なプロンプトエンジニアリング笑は、1年前のたった一つの推論強化の論文しかない。ってのが現状。何をこする気なのだろう

[misshiki]

“これからキャッチアップする人用にまとめ”

[snipesnaps]

なるほど。日本語で書いてくれないと自分にはこの程度のこともわからんということがわかった。ありがたい。

[kiriano]

“ポイントは”

[pmint]

ChatGPT 3.5でしか使えないノウハウ。CoTはIQテストの問題。ChatGPTにIQテストをすれば面白いことになるんだろう。

[urtz]

人間の論理的説明能力のほうが重要になってきそう。試験問題作るみたいに