GPT-3.5-turbo を Fine-tuning して GPT-4 相当の性能を獲得する - DROBEプロダクト開発ブログ

はじめに 結論 背景 課題 Fine-tuning とは？ Data の準備 Fine-tuning を実施 結果 おわりに 参考 はじめに こんにちは、DROBE の都筑です。 みなさん LLM 使っていますか。今回は GPT-3.5-turbo の Fine-tuning の事例を紹介します。 結論 GPT-4 を利用して得られたデータを使って GPT-3.5-turbo を Fine-tuning する事で、特定のタスクに関しては GPT-4 相当の性能が出る事が確認できた GPT-4 利用時点で使っていたプロンプトをそのまま使った場合の性能が一番高く、token 節約のためにプロンプトの省略をすると性能が劣化した 背景 LLM を利用したサービスの開発において、OpenAI を利用する場合にはモデルの選択肢がいくつかあります。2023年9月現在では、GPT-4 と GPT-3.5-

[misshiki]

“GPT-4 を利用して得られたデータを使って GPT-3.5-turbo を Fine-tuning する事で、特定のタスクに関しては GPT-4 相当の性能が出る事が確認できた”

[yarumato]

“データ準備のため、まずは機能を作りGPT4（応答速度も遅い上に金額も高い）で数日稼働。データを取得したらFine-tuningのデータを作成。GPT-3.5-turbo（早くて安い）をFine-tuningするとGPT-4相当の性能が出る事が確認できた”

[NLPer]

実験としては面白そう。ただ、実際には使えないかな。

[takaya030]

ファインチューニング

[syu-m-5151]

ちゃんと性能向上していてすごいなー

[shunkeen]

“500 data で Fine-tuning した場合には 84% が GPT-4 の結果と完全一致”／タスクによるだろうけど、4で回したデータでファインチューニングした3.5-turboでスピードアップは夢があるなぁ。