Apple Silicon・CPUでphi-3（Phi-3-mini-4k-instruct-gguf）を動かす - nikkie-ftnextの日記

はじめに ユーフォ3期4話、めっちゃよかった。すっごいよかった😭 nikkieです 最近登場したphi-3、気になったので触りました。 目次 はじめに 目次 届いたphi-3の興奮 Phi-3-mini-4k-instruct-ggufを動かす ollamaで動かす llama-cpp-pythonを使って動かす 量子化前のモデルをtransformersで動かす 積ん読：Phi-3-mini-128k-instructもすごそう 終わりに 届いたphi-3の興奮 Llama 3が登場したばかりですが、phi-3への興奮の声を観測1 I can't believe microsoft just dropped phi-3 less than a week after llama 3 https://t.co/1EPzVKzhDi. And it looks good! pic.twitt

[sh19910711]

"phi-1: 「Textbooks Are All You Need」論文で提案 / 量子化したモデルをollamaやllama-cpp-pythonを介して触ったときの、テキスト生成の速さはすごかった / アンフェアな比較かもしれないですが、1年前に触ったOpenCALMとは出力の質が違う"