Micro"S"oft 表記が気になって本文が頭に入ってこない…

devorgachemdevorgachem のブックマーク 2024/04/26 08:42

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

僅か2.3GBで日本語可能な超高性能ローカルLLMのPhi-3 MINIをllama.cppとCPUで動かしてみた。スマホでも可。従来のコンパクトLLMと比較して超越した性能で未来を感じさせるMicroSoft寄付ありがとう

    Kapper@Linuxガジェヲタ&異世界小説家&生成AI電子工作大好き @kapper1224 昨日MicroSoftからリリースしたローカルLLMモデルのPhi-3 mini 4k Q4をllama.cppのサーバ版を動かしてみた。こいつ2.32GBしかないく...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう