サクサク読めて、アプリ限定の機能も多数！
tana005 のブックマーク 2023/08/16 18:09
このブックマークにはスターがありません。 最初のスターをつけてみよう！
note.com/bakushu2023/06/25
「llama.cpp」はMacBookなどでLlamaベースの大規模言語モデルを動かすことを目標とするアプリケーション。一応CPUのみでも実行でき、GPUの非力な環境でも動かしやすい。 llama.cppの量子化モデルllama.cpp(GGML)...
11 人がブックマーク・2 件のコメント
＼ コメントが サクサク読める アプリです ／
このブックマークにはスターがありません。
最初のスターをつけてみよう！
【ローカルLLM】llama.cppの量子化バリエーションを整理する｜Baku
「llama.cpp」はMacBookなどでLlamaベースの大規模言語モデルを動かすことを目標とするアプリケーション。一応CPUのみでも実行でき、GPUの非力な環境でも動かしやすい。 llama.cppの量子化モデルllama.cpp(GGML)...
11 人がブックマーク・2 件のコメント
＼ コメントが サクサク読める アプリです ／