ローカルLLMの情報まとめ｜npaka

「ローカルLLM」の記事が増えてきたのでまとめました。 「Llama 2」ベースのローカルLLMについては、以下でまとめています。

[Phenomenon]

おもってたローカルとちがった。mlcとかかと…

[YassLab]

“1. 推論 1-1. 実践 1-2. 情報 2. SFT (Supervised Fine-tuning) 2-1. 実践 2-2. 情報 3. RM (Reward / preference modeling) 4. RLHF (Reinforcement Learning from Human Feedback) 4-1. 実践 4-2. 情報 5. Llama.cpp 6. 評価 7. データセット 8. 事前学習 9. マルチモーダル”