rwkv.cpp を試す｜npaka

テクノロジーカテゴリーの変更を依頼記事元:

note.com/npaka

1 userがブックマークコメント

コメント

0

記事へのコメント0件

注目コメント
新着コメント

新着コメントはまだありません。
このエントリーにコメントしてみましょう。

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

rwkv.cpp を試す｜npaka

「rwkv.cpp」を試したのでまとめました。・RWKV-4-World-JPNtuned-7B-v1-OnlyForTest_76%_trained-2023... 「rwkv.cpp」を試したのでまとめました。・RWKV-4-World-JPNtuned-7B-v1-OnlyForTest_76%_trained-20230714-ctx4096.pth ・macOS 13.4.1 1. rwkv.cpp「rwkv.cpp」は、「BlinkDL/RWKV-LM」を「ggerganov/ggml」に移植したものです。通常の「FP32」に加えて「FP16」、量子化された「INT4」「INT5」「INT8」の推論をサポートします。CPUに重点を置いていますが、cuBLASもサポートしています。 2. rwkv.cpp の準備「rwkv.cpp」の準備の手順は次のとおりです。 (1) rwkv.cpp リポジトリのクローン $ git clone --recursive https://github.com/saharNooby/rwkv.cpp.git

機械学習

ブックマークしたユーザー

Nyoho2023/07/16

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx