サクサク読めて、アプリ限定の機能も多数!
これあくまで推論の話だからGPUが不要になるというのは誇大広告では/すみません嘘でした。ただ勾配計算時に浮動小数点数の乗算はなくなるの? あとnormとかどうしてるんだろう
golotan のブックマーク 2024/02/29 13:19
驚異の1ビットLLMを試す。果たして本当に学習できるのか?|shi3zこれあくまで推論の話だからGPUが不要になるというのは誇大広告では/すみません嘘でした。ただ勾配計算時に浮動小数点数の乗算はなくなるの? あとnormとかどうしてるんだろう2024/02/29 13:19
このブックマークにはスターがありません。 最初のスターをつけてみよう!
note.com/shi3zblog2024/02/29
昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアル...
442 人がブックマーク・68 件のコメント
\ コメントが サクサク読める アプリです /
これあくまで推論の話だからGPUが不要になるというのは誇大広告では/すみません嘘でした。ただ勾配計算時に浮動小数点数の乗算はなくなるの? あとnormとかどうしてるんだろう
golotan のブックマーク 2024/02/29 13:19
このブックマークにはスターがありません。
最初のスターをつけてみよう!
驚異の1ビットLLMを試す。果たして本当に学習できるのか?|shi3z
note.com/shi3zblog2024/02/29
昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアル...
442 人がブックマーク・68 件のコメント
\ コメントが サクサク読める アプリです /