ビット数とか薀蓄語りたい人の話はどうでも良い。実装からの検証でCPUとGPUの学習推論速度比が相当縮んだだろう事が重要だ、性能テストのスクリプトを流せ

manjirou99 のブックマーク 2024/02/29 13:08

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4749953678947463424/comment/manjirou99" data-user-id="manjirou99" data-entry-url="https://b.hatena.ne.jp/entry/s/note.com/shi3zblog/n/n58b0a2252727" data-original-href="https://note.com/shi3zblog/n/n58b0a2252727" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fnote.com%2Fshi3zblog%2Fn%2Fn58b0a2252727" data-user-icon="/users/manjirou99/profile.png">驚異の1ビットLLMを試す。果たして本当に学習できるのか?｜shi3z</a><br><p style="clear: left">ビット数とか薀蓄語りたい人の話はどうでも良い。実装からの検証でCPUとGPUの学習推論速度比が相当縮んだだろう事が重要だ、性能テストのスクリプトを流せ</p><a class="datetime" href="https://b.hatena.ne.jp/manjirou99/20240229#bookmark-4749953678947463424"><span class="datetime-body">2024/02/29 13:08</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

驚異の1ビットLLMを試す。果たして本当に学習できるのか?｜shi3z

note.com/shi3zblog2024/02/29

昨日話題になった「Bit Net」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 Bit Netというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアル...

442 人がブックマーク・68 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

驚異の1ビットLLMを試す。果たして本当に学習できるのか?｜shi3z

はてなブックマーク

公式Twitter

はてなのサービス