1BitLLMの実力を見る｜shi3z

1BitLLMは本当に実現可能なのか?そして、実現されると予告されていることに意味はあるのか? ようやく再現実装に成功した人が現れたので僕も試してみた。 ちなみに1Bit(1.58bit) LLMについての考察はこのページが面白いので一読をお勧めする。 ただし、普通のHuggingFaceのお作法とはかなり違うので注意が必要。 まず、このHuggingFaceリポジトリを丸ごとgit cloneする $ git lfs install $ git clone https://huggingface.co/1bitLLM/bitnet_b1_58-3B $ cd bitnet_b1_58-3Bこれをやらずにいつもの凡例みたいにいきなりpipelineに読み込もうとすると謎のエラーが出て悩まされることになる。海外でも悩んでる人が何人もいるみたいだ。まあ個人的には「こんな説明で誰がわかる?」と思

[isrc]

1BitLLMは本当に実現可能なのか?そして、実現されると予告されていることに意味はあるのか? ようやく再現実装に成功した人が現れたので僕も試してみた。

[anigoka]

やっぱ東京は終わってたか～

[star_123]

動いたけど終わった

[lli]

みんなもういなくなりましたよ

[kei_1010]

ありがたい。しかし、もう少し検証結果を多く出して欲しい。あと解説や考察もして欲しい。せめて「いけそうだと思うかどうか」ぐらいは書いて欲しい。

[paradoxparanoic]

いけてそう

[buhoho]

1Bit化を試してみました。よくわかりませんでした。いかがでしたか？(いや試してもらえるの助かります)

[welchman]

すごいな。終了しちゃったけど。

[hinonono]

「東京が死んで、ボケが生まれた。」

[hagakuress]

東京がそんな惨状だったとは。。

[prjpn]

合ってる