Command-R+の衝撃! 100Bモデルで本当にこんなことできんの!?ダウンロードしてローカルで実行可能｜shi3z

Command-R+の衝撃! 100Bモデルで本当にこんなことできんの!?ダウンロードしてローカルで実行可能 Transformerの発明者らが起業したCohereAIがとんでもないモデルを出してきた。この業界では毎週のように「えーー!」ということが起きるのだが、その中でも年に1,2回起きる「えーーーっ」が起きたのでブログでも紹介しておきたい。 Command-R+(おそらくコマンダープラスと読むのが正しい)というモデルは、わずか100Bで、GPT-4,Claude-3並と言われるモデルだ。しかし、それを主張するだけのモデルなど腐るほどある。だが、実際に触ってみると期待外れということが多かった。 ところがCommand-R+は、その性能は桁違いである。というか、もはや僕という人間如きがちょっと触ったくらいでは「GPT-4よりいいね」とか「ここら辺甘いね」とか判断がつかなくなってきてる。しか

[yamada_k]

この人はいつも衝撃を受けているので震度みたいに度合いを表示してほしい。

[dominion525]

100バイトでそんな出力できるのすごいなー(たぶん違う)

[kachine]

2日前からAzureでも利用可能になったっぽい。レスポンス速いけど、存在しないURLや電話番号を伝えてくることがある感。 https://techcommunity.microsoft.com/t5/ai-ai-platform-blog/announcing-cohere-command-r-now-available-on-azure/ba-p/4103512

[lbtmplz]

“メモリ96GB以上のMacがあれば”

[cinefuk]

教えてもいない体験談を勝手に喋り出すのを見て、元ネタあるコピペなのでは？と疑ってしまう「そんな私がカレーライスを好むようになったのは、幼い頃、家庭で食べていたカレーライスがきっかけである〜」

[furu_ichi]

試してみた。これは本当にすごい。Gmail APIのレスポンス解析について質問してみたら、GPT-4と同等の賢さの答えが恐ろしく早く返ってくる。

[misshiki]

“Command（⌘）-R+モデルは、わずか100BでGPT-4,Claude-3並と言われるモデル。...性能は桁違い。...なんとダウンロードできる。非商用限定だが、商用利用したければAPIを使える”

[dotneet]

TO: トップブコメ、そうはいっても今回は震度5くらいあると思うよ。これで伝わるかわからんけど。

[yorkfield]

公開されてるモデルの中では日本語性能が高そう。ただ100bをローカルで動かすのはちょっときついか。精度保ったまま低bpwに量子化できると良いんだけど。

[ZB_Thinking]

ちょっと、自分に関連することをリストアップして、紹介したいことを入力すれば、簡単にブログ記事書いてくれますね。ちなみにバックスペースエフエムでの紹介からここにたどり着きました。

[osugi3y]

“メモリ96GB以上のMacがあれば”そんなもん持ってる時点ですごすぎ。

[nikutaiha]

command r

[sny22015]

100バイトと勘違いしてる人が多くて安心した

[tettekete37564]

100バイト？(たぶん違う)

[minaminoani]

バカなので「100バイトってすげえなあ。昔流行ったメガデモみたいに、フロッピーにおさまるのかー」とか思って読んでた。たぶん違うんだよね？誰か教えて。

[ucue]

タイトルで釣るのに必死なおじさんを想像するとなんかなー。

[Xray]

わずか100B（最低100GB以上あるけどそれは……

[IGA-OS]

ローカル環境作るハードル

[Helfard]

はよAIに命じて銀河七海物語を完成させてくれませんかね？

[algot]

飛行機の機内誌のコラムっぽい

[xorzx]

今まで数千万円のパソコンが必要だったLLMが100万のPCで出来ちゃう感じ？コレ数年後にはスマホに載りそうじゃない？

[n_vermillion]

なんだこれマジですげぇ。

[kagehiens]

コンサルの価値が下がるな。

[Wafer]

100Bモデル...?

[srng]

ついにローカルが現実的になってきたのか

[yarumato]

“コマンダープラスというモデルは、GPT-4と判断がつかないレベル。しかもGPT-4の5倍速い。創造的な文章を書かせるとやばい。俺の原稿よりずっといい。しかも無料。メモリ96GB以上のMacがあれば、ローカルで動作可能”

[Tamemaru]

デモページをちょいと触ったがこれはすごい。導入方法知りたくなるなこれは

[buhoho]

ついにローカルでGPT4レベルが……。設備に二百万も要らないのでは。

[Yaju3D]

GPT3で175Bモデルでした。

[kanopen]

ちょっと使ってみてから

[straychef]

ローカルはいいね