GPT-4レベルの衝撃 PC内で使えるオープンLLM「Command R+」

カナダのAIスタートアップCohereは4月4日（現地時間）、ビジネス向けに最適化された最新の大規模言語モデル（LLM）「Command R+」を発表した。 高度なRAG技術を採用 Cohereは、AI業界に変革をもたらしたTransformerモデルを提唱した論文「Attention is All You Need」の共同執筆者として知られるトロント大学の研究者Aidan Gomez氏らによって2019年に設立されたカナダのAIスタートアップ。 OpenAIと同様、LLMの開発に特化しており、企業向けにチャットボット、検索エンジンの最適化、要約サービス、自社AIモデルのAPIなどを提供している。 Command R+は、同社が3月に発表した「Command R」の後継となるモデルであり、Cohereが得意とする高い効率性と精度のバランスを重視したRシリーズの一部となる。 128K（12万

[tonza_dopeness]

スマホもそうだけど10年後には当たり前に各端末で推論してそう。ただ急激に変わるイメージも無いから緩やかに変わるのだろうな。また今まで不可能だったビジネスが生まれるね。

[shinobue679fbea]

今のところ、あらゆる手を尽くしてもGPT4を明確に上回ることはできない。ただどんどん軽くなってるね

[shields-pikes]

LLMのコモディティ化がどんどん進んでる。ぶっちゃけ、年内にGPT-4相当の性能を出せない独自LLMベンチャーへの投資は、全て打ち切った方がいいと思う。必要十分な機能で横並びになるだけ。活用フェーズが本番だよ。

[quick_past]

ちょっとマイナーな話題になるとめためたになり、しばらく前のやりとりも忘れてたり、適当に有りもしない物についての質問をしても、素直にわかりませんと言えず、話をでっちあげる。それは全く同じ

[pwatermark]

いや、いくら「ダウンロード可能な形で公開されてる」からって、メモリなんぼ必要やねんコレ....

[kei_1010]

ローカルで動かせると書くなら必要なスペックも書いて欲しい。

[misshiki]

“Command R+は、同社が3月に発表した「Command R」の後継となるモデルであり、Cohereが得意とする高い効率性と精度のバランスを重視したRシリーズの一部となる。”

[buhoho]

llamacppがうまく動きません😭

[IGA-OS]

AI環境構築を試してみるには良きかな？

[Nnwww]

非営利目的の場合ローカルでも動かせるオープンLLM…どれくらいのリソースが必要なんだろう

[syu-m-5151]

必要なスペックを求めており〜

[yarumato]

“Microsoft Azureでの先行提供が開始。APIの利用料金はGPT-4やClaude3に比べて低価格。非営利に限りダウンロードしてローカル環境で利用することも可能だ。GPT-4と同等または凌駕する性能”

[deejayroka]

“RAGタスクにおいては、テキストの流暢さ、引用の質、全体的な有用性を総合的に判断した結果、GPT-4や「Claude3 Sonnet」といった他のモデルを上回る性能を示した”

[tattyu]

1040億パラメータがローカルPCで動くん？。環境は何が要るんだろう。

[napsucks]

ローカルで動かせるのはすごいな

[naggg]

“Cohereは、AI業界に変革をもたらしたTransformerモデルを提唱した論文「Attention is All You Need」の共同執筆者として知られるトロント大学の研究者Aidan Gomez氏らによって2019年に設立されたカナダのAIスタートアップ”