イーロン・マスク氏のxAI、LLM「Grok-1」をオープンに

イーロン・マスク氏が昨年7月に立ち上げたAI企業xAIは3月17日（日曜日）、同社のLLM「Grok-1」の基本モデルの重みとアーキテクチャをリリースすると発表した。GitHubで、Apache 2ライセンスで配布されている。 Grok-1は、同社が昨年11月に発表したチャットbot「Grok」のベースとなるLLM。マスク氏がオーナーである米Xの「Xプレミアムプラス」のユーザーは、Grokと会話できている。 xAIは「3140億パラメータのMixture-of-Experts（MoE）」モデルと説明しているが、トレーニングデータについては「特定のタスク用に微調整されていない大量のテキストデータ」としか開示していない。ちなみに、Grok-1と競合する米OpenAIの「GPT-3」のパラメータ数は約1750億で、「GPT-4」については公表されていない。 マスク氏は2月、OpenAIを“契約違

[toyoshi]

イーロン・マスクに関して悪いことが言えないようになってるチューニングが発見されるまでが様式美

[colonoe]

まずは自分から公開するというのは立派／Xの反AIアカウントの発言も学習してるのかな

[prjpn]

Grok-1は3140億パラメータなので公開したところで評価出来る人が限られている。

[quick_past]

わざわざOpenAIを腐してから出してるんだから、「いろいろと自由すぎる」学習してるんだろうな・・・

[IkaMaru]

陰謀論やホロコースト否定論を喋りだすまでどれくらいかな

[Insite]

去年の今頃はLLMの開発休止を主張しておられたような

[pwatermark]

いや、でかすぎでしょ....w

[misshiki]

xAI “LLM「Grok-1」の基本モデルの重みとアーキテクチャをリリース。GitHubで、Apache 2ライセンスで配布されている。Grok-1は、同社が昨年11月に発表したチャットbot「Grok」のベースとなるLLM。”

[tattyu]

grok-1使ってるレビュー殆ど見ないのである。

[rdlf]

AIの会社xAIなんて設立していたのか。なんかAI関係のことをやっている認識はあったけど知らんかった。

[IGA-OS]

一連の応酬は、イーロン・マスクの上手さだね