ラズパイで動く大規模言語モデルがGitHubで公開 性能は“GPT-3相当”、Metaの「LLaMA」派生

LLaMAは米Metaが独自開発した大規模言語モデル。LLM分野の研究推進を支援するため、研究者向けに2月にリリースした。大規模インフラを利用できない研究者のために小規模ながら性能の高いことが特徴で、7B（＝70億）、13B、33B、65Bの4種類のパラメーターを用意している。13Bモデルはベンチマークで米OpenAIのLLM「GPT-3」を上回るという。 米スタンフォード大学は、LLaMAの7Bモデルを派生させ独自のLLM「Stanford Alpaca」を開発。このモデルは研究や学術目的でのみ利用でき、娯楽や商用での利用は禁止している。Alpaca LoRAでは、Stanford Alpacaが生成するトークン（単語列）を再現できるという。 関連記事 Meta、独自大規模言語モデル（LLM）の「LLaMA」を限定リリース Metaは独自の大規模言語モデル「LLaMA」（Large La

[bohemian916]

「ゆっくり解説」とは、大規模言語モデルを低スペックのPCで動かした際、ゆっくりと解説文章が生成されることから、ゆっくり解説と呼ばれるようになった、というデマを思いついた

[seal2501]

残念だがしゃーない "娯楽や商用での利用は禁止"

[hhungry]

githubに「Alpaca LoRA」「Stanford Alpaca」「davinci-003」の出力比較が載ってる https://github.com/tloen/alpaca-lora

[bluescreen]

いまの生成AI、娯楽が最大の用途だと思うのだけれど。

[matchy2]

アンドレネコさんてはるき悦巳がキャラデザしそう

[syque]

“米スタンフォード大学が公開したLLM「Stanford Alpaca」を再現したという「Alpaca LoRA」。単一のGPU「RTX 4090」で5時間ほど学習させることで利用可能”

[misshiki]

“「Alpaca LoRA」がGitHub上で公開された。米MetaのLLM「LLaMA」の派生モデル「Stanford Alpaca」を再現できる”

[mas-higa]

あれか! 冬至と夏至に1行出力されるやつか!

[hinonono]

ロボットで物理的なトラブルに繋がるのは怖いし、慎重になるのも仕方ないか。最先端ってのは、機関車トーマス（の元ネタ）みたくトラブルが相次ぐもので、ITが例外的にネット等に収まり比較的安全だっただけだし。

[nilab]

「Raspberry Pi上で動かせる、GPT-3相当の大規模言語モデル（LLM）「Alpaca LoRA」がGitHub上で公開された。米MetaのLLM「LLaMA」の派生モデル「Stanford Alpaca」を再現できるという」

[queeuq]

これが理由でラズパイ買うやつ文章読めないのでは？

[urtz]

GPT4レベルのAIがモバイルで動くようになるとロボットに組み込めば擬似的な人間、アンドロイドが作れる。リモートでいいならBoston Dainamicsのロボット達に組み込めばすぐ出来そう。

[itochan]

まだ研究用途のみとのことだけど、未来がどんどん近づいてきてる。　質問したい分野ごとに小分けしてくみたいな流れはないのかなあ？と妄想。　たとえば科学だけ欲しい、翻訳機能いらない、みたいな。

[kyoai]

近視眼的意見だけど「ラズパイで動く」っていう枕詞には高騰品薄な商品で動くソリューションを提供されても感がある

[tattyu]

日本語だと1トークンで1文字とかそう言うレベルみたいなのでキツそう。

[buhoho]

"超低速ながら稼働" 動いたって言うなよ…

[napsucks]

日本語の場合、10秒に1文字ずつぽつ、ぽつと出力されるのだろうか。ご託宣のようでなんだかありがたみがあるかもしれないな。

[dec123456789]

この手の記事でGPT-3相当って言うけどさ、GPT-3のどのレベルに相当するのか書いてほしい。精度の低いGPT-3(Ada)から最も精度の高いGPT-3(Davinci)まであるわけで。

[pascal256]

スゴい！そして、MetaはAIそのものでビジネスしてないから、オープンだったり軽量なのかな？　サーバーやGPUを売る必要もないし、という邪推もついしてしまうw

[akagiharu]

普通にパソコンやスマホで自由に実行できるのがほしいな。有料でもいいから。

[stack00]

さすがに1トークン10秒か。

[otihateten3510]

学習済みってこと？？

[grocio]

Andreenkoさんはアンドレネコさん？でも可愛いからOKです🐱

[chintaro3]

これはいろいろ使い道が有りそう

[solidstatesociety]

通信なしならばありがたい

[cartman0]

“Raspberry Pi 4”

[kenzy_n]

IoTが加速する