LLMプロダクト開発とはどういうものなのか？｜erukiti

LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由という記事を書きました。 mutaguchiさんのツイートを見て、LLMプロダクトの開発とはどういうものなのかを知らない人も多いのかなと気づいたので、そこらへんを記事として書いてみます。 https://t.co/4WvjuuoGnC 「LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由」の記事のはてブコメント見てたんだけど、ほとんど理解されてなかったのが興味深い。 ・プロプライエタリなLLMでは、ランニングコストが嵩み、これを利用したサービスは成立しづらい… — mutaguchi (@mutaguchi) April 24, 2024 商用LLM APIとローカルLLMって使い方が全然違う気がしてる。 商用LLM APIって、機微情報を送らないこと、規約違反テキストを送らないこ

[Nyoho]

読んだらMac Studioが安く感じてきた。

[irimo]

good ネタがないので逸般人にはなれませんが、プロダクトとかのネタがあって、お財布に余裕があれば欲しいですね。今は家庭用だと大きく2択なんですかね。

[misshiki]

“ローカルLLMであれば、購入費用など初期コストと、電気代などのランニングコストさえ支払えば無限に使えます。”

[kenzy_n]

まだまだ未知であるがどう進んでいくのか気になる分野。