グラボ非搭載の低スペックPCでも使える軽量チャットAI「GPT4ALL」の使い方まとめ

ChatGPTを代表に高性能なチャットAIが続々と発表されていますが、チャットAIの多くはオンラインで使う必要がある他、オフラインで動作するチャットAIも高性能PCを求めるものがほとんどです。そんな中、高性能GPUを搭載していないPCでも動かせる「GPT4ALL」が登場しました。実際に使ってみたところグラフィックボードを搭載していないモバイルノートPCでも動かせたので、使い方をまとめてみました。 GitHub - nomic-ai/gpt4all: gpt4all: a chatbot trained on a massive collection of clean assistant data including code, stories and dialogue https://github.com/nomic-ai/gpt4all GPT4ALLは、Nomic AIが開発したチャッ

[shunkeen]

“GPT4ALLは英語でのコミュニケーションは十分に可能ですが、日本語対応にはかなり難があります”／技術力をアピールするために、どこかの企業が日本語でファインチューニングしたGPT4JPを出しそう。それとも個人勢？

[tattyu]

">日本語は得意ですか？" "あなたの日本語が効過ヘッドになるよう、お満ましい！" 狂気を感じる。

[straychef]

どこまでのことを答えてくれるのかさっぱりわからんな　4GBにすべてが詰まってるとは思えんし

[Kukri]

3.5GBか。科学技術分野の情報に特化した、もっと大容量のモデルデータが出るのを待ってる

[kagehiens]

テンソル演算アクセラレーターがFPUみたいに標準搭載されないと厳しいんじゃないかなぁ。あるいはGPUメモリの方が重要でそれでも無理かな。

[rax_2]

www。自分も使ってみたけど、日本語コミュは無理だと思ったよ。

[ak1024]

stable diffusionみたいにビデオボード使ってwebuiで日本語が使えるやつも時間の問題かな

[wate_wate]

メモ

[ooblog]

#AI #AGI #LLM #ChatGPT #GPU #CPU #GPT4ALL #LLaMA #NomicAI 「gpt4all-main.zip~3.54MB~GPUパワーを必要としない~ノートPCでも~gpt4all-lora-quantized.bin~3.92GB~日本語~かなり難」 #深層学習 #ディープラーニング 当然ながら学習データ(モデル)が本体。