ローカルで動く大規模言語モデル(Rinna-3.6B)を使ってあなただけのAIパートナーを作ろう - Qiita

はじめに はじめまして。株式会社ずんだもんのアルバイトエンジニアのinadaです。 今日は誰でも作れるずんだもんと題してローカルPCにずんだもんAIを作ります。この記事はそのチュートリアル記事です。 (誰でもと書いてますが、RTX 3060(12G)搭載以上のPC推奨です。CPUマシンでも出来る部分はありますが非推奨です。RTX 3060(12G)のグラボは5万ぐらいで買えるので持ってなければ買っちゃいましょう。) 対象読者/記事の範囲 ローカルPCで動かせる大規模言語モデルを、学習用のデータの用意から、学習、動かすところまで一通りどんなものか、お試ししてみたい人。 自分だけの世界にただ一人だけのうちの子、またはパートナー(うちの嫁)を作り育てたい。そんな沼にはまりたい、興味がある人。 AIの仕組みや用語は当記事では解説しません。AIの用語(モデル, loss, epoch, checkp

[shunkeen]

YouTubeのずんだもん動画の自動文字起こし（トランスクリプト）を、スクレイピングして学習データに使ったら、ネットミーム漬けになったずんだもんLoRAが完成しそうなのだ。

[ys0000]

エアリアルじゃないと韻を踏めない。

[misshiki]

“今日は誰でも作れるずんだもんと題してローカルPCにずんだもんAIを作ります。この記事はそのチュートリアル記事です。”

[internetkun]

株式会社ずんだもんと書かれていてSSS合同会社がいつの間にか社名を変更していたのかって思いながら読んでいたけど記事の最後に「架空の登場組織」と書かれていた。紛らわしい

[yarumato]

“RTX 3060(12G、5万で買える)搭載以上のPC推奨。メモリは32G以上。ubuntu環境。学習させるデータをカスタムして、自分専用に性格付けしたずんだもんAIを作って、Web画面でチャットします。”

[puhu208n]

初見は帰るのだ定期 / 3.6Bでこれ? 6Bを超えると急激に知性を獲得すると聞いた気がするが。実は表意文字の優位性があったりするのか

[rax_2]

どんどん革新が起きている、が、まだ取り組むにはちょっとお馬鹿そうだなぁ＞Rinna-Lora