bmaltais/kohya_ssをPaperspace gradientで使ってSDXLモデルのLoRAを作るメモ - NEXTAltair's diary
nextaltair.hatenablog.com 前回から時は経ち*1SDXLが登場してLoRAも出てきた VRAM10GBじゃなかなか学習は進まないので今回もPaperspaceに頼る カスタムコンテナ UbuntuやCudaのVerがどうとか細かいことは置いといて前回と同じカスタムコンテナでとりあえずは動いた*2 cyberes/gradient-base-py3.10:latest これでインストールのはcuda Ver11.6 ipynbで動かす GitHub - bmaltais/kohya_ssにGoogle colab用のipynbへのリンクがあるので流用 !make CUDA_VERSION=116 !export PYTHONPATH=$PYTHONPATH:/usr/local/lib/python3.10/dist-packages ここを書き換えコンテナでインスト
経験から学んだ私的LORA作成術｜akiraU
学習の中身がそこそこブラックボックスなので、どんな設定がいいかは理屈がじゃなくて経験と勘頼り。 過去の経験を鑑みて、最近のLORA設定で気にしていることいくつか紹介してみます。 ・学習の基本は「学習率低め、STEP数は多め」 学習率は1e5～1E7ぐらいを使っています。 STEPは5000～1万でいいところを探る感じ。 デフォの1e3とか1e4で学習すると、画像がガビりやすいです。 またガビらないケースでも、他のLORAと同時に使うとすぐガビってしまい同時使用が難しくなりがち。 低学習率でSTEPを重ねたものの方が、複数LORAの併用に対応しやすい印象です。 -------------------------------------------------------- ※23/8/4 追記 最近はalpha=1で学習率1e4が多いです。あまりガビりません。 この記事を書いたときは「Ada
paperspace gradientでkohya-ss/sd-scriptsを動かすメモ - NEXTAltair's diary
カスタムコンテナ paperspacegradientはデフォルト設定で入るpythonバージョンは3.9なのでsd-scriptsは動かない そこでカスタムコンテナというと難しげだが､Engineer-of-Stuff/stable-diffusion-paperspaceで書かれたように入力するだけ cyberes/gradient-base-py3.10:latest venvは使わない これは最初だけ !git clone https://github.com/kohya-ss/sd-scripts.git マシンを起動する度に必要 apt update -y apt upgrade -y pip install torch==1.12.1+cu116 torchvision==0.13.1+cu116 --extra-index-url https://download.pyto
LoRAの作り方。イラストを学習させてAIで生成する方法（sd-scripts）
LoRA作成について（必要なものなど） 今回、LoRA作成はローカルで行なっていこうと思います。 高性能なグラフィックボードが必要になります。 参考までに、私が使っているWindowsノートPCには、GeForce RTX 4070 Laptop GPUを内蔵していますが、正常にLoRAを作ることができました。 方式について 学習の方式には以下の３つがあるとのことです。 DreamBooth、class+identifier方式 DreamBooth、キャプション方式 fine tuning方式 公式のREADMEによると、1の方式は学習データの要素のすべてを特徴と捉えてしまうので、プロンプトでキャラクターの服を変更できなかったりするそうです。 でも、3の方式はなんだかむずかしそうでした。 そんなわけで、今回は2の方式、「DreamBooth、キャプション方式」を使っていこうと思います。
Stable-Diffusionの学習設定まとめ｜gcem156
なんか学習設定について、よく分からんけどデフォルト！とかよく分からんけどこうしてみたらうまくいった！みたいな感覚で議論されていることが多い気がするので、学習設定についてまとめてみようと思います。機械学習のこと知らん人にも分かるようにするはずの記事でしたが多分そうなってないです。間違いもあると思いますが、私の記事が間違っていたとしても、悪いのは私よりも頭がいい人が分かりやすい説明をしないせいであって私のせいではありません。 機械学習の簡単な説明機械学習が分からない人にも！と思って難しい用語を避けようとしてみましたが、誤差逆伝搬のことをフィードバックって言いかえたところで分かりやすくなっているのでしょうか？ 機械学習はモデルの数値を学習データに合うように少しずつ調整していく作業です。なぜ少しずつかというと、機械学習では改善する方向はなんとなくわかるけど、最適な数値の位置は分からないからです。位
PaperspaceでStable Diffusion LoRA学習編
要約PaperspaceでのStable Diffusionにおけるkohya版LoRA学習方法を紹介します。……ご参照ください、ばかりでほとんど内容がないのですが、失敗談をお役に立てていただければ幸いです。 エラーが出ているあいだは藁をもつかむ思いでしたので、同じようなことでつまずかれているかたのご参考になれば嬉しいです。今回の教訓は「他人の言うことは素直に聞く」です。 はじめにようやくオリジナルキャラのLoRA学習ができました！ ネットを見るとわりとみんな普通にやってるので、もっと何とかなるもんだと思ってました。まさか一週間もかかるとは……。 まずは上手くいった結果を紹介して、最後に失敗談を記載します。ほんと、いろいろあったんですよ。もはやできないかと思って何度逃げようとしたことか。……しかし！ 諦めないで良かった！ ↓Paperspaceのまとめ記事作りました。ほとんど自作LoRA学
Stable Diffusion LoRAデータ作成 教師データ準備編 | taziku / AI × クリエイティブ | 東京・名古屋
前回、「Stable Diffusion LoRAデータ作成 sd-scriptsインストール編」でLoRAデータを学習できるツールのインストールするまでを紹介しましたが、今回は、LoRAデータ作成のための教師データの準備を行っていきます。 学習方式の選択 対応している学習形式は公式のRead meには以下の3つとなります。 DreamBooth、class+identifier方式（正則化画像使用可） 特定の単語 (identifier) に学習対象を紐づけるように学習。 キャプションを用意する必要が無いので、手軽ですが、髪型や服装、背景など学習データの全要素が identifier に紐づけられて学習生成時のプロンプトで服が変えられない、といった事態となります。 DreamBooth、キャプション方式（正則化画像使用可） 画像ごとにキャプションが記録されたテキストファイルを用意して学習
v15 Kohya LoRA Trainer Dreambooth の使い方、学習方法解説｜信濃まつもと
バージョン違いにご注意くださいこの解説はバージョン15です。 Kohya Trainer https://github.com/Linaqruf/kohya-trainer 追記箇所4.2. Data Annotationと5.2. Dataset Configにキャプション付けについての誤りがあったので修正しました。「キャプションとタグを精査する」に説明を追記しました。 v15.0.1の内容に対応 TensorboardとTensorflowのバージョンアップに対応しているので、「Colabで開く」項目からやり直してください。 activation_wordの扱いが変更されました。従来の「meru 1girl」という書き方から「meru」という書き方になります。この記事の方法で行う場合は影響はありません。 それらに伴い、4.2.2. 項目、5.2. 項目を修正しました。 前説学習にあたっ
GoogleドライブとcolabをリンクさせてStableDiffusionWebUI(AUTOMATIC1111)を使おう！｜さやか＠AIArtist
実行セルは３つに分かれています。 基本的に毎回使用するのは一番目と二番目のみで、三番目は初回起動の後だけに使います。 まず、[準備]と書いてある一番目のセルを実行する事でcolabo側とドライブ側の「Colab Notebooks」フォルダの下に「Stable Diffusion」フォルダが作成され、それぞれがリンクされます。 初めて使う場合はここで使用するモデルやLoRA、VAE等を各サイトからダウンロードしてドライブ側に展開された各フォルダに入れてください。フォルダ階層はいつもcolabに展開されているのと同じようになっているのですぐにわかると思います。 モデル等の移動が終わったら二番目の[起動]と書かれているセルを実行すると5分程度でWebUIが起動します。webUIを再起動する場合もこちらのセルを使用してください。 三番目のセルはconfig.json、ui-config.json
【AIイラスト】LoRAで追加学習モデルを作る方法【キャラ似せ/使い方】
はじめに 今回は、AIイラストの追加学習を行う方法を紹介します。 この記事では「LoRA_Easy_Training_Scripts」を使います。 こういう事ができます。（左：VRoid、右：生成） グラボは1660Ti / VRAM 6Gを使用。 （PC環境の詳細はこちら） 下準備 LoRA_Easy_Training_Scriptsを使うための下準備をします。 こちらのページにアクセス。 必要なものを確認。 GitHub - derrian-distro/LoRA_Easy_Training_Scripts: A UI made in Pyside6 to make training LoRA/LoCon and other LoRA type models in sd-scripts easy A UI made in Pyside6 to make training LoRA/Lo
ローカルの学習 - NovelAI 5ch Wiki
NovelAI 5ch Wiki 画像生成AIの情報を纏めるWikiです。 トップページページ一覧メンバー掲示板編集 ローカルの学習 最終更新：ID:QNrw4jY8gQ 2024年03月17日(日) 20:48:32履歴 概要 ここではローカルで行う学習の知見をまとめていきます リンク ローカルの学習入門 HyperNetwork DreamBooth DreamArtist TextualInversion Dreambooth-LoRA 追加学習でなにができる？ 特定のキャラを正確に生成する 新たな概念を追加する 既存の概念を上書きする トッピング感覚で簡単に使用できる(Dreambooth以外) 2024年現在はLoRAがおすすめ。軽量、高速、高性能。 それぞれの特徴 TextualInversion Embedding(単語と画像を関連付ける辞書のようなもの)を調整する。 学習が
（3/20更新）Kohya版LoRA学習環境 簡単スタンドアローンセットアップ（※bmaltais氏の『Kohya's GUI』の導入）｜niel
ただ、あまり好ましい方法ではないので、本家に大きなアップデートがあった時は新規に再導入してみてください。また、元の環境を残したまま導入したい時は、新規に導入するほうのフォルダ名（kohya_ss_webui）を別の名前に変更してください。 Kohya氏の公式リポジトリ https://github.com/kohya-ss/sd-scripts たまに確認してみましょう■高速化オプションRTX 30X0/40X0 をお持ちの方はさらに学習速度を上げることができます。公式によると4090でほぼ50%UPとのこと。 まずは以下より必要なファイルをダウンロードします。 CUDNN 8.6 https://b1.thefileditch.ch/mwxKTEtelILoIbMbruuM.zip 解凍すると、中からcudnn_windowsというフォルダが出てくるので、これをkohya_ssフォルダの
【Stable Diffusion】 LoRAの学習方法 | ぺんぎんや
Stable Diffusionなど画像生成AIを使用しているとLoRAという言葉をよく聞くと思います． LoRAは学習済みモデルを自分好みに改良するような目的で使用されるものであり，特にStable Diffusionなどで使われる際は，特定のキャラに特化させモデルを作る目的で使用されることがほとんどです． この記事では，自分用のLoRAを作成する方法を記載します． LoRAとは？ LoRAは”Low-Rank Adaptation”の略で，LoRAに関する原論文はこちらです． 一言でいうと，LoRAはフルサイズのファインチューニングに比べて，はるかに高速で少ない計算量で学習が可能な技術です． Stable Diffusion用に使う分にはTransformerやFine Tuning，LoRAの詳細を知る必要はありません．素人でも簡単に使えるというのがこの技術の素晴らしいところです．
Google Colabの無料枠を使いDreamBoothで追加学習して特定のキャラクターを描かせようの段 | いれろくの部屋
DreamBoothと、Google Colabの無料版を使ってWaifu-Diffusionに追加学習する方法です。 1ヶ月遅れ＆n番煎じです。 めんどうだったのでサンプルはありません。(アイキャッチ画像詐欺) Googleアカウントの容量を9GBぐらい使います。 1~2時間かかります。時間のある時に実行しましょう。 いるもの Googleアカウント Hugging Faceのアカウント 学習元となる画像 事前準備 学習元画像の準備 学習元となる画像を準備します。 服装や色が近いものでないと、学習効果が薄いです。 参考先リンクでは、公式絵に加えて、いくつか二次創作絵も学習画像として用意したようです。 512×512にトリミングしたものを、5~20枚程度用意します。 トリミングしてなくてもいけますが、(たぶん)勝手にトリミングされると思うので、変なところを学習されるよりは自分で選んだほうが
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
PaperspaceでKohya’s GUIを使うにあたって勘違いしてたことなど
あなたの性癖の為のLoraリンク集｜にきもなか
sd-scriptsのインストール方法を解説 ｜ LoRA学習環境をPaperspace、Google Colaboratoryで構築 | Murasan Lab
【Stable Diffusion】拡張機能「Dataset Tag Editor」を使って任意の画像からプロンプトを抽出する方法！
【Stable Diffusion】簡単に自作LoRAを生成できる「Kohya’s GUI」の導入方法と使い方を紹介！
【Stable Diffusion】「LoRA Easy Training Scripts」を使って自分だけのLoRAを作る方法を紹介！
