画像生成AIを始めたいけどグラボが高価で諦めている人に朗報、安価なAPUでも大容量なVRAMを割り当てて画像生成可能

Stable Diffusionなどの画像生成AIは自身の所有するマシンにインストールしてローカルで実行することが可能です。しかし、快適な画像生成に必要な「大容量のVRAMを備えたグラフィックボード」はPCパーツの中でも高価な部類に入るため、予算の都合から画像生成を諦めている人も多いはず。新たに、安価なAPUでも実用的な速度で画像を生成できたという検証結果がAI関連YouTubeチャンネル「Tech-Practice」によって報告されています。 Democratize AI: turn a $95 chip into a 16GB VRAM GPU! Beats most of the discrete GPUs! | by Ttiotech | Aug, 2023 | Medium https://medium.com/@ttio2tech_28094/51a8636a4719 Demo

[onigiri-chan]

分かってはいたけどスピードとのトレードオフが凄い→解像度512×512ピクセル」「ステップ数50」という設定で画像を生成した結果、画像1枚当たり約1分50秒で生成に成功したとのこと。

[ite]

大量に作らないなら多少遅くても問題ない。そもそも人間が描くなら数時間はかかるだろ。VRAMの多いGPUは選択肢が少なく、ゲーム用に買ったGPUだとメモリが足りないことも多かったので助かる。

[iwata_n]

Apple SiliconなMacでも同様なことできるけども生成速度は絶望的だった。cudaだけじゃなくてmpsにも対応してくれると早くなるのかもしれない

[ys0000]

試行回数考えたら、金持ってるならGPU買えって話になるが、初期投資抑えて何枚か作ってみたいという人にはよい選択肢だね。消費電力等があるので、そこまで総コストには有意差が出ないのかもしれない。

[AcidReflex]

Steam Deckでもswap領域をVRAM割り当てて実行することが出来るのだろうか

[REV]

『安価なAPUでもメインメモリからVRAMを割り当ててゲームができる』APUが全然売れなかったのは、ビジネス用途には3D機能は無駄でグラボ乗せるなら3D機能は無駄で中量級以上のゲームはAPU単独だと無理だったからで…

[sh2]

Ryzen 7 5700G持ってるので少し気になるけど、実用性は薄いかなあ

[quick_past]

この界隈、あまり詳しくないんだけど、Windows上でCUDAを使えないRadeonの環境では、Stable Diffusionを使うのはかなりめんどくさかったような気が。

[sisya]

ただ使えるだけなら、巷で公開されているツールでいい。手元に生成AIを置く理由はひとえに試行回数を稼ぐためなので、1枚2分弱も掛かっては意味がない。使ってる人間本人の時間を浪費してしまっては本末転倒。

[harumomo2006]

学習用に128割り当てたい

[yarumato]

“CPUとGPUを同一チップ内にまとめたAPUでは、メインメモリをVRAMとして使用。APUに16GBのVRAMを割り当てることも可能。”

[youichirou]

なぜそんな2020年のAPUでやるんだろう…。

[red_kawa5373]

RTX 3060 12GB（4万前後）だと1枚5秒～10秒くらいらしいので、わざわざ積極的に「画像1枚当たり約1分50秒」というこの方法を選ぶ理由はないだろうな。元からこの構成の人が、遊びでやるとかなら有りかも。

[miurahiroshi]

Ryzen 5 5600G

[kyukyunyorituryo]

ノートパソコン用のGPUもメモリ共有するのでそっちは無理なのだろうか。