予算30万円台の深層学習用PCの買い方｜shi3z

深層学習をまじめにやるなら、どう考えても専用のPCが必要になる。 僕は現在、Memeplexというサービスを運営していて、これはさくらインターネットさんから大量のGPUを借りている。借りたGPUは、さくらインターネットの石狩データセンターで動いている。 さらに、ABCIは企画の段階から立ち会って、実際に仕事ではよく使っている。ABCIは5000以上のGPUを擁するGPUクラウド基盤で、その実態はスーパーコンピュータである。 ABCIを使えば、ほとんどの難しいタスクを恐ろしく安い料金で行うことができる。GoogleやAmazon AWSのようなサービスを展開することができない本邦においては、国家が設立し、民間利用可能なABCIは国民にとっての天叢雲剣あめのむらくものつるぎである。 それでもなお、手元には深層学習用のPCが必要だ。しかも一台では足りない。 ABCIがいかに安くても、PCほどの利

[sander]

いつの時代になっても(V)RAMのサイズが正義なんだなぁ／頻繁にwriteするからSSDは不向きと。壊したことがある人が言うんだから間違いないな。

[circled]

shi3z氏はこの手の記事だけを書き続けて欲しいと願うところ

[ttkazuma]

勘違いブクマのために、3080と3080laptopは全く別物だからな。laptop=Max-Q,mobileであり、１世代前の性能（3080laptopなら2080）です。

[guldeen]

ストレージとしてのSSDが『細かい読み書き』は苦手なのは解ってたつもりだったが、ハードウェアを実際に何度か『酷使し壊した』人の体験報告は、一味ちがう(汗)

[sovereignglue]

ドスパラがこんなに褒められてる記事を初めて見た。

[qpci32siekqd]

ABCIは個人で使えないのが…/ それにしてもAIはいくら計算能力あっても足りない。演算能力足りなくて時間がかかるってのだと待てばいいけどVRAM足りなくて動かないってのがな。最近のモデル軒並みデカい

[ninosan]

サードウェーブ選んでいる時点で嫌な予感がする( ˘ω˘)

[Imamura]

今すぐ買うべきなのはその通りだが2年で陳腐化するものを4年ローンで買うのは価値観の違いを感じる。あとckptをHDDに置くと切り替えが遅いのでSSDに置いてますが、writeじゃないなら酷使になりませんよね?

[harumomo2006]

ドスパラのクリエイター用PCを買ったんだけど以前使ってたガレリアより2まわりくらい大きいし会社のHPの2倍以上大きい。冷却効率のためとはいえ大きすぎるのが難点

[millfi]

“これを無視してNVMe上で学習を走らせると、３日もしないで壊れる(実際壊したことがある)。”深層学習ヤバすぎる

[l-_-ll]

“M1/M2プロセッサでAIが実用的に使えると思い込んでる人がいるらしい。ハッキリ言って勘違いであり、"　"たとえばStableDiffusionをM1/M2プロセッサで推論させると5分くらいかかる。3080なら3秒。時間感覚が100倍違う。”

[geopolitics]

別件で同じ事を言っている人がいたので重要。「あんなAmazonで最大の利益の源泉になってるものがお買い得なわけがない。」

[kei_1010]

くっ、PC買う前にこれを見ておけばっ！ NVMeで学習させまくってるわ。まだ壊れる気配は無いけど運が良かったのかな？RAMDISK使お。

[nentaro]

PCでローン組むの？

[altar]

Stable Diffusion のカジュアルな利用も増えただろうし、GPUリッチなPCをゲーミングPCと呼ぶマーケティング習慣はそろそろ改めるべきではないかと思う話。

[enemyoffreedom]

「機械学習はリードも多いがライトも多い。タスクにもよるが、ライトが多い学習はハードディスク上で走らせた方が安全だ」 なるほど

[isrc]

できるだけRAMDISKに逃すだけで学習速度は大幅に変わる。学習においてVRAMに次いでRAMの容量が最重要。GPUのおすすめは30万円台なら3080だ。12GB VRAMのものを選ぶ。これでギリギリ、深層学習PCと呼べるものになる。

[synonymous]

中小企業のオヤジっぽさが良い方に出ている記事。

[misshiki]

“GPUは世代よりVRAMの容量で選ぶべき。3080は12GB版がある。12GB未満のVRAMのGPUはできるだけ避ける。できれば24GBは欲しい。”

[hiby]

>これを無視してNVMe上で学習を走らせると、３日もしないで壊れる(実際壊したことがある　本当ならSSDの耐久試験シナリオとしてたいへん優秀なのでは。

[kiyo_hiko]

>GALLERIA ZL7C-R38H こんなのあったとは。昨日AI遊び用にROG GZ301ZA-I5UMA(i5 12500H 16GB 512GB Iris Xe)とROG GC31(RTX3080 16GB)買ってしまった。概算27万。タッチとペン対応だがRAM少ない。絵描きだし多分Z13で最適と思うが比較しときたかったな

[vanish_l2]

3050でタクティクスオウガとfootball manager同時にプレイして悦には入ってるわい、低みの見物　関係ないけどGCPとかいじってて課金されちゃったアホはわいだけでよい…

[manimoto]

ABCIは天叢雲剣

[aceraceae]

たしかにWSL2はかなりちゃんとしてると思うけどWindowsそのものが使いにくさしかないんで素直にLinux単独マシン組んだほうが使いやすいと思う。どうせ生活用のメインマシンからリモートログインして使うことになるし。

[alaska4]

どのぐらいの性能の半導体が必要なのかはまあ見て考えればわかるんだけど、良い感じの冷却の方法とかクーラーの選び方とかが全然わからない。ドスパラとかarkで店員に訊けばいいんだろうか

[naoto_moroboshi]

全然話変わるけど金利手数料を店が負担する分割払いすごいよな……。48回ってタダみたいなもんじゃんね！（タダではない）

[timetrain]

SSDに頻繁に書き込むと壊れるところどうすりゃいいのさと思ったら、RAMDISKかあ。確かにそれは強い

[ET777]

考えたら30万なら（そういう業務用クラスの）液タブとどっこいかちょい安いな

[richard_raw]

参考になります。やっぱりRAMディスクかー。/「高火力サーバー」って本当にそういう名前だったの……。

[dollarss]

30万円台、税込だと41万円とかだろうと思ったら込みで32万切っていて驚いた。サードウェーブだしこれは欲しい…

[stracciatella]

20万超えて固定資産化するのを避けたい企業が多い。

[takanq]

3090の中古かって、後はメモリをモリモリでよいのでは?

[buriedarmy]

中古の3090はマイニングで酷使されたものが多そうでちょっと不安だな。3080は複数モデルあって判別は難しいし、モノは少ないが3090Tiの中古が狙い目と思う。金があるならA6000一択だけどAda Lovelace版は100万という噂。

[natu3kan]

円高の頃は20万円くらいで、今の30万円クラスのパソコンが買えたと思うと複雑。VRAM足りなすぎると、将来の機械学習のツールがメモリ不足で使えなくなりそうだし。VRAM2GBでもStableDiffusionをローカルで動かすの無理っぽいし