自宅PCでクラスターを構築：コンシューマーGPUの枠を超え、大型LLMをローカルで動かす！｜AIサトシ
最近オープンになる大規模言語モデル（LLM）が、軒並みGPT-4レベルの性能となっています Huggngfaceで無料でダウンロードできるのですが、問題は必要VRAM容量です 話題の、Command-r-Plusは、日本語性能について評価が高く、一部の性能はGPT-4並みと言われますが、さすがに大型で104Bパラメータもあるため、4bitに量子化しても60GB程度のVRAMが必要となります。 コンシューマークラスのGPUの最高峰、RTX4090は、VRAM24GBのため、command-r-plusをすべてGPUに載せて推論しようと考えると、3台のマルチGPUデスクトップが必要です しかし、RTX4090は450W消費のGPUのため冷却機構が大きく、1デスクトップに3台収めるのは至難の業となります。 先日、水冷ラジエーター付きRTX4090で、マルチGPUデスクトップを作成しました。 水冷
NVIDIA「RTX 2080 Ti」がVRAM容量11GBから22GBへ勝手に改造され中国で販売されている
VRAM容量を11GBから22GBにアップグレードした改造版の「RTX 2080 Ti」が中国市場で流通していることがわかりました。AIブームが巻き起こる中、アメリカによる半導体規制を受けている中国でGPUを確保しようとする必死の試みが行われています。 Chinese workshops recondition Nvidia's old flagship gaming GPU for AI — RTX 2080 Ti upgraded to 22GB for $499 | Tom's Hardware https://www.tomshardware.com/pc-components/gpus/chinese-workshops-recondition-nvidias-old-flagship-gaming-gpu-for-ai-rtx-2080-ti-upgraded-to-22gb-
NVIDIAが「NVIDIA RTX Remix」のオープンベータテストを開始、クラシック作品をレイトレーシングやDLSS、PBRに対応させるMODツール « doope! 国内外のゲーム情報サイト
本日、NVIDIAが国内向けのプレスリリースを発行し、RTX技術に対応していないクラシックタイトルをフルレイトレーシング（パスレイトレーシング）やNVIDIA DLSS、NVIDIA Reflex、物理ベースレンダリング、生成AIを用いるテクスチャ拡張といった技術でリマスター可能にするツール「NVIDIA RTX Remix」のオープンベータ版リリースをアナウンス。本日より無料のベータ版がダウンロード可能となっています。 RTX Remix のオープン ベータが開始！ 現在、すべての MOD 制作者は、新しい NVIDIA RTX Remix オープン ベータ版をこちらから無料でダウンロード可能となり、実験したり、作成したり、フィードバックを残すことで、完全リリースに向けたエクスペリエンスを向上させることができます。 また、GeForce.com には詳細な「スタートアップ ガイド」があり
NVIDIA、GeForce RTX 40 SUPERシリーズ発表。RTX 4080 SUPERはRTX 4080より安価に | テクノエッジ TechnoEdge
ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 NVIDIAはCES 2024の開幕に合わせ、ゲーム用GPU製品のGeForce RTX 40シリーズを強化したGeForce RTX 40 SUPERシリーズを発表しました。 「RTX 4080 SUPER」、「RTX 4070 Ti SUPER」、「RTX 4070 SUPER」の3モデルが発表され、日本での価格と発売日はそれぞれ14万8000円/1月31日、11万5800円/1月24日、8万6000円/1月17日となっています。またRTX 4080 SUPERとRTX 4070 SUPERにはNVIDIA純正製品のFounders Editionも用意されます。 いずれも名前にSUPERが付かない既存モ
NVIDIA RTX環境での「Stable Diffusion」はVRAMを使い果たすとDRAMも使えるが、逆にVRAMだけにもできる
NVIDIA RTX環境での「Stable Diffusion」はVRAMを使い果たすとDRAMも使えるが、逆にVRAMだけにもできる 米NVIDIAは10月31日、サポートページ内にあるナレッジベースに掲載する形で、「Stable Diffusion」に関する動作の仕様について情報を公開した。生成AIを手軽に楽しめる「Stable Diffusion」におけるTipsがまとまっている。 NVIDIA RTX環境での「Stable Diffusion」はVRAMを使い果たすとDRAMも使えるが、逆にVRAMだけにもできる Stable Diffusionは、利用にあたって大容量のGPUメモリ（VRAM）が必要になる。NVIDIAではおおよそ6GB以上必要であるとしているが、モデルやスクリプトによってはより大規模なGPUメモリが必要になることもある。これを受けてバージョン536.40以降のド
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
[GUIDE] DSDT override eGPU error 12 fix
複雑な8文字のパスワードでも、MD5ハッシュだとGeForce RTX 4090で1時間以内に解読されてしまう
GeForce RTX搭載PCで動くローカルAI「ChatRTX」刷新。画像認識や音声入力に対応
「GeForce NOW」のNVIDIA直営サービスを試す ～新設のUltimateプランはGeForce RTX 4080を超える性能？【石田賀津男の『酒の肴にPCゲーム』】
NVIDIA、GeForce NOWの自社提供を日本でも開始。4K対応の最上位プランも国内初登場
NVIDIA、1パッケージに2ダイの新型GPU「Blackwell」。AI性能は学習4倍、推論30倍に
【西川和久の不定期コラム】 5万円台で生成AIに理想的なVRAM 16GBの「Intel Arc A770」でStable Diffusionが使えるか試してみた
LowProfile対応で補助電源不要のプロGPU「NVIDIA RTX 2000 Ada世代」登場
【特集】 「パルワールド」を快適に遊ぶならGPUはどれがいい？GeForceの最新と旧世代で比較してみた
NVIDIA、GeForce RTX 40 SUPERシリーズ計35製品を一挙展示
Ryzen 8040搭載ノート、メモリ16GBのRadeon RX 7600 XTなどがCESで展示
NVIDIA、999ドルのGeForce RTX 4080 SUPER。Twitch配信やG-SYNC周りも強化
NVIDIA、生成AIの処理7割高速化 パソコン用半導体を開発 - 日本経済新聞
【西川和久の不定期コラム】 OCuLinkでミニPCにGeForceを後付け！？高速AI&ゲーム環境構築にチャレンジ
シングルスロットのGeForce RTX 4060 TiビデオカードがGALAXの製品情報に登録
