【西川和久の不定期コラム】 自前でStable Diffusion用美女モデル作成の後日談。そしてVRAM 80GBのA100も使ってみた！
中国がアメリカに禁じられたはずのNVIDIA製AIチップをDell・Gigabyte・Supermicro製サーバーから取得していたことが明らかに
中国が高性能チップをAI搭載兵器やサイバー攻撃ツールなどに軍事転用することへの懸念から、アメリカ政府はNVIDIAなどの半導体メーカーに対し、中国への高性能チップ輸出を規制しています。しかし、中国国内の一部の研究機関や大学では、NVIDIA製チップが搭載されたDellやGigabyte、Supermicro製のサーバーを再販業者から仕入れることでこの規制を回避していることが指摘されています。 China acquired recently banned Nvidia chips in Super Micro, Dell servers, tenders show | Reuters https://www.reuters.com/world/china/china-acquired-recently-banned-nvidia-chips-super-micro-dell-servers-
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti
もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし
自宅PCでクラスターを構築：コンシューマーGPUの枠を超え、大型LLMをローカルで動かす！｜AIサトシ
最近オープンになる大規模言語モデル（LLM）が、軒並みGPT-4レベルの性能となっています Huggngfaceで無料でダウンロードできるのですが、問題は必要VRAM容量です 話題の、Command-r-Plusは、日本語性能について評価が高く、一部の性能はGPT-4並みと言われますが、さすがに大型で104Bパラメータもあるため、4bitに量子化しても60GB程度のVRAMが必要となります。 コンシューマークラスのGPUの最高峰、RTX4090は、VRAM24GBのため、command-r-plusをすべてGPUに載せて推論しようと考えると、3台のマルチGPUデスクトップが必要です しかし、RTX4090は450W消費のGPUのため冷却機構が大きく、1デスクトップに3台収めるのは至難の業となります。 先日、水冷ラジエーター付きRTX4090で、マルチGPUデスクトップを作成しました。 水冷
外付けGPU「ONEXGPU」でビジネスノートPCをパワーアップしてみた オンライン会議における“もっさり”の解決策になる？
外付けGPU「ONEXGPU」でビジネスノートPCをパワーアップしてみた オンライン会議における“もっさり”の解決策になる？（1/5 ページ） リモートワークで会社から貸与されたノートPCを使っている人の中には、その性能に不満を感じている人も多いのではないだろうか。例えば、作業効率アップのために外部ディスプレイを接続する場合もあるだろう。しかし、高解像度ディスプレイやマルチディスプレイの環境だと、メモリ不足などで極端に動作が重くなる場合もある。 とはいえ、現代のノートPCの多くは物理的にメモリの増設ができず、そもそも内部のパーツ追加や交換を会社が認めていない場合がほとんどだろう。 しかし、本記事で紹介する外付けGPU（eGPU）「ONEXGPU」を使えば、そんな会社のPCでもパワーアップさせられるかもしれない。 「会社のPCの動作が遅い……」 筆者が働いている会社から貸与されているのは、典
NVIDIAがCUDAを他のハードウェア上で実行することを禁止
NVIDIAが、GPU向けのコンピューティングプラットフォームとして提供している「CUDA」のソフトウェア利用許諾契約(EULA)の中で、翻訳レイヤーを通じてNVIDIA以外のハードウェアプラットフォームで実行することを禁止していることがわかりました。もともとこの条項はNVIDIAのサイト上で公開されているオンライン版のEULAには含まれていましたが、インストールしたCUDAのドキュメントにも含まれるようになったとのことです。 License Agreement for NVIDIA Software Development Kits — EULA https://docs.nvidia.com/cuda/eula/index.html Nvidia bans using translation layers for CUDA software — previously the prohi
Apple A4チップやAMD Ryzenの生みの親であるジム・ケラー氏がNVIDIAのCUDAとx86アーキテクチャを「沼」と呼んで批判
AMDのAthlonやZenマイクロアーキテクチャ、Apple A4などさまざまなチップの開発に携わったアーキテクトでエンジニアのジム・ケラー氏が、X(旧Twitter)で「NVIDIAのCUDAは沼です」と批判したことが報じられています。 Jim Keller criticizes Nvidia's CUDA, x86 — 'Cuda’s a swamp, not a moat. x86 was a swamp too' | Tom's Hardware https://www.tomshardware.com/tech-industry/artificial-intelligence/jim-keller-criticizes-nvidias-cuda-and-x86-cudas-a-swamp-not-a-moat-x86-was-a-swamp-too ケラー氏の経歴は以下の記事を
NVIDIAが中国で「GeForce RTX 4090 D」をリリース、アメリカの輸出規制に準拠するため他国で販売されている4090よりもプロセッシングコアが最大10％少ないことが特徴
中国への輸出規制に準拠する中国専用のRTX 4090相当品「RTX 4090 D」をNVIDIAが発表しました。価格はRTX 4090と同じですが、CUDAコアとTensorコア数が少なくなっています。 Nvidia launches China-specific RTX 4090D Dragon GPU, sanctions-compliant model has fewer cores and lower power draw | Tom's Hardware https://www.tomshardware.com/pc-components/gpus/nvidia-launches-china-specific-rtx-4090d-dragon-gpu-sanctions-compliant-model-has-fewer-cores-and-lower-power-draw NV
【2024年】おすすめグラボまとめ。価格・性能比較で選ぶ。【RTX 40, RX 7000各種に対応】 : 自作とゲームと趣味の日々
2024年04月10日11:00 （注：商品価格は執筆当時のものです。販売ページリンクにはアフィリエイトを含みます） 【2024年】おすすめグラボまとめ。価格・性能比較で選ぶ。【RTX 40, RX 7000各種に対応】 wisteriear コメント(0) タグ ：#おすすめグラボ#できる！自作PC#グラボ_レビュー スポンサードリンク グラフィックボードの買い替えや初めてのグラボ購入を検討しているユーザー向けに、100台以上のグラフィックボードを検証・レビューしてきた経験から、2024年最新のグラフィックボード事情、グラボ選びの基本、GPU性能比較などについて説明し、おすすめのグラフィックボード（グラボ・ビデオカード）を紹介していきます。 性能や価格の比較から、NVIDIA最新世代のGeForce RTX 40シリーズ（4090、4080、4070/Ti、4060/Ti）や前世代GeF
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GPUなしでもできる画像生成AI ～Web UI「A1111」の環境構築と利用方法を伝授【生成AIストリーム】
FPGAを使ったカスタムGPU「FuryGPU」。90年半ばハイエンドカードと同等の性能
ロープロ＆補助電源不要のビデオカードに新たなる王者が誕生!!「MSI GeForce RTX 3050 LP 6G OC」の実力検証 【第3戦】スリム型PCのゲーミングPC化にも最適 text by 芹澤正芳
【西川和久の不定期コラム】 5万円台で生成AIに理想的なVRAM 16GBの「Intel Arc A770」でStable Diffusionが使えるか試してみた
NVIDIA純利益8.7倍 11〜1月決算、AI需要急拡大で市場予想上回る - 日本経済新聞
NVIDIA時価総額、Amazonに並ぶ AI追い風に270兆円 - 日本経済新聞
【西川和久の不定期コラム】 GeForce RTX 4090なら100fps超え？噂の爆速画像生成AI環境「StreamDiffusion」を試す
ハイエンドノートの性能を決めるのは、CPU/GPUそのものよりも"その冷却能力"という事実 ～薄型/軽量で高性能なASUS「Zenbook Pro 14 OLED UX6404VI」で実際に検証[Sponsored]![ハイエンドノートの性能を決めるのは、CPU/GPUそのものよりも"その冷却能力"という事実 ～薄型/軽量で高性能なASUS「Zenbook Pro 14 OLED UX6404VI」で実際に検証[Sponsored]](https://cdn-ak-scissors.b.st-hatena.com/image/square/7c3eb85a6cdf91cf14fd51d3cd7885ace2aeac89/height=288;version=1;width=512/https%3A%2F%2Fpc.watch.impress.co.jp%2Fimg%2Fpcw%2Flist%2F1552%2F637%2Fimage01a.jpg)
GPUの性能比較がひと目で行えるヒエラルキー図公開―Nvidia「RTX 4090」全条件でTOPという結果に | Game*Spark - 国内・海外ゲーム情報サイト
【特集】 同じ「4060」と「4090」だけど……GeForceのデスクトップとノートはどのぐらい違う？
自宅PCでもAIはここまで動く！ VRAM 16GBのGeForceで動かす「画像で会話」の大規模言語モデル【イニシャルB【特別編】】[Sponsored]![自宅PCでもAIはここまで動く！ VRAM 16GBのGeForceで動かす「画像で会話」の大規模言語モデル【イニシャルB【特別編】】[Sponsored]](https://cdn-ak-scissors.b.st-hatena.com/image/square/e323ee4afd275297632465d779bdf8c7a6df3897/height=288;version=1;width=512/https%3A%2F%2Finternet.watch.impress.co.jp%2Fimg%2Fiw%2Flist%2F1527%2F680%2F001.jpg)
