ChatGPTが話題ですが、そういうのをおうちで動かしたいですよね。 ということで、おうちで動かしやすくて割と会話ができるChatRWKVを試してみます。 ChatGPTは実装は公開されておらず手元で動かすことはできません。けど、サービスがたまに落ちてたりするので手元で動かせるなにかがあると安心ですね。何より、こんな変な技術を手元で動かしたい。 そこで手元で動かせるLLMとしてFlexGenが話題になりましたが、それでも強力なGPUが必要です。 https://github.com/FMInference/FlexGen そして低リソースで動かせる実装としてAlpaca.cppなんかも出ましたが、そこまで賢くない感じ。 https://github.com/antimatter15/alpaca.cpp そこに現れたのがChatRWKVです。一般のご家庭の8GB VRAMのGPUで動かせつ
最強ＣＰＵ将棋ソフト『水匠』ＶＳ最強ＧＰＵ将棋ソフト『dlshogi』長時間マッチ観戦記 第三譜『GCT』加納邦彦の自信
取材・文／白鳥士郎 「なんて……なんて、趣味人なんだ……」 加納邦彦が山岡から初めてその話を聞いたとき、あまりの壮大さに圧倒されたことをよく憶えているという。 なぜなら山岡は、Googleという超巨大企業が行った壮大な実験を、論文だけを頼りに、たった一人で再現しようというのだから……。 「山岡さんは同じ会社の1年先輩だったんです。私は老けて見えるので意外かもしれませんが（笑）」 新卒で入社した会社の同僚。 それが、加納と山岡の出会いだった。およそ２０年前のことだ。 現在はお互いに別の企業で働いている。 山岡は今、将棋ソフト開発者が多数在籍し、『将棋ウォーズ』を運営するHEROZに在籍している。まさに将棋が身近にある職場だ。 一方、加納が今の会社で担当しているのは『チャットボット』と呼ばれる技術だ。 「自動会話プログラムですね。サイトを訪問したお客さんに、機械が話しかけるといった技術です」
「最近よく聞くGPUってなんなの？」観る将棋ファンのためのコンピュータ講座（２）（松本博文） - エキスパート - Yahoo!ニュース
松本 では今回も講師に「水匠」開発者の杉村達也先生、ゲストに渡辺明名人を迎えて進めさせていただきます。第２回のテーマは「最近よく聞くGPUってなんなの？」です。 杉村 これもまた難しい質問ですが（笑） 渡辺 もちろん、わかりません（笑） 松本 ちょうどよかった。私もわかりません（笑）。多くの将棋ファンの方もわからないのではないでしょうか。 杉村 GPUとはGraphics Processing Unitのことで、主に3Dグラフィックを描画するためのパーツです。 松本 はい。本格的にゲームなどする人が重視するパーツというのが、私のざっくりした知識です。グラフィックボード（グラボ）とGPUは、ほぼ同義ですか？ 杉村 ほぼ同義です。グラボの一部にGPUが付いています。 松本 なるほど。 杉村 よく言われるのはCPUは大学生。GPUは小学生がたくさん。 松本 といいますと・・・？ 杉村 GPUだと
Windows 11 の WSL で GPU を使って rinna InstructGPT - nownab.log
はじめに 最近、念願のつよつよ GPU がついた PC を新調して WSL で環境構築を頑張っている。今回は GPU を使った LLM の推論を試した。 ここでの GPU は NVIDIA のもので、GPU の環境構築は WSL で CUDA を使えるようにすることを意味する。また、WSL の Distribution は Ubuntu-22.04。 LLM としては rinna 社の日本語特化 InstructGPT を使った。 GPU on WSL 基本的に この手順 に従って進めれば WSL で GPU が使えるようになる。具体的には、Windows 11 へ WSL 対応 NVIDIA ドライバのインストール、WSL 内で CUDA Toolkit インストールの 2 点。 NVIDIA ドライバのインストールは NVIDIA のドライバダウンロードサイトで Windows 11
最もプリミティブなPG-Stromの処理は、ユーザが入力したSQLを元にCUDA CのGPUプログラムを自動生成し、これを実行時コンパイル。ここで生成されたGPUバイナリを用いて、ストレージから読み出したデータをGPUで並列処理するという一連の流れである。 後にJOIN/GROUP BYの対応や、データ型の追加、SSD-to-GPU Direct SQLなど様々な機能を付加したものの、このコード生成と実行時ビルドの仕組みは2012年に最初のプロトタイプを公開した時から大きく変わってはいない。 コードの自動生成を担当するのはcodegen.cで、この人が吐いたCUDA Cプログラムをcuda_program.cがNVRTC (NVIDIA Run-Time Compiler) を使ってコンパイルし、GPUバイナリを生成する。 ただ、当初の『全件スキャンWHERE句・固定長データ型のみ』という
ソニー、「PlayStation 5」のロゴを初公開。超高速SSDやレイトレーシングに対応したGPUを搭載し2020年の年末に発売予定
ソニー、「PlayStation 5」のロゴを初公開。超高速SSDやレイトレーシングに対応したGPUを搭載し2020年の年末に発売予定 ソニーは1月7日（火）、世界最大級のエレクトロニクス製品展覧会「CES 2020」内で開かれたプレスカンファレンスにて、PlayStationの次世代機「PlayStation 5」のプロダクトロゴを公開した。 (画像はSony Japan CES 2020特設ページより) また、2019年10月に「WIRED」やPlayStation.Blogで発表された内容と同じく、2020年の年末に向けたPlayStation 5の発売予定や、超高速SSDやレイトレーシングへ対応したGPUの搭載、振動を利用した触覚フィードバック技術を採用したコントローラー、Ultra HD Blu-rayへの対応などPlayStation 5の概要が改めて紹介された。 (画像はSo
by Tyler Lastovich Appleが半導体メーカーのImagination Technologiesと新たなライセンス契約を結んだことが明らかになりました。Imagination TechnologiesはAppleにGPUを供給するサプライヤーだったのですが、Appleが独自にGPUの開発を進めた影響で身売りせざるを得ない状況に追い込まれたという企業です。 Imagination and Apple Sign New Agreement - Imagination https://www.imgtec.com/news/press-release/imagination-and-apple-sign-new-agreement/ Apple, former partner Imagination Technologies ink new licensing agreemen
AI事業本部におけるGPU活用の取り組みとKubernetes - CloudNative Days Spring 2021 Online / cndo2021-ca-ml-gpuaas-aiplatform
AI事業本部におけるGPU活用の取り組みとKubernetes at CloudNative Days Spring 2021 Online Speaker: 青山 真也・李 榮宰・高橋 大輔 Video: https://event.cloudnativedays.jp/cndo2021/talks/451 サイバーエージェント AI事業本部では、広告領域を始めとして、様々な領域での機械学習のワークロードが増えています。研究者・データサイエンティスト・プロダクト開発者など様々なメンバーが機械学習を利用するなか、利便性の高いGPU/ML環境の提供は欠かせません。 現在に至るまでAI事業本部におけるオンプレGPU環境は様々な変遷があり、現在は2020年にリリースされた NVIDIA A100を利用しNetApp TridentとKubernetesをあわせてGPU/ML環境の提供を開始してい
西川善司の3DGE：第10世代Coreプロセッサに統合されたGPUの正体。性能はRyzen 7 3700Uの内蔵Vegaとほぼ同等で，Variable Rate Shadingにも対応
西川善司の3DGE：第10世代Coreプロセッサに統合されたGPUの正体。性能はRyzen 7 3700Uの内蔵Vegaとほぼ同等で，Variable Rate Shadingにも対応 ライター：西川善司 先日行われたCOMPUTEX 2019のIntelによる基調講演の中で，10nm製造プロセスで製造される第10世代Coreプロセッサ，開発コードネーム「Ice Lake」がついに出荷されたことが発表された。採用製品の市場展開ももうすぐという状況だが，Intelがこの「Ice Lake」の試作チップを実際に動かしてのデモを見せている。 今回，幸運にもその様子を取材することができたのでレポートしたい。 かなり高性能なIce Lake内蔵の第11世代統合型グラフィックス Ice Lakeには第11世代統合型グラフィックス機能が内蔵されるが，今回のデモでは，その描画パフォーマンスがお披露目された
トラッキングアプリ「VTube Studio」に無料DLC配信 GPU「RTXシリーズ」で精度が大幅上昇 海外発の2DVTuber向けトラッキングアプリ「VTube Studio」に、無料ダウンロードコンテンツ「NVIDIA Broadcast Tracker」が配信されました。NVIDIAのGPU「RTXシリーズ」と組み合わせて使用することで、トラッキング精度を大幅に向上させます。 「VTube Studio」は、スマートフォンなどを使用して顔をトラッキングし、Live2D Cubismモデルのアニメーション化を行えるアプリです。端末からパソコンにフェイストラッキングデータを送り、2Dモデルを動かせます。無料の体験版が公開されており、気に入った場合は有料版を購入してアプリから透かしを削除し、無制限のストリーミング機能を有効にできます。 これまで同アプリでは、スマートフォン（iOS/And
3つの要点 ✔️ Skip-Layer Excitationとself-supervised Discriminatorを提案し、パラメータの大幅削減に成功 ✔️ 少量データでも学習可能 ✔️ 1024×1024の画像もGPU1枚、数時間で学習可能 Towards Faster and Stabilized GAN Training for High-fidelity Few-shot Image Synthesis written by Anonymous (Submitted on 29 Sep 2020) Comments: Accepted at ICLR2021 Subjects: Computer Vision and Pattern Recognition (cs.CV); Image and Video Processing (eess.IV) Comm 概要 これまでのG
次期MacBook Proの14インチと16インチ、早ければ今年の初夏に発売？ M1後継の最大メモリは64GB、GPUコアは最大4倍に
次期MacBook Proの14インチと16インチ、早ければ今年の初夏に発売？ M1後継の最大メモリは64GB、GPUコアは最大4倍に デザインを一新したMacBook Proは、早ければ今年の初夏に発売される予定で、その後、MacBook Air、ローエンドのMacBook Pro、新型Mac Proワークステーションと続き、さらにハイエンドのMac miniデスクトップと大型のiMacの開発も進めているようだと、Bloombergが伝えている。 これらのマシンには、現在のM1チップの性能や機能を大幅に上回る自社設計のプロセッサが搭載されるそうだ。 情報によれば、再設計されたMacBook Proは、コードネーム「J314」と呼ばれる14インチと、コードネーム「J316」と呼ばれる16インチの画面サイズで発売される予定で、再設計された筐体、マグネット式のMagSafe充電器、外付けドライ
日立、GPUで組み合わせ最適化を大規模・高速に計算する「モメンタム・アニーリング」を発表 10万変数・全結合問題を1秒未満で計算
日立、GPUで組み合わせ最適化を大規模・高速に計算する「モメンタム・アニーリング」を発表 10万変数・全結合問題を1秒未満で計算（1/2 ページ） 日立製作所は、組み合わせ最適化問題を高速に計算できるアルゴリズム「モメンタム・アニーリング」を発表した。NVIDIAのGPU4台で実装したところ、「10万変数・全結合」という大規模な問題の近似解を1秒未満で計算できたという。
新型MacBook Pro用「M1X」、GPUとRAMが2種類、合計4種類の構成か 2021 8/30 Apple製品の情報を発信しているルーク・ミアーニ氏が、新型MacBook Pro用の新しいAppleシリコン「M1X」の構成が4種類になるとの予想を投稿しました。 16コアと32コアGPU、16GBと32GB RAMを用意？ Dylan氏（@dylandkt）は、新型14インチMacBook Proと新型16インチMacBook Proは同じチップを搭載、性能は変わらないと投稿していました。 ルーク・ミアーニ氏は、Dylan氏（@dylandkt）の予想に対し、「新型14インチMacBook Proと新型16インチMacBook Proが搭載するM1XチップにはGPUとRAMがそれぞれ2種類用意され、合計4種類の構成になる」と返答しています。 同氏はM1Xについて、GPUが16コアと3
DockerがWebGPUを用いてGPUを抽象化、AI処理などGPUを使ったコンテナ化アプリのポータビリティを実現する技術を開発中。DockerCon 23
DockerがWebGPUを用いてGPUを抽象化、AI処理などGPUを使ったコンテナ化アプリのポータビリティを実現する技術を開発中。DockerCon 23 Docker社は米ロサンゼルスで10月3日と4日の2日間、年次イベントとして開催した「DockerCon 23」で、WebGPUを抽象化レイヤとすることで、コンテナ化されたGPUアプリケーションをポータブルにする技術を開発中であると明らかにしました。 この技術は2日目の基調講演の後半、Docker CTOであるJustin Cormack氏がOne more thingとして発表したものです。 GPUを用いたアプリケーションのポータビリティが課題に Dockerコンテナはポータビリティが大きな特長です。ノートPCからオンプレミスのサーバ、クラウド上の仮想マシンまで、簡単にDockerコンテナを移動し、そのまま実行できます。 Docke
西川善司の3DGE：IntelのノートPC向けGPU「Arc」とはいかなるGPUなのか。性能から機能までをひもといてみた
西川善司の3DGE：IntelのノートPC向けGPU「Arc」とはいかなるGPUなのか。性能から機能までをひもといてみた ライター：西川善司 既報のとおり，Intelは，単体GPU製品「Intel Arc」（以下，Arc）シリーズを発表した。 Intelが2020年に発表した「Iris Xe MAX」は，同社が，Intel 740（i740）をリリースした1998年以来，22年ぶりにリリースした単体GPU（Discrete GPU）だった。その進化版となるGPUが，今回のArcである。 発表イベント前に行われた技術説明会では，Arcに関する詳しい解説が行われたので，考察も交えて詳細に見ていきたい。 ArcシリーズはACM-G10とACM-G11の2種類が存在 Arcの開発コードネームは，もともと第2世代単体GPU（Discrete Graphics 2nd）の意味である「DG2」だったが（
AMD，レイトレ対応新世代GPU「Radeon RX 6000」シリーズを正式発表。第1弾の「Radeon RX 6800 XT」は11月18日に発売
AMD，レイトレ対応新世代GPU「Radeon RX 6000」シリーズを正式発表。第1弾の「Radeon RX 6800 XT」は11月18日に発売 編集部：小西利明 2020年10月29日，AMDは，独自のオンラインイベントで「Radeon DNA 2」（RDNA 2）ベースでリアルタイムレイトレーシングに対応する新世代GPU「Radeon RX 6000」シリーズの製品として，「Radeon RX 6900 XT」と「Radeon RX 6800 XT」，および「Radeon RX 6800」を発表した。 Radeon RX 6900 XT搭載カードを披露するAMDのCEOであるLisa Su氏 Radeon RX 6900 XTを搭載するグラフィックスカードは12月8日に，Radeon RX 6800 XTおよびRadeon RX 6800搭載カードは11月18日に発売の予定で，メ
M3 MacBook Air速報レビュー。GPUの実力をゲームで確認 (西田宗千佳) | テクノエッジ TechnoEdge
MacBook Air 15インチのM3搭載版。色はミッドナイト。ゲームでテストするのでコントローラーも用意■性能はGPUを中心に向上Appleシリコンは優秀だ。2020年登場のM1も、いまだ十分な性能を持っている。「コアなプロフェッショナルワークでなければ性能は十分」という意見もあるだろう。筆者もそう思う。 特に今回のモデルは、デザインをほとんど変えておらず、プロセッサーだけの変更に見える。 キーボードなどのデザインも変更なし 左側にMagSafeが1つと、USB-C端子が2つある ただ、時期に応じてプロセッサーは変わっていくものなので、これから買うならM3が基本になる。高性能であるほどOSのサポートも含め「長く使える」わけで、それ自体悪いことではないと思う。 そこで課題になるのが「じゃあ、M1以降の世代からの進化はどこか？」という点だ。 以下は「GeekBench 6」でのCPUベンチ
外部GPUナシでもゲームできそう：インテルの新世代CPU｢Ice Lake｣ハンズオン2019.08.26 12:0040,930 Harrison Weber - Gizmodo.US ［原文］ （ mayumine ） 期待して良さそう。 Intel（インテル）のノートPC向け第10世代Coreプロセッサー｢Ice Lake（アイスレイク）｣。最初の発表から5年、もともと予定されていた発売時期から遅れること3年、ついに次世代の10nm（ナノメートル）CPUは、手元で試せるところまでやってきました。Intelによると、この次世代のプロセッサは｢薄くて軽量なノートPCで可能なこと｣を再定義すると言います。つまりバッテリー寿命、熱性能、速度の大幅向上が期待できるということ。 米Gizmodoで、そのうちの｢速度｣のテストをする機会を得たため、今回そのレビューをお届けします。 実際、プロセッサ
単一GPUで動画・画像・音声・テキスト対応のマルチモーダルモデルを訓練して推論!?何を言ってるかわかねーと思うが、俺も何を見ているのかわからねえ｜shi3z
お正月なのですがAIは待ってはくれないので毎日「デイリーAIニュース」だけは続けている今日この頃。 中国のテンセントがとんでもないオープンソースをぶっ込んできた。 https://crypto-code.github.io/M2UGen-Demo/ 動画、画像、音楽、テキストという四つのモードを学習させた「マルチモーダル」モデルで、しかもベースはllama-7Bということで、V100 32GB一つで推論可能(CPUのRAMは49GB以上必要)どころか学習も可能。ホントかよ!! しかもしれっと日本語でも命令できるし。 ほんとにテクノっぽい音楽が流れるなんかこの研究の名前はかなり控えめに「音楽理解できるマルチモーダルモデル」みたいに書いてあるんだけど、とんでもない。実際にはこれは「どんな情報も入力できるマルチモーダルモデル」のプロトタイプである。 MU2GENのモデル構造図音声、画像、動画とい
はじめに AIスタートアップでWEBアプリ開発をやりながら、pythonとAIを勉強中です。 画像認識でやりたいことがあり、まずは開発環境の構築とアルゴリズムを使ってみるところまでを実践しました。 今回やりたいこと YOLOv3を使う 無料でGPUを使う YOLOとは 物体検出アルゴリズムのうちの１つです。（物体検出は他にFaster R-CNNやSSDなどのアルゴリズムがあります。） YOLOの特徴は、速くて高精度なことで、現在v3が最新バージョンです。 今回ニューラルネットフレームワークはDarknetを使ます。（フレームワークは他に、TensorflowやChainer、Caffeなどがあります。） ちなみに、YOLOはYou only look onceの略で、You only live once(人生一度きり)をもじっているそうです。 YOLOで物体検出する Darknetのイン
膨大な処理能力を要するAIの普及により、大企業がこぞって演算力の高いGPUの確保に奔走しており、特にAI処理のパフォーマンスに強みを持つNVIDIAの製品は世界的に品薄となっています。AI分野での優位性が追い風となり、2023年のデータセンター向けGPU市場におけるNVIDIAのシェアが98％に達したとの調査結果が公開されました。 Analysts Estimate Nvidia Owns 98% of the Data Center GPU Market | Extremetech https://www.extremetech.com/computing/analysts-estimate-nvidia-owns-98-of-the-data-center-gpu-market AMD announces it has preorders for $3.5 billion of its
『サイバーパンク2077』は超低スペックPCでも動くのか？ GPUを使わず無理矢理ゲームを動かすサイバーパンクな取り組みに海外プレイヤーが挑戦
高解像度、最高設定で遊ぶにはハイスペックで高価なハードウェアが必要となる『サイバーパンク2077』。どんなゲームもなんとかしてロースペックなハードウェアで動作させることを目指すYouTubeチャンネル「LowSpecGamer」が、そんな本作をいかに低い性能のマシンで動かすことができるかを挑んだ。 今回の目標は実売価格8000円ほどのCPU「AMD Athlon 3000G」とメインメモリ8GBのPCでゲームを動かすこと。グラフィックカードは使わず、CPUに内蔵された「Radeon Vega 3」を使用する。もちろん、このハードウェアはゲームの最低動作スペックをぶっちぎりで下回っている。 結果からいえば、設定を変更することで見事に動作している。もちろん見た目は大きく変わるが、むしろこれはこれで味があるのではないかと思えるほどの変化だ。 （画像はYouTubeより） 動画内では、ゲームファイ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
おうちの8GB VRAM GPUでChatRWKVと会話する - きしだのHatena
NVIDIA、ゲーム時約140WのミドルレンジGPU「GeForce RTX 4060 Ti」
【笠原一輝のユビキタス情報局】 TSMCの4nmで製造され、ユニークな構成のCPUを内蔵するSnapdragon 8 Gen 2、GPUの大きな性能向上を確認
そのGPU、仕事してる？Intelが「GPU Busy」を計測できる監視ツール公開
【イベントレポート】 内蔵GPU性能、第10世代CoreはRyzen 7 3700Uを上回る ～新バージョンのIntel Graphics Command Centerも配布開始
【笠原一輝のユビキタス情報局】 Zen 4、AVX-512対応、GPU統合、AM5、供給電力拡張の5つの強化点を持つRyzen 7000
技術負債を返した話（Pre-built GPU Binary対応） - KaiGaiの俺メモ
Qualcomm、スマホ向けハイエンドSoC「Snapdragon 8 Gen 1」。AI性能4倍、GPU性能30%増
Appleに見捨てられ身売りすることとなったGPUメーカーがAppleと新しいライセンス契約を結ぶ
AMD、Zen 3採用のデスクトップ向けAPUを発表。従来比50%高速なノート向けGPUも
トラッキングアプリ「VTube Studio」に無料DLC配信 GPU「RTXシリーズ」で精度が大幅上昇
香港で300枚のGPU密輸事件発生！発売前のマイニング用GPU「NVIDIA CMP 30HX」か | Game*Spark - 国内・海外ゲーム情報サイト
NVIDIAが8月31日にコンシューマ向け新GPUを発表か?
【レビュー】 消費電力減で扱いやすくなった高性能GPU「GeForce RTX 4070」
GPU1枚、1日未満で学習！超高速学習GAN、「Lightweight GAN」
ビデオカード高騰中の今だから気になる内蔵GPU性能。第11世代Core＆Ryzen Gでどこまで戦える!?
4万円の14コアCPU「Intel Core i5-14500」のゲーミング性能を検証する。ミドルレンジGPUとの名コンビ誕生か!? 【第2戦】静音ゲーミングPCに仕上げられるのもグレイト！ text by 芹澤 正芳
AMD、Zen 4になったモバイルRyzen 7000。RDNA 3 GPUとNPUも内蔵
新型MacBook Pro用「M1X」、GPUとRAMが2種類、合計4種類の構成か - iPhone Mania
外部GPUナシでもゲームできそう：インテルの新世代CPU｢Ice Lake｣ハンズオン
【Hothotレビュー】 Radeon RX 5600 XTは本当に競合より高速でワッパにも優れたGPUだった!
【後藤弘茂のWeekly海外ニュース】 NVIDIAのマルチダイGPU構想の要となる「GRS」インターコネクト技術
【西川和久の不定期コラム】 AIとGPUで染まった1年！2023年を振り返る
AI女子、無料GPUでYOLO v3はじめました。 - Qiita
Stability AI、専用GPU不要のプログラミング向け生成AI「Stable Code 3B」を公開／ラップトップPCでもオフラインでのリアルタイム実行が可能
NVIDIAがデータセンター向けGPU市場で98％のシェアを独占していることが判明、AI性能が明暗を分ける結果に