速報：話題の 1ビットLLMとは何か？｜寺田英雄（㈱オープンストリームCTO）
2024-02-27にarXiv公開され，昨日（2024-02-28）あたりから日本のAI・LLM界隈でも大きな話題になっている、マイクロソフトの研究チームが発表した 1ビットLLMであるが、これは、かつてB-DCGAN(https://link.springer.com/chapter/10.1007/978-3-030-36708-4_5; arXiv:https://arxiv.org/abs/1803.10930 )という「１ビットGANのFPGA実装」を研究していた私としては非常に興味をそそられる内容なので、論文を読んでみた。今回は速報として、その内容のポイントを概説したい。 論文情報 Ma, S. et al. (2024) ‘The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits’, arXiv [c
次世代Nintendo Switch 「スイッチ2」(仮)のデモを見た証言続々。DLSSやレイトレ対応、UE5のMATRIXデモも | テクノエッジ TechnoEdge
著書に『宇宙世紀の政治経済学』（宝島社）、『ガンダムと日本人』（文春新書）、『教養としてのゲーム史』（ちくま新書）、『PS3はなぜ失敗したのか』（晋遊舎）、共著に『超クソゲー2』『超アーケード』『超ファミコン』『PCエンジン大全』（以上、太田出版）、『ゲーム制作 現場の新戦略 企画と運営のノウハウ』(MdN)など。 Nintendo Switchも発売から7年目を迎え、そろそろライフサイクルの終わりに差し掛かりつつあります。 そんななか、後継モデル（以下「スイッチ2」）の未確認情報も相次いでいましたが、今度は「任天堂が実際に開発者にスイッチ2の技術デモを見せた」と複数の人物が証言しています。 いずれも、先月下旬にドイツ・ケルンで開催された大型ゲームイベントgamescom 2023での証言です。 まずはイベント終了直後、マイクロソフト関連で信頼性の高いWindows Centralの編集者
「ChatGPT」のような生成系AIを高速化するサーバー向けGPUをNVIDIAが発表
「ChatGPT」のような生成系AIを高速化するサーバー向けGPUをNVIDIAが発表 ライター：米田 聡 GTC 2023の基調講演に登場したJensen Huang氏 2023年3月21日，NVIDIAが主催する恒例のGPU技術関連イベント「GTC 2023」がスタートした。3月22日に行われた同社CEOであるJensen Huang（ジェンスン・フアン）氏の基調講演では，さまざまな新しいAI関連製品やサービスが発表となった。 本稿では，基調講演の一部から，ゲーマーでも知っておく価値がありそうなものにしぼって概要を紹介したい。 計算機リソグラフィ分野に大躍進をもたらす「cuLitho」 NVIDIAは自社で工場を持たない，いわゆるファブレスの半導体メーカーである。ただ，ファブレスといっても半導体の製造技術と無関係でいられるわけではない。とくにGPUは，最先端の製造技術を用いる複雑で大規
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙 2023.03.16 Updated by Ryo Shimizu on March 16, 2023, 08:00 am JST 3月14日の早朝、GPT-4が公開され、筆者は早速試した。 その後、開けて3月15日の早朝、APIも部分的に解放され、筆者はそれも試した。 その上で、先週書いた記事の内容についての確信が深まった。 やはり、GPT-4は期待を超えてはこなかった。 GPT-4は、ChatGPT Plusに入会すると誰でもすぐに使うことができる。APIだけは招待制だが、それも筆者と同じくらいのタイミングでアンロックされた方も少なくないのではないか。 100倍規模のパラメータがあっても、アプローチには限界があるのである。 また、ChatGPTが注目を集めたことで、これまで下火になっていた他の大規模言語モデル(
NVIDIAが高精度な画像生成AI「eDiffi」を発表、従来の「Stable diffusion」や「DALL・E2」よりテキストに忠実な画像生成が可能
大手半導体メーカーでありAI研究にも力を入れているNVIDIAが、新たな画像生成AIである「eDiffi」を発表しました。NVIDIAはeDiffiについて、世界中で話題となっている「Stable Diffusion」やOpenAIの「DALL・E2」といった従来の画像生成AIより入力テキストに忠実な画像を生成できると主張しています。 [2211.01324] eDiffi: Text-to-Image Diffusion Models with an Ensemble of Expert Denoisers https://arxiv.org/abs/2211.01324 eDiff-I: Text-to-Image Diffusion Models with Ensemble of Expert Denoisers https://deepimagination.cc/eDiffi/
NVIDIAが3Dオブジェクト生成AIモデル「NVIDIA GET3D」を発表 | Ledge.ai
サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。
最近よく聞く「レイトレーシング」 一体ナニモノ？
最近よく聞く「レイトレーシング」 一体ナニモノ？：レイトレーシングが変えるゲームグラフィックス（第1回）（1/3 ページ） 2018年、NVIDIAがリアルタイムレイトレーシング（RT）に対応するGPU「GeForce RTX 20シリーズ」を発表した。このことは、2000年に誕生した「プログラマブルシェーダー」以来となるグラフィックスパイプラインにおける大きな“変革”をもたらした。 →NVIDIAが新アーキテクチャの「GeForce RTX」シリーズを発表 価格は499ドルから そして2020年、ついに家庭用ゲーム機にもRT機能が搭載された。そう、「PlayStation 5（PS5）」と「Xbox Series X」「Xbox Series S」のことである。これらのゲーム機にAPU（GPU統合型CPU）を提供しているAMDも同年、RTに対応するGPU「Radeon RX 6000シリ
ベタ塗りすら不要、NVIDIAのお絵かきAIが進化 文字からリアルな画像生成
米NVIDIAは11月22日（米国時間）、風景画像を自動生成する同社のAI技術「GauGAN」（ゴーギャン）の新モデルである「GauGAN 2」を発表した。従来はベタ塗りからリアルな画像を生成できていたが、GauGAN 2では文字情報を与えるだけで画像を生成できるようになった。 同社が公開している動画では「ocean waves hitting rocks on the beach」（ビーチの岩に当たる波）と入力する過程が収められており、「ocean」の段階では湾を俯瞰した画像が作られ、「waves」まで入れると波が現れ、「hitting rocks」まで入れた段階では波打ち際の画像が生成されている。
Armの中国合弁企業がArmからの独立を宣言、一部ライセンスや中国市場の顧客をそのまま横取り
半導体企業・Armが開発したArmアーキテクチャは、携帯電話や自動車、マイクロコントローラー、Amazon Web Services(AWS)のサーバーなどで使われる何十億ものチップで採用されています。Armはイギリスの企業でしたが、2016年にソフトバンクに買収されました。その後、NVIDIAへ売却されることが発表されたものの、中国国内でのライセンス権を持っていた中国合弁企業が一方的に独立を宣言し、知的財産権(IP)のライセンス権を横取りしたまま暴走を続けていると、半導体関連ブロガーのディラン・パテル氏が解説しています。 The Semiconductor Heist Of The Century | Arm China Has Gone Completely Rogue, Operating As An Independent Company With Inhouse IP/R&D -
Zoomを超える驚異的性能、エヌビディアのビデオ会議ソフトの実力 | Forbes JAPAN 公式サイト（フォーブス ジャパン）
ビデオ会議の難点の一つと言えるのが、画質が荒くアイコンタクトをとるのが難しい場合があることだ。しかし、エヌビディアが開発したAIソフトウェアの「Maxine」があれば、そんな悩みも解決できそうだ。 エヌビディアは10月5日、開発者向けのウェブ会議プラットフォームである「NVIDIA Maxine」を発表した。このプラットフォームはクラウドに置かれた同社のGPUで、AIを使って動画や音声を処理し、ビデオ会議の画質を向上させると同時に様々な機能を利用可能にする。 Maxineのソリューションを用いると、AIの力で動画が使用する帯域が大幅に圧縮されるため、ネットの接続速度が遅い環境でもスムーズな映像が実現できる。さらに、横からのカメラアングルを正面からの映像に修正したり、「Gaze Correction」と呼ばれる機能では参加者の視線が合うように顔の向きをリアルタイムで変更することも可能になる。
圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案
広島大学は8月31日、富士通研究所と共同で、多くのデータ圧縮方式で採用されている「ハフマン符号」の並列展開処理を高速化する新しいデータ構造「ギャップ配列」を考案したことを発表した。NVIDAのGPU「Tesla V100」を用いて実験した結果、従来の最速展開プログラムと比較して、2.5倍から1万1000倍の高速化を達成できたとしている。 同成果は、同大学大学院先進理工系科学研究科の中野浩嗣教授らの共同研究チームによるもの。詳細は、2020年8月に開催された国際会議「International Conference on Parallel Processing (ICPP)」において発表され、269件の投稿論文の中から最優秀論文賞に選ばれた。 インターネットを介して多数の画像ファイルや動画ファイルなどを転送したり、また記録メディアに保存したりする際、データの圧縮は誰でも日常的に行っている。そ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
NVIDIA時価総額、Amazonに並ぶ AI追い風に270兆円 - 日本経済新聞
【やじうまPC Watch】 「仮想通貨は社会の何の役にも立たない」NVIDIAのCTOが発言
新型グラフィックボード「RTX4090」がPS5と同等のビッグサイズでマザーボード"が"支えられる新時代へ突入
“ペタ”FLOPSの性能を実現したモンスターGPU「NVIDIA H100」
声以外が消える!? 無料のノイズ除去「NVIDIA Broadcast」がスゴい【藤本健のDigital Audio Laboratory】
「Apple M1」開発責任者がIntelに転職
ビデオ会議中のよそ見が可能に？ 顔が常に前を向いているように見せる技術、NVIDIAが開発
GeForce RTX 3060は“ゲーマーに届く”。マイニング性能を半分に制限
NVIDIA、Ampereアーキテクチャ採用で最大2倍高速になった「GeForce RTX 3080」 ～下位の3070でも2080 Tiより高速
