速報：話題の 1ビットLLMとは何か？｜寺田英雄（㈱オープンストリームCTO）
2024-02-27にarXiv公開され，昨日（2024-02-28）あたりから日本のAI・LLM界隈でも大きな話題になっている、マイクロソフトの研究チームが発表した 1ビットLLMであるが、これは、かつてB-DCGAN(https://link.springer.com/chapter/10.1007/978-3-030-36708-4_5; arXiv:https://arxiv.org/abs/1803.10930 )という「１ビットGANのFPGA実装」を研究していた私としては非常に興味をそそられる内容なので、論文を読んでみた。今回は速報として、その内容のポイントを概説したい。 論文情報 Ma, S. et al. (2024) ‘The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits’, arXiv [c
「ChatGPT」のような生成系AIを高速化するサーバー向けGPUをNVIDIAが発表
「ChatGPT」のような生成系AIを高速化するサーバー向けGPUをNVIDIAが発表 ライター：米田 聡 GTC 2023の基調講演に登場したJensen Huang氏 2023年3月21日，NVIDIAが主催する恒例のGPU技術関連イベント「GTC 2023」がスタートした。3月22日に行われた同社CEOであるJensen Huang（ジェンスン・フアン）氏の基調講演では，さまざまな新しいAI関連製品やサービスが発表となった。 本稿では，基調講演の一部から，ゲーマーでも知っておく価値がありそうなものにしぼって概要を紹介したい。 計算機リソグラフィ分野に大躍進をもたらす「cuLitho」 NVIDIAは自社で工場を持たない，いわゆるファブレスの半導体メーカーである。ただ，ファブレスといっても半導体の製造技術と無関係でいられるわけではない。とくにGPUは，最先端の製造技術を用いる複雑で大規
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙 2023.03.16 Updated by Ryo Shimizu on March 16, 2023, 08:00 am JST 3月14日の早朝、GPT-4が公開され、筆者は早速試した。 その後、開けて3月15日の早朝、APIも部分的に解放され、筆者はそれも試した。 その上で、先週書いた記事の内容についての確信が深まった。 やはり、GPT-4は期待を超えてはこなかった。 GPT-4は、ChatGPT Plusに入会すると誰でもすぐに使うことができる。APIだけは招待制だが、それも筆者と同じくらいのタイミングでアンロックされた方も少なくないのではないか。 100倍規模のパラメータがあっても、アプローチには限界があるのである。 また、ChatGPTが注目を集めたことで、これまで下火になっていた他の大規模言語モデル(
NVIDIAが高精度な画像生成AI「eDiffi」を発表、従来の「Stable diffusion」や「DALL・E2」よりテキストに忠実な画像生成が可能
大手半導体メーカーでありAI研究にも力を入れているNVIDIAが、新たな画像生成AIである「eDiffi」を発表しました。NVIDIAはeDiffiについて、世界中で話題となっている「Stable Diffusion」やOpenAIの「DALL・E2」といった従来の画像生成AIより入力テキストに忠実な画像を生成できると主張しています。 [2211.01324] eDiffi: Text-to-Image Diffusion Models with an Ensemble of Expert Denoisers https://arxiv.org/abs/2211.01324 eDiff-I: Text-to-Image Diffusion Models with Ensemble of Expert Denoisers https://deepimagination.cc/eDiffi/
NVIDIAが3Dオブジェクト生成AIモデル「NVIDIA GET3D」を発表 | Ledge.ai
サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。
ベタ塗りすら不要、NVIDIAのお絵かきAIが進化 文字からリアルな画像生成
米NVIDIAは11月22日（米国時間）、風景画像を自動生成する同社のAI技術「GauGAN」（ゴーギャン）の新モデルである「GauGAN 2」を発表した。従来はベタ塗りからリアルな画像を生成できていたが、GauGAN 2では文字情報を与えるだけで画像を生成できるようになった。 同社が公開している動画では「ocean waves hitting rocks on the beach」（ビーチの岩に当たる波）と入力する過程が収められており、「ocean」の段階では湾を俯瞰した画像が作られ、「waves」まで入れると波が現れ、「hitting rocks」まで入れた段階では波打ち際の画像が生成されている。
NVIDIA GeForceソフトウェアお客様使用ライセンス
NVIDIA GeForce ソフトウェアお客様使用ライセンス 大切なお知らせ – よくお読みください: この NVIDIA GeForce ソフトウェアお客様使用ライセンス (「本ライセンス」) は、NVIDIA Corporation とその子会社 (「NVIDIA」) が所有し、ここからダウンロードできる GeForce ソフトウェア (コンピューター ソフトウェアと関連素材(「ソフトウェア」)を含む) の使用に適用される契約です。本ソフトウェアのダウンロード、インストール、コピー、その他の使用により、お客様は本ライセンスのすべての規約に拘束を受けることに同意したものとみなされます。本ライセンスの規約に同意しない場合、ソフトウェアはダウンロードしないでください。 備考 NVIDIA の製品の使用には、ソフトウェア、グラフィックス コントローラー ボードのハードウェア、パーソナル コン
国内最速、産総研のAIスパコンを富士通が約50億円で受注
富士通は、産業技術総合研究所（産総研）が導入するAI（人工知能）専用スーパーコンピュータを受注した。2017年10月7日、分かった。受注額は約50億円。米インテルのCPUを2個と米エヌビディアのGPUを4個搭載したサーバーを1088台並べる。理論上の演算性能は国内最速の37ペタFLOPS（1秒間に3京7000兆回）に達する。2018年度に運用を始める。 産総研は政府が2016年度第2次補正予算で195億円を投じた「人工知能に関するグローバル研究拠点整備事業」を管轄する。このうち3分の1程度をAI専用のコンピューティング基盤「AI橋渡しクラウド（AI Bridging Cloud Infrastructure：ABCI）」の整備に投じる、としていた。 ABCIの理論上の演算性能である37ペタFLOPSは、東京大学と筑波大学が共同運営する国内最速スパコン「Oakforest-PACS」の25ペ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
NVIDIA時価総額、Amazonに並ぶ AI追い風に270兆円 - 日本経済新聞
【やじうまPC Watch】 「仮想通貨は社会の何の役にも立たない」NVIDIAのCTOが発言
声以外が消える!? 無料のノイズ除去「NVIDIA Broadcast」がスゴい【藤本健のDigital Audio Laboratory】
ビデオ会議中のよそ見が可能に？ 顔が常に前を向いているように見せる技術、NVIDIAが開発