GeForce RTX 4070搭載ゲーミングNUCなどASUS NUCが国内展開
最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
AI時代に起業するということ｜shi3z
生成AI以前と以後で、会社のあり方は決定的に変化していくのだと思う。 たとえば、昨日はとある会議で、「この(AI)サービスの原価はいくらか」という議論が沸き起こった。 AIサービスなのだから、AIの利用料くらいしかかからないかというとそうでもない。実際、AIを動かすためにはAIそのものにかかるお金以外の人件費がかかる。誰かに売る人の人件費や、システム開発のための人件費や、サポートのための人件費だ。ただ、AIサービスの場合、人件費を極限まで最小化することができる、という点が決定的に違う。 また「AIの利用料」も、「APIの利用料」なのか、ベアメタルサーバーの月額利用料なのか、それとも自社に持っているGPUマシンの電気代なのか、という議論のポイントがある。 あまり多くの人は語らないことだが、実は起業には再現性がある。 つまり、一度でも事業をうまく立ち上げたことがある経験を持つ人は、次も事業をう
株価爆上げ｢さくらインターネット｣が描く勝ち筋
コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕
｢伝説のエンジニア｣が明かすエヌビディアの死角
コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕
エヌビディア株は転落したテスラの二の舞か、驚異的上昇に警戒の声
米半導体メーカー、エヌビディア株の驚異的な上昇は株式市場の参加者を魅了し、Ｓ＆Ｐ500種株価指数が最高値を更新する原動力となっている。しかし、このことは同時に、技術的変革の夢を基に株価が高騰したものの、期待が失望に変わり急落に転じた別の企業を思い起こさせる。テスラだ。 電気自動車（ＥＶ）が世界を席巻するとの見方から、イーロン・マスク氏率いる米テスラの時価総額は2017年にゼネラル・モーターズ（ＧＭ）とフォード・モーターを抜いた。一部のアナリストからは「次のアップル」との評価も聞かれた。 しかし、そうした時代は今や過去のものだ。テスラ株は21年に付けたピーク水準から50％余り下落。連れ高となっていた他のＥＶ株にも、かつての勢いは全くない。人工知能（ＡＩ）の将来に対する無限の賭けとして現在のエヌビディア株をみている投資家に冷静さを促すデータだ。
ＡＩが吐き出す二酸化炭素、巨大データセンター持つＩＴ大手に難題
大手ハイテク各社は世界中に巨大データセンターを建設しているが、それによって引き起こされる二酸化炭素排出量の大幅な増加の回避にも躍起になっている。 多くの電力を消費する人工知能（ＡＩ）がクラウド化されるのに伴い、太陽光発電や風力発電に余剰がある地域をソフトウエアを使って探し出し、そこでデータセンターの運営を強化するという手法も広がりつつある。二酸化炭素排出量とコストを削減することが可能になるからだ。 クラウドコンピューティングの管理を手掛けるシーラス・ネクサスの共同創業者で最高経営責任者（ＣＥＯ）を務めるクリス・ノーブル氏は「再生可能エネルギーを最大限に利用するやり方でデータセンターを運営する方法を見つけ出すことが急務だ」と語った。 ＡＩが必要とするコンピューティングがもたらす気候変動リスクは広範に及び、化石燃料を使用する電力からクリーンな電力への大幅な転換がなければ一段と悪化する恐れがある
MetaのザッカーバーグCEO、AGIへの取り組みを表明--NVIDIA「H100」35万台導入へ
Mark Zuckerberg氏が最高経営責任者（CEO）を務めるMeta Platformsは、世界最大級の人工知能（AI）研究拠点の1つだ。同氏は、さらに大規模なAI研究を推進したいと考えている。 Zuckerberg氏は米国時間1月18日、AIだけでなく汎用人工知能（AGI）にも取り組むため、研究を一段階引き上げる意向を明らかにした。AIとAGIはそれでなくても非常に漠然とした用語だが、簡単に言うと、同氏は、学習や推論、プランニング、情報の生成と記憶といった人間の認知能力に少なくとも匹敵する、より高度なコンピューティングシステムを開発したい考えだ。 Metaがコンピューティングの未来を形作り、非常に優秀な研究者を引きつけ、神経をとがらせる株主を満足させておくには、妥当な目標だ。一方、一般の人々から見れば、近い将来に超インテリジェントなボットがスマートグラスを通じてアドバイスしてくれる
岸田政権、一生一緒にNVIDIAの勢いで生成AIに全ツッパ : 市況かぶ全力２階建
神田暴威こと神田眞人財務官、ドル円が防衛ライン(152円)に接近しすぎたため約5ヶ月ぶりに口先介入を最高レベルに引き上げる
AI とプログラマの仕事
AI プログラマ 奪われる – Google Search どのようにしてプログラマはAIに仕事を奪われていくかの妄想 この手の話はフーンと眺めていたが、Neeva というウェブ検索のスタートアップが思ったよりはやく LLM を直接製品に埋め込んできて感心した (スクリーンショット)。Google のサーチ部門も Code Red らしいし(※勤務先ですが他所の部門の話なのでインサイダー知識はございません) Bing もなんかやってるらしいし、こういう LLM-based な自然言語製品は思ったよりすぐ商業化されるのかもしれない。 ”プログラマの仕事は AI に奪われるのか” という話題で見られる先のリンクのような議論は Remote And Vegan と同じ問題を抱えている。つまり、プログラマの既存のタスクや責務が自動化できるかどうかというミクロな問題にフォーカスしすぎ、マクロで構造的
Intel“逆襲”の鍵はやはり「AIプロセッサ」か 次世代CPU「Core Ultra（Meteor Lake）」を解説（後編）
Intel“逆襲”の鍵はやはり「AIプロセッサ」か 次世代CPU「Core Ultra（Meteor Lake）」を解説（後編）（1/4 ページ） Intelは9月19日（米国太平洋夏時間）、モバイル向け次世代CPU「Core Ultraプロセッサ」（開発コード名：Meteor Lake）のアーキテクチャの詳細を発表した。 発表に先駆けて技術説明会に参加した筆者は、その詳細を2つの記事に分けて紹介することにした。前編は、読者からの関心が特に高いであろう、CPUコアにまつわる特徴を中心に解説している。 →前編の記事 前編で取り上げたことを軽くおさらいすると、以下の通りとなる。 Meteor Lakeは「タイルアーキテクチャ」という、Intel独自のチップレット技術を採用 タイル（チップレット）は「Compute」「Graphics」「I/O」「SoC」の4つ Compute Tileは、基本
Microsoft、AIの影響で年間水消費量がプール2,000個分に
Microsoft、AIの影響で年間水消費量がプール2,000個分に2023.09.14 20:0040,681 Angely Mercado - Gizmodo US ［原文］ （ そうこ ） AI台頭によって、AIがとんでもないエネルギー喰いだということが明らかになりました。電力はもちろん、炭素排出量も多く、環境への不可は仮想通貨を超えるとも言われており、AI活用とともにエネルギー効率化も求められています。 その中でも、消費量が特にに大きいのが水。 Microsoftの環境に関する報告書が公開Microsoft（マイクロソフト）が毎年公開している環境に関する報告書、2022年版がアップされました。 2021年の水使用料は477万2890トン。これが2022年には639万9415トンにまでアップ。実にたった1年で約30％も使用量が増加。オリンピックのプールでいうと、この増加量は2,000
元Appleの天才半導体エンジニアが予測、「AIで半導体設計者はほぼ不要に」
TenstorrentはAIプロセッサーを開発するスタートアップ企業。「生成AIではCPUよりも画像に特化したGPUが使われる。だが、まだ効率化には十分でない。CPUでもGPUでもないハードウエア設計により、米NVIDIA（エヌビディア）の10分の1の消費電力の実現を目指している」とケラー氏は話す。「RISC-V Day Tokyo 2023 Summer カンファレンス」（2023年6月20日、東京大学で開催）に合わせて来日した（撮影：日経クロステック） ケラー氏は、「伝説」と称される半導体エンジニアである。米アドバンスト・マイクロ・デバイスズ（AMD）や米Apple（アップル）の主力製品において、設計面で大きく貢献した経歴を持つからだ。 例えば、AMDのCPUコア「Zen」やAppleのSoC（System on a Chip）「Aシリーズ」第1弾である「A4」の設計に携わった注1）。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AI“急速普及”電力需要が増加？どうなる今後のエネルギー | NHK
NVIDIA、1パッケージに2ダイの新型GPU「Blackwell」。AI性能は学習4倍、推論30倍に
GPUからの脱却と「AI半導体」の可能性【西田宗千佳のイマトミライ】
NVIDIA、時価総額一時2兆ドル超え 米企業で3社目 - 日本経済新聞
NVIDIA純利益8.7倍 11〜1月決算、AI需要急拡大で市場予想上回る - 日本経済新聞
米商務省がNVIDIAに中国向けチップの再設計をやめるよう警告
生成AIデータセンターに記者が “潜入” | NHK | ビジネス特集
