1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアルゴリズム。だから正確には0か1かではなく、-1か0か1ということ。 この手法の行き着くところは、GPUが不要になり新しいハードウェアが出現する世界であると予言されている。マジかよ。 https://arxiv.org/pdf/2402.17764.pdf ということで早速試してみることにした。 オフィシャルの実装は公開されていないが、そもそも1ビット(と言っていいのかわからない,-1,0,1の三状態を持つからだ。 論文著者はlog2(3)で1.58ビットという主張をしている)量子化のアルゴリズム自体の研究の歴史は古いので、BitNetによるTransformerの野良実装
by Hillel Steinberg ハイテク企業やベンチャー企業のトップが、「これからの若者はプログラミングを身につけるべき」とアドバイスするのを見聞きしたことがある人は多いはず。こうした潮流とは裏腹に、NVIDIAのジェンスン・フアンCEOが「プログラミングはもはや不可欠なスキルではない」と提唱しました。 NVIDIA CEO: Every Country Needs Sovereign AI | NVIDIA Blog https://blogs.nvidia.com/blog/world-governments-summit/ Jensen Huang says kids shouldn't learn to code — they should leave it up to AI | Tom's Hardware https://www.tomshardware.com/tec
デジタル機器の弱点が突かれました。 米国のミシガン大学(UM)で行われた研究により、スマホのカメラやホームカメラ、車載カメラに至るどんなカメラからでも、リアルタイムな盗撮が可能な技術が発表されました。 新たな盗撮技術は既存の機器では防御不可能であり、カメラの電源をオフにしても、理論的には、完全には防ぐことができません。 研究では実際のカメラが捉えた画像と盗撮された画像の比較が行われており、かなり鮮明な画像として抽出できることが示されています。 新たな技術はいったいどんな方法で、他人のカメラから情報を盗み出しているのでしょうか? 研究内容の詳細は、ネットワークシステムセキュリティに関するシンポジウム『The Network and Distributed System Security Symposium (NDSS) 2024』にて発表されました。
神奈川県教育委員会は2024年1月24日、「神奈川県公立高等学校入学者選抜インターネット出願システム」のメール障害が再発したと発表した。同19日には米Amazon Web Services(アマゾン・ウェブ・サービス、AWS)のメール配信サービスからの切り替えによって、復旧したと発表していた。同25日時点で復旧のめどは立っていない。 同システムでは2024年1月9日から出願システムに登録する際、「@gmail.com」ドメインのアドレスを使うと、案内メールが届かないなどの障害が発生。県教委によると「当初はAWSのメール配信サービス『Amazon Simple Email Service (SES)』を利用していたが、メール送信事業者を変えて別のサービスに切り替えたところ不具合が解消した」という。 ところが出願サイトでの志願者の出願が始まった1月24日午前に、再び「@gmail.com」ドメ
生成AIの可能性を広げる「ベクトルデータベース」への関心が急速に高まっている。ベクトルデータベースとは、生成AIが扱う非構造化データの格納・管理・照会で利用されるデータベースのこと。ここではベクトルデータベースの基本をわかりやすく解説するとともに、生成AIの普及において、どのような役割を果たすのか、注目される理由などと合わせて紹介しよう。 バークリー音大提携校で2年間ジャズ/音楽理論を学ぶ。その後、通訳・翻訳者を経て24歳で大学入学。学部では国際関係、修士では英大学院で経済・政治・哲学を専攻。国内コンサルティング会社、シンガポールの日系通信社を経てLivit参画。興味分野は、メディアテクノロジーの進化と社会変化。2014〜15年頃テックメディアの立ち上げにあたり、ドローンの可能性を模索。ドローンレース・ドバイ世界大会に選手として出場。現在、音楽制作ソフト、3Dソフト、ゲームエンジンを活用し
Midjourneyの生成画像。12月のアップデートのv6では、写真と変わらないような画像が生成されることが話題となっている。この画像のような世界を動き回れるようになるのだろうか(筆者作成) 画像生成AIサービス「Midjourney」のオフィスアワーがあったのが1月4日。アメリカ時間で1月3日ですかね。オフィスアワーというのは、MidjourneyがDiscord上で月に1回開いて、いろいろユーザー向けに今後どのようにサービスが展開されるのかを説明するミーティングです。その会合に参加していたNick St. Pierreさんの報告によると、Midjourneyのデイヴィッド・ホルツCEOが「2024年末までにホロデッキに到達できる」と話したと言うんですね。「2024 年末までには、リアルタイムのオープンワールドが実現できればと思っています」とも言い、画像生成AIが、単にイラストといった画
イーロン・マスクは1月15日、ヒト型ロボットのOptimus(オプティマス)がシャツを畳む動画を公開した。マスクはその後のツイートで、ロボットが自律的に動いているわけではないことを認めたものの、ロボット工学の未来に関心のある誰もが大いに興味を持つ内容だった。しかし、動画をよく見ると、これは「ロボットが手伝ってくれる生活」の大躍進というよりも、手品に近いものであることがわかる。 X(旧ツイッター)に投稿されたその動画では、オプティマスがTシャツをカゴから取り出し、両手を使って丁寧に畳んでいる様子を見ることができる。マスクはXで次のように語った、「オプティマスはまだこれを自律的にはできませんが、いずれ間違いなく、どんな環境でも自律的にできるようになるでしょう(固定されたテーブルやシャツが1枚しか入っていない箱を必要としなくなるということ)」
業務効率化、生産性向上のためにChatGPTなどの文章生成AI導入を検討する企業は多いだろう。しかし、ChatGPTには情報漏洩や不正確な記述、著作権侵害などの不安もあり、なかなか導入に踏み切れないという声も聞く。そこで、東京都が最近公開した利活用ガイドラインを参考に、文章生成AIの安全な導入・活用について見ていこう。 文/狐塚 淳 2023年8月23日、東京都デジタルサービス局は「文章生成AI利活用ガイドライン」(Version1.0)を公開した。同ガイドラインは都の職員が文章生成AIをデジタルツールとして活用し、行政サービスの質を高め、都政のQoS(Quality of Service)を向上させていくための指針を提供する。対象とする文章生成AIはChatGPTだ。デジタルサービス局では文章生成AI利活用のプロジェクトチームを4月に立ち上げて議論を重ね、8月から全局での導入にいたってい
株式会社LIFRELLは、生成AI分野で活躍するサービスがわかる「チャット・文章生成系AIカオスマップ 2023」を公開したと発表した。 本カオスマップは、チャット・文章生成AIの強みを「チャット」「大規模データ処理」「読み上げ・文字起こし」「言語生成」の4つのカテゴリー、18のジャンルに分け、合計122サービスをマッピングしたものだ。 ・カテゴリー・ジャンル チャット - 生成AI基盤チャットボット - チャット 大規模データ処理 - 検索エンジン - Ad collateral - LLM - 対話型生成AI - データ生成 - MLOps - プラットフォーム - データ分析 - クリエイティブオーガナイゼーション 読み上げ・文字起こし - 文字起こし・議事録作成 - 文章読み上げ・書き起こし - 合成音声生成 言語生成 - ライティング - 文章作成 - 文章要約 - 要約と考察
米Appleは1月8日(現地時間)、昨年6月に発表した同社初のMRヘッドセット「Apple Vision Pro」を米国で2月2日に発売すると発表した。1月19日午前5時に予約注文の受付を開始する。価格は3499ドル(約50万円)からで、Zeissの「光学インサートリーダー」(度付きレンズ)は別途99ドル、処方箋には149ドル掛かる。 Appleが「空間コンピュータ」と定義するVision Proについて、ティム・クックCEOは発表文で「これまでに作られた中で最も先進的な家庭用電子機器だ。その革新的で魔法のようなUIは、私たちがつながり、創造し、探索する方法を再定義する」と語った。「空間コンピューティングの時代の到来だ」という。 主なスペックについてはこちらの記事を参照されたい。 なお、6月の発表時には不明だったストレージサイズは256GBと発表された。価格が「3499ドルから」となってい
に詳しく載っている。 直接的原因は?リコールの内容は2つになる。 ①低圧燃料ポンプの作動不良 これは、燃料ポンプの樹脂製インペラの膨潤によって起きている。 原材料はPPSであるが、これは熱硬化樹脂である。 その熱硬化過程に問題があった(十分な熱を加えていない)為に、完全に硬化していない部分が残り、そこにガソリンが入るこむことによって膨潤を起こしている。 ②HEV用燃料ポンプの作動不良 こちらは、ポンプ本体ではなく、それを駆動するモーターのブラシ部分でのスパーク発生によるブラシ摩耗である。 ブラシの取り付け角度に問題があった場合に、そのブラシにかかる電圧や回転速度によってスパークが発生しやすくなり、そのスパークによってブラシが摩耗して、電力供給に問題が発生した。 なぜ発覚が遅れたのか?これは死亡者が多く出ていないことが大きな原因である。 つまり、いつも起こる問題ではなく、たまにしか発生しない
米新興企業Humaneは、胸元にバッジのように装着して使うAI活用のためのデバイス「Ai Pin」を発表した。米国で699ドルで発売する。利用するにはネット接続のための月額24ドルのサブスクも必要だ。 元Appleの2人のエンジニアが立ち上げた米新興企業Humaneは11月9日(現地時間)、AIを活用するためのウェアラブルデバイス「Ai Pin」を発表した。米国では11月16日から注文を受け付ける。デバイスの価格は699ドル(約10万円)で、ネット接続などのためのサブスクリプションの価格は月額24ドル。 Ai Pin本体とマグネットで合体するバッテリーブースターで構成されており、サイズは47.50×44.50×(14.98+8.25)mm、重さは34.2+20.5g。本体とブースターで衣服を挟むことで胸元などに装着できる。 米Qualcommの8コアのSnapdragon、4GBのメモリ、
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く