1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
格下の相手には手を抜く対戦AI
格下の相手には手を抜く対戦AI 2018.02.21 Updated by Ryo Shimizu on February 21, 2018, 08:17 am JST 筆者が経営するギリア株式会社と株式会社UEIでは、週に1回程度、個人の研究発表をする場を設けています。たまにインターンも参加します。 深層学習はあまりにもできることが多く、その可能性を少しでも効率的に探るため、個々人がそれぞれの仮説を持って研究した成果や知見を交換しておくことは非常に重要だからです。 AlphaZeroをベースとした深層強化学習の研究をしていた開発者が、面白い発見を報告してくれました。 「どうもAIからみて相手が格下だと、手を抜く傾向がある」 彼は決定論的問題の一つである迷路をAlphaZeroに解かせようとしていました。 ただし、迷路は毎回作り直されます。 左上からスタートして、右下のゴールを目指します。
NVIDIAが規約変更によりGeForceのデータセンター利用を制限。大学などの研究活動にも大ブレーキ
NVIDIAが規約変更によりGeForceのデータセンター利用を制限。大学などの研究活動にも大ブレーキ First Order rising 2017.12.19 Updated by Ryo Shimizu on December 19, 2017, 16:08 pm JST 深層学習分野で、NVIDIAの名を知らない者は潜りと言われても仕方がないでしょう。かつて日本の新聞社で、NVIDIAを「謎の半導体メーカー」と呼んで赤っ恥をかいた人がいますが、NVIDIAなくして深層学習の研究はままならないことは間違いありません。 というのも、深層学習に不可欠な積和演算機能に優れた半導体とAPIを提供しているのが、事実上世界にNVIDIA一社しかないからです。 Intelやその他のメーカーも頑張って入るのですが、NVIDIAが持つ多数の知的財産権の前に、後塵を拝しています。 それはそれで、NVID
明晰な知能の定義
明晰な知能の定義 The definition of bright intelligence 2017.03.31 Updated by Ryo Shimizu on March 31, 2017, 09:39 am JST AIと一口に言っても、大きく分けて深層学習以前と以後に分けられます。 深層学習以前のAIは、はっきり言って停滞していました。 停滞しつつも、手書き文字認識や音声認識といった分野で着々と実績を積み上げ、そしてそのどこかに「越えられない壁」のようなものを感じてまた停滞する、ということを繰り返してきました。 昨今注目されているAIは深層学習で、実は深層学習屋さんと、それ以前の機械学習または自然言語処理屋さんは仲が良くないのです。 深層学習以前の世界では、AIの研究というと、「情報をどう扱うか」「情報のどの部分に着目するか」ということ、専門的な言葉でいえば「情報の特徴量」をど
第二世代人工知能の亡霊がもたらす”AIの冬”
第二世代人工知能の亡霊がもたらす"AIの冬" AI Winter is coming!! 2016.11.21 Updated by Ryo Shimizu on November 21, 2016, 15:49 pm JST 日立が公開した「汎用人工知能」のプロモーションビデオが日本のAI業界で悪い意味での注目を集めています。 このビデオでは、日立は自社で開発したAI技術「H(エイチ)」を、「汎用人工知能」と自称しています。 しかし、「汎用人工知能」は、通常、AGI(Artificial General Intelligence)の訳とされ、人工知能研究のメインストリームでは、GoogleやFacebookなどを含めて「まだ世界の誰も開発に成功していない」ものとされています。 ビデオに登場する株式会社日立製作所、研究開発グループ技師長の矢野和夫氏によれば、このH(エイチ)は、「(カスタマ
知性とは何か AlphaGoの初戦で感じたこと
知性とは何か AlphaGoの初戦で感じたこと Daisy, Daisy! Planted one day... AlphaGo sings a requiem for humanity 2016.03.10 Updated by Ryo Shimizu on March 10, 2016, 07:38 am JST AlphaGoが人類最強の棋士と目されるイ・セドル9段を初戦で下しました。 このことは、囲碁関係者に大きな衝撃を与えています。 反対にAI関係者にとっては、残念ながら想像通りの結果になったと言えます。 AI関係者は、Googleがあそこまで断言するということは当然勝算あってのことだと考える人が多かったように思えます。仮に今回負け越したとしても、善戦すれば、数ヶ月のうちにさらに棋力を増し、いずれは打ち負かすだろうというのが大方の予想でした。 AlphaGoが一度でも人類のトップ
ディープラーニングを小学生でも使えるようにしてみる
ディープラーニングを小学生でも使えるようにしてみる Trial to make easy to use deep learned neural network 2015.06.30 Updated by Ryo Shimizu on June 30, 2015, 06:59 am JST この一ヶ月で、ディープラーニングが急激に使いやすくなってきています。 Google傘下のディープラーニング研究グループDeep Mindでインターンをしているスタンフォード大学の学生はこんな台詞をツイートしています。 「ディープラーニングに関して、新しくクールな論文が発表される速度は、それを読める速度より速い」 それこそ毎日のようにディープラーニングに関する何らかの新しい話題が出てきます。 それくらい、ディープラーニングは盛り上がっているのです。 「人工知能は人間を超えるか」を記した東京大学の松尾豊先生に
日本でデスマーチが発生する理由とW杯コートジボアール戦のゴミ拾いの関係 - WirelessWire News（ワイヤレスワイヤーニュース）
先日のワールドカップの日本対コートジボアール戦で、日本のファンが、試合に負けたのにも関わらず、スタジアムのゴミを拾ったことが、様々な国のサッカーファンやメディアに驚かれました。 Japanese fans stayed behind after the game last night to clean their section of the stadium. Class act. pic.twitter.com/av1hzs4eXY— World Cup 2014 (@Brazil14WC) June 15, 2014 Japanese fans cleaning near the seats where they were sitting. Such an admirable civilisation. Massive respect. pic.twitter.com/leAYPuEK
サラ金よさようなら - WirelessWire News（ワイヤレスワイヤーニュース）
そろそろクリスマス休暇で路上で酔いつぶれている人が大量に出没しているイギリスです。年末ではありますが、イギリス政府、日本だったら「はあああ？」とびっくりする施策を発表いたしました。 イギリスでもリーマンショック後に、中小企業への貸し渋りが社会問題となっておりましたが、なんとP2P金貸しサイトに政府が出資し、中小企業はそっから金を借りてくれ、と発表いたしました。 主導しているのは、ビジネス＆イノベーションスキル省（微妙に胡散臭い役所名ですな）という役所です。ここが用意したBusiness Finance Partnershipという資金から、約26億円をFunding Circleに、約13億円をZopaに出資することにしました。 どちらもイギリスではメジャーなP2P金貸しサイトでありますが、ビジネス向けにもお金を貸してますので、中小企業の利用者が結構多いんであります。 このP2P金貸しサイ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
