1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
先鋭化する大富豪の白人男性たち、警告する女性たち
先鋭化する大富豪の白人男性たち、警告する女性たち 2023.09.11 Updated by yomoyomo on September 11, 2023, 21:53 pm JST 「テックブロ（tech bro）」という言葉があります。IT業界で働く男性を指しますが、ケンブリッジ英英辞典によると、社交性に欠けるのに自身の能力を過信する米国の若い男性という含意もあるようです。 最近、この言葉が出てくる文章で気になったものがあるので、それらの紹介から始めたいと思います。 一つはダナ・ボイドの「メタバースは未だシカトさせていただきます」です。これはメタバースがテーマの新刊を送ってきた友人に対し、メタバースには一貫して興味がないと宣言する文章なのですが、彼女の拒否反応には理由があります。彼女は初期のバーチャルリアリティー（VR）の体験者であり、2014年にはVR体験の性差にフォーカスした「Oc
ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦
ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦 2023.08.19 Updated by Ryo Shimizu on August 19, 2023, 16:47 pm JST そろそろ業界の最深部でしか知られてなかった事実がニュースになって来始めているのでここで本当の問題を明らかにしておきたい。 AI開発に必須なのは、計算資源である。そしてこれは現在のところ、事実上NVIDIAが一社独占している。 NVIDIA以外の半導体がいくら「AIに特化しています」と能書きを垂れていてもごくわずかな例外を除いてはほとんど全部が誇大広告である。 たとえばApple Silliconは、「ニューラルエンジン」と称するモジュールを内蔵しているが、これを使ってAIの学習をすると、なんとCPUよりも遅い。信じられないかもしれないが、これが残酷な事実なのである
自動執筆機械の憂鬱
自動執筆機械の憂鬱 2023.04.03 Updated by Ryo Shimizu on April 3, 2023, 08:11 am JST 桜の季節だ。 僕が一年で一番、好きな季節である。 この季節のために、僕は東京に住むことを選択したと言ってもいい。 桜の季節、別の言い方をすれば、花見の季節だ。 花見はいい。 下手すれば花なんかなくてもいい。 外で酒が飲める。 ・・・おもえば、それすらできないのがこの数年だった。 花見ができない間は、僕は毎年、近所の花屋で桜の木を買ってきて、家の中に飾って花見をしていた。 それくらいには、花見が好きである。 昨日も朝早くから代々木公園にでかけていって、場所取りをした。 午前六時の代々木公園は、場所取りの必要なんかないくらいに閑散としている。 だがそれがいい。 いつもの習慣が戻ってきているようだった。 レジャーシートを広げ、3coinsで買ってき
窮地に立つIntelと四面楚歌のARM、コモディティへ向かうAI専用チップとJapan Skip
窮地に立つIntelと四面楚歌のARM、コモディティへ向かうAI専用チップとJapan Skip 2018.12.13 Updated by Ryo Shimizu on December 13, 2018, 13:55 pm JST 先週はニューラルネットワークの国際学会であるNIPSあらためNeurIPSと、RISC-V Summitの両方に出席してきた。 NeurIPSはカナダのモントリオール、RISC-V Summitはカリフォルニア州サンタクララということで、場所は離れているがどちらもディープラーニングが焦点であるという類似性がある。 おそらく世界広しと言えど両方に参加したのは僕くらいのものだろう。 今年のNIPSはいい意味でも悪い意味でも驚きがなかった。 というのも、ほとんどの論文は事前にインターネットで発表されており、展示されている企業ブースもほとんど全てが求人のみを目的とし
テック界隈の諸行無常──2014年の振り返りと2015年の予測 - WirelessWire News（ワイヤレスワイヤーニュース）
年末年始はひたすらお酒を飲んだくれていたため、今週仕事始めと言われても未だよく頭が回らない状態だったりします。そこで『ツイッター創業物語 金と権力、友情、そして裏切り』に登場する冷徹傲岸な投資家としてもおなじみのフレッド・ウィルソンがブログに投稿した2014年を振り返るエントリと2015年を占うエントリを紹介して、いい加減頭のモードを切り替えていきたいと思います。 フレッド・ウィルソンは、ブログで自身の会社が投資するスタートアップの半ば宣伝みたいなエントリもときどき書くので注意が必要ですが、今回紹介する文章は割とフラットな書き方がされていると思います。彼が振り返る2014年は以下のような年でした。 インターネットのソーシャルメディア段階は終わった。もはや大手プラットフォームが磐石で、この分野にイノベーションの余地はあまりない。 メッセージング分野が新たなソーシャルメディアである。これは1.
男だけの世界──Oculus Riftは性差別的か？ - WirelessWire News（ワイヤレスワイヤーニュース）
SNS 研究、特に10代の若者のソーシャルネットワーク利用に関する研究の第一人者であるダナ・ボイド（danah boyd）の新刊『It's Complicated: The Social Lives of Networked Teens』のことは半年以上前から注目していたのですが、刊行に際して公式サイトに書籍をまるごと PDF ファイルで、クリエイティブ・コモンズの「表示―非営利―継承」ライセンスで公開したのには驚き（つつも、これ幸いとダウンロードし）ました。 ティーンエイジャーのネット利用にまつわる神話の実態を解説し、彼らを取り巻くリスクを過大視する大人たちを諌める穏当さをもった本であり、ゴールデンウィークには感想を原稿にしようかとのんびり読んでいたのですが、平和博氏が『It's Complicated』の概要を紹介する「「デジタルネイティブ」は幻想だとダナ・ボイドはいう」というエントリ
なぜ少子化対策は制度整備の話ばかりになってしまうのか？ - WirelessWire News（ワイヤレスワイヤーニュース）
某大学病院で血液内科医師として働く方が、シングルファザーになり、三人の子育てをしながら医師として働く様子を書いた記事が話題になっています。 血液内科医が父子家庭になっちゃいました。 この記事が医療ガバナンス学会のメルマガに掲載された点が大変興味深いです。ガバナンスとは組織を統制するという意味でありますが、その統制には、組織をいかにうまく動かしていくか、という活動も含まれます。 フツーの人がこの記事を読んで注目する点は、「この医師は妻に愛想を尽かされたんだねえ」「やっぱり父子家庭は大変だわ」という「感情的な部分」の様なのですが、実は目を向ける点は、勤務先が医師の家庭の状況を考慮して仕事を采配することが可能であった という点です。 勤務先では、医師の勤務時間を９−５時にし、夜勤や緊急対応を減らし、助手を雇うことで労働量を減らしています。つまり、労働量を減らし、増員することで三人の子育てをしなが
生き残る出版社、潰れる出版社 - WirelessWire News（ワイヤレスワイヤーニュース）
先日ドイツのフランクフルトで開催されたフランクフルトブックフェアでも、今年最大のヒット作である Fifty Shades of Grey が話題となりました。同作は、現在までに全世界で５千万部を売り上げたわけですが、フェアにおいて、このヒットは生き残っていく出版社のビジネスモデルの例となるのではないか、という指摘がありました。同作、最初はトワイライトの同人として細々と電子書籍を売っていたわけですが、途中からRandom House とBertelsmannという大手出版社が販売に関わり、グローバルなネットワークを使って、同作品のプロモーションを行っています。二社のグローバルなネットワークに編集者や営業担当者の強力なプッシュがなければ、あれだけ短期間の間に世界中で爆発的なヒットになることはなかったとうわけです。同作品のヒットに触発されて、最近では、大手出版社が同人作品を発掘し、営業と配信代行
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
