最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
全社データ活用基盤をTreasureDataからBigQueryへ移行しました - Leverages データ戦略ブログ
はじめに こんにちは。データエンジニアリンググループの森下です。今回は、私がプロジェクトマネージャーとして約3年間かけて実施した、TreasureDataからBigQueryへの全社データ活用基盤移行プロジェクトについてお話します。このプロジェクトは、全社で1日あたり数千件のクエリが実行されるデータ基盤を移行するという大規模なもので、関係者の数は200〜300人に上りました。プロジェクト期間中は、データ活用基盤の技術調査から始まり、関係者への説明や調整、データ移行、クエリ移行、ETLやReverse ETLに使用する各種ツールの導入など、本当に多くのタスクがありました。 プロジェクト背景: TreasureData導入とその課題 TreasureData導入の背景 2024年時点ではGoogle BigQueryを使用していますが、その前の環境が導入された背景を説明します。 2018年12
こんにちは、DevRelブロックのikkouです。2024年5月15日から17日の3日間にわたり沖縄県は那覇市で「RubyKaigi 2024」が開催されました。ZOZOは例年同様プラチナスポンサーとして協賛し、スポンサーブースを出展しました。 technote.zozo.com ZOZOとWEARとRubyKaigi エンジニアによるセッション紹介 Generating a custom SDK for your web service or Rails API Namespace, What and Why YJIT Makes Rails 1.7x Faster Using Ruby in the browser is wonderful. An adventure of Happy Eyeballs Embedding it into Ruby code Unlocking Pot
Maria Diaz （ZDNET.com） 翻訳校正： 緒方亮 吉武稔夫 （ガリレオ） 2024-05-20 09:24 OpenAIは先ごろ、AIチャットボット「ChatGPT」のデータ分析機能の変更を発表した。ChatGPTを使ってインタラクティブでカスタマイズ可能な表とグラフを作成し、プレゼンテーションや書類としてダウンロードできるようになる。「Google Drive」や「Microsoft OneDrive」からChatGPTにファイルをアップロードすることも可能だ。 ただし、新しいデータ分析機能はすべてのユーザーが利用できるようになるわけではない。アップグレードは今後数週間をかけて段階的に「ChatGPT Plus」「ChatGPT Enterprise」「ChatGPT Team」のユーザーに提供される。データ分析の新機能は、OpenAIが先日「Spring Update」
最近、プロセッサに「NPU」と呼ばれる人工知能（AI）処理に特化したユニットが搭載されるのがちょっとしたブーム（？）になっている。このNPUって、GPUなどと何が違うのか、なぜプロセッサに搭載されるようになってきたのか解説しよう。 プロセッサに搭載されている「NPU」って何？ Intelの最新プロセッサ「Core Ultra」には、人工知能（AI）処理に特化した「NPU」が搭載されている。NPUは、スマートフォン向けのプロセッサにも搭載が進んでいる。ところで、このNPUはCPUやGPUと何が違うのだろうか？ 写真は、Intelのプレスリリース「AI PCの新時代の到来を告げるインテル Core Ultra プロセッサー」のCore Ultraプロセッサーの写真を使って、「CPU」「GPU」「NPU」の文字を載せたもの。 今回のお題は「NPU」である。出だしから注釈になってしまうが、NPUと
RubyKaigi 2024 でスーファミと mruby/c について発表しました | Wantedly Engineer Blog
ウォンテッドリーでエンジニアをしている @gedorinku です。5/15から5/17に沖縄で開催された RubyKaigi 2024 に参加して登壇してきました。 Porting mruby/c for the SNES (Super Famicom) RubyKaigi 2024, #rubykaigi https://rubykaigi.org/2024/presentations/gedorinku.html#day3 当日の発表スライドは以下で公開しています。 内容は、mruby/c という組み込み向けの Ruby ランタイムをスーパーファミコンに移植して動かしたというものでした。不安定な C コンパイラのデバッグやカセット内の特殊チップ(SA-1)を使った mruby/c VM の高速化といった mruby/c をスーファミで動作させるために必要なハックについて話しました。発
ユスフ メディ (Yusuf Mehdi) エグゼクティブ バイス プレジデント 兼 コンシューマー チーフ マーケティング オフィサー ※本ブログは、米国時間 5 月 20 日に公開された “Introducing Copilot+ PCs” の抄訳を基に掲載しています。 マイクロソフトのイベントの基調講演のオンデマンド録画が、米国時間 5 月 20 日午後 2 時に公開される予定です。公開時点で、本ブログ記事のリンクの更新が行われます。 本日、マイクロソフトの新しいキャンパスで開催された特別なイベントにおいて、AI のために設計された新しいカテゴリーの Windows PC である Copilot+ PC (コパイロットプラス ピーシー) を世界に向けて紹介しました。 Copilot+ PC は、これまでで最も高速でインテリジェントな Windows PC です。驚異的な 40 TOP
今週は、AWS Startup Loft Osaka Pop-Upにお邪魔してきました。 コワーキングスペースを提供してくれたり、日替わりでさまざまなイベントが開催されていました。（火曜日から木曜日まで、3日間もお邪魔しました。暖かく迎えていただいて大変感謝しております） 木曜日にはAmplifyに関するイベントがあり、GAされたばかりのGen2に関して学ぶことができました。なんと AmplifyのプロダクトマネージャのMattさんからのDeep dive もあり、 裏側までちら見せ してもらうという贅沢な場でした。（現地はAM 6:00ぐらいと言ってた気がします。Mattさんありがとうございました！！） Amplifyとは Amplifyは、「AWSを意識しないでAWSを使える」という一見不思議なサービスです。 ただ、その威力は偉大です。Amplifyを使うことで、 フロントエンド（＝ユ
Rails: Autotuner gemでRailsアプリを高速化する（翻訳）｜TechRacho by BPS株式会社
原注 本記事は、Rails Worldでの私の発表「Rails and the Ruby Garbage Collector: How to Speed Up Your Rails App」を元にしています。 Rubyのガベージコレクタは、短いRubyスクリプトから数百万件のリクエストを処理するアプリの実行にいたるまでスケーリング可能になるよう設計されていますが、あらゆるユースケースで最適に動作するとは限りません。このため、Rubyのガレージコレクタでは、チューニングに利用可能なパラメータを多数サポートしています（執筆時点では19個）。ただし、これらのパラメータを使いこなすには、Ruby内部におけるガベージコレクタの動作についての知識が必要です。 また、Rubyのメジャーリリースでガベージコレクタが変更されると、これらのパラメータの一部が非推奨になったり新しいパラメータが追加されたりする可
RubyKaigi未参加/初参加の人に届けたい。初参加者の恥丸出しレポート【RubyKaigi2024】 Ruby歴3年程度のエンジニアである僕が、RubyKaigi2024に初参加してきました。 そこで感じたこと、経験したことをレポートとしてまとめていきたいと思います。 ※この記事ではあまりテクニカルな内容は話しません（話せません）。 自らの無知をさらけ出しつつ、恥丸出しで行きます。 まず簡単に自身のステータスを紹介 前述の通り、Ruby歴は3年程度 エンジニア歴としては7~8年程度 Webアプリ開発者で、基本的にFWにお世話になってきました。 RubyKaigi参加のキッカケは、所属会社がブースを出すということで社内で参加者を募っていた。 技術に対してのモチベが最近上がっていたこともあり、カンファレンス参戦に興味が湧いてきていた。 良い機会だと思って、手を挙げてみた。 沖縄行ったこと無
E2系新幹線は1997年、東北新幹線と北陸新幹線でデビューした。東北新幹線では時速275キロでの運転を実現させ、当時は「新幹線高速化の旗手」ともてはやされた。 だが、四半世紀が過ぎた今では初期車両はすべて引退。2010年の新青森駅延伸に際して投入された6編成だけが残る。 新幹線は高速運転を行うだけに1日当たりの走行距離が長く、寿命は十数年が一般的だ。長く親しまれた「E2系」にも、いよいよ終焉（しゅうえん）の時が近づいてきた。 「スーパーひかり構想」がルーツ このE2系と、JR東海の初代のぞみ「300系」（12年までに全車引退）は、技術的にはいわば「親戚筋」となる。そのルーツは国鉄時代の「スーパーひかり構想」だ。 70年代後半、国鉄は財政状況や労使関係の悪化などで、新技術の開発に非常に消極的になっていた。64年開業の東海道新幹線では「0系」新幹線の初期車両が老朽化し、取り換えも必要になっ…
AIの学習や推論に用いるAIインフラストラクチャーの市場ではNVIDIA製のAI特化チップが大きなシェアを占めています。そんな中、MicrosoftがAMD製のAI特化チップ「MI300X」を用いたAIインフラストラクチャー「ND MI300X v5」をAzureで提供開始することを発表しました。 Introducing the new Azure AI infrastructure VM series ND MI300X v5 - Microsoft Community Hub https://techcommunity.microsoft.com/t5/azure-high-performance-computing/introducing-the-new-azure-ai-infrastructure-vm-series-nd-mi300x/ba-p/4145152 AMD Inst
GPT-4を超える大規模言語モデル（LLM）が乱立する「ポストGPT-4」フェーズに突入した生成AI市場だが、生成AIを爆速化する次世代GPUの開発競争にも拍車がかかっている。トップを走るNVIDIAは、次世代GPU「Blackwell（ブラックウェル）」を発表。前世代と比べ、最大30倍のパフォーマンス向上を実現するとともに、コストとエネルギー消費を1/25に抑えることに成功したという。一方、スタートアップの動きも活発化しており、GroqはChatGPTを13倍高速化できるGPUの開発を終え、すでに販売拡大に乗り出している。激化するGPU開発競争、その最前線を追ってみたい。 バークリー音大提携校で2年間ジャズ／音楽理論を学ぶ。その後、通訳・翻訳者を経て24歳で大学入学。学部では国際関係、修士では英大学院で経済・政治・哲学を専攻。国内コンサルティング会社、シンガポールの日系通信社を経てLiv
RubyKaigi 2024 - Matz Keynote (Day3) - Techouse Developers Blog
こんにちは、2024年に新卒で入社し、クラウドハウス労務事業部でバックエンドエンジニアをしているdaiki_fujiokaです。 本記事では、3日目の最後のセッションである Yukihiro "Matz" Matsumoto(@yukihiro_matz)さんによる Matz Keynoteについて紹介させていただきます。 セッション内容: 「Better Ruby」 発表者は Rubyist であれば誰もが知っている Ruby 生みの親 Matz ことまつもとゆきひろさんになります。 テーマは「Better Ruby」で、この1年間における Ruby の発展を踏まえてこれからの Ruby をより良くするために必要なことを紹介されていました。 本記事ではKeynoteで発表されたことをまとめ、私がこれまで参加したセッションも含めて感じたことについて紹介しています。 Ruby の設計思想や特
【葵ステークス 2024 予想】追い切り･ラップ適性 ＆ 各馬評価まとめ / ここは素直に - 競馬予想のホネ【坂路ビシビシの日々〜 重賞予想と追い切り注目馬＆レース回顧】
■ブログランキング参加中です（記事が参考になったという方は是非クリックで応援をお願いします） ――「行かなければならない」と、この時期の3歳馬ならまだやり合う頃合いだろうとみて、それらを背後からとつかまえんとする組をストレートに。 目次 葵S 2024 レース概要 葵S 2024 枠順 葵ステークス 2024 ラップ適性・追い切り 葵ステークス 2024 過去レース傾向 葵ステークス 2024 予想印は!? ホネ的注目馬 各馬評価まとめ エトヴプレ / アスクワンタイム 他 競馬予想のホネX 葵S 2024 レース概要 葵ステークス G3 2024年5月25日 3回京都11日目 発走時間:15:35(予定) 京都 芝1200m サラ系3歳 オープン 2023年優勝馬：モズメイメイ 牝3 1:07.1 武豊 葵S 2024 枠順 葵ステークス 2024 ラップ適性・追い切り 消耗戦 ※
サーバーサイドエンジニアの内藤(@naitoh) です。 RubyKaigi 2024に参加されていた皆さん、お疲れ様でした。 RubyKaigi のセッションの中で印象に残った発表をご紹介します。 RubyKaigi 2024 セッションレポート タイムテーブル タイムテーブルは以下から確認できます。 rubykaigi.org Namespace, What and Why 今回のRubyKaigi で非常に気になっていたセッションの一つです。 アプリケーション、ライブラリをある空間の中でライブラリを読み込み、他の空間から隠す。 空間の中で定義されたメソッドを別空間から呼び出すこと 別空間から呼び出されたメソッドは、元の空間内で動作すること という感じで複数のバージョンのライブラリに依存した場合のコンフリクト発生を解決するのが Namespace とのことで、内容が整理されておりわかり
RubyKaigi 2024 - YJIT Makes Rails 1.7x Faster (Day3) - Techouse Developers Blog
YJIT Makes Rails 1.7x Faster こんにちは、2024年に新卒で入社し、ジョブハウスでバックエンドエンジニアをしているnozomemeinです。 本記事では、3日目のTakashi Kokubun(@k0kubun)さんによるセッション、YJIT Makes Rails 1.7x Faster について紹介させていただきます。 YJITとは？ 講演の内容に入る前に、YJITの歴史と特徴についてまとめます。 YJITの概要 YJITは「Yet Another Ruby JIT」の略で、Shopifyで開発され、Ruby 3.1から導入されたJITコンパイラです。 Ruby2.6から、MJITと呼ばれるJITコンパイラが存在していましたが、YJITはそれをさらに進化させたものです。 YJITはJITコード（中間表現 or IR）を使用し、機械語に変換して実行します。 こ
Armベースに完全移行した新型「Surface Pro／Laptop」が登場 45TOPS実現の「Snapdragon X」でAI PC体験を強化 約8万円の上位純正キーボードも
米Microsoftは5月20日（現地時間）、米Qualcommの最新SoC「Snapdragon X」シリーズを搭載したArmベースの新型「Surface Pro」「Surface Laptop」を発表した。全世界で6月18日に発売する。日本での価格はいずれも20万7680円（税込み、以下同）から。 Qualcommが次世代AI PC向けとして4月に発表していた「Snapdragon X Plus／Elite」をSoCに搭載しており、全モデルがArmベースになった。同SoCは、1秒間に45兆回以上の演算を行える「45TOPS」の処理性能を持つNPU（Neural network Processing Unit）「Hexagon」を内蔵しており、“AI PC”としてローカル環境における生成AI処理の大幅な強化を図っている。 2020年にいち早くArmベースの自社開発チップを採用した米App
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
RubyKaigi 2024 参加レポート - ZOZO TECH BLOG
OpenAI、「GPT-4o」の新しいデータ分析機能を発表--有料ユーザー対象
第288回 人工知能時代には必須か？ 最近、プロセッサに搭載されている「NPU」って何
Copilot+ PC の紹介 - News Center Japan
手を動かして0から理解するAmplify Gen2 - Qiita
RubyKaigi未参加/初参加の人に届けたい。初参加者の恥丸出しレポート【RubyKaigi2024】
消えゆく新幹線「E2系」旧国鉄スーパーひかりの血脈 | なるほど電車ニュース | 土屋武之 | 毎日新聞「経済プレミア」
MicrosoftがAMDのAIチップ「MI300X」を用いた高コスパのAI開発用クラウドサービスを提供開始
生成AIが「爆速化」、30倍高速のNVIDIAの次世代GPU「Blackwell」がもたらすヤバさ
#RubyKaigi 2024 セッションレポート - メドピア開発者ブログ