最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
SaaSを作るという仕事について
Open standards for building event-driven applications in the cloud
仲山進也氏 インタビュー メンバーが地雷を恐れて黙って様子見するチームは成長しない 高パフォーマンスのチームづくりを阻む10項目 新年度がスタートし、新たなチーム結成から1ヶ月が経過した5月。リーダーやマネージャーにとって、チーム管理の課題が浮き彫りになる時期です。この重要な時期に、ログミーBizのアンバサダーでありチームビルディングに詳しい仲山進也氏に、効果的なチーム作りのポイントをお聞きしました。前編は、心理的安全性の実現が難しい具体的な理由や、チーム成長を阻む心理的障壁10選などが語られました。 心理的安全性の実現が難しい具体的な理由 ――チームのパフォーマンス向上にもつながる重要な要素として、数年前から「心理的安全性」が言われていますが、実際には心理的安全性を実現できていないケースも多いようです。チームビルディングの専門家である仲山さんは、この状況をどのようにご覧になっていますか？
この記事は、『Software Design 2024年6月号』（2024年5月17日発売）の第1特集「SQLチューニングする前に知っておきたい 実行計画＆インデックスのしくみ」の連動企画です。ぜひ本誌特集1もお読みください。 適切なインデックスを設計する インデックスの調整によるクエリの高速化は、RDBMSを使用する際の数あるチューニングテクニックの中でも最もお手軽なものです。テーブルのカラムの定義を変えるわけではないので、クエリの結果に違いが生じず、アプリケーションを変更する必要性がないからです。適切なインデックスを付与するだけでチューニングが済むというのは極めて効率的です。それでは適切なインデックスとはどのようなものでしょうか。本記事では、まずインデックスを設計する際に重要なポイントを解説します。 インデックスとSQL構文 「どのカラムの組み合わせに対してインデックスを作成すべきか」
#RubyKaigi 2024 LTで「Improved REXML XML parsing performance using StringScanner 」というタイトルで発表しました。 - @naitohの日記
RubyKaigi 2024 LT で 6年振り にLT発表させて頂きました。 今回の内容は、おおよそ naitoh.hatenablog.com を5分に縮めた内容になります。 具体的には、下記になります。 自分が作成している RBPDF gem で SVG 画像(XMLで記述されています。)を処理したいので、XML処理ライブラリの中でインストールの容易な REXML を使いたい。 REXML は C拡張の gem の libxml-ruby と比較して dom で65倍、sax でも 21倍遅いので、速くしたい。 Ruby 3.3 で YJIT を有効にするだけで dom で65倍→44倍、sax で 21倍→14倍の性能差まで改善されるが、まだ遅いのでさらに改善したい。 RubyKaigi 2019 の Better CSV processing with Ruby 2.6 で、St
GitHub - hadashiA/Unio: Unio (short for unity native I/O) is a small utility set of I/O using native memory areas.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「Copilot+ PC」とはなにか マイクロソフトが狙うUX変化とWindowsの再設計
メンバーが地雷を恐れて黙って様子見するチームは成長しない 高パフォーマンスのチームづくりを阻む10項目
【笠原一輝のユビキタス情報局】 「Copilot+ PC」のローンチパートナーがQualcommになった背景
［Software Design連動企画］ 実践クエリチューニング | gihyo.jp
Microsoft、「Copilot+ PC」対応のSnapdragon X Elite搭載「Surface Pro/Laptop」
