最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
ジョーカルビ😺 @bellmaron0408 angooの次回作楽しみ！！ 趣味はパテによるフルスクラッチ。作ってる時が一番楽しいかな(^○^) 最近はクレパスや水彩で絵も描いてます。 BOOTH販売もしています。bellmaron0408.booth.pm ジョーカルビ😺 @bellmaron0408 ① 金曜夕方。仕事を終え家で寛いでいると妻から電話「パパさん、今仕事？私 記憶が無いんだけど！」と明るい声。 直ぐに店長が電話口に出て「ご主人ですか？奥様の言動がおかしいので脳梗塞の可能性あります。」 ジョー「直ぐに救急車呼んでもらえますか？私も直ぐにそちらに行きますので」 続く 2024-05-21 19:04:48 ジョーカルビ😺 @bellmaron0408 ② 救急車とほぼ同時に到着 救急車に乗せられる時にやっと妻の顔を見れた。不安げな表情が忘れられない この時点で僕に電話し
Ubuntu Weekly Recipe 第814回1500円以下で買えるRaspberry Pi PicoサイズのRISC-VボードなMilk-V DuoでUbuntuを動かす Ubuntu 24.04 LTSではRISC-Vボードのひとつである「Milk-V Mars」をサポートしました。これは中国のRISC-V製品のベンダーであるMilk-Vが作っているRaspberry Piライクなシングルボードコンピューターです[1]。ただしこのMarsはなかなか入手できない状況が続いています。Milk-Vでは他にも64コア搭載されたPCライクなPioneer、10GbEのネットワークスイッチとして使えるVegaなどもリリースしています。今回はRaspberry Pi Picoサイズの小さなボードで、比較的安価で入手性が高いMilk-V Duoシリーズに、Ubuntuをインストールしてみましょう
CVE-2024-4367 - Arbitrary JavaScript execution in PDF.js — Codean Labs
This post details CVE-2024-4367, a vulnerability in PDF.js found by Codean Labs. PDF.js is a JavaScript-based PDF viewer maintained by Mozilla. This bug allows an attacker to execute arbitrary JavaScript code as soon as a malicious PDF file is opened. This affects all Firefox users (<126) because PDF.js is used by Firefox to show PDF files, but also seriously impacts many web- and Electron-based a
RubyKaigi 2024 でスーファミと mruby/c について発表しました | Wantedly Engineer Blog
ウォンテッドリーでエンジニアをしている @gedorinku です。5/15から5/17に沖縄で開催された RubyKaigi 2024 に参加して登壇してきました。 Porting mruby/c for the SNES (Super Famicom) RubyKaigi 2024, #rubykaigi https://rubykaigi.org/2024/presentations/gedorinku.html#day3 当日の発表スライドは以下で公開しています。 内容は、mruby/c という組み込み向けの Ruby ランタイムをスーパーファミコンに移植して動かしたというものでした。不安定な C コンパイラのデバッグやカセット内の特殊チップ(SA-1)を使った mruby/c VM の高速化といった mruby/c をスーファミで動作させるために必要なハックについて話しました。発
Collaboratively editing strings of text is a common desire in peer-to-peer applications. For example, a note-taking app might represent each document as a single collaboratively-edited string of text. The algorithm presented here is one way to do this. It comes from a family of algorithms called CRDTs, which I will not describe here. It's similar to the approaches taken by popular collaborative te
AIエージェントは何から取り組む？社内取り組み紹介 - AITC - ISID | AI トランスフォーメンションセンター コラム
こんにちは！AIソリューショングループの太田です。 このコラムでは生成AIエージェントは知っているが、何から始めるべきか分からない方向けに、生成AIエージェントを使った問い合わせ対応の取り組みを紹介します。 さらに、私たちの生成AIエージェント開発の失敗談や工夫点も紹介しています。 みなさんの今後の開発や検証の参考になれば幸いです。 生成AIエージェントとは？ 生成AIエージェントは何ができますか？ 最初におすすめの検証 電通総研の取り組み紹介 問題設定：ヘルプデスクの一次回答 挑戦的なポイント 開発に利用したもの 活動１）エージェントのワークフローを準備 活動２）評価データセットでの精度検証と課題の洗い出し 活動３）ナレッジのドキュメント化 活動４）各LLMの観測範囲のチューニング 活動５）計画のプロンプトエンジニアリング 活動６）ツール呼び出しのチューニング 活動７）振り返りのプロンプ
Unlock a new era of innovation with Windows Copilot Runtime and Copilot+ PCs
I am excited to be back at Build with the developer community this year. Over the last year, we have worked on reimagining Windows PCs and yesterday, we introduced the world to a new category of Windows PCs called Copilot+ PCs. Copilot+ PCs are the fastest, most intelligent Windows PCs ever with AI infused at every layer, starting with the world’s most powerful PC Neural Processing Units (NPUs) c
これはなに RubyKaigi 2024に関する情報を有志でまとめている非公式ページです。 編集に興味がある方はruby-jpの#scrapboxチャンネルから参加できます。 概要 公式ページ: RubyKaigi 2024 日程: 2024-05-15〜2024-05-17 会場: NAHA CULTURAL ARTS THEATER NAHArt (那覇文化芸術劇場なはーと) (沖縄県那覇市) オフラインのみ 事前イベント 4/16(火) 19:00 - 22:00 第229回 Okinawa.rb Meetup @ SAKURA innobase Okinawa🌸（in-person） 4/23(火) 19:30 - 21:30 RubyKaigi 2024 タイムテーブル徹底解説（in-person） 4/25(木) 19:00 - 21:30 RubyKaigi 2024事前勉
Exploring Seamless Rust Interop for Newer Languages, Part 1 Languages like C++, Typescript, Kotlin, and Swift had a brilliant approach: they were created to harness an existing ecosystem of libraries from another pre-existing language. But that's easier said than done! Especially for newer languages focusing on memory safety and speed. 0 Luckily, newer languages can tap into C's ecosystem by addin
Introducing Copilot+ PCs - The Official Microsoft Blog
An on-demand recording of our May 20 event is available. Today, at a special event on our new Microsoft campus, we introduced the world to a new category of Windows PCs designed for AI, Copilot+ PCs. Copilot+ PCs are the fastest, most intelligent Windows PCs ever built. With powerful new silicon capable of an incredible 40+ TOPS (trillion operations per second), all–day battery life and access to
マイクロソフトは、日本時間5月22日未明から開催中のイベント「Microsoft Build 2024」で、同社の独自Armプロセッサ「Azure Cobalt 100」を用いた仮想マシンをAzureでプレビュー公開すると発表しました。 マイクロソフトは昨年（2023年）11月に、クラウド向けに最適化したArmベースの独自設計プロセッサとして「Azure Cobalt 100」を発表していました。 参考：［速報］マイクロソフト、Armベースのクラウド向け独自プロセッサ「Microsoft Azure Cobalt」発表。高い電力効率を提供。Ignite 2023 Azure Cobalt 100ベースの仮想マシンは、以下の3つのシリーズが提供されます。 Dpsv6シリーズ：最大96 vCPUs／384 GiBsメモリ(4:1 memory-to-vCPU ratio) Dplsv6シリーズ
金星のような極端な環境でも動作するデータストレージが開発される
極限環境下での電子機器の開発には、高温下で安定に動作するSSDなどの不揮発性メモリデバイスが必要とされています。しかし、一般的な不揮発性メモリデバイスは、およそ300度の温度に達すると故障してしまいます。ペンシルバニア大学の研究チームが発表した新しい強誘電体ダイオードを基にした不揮発性メモリデバイスは最高600度までの温度で動作可能で、金星のような極端な環境で運用できることが期待されています。 A scalable ferroelectric non-volatile memory operating at 600 °C | Nature Electronics https://www.nature.com/articles/s41928-024-01148-6 Turning up the heat on data storage | Penn Today https://penntod
今回は2024春アニメの主題歌を個人的主観でランキングにしました。 前半ではオープニングTOP20、後半はエンディングTOP10をご紹介いたします。 こちらの記事では人気や再生数を完全に度外視して如何にその作品の世界観に寄り添っているか、どれだけ曲や映像に惹きつけられたかにフォーカスして順位を決めさせていただきました。 それでは早速、ランキング(本編)へどうぞ…！ 【OP編】 2024冬アニメ主題歌ランキン具TOP20 第20位：転生貴族、鑑定スキルで成り上がる「ブルーデイズ」 『転生貴族、鑑定スキルで成り上がる』公式サイト 《アーティスト》 TRUE 作詞：唐沢美帆 作曲：堀江晶太 編曲：岡村大輔・堀江晶太 TRUEさんの突き抜けるような爽快な歌声と明るいサウンドに初見時からガッチリ心を掴まれました…！ 敵のボスが無表情で棒立ちしている絵面はシュールで笑ってしまいましたが、個人的には隠れ
中堅アナログ半導体メーカーのサンケン電気が、世界最先端と推察される32ビットマイコンの開発を進めている。開発中のマイコンには、現在市販されているマイコンには見られない、複数の特徴がある。すなわち（1）22nm世代というマイコンとしては非常に微細なプロセスで製造、（2）不揮発性メモリーとして、ReRAM（Resistive Random Access Memory：抵抗変化型メモリー）内蔵、（3）サンケン電気が独自設計したRISC-VベースのCPU（Central Processing Unit）コア、（4）DSP（Digital Signal Processor）コアとイベント処理コアも独自設計し、RISC-Vコアと組み合わせて、いわゆるヘテロジニアスコンピューティングを実現、である。 PC向けのマイクロプロセッサー（MPU）の後を追う形でマイコンの製造プロセスも微細化してきたが、40nm
Intended Uses Primary use cases The model is intended for broad commercial and research use in English. The model provides uses for general purpose AI systems and applications with visual and text input capabilities which require memory/compute constrained environments; latency bound scenarios; general image understanding; OCR; chart and table understanding. Our model is designed to accelerate res
We're building a new open-source CAD program. We've gotten pretty far, but we need your help. If you'd like to join the effort, join the Discord! What Does It Take?To build a 3D parametric CAD program, you need a: 2D Constraint SolverB-rep KernelHistory Tracker3D User InterfaceFile FormatLet's talk about each one! 2D Constraint SolverThis is the 2D engine that can ensure lines stay parallel or per
関連キーワード Windows Server | Microsoft（マイクロソフト） | サーバ | サーバ仮想化 MicrosoftのサーバOS「Windows Server」の次期バージョン「Windows Server 2025」には、従来にはなかった目新しい機能や特徴が加わる。Windows Server 2025の一般提供は2024年の後半には開始になるとみられる。 Windows Serverを使用してきたIT管理者であれば、Windows Server 2025を違和感なく扱えるはずだ。それでも一部は大幅に変わる可能性があるので、特に目立った変更になりそうな3つのポイントを確認しておこう。 「Windows Server 2025」の“3大変更点” 併せて読みたいお薦め記事 その他OSで人気の話題 Linuxを守る「SELinux」と「AppArmor」は何が違うのか？ C
Disable all AI-related features (#11475) · Issues · George Nachman / iterm2 · GitLab
Feature Request Summary What is the feature you'd like to request? How do I make sure any AI-related features are disabled? Concerns Privacy Performance Memory Complexity Is this an instance of a more general problem? I think all five of these bullet points count for this problem. Also "destruction of planetary ecology" -- that could be added. :)
I needed a bit of a break from “real work” recently, so I started a new programming project that was low-stakes and purely recreational. On April 21st, I set out to see how much of a Unix-like operating system for x86_64 targets that I could put together in about a month. The result is Bunnix. Not including days I didn’t work on Bunnix for one reason or another, I spent 27 days on this project. He
They explained that one of the emails they sent to a customer was missing a period (.) in the email body. What was more confusing is it only happened to this specific customer, when the same email was sent to a different customer the period was not missing. Recently during my 1 on 1 with my manager we talked about a current project that one of our other teams are working on. This sparked a memory
GitHub - hadashiA/Unio: Unio (short for unity native I/O) is a small utility set of I/O using native memory areas.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
飲み過ぎの胃腸と封印された記憶 - わかるLog
5月19日（日） ジョギング無し。 寝坊しようとしたが、やはりあまり長く寝られない。 せいぜい6時間ぐらいで目が覚めてしまう。 昨日まで2日間にわたって懇親会で飲んだため、今朝は胃腸がちょっとムカムカして気持ち悪かった。 午後になってようやく、胃腸の調子が戻ってきた感じだ(^^;) これまで、二日酔いの胃腸薬などほとんど飲んだことがなかったが、今後のことを考えて買っておいた。 次から、宴会の前に飲んでみよう。 ところで、旧友Aが、先日とある旧友Bに小学校以来40年以上ぶりの再会をした話を聞いた。 このBは、僕も小学校の時によく一緒に遊んでいたのだが、その後40年以上一度も会ったことがなかった。 一生の半分以上の間会っていないということだ。 僕もいつかBに会いたいと思っていたのだが、Aによると、Bは昔のことはほとんど覚えていないようだという。 子供のころいろいろな事情もあり、昔の記憶は封印し
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
妻から電話「今仕事？私 記憶が無いんだけど！」と明るい声。直ぐに店長が出て「奥様の言動がおかしいので脳梗塞の可能性あります」
第814回 1500円以下で買えるRaspberry Pi PicoサイズのRISC-VボードなMilk-V DuoでUbuntuを動かす | gihyo.jp
【福田昭のセミコン業界最前線】 20TBのSSD、2028年には300ドル前後に。その鍵は？
CRDT: Text Buffer - Made by Evan
RubyKaigi 2024 - ruby-jp
Exploring Seamless Rust Interop for Newer Languages, Part 1
［速報］マイクロソフト、独自Armプロセッサ「Cobalt」を用いた仮想マシンをAzureでプレビュー公開開始
【神曲集】2024春アニメ主題歌ランキング OP・EDおすすめ一覧 名曲30選(動画付き)
サンケン電気が驚きの世界最先端マイコン、22nm・ReRAM内蔵・RISC-V
microsoft/Phi-3-vision-128k-instruct · Hugging Face
CADmium: A Local-First CAD Program Built for the Browser
新サーバOS「Windows Server 2025」に加わる“3大変更点”はこれだ
Writing a Unix clone in about a month
The curious case of the missing period