最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
ジョーカルビ😺 @bellmaron0408 angooの次回作楽しみ！！ 趣味はパテによるフルスクラッチ。作ってる時が一番楽しいかな(^○^) 最近はクレパスや水彩で絵も描いてます。 BOOTH販売もしています。bellmaron0408.booth.pm ジョーカルビ😺 @bellmaron0408 ① 金曜夕方。仕事を終え家で寛いでいると妻から電話「パパさん、今仕事？私 記憶が無いんだけど！」と明るい声。 直ぐに店長が電話口に出て「ご主人ですか？奥様の言動がおかしいので脳梗塞の可能性あります。」 ジョー「直ぐに救急車呼んでもらえますか？私も直ぐにそちらに行きますので」 続く 2024-05-21 19:04:48 ジョーカルビ😺 @bellmaron0408 ② 救急車とほぼ同時に到着 救急車に乗せられる時にやっと妻の顔を見れた。不安げな表情が忘れられない この時点で僕に電話し
ESP32系MCUで無線LAN受信バッファが枯渇するときの調査方法 - Nature Engineering Blog
ファームウェアエンジニアの井田です。 今回はESP32系MCUで無線LANによる受信ができなくなる問題の原因と調査方法について解説します。 背景 ESP32にてそこそこ頻繁に無線LAN経由の通信を行っているときに、環境によっては急に通信ができなくなる現象が発生しました。 そこで、Wiresharkを用いて通信状況を確認すると、どうもESP32側からの送信パケットは届いているものの、ESP32へのパケットは受信されていないような状況が確認されました。 例えば、ESP32側からDNSのリクエストを投げて、ルーターが返答をしているのにも関わらず、ESP32のログ上は名前解決に失敗した状態になっています。 また、TCPによる通信も何度も再送が発生しており、よくよく見てみると、ESP32側がACKを返さないので、通信相手のサーバが再送してきているという状態でした。 現象より、ESP32の無線LANド
Ubuntu Weekly Recipe 第814回1500円以下で買えるRaspberry Pi PicoサイズのRISC-VボードなMilk-V DuoでUbuntuを動かす Ubuntu 24.04 LTSではRISC-Vボードのひとつである「Milk-V Mars」をサポートしました。これは中国のRISC-V製品のベンダーであるMilk-Vが作っているRaspberry Piライクなシングルボードコンピューターです[1]。ただしこのMarsはなかなか入手できない状況が続いています。Milk-Vでは他にも64コア搭載されたPCライクなPioneer、10GbEのネットワークスイッチとして使えるVegaなどもリリースしています。今回はRaspberry Pi Picoサイズの小さなボードで、比較的安価で入手性が高いMilk-V Duoシリーズに、Ubuntuをインストールしてみましょう
DRAMの生みの親，ロバート・デナード氏が逝去。ゲーム機やスマホ，電子機器に搭載されているメモリシステムのパイオニア
DRAMの生みの親，ロバート・デナード氏が逝去。ゲーム機やスマホ，電子機器に搭載されているメモリシステムのパイオニア ライター：奥谷海人 メモリ用集積回路として広く使われている半導体ダイナミックメモリ（DRAM：Dynamic Random Access Memory）の基本構造を発明し，コンピュータテクノロジーの発展に大きく寄与したロバート・デナード（Robert H. Dennard）氏が，2024年4月23日に91歳で逝去していたことを，地元紙Iohudオンライン版（リンク。英語）などが報じている。 画像: Wikipedia（リンク）より 1932年にテキサス州で生まれたデナード氏は，幼少の頃には電気も届いていない一部屋の小さな学校で教育を受け，音楽の才能により奨学金を得て南メソジスト大学に入学。そこで電気工学と出会い，カーネギー工科大学（現：カーネギーメロン大学）で博士号を取得し
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
妻から電話「今仕事？私 記憶が無いんだけど！」と明るい声。直ぐに店長が出て「奥様の言動がおかしいので脳梗塞の可能性あります」
第814回 1500円以下で買えるRaspberry Pi PicoサイズのRISC-VボードなMilk-V DuoでUbuntuを動かす | gihyo.jp
【福田昭のセミコン業界最前線】 20TBのSSD、2028年には300ドル前後に。その鍵は？
