Google が Chromebook Plus 向け Gemini と AI を活用した新機能を発表 | HelenTech
Google は昨年10月に Chromebook Plus デバイスを発表し、将来的に Google AI との連携が行われることを発表していましたが、今回改めて Chromebook 向けの AI と Gemini を活用した新機能が発表され、様々な AI 機能と Chromebook Plus に Gemini が統合されることが明らかになりました。 昨年発表されていた新しい AI 機能は、次の ChromeOS のメジャーアップデートである ChromeOS 125 で Chromebook Plus デバイスに追加される予定となっており、これには AI 画像生成や Google フォトの｢編集マジック｣、AIによるテキスト入力補助の｢Help me Write｣などが含まれています。 ChromeOS 125 で追加される AI 新機能 AI 画像生成は、Chromebookの壁
Microsoft、Windowsローカルで実行可能なSLM「Phi Silica」を全「Copilot+ PC」に搭載へ
米Microsoftは5月21日（現地時間）、開発者向け年次開発者会議「Microsoft Build 2024」の基調講演で、ローカルで実行可能なSLM（小規模言語モデル）「Phi Silica」（ファイシリカ）を発表した。前日発表した一連の「Copilot+ PC」に搭載していく。 Microsoftは「Phi-3」ファミリーでSLMを展開しているが、Phi SilicaはPhi-3の最小モデル「Phi-3-mini」（38億パラメータ）より小さい33億パラメータ。 Copilot+ PCのNPU（ニューラルプロセッシングユニット）に最適化されており、トークン生成はNPUのキャッシュを再利用してCPUで実行され、1秒当たり約27個のトークンを生成するという。これにより、閲覧中の画面を数秒ごとに保存しておき、後から横断検索できる「回顧」（Recall）機能などを高速に実行できる。 「回顧
ArmのScalable Matrix Extension (SME)を試す
最近のCPUには行列乗算に役立つ命令が載っていることがあります。IntelのAdvanced Matrix Extensions (AMX)、AppleのAMX、IBM PowerのMatrix-Multiply Assist (MMA)，そしてここで取り上げるArmのScalable Matrix Extension (SME)です。 SMEはここ数年（2021年ごろから？）話は聞きますが、実物の話は聞かないという状況でした（私の中では）。それが最近発表されたApple M4に実装されているという噂を聞いて、俄然興味が出てきました。Apple M4の実物は私は持っていませんが、QEMUを使うとSMEの動作確認ができるようです。やってみましょう。 環境構築とベクトル長 Ubuntu 24.04上のGCC 14/Clang 18とQEMU 8.2で動作確認します。Ubuntuはx86_64で
ESP32を搭載し、リチウムポリマー電池によって駆動できるArduino互換機をゼロから自作してみたという話 - Qiita
ここからは主要な部品に関して説明します。 ESP32-C3-WROOM-02 今回はESP32-C3-WROOM-02を使用します。そこそこ安価でWi-FiやBLE1が利用できます。また、USB機能を内蔵し、別途USBシリアル変換ICなどを載せる必要がないため、簡素化、小型化できました。省電力性も高いので今回のような用途にはぴったりです。 AP2112 ESP32-C3-WROOM-02の電源電圧は3.3Vです。そのため、USBから給電する場合やリチウムポリマー電池で駆動する場合は3端子レギュレータ等で降圧する必要があります。ただし、後者の場合は特にドロップアウト電圧が低い部品を使わないと安定的に駆動できません。今回はAP2112を選びました。出力電圧は3.3V、出力電流は600mA、ドロップアウト電圧は最大250mV程度なので起動時や通信時の消費電流が大きいESP32も駆動できそうです。
コモディティ品で GPU 計算ノードを構築したときの障害の記録メモ(2.5 年目) - Qiita
背景 2019 年コモディティ品で GPU 計算ノードを構築するメモ https://qiita.com/syoyo/items/cffcd64aa09cdb042b5d あたりで GPU 計算ノード(機械学習, レイトレ, マイニング)を構築している 2019 年からだいたい 2.5 年くらい連続稼働させていて(~10 nodes くらい), インシデントも多少たまってきたので記録です. GPU の障害 1~2 週間連続稼働させているとエラーも出やすくなります. Linux(Ubuntu) + GPU エラーメッセージ集 https://qiita.com/syoyo/items/0707daed0295db6a3ffa GPU fallen of the bus がよく出ます: 熱暴走なり, メモリエラーが原因が多い模様. 基本リブートすれば治る. 機械学習などで長期間回すときは GP
Intel Optane Persistent Memory を使ってみた - VA Linux エンジニアブログ
1. はじめに 1.1 この記事について 1.2 使用した環境 2. Intel Optane Persistent Memory (DCPMM) とは 2.1 概要 2.2 各種概念 2.2.1 mode 2.2.2 region 2.2.3 namespace 3. 管理ツール 4. 実機確認 4.1. 状況確認 4.2 memory mode への変更 4.3 app direct mode への変更 4.4 namespace の作成 5. 最後に 執筆者 : 西村 大助 1. はじめに 1.1 この記事について 本稿では、Intel Optane Persistent Memory (以下、「DCPMM」1) を使うにあたり必要な、基本的な概念や Linux 上での使用方法などを説明したいと思います。 私自身、Linux の DCPMM 関連の開発を行っているわけではなく、たまた
RISC-VなGPGPUであるVORTEXは、CUDAでプログラミングできるって！ - Vengineerの妄想(準備期間)
はじめに Vortex という GPGPU をこのブログで紹介したのが、2020年4月24日 vengineer.hatenablog.com その後、情報がアップデートされているようなもの、記録として残しておきます。 VORTEX サイトは、ここ 論文もアップデート : A Scalable Multicore RISC-V GPGPU Accelerator for High-End FPGAs (DAC 2021) Bringing OpenCL to Commodity RISC-V CPUs Fifth Workshop on Computer Architecture Research with RISC-V (2021) Supporting CUDA for an extended RISC-V GPU architecture (プレゼン資料) Fifth Worksho
Edge TPU USB Acceleratorでモデルの再学習を試してみた - 油を売る
Edge TPUを用いて，自作データセットによるClassifierの再学習（転移学習）を試してみた． Edge TPUでは，サーバで分類モデルを再学習する代わりに，ImprintingEngine APIを使用してEdge TPU上で転移学習を実行することができる． Edge TPUのImprintingEngine APIはCVPR2018で提案されたLow-shot learning with imprinted weights [1]を用いて転移学習を実現する． この手法は，再学習の際にbackwardが必要ないため，Edge TPU上で高速に再学習を実行することが出来る． Low-shot learning with imprinted weights Edge TPU APIのインストール $ wget http://storage.googleapis.com/cloud-i
Edge TPU USB Acceleratorの解析 - Operationとモデル構造 - Qiita
この記事について Google Coral Edge TPU USB Acceleratorの動作を解析します。 前回は、データ入出力に注目して解析を行いました。 今回は、Operationやモデル構造がパフォーマンスに与える影響を調べます。 前回の解析結果で、入出力データ量がパフォーマンスに与える影響が大きいことが分かったので、その影響を受けないようなモデルを作って解析を行います。 また、解析用のモデルだけだとつまらないので、最後にはMobileNet, MobileNetV2, Mobilenet SSDのパフォーマンス測定を、いくつかの条件下で実施しました。 お願いと注意 基本的には実際に動かして確認した結果をベースに書いています。 が、考察や推測の部分は完全に僕の考えです。そのため、間違えや誤解を与えてしまうところがあるかもしれません。 その際には、ぜひご指摘いただけると嬉しいです
【節電】消費電力4W！Intel NUC「NUC6CAYH」に自宅サーバをリプレース
自宅サーバーを超小型のIntel NUC「NUC6CAYH」にリプレースしました。 リプレースからしばらく運用していますが、NUC6CAYHは、非常にコンパクトな筐体ながら高性能、低消費電力、無音（超低ノイズ？）、安定稼働でとても気に入ってます。 中でも、24時間365日稼働している自宅サーバーなので低消費電力というのが非常に助かります。電気代は1ヶ月で100円くらいで済みます。 NUC6CAYHの主な特徴は、
Chiselを使って4bit CPUのTD4をFPGAボード上に実装する - Qiita
Chiselとは？ Chiselとは、VHDLやVerilog等と同じく、ディジタル回路設計用のハードウェア記述言語(HDL)の一種です(ただし、ハードウェアの設計をアジャイルに行う事を主目的としているので、シミュレーション等の機能は弱い)。Chiselで書かれたコードはVerilogのコードに変換され、そのVerilogコードを使って、FPGAをプログラムしたり、ASICの製造に用います。 有名な用途としては、オープンソースのCPU ISAのRISC-Vの実装でもっとも有名なものの一つのRocket Chipや、GoogleのEdge TPUがあります(講演の動画はこちら) Chiselの文法について知りたい方は、Chisel入門書「Digital Design with Chisel」1章の勉強記録から始まる記事を参照してください。 TD4とは？ TD4とは、CPUの創りかたにて、設計
【Nintendo Switch】格安マイコンCH552でポケモンの自動化をしてみたい話 - チラ裏雑記帳
この記事は、Pokémon Past Generation Advent Calendar 2022 12月25日の記事です。 ポケモンの自動化と言っていますが、ポケモンの話は殆どしていません...。 adventar.org 概要 先月発売されたポケットモンスタースカーレット/バイオレット(以下SV)において、一部の海外勢によって早速解析が行われたものの、とある理由により乱数調整が基本的にほぼ不可能であることが確認されました。SVの乱数調整についてですが、レイドも含めポケモンの生成処理全てにCSPRNGによる初期化が入っているらしいです そんな感じなのでまあ多分無理ですね— ぼんじり(17) (@_3z8) 2022年11月19日 www.reddit.com まあ正直こうなることはある程度予想できたので、SVでは自動化による作業効率化が流行るのかな～と発売前から考えていました。 PCか
GWなのでRaspberry Pi 5複数台をクラスタリングしてGrafana on Kubernetesを構築する | DevelopersIO
はじめに 世の中ではGrafana Weekということで、Raspberry Pi 5複数台をクラスタリングしてKubernetesを作成し、Grafanaを載せてみたいと思います。 というのは冗談ですが、最近趣味で安価に常駐プロセスをデプロイできるホスティング環境に悩んでいました。常駐しないなら最近はゼロコールドスタートなV8 Isolateを使ったCloudflare WorkersやDeno Deployが無料枠が大きくいい感じです。 一方常駐プロセスはHerokuの無料プランがなくなりました。AWS AppRunnerは起動時間を人間が稼働している時間のみに絞っても10$はかかります。fly.ioは、Legacy hobby planでCPU-1x 256mb VM 3つと3 GB 永続ボリュームストレージは無料で扱えます。fly.ioはCLIもよくできているので、軽い検証の場合こ
Windowsの思い出を振り返る - たくなくの雑記帳
先日噂されていたWindows 11が公式に発表されたので、これを機にこれまでのWindowsライフを振り返ってみます。 Windows 95（自宅、1997～2001） Windows 98 SE（学校、2001～2003） Windows Me（自宅、2001～2006） Windows XP（学校、2004～2006） Windows Vista（自宅、2007～2011） Windows 7（自宅/会社、2012～2015） Windows 10（自宅/会社、2016～） Windows 11（？？） Haswellおじさんの危機 Windowsを振り返って おまけ 各OSと主な利用場所、そして利用期間ごとに振り返ります。 Windows 95（自宅、1997～2001） 僕が初めてPCというかWindowsを触ったのはこの95が最初です。 実家が自営業だったこともあり、帳簿をつけ
Jetson AGX Xavier と Momo で背景ぼかしの映像を配信する
最近、Jetson AGX Xavier 上で Momo を使って、背景ぼかしの映像を配信するのを試してみました。 こんな感じに配信できるようになります。 Momo で背景ぼかしの映像を配信している様子 - YouTube 自分の顔を映すのは嫌だったので、ディスプレイにヒカキンを表示して、それをWebカメラで撮影して配信しています。 元動画はこちらです: 【昔は好きだったけど今は嫌い】でエゴサしたらメンタル崩壊…【ヒカキンTV】【ツイッター】 - YouTube ちゃんと背景がぼかされて配信されているのが分かります。 jtop コマンドで確認した CPU や GPU、メモリ使用量はこんな感じになっています。 ちゃんと GPU も使って計算していることが分かります。 構成 今回の構成はこんな風になっています。 Python の tf-bodypix を使って、実カメラの映像を取り込ん
Jetson Orin NanoでPhi-3をOllamaを使って動かしてみた
やること 前回、Azure AI モデルカタログ上でPhi-3を動かしてみた。 小型の言語モデル（SLM）なので、Jetson Orin Nanoでも動くのか？と疑問になったので検証してみた。 前提 Jetson Orin Nano jetPack 5.1.3 ↓セットアップ手順 Phi-3とは？ Ollamaとは？ ollamaはオープンソースの大規模言語モデル（LLM）などをローカルで実行できるOSSツールです。 jetsonで動かしてみる ターミナルを開く 以下のコマンドを実行し、oolamaをインストールする
【ローカルLLM】大規模言語モデルAIのあまりの遅さについカッとなってノートPCにGPUを追加する
「ChatGPT」が世界を席巻するなか、大規模言語モデル（LLM）について相談を受けるようになりました。企業のAI利用ニーズとしてよくある「独自データにより追加学習させたい」という話しをしていると、手元でも試してみたい衝動にかられ、「ファインチューニング」と呼ばれる追加で学習する手法を手元で動かしてみました。 今回、Pythonなどのプログラムを１行たりとも書いていませんので（笑）、「大規模言語モデル（LLM）に興味はあるけどプログラミングはよくわからない」「ごく普通のパソコンしか持ってない」という人の参考になるかと思い、作業メモを書き残します。 いろいろと迷走しますが、最終的に追加投入した費用は「１０万円」です。 LLMやファインチューニングなどを試したいが、コードは書きたくない諸兄へ LLMというと多くの解説記事は「Google Colab」などのクラウドサービスを利用して、Pytho
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
MicroPython × BLE × テプラ 〜リバースエンジニアリングを添えて〜 /micropython-ble-tepra
ホピーパソコン興亡史を読んだ · なんとなく日記
Raspberry Pi（ラズパイ）のローカル環境でLLMを動かす
