並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 780件

新着順 人気順

メモリの検索結果1 - 40 件 / 780件

  • PC-8801mkIISRで「漢字BASIC」を制作、大学の研究室ではApple IIを使用… 杜甫々氏が「とほほのWWW入門」を開設するまで

    「とほほのWWW入門」管理人の杜甫々氏が、これまでの経歴と、「とほほのWWW入門」執筆時に気をつけていること、自身の趣味について話しました。全2回。 「とほほのWWW入門」管理人 杜甫々氏 杜甫々氏(以下、杜甫々):どうも杜甫々です。「とほほのWWW入門」というやつを作っています。こういうところに出ることはあまりなくて、2022年の岡山のオープンセミナーも録画でやっていたので、こんなにたくさんの人の前でしゃべるのは初めてだったりします。 まずちょっと、おじさんの紹介をやっていきます。「とほほのWWW入門」の管理人です。1996年から始めたので、もう27年目に突入ですね。ハンドルネームは杜甫々です。途中で漢字を当てはめてみました。本名は違いますけどね。 広島生まれの広島在住です。もちろんカープファンです。2023年の観戦成績は6勝1敗で、けっこう良かったんじゃないかなと思っています。 次にイ

      PC-8801mkIISRで「漢字BASIC」を制作、大学の研究室ではApple IIを使用… 杜甫々氏が「とほほのWWW入門」を開設するまで
    • スレッドとプロセスの違いを完全に理解する

      はじめに こんにちは、FarStep です。 プログラミングを学ぶ中で、「プロセス」と「スレッド」という言葉を耳にしたことがある方は多いと思います。 しかし、これらの違いを明確に説明できる自信がない方も多いのではないでしょうか。 本記事では、プロセスとスレッドの違いについて、エッセンスを抽出して 解説します。 説明を簡潔にしましたので、本記事は 5 分程度で読み終えることができます。 本記事の内容を自分の言葉で説明できるようになれば、プロセスとスレッドの違いの理解は十分でしょう。 それでは、始めます 🚀 プログラムとは プロセスとスレッドの違いを理解する前に、まずは「プログラム」について理解しましょう。 プログラムとは、プログラミング言語で書かれた一連の命令 のことです。 プログラミング言語の例としては、以下のようなものがあります。 C 言語 Java Python Ruby JavaS

        スレッドとプロセスの違いを完全に理解する
      • 「ゼロからGPU開発」に経験なし&わずか2週間で成功した猛者が登場

        コードなしでWeb3コンテンツなどを開発することができるプラットフォーム・thirdwebの創設者であるadammaj氏が、「経験なしで2週間でゼロからGPUを構築した」と報告しています。 I've spent the past ~2 weeks building a GPU from scratch with no prior experience. It was way harder than I expected. Progress tracker in thread (coolest stuff at the end)👇 pic.twitter.com/VDJHnaIheb— adammaj (@MajmudarAdam) ◆ステップ1:GPUアーキテクチャの基礎を学ぶ adammaj氏はまず、最新のGPUがアーキテクチャレベルでどのように機能しているのかを理解しようとしたそうで

          「ゼロからGPU開発」に経験なし&わずか2週間で成功した猛者が登場
        • 今更聞けないDBMSのメモリ管理について

          DBMSのメモリ管理について データベース管理システム(DBMS)の設計では、大量のデータと複雑なクエリを処理するために、ハードウェアの特性を最大限引き出すことが求められます。 この記事では、DBMSがどのようにメモリを使ってデータアクセスの速度を向上させ、同時にデータの安全性を確保しているのかを解説します。 DBMSと記憶装置の関係について DBMSが使う記憶装置は次の2つです。 HDD HDDは磁気ディスクを使用してデータを記録・読み取りする記憶装置です。その主な特徴は大容量であり、コスト効率が良いことです。DBMSでは、データの永続的な保存にHDDが用いられます。これにより、システムがシャットダウンされた後もデータが保持され、必要に応じて再びアクセス可能となります。 しかし、HDDのデータアクセス速度はメモリに比べて遅いため、リアルタイム処理や高速なトランザクションが求められるアプリ

            今更聞けないDBMSのメモリ管理について
          • 地球から240億キロ、ボイジャー1号システム復旧に成功 5カ月ぶりに解読可能データ受信

            (CNN) 地球から最も遠い宇宙空間を飛行する米航空宇宙局(NASA)の探査機「ボイジャー1号」から、5カ月ぶりに解読可能なデータが地球に届いた。NASAのチームが試行錯誤を繰り返し、通信問題を引き起こした原因が1個のチップにあることを突き止めて、解決策を編み出した結果だった。 ボイジャー1号は現在、地球から240億キロメートル離れた宇宙空間を飛行中。打ち上げから46年を経て、さまざまな不具合や老朽化の兆候が見えている。 今回の問題は2023年11月に発生。飛行データシステムの遠隔測定モジュールから送られてくるデータが解読不可能になった。 ボイジャー1号の飛行データシステムは、現在の健康状態を表す工学データを科学計器の情報と組み合わせて収集している。地球上の管制室はそのデータを、0と1で構成される2進コードで受信する。 ところが11月以来、この飛行データシステムがループ状態に陥り、無線信号

              地球から240億キロ、ボイジャー1号システム復旧に成功 5カ月ぶりに解読可能データ受信
            • PandasからPolarsへ移行した方がいいのか - Qiita

              なぜこの記事を書くのか 皆さん、データ解析を行う際にどのようなライブラリを用いているでしょうか。 おそらく大半の人はpandasを使っているのではないでしょうか。 私もpandas使ってます。簡単だよね(´・ω・`) しかし、業務でバカクソでけえデータを読み込もうとしたときに、読み込み時間がとんでもなくかかったり、メモリ不足でそもそも読み込めもしないことが起きていました。 読み込みにメモリ食われすぎて他の作業ができずに待機した挙句、燃え尽きたかのようにノーパソのファンが止まると同時にメモリ不足のエラーが出たときには切れ散らかします。 (画像元:葬送のフリーレン公式Xアカウントのポストより) そんなこともあり、AWSなどのクラウドサービスでメモリに余裕を持たせるためにめちゃくちゃ良いインスタンスを使用していましたが、コストの問題で断念しました。 しかし、どうしても読み込みたいということもあり

                PandasからPolarsへ移行した方がいいのか - Qiita
              • 本気か?Apple幹部が「Macのメモリは8GBでOK」と主張。 - すまほん!!

                海外サイト「IT之家」は4月12日(現地時間)、Appleのエンジニアリング担当副社長Kate Bergeron氏とMac製品マーケティングチームのEvan Buyze氏の独占インタビューを公開しました。そのなかでEvan Buyze氏は、Macの実行メモリ容量について興味深い発言をしています。 Macでは2015年以降、全モデルが最低でも8GBの実行メモリを搭載してきました。2020年以降に登場したApple Silicon搭載モデルでは、CPU、GPU、実行メモリを1つのチップに収めたユニファイドメモリとすることで、各チップが分離していた従来モデル(Intel Mac)と比べ、全体的な処理能力も向上しています。 一方、複数のチップをまとめた結果、購入後に実行メモリの容量を増やすという、Intel MacのハイエンドモデルやWindowsマシンではお馴染みのテクニックは使えなくなりました

                  本気か?Apple幹部が「Macのメモリは8GBでOK」と主張。 - すまほん!!
                • CPUの命令セットアーキテクチャ「x86」は近い未来に滅ぶだろうという主張

                  PC向けCPUの主流な命令セットアーキテクチャであるx86は、Intel 8086プロセッサに起源を持ち、46年の長きにわたって使われてきました。そんなx86は近い未来に滅んでしまうだろうと、技術系ブログのHackadayが主張しています。 Why X86 Needs To Die | Hackaday https://hackaday.com/2024/03/21/why-x86-needs-to-die/ x86を採用する現代のCPUは、複雑な命令セットコンピューターであるCISC、1クロックサイクルあたり複数の命令を実行可能な「スーパースカラー」、命令を高速化するため順序を変更して実行する「アウト・オブ・オーダー実行」、分岐先の命令を条件が満たされるか不明な状態で実行する「投機的実行」を特徴とする、フォン・ノイマン型アーキテクチャの一部分です。x86はもともとは16bitプロセッサで

                    CPUの命令セットアーキテクチャ「x86」は近い未来に滅ぶだろうという主張
                  • スタディサプリ最大のRailsアプリケーションにYJIT+pitchforkを導入してメモリ使用量を劇的に削減するまで - スタディサプリ Product Team Blog

                    こんにちは。SREのkyontanです。Rubyが大好きなのでRubyの話をします。ちなみにリクルートはRubyKaigi 2024へGold Sponsorとして協賛しています! *1。ぜひ沖縄でお会いしましょう。 これはあるアプリケーションのメモリ消費量を示すグラフなのですが、まさかgemを入れ替えるだけでこんなに嬉しい変化が見られるとは思っていませんでした。今日はそんなgemの話をします。 話は遡って2023年4月のある日、インターネットを眺めていたところ、ShopifyがpitchforkというOSSを公開したという情報が目に留まりました。 調べてみると、どうやら著名なRackサーバー実装の1つであるunicornの派生版であり、メモリ使用量の削減に特化しているらしいのです。 github.com これはスタディサプリ小中高のあのリソースドカ食いマイクロサービス第一位である api

                      スタディサプリ最大のRailsアプリケーションにYJIT+pitchforkを導入してメモリ使用量を劇的に削減するまで - スタディサプリ Product Team Blog
                    • マリオ64、RTAの過程で宇宙線を使ったバグが発見される「まず太陽フレアを活性化させます」

                      ぎーち(ブレイク兄) @BREAK_BROTHER SEEの各症状の影響について調べてたんだけど、過去に読んで面白いなと思えた記事を久々に見た。 スーパーマリオ64のRTAプレイ中にマリオが急にワープしたってバグ技が8年の歳月を経て、人工衛星でも問題になる宇宙放射線によるSEU(Single Event Upset)が原因だったって話。 switchsoku.com/soft/mario_ody… 2024-03-27 20:19:54 リンク GIGAZINE スーパーマリオ64のRTAと宇宙線の奇妙な関係 ゲームをプレイしている時に急にバグが発生してプレイが続行できなくなるケースがありますが、これの原因はソフトウェア由来であったりハードウェア由来であったりとさまざまです。しかし、ソフトウェアとハードウェアの問題を修正した場合であってもバグが起こり続けるケースがあるもの。そんな場合のバグ

                        マリオ64、RTAの過程で宇宙線を使ったバグが発見される「まず太陽フレアを活性化させます」
                      • NEXCO西日本がUSBメモリ紛失 データは暗号化済……ただしパスワードは本体に貼り付け

                        西日本高速道路(NEXCO西日本)は3月15日、個人情報191人分を保存していた可能性があるUSBメモリを紛失したと発表した。データは暗号化していたものの、メモリ本体にパスワードを貼り付けていたという。 保存していた可能性のある情報は、191人分の氏名、住所など。いずれも、道路を損傷させた人に復旧費用の負担を求める「原因者負担金」に関する情報という。 紛失は2月13日に判明。社員が気づき、捜索したが見つからなかったという。個人情報保護委員会への報告は3月11日に済ませた。情報を保存していた可能性がある人には個別に連絡するという。 関連記事 元日限定「JR西日本乗り放題きっぷ」発売 新幹線も利用可能 2017年の元日限定で、JR西日本と智頭急行の全線が乗り放題になる「元日・JR西日本乗り放題きっぷ2017」が登場。 USBメモリ、メモ、ノートPC……紛失事案が目立った10月セキュリティまとめ

                          NEXCO西日本がUSBメモリ紛失 データは暗号化済……ただしパスワードは本体に貼り付け
                        • 【翻訳転載】時空の旅:Attentionは二乗時間RNN - Qiita

                          この記事は中国のNLP研究者Jianlin Su氏が運営するブログ「科学空間」で掲載された解説記事の日本語訳です。 原文の掲載日は2024/3/18です。 苏剑林. (Mar. 18, 2024). 《时空之章:将Attention视为平方复杂度的RNN 》[Blog post]. Retrieved from https://kexue.fm/archives/10017 近年、線形時間の学習・推論計算量を持つRNNが、少なからずの研究者やユーザーから改めて注目され始めており、どこか「文芸復興」の様相を呈している。その代表作にRWKV、RetNet、Mambaなどが挙げられる。RNNを言語モデルとして使う際の最大の特徴は一回の生成が費やす空間・時間計算量が定数であることだ。系列全体でみると、定数の空間計算量と線形な時間計算量を持つことになる。もちろん、どんな物事にも両面性がある。Atte

                            【翻訳転載】時空の旅:Attentionは二乗時間RNN - Qiita
                          • GaLore - 家庭用ハードウェアでの大規模モデルの学習|npaka

                            以下の記事が面白かったので、簡単にまとめました。 ・GaLore: Advancing Large Model Training on Consumer-grade Hardware 1. GaLore「GaLore」は、「NVIDIA RTX 4090」などの家庭用GPU上で、Llamaなどの最大7Bパラメータを持つモデルの学習を容易にします。これは、学習プロセス中のオプティマイザの状態と勾配に従来関連付けられていたメモリ要件を大幅に削減することによって実現されます。 2. オプティマイザ状態でのメモリ効率オプティマイザ状態は、特にAdamのような適応最適化アルゴリズムでは、モデルの学習中のメモリフットプリントの重要な部分を占めます。「GaLore」は、オプティマイザによって処理される前に、勾配を低次元の部分空間に投影することでこの問題に対処します。これにより、これらの状態を保存するため

                              GaLore - 家庭用ハードウェアでの大規模モデルの学習|npaka
                            • スマホアプリは開きっぱなしでもなぜ大丈夫か、Androidのメモリー管理

                              Androidスマホでアプリを切り替えるとき、古いアプリを閉じたほうがいいかというと、実はパソコンとは事情が異なる。そもそもほとんどのスマホのストレージには仮想メモリーが存在しない。その代わりにAndoroidでは2つのやり方で、きめ細かくメモリーを管理している。「zRAM」とアプリの自動終了だ。 スマホのメモリーにはzRAMと呼ばれる特殊な領域がある。これはメモリー内に用意した圧縮フォルダーのようなものだ(図1)。当面必要としないデータはここに入れて圧縮し、必要なときに取り出す。 図1 Androidのスマホには「zRAM」という領域があり、必要に応じてデータを移動して圧縮する。しかし、パソコンのような仮想メモリーはない(一部の機種を除く)

                                スマホアプリは開きっぱなしでもなぜ大丈夫か、Androidのメモリー管理
                              • 「これはNES?」「いえ、ゲーミングPCです」 片手で持てるミニデスクトップPC「AYANEO Retro Mini PC AM02」を開封した

                                「これはNES?」「いえ、ゲーミングPCです」 片手で持てるミニデスクトップPC「AYANEO Retro Mini PC AM02」を開封した(1/4 ページ) AYANEOが元気だ。海外のクラウドファンディングサイト「Indiegogo」にて、ミニデスクトップPC第二弾となる「AYANEO Retro Mini PC AM02」(以降、AM02)を1月18日にスタートし、支援者への発送が2月から始まっている。 日本でも、リンクスインターナショナルが「AYANEO Retro Mini PC AM01」に続き、今後取り扱いを開始する予定だ。 編集部でも「試してみようじゃないか。Retro Mini PC02の性能とやらを」ということで実機を取り寄せたので、まずは開封の模様をお伝えしたい。 ミニPCのはずなのにデカい外箱 このAM02は、2023年11月10日(香港時間)にAYANEOが発

                                  「これはNES?」「いえ、ゲーミングPCです」 片手で持てるミニデスクトップPC「AYANEO Retro Mini PC AM02」を開封した
                                • Rails 7.1 + Ruby 3.3 で YJIT を有効化してパフォーマンス改善を行った結果

                                  この記事の概要 こんにちは。PharmaX でエンジニアをしている諸岡(@hakoten)です。 この記事では、薬局DX事業部のバックエンドで採用しているRuby on Railsのアプリケーションについて、Rubyバージョンを3.3にアップグレードし、YJITを有効化した結果、どのようにパフォーマンスが向上したかをご紹介します。 現在のRuby on Railsのバージョンは、「7.1.3」になります。 YJITについての簡単な説明 YJITとは、CRuby内部に組み込まれた軽量のJIT機能で、遅延コード生成を行い、必要なメソッドを部分的にコンパイルすることで高速化を図る仕組みです。 (処理系は詳しくないため、ざっくりになってしまいすみません。。) Ruby 3系列の主要な機能の一つであり、3.1で導入され、3.2で正式にサポートされ、3.3においてさらに安定化が行われています。 詳しい

                                    Rails 7.1 + Ruby 3.3 で YJIT を有効化してパフォーマンス改善を行った結果
                                  • 100秒で理解する仮想DOM

                                    そもそもDOMとは? 仮想DOMについて知るためには、まずDOMについて知っておく必要があります。 以下の動画で、DOMについて100秒で解説しているので、そもそもDOMをよく知らないなぁという人はぜひ確認してみてください! 仮想DOMとは? では、本題です。 仮想DOMとは、UIの "仮想" 的な表現をメモリー上に保持して、実際のDOMと同期させるというプログラミング上の概念のことです。 仮想 DOM (virtual DOM; VDOM) は、インメモリに保持された想像上のまたは「仮想の」UI 表現が、ReactDOM のようなライブラリによって「実際の」DOM と同期されるというプログラミング上の概念です reactjs ...と言っても、これだけだとちょっと難しいですよね。 なので、仮想DOMについて解説する前に、まずはDOM操作とレンダリングの関係について先に解説します。 DOM

                                      100秒で理解する仮想DOM
                                    • 「ソフトウェアはメモリ安全でなければならない」との声明を発表、米ホワイトハウス

                                      米ホワイトハウス国家サイバー局長室(The White House Office of the National Cyber Director:ONCD)は、2024年2月26日(米国時間)、サイバー空間における攻撃対象領域(アタックサーフェス)を積極的に削減するよう技術コミュニティーに呼びかける報告書を発表した。 ONCDは、IT企業がメモリ安全なプログラミング言語を採用することで、あらゆる種類の脆弱(ぜいじゃく)性がデジタルエコシステムに侵入するのを防ぐことができると述べている。ONCDはまた、サイバーセキュリティの品質を測定するより優れた診断の開発を可能にするために、ソフトウェアの測定可能性の問題に取り組むことを奨励している。 関連記事 Google、「メモリ安全性」に関する見解と対策をまとめたホワイトペーパーを公開 Googleは、「セキュアバイデザイン:メモリ安全性に関するGoo

                                        「ソフトウェアはメモリ安全でなければならない」との声明を発表、米ホワイトハウス
                                      • SSD対HDD PC制覇のSSDはデータセンターでは門前払い - 日本経済新聞

                                        フラッシュメモリーをベースにしたソリッド・ステート・ドライブ(SSD)とハードディスクドライブ(HDD)というストレージデバイスの新旧対決は、SSDがHDDを「土俵際」まで追い詰めている状況にある。SSDはここ5年でドライブ1台当たりの平均容量を約1.6倍高め、1ギガバイト(GB)当たりのコストを約46%下げて競争力を増している。パソコン(PC)、サーバー(エンタープライズ)向けストレージ市場

                                          SSD対HDD PC制覇のSSDはデータセンターでは門前払い - 日本経済新聞
                                        • NTT、各社ごとに重要情報漏えい対策を推進 「USBメモリの使用禁止」も

                                          NTTグループは2024年3月8日、NTT西日本子会社のNTTマーケティングアクトProCXで個人情報が流出した問題を受け、再発防止を徹底する考えを示した。 不正に持ち出されたのは、NTTマーケティングアクトProCXにテレマーケティング業務を委託していた一部クライアントの情報だったが、後にNTTドコモのユーザー情報が含まれていることが発覚した。 →ドコモユーザーの個人情報流出 NTT西日本子会社の元派遣社員が不正持ち出し →NTT西日本子会社で約900万件の個人情報流出 元派遣社員が不正持ち出し NTTが2023年11月7日に開催した記者向けの決算説明会では、島田明社長が「業務においてUSBメモリの使用を原則禁止していたが、一切禁止にしていく必要がある。例外的に使わざるを得ない場合は許可を取るようにしていく」ことを明らかにした。 NTTグループCISO(Chief Information

                                            NTT、各社ごとに重要情報漏えい対策を推進 「USBメモリの使用禁止」も
                                          • AWSが教えてくれないコスト削減の小話いろいろ | 外道父の匠

                                            米ドル/円 が150円と計算しやすくなり、コスト削減の圧力が日々強まる中、皆様お宝探しと垂れ流し回収の真っ最中でございましょうか。 最近はコスト削減や予算について見ることが多いので、その中で出てきた面白げな話に雑談を加えてとりとめなく書いてみようと思います。 削減余地はある 昨年にご好評いただいた AWSコスト削減とリソース管理 | 外道父の匠 を含め色々な削減施策を試みてきましたが、サクッと成果になる箇所から泥沼に動かない所まで様々あったりします。 ただ、どんなアカウントでもトラフィックや処理負荷には波があり、それに対する余剰リソースを確保して構成しているので、その辺をキュッと絞ることまで含めればやれることは必ず一定以上存在することになります。 そういう大きなお宝ではない小さなお宝だと様々あり、古びたとか退職者が作ったとかで、ほぼ使っていない垂れ流しリソースやデータをかき集めれば、チリツ

                                              AWSが教えてくれないコスト削減の小話いろいろ | 外道父の匠
                                            • 今、64GBのiPhoneを選んではいけない理由 - はやぽんログ!

                                              新年度が近づき、これから初めてのスマートフォンを購入する方も多い時期に突入する。その中でも「iPhone SEの64GB」だけはむやみに選んではいけないと意見する。どんなに安くてもこれだけは選んではいけないのだ。 64GBのiPhone。今ではあっという間に容量不足に陥る 無難に選ぶiPhoneだからこそ。容量選びは慎重に 64GBのiPhone。今ではあっという間に容量不足に陥る まず、令和のこの時代に64GBのiPhoneは拷問以外の何物でもない。ちょっとでもリッチなコンテンツが楽しむものなら、あっという間に容量不足に陥る。一般的な使用方法でも、長期的な利用は難しい容量だ。 よく知られていることだが、64GBのiPhoneでも64GB丸々利用できるわけではない。OSなどのスマートフォンを動作させるソフトウェアなどの容量がここから差し引かれ、概ね55GB前後が実際に利用できる容量だ。ここ

                                                今、64GBのiPhoneを選んではいけない理由 - はやぽんログ!
                                              • 自作PC2024

                                                新しいPCを組んだ。 自作PCを組むのはこれで二台目。一台目については以下の記事で紹介している。 自作PC2021 前回の組み立て時に基本的な部分を学べたので、今回は一度やってみたかった本格水冷に挑戦してみることにした。 組み立て後 組み立て前 この記事では、利用した各部品を紹介していく。前半では水冷にあまり関係無い部分、後半では水冷に関係する部分に触れる。自作PC2027を書くことになる頃合いで読み返したい。 ケース Lian LiのO11 EVO RGBを利用した。 Amazon | LIANLI E-ATX対応ミドルタワーPCケース O11D EVO RGB Black リバーシブルデザイン E-ATX(幅280mm以下) / ATX/Micro ATX/Mini-ITX規格対応 RGBストリップ標準搭載 420mmラジエーター搭載可能 日本正規代理店品 | リアンリー(Li LIA

                                                • エルピーダ戦記 異色の経営者坂本幸雄氏と、ある半導体メーカーの盛衰|おじさん 半導体

                                                  新しく始まる物語、終わりを告げる物語 2月24日、熊本は熱狂に包まれていた。日本政府の支援を受け、TSMCがソニーやデンソーといったクライアントとともに建設を進めている半導体工場JASM、"Japan Advanced Semiconductor Manufacturing" の開所式が行われたのだった。大勢の報道関係者が見守る中、岸田総理大臣からお祝いのビデオメッセージが寄せられ、台湾からはTSMC創業者にして半導体業界の生きた伝説モリス•チャンが足を運ぶ。日本の半導体産業復活の鐘が、熊本から鳴り響こうとしている。 熊本で熱狂的なイベントが行われる少し前の2月14日。1人の男がひっそりと世を去った。彼の名前は坂本幸雄。日本の半導体史上で最も異色の経営者。ある時は日の丸半導体の救世主と崇められ、またある時は売国奴と罵られた。 今日2月27日は彼が全力で経営し、世界一の夢を見た半導体メーカー

                                                    エルピーダ戦記 異色の経営者坂本幸雄氏と、ある半導体メーカーの盛衰|おじさん 半導体
                                                  • 論文要約:The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits - やまもとの論文まとめサイト

                                                    The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits Shuming Ma∗ Hongyu Wang∗ Lingxiao Ma Lei Wang Wenhui Wang Shaohan Huang Li Dong Ruiping Wang Jilong Xue Furu Wei⋄ arxiv.org このページの図面・表の権利は全て論文の著者らに帰属があります。 The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits この論文を一行でいうと Abstract The Era of 1-bit LLMs BitNet b1.58 LLaMA-alike Components. Result Memory and Latency Energy

                                                      論文要約:The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits - やまもとの論文まとめサイト
                                                    • 米ホワイトハウス「将来のソフトウェアはメモリ安全になるべき」と声明発表。ソフトウェアコミュニティに呼びかけ

                                                      米ホワイトハウス「将来のソフトウェアはメモリ安全になるべき」と声明発表。ソフトウェアコミュニティに呼びかけ 米ホワイトハウスの国家サイバー局長室(The White House Office of the National Cyber Director:ONCD)は、サイバー空間における攻撃対象領域を積極的に削減する目的で、テクノロジーコミュニティやソフトウェアコミュニティに対してメモリ安全(Memory Safe)なソフトウェアの実現を積極的に呼びかけるプレスリリース「Future Software Should Be Memory Safe」(将来のソフトウェアはメモリ安全になるべき)を発表しました。 プレスリリースの中で、国家サイバー局長Harry Coker氏は「私たちは国家として、サイバースペースにおける攻撃対象領域を減らし、あらゆる種類のセキュリティバグがデジタルエコシステムに

                                                        米ホワイトハウス「将来のソフトウェアはメモリ安全になるべき」と声明発表。ソフトウェアコミュニティに呼びかけ
                                                      • 画像生成AI、安いPCでも高速に 衝撃の「Stable Diffusion WebUI Forge」 (1/4)

                                                        Stable Diffusion Forgeを表示した様子。基本的な操作は既存のStable Diffusion WebUI AUTOMATIC1111とほぼ同じ 画像生成AI「Stable Diffusion」用の新しいユーザーインターフェース「Forge」が2月6日に登場しました。開発したのは、これまで「Controlnet」や「Fooocus」などStable Diffusion関連の様々な重要技術を開発してきたillyasviel(イリヤスベル)さん。何よりインパクトが大きいのは、グラフィックボードのVRAM容量が小さい安価なPCでも最新版のStable Diffusion XL(SDXL)が動かせることです。 RTX 40シリーズが求められたSDXL SDXLは、2023年8月にStablity AIが発表した画像生成AI。高画質な出力ができる一方、コミュニティーサイトで話題にな

                                                          画像生成AI、安いPCでも高速に 衝撃の「Stable Diffusion WebUI Forge」 (1/4)
                                                        • ARMアーキテクチャがメモリアクセスを省略することで意図したベンチマークになっていなかった話

                                                          概要 あるサンプルコードのベンチマークを測定したところ、期待していたよりも18倍速い結果が出力されました。バイナリを調査してみると、メモリ読み出しの命令が1つ増えるだけでこの性能差が生じていました。さらに調査を進めると、ARMアーキテクチャは連続したメモリへの書き込みを1つにマージし、実行を省略する可能性があることがわかりました。そのため、一般的なベンチマークのように複数回の測定結果を平均化するやり方では、正しい速度を測定できていませんでした。 「パフォーマンスを解釈するのにアーキテクチャの理解が不可欠だった事例」として面白かったのでこの記事を書いてみました。Go言語で説明しますが、言語に依存しない話だと思います。 得られた教訓 バイナリを見ても説明できない性能差は、アーキテクチャの理解によって説明できることがある マイクロベンチマークは、何を計測しているのかを理解した上で実施する必要があ

                                                            ARMアーキテクチャがメモリアクセスを省略することで意図したベンチマークになっていなかった話
                                                          • Re: WebサーバーアーキテクチャとPHP実行方式の理解から始めるphp-fpmとはなにか?

                                                            この記事のモチベーション 「php-fpmとはなにか?」を知るため、PHPのドキュメントを見ました。 しかし、ここに書いていることはまあそうなのですがあまりに焦点が絞られ過ぎてて「php-fpmとはなにか?」に対する答えとしては少し不十分な気がしていました。 例えるなら数学の問題に答えるにあたって、途中式を飛ばしたり証明の過程を飛ばしたりというような感じ。 不十分というのは、それを理解するための段階をすっ飛ばして答えだけが書かれている状態のことを指しています。 その不十分なところを自分も曖昧にしか理解できていない気がしており、いい機会なので整理しておこうというのがこの記事のモチベーションです。 そのためこの記事は、「php-fpmとはなにか?」をプロセス→Webサーバー→実行方式と順を追って説明していく構成になっています。 「細けぇこたぁいいんだ、おらぁ今すぐ答えだけ知りてぇンダ」という方

                                                              Re: WebサーバーアーキテクチャとPHP実行方式の理解から始めるphp-fpmとはなにか?
                                                            • 第801回 続・USBメモリ型SSD選手権!長時間の書き込みにも強いデバイスはどれだ | gihyo.jp

                                                              第三種目 限界突破8GB走(書き込み部門) 第一種目の8GB走(シーケンシャル書き込み部門)では、NVMe SSDとUSBメモリ型SSDの間であまり差がつかず、360MB/sあたりに限界があるように見受けられました(図2、図3⁠)⁠。 図2 USBメモリ型SSDは、従来型USBメモリ(茶色の線)に比べて8GBの書き込みに必要な時間(横軸)が格段に短かかった 図3 しかし、NVMe SSDとUSBメモリ型SSDの間では最高速度(縦軸)の面であまり差はつかず、360MB/s付近に天井があるように見受けられた そこで第三種目では限界の突破を試みます。速度の壁はSSD自体の性能に起因するものではなく、テストに使用していたUSBポートが5Gbpsまでにしか対応していないことが原因と考えられます。 特にノートPCにおいては、USB Type-CポートとType-Aポートの両方が搭載されている場合に、T

                                                                第801回 続・USBメモリ型SSD選手権!長時間の書き込みにも強いデバイスはどれだ | gihyo.jp
                                                              • 今からゲーム業界の闇を話します、1970年代「メモリ足りねえ」→2000年代「メモリ足りねえ」→2020年代「メモリ足りねえ」

                                                                たいにゃん @bugnekotinyan 今からゲーム業界の闇を話します 1970年代「メモリ足りねえ」 1980年代「メモリ足りねえ」 1990年代「メモリ足りねえ」 2000年代「メモリ足りねえ」 2010年代「メモリ足りねえ」 2020年代「メモリ足りねえ」 2024-02-12 18:01:08

                                                                  今からゲーム業界の闇を話します、1970年代「メモリ足りねえ」→2000年代「メモリ足りねえ」→2020年代「メモリ足りねえ」
                                                                • DeepLを超えるやさしい翻訳アプリとGPTsを作りました

                                                                  DeepLを超えるやさしい翻訳アプリとGPTsを作りました 苦手な分野の英文を理解するのを助けてくれます。 なぜ翻訳アプリを作ったのか 私は最近ChatGPTのような大規模言語モデルに興味があり、AI開発者の方や、大規模言語モデル関連の情報を発信している方をフォローしていました。 すると最新の論文(英語)や英語のツイートが次々に流れてくるのですが、それらをGoogle翻訳したり、DeepLで翻訳しても、意味不明な場合が多いということに気づきました。 特に海外の方の1行だけのツイートなどは、DeepLで翻訳しても全く意味がわからない場合が多くて困っていました。 AI関連の論文は専門用語が多く、いちいち調べながら読んでいると、1日の大半の時間が情報収集だけで終わってしまいます。 これは要するに「自分の専門分野でない分野の英文を理解するのは大変」ということなので、例えば「Web制作初心者の方が海

                                                                    DeepLを超えるやさしい翻訳アプリとGPTsを作りました
                                                                  • Node.jsのメモリ制限 (2024年版)

                                                                    Node.jsのメモリ制限については以下の記事に記述があります。 しかし、現在の挙動はやや異なるようです。 結論から言うと デフォルトでは、システム (cgroup等) から取得した制限があればそれがそのまま設定、そうでなければ32bit環境では700MiB, 64bit環境では1400MiBの制限が設定されます。 V8のメモリ制限 Node.jsはJavaScriptエンジンとしてV8を利用しています。 V8のGCは世代別GCになっています。ほとんどのオブジェクトは生成されてすぐに不要となるため、メモリ使用量にはそれほど貢献しません。メモリ使用量に貢献するような長命なオブジェクトは、数回のGCを生き抜いた後old generation領域に移されます。したがって、V8のメモリ使用量の制限は実質的にこのold generation領域のサイズ制限によって決まると考えてよいでしょう。 このo

                                                                      Node.jsのメモリ制限 (2024年版)
                                                                    • Ruby のメモリ使用量問題を調査し upstream で解決していただいた話 - ANDPAD Tech Blog

                                                                      はじめに こんにちは。リアーキテクティングチームの髙橋と申します。 この記事では、アンドパッドの施工管理サービスで利用している Ruby をバージョンアップしたときに発生したメモリ使用量の問題の発生から解決までをお話しします。 Ruby のバージョンアップ(3.0 -> 3.2) アンドパッドでは昨年 2023 に、施工管理サービスで利用している Ruby を 3.0 から 3.2 にバージョンアップしました。 バージョンアップ自体は過去に確立済みの手法(詳しくは過去記事をご参照ください)により、粛々と進められリリースされました。 ところがこのリリースから数日後、とある問題が発覚しました。 メモリ増大問題 アプリケーションのリソース使用状況を監視している SRE チームのメンバーから、以下のような連絡がありました。 Ruby バージョンアップのリリース以降、アプリケーションの利用するメモリ

                                                                        Ruby のメモリ使用量問題を調査し upstream で解決していただいた話 - ANDPAD Tech Blog
                                                                      • 令和最新版 PHP メモリ管理術

                                                                        PHP カンファレンス関西 2024 PHP Memory Management in Reiwa

                                                                          令和最新版 PHP メモリ管理術
                                                                        • ワーキングメモリを消費しない料理テクニック

                                                                          ワーキングメモリを消費せずに簡単に料理できるテクニックを書いとくよ。 あえて具体的に書いてるけど慣れてきたらアレンジしたら良いよ。 1.作業時間を減らす ◆休日にスーパーでこれを買う 野菜:ジャガイモ2個、人参1本、タマネギ2個、しめじ1袋、 肉:鶏もも(約8個 約250g)、豚バラ薄切り(約9枚 約270gくらい) ジップロック的なのMサイズ10枚くらい入ってるの ◆冷凍素材を作って冷凍保存 野菜はカットして、下記の分をジップロックに入れて冷凍庫。4袋できる。 ・じゃがいも1/2 ・人参1/4 ・玉ねぎ1/2 ・しめじ1/4 鶏もも 2個ずつでサランラップに包んで冷凍 4個できる 豚バラ 3枚ずつでサランラップに包んで冷凍 3個できる これで4回分のスープ具材セットの完成。 カレー、シチュー、豚汁、ポトフ、クラムチャウダーあたりはこれでできる。 鍋キューブ使えば、鍋ができる。 肉は料理に

                                                                            ワーキングメモリを消費しない料理テクニック
                                                                          • 低品質なNANDフラッシュメモリが出回りUSBメモリとmicroSDカードの品質が下がっているという報告

                                                                            ドイツのデータ復旧会社であるCBLが、microSDカードやUSBメモリの品質が低下しているという調査結果を発表しました。その原因はメーカーが品質管理の段階で廃棄したNANDフラッシュメモリが横流しされ、流用されているケースが増えているからだとのことです。 Unzuverlässige Flash-Speicher - CBL Datenrettung https://www.cbltech.de/pressezentrum/unzuverlaessige-flash-speicher Report reveals decline in quality of USB sticks and microSD Cards | TechSpot https://www.techspot.com/news/101774-report-reveals-decline-quality-usb-stick

                                                                              低品質なNANDフラッシュメモリが出回りUSBメモリとmicroSDカードの品質が下がっているという報告
                                                                            • その13 キャッシュメモリの効果

                                                                              キャッシュメモリがメモリアクセスにおいてどれだけの効果を持つか、実験によって確かめます。 00:00 前置き 00:37 キャッシュメモリとは 04:20 実験方法 07:07 結果 09:08 まとめ テキスト https://speakerdeck.com/sat/kiyatusiyumemorifalsexiao-guo

                                                                                その13 キャッシュメモリの効果
                                                                              • NVMeに新機能。ストレージがデータ処理を行う「コンピュテーショナルストレージ」、NVM Expressが発表

                                                                                NVMe関連規格の標準化団体であるNVM Expressは、ストレージ内でデータ処理を行うための業界標準「コンピュテーショナルストレージ」(Computational Storage)機能を発表しました。 「コンピュテーショナルストレージ」はデータ処理を行えるストレージ コンピュテーショナルストレージとは、その名前が示す通り計算機能を備えたストレージのことです。 基本的にストレージに格納されたデータは、ストレージから取り出されてメインメモリに読み込まれ、それをCPUが処理します。しかし大量のデータを処理する場合、大量のデータをストレージからメモリへと移動させなければなりません。 そこで、ストレージが備えているFPGAやプロセッサを用いてストレージ内でデータ処理が行えるようになれば、データをストレージから移動しなくて済むために高速な処理が期待できます。 そうしたインテリジェントなストレージや

                                                                                  NVMeに新機能。ストレージがデータ処理を行う「コンピュテーショナルストレージ」、NVM Expressが発表
                                                                                • プログラマーですがなぜキャッシュメモリは早いのかといった物理的なことがネットで調べてもしっかり理解できません。どのような順番で何を勉強していけばハードウェアからソフトウェアまで体系的に理解できますか?

                                                                                  回答 (19件中の1件目) 非常に単純化して説明しますね。 キャッシュメモリにはSRAMというタイプのメモリが使われます。SRAMは原理的には単純なデジタル回路でして、高速に動作しますが、容量を大きくするには向いていませんし、仮に大容量のものを作ると高価になります。 メインのメモリにはDRAMというタイプのメモリが使われます。DRAMは静電気を充放電することで記憶していますが、この充放電のプロセスに時間がかかるため低速ですが、大容量のものを安く作ることができます。 つまり、電子回路として考えると、キャッシュメモリに使われるSRAMが高速というよりは、メインメモリに使われるDRAMが...

                                                                                    プログラマーですがなぜキャッシュメモリは早いのかといった物理的なことがネットで調べてもしっかり理解できません。どのような順番で何を勉強していけばハードウェアからソフトウェアまで体系的に理解できますか?