半精度浮動小数点の使用によるパフォーマンスの向上 | iSUS
3. パフォーマンスの向上 3.1. 背景 半精度浮動小数点には、32 ビット float と比べて、メモリーアクセスに関する利点があります: サイズが半分なので、低レイテンシーのコアに近いキャッシュに収まります。 使用するキャッシュ領域が半分で済むため、プログラムのほかのデータがキャッシュ領域を利用できます。 必要なメモリー帯域幅も半分なので、プログラムのほかの処理が帯域幅を利用できます。 さらに、半精度浮動小数点は、ディスクに格納する場合も、容量と ディスク I/O が半分で済むというメリットがありますが、欠点は、操作の前に 32 ビット float との変換が必要になることです。ただし、新しい half-float 変換命令は非常に高速なため、状況によっては、浮動小数点値の格納に half-float を使用することで、32 ビット float を使用するよりもパフォーマンスが向上す
Python 次世代の多次元配列パッケージ群 - StatsFragments
このところ、たびたび NumPy 後継が...とか 並列処理が...という話を聞くので、この秋 注目の多次元配列パッケージをまとめたい。 バックエンド系 NumPy のように数値計算処理を自前で実装しているパッケージ。 DyND Blaze プロジェクトのひとつ。C++ 実装 + Python バインディング。GitHub にいくつか Example があがっているが、複合型やカテゴリカル型、GroupBy 操作がサポートされていて熱い。ラベルデータも NumPy より簡単に実装できそうだ。 speakerdeck.com 並列分散系 自身では直接 数値計算処理を行わず、バックエンド ( 主に NumPy )を利用して並列/分散処理を行うパッケージ。1 物理PC/複数コアでの並列計算を主用途とし、NumPy, pandas では少し苦しいが PySpark などを使うほどじゃない...とい
Beyond3D - Origin of Quake3's Fast InvSqrt()
Published on 29th Nov 2006, written by Rys for Software - Last updated: 21st Mar 2007 Introduction Note! This article is a republishing of something I had up on my personal website a year or so ago before I joined Beyond3D, which is itself the culmination of an investigation started in April 2004. So if timeframes appear a little wonky, it's entirely on purpose! One for the geeks, enjoy. To most f
404 Not found
Sorry, but the file you are looking for cannot be found. If you think this message is in error, please contact me.
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://arxiv.org/pdf/1804.10112.pdf
(PDF) Fast high precision summation
The Julia Programming Language
Ã¦ÂŁÂ°Ã¥Â•Â¤Ã¨Â¨Â‹Ã§Â®ÂŠÃ£Â‡Â¬Ã£Â‡Â¤Ã£Â…Â›
目次
tmps.org - このウェブサイトは販売用です！ - Tmps リソースおよび情報
