2で割ることと3で割ること - Qiita
この記事でお題にするのはCPUレジスタ上の整数除算です。以下、単に除算とも書きます。 除算は非常に高コストな演算なため、コンパイラは最適化によって、できるだけ整数除算を別の計算に置き換えようとします。 最適化ができる場合の一つとして、割る数が定数である場合があります。頭のいいコンパイラは、除算を乗算とビットシフト等を駆使した演算に置き換えます。この記事では、そういった最適化の背景にある理屈を部分的に解説します。 計算機環境としてはモダンなx86 CPUを仮定します。したがってレジスタは32/64ビットであり、負数は2の補数表現になっています。ある程度は他の命令セットでも通用する話になっているかもしれません。 そもそも整数の除算とは プログラミングにおける整数の除算の定義について確認します。整数$n$を整数$d$で割るとき $$ n = q \times d + r $$ が成り立つように除
COBOLコンソーシアム － COBOL利用技術のご紹介 -第4回- 算術演算の精度
1.COBOLによる計算 過去40年来、COBOLは事務計算向き言語で Fortranは科学技術計算向き言語と言われてきています。これはもちろん、それぞれの言語がサポートする機能がそのような目的に設計されているからです。具体的にもっとも異なる点として、それぞれの言語における計算式・四則演算の機能の相違を一番に挙げることができます。 COBOLによる計算の特徴は、明示的な10進演算です。プログラマはそれぞれのデータ項目に対して、小数点上・下の10進桁数を明示的に定義することができ、これらの間での四則演算およびべき乗の計算を自由に記述できます。これは、COBOLという言語を特徴付ける便利で強力な機能です。 しかし、便利である反面、計算の結果に対するプログラマの責任は大きくなります。 Fortran や Cのように言語として整数型と浮動小数点型しか持たない場合には話が簡単です。整数型は 2の補数
多倍長整数演算の速度比較 - まめめも
ruby 、perl 、python の多倍長整数演算の速度を適当に比較してみました。フィボナッチ数の計算速度比較以上にどーでもいい比較です。 前置き 使用した処理系のバージョンはそれぞれ以下のとおりです。 ruby 1.9.0 (2008-01-16 revision 0) perl v5.10.0 python 3.0a2 perl は多倍長整数を扱う方法が何個かあるようなので、標準装備らしい bigint と、別途 CPAN でインストールしないといけない Math::BitInt::GMP (GMP の binding) の 2 種類を試しました。python の psyco はなんか動かなくて面倒だったので試してません。この比較にはあまり影響しないような気がしてます。僕は Perl と Python は素人なので、もっと速くて美しい書き方・やり方があったら教えてください。 実験
IMS:代数 (Modified:2006-01-03)
2000年にC++多倍長整数クラスを書いてみようと思い立って、多倍長整数の計算について いろいろ調べ始めました。これまでの成果としては高速乗算法の設計法、C++が数値計算 に向いていない理由等がわかってきたことがあります。 高速算法はCあるいはアセンブラで記述して、Cの関数ライブラリとして実装し、C++は わかりやすいユーザーインターフェースを提供するものと考えた方がよさそうです。 しかし、実際に数値実験を行ってみるとC++よりもPythonのようなインタープリタの 方がはるかに使い心地がよく、最近はCの関数ライブラリにPythonのインターフェースを もたせるような方向へ考え方が変わってきています。
General Decimal Arithmetic
Welcome to the General Decimal Arithmetic website, which is now hosted at speleotrove.com. The page and file names here have not been changed from the names used on the previous website, www2.hursley.ibm.com. Most computers today support binary floating-point in hardware. While suitable for many purposes, binary floating-point arithmetic should not be used for financial, commercial, and user-centr
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Papers by Marco Bodrato
Making division in Python faster
Decimal Arithmetic - FAQ 1
