JavaScriptの大きな数と小さな数の仕組みを理解する 〜 IEEE754入門 〜 - 風と宇宙とプログラム

JavaScriptでの数値はIEEE754で規定されている倍精度型doubleです。符号部が１ビット、仮数部が52ビット、指数部が11ビットの64ビットで表現される浮動小数です。この辺りは、計算機の初歩の初歩で、当たり前すぎて普段は気にすることはないと思いますが、その境界値や特殊系について調べるといろいろ面白いことがわかります。ここでは、JavaScriptを例にしていますが、内容は一般的なもので、IEEE754の浮動小数入門的な話です。 では問題です。 整数として正確に表現できる最大の値はいくつか？ 正確に表現できるというのは、n + 1 が確かに n + 1になることとします。n が非常に大きいときには、n + 1 は桁落ちが発生するので n のままです。考える前に実際にやってみましょう。探す n は 0 から 1e+100 の間にあるのは明らかなので、２分法で探索してみます。 fu

[d_animal141]

JavaScriptの大きな数と小さな数の仕組みを理解する

[efcl]

IEEE754 倍精度型double.JavaScriptで正しく扱える数値の調べ方。 IEEE754の数値のビット配列

[holypp]

JavaScriptの大きな数と小さな数の仕組みを理解する

[syuu256]

IEEE754

[exp777]

教科書みたいだ

[hoshikuzu]

変数を含む数値に論理演算子をほどこしたときに32ビット整数型として扱われるあたりがわからない

[yssk22]

併せて読みたい http://developer.yahoo.com/yui/theater/video.php?v=crockford-yuiconf2009-state

[nacookan]

おもしろい

[seuzo]

「JavaScriptでの数値はIEEE754で規定されている倍精度型doubleです。」