エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
JavaScriptの数値計算はどれくらい正確なのか
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
JavaScriptの数値計算はどれくらい正確なのか
JavaScriptは様々な用途で使われるプログラミング言語で、色々な用途に対応するための一通りの機能が揃... JavaScriptは様々な用途で使われるプログラミング言語で、色々な用途に対応するための一通りの機能が揃っています。その中には、数値計算の機能も含まれています。 数値計算、特に小数の計算においては、計算結果の正確性が度々問題になります。プログラムにおいては、色々な要因で計算結果には誤差が発生します。一例として、浮動小数点数の場合は数を表現するために使えるビット数が有限であることから、計算結果は真の値(数学的な意味での正しい計算結果)と異なる値になることがあります(いわゆる丸め誤差)。例えば、JavaScriptの数値はIEEE 754 倍精度浮動小数点数(いわゆるdouble)ですが、doubleでは1 / 10の結果(0.1)を正確に表すことができず、結果の浮動小数点数は(10進数で書き下すと)0.10000000000000000555111512312578270211815834