浮動小数点数に関するoiku1515のブックマーク (1)

  • 浮動小数点数について本気出して考えてみた - 一から勉強させてください( ̄ω ̄;)

    (2016/12/30 追記)コメントでご指摘頂いた箇所に関して修正しました。 この前たまたまこちらの記事を見つけて、浮動小数点数について全然理解してないなって思ったので勉強してみました。 前提 コンピュータの中に保存されているデータはすべて 0 と 1 の集まり(ビット列)で表現されている。そしてどういうビット列をどういう値として解釈するかは特に決まっておらず、使う人が勝手に決めていい。でもそれだと混乱を招くのでルールを作る必要がある。ルールは人間が勝手に決めた約束事に過ぎない。 固定小数点数と浮動小数点数 コンピュータは 0 と 1 しか表現できないから小数点.も表現できない。よって小数点付きの実数を表すときのルールが必要となり、そのルールとして固定小数点数と浮動小数点数がある。 固定小数点数 ビット列のどこに小数点をつけるか、あらかじめピンポイントで決めてしまう。 例えば「下 1 桁

    浮動小数点数について本気出して考えてみた - 一から勉強させてください( ̄ω ̄;)
    oiku1515
    oiku1515 2018/05/10
    すごく分かりやすくて素敵
  • 1