浮動小数点数型と誤差
有限桁 Ｃ言語で扱える実数値は，２進数の有限小数で表された数値である．例えば次のようなものである． 1.5(10) = 1.1(2) 3.25(10) = 11.01(2) 理論的には小数が無限に続く値でも，そのうちの有限個の桁数でその値を表すしかない． 例えば，0.1 を２進数の小数で表すと 0.1(10) = 0.000110011001100110011...(2) と無限に続くが，コンピュータの内部では有限桁で丸められている． このような場合には，本当の値ではなく，近似値でしか表すことができない． 指数表記（浮動小数点表記） 科学計算では非常に大きな実数値や非常に小さな実数値も扱うことがある． そのようなときには，通常の１０進数の表記ではなくて，次のような指数表記で表すれば 無駄な 000...000 という桁を表記しなくてもよくなる． 1234567890000000000000
浮動小数点、その中身とは « demoscene.jp
Tweetこんにちは、Falken/brainstormです。 デモの中では、映像を表示するには色んな数学計算が行われてますね。整数計算は簡単だと思いますが、FPUの小数点はどう計算しているのかと考えたことありませんか？そもそも、floatの中の32ビットはどんな意味を持つのでしょう？ 今日の記事はIEEE 754を判りやすく説明いたします。 floatの構造体 では、floatの32ビットの中の割り当てるビットを見ましょう。 floatのビットは3つの部分に別けられてますね。 sign bitは1ビットであり、符号という意味。このビットが0の場合は正の数、1の場合は負の数です。 exponentは8ビットであり、指数部という意味。簡単で言うと、この8ビット分は、基数2で小数点の位置が決められます。 mantissaは残りの23ビットで仮数部という意味。指数部で決められた幅の中で、この23
小数の表現
コンピュータでの表現 二進でも十進でも循環小数を有限桁で表現しようとすると不正確になるのは同じです。しかし十進の小数を二進で表現すると循環小数になることが多く根本的に問題を抱えていることになります。 固定小数点数 固定小数点で表現する方式。ビット列のどこかに小数点があると決めて計算します。 たとえば、簡単のために４ビットで考えて、右から１桁目と２桁目の間に小数点があるとすれば、 ０１１１ は、11.1のことで、十進にすると3.5となります。 この表記法では（負の数は考えないとして）0から7.5までしか表現できないことからわかるように表現できる範囲が狭くなります。 コンピュータで小数を扱うのは普通次の浮動小数点数です。 浮動小数点数 浮動小数点数は単に小数部を持つ数だけではなく、整数型の表現の限界を越える大きな数を扱う方法としても重要です。 科学技術の分野では数値の次のように表現します。 4
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
