IEEE 754 浮動小数点入門 - ushiostarfish’s diary

レイトレ合宿7 アドベントカレンダー 7週目の記事です。 IEEE 754 浮動小数点 IEEE 754 浮動小数点は、本当は完全に扱えるはずもない実数をコンピューター上であたかもそれが実数を扱えるかのような錯覚を感じさせるのに成功している浮動小数点の標準規格です。過去にはたくさんの表現方法があったようですし、新しい表現方法が研究されていたりもするようですが、本記事では浮動小数点はすべて IEEE Standard for Floating-Point Arithmetic のことを指します。 レイトレーシングに限らずコンピューターで浮動小数点を使った数値計算は極めて広い応用がありますが、それにもかかわらず浮動小数点の負の側面、誤差やそれに対する傾向と対策についてはそれほどスポットが当たっていないように思います。 そこで今回はゼロから浮動小数点の扱いについて考えてみようと思います。 内部表

[ishisaka]

実質的にfloat（単精度）の解説と精度落ちを防ぐ方法についての解説。何故単精度と思ったらレイトレが出発点だったのか。