浮動小数点数の二段階丸め誤差 - hydrakecat’s blog

さいきん『浮動小数点数小話』という同人誌を読んでFMA (Fused Multiply-Add)の二段階丸め誤差（double rounding error）について色々と知る機会があったのでまとめておく。ついでにFMAに関するOpenJDKのバグっぽい挙動を見つけたのでそれも併せて記しておく。 FMA (Fused Multiply-Add)とは FMAは以下のような演算のことを呼ぶ。 この演算自体は行列の乗算やベクトルの内積の計算でよく現れるものであるが、通常の浮動小数点数の乗算と加算を別々に行うと誤差が出るので一度の演算で正確な値を算出したいときに用いる。たとえばC言語（C99）では fma、fmaf、fmalという3つの関数が導入されているらしい。 FMAの実装における二段階丸め誤差 FMAはターゲットとなるCPUのアーキテクチャがFMA命令をサポートしていればその命令を直接呼び出

[kako-jun]

float同士の演算でdoubleを経由して誤差を無くす方法は、2回目からズレ始めるという話。解説ではdouble縛りだったけど、四倍精度浮動小数点数を使ったり、実数部と仮数部に分けて別々に計算すれば、2回目もズレないかも？

[kamocyc]

浮動小数点数小話, Fused Multiply-Add

[rryu]

異なる精度で複数回丸めを行うと丸め誤差が大きくなる話。