サクサク読めて、アプリ限定の機能も多数!
浮動小数点数小話, Fused Multiply-Add
kamocyc のブックマーク 2020/10/22 07:42
浮動小数点数の二段階丸め誤差 - hydrakecat’s blog浮動小数点数小話, Fused Multiply-Add2020/10/22 07:42
このブックマークにはスターがありません。 最初のスターをつけてみよう!
hydrakecat.hatenablog.jp2020/10/21
さいきん『浮動小数点数小話』という同人誌を読んでFMA (Fused Multiply-Add)の二段階丸め誤差(double rounding error)について色々と知る機会があったのでまとめておく。ついでにFMAに関するOpenJDKのバグっぽ...
56 人がブックマーク・3 件のコメント
\ コメントが サクサク読める アプリです /
浮動小数点数小話, Fused Multiply-Add
kamocyc のブックマーク 2020/10/22 07:42
このブックマークにはスターがありません。
最初のスターをつけてみよう!
浮動小数点数の二段階丸め誤差 - hydrakecat’s blog
hydrakecat.hatenablog.jp2020/10/21
さいきん『浮動小数点数小話』という同人誌を読んでFMA (Fused Multiply-Add)の二段階丸め誤差(double rounding error)について色々と知る機会があったのでまとめておく。ついでにFMAに関するOpenJDKのバグっぽ...
56 人がブックマーク・3 件のコメント
\ コメントが サクサク読める アプリです /