浮動小数点型の算術とお近づきになりたい人向けの記事 - えびちゃんの日記

お近づきになりたい人向けシリーズです。 いろいろなトピックを詰め込みましたが、「これら全部を知らないといけない」のようなつもりではなく、いろいろなことを知るきっかけになったらいいなという気持ちなので、あまり身構えずにちょっとずつ読んでもらえたらうれしい気がします。 まえがき 予備知識 規格 用語 精度という語について 記法 表現について 有限値の表現について エンコードについて 丸めについて よくある誤差や勘違いの例 0.1 = 1 / 10? 0.1 + 0.2 = 0.3? 整数の誤差 Rump’s Example 基本的な誤差評価 用語に関して 実数の丸め 有理数の丸め 基本演算の丸め 差について 複数回の演算 補題たち 桁落ちについて Re: Rump’s example 融合積和 数学関数に関する式の計算 誤差の削減に関して 総和計算 数学関数の精度について 比較演算について 雑

[T-norf]

プログラミングはChatGPTが出て、勉強、特に実践がかなり楽になったというのはあるけど、こういうのは講義か本でガッツリやらないと厳しいよね。他にも概念から理解しなきゃは、いろいろあるか

[xoinu]

大作。参考になる

[Harnoncourt]

DTMで32bit floatのAD/DAが持て囃されているので興味深く拝読しました。

[Windymelt]

これ面白かった。基礎の基礎からやっていくこういう記事が増えてほしい

[murashit]

すごい

[dhrname]

ヴィルトの「系統的プログラミング入門」だと、実数xは、二つの有限桁の整数 e (指数)とm (仮数)を用いて、x = m * B^e, -E < e < E, - M < m < M 　ただし、定数Bは2や16などの庭(base)、正規形は M/B <= |m| < Mの関係を追加して定義する

[zyzy]

すさまじい力作だった。そしてやっぱあんまり使いたくないな、ってなった。

[mobits]

cobolでやろう(提案)

[hase0510]

JavaScript/TypeScriptで競プロしてる人はどうしてるんだろ。常時BigInt？

[kirakking]

このあたりの知識を数学的に抑えていなかったので参考になった。Rump’s exampleは知っていたけど、浮動小数点の定義との照らし合わせはこうなるんだ。

[hiroshe]

いつか読む

[matarillo]

再掲: 実数での数値計算をしたいなら「差がある程度の誤差より小さければ同じ数」以外にもいろんな注意点があるし、桁数が限られる十進小数を扱いたいんならdecimalがいい。「0.1+0.2≠0.3」では前者には見えないのよね。

[mohno]

ちゃんと読んでないが力作だな。/「16 進法リテラル」←CだけじゃなくPythonにもあるのか。/「四捨五入の話」←Decimalでもないのに“小数第2位で四捨五入”とかやめてほしい。

[underhill]

「浮動小数点演算コ・プロセッサがありません」を思い出しちゃった

[nekoluna]

　ときどきはまるやつ

[tattyu]

“有限個の値しか表現できない” これなんとなく忘れてしまうんだよな。アナログな値はfloat使うからだと思うんだけど。

[netcraft3]

奥深い話だった

[Wafer]

浮ついてる人ムリデス