計算機イプシロン?と思ったが、まあ、そんな感じのネタだった。最適化されないかな、と不安になる式だけど:-) 処理系が何かは授業でやってる上での話なんだろうかね。

mohnomohno のブックマーク 2017/11/29 17:37

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

x + 0.25 - 0.25 = xが成り立たないxとは何か|Rui Ueyama

    スタンフォードのコンピュータサイエンスの授業で、ときどきこれは良問と思う問題がテストで出ることがある。僕の印象に残っているのは「xをfloatとするとき、x + 0.25 - 0.25 = xが成り立たないxを求めよ」とい...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう