サクサク読めて、アプリ限定の機能も多数!
計算機イプシロン?と思ったが、まあ、そんな感じのネタだった。最適化されないかな、と不安になる式だけど:-) 処理系が何かは授業でやってる上での話なんだろうかね。
mohno のブックマーク 2017/11/29 17:37
x + 0.25 - 0.25 = xが成り立たないxとは何か|Rui Ueyama[Rui Ueyama][開発][計算][ネタ]計算機イプシロン?と思ったが、まあ、そんな感じのネタだった。最適化されないかな、と不安になる式だけど:-) 処理系が何かは授業でやってる上での話なんだろうかね。2017/11/29 17:37
このブックマークにはスターがありません。 最初のスターをつけてみよう!
note.com/ruiu2017/11/29
スタンフォードのコンピュータサイエンスの授業で、ときどきこれは良問と思う問題がテストで出ることがある。僕の印象に残っているのは「xをfloatとするとき、x + 0.25 - 0.25 = xが成り立たないxを求めよ」とい...
445 人がブックマーク・56 件のコメント
\ コメントが サクサク読める アプリです /
計算機イプシロン?と思ったが、まあ、そんな感じのネタだった。最適化されないかな、と不安になる式だけど:-) 処理系が何かは授業でやってる上での話なんだろうかね。
mohno のブックマーク 2017/11/29 17:37
このブックマークにはスターがありません。
最初のスターをつけてみよう!
x + 0.25 - 0.25 = xが成り立たないxとは何か|Rui Ueyama
note.com/ruiu2017/11/29
スタンフォードのコンピュータサイエンスの授業で、ときどきこれは良問と思う問題がテストで出ることがある。僕の印象に残っているのは「xをfloatとするとき、x + 0.25 - 0.25 = xが成り立たないxを求めよ」とい...
445 人がブックマーク・56 件のコメント
\ コメントが サクサク読める アプリです /