サクサク読めて、アプリ限定の機能も多数!
昔大学の教科書だった「数値計算の常識」(共立出版)は名著だったと思う。手放さなきゃ良かった。
aoiyotsuba のブックマーク 2022/10/15 09:11
プログラミングにおける数値計算はワナがいっぱい - Qiita昔大学の教科書だった「数値計算の常識」(共立出版)は名著だったと思う。手放さなきゃ良かった。2022/10/15 09:11
このブックマークにはスターがありません。 最初のスターをつけてみよう!
qiita.com/papi_tokei2022/03/21
普通に考えると「0.3」ですが、実際には0.3にはなりません。 正解は「0.30000000000000004」です。(値は環境によって変わる可能性があります) 数値計算の誤差を気にしない場合は問題ないのですが、そこそこ正確に...
8 人がブックマーク・2 件のコメント
\ コメントが サクサク読める アプリです /
昔大学の教科書だった「数値計算の常識」(共立出版)は名著だったと思う。手放さなきゃ良かった。
aoiyotsuba のブックマーク 2022/10/15 09:11
このブックマークにはスターがありません。
最初のスターをつけてみよう!
プログラミングにおける数値計算はワナがいっぱい - Qiita
qiita.com/papi_tokei2022/03/21
普通に考えると「0.3」ですが、実際には0.3にはなりません。 正解は「0.30000000000000004」です。(値は環境によって変わる可能性があります) 数値計算の誤差を気にしない場合は問題ないのですが、そこそこ正確に...
8 人がブックマーク・2 件のコメント
\ コメントが サクサク読める アプリです /