“Perlで16進リテラルの指数部をうっかり書き忘れると、全く違う意味に” '1' . '23' に変換されたってことか...

igrepigrep のブックマーク 2020/08/10 14:28

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

浮動小数点数の16進表記 - Qiita

    2進浮動小数点数の10進表記には様々な問題があります。 10進で有限小数として表せる数であっても、2進小数では有限小数で表せない(したがって2進浮動小数点数に変換すると誤差が出る)ことは周知かと思います。...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう