これは切り捨てるのが正しいから切り捨てるのではなく、古来から余計な桁数を除算やビットマスクで処理する方が簡単だったからだろう。四捨五入の方が命令数が少なく済むならそっちが定着していたはず。

puhu208npuhu208n のブックマーク 2024/04/20 19:00

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

タイムスタンプの精度を落とすときは切り捨てろ - methaneのブログ

    とあるプロジェクトでナノ秒からミリ秒への変換で四捨五入してきた人がいて、時刻を扱うときは保存精度未満は切り捨てるべきというのが常識になっていないなーと思ったので。 2023-10-01 を、何年か表示する時に...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう