サクサク読めて、アプリ限定の機能も多数!
これは切り捨てるのが正しいから切り捨てるのではなく、古来から余計な桁数を除算やビットマスクで処理する方が簡単だったからだろう。四捨五入の方が命令数が少なく済むならそっちが定着していたはず。
puhu208n のブックマーク 2024/04/20 19:00
タイムスタンプの精度を落とすときは切り捨てろ - methaneのブログこれは切り捨てるのが正しいから切り捨てるのではなく、古来から余計な桁数を除算やビットマスクで処理する方が簡単だったからだろう。四捨五入の方が命令数が少なく済むならそっちが定着していたはず。2024/04/20 19:00
このブックマークにはスターがありません。 最初のスターをつけてみよう!
methane.hatenablog.jp2024/04/19
とあるプロジェクトでナノ秒からミリ秒への変換で四捨五入してきた人がいて、時刻を扱うときは保存精度未満は切り捨てるべきというのが常識になっていないなーと思ったので。 2023-10-01 を、何年か表示する時に...
346 人がブックマーク・66 件のコメント
\ コメントが サクサク読める アプリです /
これは切り捨てるのが正しいから切り捨てるのではなく、古来から余計な桁数を除算やビットマスクで処理する方が簡単だったからだろう。四捨五入の方が命令数が少なく済むならそっちが定着していたはず。
puhu208n のブックマーク 2024/04/20 19:00
このブックマークにはスターがありません。
最初のスターをつけてみよう!
タイムスタンプの精度を落とすときは切り捨てろ - methaneのブログ
methane.hatenablog.jp2024/04/19
とあるプロジェクトでナノ秒からミリ秒への変換で四捨五入してきた人がいて、時刻を扱うときは保存精度未満は切り捨てるべきというのが常識になっていないなーと思ったので。 2023-10-01 を、何年か表示する時に...
346 人がブックマーク・66 件のコメント
\ コメントが サクサク読める アプリです /