タイムスタンプでは無いけれど、浮動小数点数が使われていると、丸め誤差が発生する。Excel等で計算をさせる時、同じ式でも順番を変えると結果が違ってくる的な古典芸能があって、利息のようなものを扱う時は文字数

システム

gurinekosan のブックマーク 2024/04/21 00:36

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4752305733187807136/comment/gurinekosan" data-user-id="gurinekosan" data-entry-url="https://b.hatena.ne.jp/entry/s/methane.hatenablog.jp/entry/2024/04/19/%E3%82%BF%E3%82%A4%E3%83%A0%E3%82%B9%E3%82%BF%E3%83%B3%E3%83%97%E3%81%AE%E7%B2%BE%E5%BA%A6%E3%82%92%E8%90%BD%E3%81%A8%E3%81%99%E3%81%A8%E3%81%8D%E3%81%AF%E5%88%87%E3%82%8A%E6%8D%A8%E3%81%A6%E3%82%8D" data-original-href="https://methane.hatenablog.jp/entry/2024/04/19/%E3%82%BF%E3%82%A4%E3%83%A0%E3%82%B9%E3%82%BF%E3%83%B3%E3%83%97%E3%81%AE%E7%B2%BE%E5%BA%A6%E3%82%92%E8%90%BD%E3%81%A8%E3%81%99%E3%81%A8%E3%81%8D%E3%81%AF%E5%88%87%E3%82%8A%E6%8D%A8%E3%81%A6%E3%82%8D" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fmethane.hatenablog.jp%2Fentry%2F2024%2F04%2F19%2F%25E3%2582%25BF%25E3%2582%25A4%25E3%2583%25A0%25E3%2582%25B9%25E3%2582%25BF%25E3%2583%25B3%25E3%2583%2597%25E3%2581%25AE%25E7%25B2%25BE%25E5%25BA%25A6%25E3%2582%2592%25E8%2590%25BD%25E3%2581%25A8%25E3%2581%2599%25E3%2581%25A8%25E3%2581%258D%25E3%2581%25AF%25E5%2588%2587%25E3%2582%258A%25E6%258D%25A8%25E3%2581%25A6%25E3%2582%258D" data-user-icon="/users/gurinekosan/profile.png">タイムスタンプの精度を落とすときは切り捨てろ - methaneのブログ</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E3%82%B7%E3%82%B9%E3%83%86%E3%83%A0">システム</a>]</li></ul><br><p style="clear: left">タイムスタンプでは無いけれど、浮動小数点数が使われていると、丸め誤差が発生する。Excel等で計算をさせる時、同じ式でも順番を変えると結果が違ってくる的な古典芸能があって、利息のようなものを扱う時は文字数</p><a class="datetime" href="https://b.hatena.ne.jp/gurinekosan/20240421#bookmark-4752305733187807136"><span class="datetime-body">2024/04/21 00:36</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！