誤差範囲の影響を考慮して要求精度を自分で決めるという工学の基礎の基礎みたいな話／真の値と64bit精度の差を取る計算をするとさらに2乗の精度が必要になってくるわけでこの検証で絶対安心というわけでもない。

altar のブックマーク 2020/10/06 04:41

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4692315282459670594/comment/altar" data-user-id="altar" data-entry-url="https://b.hatena.ne.jp/entry/s/gigazine.net/news/20201004-nasa-pi-calculation/" data-original-href="https://gigazine.net/news/20201004-nasa-pi-calculation/" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fgigazine.net%2Fnews%2F20201004-nasa-pi-calculation%2F" data-user-icon="/users/altar/profile.png">NASAでは円周率を何桁まで使っているのか？</a><br><p style="clear: left">誤差範囲の影響を考慮して要求精度を自分で決めるという工学の基礎の基礎みたいな話／真の値と64bit精度の差を取る計算をするとさらに2乗の精度が必要になってくるわけでこの検証で絶対安心というわけでもない。</p><a class="datetime" href="https://b.hatena.ne.jp/altar/20201006#bookmark-4692315282459670594"><span class="datetime-body">2020/10/06 04:41</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

NASAでは円周率を何桁まで使っているのか？

gigazine.net2020/10/04

円周率は2020年時点で小数点以下50兆桁まで計算されるほど途方もない桁数を持つ数です。一般的には「3」や「3.14」のような数で計算が行われますが、桁が切り捨てられるほど結果の正確さは損なわれてしまうもの。...

371 人がブックマーク・87 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

NASAでは円周率を何桁まで使っているのか？

はてなブックマーク

公式Twitter

はてなのサービス