分かってる人からすれば倍精度で計算してるってだけなんだけど例の出し方がさすが“地球の円周を考えた場合、(略)少数第15位に丸めた円周率を使用すると、(略)誤差はナノメートル単位で、分子1つ分の大きさ程度”

Dolphin7473Dolphin7473 のブックマーク 2020/10/04 18:09

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

NASAでは円周率を何桁まで使っているのか?

    円周率は2020年時点で小数点以下50兆桁まで計算されるほど途方もない桁数を持つ数です。一般的には「3」や「3.14」のような数で計算が行われますが、桁が切り捨てられるほど結果の正確さは損なわれてしまうもの。...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう