ブックマーク / jutememo.blogspot.com (1)

  • Python で正確な小数の計算 (3) – float, Decimal の有効桁数 | すぐに忘れる脳みそのためのメモ

    1. float, Decimal の有効桁数を確認しておく これまでに 「float よりも精度の高い Decimal」 、「Decimal を文字列として出力するときの str() と repr() の違い」について見てきた。 Python で正確な小数の計算 (1) - Decimal モジュールを使う Python で正確な小数の計算 (2) - Decimal の値を文字列にして、eval () で評価するときは repr 関数を使う 今回は、float と Decimal 有効桁数、str() と repr() の有効桁数について試しておく。こういうのは、一度自分で動作を確認しておかないと気持ちが悪い。 (+_+) 2. 事前準備 毎回 print 文で、式と結果を書くのは面倒。予め、与えられた式の文字列を受けとると、str() と repr() の結果を表示する関数を作成して

    Python で正確な小数の計算 (3) – float, Decimal の有効桁数 | すぐに忘れる脳みそのためのメモ
  • 1