タグ

関連タグで絞り込む (0)

  • 関連タグはありません

タグの絞り込みを解除

perlと誤差に関するkiyo_hikoのブックマーク (1)

  • POSIX::floor() を使うと計算が合わない

    Landscape トップページ | < 前の日 2006-04-29 2006-05-01 次の日 2006-05-03 > Landscape - エンジニアのメモ 2006-05-01 POSIX::floor() を使うと計算が合わない 当サイト内を Google 検索できます * POSIX::floor() を使うと計算が合わないこの記事の直リンクURL: Permlink | この記事が属するカテゴリ: [Perl] Perl で大きな数字を扱うと、計算結果があわないという相談を受けた。 - Perl の丸め誤差?349347958500 * 466593284000 / 699889926000 という計算が 232898639000 にならずに 232898638999 になるという。 そもそもすごい桁数。3000億 * 4000億って、これ何の計算なの? と聞くと、金額

  • 1