タグ

railsとfloatに関するkiyo_hikoのブックマーク (1)

  • Railsで小数を扱ってハマったところ - Qiita

    株式の財務分析をするアプリを作ってます。 ROICとかWACCとかTerminal Value 割合を計算して、その割合で何か別の数字を割る。 ような計算がたくさんあります。割り切れない数同士で割り算をして桁の多い小数になったり、分母がゼロになって無限大が返ってきたり、分母も分子も0になって数字が返ってこなかったりといろいろ苦労しました。 (データベースはPostgresqlを使いました。) で、以下いろいろメモ create_tableのあとt.floatかt.decimalかt.integerか どれでもいーじゃん・・・そう思っていた時期が俺にもありました・・・・・ どうもFloatだと割合を計算させた時に「(小数の)桁が足ンねーぞオラ」とエラーが出ることがありました。 で、データ型の解説を読むと integer => -2147483648から+2147483647の整数 decim

    Railsで小数を扱ってハマったところ - Qiita
  • 1