Javaでの数値計算の誤差や限界値 - kmkのメモ帳
int型の計算誤差 int型同士の[掛け算、足し算、引き算]で誤差が発生するのはint型の最大値を超えてしまった場合か、最小値を下回ってしまった場合のみです。尚、当たり前ですが少数点を含む数値はだめです。整数に限ります。 int型の最大値 = 2147483647 int型の最小値 = -2147483648 この値を超えないよう注意さえすればint型では掛け算、足し算は誤差なく実施できます。 ただし、int型は小数点を切り捨てるため、割り算では大抵誤差が発生します。 例：1/2 = 0.5 0.5はint型では0として扱われるため 1/2 = 0 となってしまう。 double型の誤差について double型では値を格納する際に誤差が発生する可能性があります。 そのため、どのような計算でも誤差が発生する可能性があります。 尚、double型が扱える範囲は 最大値 1.79...E+308
0で割るとはどういうこと？
０という数の発見は数学史に大きな影響を与えた出来事であると同時に，様々な厄介ごとが生まれる結果ともなりました。 ０の性質はいろいろありますが，その中の１つに， 「なにと掛け算をしても答えは０」 というものがあります。 ０は何倍したって０だし，どんな数を０倍しても０である，という，小学生でも知っている性質です。 しかし，この分かりやすくて簡単な性質のお陰で，私たちは大いに苦しむことになってしまうのです。 問題です。 「０÷３」 の答えはいくらでしょう？ もちろん，０に決まっています。お菓子が全く何もないのだから，それを３人で分けても，何もない状態のまま，なんていう説明が出来ますね。 では，「３÷０」はいくらでしょうか？ 「そんなもの，０に決まってるじゃないか！」 と，簡単に片付けようとしたそこのあなた！ 事はそう簡単な話ではないのです。 実はこの答え，０ではないのです。 考えてみてください。
行列式虎の巻
1 A = a11 a12 · · · a1n a21 a22 · · · a2n . . . . . . . . . . . . an1 an2 · · · ann A det A = |A| = a11 a12 · · · a1n a21 a22 · · · a2n . . . . . . . . . . . . an1 an2 · · · ann aij aij A aij |A| 2 1 A = (a) |A| = a, A = a b c d ! |A| = ad − bc |A| = 3 |En| = 1 ... 1 = 1 αa11 + βb11 αa12 + βb12 · · · αa1n + βb1n a21 a22 · · · a2n . . . . . . . . . . . . an1 an2 · · · ann 2
#google - chart API で数式表示 : 404 Blog Not Found
2009年09月30日00:30 カテゴリMathTips #google - chart API で数式表示 これはおいしい。 Google Chart APIを使って数式を埋め込む - Hello, world! - s21g ちょっと前からGoogleDocsで数式が書けるようになりましたが、 これがGoogle Chart APIを使って実装されているようです。Demo というわけで早速JSで。 LaTex Expression: Formula: ソースはこれくらい簡単です。 <input type="text" size="64" value="\int_{}^{}e^{i\theta}d\theta=\frac{1}{i}e^{i\theta}+C=-ie^{i\theta}+C" onkeyup=" (function(tex, img){ img.alt = tex; i
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
TechCrunch
