[B! 数値計算][固定小数点] babydaemonsのブックマーク

babydaemons id:babydaemons

数値計算と固定小数点に関するbabydaemonsのブックマーク (5)

「[基礎]固定小数と浮動小数について」（1） Insider.NET －＠IT
＠IT 会議室 Indexリンク Windows Server Insider Insider.NET System Insider XML & SOA Linux Square Master of IP Network Java Solution Security & Trust Database Expert RFID＋IC リッチクライアント & 帳票 Server ＆ Storage Coding Edge ＠ITクラブ Cafe VB業務アプリケーション開発研究＠IT SpecialPR
babydaemons 2009/10/18
C

Tips

数値計算

固定小数点
リンク
「[非 .net] VBAで機種依存文字のチェック」（1） Insider.NET －＠IT
＠IT 会議室 Indexリンク Windows Server Insider Insider.NET System Insider XML & SOA Linux Square Master of IP Network Java Solution Security & Trust Database Expert RFID＋IC リッチクライアント & 帳票 Server ＆ Storage Coding Edge ＠ITクラブ Cafe VB業務アプリケーション開発研究＠IT SpecialPR
babydaemons 2009/10/18
C

Tips

数値計算

固定小数点
リンク
固定小数
●固定小数固定小数は、整数型を用いて小数を表現したものです。浮動小数型よりも速く計算することができます。整数型から固定小数型に変換するにはシフト演算（"<<", ">>"）を使います。求められる小数の精度に応じて、シフトするビット数（シフト数）を調節します。固定小数の表現の仕方固定小数の計算の仕方 1. 固定小数の表現の仕方固定小数は、整数型を構成するビット列のうち、整数部と小数部にわけます。ビット番号
babydaemons 2009/10/18
固定小数点演算をこのアルゴリズで実装したんだけど、ダメ出しされた過去がある。orz

C

Tips

数値計算

固定小数点
リンク
はてなブログ | 無料ブログを作成しよう
また作りたいレシピ　2024年5月第3週「五月病」という言葉を忘れ去っていたことに気が付いた。もうすぐ５月も終わってしまう、なんということだ。ぐったり気味だった１週間の、また作ると確信したレシピです。・生ピーマンの肉みそ去年、グルメ番組で見かけた生ピーマンと肉味噌の取り合わせが気になり…
babydaemons 2009/10/18
C++

Tips

数値計算

固定小数点
リンク
はてなブログ | 無料ブログを作成しよう
文学フリマ東京38に行ってきました bunfree.net文学フリマに遊びに行ってたくさんお買い物をし、大変刺激を貰ったのち、そういえば最近ブログの更新ができてないなと思ったら最終更新が2月で止まっていることに愕然としました。ので、熱い気持ちのうちに更新しておきます。もちろんまだほぼ読んでいない…
babydaemons 2009/10/18
C

Tips

数値計算

固定小数点
リンク
1

お知らせ

もっと読む

公式Twitter

@HatenaBookmark
リリース、障害情報などのサービスのお知らせ
@hatebu
最新の人気エントリーの配信

キーボードショートカット一覧

j次のブックマーク

k前のブックマーク

lあとで読む

eコメント一覧を開く

oページを開く

設定を変更しましたx