エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Qフォーマット | 回路実験
固定小数点の表し方 Q15フォーマットというと 16bitで小数点以下が15桁(bit)の場合を指す(最上位ビット... 固定小数点の表し方 Q15フォーマットというと 16bitで小数点以下が15桁(bit)の場合を指す(最上位ビットは符号bit) この場合 表せる数値は+1~-1(厳密には違う) で、小数点以上がある場合で例えば小数点以上が2ビット 小数点以下が13ビットの場合は Q2.13となります がこれにも色々方言があるようで2Q13と書いてあるものもありました。 Q2.13の場合、表せる範囲は+4~-4(これも厳密には違う...)です。 ではどう厳密には違うのかというと Q15で+の最大値はというと 0x7fffですね これは 1/2+1/4+1/8+1/16+1/32+1/64+1/128+1/256+ 1/512+1/1024+1/2048+1/4096+1/8192+1/16384+1/32768 です。で0.99996482になります。 ふー 最少値は0x8000ですね これは-1になりま