タグ

通信と確率に関するotori334のブックマーク (2)

  • 冗長性 (情報理論) - Wikipedia

    冗長性(じょうちょうせい、英: Redundancy)とは、情報理論において、あるメッセージを転送するのに使われているビット数からそのメッセージの実際の情報に必須なビット数を引いた値である。冗長度、冗長量とも。大まかに言えば、あるデータを転送する際に無駄に使われている部分の量に相当する。好ましくない冗長性を排除・削減する方法として、データ圧縮がある。逆にノイズのある通信路容量が有限な通信路で誤り検出訂正を行う目的で冗長性を付与するのが、チェックサムやハミング符号などである。 定量的定義[編集] データの冗長性を表現するにあたって、まず情報源のエントロピー率(レート)が記号ごとのエントロピーの平均であることに注目する。メモリをもたない情報源では、これは単に各記号のエントロピーだが、多くの確率過程では次のようになる。 これは n 個の記号の結合エントロピーを n で割ったものの n が無限大に

  • 確率共鳴による超微弱通信 - Yamazato Laboratory

  • 1