符号理論
線型ブロック符号は線型性を有している。すなわち、任意の2つの符号語の総和も符号語であり、情報源のビット列のブロックにもそれが適用される(そのため線型ブロック符号と呼ぶ)。線型でないブロック符号も存在するが、それでよいかどうかを証明することは困難である。
線型ブロック符号は (n,m,dmin) で表され、それぞれ以下のような意味を持つ。
n は符号語の長さ(シンボル数)
m は一度に符号化されるシンボル数
dmin は符号間の最小ハミング距離
線型ブロック符号に属する符号として以下のようなものがある。
巡回符号(ハミング符号は巡回符号のサブセット)
反復符号
パリティ符号
リード・ソロモン符号
BCH符号
代数幾何符号
リード・マラー符号
Polar符号
完全符号
ブロック符号は、硬貨を敷き詰める問題と関係している。これは2次元で考えると分かりやすい。硬貨を何枚もテーブルの上に並べ、なるべく稠密に敷き詰める。すると、ちょうど蜂の巣のように正六角形状に敷き詰められる。しかし、ブロック符号はもっと高次元であり、容易に視覚化できない。宇宙空間での通信に使われた強力なゴレイ符号では24次元を使っている。一般的な2進数の符号では次元は符号語の長さとなる。
符号理論では、N次元球モデルを使う。
ファクシミリ伝送では、単純な連長圧縮符号が使われている。情報源符号は、送信には必要でない余分なデータを削除し、送信に必要な帯域幅を減少させる。