振幅偏移変調
あるシンボルが送信された際にエラーを起こす確率密度関数はガウス関数によりモデル化される。平均値は、送信した値から求められ、その分散は次式で与えられる。
σ N = ∫ − ∞ + ∞ Φ N ( f ) ⋅ | H r ( f ) | 2 d f {\displaystyle \sigma _{N}=\int _{-\infty }^{+\infty }\Phi _{N}(f)\cdot |H_{r}(f)|^{2}df}
ただし、 Φ N ( f ) {\displaystyle \Phi _{N}(f)} は帯域中のノイズのスペクトル密度で、Hr (f)はhr (f)で表されるフィルタのインパルス応答の連続フーリエ変換である。
誤りを生じる確率は次式で与えられる。
P e = P e / H 0 ⋅ P H 0 + P e / H 1 ⋅ P H 1 + ⋯ + P e / H L − 1 ⋅ P H L − 1 {\displaystyle P_{e}=P_{e/H_{0}}\cdot P_{H_{0}}+P_{e/H_{1}}\cdot P_{H_{1}}+\dots +P_{e/H_{L-1}}\cdot P_{H_{L-1}}}
ただし、 P e / H 0 {\displaystyle P_{e/H_{0}}} はシンボルviが送信された後、誤りが生じる条件付き確率であり、 P H 0 {\displaystyle P_{H_{0}}} はシンボルv0を送信する確率である。