振幅偏移変調
ただし、次の関係がある。
n r ( t ) = n ( t ) ∗ h r ( t ) {\displaystyle n_{r}(t)=n(t)*h_{r}(t)}
g ( t ) = h t ( t ) ∗ h c ( t ) ∗ h r ( t ) {\displaystyle g(t)=h_{t}(t)*h_{c}(t)*h_{r}(t)}
ここで、*は2つの信号の畳み込みを示す。A/D変換後、信号z(k)は、次の形で表される。
z [ k ] = n r [ k ] + v [ k ] g [ 0 ] + ∑ n ≠ k v [ n ] g [ k − n ] {\displaystyle z[k]=n_{r}[k]+v[k]g[0]+\sum _{n\neq k}v[n]g[k-n]}
この関係において、2項目は、復号されるシンボルを表している。 他の項は必要がない項である。第1項はノイズの効果で、第3項目はシンボル間干渉によるものである。
もし、シンボル間(ISI)のナイキスト基準を満たすことのできるg(t)を持つフィルターを選ぶことができれば、シンボル間の干渉は存在せず、合計の値は0となる。したがって、以下の式となる。
z [ k ] = n r [ k ] + v [ k ] g [ 0 ] {\displaystyle z[k]=n_{r}[k]+v[k]g[0]}
この場合、送信信号はノイズのみの影響を受ける。