가산 백색 가우스 잡음

**가산 백색 가우스 잡음**(Additive white Gaussian noise, **AWGN**)은 정보 이론에서 자연에서 발생하는 많은 무작위 과정의 효과를 모방하는 데 사용되는 기본 잡음 모델이다. 수정자는 특정 특성을 나타낸다. * **가산**은 정보 시스템에 내재될 수 있는 모든 잡음에 더해지기 때문이다. * **백색**은 정보 시스템의 주파수 대역 전체에 걸쳐 균일한 전력 스펙트럼 밀도를 갖는다는 개념을 의미한다. 이는 흰색 빛에 대한 비유로, 가시광선 스펙트럼의 모든 주파수에서 균일한 방출을 통해 구현될 수 있다. * **가우스**는 시간 영역에서 평균 시간 영역 값이 0인 정규 분포를 갖기 때문이다(가우시안 과정). 광대역 잡음은 도체 내 원자의 열 진동(열 잡음 또는 열잡음이라고 함), 푸아송 잡음, 지구 및 기타 따뜻한 물체에서 발생하는 흑체 방사, 태양과 같은 천체 소스 등 많은 자연 잡음 소스에서 발생한다. 확률론의 중심 극한 정리는 많은 무작위 과정의 합이 가우스 또는 정규 분포를 갖는 경향이 있음을 나타낸다. AWGN은 통신에 대한 유일한 장애가 일정한 스펙트럼 밀도(대역폭의 헤르츠당 와트로 표현됨)와 정규 분포의 진폭을 갖는 광대역 또는 백색 잡음의 선형 추가인 채널 모델로 자주 사용된다. 이 모델은 페이딩, 진동수 선택성, 간섭, 비선형성 또는 분산을 고려하지 않는다. 그러나 이러한 다른 현상들을 고려하기 전에 시스템의 기본 동작에 대한 통찰력을 얻는 데 유용한 간단하고 다루기 쉬운 수학적 모델을 생성한다. AWGN 채널은 많은 인공위성 및 심우주 통신 링크에 대한 좋은 모델이다. 이는 다중 경로, 지형 차단, 간섭 등으로 인해 대부분의 지상 링크에 대한 좋은 모델은 아니다. 그러나 지상 경로 모델링의 경우, AWGN은 다중 경로, 지형 차단, 간섭, 지상 클러터 및 현대 무선 시스템이 지상 운용에서 겪는 자체 간섭 외에도 연구 중인 채널의 배경 잡음을 시뮬레이션하는 데 일반적으로 사용된다.
# 채널 용량
AWGN 채널은 이산 시간 이벤트 인덱스 i에서 일련의 출력 Y_i로 표현된다. Y_i는 입력 X_i와 잡음 Z_i의 합이며, 여기서 Z_i는 독립적이고 동일하게 분포하며 분산 N(잡음)과 평균이 0인 정규 분포에서 추출된다. Z_i는 X_i와 상관관계가 없는 것으로 추가로 가정된다. : Z_i \sim \mathcal{N}(0, N) \,\\! : Y_i = X_i + Z_i. \,\\! 잡음 N이 0이 아니고 X_i가 충분히 제한되지 않는 한 채널 용량은 무한하다. 입력에 대한 가장 일반적인 제약은 소위 "전력" 제약으로, 채널을 통해 전송되는 코드워드 (x_1, x_2, \dots , x_k)에 대해 다음을 요구한다. : \frac{1}{k}\sum_{i=1}^k x_i^2 \leq P, 여기서 P는 최대 채널 전력을 나타낸다. 따라서 전력 제약이 있는 채널의 채널 용량은 다음과 같다. : C = \max \left\\{ I(X;Y) : f \text{ s.t. } E \left( X^2 \right) \leq P \right\\} \,\\! 여기서 f는 X의 분포이다. I(X;Y)를 차분 엔트로피로 표현하면: : \begin{align} & I(X;Y) = h(Y) - h(Y\mid X) \\\\[5pt] = {} & h(Y)-h(X+Z\mid X) \\\\[5pt] = {} & h(Y)-h(Z\mid X) \end{align} \,\\! 그러나 X와 Z는 독립적이므로: : I(X;Y) = h(Y) - h(Z) \,\\! 가우스 분포의 차분 엔트로피를 평가하면: : h(Z) = \frac{1}{2} \log(2 \pi e N) \,\\! X와 Z가 독립적이고 그 합이 Y를 주므로: : E(Y^2) = E((X+Z)^2) = E(X^2) + 2E(X)E(Z)+E(Z^2) \leq P + N \,\\! 이 경계에서 우리는 차분 엔트로피의 속성으로부터 다음을 추론한다. : h(Y) \leq \frac{1}{2} \log(2 \pi e(P+N)) \,\\! 따라서 채널 용량은 상호정보에 대해 달성 가능한 가장 높은 경계로 주어진다. : I(X;Y) \leq \frac{1}{2}\log(2 \pi e (P+N)) - \frac {1}{2}\log(2 \pi e N) \,\\! 여기서 I(X;Y)는 다음일 때 최대화된다. : X \sim \mathcal{N}(0, P) \,\\! 따라서 AWGN 채널에 대한 채널 용량 C는 다음과 같다. : C = \frac {1}{2} \log\left(1+\frac{P}{N}\right) \,\\!
## 채널 용량과 구체 패킹
메시지를 1에서 M까지의 인덱스로 채널을 통해 전송한다고 가정하면, M은 구별 가능한 가능한 메시지의 수이다. M개의 메시지를 n비트로 인코딩하면, 속도 R을 다음과 같이 정의한다. : R = \frac {\log M}{n} \,\\! 오류의 최대 확률이 n이 무한대로 접근할 때 0으로 수렴하는 코드 시퀀스가 있다면 그 속도는 달성 가능하다고 한다. 용량 C는 가장 높은 달성 가능 속도이다. 잡음 레벨 N을 가진 AWGN 채널을 통해 전송되는 길이 n의 코드워드를 고려해 보자. 수신될 때, 코드워드 벡터 분산은 이제 N이 되고, 그 평균은 전송된 코드워드이다. 이 벡터는 전송된 코드워드 주위에 반경 \sqrt{n(N+\varepsilon)}의 구에 포함될 가능성이 매우 높다. 이 구의 중심에 있는 코드워드로 수신된 모든 메시지를 매핑하여 디코딩하면, 수신된 벡터가 이 구 밖에 있을 때만 오류가 발생하며, 이는 매우 드문 일이다. 각 코드워드 벡터에는 그에 따라 디코딩되는 수신 코드워드 벡터의 구가 연결되어 있으며, 이러한 각 구는 코드워드에 고유하게 매핑되어야 한다. 따라서 이 구들은 교차하지 않아야 하므로, 구체 패킹 문제에 직면한다. n비트 코드워드 벡터에 얼마나 많은 구별 가능한 코드워드를 패킹할 수 있을까? 수신된 벡터는 최대 에너지 n(P+N)를 가지므로 반경 \sqrt{n(P+N)}의 구를 차지해야 한다. 각 코드워드 구의 반경은 \sqrt{nN}이다. n차원 구의 부피는 r^n에 정비례하므로, 전송 전력 P를 가진 구에 패킹될 수 있는 고유하게 디코딩 가능한 구의 최대 개수는 다음과 같다. : \frac{(n(P+N))^{n/2{(nN)^{n/2 = 2^{(n/2) \log\left(1+P/N \right)} \,\\! 이러한 논증에 따르면, 속도 R은 \frac{1}{2} \log \left( 1+\frac P N \right)보다 클 수 없다.
## 달성 가능성
이 섹션에서는 지난 섹션에서 다룬 속도 상한의 달성 가능성을 보여준다. 인코더와 디코더 모두에게 알려진 코드북은 길이 n, i.i.d. 가우스 분포를 따르며 분산 P-\varepsilon 및 평균 0을 갖는 코드워드를 선택하여 생성된다. 큰 n에 대해 코드북의 경험적 분산은 분포의 분산과 매우 가깝게 되어 전력 제약 위반을 확률적으로 피한다. 수신된 메시지는 고유하게 공동으로 전형적인 코드북의 메시지로 디코딩된다. 그러한 메시지가 없거나 전력 제약이 위반되면 디코딩 오류가 선언된다. 메시지 i에 대한 코드워드를 X^n(i)라고 하고, Y^n은 이전과 같이 수신된 벡터라고 하자. 다음 세 가지 사건을 정의한다. # 사건 U: 수신된 메시지의 전력이 P보다 크다. # 사건 V: 전송된 코드워드와 수신된 코드워드가 공동으로 전형적이지 않다. # 사건 E_j: i \neq j인 전형 집합 A_\varepsilon^{(n)}에 (X^n(j), Y^n)이 속한다. 즉, 잘못된 코드워드가 수신된 벡터와 공동으로 전형적이다. 따라서 U, V 또는 E_i 중 하나라도 발생하면 오류가 발생한다. 큰 수의 법칙에 따라 n이 무한대로 접근함에 따라 P(U)는 0으로 수렴하며, 공동 점근적 등분포 특성에 따라 P(V)에도 동일하게 적용된다. 따라서 충분히 큰 n에 대해 P(U)와 P(V)는 각각 \varepsilon보다 작다. i \neq j에 대해 X^n(i)와 X^n(j)는 독립적이므로, X^n(i)와 Y^n도 독립적이다. 따라서 공동 AEP에 의해 P(E_j) = 2^{-n(I(X;Y)-3\varepsilon)}이다. 이를 통해 오류 확률 P^{(n)}_e를 다음과 같이 계산할 수 있다. : \begin{align} P^{(n)}_e & \leq P(U) + P(V) + \sum_{j \neq i} P(E_j) \\\ & \leq \varepsilon + \varepsilon + \sum_{j \neq i} 2^{-n(I(X;Y)-3\varepsilon)} \\\ & \leq 2\varepsilon + (2^{nR}-1)2^{-n(I(X;Y)-3\varepsilon)} \\\ & \leq 2\varepsilon + (2^{3n\varepsilon})2^{-n(I(X;Y)-R)} \\\ & \leq 3\varepsilon \end{align} 따라서 n이 무한대로 접근함에 따라 P^{(n)}_e는 0으로 수렴하고 R < I(X;Y) - 3\varepsilon이다. 그러므로 이전에 유도된 용량에 임의로 가까운 속도 R을 가진 코드가 존재한다.
## 부호화 정리 역
여기서는 용량 C = \frac {1}{2} \log\left( 1+\frac P N \right)를 초과하는 속도는 달성 불가능함을 보여준다. 코드북에 대해 전력 제약이 충족되고, 메시지가 균일 분포를 따른다고 가정하자. W를 입력 메시지라고 하고 \hat{W}를 출력 메시지라고 하자. 따라서 정보는 다음과 같이 흐른다. W \longrightarrow X^{(n)}(W) \longrightarrow Y^{(n)} \longrightarrow \hat{W} 파노의 부등식을 사용하면 다음을 얻는다. H(W\mid\hat{W}) \leq 1+nRP^{(n)}_e = n \varepsilon_n (여기서 P^{(n)}_e \rightarrow 0일 때 \varepsilon_n \rightarrow 0) X_i를 코드워드 인덱스 i의 인코딩된 메시지라고 하자. 그러면 다음과 같다. : \begin{align} nR & = H(W) \\\ & =I(W;\hat{W}) + H(W\mid\hat{W}) \\\ & \leq I(W;\hat{W}) + n\varepsilon_n \\\ & \leq I(X^{(n)}; Y^{(n)}) + n\varepsilon_n \\\ & = h(Y^{(n)}) - h(Y^{(n)}\mid X^{(n)}) + n\varepsilon_n \\\ & = h(Y^{(n)}) - h(Z^{(n)}) + n\varepsilon_n \\\ & \leq \sum_{i=1}^n h(Y_i)- h(Z^{(n)}) + n\varepsilon_n \\\ & \leq \sum_{i=1}^n I(X_i; Y_i) + n\varepsilon_n \end{align} P_i를 인덱스 i의 코드워드의 평균 전력이라고 하자. : P_i = \frac{1}{2^{nR\sum_{w}x^2_i(w) \,\\! 여기서 합은 모든 입력 메시지 w에 대한 것이다. X_i와 Z_i는 독립적이므로, 잡음 레벨 N에 대한 Y_i의 전력의 기댓값은 다음과 같다. : E(Y_i^2) = P_i+N \,\\! 그리고, Y_i가 정규 분포를 따른다면 다음을 얻는다. : h(Y_i) \leq \frac{1}{2}\log{2 \pi e} (P_i +N) \,\\! 그러므로, : \begin{align} nR & \leq \sum(h(Y_i)-h(Z_i)) + n \varepsilon_n \\\ & \leq \sum \left( \frac{1}{2} \log(2 \pi e (P_i + N)) - \frac{1}{2} \log(2 \pi e N)\right) + n \varepsilon_n \\\ & = \sum \frac{1}{2} \log \left(1 + \frac{P_i}N \right) + n \varepsilon_n \end{align} x에 대한 오목(아래로 볼록) 함수인 \log(1+x)에 옌센 부등식을 적용할 수 있다. : \frac{1}{n} \sum_{i=1}^n \frac{1}{2}\log\left(1+\frac{P_i}{N}\right) \leq \frac{1}{2}\log\left(1+\frac{1}{n}\sum_{i=1}^n \frac{P_i}{N}\right) \,\\! 각 코드워드는 개별적으로 전력 제약을 만족하므로, 평균 또한 전력 제약을 만족한다. 그러므로, : \frac{1}{n}\sum_{i=1}^n \frac{P_i}{N}, \,\\! 이것을 위 부등식을 단순화하는 데 적용하면 다음과 같다. : \frac{1}{2}\log\left(1+\frac{1}{n}\sum_{i=1}^{n}\frac{P_i}{N}\right) \leq \frac{1}{2}\log\left(1+\frac{P}{N}\right). \,\\! 따라서 R \leq \frac{1}{2}\log \left(1+ \frac{P}{N}\right) + \varepsilon_n이어야 한다. 따라서 \varepsilon_n \rightarrow 0일 때 R은 이전에 유도된 용량에 임의로 가까운 값보다 작아야 한다.
# 시간 영역에서의 효과
잡음이 있는 코사인 파의 영점 교차 직렬 데이터 통신에서 AWGN 수학 모델은 무작위 지터 (RJ)로 인한 타이밍 오차를 모델링하는 데 사용된다. 오른쪽 그래프는 AWGN과 관련된 타이밍 오차의 예시를 보여준다. 변수 Δt는 영점 교차에서의 불확실성을 나타낸다. AWGN의 진폭이 증가하면 신호 대 잡음비가 감소한다. 이는 Δt의 불확실성을 증가시킨다. AWGN의 영향을 받을 때, 입력이 사인파일 때 협대역 통과 필터 출력에서 초당 양수 또는 음수 영점 교차의 평균 수는 다음과 같다. : \begin{align} & \frac{\text{positive zero crossings{\text{second = \frac{\text{negative zero crossings{\text{second \\\\[8pt] = {} & f_0 \sqrt{\frac{\text{SNR} + 1 + \frac{B^2}{12f_0^2{\text{SNR} + 1, \end{align} 여기서 : ƒ0 = 필터의 중심 주파수, : B = 필터 대역폭, : SNR = 선형 항으로 표시된 신호 대 잡음 전력비.
# 페이저 영역에서의 효과
페이저 영역의 AWGN 기여 현대 통신 시스템에서 대역 제한 AWGN은 무시할 수 없다. 페이저 (전자) 영역에서 대역 제한 AWGN을 모델링할 때 통계 분석에 따르면 실제 및 허수 기여의 진폭은 정규 분포 모델을 따르는 독립 변수임이 밝혀졌다. 결합될 때, 결과 페이저의 크기는 레일리 분포를 따르는 무작위 변수이며, 위상은 0에서 2π까지 균일하게 분포한다. 오른쪽 그래프는 대역 제한 AWGN이 코히어런트 반송파 신호에 어떻게 영향을 미칠 수 있는지에 대한 예시를 보여준다. 잡음 벡터의 순간 응답은 정확하게 예측할 수 없지만, 시간 평균 응답은 통계적으로 예측할 수 있다. 그래프에 표시된 바와 같이, 우리는 잡음 페이저가 1σ 원 안에 약 38%의 시간 동안, 2σ 원 안에 약 86%의 시간 동안, 그리고 3σ 원 안에 약 98%의 시간 동안 존재할 것이라고 확신 있게 예측한다.