隨機訊號

隨機訊號（stochastic signals）不能以一個確切的數學公式來描述，也不能準確地預測。因此對於隨機訊號一般只能在統計的意義上來研究。不論是工程上或是日常生活當中隨機訊號的例子有很多，例如無線通訊系統中的噪音與干擾、生物醫學訊號以及語音訊號都是隨機的，以下將討論隨機訊號的基本概念與描述方法。

## 基本概念

從機率論可知我們可用一個隨機變量$X$來描述自然界中的隨機事件，若$X$的取值為連續，則$X$為連續型隨機變量；若$X$的取值為離散，則$X$為離散型隨機變量。對於隨機變量$X$，我們一般用它的分布函數及機率密度來描述。

### 分布函數

對於隨機變量$X$，我們可用機率分布函數來表示，其數學描述為:

$$P(x) = Probability(X \leqslant x) = Probability(X \in (-\infty,x])$$

$P(x)$有以下最基本的性質:

- $$0 \leqslant P(x) \leqslant 1;$$
- $$P(-\infty) = 0;$$
- $$P(\infty) = 1;$$
- 若 $x \leqslant y$，則 $P(x) \leqslant P(y).$

若$X$為連續隨機變量，可定義機率密度函數:

$$p(x) = \frac{\mathrm{d}P(x)}{\mathrm{d}x}$$

明顯分布函數與密度函數的關係為:

$$P(x) = \int_{-\infty}^{x} p(v)\mathrm{d}v$$

密度函數有以下基本的性質:

- $$p(x) \geqslant 0;$$
- $$\int_{-\infty}^{\infty} p(x)\mathrm{d}x = 1;$$
- $$P(b) - P(a) = \int_{a}^{b} p(x)\mathrm{d}x.$$

### 平均值與標準差

定義隨機變量$X$的平均值:

$$\mu_X = E(X) = \int_{-\infty}^{\infty} xp(x)\mathrm{d}x$$

定義隨機變量$X$的標準差的平方:

$$\sigma_X^2 = E(|X - \mu_X|^2) = \int_{-\infty}^{\infty} |x-\mu_X|^2p(x)\mathrm{d}x$$

定義隨機變量$X$的平方平均數:

$$D_X^2 = E(|X|^2) = \int_{-\infty}^{\infty} |x|^2p(x)\mathrm{d}x$$

若$X$為離散隨機變數則以上運算變為求和。

### 矩

定義隨機變數$X$的m階原點矩:

$$\eta_X^m = E(|X|^m) = \int_{-\infty}^{\infty} |x|^mp(x)\mathrm{d}x$$

再定義隨機變數$X$的m階中心矩:

$$\gamma_X^m = E(|X - \mu_X|^m) = \int_{-\infty}^{\infty} |x-\mu_X|^mp(x)\mathrm{d}x$$

平均值、標準差及矩都是隨機變量的數字特徵，可利用它們來描述隨機變數，例如平均值可代表$X$取值的中心位置，標準差表示了$X$的取值相對平均值的分散程度。

### 隨機向量

N個隨機變量組成的向量$X = [X_1,X_2,...,X_N]^T$稱為隨機向量，它是研究多個隨機變量的聯合分布以及進一步將隨機變量理論推廣到隨機訊號的重要工具。隨機向量的平均值為各分量的平均值所組成的平均值向量:

$$\mu_X = [\mu_{X1},\mu_{X2},...,\mu_{XN}]^T,\mu_{Xi} = E(X_i)$$

而標準差的平方會形成矩陣:

$$E((X-\mu_X)(X-\mu_X)^T)= \begin{bmatrix} \sigma_1^2 & cov(X_1,X_2) & \cdots & cov(X_1,X_N) \\ cov(X_2,X_1) & \sigma_2^2 & \cdots & cov(X_2,X_N) \\ \vdots & \vdots & \ddots & \vdots \\ cov(X_N,X_1) & cov(X_N,X_2) &\cdots & \sigma_N^2 \end{bmatrix}$$

式中$cov(X_i,X_j) = E((X_i-\mu_{Xi})^*(X_j-\mu_{Xj}))$稱為分量$X_i$與$X_j$之間的共變異數。

## 隨機訊號的描述

為了了解接下來的說明因此我們需要舉一個例子。現在想像一個直流放大器的輸出，當輸入接地時輸出應該為零，然而現實中放大器會產生雜訊使得輸出不為零，該雜訊就是一個隨機訊號，因此當我們在相同的條件下獨立地進行多次觀察時，各次觀測到的結果應該互不相同。為了全面地了解輸出雜訊的特性，我們應該要在相同的條件下，獨立地盡可能做多次的觀測，這相當於在同一時刻對盡可能多的相同放大器各做一次觀察一樣。這樣我們每一次的觀察都能得到一個記錄$x_i(t)$，其中$i = 1,2,...,N;N\rightarrow\infty$。如果我們把對雜訊電壓的觀測看做為一個隨機試驗，那麼每一次的記錄都是該隨機試驗的一次實現，其結果$x_i(t)$就是一個樣本函數。所有樣本函數的集合$i = 1,2,...,N;N\rightarrow\infty$就構成了雜訊電壓可能經歷的整個過程，該集合就是一個隨機訊號$X(t)$。

對一個特定的時刻，例如$t=t_1$顯然$x_1(t_1),x_2(t_1),...,x_N(t_1)$是一個隨機變量，它相當於在某一固定時刻同時測量無限多個相同放大器的輸出電壓，對於任一固定的時刻，輸出電壓也是一個隨機變量。因此一個隨機訊號$X(t)$是與時間相關的隨機變量，接下來我們可用隨機變量來描述隨機訊號。當t在時間軸上取值$t_1,t_2,...,t_m$時，我們可得到m個隨機變量$X(t_1),X(t_2),...,X(t_m)$，顯然要描述這m個隨機變量最全面的方法是利用m維機率分布函數或機率密度:

$$P_X(x_1,x_2,...,x_m;t_1,t_2,...,t_m) = P(X(t_1) \leqslant x_1,X(t_2) \leqslant x_2,...,X(t_m) \leqslant x_m)$$

當m趨近於無限大時上式能完整地描述了隨機訊號$X(t)$。但是在工程上要得到隨機訊號的高維分布函數或機率密度是相當繁瑣的，因此在實際工程問題中對於隨機訊號的描述除了採用低維的分布函數或機率密度之外還使用了平均值、標準差或矩等數字特徵。對上述例子中的隨機訊號$X(t)$離散化，我們得到離散隨機訊號$X(nT_s)$(以下簡記為$X(n)$)，對$X(nT_s)$的每一次實現，記為$x(n,i),n = -\infty \thicksim \infty$代表時間，$i = 1,2,...,N(N\rightarrow\infty)$代表實現的序號，即樣本數。對於$x(n,i)$可有如下四種不同的解釋:

- 若n固定，則$x(n,i)$相對純量i的集合為n時刻的隨機變量
- 若i固定，則$x(n,i)$相對純量n的集合構成一個一維的離散時間序列，即$x(n)$
- 若n固定，i也固定，則$x(n,i)$是一個具體的數值
- 若n為變量，i也為變量，則$x(n,i)$是一個隨機訊號

### 統計描述

顯然$X(n)$的平均值、標準差等數字特徵均是時間n的函數，平均值可表示為

$$\mu_X(n) = E(X(n)) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N x(n,i)$$

標準差的平方為

$$\sigma_X^2(n) = E(|X(n) - \mu_X(n)|^2) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N |x(n,i)-\mu_X(n)|^2$$

平方平均數為

$$D_X^2(n) = E(|X(n)|^2) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N |x(n,i)|^2$$

$X(n)$的自相關函數定義為

$$r_X(n_1,n_2) = E(X^*(n_1)X(n_2)) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N x^*(n_1,i)x(n_2,i)$$

共變異函數定義為

$$cov_X(n_1,n_2) = E([X(n_1)-\mu_X(n_1)]^*[X(n_2)-\mu_X(n_2)]) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N [x(n_1,i)-\mu_X(n_1)]^*[x(n_2,i)-\mu_X(n_2)]$$

上面五式的求均值運算體現了隨機訊號的集總平均，該集總平均是由$X(n)$的無限多樣本$x(n,i),i = 1,...,\infty$在相應時刻對應相加(或相乘後再相加)來實現的。其中自相關函數$r_X(n_1,n_2)$描述了訊號$X(n)$在這$n_1,n_2$兩個時刻的相互關係，是一個重要的統計量。若$n_1=n_2=n,$則:

$$r_X(n_1,n_2) = E(|X(n)|^2) = D_X^2(n)$$

$$cov_X(n_1,n_2) = E(|X(n)-\mu_X(n)|^2) =\sigma_X^2(n)$$

對兩個隨機訊號$X(n),Y(n),$其相關函數和共變異函數分別定義為:

$$r_{XY}(n_1,n_2) = E(X^*(n_1)Y(n_2))$$

$$cov_{XY}(n_1,n_2) = E(|X(n_1)-\mu_X(n_1)|^*|Y(n_2)-\mu_Y(n_2)|)$$

接著介紹幾個在訊號處理中常用的一些概念。由於隨機訊號$X(n)$可以看成是無限維度的隨機向量，因此如果$p_X(x_1,...,x_N;n_1,...,n_N) = p_X(x_1;n_1)p_X(x_2;n_2)\cdots p_X(x_N;n_X)$則稱$X(n)$是獨立同分布(independent and identically distributed,I.I.D.)的隨機訊號。如果$X(n)$在任何不同時刻的共變異數都為零，即:

$$cov_X(n_1,n_2) = 0, \forall n_1 \neq n_2$$

將兩者的聯合機率密度和其各自機率密度有如下關係:

$$p_XY(x,y;n_1,n_2) = p_X(x;n_1)p_Y(y;n_2),\forall n_1,n_2$$

則稱$X(n)$和$Y(n)$是統計獨立的。進一步若$p_X(x;n_1)$和$p_Y(y;n_2)$是相同的函數，則稱$X(n)$和$Y(n)$是I.I.D.的隨機訊號。如果$cov_{XY}(n_1,n_2) = 0,\forall n_1 \neq n_2,$我們稱訊號$X(n)$和$Y(n)$是不相關的。由於:

$$cov(n_1,n_2) = E(X^*(n_1)Y(n_2)) - E(X^*(n_1))\mu_Y(n_2) - \mu_X^*(n_1)E(Y(n_2)) + \mu^*_X(n_1)\mu_Y(n_2) = E(X^*(n_1)Y(n_2)) - \mu^*_X(n_1)\mu_Y(n_2)$$

所以若$X(n)$和$Y(n)$是不相關的，必有$E(X^*(n_1)Y(n_2)) = \mu^*_X(n_1)\mu_Y(n_2),$即$r_{XY}(n_1,n_2) = \mu^*_X(n_1)\mu_Y(n_2),$如果:

$$r_{XY}(n_1,n_2) = 0,\forall n_1 \neq n_2$$

我們稱訊號$X(n)$和$Y(n)$是互相正交的。