随机讯号

随机讯号（stochastic signals）不能以一个确切的数学公式来描述，也不能准确地预测。因此对于随机讯号一般只能在统计的意义上来研究。不论是工程上或是日常生活当中随机讯号的例子有很多，例如无线通讯系统中的噪音与干扰、生物医学讯号以及语音讯号都是随机的，以下将讨论随机讯号的基本概念与描述方法。

## 基本概念

从几率论可知我们可用一个随机变量$X$来描述自然界中的随机事件，若$X$的取值为连续，则$X$为连续型随机变量；若$X$的取值为离散，则$X$为离散型随机变量。对于随机变量$X$，我们一般用它的分布函数及几率密度来描述。

### 分布函数

对于随机变量$X$，我们可用几率分布函数来表示，其数学描述为:

$$P(x) = Probability(X \leqslant x) = Probability(X \in (-\infty,x])$$

$P(x)$有以下最基本的性质:

- $$0 \leqslant P(x) \leqslant 1;$$
- $$P(-\infty) = 0;$$
- $$P(\infty) = 1;$$
- 若 $x \leqslant y$，则 $P(x) \leqslant P(y).$

若$X$为连续随机变量，可定义几率密度函数:

$$p(x) = \frac{\mathrm{d}P(x)}{\mathrm{d}x}$$

明显分布函数与密度函数的关系为:

$$P(x) = \int_{-\infty}^{x} p(v)\mathrm{d}v$$

密度函数有以下基本的性质:

- $$p(x) \geqslant 0;$$
- $$\int_{-\infty}^{\infty} p(x)\mathrm{d}x = 1;$$
- $$P(b) - P(a) = \int_{a}^{b} p(x)\mathrm{d}x.$$

### 平均值与标准差

定义随机变量$X$的平均值:

$$\mu_X = E(X) = \int_{-\infty}^{\infty} xp(x)\mathrm{d}x$$

定义随机变量$X$的标准差的平方:

$$\sigma_X^2 = E(|X - \mu_X|^2) = \int_{-\infty}^{\infty} |x-\mu_X|^2p(x)\mathrm{d}x$$

定义随机变量$X$的平方平均数:

$$D_X^2 = E(|X|^2) = \int_{-\infty}^{\infty} |x|^2p(x)\mathrm{d}x$$

若$X$为离散随机变数则以上运算变为求和。

### 矩

定义随机变数$X$的m阶原点矩:

$$\eta_X^m = E(|X|^m) = \int_{-\infty}^{\infty} |x|^mp(x)\mathrm{d}x$$

再定义随机变数$X$的m阶中心矩:

$$\gamma_X^m = E(|X - \mu_X|^m) = \int_{-\infty}^{\infty} |x-\mu_X|^mp(x)\mathrm{d}x$$

平均值、标准差及矩都是随机变量的数字特征，可利用它们来描述随机变数，例如平均值可代表$X$取值的中心位置，标准差表示了$X$的取值相对平均值的分散程度。

### 随机向量

N个随机变量组成的向量$X = [X_1,X_2,...,X_N]^T$称为随机向量，它是研究多个随机变量的联合分布以及进一步将随机变量理论推广到随机讯号的重要工具。随机向量的平均值为各分量的平均值所组成的平均值向量:

$$\mu_X = [\mu_{X1},\mu_{X2},...,\mu_{XN}]^T,\mu_{Xi} = E(X_i)$$

而标准差的平方会形成矩阵:

$$E((X-\mu_X)(X-\mu_X)^T)= \begin{bmatrix} \sigma_1^2 & cov(X_1,X_2) & \cdots & cov(X_1,X_N) \\ cov(X_2,X_1) & \sigma_2^2 & \cdots & cov(X_2,X_N) \\ \vdots & \vdots & \ddots & \vdots \\ cov(X_N,X_1) & cov(X_N,X_2) &\cdots & \sigma_N^2 \end{bmatrix}$$

式中$cov(X_i,X_j) = E((X_i-\mu_{Xi})^*(X_j-\mu_{Xj}))$称为分量$X_i$与$X_j$之间的共变异数。

## 随机讯号的描述

为了了解接下来的说明因此我们需要举一个例子。现在想像一个直流放大器的输出，当输入接地时输出应该为零，然而现实中放大器会产生噪声使得输出不为零，该噪声就是一个随机讯号，因此当我们在相同的条件下独立地进行多次观察时，各次观测到的结果应该互不相同。为了全面地了解输出噪声的特性，我们应该要在相同的条件下，独立地尽可能做多次的观测，这相当于在同一时刻对尽可能多的相同放大器各做一次观察一样。这样我们每一次的观察都能得到一个记录$x_i(t)$，其中$i = 1,2,...,N;N\rightarrow\infty$。如果我们把对噪声电压的观测看做为一个随机试验，那么每一次的记录都是该随机试验的一次实现，其结果$x_i(t)$就是一个样本函数。所有样本函数的集合$i = 1,2,...,N;N\rightarrow\infty$就构成了噪声电压可能经历的整个过程，该集合就是一个随机讯号$X(t)$。

对一个特定的时刻，例如$t=t_1$显然$x_1(t_1),x_2(t_1),...,x_N(t_1)$是一个随机变量，它相当于在某一固定时刻同时测量无限多个相同放大器的输出电压，对于任一固定的时刻，输出电压也是一个随机变量。因此一个随机讯号$X(t)$是与时间相关的随机变量，接下来我们可用随机变量来描述随机讯号。当t在时间轴上取值$t_1,t_2,...,t_m$时，我们可得到m个随机变量$X(t_1),X(t_2),...,X(t_m)$，显然要描述这m个随机变量最全面的方法是利用m维几率分布函数或几率密度:

$$P_X(x_1,x_2,...,x_m;t_1,t_2,...,t_m) = P(X(t_1) \leqslant x_1,X(t_2) \leqslant x_2,...,X(t_m) \leqslant x_m)$$

当m趋近于无限大时上式能完整地描述了随机讯号$X(t)$。但是在工程上要得到随机讯号的高维分布函数或几率密度是相当繁琐的，因此在实际工程问题中对于随机讯号的描述除了采用低维的分布函数或几率密度之外还使用了平均值、标准差或矩等数字特征。对上述例子中的随机讯号$X(t)$离散化，我们得到离散随机讯号$X(nT_s)$(以下简记为$X(n)$)，对$X(nT_s)$的每一次实现，记为$x(n,i),n = -\infty \thicksim \infty$代表时间，$i = 1,2,...,N(N\rightarrow\infty)$代表实现的序号，即样本数。对于$x(n,i)$可有如下四种不同的解释:

- 若n固定，则$x(n,i)$相对纯量i的集合为n时刻的随机变量
- 若i固定，则$x(n,i)$相对纯量n的集合构成一个一维的离散时间序列，即$x(n)$
- 若n固定，i也固定，则$x(n,i)$是一个具体的数值
- 若n为变量，i也为变量，则$x(n,i)$是一个随机讯号

### 统计描述

显然$X(n)$的平均值、标准差等数字特征均是时间n的函数，平均值可表示为

$$\mu_X(n) = E(X(n)) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N x(n,i)$$

标准差的平方为

$$\sigma_X^2(n) = E(|X(n) - \mu_X(n)|^2) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N |x(n,i)-\mu_X(n)|^2$$

平方平均数为

$$D_X^2(n) = E(|X(n)|^2) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N |x(n,i)|^2$$

$X(n)$的自相关函数定义为

$$r_X(n_1,n_2) = E(X^*(n_1)X(n_2)) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N x^*(n_1,i)x(n_2,i)$$

共变异函数定义为

$$cov_X(n_1,n_2) = E([X(n_1)-\mu_X(n_1)]^*[X(n_2)-\mu_X(n_2)]) = \lim_{N \to \infty}\frac{1}{N}\sum_{i=1}^N [x(n_1,i)-\mu_X(n_1)]^*[x(n_2,i)-\mu_X(n_2)]$$

上面五式的求均值运算体现了随机讯号的集总平均，该集总平均是由$X(n)$的无限多样本$x(n,i),i = 1,...,\infty$在相应时刻对应相加(或相乘后再相加)来实现的。其中自相关函数$r_X(n_1,n_2)$描述了讯号$X(n)$在这$n_1,n_2$两个时刻的相互关系，是一个重要的统计量。若$n_1=n_2=n,$则:

$$r_X(n_1,n_2) = E(|X(n)|^2) = D_X^2(n)$$

$$cov_X(n_1,n_2) = E(|X(n)-\mu_X(n)|^2) =\sigma_X^2(n)$$

对两个随机讯号$X(n),Y(n),$其相关函数和共变异函数分别定义为:

$$r_{XY}(n_1,n_2) = E(X^*(n_1)Y(n_2))$$

$$cov_{XY}(n_1,n_2) = E(|X(n_1)-\mu_X(n_1)|^*|Y(n_2)-\mu_Y(n_2)|)$$

接着介绍几个在讯号处理中常用的一些概念。由于随机讯号$X(n)$可以看成是无限维度的随机向量，因此如果$p_X(x_1,...,x_N;n_1,...,n_N) = p_X(x_1;n_1)p_X(x_2;n_2)\cdots p_X(x_N;n_X)$则称$X(n)$是独立同分布(independent and identically distributed,I.I.D.)的随机讯号。如果$X(n)$在任何不同时刻的共变异数都为零，即:

$$cov_X(n_1,n_2) = 0, \forall n_1 \neq n_2$$

将两者的联合几率密度和其各自几率密度有如下关系:

$$p_XY(x,y;n_1,n_2) = p_X(x;n_1)p_Y(y;n_2),\forall n_1,n_2$$

则称$X(n)$和$Y(n)$是统计独立的。进一步若$p_X(x;n_1)$和$p_Y(y;n_2)$是相同的函数，则称$X(n)$和$Y(n)$是I.I.D.的随机讯号。如果$cov_{XY}(n_1,n_2) = 0,\forall n_1 \neq n_2,$我们称讯号$X(n)$和$Y(n)$是不相关的。由于:

$$cov(n_1,n_2) = E(X^*(n_1)Y(n_2)) - E(X^*(n_1))\mu_Y(n_2) - \mu_X^*(n_1)E(Y(n_2)) + \mu^*_X(n_1)\mu_Y(n_2) = E(X^*(n_1)Y(n_2)) - \mu^*_X(n_1)\mu_Y(n_2)$$

所以若$X(n)$和$Y(n)$是不相关的，必有$E(X^*(n_1)Y(n_2)) = \mu^*_X(n_1)\mu_Y(n_2),$即$r_{XY}(n_1,n_2) = \mu^*_X(n_1)\mu_Y(n_2),$如果:

$$r_{XY}(n_1,n_2) = 0,\forall n_1 \neq n_2$$

我们称讯号$X(n)$和$Y(n)$是互相正交的。