声学模型

**聲學模型**（Acoustic model）是語音識別系統中最為重要的部分之一，目前的主流系統多採用隱馬爾科夫模型進行建模。
隱馬爾可夫模型的概念是一個離散時域有限狀態自動機，隱馬爾可夫模型 HMM 是指這一馬爾可夫模型的內部狀態外界不可見，外界只能看到各個時刻的輸出值。對語音識別系統，輸出值通常就是從各個幀計算而得的聲學特徵。用 HMM 刻畫語音信號需作出兩個假設，一是內部狀態的轉移只與上一狀態有關，另一是輸出值只與當前狀態（或當前的狀態轉移）有關，這兩個假設大大降低了模型的複雜度。HMM 的打分、解碼和訓練相應的算法是前向算法、維特比算法和前向後向算法。

## 輸出概率

聲學模型的輸入是由特徵提取模塊提取的特徵。一般來說，這些特徵是多維的向量，並且其取值可以是離散或連續的。早期的聲學模型常常採用矢量量化 (Vector Quantification) 的方法，將信號直接映射到某個碼本 $k$ ，而後再計算某個模型 $j$ 輸出該碼本的概率 $b_{j}(k)$ 。但是這一方法是比較粗糙的，其性能受到 VQ 算法的極大影響，如果 VQ 本身性能就很差，聲學模型的估計就會很不準確。因此，對於連續取值的特徵應當採用連續的概率分布。由於語音信號特徵的分布並不能用簡單的概率分布，例如高斯分布等來直接描述，故而常用高斯混合模型或混合拉普拉斯模型等方法對語音信號的分布進行擬合。在此，高斯混合分布可以表示為若干高斯分量 $G_{i}$ 的加權組合。即：

　
: $G(x)=\sum _{i=1}^{n}w_{i}\cdot G_{i}(x)$

其中 $G_{i}(x)$ 是均值為 $\mu _{i}$ 方差為 $\sigma _{i}$ 的高斯分布。從數學角度看，當 $i$ 趨向於無窮時，任何連續分布都可以用混合高斯模型來逼近。但是，高斯混合模型也存在著問題，那就是其計算量偏大。假設對於一個包含 $n$ 個混合分量的高斯混合模型，其維度為 $m$ 維，那麼至少要進行 $m\times n$ 次運算才能得到結果，如果有 $i$ 個模型需要計算，那麼時間複雜度就是 $O(mnk)$ 。相比之下，離散 HMM 就相對簡單，只需要進行一次 VQ，再進行 $i$ 次查表操作，就能夠計算所有模型的概率值。因此，也出現了將二者結合起來的半連續隱馬模型。其思路是輸出概率不僅僅由 $b_{j}(k)$ 來決定，還乘上了 VQ 的概率，亦即該信號屬於次碼本的概率。

從精確度上看，連續隱馬模型要優於半連續隱馬模型，而半連續隱馬模型又優於離散隱馬模型。從算法複雜度上來看則正好相反。

高斯混合模型（Gaussian Mixture Model, GMM）是語音信號處理中的一種常用的統計模型，該模型的一個基本理論前提是只要高斯混合的數目足夠多，一個任意的分布就可以在任意的精度下用這些高斯混合的加權平均來逼近。一個包含 M 個分量的高斯混合分布的概率密度函數是 M 個高斯概率密度分布函數的加權組合，定義為:

　
: $p(x|\lambda )=\sum _{i}^{M}\omega _{i}p_{i}(x)$

其中的 $x$ 是 $D$ 維隨機矢量， $p_{i}(x),i=1,2,\cdots ,M$ 為 $M$ 個概率密度函數分量， $\omega _{i},i=1,2,\cdots ,M$ 為各個概率密度函數分量的權重。在上式中，每個概率密度函數分量 $p_{i}(x)$ 都服從 $D$ 維高斯分布，即

　
: $p_{i}(x)={\frac {1}{(2\pi )^{D/2}|\Sigma _{i}|}}\exp \left\{-{\frac {1}{2}}(x-\mu _{i})'\Sigma _{i}^{-1}(x-\mu _{i})\right\}$

其中， $\mu _{i}$ 表示該高斯分量的均值， $\Sigma _{i}$ 表示該高斯分量的協方差矩陣。另外，為了滿足概率密度函數分布的要求，上式中各個概率密度函數分量的權重必須滿足 $\sum _{i=1}^{M}w_{i}=1$ 的要求。

在高斯混合模型中，每一個高斯概率密度函數分量 $p_{i}(x)$ 都可以由其權重 $w_{i}$ 、均值 $\mu _{i}$ 和協方差矩陣 $\Sigma _{i}$ 來描述。這樣，一個完整的 $M$ 分量混合的高斯分布就可以由以下的三元組集合來表示：

　
: $\lambda =\left\{w_{i},\mu _{i},\Sigma _{i}\right\}\quad \quad i=1,2,\cdots ,M$

GMM 模型的主要問題為訓練問題，亦即參數估計問題數估計，使得 GMM 模型和訓練數據之間達到最佳的匹配程度。GMM 的參數估
計方法有多種方法，其中應用最廣泛的是基於最大似然準則 (Maximum Likelihood Estimation, MLE) 的方法。

對於一段給定的訓練語音特徵序列 $O=O_{1},O_{2},\cdots ,O_{T}$ ，GMM 模型的似然度定義為：

　
: $p(O|\lambda )=\prod _{t=1}^{T}p(O_{t}|\lambda )$

最大似然估計的主要思想就是要找到使得 GMM 模型對於訓練語料的似然度最大的模型參數 $\lambda $ 。同 HMM 的訓練類似，GMM 訓練也可以通過 EM 進行訓練，其模型參數更新公式為：

　
: ${\hat {w}}_{i}={\frac {1}{T}}\sum _{t}^{T}p(i|x_{t},\lambda )$

　
: ${\hat {\mu }}_{i}={\frac {\sum _{t=1}^{T}p(i|x_{t},\lambda )x_{t}}{\sum _{t=1}^{T}p(i|x_{t},\lambda )}}$

　
: ${\hat {\sigma }}_{i}={\frac {\sum _{t=1}^{T}p(i|x_{t},\lambda )x_{t}^{2}}{\sum _{t=1}^{T}p(i|x_{t},\lambda )}}-{\hat {\mu }}_{i}^{2}$

 
其中 $p(i|x_{t},\lambda )$ 表示 $x_{t}$ 屬於第 $i$ 個高斯分量的後驗概率。而 $w_{i},\mu _{i},\sigma _{i}^{2}$ 分表表示上一步迭代中模型的
權重、均值、協方差矩陣，而 ${\hat {w_{i}}},{\hat {\mu _{i}}},{\hat {\sigma }}_{i}^{2}$ 則是更新後的對應參數。 $p(i|x_{t},\lambda )$ 的定義為：

　
: $p(i|x_{t},\lambda )={\frac {w_{i}p_{i}(x_{i})}{\sum _{k=1}^{M}w_{k}p_{k}(x_{i})}}$

如果隨機矢量各維間的是獨立的，那麼可以採用對角協方差陣，亦即僅估計方差。這種方法能夠極大減少模型參數，讓模型訓練更加充分。同時，需要注意的是，在某些情況下，對角協方差陣可能會出現非常小的方差值，從而使得協方差陣奇異。因此在訓練對角協方差陣的時候必須採用最小方差約束。亦即當新估計出的某維方差 ${\hat {\sigma }}_{i}$ 小於設定 $\sigma _{min}$ 時，讓 ${\hat {\sigma }}_{i}$ 等於 $\sigma _{min}$ 。

在聲學模型訓練中常用 GMM 為狀態輸出概率建模，同時 GMM 也常用於其他聲音分類任務中，例如聲音分割與分類，說話人識別等。

## 模型拓撲結構

由於語音的時序性，隱馬模型的拓撲結構一般都取為自左向右的結構。一般每個狀態都包括自跳轉弧。是否允許跨狀態
跳轉則沒有一個定論。

下圖是典型的模型拓撲結構示意圖。

狀態個數的選擇對於系統性能的影響是很大的。

## 建模單元選擇

聲學模型的建模單元的選擇需要考慮三方面的因素。其一是該單元的可訓練性，亦即是否能夠得到足夠的語料對每個單元進行訓練，以及訓練所需要的時間長短是否可接受。其二是該單元的可推廣性，當語音識別系統所針對的詞彙集 ${\mathcal {W}}$ 發生變化時，原有建模單元是否能夠不加修改的滿足新的詞彙集 ${\mathcal {W'}}$ 。最後還需要考慮建模的精確性。

根據時間尺度的長短，建模單元可以選擇為句子，短語，詞，音節，音子乃至更小的半音子。一般可以認為有這樣的原則，
時間尺度越短的建模單元，其可訓練性及推廣性就越強，而時間尺度越長的單元，其精確性就越強。同時，可以看出，句子、
短語、詞三個概念是語言學上的概念，而音節、音子則是語音學上的概念，一般來說，如果聲學模型所針對的應用環境不是
確定詞彙量的系統，那麼採用語言學的概念的建模單元是不具備推廣性的。

為了將協同發音現象 (Coarticulation) 融入建模中，上下文相關的建模單元 (Context Dependent Modeling Units, CD uinits) 是一個很好的選擇。其思路是，對於某個音子 _ah_，根據上下文的不同將其拆分成不同的建模單元。例如，用 _b-ah+d_ 表示 _ah_ 在 _b_ 之後，_d_ 之前發音的具體實現。上下文的選擇方法有很多，最常見的是三音子建模單元，也就是考慮左上文右下文各一個音子，加上中心音子形成三音子對。

上下文相關建模大大提高了建模的準確性，但是同時也使得模型數量急劇膨脹，使得模型的可訓練性大大降低。為了解決這一
問題，就需要引入某些聚類算法來減少模型中需要訓練的參數。

## 聚類方法

為了解決模型參數過多的問題，可以使用某些聚類方法來減小模型中的參數數量，提高模型的可訓練性。聚類可以在模型層次，
狀態層次乃至混合高斯模型中每個混合的層次進行。可以將半連續隱馬模型看作進行高斯混合進行聚類後的連續隱馬模型。目前
應用最多的方法是對狀態聚類的方法。其思路是，根據狀態間混合高斯模型概率輸出的相似性，將輸出概率接近的狀態聚合在
一起，以便對其的訓練更加充分。聚類的方法有基於規則的方法和數據驅動方法兩類。

聚類後的狀態被稱為 Senone，每個 Senone 都是完整獨立的高斯混合模型，它也是解碼過程中的最基本單元。

## 參數估計

傳統上，參數估計使用的方法為 Baum-Welch 算法，屬於最大似然準則下的 EM 算法。目前研究者提出了多種區分性訓練方法（仍然屬於產生式模型，但使用區分性準則）進行訓練，取得了較好的效果。

## 參考資料