system: [SYSTEM]

user: 5. 特征优选 增加特征的维数，在一定程度上降低了误识率，但是也大大增加了系统的计算负担，MSF特征有30维，全部用于识别，会导致识别时间过长，无法实现实时应用，虽然利用对多分形谱结构的分析，将MSF的特征减少到了6维，但如果加上其它传统特征，维数仍然很高。 目前，常用的语音特征有基音，共振峰，LPC及LPCC (Linear Prediction Cepstrum Coefficient，线性预测倒谱系数)，MFCC，PLP (Perceptual Linear Predictive，感知线性预测)等参数。许多文献 [ 9 ] [ 10 ] [ 11 ] [ 12 ] 通过综合运用加权、微分、组合等方法，进行二次特征提取，在一定程度上提高了系统识别性能，但是随之而来的是过高的系统消耗。另外，有文献通过因子分析、主成分分析 [ 13 ] 、线性判别分析 [ 14 ] 、聚类分析、相关分析等方法选择最优的特征参数组合。但是以上方法所选择的特征维数仍然很高，使系统在实用化方面受到影响。 特征选择 [ 15 ] 在模式识别中方法很多，从特征集合的评价策略上主要可分滤波器(Filter)方法和嵌入式(Wrapper)方法，这两者的区别在于特征的评价准则是否以分类器性能为准则，如果以分类器性能为准则就是Wrapper方法，否则就属于Filter方法。本文基于Wrapper方法，采用启发式搜索策略中的序列前向选择方法(Sequential Forward Selection SFS)，利用贪婪算法，挑选出13维左右特征，在不显著增加误识率的前提下，极大提高了系统的识别效率。 5.1. 特征优选算法 假设特征集合中共有W维特征，本文优选特征基本策略是：每一轮计算都从特征集合中找到一维最低误识率对应的特征，并在下一轮与特征集合中的其它特征依次组合，计算误识率，每一轮得到的优选特征组合起来成为最终的特征S。其计算流程如图5所示。设有N个说话人，每个说话人GMM模型参 数用 λ k 表示，其中 k = 1 ， 2 ， ⋯ ， N 。特征集合用T表示， T = { t 1 ， t 2 ， ⋯ ， t j ， ⋯ ， t W } ，其中 t j 是一维特征矢量， j = 1 ， 2 ， ⋯ ， W 。 t j ， k 表示第k个说话人对应的第j维特征参数，挑选的特征集合用 S = { s 1 ， s 2 ， ⋯ } 表示，初始时S为空。 1) 初始化，令 i = 0 ，S为空，预定达到的误识率为R，预定挑选特征的数目为K； 2) 依次取 j = 1 ， 2 ， ⋯ ， W ，即从T中的取 t j 与S组合，作为训练和识别的特征 τ j ，不同说话人的特征用 τ j ， k 表示； 3) 利用 τ j ， k 训练得到每个说话人的GMM参数 λ j ， k ，并做识别实验，得到 τ j 对应的误识率 r j ； 4) j 依次取1至W，得到一组误识率 r j 。令 i = i + 1 ，取最小的误识率 min { r j } 对应的特征 t J 为此轮挑选的特征 ，即 s i = t J ，将 s i 加入S中，即 S = S + s i ，并在T中去掉 τ J ，即 T = T − t J 。 5) 如果 min { r j } > R 而且 i < K ，那么回到第(2)步，重复(2)到(4)步，如果 min { r j } ≤ R 或者 i ≥ K ，则输出S。 图5. 特征挑选算法流程图 5.2. 实验结果 实验仍选用TIMIT数据库，共500句语音，训练GMM模板的语音250句，其中挑选特征时选用125句，测试优选特征识别率时选用另外的125句，这样使得挑选特征的数据集与测试特征的数据集不同，以保证结果的可信性。 初始特征集合包括：30维MSF，13维MFCC，13维MFCC一阶差分，13维MFCC二阶差分，16维LPC和16维LPCC，共101维，依次用：MSF1...MSF30；MFCC1…MFCC13，MFCC_D1… MFCC_D13；MFCC_ DD1…MFCC_DD13；LPC1…LPC16；LPCC1… LPCC16表示。目标误识率预定为0%，最大挑选特征集合维数为13。之所以设定为13，是为了便于与其它特征的误识率进行比较，另外实验发现，当挑选的特征维数超过13维时，误识率的降低变得不明显。 Table 2 False acceptance rate of the selection features from 101 dimensional features se 特征 LPC6 LPCC9 MSF17 LPC3 MFCC12 MFCC11 LPC15 误识率 84% 57.6% 43.2% 30.4% 18.4% 11.2% 7.2% 特征 LPC9 MSF11 MFCC_DD10 LPCC1 LPC12 MFCC_D8 误识率 5.6% 4.8% 4.0% 3.2% 2.4% 1.6% 表2. 从101维特征中依次挑选出的特征及误识率 由表2可以看出，挑选的特征中，LPC特征有5维，MFCC，LPCC，MSF分别有2维，其余特征各1维。当选用前7维特征时，误识率已经低于单独使用13维MFCC或16维LPC的误识率，达到7.2%；当选用前12维特征时，误识率低于29维MFCC和LPC特征组合的误识率，达到2.4%；选用前13维特征时，误识率达到1.6%，略高于35维MSF+MFCC+LPC组合的误识率。 从101维特征中挑选13维特征仍然十分耗时，观察挑选特征的分布，只从MSF，MFCC，LPC三种特征，共59维特征中优选特征，目标误识率预定为0%，最大挑选特征集合维数为13。 Table 3 False acceptance rate of the selection features from 59 dimensional features se 特征误识率 LPC6 84% LPC3 59.2% LPC10 40% MSF13 24.8% LPC15 19.2% LPC8 13.6% LPC4 9.6% 特征 MSF27 MFCC7 LPC13 MFCC10 MSF2 MFCC12 误识率 5.6% 4.0% 3.2% 3.2% 2.4% 2.4% 表3. 从59维特征中依次挑选出的特征及误识率 由表3可以看出，从59维特征集合中挑选的特征，LPC特征有7维，MFCC，MSF分别有3维。与表2比较，虽然挑选出的特征有所不同，但对应维数的识别率相差不大，最高识别率略低于表2。 优选特征的计算复杂度与特征集合的总特征维数有关，维数越高，计算耗时越长，本文最后设计一种特征优选方法，将特征集合一分为二，分别优选出一组特征，然后再结合起来进行识别。本文实验是将59维特征集合分成30维MSF集合和29维线性特征集合，并运用贪婪策略分别优选特征3维和10维，结果如表4，表5所示，然后结合成13维特征进行识别，最终误识率为3.2%。 Table 4 False acceptance rate of the selection features from 30 dimensional MS 特征 MSF19 MSF11 MSF13 误识率 88.8% 76% 74.4% 表4. 从30维MSF中依次挑选出的特征及误识率 Table 5 False acceptance rate of the selection features from 29 dimensional MFCC+LP 特征 LPC6 LPC3 LPC10 MFCC3 MFCC9 误识率 84% 59.2% 40% 28% 20% 特征 MFCC4 MFCC12 LPC13 MFCC6 LPC9 误识率 16% 11.2% 10.4% 6.4% 6.4% 表5. 从29维MFCC+LPC中依次挑选出的特征及误识率 5.3. 计算时间分析 在训练阶段，GMM包括：去均值，计算协方差矩阵，计算正交转换矩阵，正交化变换训练特征，初始化高斯分布，EM算法重估高斯混合模型的参数等，计算复杂度为： O ( L * d 2 ) + O ( d 3 ) + O ( d * M ) + O ( I * L * d * M ) + O ( I * L * M 2 ) 其中，d为特征参数的维数，M为混合阶数，I是EM过程的迭代数，L是与语音长度相关的帧数。 在识别阶段，GMM需要计算每一个人的模型得分，计算复杂度为： O ( N * L * d 2 ) + O ( N * L * d * M ) 其中N为总的说话人数量。 分析可知，特征维数d对于计算时间的影响非常大。因此，与十几维甚至几十维的特征参数相比，本文选用的13维特征参数可以将训练和识别的速度大大提高，同时也减少每个说话人GMM模型的存储空间。实验显示在MATLAB平台上，用13维特征训练和识别一个说话人的平均时间大约为10秒，而用35维MSF + MFCC + LPC特征训练和识别一个说话人的平均时间大约为72秒。因此，优选的特征在不明显增加误识率的基础上，能大大提高计算速度。