system: [SYSTEM]

user: 4. 实验 在算法具体实现和计算上，本文选择了林智仁等开发的支持向量机(SVM)程序库LIBSVM [ 8 ]，LIBSVM是一个有关SVM回归与模式识别算法的Matlab软件包，它提供了ν-支持向量机、C-支持向量机、分布估计(one-class SVM)以及两种SVM回归算法ϵ-支持向量回归和ν-支持向量回归问题的具体计算方法和实现细节。 首先我们选择昌岗.10 KV IIA母线(changgang.10MM2A)进行建模分析。通过changgang.10MM2A母线一年电压数据时间序列图，如图1，直观上可以看出电压序列具有明显的周期性特征。 根据上面的讨论，我们需先确定一个合适的训练样本维度m，考虑到电压的周期性，我们先取m = 7进行训练样本提取并建模。 图1. changgang.10MM2A母线12个月电压数据时序图 4.1. 数据预处理 首先提取changgang.10MM2A一年电压数据，针对LIBSVM包中对数据格式要求，将电压数据处理为一个矩阵形式。其中，矩阵的行数为96，每一列依次对应一天中从00:00:00开始每隔15分钟的电压数据，而行数为一年中有记录changgang.10MM2A电压值的天数，由于本文源数据中母线changgang.10MM2A只含有363天数据，因此最终得到一个96 × 363矩阵。 接下来我们对矩阵中缺失值进行处理，考虑到电压的规律性，在每天同一时刻数据较为接近，且支持向量机的鲁棒性较好，数据微小波动对模型训练非常有限，因此我们采取用缺失值所在时刻一年平均值 V m i s s = ∑ V i (4.1) 进行填补，当有多个缺失值时，可对全部缺失值赋值为所有不为0的电压数值均值。 4.2. 模型效果测量指标 为了对训练出的模型进行评价以及进一步优化参数，我们需要设定一些模型效果的测量指标。对于分类问题而言，常可以选择预测的正确率来衡量模型优劣，由于本文中电压序列回归数据位连续数据值，因此我们考虑用以下指标评估模型预测性。 设 ( V i ， V i + 1 ， ⋯ ， V i + n ) 为测试数据， ( V ˜ i ， V ˜ i + 1 ， ⋯ ， V ˜ i + n ) 为根据支持向量机回归估计出的模型计算得到的预测值。 均方差 MSE = 1 n ∑ i = 1 n ( V i − V ˜ i ) 2 (4.2) 以及平方相关系数 r 2 = ( ∑ i = 1 n ( V i − V ¯ i ) ( V ˜ i − V ˜ ¯ i ) ) 2 ∑ i = 1 n ( V i − V ¯ i ) 2 ∑ i = 1 n ( V ˜ i − V ˜ ¯ i ) 2 (4.3) 4.3. 模型参数确定和优化 采用支持向量机求解回归问题，在使用进行模型训练前，关键是核函数与参数的选择。 本质上SVM是基于核的方法，因此核函数选择对模型效果有相当重要影响，有时候选择不同核对结果预测差别很大，而对于核函数的选择并无统一理论进行指导，一般以经验和实验结果进行选择，本文中选择具备良好性态和较小运算复杂度 [ 9 ] [ 10 ] 的RBF核函数 K ( x i ， x i ) = exp ( − γ ‖ x i − x j ‖ 2 ) (4.4) 作为模型核函数。 接下来对惩罚参数C和核函数 γ 选择，我们在设定的一个较大的范围内将参数取值C和 γ 的离散值，以较大步长对全体离散点组合进行格点搜索。在每个点上采取K-fold cross Validation (K-CV)交叉验证方法进行实验，即将原始分拆成K组，将每组子集做一次验证集，同时其余K-1组作为训练集训练模型，用验证集进行性能评价，最后取K组的均方差的均值 MSE ¯ = 1 K ∑ i = 1 k MSE i (4.5) 以及K组平方相关系数的均值 r 2 ¯ = 1 K ∑ i = 1 k r i 2 (4.6) 作为此组参数(C， γ )的性能评价标准，对所有格点搜索完后，取在交叉验证法思想下测试集上表现最好的组合。虽然有可能此时的参数选择不是全局最优，但是结合时间和准确度考虑，目前交叉验证算法是非常理想的参数选择方法。 进一步，在大致得出一个粗略的优化参数组合( C 1 ， γ 1 )后，我们以此参数组合为中心划出一个小范围区域，再利用小的搜索步长对此小区域进行格点搜索，同样利用K-CV交叉验证法得到进一步优化的参数组合( C 2 ， γ 2 )。将此过程循环N次，可以得到效果相对最优的参数组合( C n ， γ n )。 本次实验针对changgang.10MM2A母线训练集参数选择过程如下表1，考虑到样本数不多，K取K-CV交叉验证法的下限值3。 Table 1 Parameter selection process of changgang.10MM2A training set ( C ， γ C的搜索区间 γ 的搜索区间 步长p 运行最优C值 运行最优 γ 值 2-20-220 2-20-220 2 0.25 4 2-10-210 2-10-210 1 0.125 4 2-10-25 2-4-210 0.5 0.088388 5.6569 2-6-2-2 20-24 0.25 0.0625 8 2-6-2-2 20-24 0.15 0.066986 4.2871 2-6-2-2 20-24 0.1 0.0625 6.9644 2-6-2-2 20-24 0.05 0.0625 6.9644 表1. changgang.10MM2A母线训练集 ( C ， γ ) 参数选择过程 通过七次对区域范围和步长的缩小搜索，我们得到了一个较优化的参数组合 ( C ， γ ) = ( 0.0625 ， 6.9644 ) 。 再考虑对损失函数参数 ε 进行确定，在此我们不妨设定上一步得到的优化参数组合 ( C ， γ ) = ( 0.0625 ， 6.9644 ) ，同时对损失函数参数赋不同值进行计算比较，选取最优的组合，分别取 ε = 1 ，0.5，0.3，0.1，0.05，0.01，0.005，如表2。 Table 2 Parameter selection process of changgang.10MM2A training set ε 平方相关系数 1 3.79561e−012 0.5 3.79561e−012 0.3 3.79561e−012 0.1 0.95049 0.05 0.957721 0.01 0.9674 0.005 0.966379 表2. changgang.10MM2A母线训练集 ε 参数选择过程 由表2实验结果数据可知，在参数 ( C ， γ ) 取值(0.0625， 6.9644)情况下， ε 取值较大时，对损失函数几乎无约束力，取值 ε 减少至0.1附近时模型效果显著增强。在 ε 取值逐渐减少时，平方相关系数表现出先增大后减小的趋势。这是由于当损失函数取值较大时，参与回归的支持向量数量较少，使得模型没有得到较高程度的拟合，而随着 ε 取值减少，这时参与回归的支持向量数量增加，模型复杂化后出现过拟合。因此我们取损失函数参数 ε = 0.01 ，这时拟合效果在几组实验数据中表现最佳，平方相关系数最高。 综合上述实验，我们初步确定本次特征提取实验模型，模型核函数为RBF核函数，损失函数参数 ε = 0.01 ，惩罚参数 C = 0.0625 ，核函数参数 γ = 6.9644 。 4.4. 电压特征曲线提取 根据上节确定的模型参数，即取RBF核函数，损失函数参数 ε = 0.01 ，惩罚参数 C = 0.0625 ，核函数参数 γ = 6.9644 ，我们对基于2012年12月31日时间截面对电压特征曲线进行提取，并将数据按照96个时间点序列绘图如下图2。 图2. changgang.10MM2A电压特征曲线 我们可以选取每个主变的一根代表母线。之后我们需要提取每个主变的电压特征曲线，即采取支持向量机回归算法对选取出的母线进行电压预测。 4.5. 特征曲线建模聚类 依据上两节数据预处理提取数据后，我们得到了广州市AVC系统574个10 KV主变在本次数据最新时间点截面的日电压特征曲线，即含96个时间点的日电压特征向量。 待聚类对象574个主变的集合 V = ( V 1 ， V 2 ， ⋯ ， V 574 ) (4.7) 其中对象参数为 V n = ( V n ， 1 ， V n ， 2 ， ⋯ ， V n ， 574 ) (4.8) 按照上节原理定义其距离测度 d ( V m ， V n ) = ∑ i = 1 96 ( V m ， i − V n ， i ) 2 (4.9) 为对比聚类效果，我们同时给出按照余弦向量定义的距离进行测试 d ˜ ( V m ， V n ) = ∑ i = 1 96 ( V m ， i − V n ， i ) 2 ∑ i = 1 96 V m ， i 2 ∑ i = 1 96 V n ， i 2 (4.10) 考虑到具体应用问题，分类数不宜太多，另一方面，由于数据样本不小，且特征曲线差异性较大，也不能太少。结合本文对数据的分析角度，经过综合比较，我们选择6类，即指定K = 6，结果如下表3： Table 3 Data of clustering result 类别 主变个数 组内误差平方和 组内标准差 第一类 81 46.89057 0.76085 第二类 95 25.25828 0.51563 第三类 122 24.9894 0.45258 第四类 98 39.89506 0.63804 第五类 164 37.00593 0.47502 第六类 14 7.240537 0.71915 表3. 聚类结果数据