system: [SYSTEM]

user: 3. 实证分析 3.1. 数据简介 本文采用的数据是来自UCI网站中葡萄牙银行机构的电话定期存款营销活动数据，研究目的是对客户是否订购银行定期存款做一个预测，因此响应变量是一个二分类变量，订购记为1，未订购记为0。并且本文使用15个变量作为解释变量，共有4521个样本量。各解释变量取值范围及含义如表1。 3.2. 分析数据 3.2.1. 描述性统计 为了对数据有整体性认识，我们对本文数据进行简单描述性统计分析如下，Y是响应变量，即：客户是否订购银行定期存款。 表2中的数据比重代表所对应的样本量占订购定期存款总样本量或不订购定期存款总样本量的比重，如：job目前在工作所对应的比重82.15%，指订购定期存款的样本数占总订购定期存款的样本数的比重；job目前在工作所对应的比重90.325%，指不订购定期存款的样本数占总不订购定期存款的样本数的比重。 Table 1 Variable introductio 数量 类型 取值范围及含义 年龄(age) 数值 19至87岁 工作情况(job) 分类 1：目前在工作；0：目前不在工作 婚姻状况(marital) 分类 1：已婚；0：其它 教育程度(education) 分类 1：大学；0：其它 是否无信用违约(default) 分类 1：违约；0：未违约 年均余额(balance) 数值 −3313至71，188欧元 是否有房贷(housing) 分类 1：有房贷；0：没有房贷 是否有个人贷款(loan) 分类 1：有个人存款；0：没有个人存款 联系方式(contact) 分类 1：移动电话；0：其它 最近一次联系的日期(day) 分类 1：1至15日；0：其它 最近一次联系的持续时间(duration) 数值 4至3025秒 该项目中联系总次数(campaign) 数值 1至50次 表1. 变量介绍 Table 2 Classification data sample size and proportio Y Y = yes Y = no 样本量 样本量 比重(%) 样本量 比重(%) job 目前在工作 4041 428 82.15 3613 90.325 目前不在工作 480 93 17.85 387 9.675 marital 结婚 2797 277 53.17 2520 63 其它 1724 244 46.83 1480 37 education 大学 1350 193 37.04 1157 28.925 其它 3171 328 62.96 2843 71.075 default 违约 76 9 1.73 67 1.675 不违约 4445 512 98.27 3933 98.325 housing 有房贷 2559 220 42.23 2339 58.475 无房贷 1962 301 57.77 1661 41.525 loan 有个人贷款 691 43 8.25 648 16.2 无个人贷款 3830 478 91.95 3352 83.8 contact 移动电话联系 2896 416 79.85 2480 62 其它 1625 105 20.15 1520 38 day 上半月 2174 261 50.1 1913 47.825 下半月 2347 260 49.9 2087 52.175 poutcome 成功 129 83 15.93 46 1.15 失败 980 63 12.09 917 22.925 未知 3412 375 71.98 3037 75 表2. 分类型数据样本量及比重 从表2的简单描述性数据可以看出， 订购成功所对应的变量占得比重明显大于不订购成功所对应的变量占得比重的有education、contact、loan、poutcome这几个变量，说明这几个变量对订购成功与否产生较大的影响，这几个变量所代表的含义：大学、移动电话联系、无个人贷款、上次项目成功对于订购成功产生促进作用，也符合实际情况。对于其它的变量，订购成功所对应的变量占得比重与不订购成功所对应的变量占得比重差别不大，说明这些变量对订购成功预付影响较小或者由于数据的原因没有表现出来。 从表3可以看出，对于联系时间(duration)，订购定期存款的联系时间均值要远大于不订购定期存款的联系时间均值，说明联系时间的长短反映了订购成功与否，如果订购联系时间就要久一些，这符合实际情况。因为如果要订购就会了解的详细一些，相应的联系时间就会久一些。对于该项目中联系总次数(campaign)，订购与否并没有大的差别，想反不订购的联系总次数均值还大于订购总次数的均值，说明联系总次数对订购与否没有影响。对于最近一次联系距今日期(pdays)来看，订购定期存款的联系日期要远大于不订购定期存款的日期，因为未联系过的日期记为-1，而不订购定期存款的样本量占了8/9，未联系过的样本量有3368个，这在一定程度上拉低了均值，所以由于数据的原因这个变量的均值比较没有实际意义。对于该次项目之前的联系总次数(previous)，订购定期存款的均值要大于不订购定期存款的均值，说明之前联系次数对订购成功与否会有影响，联系的越多订购成功的可能性越大。年均余额(balance)对于两者的影响没有太大的差别，说明对订购成功与否差别不大。 3.2.2. SVM模型分析 本文共有4521个样本量，其中成功订购的样本量有521个，未成功订购的样本量有4000个，从这可以看出电话营销成功率不高。因为成功订购与未成功订购银行定期存款的样本量差距过大，会对预测产生较大的偏差影响，所以在进行数据分析时首先要平衡数据。本文采用随机抽样的原则，从未成功订购银行定期存款的样本量中抽取与成功订购样本量相同的数量，即521个样本，然后与成功订购银行定期存款的样本量构成一个新的数据集。本文针对新数据集进行预测和分析。 分析数据可以看出，数据需要判别的是两个类别，且两个类别属于字符类型，所以我们可以选择的支持向量分类基就有三类：C-classification、nu-classification、one-classification。同时，可以选择的核函数有四类：线性核函数(linear)、多项式核函数(polynomial)、径向基核函数(radial basis， RBF)和神经网络核函数(sigmoid)。所以应该尽可能建立所有可能的模型，最后通过比较选出判别结果最优的模型 [ 9 ] 。根据上述分析，利用R实现的预测模型就有12个，每个模型都对应一个预测精度，我们可以看到每个模型预测错误的总个数。我们可以根据这个预测结果挑选出预测错误最少的一些模型，然后再根据实际情况进行详细分析，最终决定出适合本次研究目的的模型。 从表4中的模型预测结果可以看出，利用one-classification方式无论采取何种核函数得出的结果错误 Table 3 Mean value of numerical dat Y Y = yes Y = no duration 联系时间 263.96 522.74 226.35 campaign 联系总次数 2.79 2.27 2.86 pdays 最近一次联系距今日起 39.767 68.64 36.01 previous 之前联系总次数 0.54 1.09 0.47 balance 年均余额 1422.66 1571.956 1403.21 表3. 数值型数据均值 都非常多，所以可以看出该方式不适合这类数据类型的判别。使用one-classification方式进行建模时，数据通常情况下为一个类别的特征，建立的模型主要用于判别其它样本是否属于这类。 继续观察其它两种分类方式，可以发现利用nu-classification方式无论采取何种核函数得出的结果错误都相对较少，所以可以看出该方式比较适合这类数据类型的判别。利用nu-classification与径向基核函数结合的模型判别错误最少，我们可以直接选择这个模型作为最优模型。利用该模型作出的预测结果如表5所示。 由表5预测结果可以看出，在1042个样本中，实际属于不订购(no)的有521个，而由判定结果可以看出，521个样本有454个判定正确，67个错判为订购(yes)。两个类别分别有454、429个样本被正确分类，其中不订购被正确分类的样本较多。且正确分类的样本量为883个，正确率则可以通过计算得到，883/1042 = 0.8474。精确度为429/(429 + 67) = 0.8649，召回率为429/(429 + 92) = 0.8234。 3.2.3. LASSO-SVM模型分析 在运用LASSO方法变量选择时，首先把数据进行标准化处理，以消除不同指标量纲的影响。利用R软件中的Glmnet程序包，通过10折交叉验证选出的惩罚参数lambda = 0.009163099进行变量选择，表6为选出的变量系数。其中age (年龄)、job (是否工作)、marital (婚姻状况)、education (教育水平)、balance (年均余额)、housing (是否有房贷)、loan (是否有个人贷款)、 contact (联系方式)、day (最近一次联系的日期)、duration (最近一次联系的持续时间)、campaign (该项目中联系总次数)、pdays (最近一次联系距今的日数)、poutcome1 (之前营销项目的结果——“成功”哑变量)、poutcome2 (之前营销项目的结果——“失败”哑变量)，这些经过筛选出来的变量在某种程度上来说对于订购定期存款的影响是比较大的。 变量poutcome1的系数最大，说明之前营销项目的结果对这次订购定期存款的结果影响较大；job的系数为负，说明目前不在工作的更易订购定期存款，因为目前不在工作的有很多都是退休职工，他们定 Table 4 Corresponding prediction result Linear Polynomial Radial sigmoid C-classification 222 187 165 305 nu-classification 219 162 159 305 One-classification 609 555 519 521 表4. 相应的预测结果 Table 5 0ptimal model prediction result 真实值yes 真实值no 预测值yes 429 67 预测值no 92 454 表5. 最优模型预测结果 Table 6 Coefficient of mode intercept −1.5987 balance −0.00094 duration 0.00532 age 0.00187 housing −0.6684 campaign −0.1104 job −0.06645 loan −0.9909 pdays −0.001127 education 0.6987 day −0.0112 poutcome2 0.893 表6. 模型系数 期存款是为了保障自己的晚年生活；housing的系数为负，说明没有房贷的更易定期存款；day的系数为负，说明每个月的下半月更易定期存款，因为很多公司都是中旬发工资，下半月刚好工资到账，所以很多人选择下半月定期存款。 根据LASSO选出的变量进行SVM建模，核函数的选择会影响着支持向量机的分类好坏，我们选择前文提到的四种常见的核函数和3种支持向量分类基构建12个分类模型，每个模型的预测错误总样本数如表7。 从表7可以看出，经过LASSO变量选择后，模型预测错误样本数有所下降，说明经过LASSO变量选择后模型预测准确率提高。从表中的模型预测结果可以看出，利用one-classification方式无论采取何种核函数得出的结果错误都非常多，这和没有经过变量选择预测结果一样。 继续观察其它两种分类方式，可以发现利用nu-classification与多项式核函数结合的模型判别错误最少，我们可以直接选择这个模型作为最优模型。利用该模型作出的预测结果如表8所示。 经过变量选择后不订购定期存款的预测准确样本量增加较多，订购定期存款的样本量预测正确的只增加一个，说明选择出来的变量对不订购定期存款的影响较大。两个类别分别有434、473个样本被正确分类，其中不订购被正确分类的样本较多。且正确分类的样本量为907个，正确率则可以通过计算得到，907/1042 = 0.8704。精确度为434/(434 + 48) = 0.9004，召回率为434/(434 + 87) = 0.8330。 3.3. 结果分析 为了更清晰的看出LASSO变量选择效果，本文还构建了神经网络(Neural Networks，简写为NN)和LASSO-NN模型。通过对不同模型的预测效果比较，以期更全面考察LASSO-svm方法的实际效果。预测模型预测效果一般通过对样本预测准确率表示，并用两类准确率来度量：第一类准确率为将实际订购定期存款的预测正确；第二类准确率为将实际不订购定期存款的预测正确。这四种模型的预测结果具体如表9所示。 从表9可以看出，无论是SVM还是NN模型，经过LASSO变量选择处理后的预测效果都要好于处理前的预测效果。具体来说，LASSO-SVM模型的效果最好，不管是总预测准确率还是第一类准确或第二类准确率都是最高的，其第一类准确率为83.30%，第二类准确率达到90.79%，总预测准确率为87.04%。其次是SVM模型，其第一类和第二类准确率分别为82.34%、87.14%，总预测准确率为84.74%。而另外两种模型的准确率，其第一类准确率分别为78.69%、82.92%，第二类准确率分别为82.73%、82.92%，这两种模型的总预测准确率也分别为80.71%、83.88%，都低于前两种模型的预测准确率。 Table 7 Corresponding prediction result Linear Polynomial Radial Sigmoid C-classification 203 153 145 329 nu-classification 206 135 146 308 One-classification 846 527 521 523 表7. 相应的预测结果 Table 8 Optimal model prediction result 真实值yes 真实值no 预测值yes 434 48 预测值no 87 473 表8. 最优模型预测结果 Table 9 The results of prediction of four model 总预测准确率 第一类准确率 第二类准确率 SVM 883/1042(84.74%) 429/521(82.34%) 454/521(87.14%) LASSO-SVM 907/1041(87.04%) 434/521(83.30%) 473/521(90.79%) NN 841/1042(80.71%) 410/521(78.69%) 431/521(82.73%) LASSO-NN 864/1042(83.88%) 432/521(82.92%) 432/521(82.92%) 表9. 四种模型的预测结果 说明经过LASSO变量选择后，模型的预测准确率提高了。但是无论是神经网络还是经过变量选择后的神经网络预测效果都要低于SVM的预测效果。