system: [SYSTEM]

user: 5. 实验过程 5.1. 数据描述 本文采用某财险公司的保单数据，数据总数65，000条，原始数据特征有27个。其中某些数据存在缺失，缺失在大量保单数据中属于正常现象，后续会对此进行处理。 模型输入为已投保客户个人信息数据特征，其中包括：投保人性别、投保人年龄、保单时长、保单性质、客户类别、车龄、新车购置价、险种、风险类别、NCD (无赔款优待系数)、风险类别等车辆保险基本信息。 这些信息普遍在客户购买保险时便有所记录，从而确保了模型的可推广性。 5.2. 预处理 1) 我们首先利用EXCEL软件，将所有的中文信息按照一定规则编译成数字信息和英文，便于导入MATLAB进行处理，也就得到一个纯数字化的客户信息数据。 2) 将被保人性别、客户类别这类按一定规则数字化过后没有大小强度意义的离散数值进行ONE-HOT编码。通过ONE-HOT编码，把大权重拆分成了若干个小权重，这既对数据的特征进行了扩充，降低了异常值对模型的影响，增强了模型的稳定性，也提升了模型的非线性能力。 3) 将签单保费、年龄这类有大小意义的连续数值和离散数值进行归一化处理。再清洗数据中混杂的坏死值，用平均数填充数据的缺损值。这样即可得到一份从0到1的数字信息数据方便作为输入。 5.3. 模型建立 5.3.1. 模型假设 1) 假设所给的保户信息都正确； 2) 假设社会在一段时间内保费制度不发生改变； 3) 假设保户在一段时间内按照自己过去的习惯进行投保。 5.3.2. 模型简介 1) 主成分分析法：利用降维的思想，把多指标转化为比较数量的几个综合指标(即主成分)，降维后的数据能够反映原始变量的N%信息。本文我们定义要求反映99%的效果。 最后，我们得出12个提取后的特征对顾客实现精准画像。这种方法虽然在引进多方面变量的同时将复杂因素归结为几个主成分，使问题简单化，同时得到的结果更加科学有效，但对复杂的模型数据并不适用，尤其是非线性回归模型。 我们为了全面、系统地分析问题，我们必须考虑众多影响因素，也就是特征或称为指标，在多元统计分析中也称为变量。本文选用一层Dense层的BP神经网络对客户续保概率进行预测。 2) 支持向量机由Vapnik提出，通过控制超平面的间隔度量和核技巧能够解决线性和非线性分类问题。最大间隔分类器是支持向量机的一种，是通过在特征空间找到一个超平面将不同类别分割开，因此最大间隔分类器只能适用于线性可分的二分类问题。最大间隔分类器需要在保证2类样本无错误的分开的同时，使得2个类别的分类间隔最大，见图2所示。 图2. 支持向量机寻找超平面 3) BP神经网络：深度学习中的人工神经网络是由大量简单处理单元相互连接构成的高度并行的非线性系统，具有大规模并行性处理特征。大量简单处理单元的并行活动使网络呈现出丰富的功能并具有较快的运行速度。 BP神经网络中最重要的部分是通过训练过程来调整网络中运算单元间连接的权重。ANN训练前其输出是凌乱的，随着训练次数的增加，BP神经网络的连接权重被不断调整，使目标值与BP神经网络输出值的误差逐渐减小直至为近似为零，此时称BP神经网络已收敛，训练完成。ANN训练结束后，还需要用另一组与训练集不同的样本测试其输出是否与真实值的接近，从而验证模型的推广性。 通过已有样本的学习，将所提取的样本对应的非线性映射关系存储在权值矩阵中，在后续工作中，当我们向网络输入训练未曾见过的非样本数据时，网络也能完成输入到输出的正确映射过程。图3给出了神经元的模型。 图3的神经元模型也包含偏置b j ，用于相应地增加或降低激活函数的网络输入。ANN的主要结构为运算单元、层与网络三个部分。 图3. 神经网络的神经元模型 图4. 神经网络模型 [ 5 ] 其中隐含层O i ，可以是一层或多层由输入层、隐含层和输出层构成。图4为含一个隐藏层的ANN模型，其中输入层、隐含层、输出层神经元分别用X、O、Y，神经元数分别为5、3、2。训练时，输入由输入层神经元X传播至隐含层神经元，ω ij 表示不同层的节点间连接权值，信息在隐含层进行加权求和并通过激活函数进行变换。从隐含层输出的信息再作为输出层的输入信息，通过ω加权并由输出层输出。 4) 正则化的主要思想，将一些不重要的特征的权值置为0或权值变小使得特征的参数矩阵变得稀疏，使每个变量都对整体有一点贡献。 对模型参数的L1正则项为： J = J 0 + α ω 1 (1) 设带L1正则化的损失函数为： Ω ( θ ) = ω 1 = ∑ j ω i (2) 假设损失函数在二维上求解，则可以画出图像，见图5。 图5. 损失函数在二维上的图像 [ 6 ] 彩色实线是J 0 的等值线，黑色实线是L1正则的等值线。二维空间(权重向量只有ω 1 和ω 2 )上，L1正则项的等值线是方形，方形与的等值线相交时相交点为顶点的概率很大，所以ω 1 或ω 2 等于零的概率很大。所以使用L1正则项的解具有稀疏性。 相同的，也可以推广到本问题中的更大的维度空间。L1正则项的等值线或等值面是比较尖锐的，所以这些突出的点与接触的机会更大，而在这些突出的点上，会有很多权值等于0。由L1正则化导出的稀疏性质已被广泛用于特征选择，特征选择可以从可用的特征子集中选择有意义的特征。本文提取出来的关键特征便是累计续保年。 5.3.3. 问题1解决 BP神经网络搭建： 将客户特征输入神经网络中，以是否续保作为输出项训练神经网络。基于Keras框架的网络设置如下： 1) 模型参数设置： 在进行训练之前，需要配置模型的优化器、损失函数、指标列表。本文选择分类准确度Accuracy作为损失函数从而获得客户续保概率预测值与真实值之间的误差。 由于SGD算法收敛速度较慢，同时预测结果容易出现震荡，本文选择Adam作为优化器。而优化后的Adam算法收敛速度快，精确度也得到提高。 2) 模型训练： 设置一层全连接层Dense。由于数据中的输出选用了是否续保，该结果的数据真实值分布约为8:1，存在数据不均衡的情况，因此利用变权组合，给予少数据的训练结果更高的权重来更新神经网络迭代。每次训练包含的样本数batch_size = 128，训练轮数epoch设置为100。 3) 模型预测： 训练后的模型需要在测试集上进行验证，验证模型预测的精度。由于仅使用了一层Dense层，该层的对每一个输入都有一一对应的一个权重，使用深度学习BP神经网络训练投保用户已预处理过的数据信息，从网络中得到权重就及网络连接，就可直接得到该批客户的特征值排序和续保概率。 单层Dense的BP神经网络模型见图6。 图6. 单层Dense的BP神经网络模型 对BP神经网络的所有客户特征求取平均值，选取大于平均值的权重为正值的客户特征分析，见表1所示。 不难发现，权重占比比较大的如续保年，签单保费等都是客户本身人的特征，而非汽车的特征。 但由于只使用了一层Dense层，特征种类存在交集，并非互相独立，不适合作为客户的精准画像，本文对特征种类进行了合并。结果见表2所示。 Table 1 Feature type with positive weight in customer informatio 特征种类 权重 特征种类 权重 累计续保1年 3.14789 投保车上人员 0.52791 累计续保2年 2.80372 新车价格 0.432727 累计续保3年 2.44013 党政机关、事业团体用车 0.415859 累计续保4年 2.24108 带拖挂的载货汽车 0.380481 累计续保年5年 1.86614 NCD 0.361888 保单性质 1.85213 特种车一 0.350993 累计续保7年 1.20996 交商全保 0.313121 累计续保6年 0.955628 轻微型载货汽车 0.303959 10吨及10吨以上挂车 0.942373 出租租赁 0.295914 客户类别：机构 0.804504 渠道：个人代理 0.292227 签单保费 0.768047 低速载货汽车 0.271022 累计续保8年 0.755821 企业非营业用车 0.268568 带拖挂汽车 0.710418 低速货车和三轮汽车 0.254239 特种车三 0.710355 中型载货汽车 0.251581 临时车牌 0.656487 保单性质：交强险 0.249178 2吨及5吨以下货车 0.597618 10座及20座以下客车 0.213471 特种车 0.567696 已决赔款 0.210001 表1. 客户信息中权重为正值的特征种类 Table 2 Feature types without intersection after mergin 精准画像 权重 续保年份 15.420369 货车 4.0858 挂车 3.3054 保单性质 1.92754612 客户类别：机构 1.85213 签单保费 0.768047 临时车牌 0.656487 投保车上人员 0.52791 新车价格 0.432727 NCD 0.361888 保单性质：交强险 0.249178 已决赔款 0.210001 表2. 合并后无交集的特征种类 4) 为对比神经网络对于传统做法——PCA + SVM的优越性。本文还运用SVM模型进行对比考察。 首先，将客户信息数据导入MATLAB，进行PCA降维。通过对生成的降维特征矩阵和原有数据进行矩阵运算即可得到权重转移矩阵w，对w进行求和排序便得到了客户特征值的排序。利用PAC降维提取的12个特征我们建立一个以是否续保作为因变量的SVM预测模型。SVM多元线性回归模型的一般形式： Y i = β 0 + β 1 X 1 i + β 2 X 2 i + ⋯ + β k X k i + u i ( i = 1 ， 2 ， ⋯ ， n ) (3) 其中k为解释目前主成分分析得到的特征变量的数目， β j ( j = 1 ， 2 ， ⋯ ， k ) 称为回归系数(regression coefficient)。上式也被称为总体回归函数的随机表达式。它的非随机表达式为： E ( Y | X 1 i ， X 2 i ， ⋯ ， X k i ) = β 0 + β 1 X 1 i + ⋯ + β k X k i (4) β j 也被称为偏回归系数(partial regression coefficient)线性模型使用最小二乘法求解参数，本文我们借助python运用机器学习库来实现最小二乘法。 支持向量机要求在超几何空间中找到一个超平面，使得两类样本距离最大，也就是续保和不续保。 通过对比由PCA + SVM和BP神经网络得到的客户特征值排序，可以相互验证两种结论的正确性和准确度，也同时提高了由BP神经网络所得出的客户续保概率的可信效度。但是通过对比这两种方法，我们发现神经网络的准确度与速度都高于SVM，见下表3。 Table 3 Comparison of BP neural network and SVM accurac 输出 模型 BP神经网络 SVM 权重提取方式 Dense层 PCA Accuracy 0.99 0.93 F1 score 0.98 0.85 表3. BP神经网络与SVM准确度对比 5.3.4. 问题二解决 通过运用神经网络L1正则化，对投保客户的所有特征合集进行稀疏处理，可以得到客户的关键特征的权重排序。以稀疏得到的结果：累计续保年作为对客户群体的重要考察指标。本文依据不同续保年在BP神经网络中的权重排序，对不同续保年的客户进行区间合并统计，相对准确地将客户划分为五种等级：高收益客户(累计续保1年)，较高收益客户(累计续保2年)，中收益客户(累计续保3年)，低收益客户(累计续保4年)，极低收益客户(其他年份数)，见下图7。 图7. 不同等级客户之间权重属性的比较 分析可发现：从高价值到低价值，客户的签单保费与UCD成指数下降，平均年龄从整体上看也呈现反比趋势，在中收益与低收益客户间，年龄的差距不明晰。 可见稀疏化后的特征：累计续保年能比较好的划分开五类客户。进一步分析：高续保率的客户往往更愿意支付更多的签单保费。而且，签单保费金额在种类1与种类2、3之间的区别并不是特别大。中等的客户与较高等的客户在优惠的让利刺激下，稍微多支付些许签单保费则种类2和种类3的客户可大量成为种类1——高续保率客户。 对于客户是否续保这一二分类问题，对于样本集合，可以用数学形式表示： ( x 1 ， y 1 ) ， ( x 2 ， y 2 ) ， ⋯ ， ( x m ， y m ) ， x ∈ R n ， y ∈ ( − 1 ， 1 ) (5) 支持向量机寻找一个最优超平面，使得分类间隔最大，在图2中，H1、H2为2类分类样本离分类线最近且平行于分类线的直线，这2条线之间的距离称之为分类间隔。 设分类方程为： X ⋅ W + b = 0 ， y ∈ ( − 1 ， 1 ) ， y i [ − ( W x i + b ) ] > O ， i = 1 ， 2 ， 3 ， ⋯ ， m (6) 则分类间隔是 2 / | | w | | ，使分类间隔最大等价于||w||最小，满足上述约m束条件，并且使得 ‖ w ‖ 最小的分类线就是最优分类线。这样原本就可以完成二分类问题，实现对客户是否续保做出评估。 5.4. 方案优化 基于第一问所得的影响保户续保的主要影响因子，再根据五个不同客户等级的特征分析，可以初步得到基于不同等级的客户优惠方案。 具体的实行细则如下：取优惠下限为五折，考虑当前客户与高续保客户保费的比值和与上一级保户保费的比值，对初步优惠方案进行探讨，得到初步的优惠方案 在运用此车险优惠方案之后，对不同等级的客户的收费变见表4。 Table 4 Changes in customer auto insurance charges for different levels after the initial offe 等级 1 2 3 4 5 实施优惠前的保费占比 48.00% 22.00% 17.00% 6.00% 7.00% 该等级客户与等级1客的户保费的比值 100.00% 46.00% 35.00% 12.50% 14.60% 与上一等级保客户保费的比值 46.00% 77.27% 35.30% 111.60% 费用优惠方案 10折 7折 6折 6折 5.5折 使用方案后新的保费占比 54.00% 24.00% 14.70% 6.20% 1.10% 表4. 运用初步优惠后不同等级的客户车险收费变化 将初步优惠方案实行后新的客户样本分布输入BP神经网络概率模型进行仿真实验，可以发现均值明显升高，故而初步优惠方案研究发现可行度很高。对优惠福利方案进行深入设计，给出三个系列的方案。 实行不同的优惠福利方案如下： 1) 系列1： 1. 等级一——不打折， 2. 等级二——7折， 3. 等级三、等级四——6折， 4. 等级五——5.5折。 2) 系列2： 1. 等级一——9折； 2. 等级二——7折， 3. 等级三——6折， 4. 等级四——5.5折， 5. 等级五——5折。 3) 系列3：无论等级，全体客户一致享受7折。 其中系列一为不做优惠方案系列，系列4是人为设置的对比组，用来对比其他方案的可行性。若方案三的得出的模拟效果与其他系列效果相当、或比其他方案更优，则说明其他方案的可行性极差；反之，若其他系列的续保率增量明显大于次组，即从另一方面验证了其他系列的可行性。 图8. 四种系列的等级分布箱型图 根据BP神经网络续保概率模型，得出的客户等级分布箱型图，见图8。 可以看出，系列4的效果最差，对客户群体的区分度很小，也从侧面印证了系列2和系列3对客户续保有一定积极的效果。 当新的保费占比形成后，此时，不同种类的客户类型所占客户总人数也同样发生相应的变化，见表5。 Table 5 Comparison of total renewal customer ratio of the four scheme 客户等级 原始 方案1 方案2 方案3 1 48.00% 54.00% 55.00% 49.00% 2 22.00% 24.00% 22.00% 21.00% 3 17.00% 15.00% 18.00% 23.00% 4 6.00% 6.00% 4.00% 14.00% 5 7.00% 1.00% 1.00% 7.00% 总续保客户占比 18.70% 22.80% 23.10% 12.10% 表5. 四种方案的总续保客户占比对比 从而我们可以得出的结论：采用系列2，即系列2：等级一——9折；等级二——7折，等级三——6折，等级四——5.5折，等级五——5折这一方案，能进一步提高客户的续保概率。