system: [SYSTEM]

user: 4. 合金元素收得率的预测 分析得到元素收得率的主要影响因素后，基于LSM-SVM算法，建立收得率的预测模型，随机抽取200个炉号的基础数据作为训练样本，另取50组基础数据作为预测样本，进行预测，分析预测结果与实际值的方差与误差；为提高预测的准确性，借助BP神经网络，对相同数据集进行训练、预测，并分析效果。 4.1. 基于最小二乘支持向量机的预测模型 3.3建立的综合评价模型得到了C、Mn元素收得率的主要影响因素，现对收得率进行预测。由于二者收得率的影响因素众多，且无法用线性表达式简单推导出与收得率的关系.对于非线性分类与函数估计等问题，支持向量机SVM [ 9 ] 是一个很强大的方法。最小二乘支持向量机(LSSVM)是标准SVM的改进，应用最小二乘法思想，提高学习能力。 模型建立如下： 设训练样本集 D = { ( x k ， y k ) | k = 1 ， 2 ， ⋯ ， n } ，其中 x k ∈ R n 是输入数据， y k ∈ R 为输出集。在权w空间中最小二乘支持向量机问题可以描述为： y k = f ( x k ) = ω T φ ( x k ) + b ， k = 1 ， 2 ， ⋯ ， n ， (3) 式中， φ ( * ) 表示 R → R m 将输入空间映射为高维特征空间函数； ω ∈ R n 为超平面的权值向量；b为偏置量。通过最小正则化风险泛函获得 ω 的解： R ( ω ) = 1 2 ‖ ω ‖ 2 + C ∑ i = 1 n L ( f ( x i ) ， y i )     ， (4) 式中C为惩罚函数系数； L ( * ) 表示损失函数 L ε ( f ( x ) − y ) = { 0 ，                                                                                                           | f ( x ) − y | < ε   ; | f ( x ) − y | − ε ，                                   其 他 . 。 最小化 ω ，带入 R ( ω ) ： (5) 其中 〈 φ ( x i ) ， φ ( x ) 〉 = K ( x i ， x ) 称作核函数，它是对称的正实函数，满足径向基核函数： K ( x i ， x ) = exp [ − | x − x i | 2 / 2 σ 2 ] ；模型中的惩罚系数C和核宽 σ 通过交叉检验获得 [ 2 ]。 模型求解： 首先从清洗后的数据集中随机抽取200条记录作为训练样本，结合MATLAB机器学习功能，对trianlssvm函数进行训练；另取20条记录为预测样本，进行预测。两种元素收得率预测值与真实值部分如表9所示： Table 9 Comparison of predicted and true yield values of C and Mn based on LSSV C收得率真实值 C收得率预测值 Mn收得率真实值 Mn收得率预测值 0.980009 0.974431 0.9524849 0.905754 0.935507 0.974263 0.9344975 0.948926 0.935799 0.851401 0.9206476 0.904424 0.932776 0.904535 0.9416416 0.909433 0.95927 0.994939 0.9261672 0.910595 0.860947 0.888809 0.9655685 0.909383 0.897149 0.944718 0.9661588 0.91522 0.891221 0.870663 0.9387211 0.904753 0.869615 0.978561 0.9214447 0.908014 0.82415 0.852107 0.8413793 0.832837 0.95546 0.905949 0.9247972 0.899509 0.912185 0.851708 0.9291522 0.750776 表9. 基于LSSVM的C、Mn元素收得率预测值与真实值对比 分别分析两种元素收得率预测准确度。首先针对C元素：将预测值与该50组原有收得率进行对比。训练效果图如图1。 由C元素的LSSVM训练图可知，训练值在0.8附近上下波动，且图像趋于平稳。 真实值与预测值重合得越多，则意味着预测结果越准确。由图2可知，50个预测样本的预测值与真实值之间重合度不是很高，这说明预测结果存在一定偏差。为直观显示预测结果的准确度，本文进一步求出真实值与预测值之间的误差与方差，做出图像进行分析： 图1. C收得率预测的LSSVM训练图 图2. C收得率预测的真实值与预测值对比图 图3. C收得率预测误差变化图 图4. C收得率预测方差与误差图 由上图3、图4两图可知，50组对C收得率的预测结果实际值之间的误差、方差值在不断波动，二者的变化趋势大致相同，大部分误差在5%范围内波动；在第214，235个数据周围，误差和方差的数值绝对值同时急剧上升，达到最大误差接近0.2。 同理，做出对Mn元素收得率的收得率预测值训练结果以及与真实值的比较： 图5. Mn收得率预测的LSSVM训练图 图6. Mn收得率预测的真实值与预测值对比图 根据图5、图6，Mn元素收得率的真实值与预测值有一定差距，但相比C的重合度要高，预测结果比C准确。 进一步求解Mn元素收得率真实值与预测值之间的误差与方差，做出图像并分析： 图7. Mn收得率预测误差变化图 图8. Mn收得率预测方差与误差图 由图7、图8可知，50组预测样本中，误差、方差值不断波动且变化趋势大致相同，大多在0.1内；在第245组样本周围，误差和方差的数值绝对值同时急剧上升，达到最大误差接近0.8。 4.2. 基于BP神经网络的预测模型 为提高4.1的元素收得率预测的准确性，本文选择BP神经网络，进行优化分析与预测。BP神经网络是一种按照误差逆向传播算法训练的多层前馈神经网络，即计算误差输出时按从输入到输出的方向进行，而调整权值和阈值则从输出到输入的方向进行。BP神经网络是应用最广泛的神经网络，适合处理影响因素复杂、变量关系难以归纳、推理规则不清楚的问题，对经验知识背景要求较低，只需给出对象的输入和输出数据，通过网络本身的学习功能找到输入与输出的映射关系 [ 10 ]。 4.2.1. BP训练算法描述 1) 初始化：给各连接权值及阈值赋予 ( − 0.1 ， 0.1 ) 之间的随机值。 2) 训练集样本向量 X k = ( x k 1 ， x k 2 ， ⋯ ， x k n ) ， n = 5 将各分量数据输入给输入层对应的5个神经元。 3) 由输入样本的特征向量 X k 、输入层与隐含层的连接权 x k i 以及隐含层单元的阈值 θ i ，由 计算隐含层各单元的输入 I i ，并计算对应的输出值 O i = tansig ( I i ) 。 4) 由隐含层各单元的输出 、隐含层和输出层间的连接权 以及输出层单元的阈值 Y j ，用 U j − ∑ i = 1 p W i j ⋅ O i + ϒ j 计算各输出层规定输入，计算输出层各单元对应的输出 y j = tansig ( U j ) 。 5) 借助 δ i = ( y k − y ′ k ) ⋅ tansi g ′ ( U i ) 计算输出层单元的一般化误差。 6) 由隐含层和输出层之间的连接权 、输出层单元的一般化误差 δ j 以及隐含层各单元的输出 ，用 e i = 1 2 ( 1 − O i 2 ) ⋅ ∑ j = 1 m δ j ⋅ W i j 计算隐含层各单元的一般化误差。 7) 由输出层单元的一般化误差 δ j 、隐含层各单元的输出 O j ，用权值调整公式 W i j ( t + 1 ) = W i j ( t ) + β ⋅ δ j ⋅ O i + α ⋅ Δ W i j ( t ) 、 ϒ i j ( t + 1 ) = ϒ i j ( t ) + β ⋅ δ j + α ⋅ Δ ϒ i j ( t ) 修正 W i j 以及输出层各单元的阈值 ϒ j 。 8) 由隐含层单元的一般化误差 X i 、输入层各单元的输入 e i ，用阈值调整公式 V h i ( t + 1 ) = V h i ( t ) + β ⋅ e i ⋅ X h + α ⋅ Δ V h i ( t ) 、 θ i ( t + 1 ) = θ i ( t ) + β ⋅ e i + α ⋅ Δ θ i ( t ) 修正输入层与隐含层的连接权 V h i 以及隐含层各单元的阈值。其中， 0 < β < 1 为比例系数， 是惯性因子，以加速网络收敛。 9) 顺次选取下一个样本，返回步骤2)，直到训练集样本全部学习一遍。 10) 重新返回步骤2)，直到网络的误差函数小于预先设定的值，即网络收敛大于预先给定的值。 4.2.2. 模型建立与求解 取4.1处理过程中用于训练的200组数据，同样作为BP神经网络的训练样本；以钢水净重、石油焦增碳剂、硅钙碳脱氧剂、硅铝钙、低铝硅铁含量为输入层，以元素收得率为输出层；隐含层层数以及各层神经元数量在测试中；激活函数选取tansig函数；选用Levenberg Marquardt训练算法；误差指标为MSE；设定Epoch为1000。利用MATLAB神经网络工具箱进行训练，效果图如下： 图9. C收得率BPNN训练图 图9显示，第16次训练后6次训练内validation均未降低，为避免过拟合现象，训练终止。第16次的训练效果最好。 将4.1中50组预测样本作为BP神经网络的测试集，将各指标数据输入神经网络，输出两种元素收得率预测值，部分如下表10： Table 1 0 Comparison of predicted and true yield values of C and Mn based on BPN C收得率真实值 C收得率预测值 Mn收得率真实值 Mn收得率预测值 0.940155 0.924033 0.913451 0.920843 0.866295 0.853417 0.952485 0.96036 0.968345 0.934237 0.934497 0.960531 0.918603 0.914100 0.920648 0.914460 0.854784 0.832580 0.941642 0.962651 0.959721 0.945430 0.926167 0.916867 0.962857 0.948340 0.965569 0.952439 0.928569 0.913246 0.966159 0.976900 表10. 基于BPNN的C、Mn元素收得率预测值与真实值对比 得到C元素收得率预测的误差与方差图，如图10： 图10. C收得率预测的误差与方差图 C的收得率预测方差与误差图可知，BP神经网络训练得到的预测值中，预测方差均在±0.02以内，有大幅降低；预测误差大多在±0.02附近波动，且误差最大值降至0.1。与3.1的结果相比，C元素收得率预测的准确性有较大幅度提升。 同理，得到Mn元素收得率预测的误差与方差图： 图11. Mn收得率预测的误差与方差图 由图11可知，采用BPNN得到的Mn元素收得率预测值中，预测误差较小，误差最大值为0.6左右，与4.1的结果相近，因此两种方法对Mn元素收得率预测的效果相差不大。