system: [SYSTEM]

user: 3. 实验与分析 3.1. 实验数据 我们已经试验了多个数据集，这些数据集广泛应用于多视角学习中。数据集包括Pascal Visual Object Classes、NUS-WIDE-OBJECT、Handwritten Digit和Image Segmentation，其详细描述如下： • Pascal Visual Object Classes (VOC2007)：该数据集是图像数据集，其中包含9963个真实世界的图像，这些图像分为20类，例如人，鸟，自行车，椅子等。在本实验中，该数据集被划分为5011张训练图像和4952张测试图像。 • NUS-WIDE-OBJECT：该数据集包含30，000个对象图像，并被分为30类，例如玩具，花朵，山脉，旗帜等。在本实验中，该数据集被随机分为17，927个训练图像和12，073个测试图像。 • Handwritten Digit：该数据集由手写数字(‘0’-‘9’)组成，手写数字有2000个图像，共10个类别，每个类别有200个图像。每张图片均已用二进制图像进行数字表示。在此实验中，我们从每个数字中随机选择50%的图像进行训练。其余图像是测试图像。 • Image Segmentation：是从7个户外图像的数据库中随机抽取的图像数据集，该数据库由2310个随机选择的对象组成，这些对象分为7个类，即砖墙，天空，树叶，水泥，窗户，路径和草。数据集包含19个连续属性，可以自然分为多个视角数据。 对于Universum数据而言，有几种方法可以收集Universum样本 [ 10 ] [ 14 ]。在本文中，我们使用的是 U R e s t 方法来生成Universum样本，并通过Universum样本的先验知识来提高该算法的性能。 U R e s t 方法表示分类任务中不包括的其他数据。例如，如果分类任务是对数字0和1进行分类，并且有其他数字(从2到9)的图像，这些图像可以用作Universum示例。总体而言，实验中使用的实验组和如表2所示。 Table 2 Experimental data combinatio Subdataset Data Set Positive Negative Universum dataset 1 Pascal VOC2007 bird cat， cow， dog horse， sheep dataset 2 Pascal VOC2007 boat bus， car， train， aeroplane motorbile， bicycle dataset 3 NUS-WIDE-OBJECT bear birds， cat， tiger cow， sun dataset 4 NUS-WIDE-OBJECT boats cars， plane， train vehicle， sand dataset 5 NUS-WIDE-OBJECT flags， sign whales， cars， plane， train tower， toy dataset 6 Handwritten Digit Number 3 Number 5， Number 0 Number 9 dataset 7 Handwritten Digit Number 2 Number 6 Number 7 dataset 8 Image Segmentation brickface cement， path window dataset 9 Image Segmentation sky grass foliage 表2. 实验数据组合 3.2. 实验设置 为了验证所提算法的有效性，在实验设置阶段我们采用与其他四种多视角学习算法进行对比，对比算法如下： • SVM-2K [ 6 ]：该方法结合了标准SVM和KCCA算法，通过利用两视图数据之间的关系来提高分类器性能。 • USVM [ 10 ]：它将具有先验知识的Universum数据与标准SVM算法结合使用，以在模式识别问题上获得更好的性能。 • MvTSVMs [ 15 ]：它引入了两个一维投影之间的相似性约束，并结合了多视角学习和双支持向量机方法。 • MvNPSVM [ 16 ]：该方法结合了非平行支持向量机(Nonparallel support vector machine， NPSVM)算法和多视角学习的优点，并将NPSVM扩展到多视角学习领域，带来了新的见解。 在实验中，我们对所有实验在两个视角上使用高斯RBF核，并且将RBF核参数 σ 设置为 { 0.25 ， 0.5 ， 0.75 ， 1 } 。在提出的方法中，我们设置惩罚参数 C A = C B = C 和D为 { 10 − 3 ， 10 − 2 ， 10 − 1 ， 1 ， 10 ， 10 2 } 和 { 0.05 ， 0.5 ， 1 ， 3 ， 5 } ，参数 ε 在 { 0.01 ， 0.1 } 集合中调整。 对于四个对比算法，我们设置与他们的研究相似的参数，并且实验中算法的配置如下。在USVM算法中，惩罚参数C和D分别设置为 { 10 − 2 ， 10 − 1 ， 1 ， 10 ， 10 2 } 和 { 0.05 ， 0.5 ， 1 ， 3 ， 5 } 。在SVM-2K算法中，在 { 10 − 2 ， 10 − 1 ， 1 ， 10 ， 10 2 } 集合中均等设置惩罚参数 C A 和 C B ，参数D和 ε 分别在 { 0.05 ， 0.5 ， 1 ， 3 ， 5 } 和 { 0.01 ， 0.1 } 上调整。对于MvTSVM和MvNPSVM算法，我们将惩罚参数 C 1 = C 2 = C 3 = C 4 和 D = H 分别从 { 10 − 3 ， 10 − 2 ， 10 − 1 ， 1 ， 10 ， 10 2 } 和 { 0.05 ， 0.5 ， 1 ， 3 ， 5 } 集合中选择。参数 ϵ 和 ε 的取值范围为 { 0.01 ， 0.1 } 。对于所有方法，为了避免实验中的采样偏差，我们使用五次交叉验证，选择四层作为训练集，另一层被视为每一轮的测试集。另外，五次交叉验证用于确定实验中的适当参数。例如，对于提出的方法，我们在表2中填写适当的参数，该参数在五次训练和测试集中处于最高性能。 3.3. 实验结果分析 3.3.1. 性能比较 在本节中，我们将比较提出的方法和四个对比方法的性能。表3汇总了四个数据集中不同方法的分类准确性以及标准差。 Table 3 Classification accuracy and standard deviation result statistic Subdataset SVM-2K USVM MvTSVMs MvNPAVM 所提方法 dataset 1 82.60 ± 1.35 83.50 ± 1.26 81.65 ± 1.95 86.50 ± 1.62 90.45 ± 1.01 dataset 2 86.00 ± 1.86 82.60 ± 1.06 80.90 ± 1.76 85.80 ± 1.75 88.50 ± 1.25 dataset 3 74.60 ± 1.78 77.65 ± 1.68 72.50 ± 2.29 84.45 ± 1.59 83.02 ± 1.84 dataset 4 72.50 ± 1.94 78.60 ± 1.64 74.90 ± 1.95 80.60 ± 1.78 84.50 ± 1.28 dataset 5 73.60 ± 1.36 76.40 ± 1.28 74.90 ± 1.46 79.90 ± 1.89 83.90 ± 1.34 dataset 6 76.65 ± 1.76 80.60 ± 1.95 75.50 ± 2.05 79.45 ± 1.80 81.00 ± 1.54 dataset 7 77.50 ± 1.89 78.80 ± 1.26 74.00 ± 1.95 78.50 ± 1.57 80.65 ± 1.05 dataset 8 82.50 ± 1.20 83.00 ± 1.34 85.30 ± 1.91 89.02 ± 1.25 90.50 ± 0.81 dataset 9 84.52 ± 1.54 83.60 ± 1.25 82.50 ± 2.08 91.50 ± 1.24 89.80 ± 1.02 表3. 分类准确度和标准差结果统计 我们可以观察到，提出的方法始终可以比其他方法表现更好。例如，对于数据集1，SVM-2K，USVM，MvTSVMs和MVNPSVM方法分别获得“82.60”，“83.50”，“81.65”，“86.50”的精度；但是，提出的方法可以达到“90.45”的精度，优于其他方法。发生这种情况的原因是，这是因为提出的方法将Universum数据考虑到多视角学习中，从而可以修改多视角学习的决策边界。但是，在构造分类器时，SVM-2K，MvTSVMs和MVNPSVM方法不会考虑Universum数据。因此，提出的方法可以比其他方法执行得更好。对于USVM方法和提出的方法，它们都考虑了Universum数据。但是，提出的方法仍然比USVM具有更好的性能。发生这种情况是因为所提出的方法将多视角数据合并到学习中，可以提供更好的特征表示，因此，所提出的方法比USVM方法更好。对于标准偏差比较，我们可以进一步观察到，对于大多数数据集，所提出的方法可以提供比其他方法更少的标准偏差。例如，对于数据集1，所提出的方法的标准偏差为1.01，而其他方法则大于1.01。这表明，提出的方法可以提供相对稳定的性能。 3.3.2. 训练样本数量分析 本文在Pascal VOC2007，NUS-WIDE-OBJECT，Handwritten Digit和Image Segmentation的不同大小的训练集，实现了SVM-2K，USVM，MvTSVMs，MVNPSVM和所提出的方法。我们以上述四个数据集为例。对于NUS-WIDE-OBJECT数据集，训练大小从{6000， 8000， 10，000， 12，000， 14，000}集合变化。同样，我们改变Pascal VOC2007，Handwritten Digit和Image Segmentation训练样本大小，如图2的x轴所示，Universum样本的数量是恒定的。另外，图2显示了根据上述变化的训练量数据集的SVM-2K，USVM，MvTSVMs，MVNPSVM和所提出的方法的分类精度。我们可以发现，在几乎所有情况下，提出的方法显然都优于其他比较算法，并且随着训练样本数量的增加，所有已实现算法的分类精度都会提高。 图2. 不同训练样本数量下的分类准确率 3.3.3. Universum样本数量分析 研究结果表明，Universum样本的大小不同也会影响算法的性能 [ 14 ]。因此，我们在此讨论所提出的算法在Universum样本数量变化的情况。实验中，所有参数保持不变，即 C A = 1 ， C B = 1 ， C = 1 ， D = 0.5 ， ε = 0.1 。图3显示了所提出的方法和USVM方法在不同数量的Universum样本下的分类准确率。在图3中，水平轴表示Universum实例的大小，即NUS-WIDE-OBJECT的Universum大小在{500， 1000， 1500， 2000， 2500}的集合中变化。同样，我们改变Pascal VOC2007、Handwritten Digit和Image Segmentation数据集的Universum样本大小，如图3的x轴所示。纵轴表示对应的分类精度。从图中可以看出，不同数量的Universum数据对分类有一定的影响。例如，可以发现在NUS-WIDE-OBJECT的数据集中，当Universum的数据量较小时，分类准确率较低，然后性能曲线随着样本数量的增加而增加。而当Universum数据量达到1000时，分类准确率达到最高。当Universum数据量不断增加时，分类精度在总体上仍能保持相对稳定。类似地，其他数据集也显示出类似的效果。 图3. 不同Universum样本数量下的分类准确率