system: [SYSTEM]

user: 4. 实验 4.1. 实验数据集 在本节中，我们将提出的新谱聚类算法(NEW-SC)在人工数据和UCI数据中进行多次实验，且将实验结果与k-means、SC、SC-ND、PGSC等算法进行比较。实验中使用的UCI数据集有：Iris、Wine、Seeds、Heart、Fertility-Diagnose、Four-gauss、Haberman、Bupa等；使用的人工数据集有：Two-cluster、Two moons、Spiral、Three-circles、Checker-board、Three-cluster。我们所选的人工数据集主要是二维的，所以能很好的以二维图片的形式展示；如图1所示：在本实验中我们使用的UCI数据皆为多维的，数据的基本信息包括数据样本的数量、样本维数和聚类数以图表的形式进行说明，如表1所示： Table 1 UCI data se 数据集 Sample size Dimension Cluster number Iris 150 4 3 Wine 178 13 3 Seeds 210 7 3 Heart 270 13 2 Fertility-Diagnose 100 9 2 Four-gauss 100 12 4 Haberman 306 3 2 Bupa 345 6 2 表1. UCI数据集信息 4.2. 性能测量 对于谱聚类算法的性能，我们通常用聚类准确率来度量(即：聚类精度ACC)，其的定义式如(3~6)示；在公式中，C i 表示已知的真实类标签， C ′ i 是通过聚类算法得到的样本集的聚类标签；δ(·)是δ函数，它的 图1. 人工数据集信息图：(a) Two-cluster；(b) Two moons；(c) Spiral；(d) Three-circles；(e) Checker-board；(f) Three-cluster 值是1或0；如果 δ ( a ， b ) 函数中的a = b，则 δ ( a ， b ) = 1 ，否则 δ ( a ， b ) = 0 。map(·)是最佳映射函数，如果map(·)函数与真类标号匹配，用Kuhn-Munkres算法求解最佳映射。ACC的取值范围从0到1，其中ACC值较大时，表示聚类的识别率比较高，算法性能更好。其中ACC值较小时，表示聚类的识别率低，算法不成熟。 A C C = ∑ i = 1 n δ ( C i ， m a p ( C ′ i ) ) n (6) 4.3. 人工数据集实验结果 使用k-means、SC、SC-ND [ 13 ] 、PGSC [ 14 ] 以及NEW-SC算法对人工数据进行聚类，k-means算法聚类结果见图2所示，从实验结果可以清新的看出，K-means聚类算法虽然有其自身很好的一些性能，对于简单数据可以获得良好的聚类结果，其结论结果可以达到1，但对于流形数据的聚类结果却不是很理想，不能很好识别出数据的形状，其结果与聚类真实意图差别较大。 基于K-means的谱聚类算法在特征提取上得到了优化，但在人工数据集中的实验结果相较于K均值聚类算法并未得到很好的提高，如图3所示；由人工数据集在光谱聚类SC(NJW)算法下获得的实验结果图像，可以看出，光谱聚类与K-means相似，对于简单数据可以获得良好的聚类结果，但对于流形数据的聚类结果与不是很理想。也可以得出：虽然谱聚类在K均值的基础上对数据进行了特征提取，但是如果选择的特征不合适或是在提取特征的度量方式不正确时，都不会对聚类算法产生好的影响。 如图4所示，由人工数据集在NP-SC算法下获得的实验结果图像，从实验结果可以看出，NP-SC算法与K-means有相同之处，即：对于简单数据可以获得良好的聚类结果；然而SC算法与K-means对于流形数据的聚类结果不是很理想，但是，NP-SC算法对流形数据却有良好的聚类结果。在NP-SC算法中加入了数据之间的近邻的概念，所以能发觉数据周围细微的变化，使得聚类结果更符合预期。 由人工数据集在PGK-SC算法下获得的实验结果图像如图5所示，从实验结果可以看出，PGK-SC算法即与SC算法与K-means算法相似，对于简单数据可以获得良好的聚类结果；又与NP-SC算法有相同，对流形数据也有良好的聚类结果。PGK-SC算法中充分的考虑了高斯核函数的影响，比SC更能适应样本数据类型的变化。 由人工数据集在我们提出的新算法NEW-SC下获得的实验结果图像可以得出，从实验结果可以看出，NEW-SC算法与SC算法与K-means算法相同，对简单数据可以获得良好的聚类结果，而且又PGK-SC算法和NP-SC算法相似，对流形数据也有良好的聚类结果，实验结果如图6所示：NEW-SC算法中加入了数据之间的近邻的概念，所以能发觉数据周围细微的变化；还充分的考虑了高斯核函数的影响使得聚类结果更符合预期。 以上实验是将我们提出的聚类方法(NEW-SC)与一些现有的聚类方法进行了比较，在上述实验中，将谱聚类算法SC(NJW)、NP-SC聚类算法中涉及到高斯核的值的相关参数都设置为1，以便使实验有更多的初始值，其对比实验更具有可信度。对人工数据集中的数据在K-均值、谱聚类SC(NJW)、NP-SC、PGK-SC和新NEW-SC聚类方法下的实验结果的准确率进行了比较，如表2所示就是具体的实验结果数据。 在图7中的柱状图中，可以清晰的看到人工数据集中Two-cluster、Two moons、Spiral、Three-circles、Checker-board、Three-cluster等数据在k-means、SC、SC-ND、PGSC以及我们的新算法(NEW-SC)中的实验结果。在五组实验中，k-means、SC算法对整体的数据集的聚类结果整体偏低。SC-ND、PGSC、算法对数据集的聚类结果整体较好，其中我们提出的新算法(NEW-SC)既能实现对离散数据的聚类，也能像SC-ND、PGSC、算法一样，对流行数据有很好的聚类效果。 图2. 人工数据集的K均值聚类结果图：(a) Two-cluster；(b) Two moons；(c) Spiral；(d) Three-circles；(e) Checker-board；(f) Three-cluster 图3. 人工数据集的谱聚类SC结果图：(a) Two-cluster；(b) Two moons；(c) Spiral；(d) Three-circles；(e) Checker-board；(f) Three-cluster 图4. 人工数据集的NP-SC谱聚类结果图：(a) Two-cluster；(b) Two moons；(c) Spiral；(d) Three-circles；(e) Checker-board；(f) Three-cluster 图5. 人工数据集的PGK-SC聚类结果图：(a) Two-cluster；(b) Two moons；(c) Spiral；(d) Three-circles；(e) Checker-board；(f) Three-cluster 图6. 人工数据集的NEW-SC聚类结果图：(a) Two-cluster；(b) Two moons；(c)Spiral；(d) Three-circles；(e) Checker-board；(f) Three-cluster Table 2 Accuracy rates of artificial data sets (ACC 数据集 K-means SC(NJW) NP-SC PGK-SC NEW-SC Checker-board 0.5710 0.5710 0.5740 0.5790 0.5980 Spiral 0.5890 0.6610 1 1 1 Two-cluster 0.9975 0.9975 1 1 1 Two moons 0.7337 0.7250 1 1 1 Three-cluster 1 1 1 1 1 Three-circles 0.3372 0.3369 1 1 1 表2. 人工数据集的准确率(ACC) 图7. 人工数据集的准确率柱状图 4.4. UCI数据集的实验结果 在本实验中我们使用的UCI数据有：Iris、Wine、Seeds、Heart、Fertility-Diagnose、Four-gauss、Haberman、Bupa；表2是上述数据集的基本信息，包括数据样本的数量、样本维数和聚类数。表3是上述所有数据集在K均值和SC、NP-SC、PGK-SC、NEW-SC聚类后得到的算法准确率(ACC)。 Table 3 Accuracy rates of UCI data set (ACC 数据集 K-means SC(NJW) NP-SC PGK-SC NEW-SC Iris 0.8933 0.9000 0.6800 0.9067 0.9267 Wine 0.7022 0.6292 0.4270 0.6573 0.7416 Seeds 0.8905 0.8905 0.3714 0.8857 0.9095 Heart 0.5926 0.5444 0.5519 0.5556 0.6259 Fertility-Diagnose 0.6700 0.6600 0.6200 0.7000 0.8900 Four-gauss 0.9800 0.9800 0.8800 0.9800 0.9900 Haberman 0.4739 0.7353 0.7386 0.7320 0.7386 Bupa 0.5536 0.5623 0.5652 0.5652 0.5826 表3. 算法准确率(ACC) 图8. UCI数据集的准确率柱状图 在图8中的柱状图中，可以清晰的看到UCI数据有：Iris、Wine、Seeds、Heart、Fertility-Diagnose、Four-gauss、Haberman、Bupa；等数据在k-means、SC、SC-ND、PGSC以及我们的新算法(NEW-SC)中的实验结果。在五组实验中，k-means、SC算法对整体的数据集的聚类结果整体偏低。SC-ND、PGSC、NEW-SC算法对数据集的聚类结果整体较好，其中我们提出的新算法的性能更好。 实验对比分析，由人工数据和UCI上的数据实验，可以得知，NEW-SC算法不但在离散的数据样本上很好的聚类效果，而且还克服了传统算法的一些弊端，使得可以在流行数据上有较好的聚类效果，通过在UCI上的实验可知，NEW-SC算法不但在低维度的数据上有较好的聚类性能，而且在较高维度的数据集中的实验结果也不错。