system: [SYSTEM]

user: 4. 实验 为了验证交叉重构领域适应方法(CRDA)的有效性，这一节将让CRDA在COIL20， MNIST & USPS， MSRC & VOC2007， Office & Caltech 和Office-Home这5个基准数据集上分别进行实验。从这些数据集的源域和目标域的每一类中随机抽取5个样本来构造新的数据域，剩下的数据作为测试样本使用。通过CRDA得到分类矩阵A，使用AX来作为最后的分类标签。如果第i个测试样本的特征向量为 x i ∈ R m ，通过计算得到它的标签向量 l i = A x i ∈ R c = { l i 1 ， l i 2 ， ⋯ ， l i c } ，则标签向量 l i 中最大值所处位置为该样本所属标签类。例如，我们得到了第i个测试样本的标签向量 l i = { l i 1 ， l i 2 ， ⋯ ， l i c } ∈ R c ，并且 max { l i 1 ， l i 2 ， ⋯ ， l i c } = l i k ，其中 1 ≤ k ≤ c ，则我们把这个样本划分到第k类数据当中。实验在Matlab2019b， Intel(R) Core(TM) i7-6700 CPU @3.40GHz环境下进行，为了保证实验结果的有效性，CRDA算法的最终的识别效率为20次实验的平均值。 4.1. 数据集介绍 COIL 20数据集：该数据集包含20个不同对象以360度旋转成像。每旋转5度收集一张物体的图像，即每个物体有72幅图像，均为不同角度，共1440张图像。所有的图片裁剪并转换为32 × 32像素的灰度图像。 MSRC & VOC2007数据集：MSRC包含了18个层次的4323幅图像，而VOC 2007包含了20个概念的5011幅图像，它们分别共享了飞机、羊、汽车、牛、鸟、自行车6个语义类，并且将所有图像调整为256像素。 MNIST & USPS数据集：该数据集中有7291幅训练图像和2007幅测试图像；MNIST数据集中有60，000幅训练图像和10，000幅测试图像，这两个数据集共有10个语义类，每个语义类对应数字0~9，所有的图片都被转换为16 × 16像素的灰度图像。 Office & Caltech256数据集：Office数据集是视觉对象识别的基准数据，包括来自三个不同领域的常见对象类别，即A(Amazon)、W(Webcam)和D(DSLR)，每个领域共有31个对象类别。例如笔记本电脑、键盘、显示器、自行车等，一共含有4652张图片。在Amazon域中，每个类别平均有90张图片，而在DSLR或Webcam域中，每个类别平均有30张图片。Caltech-256数据集是用于目标识别的标准数据集，有30，607幅图像和256个类别。 Office-Home数据集：该数据集由来自4个不同领域的图像组成:艺术图像、剪辑艺术、产品图像、现实世界图像，对于每个领域，数据集包含65个对象类别的图像，通常在办公室和家庭中发现。实验中的数据特征是由预先训练好的ResNet50模型提取得到的。 4.2. 超参数设置 如式(5)所示，CRDA中包3个超参数，他们分别是 λ 1 ， λ 2 ， λ 3 ，它们的取值范围都设定为 { 1 e − 8 ， 1 e − 7 ， ⋯ ， 1 } ，超参数的最后取值通过网格搜索策略确定。对于数据集COIL 20，最终参数选择为 λ 1 = 1 e − 6 ， λ 2 = 1 e − 5 ， λ 3 = 1 e − 3 ；对于数据集MSRC & VOC2007，最终参数选择为 λ 1 = 1 e − 8 ， λ 2 = 1 e − 6 ， λ 3 = 1 ；对于数据集MNIST & USPS，最终参数选择为 λ 1 = 1 e − 1 ， λ 2 = 1 e − 5 ， λ 3 = 1 - 3 ；对于数据集Office & Caltech，最终参数的选择为 λ 1 = 1 e − 2 ， λ 2 = 1 e − 6 ， λ 3 = 1 ；对于Office-Home数据集，最终参数选择为 λ 1 = 1 e − 6 ， λ 2 = 1 e − 6 ， λ 3 = 1 e − 7 。 4.3. 实验结果和分析 为了验证CRDA算法的有效性，我们选取了几个迁移学习和领域适应的基线方法做对比，它们分别是Geodesicflow Kernel (GFK) [ 10 ]， Low-rank Transfer Subspace Learning (LTSL) [ 11 ]， Fisher Discrimination Dictionary Learning (FDDL) [ 12 ]， Joint Geometrical and Statistical Alignment (JGSA) [ 13 ]， Weakly-Supervised Cross-Domain Dictionary Learning for Visual Recognition (WSCDDL) [ 14 ]， Visual Domain Adaptation with Manifold Embedded Distribution Alignment (MEDA) [ 15 ]。 4.3.1. 实验结果 表1展示了CRDA与对比算法在COIL20、MSRC & VOC2007、MNIST & USPS这三个数据集上的识别准确率。表2展示了CRDA与对比算法在Office + Caltech256数据集上的识别准确率。表3展示了CRDA与对比算法在Office-Home数据集上的识别准确率。 Table 1 Experimental results on three different dataset Dataset GFK LTSL FDDL JGSA WSCDDL MEDA CRDA C O I L 1 → C O I L 2 91.02 36.38 41.93 91.83 84.90 90.00 92.68 C O I L 2 → C O I L 1 90.38 39.27 39.97 90.39 85.60 90.83 84.61 M S R C → V O C 29.04 24.62 29.97 29.98 30.40 36.08 33.01 V O C → M S R C 58.11 46.63 60.98 60.55 64.52 54.85 72.05 M N I S T → U S P S 72.03 36.32 75.85 72.90 74.05 39.94 78.40 U S P S → M N I S T 63.04 39.13 60.54 62.97 62.88 45.40 64.50 Average 67.33 37.06 51.54 63.73 66.97 59.52 70.88 表1. 在三个不同数据集上的实验结果 Table 2 Experimental results on the Office + Caltech datase Dataset GFK LTSL FDDL JGSA WSCDDL MEDA CRDA A → C 36.97 34.99 37.65 37.65 38.97 43.99 42.25 A → D 53.63 38.49 51.23 55.76 53.24 45.86 54.49 A → W 59.34 39.58 59.79 59.98 58.83 53.22 61.72 D → A 45.78 42.41 45.64 47.10 46.51 41.23 50.33 D → C 33.64 34.94 36.20 34.96 34.43 34.91 37.79 D → W 79.12 70.12 78.60 79.69 76.60 87.46 78.70 C → A 46.70 40.29 48.70 48.90 50.29 56.58 53.30 C → D 57.43 40.49 58.03 58.29 56.62 50.32 56.44 C → W 57.16 42.01 62.97 57.87 68.32 53.90 71.02 W → A 45.11 44.16 45.78 47.89 47.45 42.69 49.03 W → C 32.50 36.44 34.79 35.60 36.44 34.28 37.36 W → D 67.22 69.09 69.78 70.25 62.33 88.54 73.97 Average 51.22 43.75 52.41 52.93 52.68 52.75 55.53 表2. 在Office + Caltech数据集上的实验结果 Table 3 Experimental results on the Office-Home datase Dataset GFK LTSL FDDL JGSA WSCDDL MEDA CRDA A r → C l 39.74 33.30 43.89 44.51 45.56 39.62 47.51 A r → Pr 61.83 54.01 67.40 65.86 67.62 57.09 67.81 A r → R w 61.28 36.25 65.50 65.11 65.48 65.43 67.46 C l → A r 33.63 21.56 42.70 41.00 43.76 39.28 45.73 C l → Pr 54.16 42.52 57.63 56.31 59.72 50.45 60.38 C l → R w 49.67 31.04 55.64 53.40 54.28 52.10 55.75 Pr → A r 35.60 32.48 47.80 46.23 48.10 42.09 48.48 Pr → C l 36.42 32.08 42.89 43.74 43.74 31.83 44.25 Pr → R w 60.46 40.50 63.64 64.46 65.82 63.92 66.94 R w → A r 49.20 34.23 59.86 58.22 60.07 55.43 58.40 R w → C l 41.56 39.99 48.89 47.23 49.27 41.27 48.70 R w → Pr 69.56 54.63 72.65 72.37 73.42 70.44 73.32 Average 49.42 37.71 56.12 54.87 56.40 50.75 57.06 表3. 在Office-Home数据集上的实验结果 4.3.2. 实验结果分析 对于上述实验结果，我们进行如下分析： 1). 该方法在大多数数据集上的性能都优于与之比较的方法。这表明，使用改进的类PCA正则化项，CRDA能够很好地保存数据信息。此外，通过对重构矩阵施加低秩约束，可以将来自不同领域但共享同一标签的数据很好的对齐。这就保证了新的特征表示的识别性，因此我们的方法可以显著提高识别准确率。 2). 在高维数据集 Office-home上的实验结果表明，CRDA在大多数高维数据集上表现良好。结果表明，我们的方法能够很好的处理高维度数据。 3). 在半监督领域适应中，人工添加伪标签的对抗式方法是很常见的。在本文中，我们使用原始数据重构代替伪标签来提高分类精度。通过实验，我们发现CRDA的性能比MEDA更好，证明了我们方法的有效性。 4.3.3. 模型收敛性分析 ADMM在只有两个或更少块时的收敛性已经被证明。算法1有7个分块，没有严格的理论收敛性支持。然而，一些理论可以扩展ADMM的收敛性的范围。例如，Jia等人在单个函数是强凸函数和线性函数复合 [ 16 ] 的前提下证明了具有两个块的可分离凸规划的经典ADMM可以推广到三个或三个以上的块。Hong等人证明了在增广拉格朗日函数 [ 17 ] 中惩罚参数足够大的情况下，经典ADMM收敛于平稳解集。Luo和Hong指出，当线性约束的非光滑凸可分离函数的和最小时，ADMM与n(n > 2)变量块也可以收敛 [ 18 ]。从图1的实验结果中可以证明，CRDA算法是有效收敛的。 图1. 模型收敛性分析 4.3.4. 参数敏感性分析 从图2中我们可以发现，在CRDA中，随着 λ 1 的变化，识别准确率的变化不大，这是因为 λ 1 控制的是低秩矩阵的权重，而低秩矩阵本身就很小， λ 1 使得它更小，所以对识别准确率的影响不大。随着 λ 2 的增大，识别准确率会有一个先减小再增大再减小的趋势，这是因为 λ 2 控制的是噪声矩阵所占的比重，随着它的变化，分类器的比重会相应的变化，所以对识别准确率的影响是波动的。 λ 3 控制的是分类器权重，从图中我们可以知道，对于不同的数据集，随着 λ 3 的增长，准确率的变化是不同的，说明分类器矩阵和数据集是十分相关的。 图2. 超参数 λ 1 ， λ 2 ， λ 3 对识别准确率的影响