system: [SYSTEM]

user: 3. 基于优化的半监督学习的行人检测算法 3.1. 特征提取和行人候选区域选取 在人类视觉中，行人的轮廓特征为人类视觉识别物体提供了重要信息，即使在背景非常复杂的环境下或目标信息不是很完整的情况下，人类也可以轻易、准确的依据轮廓特征识别出行人，所以行人的轮廓特征是视觉识别重要的特征之一，可以为识别行人提供稳定和有效的信息。其中形状上下文特征(shape context， SC)方法是物体轮廓的重要描述方法之一 [ 14 ] [ 15 ] ，它以目标轮廓的有限点集合表示物体特征。形状上下文特征原理简单、易于实现，并且实验也证明了在自适应选取边界点的基础上，利用形状上下文特征计算得到的相似度可较好地反映图像目标类别，具有较强的可分性。 形状上下文特征方法在对目标图像进行轮廓检测的基础上，选择轮廓上的一组离散的有限点的集合 P = { p 1 ， p 2 ， ⋯ ， p n } 表示物体，然后对于所选取的离散点集p中的任意一个点p i ，计算与p中其他n − 1个点在图像形状中的相对位置关系，即以图像中特征点p i 为坐标原点进行对数极坐标变换，假设以特征点p i 为坐标原点，极坐标的半径上有n r 个直方图区间(bin)和n θ 个角度方向上的直方图区间，并且把边界方向也加入到了直方图的采样维度中，假设有n e 个边界方向上的直方图区间，那么就构成了 r × θ × e 个区间，然后计算落在特征点p i 每个区间中的边界点的数目h i (k)，这样就得到了特征点p的形状上下文特征，可以把其定义为： (6) 类似，把p中的每个点表示成一组向量，就可以描述出目标图像的整个形状上下文特征。 选择性搜索(Selective Search) [ 16 ] 是一种基于设计好的低级特征的区域建议框提取方法，是目前最流行的区域建议框提取方法之一。本文采用该方法对原始图像提取出行人候选区域建议框，然后根据行人候选区域建议框映射到图像的特征图上，在特征图中找到行人候选区域建议框对应图像的形状上下文特征。 3.2. 优化图的半监督学习模型的构建 3.2.1. 构建优化图的半监督行人检测模型 设给定l个已标注训练样本 T l = { ( x 1 ， y 1 ) ， ⋯ ， ( ， x l ， y l ) } ∈ X l × Y l 和u个未标注训练样本 T u = { x l + 1 ， ⋯ ， x l + u } ∈ X u ，其中 x ∈ R d ，d为样本的维数。设训练样本中的前l + 个为已标注的正样本 x i + ( 1 ≤ i ≤ l + ) ，中间的l − 个为已标注的负样本 x i − ( l + < i ≤ l + + l − ) ，后u个为未标注样本 x i ( l + + l − < i ≤ l + u ) 。 − 令 ，表示已标注训练样本总数。令n = l + u，表示训练样本总数。一般令 y i ∈ { − 1 ， 0 ， 1 } 表示x i 的准确标注，其中对于已标注的正样本 x i + ( 1 ≤ i ≤ l + ) ，令y i = 1；对于已标注的负样本 x i − ( l + < i ≤ l + + l − ) ，令y i = −1；对于未标注样本 x i ( l + + l − < i ≤ n ) ，令y i = 0。 为了提高行人检测的准确率，挖掘训练样本中具有行人的样本之间距离会较小，而具有行人的样本和不具有行人的样本之间距离会较大的知识，为构造行人检测提供有效的信息。具有行人样本之间的距离尽量小的优化问题为： min ∑ i = 1 l + ∑ j = 1 l + w i ， j (7) 具有行人的样本和不具有行人的样本之间距离尽量大的优化问题为： max ∑ i = 1 l + ∑ j = l + l − w i ， j (8) 公式(7)和公式(8)协同工作得到的优化目标函数可刻画为 W = arg min w i ， j ∑ i = 1 l ∑ j = 1 l h i ， j w i ， j (9) 其中，h i，j 代表样本x i 和样本x j 是否同类型，如果样本x i 和样本x j 同为正样本或同为负样本， h i ， j = 1 ;如果样本x i 和样本x j 一个是正样本一个是负样本， h i ， j = − 1 ；其它 ，即 h i j = { 1 ，     if   1 ≤ i ， j ≤ l + − 1 ，     if   1 ≤ i ≤ l + ;   l + < j ≤ l − 0 ，   otherwise (10) 把训练样本中具有行人的样本之间距离会较小，而具有行人的样本和不具有行人的样本之间距离会较大的知识作为判别的先验知识引入到图的半监督学习模型中，得到优化目标函数 (11) 其中，D为对角阵，第(i，i)个元素为矩阵W第i行的和，即 d i = ∑ j = 1 n w i j ，F * 为优化图半监督模型的优化函数。上面的优化模型中共有三项，第一项表示损失函数，第二项表示样本之间的距离，第三项表示样本在图上的平滑性。 3.2.2. 优化图的半监督行人检测模型的分析 对公式(11)模型求解要比传统的图的半监督学习求解复杂，因为传统的半监督学习模型中优化的目标函数只求解f(x)，而在本文中，优化的目标函数中除了求解f(x)外，相似矩阵W也是求解的一部分。对优化模型的解法分析是先对W进行最小优化处理，得到的W的优化解后再用迭代正则化方法求解f(x)。 对于W进行最小优化处理的算法如下所示： 选取优化W的训练样本 D = { ( x 1 ， 2 ， w ′ 1 ， 2 ) ， ( x 1 ， 3 ， w ′ 1 ， 3 ) ， ⋯ ， ( x l + ， l − ， w ′ l + ， l − ) } ， ( x i ， j ⊂ R m ， w i ， j ∈ R ) ，优化的目的是得到一个函数 W ″ 。假设 w ″ i ， j 可以限制在一个不太复杂的函数类中，可以用输入量线性表示 ，解决这一优化问题就变为寻找尽可能满足 w ″ i ， j = w ′ i ， j ， i ， j = 1 ， 2 ， ⋯ ， l 的 w ″ i ， j 。实际上解决这个问题的一个直观方法是用一个线性函数来回归(拟合、逼近)样本点。支持向量回归机具有非常好的非线性拟合能力，能够成功的应用于函数逼近方面，所以利用支持向量回归机解该函数，采用硬 ε -带支持向量回归机方法，原问题转化为 min ω ， b ∑ i = 1 l ∑ j = 1 l ( w ′ i ， j − 〈 ω ⋅ x i ， j 〉 − b ) 2 (12) 采用最大间隔法的特征，可以表示为如下的原始优化问题 min w ， b       1 2 ‖ ω ‖ 2 s .t .         ( ( ω ⋅ x i ， j ) + b ) − w ′ i ， j ≤ ε ， i ， j = 1 ， ⋯ ， l               w ′ i ， j − ( ( ω ⋅ x i ， j ) + b ) ≤ ε ， i ， j = 1 ， ⋯ ， l (13) 其中， 是事先取定的一个正数， ε 不敏感损失函数的含义是，当真实值与预测值之差不超过事先给定的 ε 时，则认为在该点的预测值是无损失的。 使用拉格朗日乘子法将其转化为对偶问题。对于公式(13)的每个约束引入拉格朗日乘子，得到如下拉格朗日函数 L ( ω ， b ， α ( * ) ) = 1 2 ‖ ω ‖ 2 − ∑ i = 1 l ∑ j = 1 l α i ， j ( ε + w ′ i ， j − ( ω ⋅ x i ， j ) − b )                 − ∑ i = 1 l ∑ j = 1 l α i ， j * ( ε − w ′ i ， j + ( ω ⋅ x i ， j ) + b ) (14) 其中 称为Lagrange乘子。 由极值条件： ∇ b L ( ω ， b ， α ( * ) ) = 0 ， ∇ ω L ( ω ， b ， α ( * ) ) = 0 得到 (15) 将上式代入拉格朗日函数，则原始的优化问题转化为如下的对偶问题(使用极小形式) min a ， a ( * )     1 2 ∑ i = 1 l ∑ j = 1 l ∑ m = 1 l ∑ n = 1 l ( a i ， j * − a i ， j ) ( a m ， n * − a m ， n ) ( x i ， j ⋅ x m ， n ) − ε ∑ i ， j = 1 l ( a i ， j * + a i ， j ) s .t .   ∑ i = 1 ， j l ( a i ， j − a i ， j * ) = 0 ，     a i ， j ( * ) ≥ 0 ， i ， j = 1 ， ⋯ ， l (16) 求解上述对偶问题，得到回归函数： w ″ ( x i ， j ) = ∑ i = 1 l ∑ j = 1 l ( α i ， j * − α i ， j ) ( x ⋅ x i ， j ) + b (17) 得到两个样本之间的距离预测函数 W ″ 后，用该函数计算训练样本中两个样本之间的距离 W * 作为训练样本两点之间的相似度，即得到无向图的相似度矩阵 W * ，图的拉普拉斯矩阵定义为 (18) 其中D是对角阵，其中 D ( i ， i ) 元素为矩阵 W * 第i行的和，即 d i ∑ j = 1 n w i j * 。然后，把得到的 W * 和D带入到公式(11)中，得到如下结果 (19) 最后，用图迭代的方法求解公式(19)。