角检测

角检测（英語：Corner detection）或兴趣点检测（interest point detection），是计算机视觉系统中用来提取特征以及推测图像内容的一种方法。角检测的应用很广，经常用在运动检测、跟踪、馬賽克（image mosaicing）、全景图缝合（panorama stiching）、三维建模以及物体识别中。 两条边的交点形成一个角（点）。而图像的要点（也称为受关注点）是指图像中具有代表性以及稳健性（即指该点能够在有噪声干扰的情况下也能稳定的被定位，在大陆亦被称为：鲁棒性）的点。也就是说，要点可以是角（点），也可以不是，例如局部亮点或暗点，线段终点，或者曲线上的曲率最大值点。在实际应用中，很多所谓的（角）点检测算法其实是检测要点，而不仅仅是角（点）。所以，如果我们只想检测角的话，还需要对检测出的要点进一步分析。 例如也可以先經過邊檢測，之後在做一些後處理來檢測角，像是Kirsch operator和Frei-Chen masking set兩種方法。為了分辨區辨識時圖像含有一部分目標圖像的資訊是否正確，角檢測通常不是一個非常確定且同時需要很多額外的確認才可以確定，角檢測在圖像上最簡單的做法是利用相關性，但這樣的作法需要耗費大量的運算資源以及得到的結果可能只是局部最大值，因此有另一個常見的作法是使用Harris和Stephens所提出的經由改善Moravec方法的結果。 這是最早使用來做角檢測的做法，他首先定義所謂的「角」就是那些自我相似程度低的點。這個演算法檢查所有圖像中的像素，並考慮以該像素為中心點的一片範圍，該範圍與他周圍覆蓋最大的另一個範圍的相似度做為參考，而相似度通常是將兩個範圍的對應點計算誤差的平方和(SSD: Sum of Squared differences) ，越小代表相似度越高。 舉例來說，如果一個像素是位於一片均勻強度的區塊時，這時每個像素周圍與其附近的像素的周圍都是相當類似的，因此相似度也高，不會被認為是角。而在圖形的邊界處的像素，若是與邊垂直方向處附近的像素，兩者的周圍圖像相似度就會比較低，然而若是與邊平行附近的像素，兩者的周圍圖像相似度就會比較高(看到的都是一條在同樣位置的邊)，因此也不會被認為是角。只有在那些與附近像素的周圍圖像都很不相似的像素，才會被認為是「角」。 如果我們將這種與周圍的相似程度量化(使用誤差平方和)，並且找出整個圖像的局部最大值(局部最不相似的點)，這些局部最大值就很有可能是我們想要偵測到的「角」。 Harris & Stephens改善了Moravec的方法，他們直接考慮每個像素沿著特定方向處的像素的SSD，而不是使用與周圍像素範圍的SSD。 不失一般性，我們假設現在是對一個灰階的2維圖像來做偵測。令這個圖為 I {\displaystyle I} ，考慮 ( u , v ) {\displaystyle (u,v)} 位置的像素與周圍的區塊，並選取一個固定向量 ( x , y ) {\displaystyle (x,y)} 作為該像素的參考像素，因此固定的這個向量 ( x , y ) {\displaystyle (x,y)} 所算出的所有差平方和的總和記做為 S ( x , y ) {\displaystyle S(x,y)} ，而對於每個 ( u , v ) {\displaystyle (u,v)} 做不同加權，就可以得到 S ( x , y ) = ∑ u ∑ v w ( u , v ) ( I ( u + x , v + y ) − I ( u , v ) ) 2 {\displaystyle S(x,y)=\sum _{u}\sum _{v}w(u,v)\,\left(I(u+x,v+y)-I(u,v)\right)^{2}} 如果使用泰勒展開式將 I ( u + x , v + y ) {\displaystyle I(u+x,v+y)} 展開，假設 I x {\displaystyle I_{x}} 和 I y {\displaystyle I_{y}} 是 I {\displaystyle I} 的偏微分，可以得到 I ( u + x , v + y ) ≈ I ( u , v ) + I x ( u , v ) x + I y ( u , v ) y {\displaystyle I(u+x,v+y)\approx I(u,v)+I_{x}(u,v)x+I_{y}(u,v)y} 並將原式改寫成 S ( x , y ) ≈ ∑ u ∑ v w ( u , v ) ( I x ( u , v ) x + I y ( u , v ) y ) 2 , {\displaystyle S(x,y)\approx \sum _{u}\sum _{v}w(u,v)\,\left(I_{x}(u,v)x+I_{y}(u,v)y\right)^{2},} 或是使用矩陣來簡化算式 S ( x , y ) ≈ ( x y ) A ( x y ) , {\displaystyle S(x,y)\approx {\begin{pmatrix}x&y\end{pmatrix}}A{\begin{pmatrix}x\\y\end{pmatrix}},} 其中矩陣 A {\displaystyle A} 為 A = ∑ u ∑ v w ( u , v ) [ I x 2 I x I y I x I y I y 2 ] = [ ⟨ I x 2 ⟩ ⟨ I x I y ⟩ ⟨ I x I y ⟩ ⟨ I y 2 ⟩ ] {\displaystyle A=\sum _{u}\sum _{v}w(u,v){\begin{bmatrix}I_{x}^{2}&I_{x}I_{y}\\I_{x}I_{y}&I_{y}^{2}\end{bmatrix}}={\begin{bmatrix}\langle I_{x}^{2}\rangle &\langle I_{x}I_{y}\rangle \\\langle I_{x}I_{y}\rangle &\langle I_{y}^{2}\rangle \end{bmatrix}}} 式子中的矩陣是Harris矩陣，而括號代表對所有的 ( u , v ) {\displaystyle (u,v)} 取加權平均， 一個角(或者說是要點)可以被刻劃成該點 ( u , v ) {\displaystyle (u,v)} 使得 S ( u , v ) {\displaystyle S(u,v)} 在不同的方向 ( x , y ) {\displaystyle (x,y)} 之間有很大的變異數的點。 根據分析 A {\displaystyle A} 的特徵值，以上的特性可以用下面的方式闡述：在角的點上， A {\displaystyle A} 應該要有兩個"大"的特徵值。 根據特徵值的大小，我們會有以下的推論： 如果 λ 1 ≈ 0 {\displaystyle \lambda _{1}\approx 0} 和 λ 2 ≈ 0 {\displaystyle \lambda _{2}\approx 0} 則這個像素 ( u , v ) {\displaystyle (u,v)} 只是一個普通的點。 如果 λ 1 ≈ 0 {\displaystyle \lambda _{1}\approx 0} 但 λ 2 {\displaystyle \lambda _{2}} 為一個大的正數，則這個像素 ( u , v ) {\displaystyle (u,v)} 位在邊上面。 如果 λ 1 {\displaystyle \lambda _{1}} 和 λ 2 {\displaystyle \lambda _{2}} 都是大的正數，則這個像素 ( u , v ) {\displaystyle (u,v)} 就是一個角點。 Harris 和 Stephens 注意到計算特徵值在運算量上面相當大，計算中需要使用到取平方根的操作，因此給出了另一個近似值 M c {\displaystyle M_{c}} ，其中 κ {\displaystyle \kappa } 是需要調整的重要參數。 M c = λ 1 λ 2 − κ ( λ 1 + λ 2 ) 2 = det ⁡ ( A ) − κ trace 2 ⁡ ( A ) {\displaystyle M_{c}=\lambda _{1}\lambda _{2}-\kappa \,(\lambda _{1}+\lambda _{2})^{2}=\operatorname {det} (A)-\kappa \,\operatorname {trace} ^{2}(A)} 因此該演算法不需要真正的去做 A {\displaystyle A} 的特徵分解，而只需要去估計 A {\displaystyle A} 的行列式和跡。 Shi–Tomasi 角檢測在假設一般圖像每個像素所給出的函數值通常是光滑(smooth)且穩定的(stable)，他直接去計算 min ( λ 1 , λ 2 ) {\displaystyle \min(\lambda _{1},\lambda _{2})} ，有時又稱該方法為 Kanade-Tomasi 角檢測。 而 κ {\displaystyle \kappa } 的值通常是由經驗決定，而通常在 0.04–0.15 的範圍裡是可解的。 另一種方法可以避開選擇 κ {\displaystyle \kappa } 的困擾，這個方法是使用 Noble's 角測度 M c ′ {\displaystyle M_{c}'} ，而角測度是計算所有特徵值 的調和平均數 M c ′ = 2 det ⁡ ( A ) trace ⁡ ( A ) + ϵ , {\displaystyle M_{c}'=2{\frac {\operatorname {det} (A)}{\operatorname {trace} (A)+\epsilon }},} 其中 ϵ {\displaystyle \epsilon } 是一個小的正常數。 而角的位置的共變異數矩陣即為 A − 1 {\displaystyle A^{-1}} ，可以寫成 1 ⟨ I x 2 ⟩ ⟨ I y 2 ⟩ − ⟨ I x I y ⟩ 2 [ ⟨ I y 2 ⟩ − ⟨ I x I y ⟩ − ⟨ I x I y ⟩ ⟨ I x 2 ⟩ ] . {\displaystyle {\frac {1}{\langle I_{x}^{2}\rangle \langle I_{y}^{2}\rangle -\langle I_{x}I_{y}\rangle ^{2}}}{\begin{bmatrix}\langle I_{y}^{2}\rangle &-\langle I_{x}I_{y}\rangle \\-\langle I_{x}I_{y}\rangle &\langle I_{x}^{2}\rangle \end{bmatrix}}.} 在某些情況，會希望更精確地去計算角的位置，為了得到近似值，Förstner 演算法可以解出閉集上的角附近範圍中的所有切線與最接近這些切線的點，該演算法依賴於在一個理想的角附近。 一個像素 x ′ {\displaystyle \mathbf {x'} } 的切線 T x ′ ( x ) {\displaystyle T_{\mathbf {x'} }(\mathbf {x} )} 可以由數學式給出 T x ′ ( x ) = ∇ I ( x ′ ) ⊤ ( x − x ′ ) = 0 {\displaystyle T_{\mathbf {x'} }(\mathbf {x} )=\nabla I(\mathbf {x'} )^{\top }(\mathbf {x} -\mathbf {x'} )=0} 其中 ∇ I ( x ′ ) = [ I x , I y ] ⊤ {\displaystyle \nabla I(\mathbf {x'} )=[I_{\mathbf {x} },I_{\mathbf {y} }]^{\top }} 是圖像 I {\displaystyle I} 在 x ′ {\displaystyle \mathbf {x'} } 點的梯度向量。 而最靠近長方形範圍 N {\displaystyle N} 中所有切線的點 x 0 {\displaystyle \mathbf {x} _{0}} 為 x 0 = argmin x ∈ R 2 × 1 ∫ x ′ ∈ N T x ′ ( x ) 2 d x ′ {\displaystyle \mathbf {x} _{0}={\underset {\mathbf {x} \in \mathbb {R} ^{2\times 1}}{\operatorname {argmin} }}\int _{\mathbf {x'} \in N}T_{\mathbf {x'} }(\mathbf {x} )^{2}d\mathbf {x'} } x 0 {\displaystyle \mathbf {x} _{0}} 到切線 T x ′ {\displaystyle T_{\mathbf {x'} }} 的距離依照梯度向量的大小來加權，因此若經過該點的切線有較大的梯度的話，在加權上就會占較高的比重。 嘗試著解 x 0 {\displaystyle \mathbf {x} _{0}} ： x 0 = argmin x ∈ R 2 × 1 ∫ x ′ ∈ N ( ∇ I ( x ′ ) ⊤ ( x − x ′ ) ) 2 d x ′ = argmin x ∈ R 2 × 1 ∫ x ′ ∈ N ( x − x ′ ) ⊤ ∇ I ( x ′ ) ∇ I ( x ′ ) ⊤ ( x − x ′ ) d x ′ = argmin x ∈ R 2 × 1 ( x ⊤ A x − 2 x ⊤ b + c ) {\displaystyle {\begin{aligned}\mathbf {x} _{0}&={\underset {\mathbf {x} \in \mathbb {R} ^{2\times 1}}{\operatorname {argmin} }}\int _{\mathbf {x'} \in N}(\nabla I(\mathbf {x'} )^{\top }(\mathbf {x} -\mathbf {x'} ))^{2}d\mathbf {x'} \\&={\underset {\mathbf {x} \in \mathbb {R} ^{2\times 1}}{\operatorname {argmin} }}\int _{\mathbf {x'} \in N}(\mathbf {x} -\mathbf {x'} )^{\top }\nabla I(\mathbf {x'} )\nabla I(\mathbf {x'} )^{\top }(\mathbf {x} -\mathbf {x'} )d\mathbf {x'} \\&={\underset {\mathbf {x} \in \mathbb {R} ^{2\times 1}}{\operatorname {argmin} }}\,(\mathbf {x} ^{\top }A\mathbf {x} -2\mathbf {x} ^{\top }\mathbf {b} +c)\end{aligned}}} A ∈ R 2 × 2 , b ∈ R 2 × 1 , c ∈ R {\displaystyle A\in \mathbb {R} ^{2\times 2},{\textbf {b}}\in \mathbb {R} ^{2\times 1},c\in \mathbb {R} } 分別為 A = ∫ ∇ I ( x ′ ) ∇ I ( x ′ ) ⊤ d x ′ b = ∫ ∇ I ( x ′ ) ∇ I ( x ′ ) ⊤ x ′ d x ′ c = ∫ x ′ ⊤ ∇ I ( x ′ ) ∇ I ( x ′ ) ⊤ x ′ d x ′ {\displaystyle {\begin{aligned}A&=\int \nabla I(\mathbf {x'} )\nabla I(\mathbf {x'} )^{\top }d\mathbf {x'} \\\mathbf {b} &=\int \nabla I(\mathbf {x'} )\nabla I(\mathbf {x'} )^{\top }\mathbf {x'} d\mathbf {x'} \\c&=\int \mathbf {x'} ^{\top }\nabla I(\mathbf {x'} )\nabla I(\mathbf {x'} )^{\top }\mathbf {x'} d\mathbf {x'} \\\end{aligned}}} 要找出最小值可以經由計算式子對 x {\displaystyle x} 的微分，並讓微分後的式子等於0來解 x {\displaystyle x} 2 A x − 2 b = 0 ⇒ A x = b {\displaystyle 2A\mathbf {x} -2\mathbf {b} =0\Rightarrow A\mathbf {x} =\mathbf {b} } 注意到如果要能夠解上述等式， A ∈ R 2 × 2 {\displaystyle A\in \mathbb {R} ^{2\times 2}} 必須要是可逆的，或是說 A ∈ R 2 × 2 {\displaystyle A\in \mathbb {R} ^{2\times 2}} 必須要是滿秩的，而解可以寫成 x 0 = A − 1 b {\displaystyle x_{0}=A^{-1}\mathbf {b} } 只有在範圍 N {\displaystyle N} 之中有角時才存在。 此外 Lindeberg 給出一個方法去評估角的確定性，經由最小化誤差 d ~ m i n = c − b T A − 1 b trace A {\displaystyle {\tilde {d}}_{min}={\frac {c-b^{T}A^{-1}b}{{\mbox{trace}}A}}} 而這對所有尺度都適用，因此這方法可以自動去適應圖片中不同梯度大小所造成的影響與誤差。 此外 c {\displaystyle c} 可以被視為最小平方誤差計算中的誤差，因此當 c {\displaystyle c} 為0時，將沒有誤差存在。 這個演算法可以用來找出環狀特徵的中心，只需將上述演算法中的梯度向量改成法線向量即可。 Harris 算子中的微分矩陣 A {\displaystyle A} 會牽涉到要計算圖像中的偏微分(Image derivatives) I x , I y {\displaystyle I_{x},I_{y}} ，而這可以用附近點的線性組合來做逼近，而計算線性組合時通常也會需要根據附近圖像值的大小來做縮放，因此需要兩個額外的縮放參數：(i)一個局部縮放參數主要用來讓圖像平滑一點 (ii)一個積分參數用來累積在微分操作中的非線性算子，作為圖像的修正項。 若以 I {\displaystyle I} 代表原本圖形中的亮度， L {\displaystyle L} 為一個將圖像 I {\displaystyle I} 通過一個高斯濾波器讓圖像變模糊的結果。 g ( x , y , t ) = 1 2 π t e − ( x 2 + y 2 ) / 2 t {\displaystyle g(x,y,t)={\frac {1}{2{\pi }t}}e^{-(x^{2}+y^{2})/2t}} 而參數 t {\displaystyle t} 用來控制高斯濾波器的變異數 L ( x , y , t )   = g ( x , y , t ) ∗ I ( x , y ) {\displaystyle L(x,y,t)\ =g(x,y,t)*I(x,y)} 令 L x = ∂ x L {\displaystyle L_{x}=\partial _{x}L} 和 L y = ∂ y L {\displaystyle L_{y}=\partial _{y}L} 為 L {\displaystyle L} 的偏導數，此外用一個高斯濾波器作為縮放大小，參數 s {\displaystyle s} 可供調整。 則multi-scale second-moment matrix 可以被定義為 μ ( x , y ; t , s ) = ∫ ξ = − ∞ ∞ ∫ η = − ∞ ∞ [ L x 2 ( x − ξ , y − η ; t ) L x ( x − ξ , y − η ; t ) L y ( x − ξ , y − η ; t ) L x ( x − ξ , y − η ; t ) L y ( x − ξ , y − η ; t ) L y 2 ( x − ξ , y − η ; t ) ] g ( ξ , η ; s ) d ξ d η . {\displaystyle \mu (x,y;t,s)=\int _{\xi =-\infty }^{\infty }\int _{\eta =-\infty }^{\infty }{\begin{bmatrix}L_{x}^{2}(x-\xi ,y-\eta ;t)&L_{x}(x-\xi ,y-\eta ;t)\,L_{y}(x-\xi ,y-\eta ;t)\\L_{x}(x-\xi ,y-\eta ;t)\,L_{y}(x-\xi ,y-\eta ;t)&L_{y}^{2}(x-\xi ,y-\eta ;t)\end{bmatrix}}g(\xi ,\eta ;s)\,d\xi \,d\eta .} 則我們也可以用前面類似的方法來計算 μ {\displaystyle \mu } 的特徵值，並且定義多尺度 Harris corner 測度為 M c ( x , y ; t , s ) = det ⁡ ( μ ( x , y ; t , s ) ) − κ trace 2 ⁡ ( μ ( x , y ; t , s ) ) {\displaystyle M_{c}(x,y;t,s)=\operatorname {det} (\mu (x,y;t,s))-\kappa \,\operatorname {trace} ^{2}(\mu (x,y;t,s))} 注意到局部尺度參數 t 和積分尺度參數 s ，這兩個參數通常會有相對關係 s = γ 2 t {\displaystyle s=\gamma ^{2}t} ，其中 γ {\displaystyle \gamma } 為一個參數通常介於 [ 1 , 2 ] {\displaystyle [1,2]} 之間。 因此我們可以計算多尺度 Harris corner 測度 M c ( x , y ; t , γ 2 t ) {\displaystyle M_{c}(x,y;t,\gamma ^{2}t)} ，在給定的任何局部尺度 t 去做到多尺度角偵測。 一般實際應用上，多尺度角偵測通常會先做尺度選擇的步驟，可以參考正規化尺度拉普拉斯算子 。 ∇ n o r m 2 L ( x , y ; t )   = t ∇ 2 L ( x , y , t ) = t ( L x x ( x , y , t ) + L y y ( x , y , t ) ) {\displaystyle \nabla _{norm}^{2}L(x,y;t)\ =t\nabla ^{2}L(x,y,t)=t(L_{xx}(x,y,t)+L_{yy}(x,y,t))} 常常在尺度選擇的部分用到，並且用來同時調整尺度以適應該角點。 空間範圍內多尺度角測度 M c ( x , y ; t , γ 2 t ) {\displaystyle M_{c}(x,y;t,\gamma ^{2}t)} 的最大值： ( x ^ , y ^ ; t ) = argmaxlocal ( x , y ) ⁡ M c ( x , y ; t , γ 2 t ) {\displaystyle ({\hat {x}},{\hat {y}};t)=\operatorname {argmaxlocal} _{(x,y)}M_{c}(x,y;t,\gamma ^{2}t)} 將圖像通過一個高斯濾波器 ∇ n o r m 2 ( x , y , t ) {\displaystyle \nabla _{norm}^{2}(x,y,t)} (拉普拉斯算子)所得到的 L {\displaystyle L} 的局部最大值或最小值： t ^ = argmaxminlocal t ⁡ ∇ n o r m 2 L ( x ^ , y ^ ; t ) {\displaystyle {\hat {t}}=\operatorname {argmaxminlocal} _{t}\nabla _{norm}^{2}L({\hat {x}},{\hat {y}};t)} J. Shi and C. Tomasi. Good Features to Track,. 9th IEEE Conference on Computer Vision and Pattern Recognition. Springer. June 1994 [2015-07-03]. （原始内容存档于2008-05-14）.  C. Tomasi and T. Kanade. Detection and Tracking of Point Features. Pattern Recognition. 2004, 37: 165–168. doi:10.1016/S0031-3203(03)00234-6.  A. Noble. Descriptions of Image Surfaces (学位论文). Department of Engineering Science, Oxford University: 45. 1989.  Förstner, W; Gülch. A Fast Operator for Detection and Precise Location of Distinct Points, Corners and Centres of Circular Features (PDF). ISPRS. 1987. [失效連結] T. Lindeberg. Junction detection with automatic selection of detection scales and localization scales. Proc. 1st International Conference on Image Processing I. Austin, Texas: 924–928. 1994 [2015-07-03]. （原始内容存档于2017-08-25）.  Tony Lindeberg. Feature detection with automatic scale selection. International Journal of Computer Vision. 1998, 30 (2): 77–116 [2015-07-03]. （原始内容存档于2021-03-02）.  T. Lindeberg. Scale-Space Theory in Computer Vision. Springer. 1994 [2015-07-03]. ISBN 0-7923-9418-6. （原始内容存档于2021-04-17）.  T. Lindeberg. Wiley Encyclopedia of Computer Science and Engineering. Encyclopedia of Computer Science and Engineering (Benjamin Wah, ed), John Wiley and Sons. 2008–2009, IV: 2495–2504 [2015-07-03]. ISBN 0-470-05011-X. doi:10.1002/9780470050118.ecse609. （原始内容存档于2019-09-07）.  |chapter=被忽略 (帮助) K. Mikolajczyk, K. and C. Schmid. Scale and affine invariant interest point detectors (PDF). International Journal of Computer Vision. 2004, 60 (1): 63–86 [2015-07-03]. doi:10.1023/B:VISI.0000027790.02288.f2. （原始内容存档 (PDF)于2018-01-07）.  C. Harris and M. Stephens. A combined edge and corner detector. Proceedings of the 4th Alvey Vision Conference: 147–151. 1988.  C. Harris. Geometry from visual motion. A. Blake and A. Yuille (编). Active Vision. MIT Press, Cambridge MA. 1992.  H. Moravec. Obstacle Avoindance and Navigation in the Real World by a Seeing Robot Rover. Tech Report CMU-RI-TR-3 Carnegie-Mellon University, Robotics Institute. 1980.