引導影像濾波器

在圖像處理上，引導影像濾波器（英語：Guided Image Filter）是一種能使影像平滑化的非線性濾波器。 與雙邊濾波器（Bilateral Filter）相同，這個影像濾波器同樣能夠在清楚保持影像邊界的情況下，達到讓影像平滑的效果。 但不同於雙邊濾波器，引導影像濾波器有兩個優點：首先，雙邊濾波器有非常大的計算複雜度，但引導影像濾波器因為並未用到過於複雜的數學計算，有線性的計算複雜度。再來，雙邊濾波器因為數學模型的緣故，在某些時候會發生梯度反轉（gradient reverse）的狀況，出現影像失真；而在引導影像濾波器，因為這個濾波器在數學上以線性組合為基礎出發，輸出圖片（Output Image）必與引導圖片（Guidance Image）的梯度方向一致，並不會出現梯度反轉的問題。 為了達到將影像平滑化、即去除雜訊的效果，首先定義輸出的結果圖片是輸入圖片減去雜訊後的結果；同時，為了讓輸出的圖片符合引導圖片的影像邊界，將輸出圖片定為引導圖片的線性組合。 以下為引導影像濾波器的基礎模型： (1)　　 q i = p i − n i {\displaystyle q_{i}=p_{i}-n_{i}} (2)　　 q i = a I i + b {\displaystyle q_{i}=aI_{i}+b} 在上述公式中， q i {\displaystyle q_{i}} 是第i個輸出的像素， p i {\displaystyle p_{i}} 是第i個輸入的像素， n i {\displaystyle n_{i}} 是第i個輸入像素的雜訊成分， I i {\displaystyle I_{i}} 是第i個引導圖片的像素， a , b {\displaystyle a,b} 則是用來衡量輸入權重的參數。 定義為線性組合（Linear Combination）的原因在於，一物件的邊界與其梯度（Gradient）相關，而在線性組合的定義下，輸出圖片之梯度必與引導圖片之梯度成對比（微分時高冪次係數保留而常數項則被去除），故可以達到保留梯度的效果、保留影像邊界的目的。 為了導出上述線性組合的參數，將(1)及(2)相減得到公式(3)；同時，定義一個代價方程式(cost function)(4)： (3)　　 n i = p i − a I i − b {\displaystyle n_{i}=p_{i}-aI_{i}-b} (4)　　 E ( a k , b k ) = ∑ i ϵ ω k ( ( a k I i + b k − p i ) 2 + ϵ a k 2 ) {\displaystyle E(a_{k},b_{k})=\sum _{i{\epsilon }{\omega }_{k}}^{}((a_{k}I_{i}+b_{k}-p{i})^{2}+{\epsilon }a_{k}^{2})} 在上式中， ϵ {\displaystyle \epsilon } 是一用來懲罰（penalize）過大的 a k {\displaystyle a_{k}} 的參數， ω k {\displaystyle \omega _{k}} 是以第 k {\displaystyle k} 個像素為中心點的窗格（window）。 在這個方程式中可以看到，希望同時讓最終的輸出圖片做到讓雜訊減少以及讓引導圖片在輸出圖片的影響減小（引導圖片的係數項）兩件事，遂定義每個像素雜訊和係數項的平方總合為最後須付出的價值項（cost）。並且，基於讓價值項最小化的原則，可以將(4)以線性回歸（linear regression）的方法找出它的線性模型，從而求得、使得出它的價值方程式有最小解的到以下兩參數 a k {\displaystyle a_{k}} 和 b k {\displaystyle b_{k}} ： (5)　　 a k = 1 ω ∑ i ϵ ω k I i p i − μ k p k ¯ σ k 2 + ϵ {\displaystyle a_{k}={\frac {{\frac {1}{\omega }}\sum _{i\epsilon \omega _{k}}I_{i}p_{i}-\mu _{k}{\bar {p_{k}}}}{\sigma _{k}^{2}+\epsilon }}} (6)　　 b k = p k ¯ − a k μ k {\displaystyle b_{k}={\bar {p_{k}}}-a_{k}\mu _{k}} 在這裡， μ k {\displaystyle \mu _{k}} 和 σ k 2 {\displaystyle \sigma _{k}^{2}} 分別是引導圖片 I {\displaystyle I} 在窗格 ω k {\displaystyle \omega _{k}} 的平均數（mean）和標準差（variance），而 p ¯ k = 1 | ω | ∑ i ϵ ω k p i {\displaystyle {\bar {p}}_{k}={\frac {1}{\left|\omega \right|}}\sum _{i\epsilon \omega _{k}}p_{i}} 是在窗格 ω i {\displaystyle \omega _{i}} 中像素的平均值；這兩項係數，換句話說，即是一以輸入圖片為考慮計算權重之平均濾波器（weighted mean）。 依據上式，可以列出此濾波器之演算法： Algorithm 1. 引導圖片濾波器 輸入： 輸入圖片 p {\displaystyle p} ，引導圖片 I {\displaystyle I} ，窗格半徑 r {\displaystyle r} ，修正項 ϵ {\displaystyle \epsilon } 輸出： 輸出圖片 q {\displaystyle q} 第一部分 m e a n I {\displaystyle mean_{I}} = f m e a n ( I ) {\displaystyle f_{mean}(I)} m e a n p {\displaystyle mean_{p}} = f m e a n ( p ) {\displaystyle f_{mean}(p)} c o r r I {\displaystyle corr_{I}} = f m e a n ( I . ∗ I ) {\displaystyle f_{mean}(I.*I)} c o r r I p {\displaystyle corr_{Ip}} = f m e a n ( I . ∗ p ) {\displaystyle f_{mean}(I.*p)} 第二部分 v a r I {\displaystyle var_{I}} = c o r r I − m e a n I . ∗ m e a n I {\displaystyle corr_{I}-mean_{I.}*mean_{I}} c o v I p {\displaystyle cov_{Ip}} = c o r r I p − m e a n I . ∗ m e a n p {\displaystyle corr_{Ip}-mean_{I.}*mean_{p}} 第三部分 a {\displaystyle a} = c o v I p . / ( v a r I + ϵ ) {\displaystyle cov_{Ip}./(var_{I}+\epsilon )} b {\displaystyle b} = m e a n p − a . ∗ m e a n I {\displaystyle mean_{p}-a.*mean_{I}} 第四部分 m e a n a {\displaystyle mean_{a}} = f m a e a n ( a ) {\displaystyle f_{maean}(a)} m e a n b {\displaystyle mean_{b}} = f m a e a n ( b ) {\displaystyle f_{maean}(b)} 第五部分 q {\displaystyle q} = m e a n a . ∗ I + m e a n b {\displaystyle mean_{a.}*I+mean_{b}} /* f m e a n {\displaystyle f_{mean}} 是一個有線性計算複雜度的平均濾波器（mean filter）*/ 邊界保留過濾 (Edge-Preserving Filtering) 引導影像濾波器保留邊界的特性，其實也可以被理解為是保留梯度的特性。由下圖可以看到，可以將一張圖分為細節圖層和基底圖層兩層，基底圖層的能量並無小振幅的升降，只有大振幅諸入梯度的能量升降；而細節圖層，只有雜訊式的小振幅能量升降。而引導影像濾波器所作的，其實就是將細節層和基底層分離並保留基底層，也就是保留梯度而去除雜訊，達到平滑效果。 具體而言，可以通過引導影像濾波器的參數 ϵ {\displaystyle \epsilon } 定義什麼是“平坦區塊(patch)”或“高變化區塊”。若一個區塊的變異數(variance)遠低於參數 ϵ {\displaystyle \epsilon } ，其通過濾波器後將被平滑；反之，變異數遠高於 ϵ {\displaystyle \epsilon } 的區塊將被視為邊界而被保留。雙邊濾波器中的範圍方差(range variance)參數 σ r 2 {\displaystyle \sigma _{r}^{2}} 的功能和引導影像濾波器的 ϵ {\displaystyle \epsilon } 相似。它們都定義了怎麼樣的區塊應該被平滑，而怎樣的區塊應該被保留。 梯度保留過濾 (Gradient-Preserving Filtering) 使用雙邊濾波器過濾圖片時，經常會在邊界處出現梯度翻轉偽像。這是因為像素值在這些地方變化地很劇烈。這些偽像通常難以被避免，因為不論是任何圖片經常都會包含邊界。 引導影像濾波器在避免梯度反轉方面表現地較佳。此外，在某些情況下，甚至可以確保必定不會發生梯度反轉的現象。 結構轉移過濾 (Structure-Transferring Filtering) 由於局部線性模型 q = a I + b {\displaystyle q=aI+b} 的線性組合特性，這讓引導影像濾波器擁有可以將引導圖像 I {\displaystyle I} 的結構轉換至演算法輸出 q {\displaystyle q} 。這個特性使得一些特殊的濾波應用成為可能，如：feathering、matting以及dehazing等。 由引導圖片濾波器的特性，可以延伸出除了原先的平滑化外的幾項功能 當一影像圖同時為輸出圖片和引導圖片時，可知最終得到的會是以該圖片的邊界為依據的基底層和細節層；因此，若要加強依影像之細節，可以將細節層的能量放大n倍後再次疊加回基底層，以達到增強細節的效果。 無論是利用光場（light field）技術或是焦點合成（focal-stack）所製作的深度圖（depth map），在出製作完成時往往都會有一些坑洞（holo）；而這時若使用引導影像濾波器，以原始影像為引導圖片、以深度圖為輸入圖片，便可得到一完整、無坑洞的深度圖。 官方MATLAB中實作了引導影像濾波器 官方OpenCV中實作了引導影像濾波器 Gradient Domain Guided Image Filtering. （页面存档备份，存于互联网档案馆） doi:10.1109/TIP.2015.2468183 存档副本. [2020-07-03]. （原始内容存档于2022-01-03）.  存档副本. [2020-07-03]. （原始内容存档于2021-02-25）.  Computer Vision -- ECCV 2010: 11th European Conference on Computer ..., 第 1 篇