總變差去噪

總變差去噪（英語：Total Variation Denoising）是訊號處理中一種常見的降噪方法，於1992年由L. I. Rudin、S. Osher（英语：Stanley Osher）和E. Fatemi提出，因此亦稱為ROF模型。一個含有雜訊的訊號相較於其未受雜訊影響的訊號，會有較大的總變差值，即其梯度絕對值的總和較大。因此若能找到一個與原始訊號相似且總變差較小的訊號，即可作為原始訊號的降噪結果。此算法可以在去除雜訊的同時保留邊緣，即使在低訊號雜訊比的情況下，依然能有效的去噪和保留邊緣。 總變差為一函數其數值變化的總和。可表示為其微分後取絕對值再積分的結果。 若一函數 y = f ( x ) {\displaystyle y=f(x)} 為一維連續可微函數，其在區間 [ a , b ] ⊂ R {\displaystyle [a,b]\subset \mathbb {R} } 之總變差定義為 T V a b ( y ) = ∫ a b | f ′ ( x ) | d x {\displaystyle TV_{a}^{b}(y)=\int _{a}^{b}|f'(x)|dx} , 其中 f ′ ( x ) {\displaystyle f'(x)} 為 f ( x ) {\displaystyle f(x)} 的一次微分。 當 f ( x ) {\displaystyle f(x)} 不可微分時，其總變差由一般性的定義給出: T V a b ( y ) = sup P ∑ i = 0 n P − 1 | f ( x i + 1 ) − f ( x i ) | {\displaystyle TV_{a}^{b}(y)=\sup _{\mathcal {P}}\sum _{i=0}^{n_{P}-1}|f(x_{i+1})-f(x_{i})|} , 其中 P {\displaystyle {\mathcal {P}}} 為區間 [ a , b ] {\displaystyle [a,b]} 中所有可能的分割，即 P = { P = { x 0 , … , x n P } | P  is a partition of  [ a , b ] } {\displaystyle \scriptstyle {\mathcal {P}}=\left\{P=\{x_{0},\dots ,x_{n_{P}}\}|P{\text{ is a partition of }}[a,b]\right\}} 。 若一函數 y = f ( x ) {\displaystyle y=f(x)} 為一維離散函數，則其總變差定義為 T V ( y ) = ∑ n | f ( x n + 1 ) − f ( x n ) | {\displaystyle TV(y)=\sum _{n}|f(x_{n+1})-f(x_{n})|} . 即差分後取絕對值再加總的結果。 設輸入的觀察訊號為 x {\displaystyle x} ，對 x {\displaystyle x} 去噪得到的訊號為 y {\displaystyle y} 。我們可以透過解最佳化問題來從 x {\displaystyle x} 得到 y {\displaystyle y} 。當以總變差去噪法對訊號進行去噪時，最佳化問題應滿足以下兩個條件: x {\displaystyle x} 與 y {\displaystyle y} 相似，以保留訊號整體的結構性 y {\displaystyle y} 的總變差不大，以降低雜訊 在數學上，兩個訊號的相似度可以以兩者差的 L 2 {\displaystyle L_{2}} -範數表示，即 E ( x , y ) = 1 2 ‖ x − y ‖ 2 2 = 1 2 ∑ n ( x n − y n ) 2 {\displaystyle E(x,y)={\frac {1}{2}}\left\|x-y\right\|_{2}^{2}={\frac {1}{2}}\sum _{n}(x_{n}-y_{n})^{2}} , 其中 ‖ ⋅ ‖ 2 {\displaystyle \left\|\cdot \right\|_{2}} 即為 L 2 {\displaystyle L_{2}} -範數，而 x n , y n {\displaystyle x_{n},y_{n}} 為訊號的取樣點。 藉由上述數學表達式，總變差去噪法的最佳化問題可以寫成 min y E ( x , y ) + λ T V ( y ) {\displaystyle \min _{y}E(x,y)+\lambda TV(y)} . 即利用最小平方法，並以總方差作為正規化的正規項，以求得去噪結果。其中 λ {\displaystyle \lambda } 為正規化參數，用於調整正規項的重要程度。 由於 E ( x , y ) {\displaystyle E(x,y)} 和 T V ( y ) {\displaystyle TV(y)} 皆為凸函數，因此一維總變差去噪的最佳化為一凸優化問題，有許多凸優化演算法可以求解，且其解必為全局最佳值。 影像為二維離散訊號，在ROF模型中定義的總變差為 T V ( y ) = ∑ m , n ‖ ∇ y m , n ‖ 2 = ∑ m , n | y m + 1 , n − y m , n | 2 + | y m , n + 1 − y m , n | 2 {\displaystyle TV(y)=\sum _{m,n}\left\|\nabla y_{m,n}\right\|_{2}=\sum _{m,n}{\sqrt {|y_{m+1,n}-y_{m,n}|^{2}+|y_{m,n+1}-y_{m,n}|^{2}}}} , 其中 ∇ {\displaystyle \nabla } 為梯度運算子。 然而該定義不可微分，做為最佳化問題的正規項時不易求解。因此也有 L 1 {\displaystyle L_{1}} -範數形式的二維總變差 T V ( y ) = ∑ m , n ‖ ∇ y m , n ‖ 1 = ∑ m , n ( | y m + 1 , n − y m , n | + | y m , n + 1 − y m , n | ) {\displaystyle TV(y)=\sum _{m,n}\left\|\nabla y_{m,n}\right\|_{1}=\sum _{m,n}(|y_{m+1,n}-y_{m,n}|+|y_{m,n+1}-y_{m,n}|)} . 最佳化問題的形式與解一維訊號形式相同 min y E ( x , y ) + λ T V ( y ) {\displaystyle \min _{y}E(x,y)+\lambda TV(y)} . 然而二維訊號的最佳化問題不一定為凸優化問題，因此無法以常見凸優化演算法求解。目前發展能求解的演算法有原始-對偶演算法（英语：Wikipedia:primal-dual method）、交替方向乘子法(ADMM)、布雷格曼方法（英语：Wikipedia:Bregman method）等等。 總變差的概念為先微分取絕對值後再積分。因此在一些文獻中有使用到二階微分以上的例子。 當處理訊號為離散訊號時，二階差分的形式如下 f ″ ( x n ) = f ( x n − 1 ) − 2 f ( x n ) + f ( x n + 1 ) {\displaystyle f''(x_{n})=f(x_{n-1})-2f(x_{n})+f(x_{n+1})} 因此使用二階差分的總變差可定義為 T V ( 2 ) ( y ) = ∑ n | f ″ ( x n ) | {\displaystyle TV^{(2)}(y)=\sum _{n}|f''(x_{n})|} 而最佳化問題的形式為 min y E ( x , y ) + λ 1 T V ( y ) + λ 2 T V ( 2 ) ( y ) {\displaystyle \min _{y}E(x,y)+\lambda _{1}TV(y)+\lambda _{2}TV^{(2)}(y)} 雙邊總變差(bilateral total variation)是2004年由S.Farisu和D.Robinson提出的最佳化正規項。該正規項基於總變差，結合雙邊濾波器的概念而成。主要應用於影像復原。 雙邊總變差的形式如下 B T V ( Y ) = ∑ l = − P P ∑ m = max ( 0 , − l ) P λ | l | + | m | ‖ Y − S x l S y m Y ‖ 1 {\displaystyle BTV(\mathbf {Y} )=\sum _{l=-P}^{P}\sum _{m=\max(0,-l)}^{P}\lambda ^{|l|+|m|}\left\|\mathbf {Y} -\mathbf {S} _{x}^{l}\mathbf {S} _{y}^{m}\mathbf {Y} \right\|_{1}} , 其中 Y {\displaystyle \mathbf {Y} } 為處理圖片， S x l {\displaystyle \mathbf {S} _{x}^{l}} 與 S y m {\displaystyle \mathbf {S} _{y}^{m}} 為兩個運算子，分別代表將圖片水平移動 l {\displaystyle l} 個像素與垂直移動 k {\displaystyle k} 個像素。 λ {\displaystyle \lambda } 為權重，隨著平移距離遞減。 當 l = 1 , m = 0 {\displaystyle l=1,m=0} 和 l = 0 , m = 1 {\displaystyle l=0,m=1} 時，圖片的每一個像素與相鄰之下一個像素相減，此時的雙邊總變差與總變差相同。當 l , m {\displaystyle l,m} 為其它值時，可以當成是計算斜線方向以及將圖片降採樣後的總變差值。如此達到更好的正規化效果。 根據S.Farisu的實驗結果，雙邊總變差相對於總變差，邊界模糊的情況較少，能夠更好的保留原圖片邊界。 數位訊號處理 最佳化 影像降噪 高斯模糊 中值濾波器 雙邊濾波器 非等向性擴散 非局部平均 三維塊匹配算法 Rudin, L. I.; Osher, S.; Fatemi, E. Nonlinear total variation based noise removal algorithms. Physica D. 1992, 60 (1–4): 259–268. Bibcode:1992PhyD...60..259R. CiteSeerX 10.1.1.117.1675 . doi:10.1016/0167-2789(92)90242-f.  Little, M. A.; Jones, Nick S. Sparse Bayesian Step-Filtering for High-Throughput Analysis of Molecular Machine Dynamics (PDF). ICASSP 2010 Proceedings. 2010 IEEE International Conference on Acoustics, Speech and Signal Processing. 2010 [2020-06-13]. （原始内容 (PDF)存档于2018-07-28）.  Chambolle, A. An algorithm for total variation minimization and applications. Journal of Mathematical Imaging and Vision. 2004, 20: 89–97. CiteSeerX 10.1.1.160.5226 . doi:10.1023/B:JMIV.0000011325.36760.1e.  Wahlberg, B.; Boyd, S.; Annergren, M.; Wang, Y. An ADMM algorithm for a class of total variation regularized estimation problems. 2012. arXiv:1203.1828  [stat.ML].  Bregman L. "A Relaxation Method of Finding a Common Point of Convex Sets and its Application to Problems of Optimization". Dokl. Akad. Nauk SSSR, v. 171, No. 5, 1966, p.p. 1019-1022. (English translation: Soviet Math. Dokl., v. 7, 1966, p.p. 1578-1581) Heide, F. High-quality computational imaging through simple lenses. ACM Transactions on Graphics (TOG). 2013, 32: 1––14. doi:10.1145/2516971.2516974.  Farisu, S. Fast and robust multiframe super resolution. IEEE transactions on image processing. 2004, 13: 1327––1344. doi:10.1109/TIP.2004.834669.