バックフィッティングアルゴリズム
バックフィッティングアルゴリズム(backfitting algorithm)とは、統計学において一般化加法モデルをフィッティングするのに使用される単純な反復手順(iterative procedure)である。1985 年に一般化加法モデルとともに Leo Breiman と Jerome Friedman によって導入された。たいていの場合、バックフィッティングは線形方程式系(連立一次方程式、linear system of equations)を解くのに使用されるガウス=ザイデル法と等価である。
ユニークな解を得やすくするための修正が可能である。 V 1 ( S i ) {\displaystyle {\mathcal {V}}_{1}(S_{i})} を、固有値が 1 である Si の固有ベクトルによって張られる空間とする。このとき、 S ^ b = 0 {\displaystyle {\hat {S}}b=0} を満たす どの b も、 ∑ i = 1 p b i = 0 {\displaystyle \sum _{i=1}^{p}b_{i}=0} であるような b i ∈ V 1 ( S i ) ∀ i = 1 , ... , p {\displaystyle b_{i}\in {\mathcal {V}}_{1}(S_{i})\forall i=1,\dots ,p} を持つ。今、 A {\displaystyle A} を、 V 1 ( S 1 ) + ⋯ + V 1 ( S p ) {\displaystyle {\mathcal {V}}_{1}(S_{1})+\dots +{\mathcal {V}}_{1}(S_{p})} 上の直交射影行列にとるとき、次の修正バックフィッティングアルゴリズムを得る。