カーネル (統計学)
再生核ヒルベルト空間 (RKHS) のカーネルが、カーネル法として知られる一連の手法において、implicit spaceのデータに対し、クラス識別、回帰分析、クラスター分析などを実行するのに用いられる。この用法は特に機械学習においてよく見られる。特にパラメーターに対して線形なクラスのモデルを用いる多くの機械学習手法を非線形化するために用いることができる。 RKHSを用いる機械学習手法で扱われる「カーネル」とは、対称性、正定値性(任意の有限個の入力空間の元に対して、グラム行列が半正定値)をともに満たす二変数関数のこと(総称)であり、ノンパラメトリック統計でカーネルと呼ばれるものとは一般に異なる。代表的なものにガウシアンカーネルがある。
カーネルとは、非負実数値可積分関数 K であって、次の2つの条件を満たすもののことである。
∫ − ∞ + ∞ K ( u ) d u = 1 ; {\displaystyle \int _{-\infty }^{+\infty }K(u)\,du=1\,;}
K ( − u ) = K ( u ) for all values of u . {\displaystyle K(-u)=K(u){\mbox{ for all values of }}u\,.}
一つめの要件は、カーネル密度推定の結果が確率密度関数となることを担保するものである。
二つめの要件は、対応する分布の平均が、利用されたサンプルの平均に等しくなることを担保するものである。
もし K がカーネルであれば、λ > 0 に対して K*(u) = λK(λu) で定義される K* もカーネルとなる。この性質は、データに適したスケールを選択するために用いることができる。