決定境界

決定境界（けっていきょうかい、）とは、ベクトル空間上での2クラス分類問題において各クラスに属する集合ごとに二分割するような超曲面のことを指す。分類器は決定境界を求めることで決定境界の片側に含まれる要素を一方のクラスに、もう片側に含まれる要素を他方のクラスへと分類する。

決定境界は分類器の出力ラベル（出力値）が明らかでないような問題空間上に定義される CSE 455/555 Spring 2013 Quiz 1 of 14, 2022年3月閲覧。

決定境界が超平面であるとき、分類問題は線形な境界として表される。そして各クラスは線形である超平面によって分離可能であり、これは線形分離可能な分類問題と呼ばれる。

決定境界は必ずしも明確に決まるとは限らない。つまりにおけるあるクラスから別のクラスへの変位が不連続ではなく、ゆるやかに変化しているためである。この作用はファジィ理論に基づく分類アルゴリズムでよくみられるもので、未知の入力に対してどのクラスへ属するかが不明瞭なことがある。

 ニューラルネットワークとサポートベクターモデルにおける決定境界 
ニューラルネットワークやパーセプトロンにおけるバックプロパゲーションの場合、ネットワークで学習できる決定境界の種類はネットワークの持つ隠れ層の値によって決まる。
ニューラルネットワークにおいて隠れ層を持たないとき、決定境界は線形問題に対してのみ学習を行うことができる。ニューラルネットワークにおいて隠れ層が1層であるとき、決定境界はによって、Rn 上でコンパクトで連続な超平面について学習を行うことができる。したがって、ニューラルネットワークでは任意の決定境界を求めることが可能である。

特に、サポートベクターマシンでは特徴空間で2つのクラスに分離する超平面をが最大化されるように求める。線形分離可能な問題でない場合、カーネル法を用いて次元数を増やすことで、線形分離可能な問題として解くことができる。したがって、サポートベクターマシンでは一般的に決定境界が低次元空間上で超曲面となる場合は、高次元の空間上で超平面として分類を行う。

サポートベクターマシンで決定境界と各点ごとのマージンが最大となるように決定境界を学習し、ニューラルネットワークでは誤差が最小化されるように決定境界が学習がなされる。

 脚注 

 参考文献 


Category:分類アルゴリズム
Category:統計学的分類
Category:数学に関する記事