特徴選択
総当たり探索は通常実用的でないため、実装者が停止点を定め、その停止点までに見つかったうち最高のスコアを持つ特徴部分集合を満足できる特徴部分集合として採用する。停止の規準は、アルゴリズムによって異なるが、部分集合のスコアがしきい値を超える、プログラムの実行時間が規定値を超える、などである。
探索(組合せ最適化)のアプローチには、
総当たり
最良優先探索
焼きなまし法
遺伝的アルゴリズム
貪欲前向き選択
貪欲後ろ向き選択
などがある。
フィルターの規準として、分類問題では相関と相互情報量の二つがよく用いられる。これらのスコアは候補となる特徴(もしくは特徴部分集合)と求める出力カテゴリの間で計算される。
フィルターの規準としてはほかに、次のものがある:
クラスの分離性 誤分類確率 クラス内距離 確率分布の距離 エントロピー
一貫性に基づく特徴選択
相関に基づく特徴選択