(57)【要約】【課題】特徴間の各々における時刻順の整合性を保持して、識別に有効な特徴を選択することができる。【解決手段】特徴抽出部３２により、各時刻の値で表現された時系列データの表すクラスが予め付与された複数の学習データの各々から、２時刻間の値で定義される特徴を、学習データの２時刻間の各々について抽出し、初期特徴選択部３４２により、２時刻間の各々の特徴と、学習データの各々に付与されたクラスとに基づいて、クラス毎に、クラスの識別に有効な少なくとも１つの特徴の２時刻間を選択し、時刻順特徴選択部３４４により、クラス毎に、識別対象の時系列データがクラスを表すか否かを識別するために用いられる特徴の２時刻間として、クラスに対して選択された特徴の２時刻間から、特徴間の各々における時刻順の整合性を保持するように特徴の２時刻間を選択する。【選択図】図１
2015052994.tif 000002
【特許請求の範囲】
【請求項１】
各時刻の値で表現された時系列データの表すクラスが予め付与された複数の学習データの各々から、２時刻間の値で定義される特徴を、前記学習データの２時刻間の各々について抽出する特徴抽出部と、
前記特徴抽出部により前記学習データの各々について抽出された前記学習データの２時刻間の各々の特徴と、前記学習データの各々に付与された前記クラスとに基づいて、前記クラス毎に、前記クラスの識別に有効な少なくとも１つの前記特徴の２時刻間を選択する初期特徴選択部と、
前記クラス毎に、識別対象の時系列データが前記クラスを表すか否かを識別するために用いられる前記特徴の２時刻間として、前記初期特徴選択部において前記クラスに対して選択された前記特徴の２時刻間から、特徴間の各々における時刻順の整合性を保持するように前記特徴の２時刻間を選択する時刻順特徴選択部と、
を含む特徴選択装置。
【請求項２】
請求項１に記載の特徴選択装置と、
前記クラス毎に、前記クラスが予め付与された学習データの各々から、前記時刻順特徴選択部によって前記クラスに対して選択された前記特徴の２時刻間について、前記学習データの前記特徴を、識別対象の時系列データが前記クラスを表すか否かを識別するために用いられる特徴として抽出する選択特徴抽出部と、
含む学習装置。
【請求項３】
特徴抽出部と、初期特徴選択部と、時刻順特徴選択部とを含む特徴選択装置における特徴選択方法であって、
前記特徴抽出部は、各時刻の値で表現された時系列データの表すクラスが予め付与された複数の学習データの各々から、２時刻間の値で定義される特徴を、前記学習データの２時刻間の各々について抽出し、
前記初期特徴選択部は、前記特徴抽出部により前記学習データの各々について抽出された前記学習データの２時刻間の各々の特徴と、前記学習データの各々に付与された前記クラスとに基づいて、前記クラス毎に、前記クラスの識別に有効な少なくとも１つの前記特徴の２時刻間を選択し、
前記時刻順特徴選択部は、前記クラス毎に、識別対象の時系列データが前記クラスを表すか否かを識別するために用いられる前記特徴の２時刻間として、前記初期特徴選択部において前記クラスに対して選択された前記特徴の２時刻間から、特徴間の各々における時刻順の整合性を保持するように前記特徴の２時刻間を選択する
特徴選択方法。
【請求項４】
コンピュータを、
各時刻の値で表現された時系列データの表すクラスが予め付与された複数の学習データの各々から、２時刻間の値で定義される特徴を、前記学習データの２時刻間の各々について抽出する特徴抽出部、
前記特徴抽出部により前記学習データの各々について抽出された前記学習データの２時刻間の各々の特徴と、前記学習データの各々に付与された前記クラスとに基づいて、前記クラス毎に、前記クラスの識別に有効な少なくとも１つの前記特徴の２時刻間を選択する初期特徴選択部、及び
前記クラス毎に、識別対象の時系列データが前記クラスを表すか否かを識別するために用いられる前記特徴の２時刻間として、前記初期特徴選択部において前記クラスに対して選択された前記特徴の２時刻間から、特徴間の各々における時刻順の整合性を保持するように前記特徴の２時刻間を選択する時刻順特徴選択部、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、特徴選択装置、学習装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
従来、オンライン手書き文字認識やジェスチャー認識など、時系列データが表す文字やジェスチャーなどの対象を認識することが行われている。時系列データの認識における代表的な手法として、例えば、標準パターン及び入力パターン共に全ての文字ストロークや動作の軌跡を時刻順どおりに結合して表現した時系列パターンを生成し、これらのオンライン文字における筆点座標系列やジェスチャーにおける各サンプリング時での動作の特徴点間でＤＰマッチング（Dynamic Programming（動的計画法）によるマッチング）を行うことにより認識する手法が提案されている（非特許文献１）。
【０００３】
また、ＤＰマッチングに用いる特徴として、各サンプリング時の特徴点の座標だけではなく、隣接したサンプリング時間の特徴点間の差分としての相対座標値として定義される局所方向を用いる手法もある。
【０００４】
さらに、相対座標値として、隣接したサンプリング時間だけでなく、更に離れたサンプリング時間での特徴点間の差分としての相対座標値を含む大局的特徴を用いる手法も提案されている（非特許文献２）。
【０００５】
また、大局的特徴を用いてＤＰマッチングを実行するために、予め設定した開始位置から、特徴の有効性を示す指標を用いて、時刻順の整合性を保持するように、時間順に複数の特徴を選択する手法も提案されている（非特許文献３）。
【先行技術文献】
【非特許文献】
【０００６】
【非特許文献１】佐藤幸男、足立秀綱、「走り書き文字のオンライン認識」電子情報通信学会論文誌（Ｄ），Ｖｏｌ．Ｊ６８−（Ｄ），Ｎｏｌ．１２，ｐｐ．２１１６−２１２２
【非特許文献２】森稔、内田誠一、坂野等、「大局的構造情報を用いたオンライン数字認識」電子情報通信学会  技術研究報告  パターン認識・メディア理解研究会，ｖｏｌ．１１１，ｎｏ．３１７，ＰＲＭＵ２０１１−１０２，ｐｐ．１９−２４，Ｎｏｖ．２０１１
【非特許文献３】森稔、内田誠一、坂野等、「大局的特徴に対するＤＰマッチング電子情報通信学会論文誌（Ｄ），Ｖｏｌ．Ｊ９６−Ｄ，Ｎｏ．７，ｐｐ．１６５４−１６５７
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、非特許文献１に記載の手法のように、各サンプリング時間での特徴点を用いたＤＰマッチング法では、ＤＰマッチングにより部分的な座標のずれを吸収できるが、座標に大きな変動が生じた際には、そのずれを吸収できず、他のパターンに誤認識される場合がある、という問題がある。
【０００８】
また、局所方向を用いたＤＰマッチング法では、座標値のずれに対して耐性が向上するが、逆に各サンプリング時間での特徴点を用いないことにより、異なる座標に存在する類似した形状を持つ別のパターンに誤認識される場合がある、という問題がある。
【０００９】
また、非特許文献２に記載の手法のように、大局的特徴を用いた手法では、大局的な構造情報を用いることにより、より大きな座標の変動に対して耐性を向上させることが可能であるが、特徴が時系列に並んでいないため、ＤＰマッチング等の時系列方向への変動を許容する認識手法を適用することができない、という問題がある。
【００１０】
また、非特許文献３に記載の手法を用いることにより、大局的特徴をＤＰマッチングに適用することが可能であるが、ＤＰマッチングの開始位置をトップダウンで決める必要があり、またその開始位置から時間順に整合性を保持するよう特徴が選択されるために、選択される特徴が限定され、必ずしも識別に有効な特徴が選択されるわけではない、という問題がある。
【００１１】
本発明は、上記問題点を解決するために成されたものであり、特徴間の各々における時刻順の整合性を保持して、識別に有効な特徴を選択することができる特徴選択装置、方法、及びプログラムを提供することを目的とする。
【００１２】
また、特徴間の各々における時刻順の整合性を保持して、精度よく識別するための特徴を得ることができる学習装置を提供することを目的とする。
【課題を解決するための手段】
【００１３】
上記目的を達成するために、第１の発明の特徴選択装置は、各時刻の値で表現された時系列データの表すクラスが予め付与された複数の学習データの各々から、２時刻間の値で定義される特徴を、前記学習データの２時刻間の各々について抽出する特徴抽出部と、前記特徴抽出部により前記学習データの各々について抽出された前記学習データの２時刻間の各々の特徴と、前記学習データの各々に付与された前記クラスとに基づいて、前記複数のクラス毎に、前記クラスの識別に有効な複数の前記特徴の２時刻間を選択する初期特徴選択部と、前記クラス毎に、識別対象の時系列データが前記クラスを表すか否かを識別するために用いられる前記特徴の２時刻間として、前記初期特徴選択部において前記クラスに対して選択された前記特徴の２時刻間から、特徴間の各々における時刻順の整合性を保持するように前記特徴の２時刻間を選択する時刻順特徴選択部と、を含んで構成されている。
【００１４】
第２の発明の特徴選択方法は、特徴抽出部と、初期特徴選択部と、時刻順特徴選択部とを含む特徴選択装置における特徴選択方法であって、前記特徴抽出部は、各時刻の値で表現された時系列データの表すクラスが予め付与された複数の学習データの各々から、２時刻間の値で定義される特徴を、前記学習データの２時刻間の各々について抽出し、前記初期特徴選択部は、前記特徴抽出部により前記学習データの各々について抽出された前記学習データの２時刻間の各々の特徴と、前記学習データの各々に付与された前記クラスとに基づいて、前記クラス毎に、前記クラスの識別に有効な少なくとも１つの前記特徴の２時刻間を選択し、前記時刻順特徴選択部は、前記クラス毎に、識別対象の時系列データが前記クラスを表すか否かを識別するために用いられる前記特徴の２時刻間として、前記初期特徴選択部において前記クラスに対して選択された前記特徴の２時刻間から、特徴間の各々における時刻順の整合性を保持するように前記特徴の２時刻間を選択する。
【００１５】
第３の発明の学習装置は、請求項１に記載の特徴選択装置と、前記クラス毎に、前記クラスが予め付与された学習データの各々から、前記時刻順特徴選択部によって前記クラスに対して選択された前記特徴の２時刻間について、前記学習データの前記特徴を、識別対象の時系列データが前記クラスを表すか否かを識別するために用いられる特徴として抽出する選択特徴抽出部と、を含んで構成されている。
【００１６】
また、本発明のプログラムは、コンピュータに、上記の特徴選択装置を構成する各部を実行させるためのプログラムである。
【発明の効果】
【００１７】
以上説明したように、特徴選択装置、方法、及びプログラムによれば、特徴間の各々における時刻順の整合性を保持して、識別に有効な特徴を選択することができる。
【００１８】
また、学習装置によれば、特徴間の各々における時刻順の整合性を保持して、精度よく識別するための特徴を得ることができる。
【図面の簡単な説明】
【００１９】
【図１】本発明の実施の形態に係る特徴選択装置の機能的構成を示すブロック図である。
【図２】大局的特徴の一例を示す概略図である。
【図３】ＤＰマッチングを説明するための概略図である。
【図４】時間順の整合性が保たれて選択された大局的特徴と時間順の整合性が保たれずに選択された大局的特徴との一例を示す概略図である。
【図５】特徴の選択を説明するための概略図である。
【図６】本発明の実施の形態に係る特徴選択装置における学習処理ルーチンを示すフローチャート図である。
【図７】本発明の実施の形態に係る特徴選択装置における識別処理ルーチンを示すフローチャート図である。
【発明を実施するための形態】
【００２０】
以下、図面を参照して本発明の実施の形態を詳細に説明する。本実施の形態では、オンライン文字を識別する文字識別装置に本発明を適用した例について説明する。なお、オンライン文字とは、文字の筆跡をストローク毎の筆点座標系列で表現したもの、すなわち、各サンプリング時刻の筆点座標値で文字パターンが表現された時系列データである。
【００２１】
＜本実施の形態に係る特徴選択装置の構成＞
まず、本発明の実施の形態に係る特徴選択装置の構成について説明する。図１に示すように、本発明の実施の形態に係る特徴選択装置１００は、ＣＰＵと、ＲＡＭと、後述する学習処理ルーチン及び識別処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この特徴選択装置１００は、機能的には図１に示すように入力部１０と、演算部２０と、出力部５０とを備えている。
【００２２】
入力部１０は、キーボードなどの入力装置から、文字クラスが既知の学習用のオンライン文字データ（以下、「学習データ」という）を受け付ける。また、入力部１０は、キーボードなどの入力装置から、文字クラスが未知の時系列データである識別対象データを受け付ける。なお、入力部１０は、ネットワーク等を介して外部から入力されたものを受け付けるようにしてもよい。また、本実施の形態においては、数字の１０クラス（０〜９）を学習データとして受け付けるため、クラス毎に複数の学習データを受け付ける。
【００２３】
演算部２０は、選択特徴記憶部２２、学習部３０、及び識別部４０を含んで構成されている。
【００２４】
選択特徴記憶部２２は、学習データ毎に、学習部３０において抽出された選択特徴を記憶している。
【００２５】
学習部３０は、特徴抽出部３２、及び特徴選択部３４を含んで構成されている。
【００２６】
特徴抽出部３２は、入力部１０において受け付けた、１０個のクラスの何れかが付与された学習データの各々について、当該学習データから、ストローク上の任意の２点間を結ぶ相対ベクトルを特徴として各々抽出する。なお、２点間が２時刻間の一例である。
【００２７】
具体的には、学習データが表すストロークの大きさを正規化し、Ｎ点の特徴点からなる時系列データをリサンプリングする。ここで、リサンプリングとは、１つの文字ストロークに設定する特徴点の数を決めて、特徴点をサンプリングすることをいう。リアルタイムで書かれている文字ストローク上の特徴点をサンプリングする際に、一定時間毎の特徴点をとると、人によって文字を書くスピードが異なるため、１文字当たりの特徴点数にばらつきがでるためである。例えば、１つの文字ストロークに設定する特徴点の数をＮとし、各特徴点の間隔が一定の距離になるようにリサンプリングする。なお、Ｎの数としては、字形を十分に表現可能な点数とする必要がある。
【００２８】
次に、２つの特徴点間で定義される相対ベクトル（ｄｘ，ｄｙ）を特徴として抽出する。ここでは、１次元目の特徴、・・・、ｊ次元目の特徴、・・・、Ｊ次元目の特徴が抽出される。Ｊは、Ｎ個の特徴点から２つを選択する組み合わせの数Ｎ×（Ｎ―１）／２である。このように、本実施の形態では、隣接する２点間の相対ベクトル及び隣接しない２点間の相対ベクトルを含む、ストローク上の任意の２点間の相対ベクトルで表される大局的特徴を抽出する。図２に、特徴点Ｐｎにおける大局的特徴の一例を示す。ここで、Ｐｎはリサンプリングして得られたＮ個の特徴点中のｎ番目の特徴点であることを表す。例えば、特徴点Ｐｎの座標値を（ｘｎ，ｙｎ）、特徴点ＰＮの座標値を（ｘＮ，ｙＮ）とすると、この２点間の相対ベクトル（Ｐｎ→ＰＮ）は、特徴点Ｐｎに対する特徴点ＰＮのｘ軸方向の相対位置ｄｘ＝ｘｎ−ｘＮ、ｙ軸方向の相対位置ｄｙ＝ｙｎ−ｙＮで表される。
【００２９】
特徴選択部３４は、特徴抽出部３２において学習データの各々から抽出された特徴に基づいて、クラス毎に、時系列方向への変動を許容する識別処理を行う識別処理部４４（詳細は後述）に適用可能となるよう、識別に有効且つ時刻順の整合性を保持した特徴を選択する。
【００３０】
ここで、特徴選択部３４において、時刻順の整合性を保持した特徴を選択することの理由について説明する。ここでは、識別処理部４４で、時系列方向への変動を許容する識別処理として、ＤＰマッチングを行う例について説明する。なお、「時系列方向への変動を許容する識別処理」とは、時系列データのある点において時系列方向への伸縮が発生した場合でも、対応付け及びマッチングの評価が可能な識別処理のことである。つまり、ある一定の時間間隔や一定の距離間隔でサンプリングした２つの時系列データを比較する場合、一方がＭ個の点からなる時系列データ、他方がＮ個（Ｎ＞ＭまたはＮ＜Ｍ）の点からなる時系列データであっても適用可能な識別処理である。
【００３１】
大局的特徴を用いたＤＰマッチングでは、図３に示すように、参照データ上の大局的特徴の、入力データにおける対応先を順次最適化する。ＤＰマッチングによる大局的特徴の最適対応付けのアルゴリズムにおいて、最適化すべき変数集合は、図３に示すように、｛（ｓ(ｋ)，ｔ(ｋ)）｜ｋ＝１，・・・，Ｋ｝である。ｓ(ｋ)及びｔ(ｋ)は各々参照データから選択されたｋ番目の大局的特徴を与える２点Ｓｋ及びＴｋに対する入力データ上での対応点である。これら変数集合を、（ｓ(１)，ｔ(１)），・・・，（ｓ(ｋ)，ｔ(ｋ)），・・・，（ｓ(Ｋ)，ｔ(Ｋ)）の順に逐次決定する過程を考える。目的関数は、対応する大局的特徴間のユークリッド距離Ｋ個の総和である。目的関数を最小化するべく各変数の値、すなわち対応関係を決定することになる。
【００３２】
ここで、図４（a）に示すように大局的特徴が選択されている場合、つまり全順序性を保持した大局的特徴の列において、大局的特徴である相対ベクトルの始点及び終点に相当する特徴点の順番（時刻）が単調に増加または減少する場合、（ｓ(ｋ)，ｔ(ｋ)）の決定には（ｓ(ｋ−１)，ｔ(ｋ−１)）の値しか影響しない。従って、この決定過程は時刻順の整合性を伴うマルコフ決定過程となり、その最適解はＤＰマッチングで求まる。一方、図４（b）に示すように、選択された特徴を並べたときに、相対ベクトルの始点に相当する特徴点の順番が途中で逆に戻ったり、終点に相当する特徴点の順番が途中で逆に戻ったり、始点に相当する特徴点の順番と終点に相当する特徴点の順番とが入れ違いになったりしている大局的特徴が選択されている場合には、時刻順の整合性が保持できておらず、上記のＤＰマッチングによる対応付けの最適化が不可能となる。これはｋの決定にｋ−１以外の値が影響してしまい、マルコフ決定過程とならず時刻順の整合性を伴っていないことから明らかである。
【００３３】
上記のような理由により、特徴選択部３４では、時刻順の整合性を保持した特徴を選択する必要があるが、非特許文献３の手法では、上記条件を満足させるため、予め特徴選択を開始する位置を決定し、該開始位置から識別に対する有効性を表す指標に基づいて、順に選択するため、開始位置により選択可能な特徴が制限されたり、どの位置が適切な開始位置なのかを決定するのが難しかったりという問題がある（非特許文献３参照）。
【００３４】
本実施の形態では、非特許文献３の手法ように事前に開始位置を設定する必要がなく、且つ識別により有効な特徴な選択を可能とする方法を採用する。
【００３５】
本実施の形態における手法は、より識別に有効な特徴を選択可能であるが、時間順の整合性を維持しない特徴選択手法を用いつつ、選択条件に新たな制限を付けることにより、時間順の整合性を保持し、且つ選択開始位置の設定を事前にする必要がなく、開始位置に依存せずに有効な特徴を選択可能にするものである。
【００３６】
特徴選択部３４は、初期特徴選択部３４２、時刻順特徴選択部３４４、及び選択特徴抽出部３４６を含んで構成されている。なお、図５は、特徴選択部３４において特徴が選択される過程の例を示す。
【００３７】
初期特徴選択部３４２は、クラス毎に、特徴抽出部３２で抽出された特徴の各々から、当該クラスの識別に有効な特徴の２点間を初期特徴として選択する。初期特徴選択処理として、本実施の形態では、ブースティング処理によって、クラス毎に、当該クラスの学習データと、当該クラス以外のクラスが付与された学習データとに基づいて、特徴抽出部３２において抽出した２点間の特徴から、当該クラスの識別に有効な特徴の２点間を選択することにより、初期特徴の選択を行う。このブースティング処理には、例えば、公知のＡｄａＢｏｏｓｔ（Ａｄａｐｔｉｖｅ  Ｂｏｏｓｔｉｎｇ、アダブースト）法を用いることができる（非特許文献４：Ｙ．  Ｆｒｅｕｎｄ  ａｎｄ  Ｒ．  Ｓｃｈａｐｉｒｅ，  “Ａ  ｄｅｃｉｓｉｏｎ−ｔｈｅｏｒｅｔｉｃ  ｇｅｎｅｒａｌｉｚａｔｉｏｎ  ｏｆ  ｏｎ−ｌｉｎｅ  ｌｅａｒｎｉｎｇ  ａｎｄ  ａｎ  ａｐｐｌｉｃａｔｉｏｎ  ｔｏ  ｂｏｏｓｔｉｎｇ”  Ｊｏｕｒｎａｌ  ｏｆ  Ｃｏｍｐｕｔｅｒ  ａｎｄ  Ｓｙｓｔｅｍ  Ｓｃｉｅｎｃｅｓ，  １９９７．参照）。ＡｄａＢｏｏｓｔ法では、誤識別率最小化の観点で、既に選ばれた特徴の２点間の弱点をうまく補完するような特徴の２点間を逐次新たに選んでいくため、有効性が高い特徴の２点間から順に複数の特徴の２点間を初期特徴として選択することができる。
【００３８】
なお、ブースティング処理は２クラスを比較して処理を実施するため、本実施の形態の様に、２クラス以上の識別が対象となる課題には、使用上の工夫が必要である。本実施の形態では、数字の１０クラスを識別対象とするため、クラス“０”とその他クラス、クラス“１”とその他クラスという分け方を、０〜９の１０通り実施し、各クラスの数字に対応した初期特徴の選択を行う。なお、ブースティング処理において、当該クラスについて初期特徴として１つの特徴の２点間が選択される。また、２回目のブースティング処理においては、２番目に有効性が高い特徴の２点間が選択される。
【００３９】
ただし、上述したように、ブースティング処理などの特徴選択手法は、各特徴を誤識別率最小化の基準で、識別に有効な特徴から順に選択していく。したがって、時間順の整合性は保たれておらず、そのままＤＰマッチング等の手法に適用することは不可能である。
【００４０】
時刻順特徴選択部３４４は、クラス毎に、初期特徴選択部３４２において当該クラスの初期特徴として選択された特徴の２点間が、当該クラスについて選択済みとされた特徴の２点間と時間順の整合性が保たれているか否かを判定する。具体的には、クラス毎に、初期特徴選択部３４２において当該クラスについて選択された初期特徴と、それまでに当該クラスについて選択済みとされた特徴の２点間との時間順の整合性が保たれているか否かを判定する。そして、当該クラスについて選択された初期特徴において、当該クラスについて選択済みとされている特徴の２点間との時間順の整合性が保たれていると判定された場合には、当該初期特徴を当該クラスの選択済み特徴の２点間として採用し、一方、時間順の整合性が保たれていない場合は、当該初期特徴を選択せずに不採用とする。なお、採用された選択済み特徴の２点間は、クラス毎にメモリ（図示省略）に記憶されている。また、初期特徴選択部３４２において最も有効と判断されている初期特徴については、時間順の整合性の判定処理を行わずに選択済み特徴の２点間として採用し、記憶する。また、初期特徴選択部３４２の処理と、時刻順特徴選択部３４４の処理とを、ブースティング処理により初期特徴として選択される全ての特徴について終了するまで繰り返す。
【００４１】
特定のクラスの初期特徴として選択された特徴の２点間が、当該クラスについて選択済みとされた特徴の２点間と時間順の整合性が保たれているか否かの判定は、具体的には、下記（１）式を、全ての選択済み特徴の２点間に対して、判定対象の初期特徴の２点間が満たした場合について時間順の整合性が保たれているとみなす。なお、Ｓp、Ｔpは選択済み特徴の２点間を表し、Ｓq、Ｓpは判定対象の初期特徴の２点間を表す。
【００４２】
【数１】
2015052994.tif 000003
【００４３】
選択特徴抽出部３４６は、クラス毎に、当該クラスに属する学習データの各々に対し、時刻順特徴選択部３４４において当該クラスに対して選択した選択済み特徴の２点間の各々を用いて、当該選択済み特徴の２点間と同じ２点間について、当該学習データから特徴（相対ベクトル）を抽出し、選択特徴として選択特徴記憶部２２に記憶する。
【００４４】
識別部４０は、特徴抽出部４２、及び識別処理部４４を含んで構成されている。
【００４５】
特徴抽出部４２は、入力部１０において受け付けた、文字クラスが未知の時系列データである識別対象データについて、特徴抽出部３２と同様に、任意の２点間の特徴を各々抽出する。
【００４６】
識別処理部４４は、類似値算出部４４２、及び判定部４４４を含んで構成されている。
【００４７】
類似値算出部４４２は、選択特徴記憶部２２に記憶されている学習データ毎に、特徴抽出部４２において識別対象データについて抽出された各特徴と、選択特徴記憶部２２に記憶されている当該学習データの各選択特徴とに基づいて、ＤＰマッチング等の手法を用いて、識別対象データと当該学習データとの類似値を算出する。
【００４８】
判定部４４４は、類似値算出部４４２において算出した学習データ毎の類似値に基づいて、最も類似値が高い学習データを抽出し、抽出された学習データが属するクラスを当該識別対象データが属するクラスとして判定し、判定されたクラスを、識別結果として出力部５０に出力する。
【００４９】
＜本実施の形態に係る特徴選択装置の作用＞
次に、本発明の実施の形態に係る特徴選択装置１００の作用について説明する。入力部１０により、数字の１０クラス（０〜９）の何れかが付与された学習データの各々が入力されると、特徴選択装置１００は、図６に示す学習処理ルーチンを実行する。
【００５０】
まず、ステップＳ１００では、入力部１０により入力された数字の１０クラス（０〜９）毎の学習データの各々を受け付ける。
【００５１】
次に、ステップＳ１０１では、入力部１０において取得した学習データの各々について、文字パターンの大きさを正規化し、Ｎ点の特徴点からなる時系列データにリサンプリングする。
【００５２】
次に、ステップＳ１０２では、ステップＳ１０１においてリサンプリングされた学習データの各々について、全ての２つの特徴点間で定義される相対ベクトル（ｄｘ，ｄｙ）の各々を特徴（大局的特徴）として抽出する。
【００５３】
次に、ステップＳ１０４では、処理対象となるクラスを選択する。
【００５４】
次に、ステップＳ１０６では、ステップＳ１０４において選択したクラスに属する学習データの各々のステップＳ１０２において抽出した特徴の各々と、ステップＳ１０４において選択されなかったクラスの各々に属する学習データの各々のステップＳ１０２において抽出した特徴の各々と、前回のステップＳ１０６で選択された同じクラスの初期特徴とに基づいて、処理対象のクラスの初期特徴を選択する。
【００５５】
次に、ステップＳ１１２では、Ｓ１０６において選択された初期特徴が、処理対象のクラスについて前回までの処理において得られた選択済み特徴の２点間との時間順の整合性を満たしているか否かを判定する。時間順の整合性を満たしていると判定された場合には、ステップＳ１１４へ移行し、時間順の整合性を満たしていないと判定された場合には、ステップＳ１１６へ移行する。なお、処理対象のクラスについて当該処理を初めて行う場合には、ステップＳ１１４へ移行する。
【００５６】
次に、ステップＳ１１４では、ステップＳ１０６において選択した初期特徴を、処理対象のクラスの選択済み特徴の２点間としてメモリ（図示省略）に記憶する。
【００５７】
次に、ステップＳ１１６では、処理対象のクラスについて、初期特徴として選択可能な全ての特徴について処理を終了したか否かの判定を行う。初期特徴として選択可能な全ての特徴について処理を行っている場合には、ステップＳ１１８へ移行し、初期特徴として選択可能な全ての特徴について処理を行っていない場合には、ステップＳ１０６へ戻り、ステップＳ１０６〜ステップＳ１１６の処理を繰り返す。
【００５８】
ステップＳ１１８では、処理対象のクラスに属する学習データの各々について、ステップＳ１１４において取得した選択済み特徴の２点間の各々を用いて、当該選択済み特徴の２点間と同じ２点間から、当該学習データの特徴（相対ベクトル）を抽出し、選択特徴として選択特徴記憶部２２に記憶する。
【００５９】
次に、ステップＳ１２０では、クラスの全てについて処理を終了したか否かの判定を行う。全てのクラスについて処理を終了している場合には、処理を終了し、全てのクラスについて処理を終了していない場合には、ステップＳ１０４へ移行し、処理対象となるクラスを変更し、ステップＳ１０４〜ステップＳ１２０の処理を繰り返す。
【００６０】
次に、本発明の実施の形態に係る特徴選択装置１００における識別処理ルーチンついて説明する。入力部１０により、クラスが未知のオンライン文字データである識別対象データが入力されると、特徴選択装置１００は、図７に示す識別処理ルーチンを実行する。
【００６１】
まず、ステップＳ２００では、入力部１０により入力された識別対象データを受け付ける。
【００６２】
次に、ステップＳ２０２では、選択特徴記憶部２２に記憶されている学習データ毎の選択特徴を読み込む。
【００６３】
次に、ステップＳ２０４では、上記ステップＳ１０２と同様にステップＳ２００において取得した識別対象データの特徴を抽出する。
【００６４】
次に、ステップＳ２０６では、対象となる学習データを選択する。
【００６５】
次に、ステップＳ２０８では、ステップＳ２０６において選択された学習データについて上記ステップＳ２０２において取得した選択特徴と、ステップＳ２０４において抽出した特徴とに基づいて、ＤＰマッチング等の手法を用いて、当該学習データとの類似値を算出する。
【００６６】
次に、ステップＳ２１０では、対象となる全ての学習データについて処理を終了したか否かの判定を行う。対象となる全ての学習データについて処理を終了した場合には、ステップＳ２１２へ移行し、対象となる全ての学習データについて処理を終了していない場合には、ステップＳ２０６へ移行し、ステップＳ２０６〜ステップＳ２１０の処理を繰り返す。
【００６７】
次に、ステップＳ２１２では、ステップＳ２０８において算出した学習データの各々のとの類似値に基づいて、類似値が最も高い学習データを抽出し、当該学習データの属するクラスを当該識別対象データの属するクラスとして識別する。
【００６８】
次に、ステップＳ２１４では、ステップＳ２１２において識別された結果を出力部５０に出力して処理を終了する。
【００６９】
以上説明したように、本発明の実施の形態に係る特徴選択装置によれば、特徴間の各々における時刻順の整合性を保持して、識別に有効な特徴を選択することができる。
【００７０】
また、特徴間の各々における時刻順の整合性を保持して、精度よく識別するための特徴を得ることができる。
【００７１】
また、大局的特徴を含む特徴を用いてＤＰマッチング等の時系列方向への変動を許容する識別手法を適用する場合に、より識別に有効な特徴を選択することができる。
【００７２】
また、時系列データから抽出した複数の大局的特徴から、より識別に有効な特徴を選択しつつ、時刻順の整合性を保持するように選択した特徴を用いることで、各特徴点の座標値や局所方向の変化だけでなく、大局的特徴を含む特徴を用いた場合でも、識別処理において、時系列方向への変動を許容する識別手法を適用することができる。すなわち、時系列データに時系列方向の伸縮が生じても識別可能となる。
【００７３】
また、非特許文献３のように、予め選択開始位置を設定する必要がない為、開始位置に制約を受けず、より識別に有効な特徴を選択することが可能となる。
【００７４】
また、初期特徴から選択特徴を選択する処理を繰り返すことにより、学習データから抽出された、識別に有効な特徴から、識別に有効且つ時間順の整合性が保たれた特徴を選択することができる。
【００７５】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００７６】
例えば、本実施の形態においては、初期特徴の選択処理として、ブースティング処理、具体的にはＡｄａＢｏｏｓｔ法を用いた処理を説明したが、これに限定されるものではなく、他のブースティング手法や、ブースティング処理以外の特徴選択手法を適用してもよい。
【００７７】
また、本実施の形態においては、時系列データとしてオンライン文字データを入力し、文字パターンを識別する場合について説明したが、これに限定されるものではなく、例えば、ジェスチャー識別などの他の時系列データについても適用できる。
【００７８】
また、本実施の形態においては、学習部と識別部とを同一のコンピュータで構成する場合について説明したが、これに限定されるものではなく、別々のコンピュータで構成するようにしてもよい。
【００７９】
また、本実施の形態においては、識別対象データのクラスを識別する際に、識別対象データの全ての特徴を用いる場合について説明したが、これに限定されるものではなく、識別対象データから抽出した特徴のうち、学習データと同じ選択特徴のみを用いて識別対象データのクラスを識別してもよい。
【００８０】
また、本実施の形態においては、パターン識別に用いる特徴値として、２点間の相対ベクトルで表わされる大局的特徴のみを用いる場合について説明した。相対ベクトルで表される大局的特徴を用いた場合には、座標ずれを吸収することができるが、座標位置が大きく異なる場合でも相対ベクトルが類似している場合に誤識別を生じる場合がある。そこで、特徴値として大局的特徴と共に座標値も用いるようにしてもよい。座標値を特徴値とする場合にも、ｉ番目のサンプルのｊ番目の座標値をＰi,j＝（Ｐi,j,x，Ｐi,j,ｙ）として、上記実施の形態の大局的特徴と同様に扱うことができる。この場合も、上記実施の形態と同様にＡｄａＢｏｏｓｔ法を用いることで、座標値自体が文字の重要な構造を表す場合には、その座標値を示す特徴値が弱識別器として採用される。
【００８１】
また、本実施の形態においては、プログラムが予めインストールされている実施の形態として説明したが、これに限定されるものではなく、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【００８２】
１０   入力部
２０   演算部
２２   選択特徴記憶部
３０   学習部
３２   特徴抽出部
３４   特徴選択部
４０   識別部
４２   特徴抽出部
４４   識別処理部
５０   出力部
１００ 特徴選択装置
３４２ 初期特徴選択部
３４４ 時刻順特徴選択部
３４６ 選択特徴抽出部
４４２ 類似値算出部
４４４ 判定部
【図１】
2015052994.tif 000004
【図６】
2015052994.tif 000005
【図７】
2015052994.tif 000006
【図２】
2015052994.tif 000007
【図３】
2015052994.tif 000008
【図４】
2015052994.tif 000009
【図５】
2015052994.tif 000010