(57)【要約】      （修正有）【課題】画像データなどのロバストなパターン認識を実現するのに適した認識装置等を提供する。【解決手段】データのパターンを認識する認識装置１は、データのヒストグラムを高精度に近似するヒストグラム近似公式（ヒストグラム関数）を生成するヒストグラム関数作成部５と、ヒストグラム関数を用いてデータを複数のクラスの少なくとも１つに分類する分類部９とを備える。【選択図】図１
2009025915.tif 000002
【特許請求の範囲】
【請求項１】
データのパターンを認識する認識装置であって、
前記データのヒストグラムを近似する関数を生成する関数作成手段と、
前記関数生成手段により生成された関数を用いて前記データを複数のクラスの少なくとも１つに分類する分類手段と、
を備える認識装置。
【請求項２】
区間［ｃ，ｄ］に含まれるＭ個のデータｙｍ（ｍ＝０，１，…，Ｍ−１）のパターンを認識する認識装置であって、
正整数Ｎに対し式（ｅｑ１）と式（ｅｑ２）の少なくとも一方により表されるデータｙｍに対するヒストグラム関数ｆ（ｘ）を生成するヒストグラム関数作成手段と、
前記ヒストグラム関数ｆ（ｘ）を用いてデータｙｍを複数のクラスの少なくとも１つに分類する分類手段と、
を備える認識装置。
2009025915.tif 000017
【請求項３】
前記データｙｍにはＰ個のパラメータαｐ（ｐ＝１，…，Ｐ）が含まれ、
訓練データを用いてパラメータαｐを決定する決定手段を備える請求項２記載の認識装置。
【請求項４】
前記決定手段はパラメータαｐの複数の組み合わせを決定し、
前記分類手段はパラメータαｐの組み合わせのうち全部又は一部を用いてデータｙｍの分類を行う、請求項３記載の認識装置。
【請求項５】
データのパターンを認識する認識方法であって、
関数作成手段が、前記データのヒストグラムを近似する関数を生成する関数作成ステップと、
分類手段が、前記関数生成手段により生成された関数を用いて前記データを複数のクラスの少なくとも１つに分類する分類ステップと、
を含む認識方法。
【請求項６】
コンピュータを、請求項１から４のいずれかに記載の認識装置として機能させるためのプログラム。
【請求項７】
請求項６記載のプログラムを記録した記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本願発明は、認識装置、認識方法、プログラム及び記録媒体に関し、特にデータのパターンを認識する認識装置等に関する。
【背景技術】
【０００２】
従来、例えば画像データなどに対して、ヒストグラムの重なり具合により、コンピュータによるパターン認識処理を行うことは知られていた（非特許文献１、非特許文献２参照）。
【０００３】
【非特許文献１】K．Kashino、外２名著，Quick  Search  Method  for  Audio  and  Video  Signals  Based  on  Histogram  Pruning，IEEE  Transaction  on  Multimedia，vol．5，No．3，2003，p.348-357
【非特許文献２】B．Schiele、外１名著，Recognition  Using  Multidimensional  Receptive  Field  Histograms，Proc．of  European  Conference  on  Computer  Vision，1996，p.610-619
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、ヒストグラムを用いてパターン認識処理を行う場合、まったく異なった種類のデータでもヒストグラムが似ている場合がある。また、認識能力はノイズの影響を受けやすい。そのため、ヒストグラムを用いた方法によっては、ロバストなパターン認識処理を充分に実現することはできなかった。
【０００５】
そこで、本願発明は、例えば画像データなどのデータに対し、ロバストなパターン認識を実現するのに適した認識装置等を提案することを目的とする。
【課題を解決するための手段】
【０００６】
請求項１に係る発明は、データのパターンを認識する認識装置であって、前記データのヒストグラムを近似する関数を生成する関数作成手段と、前記関数生成手段により生成された関数を用いて前記データを複数のクラスの少なくとも１つに分類する分類手段と、を備えるものである。
【０００７】
請求項２に係る発明は、区間［ｃ，ｄ］に含まれるＭ個のデータｙｍ（ｍ＝０，１，…，Ｍ−１）のパターンを認識する認識装置であって、正整数Ｎに対し式（ｅｑ１）と式（ｅｑ２）の少なくとも一方により表されるデータｙｍに対するヒストグラム関数ｆ（ｘ）を生成するヒストグラム関数作成手段と、前記ヒストグラム関数ｆ（ｘ）を用いてデータｙｍを複数のクラスの少なくとも１つに分類する分類手段と、を備える認識装置である。
【０００８】
【数１】
2009025915.tif 000003
【０００９】
請求項３に係る発明は、請求項２記載の認識装置であって、前記データｙｍにはＰ個のパラメータαｐ（ｐ＝１，…，Ｐ）が含まれ、訓練データを用いてパラメータαｐを決定する決定手段を備えるものである。
【００１０】
請求項４に係る発明は、請求項３記載の認識装置であって、前記決定手段がパラメータαｐの複数の組み合わせを決定し、前記分類手段がパラメータαｐの組み合わせのうち全部又は一部を用いてデータｙｍの分類を行うものである。
【００１１】
請求項５に係る発明は、データのパターンを認識する認識方法であって、関数作成手段が、前記データのヒストグラムを近似する関数を生成する関数作成ステップと、分類手段が、前記関数生成手段により生成された関数を用いて前記データを複数のクラスの少なくとも１つに分類する分類ステップと、を含む認識方法である。
【００１２】
請求項６に係る発明は、コンピュータを、請求項１から４のいずれかに記載の認識装置として機能させるためのプログラムである。
【００１３】
請求項７に係る発明は、請求項６記載のプログラムを記録した記録媒体である。
【００１４】
なお、本願発明を、画像の濃淡値のパターンを認識する認識装置であって、前記画像の濃淡値により得られたデータＣｉ，ｊに対し、画像領域をΩとし、式（ｅｑ３）と式（ｅｑ４）の少なくとも一方により表されるヒストグラム関数ｆ（ｘ）を生成するヒストグラム関数作成手段と、データＣｉ，ｊを前記ヒストグラム関数ｆ（ｘ）を用いて複数のクラスの少なくとも１つに分類する分類手段と、を備えるものとして捉えてもよい。
【００１５】
また、データＣｉ，ｊには２種類のパラメータλｄｌ、λｅｌ（ｌ＝−Ｌ，…，Ｌ）が含まれており、これらの２種類のパラメータは、訓練画像の濃淡値から得られたデータＣｉ，ｊに対するヒストグラム関数ｆ（ｘ）のクラス内分散は小さく、かつ、クラス間分散は大きくなるように決められるものであってもよい。
【００１６】
【数２】
2009025915.tif 000004
【発明の効果】
【００１７】
本願発明によれば、データのヒストグラムを高精度に近似するヒストグラム近似公式（ヒストグラム関数）を用いてパターン認識処理を行うことにより、ロバストなパターン認識処理を実現することができる。
【００１８】
さらに、従来のヒストグラムを用いた方法は、データが既知でないとヒストグラムが構成できなかったため、未知のパラメータを含むものを扱うことはできなかった。本発明によれば、例えば請求項３にあるように、ヒストグラム関数に含まれているデータに未知のパラメータが含まれていてもよい。そして、決定手段は、訓練データに対するヒストグラム関数の分散が、クラス内では小さく、かつ、クラス間では大きくなるように、未知のパラメータを学習させてパラメータを決定するようにしてもよい。このようなパラメータを用いると、データのパターン認識処理を飛躍的に向上させることができる。
【００１９】
本願発明によれば、例えば、様々な時系列信号の識別、画像認識、一般物体認識、遺伝子配列やマイクロアレイデータのクラスタリング、３次元モデルの認識等を行うことが可能となる。例えば、ネットワークカメラで取得された動物体の認識は一般物体認識の範疇に入り、認識が難しいと言われている。本願発明は、このような分野であってもロバストなパターン認識処理を実現することが可能となる。
【発明を実施するための最良の形態】
【００２０】
本願発明の実施の形態について、以下説明する。
【実施例１】
【００２１】
図１は、本願発明の実施の形態に係る認識装置１の一例を示す概要ブロック図である。認識装置１は、分類対象となるデータを取得するデータ取得部３と、データに対するヒストグラム関数を生成するヒストグラム関数生成部５と、データにパラメータが含まれている場合にパラメータを決定する決定部７と、ヒストグラム関数生成部５により生成されたヒストグラム関数を用いて分類対象となるデータを複数のクラスのいずれかに分類する分類部９と、分類部９による分類結果を表示する結果表示部１１を備える。
【００２２】
ヒストグラム関数生成部５により生成されるヒストグラムは、一般的には、式（１）又は式（２）により与えられる。すなわち、Ｍ個のデータｙｍ（ｍ＝０，１，…，Ｍ−１）が区間［ｃ，ｄ］に含まれる場合に、データｙｍに対するヒストグラム関数は、正整数Ｎに対し、式（１）により与えられる。また、式（２）は式（１）と同等である。
【００２３】
【数３】
2009025915.tif 000005
【００２４】
なお、データｙｍ（ｍ＝０，１，…，Ｍ−１）は未知のパラメータαp（ｐ＝１，…，Ｐ）を含んでいてもよい。オリジナルなデータをｙorgm（ｍ＝０，１，…，Ｍ−１）で表したとき、未知のパラメータはいろいろな形でｙorgmと関わっていてもよい。したがって、ｙmは、作用素Ｉｍを用いて式（３）のような汎関数の形で書くことができる。
【００２５】
【数４】
2009025915.tif 000006
【００２６】
以下では、データ取得部３により取得されたデータは画像の濃淡値に関するものとして図１の認識装置の動作の一例を具体的に説明する。
【００２７】
データＣｉ，ｊは、データ取得部３により取得された画像の濃淡値に基づいて式（４）及び式（５）により生成されたものとする。また、リフティング低周波成分には共通の水平方向のパラメータλｄｌ及び垂直方向のパラメータλｅｌ（ｌ＝−Ｌ，…，Ｌ）が含まれていると仮定する。
【００２８】
【数５】
2009025915.tif 000007
【００２９】
ヒストグラム関数生成部５は、式（６）で示されるＣｉ，ｊに対するヒストグラム関数ｆ（ｘ）を生成する。式（７）は、式（６）と同等であり、式（６）に代えて式（７）を用いてもよく、また、式（６）と式（７）の双方を用いてもよい。
【００３０】
【数６】
2009025915.tif 000008
【００３１】
続いて、決定部７によるパラメータの決定処理について説明する。Ｓ個のクラスのそれぞれに対してＴ個の訓練画像が与えられるとする。決定部７は、リフティング低周波成分に共通に含まれる水平方向のパラメータ及び垂直方向のパラメータを、クラス内分散が小さく、かつ、クラス間分散が大きくなるように決定する。この決定法は、式（８）の汎関数Ｊを最小にするように決定することと同等である。
【００３２】
【数７】
2009025915.tif 000009
【００３３】
決定部７は、Ｊを最小化アルゴリズムを用いて最小化する。そのためには、Ｊの水平方向のパラメータ及び垂直方向のパラメータに関する勾配である式（９）の計算が必要である。それは、式（１０）の両辺を水平方向及び垂直方向のパラメータに関して微分することにより計算することができる。式（１０）は、左辺のｆν（ｘ）、ｆμ（ｘ）に式（６）を代入し、コサイン関数の積和公式を用いて整理することにより得られるものである。（なお、μについてのａμ［ｋ］等は、νに関するａν［ｋ］等と同様のものである）
【００３４】
【数８】
2009025915.tif 000010
【００３５】
分類部９は、決定部７により決定されたパラメータを用いて、後に図面を用いて説明するように、画像データのパターン認識処理を行う。結果表示部１１は、分類部９による分類結果を表示する。
【実施例２】
【００３６】
続いて、式（１）及び式（２）の導出について、ｃ＝−１、ｄ＝１の場合、すなわち、データｙｍが区間［−１，１］に含まれる場合につき、説明する。
【００３７】
前記区間［−１，１］を２Ｎ＋１等分し、部分空間［(2n-1)/(2N+1)，(2n+1)/(2N+1)）における前記データｙｍの度数をｇｎ（ｎ＝−Ｎ，…，Ｎ）で表すと、ｇｎの離散フーリエ変換は式（１１）で与えられ、離散フーリエ逆変換は式（１２）で与えられる。
【００３８】
【数９】
2009025915.tif 000011
【００３９】
式（１１）をコサイン関数とサイン関数を用いて書き換え、コサイン関数とサイン関数のテイラー展開を用い、さらにｘｎ＝２ｎ／（２Ｎ＋１）と置くと、式（１１）は式（１３）のように書くことができる。
【００４０】
【数１０】
2009025915.tif 000012
【００４１】
ここで、部分区間［(2n-1)/(2N+1)，(2n+1)/(2N+1)）に属するｙｍの代表値をｚｍで表すと、ｚｍは部分区間［(2n-1)/(2N+1)，(2n+1)/(2N+1)）の中点2n/(2N+1)のいずれかなので、式（１４）で示されるモーメント関係が成り立つ。式（１４）を用いると、式（１５）が成り立つ。
【００４２】
【数１１】
2009025915.tif 000013
【００４３】
式（１５）を式（１２）に代入すると、サイン関数は奇関数なので虚数部が０となり、式（１６）が成り立つ。
【００４４】
【数１２】
2009025915.tif 000014
【００４５】
ここで、式（１７）の両辺をｋ＝１からｋ＝Ｎまで加え、Ｕ（ｚ）について整理すると式（１８）が成り立つ。そして、ｚをπ（ｚｍ−ｘｎ）にもどすと式（１９）が得られる。
【００４６】
【数１３】
2009025915.tif 000015
【００４７】
式（１９）において、代表値ｚｍをｙｍで近似し、分点ｘｎを、区間［−１，１］を動く変数ｘに拡張すれば、式（１）が得られる。また、式（１６）において、代表値ｚｍをｙｍに、ｘｎをｘに置き換えれば式（２）が得られる。
【実施例３】
【００４８】
続いて、道路上を走行している車両の種類（車種）が、ミニカー、セダン、バン、トラック又はバスのいずれであるかをリアルタイムで識別する問題を例にとり、本願発明の優位性・実用性を具体的に説明する。
【００４９】
図１のデータ取得部３は、市販のネットワークカメラを用いて走行車両の画像を取得する。取得された画像には、走行車両の他、さまざまな物体が写りこんでいる。連続する３枚の画像から差画像を計算し、さらにその重心を計算して動物体のみを検出する。動物体の周りの画素値は０にしておく。
【００５０】
図２は、図１の決定部７がパラメータを決定するために用いられる２５枚の訓練画像を示す図である。車種はミニカー、セダン、バン、トラック、バスの５種類であり、クラス数Ｓは５である。各クラスから５枚の画像を選び、計２５枚の画像を訓練画像として用いる。
【００５１】
図２に示した２５枚の訓練画像は、ダイアデックウェーブレット変換がなされ、リフティング低周波成分が作成され、正規化される（式（４）、式（５）参照）。ヒストグラム関数生成部５は、正規化された画像からヒストグラム関数ｆν,t（ｘ），ｔ＝１，…，５、ν＝１，…，５を作成する。決定部７は、生成されたヒストグラム関数を汎関数（７）に代入し最小化アルゴリズムを用いてＪを最小化する。（以下では、Ｊを最小化することを「学習」ともいう。）
【００５２】
図３は、決定されたパラメータをもつヒストグラム関数（以下、「第一種ヒストグラム関数」という。）をクラス毎に示す図である。（ａ）はミニカーを、（ｂ）はセダンを、（ｃ）はバンを、（ｄ）はトラックを、（ｅ）はバスを示す。（ｃ）バンの場合、いずれもｘ＝０において谷があり、左側のピークより右側のピークの方が高い。この現象は他のクラスでは見られないもので、バンの特徴を表している。（ｅ）バスの場合、いずれも区間［-0.2，-0.1］において、急激に増加しており、この現象も他のクラスには見られない。したがって、（ｅ）のグラフもバスの特徴を表している。残りの３クラスについては、得られたヒストグラム関数での識別が困難であるので、残りの３クラスだけで未知パラメータの再学習を行う。
【００５３】
図４は、ミニカー、セダン、トラックの３つのクラスの訓練画像に対して再学習したヒストグラム関数（以下、「第二種ヒストグラム関数」という。）をクラス毎に示す図である。（ａ）はミニカー、（ｂ）はセダン、（ｃ）はトラックを示す。図４により、各クラスにそれぞれ異なった特徴があることがわかる。たとえば、ｙ軸をある閾値で切れば（ｂ）セダンの場合、ｘ＝０におけるヒストグラム関数値が存在しないし、（ａ）ミニカーの場合、ｙ軸より右側が膨らんでいる。（ｃ）トラックの場合は、ほぼ対称で分散が大きい。このように、学習することによってヒストグラム関数に画像の特徴が現れてくる。このような特徴をルール化すれば識別が可能となる。
【００５４】
図５は、パラメータがすべて０の場合（リフティングを行わない場合）のヒストグラム関数を示す図である。（ａ）〜（ｅ）に関しては図３と同様である。これらのヒストグラム関数からは、クラス毎の特徴を見出すことは困難である。
【００５５】
以上より、学習されたヒストグラム関数から車両のタイプを識別することができる。
【００５６】
図６は、認識装置１による識別手順を示すフロー図である。まず、データ取得部３は、画像データを取得する（図６のステップＳＴ１）。取得された画像データはダイアデックウェーブレット変換がなされ（図６のステップＳＴ２）、ヒストグラム関数生成部５は、二種類のヒストグラム関数を作成する（図６のステップＳＴ３）。続いて、分類部９は、以下の分類処理を行う（図６のステップＳＴ４）。
【００５７】
まず、分類部９は、第一種ヒストグラム関数がｘ＝０において谷があり、ｙ軸の右側にあるピークが左側のそれよりも高いか（条件Ａ）を判定する（図６のステップＳＴ１１）。条件Ａが成り立つならば、画像はバンと判定する（図６のステップＳＴ１２）。条件Ａが成り立たないならば、図６のステップＳＴ１３の処理を行う。
【００５８】
図６のステップＳＴ１３において、分類部９は、第一種ヒストグラム関数がｘ＝-0.15において急峻であるか（条件Ｂ）を判定する。条件Ｂが成り立つならば、画像はバスと判定する（図６のステップＳＴ１４）。条件Ｂが成り立たないならば、図６のステップＳＴ１５の処理を行う。
【００５９】
図６のステップＳＴ１５において、分類部９は、第二種ヒストグラム関数のｘ＝０における値が閾値１より小さく、ｘ＝0.5における傾きが閾値２より大きいか（条件Ｃ１）、又は、第二種ヒストグラム関数のｘ＝０における値が閾値１より大きく、ｘ＝0.5における傾きが閾値３より小さく、その傾きとｘ＝-0.5における傾きの和が閾値４より大きいか（条件Ｃ２）を判定する。条件Ｃ１とＣ２のいずれかが成り立つならば、画像はミニカーと判定する（図６のステップＳＴ１６）。条件Ｃ１もＣ２も成り立たないならば、図６のステップＳＴ１７の処理を行う。
【００６０】
図６のステップＳＴ１７において、分類部９は、第二種ヒストグラム関数のｘ＝0における値が閾値１より大きく、ｘ＝0.5における傾きが閾値５より大きいか（条件Ｄ１）、又は、第二種ヒストグラム関数のｘ＝０における値が閾値１より大きく、ｘ＝0.5における傾きが閾値６より大きいか（条件Ｄ２）を判定する。条件Ｄ１とＤ２のいずれかが成り立つならば、画像はセダンと判定する（図６のステップＳＴ１８）。条件Ｄ１もＤ２も成り立たないならば、図６のステップＳＴ１９の処理を行う。
【００６１】
図６のステップＳＴ１９において、分類部９は、第二種ヒストグラム関数のｘ＝０における値が閾値１より小さく、ｘ＝-0.5における傾きが閾値７より小さいか（条件Ｅ１）、又は、第二種ヒストグラム関数のｘ＝０における値が閾値１より大きく、分散が閾値７より大きく、歪が閾値８より小さいか（条件Ｅ２）を判定する。条件Ｅ１とＥ２のいずれかが成り立つならば、画像はトラックと判定する（図６のステップＳＴ２０）。条件Ｅ１もＥ２も成り立たないならば、認識不能と判定する（図６のステップＳＴ２１）。なお、認識不能については、訓練データは用意されずパラメータ決定では考慮されないものの、分類にのみ用いられるクラスとして捉えてもよい。
【００６２】
続いて、テスト画像を用いた認識実験について説明する。認識実験は、クラス毎に１５枚のテスト画像を選び、計７５枚のテスト画像に対して行った。図７は、認識実験におけるテスト画像の一部を示す図である。実験では、まず、５クラスの訓練画像に対して学習されたパラメータを用いてすべてのテスト画像のリフティング低周波成分を計算し、それらを正規化する。また、正規化されたリフティング低周波成分から第一種ヒストグラム関数を計算する。次に、ミニカー、セダン、トラックの３クラスの訓練画像に対して再学習されたパラメータを用いて、すべてのテスト画像のリフティング低周波成分を計算する。そして、それらを正規化し、正規化されたリフティング低周波成分から第二種ヒストグラム関数を計算する。得られたすべてのヒストグラム関数に図６の識別手順を適用し認識を行う。
【００６３】
表１は認識結果を示す表である。認識結果からわかるように、ミニカーとセダンで80パーセント、トラックとバスで86パーセント以上、バンでは93パーセントの認識率が得られた。
【００６４】
【表１】
2009025915.tif 000016
【００６５】
図８は５クラスのテスト画像に対するヒストグラム関数を示す図である。図９はミニカー、セダン、トラックの３クラスのテスト画像に対するヒストグラム関数を示す図である。図８と図３、図９と図４を比較すると、各クラスに共通の特徴が認められる。
【００６６】
本実施例における認識時間は、ヒストグラム関数に図６の識別手順を適用するだけであるので一瞬である。車両切り出しの手間やヒストグラム関数の作成時間を加えても高々１秒以内で認識できる。
【００６７】
認識実験に用いたテスト画像は、ネットワークカメラで実際の走行車両から切り出されたものであり、認識が困難な対象である。原画像に自己相関法を適用して得られたシフト不変な画像に、判別分析法とリフティングウェーブレット変換を組み合わせた方法で認識を試みたが、認識率は10パーセントにも及ばなかった。そのため、本願発明には、優位性・実用性が認められる。
【図面の簡単な説明】
【００６８】
【図１】本願発明の実施の形態に係る認識装置１の一例を示す概要ブロック図である。
【図２】図１の決定部７がパラメータを決定するために用いられる２５枚の訓練画像を示す図である。
【図３】決定されたパラメータをもつヒストグラム関数をクラス毎に示す図である。
【図４】ミニカー、セダン、トラックの３つのクラスの訓練画像に対して再学習したヒストグラム関数をクラス毎に示す図である。
【図５】パラメータがすべて０の場合（リフティングを行わない場合）のヒストグラム関数を示す図である。
【図６】認識装置１による識別手順を示すフロー図である。
【図７】認識実験におけるテスト画像の一部を示す図である。
【図８】５クラスのテスト画像に対するヒストグラム関数を示す図である。
【図９】ミニカー、セダン、トラックの３クラスのテスト画像に対するヒストグラム関数を示す図である。
【符号の説明】
【００６９】
１  認識装置、５  ヒストグラム関数生成部、７  決定部、９  分類部
【図１】
2009025915.tif 000018
【図６】
2009025915.tif 000019
【図２】
2009025915.tif 000020
【図３】
2009025915.tif 000021
【図４】
2009025915.tif 000022
【図５】
2009025915.tif 000023
【図７】
2009025915.tif 000024
【図８】
2009025915.tif 000025
【図９】
2009025915.tif 000026