(57)【特許請求の範囲】
【請求項１】
第一計測面上に配置された１または複数の第一計測部が任意の時間区間において任意の空間の物理量を計測して当該各第一計測部が出力した第一計測信号から、前記第一計測面上に設定された第一小領域における特徴量ごとの時間頻度を算出する第一特徴量分布算出部と、
前記第一計測面とは異なる第二計測面上に配置された複数の第二計測部のそれぞれが前記時間区間において前記空間の物理量を計測して当該各第二計測部が出力した第二計測信号から、前記第二計測面上に設定された複数の第二小領域のそれぞれにおける前記特徴量ごとの時間頻度を算出する第二特徴量分布算出部と、
前記第一小領域と前記複数の第二小領域それぞれとの間で、前記特徴量どうしの相違性または類似性を表す対応指標値を求め、前記対応指標値ごとの時間頻度を要素とする対応指標値分布を算出する対応指標値分布算出部と、
前記複数の第二小領域の前記対応指標値分布を用いて、前記複数の第二小領域の中から前記第一小領域と対応する前記空間内の位置の物理量を計測した第二小領域を認識する対応領域認識部と、
を備えたことを特徴とする空間認識装置。
【請求項２】
前記対応指標値分布算出部は、前記対応指標値ごとに、前記第一小領域の前記特徴量の時間頻度と前記第二小領域の前記特徴量の時間頻度の組み合わせのうち当該対応指標値が算出された組み合わせごとの時間頻度の積を総和して、当該対応指標値の時間頻度を算出する請求項１に記載の空間認識装置。
【請求項３】
前記対応指標値分布算出部は、前記特徴量どうしの相違性を表す前記対応指標値を求めて前記対応指標値分布を算出し、
前記対応領域認識部は、前記対応指標値分布のそれぞれについて当該対応指標値分布における対応指標値と時間頻度の積和値を算出し、前記複数の第二小領域のうち前記積和値が所定値以下である第二小領域の中から前記第一小領域を決定する前記空間内の位置の物理量を計測した第二小領域と認識する請求項１または２に記載の空間認識装置。
【請求項４】
前記対応指標値分布算出部は、前記特徴量どうしの類似性を表す前記対応指標値を求めて前記対応指標値分布を算出し、
前記対応領域認識部は、前記対応指標値分布のそれぞれについて当該対応指標値分布における対応指標値と時間頻度の積和値を算出し、前記複数の第二小領域のうち前記積和値が所定値以上である第二小領域の中から前記第一小領域を決定する前記空間内の位置の物理量を計測した第二小領域と認識する請求項１または２に記載の空間認識装置。
【請求項５】
前記複数の第一計測部は、前記第一計測面を第一撮像面として該第一撮像面上に配置され、前記空間を撮像してそれぞれが前記第一計測信号としての第一輝度信号を出力する複数の第一光電変換部からなり、
前記複数の第二計測部は、前記第一計測面とは異なる前記第二計測面を第二撮像面として該第二撮像面上に配置され、それぞれが前記空間を撮像して前記第二計測信号としての第二輝度信号を出力する複数の第二光電変換部からなる請求項１〜４の何れか一つに記載の空間認識装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、互いに異なる方向から共通の空間を計測した複数の計測信号（例えば輝度信号）の中から、対応する位置を計測した計測信号を認識する空間認識装置に関する。
【背景技術】
【０００２】
防犯等を目的として、監視カメラが撮像した画像を基に不正通行者や侵入者等を検出することが行われている。その際、人物の一部が背景と似た特徴を有していることや、人物間でオクルージョンが生じていることなどが原因で生じる検出精度低下を防ぐために、複数の監視カメラを設置して互いに異なる方向から共通の空間を撮像して、一つの監視カメラから得られない情報を他の監視カメラで補う工夫が行われる場合がある。
【０００３】
例えば、特許文献１に記載の画像監視装置においては、背景との類似が原因で天井カメラ側にて抽出し損ねた変化領域を補完するために、壁カメラ側の変化領域内において同じ位置を撮像した画素が求まった天井カメラ側の画素を変化領域とすることが記載されている。このとき、天井カメラの監視画像と壁カメラの監視画像の間で、同じ位置を撮像した画素を、輝度値の差または相関値、色成分の差または相関値など、画素間の画像特徴どうしの共通性・類似性に基づいて対応付けている。
【０００４】
このような処理は、通常、監視カメラが２００ｍｓ程度の周期で撮像した監視画像を用いて行われる。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１０−０４５５０１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、カメラ内部で発生する撮像素子等などのノイズや照明条件の微小変動等の外乱による揺らぎが原因で画素の特徴量が時間変動し、同じ位置を撮像した画素であるにもかかわらず特徴量が一致せずに対応付けできなくなったり、近傍の別画素に誤って対応付けてしまったりするエラーが発生していた。
【０００７】
すなわち、通常用いられる監視カメラでは、各撮像素子が一定時間（例えば２００ｍｓの間）に出力する輝度信号の平均値を、その撮像素子に対応する画素の輝度値として出力する。そして、このように出力される輝度値は、上記一定時間内に発生した外乱やカメラ内部のノイズの影響で常に揺らいでおり、不安定である。そのため、この輝度値を用いる限り、揺らぎによる対応付けエラーを避けることが困難であった。
【０００８】
また、対応付けは画素間で特徴量どうしを演算して行うが、揺らぎを含む特徴量どうしの演算が揺らぎの影響を倍増させていた。さらに、特徴量どうしの演算結果である差や相関値はスカラとなってしまっているため、特徴量どうしの演算結果から非揺らぎ成分を分離して対応付けに用いることが困難となっていた。
【０００９】
そこで、本発明は上記問題点に鑑みてなされたものであり、計測信号に揺らぎが生じていても、共通の空間を計測した複数の計測信号から、対応する位置を計測した計測信号を高精度に認識できる空間認識装置を提供することを目的とするものである。
【課題を解決するための手段】
【００１０】
上記した目的を達成するために、本発明に係る空間認識装置は、第一計測面上に配置された１または複数の第一計測部が任意の時間区間において任意の空間の物理量を計測して当該各第一計測部が出力した第一計測信号から、前記第一計測面上に設定された第一小領域における特徴量ごとの時間頻度を算出する第一特徴量分布算出部と、
前記第一計測面とは異なる第二計測面上に配置された複数の第二計測部のそれぞれが前記時間区間において前記空間の物理量を計測して当該各第二計測部が出力した第二計測信号から、前記第二計測面上に設定された複数の第二小領域のそれぞれにおける前記特徴量ごとの時間頻度を算出する第二特徴量分布算出部と、
前記第一小領域と前記複数の第二小領域それぞれとの間で、前記特徴量どうしの相違性または類似性を表す対応指標値を求め、前記対応指標値ごとの時間頻度を要素とする対応指標値分布を算出する対応指標値分布算出部と、
前記複数の第二小領域の前記対応指標値分布を用いて、前記複数の第二小領域の中から前記第一小領域と対応する前記空間内の位置の物理量を計測した第二小領域を認識する対応領域認識部と、
を備えたことを特徴とする。
【００１１】
また、本発明に係る空間認識装置は、前記対応指標値分布算出部が、前記対応指標値ごとに、前記第一小領域の前記特徴量の時間頻度と前記第二小領域の前記特徴量の時間頻度の組み合わせのうち当該対応指標値が算出された組み合わせごとの時間頻度の積を総和して、当該対応指標値の時間頻度を算出してもよい。
【００１２】
さらに、本発明に係る空間認識装置は、前記対応指標値分布算出部が、前記特徴量どうしの相違性を表す前記対応指標値を求めて前記対応指標値分布を算出し、
前記対応領域認識部が、前記対応指標値分布のそれぞれについて当該対応指標値分布における対応指標値と時間頻度の積和値を算出し、前記複数の第二小領域のうち前記積和値が所定値以下である第二小領域の中から前記第一小領域を決定する前記空間内の位置の物理量を計測した第二小領域と認識してもよい。
【００１３】
また、本発明に係る空間認識装置は、前記対応指標値分布算出部が、前記特徴量どうしの類似性を表す前記対応指標値を求めて前記対応指標値分布を算出し、
前記対応領域認識部が、前記対応指標値分布のそれぞれについて当該対応指標値分布における対応指標値と時間頻度の積和値を算出し、前記複数の第二小領域のうち前記積和値が所定値以上である第二小領域の中から前記第一小領域を決定する前記空間内の位置の物理量を計測した第二小領域と認識してもよい。
【００１４】
さらに、本発明に係る空間認識装置は、前記複数の第一計測部が、前記第一計測面を第一撮像面として該第一撮像面上に配置され、前記空間を撮像してそれぞれが前記第一計測信号としての第一輝度信号を出力する複数の第一光電変換部からなり、
前記複数の第二計測部が、前記第一計測面とは異なる前記第二計測面を第二撮像面として該第二撮像面上に配置され、それぞれが前記空間を撮像して前記第二計測信号としての第二輝度信号を出力する複数の第二光電変換部からなる構成としてもよい。
【発明の効果】
【００１５】
本発明の空間認識装置によれば、第一小領域および第二小領域における計測信号の特徴量ごとの時間頻度において、さらには第一小領域と第二小領域の間で算出される対応指標値ごとの時間頻度においては、時間頻度の低い揺らぎ成分と、時間頻度の高い非揺らぎ成分が区別できる。そのため、非揺らぎ成分による第一小領域と第二小領域の対応関係だけを正しく認識でき、認識精度が格段に向上する。
【図面の簡単な説明】
【００１６】
【図１】本発明に係る空間認識装置の概略構成を示す図である。
【図２】分布画像の模式図である。
【図３】本発明に係る空間認識装置の機能ブロック図である。
【図４】（ａ）時間と輝度値との関係の一例を示す図である。  （ｂ）輝度値と時間頻度との関係の一例を示す図である。
【図５】輝度差分布の一例を示す説明図である。
【図６】本発明に係る空間認識装置における２台のカメラと処理部の動作を示すフローチャートである。
【発明を実施するための形態】
【００１７】
以下、本発明を実施するための形態について、添付した図面の図１〜６を参照しながら詳細に説明する。
【００１８】
［空間認識装置の構成について］
図１に示すように、本実施の形態の空間認識装置１は、撮像部２、記憶部３、処理部４、出力部５を含んで構成され、互いに異なる方向から共通の空間を計測した複数の計測信号（例えば輝度信号）の中から、対応する位置を計測した計測信号を認識する。
【００１９】
撮像部２は、カメラ２ａとカメラ２ｂとを含んで構成される。カメラ２ａとカメラ２ｂは、所定の空間（監視空間）を高速撮像して所定周期で図２に示すような、特徴量分布の集まりである分布画像を生成し、処理部４に出力する。なお、図２におけるｘ方向（水平方向）およびｙ方向（垂直方向）の一つ一つの矩形部分が画素に対応している。
【００２０】
カメラ２ａとカメラ２ｂは、少なくとも視野の一部を共有するものであり、例えば２台のカメラ２ａ，２ｂが人の目を模した間隔で設置されたステレオカメラで構成することができる。
【００２１】
また、例えば、部屋の壁と天井に設置された２台のカメラ２ａ，２ｂや、部屋の天井に数メートル離して設置された２台のカメラ（一般的な視野共有カメラ）２ａ，２ｂで構成することもできる。
【００２２】
カメラ２ａは、図３に示す複数の光電変換部２０ａ（２０ａ−１，２０ａ−２，…，２０ａ−Ｎ）を備える。複数の光電変換部２０ａ−１，２０ａ−２，…，２０ａ−Ｎのそれぞれは第一計測部（第一撮像部）であり、それぞれ監視空間に存在する物体からの反射光を光電変換して、反射光の輝度に応じた輝度信号を出力する。
【００２３】
また、カメラ２ａは、図３に示す特徴量分布算出部２１ａを備える。特徴量分布算出部２１ａは、複数の光電変換部２０ａ−１，２０ａ−２，…，２０ａ−Ｎからの輝度信号を一定時間保持し、保持した所定時間幅の輝度信号から、１または複数の光電変換部２０ａを単位とする特徴量ごとの時間頻度を第一特徴量分布として算出する。
【００２４】
カメラ２ｂは、カメラ２ａと同様に、図３に示す複数の光電変換部２０ｂ（２０ｂ−１，２０ｂ−２，…，２０ｂ−Ｎ）を備える。複数の光電変換部２０ｂ−１，２０ｂ−２，…，２０ｂ−Ｎのそれぞれは第二計測部（第二撮像部）であり、それぞれ監視空間に存在する物体からの反射光を光電変換して、反射光の輝度に応じた輝度信号を出力する。
【００２５】
また、カメラ２ｂは、カメラ２ａと同様に、図３に示す特徴量分布算出部２１ｂを備える。特徴量分布算出部２１ｂは、複数の光電変換部２０ｂ−１，２０ｂ−２，…，２０ｂ−Ｎからの輝度信号を一定時間保持し、保持した所定時間幅の輝度信号から、１または複数の光電変換部２０ｂを単位とする特徴量ごとの時間頻度を第二特徴量分布として算出する。
【００２６】
なお、本例では、２台のカメラ２ａ，２ｂを用いているが、これに限定されるものではなく、例えば３台以上のカメラで計測部２を構成してもよい。
【００２７】
本例において、特徴量分布算出部２１ａは、カメラ２ａの１または複数の光電変換部２０ａを単位とする第一特徴量分布を複数算出し、それらの集まりによる画像を第一分布画像としている。同様に、特徴量分布算出部２１ｂは、カメラ２ｂの１または複数の光電変換部２０ｂを単位とする第二特徴量分布を複数算出し、それらの集まりによる画像を第二分布画像としている。
【００２８】
記憶部３は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等のメモリ装置で構成され、各種プログラムや各種データを記憶する。また、記憶部３は、処理部４と接続されて処理部４との間でこれらの情報を入出力する。
【００２９】
処理部４は、ＣＰＵ（Central Processing Unit ）、ＤＳＰ（Digital Signal Processor）、ＭＣＵ（Micro Control Unit）等の演算装置で構成される。
【００３０】
処理部４は、記憶部３と接続され、記憶部３からプログラムを読み出して実行することにより各種処理・制御手段として動作する。また、処理部４は、各種データを記憶部３に記憶させ、各種データの読み出しを行う。
【００３１】
さらに、処理部４は、カメラ２ａ、カメラ２ｂおよび出力部５とも接続され、カメラ２ａおよびカメラ２ｂからの分布画像を処理して、互いに異なる方向から共通の空間を撮像した複数の輝度信号の中から、対応する位置を撮像した輝度信号を認識し、この認識結果から生成される距離画像に基づく空間認識情報（例えば通行者数と通行者位置）を出力部５に出力する。
【００３２】
出力部５は、処理部４と接続され、処理部４からの空間認識情報を外部出力する。具体的には、出力部５は、通信装置で構成され、所定のネットワークを介して遠隔の警備センターに空間認識情報を伝送する。
【００３３】
さらに、図３の機能ブロック図を参照しながら各部の構成について説明する。
【００３４】
複数の光電変換部２０ａ−１，２０ａ−２，…，２０ａ−Ｎは、それぞれが撮像素子、電子シャッター、増幅器、Ａ／Ｄ変換器を含む。同様に、複数の光電変換部２０ｂ−１，２０ｂ−２，…，２０ｂ−Ｎは、それぞれが撮像素子、電子シャッター、増幅器、Ａ／Ｄ変換器を含む。電子シャッター、増幅器およびＡ／Ｄ変換器は２以上の光電変換部２０ａ，２０ｂにより共有させてもよい。
【００３５】
撮像素子は、ＣＣＤ（Charge Coupled Devices）またはＣ−ＭＯＳ（Complementary Metal Oxide Semiconductor ）などで構成され、監視空間の可視光線の強度を計測して、計測した強度を電圧値とする輝度信号を出力する。
【００３６】
例えば、各光電変換部２０ａ，２０ｂは、１／５００秒ごとに電子シャッターを作動させて、作動時の各撮像素子の電圧を増幅器で増幅し、Ａ／Ｄ変換器でサンプリングすることにより、１／５００秒ごとに輝度値を０〜２５５の２５６階調に離散化したディジタルの輝度信号を出力する。
【００３７】
複数の撮像素子は、所定の撮像面上に配置されて面をなし、当該面に監視空間を投影する。例えば、撮像素子を平面の基板上に、基板のＸ方向に等間隔で６４０個、Ｙ方向に等間隔で４８０個というように、アレー状に配置し、１／５００秒ごとに６４０×４８０画素の濃淡画像を撮像する。
【００３８】
また、複数の撮像素子は、それぞれがＲ、Ｇ、Ｂの各帯域に適合したカラーフィルタを備えた３つの撮像素子を単位とする撮像素子の組を、平面の基板上に、Ｘ方向に等間隔で６４０組、Ｙ方向に等間隔で４８０組というように、アレー状に配置し、６４０×４８０画素のカラー画像を撮像することもできる。
【００３９】
さらに、ＲＧＢの輝度信号をＨＳＶなど他の表色系に変換して出力してもよい。
【００４０】
光電変換部２０ａ，２０ｂの撮像周期（計測周期）は、検出対象とする変化よりも十分短ければよく、例えば人を主たる認識対象とする場合は、１／１００秒、または１／２００秒などでもよい。
【００４１】
また、階調数、光電変換部２０ａ，２０ｂの個数も上記例に限らず、検出対象や空間の大きさに応じた設定とすることができる。また、光電変換部２０ａの個数と光電変換部２０ｂの個数は異なっていてもよい。
【００４２】
なお、本実施の形態において、光電変換部２０ａの撮像面が第一撮像面であり、第一撮像面に設定される小領域が第一小領域である。また、光電変換部２０ｂの撮像面が第二撮像面であり、第二撮像面に設定される小領域が第二小領域である。また、第一撮像面に投影される空間と第二撮像面に投影される空間は、少なくとも一部が共通である。
【００４３】
本実施の形態において、カメラ２ａ、２ｂはステレオカメラであり、第一撮像面と第二撮像面は人の目の間隔程度に離れて同一平面上に設定される。
【００４４】
別の実施の形態において、カメラ２ａ、２ｂは一般的な視野共有カメラとすることもできる。この場合、第一撮像面と第二撮像面は例えば数メートル離れた位置の、異なる平面上に設定される。
【００４５】
以上のように、第一撮像面上に配置された複数の光電変換部２０ａ−１，２０ａ−２，…，２０ａ−Ｎは、任意の時間区間において任意の空間を撮像し、光電変換部２０ａ−１，２０ａ−２，…，２０ａ−Ｎのそれぞれが輝度信号を出力する。すなわち、第一計測面上に配置された複数の第一計測部は任意の時間区間において任意の空間の物理量を計測してそれぞれが計測信号を出力する。
【００４６】
また、第一撮像面とは異なる第二撮像面上に配置された複数の光電変換部２０ｂ−１，２０ｂ−２，…，２０ｂ−Ｎは、上記時間区間において上記空間を撮像し、光電変換部２０ｂ−１，２０ｂ−２，…，２０ｂ−Ｎのそれぞれが輝度信号を出力する。すなわち、第一計測面とは異なる第二計測面上に配置された複数の第二計測部は前記時間区間において前記空間の物理量を計測してそれぞれが計測信号を出力する。
【００４７】
なお、本実施の形態では、カメラ２ａが特徴量分布算出部２１ａを含んで機能し、カメラ２ｂが特徴量分布算出部２１ｂを含んで機能し、処理部４が対応指標値分布算出部２３、対応領域認識部２４、距離画像生成部２５、通行者認識部２６を含んで機能し、記憶部３がカメラパラメータ記憶部２２を含んで機能する。
【００４８】
特徴量分布算出部２１ａは、本発明における第一特徴量分布算出部であり、バッファ、演算回路を含む。バッファは、例えばリングバッファで構成され、複数の光電変換部２０ａ−１，２０ａ−２，…，２０ａ−Ｎからの輝度信号を一定時間保持し、撮像周期ごとの輝度値を循環記憶する。
【００４９】
特徴量分布算出部２１ｂは、本発明における第二特徴量分布算出部であり、特徴量分布算出部２１ａと同様に、バッファ、演算回路を含む。バッファは、例えばリングバッファで構成され、複数の光電変換部２０ｂ−１，２０ｂ−２，…，２０ｂ−Ｎからの輝度信号を一定時間保持し、撮像周期ごとの輝度値を循環記憶する。
【００５０】
本例では、予め定めた頻度算出時間幅以上のバッファを光電変換部２０ａ，２０ｂの数だけ備える。
【００５１】
例えば、撮像周期が１／５００秒、頻度算出時間幅が１／５秒間であれば、バッファ長が１００以上のバッファを光電変換部２０ａ，２０ｂの数だけ用意する。
【００５２】
演算回路は、バッファに保持した頻度算出時間幅の輝度信号から特徴量ごとの時間頻度を頻度算出周期で算出して、特徴量分布を生成し、対応指標値分布算出部２３に出力する。
【００５３】
例えば演算回路は、撮像部２の撮像面上に予め設定された複数の小領域のそれぞれにおいて特徴量の正規化ヒストグラムを算出する。
【００５４】
例えば、小領域を上記濃淡画像の画素、特徴量を上記濃淡画像の輝度値とすることができる。つまり、光電変換部２０ａ，２０ｂと小領域が１対１対応し、特徴量はスカラである。
【００５５】
また、例えば、小領域を上記カラー画像の画素、特徴量をＲ、Ｇ、Ｂの輝度値としてもよい。この場合、光電変換部２０ａ，２０ｂと小領域が３対１対応し、特徴量は３次元ベクトルである。
【００５６】
さらに、例えば、上記濃淡画像またはカラー画像における近傍の複数画素（２×２画素、３×３画素など）を小領域としてもよい。この場合、解像度変換を行いつつ、各小領域における時間頻度算出の元データを増やせる。
【００５７】
頻度算出周期は、頻度算出時間幅１／５秒間に対して、１／５秒とすることができる。この場合、オーバーラップも間引きもないということになる。
【００５８】
なお、頻度算出周期を頻度算出時間幅よりも短く設定してオーバーラップを設けてもよいし、頻度算出周期を頻度算出時間幅よりも長く設定して間引きしてもよい。
【００５９】
以上のように、特徴量分布算出部２１ａは、第一計測面上（カメラ２ａの第一撮像面上）に設定された第一小領域における計測信号（輝度信号）から特徴量ごとの時間頻度を算出することによって、特徴量分布（第一特徴量分布）を算出する。
【００６０】
特徴量分布算出部２１ｂは、第一計測面と異なる第二計測面上（カメラ２ｂの第二撮像面上）に設定された複数の第二小領域のそれぞれにおける計測信号（輝度信号）から特徴量ごとの時間頻度を算出することによって、特徴量分布（第二特徴量分布）を算出する。各特徴量分布においては、非揺らぎ成分である真の特徴量の時間頻度が有意に高い値を示し、これと比較して、揺らぎ成分である偽の特徴量の時間頻度は十分に低いものとなる。例えば、突発的なノイズが発生し、その振幅が大きかったとしてもノイズによる偽の特徴量の時間頻度は十分低いものとなる。そのため、特徴量分布を用いることで真の特徴量と偽の特徴量を区別することが可能となる。
【００６１】
ここで、図４（ａ）はある画素における輝度信号の時間と輝度値の関係の一例を示す。図４（ａ）に示すように、輝度値が０〜２５５の範囲で時間の経過とともに変化したものとする。頻度算出時間幅Ｔの輝度値の数が例えば１００個である場合、各輝度値の度数を計数し、計数結果のそれぞれを１００で除して時間頻度を算出すると、当該画素における輝度値と時間頻度は図４（ｂ）に示す正規化ヒストグラムのような関係になる。
【００６２】
カメラパラメータ記憶部２２は、カメラ２ａ及びカメラ２ｂにより撮像される空間に予め定めた両カメラ２ａ，２ｂに共通のＸＹＺ座標系（世界座標系）における、カメラ２ａのカメラパラメータ及びカメラ２ｂのカメラパラメータを予め記憶する。
【００６３】
カメラ２ａとカメラ２ｂの各カメラパラメータは、以下に説明するように、外部パラメータと内部パラメータからなる。
【００６４】
カメラ２ａの外部パラメータは、世界座標系におけるカメラ２ａの位置（視点）、撮影方向、画角を含む。カメラ２ｂの外部パラメータは、世界座標系におけるカメラ２ｂの位置、撮影方向、画角を含む。
【００６５】
カメラ２ａの内部パラメータは、カメラ２ａの焦点距離、中心座標、歪係数を含む。カメラ２ｂの内部パラメータは、カメラ２ｂの焦点距離、中心座標、歪係数を含む。
【００６６】
なお、カメラ２ａのカメラパラメータをピンホールカメラモデルに適用することによって、世界座標系の座標とカメラ２ａの撮影面の座標系の間で座標変換が可能となる。同様に、カメラ２ｂのカメラパラメータを用いることによって、世界座標系の座標とカメラ２ｂの撮影面の座標系の間で座標変換が可能となる。
【００６７】
対応指標値分布算出部２３は、特徴量分布算出部２１ａが算出した第一特徴量分布と、特徴量分布算出部２１ｂが算出した第二特徴量分布の間で、小領域間の対応指標値ごとの時間頻度を算出し、対応領域認識部２４に出力する。
【００６８】
対応指標値は、特徴量どうしの相違性または類似性を表す値であり、対応関係を認識するための指標となる値である。
【００６９】
例えば、特徴量を濃淡画像の輝度値、対応指標値を輝度差とすることができる。この場合、対応指標値である輝度差は、特徴量どうしの相違性を表す値となる。したがって、輝度差が小さな小領域どうしほど相違性が低く、対応する可能性が高いこととなり、逆に輝度差が大きな小領域どうしほど相違性が高く、対応する可能性が低いこととなる。
【００７０】
小領域間の対応指標値ごとの時間頻度は例えば正規化ヒストグラムの形式で表現される。以下、これを対応指標値分布と称する。対応指標値分布は、第一小領域と対応する第二小領域を認識するための基礎となる情報である。
【００７１】
対応指標値分布算出部２３は、第一小領域それぞれに対して複数の第二小領域を候補とし、第一小領域それぞれに対する探索範囲を第二分布画像中（つまり第二計測面中）に定めて、当該第一小領域と探索範囲内の第二小領域の間で対応指標値分布を算出する。探索範囲は、例えば第一分布画像中の画素の第二分布画像への射影領域である。
【００７２】
具体的に、対応指標値分布算出部２３は、第一撮像面の座標系で表された第一特徴量分布中の任意の画素の座標をカメラ２ａのカメラパラメータを用いて世界座標系に逆投影してエピポーラ線を導出し、世界座標系で表されたエピポーラ線をカメラ２ｂのカメラパラメータを用いて第二撮像面の座標系に投影する。そして、エピポーラ線の投影像とその近傍を第一特徴量分布中の任意の画素に対する探索範囲とする。
【００７３】
例えば、カメラ２ａ，２ｂがステレオカメラである例においては、第二撮像面のｘ軸方向に沿った探索範囲とすることができ、そのｘ軸方向に沿った探索範囲の画素数ｎがエピポーラ線の投影像から決定できる。
【００７４】
対応指標値分布算出部２３は、対応指標値を輝度差とした場合、第一特徴量分布を構成する任意の画素（ｘ，ｙ）における輝度値ｉの時間頻度Ｐａ（ｉ）と、第二特徴量分布中の対応画素の候補（ｘ＋ｄ，ｙ）における輝度値ｊの時間頻度Ｐｂ（ｊ）を基に輝度差分布Ｐｓ（ｘ，ｙ，ｄ，｜ｉ−ｊ｜）を下記式（１）により算出する。
【００７５】
【数１】
0006332703.tif 000002
【００７６】
ただし、ｄはずらし幅（視差）であり、０≦ｄ≦ｎである。また、∫ｊ∫ｉｄｉｄｊは輝度差が｜ｉ−ｊ｜である輝度値ｉとｊの組み合わせについて時間頻度の積を総和することを意味する。ちなみに、輝度値ｉ，ｊおよびｉとｊの輝度差｜ｉ−ｊ｜の値域はいずれも０〜２５５である。
【００７７】
以下、輝度差分布Ｐｓのうち輝度差が０の要素Ｐｓ（ｘ，ｙ，ｄ，０）について説明する。
【００７８】
第一特徴量分布側の輝度値ｉ＝０，１，…，２５５に対して、輝度差｜ｉ−ｊ｜が０となる第二特徴量分布側の輝度値ｊはそれぞれ０，１，…，２５５であるから、第一特徴量分布側の時間頻度Ｐａ（ｘ，ｙ，０）と第二特徴量分布側の時間頻度Ｐｂ（ｘ＋ｄ，ｙ，０）の積、第一特徴量分布側の時間頻度Ｐａ（ｘ，ｙ，１）と第二特徴量分布側の時間頻度Ｐｂ（ｘ＋ｄ，ｙ，１）の積、…、第一特徴量分布側の時間頻度Ｐａ（ｘ，ｙ，２５５）と第二特徴量分布側の時間頻度Ｐｂ（ｘ＋ｄ，ｙ，２５５）の積を総和して要素Ｐｓ（ｘ，ｙ，ｄ，０）が求まる。
【００７９】
次に、輝度差分布Ｐｓのうち輝度差が１の要素Ｐｓ（ｘ，ｙ，ｄ，１）について説明する。
【００８０】
第一特徴量分布側の輝度値ｉ＝０，１，２，…，２５５に対して、輝度差｜ｉ−ｊ｜が１となる第二特徴量分布側の輝度値ｊはそれぞれ１，０と２，１と３，…，２５４であるから、Ｐａ（ｘ，ｙ，０）とＰｂ（ｘ＋ｄ，ｙ，１）の積、Ｐａ（ｘ，ｙ，１）とＰｂ（ｘ＋ｄ，ｙ，０）の積とＰａ（ｘ，ｙ，１）とＰｂ（ｘ＋ｄ，ｙ，２）の積の和、Ｐａ（ｘ，ｙ，２）とＰｂ（ｘ＋ｄ，ｙ，１）の積とＰａ（ｘ，ｙ，２）とＰｂ（ｘ＋ｄ，ｙ，３）の積の和、…、Ｐａ（ｘ，ｙ，２５５）とＰｂ（ｘ＋ｄ，ｙ，２５４）の積を総和して要素Ｐｓ（ｘ，ｙ，ｄ，１）が求まる。
【００８１】
以下、Ｐｓ（ｘ，ｙ，ｄ，２）からＰｓ（ｘ，ｙ，ｄ，２５５）についても同様に求める。
【００８２】
つまり、対応指標値分布算出部２３は、各第一小領域について、対応指標値ごとに、第一小領域の特徴量の時間頻度と第二小領域の特徴量の時間頻度の組み合わせのうち当該対応指標値が算出された組み合わせごとの時間頻度の積を総和して、当該対応指標値の時間頻度を算出する。
【００８３】
図５は輝度差分布の一例を示している。図５の例では、ずらし幅ｄ＝０，１，２，３，４であり、第一分布画像中の１画素（ｘ，ｙ）に対して、第二分布画像中の対応画素が５候補（ｘ，ｙ），（ｘ＋１，ｙ），（ｘ＋２，ｙ），（ｘ＋３，ｙ），（ｘ＋４，ｙ）あり、これら５候補それぞれとの輝度差分布はＰｓ（ｘ，ｙ，０，｜ｉ−ｊ｜），Ｐｓ（ｘ，ｙ，１，｜ｉ−ｊ｜），Ｐｓ（ｘ，ｙ，２，｜ｉ−ｊ｜），Ｐｓ（ｘ，ｙ，３，｜ｉ−ｊ｜），Ｐｓ（ｘ，ｙ，４，｜ｉ−ｊ｜）になる。
【００８４】
上記例では、小領域を１画素としたが、監視空間中の平面などにおいては類似する輝度値が連続する場合がある。そこで、近傍画素を含めた複数画素からなる小領域を、オーバーラップさせて設定し、輝度差ごとの時間頻度を複数画素にわたって集計することによって輝度差分布を算出してもよい。そうすることで、画像上で類似する輝度値が連続しても対応する小領域を誤認識しにくくなる。
【００８５】
例えば、カメラ２ａ，２ｂがステレオカメラである例において、第一小領域および第二小領域をともにｗ×１画素とした場合、式（１）は下記式（２）のように拡張される。
【００８６】
【数２】
0006332703.tif 000003
【００８７】
ただし、ｕは探索点であり、−ｗ／２≦ｕ≦ｗ／２である。
【００８８】
以上のように、対応指標値分布算出部２３は、各第一小領域について、第一小領域と複数の第二小領域のそれぞれとの間で、特徴量どうしの相違性または類似性を表す対応指標値を求め、対応指標値ごとの時間頻度を要素とする対応指標値分布を算出する。このとき、対応指標値分布算出部２３は、式（１）および（２）にて例示したように、対応指標値ごとに、第一小領域の特徴量の時間頻度と第二小領域の特徴量の時間頻度の組み合わせのうち当該対応指標値が算出された組み合わせごとの時間頻度の積を総和して、当該対応指標値の時間頻度を算出する。
【００８９】
このように算出した対応指標値分布においても、非揺らぎ成分による真の対応指標値の時間頻度が偽の対応指標値の時間頻度よりも有意に高い関係が維持される。よって、真の対応指標値を偽の対応指標値と区別して利用することが可能となる。
【００９０】
対応領域認識部２４は、複数の第二小領域の対応指標値分布を用いて、複数の第二小領域の中から第一小領域と対応する監視空間内の位置を認識する。
【００９１】
具体的には、対応領域認識部２４は、各第一小領域について、当該第一小領域に対して算出した対応指標値分布ごとに対応指標値分布のノルムを算出し、各ノルムを予め定めた閾値と比較してノルムが閾値以下である第二小領域の中から最も低いノルムが算出された第二小領域を当該第一小領域に対応する第二小領域と決定する。
【００９２】
なお、対応領域認識部２４は、閾値以下のノルムが算出されなかった第一小領域については、対応する第二小領域がないと決定する。また、ノルムが閾値以下である第二小領域が複数存在する場合、対応領域認識部２４は、各第二小領域とそれに隣接する第二小領域のノルムの和が最小の第二小領域を第一小領域に対応する第二小領域と決定することで、偶発的な誤対応づけを防止してもよい。
【００９３】
ここで、輝度値分布Ｐｓ（ｘ，ｙ，ｄ，｜ｉ−ｊ｜）における輝度差｜ｉ−ｊ｜についてのノルムは、輝度差と時間頻度との積を総和した積和値Σ｜ｉ−ｊ｜・Ｐｓ（ｘ，ｙ，ｄ，｜ｉ−ｊ｜）によって定義できる。この定義の場合、輝度差分布の左側（輝度差｜ｉ−ｊ｜が低い側）に偏った分布ほど低いノルムが算出されやすくなるため、低い輝度差が高頻度で現れた第二小領域ほど対応する第二小領域として認識されやすくなる。
【００９４】
図５の例ではｄ＝０の第二小領域が、対応する第二小領域として認識される。
【００９５】
また、例えば、各第一小領域について、当該第一小領域に対して算出した対応指標値分布ごとに（つまり第一小領域と第二小領域の組み合わせごとに）対応指標値の最頻値を検出し、最も低い最頻値が検出された第二小領域を当該第一小領域に対応する第二小領域と認識する。
【００９６】
上述したように、対応指標値分布においては非揺らぎ成分による真の対応指標値の時間頻度が揺らぎ成分による偽の対応指標値の時間頻度よりも有意に高い値となっている。よって、対応領域認識部２４は、時間頻度の高い対応指標値を選択的に用いて小領域の対応関係を認識することで、揺らぎ成分による誤認識を効果的に減じて、高精度に対応関係を認識することができる。
【００９７】
距離画像生成部２５は、各第一小領域について、対応する第二小領域のずらし量（視差）ｄｍｉｎとカメラパラメータから当該小領域に投影された監視空間中の点までの距離を算出することによって、距離画像を生成する。
【００９８】
例えば、第一特徴量分布中の画素（ｘ，ｙ）と、ｘ軸方向にｄｍｉｎだけずれた第二特徴量分布中の画素（ｘ＋ｄｍｉｎ，ｙ）が対応する場合は、カメラ２ａから第一特徴量分布中の画素（ｘ，ｙ）に投影されている監視空間中の点までの距離Ｄはカメラパラメータを用いて次式により求まる。
【００９９】
Ｄ＝ｆ・ｈ／｜ｄｍｉｎ｜  …式（３）
ただし、ｆはカメラ２ａの焦点距離、ｈはカメラ２ａとカメラ２ｂの間の距離である。
【０１００】
通行者認識部２６は、距離画像から監視空間に存在する通行者数や通行者位置を認識し、認識結果を出力部６に出力する。
【０１０１】
例えば、監視空間に人が存在しないときに生成された距離画像を記憶部３に記憶させておき、新たに生成された距離画像と記憶部３の距離画像との差分領域を抽出するとともに、差分領域のうち人の幅以上の距離差があるエッジを含んだ差分領域を当該エッジを境に分離する。そして、差分領域のうち人の大きさ範囲である差分領域の数を通行者数として計数するとともに、当該差分領域それぞれの位置を通行者位置として検出する。
【０１０２】
［空間認識装置の動作について］
次に、上記のように構成される空間認識装置におけるカメラ２ａ及びカメラ２ｂと処理部４の動作について図６のフローチャートを参照しながら説明する。
【０１０３】
カメラ２ａにおいて、各光電変換部２０ａは定期的に電子シャッターが作動するたびに、撮像素子の電圧をＡ／Ｄ変換して輝度値をサンプリングし、サンプリングされた各輝度値を特徴量分布算出部２１ａがバッファに書き込むことで輝度信号をバッファリングする（Ｓ１）。
【０１０４】
同様に、カメラ２ｂにおいて、各光電変換部２０ｂは定期的に撮像素子が計測した輝度値をサンプリングし、特徴量分布算出部２１ｂが輝度信号をバッファリングする（同じくＳ１）。
【０１０５】
特徴量分布算出部２１ａおよび特徴量分布算出部２１ｂは、それぞれ、バッファへの書き込み回数あるいはバッファにおける最新の書き込み位置などを基に頻度算出周期が到来したか否かを判定する（Ｓ２）。
【０１０６】
例えば、撮像周期を１／５００秒、頻度算出周期を１／５秒とすれば、１００個の輝度値を書き込むたびに頻度算出周期が到来する。
【０１０７】
頻度算出周期が到来していなければ（Ｓ２にてＮＯ）、特徴量分布算出部２１ａおよび特徴量分布算出部２１ｂは、それぞれ、処理をステップＳ１へ戻し、バッファリングを続ける。
【０１０８】
他方、頻度算出周期が到来すると（Ｓ２にてＹＥＳ）、特徴量分布算出部２１ａおよび特徴量分布算出部２１ｂは、それぞれ、処理をステップＳ３へ進める。
【０１０９】
特徴量分布算出部２１ａは、カメラ２ａのバッファから最新の書き込み位置を終端とする頻度算出時間幅の輝度信号を第一小領域ごとに読み出し、第一小領域ごとに特徴量の時間頻度を算出して第一特徴量分布を算出する（Ｓ３）。
【０１１０】
例えば、撮像周期を１／５００秒、頻度算出時間幅を１／５秒間、特徴量としての輝度値を０〜２５５の整数、第一小領域を画素とすれば、画素ごとに、１００個の輝度値から輝度値０，１，…，２５５の度数を計数して、計数結果のそれぞれを１００で除した正規化ヒストグラムを算出する。
【０１１１】
同様に、特徴量分布算出部２１ｂは、カメラ２ｂのバッファから最新の書き込み位置を終端とする頻度算出時間幅の輝度信号を第二小領域ごとに読み出し、第二小領域ごとに特徴量の時間頻度を算出して第二特徴量分布を算出する（Ｓ４）。
【０１１２】
ステップＳ３とＳ４は説明上、順序を付けて記載したが、各カメラにおいて同時並行で処理される。
【０１１３】
カメラ２ａは、算出した第一特徴量分布の集まりである第一分布画像を処理部４に出力する。同様に、カメラ２ｂは、算出した第二特徴量分布の集まりである第二分布画像を処理部４に出力する。
【０１１４】
なお、図６のフローチャートではカメラ２ａ及びカメラ２ｂと処理部４の処理を一連の処理として表現しているが、特徴量分布を出力したカメラ２ａ及びカメラ２ｂは処理部４によるステップＳ５〜Ｓ１２の処理終了を待たずに、ステップＳ１へ処理を戻してもよい。
【０１１５】
処理部４の対応指標値分布算出部２３は、入力された第一分布画像に設定されている第一小領域のそれぞれを順次、注目小領域に設定して（Ｓ５）、ステップＳ５〜Ｓ９のループ処理を行う。
【０１１６】
ループ処理において、対応指標値分布算出部２３は、まず、カメラパラメータ記憶部２２からカメラパラメータを読み出し、カメラパラメータを用いて注目小領域を第二分布画像上に射影することによって探索範囲を算出し、探索範囲内の第二小領域を注目小領域と対応する第二小領域の候補に設定する（Ｓ６）。
【０１１７】
続いて、対応指標値分布算出部２３は、注目小領域と、ステップＳ６にて設定した各候補との間で対応指標値分布を算出する（Ｓ７）。
【０１１８】
例えば、対応指標値分布算出部２３は、注目小領域である第一分布画像の画素と、当該画素に対応する画素の候補として設定された第二特徴量分布中の複数の画素ごとに式（１）を適用して輝度差分布を算出する。第一分布画像の画素ごとに、０〜２５５の輝度差それぞれの時間頻度からなる正規化ヒストグラム（輝度差分布）が候補の数だけ算出される。
【０１１９】
続いて、処理部４の対応領域認識部２４は、ステップＳ７で算出した対応指標値分布を基に、複数の候補の中から、注目小領域に対応する第二小領域を検出する（Ｓ８）。
【０１２０】
例えば、ステップＳ７で算出した輝度差分布それぞれのノルムを算出して閾値と比較し、閾値以下のノルムのうち最小のノルムが算出された第二小領域を検出する。
【０１２１】
そして、対応指標値分布算出部２３は、全ての第一小領域を処理し終えたか確認する（Ｓ９）。
【０１２２】
未処理の第一小領域があれば（ステップＳ９にてＮＯ）、対応指標値分布算出部２３は、処理をステップＳ５へ戻し、次の第一小領域を処理する。
【０１２３】
他方、全ての第一小領域を処理し終えていれば（ステップＳ９にてＹＥＳ）、処理部４の距離画像生成部２５が距離画像の生成を行う（Ｓ１０）。
【０１２４】
すなわち、距離画像生成部２５は、カメラパラメータ記憶部２２からカメラパラメータを読み出し、カメラパラメータを代入した式（３）に従い、第一分布画像の各第一小領域について、ステップＳ８にて当該第一小領域との対応関係が検出された第二小領域の、当該第一小領域に対するずらし量（視差）ｄｍｉｎをカメラ２ａからの距離Ｄに変換することによって距離画像を生成する。
【０１２５】
続いて、処理部４の通行者認識部２６は、ステップＳ１０にて生成された距離画像から通行者による差分領域を検出して、通行者数の計数と通行者位置の検出を行い（Ｓ１１）、計数した通行者数と検出した通行者位置（空間認識情報）を出力部５に出力する（Ｓ１２）。
【０１２６】
以上の処理を終えると処理はステップＳ１へ戻され、カメラ２ａ及びカメラ２ｂは次の特徴量分布の算出を行い、処理部４はカメラ２ａ及びカメラ２ｂからの特徴量分布の入力を待つ。
【０１２７】
［変形例］
上述した実施の形態においては、特徴量どうしの相違性を表す対応指標値として輝度差、すなわち特徴量どうしの差を用いる例を示した。別の実施形態においては、特徴量どうしの相違性を表す対応指標値として特徴量間の距離値を用いることもできる。この場合も、対応指標値分布算出部２３は、距離値ごとに、第一小領域の特徴量の時間頻度と第二小領域の特徴量の時間頻度の組み合わせのうち当該距離値が算出された組み合わせごとの時間頻度の積を総和して、当該距離値の時間頻度を算出することで距離値ごとの時間頻度を要素とする距離値分布を求める。また、対応領域認識部２４は、距離値分布のそれぞれについて距離値と時間頻度の積和値（ノルム）を算出し、複数の第二小領域うち積和値が所定値以下である第二小領域の中から第一小領域と対応する空間内の位置を計測した第二小領域を決定する。
【０１２８】
また別の実施の形態においては、特徴量どうしの類似性を表す対応指標値を用いることができる。この場合、対応指標値は類似度または相関値などとすることができる。例えば、上述した輝度差を２５５から減じた値は類似度の例である。この場合も、対応指標値分布算出部２３は、類似度（または相関値）ごとに、第一小領域の特徴量の時間頻度と第二小領域の特徴量の時間頻度の組み合わせのうち当該類似度（または相関値）が算出された組み合わせごとの時間頻度の積を総和して、当該類似度（または相関値）の時間頻度を算出することで類似度（または相関値）ごとの時間頻度を要素とする類似度分布（または相関値分布）を求める。また、対応領域認識部２４は、類似度分布（または相関値分布）のそれぞれについて類似度（または相関値）と時間頻度の積和値を算出し、複数の第二小領域うち積和値が所定値以上である第二小領域の中から第一小領域と対応する空間内の位置を計測した第二小領域を決定する。
【０１２９】
さらに、上述した実施の形態においては、予めカメラパラメータが設定されているカメラを用いて対応する小領域を認識する例を示したが、カメラパラメータを算出するために対応する小領域を認識する処理（いわゆるキャリブレーション）に適用することも可能である。その場合、例えば、特徴量分布算出部２１ａ、２１ｂは上記と同様に第一特徴量分布、第二特徴量分布を算出し、処理部４は利用者からの設定入力を受け付ける或いは特徴点の自動検出処理などによって第一小領域と第二小領域の対応関係を複数通り初期設定する。対応指標値分布算出部２３は、初期値が設定された第一小領域ごとに、当該第一小領域との対応関係の初期設定された第二小領域とその近傍の第二小領域を候補として対応指標値分布を算出し、対応領域認識部２４は、複数の候補の中から各第一小領域と対応する第二小領域を認識する。そして、処理部４は、対応領域認識部２４が対応関係を認識した第一小領域と第二小領域の座標にホモグラフィ行列を用いた方法など公知のキャリブレーション法を適用してカメラパラメータを算出する。
【０１３０】
ところで、上述した実施形態および各変形例において、特徴量分布算出部２１は、処理部４内で実現してもよい。その場合、撮像部２は、撮像周期ごとに輝度値を並べた撮像画像を処理部４に出力する。処理部４は、特徴量分布算出部２１として動作し、撮像部２からの撮像画像を記憶部３にバッファリングして頻度算出周期ごとに特徴量分布を生成する。
【０１３１】
上述した実施の形態および各変形例では、計測部が監視空間の可視光線の強度に応じた振幅を有する輝度信号を出力する構成としているが、これに限定されるものではない。
【０１３２】
例えば、計測部が監視空間の近赤外線の強度に応じた振幅を有する輝度信号を出力する構成、計測部が監視空間の赤外線の強度に応じた振幅を有する輝度信号を出力する構成、計測部が監視空間の紫外線の強度に応じた振幅を有する輝度信号を出力する構成、計測部が監視空間のＸ線の強度に応じた振幅を有する輝度信号を出力する構成、計測部としての距離センサが当該計測部から監視空間に存在する物体までの距離に応じた振幅を有する距離信号を出力する構成など、計測部が空間の所定物理量を計測して計測信号を出力する構成であってもよい。なお、上記距離センサは、例えば、レーザー光を投受光する方式、マイクロ波またはミリ波などの電磁波を送受信する方式、超音波を送受信する方式などが考えられる。
【０１３３】
以上、本発明に係る空間認識装置の最良の形態について説明したが、この形態による記述及び図面により本発明が限定されることはない。すなわち、この形態に基づいて当業者等によりなされる他の形態、実施例及び運用技術などはすべて本発明の範疇に含まれることは勿論である。
【符号の説明】
【０１３４】
１  空間認識装置
２  撮像部
２ａ，２ｂ  カメラ
３  記憶部
４  処理部
５  出力部
２０ａ（２０ａ−１，２０ａ−２，…，２０ａ−Ｎ），２０ｂ（２０ｂ−１，２０ｂ−２，…，２０ｂ−Ｎ）  光電変換部
２１ａ，２１ｂ  特徴量分布算出部
２２  カメラパラメータ記憶部
２３  対応指標値分布算出部
２４  対応領域認識部
２５  距離画像生成部
２６  通行者認識部
【図１】
0006332703.tif 000004
【図２】
0006332703.tif 000005
【図３】
0006332703.tif 000006
【図４】
0006332703.tif 000007
【図５】
0006332703.tif 000008
【図６】
0006332703.tif 000009