(57)【特許請求の範囲】
【請求項１】
空間内の物体の像を抽出し、この物体の像の画像情報を処理して物体の高さを計測し、この物体の移動を追跡するに当たり、
この物体の像を、前景及び背景を含めてステレオ撮像して第１及び第２の画像信号を得る画像信号形成工程と、
これら第１及び第２の画像信号から物体の実際の高さを求める第１高さ演算工程と、
この第１高さ演算工程後所定の時間遅延させる遅延工程と、
この遅延工程後物体の実際の高さを求める第２高さ演算工程と、
前記第１高さ演算工程で求めた高さと前記第２高さ演算工程で求めた高さとを比較し、これらの高さの差の絶対値が所定の値以内であれば同一の物体であると判断する物体追跡判断工程とを具え、
前記第１高さ算出工程及び第２高さ算出工程はそれぞれ、
前記第１及び第２の画像信号からそれぞれエッジ画像信号を抽出して第１及び第２のエッジ画像信号を得るエッジ画像信号形成工程と、
これら第１及び第２のエッジ画像信号から、前記物体の互いに対応する点が一致するまでシフト量を求め、このシフト量に基づいて物体撮像位置から前記物体までの距離を演算により求める距離演算工程と、
画面上における仮想無限遠点での壁と床の境界線の画面上端からの距離を、床位置として設定する床位置設定工程と、
前記物体の像の頂点位置座標を求める頂点位置座標算出工程と、
前記物体撮像位置から前記仮想無限遠点までの距離及び撮像位置の高さから、前記仮想無限遠点から前記物体撮像位置への仰角を求める仰角演算工程と、
前記物体撮像位置から前記仮想無限遠点までの距離と前記物体撮像位置から前記物体までの距離との差の正接を、前記仰角を用いて求める正接演算工程と、
この正接を画面上の正接に変換する正接変換工程と、前記頂点位置座標、前記床位置及び前記画面上の正接から画面上の前記物体の高さを算出する高さ算出工程と、
前記画面上の物体の高さを物体の実際の高さに変換する高さ変換工程とを具えることを特徴とするステレオ画像による物体の移動追跡方法。
【請求項２】
前記正接演算工程で正接を求めるに当たり、前記仰角にレンズ歪み補正係数を乗算したものを用いることを特徴とする請求項１記載のステレオ画像による物体の移動追跡方法。
【請求項３】
空間内の複数の物体の像を像ごとに抽出することを特徴とする請求項１又は２記載のステレオ画像による物体の移動追跡方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は画像処理技術、特に空間内の特定の距離範囲にある物体の像を抽出して、その物体の高さを計測し、その物体の移動を追跡するステレオ画像による物体の移動追跡方法に関するものである。
【０００２】
【従来の技術】
テレビジョン画像に表示された物体が人物である場合、時間の経過に伴い通常移動する。かかる場合、物体の正確な位置及び軌跡を知るためには物体の移動を追跡する必要がある。
【０００３】
【発明が解決しようとする課題】
しかしながら、奥行きのある物体の高さを計測するためにステレオビデオカメラを用いて計測する場合には、ステレオ画像の対応点を求めてこれらを距離情報として変換するには、複雑かつ処理時間が長いという不都合がある。したがって、物体の移動の追跡も複雑かつ処理時間が長くなる。
【０００４】
本発明の目的は、簡単かつ短い処理時間で物体の移動を追跡することができるステレオ画像による物体の移動追跡方法を提供することである。
【０００５】
【課題を解決するための手段】
本発明によるステレオ画像による物体の移動追跡方法は、
空間内の物体の像を抽出し、この物体の像の画像情報を処理して物体の高さを計測し、この物体の移動を追跡するに当たり、
この物体の像を、前景及び背景を含めてステレオ撮像して第１及び第２の画像信号を得る画像信号形成工程と、
これら第１及び第２の画像信号から物体の実際の高さを求める第１高さ演算工程と、
この第１高さ演算工程後所定の時間遅延させる遅延工程と、
この遅延工程後物体の実際の高さを求める第２高さ演算工程と、
前記第１高さ演算工程で求めた高さと前記第２高さ演算工程で求めた高さとを比較し、これらの高さの差の絶対値が所定の値以内であれば同一の物体であると判断する物体追跡判断工程とを具え、
前記第１高さ算出工程及び第２高さ算出工程はそれぞれ、
前記第１及び第２の画像信号からそれぞれエッジ画像信号を抽出して第１及び第２のエッジ画像信号を得るエッジ画像信号形成工程と、
これら第１及び第２のエッジ画像信号から、前記物体の互いに対応する点が一致するまでシフト量を求め、このシフト量に基づいて物体撮像位置から前記物体までの距離を演算により求める距離演算工程と、
画面上における仮想無限遠点での壁と床の境界線の画面上端からの距離を、床位置として設定する床位置設定工程と、
前記物体の像の頂点位置座標を求める頂点位置座標算出工程と、
前記物体撮像位置から前記仮想無限遠点までの距離及び撮像位置の高さから、前記仮想無限遠点から前記物体撮像位置への仰角を求める仰角演算工程と、
前記物体撮像位置から前記仮想無限遠点までの距離と前記物体撮像位置から前記物体までの距離との差の正接を、前記仰角を用いて求める正接演算工程と、
この正接を画面上の正接に変換する正接変換工程と、前記頂点位置座標、前記床位置及び前記画面上の正接から画面上の前記物体の高さを算出する高さ算出工程と、
前記画面上の物体の高さを物体の実際の高さに変換する高さ変換工程とを具えることを特徴とするものである。
【０００６】
物体の高さは空間中の位置に関係なく一定である。本発明はこの性質を利用するものであり、第１高さ演算工程により求めた物体の高さ情報をその物体の固有の情報とし、この高さ情報と第２高さ演算工程において求めた物体の高さとを比較し、これらの高さの差の絶対値が所定の値以内であれば同一の物体であると判断することにより、物体がどの位置に存在してもこの物体を追跡することができるようにする。したがって、物体の画面中の移動軌跡を簡単かつ短い処理時間で得ることができる。
【０００７】
この場合、画像全体の距離情報を求めるのではなく、物体の像の頂点位置座標、床位置座標及び画面上の正接から画面上の物体の高さを算出し、この高さを物体の実際の高さに変換しているので、簡単かつ短い処理時間で物体の高さを計測することができる。
【０００８】
好適には、前記正接演算工程で正接を求めるに当たり、前記仰角にレンズ歪み補正係数を乗算したものを用いる。このようにレンズ歪みを考慮することにより、特定物体が画面の左右端に存在する場合の物体の高さの計測誤差を減少できる。
【０００９】
さらに好適には、空間内の複数の物体の像を像ごとに抽出する。これにより、複数の物体の高さを一度の撮像で計測することができる。
【００１０】
【発明の実施の形態】
本発明によるステレオ画像による物体の移動追跡方法の実施の形態を図面を参照して詳細に説明する。なお、以下の実施例において同一部材には同一符号を付すものとする。
図１は、本発明のステレオ画像による物体の移動追跡方法を実施する装置の構成を示すブロック図である。この装置は、ステレオ画像を撮像するステレオ画像撮像部１と、このステレオ画像撮像部１からの画像信号に基づいて特定物体を抽出する特定物体抽出部２と、この特定物体抽出部２により抽出された特定物体の奥行き距離を計測する奥行き距離計測部３と、この特定物体の高さを計測する特定物体高計測部４と、物体の移動を追跡する物体移動追跡部５とを具える。
【００１１】
本例では、ステレオ画像撮像部１は、２台のテレビカメラ６及び７を設け、テレビカメラ６を基準としてその光軸を固定し、テレビカメラ７の光軸を、基準のカメラ６の光軸に対する角度を調整できるようにしたもの、として構成するが、１台のテレビカメラを水平方向に移動させて２回撮像するものや一つのレンズ系の前面にプリズムを配置し、２分割された画像を別個の撮像面へ導くようにしたものなども使用できる。
【００１２】
一般に、２台のテレビカメラを用いる場合には、視差を大きく取ることができるので奥行き分解能を高くすることができるが、左右の画像の間で光学歪みなどに差異が生じるおそれがある。また、１台のテレビカメラとプリズムを用いるものでは、視差を大きく取ることができないので、奥行き分解能を高くすることには向いていないが、光学系が一つであるため、左右の光学像にばらつきがなく、特定距離範囲内のエッジを抽出するための水平方向のシフト操作に求められる前提条件に適合したものであるとともに廉価である。
【００１３】
ここで、画像信号を水平方向にシフトして一致する部分を抽出する前提条件として、被写体を光学的に同じ状態で撮像することが必要となる。背景が有限の距離にあるほぼ平面の場合には、この背景を２台のテレビカメラで撮像した場合ほぼ同一の画像が得られるように撮像する必要がある。したがって、同一のテレビカメラを２台使用する場合には、これらテレビカメラの光軸を互いに平行にすることが求められ、使用する撮影レンズが広角レンズの場合には特にこのことが必要となる。
【００１４】
特定物体抽出部２では、ステレオ画像撮像部１からステレオ画像を抽出した後、この画像から対象となる物体（例えば人物）を抽出する処理を行う。抽出方法は、対象となる物体が動いている場合と、静止している場合とで変わってくる。対象となる物体が動いている場合、例えば時間的に異なる２画像の画像間の差分を求めることで物体が動いた領域を特定することができ、この領域を特定物体（例えば人物頭部）として抽出する。それに対して対象となる物体が静止している場合、対象となる物体が画像として予め登録されているときにはその登録画像が現在の画像中にあるか否か探すことにより特定物体を抽出したり、ステレオ画像を用いた画像処理方法を行ったりすることにより抽出する。また、対象となる物体が複数存在する場合でも、抽出処理を複数回行うことにより空間内の複数の物体の像を各像ごとに抽出することができる。
【００１５】
奥行き距離計測部３は、物体のステレオ画像でこれらの位置がどれだけ離れているかにより特定物体（例えば人物頭部）の奥行きを算出する。特定物体のステレオ画像におけるそれぞれの位置関係は、図２に示すカメラ配置の場合、特定物体が仮想無限遠点上にあるときにはステレオ画像でいずれも物体は画像の同一位置に存在する。ここで仮想無限遠点とは、二つの画像の中心に対応する光軸が被写体で交差する位置をいう。
【００１６】
しかしながら、特定物体がテレビカメラ６及び７（図２）の手前方向に移動するとカメラ視差により、ステレオ画像においてこの視差に応じた分物体は離れていく。このことを原理として、このステレオ画像において特定物体の存在する位置が離れている距離（シフト量）を、カメラの設置条件から実際の奥行き距離に変換することができる。
【００１７】
図３は３次元空間の特定物体の位置関係を示す側面図であり、図４は２次元画面上の特定物体の位置関係を示す図である。なお、図４において、左上角部を原点とし、水平方向にｘ座標を取り、垂直方向にｙ座標を取る。ｘ座標は図４において右方向に進むに従って増大するものとし、ｙ座標は図４において下方向に進むに従って増大するものとする。
【００１８】
特定物体高計測部４（図１）は、特定物体８（図３）の身長すなわち高さＨdvを算出するに当たり、画面上における仮想無限遠点での床位置ｙ＝ｂmax 及び画面上の特定物体９（図４）の頂部座標ｔｄ（これらの値はいずれも初期値である）と、特定物体８（図３）の奥行き距離Ｄh における画面上の床位置の補正バイアス値ｂbiasとから画面上の特定物体９（図４）の高さｈdvを求め、この高さｈdvを算出身長の実寸である特定物体８の高さＨdvに変換する。
【００１９】
物体移動追跡部５（図１）は、特定物体高計測部４（図１）により計測された特定物体８の高さＨdvと、所定の時間遅延後に算出した特定物体の高さとを比較し、これらの高さの差の絶対値が所定の値以内であれば同一物体として判断し、追跡する。
【００２０】
本例の動作を説明する。
図５は本発明によるステレオ画像による物体の移動追跡方法を実施するフローチャートである。本ルーチンでは先ず、ステップＳ１において、空間中に抽出すべき特定物体が存在するか否か判断する。存在すると判断すると次に説明するステップＳ２に進み、そうでない場合には後に説明するステップＳ９に進む。
【００２１】
ステップＳ２において、特定物体の高さＨｄｖ１を設定する。この場合、空間中に複数の特定物体が存在する場合には、像ごとに高さＨｄｖ１を設定する。こられの高さＨｄｖ１は、本ルーチンにおいて最初に計測する場合には後に説明する図６のフローチャートに従って計測し、２回目以降については後に説明するステップＳ５で算出した特定物体の高さＨｄｖ２を高さＨｄｖ１として用いる。
【００２２】
次いでステップＳ３に進み、装置に内蔵されたタイマ（図示せず）を用いて所定時間遅延させる。なお、遅延中、空間中の特定物体の出入りを、本例では平成７年１０月１９日に本出願人により出願された「入退室監視装置」を使用して判断する。また、この「入退室監視装置」を使用して出入りした物体の身長を判別することにより特定物体を識別することができ、空間中の特定物体の出入りがない場合には、このような「入退室監視装置」を必要としない。
【００２３】
次いでステップＳ４に進み、高さを算出すべき特定物体が存在するか否か判断する。存在するすなわち空間中の特定物体の出入りがない場合又は空間中の特定物体の出入りがあったが空間中に特定物体がまだ存在すると判断すると次に説明するステップＳ５に進む。そうでない場合すなわち特定物体が空間から全て出ていった場合には後に説明するステップＳ１０に進む。
【００２４】
ステップＳ５において、算出すべき特定物体のうちの一つの高さＨｄｖ２を算出し、次いで、ステップＳ２で設定した高さＨｄｖ１のうちの一つとの差の絶対値｜Ｈｄｖ１−Ｈｄｖ２｜を算出する（ステップＳ６）。
【００２５】
次いでステップＳ７において、ステップＳ６で求めた差分値｜Ｈｄｖ１−Ｈｄｖ２｜が閾値Ａ以上であるか否か判断する。閾値Ａ以上でない場合には、ステップＳ６で選択した高さＨｄｖ１を有する特定物体と算出した高さＨｄｖ２を有する特定物体とが同一であると判断し、高さＨｄｖ１を高さＨｄｖ２に更新し（ステップＳ８）、ステップＳ４に戻る。
【００２６】
閾値Ａ以上である場合には、ステップＳ６で選択した高さＨｄｖ１を有する特定物体と算出した高さＨｄｖ２を有する特定物体とが相違すると判断し、ステップＳ２で設定した高さＨｄｖ１のうちの他のものとの差の絶対値｜Ｈｄｖ１−Ｈｄｖ２｜を算出するために、ステップＳ２で設定した高さＨｄｖ１が他に存在するか否かをステップＳ９で判断する。存在すると判断した場合にはステップＳ６に戻り、それに対して存在しないと判断した場合には算出した高さＨｄｖ２を有する特定物体は、ステップＳ３の遅延中に入退室した特定物体であると判断し、ステップＳ８において、算出した特定物体の高さＨｄｖ２を高さＨｄｖ１とし、ステップＳ４に戻る。
【００２７】
ステップＳ１又はステップＳ４からステップＳ１０に進むと、本ルーチンを継続するか否かを判断する。継続すると判断した場合にはステップＳ３に戻り、それに対して継続しないと判断した場合には本ルーチンを終了する。この判断は、高さＨｄｖ１を所定の回数更新した場合に終了すると判断してもよく、また、電源をオフにした場合に終了するようにしてもよい。
【００２８】
図６はステレオ画像による物体の高さ計測を行うフローチャートである。本ルーチンでは先ず、ステップＳ１１において、ステレオ画像をステレオ画像撮像部１（図１）により撮像する。次いで、ステップＳ１２において、ステレオ画像撮像部１（図１）からの画像信号に基づいて、特定物体抽出部２（図１）が特定物体９（図４）を抽出する。ステップＳ１２では、特定物体８，９（図３及び４）が複数存在する場合（本例では一つ）には像ごとに抽出を行う。
【００２９】
次いで、ステップＳ１３において、特定物体抽出部２（図１）により抽出された特定物体８（図３）の奥行き距離Ｄh を奥行き距離計測部３（図１）により計測する。ステップＳ１３でも、特定物体８，９（図３及び４）が複数存在する場合（本例では一つ）には像ごとに奥行き距離Ｄh を計測する。
【００３０】
次いで、ステップＳ１４において、特定物体８（図３）の高さＨdvを算出する際の初期条件を設定する。この初期条件として先ず、カメラ６及び７（図３）の位置から仮想無限遠点までの水平距離Ｄmaxにおける画像上の床ラインを、ｙ＝ｂmaxで設定する。本例では設定したｂmaxは画面上で一致するものとする。レンズ歪みを考慮する場合には、画像上の床ラインをｙ＝ｆ（ｘ）なる曲線とし、画面上で歪んだ床に一致させることにより、特定物体が画面の左右端に存在するときの高さの計測誤差を減少させることができる。
【００３１】
またステップＳ１４では、上記初期条件として、特定物体８，９（図３及び４）の頭頂座標ｔｄ、奥行き距離Ｄh 及びカメラ設置高さＨcamvをそれぞれ設定する。頭頂座標ｔｄ及び奥行き距離Ｄh は、ステップＳ１２において特定物体９（図４）を抽出する際に既知であり、カメラ設置高さＨcamvはカメラ設定時に既知である。
なお、特定物体８，９（図３及び４）が複数存在する場合には、これらに対応する頭頂座標ｔｄ及び奥行き距離Ｄh をそれぞれ設定する。
【００３２】
次いで、ステップＳ１５において、奥行き距離Ｄh における計算上の画面上の補正バイアス値ｂbiasを算出する。補正バイアス値ｂbiasを算出するに当たり、先ず、仮想無限遠点からカメラ６，７（図３）への仰角θdmaxを
【数１】
θdmax＝tan-1（Ｈcamv／Ｄmax）  〔°〕
により算出する。
【００３３】
次いで、奥行き距離Ｄh における床位置補正バイアスＢbiasを
【数２】
Ｂbias＝（Ｄmax−Ｄh）・tan（θdmax・γ）
により算出する。ここで、γをレンズ歪み補正係数とし、補正がないときはγ＝１とする。
【００３４】
次いで、奥行き距離Ｄh における計算上の画面上の補正バイアス値ｂbiasを
【数３】
ｂbias＝（Ｂbias・ｄccd）／（Ｄh・Δｃｃｄｖ）  〔ｄｏｔ〕
により算出する。ここでｄccdを、レンズ焦点からＣＣＤ撮像面までの距離を表し、Δｃｃｄｖを、ＣＣＤ撮像素子の１画素当たりの垂直方向の長さとし、これらについては後に説明する。
【００３５】
図７は特定物体の実寸長とＣＣＤ撮像部における長さとの関係図であり、図８はＣＣＤ撮像面における水平及び垂直画素サイズを示す図である。ＣＣＤ撮像素子の１画素当たりの垂直方向の長さであるΔｃｃｄｖを求めるに当たり、ＣＣＤ面の垂直長Ｄccdvを、
【数４】
Ｄccdv＝（Ｄccdsize・Ｄccdvdot）／（Ｄccdvdot2＋Ｄccdhdot2）1/2
により算出する。ただし、Ｄccdsize をＣＣＤ面の対角寸法とし、本例では１／３インチ＝（１／３）・０．０２５４〔ｍ〕である。また、Ｄccdhdot 及びＤccdvdot をそれぞれＣＣＤ撮像板の水平方向及び垂直方向の画素数〔ｄｏｔ〕とする。したがって、ＣＣＤ撮像素子の１画素当たりの垂直方向の長さΔｃｃｄｖは、
【数５】
Δｃｃｄｖ＝Ｄccdv／Ｄccdvdot  〔ｍ〕
から求めることができる。
【００３６】
次いで、ステップＳ１６において、画面上での特定物体９（図４）の高さｈdvを
【数６】
ｈdv＝（ｂmax＋ｂbias）−ｔｄ  〔ｄｏｔ〕
から求める。
【００３７】
次いで、ステップＳ１７において、特定物体８（図３）の高さＨdvを求める。特定物体８（図３）の高さＨdvを求めるに当たり、先ず、ＣＣＤ面上の特定物体の高さｈd2vを
【数７】
ｈd2v＝ｈdv・Δｃｃｄｖ  〔ｍ〕
から求める。ここで、レンズ焦点とＣＣＤ面との間の距離をｄccd とすると、特定物体８（図３）の高さＨdvとＣＣＤ面上の特定物体の高さｈd2v との間には、
【数８】
Ｈdv：ｈd2v＝Ｄh ：ｄccd
の関係があるので、特定物体８（図３）の高さＨdvは、
【数９】
Ｈdv＝（ｈd2v・Ｄh）／ｄccd
となる。
【００３８】
次いで、ステップＳ１８において、ステップＳ１２で抽出した物体がまだ存在するか否か判断する。存在すると判断した場合にはステップＳ１５に戻り、それに対して存在しないと判断した場合には本ルーチンを終了する。
なお、ステップＳ１４〜Ｓ１８は特定物体高計測部４（図１）によって行われる。
【００３９】
以上説明したように、本例では、画面上の特定物体の頂部座標ｔｄ、画面上における仮想無限遠点での床位置ｙ＝ｂmax 及び仮想無限遠点からカメラへの仰角θdmaxから画面上の特定物体９（図４）の高さｈdvを算出し、これを実際の特定物体８（図３）の高さＨdvに変換しているので、簡単かつ短い処理時間で物体の高さを計測することができる。また、レンズ歪みを考慮しているので、特定物体が画面の左右端に存在する場合の物体の高さの計測誤差を減少できる。さらに、空間内の複数の物体の像を像ごとに抽出するために、複数の物体の高さを一度の撮像で計測することができる。
【００４０】
本発明は上記実施例に限定されるものではなく、幾多の変更及び変形が可能である。対応するエッジ画像を水平方向にシフトして基準エッジ画像と比較する場合、水平方向に延在するエッジが画像中に存在すると広い範囲で一致が検出され、エラーとなるおそれがある。一般に室内では水平なエッジが多く含まれるのでその影響が比較的大きくなる。このような場合には、テレビカメラを光軸回りに９０°回転させて物体を撮像すると、水平なエッジ成分が減少し、したがってエラーを低減することができる。
【００４１】
また、空間中の特定物体が人物である場合には、人物の起立時の高さだみだけでなく椅子等の着座時の高さを考慮して判断することにより誤判断を低減することができる。
【図面の簡単な説明】
【図１】本発明のステレオ画像による物体の高さ測定方法を実施する装置の構成を示すブロック図である。
【図２】ステレオビデオカメラの一例を示す図である。
【図３】３次元空間の特定物体の位置関係を示す側面図である。
【図４】２次元画面上の特定物体の位置関係を示す図である。
【図５】本発明のステレオ画像による物体の移動追跡方法を実施するフローチャートである。
【図６】ステレオ画像による物体の高さを計測するフローチャートである。
【図７】特定物体の実寸長とＣＣＤ撮像部における長さとの関係図である。
【図８】ＣＣＤ撮像面における水平及び垂直画素サイズを示す図である。
【符号の説明】
１  ステレオ画像撮像部
２  特定物体抽出部
３  奥行き距離計測部
４  特定物体高計測部
５  物体移動追跡部
６，７  テレビカメラ
８，９  特定物体
Ｂbias  奥行き距離における床位置補正バイアス
ｂbias  画面上の床位置の補正バイアス
Ｄh  特定物体の奥行き距離
Ｄccdh  ＣＣＤ面の水平長
Ｄccdv  ＣＣＤ面の垂直長
Ｄccdsise  ＣＣＤ面の対角寸法
Ｄccdhdot  ＣＣＤ撮像板水平画素数
Ｄccdvdot  ＣＣＤ撮像板垂直画素数
Ｄmax  カメラから仮想無限遠点までの水平距離
ｄccd  レンズ焦点とＣＣＤ面との間の距離
Ｈcamv  カメラ設置高さ
Ｈdv  特定物体の実際の高さ
ｈdv  画面上の特定物体の高さ
ｈd2v  ＣＣＤ面上の特定物体の高さ
ｔｄ  画面上の特定物体の頂部座標
ｙ＝ｂmax  画面上における仮想無限遠点での床位置
θcamv  カメラの垂直視野の範囲
θdmax  仮想無限遠点からカメラへの仰角
Δccdv  ＣＣＤの１画素当たりの垂直方向の長さ
【図１】
0003631541.tif 000002
【図２】
0003631541.tif 000003
【図３】
0003631541.tif 000004
【図４】
0003631541.tif 000005
【図５】
0003631541.tif 000006
【図６】
0003631541.tif 000007
【図７】
0003631541.tif 000008
【図８】
0003631541.tif 000009