(57)【要約】【課題】対象空間の同方向に関する濃淡画像と距離画像とをほぼ同時刻に得られるようにして対象空間に関する濃淡画像と距離画像とを併用可能とした画像処理装置を提供する。【解決手段】発光源１は、強度が周期的に変化する強度変調光を対象空間に照射する。光検出素子１は、受光光量に応じた電気出力を発生する複数個の感光部１１が配列され対象空間を撮像する。画像生成部４は、発光源２から対象空間に照射された光が対象空間内の対象物で反射され各感光部１１で受光されるまでの強度変調光の位相差を対象物Ｏｂまでの距離に換算することにより画素値が距離値である距離画像を生成するとともに各感光部１１の受光光量である濃淡値を画素値とする濃淡画像を生成する。【選択図】        図１
2006046959.tif 000002
【特許請求の範囲】
【請求項１】
強度が周期的に変化する強度変調光を対象空間に照射する発光源と、受光光量に応じた電気出力を発生する複数個の感光部が配列され対象空間を撮像する光検出素子と、発光源から対象空間に照射された光が対象空間内の対象物で反射され各感光部で受光されるまでの強度変調光の位相差を対象物までの距離に換算することにより画素値が距離値である距離画像と各感光部の受光光量である濃淡値を画素値とする濃淡画像とを同じ感光部の受光光量からそれぞれ生成する画像生成部とを備えることを特徴とする画像処理装置。
【請求項２】
前記濃淡画像の濃淡値から求められる各画素の微分強度値である濃淡微分値を画素値とする濃淡微分画像を生成するとともに前記距離画像の距離値から求められる各画素の微分強度値である距離微分値を画素値とする距離微分画像を生成する微分処理部と、濃淡微分値と距離微分値とを併せて用いることにより対象物の輪郭を抽出する輪郭抽出部とを備えることを特徴とする請求項１記載の画像処理装置。
【請求項３】
前記輪郭抽出部は、前記濃淡微分画像において濃淡微分値が極大になる領域と前記距離微分画像において距離微分値が極大になる領域との両方を対象物の輪郭として抽出することを特徴とする請求項２記載の画像処理装置。
【請求項４】
前記輪郭抽出部は、前記濃淡微分画像において濃淡微分値が極大になる領域と前記距離微分画像において距離微分値が極大になる領域とが一致している領域を対象物の輪郭として抽出することを特徴とする請求項２記載の画像処理装置。
【請求項５】
前記輪郭抽出部は、前記濃淡微分画像において濃淡微分値を適宜の閾値で２値化するとともに前記距離微分画像において距離微分値を適宜の閾値で２値化し、濃淡微分値と距離微分値との一方において閾値以上となる領域を対象物の輪郭として抽出することを特徴とする請求項２記載の画像処理装置。
【請求項６】
前記輪郭抽出部は、前記濃淡微分画像において濃淡微分値を適宜の閾値で２値化するとともに前記距離微分画像において距離微分値を適宜の閾値で２値化し、濃淡微分値と距離微分値との両方において閾値以上となる領域を対象物の輪郭として抽出することを特徴とする請求項２記載の画像処理装置。
【請求項７】
前記輪郭抽出部は、前記濃淡微分画像における濃淡微分値と前記距離微分画像における距離微分値とに重みを掛けたものの和を各画素ごとに加重和として求め、加重和が規定の閾値以上の領域を輪郭として抽出することを特徴とする請求項２記載の画像処理装置。
【請求項８】
前記画像生成部は、時間の経過とともに対象空間を撮像した前記光検出素子の出力により濃淡画像を時系列で生成する構成であって、前記濃淡画像の濃淡値から求められる各画素の微分強度値である濃淡微分値を画素値とする濃淡微分画像を生成する微分処理部と、微分処理部により求めた濃淡微分値と距離値とを併せて用いることにより対象物を抽出する対象物判定部とを備えることを特徴とする請求項１記載の画像処理装置。
【請求項９】
前記対象物判定部は、異なる時刻で得られた２枚の濃淡画像から生成した２枚の濃淡微分画像の差分である差分画像を生成し、差分画像において画素値が規定の閾値以上になる領域を抽出し、抽出した領域に対応する距離画像の画素値の代表値が規定の範囲内であるときに当該領域を対象物として抽出することを特徴とする請求項８記載の画像処理装置。
【請求項１０】
前記対象物判定部は、異なる時刻で得られた３枚以上の濃淡画像から生成した３枚以上の濃淡微分画像について２枚ずつの差分である差分画像を生成し、複数枚の差分画像の画素値を規定の閾値と比較することにより複数枚の２値画像を生成するとともに各２値画像における同位置の画素値を組み合わせる論理演算により着目する時刻における移動する対象物の領域を抽出し、抽出した領域に対応する距離画像の画素値の代表値が規定の範囲内であるときに当該領域を対象物として抽出することを特徴とする請求項８記載の画像処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、対象空間を撮像した画像を用いて対象空間に関する情報を抽出する画像処理装置に関するものである。
【背景技術】
【０００２】
従来から、対象空間を撮像した画像を用いて対象空間を監視したり対象空間内の対象物の外観を抽出したりする技術が種々提案されている（たとえば、特許文献１参照）。しかしながら、対象空間を撮像して得られる画像は一般に濃淡画像であって、対象空間内の明暗に関する情報しか得られていない。
【０００３】
一方、対象空間内の対象物までの距離を計測する種々の距離センサが提案されており、距離センサを用いることによって対象空間の各方向における対象物までの距離を画素値として持つ距離画像を生成する技術も知られている（たとえば、特許文献２参照）。
【特許文献１】特開平１１−２８４９９７号公報
【特許文献２】特開平９−２５７４１８号公報
【発明の開示】
【発明が解決しようとする課題】
【０００４】
上述した濃淡画像はＣＣＤイメージセンサなどを用いた一般的なＴＶカメラで得ることができるが、距離画像はＰＳＤのような位置検出素子を用い三角測量法の原理により距離を測定することにより生成するものがほとんどである。したがって、対象空間に関する情報量を増やすために、濃淡画像と距離画像との両方を用いようとすると２種類のセンサが必要になり、占有スペースが大きくなるとともに高コストになるという問題が生じる。
【０００５】
また、濃淡画像と距離画像との両方を生成しようとすれば、異なる位置から対象空間の情報を抽出することになるから、濃淡の情報と距離の情報との位置を合わせる処理に手間がかかることになる。しかも、三角測量法の原理によって距離を測定する装置は、一般に発光源からの光を対象空間で走査しているから、濃淡画像が得られる時刻と距離画像が得られる時刻との間には比較的大きい時間差が生じ、対象空間内の対象物が移動しているような場合には、濃淡画像と距離画像との情報を対応付けることが困難になる。
【０００６】
本発明は上記事由に鑑みて為されたものであり、その目的は、対象空間の同方向に関する濃淡画像と距離画像とをほぼ同時刻に得られるようにして対象空間に関する濃淡画像と距離画像とを併用可能とした画像処理装置を提供することにある。
【課題を解決するための手段】
【０００７】
請求項１の発明は、強度が周期的に変化する強度変調光を対象空間に照射する発光源と、受光光量に応じた電気出力を発生する複数個の感光部が配列され対象空間を撮像する光検出素子と、発光源から対象空間に照射された光が対象空間内の対象物で反射され各感光部で受光されるまでの強度変調光の位相差を対象物までの距離に換算することにより画素値が距離値である距離画像と各感光部の受光光量である濃淡値を画素値とする濃淡画像とを同じ感光部の受光光量からそれぞれ生成する画像生成部とを備えることを特徴とする。
【０００８】
この構成によれば、光検出素子に設けた各感光部での受光光量に応じた電気出力からそれぞれ対象空間の濃淡値と距離値とを求めるから、ほぼ同時刻の濃淡画像と距離画像とを得ることができ、しかも濃淡画像と距離画像との各画素は対象空間の同じ方向の情報を持つから、濃淡画像と距離画像とから得られる情報を併せて用いることにより、濃淡画像のみを用いる場合よりも対象空間に関して多くの情報を得ることができる。たとえば、濃淡画像をディスプレイ装置の画面上に表示しておき、画面内で所望の領域を指定することにより、指定した領域における対象物までの距離を表示する装置を構成することが可能になる。
【０００９】
請求項２の発明では、請求項１の発明において、前記濃淡画像の濃淡値から求められる各画素の微分強度値である濃淡微分値を画素値とする濃淡微分画像を生成するとともに前記距離画像の距離値から求められる各画素の微分強度値である距離微分値を画素値とする距離微分画像を生成する微分処理部と、濃淡微分値と距離微分値とを併せて用いることにより対象物の輪郭を抽出する輪郭抽出部とを備えることを特徴とする。
【００１０】
この構成によれば、濃淡画像から得られる濃淡微分値と距離画像から得られる距離微分値とを併用して対象物の輪郭を抽出することにより、濃淡画像のみを用いて対象物の輪郭を抽出する場合に比較すると、輪郭を抽出しやすくしたり、輪郭以外のノイズを除去したりすることが容易になる。
【００１１】
請求項３の発明では、請求項２の発明において、前記輪郭抽出部は、前記濃淡微分画像において濃淡微分値が極大になる領域と前記距離微分画像において距離微分値が極大になる領域との両方を対象物の輪郭として抽出することを特徴とする。
【００１２】
この構成によれば、濃淡微分値と距離微分値との一方が極大である領域を輪郭として抽出するから、濃度値または距離値の変化率が大きい部位を輪郭として抽出することで、段差や反射率の差異による明暗差の大きい領域と、段差のある部位のような距離変化の大きい領域とを輪郭として抽出することになり、輪郭を抽出する感度を高めることができる。
【００１３】
請求項４の発明では、請求項２の発明において、前記輪郭抽出部は、前記濃淡微分画像において濃淡微分値が極大になる領域と前記距離微分画像において距離微分値が極大になる領域とが一致している領域を対象物の輪郭として抽出することを特徴とする。
【００１４】
この構成によれば、濃淡微分値と距離微分値との両方が極大である領域を輪郭として抽出するから、濃度値と距離値との両方の変化率が大きい部位を輪郭として抽出することで、明暗差が大きくかつ距離変化の大きい段差のような領域のみを輪郭として抽出することになり、輪郭を抽出する際に輪郭以外のノイズを除去することができる。
【００１５】
請求項５の発明では、請求項２の発明において、前記輪郭抽出部は、前記濃淡微分画像において濃淡微分値を適宜の閾値で２値化するとともに前記距離微分画像において距離微分値を適宜の閾値で２値化し、濃淡微分値と距離微分値との一方において閾値以上となる領域を対象物の輪郭として抽出することを特徴とする。
【００１６】
この構成によれば、濃淡微分値と距離微分値とを２値化し、濃淡微分値と距離微分値との一方でも閾値以上となる領域は対象物の輪郭として抽出するから、濃度値または距離値の変化率が大きい部位を輪郭として抽出することで、段差や反射率の差異による明暗差の大きい領域と、段差のある部位のような距離変化の大きい領域とを輪郭として抽出することになり、輪郭を抽出する感度を高めることができる。また、２値化を行う閾値によって輪郭として抽出される領域の大きさが変化するから、閾値の設定によって輪郭を抽出する際の感度を調節することが可能になる。
【００１７】
請求項６の発明では、請求項２の発明において、前記輪郭抽出部は、前記濃淡微分画像において濃淡微分値を適宜の閾値で２値化するとともに前記距離微分画像において距離微分値を適宜の閾値で２値化し、濃淡微分値と距離微分値との両方において閾値以上となる領域を対象物の輪郭として抽出することを特徴とする。
【００１８】
この構成によれば、濃淡微分値と距離微分値とを２値化し、濃淡微分値と距離微分値との両方で閾値以上となる領域を対象物の輪郭として抽出するから、濃度値と距離値との両方の変化率が大きい部位を輪郭として抽出することで、明暗差が大きくかつ距離変化の大きい段差のような領域のみを輪郭として抽出することになり、輪郭を抽出する際に輪郭以外のノイズを除去することができる。また、２値化を行う閾値によって輪郭として抽出される領域の大きさが変化するから、閾値の設定によって輪郭を抽出する際にノイズを除去できる程度を調節することが可能になる。
【００１９】
請求項７の発明では、請求項２の発明において、前記輪郭抽出部は、前記濃淡微分画像における濃淡微分値と前記距離微分画像における距離微分値とに重みを掛けたものの和を各画素ごとに加重和として求め、加重和が規定の閾値以上の領域を輪郭として抽出することを特徴とする。
【００２０】
この構成によれば、荷重和を閾値と比較することにより輪郭を抽出するから、濃淡微分値と距離微分値との優先度を調節することができる。たとえば、距離微分値に対する重みを濃淡微分値に対する重みよりも大きく設定すれば、距離変化の大きい部位を優先的に抽出することになり、人の輪郭などを抽出しやすくなる。
【００２１】
請求項８の発明では、請求項１の発明において、前記画像生成部は、時間の経過とともに対象空間を撮像した前記光検出素子の出力により濃淡画像を時系列で生成する構成であって、前記濃淡画像の濃淡値から求められる各画素の微分強度値である濃淡微分値を画素値とする濃淡微分画像を生成する微分処理部と、微分処理部により求めた濃淡微分値と距離値とを併せて用いることにより対象物を抽出する対象物判定部とを備えることを特徴とする。
【００２２】
この構成によれば、濃淡画像について微分強度値である濃淡微分値を画素値とする濃淡微分画像を生成するから、対象空間において明暗差の大きい領域と明暗差の小さい領域とを容易に識別することが可能になる。たとえば、対象空間において対象物としての人体と背景との明暗差が比較的大きい場合には、濃淡微分値が大きくなるから人体の輪郭などを抽出することができる。しかも、濃淡微分値を用いて抽出した領域に距離画像の距離値を対応付けることによって、所望の距離範囲内に存在する対象物の輪郭を切り出すのが容易になる。
【００２３】
請求項９の発明では、請求項８の発明において、前記対象物判定部は、異なる時刻で得られた２枚の濃淡画像から生成した２枚の濃淡微分画像の差分である差分画像を生成し、差分画像において画素値が規定の閾値以上になる領域を抽出し、抽出した領域に対応する距離画像の画素値の代表値が規定の範囲内であるときに当該領域を対象物として抽出することを特徴とする。
【００２４】
この構成によれば、２枚の濃淡微分画像の差分によって光検出素子の視野内で明るさに変化が生じた領域のみを抽出することができ、しかも閾値によって差分の小さい領域は除去するから、主として２枚の濃淡画像が得られた時刻間で移動した対象物の領域を抽出することができる。さらに、抽出された領域について、距離画像の画素値の代表値が規定の範囲内である領域を対象物として抽出するから、距離によって背景から対象物を分離することができ、濃淡と距離との２種類の情報によって対象物を背景から正確に分離することができる。
【００２５】
請求項１０の発明では、請求項８の発明において、前記対象物判定部は、異なる時刻で得られた３枚以上の濃淡画像から生成した３枚以上の濃淡微分画像について２枚ずつの差分である差分画像を生成し、複数枚の差分画像の画素値を規定の閾値と比較することにより複数枚の２値画像を生成するとともに各２値画像における同位置の画素値を組み合わせる論理演算により着目する時刻における移動する対象物の領域を抽出し、抽出した領域に対応する距離画像の画素値の代表値が規定の範囲内であるときに当該領域を対象物として抽出することを特徴とする。
【００２６】
この構成によれば、濃淡微分画像の差分画像によって背景をほぼ除去することができ、さらに差分画像の２値画像を生成することによってほぼ完全に背景を除去することができる。また、２値画像の画素値を組み合わせる論理演算を行うから、視野内に移動する対象物が含まれている場合には、着目する時刻において背景をほぼ完全に除去して対象物の境界を抽出することができる。すなわち、移動する対象物について言わばシルエットを抽出することになる。しかも、抽出された領域について、距離画像の画素値の代表値が規定の範囲内である領域を対象物として抽出するから、距離によって背景から対象物を分離することができ、濃淡と距離との２種類の情報によって対象物を背景から正確に分離することができる。
【００２７】
なお、請求項９および請求項１０における画素値の代表値として、以下に説明する実施形態では、画素値の平均値を用いているが、他に最小値、最大値、最頻値などを用いることも可能である。
【発明の効果】
【００２８】
本発明の構成によれば、光検出素子に設けた感光部での受光光量に応じた電気出力から対象空間の濃淡値と距離値とを求めるから、ほぼ同時刻の濃淡画像と距離画像とを得ることができ、しかも濃淡画像と距離画像との各画素は対象空間の同じ方向の情報を持つから、濃淡画像と距離画像とから得られる情報を併せて用いることにより、濃淡画像のみを用いる場合よりも対象空間に関して多くの情報を得ることができるという利点がある。
【発明を実施するための最良の形態】
【００２９】
本発明の実施形態を説明するにあたり、まず本実施形態で用いる距離画像センサの構成について説明する。
【００３０】
距離画像センサは、図１に示すように、対象空間に光を照射する発光源２を備えるとともに、対象空間からの光を受光し受光光量を反映した出力値の電気出力が得られる光検出素子１を備える。対象空間に存在する対象物Ｏｂまでの距離は、発光源２から対象空間に光が照射されてから対象物Ｏｂでの反射光が光検出素子１に入射するまでの時間（「飛行時間」と呼ぶ）によって求める。ただし、飛行時間は非常に短いから、対象空間に照射する光の強度が一定周期で周期的に変化するように変調した強度変調光を用い、強度変調光を受光したときの位相を用いて飛行時間を求める。
【００３１】
図２（ａ）に示すように、発光源２から空間に放射する光の強度が曲線イのように変化し、光検出素子１で受光した受光光量が曲線ロのように変化するとすれば、位相差ψは飛行時間に相当するから、位相差ψを求めることにより対象物Ｏｂまでの距離を求めることができる。また、位相差ψは、曲線イの複数のタイミングで求めた曲線ロの受光光量を用いて計算することができる。たとえば、曲線イにおける位相が０度、９０度、１８０度、２７０度の位相で求めた曲線ロの受光光量がそれぞれＡ０、Ａ１、Ａ２、Ａ３であるとする（受光光量Ａ０、Ａ１、Ａ２、Ａ３を斜線部で示している）。ただし、各位相における受光光量Ａ０、Ａ１、Ａ２、Ａ３は、瞬時値ではなく所定の時間Ｔｗで積算した受光光量を用いる。いま、受光光量Ａ０、Ａ１、Ａ２、Ａ３を求める間に、位相差ψが変化せず（つまり、対象物Ｏｂまでの距離が変化せず）、かつ対象物Ｏｂの反射率にも変化がないものとする。また、発光源２から放射する光の強度を正弦波で変調し、時刻ｔにおいて光検出素子１で受光される光の強度がＡ・ｓｉｎ（ωｔ＋δ）＋Ｂで表されるものとする。ここに、Ａは振幅、Ｂは外光成分、ωは角振動数、δは位相である。光検出素子１で受光する受光光量Ａ０、Ａ１、Ａ２、Ａ３を時間Ｔｗの積算値ではなく瞬時値とすれば、受光光量Ａ０、Ａ１、Ａ２、Ａ３は、次のように表すことができる。
Ａ０＝Ａ・ｓｉｎ（δ）＋Ｂ
Ａ１＝Ａ・ｓｉｎ（π／２＋δ）＋Ｂ
Ａ２＝Ａ・ｓｉｎ（π＋δ）＋Ｂ
Ａ３＝Ａ・ｓｉｎ（３π／２＋δ）＋Ｂ
ここに、δ＝−ψであるから、Ａ０＝−Ａ・ｓｉｎ（ψ）＋Ｂ、Ａ１＝Ａ・ｃｏｓ（ψ）＋Ｂ、Ａ２＝Ａ・ｓｉｎ（ψ）＋Ｂ、Ａ３＝−Ａ・ｃｏｓ（ψ）＋Ｂであり、結果的に、各受光光量Ａ０、Ａ１、Ａ２、Ａ３と位相差ψとの関係は、次式のようになる。
ψ＝ｔａｎ−１｛（Ａ２−Ａ０）／（Ａ１−Ａ３）｝    …（１）
（１）式では受光光量Ａ０、Ａ１、Ａ２、Ａ３の瞬時値を用いているが、受光光量Ａ０、Ａ１、Ａ２、Ａ３として時間Ｔｗにおける積算値を用いても（１）式で位相差ψを求めることができる。
【００３２】
上述のように対象空間に照射する光の強度を変調するために、発光源２としては、たとえば多数個の発光ダイオードを一平面上に配列したものや半導体レーザと発散レンズとを組み合わせたものなどを用いる。また、発光源２は、制御回路部３から出力される所定の変調周波数である変調信号によって駆動され、発光源２から放射される光は変調信号により強度が変調される。制御回路部３では、たとえば２０ＭＨｚの正弦波で発光源２から放射する光の強度を変調する。なお、発光源２から放射する光の強度は正弦波で変調する以外に、三角波、鋸歯状波などで変調してもよく、要するに、一定周期で強度を変調するのであれば、どのような構成を採用してもよい。
【００３３】
光検出素子１は、規則的に配列された複数個の感光部１１を備える。また、感光部１１への光の入射経路には受光光学系８が配置される。感光部１１は光検出素子１において対象空間からの光が受光光学系８を通して入射する部位であって、感光部１１において受光光量に応じた量の電荷を生成する。また、感光部１１は、平面格子の格子点上に配置され、たとえば垂直方向（つまり、縦方向）と水平方向（つまり、横方向）とにそれぞれ等間隔で複数個ずつ並べたマトリクス状に配列される。
【００３４】
受光光学系８は、光検出素子１から対象空間を見るときの視線方向と各感光部１１とを対応付ける。すなわち、受光光学系８を通して各感光部１１に光が入射する範囲を、受光光学系８の中心を頂点とし各感光部１１ごとに設定された頂角の小さい円錐状の視野とみなすことができる。したがって、発光源２から放射され対象空間に存在する対象物Ｏｂで反射された反射光が感光部１１に入射すれば、反射光を受光した感光部１１の位置により、受光光学系８の光軸を基準方向として対象物Ｏｂの存在する方向を知ることができる。
【００３５】
受光光学系８は一般に感光部１１を配列した平面に光軸を直交させるように配置されるから、受光光学系８の中心を原点とし、感光部１１を配列した平面の垂直方向と水平方向と受光光学系８の光軸とを３軸の方向とする直交座標系を設定すれば、対象空間に存在する対象物Ｏｂの位置を球座標で表したときの角度（いわゆる方位角と仰角）が各感光部１１に対応する。なお、受光光学系８は、感光部１１を配列した平面に対して光軸が９０度以外の角度で交差するように配置することも可能である。
【００３６】
本実施形態では、上述のように、対象物Ｏｂまでの距離を求めるために、発光源２から対象空間に照射される光の強度変化に同期する４点のタイミングで受光光量Ａ０、Ａ１、Ａ２、Ａ３を求めている。したがって、目的の受光光量Ａ０、Ａ１、Ａ２、Ａ３を得るためのタイミングの制御が必要である。また、発光源２から対象空間に照射される光の強度変化の１周期において感光部１１で発生する電荷の量は少ないから、複数周期に亘って電荷を集積することが望ましい。そこで、図１のように各感光部１１で発生した電荷をそれぞれ集積する複数個の電荷集積部１３を設けるとともに、各感光部１１において利用できる電荷を生成する領域の面積を変化させることにより各感光部１１の感度をそれぞれ調節する複数個の感度制御部１２を設けている。
【００３７】
各感度制御部１２では、感度制御部１２に対応する感光部１１の感度を上述した４点のうちのいずれかのタイミングで高め、感度が高められた感光部１１では当該タイミングの受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を主として生成するから、当該受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を当該感光部１１に対応する電荷集積部１３に集積させることができる。
【００３８】
ところで、感度制御部１２は感光部１１において利用できる電荷を生成する領域の面積（実質的な受光面積）を変化させることにより各期間の電荷の生成量を変化させるものであるから、電荷集積部１３に集積された電荷は必ずしも受光光量Ａ０、Ａ１、Ａ２、Ａ３が得られる期間に生成された電荷だけではなく、他の期間に生成された電荷も混入することになる。いま、感度制御部１２において、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応した電荷を生成する期間の感度をα、それ以外の期間の感度をβとし、感光部１１は受光光量に比例する電荷を生成するものとする。この条件では、受光光量Ａ０に対応した電荷を集積する電荷集積部１３には、αＡ０＋β（Ａ１＋Ａ２＋Ａ３）＋βＡｘ（Ａｘは受光光量Ａ０、Ａ１、Ａ２、Ａ３が得られる期間以外の受光光量）に比例する電荷が蓄積され、受光光量Ａ２に対応した電荷を集積する電荷集積部１３には、αＡ２＋β（Ａ０＋Ａ１＋Ａ３）＋βＡｘに比例する電荷が蓄積される。上述したように、位相差ψを求める際には（Ａ２−Ａ０）を求めており、Ａ２−Ａ０＝（α−β）（Ａ２−Ａ０）になり、同様にしてＡ１−Ａ３＝（α−β）（Ａ１−Ａ３）になるから、（Ａ２−Ａ０）／（Ａ１−Ａ３）は電荷の混入の有無によらず理論上は同じ値になるのであって、電荷が混入しても求める位相差ψは同じ値になる。
【００３９】
感光部１１と感度制御部１２と電荷集積部１３とを備える光検出素子１は１つの半導体装置として構成され、光検出素子１には電荷集積部１３に集積された電荷を半導体装置の外部に取り出すために電荷取出部１４が設けられる。電荷取出部１４はＣＣＤイメージセンサにおける垂直転送部および水平転送部と同様の構成を有する。
【００４０】
上述したように各感光部１１では受光光量に応じた量の電荷を生成するから、上述した各受光光量Ａ０、Ａ１、Ａ２、Ａ３は対象物Ｏｂの明るさを反映している。つまり、受光光量Ａ０、Ａ１、Ａ２、Ａ３の加算値あるいは平均値は濃淡画像における濃度値に相当する。換言すれば、各感光部１１での受光光量Ａ０、Ａ１、Ａ２、Ａ３から対象物Ｏｂまでの距離を求めるほか、対象物Ｏｂの濃度値も得ることが可能になる。しかも、同じ位置の感光部１１を用いて対象物Ｏｂの距離と濃度値とを求めるから、同じ位置について濃度値と距離との両方の情報を得ることが可能になる。
【００４１】
電荷取出部１４から取り出された電荷は画像生成部４に画像信号として与えられ、画像生成部４において対象空間内の対象物Ｏｂまでの距離が上述した（１）式を用いて受光光量Ａ０、Ａ１、Ａ２、Ａ３から算出される。すなわち、画像生成部４では各感光部１１に対応した各方向における対象物Ｏｂまでの距離が算出され、対象空間の三次元情報が算出される。この三次元情報を用いると、対象空間の各方向に一致する画素の画素値が距離値である距離画像を生成することができる。また、画像生成部４では各感光部１１で得られた濃度値に基づいて対象空間の濃淡画像を生成する。すなわち、画像生成部４は濃淡画像と距離画像とを生成する。なお、濃淡画像は受光光量Ａ０、Ａ１、Ａ２、Ａ３の平均値を濃淡値に用いるようにすれば、発光源２からの光の影響を除去できる。
【００４２】
この構成によって、光検出素子１に設けた感光部１１での受光光量Ａ０、Ａ１、Ａ２、Ａ３から対象空間の濃淡値と距離値とを求めることができ、ほぼ同時刻の濃淡画像と距離画像とを得ることができる。しかも濃淡画像と距離画像との各画素は対象空間の同じ方向の情報を持つから、濃淡画像と距離画像とから得られる情報を併せて用いることにより、濃淡画像のみを用いる場合よりも対象空間に関して多くの情報を得ることができる。
【００４３】
以下に光検出素子１の具体的構造例を説明する。図３に示す光検出素子１は、複数個（たとえば、１００×１００個）の感光部１１をマトリクス状に配列したものであって、たとえば１枚の半導体基板上に形成される。感光部１１のうち垂直方向の各列では一体に連続する半導体層２１を共用するとともに半導体層２１を垂直方向への電荷（本実施形態では、電子を用いる）の転送経路として用い、さらに各列の半導体層２１の一端から電荷を受け取って水平方向に電荷を転送するＣＣＤである水平転送部Ｔｈを半導体基板に設ける構成を採用することができる。
【００４４】
すなわち、図４に示すように、半導体層２１が感光部１１と電荷の転送経路とに兼用された構造であって、フレーム・トランスファ（ＦＴ）方式のＣＣＤイメージセンサと類似した構造になる。また、ＦＴ方式のＣＣＤイメージセンサと同様に、感光部１１を配列した撮像領域Ｄａに隣接して遮光された蓄積領域Ｄｂを設けてあり、蓄積領域Ｄｂに蓄積した電荷を水平転送部Ｔｈに転送する。撮像領域Ｄａから蓄積領域Ｄｂへの電荷の転送は垂直ブランキング期間に一気に行い、水平転送部Ｔｈでは１水平期間に１水平ライン分の電荷を転送する。図１に示した電荷取出部１４は、半導体層２１における垂直方向への電荷の転送経路としての機能とともに水平転送部Ｔｈを含む機能を表している。ただし、電荷集積部１３は蓄積領域Ｄｂを意味するのではなく、撮像領域Ｄａにおいて電荷を集積する機能を表している。言い換えると、蓄積領域Ｄｂは電荷取出部１４に含まれる。
【００４５】
半導体層２１は不純物が添加してあり、半導体層２１の主表面は酸化膜からなる絶縁膜２２により覆われ、半導体層２１に絶縁膜２２を介して複数個の制御電極２３を配置している。この光検出素子１はＭＩＳ素子として知られた構造であるが、１個の光検出素子１として機能する領域に複数個（図示例では５個）の制御電極２３を備える点が通常のＭＩＳ素子とは異なる。絶縁膜２２および制御電極２３は発光源２から対象空間に照射される光と同波長の光が透過するように材料が選択され、絶縁膜２２を通して半導体層２１に光が入射すると、半導体層２１の内部に電荷が生成される。図示例の半導体層２１の導電形はｎ形であり、光の照射により生成される電荷として電子ｅを利用する。図３は１個の感光部１１に対応する領域のみを示したものであり、半導体基板（図示せず）には上述したように図３の構造を持つ領域が複数個配列されるとともに電荷取出部１４となる構造が設けられる。電荷取出部１４として設ける垂直転送部は、図３の左右方向に電荷を転送することを想定しているが、図３の面に直交する方向に電荷を転送する構成を採用することも可能である。また、電荷を図の左右方向に転送する場合には、制御電極２３の左右方向の幅寸法を１μｍ程度に設定するのが望ましい。
【００４６】
この構造の光検出素子１では、制御電極２３に正の制御電圧＋Ｖを印加すると、半導体層２１には制御電極２３に対応する部位に電子ｅを集積するポテンシャル井戸（空乏層）２４が形成される。つまり、半導体層２１にポテンシャル井戸２４を形成するように制御電極２３に制御電圧を印加した状態で光が半導体層２１に照射されると、ポテンシャル井戸２４の近傍で生成された電子ｅの一部はポテンシャル井戸２４に捕獲されてポテンシャル井戸２４に集積され、残りの電子ｅは半導体層２１の深部での再結合により消滅する。また、ポテンシャル井戸２４から離れた場所で生成された電子ｅも半導体層２１の深部での再結合により消滅する。
【００４７】
ポテンシャル井戸２４は制御電圧を印加した制御電極２３に対応する部位に形成されるから、制御電圧を印加する制御電極２３の個数を変化させることによって、半導体層２１の主表面に沿ったポテンシャル井戸２４の面積（言い換えると、受光面において利用できる電荷を生成する領域の面積）を変化させることができる。つまり、制御電圧を印加する制御電極２３の個数を変化させることは感度制御部１２における感度の調節を意味する。たとえば、図３（ａ）のように３個の制御電極２３に制御電圧＋Ｖを印加する場合と、図３（ｂ）のように１個の制御電極２３に制御電圧＋Ｖを印加する場合とでは、ポテンシャル井戸２４が受光面に占める面積が変化するのであって、図３（ａ）の状態のほうがポテンシャル井戸２４の面積が大きいから、図３（ｂ）の状態に比較して同光量に対して利用できる電荷の割合が多くなり、実質的に感光部１１の感度を高めたことになる。このように、感光部１１および感度制御部１２は半導体層２１と絶縁膜２２と制御電極２３とにより構成されていると言える。ポテンシャル井戸２４は光照射により生成された電荷を保持するから電荷集積部１３として機能する。
【００４８】
ポテンシャル井戸２４から電荷を取り出すには、ＦＴ方式のＣＣＤと同様の技術を採用すればよく、ポテンシャル井戸２４に電子ｅが集積された後に、電荷の集積時とは異なる印加パターンの制御電圧を制御電極２３に印加することによってポテンシャル井戸２４に集積された電子ｅを一方向（たとえば、図の右方向）に転送することができる。つまり、半導体層２１をＣＣＤの垂直転送部と同様に電荷の転送経路に用いることができる。さらに、電荷は図４に示した水平転送部Ｔｈを転送され、半導体基板に設けた図示しない電極から光検出素子１の外部に取り出される。要するに、制御電極２３への制御電圧の印加パターンを制御することにより、各感光部１１ごとの感度を制御するとともに、光照射により生成された電荷を集積し、さらに集積された電荷を転送することができる。
【００４９】
本実施形態における感度制御部１２は、利用できる電荷を生成する面積を大小２段階に切り換えることにより感光部１１の感度を高低２段階に切り換えるのであって、受光光量Ａ０、Ａ１、Ａ２、Ａ３のいずれかに対応する電荷を感光部１１で生成しようとする期間にのみ高感度とし（電荷を生成する面積を大きくし）、他の期間には低感度にする。高感度にする期間と低感度にする期間とは、発光源２を駆動する変調信号に同期させて設定される。また、変調信号の複数周期に亘ってポテンシャル井戸２４に電荷を集積した後に電荷取出部１４を通して光検出素子１の外部に電荷を取り出すようにしている。変調信号の複数周期に亘って電荷を集積しているのは、変調信号の１周期内では感光部１１が利用可能な電荷を生成する期間が短く（たとえば、変調信号の周波数を２０ＭＨｚとすれば５０ｎｓの４分の１以下）、生成される電荷が少ないからである。つまり、変調信号の複数周期分の電荷を集積することにより、信号電荷（発光源２から照射された光に対応する電荷）と雑音電荷（外光成分および光検出素子１の内部で発生するショットノイズに対応する電荷）との比を大きくとることができ、大きなＳＮ比が得られる。
【００５０】
ところで、位相差ψを求めるのに必要な４種類の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を１個の感光部１１で生成するとすれば、視線方向に関する分解能は高くなるが、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を求める時間差が大きくなるという問題が生じる。一方、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を４個の感光部１１でそれぞれ生成するとすれば、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を求める時間差は小さくなるが、４種類の電荷を求める視線方向にずれが生じ視線方向に関する分解能は低下する。そこで、本実施形態では、２個の感光部１１を用いることにより、変調信号の１周期内で受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を２種類ずつ生成する構成を採用している。つまり、２個の感光部１１を組にして用い、組になる２個の感光部１１に同じ視線方向からの光が入射するようにしている。
【００５１】
上述の構成を採用することにより、視線方向の分解能を比較的高くし、かつ受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する時間差を少なくすることができる。つまり、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する時間差を少なくしていることにより、対象空間の中で移動している対象物Ｏｂについても距離の検出精度を比較的高く保つことができる。なお、本実施形態の構成では、１個の感光部１１で４種類の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する場合よりも視線方向の分解能が低下するが、視線方向の分解能については感光部１１の小型化や受光光学系８の設計によって向上させることが可能である。
【００５２】
以下に動作を具体的に説明する。図３に示した例では、１個の感光部１１について５個の制御電極２３を設けた例を示しているが、両側の２個の制御電極２３は、感光部１１で電荷（電子ｅ）を生成している間に隣接する感光部１１に電荷が流出するのを防止するための障壁を形成するものであって、２個の感光部１１を組にして用いる場合には隣接する感光部１１のポテンシャル井戸２４の間には、いずれかの感光部１１で障壁が形成されるから、各感光部１１には３個ずつの制御電極２３を設けるだけで足りることになる。この構成によって、感光部１１の１個当たりの占有面積が小さくなり、２個の感光部１１を組にして用いながらも視線方向の分解能の低下を抑制することが可能になる。
【００５３】
ここでは、図５に示すように、組にした２個の感光部１１にそれぞれ設けた３個ずつの制御電極２３を区別するために各制御電極２３に（１）〜（６）の数字を付す。（１）〜（６）の数字を付与した制御電極２３を有する２個の感光部１１は、１つの視線方向に対応しておりイメージセンサにおける画素を構成する。なお、１画素ずつの感光部１１に対応付けて、それぞれオーバフロードレインを設けるのが望ましい。
【００５４】
図５（ａ）（ｂ）はそれぞれ制御電極２３に異なる印加パターンで制御電圧＋Ｖを印加した状態（半導体基板に設けた図示しない基板電極と制御電極２３との間に制御電圧＋Ｖを印加した状態）を示しており、ポテンシャル井戸２４の形状からわかるように、図５（ａ）では１画素となる２個の感光部１１のうち制御電極（１）〜（３）に正の制御電圧＋Ｖを印加するとともに、残りの制御電極（４）〜（６）のうちの中央の制御電極（５）に正の制御電圧＋Ｖを印加している。また、図５（ｂ）では制御電極（１）〜（３）のうちの中央の制御電極（２）に正の制御電圧＋Ｖを印加するとともに、残りの制御電極（４）〜（６）に正の制御電圧＋Ｖを印加している。つまり、１画素を構成する２個の感光部１１に印加する制御電圧＋Ｖの印加パターンを交互に入れ換えている。２個の感光部１１に印加する制御電圧＋Ｖの印加パターンを入れ換えるタイミングは、変調信号における逆位相の（位相が１８０度異なる）タイミングになる。なお、各感光部１１に設けた３個の制御電極２３に同時に制御電圧＋Ｖを印加している期間以外は、各感光部１１に設けた中央部の１個の制御電極２３（つまり、制御電極（２）（５））にのみ制御電圧＋Ｖを印加し、他の制御電極２３は０Ｖに保つ状態とする。
【００５５】
たとえば、１画素を構成する２個の感光部１１において受光光量Ａ０、Ａ２に対応する電荷を交互に生成する場合は、図２のように、一方の感光部１１で受光光量Ａ０に対応する電荷を生成するために３個の制御電極（１）〜（３）に制御電圧＋Ｖを印加している間に、他方の感光部１１では受光光量Ａ２に対応する電荷を保持するために１個の制御電極（５）にのみ制御電圧＋Ｖを印加する。同様にして、一方の感光部１１で受光光量Ａ２に対応する電荷を生成するために３個の制御電極（４）〜（６）に制御電圧＋Ｖを印加している間には、他方の感光部１１では受光光量Ａ０に対応する電荷を保持するために１個の制御電極（２）にのみ制御電圧＋Ｖを印加する。また、受光光量Ａ０、Ａ２に対応する電荷を生成する期間以外では制御電極（２）（５）にのみ制御電圧＋Ｖを印加する。図２（ｂ）（ｃ）に受光光量Ａ０、Ａ２に対応する電荷を蓄積する際の各制御電極（１）〜（６）に制御電圧＋Ｖの印加のタイミングを示す。図において斜線部が制御電圧＋Ｖを印加している状態を示し、空白部が制御電極（１）〜（６）に電圧を印加していない状態を示している。
【００５６】
１画素を構成する２個の感光部１１において受光光量Ａ１、Ａ３に対応する電荷を生成する場合も同様であって、受光光量Ａ０、Ａ２に対応する電荷を生成する場合とは制御電極２３に制御電圧＋Ｖを印加するタイミングが、変調信号の位相における９０度異なる点が相違するだけである。また、受光光量Ａ０、Ａ１に対応する電荷を生成する期間と、受光光量Ａ１、Ａ３に対応する電荷を生成する期間との間で撮像領域から蓄積領域に電荷を転送する。つまり、受光光量Ａ０に対応する電荷が制御電極（１）〜（３）に対応するポテンシャル井戸２４に蓄積されるとともに、受光光量Ａ２に対応する電荷が制御電極（４）〜（６）に対応するポテンシャル井戸２４に蓄積されると、これらの受光光量Ａ０、Ａ２に対応する電荷を外部に取り出す。次に、受光光量Ａ１に対応する電荷が制御電極（１）〜（３）に対応するポテンシャル井戸２４に蓄積されるとともに、受光光量Ａ３に対応する電荷が制御電極（４）〜（６）に対応するポテンシャル井戸２４に蓄積されると、これらの受光光量Ａ１、Ａ３に対応する電荷を外部に取り出す。このような動作を繰り返すことによって、４区間の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を２回の読出動作で光出力素子１の外部に取り出すことができ、取り出した電荷を用いて位相差ψを求めることが可能になる。なお、たとえば３０フレーム毎秒の画像を得るためには、受光光量Ａ０、Ａ１に対応する電荷を生成する期間と受光光量Ａ１、Ａ３に対応する電荷を生成する期間とは６０分の１秒よりも短い期間とする。
【００５７】
上述の例では３個の制御電極２３（（１）〜（３）または（４）〜（６））に同時に印加する制御電圧と、１個の制御電極２３（（２）または（５））にのみ印加する制御電圧とを等しくしているから、ポテンシャル井戸２４の面積は変化するもののポテンシャル井戸２４の深さは等しくなっている。この場合、制御電圧を印加していない制御電極２３（（１）（３）または（４）（６））において生成された電荷は、同程度の確率でポテンシャル井戸２４に流れ込む。つまり、感光部１１を構成する３個の制御電極２３のうちの１個にのみ制御電圧＋Ｖを印加することによって電荷集積部１３として機能している領域と、３個の制御電極２３のすべてに制御電圧＋Ｖを印加している領域との両方に同程度の量の電荷が流れ込む。つまり、電荷を保持しているポテンシャル井戸２４に流れ込む雑音成分が比較的多いものであるから、ダイナミックレンジを低下させる原因になる。
【００５８】
そこで、図６のように、組になる２個の感光部１１に設けた各３個の制御電極（１）〜（３）または（４）〜（６）に同時に印加する制御電圧が、１個の制御電極（２）または（５）にのみ印加する制御電圧よりも高くなるように設定し、大面積のポテンシャル井戸２４を小面積のポテンシャル井戸２４よりも深く設定するのが望ましい。このように、主として電荷（電子ｅ）を生成しているポテンシャル井戸２４を、主として電荷の保持を行っているポテンシャル井戸２４よりも深くすることにより、制御電圧を印加していない制御電極（１）（３）または（４）（６）に対応する部位で生じた電荷は、深いほうのポテンシャル井戸２４に流れ込みやすくなる。つまり、制御電極２３に一定の制御電圧＋Ｖを印加する場合に比較すると、電荷を保持するポテンシャル井戸２４に流れ込む雑音成分を低減することができる。
【００５９】
なお、上述した距離画像センサの構成例では、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する４期間を変調信号の１周期内で位相の間隔が９０度ずつになるように設定しているが、変調信号に対する位相が既知であれば４期間は９０度以外の適宜の間隔で設定することが可能である。ただし、間隔が異なれば位相差ψを求める算式は異なる。また、４期間の受光光量に対応した電荷を取り出す周期は、対象物Ｏｂの反射率および外光成分が変化せず、かつ位相差ψも変化しない時間内であれば、変調信号の１周期内で４個の信号電荷を取り出すことも必須ではない。さらに、太陽光や照明光のような外乱光の影響があるときには、発光源２から放射される光の波長のみを透過させる光学フィルタを感光部１１の前に配置するのが望ましい。図５、図６を用いて説明した構成例では、感光部１１ごとに３個ずつの制御電極２３を対応付けているが、制御電極２３を４個以上設けるようにしてもよい。また、上述の例ではＦＴ方式のＣＣＤイメージセンサと同様の構成を採用しているが、インターライン・トランスファ（ＩＴ）方式、フレーム・インターライン・トランスファ（ＦＩＴ）方式と同様の構成を採用することも可能である。
【００６０】
次に、上述した距離画像センサを用いて対象空間に存在する対象物Ｏｂの輪郭を抽出する技術について説明する。ここでは、距離画像を生成する際の光検出素子１への外光成分の入射を低減するために、発光源２から赤外線を対象空間に照射し、光検出素子１の前方に赤外線透過フィルタを配置しているものとする。したがって、濃淡画像は赤外線に対する濃淡画像になる。
【００６１】
一般に画像から特徴のある画素を抽出する場合に輪郭がよく用いられる。輪郭の抽出には濃淡画像にソーベルオペレータのような微分オペレータ（輪郭強調オペレータ）を適用し、得られた微分強度値を閾値と比較することにより輪郭を抽出する場合が多い。本実施形態では距離画像に対しても濃淡画像と同様の技術を用いて微分強度値を求めている。ただし、濃淡画像の場合、外光の光量や物体の反射率によっては対象物Ｏｂと背景との濃度値の差が小さくなり濃淡画像から求めた微分強度値では対象物Ｏｂの輪郭を抽出できない場合がある。また、距離画像の場合、外光の光量や物体の反射率の影響は受けにくいものの、対象物Ｏｂと背景との距離が小さいときには距離画像から求めた微分強度値では対象物Ｏｂの輪郭を抽出できない場合がある。
【００６２】
以下に説明する本実施形態の構成では、濃淡画像から得られた輪郭と距離画像から得られた輪郭との両方をともに対象物Ｏｂの輪郭として採用する場合と、濃淡画像から得られた輪郭と距離画像から得られた輪郭とが一致するときに一致している部分を対象物Ｏｂの輪郭として採用する場合とを示す。前者は輪郭について論理和をとったことになり、後者は輪郭について論理積をとったことになる。前者の場合には、対象物Ｏｂについてできるだけ多くの輪郭を抽出することになり、対象物Ｏｂの内部形状の輪郭も抽出可能になる。また、後者の場合には、主として対象物Ｏｂと背景との間の輪郭が抽出され対象物Ｏｂの内部形状の輪郭が抽出されにくくなる。
【００６３】
図１に示すように、画像生成部４で生成された濃淡画像および距離画像は微分処理部５に与えられ、微分処理部５では、濃淡画像の濃淡値から求められる各画素の微分強度値である濃淡微分値を画素値とする濃淡微分画像と、距離画像の距離値から求められる各画素の微分強度値である距離微分値を画素値とする距離微分画像とが生成される。微分強度値は、たとえば着目する画素の８近傍を用いて求められる値であって、本実施形態では、図７のような３×３平方領域の中央の画素ｐ５を着目する画素とするときに、他の画素ｐ１〜ｐ４，ｐ６〜ｐ９の画素値Ｂ１〜Ｂ４，Ｂ６〜Ｂ９を用いることにより（２）式で表される。
（ΔＸ２＋ΔＹ２）１／２    …（２）
ただし、
ΔＸ＝（Ｂ１＋Ｂ４＋Ｂ７）−（Ｂ３＋Ｂ６＋Ｂ９）
ΔＹ＝（Ｂ１＋Ｂ２＋Ｂ３）−（Ｂ７＋Ｂ８＋Ｂ９）
画素値Ｂ１〜Ｂ４，Ｂ６〜Ｂ９が濃度値である場合には濃淡微分値になり、画素値Ｂ１〜Ｂ４，Ｂ６〜Ｂ９が距離値である場合には距離微分値になる。
【００６４】
（２）式によって求めた濃淡微分値を画素値に持つ濃淡微分画像においては濃淡画像における明暗差の大きい部位ほど濃淡微分値が大きくなり、（２）式によって求めた距離微分値を画素値に持つ距離微分画像においては距離画像における距離差の大きい部位ほど距離微分値が大きくなる。
【００６５】
濃淡微分画像および距離微分画像は輪郭抽出部６に与えられ、対象物Ｏｂの輪郭が抽出される。濃淡微分画像および距離微分画像から対象物Ｏｂの輪郭を求める方法は、以下の複数種類から選択される。
（１）濃淡微分画像において濃淡微分値が極大になる領域と、距離微分画像において距離微分値が極大になる領域とを求め、両方の領域をいずれも輪郭として抽出する。
（２）濃淡微分画像において濃淡微分値が極大になる領域と、距離微分画像において距離微分値が極大になる領域とを求め、両方の領域が一致している領域を輪郭として抽出する。
（３）濃淡微分画像において濃淡微分値が閾値以上の領域と、距離微分画像において距離微分値が閾値以上の領域とを求め、両方の領域をいずれも輪郭として抽出する（つまり、濃淡微分値と距離微分値との一方において閾値以上となる領域を対象物の輪郭として抽出する）。
（４）濃淡微分画像において濃淡微分値が閾値以上の領域と、距離微分画像において距離微分値が閾値以上の領域とを求め、両方の領域が一致している領域を輪郭として抽出する（つまり、濃淡微分値と距離微分値との両方において閾値以上となる領域を対象物の輪郭として抽出する）。
（５）濃淡微分画像における各画素の濃淡微分値と距離微分画像における各画素の距離微分値とに重みを掛けたものの和を各画素ごとに加重和として求め、加重和が閾値以上になる領域を輪郭として抽出する。
【００６６】
（５）の方法は、同じ位置の画素について濃淡微分値と距離微分値とにそれぞれ重みを掛けて加算することにより加重和を求めている。つまり、濃淡微分値をＤｂ、距離微分値をＤｄとし、濃淡微分値Ｄｂと距離微分値Ｄｄとに対する重みをω１、ω２とすれば、加重和はω１×Ｄｂ＋ω２×Ｄｄになり、この加重和を適宜の閾値と比較するのである。したがって、重みω１，ω２を適宜に設定することによって、濃淡微分値Ｄｂと距離微分値Ｄｄとをより重視するか（優先度を高めるか）を調節することができ、距離微分値Ｄｄに対する重みω２を相対的に大きく設定しておけば、距離変化の大きい領域を濃度変化の大きい領域に優先して輪郭として抽出することになり、人の輪郭などを抽出しやすくなる。
【００６７】
（３）〜（５）の方法で用いる閾値は適宜に設定することができ、閾値が異なれば領域の大きさも変化する。また、（３）（４）の方法で濃淡微分値に対する閾値と距離微分値に対する閾値とは通常は異なる値を用いる。（１）（２）の方法では極大値が得られる画素を輪郭としているから、１画素程度の幅を有した輪郭が得られるが、濃度値や距離値がほぼ一定の勾配を持つ場合には複数画素の幅を有した輪郭になる。（１）〜（５）のいずれの方法を採用する場合でも輪郭線の抽出が必要である場合には１画素幅に細線化する。また、輪郭抽出部６は、（１）〜（５）の方法から輪郭を抽出する方法を選択可能に構成するのが望ましいが、目的に応じて１種類のみの方法を採用する構成としてもよい。
【００６８】
（１）（３）の方法は、明暗差の大きい領域と距離変化の大きい領域との両方を輪郭として抽出するから、輪郭を抽出できる確率が高くなり、たとえば対象物Ｏｂの内部形状の輪郭も検出されることになる。逆に、（２）（４）の方法は、明暗差が大きい領域であって、しかも距離変化の大きい領域を輪郭として抽出するから、両方の条件を満たす部位のみが輪郭として抽出され、たとえば対象物Ｏｂと背景との境界である輪郭以外のノイズが輪郭として検出される可能性を低減することができる。
【００６９】
輪郭抽出部６において輪郭を抽出する上述の方法（１）〜（５）は、いずれも濃淡微分画像と距離微分画像との対応する画素から得られる情報が対象空間内の同じ対象物Ｏｂの同じ位置に関する情報であることを利用しており、２種類の画像から得られる情報を併用することによって濃淡画像のみを用いる場合よりも対象物Ｏｂの輪郭に関する情報量が増加し、輪郭の抽出漏れを防止したり、輪郭以外のノイズを除去したりすることが容易になるのである。
【００７０】
上述した例では対象物Ｏｂの輪郭を抽出する場合について説明したが、以下では対象物Ｏｂを検出する技術について説明する。すなわち、図８に示すように、輪郭抽出部６に代えて対象物判定部７を設ける。微分処理部５では濃淡画像から微分強度値である濃淡微分値を画素とした濃淡微分画像を生成し、濃淡微分画像を対象物判定部７に与える。以下では、対象物判定部７において濃淡微分画像から対象物Ｏｂを検出する技術について説明する。
【００７１】
一般に人のような対象物Ｏｂでは背景との境界付近において濃淡値の変化率（明暗差）が大きくなるから、濃淡微分画像において濃淡微分値が極大値になる領域を抽出すれば対象物Ｏｂの輪郭を含む１画素程度の幅の領域を抽出することができる。濃淡微分値の極大値ではなく、適宜の閾値で濃淡微分値を２値化することによっても同様の領域を抽出することができる。
【００７２】
対象物判定部７では、異なる時刻で得られた２枚の濃淡微分画像の差分である差分画像を生成し、差分画像において画素値が規定の閾値以上になる領域を抽出する。このような領域は視野内で移動する対象物Ｏｂの領域と考えられ、差分画像においては背景はほぼ除去される。ただし、背景に微動するものが存在していたり、視野内において対象物Ｏｂ以外にも移動するものが存在する場合には差分画像に対象物Ｏｂ以外のノイズが含まれることになる。そこで、差分画像で抽出された領域に対してラベリングを施して連結領域を取り出し、各連結領域ごとに距離画像の画素値の平均値を求め、この平均値が規定の範囲内である領域を対象物Ｏｂとして抽出する。すなわち、所定の距離範囲の領域を抽出することになり、対象物Ｏｂの存在しない距離範囲のノイズを分離することができる。
【００７３】
また、背景を除去するために、対象空間に移動する対象物Ｏｂが存在しない状態で得られた濃淡画像から微分処理部５で生成した背景用の濃淡微分画像をあらかじめ作成しておいてもよい。背景用の濃淡微分画像を生成した時刻とは異なる時刻に微分処理部５で生成された濃淡微分画像と背景用の濃淡微分画像との差分である差分画像を生成し、差分画像において画素値が規定の閾値以上になる領域を対象物Ｏｂとして抽出すれば、差分画像では、背景に対して変化した領域が抽出されるから、対象物Ｏｂを背景から分離して容易に抽出することができる。
【００７４】
上述のように濃淡微分画像の差分画像を用いた場合には、移動する対象物Ｏｂであると視野内の２箇所に対象物Ｏｂが現れることがあり、また背景用の濃淡微分画像をあらかじめ生成して記憶しておくことが必要になったりする。そこで、移動する対象物Ｏｂであれば以下の方法を用いることにより、対象物Ｏｂを除いた静止している背景を除去してもよい。
【００７５】
移動する対象物Ｏｂに対応する領域を抽出する場合には、たとえばＴＶカメラと同様に３０フレーム毎秒の濃淡画像を生成することができるように光検出素子１から電荷を取り出し、生成した濃淡画像から微分処理部５において濃淡微分画像を生成する。濃淡微分画像の差分画像を生成する２枚のフレームは、隣接する一対のフレームと、複数フレームはなれた一対のフレームとのどちらを採用してもよい。ただし、対象空間内で対象物Ｏｂが比較的速く移動する場合には、隣接する一対のフレームを用いるのが望ましい。
【００７６】
濃淡微分画像から差分画像を生成すると、差分画像においては濃淡微分値に変化が生じた画素において０以外の画素値が得られるから、差分画像を適宜の閾値で２値化することにより、差分画像を生成した２枚のフレーム間で濃淡微分値の差が閾値以上であった領域を抽出することができる。このような領域は、対象物Ｏｂが移動したことによって発生するから、対象物Ｏｂ以外のノイズを除去して２枚の濃淡画像が得られた時刻間で移動した対象物の領域を抽出することができる。
【００７７】
差分画像を２値化した画像は、差分画像を生成する２枚の濃淡微分画像をそれぞれ２値化し、２値化した画像における各画素の排他的論理和を画素値とした画像とほぼ一致する。この画像内では両フレームにおける対象物Ｏｂの領域が抽出されるから、対象物Ｏｂが移動する場合には対象物Ｏｂに対応する領域は２箇所抽出される。
【００７８】
上述のように２枚のフレームから生成した差分画像によって対象物Ｏｂを抽出すると対象物Ｏｂが２箇所で抽出され、各フレームに含まれる対象物Ｏｂを分離することができない。特定の時刻（特定のフレーム）における対象物Ｏｂのみの領域を抽出する場合は、対象物抽出部７では３枚以上のフレームを用いて以下の処理を行う。３枚のフレームを用いる場合と４枚以上のフレームを用いる場合とでは具体的な手順は異なるが、考え方は同じであるから、以下では３枚のフレームを用いる場合について処理手順を説明する。
【００７９】
いま、時刻Ｔ−ΔＴ、Ｔ、Ｔ＋ΔＴの濃淡画像からそれぞれ得られた３枚の濃淡微分画像を用いるものとする。各時刻Ｔ−ΔＴ、Ｔ、Ｔ＋ΔＴの濃淡微分画像はそれぞれ適宜の閾値で２値化され、図９（ａ）のように濃淡微分画像から３枚の２値画像Ｅ（Ｔ−ΔＴ）、Ｅ（Ｔ）、Ｅ（Ｔ＋ΔＴ）が生成される。このような２値画像Ｅ（Ｔ−ΔＴ）、Ｅ（Ｔ）、Ｅ（Ｔ＋ΔＴ）では対象物Ｏｂの輪郭を含む領域が背景とは異なる画素値になる。ここでは、対象物Ｏｂの輪郭を含む領域の画素値を「１」とする。
【００８０】
対象物抽出部６では、時系列において隣り合っている各一対の２値画像（つまり、Ｅ（Ｔ−ΔＴ）とＥ（Ｔ）、Ｅ（Ｔ）とＥ（Ｔ＋ΔＴ））の差分を求める。差分の演算には、各一対の２値画像について同じ位置の一対の画素ごとに排他的論理和（ＸＯＲ）を求める論理演算を行う。このようにして得られた画像を以下では２値差分画像と呼ぶ。各一対の２値画像の差分として得られる２値差分画像では、図９（ｂ）のように、それぞれ対象物Ｏｂが２回ずつ現れる。これは、２枚の微分濃淡画像の差分画像を生成した場合と同様である。
【００８１】
３枚の濃淡微分画像を用いているのは、特定の時刻（時刻Ｔ）における濃淡微分画像に含まれる対象物Ｏｂを抽出するためであるから、２値画像Ｅ（Ｔ）に含まれる対象物Ｏｂを抽出するために、２枚の２値差分画像について同じ位置の一対の画素ごとに論理積を求める論理演算を行う。すなわち、２枚の２値差分画像では背景はほぼ除去されているから、２枚の２値差分画像について論理積の演算を行うと、図９（ｃ）のように共通部分は時刻Ｔにおける移動する対象物Ｏｂに対応する領域になる。このように、複数枚の２値画像を生成するとともに各２値画像における同位置の画素値を組み合わせる論理演算を適宜に行えば着目する時刻（時刻Ｔ）における対象物の領域を抽出することが可能になる。抽出された領域は背景がほぼ完全に除去されており、かつ対象物Ｏｂの境界を抽出することになるから、言わば、時刻Ｔにおける移動する対象物Ｏｂのシルエットを抽出したことになる。
【００８２】
上述のようにして濃淡微分画像から対象物Ｏｂのシルエットに相当する領域を抽出した後、当該領域にラベリングを施して連結領域を取り出し、各連結領域ごとに距離画像の画素値の平均値を求め、この平均値が規定の範囲内である領域を対象物Ｏｂとして抽出する。この方法により、所定の距離範囲の領域を抽出することができ、対象物Ｏｂの存在しない距離範囲のノイズを分離することができる。
【図面の簡単な説明】
【００８３】
【図１】本発明の実施形態を示すブロック図である。
【図２】同上の動作説明図である。
【図３】同上に用いる光検出素子の要部の動作説明図である。
【図４】同上に用いる光検出素子の平面図である。
【図５】同上に用いる光検出素子の要部の動作説明図である。
【図６】同上に用いる光検出素子の要部の動作説明図である。
【図７】同上の微分処理部の動作説明図である。
【図８】本発明の実施形態の他の構成例を示すブロック図である。
【図９】同上の動作説明図である。
【符号の説明】
【００８４】
１  光検出素子
２  発光源
３  制御回路部
４  画像生成部
５  微分処理部
６  輪郭抽出部
７  対象物判定部
１１  感光部
Ｏｂ  対象物
【図１】
2006046959.tif 000003
【図２】
2006046959.tif 000004
【図３】
2006046959.tif 000005
【図４】
2006046959.tif 000006
【図５】
2006046959.tif 000007
【図６】
2006046959.tif 000008
【図７】
2006046959.tif 000009
【図８】
2006046959.tif 000010
【図９】
2006046959.tif 000011