(57)【要約】【課題】対象空間に光量変化を生じる場合でも対象物の位置を再現性よく求めることができる画像処理装置を提供する。【解決手段】距離画像センサ１０は距離画像を生成する。微分処理部４は、距離画像から得た勾配方向値を画素値とする勾配方向画像を生成する。テンプレート記憶部６では、テンプレートの勾配方向画像に設定した基準点と各画素との距離と、基準点と当該画素とを結ぶ方向の角度と、当該画素の勾配方向値とを対応付けて記憶する。基準点候補算出部７は、検出する対象物Ｏｂを含む距離画像から生成した勾配方向画像の各画素について勾配方向値をテンプレート記憶部６に照合して求めた距離および角度を用いて基準点に対応した座標位置の候補を算出する。判定処理部９は、基準点候補算出部７で求めた座標位置の候補のうち度数が極大になる座標位置を基準点に対応する座標位置と判断する。【選択図】        図１
2006145352.tif 000002
【特許請求の範囲】
【請求項１】
対象空間に光を照射する発光源と、対象空間を撮像する光検出素子と、発光源から対象空間に照射され対象空間内の対象物で反射された反射光に対応する光検出素子の出力により対象物までの距離を求め画素値が距離値である距離画像を生成する画像生成部と、対象空間に設定した基準平面に対する各画素の勾配方向を表す勾配方向値を距離画像の距離値から求め勾配方向値を画素値とした勾配方向画像を生成する微分処理部と、テンプレートとする対象物の距離画像から生成した勾配方向画像をテンプレート画像としテンプレート画像に設定した基準点とテンプレート画像に含まれる各画素との距離および基準点と当該画素とを結ぶ方向がテンプレート画像の基準方向に対してなす角度および当該画素の勾配方向値とを対応付けて記憶するテンプレート記憶部と、検出する対象物を含む距離画像から生成した勾配方向画像を検出対象画像とし検出対象画像の各画素について勾配方向値をテンプレート記憶部に照合して求めた距離および角度を当該画素の座標位置に適用することにより検出対象画像においてテンプレート画像における基準点に対応した座標位置の候補を算出する基準点候補算出部と、各画素について基準点候補算出部で求めた座標位置の候補の度数分布を求める統計処理部と、統計処理部で求めた度数分布において度数が極大になる座標位置のうち規定の条件を満たす座標位置をテンプレート画像における基準点に対応する座標位置と判断する判定処理部とを備えることを特徴とする画像処理装置。
【請求項２】
前記テンプレート画像と前記検出対象画像との一方の拡大縮小率を他方に対して相対的に変化させる前置処理部を備えることを特徴とする請求項１記載の画像処理装置。
【請求項３】
前記テンプレート画像と前記検出対象画像との一方の回転角を他方に対して相対的に変化させる前置処理部を備えることを特徴とする請求項１記載の画像処理装置。
【請求項４】
前記テンプレートとする対象物が球体であり、前記基準点が球の中心であることを特徴とする請求項１ないし請求項３のいずれか１項に記載の画像処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、対象空間の画像を用いて対象空間に存在する対象物の位置を求める画像処理装置に関するものである。
【背景技術】
【０００２】
従来から、対象空間を撮像した画像を用いて対象空間を監視したり対象空間内の対象物の外観を抽出（欠陥検査、寸法計測など）したりする技術が種々提案されている（たとえば、特許文献１参照）。対象物の欠陥検査や寸法計測を行う場合には対象物の位置を求めることが必要になることがあり、この種の目的のために一般化ハフ変換などの技術が採用されている。
【特許文献１】特開平１１−２８４９９７号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
ところで、上述した技術において用いている画像は、対象空間の明暗を反映した濃淡画像であって、外光の光量変化の影響を受けるから、光量にほとんど変化の生じない環境でしか使用できないという問題がある。また、濃淡画像から三次元情報を得ることは難しく対象物の三次元の位置を知ることは困難である。しかも、一般化ハフ変換においては線画像の生成が必要であって、濃淡画像から生成される線画像は外光の光量変化によって形状が変化しやすく、線画像が対象物の形状を正確に反映していないことがあるから、光量変化の大きい場所では濃淡画像から生成される線画像に対して一般化ハフ変換の技術を適用しても対象物の位置を再現性よく求めることができない。
【０００４】
本発明は上記事由に鑑みて為されたものであり、その目的は、対象空間に光量変化を生じる場合でも対象物の位置を再現性よく求めることができる画像処理装置を提供することにある。
【課題を解決するための手段】
【０００５】
請求項１の発明は、対象空間に光を照射する発光源と、対象空間を撮像する光検出素子と、発光源から対象空間に照射され対象空間内の対象物で反射された反射光に対応する光検出素子の出力により対象物までの距離を求め画素値が距離値である距離画像を生成する画像生成部と、対象空間に設定した基準平面に対する各画素の勾配方向を表す勾配方向値を距離画像の距離値から求め勾配方向値を画素値とした勾配方向画像を生成する微分処理部と、テンプレートとする対象物の距離画像から生成した勾配方向画像をテンプレート画像としテンプレート画像に設定した基準点とテンプレート画像に含まれる各画素との距離および基準点と当該画素とを結ぶ方向がテンプレート画像の基準方向に対してなす角度および当該画素の勾配方向値とを対応付けて記憶するテンプレート記憶部と、検出する対象物を含む距離画像から生成した勾配方向画像を検出対象画像とし検出対象画像の各画素について勾配方向値をテンプレート記憶部に照合して求めた距離および角度を当該画素の座標位置に適用することにより検出対象画像においてテンプレート画像における基準点に対応した座標位置の候補を算出する基準点候補算出部と、各画素について基準点候補算出部で求めた座標位置の候補の度数分布を求める統計処理部と、統計処理部で求めた度数分布において度数が極大になる座標位置のうち規定の条件を満たす座標位置をテンプレート画像における基準点に対応する座標位置と判断する判定処理部とを備えることを特徴とする。
【０００６】
この構成では、テンプレートとする対象物の距離画像から生成した勾配方向画像をテンプレート画像に用いるとともに、検出する対象物を含む距離画像から生成した勾配方向画像を検出対象画像に用い、テンプレート画像における各画素の勾配方向値に対応付けた基準点との距離および方向（基準点と画素とを結ぶ方向が基準方向に対してなす角度）の関係を、検出対象画像の各画素に適用することにより検出対象画像における基準点の座標位置の候補を求め、基準点の候補の度数から基準点の座標位置を求めるから、検出対象画像における基準点の座標位置を明るさの影響を受けることなく求めることができ、対象物の位置を再現性よく求めることができる。たとえば、人の顔の線画像が得られたときに、顔の形状は複雑でありかつ個人差があるから、顔の位置および姿勢を抽出するには一般に複雑な演算を要し、また顔を撮像するたびに周囲の光量が異なるから位置および姿勢を再現性よく抽出すること（つまり、撮像毎に同程度の確からしさで結果を得ること）は困難であるが、上述した構成を採用することにより、顔の位置および姿勢を再現性よく抽出することが可能になる。また、テンプレート画像および検出対象画像を生成する距離画像には三次元の情報が含まれているが、テンプレート画像および検出対象画像の各画素は勾配方向値を持つのみであって三次元情報は含まれていないから、二次元画像を扱う程度の演算量で対象物の座標位置を求めることができる。
【０００７】
請求項２の発明では、請求項１の発明において、前記テンプレート画像と前記検出対象画像との一方の拡大縮小率を他方に対して相対的に変化させる前置処理部を備えることを特徴とする。
【０００８】
この構成によれば、前置処理部において拡大縮小率を調節することができるから、テンプレート画像と検出対象画像との中で対象物のサイズが異なっていても、両者を略一致させることにより、検出対象である対象物の基準点の位置を正確に求めることが可能になる。さらに、二次元情報の画像である勾配方向画像を用いてテンプレート画像の基準点に対応する座標位置を抽出し、しかも拡大縮小率を調節しているから、対象物までの距離に関係なく基準点に対応する座標位置を求めることができ、対象物までの距離が変化しても基準点に対応する座標位置を求めることができる。
【０００９】
請求項３の発明では、請求項１の発明において、前記テンプレート画像と前記検出対象画像との一方の回転角を他方に対して相対的に変化させる前置処理部を備えることを特徴とする。
【００１０】
この構成によれば、前記処理部において回転角を調節することができるから、テンプレート画像と検出対象画像との中で対象物の回転角が異なっていても、両者を略一致させることにより、検出対象である対象物の基準点の位置を正確に求めることが可能になる。しかも、対象物の座標位置だけではなく対象物の姿勢も求めるときには、前置処理部において回転角を調節することにより回転角に関する演算量を低減することが可能になる。
【００１１】
請求項４の発明では、請求項１ないし請求項３の発明において、前記テンプレートとする対象物が球体であり、前記基準点が球の中心であることを特徴とする。
【００１２】
この構成によれば、テンプレートとなる対象物を球体としているから対象物の回転位置を考慮する必要がなく、基準点の位置を対象物の位置として求めることが可能になる。すなわち、他形状を用いる場合よりもパラメータの個数を削減することができる。
【発明の効果】
【００１３】
本発明の構成によれば、検出対象画像における基準点の座標位置を明るさの影響を受けることなく求めることができ、対象物の位置を再現性よく求めることができるという利点がある。
【発明を実施するための最良の形態】
【００１４】
本発明の実施形態を説明するにあたり、まず本実施形態で用いる距離画像センサの構成について説明する。
【００１５】
距離画像センサ１０は、図１に示すように、対象空間に光を照射する発光源２を備えるとともに、対象空間からの光を受光し受光光量を反映した出力値の電気出力が得られる光検出素子１を備える。対象空間に存在する対象物Ｏｂまでの距離は、発光源２から対象空間に光が照射されてから対象物Ｏｂでの反射光が光検出素子１に入射するまでの時間（「飛行時間」と呼ぶ）によって求める。ただし、飛行時間は非常に短いから、対象空間に照射する光の強度が一定周期で周期的に変化するように変調した強度変調光を用い、強度変調光を受光したときの位相を用いて飛行時間を求める。なお、本発明の技術思想は、距離画像センサ１０として、飛行時間により距離画像を生成する構成のほか、三角測量法の原理によって距離画像を生成する構成においても採用可能である。ただし、以下に説明する構成の距離画像センサ１０は、三角測量法の原理を用いる距離画像センサに比較して短時間で（ほぼ実時間）で距離画像を生成できるから、三角測量法の原理を採用した距離画像センサよりも好ましい。
【００１６】
図２（ａ）に示すように、発光源２から空間に放射する光の強度が曲線イのように変化し、光検出素子１で受光した受光光量が曲線ロのように変化するとすれば、位相差ψは飛行時間に相当するから、位相差ψを求めることにより対象物Ｏｂまでの距離を求めることができる。また、位相差ψは、曲線イの複数のタイミングで求めた曲線ロの受光光量を用いて計算することができる。たとえば、曲線イにおける位相が０度、９０度、１８０度、２７０度の位相で求めた曲線ロの受光光量がそれぞれＡ０、Ａ１、Ａ２、Ａ３であるとする（受光光量Ａ０、Ａ１、Ａ２、Ａ３を斜線部で示している）。ただし、各位相における受光光量Ａ０、Ａ１、Ａ２、Ａ３は、瞬時値ではなく所定の受光期間Ｔｗで積算した受光光量を用いる。いま、受光光量Ａ０、Ａ１、Ａ２、Ａ３を求める間に、位相差ψが変化せず（つまり、対象物Ｏｂまでの距離が変化せず）、かつ対象物Ｏｂの反射率にも変化がないものとする。また、発光源２から放射する光の強度を正弦波で変調し、時刻ｔにおいて光検出素子１で受光される光の強度がＡ・ｓｉｎ（ωｔ＋δ）＋Ｂで表されるものとする。ここに、Ａは振幅、Ｂは直流成分（外光成分と反射光成分との平均値）、ωは角振動数、δは初期位相である。光検出素子１で受光する受光光量Ａ０、Ａ１、Ａ２、Ａ３を受光期間Ｔｗの積算値ではなく瞬時値とし、変調の周期に同期した時刻ｔ＝ｎ／ｆ（ｎ＝０、１、２、…、ｆは変調の周波数）における受光光量を、Ａ０＝Ａ・ｓｉｎ（δ）＋Ｂとすれば、受光光量Ａ０、Ａ１、Ａ２、Ａ３は、次のように表すことができる。なお、反射光成分とは、発光源２から放射され対象物Ｏｂにより反射された後に光検出素子１に入射する光の成分を意味する。
Ａ０＝Ａ・ｓｉｎ（δ）＋Ｂ
Ａ１＝Ａ・ｓｉｎ（π／２＋δ）＋Ｂ
Ａ２＝Ａ・ｓｉｎ（π＋δ）＋Ｂ
Ａ３＝Ａ・ｓｉｎ（３π／２＋δ）＋Ｂ
図２では位相差がψであるから、光検出信号１の受光光量に関する波形の初期位相δ（時刻ｔ＝０の位相）は−ψになる。つまり、δ＝−ψであるから、Ａ０＝−Ａ・ｓｉｎ（ψ）＋Ｂ、Ａ１＝Ａ・ｃｏｓ（ψ）＋Ｂ、Ａ２＝Ａ・ｓｉｎ（ψ）＋Ｂ、Ａ３＝−Ａ・ｃｏｓ（ψ）＋Ｂであり、結果的に、各受光光量Ａ０、Ａ１、Ａ２、Ａ３と位相差ψとの関係は、次式のようになる。
ψ＝ｔａｎ−１｛（Ａ２−Ａ０）／（Ａ１−Ａ３）｝    …（１）
（１）式では受光光量Ａ０、Ａ１、Ａ２、Ａ３の瞬時値を用いているが、受光光量Ａ０、Ａ１、Ａ２、Ａ３として受光期間Ｔｗにおける積算値を用いても（１）式で位相差ψを求めることができる。
【００１７】
また、光検出素子１で受光される光の強度をＡ・ｃｏｓ（ωｔ＋δ）＋Ｂとする場合、つまり変調の周期に同期した時刻ｔ＝ｎ／ｆ（ｎ＝０、１、２、…）における受光光量を、Ａ０＝Ａ・ｃｏｓ（δ）＋Ｂとすれば、位相差ψを次式で求めることができる。
ψ＝ｔａｎ−１｛（Ａ１−Ａ３）／（Ａ０−Ａ２）｝
この関係は、変調の周期に同期させるタイミングを９０度ずらした関係である。また、距離値の符号は正であるから、位相差ψを求めたときに符号が負になる場合には、ｔａｎ−１の括弧内の分母または分子の各項の順序を入れ換えるか括弧内の絶対値を用いるようにしてもよい。
【００１８】
上述のように対象空間に照射する光の強度を変調するために、発光源２としては、たとえば多数個の発光ダイオードを一平面上に配列したものや半導体レーザと発散レンズとを組み合わせたものなどを用いる。また、発光源２は、制御回路部３から出力される所定の変調周波数である変調信号によって駆動され、発光源２から放射される光は変調信号により強度が変調される。制御回路部３では、たとえば２０ＭＨｚの正弦波で発光源２から放射する光の強度を変調する。なお、発光源２から放射する光の強度は正弦波で変調する以外に、三角波、鋸歯状波などで変調してもよく、要するに、一定周期で強度を変調するのであれば、どのような構成を採用してもよい。
【００１９】
光検出素子１は、規則的に配列された複数個の感光部１１を備える。また、感光部１１への光の入射経路には受光光学系１６が配置される。感光部１１は光検出素子１において対象空間からの光が受光光学系１６を通して入射する部位であって、感光部１１において受光光量に応じた量の電荷を生成する。また、感光部１１は、平面格子の格子点上に配置され、たとえば垂直方向（つまり、縦方向）と水平方向（つまり、横方向）とにそれぞれ等間隔で複数個ずつ並べたマトリクス状に配列される。
【００２０】
受光光学系１６は、光検出素子１から対象空間を見るときの視線方向と各感光部１１とを対応付ける。すなわち、受光光学系１６を通して各感光部１１に光が入射する範囲を、受光光学系１６の中心を頂点とし各感光部１１ごとに設定された頂角の小さい円錐状の視野とみなすことができる。したがって、発光源２から放射され対象空間に存在する対象物Ｏｂで反射された反射光が感光部１１に入射すれば、反射光を受光した感光部１１の位置により、受光光学系１６の光軸を基準方向として対象物Ｏｂの存在する方向を知ることができる。
【００２１】
受光光学系１６は一般に感光部１１を配列した平面に光軸を直交させるように配置されるから、受光光学系１６の中心を原点とし、感光部１１を配列した平面の垂直方向と水平方向と受光光学系１６の光軸とを３軸の方向とする直交座標系を設定すれば、対象空間に存在する対象物Ｏｂの位置を球座標で表したときの角度（いわゆる方位角と仰角）が各感光部１１に対応する。なお、受光光学系１６は、感光部１１を配列した平面に対して光軸が９０度以外の角度で交差するように配置することも可能である。
【００２２】
本実施形態では、上述のように、対象物Ｏｂまでの距離を求めるために、発光源２から対象空間に照射される光の強度変化に同期する４点のタイミングで受光光量Ａ０、Ａ１、Ａ２、Ａ３を求めている。したがって、目的の受光光量Ａ０、Ａ１、Ａ２、Ａ３を得るためのタイミングの制御が必要である。また、発光源２から対象空間に照射される光の強度変化の１周期において感光部１１で発生する電荷の量は少ないから、複数周期に亘って電荷を集積することが望ましい。そこで、図１のように各感光部１１で発生した電荷をそれぞれ集積する複数個の電荷集積部１３を設けるとともに、各感光部１１の感度をそれぞれ調節する複数個の感度制御部１２を設けている。
【００２３】
各感度制御部１２では、感度制御部１２に対応する感光部１１の感度を上述した４点のうちのいずれかのタイミングで高め、感度が高められた感光部１１では当該タイミングの受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を主として生成するから、当該受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を当該感光部１１に対応する電荷集積部１３に集積させることができる。
【００２４】
以下では、感度制御部１２の具体的な構成として、感光部１１で生成された電荷のうち電荷集積部１３に与える電荷の割合を調節する技術と、実質的に感光部１１として機能する部位の面積を変化させる技術とを示す。電荷集積部１３に与える電荷の割合を調節する技術には、感光部１１から電荷集積部１３への通過率を調節する技術と、感光部１１から電荷を廃棄する廃棄率を調節する技術と、通過率と廃棄率との両方を調節する技術とがある。
【００２５】
感度制御部１２において通過率と廃棄率とを調節する技術では、図３に示すように、感光部１１と電荷集積部１３との間にゲート電極１２ａを設け、ゲート電極１２ａに印加する通過電圧を変化させることにより、感光部１１から電荷集積部１３への電荷の移動（つまり、通過率）を制御する。また、電荷廃棄部１２ｃを設け、電荷廃棄部１２ｃに付設した廃棄電極１２ｂに印加する廃棄電圧を変化させることにより、感光部１１から電荷廃棄部１２ｃへの電荷の移動（つまり、廃棄率）を制御する。電荷集積部１３は感光部１１ごとに一対一に対応するように設けられ、電荷廃棄部１２ｃは複数個の感光部１１に共通させて一対多に対応するように設けられる。図示例では、光検出素子１のすべての感光部１１で１組の廃棄電極１２ｂおよび電荷廃棄部１２ｃを共用している。
【００２６】
感度を制御するために、感光部１１からの電荷の廃棄を行わずに感光部１１から電荷集積部１３への通過率の制御のみを行うことが考えられるが、電荷の廃棄を行わなければ感光部１１において電荷が暫時残留するから、感光部１１で生成された電荷のうち不要な残留電荷が、利用する電荷（以下、信号電荷という）に雑音成分として混入する。したがって、信号電荷への残留電荷の混入を防止するために、ゲート電極１２ａに印加する通過電圧だけでなく廃棄電極１２ｂに印加する廃棄電圧を制御する。
【００２７】
ゲート電極１２ａと廃棄電極１２ｂとを用いて感度を制御するには、ゲート電極１２ａに印加する通過電圧を一定電圧に保つことにより感光部１１で生成された電荷を電荷集積部１３に通過可能としておき、感光部１１で生成された電荷のうち信号電荷に用いる電荷が生成される期間以外には感光部１１から電荷廃棄部１２ｃに電荷が移動するように廃棄電極１２ｂに廃棄電圧を印加する。要するに、感光部１１において信号電荷として用いる電荷が生成される期間にのみ電荷廃棄部１２ｃへの電荷の廃棄を行わず、他の期間には電荷廃棄部１２ｃに電荷を廃棄することにより、信号電荷として用いようとする期間に生成された電荷のみを電荷集積部１３に集積する。
【００２８】
いま、図４（ａ）のような変調信号により発光源２から空間に照射される光の強度が変調されているとする。電荷集積部１３には変調信号の複数周期（数万〜数十万周期）において変調信号に同期する特定の区間の受光光量Ａ０，Ａ１，Ａ２，Ａ３に相当する電荷を集積し、各区間の電荷の集積毎に集積した信号電荷を取り出して次の区間の電荷を集積する。たとえば、受光光量Ａ０に相当する電荷を変調信号の数万周期について集積すると、この受光光量Ａ０に相当する信号電荷を一旦外部に取り出し、その後、受光光量Ａ１に相当する電荷を変調信号の数万周期について集積する。
【００２９】
図４は受光光量Ａ０に相当する電荷を集積している状態を示しており、図４（ｂ）に示すようにゲート電極１２ａに印加する通過電圧を一定電圧に保っている。また、受光光量Ａ０に相当する電荷としては、変調信号の位相が０〜９０度の区間において感光部１１で生成された電荷を採用している。つまり、廃棄電極１２ｂには、図４（ｃ）のように変調信号の位相が９０〜３６０度の区間において、感光部１１で生成される電荷を不要電荷とするように廃棄電圧を印加する。この制御により、図４（ｄ）のように所望の区間の受光光量Ａ０に対応した信号電荷を電荷集積部１３に集積することが可能になる。図４に示す処理は変調信号の数万〜数十万周期について行われ、この期間に電荷集積部１３に得られた信号電荷は受光光量Ａ０に対応する受光出力として電荷取出部１４により取り出される。
【００３０】
電荷取出部１４から取り出された電荷は画像生成部１５に画像信号として与えられ、画像生成部１５において、対象空間内の対象物Ｏｂまでの距離が、上述した（１）式を用いて受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する受光出力から算出される。すなわち、画像生成部１５では各感光部１１に対応した各方向における対象物Ｏｂまでの距離が算出され、対象空間の三次元情報が算出される。この三次元情報を用いると、対象空間の各方向に一致する画素の画素値が距離値である距離画像を生成することができる。
【００３１】
なお、上述の制御では、廃棄電極１２ｂに廃棄電圧を印加している期間においてゲート電極１２ａにも一定電圧である通過電圧を印加しているが、廃棄電圧と通過電圧との大小関係を適宜に設定すれば、不要電荷を廃棄している期間には信号電荷がほとんど集積されないようにすることができる。また、変調信号の数万〜数十万周期について電荷を集積しているのは、集積する電荷量を多くすることによって高感度化するためであり、変調信号をたとえば２０ＭＨｚと設定すれば、３０フレーム／秒で信号電荷を取り出すとしても、数十万周期以上の集積が可能になる。
【００３２】
上述したように、廃棄電極１２ｂを備えた電荷廃棄部１２ｃを設け、感光部１１に生じた電荷のうち信号電荷として利用しない不要電荷を電荷廃棄部１２ｃに積極的に廃棄しているから、感光部１１において電荷集積部１３に信号電荷を与えていない期間に感光部１１で生成される電荷はほとんどが不要電荷として廃棄されることになり、信号電荷への雑音成分の混入が大幅に抑制される。
【００３３】
上述の例では、ゲート電極１２ａに一定電圧である通過電圧を印加している期間に廃棄電極１２ｂに廃棄電圧を印加する期間と印加しない期間とを設けることによって、廃棄電圧が印加されていない期間において感光部１１に生成された電荷を信号電荷として用いているが、図５に示すように、ゲート電極１２ａに通過電圧を印加する期間と廃棄電極１２ｂに廃棄電圧を印加する期間とが重複しないように制御してもよい。
【００３４】
図５は受光光量Ａ０に対応する信号電荷を集積する場合の動作を示している。図５（ａ）は発光源２から空間に照射される光の強度を変調する変調信号を示しており、ゲート電極１２ａには、図５（ｂ）のように、受光光量Ａ０に対応するタイミングで通過電圧を印加する。ゲート電極１２ａに通過電圧を印加する期間は、変調信号の位相における０度から一定期間（図示例では０〜９０度）に設定され、この期間において感光部１１から電荷集積部１３への電荷の移動が可能になる。一方、廃棄電極１２ｂには、図５（ｃ）のように、電荷集積部１３に受光光量Ａ０に相当する信号電荷を集積する期間以外において廃棄電圧を印加し、信号電荷を集積する期間以外では感光部１１で生成した電荷を不要電荷として電荷廃棄部１２ｃに廃棄する。このような制御によって、図５（ｄ）のように受光光量Ａ０に相当する信号電荷を取り出すことが可能になる。
【００３５】
図５に示す制御では、ゲート電極１２ａに通過電圧を印加している期間と廃棄電極１２ｂに廃棄電圧を印加している期間とが異なるから、図４に示した制御例のように通過電圧と廃棄電圧との大小関係を考慮しなくとも通過電圧と廃棄電圧との大きさを独立して制御することができ、結果的に通過電圧および廃棄電圧の制御が容易になり、感光部１１で受光した光量に対して信号電荷を取り込む割合である感度の制御が容易になるとともに、感光部１１で生成された電荷のうち不要電荷として廃棄する割合の制御が容易になる。また、図５に示す制御例では、電荷集積部１３に信号電荷を集積する期間はゲート電極１２ａに印加する通過電圧により規定されるから、廃棄電極１２ｂに廃棄電圧を印加する期間を短縮することが可能であり、たとえば、ゲート電極１２ａに通過電圧を印加する直前の所定期間にのみ廃棄電極１２ｂに廃棄電圧を印加することも可能である。
【００３６】
図５に示す制御を行えば、感光部１１で生成した電荷を電荷集積部１３に信号電荷として集積していない期間において感光部１１で生成される電荷をほとんど不要電荷として廃棄するから、信号電荷への雑音成分の混入が大幅に抑制されることになる。
【００３７】
通過電圧と廃棄電圧との制御例としては、図６に示すように、廃棄電極１２ｂに印加する廃棄電圧を一定電圧に保って感光部１１で生成された電荷の一部をつねに廃棄するようにしてもよい。図６の制御例では、ゲート電極１２ａに通過電圧を印加する期間と印加しない期間とを設け、通過電圧を印加する期間を電荷集積部１３に信号電荷を集積する期間としている。
【００３８】
図６は受光光量Ａ０に相当する信号電荷を集積する場合の動作を示している。図６（ａ）は発光源２から空間に照射される光の強度を変調する変調信号を示しており、電荷集積部１３に設けたゲート電極１２ａには、図６（ｂ）のように、受光光量Ａ０に対応する期間に通過電圧が印加され、感光部１１において生成された電荷を受光光量Ａ０に相当する信号電荷として電荷集積部１３に集積する。つまり、ゲート電極１２ａに通過電圧を印加する期間は、変調信号の位相における０度から一定期間（図示例では０〜９０度）に設定され、この期間において感光部１１から電荷集積部１３への電荷の移動が可能になる。一方、廃棄電極１２ｂには、図６（ｃ）のように、直流電圧である一定電圧の廃棄電圧がつねに印加され、感光部１１で生成された電荷の一部をつねに不要電荷として電荷廃棄部１２ｃに廃棄する。上述の制御では、信号電荷を電荷集積部１３に集積する期間にのみゲート電極１２ａに通過電圧を印加しているから、図６（ｄ）のように受光光量Ａ０に相当する信号電荷を取り出すことが可能になる。
【００３９】
図６に示す制御では、ゲート電極１２ａに通過電圧を印加しているか否かにかかわらず廃棄電極１２ｂに一定電圧の廃棄電圧を印加しているから、感光部１１において生成された電荷のうち電荷集積部１３に信号電荷として集積されなかった不要電荷は、廃棄電荷として電荷廃棄部１２ｃに廃棄される。ここで、感光部１１で生成された電荷の一部を信号電荷として電荷集積部１３に集積する期間においても感光部１１から電荷廃棄部１２ｃへの電荷の廃棄が継続しているから、信号電荷を電荷集積部１３に適正に集積するために、通過電圧と廃棄電圧との大小関係を考慮する必要がある。ただし、廃棄電圧は一定電圧であって廃棄電極１２ｂにつねに印加しているだけであるから、実際には通過電圧のみを制御すればよく、制御自体は容易である。
【００４０】
図３に示した感度制御部１２を備える光検出素子１は、オーバーフロードレインを備えたＣＣＤイメージセンサにより実現することができる。ＣＣＤイメージセンサにおける電荷の転送方式はどのようなものでもよく、インターライントランスファ（ＩＴ）方式、フレームトランスファ（ＦＴ）方式、フレームインターライントランスファ（ＦＩＴ）方式のいずれであってもよい。
【００４１】
図７に縦型オーバーフロードレインを備えるインターライントランスファ方式のＣＣＤイメージセンサの構成を示す。図示例は、感光部１１となるフォトダイオード４１を水平方向と垂直方向とに複数個ずつ（図では３×４個）配列した２次元イメージセンサであって、垂直方向に配列したフォトダイオード４１の各列の右側方にＣＣＤからなる垂直転送レジスタ４２を備え、フォトダイオード４１および垂直転送レジスタ４２が配列された領域の下方にＣＣＤからなる水平転送レジスタ４３を備える。垂直転送レジスタ４２は各フォトダイオード４１ごとに２個ずつの転送電極４２ａ，４２ｂを備え、水平転送レジスタ４３は各垂直転送レジスタ４２ごとに２個ずつの転送電極４３ａ，４３ｂを備える。
【００４２】
フォトダイオード４１と垂直転送レジスタ４２と水平転送レジスタ４３とは１枚の半導体基板４０上に形成され、半導体基板４０の主表面には、フォトダイオード４１と垂直転送レジスタ４２と水平転送レジスタ４３との全体を囲む形でアルミニウム電極であるオーバーフロー電極４４が、半導体基板４０の全周に亘って絶縁膜を介さずに半導体基板４０に直接接触するように設けられる。オーバーフロー電極４４に半導体基板４０に対して正極性になる適宜の廃棄電圧を印加すればフォトダイオード４１で生成された電子（電荷）はオーバーフロー電極４４を通して廃棄される。オーバーフロー電極４４は、感光部１１であるフォトダイオード４１において生成した電荷のうち不要電荷を廃棄する際に廃棄電圧が印加されるから廃棄電極１２ｂとして機能し、オーバーフロー電極４４に廃棄電圧を印加する電源が感光部１１で生成された電子（電荷）を廃棄する電荷廃棄部１２ｃとして機能する。半導体基板４０の表面はフォトダイオード４１に対応する部位を除いて遮光膜４６（図８参照）により覆われる。
【００４３】
図７に示したＣＣＤイメージセンサについて、１個のフォトダイオード４１に関連する部分を切り出して図８に示す。半導体基板４０にはｎ形半導体を用い、半導体基板４０の主表面にはフォトダイオード４１と垂直転送レジスタ４２とに跨る領域にｐ形半導体からなるウェル領域３１を形成している。ウェル領域３１は、フォトダイオード４１に対応する領域に比較して垂直転送レジスタ４２に対応する領域の厚み寸法が大きくなるように形成してある。ウェル領域３１のうちフォトダイオード４１に対応する領域にはｎ＋形半導体層３２を重ねて設けてあり、ウェル領域３１とｎ＋形半導体層３２とのｐｎ接合によってフォトダイオード４１が形成される。フォトダイオード４１の表面にはｐ＋形半導体からなる表面層３３を積層してある。表面層３３はフォトダイオード４１で生成された電荷を垂直転送レジスタ４２に移動させる際に、ｎ＋形半導体層３２の表面付近が電荷の通過経路にならないように制御する目的で設けてある。このような構造は、埋込フォトダイオードとして知られている。
【００４４】
ウェル領域３１のうち垂直転送レジスタ４２に対応する領域にはｎ形半導体からなる蓄積転送層３４を重ねて設けてある。蓄積転送層３４の表面と表面層３３の表面とは略同一平面であって、蓄積転送層３４の厚み寸法は表面層３３の厚み寸法よりも大きくしてある。蓄積転送層３４は、表面層３３とは接触しているが、ｎ＋形半導体層３２との間には、表面層３３と不純物濃度が等しいｐ＋形半導体からなる分離層３５が介在する。蓄積転送層３４の表面には、絶縁膜４５を介して転送電極４２ａ，４２ｂが配置される。転送電極４２ａ，４２ｂは１個のフォトダイオード４１に対して２個ずつ設けられ、垂直方向において２個の転送電極４２ａ，４２ｂのうちの一方は他方よりも広幅に形成される。具体的には、図９のように、１個のフォトダイオード４１に対応する２個の転送電極４２ａ，４２ｂのうち狭幅の転送電極４２ｂは平板状に形成されており、広幅の転送電極４２ａは、幅狭の転送電極４２ｂと同一平面上に配列され一対の転送電極４２ｂの間に配置される平板状の部分と、平板状の部分の垂直方向（図９の左右方向）における両端部からそれぞれ延長され転送電極４２ｂの上に重複する湾曲した部分とを備える。ここに、絶縁膜４５はＳｉＯ２  により形成され、また転送電極４２ａ，４２ｂはポリシリコンにより形成され、各転送電極４２ａ，４２ｂは絶縁膜４５を介して互いに絶縁されている。さらに、フォトダイオード４１に光を入射させる部位を除いて光検出素子１の表面は遮光膜４６により覆われる。ウェル領域３１において垂直転送レジスタ４２に対応する領域および蓄積転送層３４は垂直転送レジスタ４２の全長に亘って形成され、したがって、蓄積転送層３４には広幅の転送電極４２ａと狭幅の転送電極４２ｂとが交互に配列される。
【００４５】
上述した光検出素子１では、フォトダイオード４１が感光部１１に相当し、転送電極４２ａが通過電極１２ａに相当し、オーバーフロー電極４４が廃棄電極１２ｂに相当し、垂直転送レジスタ４２が電荷集積部１３および電荷取出部１４の一部として機能する。また、水平転送レジスタ４３も電荷取出部１４の一部になる。すなわち、フォトダイオード４１に光が入射すれば電荷が生成され、フォトダイオード４１で生成された電荷のうち垂直転送レジスタ４２に信号電荷として引き渡される電荷の割合は転送電極４２ａに印加する通過電圧とオーバーフロー電極４４に印加する廃棄電圧との関係によって決めることができる。転送電極４２ａに通過電圧を印加すると蓄積転送層３４にポテンシャル井戸が形成され、通過電圧の制御によりポテンシャル井戸の深さを制御することができる。したがって、ポテンシャル井戸の深さおよび通過電圧を印加する時間とを制御すれば、フォトダイオード４１から垂直転送レジスタ４２に引き渡される電荷の割合を調節することができる。また、オーバーフロー電極４４に印加する廃棄電圧を制御すれば、フォトダイオード４１と半導体基板４０との間の電位勾配を制御することができるから、電位勾配と廃棄電圧を印加する時間とを制御すれば、垂直転送レジスタ４２に引き渡される電荷の割合を調節することができる。通過電圧と廃棄電圧とは図４ないし図６に示した制御例のように制御すればよい。
【００４６】
フォトダイオード４１から垂直転送レジスタ４２に引き渡された信号電荷は、上述した４区間の受光光量Ａ０，Ａ１，Ａ２，Ａ３のうちの各１区間の受光光量Ａ０，Ａ１，Ａ２，Ａ３に相当する信号電荷が集積されるたびに読み出される。たとえば、受光光量Ａ０に相当する信号電荷が各フォトダイオード４１に対応して形成されるポテンシャル井戸に集積されると信号電荷を読み出し、次に受光光量Ａ１に相当する信号電荷がポテンシャル井戸に集積されると再び信号電荷を読み出すという動作を繰り返す。なお、各受光光量Ａ０，Ａ１，Ａ２，Ａ３に相当する信号電荷を集積する期間は等しく設定しておく。
【００４７】
ところで、上述した制御例のうち、図４に示す制御例では、感光部１１（フォトダイオード４１）で生成された電荷（電子）を電荷集積部１３（垂直転送レジスタ４２）に対してつねに引き渡しているから、電荷集積部１３に集積された電荷は必ずしも目的の受光光量Ａ０、Ａ１、Ａ２、Ａ３が得られる期間に生成された電荷だけではなく、目的外の期間に生成された電荷も混入することになる。いま、感度制御部１２において、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応した電荷を生成する期間の感度をα、それ以外の期間の感度をβとし、感光部１１は受光光量に比例する電荷を生成するものとする。この条件では、受光光量Ａ０に対応した電荷を集積する電荷集積部１３には、αＡ０＋β（Ａ１＋Ａ２＋Ａ３）＋βＡｘ（Ａｘは受光光量Ａ０、Ａ１、Ａ２、Ａ３が得られる期間以外の受光光量）に比例する電荷が集積され、受光光量Ａ２に対応した電荷を集積する電荷集積部１３には、αＡ２＋β（Ａ０＋Ａ１＋Ａ３）＋βＡｘに比例する電荷が集積される。上述したように、位相差ψを求める際には（Ａ２−Ａ０）を求めており、（Ａ２−Ａ０）に相当する値を電荷集積部１３に集積した電荷から求めると（α−β）（Ａ２−Ａ０）になり、同様にして（Ａ１−Ａ３）に相当する値は（α−β）（Ａ１−Ａ３）になるから、（Ａ２−Ａ０）／（Ａ１−Ａ３）は電荷の混入の有無によらず理論上は同じ値になるのであって、電荷が混入しても求める位相差ψは同じ値になる。
【００４８】
上述した構成例では、ＣＣＤイメージセンサを光検出素子１に用い、電荷集積部１３に通過させる電荷の量と、電荷廃棄部１２ｃに廃棄する電荷の量との少なくとも一方を制御することにより感度制御部１２を構成する例を示したが、以下に示す感度制御部１２は、感光部１１において利用できる電荷を生成する領域の面積（実質的な受光面積）を変化させるものである。
【００４９】
以下に光検出素子１の具体的構造例を説明する。図１０に示す光検出素子１は、複数個（たとえば、１００×１００個）の感光部１１をマトリクス状に配列したものであって、たとえば１枚の半導体基板上に形成される。１個の感光部１１は不純物を添加した半導体層２１に酸化膜からなる絶縁膜２２を介して複数個（図では５個）の転送電極４３を配列した構成を有する。図示例では電極が並ぶ方向（左右方向）が垂直方向であり、感光部１１で生成した電荷（本実施形態では、電子を用いる）を取り出す際には、垂直転送レジスタにより電荷を垂直方向に転送した後、水平転送レジスタを用いて水平方向に転送される。つまり、垂直転送レジスタと水平転送レジスタとにより電荷取出部１４が構成される。垂直転送レジスタおよび水平転送レジスタの構成には、ＣＣＤイメージセンサにおけるインターライントランスファ（ＩＴ）方式、フレームトランスファ（ＦＴ）方式、フレームインターライントランスファ（ＦＩＴ）方式と同様の構成を採用することができる。
【００５０】
すなわち、垂直方向に並ぶ各感光部１１が一体に連続する半導体層２１を共用するとともに半導体層２１を垂直転送レジスタに用いれば、半導体層２１が感光部１１と電荷の転送経路とに兼用された構造になり、ＦＴ方式のＣＣＤイメージセンサと同様にして電荷を垂直方向に転送することができ、また、感光部１１から転送ゲートを介して垂直転送レジスタに電荷を転送すれば、ＩＴ方式またはＦＩＴ方式のＣＣＤイメージセンサと同様にして電荷を転送することができる。
【００５１】
上述のように、半導体層２１は不純物が添加してあり、半導体層２１の主表面は酸化膜からなる絶縁膜２２により覆われ、半導体層２１に絶縁膜２２を介して複数個の転送電極４３を配置している。この光検出素子１はＭＩＳ素子として知られた構造であるが、１個の光検出素子１として機能する領域に複数個（図示例では５個）の転送電極４３を備える点が通常のＭＩＳ素子とは異なる。絶縁膜２２および転送電極４３は発光源２から対象空間に照射される光と同波長の光が透過するように材料が選択され、絶縁膜２２を通して半導体層２１に光が入射すると、半導体層２１の内部に電荷が生成される。図示例の半導体層２１の導電形はｎ形であり、光の照射により生成される電荷として電子ｅを利用する。図１０は１個の感光部１１に対応する領域のみを示したものであり、半導体基板（図示せず）には上述したように図１０の構造を持つ領域が複数個配列されるとともに電荷取出部１４となる構造が設けられる。電荷取出部１４として設ける垂直転送レジスタは、図１０の左右方向に電荷を転送することを想定しているが、図１０の面に直交する方向に電荷を転送する構成を採用することも可能である。また、電荷を図の左右方向に転送する場合には、転送電極４３の左右方向の幅寸法を１μｍ程度に設定するのが望ましい。
【００５２】
この構造の光検出素子１では、転送電極４３に正の制御電圧＋Ｖを印加すると、半導体層２１には転送電極４３に対応する部位に電子ｅを集積するポテンシャル井戸（空乏層）２４が形成される。つまり、半導体層２１にポテンシャル井戸２４を形成するように転送電極４３に制御電圧を印加した状態で光が半導体層２１に照射されると、ポテンシャル井戸２４の近傍で生成された電子ｅの一部はポテンシャル井戸２４に捕獲されてポテンシャル井戸２４に集積され、残りの電子ｅは半導体層２１の深部での再結合により消滅する。また、ポテンシャル井戸２４から離れた場所で生成された電子ｅも半導体層２１の深部での再結合により消滅する。
【００５３】
ポテンシャル井戸２４は制御電圧を印加した転送電極４３に対応する部位に形成されるから、制御電圧を印加する転送電極４３の個数を変化させることによって、半導体層２１の主表面に沿ったポテンシャル井戸２４の面積（言い換えると、受光面において利用できる電荷を生成する領域の面積）を変化させることができる。つまり、制御電圧を印加する転送電極４３の個数を変化させることは感度制御部１２における感度の調節を意味する。たとえば、図１０（ａ）のように３個の転送電極４３に制御電圧＋Ｖを印加する場合と、図１０（ｂ）のように１個の転送電極４３に制御電圧＋Ｖを印加する場合とでは、ポテンシャル井戸２４が受光面に占める面積が変化するのであって、図１０（ａ）の状態のほうがポテンシャル井戸２４の面積が大きいから、図１０（ｂ）の状態に比較して同光量に対して利用できる電荷の割合が多くなり、実質的に感光部１１の感度を高めたことになる。このように、感光部１１および感度制御部１２は半導体層２１と絶縁膜２２と転送電極４３とにより構成されていると言える。ポテンシャル井戸２４は光照射により生成された電荷を保持するから電荷集積部１３として機能する。
【００５４】
上述したように、ポテンシャル井戸２４から電荷を取り出すには、ＣＣＤイメージセンサと同様の技術を採用する。たとえば感光部１１を垂直転送レジスタとして用いる場合は、ポテンシャル井戸２４に電子ｅが集積された後に、電荷の集積時とは異なる印加パターンの制御電圧を転送電極４３に印加することによってポテンシャル井戸２４に集積された電子ｅを一方向（たとえば、図の右方向）に転送することができる。あるいはまた、感光部１１とは別に設けた垂直転送レジスタに転送ゲートを介して感光部１１から電荷を転送する構成を採用することもできる。垂直転送レジスタからは水平転送レジスタに電荷を引き渡し、水平転送レジスタを転送された電荷は、半導体基板に設けた図示しない電極から光検出素子１の外部に取り出される。
【００５５】
図１０に示す構成における感度制御部１２は、利用できる電荷を生成する面積を大小２段階に切り換えることにより感光部１１の感度を高低２段階に切り換えるのであって、受光光量Ａ０、Ａ１、Ａ２、Ａ３のいずれかに対応する電荷を感光部１１で生成しようとする期間にのみ高感度とし（電荷を生成する面積を大きくし）、他の期間には低感度にする。高感度にする期間と低感度にする期間とは、発光源２を駆動する変調信号に同期させて設定される。具体的には、変調信号に同期する特定の区間（特定位相の区間）において、電荷を生成する面積を大きくして感光部１１で生成した電荷を集積し、上記特定区間以外の他の区間において、電荷を生成する面積を小さくして感光部１１で生成した電荷を蓄積する。すなわち、感光部１１において、電荷を集積する機能と蓄積する機能とが交互に実現される。ここで、集積とは電荷を集めることを意味し、蓄積とは電荷を保持することを意味する。言い換えると、図１０に示す構成では、感光部１１に設けた電荷集積部１３の大きさ（面積）を変化させることにより、電荷を集積する期間には感光部１１で生成された電荷の集積率を大きくし、電荷を蓄積する期間には感光部１１で生成された電荷の集積率を小さくするのである。
【００５６】
また、変調信号の複数周期に亘ってポテンシャル井戸２４に電荷を集積した後に電荷取出部１４を通して光検出素子１の外部に電荷を取り出すようにしている。変調信号の複数周期に亘って電荷を集積しているのは、変調信号の１周期内では感光部１１が利用可能な電荷を生成する期間が短く（たとえば、変調信号の周波数を２０ＭＨｚとすれば５０ｎｓの４分の１以下）、生成される電荷が少ないからである。つまり、変調信号の複数周期分の電荷を集積することにより、信号電荷（発光源２から照射された光に対応する電荷）と不要電荷（主に外光成分および光検出素子１の内部で発生するショットノイズに対応する電荷）との比を大きくとることができ、大きなＳＮ比が得られる。
【００５７】
ところで、位相差ψを求めるのに必要な４区間の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を１個の感光部１１で生成するとすれば、視線方向に関する分解能は高くなるが、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を求める時間差が大きくなるという問題が生じる。一方、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を４個の感光部１１でそれぞれ生成するとすれば、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を求める時間差は小さくなるが、４区間の電荷を求める視線方向にずれが生じ視線方向に関する分解能は低下する。そこで、２個の感光部１１を用いることにより、変調信号の１周期内で受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を２種類ずつ生成する構成を採用してもよい。つまり、２個の感光部１１を組にして用い、組になる２個の感光部１１に同じ視線方向からの光が入射するようにしてもよい。
【００５８】
この構成を採用することにより、視線方向の分解能を比較的高くし、かつ受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する時間差を少なくすることができる。つまり、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する時間差を少なくしていることにより、対象空間の中で移動している対象物Ｏｂについても距離の検出精度を比較的高く保つことができる。なお、この構成では、１個の感光部１１で４種類の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する場合よりも視線方向の分解能が低下するが、視線方向の分解能については感光部１１の小型化や受光光学系１６の設計によって向上させることが可能である。
【００５９】
以下に動作を具体的に説明する。図１０に示した例では、１個の感光部１１について５個の転送電極４３を設けた例を示しているが、両側の２個の転送電極４３は、感光部１１で電荷（電子ｅ）を生成している間に隣接する感光部１１に電荷が流出するのを防止するための障壁を形成するものであって、２個の感光部１１を組にして用いる場合には隣接する感光部１１のポテンシャル井戸２４の間には、いずれかの感光部１１で障壁が形成されるから、各感光部１１には３個ずつの転送電極４３を設けるだけで足りることになる。この構成によって、感光部１１の１個当たりの占有面積が小さくなり、２個の感光部１１を組にして用いながらも視線方向の分解能の低下を抑制することが可能になる。
【００６０】
なお、上述した距離画像センサ１０の構成例では、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する４区間を変調信号の１周期内で位相の間隔が９０度ずつになるように設定しているが、変調信号に対する位相が既知であれば４区間は９０度以外の適宜の間隔で設定することが可能である。ただし、間隔が異なれば位相差ψを求める算式は異なる。また、４区間の受光光量に対応した電荷を取り出す周期は、対象物Ｏｂの反射率および外光成分が変化せず、かつ位相差ψも変化しない時間内であれば、変調信号の１周期内で４区間の信号電荷を取り出すことも必須ではない。さらに、太陽光や照明光のような外乱光の影響があるときには、発光源２から放射される光の波長のみを透過させる光学フィルタを感光部１１の前に配置するのが望ましい。
【００６１】
次に、上述した距離画像センサ１０を用いて対象空間に存在する対象物を抽出する技術について説明する。以下の説明において距離画像に対する画像処理の各機能はマイクロコンピュータで適宜のプログラムを実行することにより実現される。また、距離画像を生成する際の光検出素子１への外光成分の入射を低減するために、発光源２から赤外線を対象空間に照射し、光検出素子１の前方に赤外線透過フィルタを配置しているものとする。
【００６２】
図１に示すように、画像生成部１５で生成された距離画像は微分処理部４に与えられる。微分処理部４では、距離画像の距離値から求められる勾配方向値を画素値とする勾配方向画像が生成される。勾配方向値は、たとえば着目する画素の８近傍を用いて求められる値であって、本実施形態では、図１１のような３×３平方領域の中央の画素ｐ５を着目する画素とするときに、他の画素ｐ１〜ｐ４，ｐ６〜ｐ９の距離値Ｂ１〜Ｂ４，Ｂ６〜Ｂ９を用いることにより（２）式で表される。
ｔａｎ−１（ΔＹ／ΔＸ）    …（２）
ただし、
ΔＸ＝（Ｂ１＋Ｂ４＋Ｂ７）−（Ｂ３＋Ｂ６＋Ｂ９）
ΔＹ＝（Ｂ１＋Ｂ２＋Ｂ３）−（Ｂ７＋Ｂ８＋Ｂ９）
（２）式によって求めた勾配方向値は、受光光学系１６の光軸に直交する１つの平面を基準平面として、基準平面に対して各画素がどの向きの勾配を持つかを表している。つまり、勾配方向値は基準平面に対する勾配の向きだけを表しており、基準平面に対する傾斜角度は含んでいない。地図における等高線を距離画像における距離分布に類比すれば、勾配方向値は斜面が傾斜している方角に相当し斜面の傾斜角度の情報は含まないことになる。いま、距離画像における水平方向をＸ方向とし垂直方向をＹ方向として、Ｘ方向の正の向きを勾配方向値における０度とし、Ｙ方向の正の向きを勾配方向値における９０度とする。ΔＸは基準平面に対するＸ方向における傾きの大きさを表し、ΔＹは基準平面に対するＹ方向における傾きの大きさを表しており、Ｘ方向とＹ方向との傾きの大きさが等しければ、Ｘ方向とＹ方向とにそれぞれ何度傾いていても勾配方向値は４５度になる。つまり、当該画素を正面から見たときに４５度の方向（原点の回りでＸ軸の正の向きからＹ軸の正の向きに向かって４５度回転した方向）に勾配を有していることになる。
【００６３】
なお、勾配方向値としては（２）式のように着目画素の８近傍から求めるほか、４近傍や１６近傍を用いることも可能であり、またアークタンジェントに代えて他の関数を用いることも可能である。この関数はΔＸとΔＹとの比の非線形性を修正して勾配方向値に線形性が得られるものであれば好ましい。また、勾配方向値を用いることによってＸ方向とＹ方向との傾きを合わせて１個のデータに集約しているから、１画素についてΔＸとΔＹとの２個の値を用いる場合よりもデータ量を低減することができるとともに、距離を求める演算速度が向上する。
【００６４】
本実施形態では、検出対象の座標位置を求めるために検出対象と同様の形状である対象物Ｏｂをテンプレートに用い、テンプレートとなる対象物Ｏｂから得られる勾配方向画像をテンプレート画像とする。テンプレート画像では背景は除去され、図１２のように、テンプレートになる対象物Ｏｂに関してのみ勾配方向値が抽出される。このテンプレート画像には適宜の基準点Ｐｂ（ｘｂ，ｙｂ）が設定され、テンプレート画像の各画素Ｑ（ｘｑ，ｙｑ）について、基準点Ｐｂとの距離Ｌｑと、基準点Ｐｂとこの画素Ｑとを結ぶ方向がテンプレート画像の基準方向に対してなす角度ζ（図示例ではｘ方向）とが求められ、距離Ｌｑおよび角度ζが、この画素Ｑの勾配方向値θに対応付けてテンプレート記憶部６に格納される。基準点Ｐｂとしては、たとえば距離画像の重心を用いる。テンプレート画像は勾配方向画像であって距離画像の三次元情報を含んでいないから、二次元の画像と同様に扱うことができる。テンプレート画像の各画素Ｑからはそれぞれ（θ，Ｌｑ，ζ）の３つ組が得られるから、勾配方向値θごとに（Ｌｑ，ζ）の組を分類し、テンプレート記憶部６に格納する。ここに、勾配方向値θは、デジタル値であってたとえば０〜１５の１６個の方向コード、あるいは０〜７の８個の方向コードに対応付けられる。以下では、方向コードごとに（Ｌｑ，ζ）の組を対応付けたデータを特徴量データと呼ぶ。つまり、テンプレート記憶部６には特徴量データが格納される。なお、微分処理部４で得られた勾配方向画像から特徴量データを抽出する処理は、テンプレート記憶部６に前置している前置処理部５で行う。
【００６５】
ところで、検出対象となる対象物Ｏｂを含む距離画像から対象物Ｏｂの座標位置を求めるには、この距離画像から生成した勾配方向画像を検出対象画像として用い、検出対象画像に特徴量データを適用する。具体的には、検出対象である対象物Ｏｂを含む距離画像を微分処理部４に与えて生成した検出対象画像を基準点候補算出部７に入力し、基準点候補算出部７において（３）式の演算を行うことにより、テンプレート画像に設定した基準点Ｐｂに対応する候補である座標位置（ｘｂ′，ｙｂ′）を検出対象画像から算出する。（３）式における距離Ｌｑおよび角度ζは、検出対象画像の各画素（ｘｑ′，ｙｑ′）ごとの勾配方向値θをテンプレート記憶部６に照合して求められる（Ｌｑ，ζ）の組を用いる。上述のようにテンプレート画像から求めた（θ，Ｌｑ，ζ）の３つ組は勾配方向値θごとに分類されるから、１つの勾配方向値θに対して多くは（Ｌｑ，ζ）の組が複数存在する。（３）式は各画素（ｘｑ′，ｙｑ′）の勾配方向値θに対応するすべての（Ｌｑ，ζ）の組について演算される。
ｘｂ′＝Ｌｑ×ｃｏｓζ＋ｘｑ′
ｙｂ′＝Ｌｑ×ｓｉｎζ＋ｘｑ′  …（３）
（３）式により算出される座標位置（ｘｂ′，ｙｂ′）は、テンプレート画像に設定した基準点Ｐｂ（ｘｂ，ｙｂ）にほぼ一致するものの度数が極大になると考えられるから、基準手候補算出部７で算出される座標位置（ｘｂ′，ｙｂ′）の画素を基準点候補Ｐｂ′として統計処理部８に与え、統計処理部８において座標位置（ｘｂ′，ｙｂ′）ごとの度数を求める。統計処理部８で求めた度数分布は判定処理部９に与えられ、判定処理部９では座標位置（ｘｂ′，ｙｂ′）ごとの度数が極大になる座標位置（ｘｂ′，ｙｂ′）を抽出する。もっとも、度数が極大になった座標位置であっても対象空間に対象物Ｏｂが存在しないような場合にはテンプレート画像の基準点に対応しないから、度数が極大になった座標位置について基準点としての他の条件についても判定し、他の条件も基準点であることを満たしているときに、得られた基準点候補Ｐｂ′がテンプレート画像の基準点Ｐｂに対応していると判断する。
【００６６】
基準点としての他の条件としては、たとえば基準点Ｐｂを中心とし対象物Ｏｂの内側に設定される円形領域の中での勾配方向値θの分散、あるいは基準点Ｐｂを中心とし対象物Ｏｂの内側に設定される円形領域の中での勾配方向値θごとのヒストグラムの形状を用いることができる。分散を用いる場合は、テンプレート画像と検出対象画像との分散の差分が規定した閾値以下である場合に、基準点候補Ｐｂ′を基準点Ｐｂに対応すると判断する。また、ヒストグラムの形状を用いる場合は、ヒストグラムにおいて度数が最大または最小になる位置を一致させるとともに、最大または最小の度数の値が一致するようにヒストグラムを拡大または縮小したときに、各方向コードごとの度数の差分の合計が規定した閾値以下である場合に、基準点候補Ｐｂ′を基準点Ｐｂに対応すると判断する。これらの条件は、対象物Ｏｂの中に設定した円形領域で評価するから、検出対象画像において度数が極大になる座標位置（ｘｂ′，ｙｂ′）が複数存在する場合でも適用可能である。また、基準点としての条件として、最大または最小の度数の値を評価してもよい。たとえば、検出対象画像の背景においてブラインドのように特定方向の勾配方向値θが集中すると度数が極端に大きくなるから、基準点候補Ｐｂ′の周囲に円形あるいは正方形の適宜領域を設定し、この領域内における勾配方向値θの度数が所定範囲内であるときに基準点Ｐｂに対応する座標位置と判断する。これらの条件は単独で用いることができるが、複数を組み合わせて用いてもよい。
【００６７】
上述した方法によって基準点Ｐｂに対応する基準点候補Ｐｂ′を抽出すれば、距離画像の中での対象物Ｏｂの位置を二次元で特定することができるから、基準点候補Ｐｂ′の座標位置（ｘｂ′，ｙｂ′）に対応する距離値を求めることにより、対象空間における基準点候補Ｐｂ′の三次元位置を決定することができる。また、二次元情報の画像と言える勾配方向画像を用いて基準点候補Ｐｂ′の位置を抽出するから、対象物Ｏｂまでの距離に関係なく基準点候補Ｐｂ′の位置を求めることができる。言い換えると、対象物Ｏｂまでの距離が変化し、距離画像の中で対象物Ｏｂの占める領域の大きさが変化しても基準点候補Ｐｂ′の位置を求めることができる。
【００６８】
ところで、対象物Ｏｂまでの距離の変化が大きい場合には、距離画像の中で対象物Ｏｂの占める面積が大きく変化するから、テンプレート画像と検出対象画像との相対的な拡大縮小率を調節するのが望ましい。すなわち、（３）式に拡大縮小率ｓを付加することにより、検出対象画像における対象物Ｏｂの大きさとテンプレート画像との大きさとをほぼ一致させる。
ｘｂ′＝ｓ×Ｌｑ×ｃｏｓζ＋ｘｑ′
ｙｂ′＝ｓ×Ｌｑ×ｓｉｎζ＋ｘｑ′
拡大縮小率ｓは前置処理部５において設定される。拡大縮小率ｓはキーボードのような入力手段によって利用者が指定することが可能であるが、検出対象画像に対して複数段階の拡大縮小率を順に適用し、基準点候補Ｐｂ′を評価する上述の条件（分散、ヒストグラムの形状、最大または最小の度数の値のいずれかあるいは組合せ）を満たす拡大縮小率ｓを自動的に選択するようにしてもよい。また、検出対象画像の拡大縮小率ｓを変化させるのではなく、拡大縮小率の異なる多数個のテンプレート画像を用意しておき、基準点候補Ｐｂ′を評価する条件に従って拡大縮小率ｓを自動的に選択するようにしてもよい。
【００６９】
検出対象画像における対象物Ｏｂはテンプレート画像に対して回転している場合があり、（３）式では回転を考慮していないから、回転した対象物Ｏｂには対応することができない。対象物Ｏｂの回転は、距離画像の画面内での回転（画面に直交する軸回りの回転）のみが生じる場合と、画面の垂直軸回りあるいは水平軸回りの回転を伴う場合とがあるが、ここでは画面に直交する軸回りの回転のみが生じる場合を想定する。このような状態は顔認証を行うような場合であって、距離画像センサ１０の正面に人の顔が位置するような場合に対応する。この場合、勾配方向値θの分布に変化がないから、回転角度をηとして（３）式を次式のように変形すれば対応することができる。
ｘｂ′＝Ｌｑ×ｃｏｓ（ζ＋η）＋ｘｑ′
ｙｂ′＝Ｌｑ×ｓｉｎ（ζ＋η）＋ｘｑ′
回転角度ηは拡大縮小率ｓと同様に前置処理部５において設定される。すなわち、拡大縮小率ｓと同様に利用者が指定するか自動で選択される。自動で選択する方法も拡大縮小率ｓと同様であり、検出対象画像を適宜角度ごとに回転させて基準点候補Ｐｂ′を評価するか、回転角度の異なる複数種類のテンプレート画像を用意しておき基準点候補Ｐｂ′を評価すればよい。座標位置と併せて回転角度ηを求めれば、テンプレート画像に対する対象物Ｏｂの位置（座標位置）および姿勢（回転角度）を求めることになる。なお、拡大縮小率ｓと回転角度ηとは組み合わせることも可能である。
【００７０】
上述したテンプレート画像を生成するためのテンプレートとなる対象物は任意の形状でよいが、対象物Ｏｂが人の顔である場合にはテンプレートとなる対象物を、回転楕円体や球体（距離画像センサ１０に対向する半分だけが撮像されるから、回転楕円体の半分あるいは半球でよい）とすることができる。とくに、テンプレートとなる対象物を球体とした場合には、テンプレート画像における球の中心（対象物Ｏｂまでの距離情報は含まないから、円の中心になる）を基準点Ｐｂに用いることにより、回転角度ηを考慮する必要がなく、回転角度ηを考慮する場合に比較すると処理量を低減することが可能になる。
【００７１】
以上の処理によって比較対象となる対象物Ｏｂの距離画像内での存否と、対象物Ｏｂの位置および姿勢とを抽出することができる。ここに、外光光量が光検出素子１のダイナミックレンジの範囲内であれば、距離画像は外光光量の変化の影響を受けないから、濃淡画像を用いる場合のように外光光量の影響を受けることなく対象物Ｏｂを正確に検出することができる。
【図面の簡単な説明】
【００７２】
【図１】本発明の実施形態を示すブロック図である。
【図２】同上の動作説明図である。
【図３】同上における感度制御部の構成例を示すブロック図である。
【図４】同上の動作例を示す説明図である。
【図５】同上の他の動作例を示す説明図である。
【図６】同上のさらに他の動作例を示す説明図である。
【図７】同上に用いる光検出素子の構成例を示す平面図である。
【図８】図７に示した光検出素子の要部分解斜視図である。
【図９】図８のＡ−Ａ線断面図である。
【図１０】同上に用いる光検出素子の要部の動作説明図である。
【図１１】同上の微分処理部の動作説明図である。
【図１２】同上の各画素と基準点との対応付けに関する動作説明図である。
【符号の説明】
【００７３】
１  光検出素子
２  発光源
３  制御回路部
４  微分処理部
５  前置処理部
６  テンプレート記憶部
７  基準点候補算出部
８  統計処理部
９  判定処理部
１０  距離画像センサ
１１  感光部
１５  画像生成部
Ｏｂ  対象物
【図１】
2006145352.tif 000003
【図２】
2006145352.tif 000004
【図３】
2006145352.tif 000005
【図４】
2006145352.tif 000006
【図５】
2006145352.tif 000007
【図６】
2006145352.tif 000008
【図７】
2006145352.tif 000009
【図８】
2006145352.tif 000010
【図９】
2006145352.tif 000011
【図１０】
2006145352.tif 000012
【図１１】
2006145352.tif 000013
【図１２】
2006145352.tif 000014