(57)【要約】【課題】  撮影後に、すばやい目の瞬きや、手先等の非剛体の動きを迅速に検出し、三次元形状計算をする前に使用者にメッセージを出し、計測対象者への負担を軽減することなどを可能とする。【解決手段】  複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、この絶対値の和を、前記画像領域内の複数の画像の一の画像のエッジ強度で除した値を求め、この値が所定の閾値を超えた場合には、画像領域内において計測対象物が動いたと判断する。計測中に手等が動いた時に、その旨計測対象者に知らせることができる。簡単な計算によって、短時間で計測対象者の動きを検出することができる。微分フィルタとして、平滑化微分フィルタ又はソーベル微分フィルタを用いることができ、微分フィルタを適用した後の画像にメジアンフィルタを適用してもよい。【選択図】  図２
2006194748.tif 000002
【特許請求の範囲】
【請求項１】
複数の画像に微分フィルタを適用した後、各エッジ画像の差分を求め、ある画像領域内で、前記各エッジ画像の差分の絶対値の和が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする三次元計測装置における計測対象物の動き検出方法。
【請求項２】
複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、該絶対値の和が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする三次元計測装置における計測対象物の動き検出方法。
【請求項３】
複数の画像に微分フィルタを適用した後、各エッジ画像の差分を求め、ある画像領域内で、前記各エッジ画像の差分の絶対値の和を、該画像領域内の前記複数の画像の一の画像のエッジ強度で除した値を求め、該値が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする三次元計測装置における計測対象物の動き検出方法。
【請求項４】
複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、該絶対値の和を、該画像領域内の前記複数の画像の一の画像のエッジ強度で除した値を求め、該値が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする三次元計測装置における計測対象物の動き検出方法。
【請求項５】
前記微分フィルタは、平滑化微分フィルタ又はソーベル微分フィルタであることを特徴とする請求項１乃至４のいずれかに記載の三次元計測装置における計測対象物の動き検出方法。
【請求項６】
前記微分フィルタを適用した後の画像に、メジアンフィルタを適用することを特徴とする請求項１乃至５のいずれかに記載の三次元計測装置における計測対象物の動き検出方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、多眼正弦波格子位相シフト法によって計測対象物の三次元形状を計測する装置において、計測対象物の非剛体としての動きを検出する方法に関する。
【背景技術】
【０００２】
従来、ＣＧ（Computer Graphics）コンテンツの作成や、ＦＡ（Factory Automation ）・工業計測用途等の様々な分野で非接触式の三次元形状計測装置が開発、製品化されている。実際の三次元形状計測装置は、主に、２つのカメラと、２つの光パターン投影器(正弦波状のパターン)から構成され、多眼正弦波格子位相シフト法と呼ばれる計測原理により形状計測を行っている。
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかし、上記多眼正弦波格子位相シフト法では、縞を数枚撮影する必要があるため、ある程度の計測時間が必要となる。計測を行っている間に、対象物は動いてはならず、人間等を撮影している場合に動作のすばやい目の瞬きや、手先の微動等があると、計測精度が悪化したり、画像がぼけるなどの問題が発生する。
【０００４】
従来の方法では、三次元形状計測の計算が完了した後、初めて対象物が動いていることに気づくことが多く、そのような場合には、再計測が必要となり、計測対象者に過度の負担を強いることとなる。また、計測担当者が対象物の動きを目視で検出するのは困難である。
【０００５】
また、画像の特徴点を抽出し、それらを追跡することによって動きを検出することも考えられる。例えば、抽出された特徴点が複数枚にわたって動かなければ、追跡された点は同じ座標のままである。しかし、この方法では、特徴点の検出が困難な画像を撮影する場合には問題となる。また、多眼正弦波格子位相シフト法では、縞の位相をシフトさせながら撮影しているので、追跡の際に縞の動きを検出する可能性が高い。特に、眉毛の動きなどの非剛体的な動きを検出することは困難である。
【０００６】
そこで、本発明は、上記従来の方法における問題点に鑑みてなされたものであって、動作のすばやい目の瞬きや、手先等の動きを、撮影後に迅速に検出し、三次元形状計算をする前に使用者にメッセージを出すことにより、形状計測を効率よく行うことなどを可能とした三次元計測装置における計測対象物の動き検出方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記目的を達成するため、本発明は、三次元計測装置における計測対象物の動き検出方法であって、複数の画像に微分フィルタを適用した後、各エッジ画像の差分を求め、ある画像領域内で、前記各エッジ画像の差分の絶対値の和が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする。
【０００８】
そして、本発明によれば、撮影後に、すばやい目の瞬きや、手先等の非剛体の動きを迅速に検出し、三次元形状計算をする前に使用者にメッセージを出すことにより、計測対象者への負担を軽減することができる。また、計測中に手が動いたとすると、手が動いたことを計測対象者に知らせれば、再度撮影をするときに注意しやすくなるため、どの部分が最も動いているかという情報も付与可能であることも重要である。さらに、本発明によれば、簡単な計算によって動きを検出することができるため、短時間で検出することができる。
【０００９】
また、本発明は、三次元計測装置における計測対象物の動き検出方法であって、複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、該絶対値の和が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とし、上記と同様の作用効果を奏する。
【００１０】
さらに、本発明は、三次元計測装置における計測対象物の動き検出方法であって、複数の画像に微分フィルタを適用した後、各エッジ画像の差分を求め、ある画像領域内で、前記各エッジ画像の差分の絶対値の和を、該画像領域内の前記複数の画像の一の画像のエッジ強度で除した値を求め、該値が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする。これによって、入力画像が変化した場合に容易に対応することができ、上記と同様の作用効果を奏する。
【００１１】
また、本発明は、三次元計測装置における計測対象物の動き検出方法であって、複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、該絶対値の和を、該画像領域内の前記複数の画像の一の画像のエッジ強度で除した値を求め、該値が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とし、上記と同様の作用効果を奏する。
【００１２】
前記三次元計測装置における計測対象物の動き検出方法において、前記微分フィルタを、平滑化微分フィルタ又はソーベル微分フィルタとすることができ、微分フィルタを適用した後の画像に、メジアンフィルタを適用するようにしてもよい。平滑化微分フィルタを用いることによって、ノイズの影響や若干の画像のずれなどを考慮することができ、メジアンフィルタを適用してエッジ画像に残っているノイズを除去することもできる。
【発明の効果】
【００１３】
以上のように、本発明によれば、撮影後に、すばやい目の瞬きや、手先等の非剛体の動きを迅速に検出し、三次元形状計算をする前に使用者にメッセージを出すことにより、計測対象者への負担を軽減することなどが可能となる。
【発明を実施するための最良の形態】
【００１４】
図１は、本発明にかかる計測対象物の動き検出方法を適用可能な１台の三次元形状計測装置を示し、この装置は、２台のカメラ１００と、２台のプロジェクタ１０１と、各々のプロジェクタ１０１を保持しながら、一定の方向に一定量ずつ移動させる図示しない格子駆動手段とで構成され、多眼正弦波格子位相シフト法と呼ばれる計測原理により形状計測を行う。
【００１５】
この手法は、まず、プロジェクタ１０１内に設けた正弦波状に濃淡値が印刷されている格子を通して、図示しない光源から計測対象物に対して正弦波状の輝度分布を持つ光パターンを投射する。そして、計測対象物上の縞画像をカメラ１００で撮影する。次に、計測対象物を静止させたままで、格子を縞の直角方向へと、波長の１／Ｎずつ、Ｎ回ずらしながらカメラ１００で画像を撮影して行く。撮影された画像は、計測対象物に投射された正弦波光パターンが２π／Ｎラジアンずつ進行して行くように見える。計測点の輝度値を投射方向から計測し、各輝度値より格子パターンの位相値を計算する。計測点の高さ変位に応じて格子パターンの位相が変調するため、この位相の変調量を計算し、光学装置の幾何関係式に代入することにより、計測対象物の高さ変位量を計算し、三次元形状を求めるものである。
【００１６】
縞画像にはメイン画像とサブ画像がある。メイン画像の位相で三次元情報を求めるが、この際、絶対位相を求める必要がある。この絶対位相を求めるときに用いられるのがサブ画像である。従って、三次元計測の精度やぼけに影響するのはメイン画像のみである。結果的に、４枚の画像間で物体が動いているかどうかを判定すればよく、メイン画像は、例えば、図３に示すように、片側のプロジェクタ１０１で４枚存在する。
【００１７】
正弦波格子は各画像間で動いているため、これらの縞の動きと実際の計測対象物との動きを区別する必要がある。縞は正弦波状であるため、滑らかな輝度の変化を示す。一方、物体のエッジは、輝度の変化が急である。そのため、全画像に対して微分フィルタを施すと、正弦波のエッジ強度は小さく、物体のエッジ強度は大きくなる。
【００１８】
実際に微分フィルタを施す場合には、例えば、後述するソーベル微分フィルタを利用する。またノイズの影響や若干の画像のずれなどを考慮に入れる場合は、後述する平滑化微分フィルタを使用してもよい。平滑化微分フィルタは、エッジの強度に応じて、その度合いを変えることが可能であるため、正弦波がエッジとして検出された場合には、その度合いを変えて調整する。上記フィルタを適用した画像をエッジ画像と呼ぶ。尚、各エッジ画像に若干のノイズが残っている場合があるため、場合によってはメジアンフィルタを適用してノイズを除去する。
【００１９】
各４枚の画像間で計測対象物が動いていない場合には、１枚目のエッジ画像と２枚目のエッジ画像の差分を取れば、ある領域Ｓ内において、エッジ強度の絶対値の和は、動いたものの差分に比べて小さくなる。計測対象物が動いていない場合には、１枚目と２枚目の画像でエッジ強度が打ち消し合うからである。
【００２０】
ここで、ある領域内におけるエッジ強度の差の絶対値の和を評価値Ｋと呼ぶ。評価値Ｋは、式（１）〜（３）のように表される。
【００２１】
【数１】
2006194748.tif 000003
【００２２】
【数２】
2006194748.tif 000004
【００２３】
【数３】
2006194748.tif 000005
【００２４】
ここで、本出願人による実験の評価結果によれば、上記式（１）〜（３）は、以下の式（４）〜（６）のように調整した方がよいことが分かった。
【００２５】
【数４】
2006194748.tif 000006
【００２６】
【数５】
2006194748.tif 000007
【００２７】
【数６】
2006194748.tif 000008
【００２８】
上記評価値Ｋが、ある閾値より一つでも大きければ、その領域は動いていると判断する。しかし、閾値を用いて判別する場合には、入力画像が変化すれば、判別に用いるべき閾値も変化させる必要性が生ずる。そのため、評価値を正規化することが必要である。正規化した評価値を正規化評価値Ｎと呼ぶ。この正規化評価値Ｎは、以下のように計算する。この正規化評価値Ｎは、エッジ強度の変化割合を意味する。
【００２９】
【数７】
2006194748.tif 000009
【００３０】
【数８】
2006194748.tif 000010
【００３１】
【数９】
2006194748.tif 000011
【００３２】
次に、本発明にかかる三次元計測装置における計測対象物の動き検出方法の具体的なプログラムの流れの一例について、図２を参照しながら説明する。
【００３３】
まず、図１に示したプロジェクタ１０１及びカメラ１００を用いて撮影した、位相０、π／２、π、３π／２における各縞画像をロードし（ステップＳ１）、各画像にソーベル微分フィルタ又は平滑化微分フィルタを適用する（ステップＳ２）。尚、平滑化微分フィルタを適用する場合には、パラメータであるσを記載しておく。また、必要に応じて、ノイズ除去のため、メジアンフィルタを適用する。尚、メジアンフィルタとは、ある画素の濃度に代えて、その画素を中心とした一定領域の画素の中央値を与えるフィルタである。
【００３４】
次に、上記式（４）〜（６）によって評価値Ｋを計算し（ステップＳ３）、さらに、式（７）〜（９）によって、正規化評価値Ｎを計算し（ステップＳ４）、ある画像領域内で、正規化評価値Ｎと所定の閾値とを比較し（ステップＳ５）、正規化評価値Ｎが所定の閾値を超えた場合には、その画像領域内において計測対象物が動いたと判断する（ステップＳ６）。
【００３５】
上記平滑化微分フィルタを用いた画像Ｉ（ｉ，ｊ）での平滑化微分は次のように計算される。
【００３６】
【数１０】
2006194748.tif 000012
【００３７】
【数１１】
2006194748.tif 000013
【００３８】
Ｄｘ（ｋ，ｌ）、Ｄｙ（ｋ，ｌ）は、テンプレート領域Ｎ（フィルタ）で以下のように定義される。
【００３９】
【数１２】
2006194748.tif 000014
【００４０】
【数１３】
2006194748.tif 000015
【００４１】
ここで、σは、平滑化のためのガウス窓の幅である。テンプレート領域を、（２ｓ＋１）×（２ｓ＋１）の正方領域とすると、Ｓ＝２σとしておく。例えば、ｓ＝２、σ＝１とすると、フィルタは以下のようになる。
【００４２】
【数１４】
2006194748.tif 000016
【００４３】
【数１５】
2006194748.tif 000017
【００４４】
このフィルタを各画素に掛ければよい（但し、σを可変にしておく）。
【００４５】
上記ソーベル微分フィルタを用いた画像Ｉ（ｉ，ｊ）でのソーベル微分は次のように計算される。尚、ソーベル微分フィルタとは、中央画素の周囲の画素濃度に係数を乗じて加えたものを中央画素の濃度とするフィルタである。図４は、三次元形状計測装置によって取得された画像にソーベル微分フィルタを施した状態の一例を示す。
【００４６】
【数１６】
2006194748.tif 000018
【００４７】
【数１７】
2006194748.tif 000019
【００４８】
Ｄｘ（ｋ，ｌ）、Ｄｙ（ｋ，ｌ）は、テンプレート領域Ｎ（フィルタ）で以下のように定義される。
【００４９】
【数１８】
2006194748.tif 000020
【００５０】
【数１９】
2006194748.tif 000021
【図面の簡単な説明】
【００５１】
【図１】本発明を適用可能な１台の三次元形状計測装置を示す図であって、（ａ）は斜視図、（ｂ）は側面図である。
【図２】本発明にかかる動き検出方法の具体的なプログラムの流れを示す図である。
【図３】図１の三次元形状計測装置によって取得された画像を示す参考図である。
【図４】図１の三次元形状計測装置によって取得された画像にソーベル微分フィルタを施した状態を示す参考図であって、（ａ）は原画像、（ｂ）はソーベル微分フィルタによるエッジ画像を示す。
【符号の説明】
【００５２】
１００  １台の三次元形状計測装置のカメラ
１０１  １台の三次元形状計測装置のプロジェクタ
【図１】
2006194748.tif 000022
【図２】
2006194748.tif 000023
【図３】
2006194748.tif 000024
【図４】
2006194748.tif 000025