(57)【特許請求の範囲】
【請求項１】
撮像装置を使って、移動しながら計測対象を撮影し、一連の撮影映像から画像処理により当該計測対象の流れを計測する方法であって、
当該一連の撮影映像から、当該撮影映像上の第１ライン上の線画像データを抽出して第１の連続モザイク画像を生成し、当該撮影映像上の当該第１ラインとは平行で異なる位置の第２ライン上の線画像データを抽出して第２の連続モザイク画像を生成する連続モザイク画像生成ステップと、
当該第１及び第２の連続モザイク画像を所定高度面に射影変換して、それぞれ第１及び第２の変換連続モザイク画像を生成する射影変換ステップと、
当該第１及び第２の変換連続モザイク画像間で同じ物体の動きを算出する動き算出ステップ
とを具備することを特徴とする流れ計測方法。
【請求項２】
更に、上記撮像装置の位置及び３軸の傾きを含む外部標定要素を決定する標定決定ステップを具備する請求項１に記載の流れ計測方法。
【請求項３】
上記標定決定ステップが、上記撮影映像の連続する画面から、相互標定及び接続標定により当該外部標定要素を決定する請求項２に記載の流れ計測方法。
【請求項４】
上記標定決定ステップが、
撮影映像の連続する画面から、所定割合重複する２画面を抽出し、相互標定する相互標定ステップと、
上記相互標定ステップにより相互標定されたモデルを接続する接続標定ステップ
とを具備する請求項３に記載の流れ計測方法。
【請求項５】
上記射影変換ステップが、
上記標定決定ステップで決定された当該外部標定要素に従い、上記第１及び第２の連続モザイク画像の各線画像データに当該外部標定要素を割り付ける外部標定要素割り付けステップと、
上記第１及び第２の連続モザイク画像の各線画像データを、当該線画像データの外部標定要素に従い所定高度に投影する投影ステップ
とからなる請求項２乃至４の何れか１項に記載の流れ計測方法。
【請求項６】
上記連続モザイク画像生成ステップが、動き算出に必要な部分の連続モザイク画像を生成する請求項１乃至５の何れか１項に記載の流れ計測方法。
【請求項７】
上記撮像装置の位置を検出する手段として、ＧＰＳ受信手段を具備する請求項１乃至６の何れか１項に記載の流れ計測方法。
【請求項８】
更に、上記ＧＰＳ受信手段の出力をディファレンシャル補正する補正手段を具備する請求項７に記載の流れ計測方法。
【請求項９】
当該撮影映像上の当該第１及び第２ラインが、当該撮像装置の出力する映像信号の互いに異なる走査線に対応する請求項１乃至８の何れか１項に記載の流れ計測方法。
【請求項１０】
流れ計測のための移動方向が、上記撮像装置の走査線方向に垂直な方向である請求項１乃至９の何れか１項に記載の流れ計測方法。
【請求項１１】
流れ計測対象を撮影する撮像装置と、
当該撮像装置の位置を測定する測位手段と、
当該撮像装置による撮影映像及び当該測位手段の測定値を記録する記録手段と、
当該撮像装置及び当該測位手段を搬送する搬送手段と、
当該記録手段に記録される映像情報及び位置情報を再生する再生手段と、
当該撮像装置による一連の撮影映像から、当該撮影映像上の第１ライン上の線画像データを抽出して第１の連続モザイク画像を生成し、当該撮影映像上の当該第１ラインとは平行で異なる位置の第２ライン上の線画像データを抽出して第２の連続モザイク画像を生成する連続モザイク画像生成手段と、
当該第１及び第２の連続モザイク画像を所定高度面に射影変換して、それぞれ第１及び第２の変換連続モザイク画像を生成する射影変換手段と、
当該第１及び第２の変換連続モザイク画像間で同じ物体の動きを算出する動き算出手段
とを具備することを特徴とする流れ計測装置。
【請求項１２】
更に、上記撮像装置の位置及び３軸の傾きを含む外部標定要素を決定する標定決定手段を具備する請求項１１に記載の流れ計測装置。
【請求項１３】
当該標定決定手段が、当該撮影映像の連続する画面から、相互標定及び接続標定により当該外部標定要素を決定する請求項１２に記載の流れ計測装置。
【請求項１４】
上記標定決定手段が、
撮影映像の連続する画面から、所定割合重複する２画面を抽出し、相互標定する相互標定手段と、
当該相互標定手段により相互標定されたモデルを接続する接続標定手段
とを具備する請求項１３に記載の流れ計測装置。
【請求項１５】
上記射影変換手段が、
上記標定決定手段で決定された上記外部標定要素に従い、上記第１及び第２の連続モザイク画像の各線画像データに外部標定要素を割り付ける外部標定要素割り付け手段と、
上記第１及び第２の連続モザイク画像の各線画像データを、当該線画像データの外部標定要素に従い所定高度に投影する投影手段
とからなる請求項１２乃至１４の何れか１項に記載の流れ計測装置。
【請求項１６】
上記連続モザイク画像生成手段が、動き算出に必要な部分の連続モザイク画像を生成する請求項１１乃至１５の何れか１項に記載の流れ計測方法。
【請求項１７】
上記測位手段が、ＧＰＳ受信手段である請求項１１乃至１６の何れか１項に記載の流れ計測装置。
【請求項１８】
更に、ＧＰＳ受信手段の出力をディファレンシャル補正する補正手段を具備する請求項１７に記載の流れ計測装置。
【請求項１９】
上記搬送手段が飛行体である請求項１１乃至１８の何れか１項に記載の流れ計測装置。
【請求項２０】
更に、上記撮像装置の方向を検出する方向検出手段を具備し、当該方向検出手段の出力も上記記録手段に記録される請求項１１乃至１９の何れか１項に記載の流れ計測装置。
【請求項２１】
当該撮影映像上の当該第１及び第２ラインが、当該撮像装置の出力する映像信号の互いに異なる走査線に対応する請求項１１乃至２０の何れか１項に記載の流れ計測装置。
【請求項２２】
上記搬送手段の移動方向が上記撮像装置の走査線方向に垂直な方向であるように上記撮像装置が設置される請求項１１乃至２１の何れか１項に記載の流れ計測装置。
【発明の詳細な説明】
【０００１】
【産業上の利用分野】
本発明は、流れ計測方法及び装置に関し、より具体的には、河川及び海での波及び漂流物の移動、並びに、路面走行車両の移動のような流れを計測する方法及び装置に関する。
【０００２】
【従来の技術】
流れや波の動きの計測は、水流や回数の運動を把握するのに役立ち、河床や海底地形等、直接観ることのできない部分を推測するのに役立つ。更には、河川の橋及び堤防、並びに、海岸の護岸・防波堤の建設、設定及び保守管理にも役立つ。従来、このような目的での流れ計測は、最短で４〜５秒間隔で撮影される空中写真により行なわれていた。即ち、空中から、各種浮標の移動状況を追跡して、所定時間間隔で連続写真撮影する。このようにして得られた一連の航空写真をマッチング処理し、流れ（量及び方向）を計測する。
【０００３】
例えば、図２４に示すように、４つの浮標が、時刻ｔ０〜ｔ６の間に図示したように移動しており、連続写真撮影で、時刻ｔ０の次に時刻ｔ６で写真撮影できるとする。この場合、図２５に示すように、ｔ０の空中写真画像にテンプレートのウインドウを設定してテンプレート内の各浮標の画像パターンを抽出し、次の時刻ｔ６の空中写真画像から、同一又は極めて近似する画像パターンの浮標を抽出する。マッチングが得られたら、時刻ｔ０の写真でのテンプレートの浮標の位置と、時刻ｔ６の写真でのマッチングした浮標の位置とから、移動（量及び方向）を算出し、時刻差から速度を算出する。
【０００４】
【発明が解決しようとする課題】
しかし、空中写真による流れ計測では、次のような欠点がある。スチル撮影では、連続撮影であっても４〜５秒間隔でしか撮影できないので、その間に計測範囲の浮標が大きく移動してしまう。図３では、時刻ｔ０と時刻ｔ６との間の変化の合成ベクトルが計測できるに過ぎない。この結果、従来例では、細かい流れを計測できないし、マッチング不能又は異なる浮標にマッチングするといったマッチング・エラーを招き易くなる。マッチング・エラーは計測不能又は計測エラーにつながる。
【０００５】
更には、写真上でのマッチングは、人手に頼ることになり、熟練作業者が必要なだけでなく、結果を得るのに長い時間がかかってしまう。緊急性又は即時性を要求される用途、例えば、道路の渋滞状況の観測には適用できない。
【０００６】
本発明は、細かい流れを計測できる流れ計測方法及び装置を提示することを目的とする。
【０００７】
本発明はまた、自動処理によって短時間に結果を得られる流れ計測方法及び装置を提示することを目的とする。
【０００８】
本発明は更に、より高精度に流れを計測できる流れ計測方法及び装置を提示することを目的とする。
【０００９】
本発明は更に、熟練者に頼らずに、精度良く流れを計測できる流れ計測方法及び装置を提示することを目的とする。
【００１０】
【課題を解決するための手段】
本発明に係る流れ計測方法は、撮像装置を使って、移動しながら計測対象を撮影し、一連の撮影映像から画像処理により当該計測対象の流れを計測する方法であって、当該一連の撮影映像から、当該撮影映像上の第１ライン上の線画像データを抽出して第１の連続モザイク画像を生成し、当該撮影映像上の当該第１ラインとは平行で異なる位置の第２ライン上の線画像データを抽出して第２の連続モザイク画像を生成する連続モザイク画像生成ステップと、当該第１及び第２の連続モザイク画像を所定高度面に射影変換して、それぞれ第１及び第２の変換連続モザイク画像を生成する射影変換ステップと、当該第１及び第２の変換連続モザイク画像間で同じ物体の動きを算出する動き算出ステップとを具備することを特徴とする。
【００１１】
本発明に係る流れ計測装置は、流れ計測対象を撮影する撮像装置と、当該撮像装置の位置を測定する測位手段と、当該撮像装置による撮影映像及び当該測位手段の測定値を記録する記録手段と、当該撮像装置及び当該測位手段を搬送する搬送手段と、当該記録手段に記録される映像情報及び位置情報を再生する再生手段と、当該撮像装置による一連の撮影映像から、当該撮影映像上の第１ライン上の線画像データを抽出して第１の連続モザイク画像を生成し、当該撮影映像上の当該第１ラインとは平行で異なる位置の第２ライン上の線画像データを抽出して第２の連続モザイク画像を生成する連続モザイク画像生成手段と、当該第１及び第２の連続モザイク画像を所定高度面に射影変換して、それぞれ第１及び第２の変換連続モザイク画像を生成する射影変換手段と、当該第１及び第２の変換連続モザイク画像間で同じ物体の動きを算出する動き算出手段とを具備することを特徴とする。
【００１２】
【作用】
上記の各処理は、コンピュータ上で自動化可能であり、従って、一度に撮影できないような広い面でも、ビデオ撮影による映像から、異なる時刻の画像を生成できる。これらの画像間での移動は、画像処理によるマッチング演算で算出できる。従って、主要な行程をコンピュータ上で自動実行できるようになり、迅速に流れを計測できる。時間精度は撮影映像の隣接するライン間の時間差に相当するので、微細に流れを計測できる。
【００１３】
ビデオ映像なので、外部標定要素を確定するのに必要な画像情報を豊富に得ることができ、外部標定要素の精度が高まる。これにより、最終的に得られる移動データも精度の良いものになる。
【００１４】
【実施例】
以下、図面を参照して本発明の実施例を詳細に説明する。
【００１５】
図１は、本発明の一実施例の空中計測システムの概略構成ブロック図、図２は、地上計測システムの概略構成ブロック図、図３は、地上解析システムの概略構成ブロック図を示す。
【００１６】
図１に示す空中計測システムを説明する。図１に示す空中計測システムは、本実施例ではヘリコプターに搭載される。本実施例では、高品位カメラ１０を高精度防振安定装置（防振装置）１２に搭載し、その高品位映像信号出力を高品位ビデオ・テープ・レコーダ１４によりビデオ・テープに記録する。なお、カメラ１０は、一般に下向きであって、直下の映像が走査線に垂直な方向に移動するように（即ち、出力される映像信号の走査線が飛行方向に直交する方向になるように）設置される。カメラ１０の出力映像信号は、高品位モニタ１６にも印加されている。これにより、カメラ１０の被写体及び撮影状況を視覚的に確認できる。
【００１７】
高精度防振安定装置１２は、機体からの振動がカメラ１０に影響しないようにする。これにより、ブレの無い映像を収録できるようになる。即ち、高精度防振安定装置１２は、ジャイロとジンバル・サーボを組み合わせることにより、カメラの１０光軸が機体に発生するロール軸、ピッチ軸及びヨー軸回りの角度の動揺に対して慣性空間の一定方向に常に向くような空間安定化機能を持つ。
【００１８】
１８は、測定データを収集・記録すると共に、３軸制御装置２０を介して防振安定装置１２を制御し、カメラ制御装置２２を介してカメラ１０を制御し、ＶＴＲ制御装置２４を介してＶＴＲ１４を制御するパーソナル・コンピュータである。３軸制御装置２０により、防振安定装置１２の目標方位を任意に設定でき、カメラ制御装置２２によりカメラ１０のフォーカス、ズーム、絞り値及び色バランス等を制御し、ＶＴＲ制御装置２４により、ＶＴＲ１４の録画開始、録画終了及びポーズを制御し、また、カメラ１０の出力映像信号と一緒に記録されるタイムコードを取得して、コンピュータ１８に転送する。このタイムコードは、ＶＴＲ１４に記録される映像情報と、その他の測定データを地上解析システムで解析する際に同期をとるのに利用される。
【００１９】
対地高度センサ２６は、対地高度を検出し、磁方位センサ２８は磁方位を検出する。高精度防振安定装置１２によっても、ジャイロ・ドリフトによりゆっくりとした方向移動があるので、磁方位センサ２８により、カメラ１０の向きを補正する必要がある。センサ２６，２８の出力は、ディジタル・データとして、コンピュータ１８に印加される。コンピュータ１８には他に、防振安定装置１２からカメラ１０の３軸方向を示す３軸ジャイロ・データ（ロール角、ピッチ角及びヨー角）が入力し、カメラ１０からズーム値を示すズーム・データが入力する。
【００２０】
３０はＧＰＳ（全地球測位システム）の受信アンテナ、３２はＧＰＳアンテナ３０の受信信号から現在地座標（緯度、経度及び高度）を参集するＧＰＳ受信装置である。ＧＰＳ受信装置３２から出力されるＧＰＳ測位データは、記録するためにコンピュータ１８に印加され、また、ナビゲーションのためにナビゲーション・システム３４にも印加される。ナビゲーション・システム３４は、予めフロッピー３６に記録しておいたナビゲーション・データ（測線データ）に従い、設定した測線に対する現在位置をモニタ３８の画面に３次元的グラフィック表示する。これにより、地上に目標物の無い地域や分かりにくい地域（例えば、山間地又は海域等）で所望の測線に沿った撮影が可能になる。
【００２１】
なお、ＧＰＳの測定精度を向上する方法として、座標が既知の基準点でもＧＰＳで測定し、その測定誤差でＧＰＳ測位データを補正するディファレンシャルＧＰＳ（Ｄ−ＧＰＳ）方式が知られている。本実施例では、このディファレンシャルＧＰＳ方式を採用し、座標が既知の基準局の座標を同時にＧＰＳで測定し、その測定誤差データをＧＰＳ補正データとして無線通信によりヘリコプターに送信する。通信装置４０は、基準局からのＧＰＳ補正データを受信し、コンピュータ１８に転送する。
【００２２】
コンピュータ１８は、入力する飛行データ（対地高度データ、磁方位データ、ズーム・データ、３軸ジャイロ・データ）とＧＰＳ補正データ、ＶＴＲ制御装置２４からのタイムコードと共に、フロッピー４２に記録する。コンピュータ１８はまた、各入力データを必要によりモニタ４４に表示することができ、オペレータはキーボード４６からコンピュータ１８に種々の指示を入力できる。
【００２３】
通信装置４０による基準局との通信が不良になった場合に備えて、本実施例では、図２に示すように、基準局でも、計測したＧＰＳ補正データを独自にフロッピーに保存する。即ち、ＧＰＳ受信装置５０は、ＧＰＳアンテナ５２の出力からＧＰＳアンテナ５２の現在地を算出し、ＧＰＳ測位データをコンピュータ５４に出力する。ＧＰＳアンテナ５２の正確な座標（基準位置データ）は予め測定されており、そのデータがコンピュータ５４に入力又は設定されている。コンピュータ５４は、ＧＰＳ受信装置５０からのＧＰＳ測位データと基準位置データとの誤差を算出し、ＧＰＳ補正データとしてフロッピー５６に記録する。勿論、測定時刻の情報も同時に記録する。ＧＰＳ測位データ及びその誤差（即ち、ＧＰＳ補正データ）は、必要により、モニタ５８の画面に表示される。オペレータはキーボード６０により種々の指令をコンピュータ５４に入力できる。コンピュータ５４はまた、通信装置６２を介してＧＰＳ補正データを、図１に示す空中計測システム（のコンピュータ１８）に送信する。
【００２４】
図１に示す空中計測システム（及び、必要により図２に示す地上計測システム）により計測された各データは、図３に示す地上解析システムにより解析され、３次元データが算出される。即ち、高品位ＶＴＲ７０は、図１に示す空中計測システムで録画されたビデオ・テープを再生し、映像映像信号をフレーム・バッファ７４に、再生されたタイムコードをエンジニアリング・ワークステーション７６に印加する。フレーム・バッファ７４に一時記憶された映像データはモニタ７８に印加され、映像表示される。再生されたタイムコードもモニタ７８に同時に表示されることがあるのは、いうまもでもない。
【００２５】
パーソナル・コンピュータ８０は、図１に示す空中計測システムで同時に収集された飛行データ及びＧＰＳ補正データ（通信不良の場合には、図２に示す地上計測システムで計測されたＧＰＳ補正データ）を読み出し、ＧＰＳ測位データをＧＰＳ補正データで補正すと共に、３軸ジャイロ・データを磁方位データで補正し、その他の計測データ及び一緒に記録されていたタイムコードと共にワークステーション７６に転送する。ワークステーション７６は、コンピュータ８０から供給されるタイムコードに従いＶＴＲ７０を制御し、同じタイムコードの映像をＶＴＲ７０に再生させる。これにより、ワークステーション７６は、撮影時の条件及び撮影位置と、そのときの撮影映像とを対応付けることができ、以下に詳細に説明する演算により流れ（量及び方向並びに速度）を算出する。
【００２６】
図４は、本実施例における映像入力から流れ算出までのフローを示す。先ず、図１に示す各装置を航空機に搭載し、対象地域上空を可能な限り一定高度及び一定速度で飛行しながら対象地域を撮影し、飛行情報を収録する（Ｓ１）。このとき、撮影対象は、基本的に、カメラ１０の走査線に垂直な方向に移動していく。カメラ１０により撮影された映像は、ＶＴＲ１４によりビデオテープに録画される。同時に、カメラ１０の正確な位置（緯度、経度、高さ）と向きの情報が、ＶＴＲ１４からのタイムコードと共にフロッピー４２に記録される。タイムコードは、地上での解析時に、カメラの位置及び向きと、再生映像との同期をとるのに使用される。
【００２７】
カメラ１０の位置は、基本的にはＧＰＳ受信機３２から出力されるＧＰＳ測位データから分かり、精度向上のために、基準局からのＧＰＳ補正データによりディファレンシャル処理される。ディファレンシャル処理は、航空機上でもよいが、ＧＰＳ補正データの通信不良などを考慮すると、ＧＰＳ受信機３２の出力（ＧＰＳ測位データ）とＧＰＳ補正データとを別々にフロッピー４２に記録しておき、地上での解析時にディファレンシャル処理するのが好ましい。ＧＰＳ補正データの通信不良があったときには、図２に示す地上計測システムで記録保存したＧＰＳ補正データでＧＰＳ測位データをディファレンシャル処理する。
【００２８】
カメラ１０の向きに関しては、防振安定装置１２のジャイロ・センサの出力を磁方位センサ２８の出力で補正した値をフロッピー４２に記録する。具体的には、３軸の傾き（ピッチ、ロール及びヨー）をフロッピーに記録する。勿論、簡略化のため、または、防振安定装置１２の性能が良好な場合や、簡略化してもよい場合には、カメラ１０の傾きが一定であるとしてもよい。
【００２９】
収録された情報（映像と飛行情報）は、図３に示す地上解析システムで再生され、解析される。先に説明したように、ワークステーション７６は、コンピュータ８０からの撮影時の情報（カメラの位置と方位、並びにタイムコード）に従い、ＶＴＲ７０を制御し、同じタイムコードの映像を再生させる。再生された映像信号は、ディジタル化されて、フレーム・バッファ７４に格納される。このようにして、ワークステーション７６は、映像データと、撮影時のカメラ位置及び傾きのデータを得ることができ、標定計算（Ｓ２）、連続モザイク画像作成（Ｓ３）、射影変換（Ｓ４）、マッチング処理（Ｓ５）及びベクトル計算（Ｓ６）の各処理を経て、流れ計測を完了し、結果を出力（印刷、表示及び／又は記憶）する。
【００３０】
標定計算（Ｓ２）を説明する。一連の複数の画像を合成して１枚の広い範囲の画像を得る場合、ステレオ画像により３次元計測する技術を流用できる。この場合、各原画像で正確な標定要素が必要になる。標定要素には、撮影時のカメラの位置及び３軸の傾きからなる外部標定要素と、カメラ主点位置ズレ量、レンズ歪係数及びフィルム平面度などからなる内部標定要素とがある。内部標定要素は、カメラ毎に個体差がありうるものも、予め測定しておくことができる。
【００３１】
外部標定要素は、次のような一般的な写真測量の手法で求めることができる。即ち、ビデオ撮影時に同時に収録した飛行情報、具体的にはカメラ１０の位置と傾きから、重複率が６０％（又はほぼ６０％）になるようなシーン（本実施例では、フィールド画）を、撮影映像から抽出する。例えば、図５に示す例では、シーン＃１に対してシーン＃２は６０％重複し、シーン＃３はシーン＃２に対して６０％重複する。シーン＃３はシーン＃１に対しても２０％重複する。抽出したシーンのフィールド番号は、後述の射影変換処理における外部標定要素の内挿処理で必要となるので、抽出された各シーンの外部標定要素と対にして、図示しない補助記憶装置（例えば、ハードディスク装置）に記憶する。
【００３２】
しかし、飛行情報に従って抽出した３シーンの重複部分は、センサ誤差及び地形の高さによる影響が含まれているので、ピッタリ合うことは稀である。そこで、実際には、次のようにして重複部分を確定する。即ち、図６に示すように、各シーンの重複部分に複数のマッチング領域を設定し、残差逐次検定法又は相互相関係数法などのマッチング手法により、各シーンの各マッチング領域内で共通ポイントを計算する。この計算は勿論、自動化可能であり、この共通ポイントをパス・ポイントと呼ぶ。
【００３３】
立体画像を構成する２つの画像からなる対をモデルと呼び、その重複部分のパス・ポイントの座標値から相対的な位置及び傾きの関係を求めるのを相互標定と呼び、複数のモデルをモデル相互の共通したパス・ポイントをもとに統一したコース座標系に変換すべく結合するのを接続標定と呼ぶ。相互標定と接続標定の関係を図７に示す。
【００３４】
一連の撮影映像で上述の相互標定と接続標定を繰り返し行なうことにより、各モデルを統一したコース座標系に変換できる。ビデオ撮影時に収録した飛行情報（外部標定要素）は、その測定系に依存する測定誤差又は変動を含むが、このような標定計算（相互標定と接続標定）により、外部標定要素の値を高精度に確定できる。
【００３５】
以上により、標定計算（Ｓ２）を終了し、次に、連続モザイク画像を作成する（Ｓ３）。カメラの撮像面（ＣＣＤ面）と地上撮影範囲の関係は、図８のようになる。ビデオ映像は、周知の通り、１秒間に３０フレームからなり、１フレームは奇フィールドと偶フィールドの２つのフィールドからなる。奇フィールドと偶フィールドは、走査線が重複しないようにずらして配列され、１／６０秒毎に交互に表示される。
【００３６】
即ち、カメラ１０により撮影したビデオ映像は、１／６０秒毎に撮影位置を変えたシーン（フィールド）からなり、本実施例では、図９に示すように、各フィールドからその（先頭＋ｎ）ライン及び（最終−ｎ）ラインの各ライン・データを抽出し、各フィールドの（先頭＋ｎ）ラインのデータから形成した画像を前方視画像、各フィールドの（最終−ｎ）ラインのデータから形成した画像を後方視画像とそれぞれ呼ぶ。ｎは０以上の整数である。撮影時の移動速度が一定で、且つカメラの傾きも一定であれば、これら、前方視画像は、同じ物体を異なる時間に撮影したものになる。
【００３７】
前方視画像と後方視画像で同一の地点は、図１０に示すように、ベース長Ｂだけ離れた位置で撮影されたものになる。例えば、高度１，０００フィート、速度４０ノットで飛行しながら、３／４インチＣＣＤハイビジョン・カメラで撮影した場合で、先頭ラインで前方視画像を形成し、最終ラインで後方視画像を形成したとき（即ち、ｎ＝０）、焦点距離が８．５ｍｍであれば、ベース長Ｂは１９１ｍ、その間の時間差は９．３秒であり、焦点距離が１０２．０ｍｍであれば、ベース長Ｂは１６ｍ、時間差は０．７秒である。
【００３８】
ハイビジョン信号は１フレームが１，０３５本の走査線を含み、フィールド画では５１７本の走査線を含む。従って、焦点距離８．５ｍｍの場合、走査線間の時間差は０．０１８秒（＝９．３秒／５１７本）に相当する。従って、このケースでは、１回の撮影飛行で、浮標などの動きを平均９．３秒間にわたり最小０．０１８秒間隔で連続して計測できることになる。
【００３９】
但し、航空機によるビデオ撮影では、飛行速度の変化、飛行コースのズレ、飛行高度の変化、及び３軸（ピッチ、ロール及びヨー）の変化といった変動要因があり、これらの影響を除去して、ビデオ画像を地上座標に射影変換する必要がある（Ｓ４）。
【００４０】
射影変換処理（Ｓ４）では先ず、標定計算（Ｓ２）で得られた重複率６０％の各画像の外部標定要素をもとに、連続モザイク画像（前方視画像及び後方視画像）の各ライン・データに対応する外部標定要素を決定する。例えば、図１１に示すように、３つの撮影地点Ｐ，Ｑ，Ｒでの外部標定要素、即ちカメラの位置と傾きが、それぞれ、（Ｘp，Ｙp，Ｚp，ωp，φp，κp）、（Ｘq，Ｙq，Ｚq，ωq，φq，κq）及び（Ｘr，Ｙr，Ｚr，ωr，φr，κr）であるとしたとき、連続モザイク画像上で、各撮影地点Ｐ，Ｑ，Ｒでの撮影画面から抽出したラインにこれらの外部標定要素の値を割り当て、それ以外のラインには、内挿値を割り当てる。このようにして、連続モザイク画像の各ラインに、図１２に示すように外部標定要素（Ｘi，Ｙi，Ｚi，ωi，φi，κi）を割り当てる。
【００４１】
本実施例では、写真測量の演算ソフトウエアを流用するので、ビデオ映像の座標系を、図１３に示すように、通常の写真測量の単写真の座標系に変換する。即
【００４２】
ち、【数１】に示すように、画像座標系（ｕ，ｖ）を写真座標系（ｘ，ｙ）に変換する。
【００４３】
【数１】
ｘ＝（ｕ−ｕ0）×ｘC
ｙ＝（ｖ−ｖ0）×ｙC
但し、ｕ0及びｖ0は、ビデオ画像の中心画像座標値、ｘC及びｙCは、１画素あたりのｘ，ｙ方向のＣＣＤ結像面での長さである。
【００４４】
そして、写真座標系を地上座標系に変換する。写真座標系（ｘ，ｙ）と地上座標系（Ｘ，Ｙ，Ｚ）との間には、図１４に示す幾何学的関係があり、その変換式は、下式で表わされる。
【００４５】
【数２】
0003653769.tif 000002
【００４６】
ここで、ｆは画面距離、（Ｘｏ，Ｙｏ，Ｚｏ）は写真の投影中心Ｏの地上座標で
【００４７】
ある。【数２】は、共線条件式と呼ばれる。９個の係数ａ11〜ａ33は、カメラの
【００４８】
撮影軸の傾き（ω，φ，κ）から【数３】により求められる。ω，φ，κはそれぞれＸ軸、Ｙ軸及びＺ軸のまわりの回転角を示し、それぞれの軸の正方向に向かって右まわりを正とする。
【００４９】
【数３】
0003653769.tif 000003
【００５０】
従って、
【００５１】
【数４】
0003653769.tif 000004
【００５２】
【数２】の逆変換式は、次のようになる。即ち、
【００５３】
【数５】
0003653769.tif 000005
【００５４】
【数２】及び【数５】における未知変量は、写真の投影中心の地上座標（Ｘｏ，Ｙｏ，Ｚｏ）及び撮影軸の傾き（ω，φ，κ）の６つである。この６つの未知変量が外部標定要素であり、先に求めたライン毎の外部標定要素により、ライン毎に、写真座標系を地上座標系に変換できる。
【００５５】
このように地上座標系に変換された連続モザイク画像に【数５】を適用し、標高０ｍに投影した画像に変換する（Ｓ４）。即ち、図１５に示すように、先にライン毎に決定した外部標定要素を用いて係数ａ11〜ａ33を求め、連続モザイク画
【００５６】
像の前方視画像及び後方視画像に【数５】を適用して、標高０ｍに投影した画像を作成する。この時、作成する画像の１画素の大きさは、撮影高度、カメラ焦点距離及びビデオ画像１画素のＣＣＤ長等から計算して、最適な値に設定する。
【００５７】
出力画像の１画素の大きさを最適な値に設定しても、ビデオ撮影時の飛行速度や撮影方向の変化で画素ヌケの箇所が発生する場合がある。これは、フィルタ処理により周囲の画素から内挿又は補間する。内挿手法には、内挿したい点に最も近い観測点の値をそのまま流用する最近隣内挿法、内挿したい点の周囲の４つの観測点の値の平均値を求める値とする共一次内挿法、及び、内挿したい点の周囲の１６個の観測点の値を三次畳み込み処理する三次畳み込み内挿法などがある。
【００５８】
最近隣内挿法は、最大１／２画素の位置誤差を生じるが、オリジナルな画像データを壊さない利点があり、また、アルゴリズムが簡単である。共一次内挿法は、オリジナルのデータが壊される欠点があるが、平均化によりスムージングの効果がでる利点がある。三次畳み込み内挿法は、オリジナルのデータが壊される欠点があるが、画像の平滑化と鮮鋭化を同時に実現できるという利点がある。目的に応じて、また最終結果を見て、全体又は部分的に何れの内挿法を適用するかを選択すればよい。
【００５９】
射影変換（Ｓ４）により得られた前方視画像と後方視画像から、マッチング処理により任意の浮標の移動後の位置を調べ（Ｓ５）、その結果から動きベクトルを算出する（Ｓ６）。その動きの間の経過時間は、先に説明したように、飛行速度、飛行高度及びカメラの焦点距離等だけでなく、前方視画像及び後方視画像が撮影画像の何番目のラインを抽出して合成したものになっているかに依存する。
【００６０】
図１６に示すように、前方視画像内で、周囲と明瞭に識別できる適当なテンプレート画像（浮標などの小さな画像）を設定し、そのテンプレート画像にほぼ合致する画像を後方視画像上で探索する。予測される移動量及び移動速度を勘案して、探索範囲を設定する。計測対象によっては、移動方向が限定される場合もある。そのような場合には、予測される範囲に探索範囲を設定すれば、より効率的に且つ正しいマッチングを得ることが出来る。なお、後方視画像内にテンプレート画像を設定し、そのテンプレート画像に合致する画像を前方視画像から探索するようにしてもよいことは明らかである。
【００６１】
マッチング処理結果によりテンプレート画像の位置を基準として、マッチング位置及び再配列後の１画素の大きさから、Ｘ，Ｙ各成分の変位量Δｘ，Δｙを求め、移動量Ｄと移動角度θを下記式により計算する。即ち、
Ｄ＝（Δｘ2＋Δｙ2）1/2
θ＝ｔａｎ-1（Δｘ／Δｙ）
である。
【００６２】
先に説明したように、前方視と後方視のモザイク画像を形成するのにビデオ映像から抽出するラインが、互いに近い程、得られる前方視画像と後方視画像で経過時間が短くなり、従って、同じ物体の移動量が小さくなる。この結果、目標物体の見掛け上の変形なども少なくなり、非常に高いマッチング精度が得られるだけでなく、探索範囲も狭くてよい。別の物体にマッチングする可能性も低くなる。
【００６３】
従って、マッチング処理に際して、予想される探索範囲でビデオ映像の中間的なラインによるモザイク画像の形成（Ｓ３）、射影変換（Ｓ４）及びマッチングを行なって、逐次的に対応点を探索するようにしてもよい。これにより、高い精度で対応点を検出できるようになる。
【００６４】
また、ビデオ映像の隣接するラインでモザイク画像を形成し、それらを射影変換した画像間でマッチングすれば、それらの一方のラインにおける時刻でライン間の時間差に対応する時間差における移動ベクトルを算出できる。ビデオ映像から抽出するラインを先頭ラインから最終ラインに向けて逐次、１ラインずつずらしていくことで、時々刻々変化する動きをそのままに算出できる。
【００６５】
図１７に示す一次元モデルで簡単に説明する。図１７で、縦軸はｘ、横軸は時間ｔを示す。左下から右上に延びる実線は、ビデオ映像の各ラインが撮影するｘ位置とその撮影時刻ｔとの対応関係を示す。ビデオ映像の各ラインは、同じ時刻でも異なるｘ位置を撮影したものになっている。ある浮標又はテンプレート画像が、ビデオ映像のライン＃０から形成したモザイク画像では、時刻ｔ0でｘ0に位置し、ライン＃ｉから形成したモザイク画像では時刻ｔiにｘiに位置し、最終ライン＃Ｋから形成したモザイク画像では時刻ｔKにｘKに位置したというように、移動しているとする。ライン＃０とライン＃１のモザイク画像のマッチング処理により、
0003653769.tif 000006
となる。
【００６６】
以下、同様に、一般的に、ライン＃ｉとライン＃ｊ（但し、ｊ＞ｉ）のモザイク画像のマッチング処理により、
0003653769.tif 000007
となる。細かい変化を計測するときには、ｊ＝ｉ＋１とすればよい。
【００６７】
図１７に示すモデルでは、時刻ｔ0から時刻ｔKまでの間の、（ｔK−ｔ0）に相当する時間の間の移動を細かく計測できることになる。移動途中でのマッチング処理のためのモザイク画像は、必要な範囲、例えば探索範囲のみを作成すればよい。そうすれば、演算時間が短くて済むだけでなく、種々のデータを記憶するメモリ容量も少なくて済む。
【００６８】
隣接するラインから形成したモザイク画像間でマッチング処理することにより、同じ外観の多数の浮標を流れに浮かべた場合でも、移動量が微量になるので、異なる浮標にミスマッチングしてしまうことがなくなるという利点もある。即ち、同じ外観の多数の浮標を流すことが可能になるので、面的に細かく計測できるという利点がある。
【００６９】
標定計算（Ｓ２）及びマッチング処理（Ｓ５）で利用したマッチング手法を簡単に説明する。先に説明したように、従来、使用されているマッチング手法には、残差逐次検定法と相互相関係数法がある。
【００７０】
先ず、残差逐次検定法を説明する。図１８に示すように、Ｎ×Ｎ画素のテンプレート画像を、それより大きいＭ×Ｍ画素の入力画像内の探索範囲（Ｍ−Ｎ＋１
【００７１】
）2上で動かし、【数６】の残差が最小になった位置で、重ね合わせが達成されたと看做す。
【００７２】
【数６】
0003653769.tif 000008
【００７３】
ただし、（ａ，ｂ）は、入力画像内におけるテンプレート画像の左上位置を示し、Ｉ(a,b)（ｍ，ｎ）は入力画像の部分画像、Ｔ（ｍ，ｎ）はテンプレート画像、Ｒ（ａ，ｂ）は、入力画像の部分画像とテンプレート画像との残差である。
【００７４】
重ね合わせがずれていると、各画素について順次加算していくときに残差が急激に増大する。そこで、加算の途中で残差があるしきい値を超えたら、重ね合わせが良くないものと判断して、加算を打ち切り、次の（ａ，ｂ）に移行する。これが、残差逐次検定法（ｓｅｑｕｅｎｔｉａ１  ｓｉｍｉｌａｒｉｔｙ  ｄｅｔｅｃｔｉｏｎ  ａｌｇｏｒｉｔｈｍであり、以降ＳＳＤＡ法と略す。）である。ＳＳＤＡ法は、Ｂａｒｎｅａらによって提案されたが、しきい値をいかに与えるかが問題であった。この点に関して尾上らは、いかに述べるしきい値自動決定法を提案している。
【００７５】
尾上らの提案するしきい値自動決定法は、取り敢えずのしきい値として過去の残差の最小値を採用する。なお、最初は、しきい値無しで最後まで加算させ、その結果の残差を最初のしきい値とする。以降、最後まで、しきい値を超えることなく加算されるごとにその残差を新しいしきい値とする。この方法では、常に真の最小値に達することが保証されている。
【００７６】
ＳＳＤＡ法は、加算だけからなり、しかも多くの場合に途中で打ち切られるので、計算時間を大幅に短縮できる。尾上らは、雲の移動追跡に応用して、相互相関係数による方法と比べて精度が同等、処理時間が１桁以上短縮というきわめて良好な結果を得ている。
【００７７】
相互相関係数法を説明する。相互相関係数法では、【数７】が最大になる入力画像内におけるテンプレート画像の左上位置（ａ，ｂ）を求める。
【００７８】
【数７】
0003653769.tif 000009
【００７９】
この方法では、ＳＳＤＡ法のような計算の打ち切りが無いので、計算時間をあまり短縮できない。しかし、写真測量の分野では、ステレオ航空写真のディジタル画像から格子点の標高を計測し、等高線を描画する場合に、左右の画像で対応する点を探索する手法として相互相関係数法が、手軽なのでよく使われている。
【００８０】
本実施例では、対空標識の設置及びその位置計測のための測量作業が不要になるので、任意の地域で迅速に調査できる。また、人が立ち入ることの出来ない危険地域（土砂崩れ、土石流及び火山噴火地帯等）についても流れを計測できる。また、標定計算が自動化されているので、解析処理を手早く進めることが出来る。標定計算により、撮影時のカメラ位置及び方位などの撮影条件の精度を高められる。
【００８１】
任意のラインから形成したモザイク画像により、任意の時間差での移動を計測できる。１回のビデオ撮影で計測可能な平均時間は、直接的にはベース長Ｂと飛行高度Ｈに依存するが、カメラの焦点距離を変更することで、ある程度、自由に設定できる。
【００８２】
本実施例により面的な流れの状況を微細に計測できるようになり、各種の対策又はシミュレーションの基礎データを入手できる。例えば、洪水流調査、沿岸流調査、河川水拡散調査、波浪解析調査、及び路面走行車両調査等の、面的な移動の調査に応用できる。図１９〜図２３は、それぞれについての、流れと流れ計測の為の飛行コースを示す。図１９〜図２３で、矢印の付いた太い実線が、飛行コースと飛行方向を示す。
【００８３】
図１９に示す洪水流調査では、洪水時の濁流による河床洗掘の様子を知ることができ、橋脚や護岸の倒壊を予防し、又はこれに備えることができるようになる。
【００８４】
図２０に示す沿岸流調査では、護岸や防波堤の建設に伴う砂の移動の変化をシミュレーションするための基礎情報を得ることができる。これらの構造物の形状及び位置の設計及び建設に役立てて、航路や港の浅海化を事前に防止できる。
【００８５】
図２１に示す河川水拡散状況調査では、河川水に含まれる生活排水が海で生活する生物に与える影響、及び汚濁水による海水浴場への影響を調べることができ、また、富栄養河川水による海苔養殖場所の適地選定等で基礎データを得ることができる。
【００８６】
図２２に示す波浪解析調査により、波の速度を解析して沿岸の海底地形を推測することが可能になる。
【００８７】
図２３に示す路面走行車両調査により、高速道路等の路面走行車両の運動状況を迅速且つ定量的に把握でき、交通渋滞の解析及び解消に役立てることができる。
【００８８】
本実施例によれば、従来良く利用された航空写真に代わって、高解像度ビデオカメラで収録した映像から、ほぼ自動処理により短時間で流れを計測できるので、非常に幅広い用途に利用可能である。ヘリコプターから地上を撮影する例で説明したが、本発明は、ヘリコプター以外に、その他の飛行機及び監視衛星から撮影する場合にも適用できるこというまでもない。
【００８９】
本実施例では、広い範囲にわたる流れを一度のビデオ入力で計測できるだけでなく、短時間の微細な変化を計測できる。従って、時間的な変動を実質的に無視し得るような流れでは、１回のビデオ入力（計測飛行）で必要な情報を入手でき、時間的な変動を計測する必要のある場合には、複数回にわたりビデオ入力（計測飛行）すればよい。
【００９０】
【発明の効果】
以上の説明から容易に理解できるように、本発明によれば、ビデオ映像から実質的に自動的に流れを精度よく計測できる。実質的に自動処理になるので、熟練者を必要とせずに、短時間で結果を得ることができる。
【図面の簡単な説明】
【図１】  本発明の一実施例の空中計測システムの概略構成ブロック図である。
【図２】  本実施例の地上計測システムの概略構成ブロック図である。
【図３】  本実施例の地上解析システムの概略構成ブロック図である。
【図４】  本実施例における計測から３次元データ抽出までのフロー・チャートである。
【図５】  標定計算のための６０％重複シーンの説明図である。
【図６】  相互標定とパス・ポイントの説明図である。
【図７】  相互標定と接続標定の説明図である。
【図８】  カメラの撮像面と地上撮影範囲との関係図である。
【図９】  連続モザイク画像作成の概念図である。
【図１０】  前方視画像と後方視画像の関係の説明図である。
【図１１】  連続モザイク画像と外部標定要素との関係図である。
【図１２】  外部標定要素の内挿を説明する図である。
【図１３】  撮像面の画像座標系と写真座標系を説明する図である。
【図１４】  写真座標系と地上座標系の関係図である。
【図１５】  連続モザイク画像を、標高０ｍへ投影した画像に変換する関係の説明図である。
【図１６】  マッチング処理の説明図である。
【図１７】  ビデオ映像の各ラインによる撮影位置と撮影時刻の対応モデルを示す図である。
【図１８】  入力画像とテンプレート画像のマッチングの基本図である。
【図１９】  本実施例による洪水流調査の飛行コース例である。
【図２０】  本実施例による沿岸流調査の飛行コース例である。
【図２１】  本実施例による河川水拡散状況調査の飛行コース例である。
【図２２】  本実施例による波浪解析調査の飛行コース例である。
【図２３】  本実施例による路面走行車両調査の飛行コース例である。
【図２４】  流れの中の浮標の移動例である。
【図２５】  図２４に示す例を空中写真で流れ計測する場合の説明図である。
【符号の説明】
１０：高品位カメラ
１２：高精度防振安定装置（防振装置）
１４：高品位ビデオ・テープ・レコーダ
１６：高品位モニタ
１８：パーソナル・コンピュータ
２０：３軸制御装置
２２：カメラ制御装置
２４：ＶＴＲ制御装置
２６：対地高度センサ
２８：磁方位センサ
３０：ＧＰＳアンテナ
３２：ＧＰＳ受信装置
３４：ナビゲーション・システム
３６：フロッピー
３８：モニタ
４０：通信装置
４２：フロッピー
４４：モニタ
４６：キーボード
５０：ＧＰＳ受信装置
５２：ＧＰＳアンテナ
５４：コンピュータ
５６：フロッピー
５８：モニタ
６０：キーボード
６２：通信装置
７０：高品位ＶＴＲ
７４：フレーム・バッファ
７６：エンジニアリング・ワークステーション
７８：モニタ
８０：パーソナル・コンピュータ
【図１】
0003653769.tif 000010
【図２】
0003653769.tif 000011
【図３】
0003653769.tif 000012
【図４】
0003653769.tif 000013
【図５】
0003653769.tif 000014
【図６】
0003653769.tif 000015
【図７】
0003653769.tif 000016
【図８】
0003653769.tif 000017
【図９】
0003653769.tif 000018
【図１０】
0003653769.tif 000019
【図１１】
0003653769.tif 000020
【図１２】
0003653769.tif 000021
【図１３】
0003653769.tif 000022
【図１４】
0003653769.tif 000023
【図１５】
0003653769.tif 000024
【図１６】
0003653769.tif 000025
【図１７】
0003653769.tif 000026
【図１８】
0003653769.tif 000027
【図１９】
0003653769.tif 000028
【図２０】
0003653769.tif 000029
【図２１】
0003653769.tif 000030
【図２２】
0003653769.tif 000031
【図２３】
0003653769.tif 000032
【図２４】
0003653769.tif 000033
【図２５】
0003653769.tif 000034