(57)【特許請求の範囲】
【請求項１】
撮影対象を含む複数帯域の赤外画像に対して、各帯域に対して仮想パラメータを設定し、前記仮想パラメータによって構成される仮想ベクトルＸと、前記各帯域に強い感度を持つ、帯域の個数分準備した赤外画像センサの各撮像画像を要素として持つ画像ベクトルＩの２つのベクトルをＩ＝Ａ・Ｘで関係づけるマトリクスＡの各要素を、前記赤外画像センサの分光感度を元に決定し、前記画像ベクトルＩから異なる検出対象ごとに抽出した画像を要素としてもつ画像ベクトルＴをＴ＝Ｂ・Ｘとして結びつけるマトリクスＢを仮定し、前記マトリクスＢの各要素を事前に実施した実験データにより構成することにより得られる関係式Ｔ＝Ｂ・Ａ−１・Ｉに基づいて線形演算を行い、前記赤外画像の背景ノイズを除去する背景ノイズ除去手段と、前記背景ノイズ除去手段の演算処理結果として得られる画像を用いて１画素以下の対象位置を検出するサブピクセル処理手段と、前記サブピクセル処理手段により検出された前記対象位置を追跡し、次時刻の位置を推定する対象追跡手段とを備えた対象推定装置。
【請求項２】
サブピクセル処理手段は、対象追跡手段で推定された次時刻の対象位置に基づいて、当該次時刻に対応した時刻における対象位置の検出範囲を限定することを特徴とする請求項１記載の対象推定装置。
【請求項３】
撮影対象を含む赤外画像と、当該赤外画像を撮影するカメラの撮影方向と、撮影される地表の気象情報とを入力として前記赤外画像の撮影条件を判定する撮像条件判定手段を備え、
背景ノイズ除去手段は、前記撮像条件判定手段の判定結果に基づいて実験データに基づいた係数を選択することを特徴とする請求項１または請求項２記載の対象推定装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、画像中を移動する微小サイズの対象の位置を検出する対象推定装置に関するものである。
【背景技術】
【０００２】
従来、画像中にノイズを多く含む背景（クラッタ）から、移動する微小サイズの対象の位置を検出する画像処理装置として例えば特許文献１に示すものがあった。この装置は、微小サイズの対象の位置を時系列情報を利用して追跡し、検出精度・処理速度を向上させるようにしたものである。このような装置は、それぞれの波長に対応する赤外線カメラや画像メモリおよびオフセット処理部や差分処理部を備え、それぞれの波長に対応する画像の合成画像を得ることで目標候補の数を低減する。特に２波長の赤外線画像の差分処理を行うことによりクラッタを削減し、目標候補の数を低減するものであった。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００８−２４１５６３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記従来装置のように、二波長赤外線カメラで帯域の異なる二枚の赤外画像を取得し、画像間の演算により背景に含まれる微小目標以外のノイズを除去する場合、撮影範囲に含まれる土地・海・湖沼・雲の状態により二枚の赤外画像に含まれる差は一様ではなく画素毎に異なるため、単純な線形演算では微小目標を検出・追跡するに十分なレベルまで背景ノイズを除去することは難しいという問題があった。
【０００５】
この発明は、上記のような問題点を解決するためになされたものであり、赤外画像の背景にノイズを含む状態で微小目標の位置を精度良く検出・追跡することのできる対象推定装置を得ることを目的としている。
【課題を解決するための手段】
【０００６】
この発明に係る対象推定装置は、撮影対象を含む複数帯域の赤外画像に対して、各帯域に対して仮想パラメータを設定し、仮想パラメータによって構成される仮想ベクトルＸと、各帯域に強い感度を持つ、帯域の個数分準備した赤外画像センサの各撮像画像を要素として持つ画像ベクトルＩの２つのベクトルをＩ＝Ａ・Ｘで関係づけるマトリクスＡの各要素を、赤外画像センサの分光感度を元に決定し、画像ベクトルＩから異なる検出対象ごとに抽出した画像を要素としてもつ画像ベクトルＴをＴ＝Ｂ・Ｘとして結びつけるマトリクスＢを仮定し、マトリクスＢの各要素を事前に実施した実験データにより構成することにより得られる関係式Ｔ＝Ｂ・Ａ−１・Ｉに基づいて線形演算を行い、赤外画像の背景ノイズを除去する背景ノイズ除去手段と、背景ノイズ除去手段の演算処理結果として得られる画像を用いて１画素以下の対象位置を検出するサブピクセル処理手段と、サブピクセル処理手段により検出された対象位置を追跡し、次時刻の位置を推定する対象追跡手段とを備えたものである。
【発明の効果】
【０００７】
この発明の対象推定装置は、赤外画像に対して、各帯域に対して仮想パラメータを設定し、仮想パラメータによって構成される仮想ベクトルＸと、各帯域に強い感度を持つ、帯域の個数分準備した赤外画像センサの各撮像画像を要素として持つ画像ベクトルＩの２つのベクトルをＩ＝Ａ・Ｘで関係づけるマトリクスＡの各要素を、赤外画像センサの分光感度を元に決定し、画像ベクトルＩから異なる検出対象ごとに抽出した画像を要素としてもつ画像ベクトルＴをＴ＝Ｂ・Ｘとして結びつけるマトリクスＢを仮定し、マトリクスＢの各要素を事前に実施した実験データにより構成することにより得られる関係式
Ｔ＝Ｂ・Ａ−１・Ｉに基づいて線形演算を行って、その背景ノイズを除去し、１画素以下の対象位置を検出するようにしたので、赤外画像の背景にノイズを含む状態で微小目標の位置を精度良く検出・追跡することができる。
【図面の簡単な説明】
【０００８】
【図１】この発明の実施の形態１による対象推定装置を示す構成図である。
【図２】この発明の実施の形態２による対象推定装置を示す構成図である。
【発明を実施するための形態】
【０００９】
実施の形態１．
図１は、この発明の実施の形態１による対象推定装置を示す構成図である。
図１に示す対象推定装置は、画像撮影手段１、画像蓄積手段２、背景ノイズ除去手段３、サブピクセル処理手段４、対象追跡手段５を備えている。
【００１０】
画像撮影手段１は、飛行機や人工衛星など空から地上を撮影する画像撮影手段であり、例えば、帯域の異なる複数の赤外線カメラで構成されている。画像蓄積手段２は、画像撮影手段１で撮影した画像を記憶する記憶部であり、波長１〜Ｎ（Ｎは任意の整数）毎に複数の画像記憶部２−１〜２−ｎを有している。（背景ノイズ除去手段３は、画像蓄積手段２に保存されている異なる帯域で撮影された赤外画像に対して、最適化手法で決定された関数で演算する機能を有し、検出対象となる微小目標以外の背景（クラッタ）を除去するものである。尚、背景ノイズ除去の詳細については後述する。サブピクセル処理手段４は、背景ノイズ除去手段３で背景ノイズが除去された画像を用いて１画素以下（サブピクセル）の対象位置を検出する手段である。対象追跡手段５は、サブピクセル処理手段４により検出された対象位置を追跡し、次時刻の位置を推定する手段である。
【００１１】
次に、実施の形態１の対象推定装置の動作について説明する。尚、以下の説明では、説明を簡単にするため、画像撮影手段１として異なる３帯域の撮影を行うものとし、３台の画像記憶部２−１〜２−３を備えているものとする。
画像撮影手段１は３帯域の赤外画像を撮影し、それぞれの帯域の赤外画像が画像蓄積手段２に記憶される。背景ノイズ除去手段３は、画像蓄積手段２に記憶されている赤外画像から背景ノイズ除去を行う。
【００１２】
気象衛星などの高度にある上空から地表を帯域の異なる複数の赤外センサで撮影する場合、波長により水分の吸収特性や地表の反射特性が異なるため、各帯域の赤外画像に含まれる背景ノイズ（クラッタ）のパターンも異なり、従ってそれらの差分等単純な演算では背景ノイズを除去することは難しい。この問題を解決するため、実施の形態１では、次に示す演算を用いて背景ノイズを除去する。
ここで、本実施の形態では、異なる帯域を持つ３個の赤外センサで上空から地表の画像を撮像するとしている。各赤外センサＣｉ（ｉ＝１，２，３）で取得される画像をＩｉとし、地表画像に分布する熱源のうち、センサＣｉに強い感度特性を持つものの２次元温度分布を熱画像Ｘｉとしたとき、これらの関係は下式（１）で示される。
0005465001.tif 000002
但し、式（１）中、ａｉ１，ａｉ２，ａｉ３（ｉ＝１，２，３）はＩｉに対応する各赤外センサに固有の分光特性を反映しており、撮像以前に確定している定数である。ここで各赤外センサは帯域が異なるため、行列Ａの行ベクトルは互いに線形独立であると見なせるので逆行列が存在し、下式（２）
0005465001.tif 000003
で、Ｘｉ（ｉ＝１，２，３）を求めることができる。
【００１３】
次に検出対象となる微小目標の２次元温度分布を熱画像Ｔ１、背景クラッタのうち例えば雲起因のもの、地表起因のものをそれぞれ熱画像Ｔ２，Ｔ３とすると、下式（３）
0005465001.tif 000004
と表すことができる。ここでｂｉ１，ｂｉ２，ｂｉ３（ｉ＝１，２，３）は検出対象となる微小目標のみ、雲クラッタのみ、地表クラッタのみを撮像した実験データを取得することにより得られる。
【００１４】
結局、撮像画像Ｉｉから微小目標、雲クラッタ、地表クラッタの各成分を抽出するために、式（２）を式（３）に代入し、式（４）として、
0005465001.tif 000005
を計算すればよい。図１中、画像３１が波長Ａ、画像３２が波長Ｂ、画像３３がクラッタ除去画像を示している。尚、上記の説明では異なる３個の帯域を持つ赤外画像センサの例で説明したが、２個あるいは４個以上の場合でも同様の手法が適用できる。
【００１５】
サブピクセル処理手段４は、検出対象となる微小目標の位置座標をサブピクセルレベルで算出する。一般に画像に含まれる輝点が画像中を移動し、その位置座標をサブピクセルレベルで算出する手法として、例えば、波部他、「画像の２次元空間構造を利用したサブピクセルマッチングの高精度化」、画像の認識・理解シンポジウム（ＭＩＲＵ２００５）、２００５年７月．に記載されたようなサブピクセルマッチング手法がある。このような手法を用いることにより、サブピクセルレベルで微小目標の位置検出が可能である。図１中、画像４１がサブピクセルレベルの輝度値を示し、画像４２は、求めたサブピクセルレベルの位置を示している。
【００１６】
対象追跡手段５は、サブピクセルレベルで検出された微小目標の次時刻の位置を推定する。一般に画像中を移動する対象を追跡するためには、パターンマッチングによる方法と動きベクトルを利用する方法がある。本実施の形態では各時刻に検出される微小目標の位置座標をたどることで動きベクトルを得る。そして、それを利用して微小目標の位置を、例えば、R. E. Kalman, "A new approach to linear filtering and prediction problems". Journal of Basic Engineering 82 (1): pp35-45, 1960.に記載されているようなカルマンフィルタなどの手法を利用して時間方向に推定することにより追跡することが可能である（画像５０参照）。この追跡機能を利用することで位置座標の精度向上に貢献するだけでなく、サブピクセル処理手段４において微小目標の位置を検出する範囲を限定することができるため、処理の高速化にも寄与することができる。
【００１７】
このような実施の形態１では、検出対象の輝点以外の背景ノイズを、帯域の異なる複数の赤外画像を用いた画像処理により低減するので、背景にノイズを多く含む場合でも安定してサブピクセルレベルの精度で検出対象を追跡することが可能である。
【００１８】
以上のように、実施の形態１の対象推定装置によれば、撮影対象を含む複数帯域の赤外画像に対して、実験データに基づいた係数で線形演算を行い、赤外画像の背景ノイズを除去する背景ノイズ除去手段３と、背景ノイズ除去手段３の演算処理結果として得られる画像を用いて１画素以下の対象位置を検出するサブピクセル処理手段４と、サブピクセル処理手段４により検出された対象位置を追跡し、次時刻の位置を推定する対象追跡手段５とを備えたので、赤外画像の背景にノイズを含む状態で微小目標の位置を精度良く検出・追跡することができる。
【００１９】
また、実施の形態１の対象推定装置によれば、サブピクセル処理手段４は、対象追跡手段５で推定された次時刻の対象位置に基づいて、次時刻に対応した時刻における対象位置の検出範囲を限定するようにしたので、対象位置の検出処理を安定化・高速化させることができる。
【００２０】
実施の形態２．
実施の形態１では、行列Ｂは背景ノイズを除去するために雲や地表を含む画像を実験データとして取得し、その実験データの解析から行列Ｂの各要素を取得する例を説明したが、特定の高度を持つ上空から地表を撮影する場合、撮影する方向によっては海の領域を多く含む場合や陸地を多く含む場合で行列Ｂの係数は変化し、また撮影する方向が固定でも地表の気象条件によっては行列Ｂの係数も変化する。そこで、実施の形態２では実施の形態１の構成に加え、撮影対象を含む画像、カメラの撮影方向、および地表の気象情報を入力として撮影条件を判定する撮像条件判定手段を設ける。
【００２１】
図２は、実施の形態２の対象推定装置の構成図である。
図中、撮像条件判定手段６以外の構成は図１に示す実施の形態１と同様であるため、対応する部分に同一符号を付してその説明を省略する。撮像条件判定手段６は、上述したように、撮影対象を含む赤外画像と、赤外画像を撮影するカメラの撮影方向と、撮影される地表の気象情報とを入力として赤外画像の撮影条件を判定する手段である。また、背景ノイズ除去手段３ａは、撮像条件判定手段６の判定結果に基づいて実験データに基づいた係数（行列Ｂ）を選択するよう構成されている。以下、撮像条件判定手段６及び背景ノイズ除去手段３ａの動作について説明する。
【００２２】
撮像条件判定手段６は、地表に対するカメラの撮影方向を入力として、画像撮影手段１で取得された撮影対象を含む画像と、地表の地図とを領域毎にマッピングし、撮影画像のどの領域が海、どの領域が地表や山岳などに相当するかを判定し、こうした地表の地理的要因に加え、季節要因・気象変化・時間帯による温度変化を加味し、離散的ステータス値を出力する。実施の形態１では背景ノイズ除去手段３で保持している行列Ｂの各要素は固定値で構成される例で示したが、本実施の形態では背景ノイズ除去手段３ａは行列Ｂをステータス値毎に別個の行列として内部メモリに格納しておき、撮像条件判定手段６の出力であるステータス値に基づいて最適な行列Ｂを選択する。
【００２３】
この構成により、実施の形態２では、撮影対象である微小目標を含む背景のノイズ除去に関し、例えば地表や海面に応じて背景ノイズ除去手段３ａの内部パラメータを変更し、あるいは降雨時や快晴時に応じて内部パラメータを変更することで検出対象の輝点以外の背景ノイズが撮影条件に応じて低減されるので、背景にノイズを多く含む場合でも安定してサブピクセルレベルの精度で検出対象を追跡することが可能である。
【００２４】
以上のように、実施の形態２の対象推定装置によれば、撮影対象を含む赤外画像と、赤外画像を撮影するカメラの撮影方向と、撮影される地表の気象情報とを入力として赤外画像の撮影条件を判定する撮像条件判定手段を備え、背景ノイズ除去手段は、撮像条件判定手段の判定結果に基づいて実験データに基づいた係数を選択するようにしたので、撮影条件にかかわらず安定して微小目標の位置を精度良く検出・追跡することができる。
【符号の説明】
【００２５】
１  画像撮影手段、２  画像蓄積手段、３，３ａ  背景ノイズ除去手段、４  サブピクセル処理手段、５  対象追跡手段、６  撮像条件判定手段。
【図１】
0005465001.tif 000006
【図２】
0005465001.tif 000007