(57)【特許請求の範囲】
【請求項１】
一の画像を処理する方法であって、
実行コードが格納された一の計算装置によって、少なくとも一のオブジェクトを有する一の画像を受け取ることと、
前記画像から少なくとも２のスケールスペース画像を生成することであって、前記画像は、少なくとも一のオブジェクトを有し、かつ、複数の境界画素の候補となる複数の画素を特定する一のラベルと関連付けられ、前記計算装置は、前記計算装置に前記少なくとも２のスケールスペース画像を生成させるべく構成された一のプロセッサを含み、前記少なくとも２のスケールスペース画像は異なる詳細レベルを有し、かつ、同じサイズであることと、
前記計算装置が前記少なくとも２のスケールスペース画像を使用して、前記画像の各画素に対し、前記画素に隣接する画素との複数のリンクを有する３次元グラフを決定することと、
前記計算装置が前記３次元グラフの前記複数のリンクに対して複数の重みを決定することと、
前記計算装置が前記複数の重みを使用して前記複数の境界画素の候補となる複数の画素の複数のポテンシャル値を決定することであって、各ポテンシャル値は、前記複数の境界画素の候補となる複数の画素の一の関連画素が前記少なくとも一のオブジェクトの境界内に存在するか又は前記少なくとも一のオブジェクトの境界外に存在するかの尤度を表すことと、
前記計算装置が前記ポテンシャル値を使用して一のポテンシャルマップを決定することと、
前記計算装置が前記ポテンシャルマップを使用して前記画像を処理することと
を含む方法。
【請求項２】
前記画像を一のカラーモデルに変換することをさらに含み、
前記カラーモデルは、ＣＩＥ  Ｌ＊ａ＊ｂ＊カラースペースにある前記画像を含む、請求項１に記載の方法。
【請求項３】
前記画像から前記少なくとも２のスケールスペース画像を生成することは、少なくとも２のローパスフィルタを使用して前記画像をスケールスペース変換することを含む、請求項１に記載の方法。
【請求項４】
前記少なくとも２のローパスフィルタはガウシアンカーネルを含み、
前記異なる詳細レベルは異なるぼかし度を含む、請求項３に記載の方法。
【請求項５】
前記画像から前記少なくとも２のスケールスペース画像を生成することは、少なくとも２のウェーブレットフィルタを使用して前記画像をスケールスペース変換することを含む、請求項１に記載の方法。
【請求項６】
前記画像から前記少なくとも２のスケールスペース画像を生成することは、一のエッジ保存分解処理を使用して前記画像をスケールスペース変換することを含む、請求項１に記載の方法。
【請求項７】
前記３次元グラフの前記複数のリンクに対して前記複数の重みを決定することは、
一画素に関連付けられた複数のリンクを決定することと、
前記画素に関連付けられた前記複数のリンクの各リンクに対して一の重みを決定することと、
前記複数のリンクの各リンクに対する前記重みを集めて前記複数の重みを形成することと
を含む、請求項１に記載の方法。
【請求項８】
前記ポテンシャル値から前記ポテンシャルマップを決定することは、前記ポテンシャル値に対して一の幾何平均を決定することを含み、
前記ポテンシャルマップは、前記ポテンシャル値に対する前記幾何平均を含む、請求項１に記載の方法。
【請求項９】
前記少なくとも一のオブジェクトに対し、前記少なくとも一のオブジェクトの複数の境界画素を含む一のラベルを受け取ることをさらに含み、
前記複数の重みから複数のポテンシャル値を決定することは、前記ラベルを使用して前記ポテンシャル値を決定することを含む、請求項１に記載の方法。
【請求項１０】
前記ラベルを生成することをさらに含み、
前記ラベルを生成することは、
前記画像のための一のオブジェクトマスクを受け取ることと、
前記画像のための前記オブジェクトマスクから一の反転オブジェクトマスクを計算することと、
前記反転オブジェクトマスクから第１距離変換を決定することと、
前記オブジェクトマスクから第２距離変換を決定することと、
前記第１距離変換を使用して前記画像における複数の前景画素を特定することと、
前記第２距離変換を使用して前記画像における複数の背景画素を特定することと、
前記特定された前景画素と前記特定された背景画素とに基づいて前記ラベルを生成することと
を含む、請求項１に記載の方法。
【請求項１１】
前記ラベルを生成することをさらに含み、
前記ラベルを生成することは、
前記画像のための一のオブジェクトマスクを受け取ることと、
前記画像のための前記オブジェクトマスクから一の反転オブジェクトマスクを計算することと、
前記反転オブジェクトマスクを収縮することと、
前記画像のための前記オブジェクトマスクを収縮することと、
前記収縮された反転オブジェクトマスクに基づいて、かつ、前記画像のための前記収縮されたオブジェクトマスクに基づいて一の初期ラベルを生成することと、
前記初期ラベルを使用して前記画像のための一の初期ポテンシャルマップを決定することと、
前記初期ポテンシャルマップ、前記収縮された反転オブジェクトマスク、及び前記収縮されたオブジェクトマスクを使用して前記ラベルを生成することと
を含む、請求項９に記載の方法。
【請求項１２】
前記反転オブジェクトマスクを収縮することは、前記反転オブジェクトマスクにおいてモルフォロジ細線化処理を使用することを含み、
前記画像のための前記オブジェクトマスクを収縮することは、前記画像のための前記オブジェクトマスクにおいて前記モルフォロジ細線化処理を使用することを含む、請求項１１に記載の方法。
【請求項１３】
前記ポテンシャルマップを使用して前記画像を処理することは、前記ポテンシャルマップを使用して一の画像マスクを生成することを含む、請求項１に記載の方法。
【請求項１４】
前記ポテンシャルマップを使用して前記画像マスクを生成することは、
前記少なくとも一のオブジェクトの一の推定境界を特定する少なくとも２のキーポイントを受け取ることと、
前記少なくとも２のキーポイントに基づいて一のラベルを計算することと、
前記ラベルに基づいて一の画像セグメントをクロップすることと、
前記画像セグメントから一のポテンシャルマップを決定することと、
前記ポテンシャルマップから複数の境界ポイントを生成することと、
前記境界ポイントが許容不可能であることを特定する一のコマンドを受け取ることに応じて複数の新たなキーポイントを使用して第２ポテンシャルマップを計算することと、
前記境界ポイントが許容可能であることを特定する一のコマンドを受け取ることに応じて前記境界ポイントを出力することと、
前記境界ポイントを使用して前記画像マスクを生成することと
を含む、請求項１３に記載の方法。
【請求項１５】
前記新たなキーポイントの数は、前記少なくとも２のキーポイントの数よりも大きい、請求項１４に記載の方法。
【請求項１６】
一の画像を処理する計算装置において使用されるプログラムであって、
前記計算装置は、
一のプロセッサと、
前記計算装置に一のスケールスペースエンジンを実装させる前記プログラムを格納する一のコンピュータ可読媒体と、
前記計算装置内部のコンポーネント間のデータ送受信を可能にする一のバスと、
前記計算装置と外部コンポーネントとのデータ送受信を可能にする一の入出力インターフェイスと、
を含み、
前記スケールスペースエンジンは、前記プロセッサが前記バスを介して前記コンピュータ可読媒体にアクセスして前記プログラムを実行することにより、
前記入出力インターフェイスを介して少なくとも一のオブジェクトを有する一の画像を受け取ることと、
前記画像から少なくとも２のスケールスペース画像を生成することであって、前記少なくとも２のスケールスペース画像は異なる詳細レベルを有し、かつ、同じサイズであることと、
前記少なくとも２のスケールスペース画像を使用して、前記画像の各画素に対して複数の重みを決定することであって、前記複数の重みの各重みは一のリンクに関連付けられることと、
前記少なくとも一のオブジェクトに対し、前記少なくとも一のオブジェクトの複数の境界画素の候補となる画像の画素を特定する一のラベルを受け取ることと、
前記複数の重み及び前記ラベルを使用して複数のポテンシャル値を決定することであって、各ポテンシャル値は、前記複数の境界画素の候補の一の関連画素が前記少なくとも一のオブジェクトの境界内に存在するか又は前記少なくとも一のオブジェクトの境界外に存在するかの尤度を表すことと、
前記ポテンシャル値を使用して一のポテンシャルマップを決定することと、
前記ポテンシャルマップを使用して前記画像を処理する一の画像マスクを生成することと
を行うべく機能するプログラム。
【請求項１７】
前記スケールスペースエンジンは、前記計算装置に前記画像を一のカラーモデルに変換させるべく構成され、
前記カラーモデルは、ＣＩＥ  Ｌ＊ａ＊ｂ＊カラースペースにある画像を含む、請求項１６に記載のプログラム。
【請求項１８】
前記スケールスペースエンジンは、（ｉ）少なくとも２のウェーブレットフィルタ、（ｉｉ）一のエッジ保存分解処理、又は（ｉｉｉ）少なくとも２のローパスフィルタの一を使用して前記画像をスケールスペース変換することによって、前記画像から前記少なくとも２のスケールスペース画像を生成することを前記計算装置にさせるべく構成される、請求項１６に記載のプログラム。
【請求項１９】
前記スケールスペースエンジンは、前記ポテンシャル値に対する一の幾何平均を決定することによって前記ポテンシャル値から前記ポテンシャルマップを決定することを前記計算装置にさせるべく構成され、
前記ポテンシャルマップは、前記ポテンシャル値に対する前記幾何平均を含む、請求項１６に記載のプログラム。
【請求項２０】
前記スケールスペースエンジンは、
前記画像のための一のオブジェクトマスクを受け取ることと、
前記画像のための前記オブジェクトマスクから一の反転オブジェクトマスクを計算することと、
前記反転オブジェクトマスクから第１距離変換を決定することと、
前記オブジェクトマスクから第２距離変換を決定することと、
前記第１距離変換を使用して前記画像における複数の前景画素を特定することと、
前記第２距離変換を使用して前記画像における複数の背景画素を特定することと、
前記特定された前景画素と前記特定された背景画素とに基づいて前記ラベルを生成することと
によって前記ラベルを生成することを前記計算装置にさせるべく構成される、請求項１６に記載のプログラム。
【請求項２１】
前記スケールスペースエンジンは、前記ラベルを生成することによって前記画像のための前記ラベルを受け取ることを前記計算装置にさせるべく構成され、
前記スケールスペースエンジンは、
前記画像のための一のオブジェクトマスクを受け取ることと、
前記画像のための前記オブジェクトマスクから一の反転オブジェクトマスクを計算することと、
前記反転オブジェクトマスクを収縮することと、
前記画像のための前記オブジェクトマスクを収縮することと、
前記収縮された反転オブジェクトマスクに基づいて、かつ、前記画像のための前記収縮されたオブジェクトマスクに基づいて一の初期ラベルを生成することと、
前記初期ラベルを使用して前記画像のための一の初期ポテンシャルマップを決定することと、
前記初期ポテンシャルマップ、前記収縮された反転オブジェクトマスク、及び前記収縮されたオブジェクトマスクを使用して前記ラベルを生成することと
によって前記ラベルを生成することを前記計算装置にさせるべく構成される、請求項１６に記載のプログラム。
【請求項２２】
コンピュータを、少なくとも一のオブジェクトを有する一の画像を、前記少なくとも一のオブジェクトの境界を特定するべく処理する一のスケールスペースエンジンとして機能させるプログラムコードが格納されたコンピュータ可読媒体であって、
前記プログラムコードは、
少なくとも一のオブジェクトを有する一の画像を受け取るコードと、
（ｉ）少なくとも２のウェーブレットフィルタ又は（ｉｉ）一のエッジ保存分解処理の一を使用して前記画像をスケールスペース変換することにより前記画像から少なくとも２のスケールスペース画像を生成するコードであって、前記少なくとも２のスケールスペース画像は異なる詳細レベルを有し、かつ、同じサイズであるコードと、
前記少なくとも２のスケールスペース画像を使用して一のポテンシャルマップを決定するコードと、
前記ポテンシャルマップを使用して前記少なくとも一のオブジェクトの前記境界を特定するコードと
を含み、
前記ポテンシャルマップは、複数の画素間のリンクに関連付けられた複数の重みに基づいて、複数の境界画素の候補として一のラベルにより特定される複数の画素のポテンシャル値を表し、
一のポテンシャル値は、前記複数の境界画素の候補の一画素が前記少なくとも一のオブジェクトの一境界内に存在するか又は前記少なくとも一のオブジェクトの前記境界外に存在するかの尤度を表すコンピュータ可読媒体。
【請求項２３】
前記画像を一のカラーモデルに変換するコードをさらに含み、
前記カラーモデルは、ＣＩＥ  Ｌ＊ａ＊ｂ＊カラースペースにある前記画像を含む、請求項２２に記載のコンピュータ可読媒体。
【請求項２４】
前記少なくとも２のスケールスペース画像を使用して前記ポテンシャルマップを決定するコードは、
前記少なくとも２のスケールスペース画像を使用して、前記画像の各画素に対して複数の重みを決定するコードであって、前記複数の重みの各重みは一のリンクに関連付けられるコードと、
前記少なくとも一のオブジェクトに対し、前記少なくとも一のオブジェクトの複数の境界画素を含む一のラベルを受け取るコードと、
前記複数の重み及び前記ラベルを使用して複数のポテンシャル値を決定するコードであって、各ポテンシャル値は、一の関連画素が前記少なくとも一のオブジェクトの境界内に存在するか又は前記少なくとも一のオブジェクトの境界外に存在するかの尤度を表すコードと、
前記ポテンシャル値から前記ポテンシャルマップを決定するコードと
を含み、
前記少なくとも２のスケールスペース画像を使用して、前記画像の各画素に対して複数の重みを決定するコードは、
一画素に関連付けられた複数のリンクを決定するコードと、
前記画素に関連付けられた前記複数のリンクの各リンクに対して一の重みを決定するコードと、
前記複数のリンクの各リンクに対する前記重みを集めて前記複数の重みを形成するコードと
を含み、
前記ポテンシャル値を使用して前記ポテンシャルマップを決定するコードは、
前記ポテンシャル値に対して一の幾何平均を決定するコードを含み、
前記ポテンシャルマップは、前記ポテンシャル値に対する前記幾何平均を含む、請求項２２に記載のコンピュータ可読媒体。
【請求項２５】
前記ラベルを生成するコードをさらに含み、
前記ラベルを生成する前記コードは、
前記画像のための一のオブジェクトマスクを受け取るコードと、
前記画像のための前記オブジェクトマスクから一の反転オブジェクトマスクを計算するコードと、
前記反転オブジェクトマスクから第１距離変換を決定するコードと、
前記オブジェクトマスクから第２距離変換を決定するコードと、
前記第１距離変換を使用して前記画像における複数の前景画素を特定するコードと、
前記第２距離変換を使用して前記画像における複数の背景画素を特定するコードと、
前記特定された前景画素と前記特定された背景画素とに基づいて前記ラベルを生成するコードと
を含む、請求項２２に記載のコンピュータ可読媒体。
【請求項２６】
前記ポテンシャルマップを決定するべく使用される一のラベルを生成するコードをさらに含み、
前記ラベルを生成する前記コードは、
前記画像のための一のオブジェクトマスクを受け取るコードと、
前記画像のための前記オブジェクトマスクから一の反転オブジェクトマスクを計算するコードと、
一のモルフォロジ細線化処理を使用して前記反転オブジェクトマスクを収縮するコードと、
前記モルフォロジ細線化処理を使用して前記画像のための前記オブジェクトマスクを収縮するコードと、
前記収縮された反転オブジェクトマスクに基づいて、かつ、前記画像のための前記収縮されたオブジェクトマスクに基づいて一の初期ラベルを生成するコードと、
前記初期ラベルを使用して前記画像のための一の初期ポテンシャルマップを決定するコードと、
前記初期ポテンシャルマップ、前記収縮された反転オブジェクトマスク、及び前記収縮されたオブジェクトマスクを使用して前記ラベルを生成することと
を含む、請求項２２に記載のコンピュータ可読媒体。
【請求項２７】
前記ポテンシャルマップを使用して前記少なくとも一のオブジェクトの前記境界を特定するコードは前記ポテンシャルマップを使用して一の画像マスクを生成するコードを含み、
前記ポテンシャルマップを使用して前記画像マスクを生成する前記コードは、
前記少なくとも一のオブジェクトの一の推定境界を特定する少なくとも２のキーポイントを受け取るプログラムコードと、
前記少なくとも２のキーポイントに基づいて一のラベルを計算するプログラムコードと、
前記ラベルに基づいて一の画像セグメントをクロップするプログラムコードと、
前記画像セグメントから一のポテンシャルマップを決定するプログラムコードと、
前記ポテンシャルマップから複数の境界ポイントを生成するプログラムコードと、
前記境界ポイントが許容不可能であることを特定する一のコマンドを受け取ることに応じて複数の新たなキーポイントを使用して第２ポテンシャルマップを計算するプログラムコードと、
前記境界ポイントが許容可能であることを特定する一のコマンドを受け取ることに応じて前記境界ポイントを出力するプログラムコードと、
前記境界ポイントから前記画像マスクを生成するプログラムコードと
を含み、
前記新たなキーポイントの数は、前記少なくとも２のキーポイントの数よりも大きい、請求項２２に記載のコンピュータ可読媒体。
【請求項２８】
一の画像を処理する方法であって、
実行コードが格納された一の計算装置によって、少なくとも一のオブジェクトを有する一の画像を受け取ることと、
前記計算装置が前記画像から少なくとも２のスケールスペース画像を生成することであって、前記計算装置は、前記計算装置に前記少なくとも２のスケールスペース画像を生成させるべく構成された一のプロセッサを含み、前記少なくとも２のスケールスペース画像は異なる詳細レベルを有し、かつ、同じサイズであることと、
前記計算装置が前記少なくとも２のスケールスペース画像と、一のラベルにより特定される複数の境界画素の候補の複数のポテンシャル値とを使用して、前記ポテンシャル値の幾何平均を決定することにより一のポテンシャルマップを決定することと、
前記計算装置が前記ポテンシャルマップを使用して前記少なくとも一のオブジェクトの前記境界を特定することと
を含み、
前記ポテンシャルマップは、前記ポテンシャル値の前記幾何平均を含み、
前記ポテンシャル値は、複数の画素間のリンクに関連付けられた複数の重みに基づき、
前記ポテンシャル値は、前記画像の前記複数の境界画素の候補が前記少なくとも一のオブジェクトの境界内に存在するか又は前記少なくとも一のオブジェクトの境界外に存在するかの尤度を表す方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は一般に画像処理に関し、詳しくは当該画像のスケールスペース表現を使用した画像処理に関する。
【０００２】
関連出願の相互参照
本願は、２００８年１２月１１日に出願された「ロトスコープのためのスケールスペースランダムウォーク」という名称の米国仮特許出願第６１／２０１，５３１号の優先権を主張する。このすべての内容が本明細書に参照として組み込まれる。
【背景技術】
【０００３】
動画等の画像処理は一以上のフレームにおけるオブジェクトの特定を含み得る。オブジェクトは、オブジェクト境界を決定することによって特定される。オブジェクト境界は、ロトスコープを使用して特定することができる。ロトスコープは、動画におけるオブジェクトの境界をデジタル手段を介してフレームごとにトレースすることを含む。ロトスコープは、特殊効果及び他の画像処理を当該画像に適用できるようにするべくデジタルマット（ｄｉｇｉｔａｌ  ｍａｔｔｅｓ）を抽出することができる。特殊効果の例は、一シーンのオブジェクトをコンピュータによって生成された他のオブジェクトに置換すること、一シーンから他シーンへ俳優を合成すること、及び２次元（２Ｄ）動画を３次元（３Ｄ）動画に変えることを含む。他の画像処理の例は、一の画像シーケンスにおいて一のオブジェクトをトラッキングすること、及び一の左・右目画像シーケンスにおいて一のオブジェクトをトラッキングすることを含む。
【０００４】
ロトスコープは、ブルースクリーン法のような他の技術では許容可能精度範囲内のマット（ｍａｔｔｅ）を生成できない場合に使用することができる。例えば、画像はアーカイブ映像を使用する画像のような複雑な背景を含むことがある。この場合、ブルースクリーン法は許容可能な結果を生成することができない。ロトスコープは労働集約的であり得る。効率化を目的として半自動ロトスコープ技術を使用することができる。かかる技術は、輪郭ベースの方法及びアルファチャンネルアルゴリズムを含む。
【０００５】
輪郭ベースの方法は、一以上のフレームで一輪郭をできる限り正確に特定するユーザを含み得る。当該輪郭は、オブジェクト境界の概算である。エネルギー関数が評価され、アクティブな輪郭が当該概算輪郭に基づいて当該境界に関連付けられる。エネルギー関数は反復によって最小化される。当該オブジェクトまわりの最適な輪郭が生成される。いくつかの輪郭ベースの方法では、ストロークマッチングが行われる。これは、複数のキーフレーム間でどのストロークがオブジェクトの所定輪郭とマッチするかを決定するべくコスト関数を分析することを含む。当該アルゴリズムは、相対的に滑らかな輪郭を出力することができる。また、隣接する複数のフレームでの輪郭間の対応を確立することができる。しかしながら、多くの場合、熟練したユーザが対象オブジェクトを描く必要がある。
【０００６】
アルファチャンネルアルゴリズムは、色の３領域を分析することによってオブジェクトの軟境界を抽出することができる。当該３領域とは、当該オブジェクトに関する前景、当該オブジェクトに関する背景、及び当該オブジェクトの境界に沿った中間領域での前景と背景とのブレンドである。多くの場合、アルファチャンネルアルゴリズムは個々のフレームに適用される。しかしながら、複数シーケンスへの適用も可能である。
【０００７】
アルファチャンネルアルゴリズムは、軟境界だけではなく当該値のアルファ値すなわち透過度も抽出することができる。いくつかのアルファチャンネルアルゴリズムでは、ベイジアンアプローチが適用される。これは、前景及び背景双方の色分布をガウス分布の空間変化集合によってモデル化する。また、最終出力を生成するべく前景色及び背景色を部分的にブレンドすることを仮定する。他のアルファチャンネルアルゴリズムは、クリーンな前景色が一組のクラスタの線形結合であることを仮定して、当該色及びアルファ値を、当該前景及び当該背景における複数対のクラスタを調べることによって計算する。
【０００８】
さらなる他のアルファチャンネルアルゴリズムは：（ｉ）当該クラスタが、赤緑青（ＲＧＢ）カラースペースにおいて偏長すなわち葉巻型であると仮定することによって、高解像度画像及び画像シーケンスのアルファマットを推定すること；（ｉｉ）前景色及び背景色について局所的な滑らかさを仮定することから費用関数を導出し、前景色及び背景色を分析的に削除することによってアルファに関する２次費用関数を得ること；（ｉｉｉ）一画像の当該アルファ値に対する勾配に関する偏微分方程式を導出し、当該方程式の解として当該アルファ値を与える効率的アルゴリズムを記述すること；（ｉｖ）自然画像マッティングの問題を、当該マット勾配場を有するポアソン方程式の解法の一つとして定立し、フラッシュ／非フラッシュ画像対を使用してマットを抽出すること（「フラッシュマッティング」と称する）；（ｖ）特殊な較正を必要とせずに「オンザフライ」で環境マット構築を与えること；（ｖｉ）前景オブジェクト及びアルファマットキャプチャすることに加えて当該オブジェクトがどのように光を屈折及び反射させるかという記述をキャプチャすることによって、及び、環境合成を使用して該前景オブジェクトを新たな環境に配置することによって環境マッティングを行うこと、の一以上を行うことができる。しかしながら、かかるアルファチャンネルアルゴリズムは、ハードセグメンテーションを生成することなくソフトセグメンテーションを生成しようとする。ハードセグメンテーションによれば、正確なセグメンテーションが得られる。
【０００９】
他のロトスコープ技術はランダムウォークである。ランダムウォークは、グラフィカル画像セグメンテーションアルゴリズムである。これは、所定「シード」画素から開始して所定「シンク」画素まで移動するランダムウォーカが、特定の画素と交差する確率を特定しようと試みる。所定基準によれば類似とみなされる複数画素が低いエッジ重みを有するべく画素間のエッジを重み付きとして、当該ウォーカが当該エッジを交差する尤度を高くすることができる。確率は、組み合わせディリクレ問題（ｃｏｍｂｉｎａｔｏｒｉａｌ  Ｄｉｒｉｃｈｌｅｔ  ｐｒｏｂｌｅｍ）の解法として決定することができる。ランダムウォークはまた、カラースペースを変換するべく局所保存射影も使用する。これにより、ゆっくり変化する勾配の色のような類似色を一緒にもたらすことができ、非類似色を別個に移動させることができる。しかしながら、ランダムウォークは、ノイズ存在下では画像を明確にセグメント化することができない。その結果、不正確なオブジェクト境界特定となる。
【００１０】
したがって、オブジェクトの境界を効率的かつ正確に特定することができる方法、装置、及びシステムが望まれている。ハードセグメンテーションを生成することができてノイズ存在下でもオブジェクト境界を正確に特定することができる方法、装置、及びシステムも望まれている。
【先行技術文献】
【特許文献】
【００１１】
【特許文献１】米国特許第６３６６６９２（Ｂ１）号明細書
【特許文献２】欧州特許出願公開第１８６５４６０（Ａ１）号明細書
【特許文献３】米国特許出願公開第２００５／０２３２４８８（Ａ１）号明細書
【特許文献４】国際公開第９９／１９８２８（Ａ２）号明細書
【特許文献５】欧州特許出願公開第２００３６１２（Ａ９）号明細書
【特許文献６】米国特許出願公開第２００９／０３２４０８７号明細書
【非特許文献】
【００１２】
【非特許文献１】Hong et al., Compact region extraction using weighted pixel linking in a pyramid, IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. PAMI-6, No. 2, pp. 222-229, March 1984
【非特許文献２】Burt et al., The Laplacian pyramid as a compact image code, IEEE Transactions on Communications, Vol. COM-31, No. 4, April 1983
【非特許文献３】Changxian et al., Morphological thinning based on image's edges, International Conference on Communication Technology, ICCT'98, pp. SI6-14-1 to SI6-14-5, Oct. 22-24, 1998
【非特許文献４】Dyer, Multiscale image understanding, Computer Sciences Technical Report #679, December 1986
【発明の概要】
【００１３】
所定の側面及び実施例が関連するのは、一画像から複数のスケールスペース画像を生成することと、当該スケールスペース画像を使用して当該一画像におけるオブジェクトの境界を特定することとによる画像処理である。スケールスペース画像は、一画像の多重解像度信号表現である。スケールスペース画像は、当該一画像の様々な詳細レベルを表す。オブジェクト境界が特定された画像は、エキシビションの前にさらに処理することができる。例えば、当該画像は動画の２次元画像である。オブジェクト境界を特定することができる。また、当該特定されたオブジェクト境界を使用して２次元（２Ｄ）画像を処理し、当該２Ｄ画像を３次元（３Ｄ）画像に変換することができる。
【００１４】
一実施例では、少なくとも一のオブジェクトを有する一画像が受け取られる。計算装置は、当該一画像から２以上のスケールスペース画像を生成することができる。スケールスペース画像は、ポテンシャルマップを決定するべく使用することができる。ポテンシャルマップは、一画素が当該オブジェクトの一境界内に存在するか又は当該オブジェクトの当該境界外に存在するかの尤度を表すことができる。ポテンシャルマップは、当該オブジェクトの当該境界を特定するべく使用することができる。
【００１５】
いくつかの実施例では、画像はカラーモデルに変換される。カラーモデルは、ＣＩＥ  Ｌ＊ａ＊ｂ＊カラースペースであり得る。
【００１６】
いくつかの実施例では、当該画像を２以上のローパスフィルタを使用して一のスケールスペースに変換することによって、スケールスペースが当該画像から生成される。ローパスフィルタはガウシアン（Ｇａｕｓｓｉａｎ）カーネルを含み得る。詳細レベルの差異は、ぼかし度の差異を含み得る。
【００１７】
いくつかの実施例では、（ｉ）２以上のウェーブレットフィルタ又は（ｉｉ）エッジ保存分解処理の一を使用して当該画像をスケールスペース変換することによって、スケールスペース画像が当該画像から生成される。
【００１８】
いくつかの実施例では、当該画像の各画素に対して重みを決定するべくスケールスペース画像を使用することができる。各重みは一のリンクに関連付けることができる。当該複数の重みは、当該画素に関連付けられた複数のリンクを決定することによって決定することができる。当該画素に関連付けられた各リンクに対する重みを決定することができる。当該画素に対する複数の重みを形成するべく各リンクに対する重みを集めることができる。
【００１９】
各実施例では、当該画像に対する一のラベルが受け取られる。当該重みから及び当該ラベルを使用して、複数のポテンシャル値を決定することができる。各ポテンシャル値は、関連付けられた一画素が当該オブジェクトの一境界内に存在するか又は当該オブジェクトの当該境界外に存在するかの尤度を表すことができる。ポテンシャルマップは、当該複数のポテンシャル値の幾何平均を決定することによって当該ポテンシャル値から決定することができる。ポテンシャルマップは、当該ポテンシャル値に対する幾何平均を含み得る。
【００２０】
いくつかの実施例では、一のラベルを生成することができる。また、当該ポテンシャルマップを決定するべく一のラベルを使用することができる。当該画像のためのオブジェクトマスクが受け取られる。当該画像のためのオブジェクトマスクから反転オブジェクトマスクが計算される。当該反転オブジェクトマスクから第１距離変換が決定される。当該オブジェクトマスクから第２距離変換が決定される。第１距離変換を使用して当該画像内の前景画素が特定される。第２距離変換を使用して当該画像内の背景画素が特定される。当該特定された前景画素及び当該特定された背景画素に基づいてラベルが生成される。
【００２１】
いくつかの実施例では、初期ポテンシャルマップからラベルが生成される。当該画像のためのオブジェクトマスクが受け取られる。当該画像のためのオブジェクトマスクから反転オブジェクトマスクが計算される。当該反転オブジェクトマスクは、モルフォロジ細線化処理を使用して収縮される。当該画像のためのオブジェクトマスクも、当該モルフォロジ細線化処理を使用して収縮される。当該画像のための収縮された反転オブジェクトマスク及び収縮されたオブジェクトマスクに基づいて初期ラベルが生成される。当該初期ラベルを使用して当該画像のための初期ポテンシャルマップが決定される。当該初期ポテンシャルマップ、収縮された反転オブジェクトマスク、及び収縮されたオブジェクトマスクを使用してラベルが生成される。
【００２２】
いくつかの実施例では、一の画像マスクを生成するべくポテンシャルマップが使用される。当該オブジェクトの一の推定境界を特定する２以上のキーポイントが受け取られる。当該キーポイントに基づいて一のラベルが計算される。当該ラベルに基づいて一の画像セグメントがクロップされる。当該画像セグメントから一のポテンシャルマップが決定される。当該ポテンシャルマップから複数の境界ポイントが生成される。当該境界ポイントを許容不可能として特定するコマンドが受け取られると、複数の新たなキーポイントを使用して第２ポテンシャルマップが計算される。当該境界ポイントを許容可能として特定するコマンドが受け取られると、当該境界ポイントが出力される。当該境界ポイントを使用して画像マスクを生成することができる。
【００２３】
いくつかの実施例では、当該キーポイントの数よりも当該新なたキーポイントの数の方が大きい。さらに、当該キーポイントはいくつかの実施例において、２以上の画像フレームにおける当該オブジェクトの推定境界を特定する。当該境界ポイントは、当該２以上の画像フレーム間に配置された一以上の画像フレームにおける当該オブジェクトの推定境界の一部を特定する。
【００２４】
いくつかの実施例では、複数のキーポイントが２以上の画像フレームにおける当該オブジェクトの推定境界を特定する。新たな複数ポイントの第１組が、当該２以上の画像フレーム間に配置された少なくとも一の画像フレームにおける当該オブジェクトの推定境界の当該一部を特定する。
【００２５】
いくつかの実施例では、コンピュータ可読媒体に格納されたプログラムコードによってポテンシャルマップを決定することができる。
【００２６】
いくつかの実施例では、コンピュータ可読媒体に格納されたスケールスペースエンジンによってポテンシャルマップを決定し、計算装置のプロセッサによってポテンシャルマップを実行することができる。
【００２７】
これらの説明上の実施例は、その理解を補助するための例を与えるべく記載されるものであって、本開示を限定又は定義するべく記載されるものではない。付加的な実施例が詳細な説明に述べられ、さらなる説明が与えられる。様々な実施例の一以上がもたらす利点が、本明細書を精査することにより又は提示される一以上の実施例を実施することによりさらに理解される。
【図面の簡単な説明】
【００２８】
【図１】本発明の一実施例に係る一画像を処理するべく使用することができる一のポテンシャルマップを生成するシステムのブロック図である。
【図２】本発明の一実施例に係る一画像を処理するための一のポテンシャルマップを生成する方法のフロー図である。
【図３】本発明の第２実施例に係る一画像を処理するための一のポテンシャルマップを生成する方法のフロー図である。
【図４】本発明の一実施例に係る複数のスケールスペース画像に基づく一画像の一画素に対するグラフの説明である。
【図５】本発明の一実施例に係る一のオブジェクトマスクに基づいて一画像から一ラベルを決定する方法のフロー図である。
【図６】本発明の第２実施例に係る一のオブジェクトマスクに基づいて一画像から一ラベルを決定する方法のフロー図である。
【図７】図７Ａ−７Ｄは、本発明の一実施例に係る一画像における一のオブジェクトの一境界を決定することの説明である。
【図８】本発明の一実施例に係る一のポテンシャルマップを使用して複数のキーポイントに基づく複数のオブジェクト境界ポイントを決定する方法のフロー図である。
【発明を実施するための形態】
【００２９】
所定の側面及び実施例が、一画像からスケールスペース画像を生成することによる画像処理、及び当該スケールスペース画像を使用して当該画像の複数オブジェクトの境界を特定することに関連する。スケールスペース画像は、様々な詳細レベルを有する。特定された複数のオブジェクト境界を有する一画像は、エキシビションの前にさらに処理することができる。例えば、当該画像は一動画の２次元画像であり得る。複数のオブジェクト境界を特定することができ、かつ、当該２次元（２Ｄ）画像は、当該特定オブジェクト境界を使用して当該２Ｄ画像から３次元（３Ｄ）画像へ変換するべく処理することができる。
【００３０】
複数のスケールスペース画像は、一画像の一多重解像度信号表現である。複数のスケールスペース画像は、当該画像をフィルタリングすることによって形成することができる。例えば異なるフィルタカーネルサイズのような様々な特性のフィルタが使用される。様々な特性のフィルタを使用して形成されたスケールスペース画像は、様々な詳細レベルを有し得る。いくつかの実施例では、複数のスケールスペース画像が、異なるサイズを有するガウシアンカーネルによる一画像のたたみ込みによって形成される。複数のスケールスペース画像は複数のレベルに対応することができる。例えば、一スケールスペース画像が、当該画像の一詳細レベルを表すレベルに対応し得る。
【００３１】
いくつかの実施例では、複数のスケールスペース画像が、当該画像を複数回フィルタリングすることによって形成される。異なるサイズのフィルタリングコンポーネントが使用されて、当該画像の「ファインな（ｆｉｎｅ）」詳細に関連する情報が除去される。当該フィルタリングコンポーネントは、漸次的に大きなサイズを有する複数のローパスフィルタカーネルであり得る。大サイズカーネルフィルタを使用して生成されたスケールスペース画像は、低詳細レベルを含む高レベルスケールスペース画像となり得る。小サイズカーネルフィルタを使用して生成されたスケールスペース画像は、高詳細レベルを含む低レベルスケールスペース画像となる。一実施例では、当該フィルターカーネルは、等長ガウシアンローパスフィルタカーネルであり。これで得られるスケールスペース画像はぼかしを含む様々な特性を有する。
【００３２】
いくつかの実施例では、当該スケールスペース画像は、各画素に対して一の３次元グラフを計算するべく使用することができる。当該画素は、所定数のスケールスペース画像の隣接画素にリンクさせることができる。当該画素と一隣接画素との間の一のリンクには一の重みを関連付けることができる。当該重みの値は、当該画素同士の類似性によって決定することができる。
【００３３】
当該スケールスペース画像は、当該画像のために一のポテンシャルマップを決定するべく使用することができる。例えば、当該３次元グラフを使用して一のポテンシャルマップを計算することができる。一のポテンシャルマップは、当該画像の各画素又は当該画像の一部に対し、当該画素が一のオブジェクトの境界内に存在するか又は当該オブジェクトの境界外に存在するかの尤度を表す一のポテンシャル値を含み得る。当該ポテンシャルマップは、当該画像の処理に使用することができる。例えば、ポテンシャルマップは、一の画像オブジェクトに対して一境界を特定するべく使用することができる。これにより、当該オブジェクトは、とりわけ３Ｄエキシビションを目的として修正することができる。
【００３４】
いくつかの実施例では、ポテンシャルマップの計算を容易にするべく当該画像のための一のラベルを受け取ることができる。一のラベルによって、一のオブジェクトの複数の境界画素の候補となり得る複数の画像画素を特定することができる。一のラベルを一の境界許容範囲に関連付けることができる。これにより、真のオブジェクト境界画素が当該ラベル内に含まれることが保証される。一のラベルを、曖昧な境界画素情報に基づいて計算することができる。いくつかの実施例では、一のラベルがインタラクティブな手段を使用して人間のオペレータから受け取ることができる。一のラベルの一例は、一のオブジェクトの境界のまわりに引き寄せられて当該境界を包含する一のトライマップである。一のトライマップは、複数の画像画素を３グループに分割する。当該オブジェクトに属する画素（前景）、当該オブジェクトの外側にある画素（背景）、及び、当該前景と当該背景との間にある画素であって、オブジェクト境界画素であり得るが未決定の画素である。当該ラベルを使用して一のポテンシャルマップを計算することができる。
【００３５】
いくつかの実施例では、一のランダムウォークアルゴリズムを複数のスケールスペース画像に適用することによって当該ポテンシャルマップを計算することができる。得られるポテンシャルマップは、一のオブジェクト境界を特定するべく使用される。当該ポテンシャルマップは、ノイズ存在下でのオブジェクト境界特定を向上させるべく、ランダムウォークアルゴリズムとともに使用することができる。
【００３６】
これらの説明上の例は、ここで述べる一般的な論旨を読者に紹介するべく与えられる。開示の概念範囲を制限することを意図していない。以下の節では、図面を参照して様々な付加的な実施例及び例が記載される。図面において、同じ番号は同じ要素を示す。
【００３７】
説明上のシステム実装
図１は、所定実施例に係る一システムを示す。当該システムは、当該画像から生成された複数のスケールスペース画像を使用して一のポテンシャルマップを決定することができ、かつ、当該画像を処理するべく当該ポテンシャルマップを使用することができる。複数の他実施例も利用される。当該システムは、プロセッサ１０４を有する計算装置１０２を含む。プロセッサ１０４は、メモリ１０６のようなコンピュータ可読媒体に格納されたコードを実行する。当該実行により、計算装置１０２は、当該画像から生成されたスケールスペース画像を使用してポテンシャルマップを決定する。計算装置１０２は、データを処理することができ、及び、複数のアクションを行う一組の命令であるコードを実行することができる任意の装置である。計算装置１０２の例は、デスクトップパーソナルコンピュータ、ラップトップパーソナルコンピュータ、サーバ装置、ハンドヘルド計算装置、及びモバイル装置を含む。
【００３８】
プロセッサ１０４の例は、マイクロプロセッサ、特定用途向け集積回路（ＡＳＩＣ）、状態機械、又は適切な他のプロセッサを含む。プロセッサ１０４は、一又は任意数のプロセッサを含む。いくつかの実施例では、プロセッサ１０４は、１ＧＢ以下のＶＲＡＭを有するハイエンドグラフィックスカードに関連付けられたグラフィックプロセシングユニット（ＧＰＵ）を含む。他実施例では、プロセッサ１０４は、２、４、又はこれ以上のプロセシングユニットを含むマルチコアプロセッサである。マルチコアプロセッサは、単一命令多重データ（ＳＩＭＤ）互換性を含む。例えば、ストリーミングＳＩＭＤ拡張（ＳＳＥ）及び３ＤＮｏｗ！（登録商標）である。ＳＩＭＤ拡張及びプロセッサの能力を有利に使用するべくＬＡＰＡＣＫのような線形代数パッケージを使用することができる。
【００３９】
プロセッサ１０４は、メモリ１０６に格納されたコードにバス１０８を介してアクセスすることができる。メモリ１０６は、コードを格納することができる任意の有体コンピュータ可読媒体である。メモリ１０６は、実行可能コードをプロセッサ１０４に与えることができる電子、磁気、又は光装置を含む。メモリ１０６の例は、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、フロッピー（登録商標）ディスク、コンパクトディスク、デジタルビデオ装置、磁気ディスク、ＡＳＩＣ、コンフィギュアドプロセッサ、又は、コードを有体的に包含する他の格納装置を含む。バス１０８は、計算装置１０２の複数のコンポーネント間でデータを送信することができる任意の装置である。バス１０８は、一又は複数の装置を含むことができる。
【００４０】
計算装置１０２は、入出力（Ｉ／Ｏ）インターフェイス１１０を介して付加的なコンポーネントとデータを共有することができる。Ｉ／Ｏインターフェイス１１０は、ＵＳＢポート、イーサネット（登録商標）ポート、シリアルバスインターフェイス、パラレルバスインターフェイス、ワイヤレス接続インターフェイス、又は、計算装置と他のコンポーネントとの間でデータ送信を可能にできる適切な任意のインターフェイスを含む。付加的なコンポーネントは、ユーザインターフェイス（ＵＩ）装置１１２、ディスプレイ１１４、及びネットワーク１１６を含むことができる。ＵＩ装置１１２は、キーボード、マウス装置、タッチスクリーンインターフェイス、又は、ユーザからコマンドを受け取り当該コマンドを計算装置１０２に与えることができる他の装置を含むことができる。ディスプレイ１１４は、液晶ディスプレイ（ＬＣＤ）、プラズマスクリーン、陰極管（ＣＲＴ）、又は、計算装置１０２が生成した複数の画像を表示することができる任意の装置を含むことができる。ネットワーク１１６は、インターネット、イントラネット、ワイドエリアネットワーク（ＷＡＮ）、ローカルエリアネットワーク（ＬＡＮ）、仮想プライベートネットワーク（ＶＰＮ）、又は、計算装置１０２に他の複数のコンポーネントと通信させるのに適切な任意の通信ネットワークを含むことができる。他実施例では、計算装置１０２は、本発明の様々な実施例に係る様々な方法をオフラインの態様で行うことができるオフライン装置である。
【００４１】
複数の命令を実行可能コードとしてメモリ１０６に格納できる。当該命令は、任意の適切なコンピュータプログラミング言語で書かれたコードからコンパイラ及び／又はインタープリタにより生成される特定プロセッサ向け命令を含むことができる。当該コンピュータプログラミング言語は例えば、Ｃ、Ｃ＋＋、Ｃ＃、ビジュアルベーシック、Ｊａｖａ（登録商標）、Ｐｙｔｈｏｎ、Ｐｅｒｌ、ＪａｖａＳｃｒｉｐｔ（登録商標）、及びＡｃｔｉｏｎＳｃｒｉｐｔである。当該命令は、画像処理アプリケーション１１８を含む。画像処理アプリケーション１１８は、プロセッサ１０４によって実行されると計算装置１０２に、当該画像から生成された複数のスケールスペース画像を使用して一のポテンシャルマップを決定させ、及び、当該ポテンシャルマップを使用して当該画像を処理させる。画像処理アプリケーション１１８はスケールスペースエンジン１２０を含む。スケールスペースエンジン１２０は、画像処理アプリケーション１１８がプロセッサ１０４によって実行されると、計算装置１０２に当該画像からスケールスペース画像を生成させる。当該スケールスペース画像からポテンシャルマップが決定され、及び、当該ポテンシャルマップを使用して当該画像が処理される。
【００４２】
この例示のシステム設定は、所定実施例を実装するべく使用することができる潜在的設定を単に説明するために与えられる。もちろん、他の複数の設定も利用することができる。
【００４３】
ポテンシャルマップを生成する例示的方法
複数の画像を処理すべく使用される複数のポテンシャルマップを、本発明の様々な実施例に係る様々な方法を使用して生成することができる。図２は、複数のスケールスペース画像から一のポテンシャルマップを生成する方法の一実施例を示す。図２に示す方法は、図１のシステム設定を参照して記載される。しかしながら、他の複数のシステム実装も可能である。
【００４４】
ブロック２０２では、画像処理アプリケーション１１８が一画像を受け取る。当該画像は例えば、一のシーケンスの複数画像である動画の一画像である。いくつかの実施例では、当該画像は一以上のオブジェクトを含む。オブジェクトは、当該画像内で視覚的に表される有体アイテムである。当該画像は、一のＲＧＢ（赤緑青）画像であるか、又は、例えばＹＵＶ、ＸＹＸ、若しくはＣＩＥ  Ｌ＊ａ＊ｂ＊カラースペースのような異なるカラースペースにある。
【００４５】
ブロック２０４では、スケールスペースエンジン１２０が、当該画像とは異なる詳細レベルを有する複数のスケールスペース画像を生成する。各スケールスペース画像は、生成された他の複数のスケールスペース画像とは異なる詳細レベルを有し得る。スケールスペースエンジン１２０は、様々な方法を使用して複数のスケールスペース画像を生成することができる。他の方法は、当該画像をフィルタリングするべく異なるカーネルサイズを有する複数のフィルタを使用することを含む。各フィルタは、所定の一詳細レベルを有する一のスケールスペース画像を生成することができる。当該スケールスペース画像は、異なるサイズの複数のフィルタによって生成された他のスケールスペース画像とは異なる。当該フィルタは、ソフトウェアとして実装される。例えば、スケールスペースエンジン１２０の一部として実装される。他実施例では、当該フィルタは、スケールスペースエンジン１２０がアクセス又は制御するハードウェアに実装される。
【００４６】
いくつかの実施例では、スケールスペースエンジン１２０が当該画像をスケールスペースに変換した後に複数のスケールスペースイメージが生成される。例えば複数のウェーブレットフィルタ又は一のエッジ保存分解処理を使用して、一画像をスケールスペースに変換することができる。
【００４７】
ブロック２０６では、スケールスペースエンジン１２０は、当該画像のための一のポテンシャルマップを決定するべく当該複数のスケールスペース画像を使用する。一のポテンシャルマップは、当該画像の全画素又は一部の画素に関連付けられた複数のポテンシャル値を含み得る。例えば、一のポテンシャル値は、当該画像の一画素に関連付けることができる。当該ポテンシャル値は、当該関連付けられた画素が当該画像内の一のオブジェクトの一境界内に存在するか又は当該オブジェクトの当該境界外に存在するかの尤度を表すことができる。いくつかの実施例では、一画素に対して一のポテンシャル値が決定される。これは、当該画素と複数の隣接画素との複数のリンクに関連付けられた複数の重みに基づく。当該リンク及び関連付けられた重みは、当該スケールスペース画像を使用して特定可能かつ決定可能である。
【００４８】
ブロック２０８では、画像処理アプリケーション１１８が当該ポテンシャルマップを使用して当該画像を処理する。例えば、当該画像処理アプリケーションは、当該ポテンシャルマップを使用して当該画像のための一の画像マスクを生成することができる。当該画像マスクは、当該画像内の複数のオブジェクトを特定するべく使用することができる。いくつかの実施例では、当該画像内のオブジェクトの位置は、当該ポテンシャルマップを使用して当該オブジェクト境界を特定した後に修正することができる。
【００４９】
図３は、複数画像の処理での使用を目的とした複数のポテンシャルマップを生成する一方法の他実施例を示す。図３の方法は、図１のシステム及び図４のグラフィカルな説明を参照して記載される。しかしながら、他の複数の実装も可能である。
【００５０】
ブロック３０２では、画像処理アプリケーション１１８が、少なくとも一のオブジェクトを含む一画像を受け取る。画像処理アプリケーション１１８は、図２のブロック２０２のように当該画像を受け取ることができる。
【００５１】
ブロック３０４では、スケールスペースエンジン１２０が当該画像を一のカラーモデルに変換する。一のカラーモデルへの変換によってスケールスペースエンジン１２０は、当該画像の複数色を容易に判別できる。いくつかの実施例では、当該画像は一のＲＧＢ画像である。当該ＲＧＢ画像が一のカラーモデルに変換されて、ＣＩＥ  Ｌ＊ａ＊ｂ＊カラースペースにある画像となる。
【００５２】
ブロック３０６では、スケールスペースエンジン１２０が、当該カラーモデルから少なくとも２のスケールスペース画像を生成する。当該スケールスペース画像は、異なる詳細レベルを有し得る。各スケールスペース画像は、他の複数のスケールスペース画像とは異なる一詳細レベルを有する。複数のスケールスペース画像は、様々な方法を使用して行うことができる。一実施例では、当該画像をフィルタリングして複数のスケールスペース画像を生成するべく、漸次的に大きなサイズを有する複数のガウシアンローパスフィルタ（ＬＰＦ）カーネルが使用される。複数のガウシアンカーネルを使用することは、特に相対的に大きなサイズの複数フィルタに対して当該画像内に不要なストラクチャが導入されることの防止に役立つ。当該ガウシアンカーネルにより生成されたスケールスペース画像は、異なる量の画像ぼかしを含む異なる詳細レベルを有する。
【００５３】
Ｎレベルを有するスケールスペースζは、以下のように表すことができる。
【数１】
0005645842.tif 000002
ここで、Ｉ［ｘ，ｙ］は一の初期画像である。また、
【数２】
0005645842.tif 000003
これは、サイズｎのガウシアンカーネルである。
【００５４】
スケールスペースζにあるＮ個のスケールスペース画像から、スケールスペースエンジン１２０は、一画像の各画素又は当該画像の一部分に対して、３次元グラフを生成することができる。当該グラフは、当該スケールスペース画像の異なるレベルの複数画素間の関係を示すことができる。また、所定レベルの一画素と一隣接画素との間の関係を示すこともできる。
【００５５】
図４は、本発明の一実施例に係る、スケールスペースζから生成されたグラフ４０２を示す。当該グラフは、複数の異なるレイヤ４０４ａ−ｃを含む。３個のレイヤ４０４ａ−ｃが示されるが、任意数のレイヤが実装可能である。レイヤ４０４ａ−ｃの各レイヤは、当該画像から生成された一のスケールスペース画像に対応する。一のレイヤの各ノードは、一の対応スケールスペース画像内の一画素に対応する。例えば、レイヤ４０４ａは、第１スケールスペース画像に対応し得る。レイヤ４０４ｂは第２スケールスペース画像に対応し得る。レイヤ４０４ｃは第３スケールスペース画像に対応し得る。
【００５６】
さらに、レイヤ４０４ａ−ｃは、一の高詳細レベルから一の最低詳細レベルまで配列され得る。例えば、レイヤ４０４ａは、第１スケールスペース画像、第２スケールスペース画像、及び第３スケールスペース画像の中で、一のファインな詳細レベルのような最高詳細レベルを有する第１スケールスペース画像に対応し得る。レイヤ４０４ｂは、第１スケールスペース画像、第２スケールスペース画像、及び第３スケールスペース画像の中で、一の中程度詳細レベルを有する第２スケールスペース画像に対応し得る。レイヤ４０４ｃは、第１スケールスペース画像、第２スケールスペース画像、及び第３スケールスペース画像の中で、コースなレベルとも称される最低詳細レベルを有する第２スケールスペース画像に対応し得る。
【００５７】
図４のグラフ４０２は、複数画素４０６を含む一の６接続ストラクチャである。例えば８接続ストラクチャ等のような他のタイプの接続ストラクチャも実装可能である。複数画素４０６の各画素は一のスケールスペース画像に対応する。また各画素は、同じレイヤ内の４の隣接画素と、高いレイヤ及び低いレイヤからの対応画素とのような、６の対応画素に接続することもできる。接続された画素の各対は、当該接続画素間の一のリンクを有し得る。例えば、リンク４１０はレイヤ４０４ａの画素４０８とレイヤ４０４ｂの画素４０６との間に配置される。この配列によれば、各レイヤが他の複数レイヤに影響を与えることができる。これにより、複数の高いレイヤにおいて詳細が保持されるので、複数の低いレイヤにおいてノイズからの影響を制御することができる。
【００５８】
ブロック３０８では、スケールスペースエンジン１２０が、当該スケールスペース画像を使用して、当該画像の各画素に対して複数のリンクを決定し、及び各リンクに対する重みを決定する。例えば、図４の各リンクは、一画素と、一隣接画素又は一のポテンシャルマップの他レイヤの一対応画素との接続を表す。当該リンクは複数の重みに関連付けられる。一のリンクに対する一の重みは以下の関係を使用して決定することができる。
【数３】
0005645842.tif 000004
ここで、
【数４】
0005645842.tif 000005
【００５９】
ブロック３１０では、スケールスペースエンジン１２０が複数画素の一のラベルを受け取る。一のラベルが、一画像に対する一オブジェクトの一境界の一推定を表す。いくつかの実施例では、一個人のユーザインターフェイスを介して一のラベルが受け取られる。当該個人は、一オブジェクトの一境界の一推定を特定するべく入力装置を介してコマンドを入力する。他実施例では、スケールスペースエンジン１２０が一のラベルを受け取るのは、スケールスペースエンジン１２０が、例えば図５及び６を参照して以下に説明するように、当該ラベルを生成する場合である。当該ラベルは、潜在的に一オブジェクトの一境界となり得る複数画素を特定するべくスケールスペースエンジン１２０によって使用される。例えば、未決定の複数画素が当該ラベルによって特定された後さらに、当該オブジェクトの当該境界に関連付けられた画素をさらに決定するべく処理される。
【００６０】
ブロック３１２では、スケールスペースエンジン１２０が、当該重みから及び当該ラベルを使用して複数のポテンシャル値を決定する。当該ポテンシャル値は、一画素に関連付けることができる。また、当該画素が当該オブジェクトの一境界の内側又は外側に存在する尤度を表すことができる。いくつかの実施例では、当該ラベルは、一のポテンシャル値が決定されることとなる複数画素を特定するべく使用される。一画素に対するポテンシャル値は、以下の関係を使用して決定される。
【数５】
0005645842.tif 000006
ここで、
【数６】
0005645842.tif 000007
【００６１】
ラプラシアン行列Ｌは、以下の関係を使用することによって、例えば図４のグラフのような一のグラフの複数の重みＧｉ，ｊを使用して決定することができる。
【数７】
0005645842.tif 000008
重みＧｉ，ｊは、図４を参照して述べたように決定することができる。
【００６２】
ラプラシアン行列Ｌは、以下の形式に分解することができる。
【数８】
0005645842.tif 000009
ここで、Ｌｕは、未決定の複数画素に関連付けられた複数行及び複数列を含むラプラシアン行列の部分行列である。Ｌｂは、当該境界画素を含むが当該未決定画素ではない部分行列である。Ｉは、解に影響を与えないソース画素又はシンク画素として割り当てられる複数画素を表す単位行列である。０は、ゼロのみを含む「ゼロ行列」である。
【００６３】
したがって、以下の関係を使用して複数のポテンシャル値を決定することができる。
【数９】
0005645842.tif 000010
当該ポテンシャル値は一のポテンシャルマップを形成し得る。一画素（ｘ，ｙ）に対するポテンシャル値は、Ｐ（ｘ，ｙ）として示される。
【００６４】
複数のＮレベルスケールスペース画像に基づき当該ポテンシャル値について解いた結果、以下のように表される新たなスケールスペースΠが得られる。
【数１０】
0005645842.tif 000011
ここで、ｎは、一のＮレベルスケールスペース内の一所定レベルに対する一指標である。Ｐ（ｘ，ｙ｜ｎ）は、ｎ番目のレベルに対する一のポテンシャルマップである。
【００６５】
ブロック３１４では、スケールスペースエンジン１２０が、当該ポテンシャル値から一のポテンシャルマップを決定する。当該ポテンシャル値は、ＮレベルスケールスペースΠによって表すことができる。
【００６６】
いくつかの実施例では、以下の関係によって表されるように、当該スケールスペースの各レベルにおいて一の幾何平均をとることによって最終ポテンシャルマップＰ（ｘ，ｙ）が決定される。
【数１１】
0005645842.tif 000012
【００６７】
いくつかの実施例では、一の幾何平均の代わりに一の算術平均が使用される。しかしながら、当該幾何平均は、一の実際の傾向と比較して不正確な結果となる一の算術平均よりも有効であり得る。いくつかの実施例では、よりファインな複数のスケールスペース画像における詳細結果が保持され、当該コースなスケールスペース画像におけるファジーなエリアが除去される。
【００６８】
さらに、一の幾何平均によって一のポテンシャルマップを得ることができる。当該ポテンシャルマップは、スケールスペースでのレイヤ同士のリンクを介して確立された異なるレベル間の依存性を除去する。
【００６９】
いくつかの実施例では、当該ポテンシャルマップは局所的に滑らかである。例えば、同一又は類似の複数領域は、突然変化することがない一の全体勾配を有する。強いエッジは、突然の勾配変化を含む。当該突然の勾配変化は、かかる強いエッジを特定する補助となり得る。さらに、当該ポテンシャルマップは、当該スケールスペースが高いレベルにある画像において、小さな変動（すなわちノイズ）を除去することができる。
【００７０】
ブロック３１６では、画像処理アプリケーション１１８が当該ポテンシャルマップを使用して当該画像のための一の画像マスクを生成することができる。一の画像マスクは、一画像の一表現である。複数の画像オブジェクト境界を特定するべく使用することができる。例えば、当該ポテンシャルマップが使用されて、一のオブジェクトの複数境界画素を特定することができる。一の画像マスクは、当該特定されたオブジェクト境界画素を使用して生成することができる。いくつかの実施例では、スケールスペースエンジン１２０は、各画素に対する一のデジタル値を決定するべく一のしきい値を使用する。例えば、ポテンシャル値Ｐ（ｘ，ｙ）が０．５以上であれば、デジタル値「１」が当該画素に割り当てられる。ポテンシャル値Ｐ（ｘ，ｙ）が０．５未満であれば、デジタル値「０」が当該画素に割り当てられる。しきい値０．５は、一画素が前景画素であるか又は背景画素であるかの尤度が同等であることを表す。したがって、０．５超過の確率を有する画素はいずれも前景画素とみなされ、デジタル値「１」によって表される。したがって、０．５未満の確率を有する画素はいずれも背景画素とみなされ、デジタル値「０」によって表される。
【００７１】
ラベルを生成する例示的方法
本発明に係るいくつかの実施例による複数のラベルを、当該画像から生成することができる。例えば、スケールスペースエンジン１２０は、当該画像のための一のオブジェクトマスクを受け取り、当該オブジェクトマスクを使用して一のラベルを決定する。一のオブジェクトマスクは、一のオブジェクトの境界に関連付けられた複数画素を推定することによる一のオブジェクトの一概算であり得る。これは、境界画素のような曖昧な画素指示を含み得る。スケールスペースエンジン１２０は一のオブジェクトマスクを受け取ることができる。図５及び６は、ブロック３１０において一のラベルを、当該ラベルを生成することによって受け取る方法の実施例を示す。一のラベルを生成する実施例は、図１のシステムを参照して記載される。しかしながら、他のシステム実装も可能である。
【００７２】
さらに、図５に示す実施例が、図７Ａ−７Ｄでの図示を参照して記載される。
【００７３】
ブロック５０２では、スケールスペースエンジン１２０が一画像のための一のオブジェクトマスクを受け取る。いくつかの実施例では、当該オブジェクトマスクは、対象オブジェクトよりも大きな画像部分を特定することができる。さらに、一のオブジェクトマスクは、一よりも多くのオブジェクトの輪郭を描くことができる。このためには、当該対象オブジェクトがさらなる処理の前に分離される必要がある。図７Ａは、オブジェクト７０２のための一のオブジェクトマスクの一例を示す。図示のオブジェクト７０２は、一画像内の一のナシである。当該画像は、白色を使用して表された複数の前景画素と、黒色を使用して表された複数の背景画素とを有する。
【００７４】
ブロック５０４では、スケールスペースエンジン１２０が、当該オブジェクトマスクを反転させて一の反転オブジェクトマスクを生成する。一の反転オブジェクトマスクにおいて、背景画素は前景画素となる。逆の場合も同じである。当該オブジェクトマスクは、高い値の画素の値を低く変化させることによって反転することができる。逆の場合も同じである。例えば、図７Ａのオブジェクトマスクの反転オブジェクトマスクは、黒色によって指定されて当該オブジェクトを埋め合わせる複数画素と、白色によって指定される他のすべての画素とを含む。
【００７５】
ブロック５０６では、スケールスペースエンジン１２０が当該反転オブジェクトマスクに対する一の距離変換を決定する。一の距離変換は、各背景画素に対して、最も近接した境界画素までの距離変換を示す一表現である。図７Ｂは、オブジェクト７０２の反転オブジェクトマスクに対する一の距離変換の一例を示す。図７Ｂでは、オブジェクト７０２を表す画素が背景画素である。また、一境界画素に最も近い背景画素は、さらに遠くにある当該背景画素よりも暗い。
【００７６】
ブロック５０８では、スケールスペースエンジン１２０が当該オブジェクトマスクに対する一の距離変換を決定する。当該オブジェクトマスクに対する一の距離変換は、図７Ｂの画像の反転のように見える。オブジェクト７０２を表す画素が前景画素となる。一境界画素に最も近い背景にある画素は、さらに遠くにある当該画素よりも暗い。
【００７７】
ブロック５１０では、スケールスペースエンジン１２０が、当該反転オブジェクトマスクに対する距離変換を使用して、当該画像における複数の前景画素を特定する。いくつかの実施例では、当該反転オブジェクトマスクの一画素に対する距離変換の値が、一の境界許容範囲である第１値と比較される。当該画素に対する距離変換の値が、一の境界許容範囲である第１値よりも大きい場合、当該画素は一の前景画素として特定することができる。当該処理は、当該前景画素を特定するべく各画素に対して繰り返される。
【００７８】
ブロック５１２では、スケールスペースエンジン１２０が、当該オブジェクトマスクに対する距離変換を使用して、当該画像における複数の背景画素を特定する。当該オブジェクトマスクの一画素に対する距離変換の値が、一の境界許容範囲である第２値と比較され得る。当該画素に対する距離変換の値が、一の境界許容範囲である第２値よりも大きい場合、当該画素は一の背景画素として特定することができる。当該処理は、当該背景画素を特定するべく各画素に対して繰り返される。
【００７９】
ブロック５１４では、スケールスペースエンジン１２０が、当該前景画素及び当該背景画素の特定に基づいて一のラベルを生成する。ブロック５１０において特定された前景画素は、例えば図７Ａに示す複数の前景画素の一の部分集合を形成することができる。同様に、ブロック５１２において特定されて背景画素は、例えば図７Ａに示す複数の背景画素の一の部分集合を形成することができる。複数の未決定画素（前景画素又は背景画素として特定されていない複数の画素）が一の未知領域を形成する。スケールスペースエンジン１２０は当該未知領域を、オブジェクト７０２のための一のラベルとして特定かつ格納する。図７Ｃは、オブジェクト７０２のための一ラベル（黒色で示される）の一例を示す。
【００８０】
許容範囲である第１値及び第２値が、当該ラベルがオブジェクト７０２の実際の境界を含む程度の大きさとなるように選択される。いくつかの実施例では、第１値及び第２値は当該オブジェクトの境界全体にわたり均一である。他実施例では、第１値及び第２値の一方又は双方が当該オブジェクトの境界全体にわたり均一とはならない。例えば、第１値及び第２値の一方又は双方を変化させることにより、一の変動幅を有する一ラベルを得ることができる。
【００８１】
ブロック５１６では、スケールスペースエンジン１２０が当該ラベルを出力する。一のラベルが、対象オブジェクトの境界全体において一の未知領域を画定することができる。一のラベルを使用して、複数の未決定画素のための一のポテンシャルマップを決定することができる。これは、例えば、図３を参照して上述されている。いくつかの実施例では、当該ポテンシャルマップに基づいて一のオブジェクトマスクを生成することができる。当該オブジェクトマスクは、一のオリジナルマスクよりも正確であり得る。いくつかの実施例では、当該ラベルには、当該対象オブジェクトの境界をカバーする帯として当該画像が与えられる。図７Ｄは、新たなオブジェクトマスクの境界７０４を有するオブジェクト７０２を示す。当該新たなオブジェクトマスクは、当該オリジナルマスクの境界７０６との比較として出力される。当該新たなオブジェクトマスクの境界７０４は、オブジェクト７０２の実際の境界を、当該オリジナルマスクの境界７０６よりも密接に特定する。
【００８２】
いくつかの実施例では、一のオブジェクトマスクから計算される一の初期ラベルから、精度の高いラベルを生成することができる。図６は、一のラベルを生成する一実施例を示す。
【００８３】
ブロック６０２では、スケールスペースエンジン１２０が一画像のための一のオブジェクトマスクを受け取る。当該オブジェクトマスクは一画像の一表現である。これは、第１色を有する一のオブジェクトの複数画素（前景画素）と、第２色を有する当該オブジェクト外側の複数画素（背景画素）とを表す。
【００８４】
ブロック６０４では、スケールスペースエンジン１２０が当該オブジェクトマスクを反転させる。例えば、当該前景画素を複数の背景画素に反転して第２色で指定することができる。当該背景画素は、第１色を有する複数の前景画素に反転することができる。
【００８５】
ブロック６０６では、スケールスペースエンジン１２０が当該反転オブジェクトマスクを収縮させる。反転オブジェクトマスクを収縮させることは、複数のハードな背景制約を決定するべく当該反転オブジェクトマスクをモルフォロジ細線化することを含む。当該背景制約は、当該背景の部分的なスケルトン化を含む。当該ハードな背景制約は、当該マスクにおけるファインな詳細がさらなる処理中に消えることを防止する。いくつかの実施例では、当該ハードな背景制約が複数の背景画素として使用される。
【００８６】
ブロック６０８では、スケールスペースエンジン１２０が当該オブジェクトマスクを収縮させる。いくつかの実施例では、当該オブジェクトマスクは、ハードな前景制約を決定するべく当該オブジェクトマスクをモルフォロジ細線化することによって収縮される。当該前景制約は、当該オブジェクトマスクの部分的なスケルトン化を含む。当該ハードな前景制約は、当該マスクにおけるファインな詳細がさらなる処理中に消えることを防止する。当該ハードな前景制約は、複数の前景画素として使用される。
【００８７】
いくつかの実施例では、当該オブジェクトマスクは、細線化の前に当該許容範囲の２倍だけパディング（ｐａｄ）し、当該許容範囲の２倍だけ細線化し、及びその後当該許容範囲の２倍だけアンパディング（ｕｎｐａｄ）する。これによりエッジ効果が防止されて、当該未知領域のために複数の制約を計算することが補助される。当該オブジェクトマスク境界の許容範囲内における複数の制約が維持される。
【００８８】
ブロック６１０では、当該収縮反転マスク及び当該収縮マスクに基づいて、スケールスペースエンジン１２０が一の初期ラベルを生成する。当該収縮反転マスクは、複数のハードな背景制約によって表される。当該収縮マスクは、複数のハードな前景制約によって表される。当該初期ラベルは、当該オブジェクトマスクのアウトライン及び当該ハードな制約からの、当該画像の未知領域の一推定を表す。いくつかの実施例では、モルフォロジ細線化から得られたハードな制約と当該マスクの境界の一部との組み合わせから、所定の複数前景画素が決定される。この一部は、当該モルフォロジ細線化を介して得られた前景制約から当該許容範囲の少なくとも１／８離れて配置される。当該背景画素は、モルフォロジ細線化を介して決定されたハードな背景制約に加え、当該マスクの境界から当該許容範囲よりも大きく離れて配置された複数画素として特定される。
【００８９】
ブロック６１２では、スケールスペースエンジン１２０が当該初期ラベルを使用して一の初期ポテンシャルマップを決定する。例えば、当該初期ポテンシャルマップは、当該初期ラベルを使用することによって、図３のブロック３１２及び３１４を参照して上述したのと同じ又は類似の態様で決定される。
【００９０】
ブロック６１４では、スケールスペースエンジン１２０が当該初期ポテンシャルマップ、当該収縮反転マスク、及び当該収縮マスクを使用して一の最終ラベルを生成する。当該収縮反転マスク及び当該収縮マスクは，当該ハードな前景制約及び当該ハードな背景制約によって表される。
【００９１】
ブロック６１６では、スケールスペースエンジン１２０が当該最終ラベルを出力する。当該最終ラベルは、当該画像のオーバーレイ等によって出力する。いくつかの実施例において、スケールスペースエンジン１２０は、最終ラベルを出力することによって当該最終ラベルを受け取る。また、スケールスペースエンジン１２０は、当該最終ラベルを使用して図３を参照して記載したようにさらなる処理を行う。
【００９２】
ポテンシャルマップを使用して画像を処理する例示的方法
本発明に係る様々な実施例に係る複数のポテンシャルマップは、当該画像の処理を向上させて所望の品質及び処理効率を生じさせるべく使用することができる。いくつかの実施例では、複数のポテンシャルマップを使用して複数画像を生成することができる。熟練したユーザのための複数のユーザインターフェイスを必要とする複数の方法で複数画像を処理することができる。例えば、一の方法は、複数画像を処理する一のユーザから受け取った複数入力を有する複数のポテンシャルマップを使用するインタラクティブな方法である。
【００９３】
図８は、一のポテンシャルマップと複数のユーザ入力を使用して複数画像を処理する一の方法の一実施例を示す。図８の方法は、図１に示すシステムを参照して記載される。しかしながら、他の複数の実装も可能である。
【００９４】
ブロック８０２では、スケールスペースエンジン１２０が少なくとも一のオブジェクトを有する一画像を受け取る。当該オブジェクトは、実際の一オブジェクトの一表現である。当該画像は、当該オブジェクトとは異なる複数の背景オブジェクトを含み得る。例えば、当該オブジェクトは一の「対象オブジェクト」である。当該背景オブジェクトは、一オブジェクトに関連付けられていない他の複数の背景画素と同じであるとみなされる。
【００９５】
ブロック８０４では、スケールスペースエンジン１２０が当該画像から複数のスケールスペース画像を生成する。複数のスケールスペース画像は、例えば図２又は３を参照して記載された方法を使用して生成することができる。
【００９６】
ブロック８０６では、スケールスペースエンジン１２０が複数のキーポイントを受け取る。複数のキーポイントは、一オブジェクトの一境界上の複数ポイントである。当該ポイントは、ＵＩ装置１１２を介して一ユーザから受け取られる。例えば、自身にオーバーレイされたラベルを有する画像がディスプレイ１１４において当該ユーザに対して表示され得る。一ユーザがマウス等の装置を使用して、当該オブジェクトの一境界上に配置された２以上のキーポイントを特定することができる。当該キーポイントは、所定量だけ離間することができる。当該キーポイントは、例えば当該ラベルを細分化等するべく使用される。スケールスペースエンジン１２０はまた、当該境界内側に関連付けられた領域及び当該境界外側に関連付けられた領域の一の指示を一ユーザから受け取る。
【００９７】
ブロック８０８では、スケールスペースエンジン１２０が当該キーポイントに基づいて一のラベルを計算する。一のラベルは、当該キーポイントを接続する一のラインセグメント又は一のスプラインセグメントを推定することによって計算される。一実施例では、当該キーポイント間を補間することによって一のラインセグメント又は一のスプラインセグメントが推定される。当該セグメントに対して一の境界許容範囲値を割り当てることができる。これにより、当該セグメントに沿って延びる一ラベル、及び当該境界許容範囲値と同等な一の幅を有する一ラベルを生成することができる。当該ラベルによってカバーされる領域は、選択された当該境界許容範囲に対する当該値によって決定される。これにより、当該得られたラベルに複数の真の境界画素が含まれることが保証される。当該選択された許容範囲値が当該キーポイント間の距離を超える場合、当該許容範囲値は比例的に低減し得る。スケールスペースエンジン１２０はまた、複数の前景画素（当該オブジェクトの内側）に関連付けられたラベルの側、及び当該背景画素（当該オブジェクトの外側）に関連付けられたラベルの側を決定することができる。
【００９８】
ブロック８１０では、スケールスペースエンジン１２０が当該ラベルに基づいて当該画像から一の画像セグメントをクロップする。例えば、スケールスペースエンジン１２０は、さらに分析するべく当該画像から当該画像セグメントを隔離することができる。
【００９９】
ブロック８１２では、スケールスペースエンジン１２０が一のポテンシャルマップを決定する。当該ポテンシャルマップは、当該画像セグメントから決定することができる。例えば、当該ポテンシャルマップは、図２又は３を参照して記載された一の方法を使用して決定することができる。
【０１００】
ブロック８１４では、スケールスペースエンジン１２０が当該ポテンシャルマップから、当該オブジェクトの境界に関連付けられた複数の境界ポイントを計算する。いくつかの実施例では、当該ポテンシャルマップは、当該オブジェクトの境界である尤度が高い複数キーポイント間の複数画素を特定するべく使用される。当該画素は、当該キーポイントと、当該キーポイント間の当該画素が一オブジェクトの境界に関連付けられている尤度を特定するポテンシャルマップとを使用して特定される。
【０１０１】
スケールスペースエンジン１２０は、当該境界ポイントがブロック８１６において許容可能か否かについて一の指示を受け取ることができる。当該境界ポイントが当該ユーザから見て当該オブジェクトの境界に関連付けられている場合は、当該境界ポイントは許容可能である。当該ポイントのうち一以上が当該ユーザから見て当該オブジェクトの境界に関連付けられていない場合は、当該ポイントは許容不可能である。
【０１０２】
スケールスペースエンジン１２０が、当該ポイントが許容可能ではないとの一指示を受け取る場合、当該処理はブロック８０６まで戻る。ブロック８０６では、スケールスペースエンジン１２０が複数の付加的キーポイントを受け取る。当該付加的キーポイントは、ＵＩ装置１１２を介して一ユーザから特定された一オブジェクトの一境界上の複数ポイントである。例えば、自身にオーバーレイされたラベルを有する画像がディスプレイ１１４において当該ユーザに対して表示され得る。一ユーザがマウス等のＵＩ装置１１２を使用して、当該オブジェクトの一境界上に配置された複数の付加的キーポイントを特定することができる。当該付加的キーポイントはブロック８０６において受け取ることができる。より正確なラベルが、これらの付加的キーポイントに基づいてブロック８０８において計算される。この処理は、当該境界ポイントがブロック８１６において許容されたとわかるまで繰り返すことができる。スケールスペースエンジン１２０が当該境界ポイントが許容可能であるとの一指示を受け取る場合、スケールスペースエンジン１２０は、さらに処理するべくブロック８２０において当該境界ポイントを出力する。いくつかの実施例では、当該境界ポイントは、当該画像に当該境界ポイントをオーバーレイすることによってディスプレイ１１４に出力することができる。
【０１０３】
さらなる処理は様々な処理を含み得る。例えば、当該境界ポイントは、当該キーポイント間の画像セグメントのために一のオブジェクトマスクを生成するべく使用することができる。すべてのキーポイント対に対して図８に記載された処理を繰り返すことによって、一の完全なオブジェクトマスクを生成することができる。
【０１０４】
複数のポテンシャルマップを使用する他の画像処理方法の例は、（ａ）一の既存オブジェクト境界の半自動性向上、及び（ｂ）複数の補間フレームにおける複数境界の向上を含む。
【０１０５】
一の半自動性向上方法では、一オブジェクトのための一境界が決定されて複数の制御ポイントに関連付けられる。当該制御ポイントは「キーポイント」として扱うことができる。図８を参照して記載された方法を、当該制御ポイント間における画素が正確な複数境界を生成するべく使用することができる。当該境界の各セグメント又はスプラインに対して複数のクロップボックスを生成することができる。各セグメント又はスプラインへのラベル付けを、当該制御ポイントに関連付けるべく設定することができる。各クロップボックスは、他から独立して処理することができる。いくつかの実施例では、当該クロップボックスすべてに対して当該スケールスペース変換が一緒に適用される。当該処理によって、一の置換オブジェクト境界を得ることができる。一のユーザが、オリジナルのオブジェクト境界又は置換オブジェクト境界を選択することができる。
【０１０６】
補間フレーム法における複数境界の向上では、複数の補間ポイントを移動することができる。当該補間フレームでは、一オブジェクト境界の各セグメントに対する未知領域を、一補間ポイントのまわりで所定許容範囲だけ重なるように延ばすことができる。当該未知領域の交差は、例えば図８の方法を適用するべく当該未知領域とみなすことができる。複数セグメント境界の境界交差から、前景及び背景画素を決定することができる。例えば、図８の方法を適用した後、当該補間ポイントを、推定境界上のオリジナル位置に最も近い一ポイントまで移動させることができる。これは、一ユーザにより必要に応じてオーバーライド又は修正される。
【０１０７】
一般事項
具体的な実施例を参照して本発明を詳細に記載してきたが、当業者であれば上述したことを理解すれば、かかる実施形態の代替、変更、及び均等を容易に作り出すことは明らかである。したがって、本開示は限定ではなく説明を目的として提示されていることを理解すべきであって、一の当業者にとって容易に明らかなように、本発明に対するかかる修正、変形、及び／又は付加を含めることを排除するものではない。
【図１】
0005645842.tif 000013
【図２】
0005645842.tif 000014
【図３】
0005645842.tif 000015
【図４】
0005645842.tif 000016
【図５】
0005645842.tif 000017
【図６】
0005645842.tif 000018
【図７Ａ】
0005645842.tif 000019
【図７Ｂ】
0005645842.tif 000020
【図７Ｃ】
0005645842.tif 000021
【図７Ｄ】
0005645842.tif 000022
【図８】
0005645842.tif 000023