(57)【特許請求の範囲】
【請求項１】
ターゲットサンプルの出力シーケンスを生成するために、ソースサンプルの入力シーケンスを受け取ってワーピングするサンプルシーケンスワーピングシステムであって、
ａ）  前記ターゲットサンプルのそれぞれの間の所望のターゲット間隔を表す連続したターゲット増分を受け取り、それに応じて、前記所望のターゲット間隔を有する前記各ターゲットサンプルを発生するために、十分なフィルタ係数を有する各ＦＩＲフィルタを表す連続するフィルタ係数値を発生する第１の手段と、
ｂ）  前記連続するフィルタ係数値を受け取り、それに応じて、前記各ターゲットサンプルを発生するために、前記各ＦＩＲフィルタの所定の左右半分の核を選択する第２の手段と、
ｃ）  前記連続するターゲット増分および前記連続するフィルタ係数値を受け取り、それに応じて、前記ソースサンプルの入力シーケンスから所定数のアップサンプルされた中間サンプルを発生する第３の手段と、
ｄ）  前記ターゲットサンプルの出力シーケンスを発生するために、前記アップサンプルされた中間サンプルを、前記各ＦＩＲフィルタの前記所定の左右半分の核に供給する第４の手段とを具備することを特徴とするサンプルシーケンスワーピングシステム。
【請求項２】
前記第１の手段が、前記各ターゲット増分を、前記各フィルタ係数値および前記ＦＩＲフィルタのサイズと関連づけるためのフィルタ参照テーブルを具備することを特徴とする請求項１記載のサンプルシーケンスワーピングシステム。
【請求項３】
前記ターゲット増分が０と１の間にあるときに、前記フィルタ参照テーブルが、フィルタ係数値、０を発生することを特徴とする請求項２記載のサンプルシーケンスワーピングシステム。
【請求項４】
前記ターゲット増分が１と２の間にあるときに、前記フィルタ参照テーブルが、フィルタ係数値、１を発生することを特徴とする請求項２記載のサンプルシーケンスワーピングシステム。
【請求項５】
前記ターゲット増分が２と４の間にあるときに、前記フィルタ参照テーブルが、フィルタ係数値、２を発生することを特徴とする請求項２記載のサンプルシーケンスワーピングシステム。
【請求項６】
前記ターゲット増分が４と８の間にあるときに、前記フィルタ参照テーブルが、フィルタ係数値、２を発生することを特徴とする請求項２記載のサンプルシーケンスワーピングシステム。
【請求項７】
前記ターゲット増分が８と１６の間にあるときに、前記フィルタ参照テーブルが、フィルタ係数値、４を発生することを特徴とする請求項２記載のサンプルシーケンスワーピングシステム。
【請求項８】
前記ターゲット増分が１６と３２の間にあるときに、前記フィルタ参照テーブルが、フィルタ係数値、５を発生することを特徴とする請求項２記載のサンプルシーケンスワーピングシステム。
【請求項９】
前記第２の手段が、前記各ターゲットサンプルの両側の前記各ＦＩＲフィルタの最も大きなものの前記所定の左右半分の核を選択する手段をさらに具備することを特徴とする請求項１記載のサンプルシーケンスワーピングシステム。
【請求項１０】
前記第２の手段が、前記各ターゲットサンプルの両側の前記各ＦＩＲフィルタからの前記所定の左右半分の核を選択する手段をさらに具備することを特徴とする請求項１記載のサンプルシーケンスワーピングシステム。
【請求項１１】
前記所定の左右半分の核を選択する手段が、さらに、
ｉ）  前記連続するフィルタ係数値を受け取り、該連続するフィルタ係数値を一サンプル周期だけ遅延させるために、前記第１の手段に接続された第１のレジスタ手段と、
ｉｉ）  前記第１の手段および前記第１のレジスタ手段から出力される２つの連続するフィルタ係数値の最も大きいものを選択し、それに応じて、前記２つの連続するフィルタ係数値の連続する最も大きいものを出力するために、前記第１の手段および前記第１のレジスタ手段に接続された第１の比較器手段とを具備することを特徴とする請求項９記載のサンプルシーケンスワーピングシステム。
【請求項１２】
前記第３の手段が、さらに、
ｉｉｉ）  前記連続するフィルタ係数値を受け取り、該連続するフィルタ係数値を一サンプル周期だけ遅延させるために、前記第１のレジスタ手段に接続された第２のレジスタ手段と、
ｉｖ）  前記第１の手段、前記第１のレジスタ手段および前記第２のレジスタ手段のそれぞれから出力された３つの連続したフィルタ係数値のうちの最も大きいものを選択し、それに応じて、前記３つの連続したフィルタ係数値の連続した最も大きなものを出力するために、前記第１の手段、前記第１のレジスタ手段および前記第２のレジスタ手段に接続された第２の比較器手段と、
ｖ）  前記連続したターゲット増分および前記３つの前記連続したフィルタ係数値の前記連続した最も大きなものを受け取り、それに応じて、連続したアップサンプル増分値を形成するために、前記連続したターゲット増分をそれぞれ、前記３つの前記フィルタ係数値の前記連続した最も大きなものだけ右にシフトするためのアップサンプル増分発生器と、
ｖｉ）  前記連続したバイナリ形式のターゲット増分、前記連続したアップサンプル増分値および前記ソースサンプルの入力シーケンスを受け取り、それに応じて、前記アップサンプル増分値のそれぞれのものだけ間隔をあけて離れた、前記アップサンプル増分値のそれぞれのもので除算した前記ターゲット増分のそれぞれのものに等しい前記所定数のアップサンプルされた中間サンプルを生成するために、前記ソースサンプルの前記入力シーケンスを補間する補間器手段とを具備することを特徴とする請求項１１記載のサンプルシーケンスワーピングシステム。
【請求項１３】
前記第４の手段が、さらに、
ｖｉｉ）  前記２つの連続したフィルタ係数値のうちの前記連続した最も大きなものを受け取って、一のサンプル周期だけ遅延させるための前記第２の比較器手段に接続された第３のレジスタ手段と、
ｖｉｉｉ）  前記２つの連続したフィルタ係数値のうちの前記連続した最も大きなものを受け取って、他のサンプル周期だけ遅延させるための前記第３のレジスタ手段に接続された第４のレジスタ手段と、
ｉｘ）  第１の複数の前記アップサンプルされた中間サンプルを受け取り、該中間サンプルに、一のサンプル周期だけ遅延された前記２つの連続したフィルタ係数値のうちの前記連続した最も大きなものにより同定された前記フィルタ係数の連続したものを乗じ、それに応じて、第１の複数の中間積値を発生し、該第１の複数の中間積値を合計し、それに応じて、一連の累積された中間積値を発生するために、前記第３のレジスタ手段および前記補間器手段に接続された第１の半分のデジタルフィルタ核乗算器アキュムレータ手段と、
ｘ）  第２の複数の前記連続したアップサンプルされた中間サンプルを受け取り、該中間サンプルに、他のサンプル周期だけ遅延された前記２つの連続したフィルタ係数値の前記連続した最も大きなものにより同定された前記フィルタ係数の連続したものを乗じ、それに応じて、第２の複数の中間積値を発生し、これら第２の中間積値を合計し、それに応じて、他の一連の累積された中間積値を発生し、ターゲットサンプルの前記出力シーケンスを発生するために、前記一連の累積された中間積値と前記他の一連の累積された中間積値とを合計すべく、前記第１の半分のデジタルフィルタ核乗算器アキュムレータ手段、前記第４のレジスタ手段および前記補間器手段に接続された第２の半分のデジタルフィルタ核乗算器アキュムレータ手段とを具備することを特徴とする請求項１２記載のサンプルシーケンスワーピングシステム。
【請求項１４】
前記第３の手段が、さらに、
ｉ）  前記連続したターゲット増分と、前記連続したフィルタ係数値とを受け取り、それに応じて、連続したアップサンプル増分値を形成するために、前記連続したターゲット増分を、それぞれ、前記連続したフィルタ係数値だけ右にシフトするためのアップサンプル増分発生器と、
ｉｉ）  前記連続したターゲット増分、前記連続したアップサンプル増分値および前記ソースサンプルの入力シーケンスを受け取り、それに応じて、前記アップサンプル増分値のそれぞれのもので除算した前記ターゲット増分のそれぞれのものに等しい前記所定数の、前記アップサンプル増分値のそれぞれのものだけ間隔をあけたアップサンプルされた中間サンプルを生成するために、前記ソースサンプルの入力シーケンスを補間する補間器手段とを具備することを特徴とする請求項１０記載のサンプルシーケンスワーピングシステム。
【請求項１５】
前記第４の手段が、さらに、
ｉｉｉ）  前記連続したフィルタ係数値を受け取り、これを一のサンプル周期だけ遅延させるために、前記第１の手段に接続されたレジスタ手段と、
ｉｖ）  第１の複数の前記アップサンプルされた中間サンプルを受け取り、これに、一のサンプル周期だけ遅延された前記連続したフィルタ係数値により同定された前記フィルタ係数の連続したものを乗じ、それに応じて第１の複数の中間積値を発生し、これら第１の複数の中間積値を合計し、それに応じて、一連の累積した中間積値を発生するために、前記レジスタ手段および前記補間器手段に接続された第１の半分のデジタルフィルタ核乗算器アキュムレータ手段と、
ｖ）  第２の複数の前記連続したアップサンプルされた中間サンプルを受け取り、これに、前記一のサンプル周期だけ遅延された前記連続したフィルタ係数値により同定された前記フィルタ係数の連続したものを乗じ、それに応じて、第２の複数の中間積値を発生し、これら第２の複数の中間積値を合計し、それに応じて、他の一連の累積した中間積値を発生し、前記ターゲットサンプルの出力シーケンスを発生するために、前記一連の累積した中間積値と前記他の一連の累積した中間積値とを合計すべく、前記第１の半分のデジタルフィルタ核乗算器アキュムレータ手段、前記レジスタ手段および前記補間器手段に接続された第２の半分のデジタルフィルタ核乗算器アキュムレータ手段とを具備することを特徴とする請求項１４記載のサンプルシーケンスワーピングシステム。
【請求項１６】
ターゲットサンプルの出力シーケンスを生成するために、ソースサンプルの入力シーケンスを受け取ってワーピングするサンプルシーケンスワーピング方法であって、
ａ）  前記ターゲットサンプルのそれぞれのものの間の所望のターゲット間隔を表す連続したターゲット増分を受け取り、それに応じて、前記所望のターゲット間隔を有する前記ターゲットサンプルのそれぞれのものを発生するために十分なフィルタ係数を有する各ＦＩＲフィルタを表す連続したフィルタ係数値を発生するステップと、
ｂ）  前記連続したフィルタ係数値を受け取り、それに応じて、前記ターゲットサンプルの前記それぞれのものを発生するために前記各ＦＩＲフィルタの所定の左右半分の核を選択するステップと、
ｃ）  前記連続したターゲット増分および前記連続したフィルタ係数値を受け取り、それに応じて、前記ソースサンプルの入力シーケンスから所定数のアップサンプルされた中間サンプルを発生するステップと、
ｄ）  前記ターゲットサンプルの出力シーケンスを発生するために、前記アップサンプルされた中間サンプルを、前記核ＦＩＲフィルタの前記所定の左右半分の核に適用するステップとを具備することを特徴とするサンプルシーケンスワーピング方法。
【請求項１７】
前記ターゲットサンプルのそれぞれのものを発生するために、前記連続したフィルタ係数値を受け取り、それに応じて、前記各ＦＩＲフィルタの所定の左右半分の核を選択するステップが、さらに、前記各ターゲットサンプルの両側の、前記各ＦＩＲフィルタの最も大きなものの所定の左右半分の核を選択するステップを具備することを特徴とする請求項１６記載のサンプルシーケンスワーピング方法。
【請求項１８】
前記ターゲットサンプルのそれぞれのものを発生するために、前記連続したフィルタ係数値を受け取り、それに応じて、前記各ＦＩＲフィルタの所定の左右半分の核を選択するステップが、さらに、前記各ターゲットサンプルの両側の、前記ＦＩＲフィルタのそれぞれのものから前記所定の左右半分の核を選択するステップを具備することを特徴とする請求項１６記載のサンプルシーケンスワーピング方法。
【請求項１９】
前記所定の左右半分の核を選択するステップが、さらに、
ｉ）  前記連続したフィルタ係数値を受け取り、一のサンプル周期だけ遅延させるステップと、
ｉｉ）  ２つの連続したフィルタ係数値の最も大きなものを選択し、それに応じて、前記２つの連続したフィルタ係数値のうちの連続した最も大きなものを出力するステップとを具備することを特徴とする請求項１７記載のサンプルシーケンスワーピング方法。
【請求項２０】
前記連続したターゲット増分と前記連続したフィルタ係数値とを受け取り、それに応じて、前記ソースサンプルの入力シーケンスから所定数のアップサンプルされた中間サンプルを発生するステップが、さらに、
ｉｉｉ）  前記連続したフィルタ係数値を受け取り、他のサンプル周期だけ遅延させるステップと、
ｉｖ）  ３つの連続したフィルタ係数値の最も大きなものを選択し、それに応じて、３つの前記連続したフィルタ係数値の連続した最も大きなものを出力するステップと、
ｖ）  前記連続したターゲット増分と、前記３つの前記連続したフィルタ係数値のうちの前記連続した最も大きなものを受け取り、それに応じて、連続したアップサンプルされた増分値を形成するために、前記連続したターゲット増分を前記３つのフィルタ係数値の前記連続した最も大きなものだけ右にシフトするステップと、
ｖｉ）  前記連続したバイナリ形式のターゲット増分、前記連続したアップサンプルされた増分値および前記ソースサンプルの入力シーケンスを受け取り、それに応じて、前記アップサンプルされた増分値のそれぞれのものだけ間隔をあけて離れた、前記アップサンプルされた増分値のそれぞれのものにより除算される前記ターゲット増分のそれぞれのものに等しい前記所定数の、アップサンプルされた中間サンプルを生成するために、前記ソースサンプルの入力シーケンスを補間するステップとを具備することを特徴とする請求項１９記載のサンプルシーケンスワーピング方法。
【請求項２１】
前記ターゲットサンプルの出力シーケンスを発生するために、前記アップサンプルされた中間サンプルを、前記各ＦＩＲフィルタの前記所定の左右半分の核に適用するステップが、さらに、
ｖｉｉ）  ２つの前記連続したフィルタ係数値のうちの前記連続した最も大きなものを受け取り、これを一のサンプル周期だけ遅延させるステップと、
ｖｉｉｉ）  ２つの前記連続したフィルタ係数値のうちの前記連続した最も大きなものを受け取り、これを他のサンプル周期だけ遅延させるステップと、
ｉｘ）  第一の複数の前記アップサンプルされた中間サンプルを受け取り、これに、一のサンプル周期だけ遅延された２つの前記連続したフィルタ係数値の前記連続した最も大きなものにより同定される前記フィルタ係数の連続したものを乗じ、それに応じて、第１の複数の中間積値を発生し、該第１の複数の中間積値を合計し、それに応じて一連の累積された中間積値を発生するステップと、
ｘ）  第２の複数の前記連続したアップサンプルされた中間サンプルを受け取り、これに、他のサンプル周期だけ遅延された前記２つの連続したフィルタ係数値の前記連続した最も大きなもので同定された前記フィルタ係数の連続したものを乗じ、それに応じて、第２の複数の中間積値を発生し、該第２の中間積値を合計し、これに応じて、他の一連の累積した中間積値を発生し、ターゲットサンプルの前記出力シーケンスを発生するために、前記一連の累積した中間積値と前記他の一連の累積した中間積値を合計するステップとを具備することを特徴とする請求項２０記載のサンプルシーケンスワーピング方法。
【請求項２２】
前記連続したターゲット増分と前記連続したフィルタ係数値とを受け取り、それに応じて、前記ソースサンプルの入力シーケンスから、所定数のアップサンプルされた中間サンプルを発生するステップが、さらに、
ｉ）  前記連続したターゲット増分と前記連続したフィルタ係数値とを受け取り、それに応じて、連続したアップサンプル増分値を形成するために、前記連続したターゲット増分をそれぞれ前記連続したフィルタ係数値だけ右にシフトするステップと、
ｉｉ）  前記連続したターゲット増分、前記連続したアップサンプル増分値および前記ソースサンプルの入力シーケンスを受け取り、それに応じて、前記アップサンプルされた増分値のそれぞれのものだけ間隔をあけて離れた、前記アップサンプル増分値のそれぞれのもので除算された前記ターゲット増分のそれぞれのものに等しい所定数の、アップサンプルされた中間サンプルを生成するために、前記ソースサンプルの入力シーケンスを補間するステップとを具備することを特徴とする請求項１８記載のサンプルシーケンスワーピング方法。
【請求項２３】
前記ターゲットサンプルの出力シーケンスを発生するために、前記アップサンプルされた中間サンプルを、前記各ＦＩＲフィルタの前記所定の左右半分の核に適用するステップが、さらに、
ｉｉｉ）  前記連続したフィルタ係数値を受け取り、これを一のサンプル周期だけ遅延させるステップと、
ｉｖ）  第１の複数の前記アップサンプルされた中間サンプルを受け取り、これに、一のサンプル周期だけ遅延された前記連続したフィルタ係数値により同定される前記フィルタ係数の連続したもの乗じ、これに応じて、第１の複数の中間積値を発生し、該第１の複数の中間積値を合計し、それに応じて、一連の累積した中間積値を発生するステップと、
ｖ）  第２の複数の前記連続したアップサンプルされた中間サンプルを受け取り、これに、前記一のサンプル周期だけ遅延された前記連続したフィルタ係数値により同定される前記フィルタ係数の連続したものを乗じ、これに応じて、第２の複数の中間積値を発生し、該第２の複数の中間積値を合計し、それに応じて、他の一連の累積した中間積値を発生し、前記ターゲットサンプルの出力シーケンスを発生するために、前記一連の累積した中間積値と前記他の一連の累積した中間積値とを合計するステップとを具備することを特徴とする請求項２２記載のサンプルシーケンスワーピング方法。
【発明の詳細な説明】
発明の分野
この発明は、概括的に、デジタル信号処理に関し、さらに詳細には、ピクセルおよび／またはラインおよび／またはフレームの入力ストリームから、ワーピングされたピクセルおよび／またはラインおよび／またはフレームの出力ストリームをそれぞれ発生するための画像ワーピングシステムに関するものである。
発明の背景
デジタル画像ワーピングは、規則正しく間隔をあけたソース画像を、該ソース画像とは異なる間隔を有するターゲット画像を生成するために、動的にリサンプリングする信号処理である。多くの現代の映画は、例えば、遠近法、奇妙な形状をした画像境界およびテクスチャマッピングのような特殊効果を生成するためにデジタルワーピングを使用している。従来技術のリアルタイム画像ワーピングシステムは、リアルタイムで膨大な数の計算を実施しなければならないために、非常に複雑かつ高価である。従来のシステムは、ワーピングされた画像の空間周波数をナイキストリミットまで動的に帯域制限(bandlimit)せず、望ましくないエーリアシング歪みを生じていた。公知の従来のデジタル画像ワーピングシステムの例は、以下の刊行物および特許において説明されている。
I. Wolberg, George,"Separable Image Warping: Implications and Techniques", Ph. D. Thesis, Dept. of Computer Science, Columbia University, NY, 1990, および"Digital Image Warping", IEEE Computer Society Press, Los Alamitos, CA, 1990;
II．米国特許第５３５５３２８号明細書(アルベイタ(Arbeitar)他)
発明の概要
この発明によれば、固有のナイキスト帯域制限で、水平方向および垂直方向の両方に、リアルタイムで動的な拡大および縮小を実施し、かつ、外部ライン記憶装置または他のメモリを必要としない画像ワーピングシステムが提供される。また、この発明は、レジスタの代わりに外部フレーム記憶装置を用いることにより、複数画像を時間的にワーピング（例えば、速い動作と遅い動作との間の動的な変更）することができる。したがって、この発明のシステムは、公知の従来技術に対してかなり進歩したものである。この発明により、ワーピングした画像を生成するために、３つの異なる処理が連続して実施される。第１の処理は、所望のターゲットピクセル（またはラインまたはフレーム）間隔を、適当なＦＩＲフィルタに写像する。ここで、ＦＩＲフィルタの大きさは、所望のターゲットピクセル（またはラインまたはフレーム）間隔の大きさに基づいて選択される。フィルタが一旦選択されると、第２の処理が、入力ソースピクセル（またはラインまたはフレーム）に基づいて、適当な数のアップサンプルされたピクセル（またはラインまたはフレーム）を生成する。最後の処理は、第１の処理による正確なフィルタ係数と、第２の処理による補間されたピクセル（またはラインまたはフレーム）とを乗じ、その結果、正確にナイキスト帯域制限されたターゲットピクセル（またはラインまたはフレーム）を得る。
このように、この発明の一側面によれば、出力ピクセルおよび／またはラインおよび／またはフレーム間の所望の間隔を定める、ユーザにより定義されるターゲット増分にしたがって、ワーピングされたピクセルおよび／またはラインおよび／またはフレームの出力ストリームを生成するために、ピクセルおよび／またはラインおよび／またはフレームのいずれか１つの入力ストリームをデジタル式にワーピングする装置および方法が提供される。デジタル式にワーピングされたピクセルおよび／またはラインの場合には、得られる画像は、空間的にワーピングされたものと考えられる。デジタル式にワーピングされたフレームの場合には、得られる一組のフレームは時間的にワーピングされたものと考えられる。
この発明の第１の実施形態においては、システムは、ターゲット増分を特定のフィルタサイズに写像するためのフィルタ参照テーブルと、一対の比較器への入力として前記フィルタ参照テーブルから出力された３つの連続したフィルタサイズを補給する一対のレジスタとを具備している。前記比較器のうちの第１のものは、フィルタ参照テーブルおよび両レジスタにより出力される３つの値から最も大きなフィルタサイズを決定するものである一方、第２の比較器は、フィルタ参照テーブルおよび第１のレジスタから出力される最も大きなフィルタサイズを決定するものである。第１の比較器の出力は、フィルタサイズをフィルタ係数に写像し、その後、アップサンプル増分を発生するために、ターゲット増分をこの量だけ右にシフトするアップサンプル増分発生器により受け取られる。このアップサンプル増分は、それに応じて、平均的に間隔をあけた適当な数のアップサンプルピクセル値を発生する補間器による受け取られる。第２の比較器からの出力は、左右半分の核フィルタ発生器にそれぞれ接続されたさらに２つのレジスタを有するパイプライン内に格納される。この左右半分の核フィルタ発生器は、補間器からのアップサンプルされたピクセルを受け取り、ワーピングされた出力ピクセルを生成するために、受け取ったピクセルにそれぞれの半分の核係数を乗じる。
この発明の第２の実施形態においては、システムは、ターゲット増分を特定のフィルタサイズに写像するためのフィルタ参照テーブルと、左右半分の核フィルタ発生器への入力として、フィルタ参照テーブルからのフィルタサイズを保持する単一のレジスタとを具備している。フィルタ参照テーブルの出力は、フィルタサイズをフィルタ係数に写像し、その後、アップサンプル増分を発生するために、ターゲット増分を、この量だけ右にシフトするアップサンプル増分発生器により受け取られる。アップサンプル増分は、それに応じて、平均的に間隔をあけた適当な数のアップサンプルピクセル値を発生する補間器により受け取られる。左右半分のフィルタ核発生器は、補間器からのアップサンプルされたピクセルを受け取って、ワーピングされた出力ピクセルを生成するために、受け取ったピクセルにそれぞれの半分の核係数を乗じる。
各実施形態は、レジスタをライン記憶装置およびフレーム記憶装置にそれぞれ置き換えることにより、ラインおよび／またはフレームをデジタル式にワーピングするように拡張することができる。これらの大きな記憶装置ユニットは、以下に詳しく説明される実施形態におけるレジスタの機能と同等の機能を奏する。
この発明のワーピング技術は、全てがジェネシスマイクロチップ社(Genesis Microchip Inc.)に譲渡され、その内容が参照によりこの明細書に組み込まれている出願係属中の米国特許出願第０８／１２６３８８号、第０８／１２５５３０号、第０８／１７２０６５号、第０８／１２４２０１号に説明されている画像フィルタリングおよび画像拡張装置および方法を用いることにより実施できる。
さらに、この発明に係るデジタル画像ワーピングシステムは、ソース画像を、任意の、きまったターゲット画像サイズにリサイジングする方法に関する、上述した米国特許第５３５５３２８号明細書に記載された技術に基づいている。この従来技術のシステムによれば、各ターゲットピクセルおよび／またはラインおよび／またはフレームは、ソースピクセルおよび／またはラインおよび／またはフレームに対して同じ量でリサイズされる。この発明によれば、各ターゲットピクセルおよび／またはラインおよび／またはフレームは、ソースピクセルおよび／またはラインおよび／またはフレームに対して任意に、個別にサイジングされる。さらに詳細には、この発明によれば、ソースピクセルおよび／またはラインおよび／またはフレームは、ターゲットピクセルおよび／またはラインおよび／またはフレームのリサイズファクタの変更に基づいて、動的にアップサンプルされる。ソースピクセルおよび／またはラインおよび／またはフレームは常に最も近い１オクターブにアップサンプルされ、その後、ナイキスト帯域制限されたターゲットピクセルおよび／またはラインおよび／またはフレームを生成するためにきまった大きさのＦＩＲフィルタによりデシメート(decimate)される。フィルタサイズは、各ターゲットピクセルおよび／またはラインおよび／またはフレームごとに、ユーザにより指定されたような空間的な位置決めまたは時間的な位置決めに基づいて動的に決定される。この発明によれば、きまった大きさのＦＩＲフィルタを使用することによって、従来のビデオワーピングシステムと比較して大幅なシリコンコストの削減を達成することができる。
【図面の簡単な説明】
好ましい実施形態は、以下の図面を参照しながら以下に詳細に説明される。
図１は、複数のソースピクセルから提供される複数のターゲットピクセルを示しており、ここでは、ターゲットピクセルは、ユーザの決定したターゲット増分にしたがって間隔をあけている。
図２は、この発明に係るデジタル画像ワーピングシステムの機能的な構成要素を示すブロックダイアグラムである。
図３は、ユーザの決定したターゲット増分を動的に変更するためのソースおよびターゲットピクセルの相対的な空間的位置決めと、代表的な例にしたがって、図２のシステムを用いてターゲットピクセルを発生するための適当なＦＩＲフィルタの選択とを示している。
図４は、この発明の好適な実施形態に係るデジタル画像ワーピングシステムの機能的な構成要素を示すブロックダイアグラムである。
図５は、ユーザの決定したターゲット増分を動的に変更するためのソースおよびターゲットピクセルの相対的な空間的位置決めと、図４の好適な実施形態を用いてターゲットピクセルを発生するための適当なＦＩＲフィルタの選択とを示している。
好ましい実施形態の詳細な説明
以下の説明において、好ましい実施形態および他の実施形態は、ピクセルおよび／またはラインのワーピングに等しく適用される。同様の発明の原理は、図２および図４において、各レジスタをフレーム記憶装置に置き換えることにより、フレームを時間的にワーピングする場合に用いることができる。さらに、この発明はビデオ画像のワーピングに限定されるものではない。例えば、１次元ワーピングの場合には、この発明の原理は、ビデオサンプルよりむしろ音に（例えば、デジタルオーディオテープドライブのジターを補正するために）適用され得る。
上述したように、画像のデジタルワーピングは、ソースピクセル間隔に対するターゲットピクセル間隔により明記される。各ターゲットピクセル間の水平方向の間隔および各ターゲットライン間の垂直方向の間隔は、ユーザにより指定されなければならない。同様に、画像の連続するフレーム間の時間的な間隔（すなわち時間）は、ユーザにより指定されなければならない。この詳細な情報は、非常に複雑なワーピングを生成するために使用され得る非常に詳細な制御レベルを提供する。ユーザが決定するターゲット間隔の発生は、当業者に公知であり、この発明の部分を構成するものではない。この発明のシステムは、ソースピクセル（および／またはラインおよび／またはフレーム）のストリームおよびユーザの指定した間隔を決定する所望のターゲット増分（ＴａｒＩｎｃ）を入力として受け取る。
図１は、ユーザの定めたターゲット増分（ＴａｒＩｎｃ）に基づくソースピクセルからのターゲットピクセルの発生を示している。簡単のために、この開示の残りの部分は、ソースピクセルからのターゲットピクセルの発生に言及する。全く同一の方法論および回路が、ピクセルをビデオラインに代えることにより垂直な処理に、そして、ピクセルをビデオフレームに代えることにより時間的な処理に適用できることは理解されるであろう。
図１に見られるように、ワーピングされた画像の最初および最後のターゲットピクセルは、最初および最後のソースピクセルと空間的に整列されている。しかしながら、中間のターゲットピクセルの間隔は、ターゲット増分（ＴａｒＩｎｃ）によって決定されている。特に、図１に示された例では、最初の（すなわち、一番左の）中間ターゲットピクセルは、最初のターゲットピクセルから、ソースピクセル間の間隔の１．５倍に等しい間隔をあけており、２番目の中間ターゲットピクセルは、第１の中間ターゲットピクセルから、ソースピクセル間の間隔の０．７５倍に等しい間隔をあけている。一方、最後のターゲットピクセルは、第２の中間ターゲットピクセルから、ソースピクセル間の間隔の０．７５倍に等しい間隔をあけて離れており、総間隔は３．０（すなわち、最初と最後のソースピクセル間の間隔）である。
ここで、図２を見ると、動的に変化するターゲット増分にしたがって、ソースピクセルのストリームからワーピングされた出力ピクセルのストリームを発生させるための、この発明の第１の実施形態に係る機能的なブロックダイアグラムが示されている。
第１に、ターゲット増分（ＴａｒＩｎｃ）は、以下の表Ａに示されたマッピングに基づいたフィルタ係数値により表されるような特定のＦＩＲフィルタサイズに、フィルタ参照テーブル２１を介して写像される。ＦＩＲ係数は、読み出し専用テーブル（すなわちＲＯＭ）に格納されるか、または、ユーザにより提供され得る。係数のプログラミングにより、ＦＩＲフィルタを調整する柔軟性がユーザに与えられる。フィルタサイズは、ＴａｒＩｎｃに基づいてフィルタ参照テーブルをインデクシングすることにより選択される。表Ａが単に１つの実施例を示しているだけであることに注意することは重要である。この表は、全てのサイズのＴａｒＩｎｃをサポートしかつ全てのフィルタサイズおよびフィルタ係数を発生するように拡張され得る。
0003714680.tif 000002
ＴａｒＩｎｃが、一旦写像されると、ターゲットピクセルの両側の最も大きなフィルタが、そのピクセルのフィルタとして選択される。図３はこのステップを示している。図３の第５の線（ＴａｒＩｎｃ→フィルタマッピング）は、上記表Ａの写像に基づいて、第４の線（ターゲット増分）からのＴａｒＩｎｃ値を種々のＦＩＲフィルタに写像したものを示している。このことは、ターゲットピクセルの両側に表されているフィルタサイズのうちの最も大きなフィルタサイズ（すなわちタップ数）をターゲットピクセル内に配置し、それがそのピクセルのために選択されたフィルタであることを示すことにより、図３に概略的に表されている。図３において、第３の線（ターゲット）は、９タップフィルタにより発生される第１のターゲットピクセル、９タップフィルタにより発生される第２のターゲットピクセル、３タップフィルタにより発生される第３のターゲットピクセル等を示している。
上述したように、ＴａｒＩｎｃは、マッピング表Ａに従うＦＩＲフィルタサイズに、フィルタ参照テーブル２１を介して写像され、その出力（すなわち、フィルタ係数値）は、それぞれ連続してＡおよびＢレジスタ２２，２３に、連続するクロックサイクルにおいて格納され、それによってパイプラインを形成する。比較器２４は、ターゲットピクセルの両側の隣接する２つのフィルタのうちのいずれがより大きいかを決定し、このフィルタの表示（すなわち、関連するフィルタ係数）を比較器２４の出力側に接続された左レジスタ２５に格納する。左核のＭＡＣ２６（すなわち、乗算器アキュムレータ(Multiplier ACcumulator)）は、左レジスタ２５内に格納されているフィルタ係数値を読み込み、指定されたフィルタ核の左半分を用いてターゲットピクセル値の半分を発生する。次のクロックサイクルにおいては、右核のＭＡＣ２７が、右レジスタ２８に格納されているフィルタ核の右半分および中央タップを用いてターゲットピクセル値の残りを発生し、その結果の値を、左核のＭＡＣ２６から受け取った出力値と合計し、ワーピングされた出力ピクセルを得る。
比較器２４、左右レジスタ２５，２８、および左右核のＭＡＣ２６，２７に関連して上述したように、動的フィルタリングが実施される前に、アップサンプルされたピクセルの正確な数が発生されなければならない。再度、図２を参照すると、アップサンプルされたピクセルの数は、ＡおよびＢレジスタ２２，２３の前後に格納された最も大きなフィルタサイズにより決定される。
比較器２９は、最も大きなフィルタサイズ（すなわち、フィルタ参照テーブル２１からの最も大きなフィルタ係数出力）を決定し、その値をアップサンプル増分発生器３０に転送する。アップサンプル増分発生器は、ＴａｒＩｎｃ値を受け取って、アップサンプル増分値を生成するために、受け取ったＴａｒＩｎｃ値を受け取ったフィルタ係数に等しい所定のビット数だけ右にシフトする。図３に示す例では、第１のターゲット増分は２．２５であり、“４で割る”操作（すなわち、ＴａｒＩｎｃを２ビット右にシフトすることにより、アップサンプル増分値０．５６２５を得る）に対応するフィルタ係数２を得る。そのアップサンプル増分値（すなわち、右にシフトしたＴａｒＩｎｃ値）は、要求されたサイズのＦＩＲフィルタ（例えば、ＴａｒＩｎｃ＝２．２５に対して９タップフィルタ）への適用のためのアップサンプルされたピクセルの正確な等しい間隔を表している。
補間器３１は、アップサンプル増分値を読み込み、ソースピクセルからアップサンプルされたピクセルを、連続したベース上に、アップサンプル増分値により決定される間隔で、内部インクリメンタまたはカウンタ値がＴａｒＩｎｃに達するまで補間する。上述されかつ図３に示された例においては、９タップＦＩＲフィルタへの適用のために、ソースピクセル間隔に対して０．５６２５の間隔で、４つのアップサンプルされたピクセルが発生される。補間器３１は、周知の線形補間器、本出願人の係属中の特許出願第０８／１７２０６５号に開示されたような二次補間器、または任意の他の好適な設計の補間器として装備されてもよい。
補間器３１により発生されるアップサンプルされたピクセルは、正確な係数が正確なアップサンプルされたピクセルに乗算されることを保証する制御ロジックを有する左右核のＭＡＣ２６，２７に転送される。このように、図３において、線２（アップサンプル）は、ターゲットピクセルを発生するように装備された異なるサイズのＦＩＲフィルタに対して要求される可能な限り多くの数のアップサンプルピクセルを表している。図３の線２と線３との間に示されたＦＩＲフィルタの動作は、正確な係数を正確なアップサンプルされたピクセルに乗じる左右核のＭＡＣ２６，２７により実施される。左右核のＭＡＣ２６，２７の内部制御ロジックは、アップサンプルされたピクセルの所定のものが、係数とアップサンプルされたピクセルとを正確に整合するためにスキップされることを保証している。例えば、第１の中間ターゲットピクセルを発生するために用いられる９タップＦＩＲフィルタが、線２からアップサンプルされた全てのピクセルを用いるのに対して、隣接する３タップフィルタは、第５，９，第１１の発生されたアップサンプルされたピクセルのみを用い、第６，第７，第８，第１０のアップサンプルされたピクセル、その他をスキップしている。
左右核のＭＡＣ２６，２７の制御ロジックは、本件出願人の出願係属中の米国特許出願第０８／１２６３８８号に説明されているように、システムの始動時に、第１のターゲットピクセルについての右半分の核値を２倍にすることにより、第１のターゲットピクセルをも発生する。最後のターゲットピクセルは、左核値を２倍することにより発生される。この倍加は、全てのＦＩＲ係数が単一のゲインを維持することを保証するために要求される。
ここで、図４を見ると、ターゲット増分の動的な変化に従って、ソースピクセルのストリームから、ワーピングされた出力ピクセルのストリームを発生させるための好ましい実施形態に係る機能的なブロックダイアグラムが示されている。
最初に、ターゲット増分（ＴａｒＩｎｃ）は、フィルタ参照テーブル４１を介して、特定のＦＩＲフィルタサイズに、上記表Ａに示されたマッピングに基づくフィルタ係数値により表されるように写像される。ＦＩＲ係数は、読み出し専用テーブル（すなわちＲＯＭ）に格納され、または、ユーザにより提供され得る。フィルタサイズは、ＴａｒＩｎｃに基づいて係数テーブルをインデクシングすることにより選択される。表Ａが、単に１つの実施例を示しているに過ぎないことに注意することは重要である。この表は、全てのサイズのＴａｒＩｎｃをサポートし、全フィルタサイズおよびフィルタ係数を発生するように拡張され得る。
ＴａｒＩｎｃが一旦写像されると、フィルタサイズはレジスタ４２内に保持されて、左右核の乗算器アキュムレータ４４，４５に供給される。図５は、このステップを示している。図５の第５の線（ＴａｒＩｎｃ→フィルタマッピング）は、上記表Ａのマッピングに基づいて第４の線（ターゲット増分）からのＴａｒＩｎｃ値を種々のＦＩＲフィルタに写像したものを示している。これは、非対称フィルタの各半分の核のサイズをターゲットピクセルの各側に配置し、該ピクセルに対して各半分の核を示すことにより、図５に概略的に表されている。図５において、第３の線（ターゲット）は、９タップフィルタにより発生される第１のターゲットピクセル、９タップフィルタの半分および３タップフィルタの半分からなる非対称フィルタにより発生される第２のターゲットピクセル、３タップフィルタにより発生される第３のターゲットピクセルおよび３タップフィルタの半分および５タップフィルタの半分からなる非対称フィルタにより発生される第４のターゲットピクセルを示している。
上述したように、ＴａｒＩｎｃは、フィルタ参照テーブル４１を介して、マッピング表Ａに従ってＦＩＲフィルタサイズに写像され、その出力（すなわち、フィルタ係数値）は、連続してレジスタ４２内に格納される。左核のＭＡＣ４４（すなわち、乗算器アキュムレータ）は、レジスタ４２内に格納されたフィルタ係数値を読み取り、半分のターゲットピクセル値と、指定されたフィルタ核の左半分および左側半分の核のためのセンタータップを用いたセンタータップ積値への第１のコントリビューション(contribution)とを発生する。同じクロックサイクルにおいて、右核のＭＡＣ４５は、他の半分のターゲットピクセル値と、右半分のフィルタ核および右側半分の核のためのセンタータップを用いたセンタータップ積値への第２のコントリビューションとを発生する。右核のＭＡＣ４５は、その後、センタータップ乗算積への第１および第２のコントリビューションを合計し、その合計した値を、平均センタータップ乗算積を得るために２で割り、最後にその平均センタータップ乗算積と、左核のＭＡＣ４４から受け取ったターゲットピクセル値の左半分およびターゲットピクセル値の右半分とを合計し、最終的なワーピングされた出力ピクセルを得る。
センタータップ乗算積への第１および第２のコントリビューションを合計し、その合計値を２で割ることに代えて、各半分の核ごとのセンタータップ係数は、単に、左右核のＭＡＣ４４，４５の関連する係数ＲＯＭに格納される前に、または、この発明がソフトウェア内に装備された適当なコードを介して、二等分されてもよい。
アップサンプル増分発生器４６は、ＴａｒＩｎｃ値を受け取り、かつ、アップサンプル増分値を生成するために、受け取ったフィルタ係数に等しい所定のビット数だけ右にシフトする。図５の例では、第１のターゲット増分は２．２５であり、“４で割る”操作（すなわち、ＴａｒＩｎｃを右に２ビットシフトすることによりアップサンプル増分０．５６２５が得られる。）に相当するフィルタ係数、２が得られる。アップサンプル増分値（すなわち、右にシフトされたＴａｒＩｎｃ値）は、要求された大きさのＦＩＲフィルタ（例えば、ＴａｒＩｎｃ＝２．２５に対して９タップフィルタ）への適用のためのアップサンプルされたピクセルの正確な等しい間隔を表している。
補間器４７は、アップサンプル増分値を読み込み、ソースピクセルからのアップサンプルピクセルを連続するベース上に、アップサンプル増分値により決定された間隔で、内部インクリメンタまたはカウンタ値がＴａｒＩｎｃに達するまで補間する。上述されかつ図５に示された例では、９タップＦＩＲフィルタへの適用のために、ソースピクセル間隔に対して０．５６２５の間隔を有する４つのアップサンプルピクセルが発生される。補間器４７は、周知の線形補間器、本件出願人の係属中の米国特許出願第０８／１７２０６５号に開示されたような二次補間器、または、任意の他の好適に設計された補間器として装備されてもよい。
補間器４７により発生されたアップサンプルされたピクセルは、正確なアップサンプルされたピクセルに正確な係数が乗じられることを保証するための制御ロジックを有する左右核のＭＡＣ４４，４５に転送される。図５の線２と線３との間におけるＦＩＲフィルタの図示された動作は、正確な係数を正確なアップサンプルされたピクセル値に乗じる左右半分の核のＭＡＣ４４，４５により実行される。
左右核のＭＡＣ４４，４５の制御ロジックは、出願第０８／１２６３８８号に開示された方法で、最初のターゲットピクセルについての右半分の核値を２倍することによりシステムの始動時の第１のターゲットピクセルをも発生する。最後のターゲットピクセルは、左核値を２倍することにより発生される。この倍加は、全てのＦＩＲフィルタが単一のゲインを維持することを保証するために要求される。
この発明の他の実施形態および変更は可能である。例えば、さらに他の実施形態により、この発明は、Ｃ言語を用いたソフトウェアで実施される。この他のソフトウェア実施形態は、この明細書の付録Ａに十分に開示されている。好ましい実施形態にしたがって実施されるワーピングは、固有ナイキスト帯域制限を提供することとして説明されているけれども、ナイキスト帯域制限なしに（例えば、ソフトフォーカスワーピング）、この発明の原理を用いて特殊効果ワーピングが実施されてもよい。言い換えると、プレフィルタリングおよび補間ステップは、ナイキスト帯域制限なしに実施され得る。全てのそのような他の実施形態および変更は、添付された請求の範囲に記載された発明の範囲内に配されるものである。
0003714680.tif 000003
0003714680.tif 000004
0003714680.tif 000005
0003714680.tif 000006
0003714680.tif 000007
0003714680.tif 000008
0003714680.tif 000009
0003714680.tif 000010
0003714680.tif 000011
0003714680.tif 000012
0003714680.tif 000013
0003714680.tif 000014
0003714680.tif 000015
0003714680.tif 000016
0003714680.tif 000017
0003714680.tif 000018
0003714680.tif 000019
0003714680.tif 000020
0003714680.tif 000021
0003714680.tif 000022
0003714680.tif 000023
0003714680.tif 000024
0003714680.tif 000025
0003714680.tif 000026
0003714680.tif 000027
0003714680.tif 000028
0003714680.tif 000029
0003714680.tif 000030
0003714680.tif 000031
0003714680.tif 000032
0003714680.tif 000033
0003714680.tif 000034
0003714680.tif 000035
0003714680.tif 000036
0003714680.tif 000037
0003714680.tif 000038
0003714680.tif 000039
【図１】
0003714680.tif 000040
【図２】
0003714680.tif 000041
【図３】
0003714680.tif 000042
【図４】
0003714680.tif 000043
【図５】
0003714680.tif 000044