(57)【要約】  影を合成可能な画像処理装置および画像処理方法を開示する。メモリ１２は、画像の前景および背景のデータを記憶する。バッファ１２Ａには、前景、背景、および前景から生成された前景の影が合成された画像のデータが書き込まれる。プロセッサ１１は、メモリ１２およびバッファ１２Ａに接続され、メモリ１２から前景のデータを読み出して前景の影のデータを生成し、その前景の影のデータをバッファ１２Ａに書き込み、その前景の影のデータをバッファ１２Ａから読み出して背景のデータとアルファ合成し、アルファ合成されたデータをバッファ１２Ａに書き込み、アルファ合成されたデータが書き込まれたバッファ１２Ａに前景のデータを書き込む、ように構成されてなる。さらに、画像処理システム１００およびビデオ編集システム２００を開示する。
2011529209.tif 000002
【特許請求の範囲】
【請求項１】
画像の前景および背景のデータを記憶するメモリ（１２）と、
バッファ（１２Ａ）と、
前記メモリおよび前記バッファに接続されたプロセッサ（１１）と、を備え、
前記プロセッサが、
前記メモリから前記前景のデータを読み出して前景の影のデータを生成し、該影のデータを前記バッファに書き込み、
前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込み、
前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込む、
ように構成されてなる、装置（１０Ａ）。
【請求項２】
前記アルファ合成は、各ピクセルについて、下記式（１）の演算処理を行い、その結果である合成値を前記アルファ合成されたデータとして前記バッファに書き込む、請求項１に記載の装置、
合成値  ＝  （ＳC）×（ＳA）＋（ＢC）×（ＢA）×（１−ＳA）  ・・（１）
ただし、ＳCは、前記影の色成分、ＳAは、前記影のアルファ値、ＢCは、前記背景の色成分、ＢAは、前記背景のアルファ値である。
【請求項３】
前記プロセッサは、グラフィックス処理専用であり、
前記プロセッサが、前記影のデータと前記背景のデータとをアルファ合成する際に、前記式（１）中の（ＢC）×（ＢA）の乗算処理をピクセルシェーダによって行う、
請求項２に記載の装置。
【請求項４】
前記バッファは、出力用に処理された画像データを記憶する、請求項１に記載の装置。
【請求項５】
前記影が複数生じる場合は、
前記プロセッサが、一つの影と他の影が重なるピクセルにおいて、それらのアルファ値を比較して、大きいアルファ値をそのピクセルのアルファ値とする、ように構成されてなる請求項１に記載の装置。
【請求項６】
画像の前景および背景のデータを記憶するメモリ（１２）と、
前記バッファ（１２Ａ）と、
前記メモリから前記前景のデータを読み出して前景の影のデータを生成し、該影のデータを前記バッファに書き込む影描画手段（１０１）と、
前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込む背景合成手段（１０２）と、
前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込む前景合成手段（１０３）と、
を備える、装置（１０Ａ）。
【請求項７】
前記背景合成手段は、各ピクセルについて、下記式（２）の演算処理を行い、その結果である合成値を前記アルファ合成されたデータとして前記バッファに書き込む、請求項６に記載の装置、
合成値  ＝  （ＳC）×（ＳA）＋（ＢC）×（ＢA）×（１−ＳA）  ・・（２）
ただし、ＳCは、前記影の色成分、ＳAは、前記影のアルファ値、ＢCは、前記背景の色成分、ＢAは、前記背景のアルファ値である。
【請求項８】
前記背景合成手段はグラフィックス処理専用のプロセッサを備え、
前記背景合成手段が、前記影のデータと前記背景のデータとをアルファ合成する際に、前記式（２）中の（ＢC）×（ＢA）の乗算処理を前記プロセッサのピクセルシェーダによって行う、
請求項７に記載の装置。
【請求項９】
前記バッファは、出力用に処理された画像データを記憶する、請求項６に記載の装置。
【請求項１０】
前記影が複数生じる場合は、
前記影描画手段が、一つの影と他の影が重なるピクセルにおいて、それらのアルファ値を比較して、大きいアルファ値をそのピクセルのアルファ値とする、請求項６に記載の装置。
【請求項１１】
前景のデータから前景の影のデータを生成してバッファに書き込むステップ（Ｓ１０）と、
前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込むステップ（Ｓ２０）と、
前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込むステップ（Ｓ３０）と、
を含む、方法。
【請求項１２】
画像の前景および背景のデータを記憶するメモリ（１２）と、
バッファ（１２Ａ）と、
前記メモリおよび前記バッファに接続されたプロセッサ（１１）と、
を備えた装置（１０Ａ）の前記プロセッサ（１１）に、
前景のデータから前景の影のデータを生成してバッファに書き込むステップ（Ｓ１０）と、
前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込むステップ（Ｓ２０）と、
前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込むステップ（Ｓ３０）と、
を実行させるためのプログラム。
【請求項１３】
システム（１００）であって、
画像の前景および背景のデータを記憶するメモリ（１２、２２）と、
バッファ（１２Ａ）と、
前記メモリおよび前記バッファに接続された第１のプロセッサ（１１）と、
当該システム（１００）の制御を行う第２のプロセッサ（２１）と、
を備え、
前記第１のプロセッサが、
前記メモリから前記前景のデータを読み出して前景の影のデータを生成し、該影のデータを前記バッファに書き込み、
前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込み、
前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込む、
ように構成されてなる、前記システム（１００）。
【請求項１４】
システム（１００）であって、
画像の前景および背景のデータを記憶するメモリ（１２、２２）と、
バッファ（１２Ａ）と、
当該システム（１００）の制御を行うプロセッサ（２１）と、
前記メモリから前記前景のデータを読み出して前景の影のデータを生成し、該影のデータを前記バッファに書き込む影描画手段（１０１）と、
前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込む背景合成手段（１０２）と、
前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込む前景合成手段（１０３）と、
を備える、前記システム（１００）。
【請求項１５】
映像データを編集する編集部（２０１）と、
請求項１または６に記載の装置（１０Ａ）と、
を備えるビデオ編集システム（２００）
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は画像処理に関し、特にコンピュータグラフィックス（ＣＧ：Ｃｏｍｐｕｔｅｒ  Ｇｒａｐｈｉｃｓ）の描画処理に関する。
【背景技術】
【０００２】
ＣＧ処理の一つに、物体の影を生成する手法、すなわち影生成手法がある。影生成手法は、３次元ＣＧだけでなく、ウィンドウシステム等の２次元ＣＧにも利用される。
【０００３】
従来の影生成手法は一般に次の手順で行われる。まず、背景のデータがフレームバッファに書き込まれる。次に、前景の影のデータが、フレームバッファとは別の一時バッファを利用して計算され、その一時バッファに記憶される。ここで、影のデータの計算に一時バッファが利用されることにより、フレームバッファに書き込まれた背景のデータにかかわらず、複数の異なる影を同じピクセルに重ね書きしてそのピクセルでの影の色を過度に濃くすること、すなわち影の重複描画を容易に防止することができる。続いて、一時バッファの画像データがフレームバッファの画像データにアルファ合成されてフレームバッファに書き込まれる。最後に、前景のデータがフレームバッファに書き込まれる。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】米国特許第６４３７７８２号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００５】
近年、ＣＧに対する更なる高機能化や高画質化への要求を満たすべく、画像処理の更なる高速化が求められている。しかし、従来の影生成手法では、上記のとおり、フレームバッファとは別の一時バッファが必要である。例えばＨＤＴＶ（Ｈｉｇｈ  Ｄｅｆｉｎｉｔｉｏｎ  ＴｅｌｅＶｉｓｉｏｎ：高精細テレビ）の画像処理では一時バッファとして４ＭＢのメモリ容量が必要である。従って、従来の影生成手法では、画像処理に割り当てられるメモリの容量および帯域の更なる削減が困難である。その結果、画像処理の更なる高速化が困難である。
【０００６】
本発明の目的は、上記の問題を解決した、新規でかつ有用な画像処理装置、画像処理方法、および画像処理システムを提供することにある。本発明の具体的な目的は、一時バッファを利用することなく、影が合成可能な画像処理装置、画像処理方法、および、画像処理システムを提供することにある。
【課題を解決するための手段】
【０００７】
本発明の一態様によれば、画像の前景および背景のデータを記憶するメモリと、バッファと、前記メモリおよび前記バッファに接続されたプロセッサと、を備え、前記プロセッサが、前記メモリから前記前景のデータを読み出して前景の影のデータを生成し、該影のデータを前記バッファに書き込み、前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込み、前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込む、ように構成されてなる、装置が提供される。
【０００８】
本発明によれば、プロセッサが、背景のデータよりも先に前景の影のデータを、最終的に画像が形成されることになるバッファに書き込む。さらに、プロセッサが、そのバッファに既に書き込まれている前景の影のデータに背景のデータをアルファ合成する。さらに、アルファ合成されたデータが書き込まれたそのバッファに、前景のデータを書き込む。これにより、前景とその影と背景とが合成された画像がそのバッファに形成される。したがって、そのバッファとは別の一時バッファを利用することなく、前景の影の画像を処理できる。
【０００９】
本発明の他の態様によれば、画像の前景および背景のデータを記憶するメモリと、バッファと、前記メモリから前記前景のデータを読み出して前景の影のデータを生成し、該影のデータを前記バッファに書き込む影描画手段と、前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込む背景合成手段と、前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込む前景合成手段と、を備える、装置が提供される。
【００１０】
本発明によれば、背景のデータがバッファに書き込まれるよりも先に、影描画手段が前景の影のデータを生成して、最終的に画像が形成されることになるバッファに書き込む。さらに、背景合成手段が、バッファに既に書き込まれている前景の影のデータに背景のデータをアルファ合成する。さらに、前景合成手段が、アルファ合成されたデータが書き込まれたバッファに、前景のデータを書き込む。これにより、前景とその影と背景とが合成された画像がそのバッファに形成される。したがって、そのバッファとは別の一時バッファを利用することなく、前景の影の画像を処理できる。
【００１１】
本発明のその他の態様によれば、前景のデータから前景の影のデータを生成してバッファに書き込むステップと、前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込むステップと、前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込むステップと、を含む、方法が提供される。
【００１２】
本発明によれば、背景のデータよりも先に前景の影のデータがバッファに書き込まれ、バッファに既に書き込まれている前景の影のデータに背景のデータがアルファ合成される。さらに、アルファ合成されたデータが書き込まれたそのバッファに、前景のデータが書き込まれる。これにより、前景とその影と背景とが合成された画像がそのバッファに形成される。したがって、そのバッファとは別の一時バッファを利用することなく、前景の影の画像を処理できる。
【００１３】
本発明のその他の態様によれば、画像の前景および背景のデータを記憶するメモリと、バッファと、前記メモリおよび前記バッファに接続されたプロセッサと、を備えた装置の前記プロセッサに、前景のデータから前景の影のデータを生成してバッファに書き込むステップと、前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込むステップと、前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込むステップと、を実行させるためのプログラムが提供される。
【００１４】
本発明によれば、上記の効果と同様の効果が得られる。
【００１５】
本発明のその他の態様によれば、システムであって、画像の前景および背景のデータを記憶するメモリと、バッファと、前記メモリおよび前記バッファに接続された第１のプロセッサと、当該画像処理システムの制御を行う第２のプロセッサと、を備え、前記第１のプロセッサが、前記メモリから前記前景のデータを読み出して前景の影のデータを生成し、該影のデータを前記バッファに書き込み、前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込み、前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込む、ように構成されてなる、前記システムが提供される。
【００１６】
本発明によれば、上記の効果と同様の効果が得られる。
【００１７】
本発明のその他の態様によれば、システムであって、画像の前景および背景のデータを記憶するメモリと、バッファと、当該画像処理システムの制御を行うプロセッサと、前記メモリから前記前景のデータを読み出して前景の影のデータを生成し、該影のデータを前記バッファに書き込む影描画手段と、前記影のデータを前記バッファから読み出して、前記背景のデータとアルファ合成し、アルファ合成されたデータを前記バッファに書き込む背景合成手段と、前記アルファ合成されたデータが書き込まれた前記バッファに、前記前景のデータを書き込む前景合成手段と、を備える、前記システムが提供される。
【００１８】
本発明によれば、上記の効果と同様の効果が得られる。
【発明の効果】
【００１９】
本発明によれば、一時バッファを利用することなく、影が合成可能な画像処理のための装置、方法、およびシステムが提供できる。
【図面の簡単な説明】
【００２０】
【図１】本発明の第１の実施形態に係る画像処理システムのハードウェア構成を示すブロック図である。
【図２】本発明の第１の実施形態に係る画像処理装置の機能構成を示すブロック図である。
【図３Ａ】前景の影のデータの生成およびフレームバッファへの書き込みの説明図である。
【図３Ｂ】フレームバッファに書き込まれた前景の影のデータを模式的に表す図である。
【図４Ａ】前景の影のデータと背景のデータとのアルファ合成の説明図である。
【図４Ｂ】フレームバッファに書き込まれた、アルファ合成された前景の影と背景とのデータを模式的に表す図である。
【図５Ａ】前景のデータのフレームバッファへの書き込みの説明図である。
【図５Ｂ】フレームバッファに書き込まれた、前景、背景、および前景の影のデータを模式的に表す図である。
【図６】本発明の第１の実施形態に係る画像処理方法のフローチャートである。
【図７】前景の影のデータと背景のデータとのアルファ合成処理のフローチャートである。
【図８】本発明の第２の実施形態に係るビデオ編集システムのハードウェア構成を示すブロック図である。
【図９】本発明の第２の実施形態に係るビデオ編集システムの機能構成を示すブロック図である。
【図１０】編集ウィンドウの一例を示す図である。
【発明を実施するための形態】
【００２１】
以下、本発明の好ましい実施形態について、図面を参照しながら説明する。
【００２２】
《第１の実施形態》
図１は、本発明の第１の実施形態に係る画像処理システム１００のブロック図である。図１を参照するに、この画像処理システム１００はパーソナルコンピュータ等のコンピュータ端末を用いて実現され、そのコンピュータ端末に接続されたモニタ３０、例えば、アナログモニタ３０Ａ、デジタルモニタ３０Ｂ、および／またはＴＶ受像器３０ＣにＣＧ画像を表示する。アナログモニタ３０Ａは液晶ディスプレイ（ＬＣＤ）またはブラウン管モニタ（ＣＲＴ）である。デジタルモニタ３０ＢはＬＣＤまたはデジタルプロジェクタである。ＴＶ受像器３０Ｃはビデオテープレコーダ（ＶＴＲ）に置き換えられてもよい。
【００２３】
画像処理システム１００は、グラフィックスボード１０、マザーボード２０、およびシステムバス６０を含む。グラフィックスボード１０は、画像処理装置１０Ａ、内部バス１３、入出力インタフェース（Ｉ／Ｏ）１４、表示用データ生成器１５、およびＡＶ端子１６を含む。マザーボード２０は、ＣＰＵ２１、メインメモリ２２、およびＩ／Ｏ２３を含む。なお、グラフィックスボード１０はマザーボード２０に統合されていてもよい。システムバス６０は、グラフィックスボード１０とマザーボード２０との間を接続するバスである。システムバス６０はＰＣＩ−Ｅｘｐｒｅｓｓ規格に準拠している。その他に、システムバス６０はＰＣＩ規格またはＡＧＰ規格に準拠していてもよい。
【００２４】
画像処理装置１０Ａはグラフィックス処理専用のプロセッサ（ＧＰＵ：Ｇｒａｐｈｉｃｓ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）１１とビデオメモリ（ＶＲＡＭ）１２とを含む。ＧＰＵ１１とＶＲＡＭ１２とは内部バス１３によって接続されている。
【００２５】
ＧＰＵ１１は、グラフィックス表示に必要な演算処理に特化した、チップ等の論理回路である。ＧＰＵ１１の行うＣＧ処理にはジオメトリ処理とレンダリング処理とがある。ジオメトリ処理では、幾何学的演算、特に座標変換により、３次元仮想空間の中に想定された各モデルを２次元画面に投影したときの配置が決定される。レンダリング処理では、ジオメトリ処理で決定された２次元画面上での各モデルの配置に基づき、２次元画面に実際に表示されるべき画像のデータが生成される。レンダリング処理には、隠面消去、シェーディング、シャドウイング、テクチャマッピング等が含まれる。
【００２６】
ＧＰＵ１１は、頂点シェーダ１１Ａ、ピクセルシェーダ１１Ｂ、およびＲＯＰ（Ｒｅｎｄｅｒｉｎｇ  Ｏｕｔｐｕｔ  Ｐｉｐｅｌｉｎｅ、または、Ｒａｓｔｅｒｉｚｉｎｇ  ＯＰｅｒａｔｉｏｎ）ユニット１１Ｃを含む。
【００２７】
頂点シェーダ１１Ａはジオメトリ処理専用の演算器であり、ジオメトリ処理に必要な幾何学的演算、特に座標変換に関する演算に利用される。頂点シェーダ１１Ａは、幾何学的演算の種類別に用意された演算器であっても、プログラムによって種々の幾何学的演算を処理可能な演算器であってもよい。
【００２８】
ピクセルシェーダ１１Ｂはレンダリング処理専用の演算器であり、レンダリング処理に必要な各ピクセルの色情報、すなわちピクセルデータの処理に関する演算に利用される。ピクセルシェーダ１１Ｂは、ＶＲＡＭ１２から画像データをピクセル単位で読み出して、その成分間の和および積をピクセル単位で計算できる。ピクセルシェーダ１１Ｂは、ピクセルデータの処理に関する演算の種類別に用意された演算器であっても、プログラムによって種々の演算をピクセル単位で処理可能な演算器であってもよい。さらに、同じプログラム可能な演算器がプログラムに応じて、頂点シェーダ１１Ａおよびピクセルシェーダ１１Ｂとして使い分けられてもよい。
【００２９】
なお、ピクセルデータは例えばＡＲＧＢ４：４：４：４で表現される。ＲＧＢは三原色の各成分を表し、Ａはアルファ値を表す。ここで、アルファ値は、同じピクセルデータの色成分を他のピクセルデータの色成分とアルファ合成するときの重みを表す。アルファ値は、正規化された場合０〜１の間の数値をとり、百分率で表した場合０〜１００％の数値をとる。アルファ値は、アルファ合成における各ピクセルデータの色成分の不透明の度合いを意味する場合もある。
【００３０】
ＲＯＰユニット１１Ｃは、レンダリング処理専用の演算器であり、レンダリング処理において、ピクセルシェーダ１１Ｂによって生成されたピクセルデータをＶＲＡＭ１２に書き込む。ＲＯＰユニット１１Ｃはさらに、そのピクセルデータの各成分と、ＶＲＡＭ１２に記憶された別のピクセルデータの各成分との和および積を計算できる。その機能を利用することで、ＲＯＰユニット１１Ｃは特に、フレームバッファ１２Ａの画像データにＶＲＡＭ１２の別領域の画像データをアルファ合成して、フレームバッファ１２Ａに書き込むことができる。
【００３１】
ＶＲＡＭ１２は、例えば、シンクロナスＤＲＡＭ（ＳＤＲＡＭ）であり、好ましくは、ＤＤＲ（Ｄｏｕｂｌｅ−Ｄａｔａ−Ｒａｔｅ）−ＳＤＲＡＭ、またはＧＤＤＲ（Ｇｒａｐｈｉｃ−ＤＤＲ）−ＳＤＲＡＭである。ＶＲＡＭ１２はフレームバッファ１２Ａを含む。フレームバッファ１２Ａは、ＧＰＵ１１によって処理された、モニタ３０に出力されるべき１フレームの画像データを記憶する。フレームバッファ１２Ａの各メモリセルが一つのピクセルの色情報、すなわち一組のピクセルデータを記憶する。ここで、ピクセルデータは例えばＡＲＧＢ４：４：４：４で表現される。ＶＲＡＭ１２は、フレームバッファ１２Ａの他に、各種テクスチャ等の画像データの記憶領域やＧＰＵ１１用の演算バッファ領域を含む。
【００３２】
Ｉ／Ｏ１４は、内部バス１３をシステムバス６０に接続するインタフェースであり、システムバス６０を通してグラフィックスボード１０とマザーボード２０との間でデータを交換する。Ｉ／Ｏ１４はＰＣＩ−Ｅｘｐｒｅｓｓ規格に準拠している。その他に、Ｉ／Ｏ１４はＰＣＩ規格またはＡＧＰ規格に準拠していてもよい。なお、Ｉ／Ｏ１４は、ＧＰＵ１１と同じチップに組み込まれていてもよい。
【００３３】
表示用データ生成器１５は、フレームバッファ１２Ａからピクセルデータを読み出して表示用データとして出力するためのチップ等のハードウェアである。表示用データ生成器１５は、フレームバッファ１２Ａのアドレス範囲をモニタ３０の画面に対応させ、そのアドレス範囲の中に読み出しアドレスを生成するごとに、その読み出しアドレスからピクセルデータを順番に読み出して一連の表示用データとして出力する。なお、表示用データ生成器１５は、ＧＰＵ１１と同じチップに組み込まれていてもよい。
【００３４】
ＡＶ端子１６は、モニタ３０に接続され、表示用データ生成器１５から出力された表示用データを、モニタ３０への出力に適した信号形式に変換してモニタ３０に出力する。ＡＶ端子１６は例えば、アナログＲＧＢコネクタ１６Ａ、ＤＶＩコネクタ１６Ｂ、およびＳ端子１６Ｃを含む。アナログＲＧＢコネクタ１６Ａは、表示用データをアナログＲＧＢ信号に変換してアナログモニタ３０Ａに出力する。ＤＶＩコネクタ１６Ｂは、表示用データをＤＶＩ信号に変換してデジタルモニタ３０Ｂに出力する。Ｓ端子１６Ｃは、表示用データを、ＮＴＳＣ、ＰＡＬ、またはＨＤＴＶのＴＶ信号に変換してＴＶ受像器３０Ｃに出力する。ここで、ＴＶ信号は、Ｓ信号、コンポジット信号、またはコンポーネント信号のいずれでもよい。ＡＶ端子１６はその他に、ＨＤＭＩコネクタやＤ端子等、他の種類のコネクタや端子を含んでもよい。なお、表示用データを適切な信号形式に変換する機能は、ＡＶ端子１６の代わりにＧＰＵ１１に実装されていてもよい。その場合、ＧＰＵ１１は表示用データを、出力先のモニタ３０の種類に応じた信号形式に変換して、ＡＶ端子１６からモニタ３０に出力する。
【００３５】
ＣＰＵ２１は、メインメモリ２２に記憶されているプログラムを実行し、そのプログラムに従って、グラフィックスボード１０に処理対象の画像データを与え、グラフィックスボード１０の各要素の動作を制御する。ＣＰＵ２１はメインメモリ２２からＶＲＡＭ１２に画像データを書き込むことができる。そのとき、ＣＰＵ２１は画像データの形式を、ＧＰＵ１１によって処理可能な形式、例えばＡＲＧＢ４：４：４：４に変換してもよい。
【００３６】
メインメモリ２２は、ＣＰＵ２１によって実行されるプログラム、および、グラフィックスボード１０による処理対象の画像データを記憶する。
【００３７】
Ｉ／Ｏ２３は、ＣＰＵ２１およびメインメモリ２２をシステムバス６０に接続するインタフェースであり、システムバス６０を通してグラフィックスボード１０とマザーボード２０との間でデータを交換する。Ｉ／Ｏ２３はＰＣＩ−Ｅｘｐｒｅｓｓ規格に準拠している。その他に、Ｉ／Ｏ２３はＰＣＩ規格またはＡＧＰ規格に準拠していてもよい。
【００３８】
図２は、画像処理装置１０Ａの機能構成を示すブロック図である。図２を参照するに、画像処理装置１０Ａは、影描画手段１０１、背景合成手段１０２、および前景合成手段１０３を含む。これら三つの手段１０１、１０２、１０３はＧＰＵ１１によって実現され、前景の影を生成して背景に描画する処理を行う。ここで、前景のデータおよび背景のデータは予め、例えばＣＰＵ２１の命令によってＶＲＡＭ１２に記憶されている。なお、ＣＰＵ２１の代わりにＧＰＵ１１の命令によってＶＲＡＭ１２に記憶されていてもよい。また、ＶＲＡＭ１２の代わりに、ＣＰＵ２１あるいはＧＰＵ１１がアクセス可能なメモリ、例えば、メインメモリ２２に前景のデータおよび背景のデータが記憶されていてもよい。
【００３９】
影描画手段１０１は、ＣＰＵ２１からの指示に従い、ＶＲＡＭ１２に記憶された前景のデータからその前景の影のデータを生成して、フレームバッファ１２Ａに書き込む。
【００４０】
図３Ａは、影描画手段１０１による前景ＦＧの影ＳＨのデータの生成およびフレームバッファ１２Ａへの書き込みの説明図である。図３Ａを参照するに、影描画手段１０１はまず、影ＳＨの色とアルファ値０％とを示すピクセルデータでフレームバッファ１２Ａの全体を埋める。影描画手段１０１は次に、ＶＲＡＭ１２に記憶された前景ＦＧのデータからその前景ＦＧの影ＳＨのアルファ値を生成してフレームバッファ１２Ａに書き込む。ここで、影描画手段１０１は頂点シェーダ１１Ａを利用して影ＳＨの形を計算してもよい。
【００４１】
図３Ｂは、影描画手段１０１によってフレームバッファ１２Ａに書き込まれた前景ＦＧの影ＳＨのデータを模式的に表す図である。図３Ｂを参照するに、斜線部は影ＳＨの範囲を示す。その範囲の内側ではアルファ値が０％より大きいので影の色が表示され、その範囲の外側ではアルファ値が０％であるので影の色が表示されない。このように、フレームバッファ１２Ａには影ＳＨのデータが記憶される。
【００４２】
なお、前景が一つで、光源が複数の場合や、前景が複数で光源が一つの場合、あるいはこれらの組み合わせの場合は、複数の異なる影が生じる。このような場合、影描画手段１０１は、それらの影のデータを一つずつ順番に生成してフレームバッファ１２Ａに書き込む。新たに生成された影が、フレームバッファ１２Ａに先に書き込まれた影と同じピクセルで重なる場合、影描画手段１０１は、新たに生成された影と先に書き込まれた影とでそのピクセルのアルファ値を比較して、いずれか大きい方をそのピクセルのアルファ値として選択する。こうして、影の重複描画が容易に防止される。
【００４３】
図２に戻り、背景合成手段１０２は、ＶＲＡＭ１２に記憶された背景のデータをフレームバッファ１２Ａの画像データにアルファ合成してフレームバッファ１２Ａに書き込む。
【００４４】
図４Ａは、背景合成手段１０２による前景の影ＳＨのデータと背景ＢＧのデータとのアルファ合成の説明図である。図４Ａを参照するに、背景合成手段１０２は、ＶＲＡＭ１２から背景ＢＧのピクセルデータを読み出して、背景ＢＧの各ピクセルデータをフレームバッファ１２Ａの対応するピクセルデータにアルファ合成し、アルファ合成されたピクセルデータでフレームバッファ１２Ａの元のピクセルデータを更新する。背景合成手段１０２はそれらの操作をフレームバッファ１２Ａの全てのピクセルデータについて繰り返すことにより、アルファ合成された前景の影ＳＨと背景ＢＧとのデータをフレームバッファ１２Ａに書き込むことができる。
【００４５】
図４Ｂは、背景合成手段１０２によってフレームバッファ１２Ａに書き込まれた、アルファ合成された前景の影ＳＨと背景ＢＧとのデータを模式的に表す図である。図４Ｂを参照するに、斜線部は影ＳＨの範囲を示し、横線部は背景ＢＧの範囲を示す。影ＳＨの内側では影ＳＨの色と背景ＢＧの色とが、それぞれのアルファ値に応じた割合で加算されて表示される。一方、影ＳＨの外側では影ＳＨのアルファ値が０％であるので、背景ＢＧの色が背景ＢＧのアルファ値の重みで表示される。
【００４６】
図２に戻り、前景合成手段１０３は、ＶＲＡＭ１２に記憶された前景のデータをフレームバッファ１２Ａに書き込む。
【００４７】
図５Ａは、前景合成手段１０３による前景ＦＧのデータのフレームバッファ１２Ａへの書き込みの説明図である。図５Ａを参照するに、前景合成手段１０３は、ＶＲＡＭ１２から前景ＦＧのピクセルデータを一組読み出すごとに、そのピクセルデータでフレームバッファ１２Ａの対応するピクセルデータを更新する。前景合成手段１０３はそれらの操作を、ＶＲＡＭ１２に記憶された前景ＦＧの全てのピクセルデータについて繰り返すことにより、前景ＦＧのデータをフレームバッファ１２Ａに書き込む。
【００４８】
図５Ｂは、前景合成手段１０３によってフレームバッファ１２Ａに書き込まれた、前景ＦＧ、背景ＢＧ、および前景ＦＧの影ＳＨのデータを模式的に表す図である。図５Ｂを参照するに、白色部は前景ＦＧの範囲を示し、斜線部は影ＳＨの範囲を示し、横線部は背景ＢＧの範囲を示す。前景ＦＧの内側では、影ＳＨの色および背景ＢＧの色にかかわらず、前景ＦＧの色が前景ＦＧのアルファ値の重みで表示される。一方、前景ＦＧの外側では、図４Ｂに示されている影ＳＨと背景ＢＧとの合成画像が表示される。
【００４９】
図６は、本発明の第１の実施形態に係る画像処理方法のフローチャートである。以下、図６を参照しながら、画像処理装置１０Ａによる画像処理方法について説明する。ＧＰＵ１１は、例えば、ＣＰＵ２１から画像処理の指示を受けたときに、以下の処理は開始される。
【００５０】
最初に、ステップＳ１０では、影描画手段１０１が、ＶＲＡＭ１２に記憶された前景のデータを読み出して、その前景の影のデータを生成して、フレームバッファ１２Ａに書き込む。
【００５１】
次いで、ステップＳ２０では、背景合成手段１０２が、ＶＲＡＭ１２に記憶された背景のデータをフレームバッファ１２Ａの画像データにアルファ合成してフレームバッファ１２Ａに書き込む。なお、そのアルファ合成処理の詳細については後述する。
【００５２】
次いで、ステップＳ３０では、前景合成手段１０３が、ＶＲＡＭ１２に記憶された前景のデータをフレームバッファ１２Ａに書き込む。
【００５３】
図７は、背景合成手段１０２による前景の影のデータと背景のデータとのアルファ合成処理のフローチャートである。以下、図７を参照しながら、そのアルファ合成処理の詳細について説明する。
【００５４】
最初に、ステップＳ２１では、背景合成手段１０２がピクセルシェーダ１１Ｂを利用して、ＶＲＡＭ１２に記憶された背景のデータから一組のピクセルデータ、すなわち、一つのピクセルの色成分ＢCとアルファ値ＢAとを読み出す。
【００５５】
次いで、ステップＳ２２では、背景合成手段１０２がピクセルシェーダ１１Ｂを利用して、読み出されたピクセルデータの色成分ＢCとアルファ値ＢAとの積ＢC×ＢAを求める。その積ＢC×ＢAはＲＯＰユニット１１Ｃに出力される。
【００５６】
次いで、ステップＳ２３では、背景合成手段１０２がＲＯＰユニット１１Ｃを利用して、フレームバッファ１２Ａに記憶された前景の影のデータから、ステップＳ２１で読み出されたピクセルデータに対応するピクセルデータ、すなわち、当該ピクセルの色成分ＳCとアルファ値ＳAとを読み出す。
【００５７】
次いで、ステップＳ２４では、背景合成手段１０２がＲＯＰユニット１１Ｃを利用して、背景の色成分ＢCと背景のアルファ値ＢAとの積ＢC×ＢA、および、前景の影の色成分ＳCと前景の影のアルファ値ＳAを用いて、アルファ合成された色成分ＲCを次式（１）から求める。
【００５８】
ＲC＝ＳC×ＳA＋（ＢC×ＢA）×（１−ＳA）・・・・・・・（１）
【００５９】
次いで、ステップＳ２５では、背景合成手段１０２がＲＯＰユニット１１Ｃを利用して、アルファ合成された色成分ＲCをフレームバッファ１２Ａに書き込む。
【００６０】
次いで、ステップＳ２６では、背景合成手段１０２がピクセルシェーダ１１Ｂを利用して、１フレームの全てのピクセルについてアルファ合成処理を終えたか否かを判定する。アルファ合成処理を終えていないピクセルが残っている場合（ステップＳ２６で“ＮＯ”の場合）、処理がステップＳ２１から繰り返され、全てのピクセルについてアルファ合成処理を終えた場合（ステップＳ２６で“ＹＥＳ”の場合）、処理が図６のフローチャートに戻って、ステップＳ３０に進む。
【００６１】
ここで、背景合成手段１０２によるアルファ合成処理には、次に説明するＧＰＵの持つアルファ合成機能を使用しない。それは以下の理由による。
【００６２】
従来のアルファ合成機能では、書き込み先のバッファに予め書き込まれた画像データにソースバッファの画像データがアルファ合成される。ＧＰＵは特に、書き込み先のバッファの色成分ＤＳＴC、および、ソースバッファの色成分ＳＲＣCとアルファ値ＳＲＣAを用いて、アルファ合成された色成分ＲＳＬCを次式（２）から求める。
【００６３】
ＲＳＬC＝ＳＲＣC×ＳＲＣA＋ＤＳＴC×（１−ＳＲＣA）・・・・・・・（２）
【００６４】
ここで、書き込み先のバッファの色成分ＤＳＴCとしては、元のピクセルデータの色成分とアルファ値との積が利用される。
【００６５】
この従来のアルファ合成機能を利用する場合、フレームバッファに背景のデータを先に書き込んでフレームバッファを書き込み先のバッファとして指定し、フレームバッファとは別の一時バッファに前景の影のデータを書き込んでその一時バッファをソースバッファとして指定する。それにより、式（２）では、書き込み先のバッファの色成分ＤＳＴCとして背景の色成分ＢCとアルファ値ＢAとの積ＢC×ＢAが用いられ、ソースバッファの色成分ＳＲＣCとアルファ値ＳＲＣAとして前景の影の色成分ＳCとアルファ値ＳAとがそれぞれ用いられる。従って、式（２）の結果ＲＳＬCとして式（１）の結果ＲCが得られる。すなわち、背景のデータに前景の影のデータが正しくアルファ合成される。
【００６６】
しかし、この合成処理では、フレームバッファ１２Ａに前景の影のデータを先に書き込んでフレームバッファ１２Ａを書き込み先のバッファとして指定し、背景のデータが書き込まれたＶＲＡＭ１２の領域をソースバッファとして指定した場合、式（２）では、書き込み先のバッファの色成分ＤＳＴCとして前景の影の色成分ＳCとアルファ値ＳAとの積ＳC×ＳAが用いられ、ソースバッファの色成分ＳＲＣCとアルファ値ＳＲＣAとして背景の色成分ＢCとアルファ値ＢAとがそれぞれ用いられる。従って、式（２）の結果ＲＳＬCは式（１）の結果ＲCとは異なる。すなわち、前景の影のデータに背景のデータが正しくはアルファ合成されない。
【００６７】
ステップＳ２０のアルファ合成処理では、背景合成手段１０２が、ＧＰＵ１１の従来のアルファ合成機能に代えて、ピクセルシェーダ１１ＢとＲＯＰユニット１１Ｃとの各演算機能を利用して、式（１）の演算を実現させる。それにより、背景合成手段１０１は、フレームバッファ１２Ａに前景の影のデータを先に書き込んでも、そのデータに背景のデータを正しくアルファ合成できる。
【００６８】
第１の実施形態に係る画像処理装置１０Ａは、フレームバッファ１２Ａに前景の影のデータを背景のデータよりも先に書き込み、上記式（１）の演算によって、フレームバッファ１２Ａの画像データに背景のデータをアルファ合成する。それにより、画像処理装置１０Ａは、フレームバッファ１２Ａとは別の一時バッファを利用することなく、前景の影のデータを背景のデータに正しくアルファ合成することができる。その結果、画像処理装置１０Ａは、ＶＲＡＭ１２等、画像処理に割り当てられるメモリの容量および帯域をさらに削減できる。
【００６９】
第１の実施形態に係る画像処理装置１０Ａは、ＧＰＵ１１を利用して、影描画手段１０１、背景合成手段１０２、および前景合成手段１０３を実現する。画像処理装置１０Ａはその他に、ＧＰＵ１１の代わりにＣＰＵ２１を利用して、それら三つの手段１０１、１０２、１０３の一つ以上を実現してもよい。また、各手段１０１、１０２、１０３は、前景のデータおよび／または背景のデータを、ＶＲＡＭ１２の代わりに、メインメモリ２２から読み出してもよい。さらに、フレームバッファ１２Ａは、ＶＲＡＭ１２の代わりにメインメモリ２２の中に組み込まれていてもよい。
【００７０】
《第２の実施形態》
図８は、本発明の第２の実施形態に係るビデオ編集システム２００のハードウェア構成を示すブロック図である。図８を参照するに、第２の実施形態に係るビデオ編集システム２００はノンリニアビデオ編集システムであり、パーソナルコンピュータ等のコンピュータ端末を用いて実現される。ビデオ編集システム２００は、画像処理システム１００、ＨＤＤ３００Ａ、ドライブ４００Ａ、入出力インタフェース５００、ユーザインタフェース６００、およびエンコーダ７００を備えている。ビデオ編集システム２００はそれらの他に、外部のＬＡＮやインターネットに接続可能なネットワークインタフェースをさらに備えてもよい。
【００７１】
画像処理システム１００は、グラフィックスボード１０、マザーボード２０、およびシステムバス６０を含む。グラフィックスボード１０は、画像処理装置１０Ａ、内部バス１３、Ｉ／Ｏ１４、表示用データ生成器１５、およびＡＶ端子１６を含む。マザーボード２０は、ＣＰＵ２１、メインメモリ２２、およびＩ／Ｏ２３を含む。画像処理システム１００は、図１に示されている要素と同様な要素を含み、図８ではそれら同様な要素に対して、図１に示されている符号と同じ符号を付し、詳細な説明については、第１の実施形態における説明を援用する。
【００７２】
なお、ＣＰＵ２１は、画像処理システム１００の各要素に加えて、ビデオ編集システム２００の各要素を制御する。また、ＡＶ端子１６は、図１に示されているコネクタ等１６Ａ、１６Ｂ、１６Ｃに加えて、例えばＩＥＥＥ１３９４インタフェースを含み、それを利用して第１カメラ５０１Ａとの間でＡＶデータの入出力を行う。ＡＶ端子１６は、第１カメラ５０１Ａの他にも、ＶＴＲ、スイッチャー、送出サーバー等、ＡＶデータを扱う様々な機器との間でＡＶデータの入出力を行ってもよい。
【００７３】
ＨＤＤ３００Ａおよびドライブ４００Ａは、ビデオ編集システム２００を実現するコンピュータ端末に内蔵され、システムバス６０に接続されている。なお、ＨＤＤ３００Ａの代わりに、図８に示されているように、入出力インタフェース５００を通してシステムバス６０に接続された外付けのＨＤＤ３００Ｂを設けてもよく、ＨＤＤ３００ＡとＨＤＤ３００Ｂの両方を設けてもよい。ＨＤＤ３００Ｂはネットワークを介して入出力インタフェース５００に接続されてもよい。同様に、ドライブ４００Ａの代わりに、またはドライブ４００Ａに加えて、外付けのドライブ４００Ｂを設けてもよい。
【００７４】
ドライブ４００Ａおよびドライブ４００Ｂは、ＤＶＤ４０１等のリムーバブルメディアに、映像データおよび／または音声データを含むＡＶデータの記録再生を行う。リムーバブルメディアとしては、光ディスク、磁気ディスク、光磁気ディスク、半導体メモリ等が挙げられる。
【００７５】
入出力インタフェース５００は、ＨＤＤ３００Ｂやドライブ４００Ｂの他に、ユーザインタフェース６００の各要素６１〜６４や、第２カメラ５０１Ｂ等の外部機器に内蔵される記憶媒体をシステムバス６０に接続する。入出力インタフェース５００は、例えばＩＥＥＥ１３９４インタフェースを利用して第２カメラ５０１Ｂとの間でＡＶデータの入出力を行う。入出力インタフェース５００は、第２カメラ５０１Ｂの他にも、ＶＴＲ、スイッチャー、送出サーバー等、ＡＶデータを扱う様々な機器との間でＡＶデータの入出力を行うことができる。
【００７６】
ユーザインタフェース６００は、入出力インタフェース５００を通してシステムバス６０に接続されている。ユーザインタフェース６００は例えば、マウス６０１、キーボード６０２、ディスプレイ６０３、およびスピーカ６０４を含む。ユーザインタフェース６００は、タッチパネル（図示せず）等、他の入力デバイスを含んでもよい。
【００７７】
エンコーダ７００は、ＡＶデータの符号化処理専用の回路であり、システムバス６０から供給されたＡＶデータを、例えば、ＭＰＥＧ（Ｍｏｖｉｎｇ  Ｐｉｃｔｕｒｅ  Ｅｘｐｅｒｔｓ  Ｇｒｏｕｐ）方式で圧縮符号化してシステムバス６０に出力する。なお、エンコーダ７００は、グラフィックスボード１０またはマザーボード２０に統合されていてもよい。さらに、エンコーダ７００はＧＰＵ１１の中に組み込まれていてもよい。また、エンコーダ７００は、圧縮を目的としない符号化処理に利用されてもよい。
【００７８】
図９は、第２の実施形態に係るビデオ編集システム２００の機能構成を示すブロック図である。図９を参照するに、ビデオ編集システム２００は、編集部２０１、符号化部２０２、および出力部２０３を含む。これら三つの機能部２０１、２０２、２０３は、ＣＰＵ２１に所定のプログラムを実行させることによって実現される。画像処理装置１０Ａは、影描画手段１０１、背景合成手段１０２、および前景合成手段１０３を含む。これら三つの手段１０１、１０２、１０３は、図２に示されている手段１０１、１０２、１０３と同様であるので、それらの詳細については、第１の実施形態に係る手段１０１、１０２、１０３についての説明を援用する。
【００７９】
編集部２０１は、ユーザの操作に従い、編集対象のＡＶデータを選択して、それに対する編集情報を作成する。編集情報は、編集対象のＡＶデータから一連のＡＶデータストリームを編集する処理の内容を規定する情報である。編集情報は、例えば、そのＡＶデータストリームの各部分を構成する素材データの一部または全体を参照する情報、すなわちクリップを含む。編集情報はさらに、クリップごとに、その参照先の素材データを含むファイルの識別情報と形式、静止画や動画等の素材データの種類、映像サイズ、アスペクト比、フレームレート、および／または、素材データの参照部分の時間軸上、すなわちタイムライン上での開始位置と終了位置との各タイムコードを含む。編集情報はその他に、クリップごとに、その参照先の素材データに対する、復号処理やエフェクト処理等の編集処理の内容を規定する情報を含む。ここで、エフェクト処理の種類には、例えば、各クリップに対応する映像の色や明るさの調整、各クリップに対応する映像全体に対する特殊効果、および、複数のクリップ間での映像の合成等が含まれる。
【００８０】
編集部２０１はさらに、編集情報に基づき、選択されたＡＶデータを読み出してそれに対して編集処理を行い、一連のＡＶデータストリームとして出力する。
【００８１】
具体的には、編集部２０１は、まず、ＤＶＤ４０１、ＨＤＤ３００Ａ、またはＨＤＤ３００Ｂ等のリソースに記憶されたファイルの一覧を、ユーザインタフェース６００に含まれるディスプレイ６０３に表示する。それらのファイルは、映像データ、音声データ、静止画、またはテキストデータ等を含む。ユーザはマウス６０１やキーボード６０２を操作して、その一覧の中から、編集対象のデータ、すなわち素材データを含むファイルを選択する。編集部２０１は、ユーザによるファイルの選択を受け付け、選択されたファイルに対応するクリップをディスプレイ６０３に表示する。
【００８２】
図１０は、編集ウィンドウＥＷの一例である。編集部２０１は、ディスプレイ６０３にこの編集ウィンドウＥＷを表示してユーザから編集操作を受け付ける。図１０を参照するに、編集ウィンドウＥＷは、例えば、素材ウィンドウＢＷ、タイムラインウィンドウＴＷ、およびプレビューウィンドウＰＷを含む。
【００８３】
編集部２０１は、素材ウィンドウＢＷに、選択された編集対象のファイルに対応するクリップＩＣ１を表示する。
【００８４】
編集部２０１は、タイムラインウィンドウＴＷに複数のトラックＴＲを表示し、各トラックＴＲ上へのクリップＣＬ１〜ＣＬ４の配置を受け付ける。図１０では、各トラックＴＲは画面の水平方向に延びている細長い帯状領域である。各トラックＴＲはタイムライン上での位置情報を示す。図１０では、各トラックＴＲの上を画面の水平方向に左から右へ進むほどタイムライン上の位置が進むように、各トラックＴＲ上の水平方向での位置がタイムライン上の位置に対応づけられている。編集部２０１は、例えばユーザによるマウス６０１の操作を通して、素材ウィンドウＢＷから各トラックＴＲ上へのクリップＣＬ１〜ＣＬ４の配置を受け付ける。
【００８５】
編集部２０１は、タイムラインウィンドウＴＷにタイムラインカーソルＴＬＣと時間軸目盛りＴＬＳとを表示してもよい。図１０では、タイムラインカーソルＴＬＣは、時間軸目盛りＴＬＳから画面の垂直方向に延びた直線であり、各トラックＴＲと垂直に交差している。タイムラインカーソルＴＬＣはタイムラインウィンドウＴＷの中を水平方向に移動可能である。タイムラインカーソルＴＬＣの端が指す時間軸目盛りＴＬＳの値は、タイムラインカーソルＴＬＣと各トラックＴＲとの交差点のタイムライン上での位置を表す。
【００８６】
編集部２０１は、各トラックＴＲ上に配置される各クリップＣＬ１〜ＣＬ４のタイムライン上での開始位置であるインポイントＩＰと終了位置であるアウトポイントＯＰとの設定、および、各トラックＴＲ上に配置された後での各クリップＣＬ１〜ＣＬ４のインポイントＩＰとアウトポイントＯＰとの変更を受け付ける。
【００８７】
編集部２０１は、各トラックＴＲ上に配置された各クリップＣＬ１〜ＣＬ４について、エフェクト処理の設定、例えば、各クリップＣＬ１〜ＣＬ４に対応する映像の色や明るさの調整、各映像に対する特殊効果の設定、異なるトラックＴＲに並列に配置された第２クリップＣＬ２と第３クリップＣＬ３等の間での映像の合成等をユーザから受け付ける。
【００８８】
編集部２０１は、プレビューウィンドウＰＷに、タイムラインカーソルＴＬＣの示すタイムライン上の位置に配置されたクリップに対応する映像を表示する。図１０では、タイムラインカーソルＴＬＣの示す、第３クリップＣＬ３内の位置に対応する映像ＩＭがプレビューウィンドウＰＷに表示される。編集部２０１はまた、タイムラインウィンドウＴＷに配置されたクリップＣＬ１〜ＣＬ４のうち、指定された範囲に対応する動画像をプレビューウィンドウＰＷに表示する。ユーザは、プレビューウィンドウＰＷに表示された映像から、編集部２０１によって受け付けられた編集処理の結果を確認できる。
【００８９】
編集部２０１は、タイムラインウィンドウＴＷ内のトラックＴＲ上でのクリップＣＬ１〜ＣＬ４の配置、および、各クリップＣＬ１〜ＣＬ４に設定された編集処理の内容に基づいて編集情報を生成する。編集部２０１はさらに、その編集情報に従い、各クリップＣＬ１〜ＣＬ４が参照するファイルから素材データを読み出して復号し、各クリップＣＬ１〜ＣＬ４に設定されたエフェクト処理を素材データに加え、その結果得られたＡＶデータをタイムライン上の順番で連結して一連のＡＶデータストリームとして出力する。そのとき、編集部２０１は、必要に応じて、復号処理および／またはエフェクト処理に画像処理装置１０Ａを利用する。
【００９０】
符号化部２０２は、図８に示されているエンコーダ７００のデバイスドライバである。符号化部２０２はその他に、ＣＰＵ２１によって実行されるＡＶデータの符号化処理モジュールであってもよい。符号化部２０２は、編集部２０１から出力されたＡＶデータストリームを符号化する。その符号化方式は編集部２０１によって設定される。
【００９１】
出力部２０３は、符号化されたＡＶデータストリームを所定のファイル形式または伝送形式に整形する。そのファイル形式または伝送形式は編集部２０１によって設定される。具体的には、出力部２０３は、必要に応じて、図８に示されている表示用データ生成器１５やＡＶ端子１６を利用し、符号化されたＡＶデータストリームに、その復号に必要な情報やパラメータ、その他規定された情報を加え、それらのデータ全体を規定された形式に整える。
【００９２】
出力部２０３はさらに、システムバス６０を通して任意の記録媒体、例えば、ＨＤＤ３００Ａ、ＨＤＤ３００Ｂ、または、ドライブ４００Ａ若しくはドライブ４００Ｂに装着されたＤＶＤ４０１等に、整形されたＡＶデータストリームを書き込む。出力部２０３はその他に、整形されたＡＶデータストリームを、ネットワークインタフェースを通して接続されたデータベースや情報端末に送信することもできる。出力部２０３は、整形されたＡＶデータストリームを、ＡＶ端子１６や入出力インタフェース５００から外部機器に出力することもできる。
【００９３】
編集部２０１は、画像処理装置１０Ａの影描画手段１０１、背景合成手段１０２、および前景合成手段１０３をエフェクト処理に利用する。それにより、編集部２０１は、エフェクト処理の一つとして、例えば図１０に示されている第２クリップＣＬ２に対応する画像の影、または、球体や箱等、所定の仮想的な物体を生成し、さらにその物体の影を生成して、第３クリップＣＬ３に対応する背景に描画する処理を提供できる。編集部２０１は、前景のデータと背景のデータとをＶＲＡＭ１２に書き込んだ上で画像処理装置１０Ａに影の生成を指示する。その結果、画像処理装置１０Ａから出力された、前景、その影、および背景の合成画像のデータは、編集部２０１によって符号化部２０２に出力され、または、表示用データ生成器１５、ＡＶ端子１６、入出力インタフェース５００によってモニタ３０若しくはディスプレイ６０３に表示される。
【００９４】
第２の実施形態に係るビデオ編集システム２００は、画像処理装置１０Ａが、第１の実施形態に係るものと同様に、フレームバッファ１２Ａに前景の影のデータを背景のデータよりも先に書き込み、式（１）の演算によって、フレームバッファ１２Ａの画像データに背景のデータをアルファ合成する。それにより、画像処理装置１０Ａは、フレームバッファ１２Ａとは別の一時バッファを利用することなく、前景の影のデータを背景のデータに正しくアルファ合成することができる。その結果、第２の実施形態に係るビデオ編集システム２００は、ＶＲＡＭ１２等、画像処理に割り当てられるメモリの容量および帯域をさらに削減できる。
【００９５】
なお、第２の実施形態に係るビデオ編集システム２００は、ＧＰＵ１１を利用して、影描画手段１０１、背景合成手段１０２、および前景合成手段１０３を実現する。ビデオ編集システム２００はその他に、ＧＰＵ１１の代わりにＣＰＵ２１を利用して、それら三つの手段１０１、１０２、１０３の一つ以上を実現してもよい。また、各手段１０１、１０２、１０３は、前景のデータおよび／または背景のデータを、ＶＲＡＭ１２の代わりに、メインメモリ２２から読み出してもよい。さらに、フレームバッファ１２Ａは、ＶＲＡＭ１２の代わりにメインメモリ２２の中に組み込まれていてもよい。
【図１】
2011529209.tif 000003
【図２】
2011529209.tif 000004
【図３Ａ】
2011529209.tif 000005
【図３Ｂ】
2011529209.tif 000006
【図４Ａ】
2011529209.tif 000007
【図４Ｂ】
2011529209.tif 000008
【図５Ａ】
2011529209.tif 000009
【図５Ｂ】
2011529209.tif 000010
【図６】
2011529209.tif 000011
【図７】
2011529209.tif 000012
【図８】
2011529209.tif 000013
【図９】
2011529209.tif 000014
【図１０】
2011529209.tif 000015
【手続補正書】
【提出日】平成23年3月25日(2011.3.25)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
画像の前景および背景のピクセルデータを記憶するメモリと、
バッファと、
前記メモリおよび前記バッファに接続されたプロセッサと、を備え、
前記プロセッサが、
前記メモリから前記前景のピクセルデータを読み出して前景の影のピクセルデータを生成し、該影のピクセルデータを前記バッファに書き込み、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込み、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込む、
ように構成されており、
前記プロセッサはさらに、
複数の影のピクセルデータを生成することが可能であり、
複数の影のピクセルデータが生成される場合には、前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択するように構成されている、装置。
【請求項２】
前記アルファ合成は、各ピクセルについて、下記式（１）の演算処理を行い、その結果である合成値を前記アルファ合成されたデータとして前記バッファに書き込む、請求項１に記載の装置、
合成値  ＝  （ＳC）×（ＳA）＋（ＢC）×（ＢA）×（１−ＳA）  ・・（１）
ただし、ＳCは、前記影の色成分、ＳAは、前記影のアルファ値、ＢCは、前記背景の色成分、ＢAは、前記背景のアルファ値である。
【請求項３】
前記プロセッサは、グラフィックス処理専用であり、
前記プロセッサが、前記影のピクセルデータと前記背景のピクセルデータとをアルファ合成する際に、前記式（１）中の（ＢC）×（ＢA）の乗算処理をピクセルシェーダによって行う、
請求項２に記載の装置。
【請求項４】
前記バッファは、出力用に処理された画像データを記憶する、請求項１に記載の装置。
【請求項５】
画像の前景および背景のピクセルデータを記憶するメモリと、
前記バッファと、
前記メモリから前記前景のピクセルデータを読み出して前景の影のピクセルデータを生成し、該影のピクセルデータを前記バッファに書き込む影描画手段と、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込む背景合成手段と、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のデータを書き込む前景合成手段と、
を備えた装置であって、
前記影描画手段は、複数の影のピクセルデータを生成することが可能であり、
複数の影のピクセルデータが生成される場合には、前記影描画手段は、前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択する、前記装置。
【請求項６】
前記背景合成手段は、各ピクセルについて、下記式（２）の演算処理を行い、その結果である合成値を前記アルファ合成されたデータとして前記バッファに書き込む、請求項５に記載の装置、
合成値  ＝  （ＳC）×（ＳA）＋（ＢC）×（ＢA）×（１−ＳA）  ・・（２）
ただし、ＳCは、前記影の色成分、ＳAは、前記影のアルファ値、ＢCは、前記背景の色成分、ＢAは、前記背景のアルファ値である。
【請求項７】
前記背景合成手段はグラフィックス処理専用のプロセッサを備え、
前記背景合成手段が、前記影のピクセルデータと前記背景のピクセルデータとをアルファ合成する際に、前記式（２）中の（ＢC）×（ＢA）の乗算処理を前記プロセッサのピクセルシェーダによって行う、
請求項６に記載の装置。
【請求項８】
前記バッファは、出力用に処理された画像データを記憶する、請求項５に記載の装置。
【請求項９】
前景のピクセルデータから前景の影のピクセルデータを生成してバッファに書き込むステップと、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込むステップと、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込むステップと、
前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択するステップと、
を含む、方法。
【請求項１０】
画像の前景および背景のデータを記憶するメモリと、
バッファと、
前記メモリおよび前記バッファに接続されたプロセッサと、
を備えた装置の前記プロセッサに、
前景のピクセルデータから前景の影のピクセルデータを生成してバッファに書き込むステップと、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込むステップと、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込むステップと、
前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択するステップと、
を実行させるためのプログラム。
【請求項１１】
システムであって、
画像の前景および背景のピクセルデータを記憶するメモリと、
バッファと、
前記メモリおよび前記バッファに接続された第１のプロセッサと、
当該システムの制御を行う第２のプロセッサと、
を備え、
前記第１のプロセッサが、
前記メモリから前記前景のピクセルデータを読み出して前景の影のピクセルデータを生成し、該影のピクセルデータを前記バッファに書き込み、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込み、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込む、
ように構成されおり、
前記第１のプロセッサはさらに、
複数の影のピクセルデータを生成することが可能であり、
複数の影のピクセルデータが生成される場合には、前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択するように構成されている、前記システム。
【請求項１２】
システムであって、
画像の前景および背景のピクセルデータを記憶するメモリと、
バッファと、
当該システムの制御を行うプロセッサと、
前記メモリから前記前景のピクセルデータを読み出して前景の影のデータを生成し、該影のピクセルデータを前記バッファに書き込む影描画手段と、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込む背景合成手段と、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込む前景合成手段と、
を備え、
前記影描画手段は、複数の影のピクセルデータを生成することが可能であり、
複数の影のピクセルデータが生成される場合には、前記影描画手段は、前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択する、前記システム。
【請求項１３】
映像データを編集する編集部と、
請求項１または５に記載の装置と、
を備えるビデオ編集システム。
【手続補正書】
【提出日】平成23年7月5日(2011.7.5)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
画像の前景および背景のピクセルデータを記憶するメモリと、
バッファと、
前記メモリおよび前記バッファに接続されたプロセッサと、を備え、
前記プロセッサが、
前記メモリから前記前景のピクセルデータを読み出して前景の影のピクセルデータを生成し、該影のピクセルデータを前記バッファに書き込み、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込み、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込む、
ように構成されており、
前記プロセッサはさらに、
複数の影のピクセルデータを生成することが可能であり、
複数の影のピクセルデータが生成される場合には、前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択するように構成されている、装置。
【請求項２】
前記アルファ合成は、各ピクセルについて、下記式（１）の演算処理を行い、その結果である合成値を前記アルファ合成されたデータとして前記バッファに書き込む、請求項１に記載の装置、
合成値  ＝  （ＳC）×（ＳA）＋（ＢC）×（ＢA）×（１−ＳA）  ・・（１）
ただし、ＳCは、前記影の色成分、ＳAは、前記影のアルファ値、ＢCは、前記背景の色成分、ＢAは、前記背景のアルファ値である。
【請求項３】
前記プロセッサは、グラフィックス処理専用であり、
前記プロセッサが、前記影のピクセルデータと前記背景のピクセルデータとをアルファ合成する際に、前記式（１）中の（ＢC）×（ＢA）の乗算処理をピクセルシェーダによって行う、
請求項２に記載の装置。
【請求項４】
前記バッファは、出力用に処理された画像データを記憶する、請求項１に記載の装置。
【請求項５】
画像の前景および背景のピクセルデータを記憶するメモリと、
バッファと、
前記メモリから前記前景のピクセルデータを読み出して前景の影のピクセルデータを生成し、該影のピクセルデータを前記バッファに書き込む影描画手段と、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込む背景合成手段と、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のデータを書き込む前景合成手段と、
を備えた装置であって、
前記影描画手段は、複数の影のピクセルデータを生成することが可能であり、
複数の影のピクセルデータが生成される場合には、前記影描画手段は、前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択する、前記装置。
【請求項６】
前記背景合成手段は、各ピクセルについて、下記式（２）の演算処理を行い、その結果である合成値を前記アルファ合成されたデータとして前記バッファに書き込む、請求項５に記載の装置、
合成値  ＝  （ＳC）×（ＳA）＋（ＢC）×（ＢA）×（１−ＳA）  ・・（２）
ただし、ＳCは、前記影の色成分、ＳAは、前記影のアルファ値、ＢCは、前記背景の色成分、ＢAは、前記背景のアルファ値である。
【請求項７】
前記背景合成手段はグラフィックス処理専用のプロセッサを備え、
前記背景合成手段が、前記影のピクセルデータと前記背景のピクセルデータとをアルファ合成する際に、前記式（２）中の（ＢC）×（ＢA）の乗算処理を前記プロセッサのピクセルシェーダによって行う、
請求項６に記載の装置。
【請求項８】
前記バッファは、出力用に処理された画像データを記憶する、請求項５に記載の装置。
【請求項９】
前景のピクセルデータから前景の影のピクセルデータを生成してバッファに書き込むステップと、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込むステップと、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込むステップと、
前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択するステップと、
を含む、方法。
【請求項１０】
画像の前景および背景のデータを記憶するメモリと、
バッファと、
前記メモリおよび前記バッファに接続されたプロセッサと、
を備えた装置の前記プロセッサに、
前景のピクセルデータから前景の影のピクセルデータを生成してバッファに書き込むステップと、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込むステップと、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込むステップと、
前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択するステップと、
を実行させるためのプログラム。
【請求項１１】
システムであって、
画像の前景および背景のピクセルデータを記憶するメモリと、
バッファと、
前記メモリおよび前記バッファに接続された第１のプロセッサと、
当該システムの制御を行う第２のプロセッサと、
を備え、
前記第１のプロセッサが、
前記メモリから前記前景のピクセルデータを読み出して前景の影のピクセルデータを生成し、該影のピクセルデータを前記バッファに書き込み、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込み、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込む、
ように構成されおり、
前記第１のプロセッサはさらに、
複数の影のピクセルデータを生成することが可能であり、
複数の影のピクセルデータが生成される場合には、前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択するように構成されている、前記システム。
【請求項１２】
システムであって、
画像の前景および背景のピクセルデータを記憶するメモリと、
バッファと、
当該システムの制御を行うプロセッサと、
前記メモリから前記前景のピクセルデータを読み出して前景の影のデータを生成し、該影のピクセルデータを前記バッファに書き込む影描画手段と、
前記影のピクセルデータを前記バッファから読み出して、前記背景のピクセルデータとアルファ合成し、前記バッファ内の前記背景のピクセルデータをアルファ合成されたピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータを前記バッファに書き込む背景合成手段と、
前記バッファ内の対応するピクセルデータを前記前景のピクセルデータに置き換えることによって、前記アルファ合成されたピクセルデータが書き込まれた前記バッファに、前記前景のピクセルデータを書き込む前景合成手段と、
を備え、
前記影描画手段は、複数の影のピクセルデータを生成することが可能であり、
複数の影のピクセルデータが生成される場合には、前記影描画手段は、前記複数の影が互いに重なるピクセルにおける各影のアルファ値を比較し、該比較されたアルファ値の中でより大きなアルファ値を該ピクセルのアルファ値として選択する、前記システム。
【請求項１３】
映像データを編集する編集部と、
請求項１または５に記載の装置と、
を備えるビデオ編集システム。
【国際調査報告】
2011529209.tif 000016
2011529209.tif 000017
2011529209.tif 000018
2011529209.tif 000019
2011529209.tif 000020