(57)【特許請求の範囲】
【請求項１】
加法色モデル信号を、色度成分及び輝度成分を有する、ＹＵＶ色空間信号からなる均等色空間信号に変換する工程と、
前記色度成分に色度専用変換を適用することにより、前記色度成分を変換する工程と、
前記色度成分とは別々に、前記輝度成分に輝度専用変換を適用することにより、前記輝度成分を変換する工程と、
変換された前記色度成分及び前記輝度成分を量子化する工程と、
量子化された前記色度成分及び前記輝度成分を符号化する工程と、を備え、
前記色度成分を変換する工程は、前記ＹＵＶ色空間信号内の前記色度成分を表す主三角形表示を、複数の二次三角形を含むメッシュに細分化する工程を含む、コンピュータにより実行される方法。
【請求項２】
前記加法色モデル信号が赤／緑／青（ＲＧＢ）カラーモデル信号からなる、請求項１に記載のコンピュータにより実行される方法。
【請求項３】
前記主三角形表示の頂点のそれぞれが、前記加法色モデルの三原色のうちの１つを含む、請求項１に記載のコンピュータにより実行される方法。
【請求項４】
前記加法色モデルの前記三原色のうち２つの間に中間頂点を定義する工程をさらに備える、請求項３に記載のコンピュータにより実行される方法。
【請求項５】
前記主三角形表示の頂点の各々、及び、定義された前記中間頂点を、前記ＹＵＶ色空間内の前記色度成分を表す四角形表示にマッピングする工程をさらに備える、請求項４に記載のコンピュータにより実行される方法。
【請求項６】
前記四角形表示が単位正方形からなる、請求項５に記載のコンピュータにより実行される方法。
【請求項７】
前記複数の二次三角形それぞれの各頂点が、平均値座標を用いて、前記ＹＵＶ色空間内の前記色度成分を表す前記四角形表示にマッピングされる、請求項５に記載のコンピュータにより実行される方法。
【請求項８】
前記ＹＵＶ色空間内の前記色度成分それぞれの値が、前記色度成分それぞれの前記値に対応する重心座標を用いて、前記色度成分の前記四角形表示にマッピングされる、請求項７に記載のコンピュータにより実行される方法。
【請求項９】
前記主三角形表示の頂点それぞれ、及び定義された前記中間頂点を、前記ＹＵＶ色空間内の前記色度成分を表す四辺多角形表示にマッピングする工程をさらに備える、請求項４に記載のコンピュータにより実行される方法。
【請求項１０】
前記主三角形表示の頂点それぞれ、前記複数の二次三角形の前記頂点のそれぞれ、及び定義された前記中間頂点の、前記四辺多角形表示へのマッピングに影響を及ぼす複数の制約のうち少なくとも１つを適用する工程をさらに備える、請求項９に記載のコンピュータにより実行される方法。
【請求項１１】
前記複数の制約のうち少なくとも１つの特性を調整して、前記色度専用変換を改変する工程をさらに備える、請求項１０に記載のコンピュータにより実行される方法。
【請求項１２】
前記輝度専用変換が光電気伝達関数からなる、請求項１に記載のコンピュータにより実行される方法。
【請求項１３】
コンピュータにより実行可能なプログラムコードが体現された非一時的コンピュータ可読媒体であって、プロセッサが、
明るさ成分及び色成分を有する第１色空間モデルにより表される画像信号を伝搬する入力ビットストリームの量子化色成分及び量子化明るさ成分を復号化し、
前記量子化色成分及び量子化明るさ成分を非量子化し、
前記非量子化色成分に第１逆変換を適用し、
前記非量子化色成分に第１逆変換を適用することとは別々に、前記非量子化明るさ成分に第２逆変換を適用し、
第１色空間モデルにより表される前記画像信号を、加法色空間モデルである第２色空間モデルにより表される画像信号に変換するように、前記コンピュータにより実行可能なプログラムコードが構成され、
前記第１逆変換は、直接変換の逆変換及び最小二乗変換の逆変換のうちの１つを含み、前記色成分及び明るさ成分が予め変換されて前記画像信号を圧縮するためのビデオコーデックが使用可能な符号語の数が増大されている、非一時的コンピュータ可読媒体。
【請求項１４】
前記第１色空間モデルがＹＵＶ色空間モデルからなり、前記第２色空間モデルが赤／緑／青（ＲＧＢ）色空間モデルからなり、前記ビデオコーデックが高効率映像符号化（Ｈｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ：ＨＥＶＣ）コーデックからなる、請求項１３に記載の非一時的コンピュータ可読媒体。
【請求項１５】
前記画像信号が、標準ダイナミックレンジ（ＳＤＲ）画像信号、ハイダイナミックレンジ（ＨＤＲ）画像信号、標準色域（ＳＣＧ）画像信号、広色域（ＷＣＧ）画像信号のうちの１つからなる、請求項１３に記載の非一時的コンピュータ可読媒体。
【請求項１６】
広色域の知覚色変換のシステムであって、
赤／緑／青（ＲＧＢ）色空間モデルにより表される画像信号を、明るさ成分及び色成分を有するＹＵＶ色空間モデルにより表される画像信号に変換するコンバータと、
前記色成分に第１変換を適用する第１変換器と、
前記色成分に第１変換を適用することとは別々に、前記明るさ成分に第２変換を適用する光電気伝達関数エンコーダと、
変換された前記色成分及び前記明るさ成分を量子化する量子化器と、
量子化された前記色成分及び前記明るさ成分を符号化してビットストリームを出力するエンコーダと、
を備え、
前記色成分への第１変換は、ＹＵＶ色空間内の前記色成分を表す主三角形表示を、複数の二次三角形を含むメッシュに細分化することを含む、システム。
【請求項１７】
前記第１変換が可逆性である、請求項１６に記載のシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
（関連出願の相互参照）
本出願は、２０１５年５月１日出願の米国仮特許出願第６２／１５６，１２４号の権利を主張し、参照によりその内容全体をここに援用する。
【０００２】
本開示は概して映像符号化に関する。
【背景技術】
【０００３】
ハイダイナミックレンジ（ＨＤＲ）及び広色域（ＷＣＧ）を有する映像やその他のビジュアルコンテンツは、従来の標準的ダイナミックレンジ（ＳＤＲ）及び標準色域（ＳＣＧ）のコンテンツと比べてより高度な視聴体験を提供できるため、その配信に関心が高まっている。ＳＤＲコンテンツは一般に明るさがたとえば０．１〜１００ｎｉｔｓであり、人間の実生活における視覚的明るさよりかなり範囲が低い。しかし、ＨＤＲやＷＣＧで撮影または再録された映像は情報量が多いため、ビットレートとともにファイルサイズを大きくする必要がある。
【発明の概要】
【０００４】
様々な実施形態が目的としているのは、画像コンテンツをほぼ知覚的に均等な輝度／クロミナンス（Ｙ／Ｕ’Ｖ’）色空間に変換する定輝度符号化パイプラインを用いることにより、固定ビットレートでのコンテンツの質（たとえば画質）を高めることである。さらに、この符号化パイプラインに用いられる（輝度変換とはまったく別の色度専用変換を用いて行う）様々な色度変換を開示している。
【０００５】
本開示の一実施形態によれば、コンピュータにより実行される方法は、加法色モデル信号を色度成分及び輝度成分を有する均等色空間信号に変換する工程を含む。本コンピュータにより実行される方法はさらに、前記色度成分に色度専用変換を適用し、かつ、前記輝度成分に輝度専用変換を適用して、前記色度成分及び前記輝度成分を変換する工程を含む。さらにまた、本コンピュータにより実行される方法は、変換された前記色度成分及び前記輝度成分を量子化する工程と、量子化された前記色度成分及び前記輝度成分を符号化（エンコード）する工程とを含む。
【０００６】
本開示の別の実施形態によれば、非一時的コンピュータ可読媒体が、前記媒体上にコンピュータにより実行可能なプログラムコードを体現されており、前記コンピュータにより実行可能なプログラムコードは、プロセッサに、明るさ成分及び色成分を有する第１色空間モデルにより表される画像信号を伝搬する入力ビットストリームの量子化色成分及び量子化明るさ成分を復号化させ、前記量子化色成分及び量子化明るさ成分を非量子化させ、前記非量子化色成分に第１逆変換を適用させ、前記非量子化明るさ成分に第２逆変換を適用させ、第１色空間モデルにより表される前記画像信号を、加法色空間モデルである第２色空間モデルにより表される画像信号に変換させるよう構成される。
【０００７】
本開示のさらに別の実施形態によれば、システムが、第１色空間モデルにより表される画像信号を、明るさ成分及び色成分を有する第２色空間モデルにより表される画像信号に変換するコンバータを備える。本システムはさらに、前記色成分に第１変換を適用する第１変換器と、前記明るさ成分に第２変換を適用する光電気伝達関数エンコーダと、変換された前記色成分及び前記明るさ成分を量子化する量子化器と、量子化された前記色成分及び前記明るさ成分を符号化してビットストリームを出力するエンコーダとを備える。
【図面の簡単な説明】
【０００８】
以下の図面を参照し、本開示を１つまたは複数の様々な実施形態に従って詳述する。これら図面は例示のみを目的としており、典型的な実施形態または実施例を図示するに過ぎない。
【０００９】
【図１】色度専用変換を用いた定輝度符号化パイプラインを実現するために様々な実施形態に従って行うことができる工程例を示すフローチャートである。
【００１０】
【図２Ａ】図１の色度専用変換を用いた定輝度符号化パイプラインを様々な実施形態に従って実施することができる、映像処理パイプラインの概略図である。
【００１１】
【図２Ｂ】図２Ａの映像処理パイプラインに利用することができる、図１の色度専用変換を用いた定輝度符号化パイプラインの概略図である。
【００１２】
【図３】従来の非定輝度パイプラインの概略図である。
【００１３】
【図４】図１の色度専用変換を用いた定輝度符号化パイプラインに利用することができる色度変換の概念図である。
【００１４】
【図５】図１の色度専用変換を用いた定輝度符号化パイプラインに利用することができる色度変換に適用するために色空間をメッシュに細分化する一例を示す図である。
【００１５】
【図６】メッシュの各頂点に変換を適用するときの、規則的な格子を形成する一例を示す図である。
【００１６】
【図７Ａ】色度値変換に用いられる直接変換のストレッチング工程の一例を示す図である。
【００１７】
【図７Ｂ】多角形の境界点に接続された頂点の一例を示す図である。
【００１８】
【図７Ｃ】単位正方形にマッピングされた色空間三角形の等間隔点の一例を示す図である。
【００１９】
【図８Ａ】図１の色度専用変換を用いた定輝度符号化パイプラインに適用することができる最小二乗色度変換の非最適化例を示す図である。
【００２０】
【図８Ｂ】図１の色度専用変換を用いた定輝度符号化パイプラインに適用することができる最小二乗色度変換の最適化例を示す図である。
【００２１】
【図９】本開示に記載される実施形態の様々な機能の実施に用いることができるコンピュータ構成要素の一例である。
【００２２】
これらの図面は本開示のすべてを表すものではなく、本開示はここに示した形態そのものに限定されない。
【発明を実施するための形態】
【００２３】
従来の非定輝度方式の映像符号化パイプラインとは対照的に、本明細書で開示する様々な実施形態は、色度専用変換を用いた定輝度方式の符号化パイプラインを提供するものである。上述したように、ＨＤＲやＷＣＧで撮影または再録された映像はＳＤＲより情報量がより多いため、その配信にはビットレートとともにファイルサイズを大きくする必要がある。配信チャンネルによってはビットレートが高すぎるために、圧縮効率を高める必要が生じる場合がある。
【００２４】
図１は、色度専用変換を用いた定輝度符号化パイプラインを用いることで、より効率的な（ＳＣＧだけでなくＷＣＧの）カラー映像符号化を実現するために、様々な実施形態に従って行われる処理例を示す。このような符号化パイプラインの概略図である図２Ｂを併用し、図１を説明する。符号化パイプライン２０１は、前処理部２０９及び符号化部（エンコーダ２１０により実行）を備えるものと考えることができる。
【００２５】
工程１００において、加法色モデル信号を、色度成分またはチャンネル及び輝度成分またはチャンネルを有する均等色空間信号に変換する（図２Ｂのコンバータ２０２により実行）。加法色モデルの例としては、赤、緑、青の光を多様に加法混色して複数のその他の色を作成する赤、緑、青（ＲＧＢ）のカラーモデルがある。ＲＧＢカラーモデルは、モニタやテレビなどの電子装置における画像の検出、表現、表示に用いることができる。ビデオカメラ、イメージスキャナ、ビデオゲームコンソール、デジタルカメラなどの入力装置が、テレビ、モニタ、プロジェクタ、その他の表示装置などの出力装置にＲＧＢ信号を入力することができる。均等色空間は、カラー画像パイプラインで用いられるＣＩＥ色空間またはＹＵＶ色空間と呼ぶことができる。これにより、（画像または映像をＲＧＢで“直接”表現するのとは異なり）カラー画像や映像を人間の知覚を考慮して符号化することができ、クロミナンス成分により伝送エラーや圧縮アーティファクトを隠すことができる。変換の結果、輝度成分またはチャンネルＹ（明るさを表す）及び色度成分またはチャンネルＵ及びＶ（色を表す）を含む信号となる。
【００２６】
留意すべきは、上で述べたように、ＲＧＢ色空間からＹＵＶ色空間への変換を、ＲＧＢからＹＵＶ成分またはチャンネルに“直接”行うことができる点である。しかし、他の実施形態のように、中間的な変換（図示せず）を行ってＲＧＢ成分またはチャンネルをＸＹＺ色空間に変換し、次いでＸＹＺ成分を上述のＹＵＶ成分に変換してもよい。
【００２７】
工程１０２で、色度専用変換を色度成分に適用し、また、輝度専用変換を輝度成分に適用することにより、色度成分及び輝度成分を変換する（色度変換及び輝度変換をそれぞれ図２Ｂの変換器２０６、２０４により実行）。図２Ｂに示すように、Ｕチャンネル及びＶチャンネルは、様々な実施形態に従って、色度変換により知覚的均等性を維持するようにＵ’チャンネル及びＶ’チャンネルに変換される（これは、従来の符号化パイプラインで用いられる従来の変換では不可能であった）。ここで留意すべきは、輝度成分またはチャンネルが、たとえば光電気伝達関数（ＯＥＴＦ）により（図２ＢのＯＥＴＦ符号化器２０４により実行）別個に処理されて、ガンマ圧縮またはガンマ符号化されたルマ成分Ｙ’が得られる点である。輝度成分及び色度成分を別々に処理することは、圧縮の高効率化にも役立つ。
【００２８】
工程１０４にて、ルマＹ’及び色度成分Ｕ’、Ｖ’を量子化（図２Ｂの量子化器２０８により実行）し、ＤＹ’、ＤＵ’、ＤＶ’成分またはチャンネルを含む信号を得る。量子化とは、ある範囲の値、この場合ではルマ成分及び色度成分の値を、単一の量子値に圧縮することにより、画像表現に用いられる色の数を減らす非可逆圧縮技術であると言える。
【００２９】
工程１０６にて、色度成分ＤＵ’、ＤＶ’を符号化する（図２Ｂのエンコーダ２１０により実行）。量子化されたルマ成分ＤＹ’についても同様である。エンコーダ２１０は、Ｈ．２６４としても知られるＡｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ（ＡＶＣ）の後続規格であるＨｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ（ＨＥＶＣ）コーデックなどのビデオコーデックをプロセッサに適用させるよう構成されたコンピュータコードを有するメモリ部を備えることができる。なお、ＨＥＶＣはもともとＳＤＲ及びＳＣＧコンテンツ用に設計されたもので、従来の使用例ではＨＤＲまたはＷＣＧビデオシーケンスの符号化には圧縮効率において最適とは言えない。しかし、本開示中で開示される上述の色度変換は、色度成分（Ｕ，Ｖ）を、圧縮用にもっと効率のよい別の値（Ｕ’，Ｖ’）に変換する（たとえばＨＥＶＣなどのコーデックレベルに合わせてコードワードをより有効に活用する）。さらに、上でも述べた通り、変換された色度成分は、ＣＩＥまたはＹＵＶ色空間の知覚順応を維持するために、可能な限り知覚的に均等化される。
【００３０】
図２Ａは、様々な実施形態を実行することができるエンコーダ／デコーダアーキテクチャシステム２００の一例を示す。システム２００は、エンコーダ２１０、デコーダ２１８、及び、デコーダ２１８及びエンコーダ２１０の双方が通信可能に接続されるネットワークまたは配信チャンネル２１６を有することができる。エンコーダ２１０は、メモリ２１２及びプロセッサ２１４を含み、デコーダ２１８もまたメモリ２２０及びプロセッサ２２２を含むことができる。デコーダ２１８としてはセットトップボックスやチューナなどがあり得る。動作時には、エンコーダ２１０のプロセッサ２１４が、ビデオシーケンスを符号化するためのコンピュータ指令など、メモリ２１２に記憶されたコンピュータ指令を実行することができる。すなわち、ＨＤＲまたはＷＣＧフォーマットの映像コンテンツがエンコーダ２１０に供給され、記憶及び／または送信するための準備として圧縮される。たとえば、エンコーダ２１０のプロセッサ２１４は、上述のＨＥＶＣコーデックを用いてビデオシーケンスを符号化する処理を実行し、符号化されたビデオシーケンスをネットワーク２１６を介してデコーダ２１８に送信することができる。デコーダ２１８はセットトップボックス、チューナといったなんらかの受信装置として体現され、符号化されたＨＤＲまたはＷＣＧビデオシーケンスを受信し、復号化及び表示装置２２４への表示が可能となる。すなわち、デコーダ２１８のプロセッサ２２２は、受信したＨＥＶＣ形式のビデオシーケンスを復号化するコンピュータ指令などの、メモリ２２０に記憶されたコンピュータ指令を実行することができる。
【００３１】
すでに示唆したように、システム２００は前処理部２０９及び後処理部２２３も備え、様々な実施形態に従って、１つまたは複数のアルゴリズムが実行される（コンバータ２０２、ＯＥＴＦ符号化器２０４、色度変換器２０６、量子化器２０８に対して）。これらの構成要素は別個のハードウェア及び／またはソフトウェア要素または同一のハードウェア／ソフトウェア要素の機能面であってもよい。後処理部２２３の対応する構成要素は図示していないが、符号化されたビデオシーケンスに非量子化及び逆色変換を行う同様のハードウェア及び／またはソフトウェアを含むことは理解されよう。すなわち、入力されたビットストリームをデコーダ２１８により復号化することができる。入力ビットストリームを復号化することにより、デコーダ２１８は入力ビットストリームを一連の変換係数、空間予測モード、及び動き補償ベクトルに変換することができる。符号化パイプラインの符号化及び復号化の態様は、必ずしも改変コーデック（たとえばＨＥＶＣ）を含まなくてもよいことに留意すべきである。
【００３２】
また、すでに示唆したように、従来の符号化パイプラインは非定輝度方式の符号化に依っている。図３は、従来技術と本明細書で開示される様々な実施形態との違いを理解できるよう、従来の符号化パイプライン３０１の一例を示している。従来の符号化パイプライン３０１は、入力された通りのＲＧＢ色空間で画像を得る。入力ビデオシーケンスはフレーム毎に個別に処理する必要があり、標準パイプラインの各工程が各フレームに順次適用される。入力ＲＧＢ画像はまず、範囲［０，１］内の倍精度に変換される。こうして、ガンマエンコーダ３０２によって非線形伝達関数ＴＦが適用されることによりＲ、Ｇ、Ｂチャンネルの線形輝度が他のコードレベルに再分配され、Ｒ’、Ｇ’、Ｂ’で示す非線形ＲＧＢ成分が得られる。輝度変化の小さなものは、高明度域より低明度域の方が知覚されやすいことが分かる。さらに、従来の符号化パイプライン３００における後続の処理のうち少なくともいくつかは非可逆的であり、記憶用のビット数が限られる。ＴＦでは低明度値用にビットスペースをより多く使うことで低明度域の貴重な情報を維持する。画像の顕著な符号化エラーがＲＧＢに導入された場合、視聴者にとっては高明度域より低明度域の方がこのようなエラーを知覚しやすい。また、このようなエラーがＲ’Ｇ’Ｂ’領域に存在する場合は、画像をＲＧＢに変換し直すと、すべての明度において等しく顕著となる。したがって、低明度域の値は拡張され、高明度域の値は一斉に圧縮される。
【００３３】
コンバータ３０４はＢＴ．２０２０仕様に従いＲ’Ｇ’Ｂ’成分をＹ’Ｃ’ｂＣ’ｒ色空間に変換する。Ｙ’Ｃ’ｂＣ’ｒ色空間は、ルマ成分Ｙ’と、クロマ成分である青の色差成分Ｃ’ｂ及び赤の色差成分Ｃ’ｒとを表す。量子化器３０６は、ＣＹ’、ＤＣ’ｒ、ＤＣ’ｂで示すＹ’成分、Ｃ’ｒ成分、Ｃ’ｂ成分を量子化するよう働く。エンコーダ３０８は（たとえばＡＶＣ／Ｈ．２６４コーデックを適用し）、量子化された成分を符号化し、上述のように記憶及び／または送信できる符号化ビットストリームを出力する。
【００３４】
符号化パイプライン２０１とは対照的に、ルマ成分Ｙ’は、ガンマ補正されたＲＧＢ三原色に基づき非線形符号化された光強度を表す。ルマに導入された符号化エラーは色度に漏れ、明暗だけでなくディスプレイに表れる色においても認識できる偏差につながる。このために、符号化パイプライン３００のような従来の符号化パイプラインは非定輝度という特徴を有する。この非定輝度方式の符号化パイプラインはＳＤＲ信号（たとえばＢＴ．７０９色空間内の１００ｎｉｔｓまでのＲＧＢ）の符号化用に設計されているが、ＨＤＲ及びＷＣＧ信号（たとえばＢＴ．２０２０色空間内の１００００ｎｉｔｓまでのＲＧＢ）の符号化目的に用いることもできる。しかしそれでも、この従来の符号化パイプラインは、非定輝度で符号化し続けるため、不向きであることに変わりない。ＨＤＲコンテキストの場合、エラーの符号化はより顕著なものになる（たとえば色域の符号化アーティファクトは、ＳＤＲコンテンツよりＨＤＲコンテンツの方がはっきり現れる）。
【００３５】
図２Ｂに戻ると、従来の符号化パイプライン３０１とは対照的に、輝度成分Ｙは、定輝度符号化パイプライン２０１では（色度成分Ｕ，Ｖとは別個に）明確に表されている。したがって、ルマ成分Ｙ’の量子化及びこれに導入される符号化エラーは輝度Ｙにしか影響を与えない。特に、圧縮エラーが色度に漏れることがない。
【００３６】
特に、ＲＧＢ色空間から（従来の符号化パイプライン３０１のように）Ｙ’Ｃ’ｂＣ’ｒ色空間に画像を変換する代わりに、ＲＧＢ信号をたとえばＸＹＺ色空間に変換し（式１）、次いで、ＹＵＶ色空間に変換する（式２）。ＲＧＢ色空間に復元するには（システム２００の後処理部２２３における復号化中に）、式１の逆行列を用いることができる（式３）：
［式１］
0006738645.tif 000002
［式２］
0006738645.tif 000003
［式３］
0006738645.tif 000004
【００３７】
符号化パイプライン２０１は定輝度方式であるのに加え、色度圧縮を改良するとともに全体の圧縮効率の改善も可能とするために、色度専用変換が設けられている。色度専用変換（図１の工程１０２において図２Ｂの変換器２０６が適用）は、圧縮用符号語の分布領域を拡大することにより、固定ビットレートでのクロマチャンネル内の符号化エラーを低減する。これから分かる通り、色度専用変換は色度成分Ｕ、Ｖにしか影響を与えない。色度変換はこれら２つの成分をとり、チャンネル（Ｕ’，Ｖ’）＝Ｔ（Ｕ，Ｖ）を返す。Ｔは以下で説明する変換である。
【００３８】
ここで留意すべきは、本色度変換は、画像を低ビット深度に量子化する際に適用してもよい点である。加えて、ＨＥＶＣなどのコーデックを用いて画像を圧縮する前に固定ビットレートで画質を高めるために本変換を用いてもよい。従来の変換では、同一ビットレートでビデオシーケンスの質を高める同様の効果は得られない。
【００３９】
色度変換の全体目標を図４に示す。同図は（赤、緑、青の三原色を角とし、あらゆる色の組み合わせをこれらの角間に有する三角形として表す）色を概念的四角形に変換（無駄になる符号語数を低減）した場合の概念図である。
【００４０】
説明上、色空間内のすべての色の色度座標はＹＵＶ色空間（三角形４０２）のＣＩＥ図形内にある。三角形４０２の角は色空間（たとえばＢＴ．２０２０）の三原色ＲＧＢ座標を示す。この色空間内で定義される色度値はすべて、この三角形４０２内に存在する。色空間の三原色ＲＧＢは色域、すなわちその色空間で可能なすべての色の範囲を決定する。図形の境界線に近ければ近いほど、色の飽和度は高い。したがって、色空間の三角形が大きければ大きいほど、三原色の飽和度は高く、また色域も大きい。なお、ＢＴ．２０２０の三原色で撮影、記憶された映像は最大色域を有し、（ＳＣＧ色空間の一例であるたとえばＢＴ．７０９に対し）ＷＣＧと呼ばれる。
【００４１】
ダイナミックレンジとは、光強度の最大値と最小値との比率と定義される。ダイナミックレンジが高いほど、光強度の最大値と最小値との差は大きくなる。ＳＤＲ映像は一般に輝度範囲が０．１〜１００ｎｉｔｓ（ｃｄ／ｍ２）である。しかし実生活では、光源が２００ｃｄ／ｍ２よりはるかに高く、また夜の空は０．１ｃｄ／ｍ２よりかなり低い。ＨＤＲコンテンツでは、最小値が０．００５ｃｄ／ｍ２と低くも、１０，０００ｃｄ／ｍ２と高くもなり得る。
【００４２】
符号化パイプライン２０１への入力としてＲＧＢ画像が用いられるため、ＲＧＢ画像のピクセルの色度成分はすべて、頂点Ｒ、Ｇ、Ｂで定義される三角形４０２のＵ?Ｖ色度空間内に位置する。しかし、Ｕ−Ｖ色度空間内で符号化を行うと、三角形４０２の外側に何対もの無効な色度値が表されてしまう。このような無駄になる符号語を減らすため、本開示の様々な実施形態では、すべての（Ｕ，Ｖ）対を長方形（たとえば単位正方形４０４）にマッピングする。上述の、圧縮用Ｕ−Ｖ空間の知覚的均等性を有効利用するため、三角形４０２から単位正方形４０４へのマッピングにおいては大きな局所的変形が起こらないようにする。（ｕ，ｖ）対はピクセルの色度値と定義するこができ、ｕ∈Ｕ、ｖ∈Ｖである。ある画像の各ピクセルの（ｕ，ｖ）値はこの三角形内またはその線上に存在することになる。
【００４３】
すでに示唆した通り、本明細書に開示の色度変換の１つの目的は、符号語の範囲を拡大させたコーデック（たとえばＨＥＶＣ）を提供することである。量子化工程では、画像を範囲［０，１］の倍精度フォーマットとし、最小入力値（０）を０、最大入力値（１）を４０９５にマッピングし、範囲［０，４０９５］の１２ビット整数値に量子化する。このように、Ｕ成分及びＶ成分のそれぞれが範囲［０，１］を有効利用することができる。各画像ピクセルの色度値（ｕ，ｖ）は、点（０，０）、（０，１）、（１，０）、（１，１）で定義される単位正方形４０４内のどの値でもとり得る。しかし、ＹＵＶ色空間のデカルト座標系での収まり方に基づくと、この限りではない。三角形４０２は単位正方形の比較的“小さな”部分しか占めていないことに留意すべきである。
【００４４】
したがって、所望の変換Ｔは、（たとえばＢＴ．２０２０の）三原色により定義される三角形４０２内にあり得る値のそれぞれを、単位正方形４０４の面積を最大限利用して――言い換えると、三角形を四角形に変形させて――単位正方形４０４の中のいずれかの点にマッピングする。各ピクセルの変換後の色度値（ｕ’，ｖ’）と、この変換の一定の制約について以下に説明する。
【００４５】
上述のように、図２の後処理工程２２３において、逆変換Ｔ−１を実行する必要がある。つまり、変換値（ｕ’，ｖ’）はそれぞれ、Ｔ−１を適用するとき元の値（ｕ，ｖ）にマッピングし直さなければならない。言い換えると、下の式４で示される属性が成り立つ必要がある。すなわち、Ｔは可逆性であり、本色度変換は符号化パイプライン２０１において無損失の処理ということである。
［式４．１］
0006738645.tif 000005
【００４６】
ここで理解すべきは、変換Ｔは大きな全体的歪みをもたらし、三角形の形を劇的に変えてしまう点である。色度変換が符号化パイプライン２０１に組み込まれると、符号化及び復号化は非可逆性でありエラーが発生するため、Ｕ’チャンネル及びＶ’チャンネルは変更される。すなわち、（ｕｒｅｃ，ｖｒｅｃ）＝（ｕ，ｖ）＋εであり、εは任意の方向の小さなエラーベクトルである。ＹＵＶ色空間はほぼ知覚的に均等であるため、（ｕｒｅｃ，ｖｒｅｃ）と（ｕ，ｖ）との間の知覚的差異は方向ではなくεの長さにのみ依存するはずである。これは、Ｔにより発生する局所的歪みが最小限となることを意味し、すなわち、ある値（ｕ，ｖ）に極めて近接する色度値はすべて、変換後の値（ｕ’，ｖ’）までの距離が新たに増大したり減少したりするが、それらの距離はすべて、ほぼ等しくなるはずである。
【００４７】
一実施形態においては、以下で述べるように、色度変換は直接変換に基づいていてもよい。別の実施形態においては、同じく以下で述べるように、色度変換は最小二乗変換に基づいていてもよい。その他の実施形態に従って、さらに他の変換を用いてもよいことは言うまでもない。
【００４８】
図５は、様々な実施形態に従い色度値を変換する準備として図４の三角形４０２を細分化する方法の例を示す。三角形４０２は、３つの頂点で描かれる小さな三角形からなるメッシュに細分化することができる。三角形を細分化するには、三角形の３つの角と角の中間点に印をつけこれらを接続し、４つの小さな三角形を作る。小さな三角形それぞれに対して２回目の細分化を行うことで、合計１６の三角形ができる。この細分化工程を繰り返すと、新しく細分化するごとに三角形の数は４倍ずつ増えるので、ｎ回の細分化で４のｎ乗の三角形ができる（ｎ∈Ｎ、ｎ≧１）。三角形５０２及び５０４はそれぞれ、３回と４回細分化された主三角形の例を示す。三角形５０２は３回の細分化後、６４個の小さな三角形を有し、三角形５０４は細分化を４回行った結果２５６個の小さな三角形を有する。この結果、三角形のリストが得られる。各三角形はメッシュ内の３つの頂点を記憶することで保存することができる。頂点ａ、ｂ、ｃで定められる三角形をＴｒ（ａ，ｂ，ｃ）で示す。
【００４９】
ｎが選ばれると、４のｎ乗の小さな三角形それぞれが単位正方形４０４内にマッピングされる。この結果、歪みが生じる。三角形Ｔｒ（ａ，ｂ，ｃ）のそれぞれについて、マッピングされた対応する三角形Ｔｒ（ａ’，ｂ’，ｃ’）が記憶される。マッピング後の三角形は互いに重複してはならない。
【００５０】
１つの色度値（ｕ，ｖ）をマッピングするとき、（ｕ，ｖ）の各値はＹＵＶ色空間の主三角形４０２内に存在する（主とは細分化されていない大きな三角形を指す）ので、三角形４０２（５０２）を細分化後にできた小さな三角形のうちの１つの中にも存在する。この三角形Ｔｒ（ａ，ｂ，ｃ）を見つければ、点（ｕ，ｖ）の位置ｐは、その重心座標λ１、λ２、λ３を用いて、Ｔｒ（ａ，ｂ，ｃ）について次のように表すことができる。
［式４．２］
0006738645.tif 000006
【００５１】
したがって、マッピング後の三角形Ｔｒ（ａ’，ｂ’，ｃ’）における正しい位置ｐ’は、次の式を用いて見つけることができる。
［式４．３］
0006738645.tif 000007
【００５２】
この処理を各点について個別に行う。重心座標は次の式を用いて算出する。
［式４．４］
0006738645.tif 000008
【００５３】
ここで、各点の下付き文字はその点のｕ成分またはｖ成分を表す。
［式４．５］
0006738645.tif 000009
【００５４】
重心座標を用いて行うマッピングには、可逆性であるという特性がある。すなわち、位置ｐ’にある点（ｕ’，ｖ’）を逆マッピングすると、その点は元の位置ｐに戻される。上述のように、画像信号の適正な復号化には変換が可逆性である方がよい。
【００５５】
色度点（ｕ，ｖ）を含む三角形の検出は“妥当な”時間内に行うべきで、たとえばライブ放送中には、タイムラグが生じないほどの短時間で符号化を行うべきである。一実施形態に従って、各三角形の３つの重心座標を算出し、式４．２が成立するかどうか判定することができる。もし成立するなら、色度点は三角形内にあることになる。前述の細分化により得られた三角形のそれぞれについて個別に判定するのは効率が悪い。したがって、様々な実施形態では、次式により定数時間検査に依っている。
【００５６】
ある色度値（ｕ，ｖ）を変換する線形変換を考える。
［式４．６］
0006738645.tif 000010
【００５７】
上式において、Ｒ、Ｇ、Ｂは三原色（三角形４０２の３つの角）を表す。この変換をメッシュの各頂点に適用すると、主三角形は、単位正方形４０４の左下半分を占める。図６から分かるように、小さい三角形は２つの短辺が水平か垂直のどちらかになるように配列される（本例ではｎ＝３）。２つの隣接する三角形を合体させて正方形６００を作ると、規則的な格子が形成される。
【００５８】
点（ｕ，ｖ）に対応する三角形を見つけるには、メッシュそのものではなく（ｕ，ｖ）に式４．３を適用する。ある特定の細分化の値ｎに対して、変換後の点（ｕ，ｖ）ｔｒａｎｓが存在する規則的な格子の正方形はごく小さい。すべての三角形に指標が付され各正方形は２つの三角形からなるため、残る処理はどちらの三角形が点（ｕ，ｖ）を含有するかを見出だすことである。これは、２つの三角形について（ｕ，ｖ）の重心座標を算出し、式４．２が成立するかどうかを判定することで可能である。
【００５９】
後処理２２３において（図２Ａ）、マッピングされた色度値（ｕ’，ｖ’）それぞれの位置を元の（たとえば図５のような）メッシュ内に位置づけする必要がある。これには、一実施形態に従い、ルックアップテーブルを用いる。すなわち、変換後のメッシュ内にあり得る値のそれぞれにつき、その値が元のメッシュのどの位置にマッピングされるかをルックアップテーブルが特定する。次いで、変換Ｔの属性に従いつつ、個々の三角形を単位正方形にマッピングする。
【００６０】
上述のように、色度値の変換に用いるのは直接変換であってもよい。直接変換を用いる際は、メッシュは頂点の集合であると考えることができ、各頂点は複写され単位正方形内の新たな位置にマッピングされる。この種の変換では、主三角形の境界線上から４つの頂点を選択し、これらの頂点を正方形の４つの角に“引っ張る”ことによる“ストレッチング”が行われる。三角形の３つの角、すなわち引っ張る頂点のうちの３つとして三原色ＲＧＢを選ぶのは理にかなっている。４つ目の頂点も、三角形の線上から選ぶとよい。本開示の一態様に従って、点／頂点ＲとＢをつなぐ線上にある中間頂点Ｐを選んでもよい。ｎ≧１のため、Ｐが存在することは知られている。
【００６１】
図７Ａはこの概念的ストレッチングの一例で、４つの頂点Ｒ、Ｇ、Ｂ、Ｐを主三角形７０２上に示し、どのようにマッピングされるかを示している。単位正方形７０４の、Ｒは右上、Ｇは左上、Ｂは左下、Ｐは右下の角に引っ張ることができる。さらに、主三角形の境界線に沿う残りの頂点にも印を付している（黒点で強調）。これらｍの頂点すべてが合わさって、凸多角形Ｐの境界線を形成している。これらｍの頂点は、４つの頂点Ｒ、Ｇ、Ｂ、Ｐのいずれか２つの間の直線上にあるため、単位正方形７０４の対応する境界線上に、互いに等間隔にマッピングされる。たとえば、ｖ∈ＧＢで略されるＧ−Ｂ間の頂点の１つは、単位正方形の左の縁上にマッピングされ、Ｂ−Ｐ間の３つの頂点は単位正方形の下の縁上にマッピングされる。単位正方形の四縁上にあるこれらｍの頂点もまた、凸多角形Ｐ’を形成する。そして残りの頂点は、平均値座標（Ｍｅａｎ  Ｖａｌｕｅ  Ｃｏｏｒｄｉｎａｔｅｓ：ＭＶＣ）を用いてＰからＰ’へマッピングされる。
【００６２】
ＭＶＣは、重心座標の一般化座標と考えることができる。（上で示唆した）重心座標は三角形に用いられるが、三角形は実質、３つの頂点を有する多角形である。しかし、ＭＶＣは任意の数の頂点を有する多角形に同じ目的で用いることができる。したがって、多角形Ｐ内の頂点ｖは、Ｐに関するＭＶＣのλｉを用いて次式により、多角形Ｐ’内の新たな位置にマッピングされる。
［式４．７］
0006738645.tif 000011
【００６３】
ただし、ｐｉ及びｆ（ｐｉ）は、多角形Ｐ及びＰ’の境界線上の頂点を表す。図７Ｂは、半時計回りに順に並ぶ多角形の境界線上の点と結ばれた頂点ｖを（ＭＶＣの角度定義とともに）示す。頂点ｖのＭＶＣのλｉは次式から求められる。
［式４．８］
0006738645.tif 000012
【００６４】
ただし
［式４．９］
0006738645.tif 000013
【００６５】
かつ、αｉは、角度∠ｐｉ,ｖ,ｐｉ＋１を示す。
【００６６】
式４．７で表されるマッピングにもまた（変換Ｔについて）可逆性であるという特性があり、このため、頂点をＴ’からＴに再マッピングすると、元の位置に戻る。再び図７Ａを参照すると、主三角形５０２の内部頂点をＭＶＣを用いてマッピングして得られる三角形が示されている。当業者であれば理解する通り、右下の頂点Ｐに近い小さな三角形の方が、頂点Ｇ付近のものよりはるかに大きく歪んでいる。人間の眼は青や赤の色調より緑の色調のわずかな変化に敏感であるため、頂点Ｇ付近はなるべく歪みが小さいのが望ましい。このために、４つ目の頂点Ｐを主三角形５０２のこの縁に沿うよう選択している。また、この縁は三角形の一番長い辺であるので、別の縁から頂点を選ぶと、全体として歪みが大きくなる可能性がある。
【００６７】
まとめると、色度変換処理に直接変換を実行するには、小さな三角形を形成する頂点及び縁からなるメッシュを色空間の主三角形（たとえば三角形７０２）内に作成する。４つの頂点を選び、単位正方形、たとえば単位正方形７０４の角に向けて引っ張って、主三角形をストレッチングする。内部頂点のマッピングにはＭＶＣを用いることができる。小さい三角形Ｔｒ（ａ，ｂ，ｃ）に関する色度値（ｕ，ｖ）の重心座標を用いて、（ｕ，ｖ）を対応する三角形Ｔｒ（ａ’，ｂ’，ｃ’）にマッピングする。図７Ｃは、本明細書に記載の直接変換を用いて単位正方形にマッピングされた等間隔点の一例を示す。図７Ｃは、（主三角形７０２の）等間隔点がどのように単位正方形７０４にマッピングされるかと、起こりえる歪みのパターンを示している。頂点を“最適に”分布させることで、可能な限り知覚的に均等なクロミナンスが得られる。
【００６８】
別の実施形態に従い、色度値の変換に利用する色度変換は最小二乗変換に基づいていてもよい。図８Ａは色空間三角形８０２内の色度値を単位正方形８０４に変換する一例（非最適化例）を示す。
【００６９】
直接変換を用いる際の手順と同様に、主三角形８０２上から同様の４つの頂点Ｒ、Ｇ、Ｂ、Ｐを選び、メッシュを作成する。本変換には、メッシュの変形に適用される３組の制約がある。主三角形８０２を強制的になるべく大きくストレッチングする制約もあれば、小さい三角形の形を維持しようとする制約もある。すべての制約を完全に満たすことができるわけではないため、最小二乗変換はトレードオフを伴うと理解すべきである。
【００７０】
これらの制約群は、エネルギーの総計が最小限であるべきエネルギーＥ１、Ｅ２、Ｅ３を単位として表すことができる。エネルギーＥiが小さければ小さいほど、ｉ番目の制約がよく満たされる。図８の例では、細分化の回数値ｎ＝３であり、後述するパラメータα＝β＝γ＝１を用いている。
【００７１】
第１の制約は、４つの頂点が直接変換で用いたのと同じ単位正方形の４つの角にマッピングされるよう特定するアンカー制約と呼ぶことができる。数式で表すと次のようになる：
［式４．１０］
0006738645.tif 000014
【００７２】
第１のエネルギー項Ｅ１は次式で表される：
［式４．１１］
0006738645.tif 000015
【００７３】
第２の制約は、直接変換でも行われたように、主三角形８０２の境界線上の頂点（黒点で強調）が、単位正方形８０４の境界線上のどこかに配されるよう特定する、境界線制約と呼ぶことができる。たとえば、点Ｂ−Ｇ間の頂点ｖは単位正方形８０４の左縁上にマッピングされ、ｕ座標ｖｕがゼロとなるようにする。すべての境界線上の頂点について、これらの制約は次式により与えられる：
［式４．１２］
0006738645.tif 000016
【００７４】
エネルギーＥ２は次式から得られる：
［式４．１３］
0006738645.tif 000017
【００７５】
最初の２組の制約（アンカー及び境界線）は、主三角形を直接変換と同様に引っ張ろうとする。しかし、主三角形内部の頂点については、第３組目の制約（均等性制約と呼ぶ）は、より小さい三角形（主三角形の細分化後）の“形”をなるべく維持し変形しないようにすることを目標とする。各三角形Ｔｒ（ａ，ｂ，ｃ）は外心ｃｒｍを有し、これは頂点ａ、ｂ、ｃからの距離が等しい特有の点である。したがってこれら３つの頂点はｃｒｍを中心とする円上にある。マッピング後の三角形Ｔｒ（ａ’，ｂ’，ｃ’）の頂点からの新たな外心への距離は同等に最小化されなければならない。したがってこれらの制約により、類似の三角形ができる。三角形群Ｔ内のすべての三角形について、総エネルギーＥ３は、マッピング後の三角形の外心への各頂点からの距離の二乗の合計に等しくなる。
［式４．１４］
0006738645.tif 000018
【００７６】
外心ｃｒｍは次式より、重心座標λ１、λ２、λ３を用いて表すことができる：
［式４．１５］
0006738645.tif 000019
【００７７】
ただし
［式４．１６］
0006738645.tif 000020
【００７８】
0006738645.tif 000021
は２つの頂点間のユークリッド距離を表す。これら３つの座標の総計が必ず１となるように、それぞれを３つの値の総計で除算して正規化する。均等性制約はメッシュ内の三角形形状を必ずしも維持するものではなく、ただその形状を“硬く”（変形し難く）保つ。同じ外心を有する三角形は無限に存在するため、均等性制約を満たしつつも三角形が大幅に変形する可能性はある。しかし、他の２つの制約との組み合わせにより、三角形は形が崩れることなく元の形状に近いままとなる。
【００７９】
メッシュは、単位正方形の全面積を利用するように変形するのが理想的である（コーデックの符号語範囲を大きくするため）。これを達成するために境界線及びアンカー制約を定義しているが、同時に、均等性制約を定義することによって、局所的変形を最小限にとどめている。このために、式４．１１、式４．１３、式４．１４で導かれる３つのエネルギー項Ｅ１、Ｅ２、Ｅ３が先に述べたトレードオフの関係となる。最適な結果を得るためには、総エネルギーＥの合計を次式により最小化する：
［式４．１７］
0006738645.tif 000022
【００８０】
追加のパラメータα、β、γは、式４を解く際にエネルギー項に付すべき重みを特定するために導入される。最初、これら３つのパラメータはすべて１に等しい。たとえばもしＥ２の境界線制約を強めるのが望ましく、境界線上頂点を単位正方形の縁近傍に配したい場合は、β値を増加することができる。３組の制約はすべて線形であることが分かる。このため、非線形であった場合より式４．１７を簡単に解くことができる。この特性のため、式４．１７は行列表記法で再公式化することができ、最終的に解くべき問題は、連立一次方程式により与えられる：
［式４．１８］
0006738645.tif 000023
【００８１】
これは最小二乗法として解くことができる。ここで、ｘはマッピング後頂点の値を含む解ベクトルである。ｋ個の頂点に対してｘは各頂点のｕ座標及びｖ座標を含まなければならないため、ｘ∈Ｒ２ｋである。この解により、頂点分布は最大限知覚的に均等となる。マッピング後頂点ｖ’はｘ内で次のように並べられる：
［式４．１９］
0006738645.tif 000024
【００８２】
個々の制約の合計がｌのときＡ∈Ｒl×２ｋかつｂ∈Ｒｌであり、ｘ内の各値について個々の制約が成り立つ。各頂点は複数の制約下にあるため、ｌ≧２ｋであり、方程式系は過剰方程式となる。
【００８３】
本明細書で検討される最小二乗変換により得られる形状を単位正方形８０４内に示す。歪んだ三角形が単位正方形の大部分を占めているが、全域ではない。直接変換を最小二乗変換と比べると、両者間のトレードオフが理解できる。直接変換を用いることで単位正方形の全体を活用できるが、メッシュ内の三角形は歪みが激しい。最小二乗変換では、単位正方形の全面積を利用できるわけではないが、マッピングされた三角形における歪みは少ない。
【００８４】
式４．１７について述べた通り、結果として得られる変換は、ユーザが最適化したい制約に従ってパラメータα、β、γを変更することにより改変することができる。これらの値を改変しない場合、最小二乗変換は最適化されているとは言えない。たとえばユーザが、単位正方形に占める面積を大きくしたければ、均等性制約を切り捨てればよい。そのためには、α値及びβ値を増大すればよい。いわゆる最適化最小二乗変換と呼ばれるこの変換例を単位正方形８０６として示している。パラメータはα＝β＝３、γ＝１とした。非最適化最小二乗変換（単位正方形８０４として示す）を、最適化したもの（単位正方形８０６として示す）と比べると、メッシュがどのように形状変化するかが分かる。
【００８５】
Ｐ３またはＢＴ．２０２０のようなＷＣＧの映像または画像コンテンツは広色域を有するため、記憶及び送信に必要なビット数が大きい。様々な実施形態によるシステム及び方法により、所定の固定ビットレートでの画質を高めたり、または、所定の画質を選択しビットレートを下げることにより、ある所望の画質を選ぶことができるようになる。２つの色度チャンネルＵ、Ｖの変換を伴ういわゆる色度変換を用いることによりこのような最適化を実現することができる。符号化にＹＵＶ色空間を用いる場合は、コーデックに実際の受容可能数より少ない符号語が与えられる。Ｕ及びＶの符号語分布領域が拡大されれば、再構築後の信号では符号化エラーが目立たなくなると予想され、本明細書に開示の色度変換によって、映像及び画像コンテンツの画質は改善する。しかし、符号語分布領域を拡大する（すなわちコーデックにより多くの情報を与えることと同義）にも関らず、圧縮効率は高まり、ビットレートを上げる影響は打ち消され（たとえば同一ビットレートで１／２ｄＢ以上分の色の改善が可能）、コンテンツの色の維持や全体の色質改善につながる。
【００８６】
図９は本明細書で開示するシステム及び方法の様々な特徴、たとえば映像符号化パイプライン２００の前処理部２０９及び後処理部２２３の１つまたは複数の態様の上述の特徴や機能などを実施するのに用いることができるコンピュータの構成要素の一例を示す。
【００８７】
本明細書で用いる場合の「構成要素」という用語は、本願の１つまたは複数の実施形態に従って実行することができる機能のうちのあるユニットを指す場合がある。本明細書で用いる場合の構成要素は、ハードウェア、ソフトウェア、またはそれらの組み合わせのいずれかを利用して実施してもよい。たとえば、プロセッサ、コントローラ、ＡＳＩＣｓ、ＰＬＡｓ、ＰＡＬｓ、ＣＰＬＤｓ、ＦＰＧＡｓ、論理要素、ソフトウェアルーチン、その他の機構を実施して構成要素を構成してもよい。実施にあたって、本明細書に記載の様々な構成要素は、それぞれ個々の構成要素として実施してもよいし、または、記載した機能や特徴が、部分的または全体的に１つまたは複数の構成要素間で共有されていてもよい。言い換えると、本明細書を読めば当業者には明らかな通り、本明細書に記載の様々な特徴及び機能は、いかなる用途に実施してもよいし、様々な組み合わせ及び順序で、１つまたは複数の個別のまたは共有の構成要素にて実施することができる。機能の様々な特徴や要素が別々に記載されていたり、または別個の構成要素として主張されているとしても、これらの特徴や機能は１つまたは複数の一般的なソフトウェア要素とハードウェア要素間で共有でき、このような記載があるからといって、これらの特徴や機能を実施するのに別個のハードウェアまたはソフトウェア構成要素を用いることが必要とは限らず、また、その使用を示唆するものではないことは、当業者には理解されるであろう。
【００８８】
構成要素、または本願の構成要素が全体的または部分的にソフトウェアを用いて実施される場合、一実施形態においては、これらのソフトウェア要素は、これらに関して記載された機能を実行可能なコンピュータまたはプロセッサ要素とともに動作するよう実施することができる。このようなコンピュータ構成要素の一例を図９に示す。このコンピュータ構成要素例９００について様々な実施形態を説明する。この説明を読めば、他のコンピュータ構成要素またはアーキテクチャを用いて本願を実施する方法が当業者には明らかとなるはずである。
【００８９】
図９を参照すると、コンピュータ構成要素９００は、たとえば、自動調整型ディスプレイ内に見られる計算または処理能力、デスクトップ、ラップトップ、ノートブック、タブレット型コンピュータ；（タブレット、ＰＤＡ、スマートフォン、携帯電話、パームトップなどの）携帯型コンピュータ装置；ディスプレイ付きのワークステーションまたはその他の装置；サーバ；ある用途または環境に望ましいまたはふさわしいその他の種類の特定用途または汎用コンピュータ、を表すと考えることができる。コンピュータ構成要素９００はまた、ある装置内に組み込まれた、またはその他の方法で使用可能な、計算能力を表しているとも言える。コンピュータ構成要素はたとえば、その他の電子機器、たとえばナビゲーションシステム、携帯コンピュータ装置、なんらかの処理能力形式を備えるその他の電子装置などに設けられる場合がある。
【００９０】
コンピュータ構成要素９００はたとえば、プロセッサ９０４など、１つまたは複数のプロセッサ、コントローラ、制御構成要素、その他の処理装置を含んでもよい。プロセッサ９０４は、たとえばマイクロプロセッサ、コントローラ、またはその他の処理ロジックなどの汎用または特定用途の処理エンジンを用いて実施してもよい。図示例では、プロセッサ９０４はバス９０２に接続されているが、コンピュータ構成要素９００とその他の構成要素とのやりとりや外部との通信を容易にするためにいかなる通信媒体を用いてもよい。
【００９１】
コンピュータ構成要素９００はまた、１つまたは複数のメモリ構成要素を備えていてもよく、ここでは単にメインメモリ９０８と称する。たとえば、情報やプロセッサ９０４が実行する指令の記憶には、ランダムアクセスメモリ（ＲＡＭ）またはその他のダイナミックメモリを用いるのがよい。メインメモリ９０８はまた、一時的変数や、その他、プロセッサ９０４の指令実行中の中間情報の記憶に用いてもよい。コンピュータ構成要素９００は同様に、プロセッサ９０４用の静的情報及び指令の記憶用に、バス９０２に接続されたリードオンリメモリ（ＲＯＭ）またはその他の静的記憶装置を備えてもよい。
【００９２】
コンピュータ構成要素９００はまた、１つまたは複数の様々な形式の情報記憶機構９１０を備えてもよく、かかる機構はたとえばメディアドライブ９１２及び記憶部インターフェース９２０を備えてもよい。メディアドライブ９１２は、固定または取り外し可能な記憶媒体９１４に対応するドライブまたはその他の機構を含むことができる。たとえば、ハードディスクドライブ、半導体ドライブ、磁気テープドライブ、光ディスクドライブ、コンパクトディスク（ＣＤ）またはデジタルビデオディスク（ＤＶＤ）ドライブ（ＲまたはＲＷ）、その他の取り外し可能または固定のメディアドライブを備えることができる。したがって記憶媒体９１４は、メディアドライブ９１２により読み取り、書き込みまたはアクセス可能な、たとえばハードディスク、集積回路アセンブリ、磁気テープ、カートリッジ、光ディスク、ＣＤまたはＤＶＤ、その他の固定または取り外し可能な媒体を含むことができる。これらの例が示すように、記憶媒体９１４には、コンピュータソフトウェアまたはデータを記憶した、コンピュータで使用可能な記憶媒体も含むことができる。
【００９３】
代替的実施形態では、情報記憶機構９１０が、コンピュータ構成要素９００に、コンピュータプログラムあるいはその他の指令またはデータを読み込むためのその他同様の手段を備えていてもよい。このような手段はたとえば、固定または取り外し可能な記憶部９２２及びインターフェース９２０を備えることができる。このような記憶部９２２及びインターフェース９２０の例としては、プログラムカートリッジとカートリッジインターフェース、リムーバブルメモリ（たとえばフラッシュメモリまたはその他の取り外し可能なメモリ構成要素）とメモリスロット、ＰＣＭＣＩＡスロットとカード、及び、記憶部９２２からコンピュータ構成要素９００にソフトウェア及びデータを転送可能なその他の固定または取り外し可能な記憶部９２２及びインターフェース９２０が挙げられる。
【００９４】
コンピュータ構成要素９００はまた、通信インターフェース９２４を備えることができる。通信インターフェース９２４は、ソフトウェア及びデータをコンピュータ構成要素９００と外部装置との間で転送するのに用いることができる。通信インターフェース９２４の例としては、モデムあるいはソフトモデム、ネットワークインターフェース（イーサネット（登録商標）、ネットワークインターフェースカード、ＷｉＭｅｄｉａ、ＩＥＥＥ  ８０２．ＸＸまたはその他のインターフェース）、通信ポート（たとえばＵＳＢポート、ＩＲポート、ＲＳ２３２ポート、Ｂｌｕｅｔｏｏｔｈ（登録商標）インターフェース、その他のポート）、またはその他の通信インターフェースが挙げられる。通信インターフェース９２４を介して転送されるソフトウェアまたはデータは一般に、電子信号、電磁信号（光信号を含む）または、所定の通信インターフェース９２４により交換可能なその他の信号により伝達される。これらの信号はチャンネル９２８を介して通信インターフェース９２４に供給することができる。このチャンネル９２８は信号を伝達することができ、有線または無線通信媒体を用いて実施することができる。チャンネルの例としては、電話線、セルラーリンク、ＲＦリンク、光リンク、ネットワークインターフェース、ローカル／ワイドエリアネットワーク、その他の有線／無線通信チャンネルが挙げられる。
【００９５】
本明細書において、「コンピュータプログラム媒体」「コンピュータで使用可能な媒体」という用語は、たとえばメモリ９０８、記憶部９２０、媒体９１４、及びチャンネル９２８などの、概して一時的または非一時的媒体を指すのに用いている。これらのまたはその他の様々な形式のコンピュータプログラム媒体またはコンピュータで使用可能な媒体は、処理装置に実行させるための１つまたは複数の指令の１つまたは複数のシーケンスの伝達に関与することができる。媒体上に体現されるこのような指令は概して（コンピュータプログラムの形で、またはその他の様式にまとめられて）「コンピュータプログラムコード」または「コンピュータプログラム製品」と呼ばれる。このような指令が実行されると、コンピュータ構成要素９００は本明細書に記載の本願の特徴または機能を実行することができる。
【００９６】
以上、様々な実施形態や実施態様の例について述べたが、１つまたは複数の個々の実施形態中で述べた様々な特徴、態様、機能は、それらについて述べた特定の実施形態のみにその適用が限定されるのではなく、単独または様々な組み合わせで、本願の１つまたは複数の様々な実施形態に適用することができ、このような実施形態が記述されているか否かや、また、このような特徴が、記載されている実施形態の一部として示されているか否かに関らないものとする。したがって、本願の範囲は、上述のいずれの実施形態例にも限定されるべきではない。
【００９７】
本明細書中で用いる用語や語句及びその変化形は、別段明示しない限り、限定的ではない、制限を設けないものと解釈すべきである。これらの例を挙げると、「含む（ｉｎｃｌｕｄｅ）」という用語は「含むがこれに限られない」などを意味すると理解すべきである。「例（ｅｘａｍｐｌｅ）」という用語は、検討中の項目の典型的な例を挙げるために用いられ、それ以外には無い、またはそれしかないという意味ではない。「１つの（ａ、ａｎ）」という用語は「少なくとも１つ」「１つまたは複数」などを意味すると理解すべきである。「従来の（ｃｏｎｖｅｎｔｉｏｎａｌ）」「伝統的な（ｔｒａｄｉｔｉｏｎａｌ）」「通常の（ｎｏｒｍａｌ）」「標準的な（ｓｔａｎｄａｒｄ）」「既知の（ｋｎｏｗｎ）」といった形容詞や似たような意味の用語は、記載の項目をある期間に限定するもの、またはある時点において入手可能な項目に限定するものと解釈すべきではなく、現在または将来のある時に入手可能となる、または知られる可能性がある、従来の、伝統的な、通常の、または標準的な技術を包括するものと理解すべきである。同様に、本明細書で当業者には明らかまたは知られた技術と言う場合は、現在または将来のある時において、当業者に明らかとなる、または知られる技術を包括するものである。
【００９８】
「１つまたは複数の」「少なくとも」「〜に限定されない」といった、意味を広げる言葉や語句が場合によって存在するからといって、これらの意味を広げる語句が存在しない場合に、意味を狭くすることが意図される、または必要とされると理解すべきではない。「構成要素（ｃｏｍｐｏｎｅｎｔ）」という用語を用いていても、その構成要素の一部として記載または主張される態様または機能がすべて共通のパッケージ内に構成されていることを示唆するものではない。実際、制御ロジックであれその他の要素であれ、ある構成要素の様々な態様は、そのいずれかまたはすべてを単一のパッケージ内に結合してもよく、別々に維持してもよく、また、複数のグループあるいはパッケージ、または複数の場所に分配することもできる。
【００９９】
さらに、本明細書に記載の様々な実施形態について、典型例としてのブロック図、フローチャート、その他の図解の観点から説明した。本明細書を読めば当業者には明らかとなるが、図示した実施形態やその様々な代替例は、図示例に制限されることなく実施が可能である。たとえばブロック図やこれに付随する説明から、特定のアーキテクチャまたは構成が必須のものであると解釈すべきではない。
【図１】
0006738645.tif 000025
【図２Ａ】
0006738645.tif 000026
【図２Ｂ】
0006738645.tif 000027
【図３】
0006738645.tif 000028
【図４】
0006738645.tif 000029
【図５】
0006738645.tif 000030
【図６】
0006738645.tif 000031
【図７Ａ】
0006738645.tif 000032
【図７Ｂ】
0006738645.tif 000033
【図７Ｃ】
0006738645.tif 000034
【図８Ａ】
0006738645.tif 000035
【図８Ｂ】
0006738645.tif 000036
【図９】
0006738645.tif 000037