(57)【要約】【解決手段】誤って受信された第１のセクションを備えるマルチメディアデータを処理する方法及び装置が開示される。この方法は、第１のセクションに対応する誤り分布情報を取得することを備える。この方法は更に、誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つをマルチメディアデータの第１のセクションに適用することを備える。【選択図】      図６
2008545297.tif 000002
【特許請求の範囲】
【請求項１】
誤って受信された第１のセクションを備えるマルチメディアデータを処理する方法であって、
前記第１のセクションに対応する誤り分布情報を取得することと、
前記誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、前記マルチメディアデータの第１のセクションに適用することと
を備える方法。
【請求項２】
前記マルチメディアデータは、それぞれ複数のセクションを備える複数のフレームを備え、前記取得することは、正しく復号されたセクションと、誤りのあるセクションとの位置を備えたマップを生成することを備える請求項１に記載の方法。
【請求項３】
前記複数の誤り復元スキームは、空間的誤り隠蔽、フレームレートアップ変換、Ｐフレームのための時間的誤り隠蔽、及び、Ｂフレームのための時間的誤り隠蔽を備える請求項１に記載の方法。
【請求項４】
前記マルチメディアデータは、多数のレイヤプロトコルから生成された情報を備える請求項１に記載の方法。
【請求項５】
前記適用することは、
前記第１のセクションのために、前記誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを選択することと、
前記選択された誤り復元スキームに基づいて前記第１のセクションを処理することと
を備える請求項１に記載の方法。
【請求項６】
前記複数の誤り復元スキームのうちの１つを選択することは、
フレームレート変化がシーン変化を伴うことなく検出される場合、又は、誤りのある物理レイヤパッケージの割合が閾値を越える場合に、前記第１のセクションのためにフレームレートアップ変換を選択することを備える請求項５に記載の方法。
【請求項７】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記選択することは、少なくとも、前記第１のセクションを備える第１のアクセスユニットが一様に符合化されたかに基づく請求項５に記載の方法。
【請求項８】
前記選択することは、少なくとも、チャネル切換が検出されたかに基づく請求項５に記載の方法。
【請求項９】
前記選択することは、少なくとも、新たなオブジェクトが検出されたかに基づく請求項５に記載の方法。
【請求項１０】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、
前記複数の誤り復元スキームのうちの１つを選択することは、前記第１のセクションを備えるアクセスユニット内の全てのデータに対する誤りのあるデータの割合が、予め定めた閾値を越えているのであれば、前記第１のセクションのために、フレームレートアップ変換を選択することを備える請求項５に記載の方法。
【請求項１１】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記複数の誤り復元スキームのうちの１つを選択することは、
前記第１のセクションが新たなオブジェクトの内部にあるのであれば、前記第１のセクションのために空間的誤り隠蔽を選択することを備える請求項５に記載の方法。
【請求項１２】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記複数の誤り復元スキームのうちの１つを選択することは、
前記第１のセクションを備えるアクセスユニットがＩフレームであり、前記Ｉフレームがシーン変化フレームではないのであれば、前記第１のセクションのために時間的誤り隠蔽を選択することを備える請求項５に記載の方法。
【請求項１３】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記選択することは、少なくとも、前記第１のセクションが、一様に符号化されたスライス又は非一様に符号化されたスライスを備えているかに基づく請求項５に記載の方法。
【請求項１４】
誤って受信された第１のセクションを備えるマルチメディアデータを処理する装置であって、
前記第１のセクションに対応する誤り分布情報を取得する手段と、
前記誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、前記マルチメディアデータの第１のセクションに適用する手段と
を備える装置。
【請求項１５】
前記マルチメディアデータは、それぞれ複数のセクションを備える複数のフレームを備え、前記取得する手段は、正しく復号されたセクションと、誤りのあるセクションとの位置を備えたマップを生成する手段を備える請求項１４に記載の装置。
【請求項１６】
前記複数の誤り復元スキームは、空間的誤り隠蔽、フレームレートアップ変換、Ｐフレームのための時間的誤り隠蔽、及び、Ｂフレームのための時間的誤り隠蔽を備える請求項１４に記載の装置。
【請求項１７】
前記マルチメディアデータは、多数のレイヤプロトコルから生成された情報を備える請求項１４に記載の装置。
【請求項１８】
前記適用する手段は、
前記第１のセクションのために、前記誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを選択する手段と、
前記選択された誤り復元スキームに基づいて前記第１のセクションを処理する手段と
を備える請求項１４に記載の装置。
【請求項１９】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備える複数のアクセスユニットを備え、前記選択することは、少なくとも、前記第１のセクションを備える第１のアクセスユニットが一様に符合化されたかに基づく請求項１８に記載の装置。
【請求項２０】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記選択することは、少なくとも、前記第１のセクションを備える第１のアクセスユニットが一様に符合化されたかに基づく請求項１８に記載の装置。
【請求項２１】
前記選択することは、少なくとも、チャネル切換が検出されたかに基づく請求項１８に記載の装置。
【請求項２２】
前記選択することは、少なくとも、新たなオブジェクトが検出されたかに基づく請求項１８に記載の装置。
【請求項２３】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記第１のセクションを備えるアクセスユニット内の全てのデータに対する誤りのあるデータの割合が、予め定めた閾値を越えているのであれば、前記第１のセクションのために、フレームレートアップ変換が選択される請求項１８に記載の装置。
【請求項２４】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記第１のセクションが新たなオブジェクトの内部にあるのであれば、前記第１のセクションのために空間的誤り隠蔽が選択される請求項１８に記載の装置。
【請求項２５】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記第１のセクションを備えるアクセスユニットがＩフレームであり、前記Ｉフレームがシーン変化フレームではないのであれば、前記第１のセクションのために時間的誤り隠蔽が選択される請求項１８に記載の装置。
【請求項２６】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記選択することは、少なくとも、前記第１のセクションが、一様に符号化されたスライス又は非一様に符号化されたスライスを備えているかに基づく請求項１８に記載の装置。
【請求項２７】
方法を実行するように構成されたプロセッサであって、前記方法は、
前記第１のセクションに対応する誤り分布情報を取得することと、
前記誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、前記マルチメディアデータの第１のセクションに適用することと
を備えるプロセッサ。
【請求項２８】
前記マルチメディアデータは、それぞれ複数のセクションを備える複数のフレームを備え、前記取得することは、正しく復号されたセクションと、誤りのあるセクションとの位置を備えたマップを生成することを備える請求項２７に記載のプロセッサ。
【請求項２９】
前記複数の誤り復元スキームは、空間的誤り隠蔽、フレームレートアップ変換、Ｐフレームのための時間的誤り隠蔽、及び、Ｂフレームのための時間的誤り隠蔽を備える請求項２７に記載のプロセッサ。
【請求項３０】
前記マルチメディアデータは、多数のレイヤプロトコルから生成された情報を備える請求項２７に記載のプロセッサ。
【請求項３１】
前記適用することは、
前記第１のセクションのために、前記誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを選択することと、
前記選択された誤り復元スキームに基づいて前記第１のセクションを処理することと
を備える請求項２７に記載のプロセッサ。
【請求項３２】
前記複数の誤り復元スキームのうちの１つを選択することは、
フレームレート変化がシーン変化を伴うことなく検出される場合、又は、誤りのある物理レイヤパッケージの割合が閾値を越える場合に、前記第１のセクションのためにフレームレートアップ変換を選択することを備える請求項３１に記載のプロセッサ。
【請求項３３】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記選択することは、少なくとも、前記第１のセクションを備える第１のアクセスユニットが一様に符合化されたかに基づく請求項３１に記載のプロセッサ。
【請求項３４】
前記選択することは、少なくとも、チャネル切換が検出されたかに基づく請求項３１に記載のプロセッサ。
【請求項３５】
前記選択することは、少なくとも、新たなオブジェクトが検出されたかに基づく請求項３１に記載のプロセッサ。
【請求項３６】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記複数の誤り復号スキームのうちの１つを選択することは、
前記第１のセクションを備えるアクセスユニット内の全てのデータに対する誤りのあるデータの割合が、予め定めた閾値を越えているのであれば、前記第１のセクションのために、フレームレートアップ変換を選択することを備える請求項３１に記載のプロセッサ。
【請求項３７】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記複数の誤り復号スキームのうちの１つを選択することは、
前記第１のセクションが新たなオブジェクトの内部にあるのであれば、前記第１のセクションのために空間的誤り隠蔽が選択することを備える請求項３１に記載のプロセッサ。
【請求項３８】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記複数の誤り復元スキームのうちの１つを選択することは、
前記第１のセクションを備えるアクセスユニットがＩフレームであり、前記Ｉフレームがシーン変化フレームではないのであれば、前記第１のセクションのために時間的誤り隠蔽を選択することを備える請求項３１に記載のプロセッサ。
【請求項３９】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、
前記選択することは、少なくとも、前記第１のセクションが、一様に符号化されたスライス又は非一様に符号化されたスライスを備えているかに基づく請求項３１に記載のプロセッサ。
【請求項４０】
方法をコンピュータに実行させる手段を組み込んだコンピュータ読取可能媒体であって、
前記方法は、
前記第１のセクションに対応する誤り分布情報を取得することと、
前記誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、前記マルチメディアデータの第１のセクションに適用することと
を備えるコンピュータ読取可能媒体。
【請求項４１】
前記マルチメディアデータは、それぞれ複数のセクションを備える複数のフレームを備え、前記取得することは、正しく復号されたセクションと、誤りのあるセクションとの位置を備えたマップを生成することを備える請求項４０に記載のコンピュータ読取可能媒体。
【請求項４２】
前記複数の誤り復元スキームは、空間的誤り隠蔽、フレームレートアップ変換、Ｐフレームのための時間的誤り隠蔽、及び、Ｂフレームのための時間的誤り隠蔽を備える請求項４０に記載のコンピュータ読取可能媒体。
【請求項４３】
前記マルチメディアデータは、多数のレイヤプロトコルから生成された情報を備える請求項４０に記載のコンピュータ読取可能媒体。
【請求項４４】
前記適用することは、
前記第１のセクションのために、複数の誤り復元スキームのうちの１つを前記誤り分布情報に基づいて選択することと、
前記選択された誤り復元スキームに基づいて前記第１のセクションを処理することと
を備える請求項４０に記載のコンピュータ読取可能媒体。
【請求項４５】
前記複数の誤り復元スキームのうちの１つを選択することは、
フレームレート変化がシーン変化を伴うことなく検出される場合、又は、誤りのある物理レイヤパッケージの割合が閾値を越える場合に、前記第１のセクションのためにフレームレートアップ変換を選択することを備える請求項４４に記載のコンピュータ読取可能媒体。
【請求項４６】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記選択することは、少なくとも、前記第１のセクションを備える第１のアクセスユニットが一様に符合化されたかに基づく請求項４４に記載のコンピュータ読取可能媒体。
【請求項４７】
前記選択することは、少なくとも、チャネル切換が検出されたかに基づく請求項４４に記載のコンピュータ読取可能媒体。
【請求項４８】
前記選択することは、少なくとも、新たなオブジェクトが検出されたかに基づく請求項４４に記載のコンピュータ読取可能媒体。
【請求項４９】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記複数の誤り復号スキームのうちの１つを選択することは、
前記第１のセクションを備えるアクセスユニット内の全てのデータに対する誤りのあるデータの割合が、予め定めた閾値を越えているのであれば、前記第１のセクションのために、フレームレートアップ変換を選択することを備える請求項４４に記載のコンピュータ読取可能媒体。
【請求項５０】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記複数の誤り復号スキームのうちの１つを選択することは、
前記第１のセクションが新たなオブジェクトの内部にあるのであれば、前記第１のセクションのために空間的誤り隠蔽が選択することを備える請求項４４に記載のコンピュータ読取可能媒体。
【請求項５１】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記複数の誤り復元スキームのうちの１つを選択することは、
前記第１のセクションを備えるアクセスユニットがＩフレームである場合、前記Ｉフレームがシーン変化フレームではないのであれば、前記第１のセクションのために時間的誤り隠蔽を選択することを備える請求項４４に記載のコンピュータ読取可能媒体。
【請求項５２】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記選択することは、少なくとも、前記第１のセクションが、一様に符号化されたスライス又は非一様に符号化されたスライスを備えているかに基づく請求項４４に記載のコンピュータ読取可能媒体。
【請求項５３】
マルチメディアデータを処理する装置であって、
誤って受信された第１のセクションを有する前記マルチメディアデータを受信するように構成された受信機と、
前記第１のセクションに対応する誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、前記マルチメディアデータの第１のセクションへ適用するように構成された誤り隠蔽部と
を備える装置。
【請求項５４】
前記第１のセクションに対応する誤り分布情報を取得するように構成された取得モジュールを更に備える請求項５３に記載の装置。
【請求項５５】
前記誤り隠蔽部は更に、前記第１のセクションに対応する誤り分布情報を取得するように構成された請求項５３に記載の装置。
【請求項５６】
前記マルチメディアデータは、多数のレイヤプロトコルから生成された情報を備える請求項５３に記載の装置。
【請求項５７】
前記誤り隠蔽部は、
前記第１のセクションのために、複数の誤り復元スキームのうちの１つを、前記誤り分布情報に基づいて選択するように構成された選択モジュールと、
前記選択された誤り復元スキームに基づいて前記第１のセクションを処理するように構成された処理モジュールと
を備える請求項５３に記載の装置。
【請求項５８】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備える複数のアクセスユニットを備え、前記誤り隠蔽部は、少なくとも、前記第１のセクションを備える第１のアクセスユニットが一様に符号化されたかに基づいて、前記複数の誤り復元スキームのうちの１つを適用するように構成された請求項５３に記載の装置。
【請求項５９】
前記誤り隠蔽部は、少なくとも、チャネル切換が検出されたかに基づいて、前記複数の誤り復元スキームのうちの１つを適用するように構成された請求項５３に記載の装置。
【請求項６０】
前記誤り隠蔽部は、少なくとも、新たなオブジェクトが検出されたかに基づいて、複数の誤り復元スキームのうちの１つを適用するように構成された請求項５３に記載の装置。
【請求項６１】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記誤り隠蔽部は、前記第１のセクションを備えるアクセスユニット内の全てのデータに対する誤りのあるデータの割合が、予め定めた閾値を越えているのであれば、前記第１のセクションのために、フレームレートアップ変換を適用するように構成された請求項５３に記載の装置。
【請求項６２】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記誤り隠蔽部は、前記第１のセクションが新たなオブジェクトの内部にあるのであれば、前記第１のセクションのために空間的誤り隠蔽を適用するように構成された請求項５３に記載の装置。
【請求項６３】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記誤り隠蔽部は、前記第１のセクションを備えるアクセスユニットがＩフレームである場合、前記Ｉフレームがシーン変化フレームではないのであれば、前記第１のセクションのために時間的誤り隠蔽を適用するように構成された請求項５３に記載の装置。
【請求項６４】
前記マルチメディアデータは更に、それぞれが複数のセクションを備える複数のスライスを備え、前記誤り隠蔽部は、少なくとも、前記第１のセクションが、一様に符号化されたスライス又は非一様に符号化されたスライスを備えているかに基づいて、誤り復元スキームを適用するように構成された請求項５３に記載の装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、例えば、ビデオデータ又はオーディオデータのようなマルチメディアデータを、誤り管理を用いて符号化及び復号する方法及び装置に関する。
【０００２】
（３５Ｕ．Ｓ．Ｃ．§１１９の下の優先権主張）  
本特許出願は、２００５年３月１１日に出願され、「統一された誤り隠蔽フレームワークのための方法及び装置」（A METHOD AND APPARATUS FOR UNIFIED ERROR CONCEALMENT FRAMEWORK）と題された仮出願６０／６８０，２１３号、及び、２００５年３月１３日に出願され、「統一された誤り隠蔽フレームワークのための方法及び装置」（A METHOD AND APPARATUS FOR UNIFIED ERROR CONCEALMENT FRAMEWORK）と題された仮出願６０／６８１，１９５号の優先権を主張する。これらは共に、本願の譲受人に譲渡され、本明細書において参照によって明確に組み込まれる。
【背景技術】
【０００３】
インターネット及び無線通信の広範囲な使用は、インターネットチャネル及びモバイル／無線通信チャネルを介してメディアをストリームするマルチメディアサービスに対する需要を増加した。インターネットプロトコル（ＩＰ）ネットワークでは、ビデオは、サーバによって提供されるかもしれないし、１又は複数の有線クライアントや無線クライアントによってストリームされるかもしれない。有線接続は、ダイアルアップ、統合サービスデジタル網（ＩＳＤＮ）、ケーブル、デジタル加入者線プロトコル（集合的にｘＤＳＬと称される）、ファイバ、ローカルエリアネットワーク（ＬＡＮ）、広域ネットワーク（ＷＡＮ）等を含む。無線通信を利用する電子デバイスは、電話（例えばセル電話）、パーソナルデジタルアシスタント（ＰＤＡ）、ハンドヘルドコンピュータ及びポータブルコンピュータ、衛星電話、及びその他を含む。これらアプリケーションのうちの全てではないにしても、大部分では、帯域幅要求及び／又は制約は、ビデオ処理が、ビデオ圧縮アルゴリズムを組み込んだソース符号器を用い、ビデオデータを分析、定量化、処理、及び表示し、「最小の」ビット数を使うことによって、最大の情報を伝送することを必要とする。そのようなアルゴリズムの特性は著しく変わり、性能（例えば、客観的／主観的な品質、圧縮効率、及び、ビットレート）における大幅な変動をもたらす。圧縮アルゴリズムを用いるビデオ処理の特性は、コンテンツに基づいて著しく変わり、性能（例えば、客観的／主観的な品質、圧縮効率、及び、ビットレート）における大幅な変動をもたらす。
【０００４】
無線チャネルは、誤りが生じる傾向がある。送信されたデータの一部は、もしも喪失したり破損している場合、「誤った」ものとなる。画像圧縮は本質的に冗長を取り除くので、この圧縮データは致命的になる。送信中、このデータの誤りのあるあらゆる部分は、復号器において再構築されるビデオ品質に影響を与える。誤りのあるデータが、動作補償予測のための基準フレームの一部である場合、この影響は悪化され、時間的な誤り伝播を引き起こす。
【０００５】
誤って受信したビットストリームデータによる再構築ビデオ品質に対する影響を緩和するために、ビデオ復号器は、受信したビデオデータを処理して、ビデオ品質を改善する。これは、誤り隠蔽（error concealment）と称される。誤り隠蔽スキームは、ビデオ信号内に存在する空間的及び時間的な相関性を利用する。
【０００６】
現在、幾つかの誤り隠蔽スキームが利用可能である。特定の状況によって、１つの誤り隠蔽スキームは、他の誤り隠蔽スキームよりも良好な結果を与えるかもしれない。従って、複数の誤り隠蔽スキームから、特定の隠蔽タスクのために、より適切なものを動的に選択する統一された誤り隠蔽フレームワークを開発することが望ましい。
【発明の開示】
【０００７】
１つの局面では、誤って受信された第１のセクションを備えるマルチメディアデータを処理する方法が開示される。この方法は、第１のセクションに対応する誤り分布情報を取得することを備える。この方法は更に、誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、マルチメディアデータの第１のセクションに適用することを備える。
【０００８】
別の局面では、誤って受信した第１のセクションを備えるマルチメディアデータを処理する装置は、第１のセクションに対応する誤り分布情報を取得する手段と、誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、マルチメディアデータの第１のセクションに適用する手段とを備える。
【０００９】
更なる局面では、マルチメディアデータを処理する装置は、誤って受信した第１のセクションを有するマルチメディアデータを受信するように構成された受信機と、第１のセクションに対応する誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、マルチメディアデータの第１のセクションに適用するように構成された誤り隠蔽部とを備える。この装置は更に、第１のセクションに対応する誤り分布情報を取得するように構成された取得モジュールを備える。あるいは、誤り隠蔽部は更に、第１のセクションに対応する誤り分布情報を取得するように構成される。
【００１０】
上記局面では、マルチメディアデータは、それぞれ複数のセクションを備える複数のフレームを備える。また、誤り分布情報は、正しく復号されたセクションと誤りのあるセクションとの位置を含む地図を生成することによって取得される。マルチメディアデータは、多数のレイヤプロトコルから生成された情報を備えうる。複数の誤り復元スキームのうちの１つは、第１のセクションのために、誤り分布情報に基づいて選択され、第１のセクションは、選択された誤り復元スキームに基づいて処理されうる。この選択は、少なくとも、第１のセクションを備える第１のアクセスユニットが一様に符号化されたかに基づき、少なくとも、チャネル切換が検出されたかに基づき、少なくとも、新たなオブジェクトが検出されたかに基づき、及び／又は、少なくとも、第１のセクションが、一様に符号化されたスライスを備えるか、あるいは非一様に符号化されたスライスを備えるかに基づきうる。
【００１１】
更に、プロセッサは、記載したような装置の機能及び／又は方法を実行するように実装されうることが注目されるべきである。同様に、計算機読取可能媒体が実現される。計算機読取可能媒体は、記載した装置の機能及び／又は方法を実行するように構成された命令を有する。
【発明を実施するための最良の形態】
【００１２】
以下の説明では、開示した方法及び装置の完全な理解を提供するために、具体的な詳細が提供される。しかしながら、開示した方法及び装置は、これら具体的な詳細がなくても実現されうることが、当業者に理解されるであろう。例えば、電気的構成要素は、不必要に詳細にすることによって局面を不明瞭にしないように、ブロック図で示される。他のインスタンスでは、そのような構成要素、他の構造、及び技術は、ある局面を更に説明するために詳細に示されうる。
【００１３】
また、ある局面が、フローチャート、フロー図、構造図、又はブロック図として示される処理として記述されうることも注目される。フローチャートは、動作を連続処理として示すかもしれないが、動作の多くは並行又は同時に行われ、また、処理は繰り返される場合がある。更に、動作の順序は、再設定されうる。動作が完了すると処理は終了する。処理は、方法、機能、手順、サブルーチン、サブプログラム等に対応しうる。処理が機能に対応する場合、その終了は、コールファンクション又はメインファンクションに対する機能のリターンに対応する。
【００１４】
用語「記憶媒体」は、読取専用メモリ（ＲＯＭ）、ランダムアクセスメモリ（ＲＡＭ）、磁気ディスク記憶媒体、光記憶媒体、フラッシュメモリデバイス、及び／又は、情報を格納するためのその他の計算機読取可能媒体を含むデータ格納用の１又は複数のデバイスを表わす。用語「計算機読取可能媒体」又は「コンピュータ読取可能媒体」は、ポータブル記憶デバイス又は固定記憶デバイスに限定されず、光記憶デバイス、無線チャネル、及び、命令やデータを格納、包含、又は搬送することが可能なその他様々な媒体を含む。
【００１５】
受信したマルチメディアデータストリームを復号する方法のある実施形態を、以下に詳細に記載する。マルチメディアデータは、限定される訳ではないが、ビデオ、オーディオ、グラフィック、テキスト、及びピクチャを含む様々な形態からなりうる。データは、ＭＰＥＧ−ｘ規格における圧縮されたビデオ及びオーディオ、Ｈ．２６ｘ規格における圧縮されたビデオ、ＭＰＥＧ−２  ＡＡＣ，ＭＰＥＧ−４  ＡＡＣ，ＭＰＥＧ−２  オーディオレイヤＩＩＩ（ＭＰ３）、ＡＭＲ、及びＧ．７２３オーディオ又は音声圧縮規格における圧縮されたオーディオ、又はその他任意のタイプのデジタルデータでありうる。データストリームは、例えば電話、ケーブル、光ファイバ、又は無線ネットワークのような有線ネットワークを経由して受信されうる。無線の場合、ネットワークは、例えば、符号分割多元接続（ＣＤＭＡ又はＣＤＭＡ２０００）通信システムの一部を備えうる。あるいは、このシステムは、周波数分割多元接続（ＦＤＭＡ）システム、直交周波数分割多元接続（ＯＦＤＭＡ）システム、ＧＳＭ／ＧＰＲＳ(General Packet Radio Service)／ＥＤＧＥ(enhanced data GSM environment)又はサービス産業のためのＴＥＴＲＡ(Terrestrial Trunked Radio)モバイル電話技術のような時分割多元接続（ＴＤＭＡ）システム、広帯域符号分割多元接続（ＷＣＤＭＡ）、高データレート（１ｘＥＶ−ＤＯ又は１ｘＥＶ−ＤＯゴールドマルチキャスト）システム、又は、これら技術の組み合わせを適用する一般的な任意の無線通信システムでありうる。
【００１６】
一例において、マルチメディアデータストリームは、Ｈ．２６１、ＭＰＥＧ−１パート２、ＭＰＥＧ−２パート２（Ｈ．２６２）、ＭＰＥＧ−４パート２、Ｈ．２６３、及びＨ．２６４に類似した構造を使用して符合化される。マルチメディアデータストリームは、１又は複数のデータシーケンスを含みうる。シーケンスは、１又は複数のピクチャのグループ（ＧＯＰ）を含むシーケンスヘッダで始まり、エンドオブシーケンス（end-of-sequence）コードで終わる。ＧＯＰは、第１のフレームがイントラ符号化フレームである１又は複数のピクチャ又はフレームを備える。イントラ符号化フレーム（Ｉピクチャ又はＩフレーム）は、他の何れのフレームも参照しないフレームを称する。
【００１７】
フレームは、ビデオシーケンスの符号化ユニットの種類である。フレーム内のビデオデータは、輝度（Ｙ）成分及び２つのクロミナンス（ＣｂとＣｒ）成分を表わす３つの長方形のマトリクスを含む。例えばイントラ符号化フレーム、予測フレーム、及び双方向予測フレームのように、フレームがどのように符号化されるかに依存して、異なる種類のフレームが存在する。イントラフレームについては上述した。予測フレーム（Ｐピクチャ又はＰフレーム）は、現在のフレームと基準フレームとの間の差分を符合化することによって、基準フレームからの動作補償を用いて予測されるフレームである。Ｐフレームは、前方フレームと後方フレームとの両方ではなく、何れか一方を基準フレームとして用いる。双方向フレーム（Ｂピクチャ又はＢフレーム）は、前方フレーム又は後方フレーム又はこれら両フレームを基準フレームとして用いるフレームを称する。
【００１８】
Ｐフレーム及びＢフレームは共に、インター符合化又は予測符合化と呼ばれる符合化技術によって符合化される。インター符合化は、現在のフレーム内の領域と、基準フレーム内の最良一致予測領域との間の時間的冗長を利用することによって、フレーム内のデータを符合化する。現在の領域と、最良一致基準予測領域との間の差は、剰余誤差（residual error）（又は予測誤差）として知られている。基準フレームの最良一致予測領域の相対位置は、動作ベクトルとして符号化される。
【００１９】
フレームは、１又は複数のスライスとしてそれを分割することにより更に圧縮することができる。スライスは、１又は複数のマクロブロックのグループでありうる。スライスは、ラスタスキャン順に隣接しているかもしれないか、又は、フレームデータの任意の部分集合に相当しうる。スライスは、独立して符号化することができ、及び／又は、同じフレーム又は他のフレーム内の他のスライスから独立して復号することができる。従って、スライスは、独立して復号可能なマクロブロックのグループを称し、システムに依存して、ヘッダ情報を含む場合も含まない場合もある。マクロブロックは、採用された彩度サブサンプリングパターンに基づいて、例えば、輝度チャネルと、対応する彩度チャネルピクセルとの集合内の１６×１６ピクセル領域のような、関連するピクセルからなるグループである。各マクロブロックは更に、サブマクロブロック区分１６ｘ８，８ｘ１６，８ｘ８，４ｘ８，８ｘ４，４ｘ４に分割することができる。４ｘ４サブマクロブロックは、本明細書でブロックと称される。
【００２０】
図１は、受信したマルチメディアデータストリーム内のスライスの可能なタイプのリストを例示する。このリストはまた、各々が異なるタイプのスライスを表す予め割り当てられたスライスタイプ番号のリストを含む。このリストは一例であり、図１に示すものとは幾分異なるタイプを含みうることが注目されるべきである。また、スライスタイプは、番号以外の手段によっても識別されうる。
【００２１】
この例のために、３つのタイプのスライスが議論される。予測スライス（Ｐ−スライス）は、同じフレーム内の他のデータからの基準、又は、他のフレームに対する基準を持つスライスを称する。双方向スライス又は補間スライス（Ｂスライス）は、過去のみならず現在からのデータに対する基準も含むスライスを称する。イントラスライス（Ｉスライス）は、他のスライスを参照しないスライスである。
【００２２】
更に、本明細書で「アクセスユニット」と称されるプレゼンテーションユニットは、一様又は非一様に符号化されうる。データソースに依存して、アクセスユニットは、ピクチャ、フレーム、フィールド、スライス、スライスのグループ、又はその他の独立復号可能なユニットでありうる。アクセスユニット内のスライスが全て同じタイプである場合、アクセスユニットは一様に符号化される。アクセスユニット内のスライスが異なるタイプからなる可能性がある場合、アクセスユニットは、潜在的に非一様なアクセスユニットである。上述した３つのスライスタイプは、問題のスライスが、一様又は潜在的に非一様に符号化されたアクセスユニットに属するかを考慮した後に６つのカテゴリに更に分割される。
【００２３】
更に、スライスタイプが未知である場合、本明細書では、このスライスはタイプｘと称される。例えば、スライス全体が誤っているか、又は、スライスヘッダが誤っている場合、スライスタイプは、未知であると考えられる。タイプｘのスライスは、非一様のアクセスユニットにおけるスライスを表すためにほとんど使用される。なぜなら、アクセスユニットが一様に符号化される場合、タイプｘのスライスは、このスライスが属するアクセスユニットの符合化タイプに依存して、５，６，又は７のスライスタイプが割り当てられるだろう。これら異なるタイプのスライスは、誤り隠蔽方法の議論の全体にわたって使用される。
【００２４】
図２は、誤り隠蔽方法の一例を示すフローチャートである。この例では、複数の誤り隠蔽スキームから、特定の隠蔽タスクにより良く適したものを選択し、それを適用する方法が記述される。
【００２５】
この選択動作は、到来するマルチメディアビットストリームの誤り分布情報に基づきうる。この到来するマルチメディアビットストリームは、誤り分布情報を含みうる。例えば、この誤り分布情報は、前の処理において復号器によって処理され、ビットストリームへと異なる形式で潜在的に再挿入されることにより、誤り隠蔽動作に役立つ。ある実施形態では、復号器が実行するように構成されている多数のレイヤプロトコルから誤り分布情報が生成される。
【００２６】
あるいは、この到来するマルチメディアビットストリームは、誤り分布情報を備えていないかもしれない。そのような例では、本明細書に記載の誤り隠蔽方法は更に、マルチメディアビットストリームの誤り分布情報を取得することを備える。更に幾つかの例では、誤り隠蔽方法は更に、到来するマルチメディアビットストリームの要素に関する構文及び意味チェック、動的範囲チェックに基づく誤り検出条件を備える。
【００２７】
例えば、誤り分布情報を取得することは、処理中の現在のフレームのマクロブロックタイプ及びスライスタイプを追跡するマクロブロックタイプ及びスライスタイプマップを生成することを備える。別の例では、誤り分布情報を取得することは、処理中の現在のフレームのために正しく復号されたマクロブロックと、誤りのあるマクロブロックとの位置を含むマップを生成することを備える。誤りのあるマクロブロックが検出された場合、誤りのあるマクロブロックから、到来するマルチメディアビットストリーム内の次の再同期ポイントへのマクロブロックは、誤りのあるマクロブロックとしてマークされる。
【００２８】
図２の例に示す方法で使用される誤り隠蔽スキームは、空間的誤り隠蔽（ＳＥＣ）、時間的誤り隠蔽（ＴＥＣ）、又はフレームレートアップ変換（ＦＲＵＣ）として分類される。ＦＲＵＣは、動作補償補間技術であり、既に健全に復号された時間的な近隣基準フレームからの動作情報を用い、補間フレームを構築して、誤りのあるフレームを隠蔽する。ＦＲＵＣは、フレーム全体に誤りが場合（フレームヘッダが復元できないほど破損しているか、フレームペイロードビットストリームの全てが失われているかの何れかの場合）、又は、フレーム内の誤りのある領域が予め定めた閾値を越えている場合に適用される。これらの状況下では、有用な空間的相関はなく、空間的に相関付けられたデータが存在しないか、又は、相関付けられたデータがほとんど存在せず、空間的相関は、誤りのある領域のほとんどにわたって、誤り隠蔽目的のためには信頼できない。従って、時間的相関がより信頼性が高いかもしれない。ＦＲＵＣは、これらの場合のため選択される。なぜなら、フレーム−レベル時間相関を利用するからである。
【００２９】
空間的誤り隠蔽（ＳＥＣ）は、イントラスライス、予測スライス、及び補間スライスを隠蔽するために、同じフレーム内の健全な空間的近隣からの情報（例えば、輝度、色、及び方向性）を用いる。ＳＥＣは、誤りのあるスライス又はマクロブロックが、シーン変化（又はシュート境界）フレーム又は瞬間的復号リフレッシュ（ＩＤＲ）フレーム内にある場合に適用される。なぜなら、空間的相関は、最も信頼性が高く、これらの場合に最も適するからである。ＳＥＣはまた、新たなコンテンツを持つ新たなオブジェクト又はセグメントが、フレーム内で検出され、誤りのあるマクロブロック又はスライスが、たとえＰフレーム又はＢフレーム内であっても、新たなコンテンツを持つ新たなオブジェクト又はセグメントの中にあるか又はオーバラップする場合に適用される。ＳＥＣは、新たなオブジェクト又はコンテンツが存在しない場合も適用されるが、例えば回転動作、オブジェクトの変形、非剛体、ズームイン、及びズームアウトによって、並進運動補償予測は失敗する。誤りのあるマクロブロックの近隣が、別のインター符合化スライス（Ｐスライス又はＢスライス）又はインターフレーム（Ｐフレーム又はＢフレーム）内の全てのＩタイプマクロブロックである場合、復号器は、誤りのあるマクロブロック又はスライスが、新たなコンテンツを持つ新たなオブジェクト又はセグメントの内部にあるか、又はオーバラップする。
【００３０】
時間的誤り隠蔽（ＴＥＣ）は、同じフレーム内であって、既に復号された近隣基準フレーム内の健全な空間的近隣からの動作情報を用いて、誤りのあるマクロブロックを隠蔽する。ＴＥＣは、ＰフレームのためのＴＥＣ（ＴＥＣ＿Ｐ）と、ＢフレームのためのＴＥＣ（ＴＥＣ＿Ｂ）とに更に分割される。
【００３１】
インターフレーム（Ｐフレーム及びＢフレーム）内、又は、非シーン変化である場合は非ＩＤＲ  Ｉフレーム内の誤りのあるマクロブロックについて、誤り隠蔽目的のために利用可能な時間的相関と空間的相関との両方が存在する。ＴＥＣ＿Ｐ、ＴＥＣ−Ｂ、又はＳＥＣは、近隣の時間的相関と空間的相関との支配因子に依存して、隠蔽ツールとして動的に選択される。例えば、非シーン変化Ｉフレームの場合、その時間的相関は、前のＰフレーム又はＢフレームの動作フィールドから導かれる。導かれた時間的相関が、Ｉフレーム内の利用可能な健全な近隣Ｉマクロブロックの空間相関よりも信頼性が高いと考えられる場合、又は、誤ったデータの範囲が、失われた領域のほとんどを横切る非常に弱い空間的相関に至る閾値よりも大きいのであれば、ＴＥＣ＿Ｐは、隠蔽ツールとしてＳＥＣ以上に選択される。例えば、前のＰ基準フレームが正しく復号され、Ｐフレームと現在のＩフレームとの間の動作フィールドがスムーズであれば、時間的相関は、空間的相関よりも信頼性が高いと考えられる。
【００３２】
従って、誤り隠蔽スキームの選択基準が、図２の例に示す方法で説明される。この方法は、ブロック２０４において始まり、復号器が、毎秒あたりのフレーム（ＦＰＳ）によって測定される現在のフレームレートが、シーン変化を伴うことなく変化するか、又は、誤りのある物理レイヤパケット（ＰＬＰ）レートが閾（ＴＨ）値を越えているかを判定する。そのような情報は、例えば、そこに埋め込まれた誤り分布情報から到来するマルチメディアビットストリームから利用することができる。現在のフレームレートは、コンテンツが低フレームレートで十分に再現されねばならない場合、フレームレート変化が帯域幅制御のために導入される場合、同伴するシーン変化なく変化する。ＦＲＵＣはそのような場合に適用される。従って、ＦＰＳが、シーンを伴うことなく変化する場合、又は、誤りのあるＰＬＰレートがＴＨを越える場合、ＦＲＵＣが選択され（２０６）、誤りのあるブロック又は誤りのあるスライスに適用される。たとえ現在のフレームレートが変化しなくても、例えばフレーム全体が失われること等によって、フレームギャップが検出されると、ＦＲＵＣが選択されうる（２０６）。
【００３３】
ＦＲＵＣが選択されない場合、復号器は、現在のスライスのタイプ、すなわち、誤りのあるマクロブロックが属するスライスが、タイプ７であるかをチェックする（２０８）。図１に示すように、スライスタイプ７は、一様アクセスユニット内のＩスライスを表す。これは、シーン変化フレーム内のスライスである。スライスが、一様アクセスユニット内のＩスライスである場合、ＳＥＣが選択され（２１０）、誤りのあるマクロブロック又は誤りのあるスライスに適用される。
【００３４】
ＳＥＣが選択されない場合、復号器は、現在のスライスのタイプがタイプ５であるかをチェックする（２１２）。図１に例示するように、スライスタイプ５は、一様アクセスユニット内のＰスライスを表わす。スライスが一様アクセスユニット内のＰスライスである場合、ＴＥＣ−Ｐが選択され（２１４）、誤りのあるマクロブロック又は誤りのあるスライスに適用される。
【００３５】
ＴＥＣ−Ｐが選択されない場合、復号器が、現在のスライスのタイプがタイプ６であるかをチェックする（２１６）。図１に例示するように、スライスタイプ番号６は、一様アクセスユニット内のＢスライスを表わす。スライスが、一様アクセスユニット内のＢスライスである場合、ＴＥＣ−Ｂが選択され（２１８）、誤りのあるマクロブロック又は誤りのあるスライスに適用される。
【００３６】
ＴＥＣ−Ｂが選択されない場合、復号器は、非一様に符合化されたビデオアクセスユニット内のスライスのために誤り隠蔽を行う。非一様に符合化されたビデオアクセスユニットのための誤り隠蔽の詳細を、図３に更に詳しく説明する。
【００３７】
このフローチャート中に示されたブロックの何れも、省略、順番変更、又は、１又は複数の他のブロックとの結合がなされうることが注目されるべきである。例えば、復号器は、現在のスライスを同時にチェックし、そのタイプを判定する。復号器はまた、現在のスライスが、例えばタイプ７の前、タイプ５であるかもチェックする。
【００３８】
図３は、図２のブロック２２０で使用される非一様符号化ビデオアクセスユニットのための誤り隠蔽方法の例を図示するフローチャートである。この方法は、ブロック２２０２で始まり、復号器が、誤りのあるマクロブロックが属する現在のスライスのタイプが、タイプ２（潜在的に非一様なアクセスユニット内のＩスライス）であるか、あるいはｘ（潜在的に非一様なアクセスユニット内の未知のタイプのスライス）であるかをチェックする。スライスが、潜在的に非一様なアクセスユニット内のＩスライス又は未知のタイプのスライスの何れでもない場合、方法はブロック２２２０に進む。ブロック２２２０については後述する。
【００３９】
そうでない場合、復号器は、現在のスライスのタイプがｘであるかをチェックする（２２０４）。スライスがタイプｘである場合、復号器は、現在のスライスのスライスタイプを判定する（２２０６）。このスライスタイプ判定は、不定期であっても、不定期でなくても、時間的近隣フレームからの共存スライスを含む利用可能な空間的及び／又は時間的な近隣スライスタイプに基づく。上部空間近隣スライスと下部空間近隣スライスとの両方が存在し、両方ともタイプ２（潜在的に非一様符号化アクセスユニット）である場合、又は、これら空間的近隣スライスのうちの１つのみが存在し、それがタイプ２である場合、現在のスライスにはタイプ２が割り当てられる。上部空間近隣スライスと下部空間近隣スライスとの両方が存在し、これらスライスのうち１つのみがタイプ２である場合、又は、これら空間的近隣スライスのうちの１つのみが存在し、それがタイプ２ではない場合、更なる情報に基づいて、現在のスライスのタイプ判定がなされる。
【００４０】
１つの実施形態では、更なる情報が、現在のビデオアクセスユニットの動作ベクトルフィールドの値及び構造、時間的な近隣アクセスユニットのスライスタイプ、及び動作ベクトルフィールドを備える。１つの実施形態では、この情報に基づいて、復号器が、スクロールやパンのようなグローバルな一様動作を推論し、スライスタイプ２を、現在のスライスに割り当てる。
【００４１】
両方の近隣スライスが存在し、両方ともタイプ０である場合、現在のスライスにタイプ０（潜在的な非一様符合化アクセスユニットにおけるＰスライス）が割り当てられ、そうでない場合には、現在スライスにタイプ１（潜在的な非一様符合化アクセスユニットにおけるＢスライス）が割り当てられる。
【００４２】
復号器がチェックし（２２０８）、現在のフレームのタイプが２ではないと判定した場合には、方法はブロック２２２０に移動する。ブロック２２２０については後述する。
【００４３】
現在のスライスのタイプが２又はｘである場合、復号器は、現在のフレームにおいて、有効なチャネル切換イベントがあるか、すなわち、誤りのあるマクロブロックが属するフレームが最初であるか、又は、新たに調整されたチャネルから取得される最初の数フレームからのものであるかを判定する（２２１０）。チャネル切換は、例えば、ユーザがチャネルを切り換えることを選択した場合に生じる。復号器は、例えば、到来するマルチメディアビットストリームをチェックして、チャネル切換フラグが設定されているかを確認することによって、有効なチャネル切換が存在するかを判定する。あるいは、復号器は、ユーザ選択に応答した「有効なチャネル切換」信号を受信する。
【００４４】
チャネル切換がある場合、復号器は、現在のフレームが、獲得ピクチャグループ（又は獲得ＧＯＰ）と呼ばれるフレームのシリーズに属するかを判定する（２２１２）。獲得ＧＯＰは、それぞれが更にイントラ符合化領域を備える時間的に予測されたフレーム（Ｐフレーム及びＢフレーム）を備える。獲得ＧＯＰ内のイントラ符号化領域は、蓄積及び結合されて、Ｉフレーム全体を形成する。獲得ＧＯＰは、マルチメディアビットストリームに対するランダムなアクセスポイントとして使用される。復号器は、例えば、獲得ＧＯＰフラグがセットされたかを見るために、到来するマルチメディアビットストリームをチェックすることによって、現在のフレームが獲得ＧＯＰに属するかを判定する。現在のフレームが、獲得ＧＯＰに属する場合、ＳＥＣが選択され（２２１４）、誤りのあるマクロブロック又は誤りのあるスライスに適用される。
【００４５】
チャネル切換がない場合、又は、現在のフレームが獲得ＧＯＰに属さない場合、復号器は、現在のスライス内で、新たなオブジェクト又は新たなコンテンツが検出されたかを判定する（２２１６）。新たなオブジェクト又は新たなコンテンツが、現在のスライス内で検出された場合、現在のマクロブロックは、新たなオブジェクト又は新たなコンテンツ内に位置するか、あるいはそれらとオーバラップする。その場合、ＳＥＣが選択されうる。復号器は、近隣スライス内の近隣マクロブロックタイプと同様、近隣スライスのスライスタイプを確認することによって、新たなオブジェクト又は新たなコンテンツが、現在のスライス内に存在するかを判定する。上部近隣スライスと下部近隣スライスとの両方がＩスライスである場合、現在のスライス内で、新たなオブジェクト又は新たなコンテンツが宣言される。上部近隣スライス及び下部近隣スライスのうちの１つがＩスライスである場合、又は両スライスともＩスライスではない場合、現在のスライス内で、新たなオブジェクト又は新たなコンテンツは宣言されない。他の実施形態では、上部近隣スライス又は下部近隣スライスのうちの１つがＩスライスである場合、新たなオブジェクト又は新たなコンテンツが宣言されるかの判定は、スライス符合化タイプ及びマクロブロック符合化タイプと同様、現在のフレーム及び近隣フレームの動作ベクトルフィールドの分析のような付加情報に基づきうる。新たなオブジェクト又は新たなコンテンツが検出されると、ＳＥＣが選択され（２２１８）、誤りのあるマクロブロック又は誤りのあるスライスに適用される。
【００４６】
そうではない場合、スライスタイプが２でもｘでもないか、又は、新たなオブジェクトが存在しないか検出されないのであれば、誤りのあるマクロブロック又は誤りのあるスライスを隠蔽する際における可能な使用のために利用可能な時間的相関と空間的相関との両方が存在する。そのような場合、復号器は、マルチメディアビットストリームに埋め込まれた誤り分布情報に基づいて、時間的な近隣の相関が、空間的な相関よりも信頼性が高いかを判定する（２２２０）。時間的な相関の方が信頼性が高い場合、ＴＥＣが選択され（２２２４）、誤りのあるマクロブロック又は誤りのあるスライスに適用される。そうではない場合、ＳＥＣが選択され（２２２２）、誤りのあるマクロブロック又は誤りのあるスライスに適用される。
【００４７】
このフローチャートに例示されたブロックの何れも、省略すること、順番を組み換えること、又は、１又は複数の他のブロックと組み合わせることがなされうることが注目されるべきである。
【００４８】
図４は、誤って受信された第１のセクションを備えるマルチメディアデータを処理する方法の別の例を示すフローチャートである。この方法は、ブロック４０２において始まり、第１のセクションに対応する誤り分布情報が取得される。次に、ブロック４０４において、誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つが、マルチメディアデータの第１のセクションに適用される。４０４を適用することは、特定の隠蔽タスクに良く適した複数の誤り復元スキームのうちの１つを選択することと、その後、それに従って、誤りのあるセクションを処理することとを含む。これらブロックの動作は、図２及び図３における上述した説明と類似している。
【００４９】
図５は、誤って受信された第１のセクションを備えるマルチメディアデータを処理するように構成された復号器の一例のブロック図を示す。復号器は、取得（又は誤り検出）モジュール５０２と、適用（又は誤り処理）モジュール５０４とを備える。取得モジュール５０２は、受信した第１のセクションに対応する誤り分布情報を取得するように構成される。適用モジュール５０４は、複数の誤り復元スキームのうちの１つを、誤り分布情報に基づいて、受信したマルチメディアデータの第１のセクションに適用する。この適用モジュール５０４はまた、特定の隠蔽スキームを選択し、受信した誤りのあるセクションをそれに従って処理する。
【００５０】
図６は、到来するマルチメディアデータストリーム（図示せず）を復号するように構成された復号器の一例であるブロック図を示す。復号器デバイス６００は、受信機６０２と誤り隠蔽部６０４とを備える。この復号器デバイス６００は一例であって、例えば、記憶媒体６０６及びプロセッサ６０８のような追加構成要素を備えうることが注目されるべきである。
【００５１】
記憶媒体６０６は、ソリッドステート又はディスクベースの記憶装置のうちの１又は複数を含むメモリでありうる。プロセッサ６０８は、汎用プロセッサ又はデジタル信号プロセッサのうちの１又は複数を含む。プロセッサ６０８は、任意の適切な汎用シングルチップ又はマルチチップによるマイクロプロセッサであるか、例えばデジタルシグナルプロセッサ、マイクロコントローラ、又はプログラマブルゲートアレイのような任意の適切な特別目的マイクロプロセッサでありうる。プロセッサ６０８は、復号器６００の他の構成要素の動作を制御するために、１又は複数のソフトウェアプログラムを実行するように構成される。プロセッサ６０８はまた、メモリ６０６にアクセスし、データの読み書きを行うように構成される。
【００５２】
受信機６０２は、マルチメディアデータを受信するように構成される。マルチメディアデータは、誤りのあるセクションを持っているかもしれない。従って、受信機６０２は、誤りのある第１のセクションを有するマルチメディアデータを受信しうる。誤り隠蔽部６０４は、第１のセクションに対応する誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを、マルチメディアデータの第１のセクションに適用するように構成される。
【００５３】
復号器デバイス６００は、オプションとして、第１のセクションに対応する誤り分布情報を取得するように構成された取得モジュール１０を備えることができる。あるいは、誤り隠蔽部６０４は更に、第１のセクションに対応する誤り分布情報を取得するように構成される。
【００５４】
誤り隠蔽部６０４は、少なくとも、第１のセクションを備える第１のアクセスユニットが一様に符合化されたかに基づいて、少なくとも、チャネル切換が検出されたかに基づいて、少なくとも、新たなオブジェクトが検出されたかに基づいて、及び／又は、少なくとも、第１のセクションが、一様に符号化されたスライス又は非一様に符合化されたスライスを備えるかに基づいて、複数の誤り復元スキームのうちの１つを適用する。誤り隠蔽部６０４は、第１のセクションを備えるアクセスユニット内の全てのデータに対する誤りのあるデータの割合が、予め定めた閾値を越えるのであれば、第１のセクションのためにフレームレートアップ変換を適用する。誤り隠蔽部６０４は、第１のセクションが、新たなオブジェクト内にあれば、第１のセクションのために空間的誤り隠蔽を適用する。第１のセクションを備えるアクセスユニットがＩフレームであり、このＩフレームがシーン変化フレームではないのであれば、誤り隠蔽部６０４は、第１のセクションのために時間的誤り隠蔽を適用する。
【００５５】
更に、幾つかの実施形態では、誤り隠蔽部は、図７に示すように、選択モジュール７０５と、処理モジュール７１０とを備えうる。選択モジュールは、第１のセクションのための誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを選択するように構成される。また、処理モジュール６１４は、選択された誤り復元スキームに基づいて、第１のセクションを処理するように構成される。上述したように、複数の誤り復元スキームは、空間的誤り隠蔽、フレームレートアップ変換、Ｐフレームのための時間的誤り隠蔽、及び、Ｂフレームのための時間的誤り隠蔽のうちの１つ又は組み合わせを備えうる。
【００５６】
選択モジュール６１２が実装されると、選択モジュール６１２は、少なくとも、第１のセクションを備える第１のアクセスユニットが一様に符合化されたか、チャネル切換が検出されたか、新たなオブジェクトが検出されたか、及び／又は、第１のセクションが、一様に符号化されたスライス又は非一様に符合化されたスライスを備えているかに基づいて、複数の誤り復元スキームのうちの１つを選択するように構成される。同様に、選択モジュール６１２は、第１のセクションを備えるアクセスユニット内の全てのデータに対する誤りのあるデータの割合が、予め定めた閾値を越えるのであれば、第１のセクションのためにフレームレートアップ変換を選択し、第１のセクションが新たなオブジェクト内であれば、第１のセクションのために空間的誤り隠蔽を選択し、第１のセクションを備えるアクセスユニットがＩフレームであり、このＩフレームがシーン変化フレームではないのであれば、第１のセクションのために時間的誤り隠蔽を選択するように構成される。
【００５７】
従って、誤り隠蔽部６０４は、到来するマルチメディアデータの誤り隠蔽を行うように構成される。誤り隠蔽部６０４は、図２〜図４に関して上述したような適切な誤り隠蔽スキームを選択する方法に基づいて誤り隠蔽を実行するように構成されうる。幾つかの実施形態では、誤り隠蔽部６０４の機能の一部又は全ては、プロセッサ６０８によって行なわれうる。
【００５８】
図６に例示する機能ブロックのうちの何れか１つは、復号器の機能を変えることなく、再配列、削除、あるいは、１又は複数の他のブロックと統合されうることが注目されるべきである。例えば、誤り隠蔽部６０４は、プロセッサ６０８と統合されうる。
【００５９】
幾つかの実施形態では、誤って受信された第１のセクションを持つマルチメディアデータを処理する装置が提供される。この装置は、第１のセクションに対応する誤り分布情報を取得する手段と、複数の誤り復元スキームのうちの１つを、誤り分布情報に基づいて、マルチメディアデータの第１のセクションに適用する手段とを備える。誤り分布情報を取得する手段は、取得モジュール５０２を備える。誤り復元技術を適用する手段は、適用モジュール５０４を備える。一例では、適用モジュールは更に、第１のセクションのために、誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを選択する手段と、選択された誤り復元スキームに基づいて、第１のセクションを処理する手段とを備える。第１のセクションのために、誤り分布情報に基づいて、複数の誤り復元スキームのうちの１つを選択する手段と、選択された誤り復元スキームに基づいて、第１のセクションを処理する手段とは、適用モジュール５０４を備える。
【００６０】
当業者であれば、これら情報および信号が、種々異なった技術や技法を用いて表されることを理解するであろう。例えば、上述した記載の全体で引用されているデータ、指示、命令、情報、信号、ビット、シンボル、およびチップは、電圧、電流、電磁波、磁場または磁性粒子、光学場または光学微粒子、あるいはこれら何れかの組み合わせによって表現されうる。
【００６１】
当業者であれば、更に、ここで開示された実施形態に関連して記載された様々な説明的論理ブロック、モジュール、回路、およびアルゴリズムステップが、電子工学ハードウェア、コンピュータソフトウェア、あるいはこれらの組み合わせとして実現されることを理解するであろう。ハードウェアとソフトウェアとの相互互換性を明確に説明するために、様々に例示された部品、ブロック、モジュール、回路、およびステップが、それらの機能に関して一般的に記述された。それら機能がハードウェアとして又はソフトウェアとして実現されているかは、特定のアプリケーション及びシステム全体に課せられている設計制約に依存する。当業者であれば、各特定のアプリケーションに応じて変更した方法で上述した機能を実施しうる。しかしながら、この適用判断は、本発明の範囲から逸脱したものと解釈されるべきではない。
【００６２】
ここで開示された実施形態に関連して記述された様々の説明的論理ブロック、モジュール、および回路は、汎用プロセッサ、デジタル信号プロセッサ（ＤＳＰ）、アプリケーションに固有の集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）あるいはその他のプログラマブル論理デバイス、ディスクリートゲートあるいはトランジスタロジック、ディスクリートハードウェア部品、又は上述された機能を実現するために設計された上記何れかの組み合わせを用いて実現又は実行されうる。汎用プロセッサとしてマイクロプロセッサを用いることが可能であるが、代わりに、従来技術によるプロセッサ、コントローラ、マイクロコントローラ、あるいは状態機器を用いることも可能である。プロセッサは、たとえばＤＳＰとマイクロプロセッサとの組み合わせ、複数のマイクロプロセッサ、ＤＳＰコアに接続された１つ以上のマイクロプロセッサ、またはこのような任意の構成である計算デバイスの組み合わせとして実現することも可能である。
【００６３】
ここで開示された実施形態に関連して記述された方法やアルゴリズムのステップは、ハードウェアや、プロセッサによって実行されるソフトウェアモジュールや、これらの組み合わせによって直接的に具現化される。ソフトウェアモジュールは、ＲＡＭメモリ、フラッシュメモリ、ＲＯＭメモリ、ＥＰＲＯＭメモリ、ＥＥＰＲＯＭメモリ、レジスタ、ハードディスク、リムーバブルディスク、ＣＤ−ＲＯＭ、あるいは当該技術分野で知られているその他の型式の記憶媒体に収納されうる。記憶媒体は、プロセッサがそこから情報を読み取り、またそこに情報を書き込むことができるようにプロセッサに結合される。または、記憶媒体はプロセッサに統合されうる。プロセッサと記憶媒体は特定用途向けＩＣ（ＡＳＩＣ）に存在しうる。ＡＳＩＣは、ユーザ端末内に存在することもできる。あるいはこのプロセッサと記憶媒体は、ユーザ端末内のディスクリート部品として存在しうる。
【００６４】
開示された実施形態における上述の記載は、当該技術分野におけるいかなる人であっても、本発明の活用または利用を可能とするように提供される。これらの実施形態への様々な変形例もまた、当業者に明らかであって、ここで定義された一般的な原理は、他の例にも適用されうる。
【図面の簡単な説明】
【００６５】
【図１】図１は、到来するマルチメディアデータストリーム内のスライスの可能なタイプのリストの例を示す。
【図２】図２は、誤り隠蔽方法の一例を示すフローチャートである。
【図３】図３は、非一様タイプの誤り隠蔽方法の一例を示すフローチャートである。
【図４】図４は、誤って受信した第１のセクションを備えるマルチメディアデータストリームを処理する方法の一例を示すフローチャートである。
【図５】図５は、誤って受信した第１のセクションを備えるマルチメディアデータストリームを処理するように構成された復号器の一例を示すブロック図を示す。
【図６】図６は、到来するマルチメディアデータストリームを復号するように構成された復号器の一例を示すブロック図を示す。
【図７】図７は、誤り隠蔽部の一例を示す。
【図１】
2008545297.tif 000003
【図２】
2008545297.tif 000004
【図３】
2008545297.tif 000005
【図４】
2008545297.tif 000006
【図５】
2008545297.tif 000007
【図６】
2008545297.tif 000008
【図７】
2008545297.tif 000009