(57)【特許請求の範囲】
【請求項１】
ネットワークを通してメディアを伝送する方法において、該メディアは複数の画像及び音声を備え、以下のステップを含み、
ステップ（Ａ）：サーバー上でアプリケーションプログラムを執行し、複数の３Ｄモデル及び３Ｄ音声を含むバーチャル３Ｄ環境を産生し、該各３Ｄモデル及び３Ｄ音声は、該３Ｄモデル或いは３Ｄ音声を、ユーザーデバイス中にプレ保存するか否かの状態の指示に対応し、
ステップ（Ｂ）：該サーバーは、該各３Ｄモデル及び３Ｄ音声の前記状態をチェックし、どの３Ｄモデル或いは３Ｄ音声を、音声を備える２Ｄビデオストリーミングフレームにエンコードするべきかを決定し、そのエンコード方式は、該ユーザーデバイス中にプレ保存されていない各３Ｄモデル及び３Ｄ音声を、該フレーム中にエンコードし、
ステップ（Ｃ）：該サーバーは、該音声を備える２Ｄビデオストリーミングフレームを、ネットワークを通して、該ユーザーデバイスに伝送し、該サーバーは、該ユーザーデバイス中にプレ保存されていない各３Ｄモデル及び３Ｄ音声を、所定の順序に基づき、該ユーザーデバイスに伝送し、該ユーザーデバイスが、該サーバーから送られて来た各３Ｄモデル或いは３Ｄ音声を受け取ると、該ユーザーデバイスは、該各３Ｄモデル或いは３Ｄ音声を保存し、メッセージを該サーバーに発信し、該各３Ｄモデル或いは３Ｄ音声の状態を改変させ、該各３Ｄモデル或いは３Ｄ音声を現在、該ユーザーデバイス中にプレ保存するよう指示し、
ステップ（Ｄ）：該ユーザーデバイスは、該サーバーからのフレームを受け取りデコードし、該フレームを利用し、該各ユーザーデバイス中にプレ保存されるが、該フレーム中に含まれない３Ｄモデルと３Ｄ音声のバックグラウンド画面とバックグラウンドオーディオをレンダリングし、これによりアウトプットされる音声を備えるビデオストリーミング混合フレームを産生することを特徴とするネットワークを通してメディアを伝送する方法。
【請求項２】
前記ステップ（Ｂ）において、該各３Ｄモデルの状態は、該サーバーにより、該バーチャル位置に最も近い点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、
チェック中に、該ユーザーデバイス中にプレ保存されていない一個目の３Ｄモデルを発見すると、その後の各３Ｄモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該発見された３Ｄモデルを含むすべての他の３Ｄモデルを、該フレーム中にエンコードし、
しかもステップ（Ｂ）において、該各３Ｄ音声の状態は、該サーバーにより、該バーチャル位置に最も近い点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない任意の３Ｄ音声を発見すると、該３Ｄ音声を、該音声を備える２Ｄビデオストリーミング混合フレーム中にエンコードすることを特徴とする請求項１に記載のネットワークを通してメディアを伝送する方法。
【請求項３】
前記新しい３Ｄモデルが前記３Ｄ環境中に出現すると、その後の各３Ｄモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該新しい３Ｄモデルを含むその後のすべての３Ｄモデルを、該フレーム中にエンコードし、
該バーチャル位置は、３Ｄプロジェクション面であることを特徴とする請求項２に記載のネットワークを通してメディアを伝送する方法。
【請求項４】
前記ステップ（Ｃ）において、該サーバーが、該ユーザーデバイス中にプレ保存されていない該各３Ｄモデル及び３Ｄ音声を、該ユーザーデバイスに伝送する所定順序は、該バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、
該ステップ（Ｃ）において、該サーバーは、該フレーム中にエンコードされていない３Ｄモデル及び３Ｄ音声の状態情報を、該ユーザーデバイス中に伝送し、該ユーザーデバイスが、該状態情報を受け取り及びチェックする時には、以下の方式に基づき行い、
受け取った該状態情報中の任意の３Ｄモデル或いは３Ｄ音声が、該デバイス中にプレ保存されていないなら、該ユーザーデバイスは、該サーバーに、該３Ｄモデル或いは３Ｄ音声をダウンロードするように請求を送信し、
該状態情報は、該音声を備える２Ｄビデオストリーミングフレーム中にエンコードされていない解釈データを含み、該各３Ｄモデルの該解釈データは、該３Ｄモデルの名称、位置、速度、ディレクション、及び属性を含むことを特徴とする請求項１に記載のネットワークを通してメディアを伝送する方法。
【請求項５】
ネットワークを通してメディアを伝送するシステムは、サーバー、ユーザーデバイスを備え、
該サーバーは、アプリケーションプログラムを執行し、複数の３Ｄモデル及び３Ｄ音声を含むバーチャル３Ｄ環境を産生し、該各３Ｄモデル及び３Ｄ音声は、該３Ｄモデル或いは該３Ｄ音声を、ユーザーデバイス中にプレ保存するか否かを指示する状態に対応し、
該ユーザーデバイスは、ネットワークを通して該サーバーに連結し、該アプリケーションプログラムにより産生する少なくともいくらかの該３Ｄモデル及び該３Ｄ音声を含む該メディアを取得し、
該メディアは、複数の画像及び音声を含み、該複数の画像及び音声の伝送方式は、以下を含み、
ステップ（Ｂ）：該サーバーは、該各３Ｄモデル及び３Ｄ音声の前記状態をチェックし、どの３Ｄモデル或いは３Ｄ音声を、音声を備える２Ｄビデオストリーミングフレームにエンコードするべきかを決定し、そのエンコード方式は、該ユーザーデバイス中にプレ保存されていない各３Ｄモデル及び３Ｄ音声を、該フレーム中にエンコードし、
ステップ（Ｃ）：該サーバーは、該音声を備える２Ｄビデオストリーミングフレームを、ネットワークを通して、該ユーザーデバイスに伝送し、該サーバーは、該ユーザーデバイス中にプレ保存されていない各３Ｄモデル及び３Ｄ音声を、所定の順序に基づき、該ユーザーデバイスに伝送し、該ユーザーデバイスが、該サーバーから送られて来た各３Ｄモデル或いは３Ｄ音声を受け取ると、該ユーザーデバイスは、該各３Ｄモデル或いは３Ｄ音声を保存し、メッセージを該サーバーに発信し、該各３Ｄモデル或いは３Ｄ音声の状態を改変させ、該各３Ｄモデル或いは３Ｄ音声を現在、該ユーザーデバイス中にプレ保存するよう指示し、
ステップ（Ｄ）：該ユーザーデバイスは、該サーバーからのフレームを受け取りデコードし、該フレームを利用し、該各ユーザーデバイス中にプレ保存されるが、該フレーム中の該各３Ｄモデル及び３Ｄ音声を含まないバックグラウンド画面とバックグラウンドオーディオをレンダリングし、これにより、アウトプットされる音声を備えるビデオストリーミング混合フレームを産生し、
ステップ（Ｅ）：該ユーザーデバイスは該混合フレームを計算し、アウトプットされる音声を備えるビデオストリーミングのフレームとすることを特徴とするネットワークを通してメディアを伝送するシステム。
【請求項６】
前記ステップ（Ｂ）において、該各３Ｄモデルの状態は、該サーバーにより、バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない一個目の３Ｄモデルを発見すると、その後の各３Ｄモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該発見された３Ｄモデルを含むすべての他の３Ｄモデルを、該フレーム中にエンコードし、
しかも、該ステップ（Ｂ）において、該各３Ｄ音声の状態は、該サーバーにより、該バーチャル位置に最も近い点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない任意の３Ｄ音声を発見すると、該３Ｄ音声を、該音声を備える２Ｄビデオストリーミングフレーム中にエンコードし、
新しい３Ｄモデルが該３Ｄ環境中に出現すると、その後の各３Ｄモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該新しい３Ｄモデルを含む他のすべての３Ｄモデルを、該フレーム中にエンコードすることを特徴とする請求項５に記載のネットワークを通してメディアを伝送するシステム。
【請求項７】
前記ステップ（Ｃ）において、該サーバーが、該ユーザーデバイス中にプレ保存されていない該各３Ｄモデル及び３Ｄ音声を、該ユーザーデバイスに伝送する所定順序は、該バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、
該ステップ（Ｃ）において、該サーバーはまた、該フレーム中にエンコードされていない３Ｄモデル及び３Ｄ音声の状態情報を、該ユーザーデバイス中に伝送し、該ユーザーデバイスが、該状態情報を受け取り及びチェックする時には、以下の方式に基づき行い、受け取った該状態情報中の任意の３Ｄモデル或いは３Ｄ音声が、該デバイス中にプレ保存されていないなら、該ユーザーデバイスは該サーバーに、該３Ｄモデル或いは該３Ｄ音声をダウンロードするよう請求を送信し、該状態情報は、該フレーム中にエンコードされていない該３Ｄモデル及び該３Ｄ音声の解釈データを含み、該各３Ｄモデル或いは該３Ｄ音声の該解釈データは、該３Ｄモデル或いは該３Ｄ音声の名称、位置、速度、ディレクション、及び属性を含むことを特徴とする請求項５に記載のネットワークを通してメディアを伝送するシステム。
【請求項８】
前記サーバーは、３Ｄシーントランスミッター、３Ｄシーンサーバーをさらに備え、
該３Ｄシーントランスミッターは、該アプリケーションプログラム中、或いは執行時間中において、該アプリケーションプログラム上にプログラム執行時で動態的に連結されるプログラムライブラリーをコンパイルし、
該３Ｄシーントランスミッターは、すべての３Ｄモデル及び３Ｄ音声及び各３Ｄモデル或いは３Ｄ音声状態を含むリストを保有し、該状態は、該３Ｄモデル或いは該３Ｄ音声の状態を“Not Ready （準備中）”、“Loading （ダウンロード中）”及び“Ready for Client（ユーザーはダウンロード済み）”の内の何れか一つで示しており、
該３Ｄシーンサーバーは、アプリケーションプログラムにより、サーバー上で執行されるサーバープログラムで、該３Ｄシーンサーバーは、該３Ｄシーントランスミッターと該ユーザーデバイスとの間のメッセージ伝達の中継点となり、該３Ｄシーンサーバーはまた、該ユーザーデバイスが、該サーバーより、必要な３Ｄモデル及び３Ｄ音声をダウンロードするダウンロードサーバープログラムともなり、
該ユーザーデバイスは、３Ｄシーンユーザーエンド、３Ｄシーンキャッシュをさらに備え、
該３Ｄシーンユーザーエンドは、該ユーザーデバイス上で動作するプログラムで、該アウトプットビデオストリーミングを産生し、ネットワークを通してと該サーバーと通じ、
該３Ｄシーンキャッシュは、前以て該サーバーからダウンロードした少なくとも一個の該３Ｄモデル及び該３Ｄ音声を保存することを特徴とする請求項５に記載のネットワークを通してメディアを伝送するシステム。
【請求項９】
ネットワークを通してメディアを伝送する方法において、該メディアは、複数の画像及び音声を含み、
該方法は、以下のステップを含み、
ステップ（Ａ）：サーバー上でアプリケーションプログラムを執行し、複数の３Ｄモデル及び３Ｄ音声を含むバーチャル３Ｄ環境を産生し、該各３Ｄモデル及び３Ｄ音声は、該３Ｄモデル或いは該３Ｄ音声を、ユーザーデバイス中にプレ保存するか否かを指示する状態に対応し、
ステップ（Ｂ）：該サーバーは、該各３Ｄ音声の前記状態をチェックし、どの３Ｄ音声を、音声を備える２Ｄビデオストリーミングフレームにエンコードする必要があるかを決定し、そのエンコード方式は、該ユーザーデバイス中にプレ保存されない該各３Ｄ音声を、該音声を備える２Ｄビデオストリーミングフレーム中にエンコードし、
ステップ（Ｃ）：該サーバーは、該音声を備える２Ｄビデオストリーミングフレームを、ネットワークを通して、該ユーザーデバイスに伝送し、該サーバーは、該ユーザーデバイス中にプレ保存されていない該各３Ｄ音声を、所定の順序に基づき、該ユーザーデバイスに伝送し、
該ユーザーデバイスが、該サーバーから送られて来た該各３Ｄ音声を受け取ると、該ユーザーデバイスは、該各３Ｄ音声を保存し、メッセージを該サーバーに発信し、該各３Ｄ音声の状態を改変し、該各３Ｄ音声を現在該ユーザーデバイス中にプレ保存するよう指示し、
ステップ（Ｄ）：該ユーザーデバイスは、該サーバーから受け取った該音声を備える２Ｄビデオストリーミングフレームをデコードし、該音声を備える２Ｄビデオストリーミングフレームを利用し、該各ユーザーデバイス中にプレ保存されるが、該音声を備える２Ｄビデオストリーミングフレーム中に含まれない３Ｄ音声のバックグラウンドオーディオをレンダリングし、これによりアウトプットされる音声を備えるビデオストリーミング混合フレームを産生することを特徴とするネットワークを通してメディアを伝送する方法。
【請求項１０】
前記ネットワークを通してメディアを伝送する方法は、
該ステップ（Ａ）において、該各３Ｄモデルは、該３Ｄモデルを該ユーザーデバイス中にプレ保存するか否か指示の状態に対応し、
該ステップ（Ｂ）において、該サーバーは、該各３Ｄ音声の状態をチェックし、これによりどの３Ｄ音声を、音声を備える２Ｄビデオストリーミングフレーム中にエンコードするかを決定し、その実施方式は、該ユーザーデバイス中にプレ保存されていない任意の３Ｄ音声を発見すると、該３Ｄ音声を、該音声を備える２Ｄビデオストリーミングフレーム中にエンコードし、
該ステップ（Ｂ）において、該各３Ｄモデルの状態は、該サーバーにより、バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない一個目の３Ｄモデルを発見すると、その後の各３Ｄモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該発見された３Ｄモデルの他のすべての３Ｄモデルを、該音声を備える２Ｄビデオストリーミングフレーム中にエンコードし、
該ステップ（Ｃ）において、該サーバーはまた、該各ユーザーデバイス中にプレ保存されていない３Ｄモデルを、該バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への所定順序で、該ユーザーデバイス中に伝送し、該ユーザーデバイスが該サーバーから送られて来た該各３Ｄモデルを受け取ると、該ユーザーデバイスは、該各３Ｄモデルを保存し、メッセージを該サーバーに発信し、該各３Ｄモデルの状態を改変し、該各３Ｄモデルを現在該ユーザーデバイス中にプレ保存するよう指示することを特徴とする請求項９に記載のネットワークを通してメディアを伝送する方法。
【請求項１１】
前記新しい３Ｄモデルが該３Ｄ環境中に出現すると、他の該各３Ｄモデルが該ユーザーデバイス中にプレ保存されているか否かに関わらず、該新しい３Ｄモデルを含むすべての３Ｄモデルを、該フレーム中にエンコードし、該バーチャル位置は、３Ｄプロジェクション面であることを特徴とする請求項１０に記載のネットワークを通してメディアを伝送する方法。
【請求項１２】
前記ステップ（Ｃ）において、該サーバーは、該フレーム中にエンコードされていない３Ｄモデル及び３Ｄ音声の状態情報を、該ユーザーデバイス中に伝送し、該ユーザーデバイスが、該状態情報を受け取り及びチェックする時には、以下の方式に基づき行い、受け取った該状態情報中の任意の３Ｄモデル或いは３Ｄ音声が、該デバイス中にプレ保存されていないなら、該ユーザーデバイスは、該サーバーに、該３Ｄモデル或いは３Ｄ音声をダウンロードするように請求を送信し、該状態情報は、該音声を備える２Ｄビデオストリーミングフレーム中にエンコードされていない解釈データを含み、該解釈データは、該３Ｄモデル或いは３Ｄ音声の名称、位置、速度、ディレクション、及び属性を含むことを特徴とする請求項１０に記載のネットワークを通してメディアを伝送する方法。
【請求項１３】
ネットワークを通してメディアを伝送する方法において、該メディアは複数の画像及び音声を含み、
該方法は、以下のステップを含み、
ステップ（Ａ）：サーバー上でアプリケーションプログラムを執行し、複数の３Ｄモデルを含むバーチャル３Ｄ環境を産生し、該各３Ｄモデルは、該３Ｄモデルを、ユーザーデバイス中にプレ保存するか否かを指示する状態に対応し、
ステップ（Ｂ）：該サーバーは、該各３Ｄモデルの前記状態をチェックし、該３Ｄモデルを、音声を備える２Ｄビデオストリーミングフレームにエンコードするかを決定し、そのエンコード方式は、該ユーザーデバイス中にプレ保存されていない該各３Ｄモデルを、該フレーム中にエンコードし、該各３Ｄモデルの状態は、該サーバーにより、バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない一個目の３Ｄモデルを発見すると、その後の各３Ｄモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該発見された３Ｄモデルを含むすべての他の３Ｄモデルを、該フレーム中にエンコードし、
ステップ（Ｃ）：ステップ（Ｂ）において、該サーバーが、任意の３Ｄモデルを、該フレーム中にエンコードする時、該サーバーは、少なくとも該２Ｄビデオストリーミングのフレームを、ネットワークを通して、該ユーザーデバイスに伝送し、該ステップ（Ｃ）中において、該サーバーはまた、該各ユーザーデバイス中にプレ保存されていない３Ｄモデルを、該バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への所定順序で、該ユーザーデバイス中に伝送し、該ユーザーデバイスが該サーバーから送られて来た該各３Ｄモデルを受け取ると、該ユーザーデバイスは、該各３Ｄモデルを保存し、メッセージを該サーバーに発信し、該各３Ｄモデルの状態を改変し、該各３Ｄモデルを現在該ユーザーデバイス中にプレ保存するよう指示し、もし該各３Ｄモデルがすべて該ユーザーデバイス中にプレ保存されているなら、該サーバーはこれ以上エンコードする必要はなく、また該２Ｄビデオストリーミングのフレームを伝送する必要もなく、
ステップ（Ｄ）：該ユーザーデバイスは、該サーバーからのフレームを受け取りデコードし、該フレームを利用し、該各ユーザーデバイス中にプレ保存されるが、該フレーム中に含まれない３Ｄモデルのバックグラウンド画面とバックグラウンドオーディオをレンダリングし、これにより混合フレームを産生することを特徴とするネットワークを通してメディアを伝送する方法。
【請求項１４】
前記新しい３Ｄモデルが該３Ｄ環境中に出現すると、その後の各３Ｄモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該新しい３Ｄモデルを含む他のすべての３Ｄモデルを、該フレーム中にエンコードし、
該バーチャル位置は該ユーザーデバイススクリーンの３Ｄプロジェクション面であることを特徴とする請求項１３に記載のネットワークを通してメディアを伝送する方法。
【請求項１５】
前記ステップ（Ｃ）において、該サーバーは、該フレーム中にエンコードされていない３Ｄモデルの状態情報を、該ユーザーデバイス中に伝送し、該ユーザーデバイスが、該状態情報を受け取り及びチェックする時には、以下の方式に基づき行い、
もし、受け取った該状態情報中の任意の３Ｄモデルが、該デバイス中にプレ保存されていないなら、該ユーザーデバイスは該サーバーに該３Ｄモデルをダウンロードする請求を送信し、
該状態情報は、該フレーム中にエンコードされていない解釈データを含み、該各３Ｄモデルの該解釈データは、該３Ｄモデルの名称、位置、速度、ディレクション、及び属性を含むことを特徴とする請求項１３に記載のネットワークを通してメディアを伝送する方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はネットワークを通して画像や音声等メディアを伝送するシステム及び方法に関し、特に、ユーザーデバイス上で３Ｄオブジェクトと音声をレンダリングする方法で、同方法は（Ａ）３Ｄオブジェクトと３Ｄ音声に対するレンダリング(Rendering)、（Ｂ）サーバーが提供する立体音声を備える２Ｄビデオを結合して完成し、ネットワークを通してメディアを伝送するシステム及び方法に関する。
【背景技術】
【０００２】
この数年間、オンラインゲームは世界のトレンドとなっている。
クラウドコンピューティング関連システムとテクノロジーの発展に従い、ストリーミングサーバを利用したゲームコンテンツやサービスを提供する技術も現れている。
【０００３】
従来のクラウドゲームサービスを提供する方法は、サーバーによりほとんどすべての演算を行う。
つまり、クラウドゲームサービスを提供するには、該サーバーは多数の参加者により移動或いはコントロールできる３Ｄオブジェクトを含むバーチャル３Ｄ環境を作らなければならない。
【０００４】
従来の技術において、これら３Ｄオブジェクトは音声効果を備える。
後の参加者（プレーヤー）のコントロール動作に基づき、該サーバーはバーチャル３Ｄ環境と３Ｄオブジェクトとを結合し、ゲーム機のスクリーン上に、立体音声を備える２Ｄゲームをレンダリングする。
続いて、該サーバーは、レンダリング後の画像と立体音声を、音声を備える２Ｄビデオストリーミングとして、ネットワークを通してプレーヤーのデバイス上に伝送する。
プレーヤーデバイスはそれを受け取った後、デコードと該２Ｄビデオストリーミングを表示するだけで、余計な３Ｄレンダリング演算を行う必要はない。
【０００５】
しかしながら、同一サーバーにおいて、多くのプレーヤーがレンダリング演算を行う伝統技術では、３Ｄレンダリング演算を執行するサーバーの負荷が過大になってしまう。
【０００６】
この他、プレーヤーが目にする画面はすべて、破壊的圧縮を経た２Ｄビデオストリーミング形式で伝送されるため、画像であろうと音声であろうと、その品質はもともとの３Ｄオブジェクトの品質とは差がある。
しかも、サーバーとプレーヤーデバイス間の大量のネットワーク通信帯域幅も大きな問題となる。
本発明は、従来のネットワークを通してメディアを伝送するシステム及び方法の上記した欠点に鑑みてなされたものである。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２０１４−１６８２５２公報
【発明の概要】
【発明が解決しようとする課題】
【０００８】
本発明が解決しようとする課題は、サーバーの負荷を低下させ、ユーザーデバイス上に表示される画像と音声の品質を高め、サーバーとユーザーデバイス間の通信帯域幅を節減し、ユーザーデバイスそのもの３Ｄレンダリングと音声効果のアウトプットとサーバーエンドの３Ｄレンダリング及び音声効果アウトプット（２ＤストリーミングＡＶに圧縮されて伝送される）とを結合させ、より良い３Ｄレンダリングと音声効果のアウトプット結果とするネットワークを通してメディアを伝送するシステム及び方法を提供することである。
【課題を解決するための手段】
【０００９】
上記課題を解決するため、本発明は下記のネットワークを通してメディアを伝送するシステム及び方法を提供する。
ネットワークを通してメディアを伝送するシステム及び方法において、該システムは、サーバー及びユーザーデバイスを備え、該方法は、以下のステップを備え、
ステップ（Ａ）：サーバー上でアプリケーションプログラムを執行し、複数の３Ｄモデル及び３Ｄ音声を含むバーチャル３Ｄ環境を産生し、各３Ｄモデル或いは３Ｄ音声は、ある状態に対応し、該状態は、この３Ｄモデル或いは３Ｄ音声がユーザーデバイス中にプレ保存するか否かを指示し、ユーザーデバイスは、ネットワークを通してサーバーに連結し、アプリケーションプログラムにより産生する少なくとも一個の各３Ｄモデル及び３Ｄ音声を含むメディアをダウンロードする。
【００１０】
ステップ（Ｂ）：サーバーは３Ｄモデルの状態をチェックし、どの３Ｄモデルを、音声を備える２Ｄビデオストリーミングフレームにエンコードするかを決定し、その決定方式は、ユーザーデバイス中にプレ保存されていない３Ｄモデルを、フレーム中にエンコードし、サーバーは３Ｄ音声の状態をチェックし、どの３Ｄ音声を、立体音声を備える２Ｄビデオストリーミングフレームにエンコードするか決定し、その決定方式は、ユーザーデバイス中にプレ保存されていない３Ｄ音声を、ビデオストリーミングフレーム中にエンコードし、３Ｄ音声が、ビデオストリーミングフレーム中の立体音声にエンコードされると、その左右チャンネルの音量は、その位置及び使用者の耳に対する速度により決定され、ＢＧＭは、所定位置上の３Ｄ音声効果と定義され、サーバーの負荷を低下させ、或いは不安定なネットワークによるデータ伝達で生じる騒音を防止するため、サーバーは、ビデオフレーム中の３Ｄ音声のエンコードを放棄することができ、この状況において、３Ｄ音声は、ユーザーデバイス中に予め保存した時だけに再生される。
【００１１】
ステップ（Ｃ）：サーバーは、少なくともネットワークを通して立体音声を備える２Ｄビデオストリーミングビデオフレームをユーザーデバイスに伝送する。
【００１２】
ステップ（Ｄ）：ユーザーデバイスは、サーバーからの立体音声を備えるビデオストリーミングフレームデコードを受け取り、ビデオストリーミングフレームをバックグラウンド画面とバックグラウンドオーディオとして利用し、このバックグラウンドの上において、ユーザーデバイス中にプレ保存されるが、ビデオストリーミングフレーム中にまだ含まれていない３Ｄモデルと３Ｄ音声をレンダリングし、前景画面と前景オーディオとする。
【００１３】
ステップ（Ｅ）：ユーザーデバイスは、自身がレンダリングした前景画面と前景オーディオとサーバーから伝送されたストリーミングフレーム、つまりバックグラウンド画面とバックグラウンドオーディオを混合し、新しく、音声を備えるビデオストリーミングフレームをアウトプットする。
【００１４】
一実施形態のステップ（Ｂ）中では、我々はあるバーチャル位置を取り、続いて各３Ｄモデルは、このバーチャル位置の遠近に基づき配列され、距離が最も近い３Ｄモデルから始め、一つ一つその状態をチェックし、チェック中に、ユーザーデバイス中にプレ保存されていない一個目の３Ｄモデルを発見すると、その後の３Ｄモデルがユーザーデバイス中にプレ保存されるか否かにかかわらず、発見された３Ｄモデル及びその後のすべての３Ｄモデルを含み、ビデオストリーミングフレーム中にエンコードし、任意の３Ｄモデルの位置が改変された時、或いは配列参考用のバーチャル位置が改変された時、前記の配列とチェックを再度執行し、しかも最新のチェック結果に基づき、３Ｄモデルをビデオストリーミングフレーム中にエンコードする必要があるか否かを決定する。
【００１５】
一実施形態中において、新しい３Ｄモデルが３Ｄ環境中に出現すると、その後の３Ｄモデルがユーザーデバイス中にプレ保存されるか否かにかかわらず、新しい３Ｄモデルを含むその後のすべての３Ｄモデルを、ビデオストリーミングフレーム中にエンコードする。
【００１６】
一実施形態のステップ（Ｃ）において、サーバーは、ユーザーデバイス中にプレ保存されていない３Ｄモデル及び３Ｄ音声を、所定の順序に基づき、ユーザーデバイス中に伝送し、ユーザーデバイスがサーバーにより伝送された３Ｄモデル或いは３Ｄ音声を受け取ると、ユーザーデバイスは、３Ｄモデル或いは３Ｄ音声を保存し、メッセージをサーバーに送り、３Ｄモデル或いは３Ｄ音声の状態を改変し、サーバーに指示し、この３Ｄモデル或いは３Ｄ音声は、ユーザーデバイス中に既にプレ保存される。
【００１７】
一実施形態のステップ（Ｃ）中において、サーバーは、ビデオストリーミングフレーム中に未エンコードの３Ｄモデル及び３Ｄ音声の状態情報を、ユーザーデバイスに伝送し、ユーザーデバイスが、状態情報を受け取り、及びチェックする時には、以下の方式に基づき行い、もし、受け取った状態情報中の任意の３Ｄモデル或いは３Ｄ音声が、ユーザーデバイス中にプレ保存される者でないなら、ユーザーデバイスは、サーバーに、３Ｄモデル或いは３Ｄ音声をダウンロードするように請求を送信する。
【００１８】
一実施形態中において、状態情報は、ビデオストリーミングフレーム中にエンコードされていない解釈データを含み、各解釈データは、３Ｄモデル或いは３Ｄ音声の名称、位置、速度、ディレクション、及び属性を含む。
【００１９】
一実施形態中において、サーバーは、３Ｄシーントランスミッター及び３Ｄシーンサーバーをさらに含み、３Ｄシーントランスミッターは、アプリケーションプログラム中或いは執行時にアプリケーションプログラム上に動態連結するデータベースをコンパイルし、それは、すべての３Ｄモデル及び３Ｄ音声及び各３Ｄモデル或いは３Ｄ音声状態を含むリストを保有し、含む状態は、３Ｄモデル或いは３Ｄ音声の状態が“Not Ready（準備中）”、“Loading （ダウンロード中）”、或いは“Ready for Client（ユーザーはダウンロード済み）”の内の何れか一つで示し、３Ｄシーンサーバーはサーバー上で執行するサーバープログラムで、３Ｄシーントランスミッター及びユーザーデバイス間メッセージ伝達の中継点とし、３Ｄシーンサーバー自身は、ユーザーデバイスが、サーバーから必要な３Ｄモデル及び３Ｄ音声をダウンロードするファイルダウンロードサーバーとすることができる。
【００２０】
一実施形態中において、ユーザーデバイスはさらに、３Ｄシーンユーザーエンド及び３Ｄシーンキャッシュを備え、３Ｄシーンユーザーエンドはユーザーデバイス上で動作するプログラムで、３Ｄモデルのレンダリングに用い、結果をビデオストリーミングにアウトプットし、ネットワークを通してサーバーとコミュニケーションし、３Ｄシーンキャッシュは、前以てサーバーからダウンロードした少なくとも一個の３Ｄモデル及び３Ｄ音声を保存する。
【発明の効果】
【００２１】
本発明のネットワークを通してメディアを伝送するシステム及び方法は、サーバーの負荷を低下させ、ユーザーデバイス上に表示される画像と音声の品質を高め、サーバーとユーザーデバイス間の通信帯域幅を節減し、ユーザーデバイスそのもの３Ｄレンダリングと音声効果のアウトプットとサーバーエンドの３Ｄレンダリング及び音声効果アウトプットとを結合させ、より良い３Ｄレンダリングと音声効果をアウトプットすることができる。
【図面の簡単な説明】
【００２２】
【図１】本発明一実施形態によるネットワークを通してメディアを伝送するシステムの模式図である。
【図２】本発明一実施形態によるネットワークを通してメディアを伝送するシステムの構成を示す模式図である。
【図３Ａ】本発明一実施形態によるネットワークを通してメディアを伝送する方法のフローチャートである。
【図３Ｂ】本発明の別種の実施形態によるネットワークを通してメディアを伝送する方法のフローチャートである。
【図４Ａ】本発明方法において、いかにしてビデオストリーミング及び３Ｄモデルを伝送するかを示す一実施形態の模式図である。
【図４Ｂ】本発明方法において、いかにしてビデオストリーミング及び３Ｄモデルを伝送するかを示す一実施形態の模式図である。
【図４Ｃ】本発明方法において、いかにしてビデオストリーミング及び３Ｄモデルを伝送するかを示す一実施形態の模式図である。
【図５Ａ】本発明方法において、どの３Ｄモデルがフレームにエンコードされるべきかをいかにして決定するかを示す実施形態の模式図である。
【図５Ｂ】本発明方法において、どの３Ｄモデルがフレームにエンコードされるべきかをいかにして決定するかを示す実施形態の模式図である。
【図５Ｃ】本発明方法において、どの３Ｄモデルがフレームにエンコードされるべきかをいかにして決定するかを示す実施形態の模式図である。
【図６Ａ】本発明方法において、音声を備えるビデオストリーミング及び３Ｄ音声をいかにして伝送するかを示す実施形態の模式図である。
【図６Ｂ】本発明方法において、音声を備えるビデオストリーミング及び３Ｄ音声をいかにして伝送するかを示す実施形態の模式図である。
【図６Ｃ】本発明方法において、音声を備えるビデオストリーミング及び３Ｄ音声をいかにして伝送するかを示す実施形態の模式図である。
【図７Ａ】本発明方法において、どの３Ｄ音声が音声を備えるビデオストリーミングフレームにエンコードされるべきかをいかにして決定するかを示す一実施形態の模式図である。
【図７Ｂ】本発明方法において、どの３Ｄ音声が音声を備えるビデオストリーミングフレームにエンコードされるべきかをいかにして決定するかを示す一実施形態の模式図である。
【図７Ｃ】本発明方法において、どの３Ｄ音声が音声を備えるビデオストリーミングフレームにエンコードされるべきかをいかにして決定するかを示す一実施形態の模式図である。
【発明を実施するための形態】
【００２３】
以下に図面を参照しながら本発明を実施するための最良の形態について詳細に説明する。
【実施例】
【００２４】
本発明はオンラインゲームに運用され、プレーヤーはユーザーデバイスを使用し、ネットワークを通して、サーバー上でゲームを行う。
【００２５】
このサーバーはプレーヤーの指令に基づき動作し、ユーザーデバイス上でビデオを生じる。
【００２６】
例えば、あるプレーヤーがユーザーデバイスでアクションを採ると、この動作はサーバーデバイスに伝送され、それは画像を演算し、画像をユーザーデバイスに回送する
【００２７】
多くのオンラインゲームにおいて、サーバーが生じる２Ｄ画像は、視線範囲内の他のオブジェクトの３Ｄレンダリング（Rendering）を含む。
【００２８】
本発明は、サーバーにより、ユーザーデバイスが必要とする３Ｄモデル及び３Ｄ音声を提供し、サーバーとユーザーデバイスとの間で、視線範囲内にあるオブジェクトの３Ｄレンダリング解析を行う。
【００２９】
例えば、サーバーはいくらか或いはすべての３Ｄモデル及び３Ｄ音声をユーザーデバイスに提供し、並びに各３Ｄモデル或いは３Ｄ音声は位置、ディレクション及び状態データ等の関連する解釈データを付帯する。
【００３０】
ゲームの初期には、ユーザーデバイス上でゲームと関連するすべての画像（包括関連する３Ｄレンダリング）は、ネットワークを通してサーバーにより制作され、立体音声を備える２Ｄビデオストリーミングとなる。
【００３１】
本発明のシステム、ネットワークを通して、視線範囲内において、３Ｄモデル及び３Ｄ音声等のメディア及びそのレンダリング情報をユーザーデバイスに送るが、その際、比較的近い（目に近い）オブジェクトは優先的に送られる。
【００３２】
本発明システムはできるだけユーザーデバイス上で、３Ｄモデル及び３Ｄ音声のレンダリングを行い、次善の策として、サーバー上で、３Ｄモデル或いは３Ｄ音声等のレンダリングを行う。
【００３３】
３Ｄモデル或いは３Ｄ音声がユーザーデバイス上に既に保存されているなら、サーバーはオブジェクト（３Ｄモデル或いは３Ｄ音声）の解釈データをユーザーデバイスに提供するだけでよい。
【００３４】
ユーザーデバイスはこれに基づきこれらオブジェクトをレンダリングし、結果を、サーバーが提供する任意の立体音声を備える２Ｄビデオの上に表示する。
【００３５】
ユーザーデバイスの要求でない限り、サーバーはこの３Ｄモデル及び３Ｄ音声をレンダリングしない。
【００３６】
本発明方法のこのアレンジにより、サーバー上のＧＰＵ演算を省くことができ、サーバーは３Ｄモデル及び３Ｄ音声を含むアクティブデータベースを維持し、ユーザーとの通信の効果を高めることができる。
【００３７】
本発明において、ユーザーデバイスが示すものは以下の組合せを含む。
（Ａ）サーバー上レンダリングの３Ｄシーン。結果は立体音声を備える２Ｄビデオストリーミングの形式で、ユーザーエンドに伝送し、ユーザーデバイスにより再生され、及び（Ｂ）サーバー上よりダウンロードされて、ユーザーデバイス上に保存される。
【００３８】
ユーザーデバイスにより自らレンダリングする３Ｄモデル及び３Ｄ音声の結果。この立体音声を備える２Ｄビデオストリーミングとユーザーデバイス上レンダリングの３Ｄモデル及び３Ｄ音声の混合は、帯域幅占用の状況を低下させられるため、カラフルな３Ｄシーン及び感動的なサラウンド音声効果を作り出すことができる。
【００３９】
一実施形態において、ユーザーデバイスへと伝送する立体音声を備える２Ｄビデオストリーミングは、３Ｄモデル及び３Ｄ音声の解釈データを付帯し、ユーザーデバイスは、自分がこの３Ｄモデル及び３Ｄ音声を保存しているかどうかをチェックする。
【００４０】
ないなら、ユーザーデバイスは、必要とする３Ｄモデル及び３Ｄ音声を、サーバーよりダウンロードし、ダウンロード後、ユーザーデバイスは、これを保存し、データリストを作り、シーン再現の必要に備える。
【００４１】
こうして、ビデオストリーミングのディレイと大量の帯域幅が必要であるという問題を改善し、しかもユーザーデバイスエンドにより自らレンダリングすることで、より良い質の画像を得ることができる（ビデオ圧縮を経ていないため）。
【００４２】
前記の解釈データは、ユーザーデバイスが任意の３Ｄモデル或いは３Ｄ音声を遺漏しない、或いは繰り返さないことを許す状況において、ユーザーデバイスエンドが、３Ｄモデル及び３Ｄ音声によりレンダリングした結果と、サーバーが提供する立体音声を備える２Ｄビデオストリーミングとを正確に混合する。
【００４３】
前記のように、ユーザーデバイスが必要なすべての３Ｄモデル及び３Ｄ音声を保存後、ユーザーデバイスは完璧な３Ｄシーン及び音声を再現することができる。
【００４４】
この時、サーバーは、新しく加わり、ユーザーデバイスエンドが未保存の新しい３Ｄモデル或いは３Ｄ音声が出現するまで、一切のレンダリングを行う必要がない。
【００４５】
新しい３Ｄモデルが出現すると、サーバーは、ユーザーデバイスが自らこの新しい３Ｄモデルをレンダリングするまで、この新しい３Ｄモデル及びその後のすべてのオブジェクトをレンダリングする。
【００４６】
この他、新しい３Ｄ音声が出現すると、ユーザーデバイスエンドが運用できるまで、サーバーは、この３Ｄ音声をレンダリングする。
【００４７】
ユーザーデバイスは、後に執行する時に再ダウンロードする必要がないよう、できるだけ自己の保存デバイス上にダウンロードした３Ｄモデル及び３Ｄ音声を保存（キャッシュ）する。
【００４８】
こうして、ネットワークの帯域幅コストはさらに引き下げられ、もし保存できないなら、ダウンロードとレンダリングは執行時に完成させる。
【００４９】
図１は、本発明ネットワークを通してメディアを伝送するシステムの一実施形態の模式図である。
【００５０】
サーバー１は、サービスを提供するアプリケーションプログラムを執行し、このサービスは（これに制限されない）クラウドオンラインゲームサービスである。
【００５１】
複数のユーザーデバイス２１、２２、２３はネットワーク４を通してサーバー１に連結（ログイン）し、サーバー１上で動作されるアプリケーションプログラムが提供するサービスを使用する。
【００５２】
本実施形態中では、ネットワーク４はインターネットで、ユーザーデバイス２１、２２、２３はインターネットに接続可能な任意の電子デバイスである。
【００５３】
それは、例えばスマートフォン２１、タブレット、ノート型コンピューター２２、デスクトップコンピューター２３、ビデオゲーム機、或いはスマートテレビ等（これに制限されない）。
【００５４】
ユーザーデバイス２１、２２の中には、モバイルアクセスポイントを通して、無線でネットワーク４に連結するものもおり、ユーザーデバイス則ルーターを通して、有線の方式で、ネットワーク４上に連結するものもいる。
【００５５】
サーバー１上で動作されるアプリケーションプログラムは、複数の３Ｄモデル及び３Ｄ音声を含むバーチャル３Ｄ環境を作り出すことができる。
【００５６】
各３Ｄモデル或いは３Ｄ音声は状態を対応させ、３Ｄモデル或いは３Ｄ音声に、ユーザーデバイス２１、２２、２３中にプレ保存するか否かを指示する。
【００５７】
本発明の一実施形態中において、各ユーザーデバイスはどれも、対応する独立アプリケーションプログラムを有し、アプリケーションプログラムはユーザーデバイスにだけサービスを提供する。
【００５８】
但し、多数のアプリケーションプログラムは、同時に同一のサーバー上においてサービスを執行し、多数のユーザーデバイスに提供することができる。
【００５９】
図に示すように、ユーザーデバイス２１、２２、２３はネットワーク４を通してサーバー１に連結し、アプリケーションプログラムにより生じ、しかも少なくとも一個の各３Ｄモデル及び３Ｄ音声を含むメディアを得ることができる。
【００６０】
このシステム構成とその特?は、図２及び関連する記載に示す。
【００６１】
図２は本発明システム構成の一実施形態の模式図である。
【００６２】
本発明において、アプリケーションプログラム１００は、サーバー１上で動作し、３Ｄ画像３Ｄ音声のレンダリング結果を生じ、それは通常３Ｄゲームである。
【００６３】
３Ｄシーントランスミッター１１０はプログラムライブラリー（library）では、アプリケーションプログラム１００のコンパイル時に、これと非稼働状態で静的に連結する静的連結し、或いはアプリケーションプログラム１００の執行時に動態状態、すなわち稼働状態で連結する動態連結(Dynamic Linking)にする。
【００６４】
３Ｄシーンユーザーエンド（プログラム）１７０は、ユーザーデバイス２１、２２、２３上で執行するプログラムにおいて、アプリケーションプログラム１００により生成される３Ｄ画像及び３Ｄ音声レンダリング結果を産生してアウトプットする。
【００６５】
本実施形態中では、各ユーザーデバイス２１、２２、２３は、それぞれ独立したアプリケーションプログラム１００及びシーントランスミッター１１０に対応する。
【００６６】
本発明において、３Ｄシーンユーザーエンド１７０及び３Ｄシーンキャッシュ１９０は、ユーザーエンドのプログラムと執行方法を組成し、ユーザーデバイスそのものレンダリング３Ｄモデルと３Ｄ音声の演算能力を発揮する。
【００６７】
３Ｄシーンサーバー１２０は、アプリケーションプログラム１００と共同でサーバー１上で執行するサーバープログラムで、サーバー１の３Ｄシーントランスミッター１１０とし、ユーザーデバイス２１、２２、２３の３Ｄシーンユーザーエンド１７０との間で、メッセージ伝達の中継点とする。
【００６８】
同時に、ファイルダウンロードサーバーでもあり、ユーザーデバイス２１、２２、２３の３Ｄシーンユーザーエンド１７０は、サーバー１から必要な３Ｄモデル及び３Ｄ音声をダウンロードする。
【００６９】
３Ｄシーントランスミッター１１０はリストを保有し、すべての３Ｄモデル及び３Ｄ音声、及びモデル或いは音声の状態を列記する。
【００７０】
この状態は、各３Ｄモデル或いは３Ｄ音声の状態を（１）“Not Ready （準備中）”、（２）“Loading （ダウンロード中）”、及び（３）“Ready for Client（ユーザーはダウンロード済み）”の内の何れか一つで示している。
【００７１】
アプリケーションプログラム１００のメインプログラム、ＡＰＩにより呼び出すプログラムライブラリーの方式  （図２のルート１０１）を通して、３Ｄシーン情報を３Ｄシーントランスミッター１１０に伝送する。
【００７２】
この３Ｄシーン情報は、名称、位置、速度、属性、ディレクション及びすべて他の３Ｄモデル及び３Ｄ音声レンダリングが必要とするデータを含む。
【００７３】
３Ｄシーントランスミッター１１０がこのタイプのデータを受け取ると、以下のプロセスを執行することができる。
【００７４】
ステップ（Ａ）：３Ｄモデルにおいては、レンダリングが必要なすべての３Ｄモデルを配列させ、その配列方式は、バーチャル位置（３Ｄプロジェクション面或いは使用者の目など）に対して、近くから遠くへと配列する。
【００７５】
３Ｄ音声においては、レンダリングが必要なすべての３Ｄ音声を配列させ、その配列方式は、バーチャル位置（３Ｄプロジェクション面或いは使用者の目など）に対して、近くから遠くへと配列する。
【００７６】
ある状況において、３Ｄシーン中の３ＤモデルＡは、もう一つの３ＤモデルＢを含み、或いはその上に重なる。
【００７７】
例えば、モデルＡは家で、モデルＢは家の中のテーブルで、この状況において、どのモデルが、模擬位置に近いかは実は曖昧な問題である。
【００７８】
この時、モデルＡ及びモデルＢは、同一の３Ｄモデルと見做され、３Ｄモデル（Ａ＋Ｂ）と呼ばれる。
【００７９】
シーンに対する既知の情報のいくらかは、ゲーム中の地面などの補助配列に用いられ、他の３Ｄオブジェクト下の大きくてフラットな３Ｄモデルと見做される。
【００８０】
通常、使用者の目は地面より高いため、地面の３Ｄモデルは、配列中で特別処理が必要で、これにより他の３Ｄモデルの前に表示されないようにする。
【００８１】
ステップ（Ｂ）：３Ｄモデルにおいて、最も近い点（目に最も近い点）から”Ready for Client”状態を備えない一個目の３Ｄモデル“Ｍ”を探す。
【００８２】
言い換えれば、一個目の３Ｄモデル“Ｍ”の状態は” Not Ready ”状態（この後、”  Not Ready ”状態はＮＲ状態と略称する）である。
【００８３】
当然、このタイプの３Ｄモデルが存在しない可能性もある（例えば、表示されているすべての３Ｄモデルが“Ready for Client”状態と標示されている）。
【００８４】
３Ｄ音声において、最も近い点（目に最も近い点）から、一個目の”Ready for Client”状態を備えない３Ｄ音声“Ｓ”を探す。
【００８５】
言い換えれば、一個目の３Ｄ音声“Ｓ”の状態は” Not Ready  ”状態（この後、”  Not Ready ”状態はＮＲ状態と略称する）である。
【００８６】
当然、このタイプの３Ｄ音声が存在しない可能性もある（例えば、表示された３Ｄ音声のすべてが、“Ready for Client”状態と標示されている）。
【００８７】
ステップ（Ｃ）：３Ｄモデルにおいて、サーバーは３ＤモデルＭ及びその後のすべての３Ｄモデル（つまり目からの距離がＭより遠いすべての３Ｄモデル）をレンダリングし、（もし３ＤモデルＭがないなら、黒幕により表示する）レンダリング後の結果を、２Ｄ  ビデオストリーミングフレーム（frame）にエンコードする。
【００８８】
３Ｄ音声において、サーバー１上で、”Ready for Client”状態を備えないすべての３Ｄ音声をレンダリング（再生）する（もしこのタイプの３Ｄ音声がないなら、靜音を生じる）。
【００８９】
続いて、  レンダリング後の結果を、ステップ（Ｃ）中の２Ｄビデオストリーミングフレームを備える立体音声にエンコードする。
【００９０】
注意：３ＤモデルＳ後に続く３Ｄ音声は、その状態が”Ready for Client”でない時にのみ、レンダリングされ、これはステップ（Ｃ）中の３Ｄモデルと異なる。
【００９１】
ステップ（Ｄ）：以下の６個の情報を３Ｄシーンサーバー１２０（ルート１１２）に伝送する：［Info １１２−Ａ］、［Info １１２−Ｂ］、  ［Info １１２−Ｃ］、［Info １１２−Ｄ］、［Info １１２−Ｅ］及び［Info １１２−Ｆ］。
【００９２】
３Ｄシーンサーバー１２０は、以上の情報を、３Ｄシーンユーザーエンド１７０（ルート１２２）に伝送する。
【００９３】
［Info １１２−Ａ］は３ＤモデルＭ前のすべての３Ｄモデルの状態情報（或いは解釈データと呼ぶ）である。
【００９４】
このタイプモデルは存在しない可能性もあることに注意する必要がある。
【００９５】
このタイプのモデルはどれも、“Ready for Client”状態を備える。
【００９６】
その意味は、これらモデルは既にユーザーエンドデバイスに予めダウンロードされているということで、ユーザーエンドデバイス  ２１、２２、２３  上面の３Ｄシーンユーザーエンド（プログラム）１７０は、これらモデルを  既に自らレンダリングすることができる。
【００９７】
データ伝送の帯域幅は減らすため、３Ｄシーントランスミッター１１０は全部の状態情報を伝送する必要はなく、状態情報中の今回のレンダリングと前回のレンダリングとの差異を伝送するだけでよい。
【００９８】
［Info １１２−Ｂ］もしサーバーが３ＤモデルＭを見つけ、しかもそのユーザーデバイスの状態が“Ｎｏｔ  Ｒｅａｄｙ”である時、サーバーは、そのユーザー状態を“Ｌｏａｄｉｎｇ”に変え、３ＤモデルＭのダウンロード指示を送信し、ユーザーエンドに、この３ＤモデルＭをダウンロードするよう要求する。
【００９９】
もしユーザー状態が既に“Loading”なら、ダウンロード指示は既に送信されているので、一切の指示を送信してはならない。
【０１００】
［Info １１２−Ｃ］はステップ（Ｃ）中のエンコード後のビデオストリーミングフレームである。
【０１０１】
［Info １１２−Ｄ］はすべての状態が”Ready for Client”である３Ｄ音声  （このタイプの３Ｄ音声は存在しない可能性もある）の状態情報（或いは解釈データと称する）を指す。
【０１０２】
このタイプの音声タイプはすべて“Ready for Client”状態を備える。
【０１０３】
つまり、これら音声は既にユーザーエンドデバイスに予めダウンロードされていることを示し、ユーザーエンドデバイス  ２１、２２、２３上面の３Ｄシーンユーザーエンド（プログラム）１７０は、既に自らこれら音声をレンダリング（再生）することができる。
【０１０４】
データ伝送帯域幅を減らすため、３Ｄシーントランスミッター１１０は、全部の状態情報を伝送する必要はなく、状態情報中の今回のレンダリングと前回のレンダリングとの差異を伝送するだけでよい。
【０１０５】
［Info  １１２−Ｅ］もしサーバーが３Ｄ音声Ｓを見つけ、しかもそのユーザー状態が“Ｎｏｔ  Ｒｅａｄｙ”であるなら、そのユーザー状態を“Ｌｏａｄｉｎｇ”に変え、３Ｄ音声Ｓのダウンロード指示を送信し、ユーザーエンドに、この３Ｄ音声Ｓをダウンロードするよう要求する。
【０１０６】
ユーザー状態が既に“Loading”なら、ダウンロード指示は既に送信されているので、一切の指示を送信してはならない。
【０１０７】
［Info １１２−Ｆ］はステップ（Ｃ）中のエンコード後の立体音声である。
【０１０８】
アプリケーションプログラム１００のメインプログラムが、新しい３Ｄシーンデータを、３Ｄシーントランスミッター１１０に更新する度に、ステップ（Ａ）〜（Ｄ）を繰り返す。
【０１０９】
通常、アプリケーションプログラム１００のメインプログラムは、毎回のレンダリング中でこのタイプのデータを更新する。
【０１１０】
３Ｄシーンユーザーエンド１７０が前記データを受け取った後、後述のレンダリングプロセスを行う。
【０１１１】
ステップ（ｉ）：［Info １１２−Ｃ］のビデオフレームをデコードし、このフレームを後続の３Ｄモデルレンダリングのバックグラウンドとして使用する。
【０１１２】
この他、［Info １１２−Ｆ］ビデオを備える立体音声をデコードし、後続の３Ｄ音声レンダリングのバックグラウンド音声として使用する。
【０１１３】
ステップ（ｉｉ）：ステップ（ｉ）でエンコード後のビデオフレーム上で  ［Info １１２−Ａ］中のすべての３Ｄモデルをレンダリングし、ネットワーク帯域幅の?用を低下させる。
【０１１４】
３Ｄシーンユーザーエンド１７０は、この［Info １１２−Ａ］情報をメモリ中に保存する。
【０１１５】
よって、次の３Ｄシーントランスミッター１１０は、次のレンダリングと今回のレンダリングとの状態［Info １１２−Ａ］の差異だけを伝送すればよく、全部の状態情報を伝送する必要はない。
【０１１６】
同様に、［Info １１２−Ｄ］に属するすべての３Ｄ音声をレンダリングする時には、これをステップ（ｉ）中デコードの立体音声に混合し、ネットワーク帯域幅?用を低下させる。
【０１１７】
３Ｄシーンユーザーエンド１７０は、この［Info １１２−Ｄ］情報をメモリ中に保存するため、次の３Ｄシーントランスミッター１１０は、次のレンダリングと今回のレンダリングとの間の状態［Info １１２−Ｄ］の差異を伝送するだけでよく、全部の状態情報を伝送する必要はない
【０１１８】
ステップ（iii）：ステップ（ii）中において、サーバーから伝送される立体音声を備えるビデオフレームと３Ｄシーンユーザーエンド１７０が自らレンダリングした３Ｄモデルと３Ｄ音声とを混合し、両者の混合結果をアウトプットし、音声を備えるアウトプットビデオストリーミング（ルート１７６）とする。
【０１１９】
もし、［Info １１２−Ｂ］の状態を提供するなら、３Ｄシーンユーザーエンド１７０は、以下のプロセスに基づき、３ＤモデルＭを処理する。
【０１２０】
ステップ（Ｉ）：３Ｄシーンキャッシュ１９０を探し（ルート１７４）、３Ｄシーンキャッシュ１９０は前以てユーザーデバイス２１、２２、２３中にダウンロード及び保存していた３Ｄモデルデータベースを含む。
【０１２１】
ステップ（II）：もし３Ｄシーンキャッシュ１９０中に、既に３ＤモデルＭがあるなら、ステップ（Ｖ）を執行する。
【０１２２】
ステップ（III）：もし３Ｄシーンキャッシュ１９０中に、３ＤモデルＭがないなら、３Ｄシーンユーザーエンド１７０は、ダウンロード要求を、３Ｄシーンサーバー１２０に送信する（ルート１７２）。
【０１２３】
３Ｄシーンサーバー１２０は、３ＤモデルＭのデータを、３Ｄシーンユーザーエンド１７０に回送する（ルート１２４）。
【０１２４】
ステップ（ＩＶ）：３Ｄモデルの完全ダウンロード後、３Ｄシーンユーザーエンド１７０は、これを３Ｄシーンキャッシュ１９０保存し（ルート１９４）、これにより次に類似の要求があった時には、再度のダウンロードを行う必要はない。
【０１２５】
ステップ（Ｖ）：３Ｄシーンユーザーエンド１７０は、３Ｄシーンキャッシュ１９０中から３ＤモデルＭを取り出す（ルート１９２）。
【０１２６】
ステップ（ＶＩ）：ダウンロードが完成（或いは前以てダウンロード済み）すると、３Ｄシーンユーザーエンド１７０は、３ＤモデルＭを取り出すことができる。
【０１２７】
３Ｄシーンユーザーエンド１７０は、“３Ｄ  Model is ready on client（３Ｄモデルは既にユーザーデバイス上）”のメッセージを、３Ｄシーンサーバー１２０に伝送する（ルート１１３）。
【０１２８】
３Ｄシーンサーバー１２０は、このメッセージを３Ｄシーントランスミッター１１０に転送する  （ルート１１４）。
【０１２９】
ステップ（VII）：３Ｄシーントランスミッター１１０がこのメッセージを受け取り後、３ＤモデルＭの状態を、”Loading”から“Ready for Client”に変える。
【０１３０】
ステップ（VIII）：次のレンダリングにおいて、３Ｄシーントランスミッター１１０は、３ＤモデルＭが既にユーザーデバイス中にダウンロードされていることを知っているため、故３Ｄシーンユーザーエンド１７０に自らレンダリングさせる。
【０１３１】
よって、サーバー１は、この３ＤモデルＭを、再度レンダリングする必要はない。
【０１３２】
もし、［Info １１２−Ｅ］の状態を提供するなら、３Ｄシーンユーザーエンド１７０は、以下のプロセスに従い、３Ｄ音声Ｓを準備する（前記の［Ｉｎｆｏ  １１２−Ｂ］に関する記述に類似）。
【０１３３】
ステップ（Ｉ）：３Ｄシーンキャッシュ１９０を探し（ルート１７４）、３Ｄシーンキャッシュ１９０は、前以てユーザーデバイス２１、２２、２３中にダウンロード及び保存していた３Ｄ音声データベースを含む。
【０１３４】
ステップ（II）：もし３Ｄシーンキャッシュ１９０中に、３Ｄ音声が準備されているなら、ステップ（Ｖ）を執行する。
【０１３５】
ステップ（III）：もし３Ｄシーンキャッシュ１９０中に、３Ｄ音声が準備されていないなら、３Ｄシーンユーザーエンド１７０は、ダウンロード要求を、３Ｄシーンサーバー１２０に送信する（ルート１７２）。
【０１３６】
３Ｄシーンサーバー１２０は、３Ｄ音声のデータを、３Ｄシーンユーザーエンド１７０に回送する（ルート１２４）。
【０１３７】
ステップ（ＩＶ）：３Ｄ音声の完全ダウンロード後、３Ｄシーンユーザーエンド１７０は、これを３Ｄシーンキャッシュ１９０に保存する（ルート１９４）。
【０１３８】
これにより、次に類似の要求があった時には、再度のダウンロードを行う必要はない。
【０１３９】
ステップ（Ｖ）：３Ｄシーンユーザーエンド１７０は、３Ｄシーンキャッシュ１９０中から３Ｄ音声Ｓを取り出す（ルート１９２）。
【０１４０】
ステップ（ＶＩ）：ダウンロードが完成（或いは前以てダウンロード済み）すると、３Ｄシーンユーザーエンド１７０は３Ｄ音声Ｓを取り出す。
【０１４１】
３Ｄシーンユーザーエンド１７０は、“３Ｄ  sound is ready on client（３Ｄ音声は既にユーザーデバイス上）”のメッセージを、３Ｄシーンサーバー１２０に伝送する（ルート１１３）。
【０１４２】
３Ｄシーンサーバー１２０は、このメッセージを３Ｄシーントランスミッター１１０に転送する  （ルート１１４）。
【０１４３】
ステップ（VII）：３Ｄシーントランスミッター１１０がこのメッセージを受け取り後、３Ｄ音声Ｓの状態を”Loading”から“Ready for Client”に変える。
【０１４４】
ステップ（VIII）：次のレンダリングにおいて、３Ｄシーントランスミッター１１０は、３Ｄ音声Ｓが既にユーザーデバイス中にダウンロードされていることを知っているため、３Ｄシーンユーザーエンド１７０に自らレンダリング（再生）するよう要請し、サーバー１はこの３Ｄ音声Ｓを、再びレンダリングする必要はない。
【０１４５】
最初期には、ユーザーデバイス２１、２２、２３中には、一切の３Ｄモデル及び３Ｄ音声がないため、３Ｄシーントランスミッター１１０は、すべての３Ｄモデル及び３Ｄ音声をレンダリングし、その結果を、立体音声を備える２Ｄビデオストリーミングにエンコードする。
【０１４６】
３Ｄシーントランスミッター１１０は、３Ｄモデルのダウンロード要求［Ｉｎｆｏ  １１２−Ｂ］及び３Ｄ音声のダウンロード要求［Info １１２−Ｅ］を、最も近い点から３Ｄプロジェクション面（或いは使用者の目）へ伝送する。
【０１４７】
３Ｄシーンユーザーエンド１７０は、３Ｄシーンサーバー１２０から、各３Ｄモデル或いは３Ｄ音声をダウンロードし、或いは３Ｄシーンキャッシュ１９０上から一つ一つ取り出す。
【０１４８】
より多くの３Ｄモデル及び３Ｄ音声を、３Ｄシーンユーザーエンド１７０が取得すると、３Ｄシーントランスミッター１１０は、３Ｄシーンユーザーエンド１７０に、これらモデル及び音声を自らレンダリングし、３Ｄシーントランスミッター１１０からレンダリングする３Ｄモデル及び３Ｄ音声の数を減らすよう自動的に通知する。
【０１４９】
これにより、最後の３Ｄシーンユーザーエンド１７０上からすべての３Ｄモデル及び３Ｄ音声が取得されるまで、エンコードした２Ｄビデオストリーミング中の３Ｄモデル及び３Ｄ音声はどんどん少なくなる。
【０１５０】
この後、この段階において、音声を備えない黒色スクリーンだけが残る。
【０１５１】
言い換えれば、サーバー１は、２Ｄビデオストリーミングを、ユーザーデバイス２１、２２、２３中に再伝送する必要はなく、しかもサーバー１及びユーザーデバイス２１、２２、２３間の通信帯域幅?用も、大幅に低下される。
【０１５２】
本発明において、新しい３ＤモデルＮが実景に出現すると、３Ｄシーントランスミッター１１０は、（１）３Ｄシーンユーザーエンド１７０に、この新しい３ＤモデルＮ前に位置する（使用者の目に対して言えば）すべての３Ｄモデルだけをレンダリングするよう通知する。
【０１５３】
（２）この新しい３ＤモデルＮをダウンロードするよう、３Ｄシーンユーザーエンド１７０に通知する。
【０１５４】
（３）  ３Ｄシーントランスミッター１１０は、この新しい３ＤモデルＮ及びその後に位置するすべてのモデルをレンダリングし、その結果を、音声を備える２Ｄビデオストリーミングにエンコードする。
【０１５５】
その後、この音声を備える２Ｄビデオストリーミングを、３Ｄシーンユーザーエンド１７０に伝送する。
【０１５６】
３Ｄシーンユーザーエンド１７０は、３ＤモデルＮユーザーデバイス上で準備する前に、アプリケーションプログラム１００の３Ｄ画像及び音声のレンダリング結果を再生し続けることができる。
【０１５７】
新しい３Ｄ音声Ｔが実景に出現すると、３Ｄシーントランスミッター１１０は、（１）３Ｄシーンユーザーエンド１７０にこの新しい３Ｄ音声Ｔをダウンロードするよう通知する。及び（２）３Ｄシーントランスミッター１１０はこの新しい３Ｄ音声Ｔをレンダリングし、その結果を、立体音声にエンコードする。
【０１５８】
この後、この立体音声と２Ｄビデオストリーミングを、３Ｄシーンユーザーエンド１７０に伝送する。
【０１５９】
３Ｄシーンユーザーエンド１７０は、３Ｄ音声Ｔを、ユーザーデバイス上で準備前に、アプリケーションプログラム１００を再製し続ける３Ｄ画像及び音声のレンダリング結果である。
【０１６０】
このプロセスにおいて、新しい３Ｄ音声Ｔだけをレンダリングし、３Ｄシーントランスミッター１１０は、他の３Ｄ音声Ｔ後方のすべての３Ｄ音声をさらにレンダリングする必要はない。
【０１６１】
この方法は、音声の本質が画像と異なることにより、画像はその後画像の表示を遮るが、音声は遮らない。
【０１６２】
ＢＧＭは、所定の３Ｄ位置を備える３Ｄ音声とみなされ、ＢＧＭをできるだけ早くダウンロードできるよう、定義する所定の３Ｄ位置は使用者の目に近ければ近いほど良い。
【０１６３】
サーバーの負荷を低下させ、或いは不安定なネットワークデータ伝達が生じる騒音を回避するため、サーバーはは、ビデオ中のすべての３Ｄ音声のエンコードを放棄することができる。
【０１６４】
この状況において、３Ｄ音声は、ダウンロードされ、ユーザーデバイス中にプレ保存して初めてユーザーデバイス上で再生される。
【０１６５】
３Ｄ音声において、サーバー１は３Ｄ音声の状態をチェックし、どの３Ｄ音声が立体音声を備える２Ｄビデオストリーミングにエンコードされるべきかを決定する
【０１６６】
そのエンコード方式はユーザーデバイス中にプレ保存されていない３Ｄ音声をビデオフレーム中にエンコードするものである。
【０１６７】
３Ｄ音声が、ビデオフレーム中の立体音声にエンコードされると、その左右チャンネルの音量は、その位置及び使用者の耳に対する速度により決定される。
【０１６８】
ＢＧＭは、所定位置上の３Ｄ音声効果と定義される。
【０１６９】
図３Ａは本発明ネットワークを通してメディアを伝送する方法の一実施形態のフローチャートである。
【０１７０】
ネットワークを通した画像の伝送を開始すると（ステップ６０）、サーバー上でアプリケーションプログラムを執行し複数の３Ｄモデルを含むバーチャル３Ｄ環境を産生する（ステップ６１）。
【０１７１】
各３Ｄモデルは、ある状態に対応し、該状態は、この３Ｄモデルをユーザーデバイス中にプレ保存するか否かを指示する。
【０１７２】
サーバーは続いて３Ｄモデルの状態をチェックし（ステップ６２）、どの３Ｄモデルが２Ｄビデオストリーミングフレームにエンコードされるべきかを決定し、ユーザーデバイス中にプレ保存されていない３Ｄモデルは、フレーム中にエンコードされる。
【０１７３】
サーバーは、あるバーチャル位置（通常は３Ｄプロジェクション面或いは使用者の目）を基準とし、近くから遠くへと、各３Ｄモデルの状態を一つ一つチェックする。
【０１７４】
チェック中に、ユーザーデバイス中にプレ保存されていない一個目の３Ｄモデルを発見すると、この発見された３Ｄモデルを、ＮＲ状態と標記する。
【０１７５】
続いて、その後の３Ｄモデルがユーザーデバイス中にプレ保存されるか否かにかかわらず、この３ＤモデルＭ及びその後方のすべての３Ｄモデルは、フレーム中にエンコードされる（ステップ６３）。
【０１７６】
任意の３Ｄモデルの位置が改変された時、或いは配列参考用のバーチャル位置が改変された時、前記のチェックを再び執行し、しかも最新のチェック結果に基づき、３Ｄモデルがビデオフレーム中にエンコードされるべきか否かを決定する。
【０１７７】
ステップ６４：２Ｄビデオストリーミングフレームのエンコード後、サーバーは、この２Ｄビデオストリーミングフレーム及びユーザーデバイス中にプレ保存されていない３Ｄモデル（すなわち、ＮＲ状態を備える３Ｄモデル及びその後方のすべての３Ｄモデル）を、所定の順序に基づき、ユーザーデバイスに伝送する。
【０１７８】
この所定順序は、最も近い３Ｄプロジェクション面（或いは使用者の目）の一点から最も遠い点の３Ｄプロジェクション面の一点までの順序である。
【０１７９】
ユーザーデバイスが２Ｄビデオストリーミングフレームを受け取ると（ステップ６５）、ユーザーデバイスはサーバーから伝送されるフレームをデコードし、このフレームを使用し、ユーザーデバイス中にプレ保存されるが、フレーム中に含まれない３Ｄモデルのバックグラウンドのレンダリングを行う。
【０１８０】
これにより、音声を備えるアウトプットビデオストリーミングの混合フレーム  を産生する（ステップ６６）。
【０１８１】
ユーザーデバイスが、サーバーから伝送される３Ｄモデルを受け取ると、ユーザーデバイスは、この３Ｄモデルを保存し、続いてメッセージをサーバーに伝送し、３Ｄモデルの状態を  “現在は既にユーザーデバイス中にプレ保存される”に変更するよう通知する。
【０１８２】
この後、ユーザーデバイスは、サーバーから伝送されるビデオストリーミングと自らレンダリングした結果とを混合してアウトプットし、新しいビデオとする。
【０１８３】
ステップ６２中において、新しい３Ｄモデルが３Ｄ環境中に出現すると、その後方の３Ｄモデルがユーザーデバイス中にプレ保存されるか否かに関わらず、新しい３Ｄモデルとその後方のすべての３Ｄモデルをフレーム中にエンコードする。
【０１８４】
ステップ６４中において、サーバーは、ビデオストリーミングフレーム中にエンコードされていない３Ｄモデルの状態情報（或いは解釈データと称する）をユーザーデバイスに伝送する。
【０１８５】
ユーザーデバイスが、状態情報を受け取り、及びチェックする時には、以下の方式に基づき行う。
【０１８６】
もし受け取った状態情報中の任意の３Ｄモデルが、ユーザーデバイス中にプレ保存される者でないなら、ユーザーデバイスは、サーバーに、３Ｄモデルをダウンロードするよう請求を送信する（ステップ６６１）。
【０１８７】
状態情報は、各フレーム中にエンコードされていない解釈データを含み、各解釈データは、３Ｄモデルの名称、位置、速度、ディレクション、及び属性及び各３Ｄモデルの状態を含む。
【０１８８】
図３Ｂは本発明ネットワークを通してメディアを伝送する方法のもう一つの実施形態のフローチャートである。
【０１８９】
ネットワークを通して音声の伝送を開始する（ステップ６０ａ）と、サーバー上でアプリケーションプログラムを執行し、複数の３Ｄ音声を含むバーチャル３Ｄ環境を産生する（ステップ６１ａ）。
【０１９０】
各３Ｄ音声は、ある状態に対応し、該状態は、この３Ｄ音声がユーザーデバイス中にプレ保存するか否かを指示する。
【０１９１】
サーバーは続いて３Ｄ音声の状態をチェックし（ステップ６２ａ）、どの３Ｄ音声が２Ｄビデオストリーミングフレームにエンコードされるべきかを決定する。
【０１９２】
ユーザーデバイス中にプレ保存されていない３Ｄ音声は、フレーム中にエンコードされる。
【０１９３】
サーバーは、あるバーチャル位置（通常は３Ｄプロジェクション面或いは使用者の目）を基準とし、近くから遠くへと、各３Ｄ音声の状態を一つ一つチェックする。
【０１９４】
チェック中に、ユーザーデバイス中にプレ保存されていない一個目の３Ｄ音声を発見すると、この発見された３Ｄ音声を、ＮＲ状態と標記する。
【０１９５】
ステップ６４ａ：音声を備えるビデオストリーミングフレームをエンコード後、サーバーは、この音声を備える２Ｄビデオストリーミングフレーム及びユーザーデバイス中にプレ保存されていない３Ｄ音声（すなわち、このＮＲ状態を備える３Ｄ音声）を、所定の順序に基づき、ユーザーデバイスに伝送する。
【０１９６】
この所定順序は、最も近い３Ｄプロジェクション面から（或いは使用者の目）の一点から、最も遠い点の３Ｄプロジェクション面のもう一つの点までの順序である。
【０１９７】
ユーザーデバイスが音声を備えるビデオストリーミングフレームを受け取った（ステップ６５ａ）後、ユーザーデバイスはビデオストリーミング中に含まれるオーディオ（すなわち、音声）をデコードし、このオーディオを、ユーザーデバイス中にプレ保存されるが、ビデオストリーミングフレーム中に含まれない３Ｄ音声のバックグラウンドのレンダリングに使用し、これにより混合オーディオ  を産生する（ステップ６６ａ）。
【０１９８】
ユーザーデバイスがサーバーから伝送される３Ｄ音声を受け取ると、ユーザーデバイスは、この３Ｄ音声を保存し、続いてメッセージをサーバーに伝送し、３Ｄ音声の状態を”現在は既にユーザーデバイス中にプレ保存される”に変更するように、サーバーに通知する。
【０１９９】
この後、ユーザーデバイスは、サーバーから伝送されるビデオストリーミング中のオーディオと自らレンダリング（再生、生成）した３Ｄ音声の結果を、混合してアウトプットし、新しいオーディオとする。
【０２００】
ステップ６２ａにおいて、新しい３Ｄ音声が３Ｄ環境中に出現すると、新しい３Ｄ音声を、音声を備える２Ｄビデオストリーミングフレーム中にエンコードする。
【０２０１】
この新しい３Ｄ音声は、他の３Ｄ音声がレンダリングされるか否かに影響せず、この点は、前記ステップ６２中の３Ｄモデルと異なる。
【０２０２】
ステップ６４ａにおいて、サーバーは、フレーム中にエンコードされていない３Ｄ音声の状態情報をユーザーデバイスに伝送する。
【０２０３】
ユーザーデバイスが、状態情報を受け取り、及びチェックする時には、以下の方式に基づき行う。
【０２０４】
もし受け取った状態情報中の任意の３Ｄ音声が、ユーザーデバイス中にプレ保存される者でないなら、ユーザーデバイスはサーバーに、３Ｄ音声をダウンロードするよう請求を送信する（ステップ６６１ａ）。
【０２０５】
状態情報は、各フレーム中にエンコードされていない解釈データを含み、各解釈データは、３Ｄ音声の名称、位置、速度、ディレクション、及び属性及び各３Ｄ音声の状態を含む。
【０２０６】
図４Ａ、４Ｂ及び４Ｃは、本発明方法において、いかにしてビデオストリーミング及び３Ｄモデルを伝送するかを示す一実施形態の模式図である。
【０２０７】
図４Ａに示すとおり、最初にユーザーデバイス７４がサーバー上で動作するアプリケーションプログラム７０にログインしても、一切の３Ｄモデルは、ユーザーデバイス中にプレ保存されていない。
【０２０８】
よって、サーバーは、すべての３Ｄモデル（人７１及びその後の家７２を含む）をレンダリングする。
【０２０９】
すべての３Ｄモデルは、ユーザーデバイスのスクリーン上に表示され、サーバーは、レンダリング結果を、２Ｄビデオストリーミングフレーム７３にエンコードする。
【０２１０】
続いて、このフレーム７３を、ユーザーデバイス７４に伝送する。
【０２１１】
この段階において、フレーム７３は、人７１及び家７２を含み、ユーザーデバイス７４は、このフレーム７３をアウトプットするだけでよく、他のオブジェクトをレンダリングする必要はない。
【０２１２】
続いて、図４Ｂに示すとおり、サーバー７０は３Ｄモデルをユーザーデバイスに伝送し始め、ユーザーデバイススクリーンに最も近い３Ｄプロジェクション面の３Ｄモデルから開始する。
【０２１３】
本実施形態中では、家７２と比較すると、人７１は３Ｄプロジェクション面に近い（或いは使用者の目）。
【０２１４】
よって、人７１の３Ｄモデルは、先にユーザーデバイス７４に伝送され、人７１の３Ｄモデルがユーザーデバイス７４上に伝送されて保存された後、ユーザーデバイス７４はメッセージをサーバー７０に伝送し、人７１の３Ｄモデルが、ユーザーデバイス７４中にプレ保存していることを知らせる。
【０２１５】
この後、サーバー７０は、家７２をレンダリングし、そのレンダリング結果を２Ｄビデオストリーミングフレーム７３ａにレンダリングし、このフレーム７３ａと人７１ａの解釈データを、ユーザーデバイス７４に伝送し、ユーザーデバイス７４は続いて解釈データを自動的に利用し人をレンダリングし、さらに人のレンダリング結果とフレーム７３ａ（家を含む）を結合し、相同のアウトプット結果を得る。
【０２１６】
このプロセス（例えば、サーバーは一回に一個の方式で３Ｄモデルをユーザーデバイス７４に伝送する）は、すべてのユーザーエンドが表示を要する３Ｄモデルが伝送され、及びユーザーデバイス７４中にプレ保存されるまで、何度も繰り返される。
【０２１７】
図４Ｃに示すとおり、ユーザーデバイス７４がすべての３Ｄモデル（人と家の３Ｄモデルを含む）を擁すると、サーバーのこれ以上のレンダリング操作は不要で、またビデオストリーミングフレームのこれ以上の伝送も不要である（パーツ７５）。
【０２１８】
サーバーがユーザーデバイス７４に伝送する必要があるのは、３Ｄモデルの解釈データ（人７１ａ及び家７２ａを含む）だけである。
【０２１９】
ユーザーデバイスは自ら、すべての３Ｄモデルをレンダリングし、相同のアウトプット結果を得る。
【０２２０】
図６Ａ、６Ｂ及び６Ｃは、本発明方法において、音声を備えるビデオストリーミング及び３Ｄ音声をいかにして伝送するかを示す実施形態の模式図である。
【０２２１】
図６Ａに示すとおり、初期ユーザーデバイス  ７４が  サーバー７０上で動作するアプリケーションプログラムにログインしても、一切の３Ｄ音声は、ユーザーデバイス中にプレ保存されていない。
【０２２２】
よって、サーバーは、すべての３Ｄ音声（音声８１及びその後の音声８２を含む）をレンダリングする。
【０２２３】
すべての３Ｄ音声は、ユーザーデバイスのスピーカー上に現れ、サーバーは、レンダリング結果を、音声を備えるビデオストリーミングフレーム８３にエンコードする。
【０２２４】
続いて、この音声を備えるビデオストリーミングフレーム８３を、ユーザーデバイス７４に伝送する。
【０２２５】
この段階において、音声を備えるビデオストリーミングフレーム８３は、音声８１及び音声８２を含む。
【０２２６】
ユーザーデバイス７４は、この音声を備えるビデオストリーミングフレーム８３だけをアウトプットし、他の音声をレンダリング（再生）する必要はない。
【０２２７】
続いて、図６Ｂに示すとおり、サーバー７０は、ユーザーデバイススクリーンに最も近い３Ｄプロジェクション面の３Ｄ音声から開始し、３Ｄ音声の、ユーザーデバイスへの伝送を開始する。
【０２２８】
本実施形態中では、音声８２と比較し、音声８１は３Ｄプロジェクション面（或いは使用者の目）に近い。
【０２２９】
よって、音声８１の３Ｄ音声は、先にユーザーデバイス７４に伝送され、音声８１の３Ｄ音声が伝送され、ユーザーデバイス７４上に保存された後、ユーザーデバイス７４はメッセージをサーバー７０に伝送し、音声８１がユーザーデバイス７４中にプレ保存されると知らせる。
【０２３０】
この後、サーバー７０は音声８２をレンダリングし、そのレンダリング結果を音声を備える２Ｄビデオストリーミングフレーム８３ａにエンコードし、このフレーム８３ａ及び音声８１の解釈データを、ユーザーデバイス７４に伝送する。
【０２３１】
ユーザーデバイス７４は続いて解釈データを自動的に利用し、音声をレンダリング（再生）し、さらに音声のレンダリング結果とフレーム８３ａ（音声を含む）とを結び付け、相同のアウトプット結果を得る。
【０２３２】
このプロセス（例えば、サーバーは一回に一個の方式で３Ｄ音声をユーザーデバイス７４に伝送する）は、ユーザーデバイスのスピーカー上に再生される必要があるすべての３Ｄ音声が伝送され、及びユーザーデバイス７４中にプレ保存されるまで、何度も繰り返される。
【０２３３】
図６Ｃに示すとおり、ユーザーデバイス７４がすべての３Ｄ音声（音声８１と音声８２の３Ｄ音声を含む）を擁すると、サーバーのこれ以上のレンダリング操作は不要で、つまりビデオストリーミングフレーム（パーツ８５）は画像だけを含み、音声を含まない。
【０２３４】
サーバーは、３Ｄ音声８１の解釈データ（音声を含む８１ａ及び音声８２ａ）をユーザーデバイス７４に伝送する必要だけがある。
【０２３５】
ユーザーは続いて、すべての３Ｄ音声を自らレンダリング（再生）し、相同のアウトプット結果を得る。
【０２３６】
図５Ａ、５Ｂ及び５Ｃは、本発明方法において、どの３Ｄモデルがフレームにエンコードされるべきかをいかにして決定するかを示す実施形態の模式図である。
【０２３７】
本発明において、サーバーは、レンダリングされるべきすべての３Ｄモデルを所定の順序で配列する。
【０２３８】
この所定の順序は、バーチャル位置（ユーザーデバイススクリーンの３Ｄプロジェクション面５２、或いは使用者の目５１）に対して、近くから遠くへの順序である。
【０２３９】
図５Ａに示すとおり、４個のオブジェクトＡ、Ｂ、Ｃ及びＤを、ユーザーデバイスのスクリーン上に表示する必要があり、中でも、オブジェクトＡはプロジェクション面５２に最も近く、次はオブジェクトＢ、オブジェクトＣ及びオブジェクトＤである。
【０２４０】
初期ユーザーデバイスがサーバー７０上で動作するアプリケーションプログラムにログインしても、一切の３Ｄ音声は、ユーザーデバイス中にプレ保存されていない。
【０２４１】
よって、サーバーはすべてのオブジェクトＡ、オブジェクトＢ、オブジェクトＣ及びオブジェクトＤをレンダリングし、レンダリング結果を、ビデオストリーミングフレームにエンコードし、このフレーム７３を、ユーザーデバイス７４に伝送する。
【０２４２】
同時に、サーバーは、一つ一つ所定の順序に基づき、オブジェクトＡ、オブジェクトＢ、オブジェクトＣ及びオブジェクトＤ等の３Ｄモデルの伝送を開始し、オブジェクトＡの３Ｄモデルが先に伝送される。
【０２４３】
ユーザーデバイス上に表示されるすべての３Ｄモデルの伝送が完了するまで、次にオブジェクトＢ、オブジェクトＣ及びオブジェクトＤを伝送する。
【０２４４】
図５Ｂに示すとおり、オブジェクトＡ及びＢの３Ｄモデルがユーザーデバイス中にプレ保存された後、サーバーが、前提に基づき、近くから遠くへの所定順序で、３Ｄモデルの状態をチェックする時、サーバーは、オブジェクトＣは一個目のユーザーデバイス中にプレ保存されていないオブジェクトだと発見する。
【０２４５】
よって、サーバーは、オブジェクトＣ、及びオブジェクトＣ後に位置するすべて他のオブジェクト（オブジェクトＤなど）を、オブジェクトＤの３Ｄモデルがユーザーデバイス中にプレ保存されているか否かに関わらず、レンダリングする。
【０２４６】
この時、サーバーはオブジェクトＡ及びＢの３Ｄモデルに対してレンダリングを行わないため、この時オブジェクトＡ及びＢは既にユーザーデバイス中にプレ保存され、またオブジェクトＣの前にある。
【０２４７】
図５Ｃに示すとおり、新しいオブジェクトＥが、アプリケーションプログラムが創造するバーチャル３Ｄ環境中に表示されると、このオブジェクトユーザーデバイス中にプレ保存されているか否かに関わらず、オブジェクトＥ及びその後のすべてオブジェクトはどれもサーバーにレンダリングされる。
【０２４８】
例えば、図５Ｃに示すとおり、オブジェクトＢ、オブジェクトＣ及びオブジェクトＤと比較し、新しいオブジェクトＥは、３Ｄプロジェクション面５２に比較的近い。
【０２４９】
オブジェクトＢの３Ｄモデルは既にユーザーデバイス中にプレ保存されているが、オブジェクトＢは、新しいオブジェクトＥの後に位置するため、サーバーは、たとえオブジェクトＢのわずかな部分が、その前面の他のオブジェクトに覆われていたとしても、すべてのオブジェクトＥ、Ｃ、Ｂ及びＤに対して、レンダリングを行う。
【０２５０】
図７Ａ、７Ｂ及び７Ｃは、本発明方法において、どの３Ｄ音声が音声を備えるビデオストリーミングフレームにエンコードされるべきかをいかにして決定するかを示す一実施形態の模式図である。
【０２５１】
本発明において、サーバーは、レンダリングが必要なすべての３Ｄ音声を所定の順序で配列する。
【０２５２】
この所定の順序は、バーチャル位置（ユーザーデバイススクリーンの３Ｄプロジェクション面５２、或いは使用者の目５１）に対して、近くから遠くへの順序である。
【０２５３】
図７Ａに示すとおり、４個の３Ｄ音声Ａ、Ｂ、Ｃ及びＤは、ユーザーデバイスのスピーカー上で再生される必要がある。
【０２５４】
その内、音声Ａはプロジェクション面５２に最も近く、次は音声Ｂ、音声Ｃ及び音声Ｄである。
【０２５５】
初期ユーザーデバイスがサーバー７０上で動作するアプリケーションプログラムにログインしても、一切の３Ｄ音声は、ユーザーデバイス中にプレ保存されていない。
【０２５６】
よって、サーバーは、すべての音声Ａ、音声Ｂ、音声Ｃ及び音声Ｄをレンダリングし、レンダリング結果を、音声を備えるビデオストリーミングフレーム８３にエンコードし、このフレーム７３を、ユーザーデバイス７４に伝送する。
【０２５７】
同時に、サーバーは、すべての３Ｄ音声がユーザーデバイスに保存されるまで、所定の順序に基づき、音声Ａの３Ｄ音声を先に伝送し、次に順番に音声Ｂ、音声Ｃ及び音声Ｄを伝送し、音声Ａ、音声Ｂ、音声Ｃ及び音声Ｄのデータを一つ一つ伝送する。
【０２５８】
図７Ｂに示すとおり、音声Ａ及びＢの３Ｄ音声がユーザーデバイス中にプレ保存されると、サーバーは、前提に基づき、近くから遠くへの所定順序で、３Ｄ音声の状態をチェックし、サーバーは音声Ｃが一個目のユーザーデバイス中にプレ保存されていない音声であることを発見する。
【０２５９】
よって、サーバーは、音声Ｃ及び音声Ｃ後に位置するすべて他の音声（音声Ｄなど）をレンダリングし、この段階において、音声Ａ及びＢは既にユーザーデバイス中にプレ保存されているので、サーバーは、音声Ａ及びＢの３Ｄ音声に対してはレンダリングを行わない。
【０２６０】
図７Ｃに示すとおり、新しい音声Ｅがアプリケーションプログラムが作り出すバーチャル３Ｄ環境中に出現すると、音声Ｅは、サーバーにレンダリングされるが、このレンダリングは、他の音声のレンダリングに影響しない。
【０２６１】
これは、図５Ｃ中に示す３Ｄモデルとは異なり、図７Ｃに示すとおり、音声Ｂ、音声Ｃ及び音声Ｄと比較すると、新しい音声Ｅは、３Ｄプロジェクション面５２に近く、図５Ｃ中の３Ｄモデルとは異なり、ユーザーデバイス中にプレ保存される音声（音声Ａ及びＢなど）は、ユーザーデバイスによりレンダリングされるが、ユーザーデバイスにプレ保存される音声（音声Ｅ、Ｃ及びＤなど）ではなく、サーバーがレンダリングする。
【０２６２】
上記の本発明名称と内容は、本発明技術内容の説明に用いたのみで、本発明を限定するものではない。本発明の精神に基づく等価応用或いは部品（構造）の転換、置換、数量の増減はすべて、本発明の保護範囲に含むものとする。
【産業上の利用可能性】
【０２６３】
本発明は特許の要件である新規性を備え、従来の同類製品に比べ十分な進歩を有し、実用性が高く、社会のニーズに合致しており、産業上の利用価値は非常に大きい。
【符号の説明】
【０２６４】
１  サーバー
３  ネットワーク（アクセスポイント）
４  ネットワーク
２１  ユーザーデバイス（スマートフォン）
２２  ユーザーデバイス（ノート型コンピューター）
２３  ユーザーデバイス（デスクトップコンピューター）
５１  使用者の目
５２  プロジェクション面
７０  サーバー
７１、７１ａ  人
７２、７２ａ  家
７３、７３ａ  ビデオストリーミングフレーム
７４  ユーザーデバイス
７５  ビデオストリーミングフレーム
８１、８１ａ  音声
８２、８２ａ  音声
８３、８３ａ  ビデオストリーミングフレーム
８５  ビデオストリーミングフレーム
１００  アプリケーションプログラム
１１０  ３Ｄシーントランスミッター（プログラムライブラリー）
１２０  ３Ｄシーンサーバー
１７０  ３Ｄシーンユーザーエンド（プログラム）
１９０  ３Ｄシーンキャッシュ
【図１】
0005913554.tif 000002
【図２】
0005913554.tif 000003
【図３Ａ】
0005913554.tif 000004
【図３Ｂ】
0005913554.tif 000005
【図４Ａ】
0005913554.tif 000006
【図４Ｂ】
0005913554.tif 000007
【図４Ｃ】
0005913554.tif 000008
【図５Ａ】
0005913554.tif 000009
【図５Ｂ】
0005913554.tif 000010
【図５Ｃ】
0005913554.tif 000011
【図６Ａ】
0005913554.tif 000012
【図６Ｂ】
0005913554.tif 000013
【図６Ｃ】
0005913554.tif 000014
【図７Ａ】
0005913554.tif 000015
【図７Ｂ】
0005913554.tif 000016
【図７Ｃ】
0005913554.tif 000017