(57)【要約】  サーバ上にホストされ、ウェブ・ソケット接続を介して参加者にとってアクセス可能な、共同ワークスペースの表現を送信することと、共同ワークスペース内でローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び共同ワークスペースの表現内のエリアの選択を受信することと、ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成することと、ウェブ・ソケット接続を介して、１つ又は複数のコマンドをサーバに送信することであって、１つ又は複数のコマンドが、ストリーミング・オブジェクト、及び選択されたエリアに対応する情報を含み、サーバに、選択されたエリアで共同ワークスペース内にストリーミング・オブジェクトを挿入することを行わせるように構成される、送信することとを含む、ネットワーク化された共同ワークスペースにおけるウェブ・ソケット接続を介したデスクトップ共有のためのシステム、方法、及びコンピュータ可読媒体。
2021525910.tif 000002
【特許請求の範囲】
【請求項１】
ネットワーク化された共同ワークスペースにおけるウェブ・ソケット接続を介したデスクトップ共有のための方法であって、
ローカル・コンピューティング・デバイスのユーザ・インターフェース上で、サーバ上にホストされ、ウェブ・ソケット接続を介して複数のコンピューティング・デバイス上の複数の参加者にとってアクセス可能な、共同ワークスペースの表現を送信するステップと、
前記ローカル・コンピューティング・デバイスによって、前記共同ワークスペース内で前記ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び前記共同ワークスペースの前記表現内のエリアの選択を受信するステップと、
前記ローカル・コンピューティング・デバイスによって、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成するステップと、
前記ローカル・コンピューティング・デバイスによって、前記ウェブ・ソケット接続を介して、１つ又は複数のコマンドを前記サーバに送信するステップであって、前記１つ又は複数のコマンドが、前記ストリーミング・オブジェクト、及び前記選択されたエリアに対応する情報を含み、前記サーバに、前記選択されたエリアで前記共同ワークスペース内に前記ストリーミング・オブジェクトを挿入することを行わせるように構成される、送信するステップと
を含む、方法。
【請求項２】
前記ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び前記共同ワークスペースの前記表現内のエリアの選択を受信するステップが、
前記ローカル・デスクトップの前記少なくとも一部の選択を受信するように構成されたソース選択インターフェースを、前記ユーザ・インターフェース内で送信するステップと、
前記ローカル・デスクトップの前記少なくとも一部の選択を受信するステップと
を含む、請求項１に記載の方法。
【請求項３】
前記少なくとも一部が、前記ローカル・デスクトップ内のウィンドウ、前記ローカル・コンピューティング・デバイス上で実行するアプリケーションに対応するインターフェース、又は前記ローカル・デスクトップ、のうちの少なくとも１つを含む、請求項１に記載の方法。
【請求項４】
前記サーバ上にホストされた共同ワークスペースの前記表現が、前記ローカル・コンピューティング・デバイス上で実行するローカル共同アプリケーションによって、前記ローカル・コンピューティング・デバイス上で送信され、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成するステップが、
前記ローカル共同アプリケーションによって、前記ローカル共同アプリケーションとスクリーン・キャプチャ・プログラムとの間のアプリケーション・プログラミング・インターフェース（ＡＰＩ）を介して、前記ローカル・コンピューティング・デバイス上で実行する前記スクリーン・キャプチャ・プログラムにソース識別子を求める要求を送信するステップと、
前記スクリーン・キャプチャ・プログラムによって、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のストリームを開始するステップであって、前記ストリームが、対応するソース識別子を有する、開始するステップと、
前記スクリーン・キャプチャ・プログラムによって、前記ソース識別子を前記ローカル共同アプリケーションに送信するステップと
前記ローカル共同アプリケーションによって、前記ソース識別子に少なくとも部分的に基づいて、前記ストリーミング・オブジェクトを生成するステップと
を含む、請求項１に記載の方法。
【請求項５】
前記挿入されたストリーミング・オブジェクトが、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部の前記ビデオ・ストリームを受信し、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部の前記ビデオ・ストリームを、前記ウェブ・ソケット接続を介して前記複数のコンピューティング・デバイスに送信するように構成される、請求項１に記載の方法。
【請求項６】
前記ローカル・コンピューティング・デバイスの前記ユーザ・インターフェース上で、前記挿入されたストリーミング・オブジェクトを前記共同ワークスペースの前記表現内で送信するステップであって、前記挿入されたストリーミング・オブジェクトが、前記ビデオ・ストリームのソースのネットワーク・アドレスに関連付けられる、送信するステップと、
前記ローカル・コンピューティング・デバイス上で実行する透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力を検出するステップであって、前記ユーザ入力が、前記ローカル・デスクトップ内のロケーションに対応し、前記透明層が、オペレーティング・システム又は前記オペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数とインターフェースするように構成されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を備える、検出するステップと、
前記ローカル・コンピューティング・デバイス上で実行する前記透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられた前記ネットワーク・アドレスが前記ローカル・コンピューティング・デバイスのネットワーク・アドレスに対応すると判断するステップと、
前記ローカル・コンピューティング・デバイス上で実行する前記透明層によって、前記オペレーティング・システム又は前記オペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数に、１つ又は複数の第２のコマンドを送信するステップであって、前記１つ又は複数の第２のコマンドが、前記ローカル・デスクトップ内の前記ロケーションで前記ユーザ入力を実行するように構成される、送信するステップと
をさらに含む、請求項１に記載の方法。
【請求項７】
前記複数のコンピューティング・デバイスにおけるリモート・コンピューティング・デバイスのリモート・ユーザ・インターフェース上で、前記挿入されたストリーミング・オブジェクトを前記共同ワークスペースのリモート表現内で送信するステップであって、前記挿入されたストリーミング・オブジェクトが、前記ビデオ・ストリームのソースのネットワーク・アドレスに関連付けられる、送信するステップと、
前記リモート・コンピューティング・デバイス上で実行するリモート透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられたリモート・ユーザ入力を検出するステップであって、前記リモート・ユーザ入力が、前記ローカル・デスクトップ内のロケーションに対応し、前記透明層が、オペレーティング・システム又は前記オペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数とインターフェースするように構成されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を備える、検出するステップと、
前記リモート・コンピューティング・デバイス上で実行する前記リモート透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられた前記ネットワーク・アドレスが前記リモート・コンピューティング・デバイスのネットワーク・アドレスに対応しないと判断するステップと、
前記リモート・コンピューティング・デバイス上で実行する前記リモート透明層によって、１つ又は複数の第２のコマンドを、前記ウェブ・ソケット接続を介して前記ローカル・コンピューティング・デバイスに送信するステップであって、前記１つ又は複数の第２のコマンドが、前記ローカル・コンピューティング・デバイス上で実行するローカル透明層に、前記ローカル・デスクトップ内の前記ロケーションで前記ユーザ入力の実行を行わせるように構成される、送信するステップと
をさらに含む、請求項１に記載の方法。
【請求項８】
ネットワーク化された共同ワークスペースにおけるウェブ・ソケット接続を介したデスクトップ共有のためのローカル・コンピューティング・デバイスであって、
１つ又は複数のプロセッサと、
前記１つ又は複数のプロセッサのうちの少なくとも１つに動作可能に結合され、前記１つ又は複数のプロセッサのうちの少なくとも１つによって実行されたとき、前記１つ又は複数のプロセッサのうちの少なくとも１つに、
前記ローカル・コンピューティング・デバイスのユーザ・インターフェース上で、サーバ上にホストされ、ウェブ・ソケット接続を介して複数のコンピューティング・デバイス上の複数の参加者にとってアクセス可能な、共同ワークスペースの表現を送信することと、
前記共同ワークスペース内で前記ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び前記共同ワークスペースの前記表現内のエリアの選択を受信することと、
前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成することと、
前記ウェブ・ソケット接続を介して、１つ又は複数のコマンドを前記サーバに送信することであって、前記１つ又は複数のコマンドが、前記ストリーミング・オブジェクト、及び前記選択されたエリアに対応する情報を含み、前記サーバに、前記選択されたエリアで前記共同ワークスペース内に前記ストリーミング・オブジェクトを挿入することを行わせるように構成される、送信することと
を行わせる命令を記憶した、１つ又は複数のメモリと
を備える、ローカル・コンピューティング・デバイス。
【請求項９】
前記１つ又は複数のプロセッサのうちの少なくとも１つによって実行されたとき、前記１つ又は複数のプロセッサのうちの少なくとも１つに、前記ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び前記共同ワークスペースの前記表現内のエリアの選択を受信することを行わせる前記命令が、前記１つ又は複数のプロセッサのうちの少なくとも１つに、
前記ローカル・デスクトップの前記少なくとも一部の選択を受信するように構成されたソース選択インターフェースを、前記ユーザ・インターフェース内で送信することと、
前記ローカル・デスクトップの前記少なくとも一部の選択を受信することと
をさらに行わせる、請求項８に記載のローカル・コンピューティング・デバイス。
【請求項１０】
前記少なくとも一部が、前記ローカル・デスクトップ内のウィンドウ、前記ローカル・コンピューティング・デバイス上で実行するアプリケーションに対応するインターフェース、又は前記ローカル・デスクトップ、のうちの少なくとも１つを含む、請求項８に記載のローカル・コンピューティング・デバイス。
【請求項１１】
前記サーバ上にホストされた共同ワークスペースの前記表現が、前記ローカル・コンピューティング・デバイス上で実行するローカル共同アプリケーションによって、前記ローカル・コンピューティング・デバイス上で送信され、前記１つ又は複数のプロセッサのうちの少なくとも１つによって実行されたとき、前記１つ又は複数のプロセッサのうちの少なくとも１つに、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成することを行わせる前記命令が、前記１つ又は複数のプロセッサのうちの少なくとも１つに、
前記ローカル共同アプリケーションによって、前記ローカル共同アプリケーションとスクリーン・キャプチャ・プログラムとの間のアプリケーション・プログラミング・インターフェース（ＡＰＩ）を介して、前記ローカル・コンピューティング・デバイス上で実行する前記スクリーン・キャプチャ・プログラムにソース識別子を求める要求を送信することと、
前記スクリーン・キャプチャ・プログラムによって、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のストリームを開始するステップであって、前記ストリームが、対応するソース識別子を有する、開始することと、
前記スクリーン・キャプチャ・プログラムによって、前記ソース識別子を前記ローカル共同アプリケーションに送信することと
前記ローカル共同アプリケーションによって、前記ソース識別子に少なくとも部分的に基づいて、前記ストリーミング・オブジェクトを生成することと
をさらに行わせる、請求項８に記載のローカル・コンピューティング・デバイス。
【請求項１２】
前記挿入されたストリーミング・オブジェクトが、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部の前記ビデオ・ストリームを受信し、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部の前記ビデオ・ストリームを、前記ウェブ・ソケット接続を介して前記複数のコンピューティング・デバイスに送信するように構成される、請求項８に記載のローカル・コンピューティング・デバイス。
【請求項１３】
前記１つ又は複数のメモリのうちの少なくとも１つが、前記１つ又は複数のプロセッサのうちの少なくとも１つによって実行されたとき、前記１つ又は複数のプロセッサのうちの少なくとも１つに、
前記ローカル・コンピューティング・デバイスの前記ユーザ・インターフェース上で、前記挿入されたストリーミング・オブジェクトを前記共同ワークスペースの前記表現内で送信することであって、前記挿入されたストリーミング・オブジェクトが、前記ビデオ・ストリームのソースのネットワーク・アドレスに関連付けられる、送信することと、
前記ローカル・コンピューティング・デバイス上で実行する透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力を検出することであって、前記ユーザ入力が、前記ローカル・デスクトップ内のロケーションに対応し、前記透明層が、オペレーティング・システム又は前記オペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数とインターフェースするように構成されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を備える、検出することと、
前記ローカル・コンピューティング・デバイス上で実行する前記透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられた前記ネットワーク・アドレスが前記ローカル・コンピューティング・デバイスのネットワーク・アドレスに対応すると判断することと、
前記ローカル・コンピューティング・デバイス上で実行する前記透明層によって、前記オペレーティング・システム又は前記オペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数に、前記１つ又は複数の第２のコマンドを送信することであって、前記１つ又は複数の第２のコマンドが、前記ローカル・デスクトップ内の前記ロケーションで前記ユーザ入力を実行するように構成される、送信することと
を行わせる命令をさらに記憶した、請求項８に記載のローカル・コンピューティング・デバイス。
【請求項１４】
ローカル・コンピューティング・デバイスによって実行されたとき、前記ローカル・コンピューティング・デバイスに、
ローカル・コンピューティング・デバイスのユーザ・インターフェース上で、サーバ上にホストされ、ウェブ・ソケット接続を介して複数のコンピューティング・デバイス上の複数の参加者にとってアクセス可能な、共同ワークスペースの表現を送信することと、
前記共同ワークスペース内で前記ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び前記共同ワークスペースの前記表現内のエリアの選択を受信することと、
前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成することと、
前記ウェブ・ソケット接続を介して、１つ又は複数のコマンドを前記サーバに送信することであって、前記１つ又は複数のコマンドが、前記ストリーミング・オブジェクト、及び前記選択されたエリアに対応する情報を含み、前記サーバに、前記選択されたエリアで前記共同ワークスペース内に前記ストリーミング・オブジェクトを挿入することを行わせるように構成される、送信することと
を行わせるコンピュータ可読命令を記憶する、少なくとも１つの非一時的コンピュータ可読媒体。
【請求項１５】
前記ローカル・コンピューティング・デバイスによって実行されたとき、前記ローカル・コンピューティング・デバイスに、前記ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び前記共同ワークスペースの前記表現内のエリアの選択を受信することを行わせる前記命令が、前記ローカル・コンピューティング・デバイスに、
前記ローカル・デスクトップの前記少なくとも一部の選択を受信するように構成されたソース選択インターフェースを、前記ユーザ・インターフェース内で送信することと、
前記ローカル・デスクトップの前記少なくとも一部の選択を受信することと
をさらに行わせる、請求項１４に記載の少なくとも１つの非一時的コンピュータ可読媒体。
【請求項１６】
前記少なくとも一部が、前記ローカル・デスクトップ内のウィンドウ、前記ローカル・コンピューティング・デバイス上で実行するアプリケーションに対応するインターフェース、又は前記ローカル・デスクトップ、のうちの少なくとも１つを含む、請求項１４に記載の少なくとも１つの非一時的コンピュータ可読媒体。
【請求項１７】
前記サーバ上にホストされた共同ワークスペースの前記表現が、前記ローカル・コンピューティング・デバイス上で実行するローカル共同アプリケーションによって、前記ローカル・コンピューティング・デバイス上で送信され、前記ローカル・コンピューティング・デバイスによって実行されたとき、前記ローカル・コンピューティング・デバイスに、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成することを行わせる前記命令が、前記ローカル・コンピューティング・デバイスに、
前記ローカル共同アプリケーションによって、前記ローカル共同アプリケーションとスクリーン・キャプチャ・プログラムとの間のアプリケーション・プログラミング・インターフェース（ＡＰＩ）を介して、前記ローカル・コンピューティング・デバイス上で実行する前記スクリーン・キャプチャ・プログラムにソース識別子を求める要求を送信することと、
前記スクリーン・キャプチャ・プログラムによって、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部のストリームを開始するステップであって、前記ストリームが、対応するソース識別子を有する、開始することと、
前記スクリーン・キャプチャ・プログラムによって、前記ソース識別子を前記ローカル共同アプリケーションに送信することと
前記ローカル共同アプリケーションによって、前記ソース識別子に少なくとも部分的に基づいて、前記ストリーミング・オブジェクトを生成することと
をさらに行わせる、請求項１４に記載の少なくとも１つの非一時的コンピュータ可読媒体。
【請求項１８】
前記挿入されたストリーミング・オブジェクトが、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部の前記ビデオ・ストリームを受信し、前記ローカル・コンピューティング・デバイスの前記ローカル・デスクトップの前記少なくとも一部の前記ビデオ・ストリームを、前記ウェブ・ソケット接続を介して前記複数のコンピューティング・デバイスに送信するように構成される、請求項１４に記載の少なくとも１つの非一時的コンピュータ可読媒体。
【請求項１９】
前記ローカル・コンピューティング・デバイスによって実行されたとき、前記ローカル・コンピューティング・デバイスに、
前記ローカル・コンピューティング・デバイスの前記ユーザ・インターフェース上で、前記挿入されたストリーミング・オブジェクトを前記共同ワークスペースの前記表現内で送信することであって、前記挿入されたストリーミング・オブジェクトが、前記ビデオ・ストリームのソースのネットワーク・アドレスに関連付けられる、送信することと、
前記ローカル・コンピューティング・デバイス上で実行する透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力を検出することであって、前記ユーザ入力が、前記ローカル・デスクトップ内のロケーションに対応し、前記透明層が、オペレーティング・システム又は前記オペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数とインターフェースするように構成されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を備える、検出することと、
前記ローカル・コンピューティング・デバイス上で実行する前記透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられた前記ネットワーク・アドレスが前記ローカル・コンピューティング・デバイスのネットワーク・アドレスに対応すると判断することと、
前記ローカル・コンピューティング・デバイス上で実行する前記透明層によって、前記オペレーティング・システム又は前記オペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数に、１つ又は複数の第２のコマンドを送信することであって、前記１つ又は複数の第２のコマンドが、前記ローカル・デスクトップ内の前記ロケーションで前記ユーザ入力を実行するように構成される、送信することと
を行わせるコンピュータ可読命令をさらに記憶する、請求項１４に記載の少なくとも１つの非一時的コンピュータ可読媒体。
【請求項２０】
前記複数のコンピューティング・デバイスにおけるリモート・コンピューティング・デバイスによって実行されたとき、前記リモート・コンピューティング・デバイスに、
前記リモート・コンピューティング・デバイスのリモート・ユーザ・インターフェース上で、前記挿入されたストリーミング・オブジェクトを前記共同ワークスペースのリモート表現内で送信することであって、前記挿入されたストリーミング・オブジェクトが、前記ビデオ・ストリームのソースのネットワーク・アドレスに関連付けられる、送信することと、
前記リモート・コンピューティング・デバイス上で実行するリモート透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられたリモート・ユーザ入力を検出することであって、前記リモート・ユーザ入力が、前記ローカル・デスクトップ内のロケーションに対応し、前記透明層が、オペレーティング・システム又は前記オペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数とインターフェースするように構成されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を備える、検出することと、
前記リモート・コンピューティング・デバイス上で実行する前記リモート透明層によって、前記挿入されたストリーミング・オブジェクトに関連付けられた前記ネットワーク・アドレスが前記リモート・コンピューティング・デバイスのネットワーク・アドレスに対応しないと判断するステップと、
前記リモート・コンピューティング・デバイス上で実行する前記リモート透明層によって、１つ又は複数の第２のコマンドを、前記ウェブ・ソケット接続を介して前記ローカル・コンピューティング・デバイスに送信することであって、前記１つ又は複数の第２のコマンドが、前記ローカル・コンピューティング・デバイス上で実行するローカル透明層に、前記ローカル・デスクトップ内の前記ロケーションで前記ユーザ入力の実行を行わせるように構成される、送信することと
を行わせるコンピュータ可読命令をさらに記憶する、請求項１４に記載の少なくとも１つの非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【背景技術】
【０００１】
オペレーティング・システム、及びオペレーティング・システム内で実行するアプリケーションは、ユーザがプログラムに入力を与えることと、ユーザに出力を与えることとを可能にするために、外部ハードウェア・デバイスを頻繁に利用する。外部ハードウェア・デバイスの一般的な実例は、キーボード、コンピュータ・マウス、マイクロフォン、及び外部スピーカーを含む。これらの外部ハードウェア・デバイスは、ドライバの使用によってオペレーティング・システムとインターフェースし、ドライバは、特定のハードウェア・デバイスによって使用されるハードウェア・コマンドとオペレーティング・システムとの間をインターフェースするように構成された専用ソフトウェア・プログラムである。
【０００２】
アプリケーションは、いくつかのハードウェア・デバイスとインターフェースするように設計されることがある。たとえば、音声−テキスト・ワード・プロセッシング・アプリケーションが、マイクロフォンを含むオーディオ・ヘッドセットとインターフェースするように設計され得る。この場合、アプリケーションは、特に、音声コマンドを受信し、音声認識を実施し、認識されたワードをテキスト・コンテンツに変換し、テキスト・コンテンツを文書に出力するように構成されなければならない。この機能性は、一般に、様々なソフトウェア構成要素間の通信の定義された方法のセットである、アプリケーションのアプリケーション・プログラミング・インターフェース（ＡＰＩ：Ａｐｐｌｉｃａｔｉｏｎ  Ｐｒｏｇｒａｍｍｉｎｇ  Ｉｎｔｅｒｆａｃｅ）において実施されることになる。音声認識アプリケーションの実例では、ＡＰＩは、アプリケーション・プログラムとドライバ上のソフトウェアとの間のインターフェースを含むことができ、これは、ハードウェア・デバイス（マイクロフォン）自体とインターフェースすることを担当する。
【０００３】
専用ハードウェア・デバイスを利用する既存のソフトウェアの１つの問題は、アプリケーション又はオペレーティング・システム・ソフトウェア自体が、ハードウェア・デバイスを利用するために、カスタマイズされ、特別に設計されなければならないことである。このカスタマイゼーションは、ハードウェア・デバイスが、アプリケーションによって、そのために定義された範囲を超えることができず、それが使用されるように設計された特定のアプリケーション以外のコンテキストのために利用され得ないことを意味する。たとえば、音声テキスト・ワード・プロセッシング・アプリケーションのユーザは、オペレーティング・システム内の他のアプリケーション・プログラム又は他の構成要素を、それらの他のアプリケーション・プログラム又はオペレーティング・システムが、マイクロフォンを介して受信される音声コマンドを利用するように特別に設計されない限り、音声コマンドを使用して操作することができない。
【０００４】
図１は、ユーザ入力のために、結合されたハードウェア・デバイスを利用するシステムの既存のアーキテクチャの一実例を示す。図１のオペレーティング・システム１００Ａは、実行アプリケーション１０１Ａ及び１０２Ａを含み、それらの各々は、それぞれ、それら自体のＡＰＩ１０１Ｂ及び１０２Ｂを有する。オペレーティング・システム１００Ａはまた、それ自体のＡＰＩ１００Ｂ、並びにハードウェア・デバイス１００Ｄ、１０１Ｄ、及び１０２Ｄとインターフェースするように構成された専用ドライバ１００Ｃ、１０１Ｃ、及び１０２Ｃを有する。
【０００５】
図１に示されているように、アプリケーションＡＰＩ１０１Ｂは、ドライバ１０１Ｃとインターフェースするように構成され、ドライバ１０１Ｃ自体は、ハードウェア・デバイス１０１Ｄとインターフェースする。同様に、アプリケーションＡＰＩ１０２Ｂは、ドライバ１０２Ｃとインターフェースするように構成され、ドライバ１０２Ｃ自体は、ハードウェア・デバイス１０２Ｄとインターフェースする。オペレーティング・システム・レベルにおいて、オペレーティング・システムＡＰＩ１００Ｂは、ドライバ１００Ｃとインターフェースするように構成され、ドライバ１００Ｃ自体は、ハードウェア・デバイス１００Ｄとインターフェースする。
【０００６】
図１に示されているシステムのアーキテクチャは、いくつかのアプリケーション又はオペレーティング・システム・コンテキスト外でハードウェア・デバイスを利用するユーザの能力を限定する。たとえば、ユーザは、アプリケーション１０２Ａに入力を与えるためにハードウェア・デバイス１０１Ｄを利用することができず、アプリケーション１０１Ａに又はオペレーティング・システム１００Ａに入力を与えるためにハードウェア・デバイス１０２Ｄを利用することができない。
【発明の概要】
【発明が解決しようとする課題】
【０００７】
したがって、複数のソフトウェア・コンテキストにおけるハードウェア・デバイスの利用を可能にする、ハードウェア・ソフトウェア・インターフェースの改善が必要とされる。
【図面の簡単な説明】
【０００８】
【図１】ユーザ入力のために、結合されたハードウェア・デバイスを利用するシステムの既存のアーキテクチャの一実例を示す図である。
【図２】例示的な実施例による、ユニバーサル・ハードウェア・ソフトウェア・インターフェースを利用するシステムのアーキテクチャを示す図である。
【図３】例示的な実施例による、ユニバーサル・ハードウェア・ソフトウェア・インターフェースの実装のためのフローチャートである。
【図４】例示的な実施例による、システムに通信可能に結合された１つ又は複数のハードウェア・デバイスによってキャプチャされた情報が１つ又は複数の画像を含むときの、１つ又は複数のハードウェア・デバイスによってキャプチャされた情報に少なくとも部分的に基づいてユーザ入力を決定するためのフローチャートである。
【図５Ａ】例示的な実施例による、オブジェクト認識の一実例を示す図である。
【図５Ｂ】例示的な実施例による、入力ロケーション座標を決定することの一実例を示す図である。
【図６】例示的な実施例による、システムに通信可能に結合された１つ又は複数のハードウェア・デバイスによってキャプチャされた情報が音情報であるときの、キャプチャされた情報に少なくとも部分的に基づいてユーザ入力を決定するためのフローチャートである。
【図７】例示的な実施例による、透明層の一部であり得るツール・インターフェースを示す図である。
【図８】例示的な実施例による、システムの一部であり得るスタイラスの一実例を示す図である。
【図９】例示的な実施例による、ユーザ入力に対応するコンテキストを識別するためのフローチャートである。
【図１０】例示的な実施例による、コンテキストを決定するために入力座標を使用することの一実例を示す図である。
【図１１】例示的な実施例による、ユーザ入力を透明層コマンドに変換するためのフローチャートである。
【図１２Ａ】例示的な実施例による、選択モードがトグルされるときの、入力座標を受信することの一実例を示す図である。
【図１２Ｂ】例示的な実施例による、ポインティング・モードがトグルされるときの、入力座標を受信することの一実例を示す図である。
【図１２Ｃ】例示的な実施例による、描画モード（ｄｒａｗｉｎｇ  ｍｏｄｅ）がトグルされるときの、入力座標を受信することの一実例を示す図である。
【図１３】例示的な実施例による、入力音声データ中で識別された１つ又は複数のワードに基づいて決定される透明層コマンドの一実例を示す図である。
【図１４】例示的な実施例による、入力音声データ中で識別された１つ又は複数のワードに基づいて決定される透明層コマンドの別の実例を示す図である。
【図１５】例示的な実施例による、透明層上で１つ又は複数の透明層コマンドを実行するためのフローチャートである。
【図１６】例示的な実施例による、ユーザ入力に対応する新しいコマンドを追加するための例示的なインターフェースを示す図である。
【図１７】例示的な実施例による、描画インターフェース及び描画モード（ｄｒａｗ  ｍｏｄｅ）の様々な構成要素及びオプションを示す図である。
【図１８】例示的な実施例による、オブジェクトを認識するために使用され、ユーザがタッチ及びジェスチャーを使用して入力を与えることを可能にする、ビデオ・カメラ・ハードウェア・デバイスのための較正及び設定インターフェースを示す図である。
【図１９】例示的な実施例による、ユーザが、インターフェースの様々な態様をカスタマイズし、入力モードをトグルし、他の交換を行うことを可能にする、一般的な設定インターフェースを示す図である。
【図２０】例示的な実施例による、ネットワーク化された共同（ｃｏｌｌａｂｏｒａｔｉｏｎ）ワークスペースにおけるウェブ・ソケット接続を介したデスクトップ共有のためのフローチャートである。
【図２１Ａ】例示的な実施例による、共同ワークスペースをホストし、送信するために使用されるネットワーク・アーキテクチャを示す図である。
【図２１Ｂ】例示的な実施例による、ネットワーク内で共同ワークスペースに対する編集を伝えるためのプロセスを示す図である。
【図２２】例示的な実施例による、共同ワークスペースの複数の表現を示す図である。
【図２３Ａ】例示的な実施例による、要求、及びエリアの選択を受信する前の、ローカル・コンピューティング・デバイスのユーザ・インターフェース（デスクトップ）の一実例を示す図である。
【図２３Ｂ】例示的な実施例による、要求を受信した後、且つエリアの選択の前の、ローカル・コンピューティング・デバイスのユーザ・インターフェース（デスクトップ）の一実例を示す図である。
【図２４Ａ】例示的な実施例によるソース選択プロセスの一実例を示す図である。
【図２４Ｂ】例示的な実施例によるソース選択プロセスの一実例を示す図である。
【図２４Ｃ】例示的な実施例によるソース選択プロセスの一実例を示す図である。
【図２５】例示的な実施例による、ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成するためのフローチャートである。
【図２６】例示的な実施例による、ローカル・コンピューティング・デバイスからコマンドを送り、ストリーミング・オブジェクトを伝えるプロセスを示す図である。
【図２７】例示的な実施例による、サーバが共同ワークスペース内にストリーミング・オブジェクトを埋め込んだ後の、ローカル・コンピューティング・デバイスのインターフェースの一実例を示す図である。
【図２８】例示的な実施例による、ローカル・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御するためのフローチャートである。
【図２９Ａ】例示的な実施例による、ローカル・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御することの一実例を示す図である。
【図２９Ｂ】例示的な実施例による、ローカル・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御することの一実例を示す図である。
【図２９Ｃ】例示的な実施例による、ローカル・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御することの一実例を示す図である。
【図３０】例示的な実施例による、リモート・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御するためのフローチャートである。
【図３１Ａ】例示的な実施例による、リモート・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御することの一実例を示す図である。
【図３１Ｂ】例示的な実施例による、リモート・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御することの一実例を示す図である。
【図３１Ｃ】例示的な実施例による、リモート・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御することの一実例を示す図である。
【図３２】開示される方法を行うように構成された例示的なコンピューティング環境を示す図である。
【発明を実施するための形態】
【０００９】
方法、装置、及びコンピュータ可読媒体は、実例及び実施例として本明細書で説明されるが、当業者は、ユニバーサル・ハードウェア・ソフトウェア・インターフェースの実装のための方法、装置、及びコンピュータ可読媒体が、説明される実施例又は図面に限定されないことを認識する。図面及び説明は、開示される特定の形式に限定されるものではないことを理解されたい。むしろ、意図は、添付の特許請求の範囲の趣旨及び範囲内に入るすべての修正、等価物及び代替をカバーすることである。本明細書で使用されるいかなる見出しも編成のためのものであるにすぎず、本明細書の範囲又は特許請求の範囲を限定するものではない。本明細書で使用される「することができる（ｃａｎ）」という単語は、強制的な意味（すなわち、しなければならない（ｍｕｓｔ）という意味）ではなく許容的な意味（すなわち、可能性を有するという意味）において使用される。同様に、「含む（ｉｎｃｌｕｄｅ）」、「含む（ｉｎｃｌｕｄｉｎｇ）」、及び「含む（ｉｎｃｌｕｄｅｓ）」という単語は、含むことを意味するが、それに限定されない。
【００１０】
出願人は、ハードウェア・デバイスのために使用される、以前のハードウェア・ソフトウェア・インターフェースに関連する問題を解決する方法、装置、及びコンピュータ可読媒体を発見した。特に、出願人は、ユーザが、様々なソフトウェア・コンテキストにおいて通信可能に結合されたハードウェア・デバイスを利用することを可能にするユニバーサル・ハードウェア・ソフトウェア・インターフェースを開発した。開示される実装形態は、以下でより詳細に説明されるように、専用仮想ドライバ及び対応する透明層の使用によって、アプリケーション又はオペレーティング・システムが特定のハードウェア・デバイスとインターフェースするように特注設計される必要を取り除く。
【００１１】
図２は、例示的な実施例による、ユニバーサル・ハードウェア・ソフトウェア・インターフェースを利用するシステムのアーキテクチャを示す。図２に示されているように、オペレーティング・システム２００Ａは、仮想ドライバ２０４と通信する透明層２０３を含む。以下でより詳細に説明されるように、透明層２０３は、仮想ドライバとオペレーティング・システム及び／又はオペレーティング・システム上で実行する（１つ又は複数の）アプリケーションとの間をインターフェースするように構成されたＡＰＩである。この例では、透明層２０３は、仮想ドライバ２０４と、アプリケーション２０１ＡのＡＰＩ２０１Ｂ、アプリケーション２０２ＡのＡＰＩ２０２Ｂ、及びオペレーティング・システム２００Ａのオペレーティング・システムＡＰＩ２００Ｂとの間をインターフェースする。
【００１２】
透明層２０３は、オペレーティング・システム上で動作するソフトウェア・プロセスの一部であり得、下位（ｕｎｄｅｒｌｙｉｎｇ）ユーザ・インターフェースの上に重ね合わせられた透明ユーザ・インターフェース（ＵＩ：ｕｓｅｒ  ｉｎｔｅｒｆａｃｅ）及び／又はユーザが対話することが可能である可視ＵＩ要素を含む、透明層２０３自体のＵＩ要素を有することができる。
【００１３】
仮想ドライバ２０４は、ドライバ２０５Ａ及び２０５Ｂをエミュレートするように構成され、ドライバ２０５Ａ及び２０５Ｂは、それぞれ、ハードウェア・デバイス２０６Ａ及び２０６Ｂとインターフェースする。仮想ドライバは、どの仮想ドライバをエミュレートすべきかについて仮想ドライバに命令する、たとえば、音声コマンド、ユーザ・インターフェース上で行われる選択、及び／又は結合されたウェブ・カメラの前でユーザによって行われるジェスチャーの形式の、ユーザ入力を受信することができる。たとえば、接続されたハードウェア・デバイスの各々は、「リスニング」モードにおいて動作することができ、仮想ドライバ２０４におけるエミュレートされるドライバの各々は、特定のエミュレーション・モードに切り替えるための仮想ドライバに対する信号として働く初期化信号を検出するように構成され得る。たとえば、ユーザが「音声コマンド開始」と述べることは、新しい音声コマンドを受信するためのマイクロフォンに対応するドライバをアクティブにすることができる。同様に、ユーザがあるジェスチャーを与えることは、ジェスチャー入力又はタッチ入力を受信するためのウェブ・カメラに対応するドライバをアクティブにすることができる。
【００１４】
仮想ドライバは、ネイティブ・ドライバ２０５Ｃなど、ネイティブ・ドライバとインターフェースするようにも構成され得、ネイティブ・ドライバ２０５Ｃ自体は、ハードウェア・デバイス２０６Ｃと通信する。一実例では、ハードウェア・デバイス２０６Ｃは、キーボード又はマウスなど、標準入力デバイスであり得、標準入力デバイスは、オペレーティング・システムによってネイティブにサポートされる。
【００１５】
図２に示されているシステムは、ユーザが、特定のアプリケーション又はオペレーティング・システムなどの様々なコンテキストにおいて任意の結合されたハードウェア・デバイスを、そのアプリケーション又はオペレーティング・システムがハードウェア・デバイスとインターフェースするようにカスタマイズされることを必要とすることなしに、利用することができるユニバーサル・ハードウェア・ソフトウェア・インターフェースの実装を可能にする。
【００１６】
たとえば、ハードウェア・デバイス２０６Ａは、情報をキャプチャすることができ、その情報は、次いで、ドライバ２０５Ａをエミュレートする仮想ドライバ２０４によって受信される。仮想ドライバ２０４は、キャプチャされた情報に基づいて、ユーザ入力を決定することができる。たとえば、その情報が、ユーザがユーザの手を動かす一連の画像である場合、仮想ドライバは、ユーザがジェスチャーを実施したと決定することができる。
【００１７】
（特定のアプリケーション又はオペレーティング・システムなどの）識別されたコンテキストに基づいて、ユーザ入力は、実行のために透明層コマンドに変換され、透明層２０３に送信され得る。透明層コマンドは、識別されたコンテキストにおけるネイティブ・コマンドを含むことができる。たとえば、識別されたコンテキストがアプリケーション２０１Ａである場合、ネイティブ・コマンドは、アプリケーション２０１ＡのアプリケーションＡＰＩ２０１Ｂに適合するフォーマットのものであろう。次いで、透明層コマンドの実行が、識別されたコンテキストにおける１つ又は複数のネイティブ・コマンドの実行を引き起こすように構成され得る。これは、透明層２０３が、オペレーティング・システム２００Ａ並びにオペレーティング・システムＡＰＩ２００Ｂ上で実行するアプリケーションのＡＰＩの各々とインターフェースすることによって、達成される。たとえば、ネイティブ・コマンドが、新しいプログラムを起動するためのコマンドなど、オペレーティング・システム・コマンドである場合、透明層２０３は、実行のためにオペレーティング・システムＡＰＩ２００Ｂにそのネイティブ・コマンドを与えることができる。
【００１８】
図２に示されているように、示されている構成要素のすべての間で双方向通信がある。これは、たとえば、透明層２０３における透明層コマンドの実行が、仮想ドライバ２０４への情報の送信及び接続されたハードウェア・デバイスのうちの１つ上への情報の送信を生じることがあることを意味する。たとえば、音声コマンドが入力として認識され、ネイティブ・コマンドを含む透明層コマンドに変換され、透明層によって実行された（識別されたコンテキストにおけるネイティブ・コマンドの実行を生じた）後に、音出力「コマンドが受信されました」を送信するために、信号が（仮想ドライバを介して）透明層からスピーカーに送られ得る。
【００１９】
もちろん、図２に示されているアーキテクチャは、説明のためのものにすぎず、実行するアプリケーションの数、接続されたハードウェア・デバイスの数及びタイプ、ドライバ及びエミュレートされたドライバの数は変動することがあることを理解されたい。
【００２０】
図３は、例示的な実施例による、ユニバーサル・ハードウェア・ソフトウェア・インターフェースの実装のためのフローチャートである。
【００２１】
ステップ３０１において、システムに通信可能に結合された１つ又は複数のハードウェア・デバイスによってキャプチャされた情報に少なくとも部分的に基づいて、ユーザ入力が決定される。本明細書で使用されるシステムは、方法のステップを実行する１つ又は複数のコンピューティング・デバイス、方法のステップを実行する１つ又は複数のプロセッサと１つ又は複数のメモリとを備える装置、又は任意の他のコンピューティング・システムを指すことがある。
【００２２】
ユーザ入力は、システム上で実行する仮想ドライバによって決定され得る。前に説明されたように、仮想ドライバは、エミュレーション・モードにおいて動作していることがあり、エミュレーション・モードにおいて、仮想ドライバは、他のハードウェア・ドライバをエミュレートしており、それにより、ハードウェア・デバイスから、キャプチャされた情報を受信するか、又は随意に、特定のハードウェア・デバイスとインターフェースするように構成された１つ又は複数の他のハードウェア・ドライバから、キャプチャされた情報を受信することができる。
【００２３】
カメラ、ビデオ・カメラ、マイクロフォン、双方向通信を有するヘッドセット、マウス、タッチパッド、トラックパッド、コントローラ、ゲーム・パッド、ジョイスティック、タッチ・スクリーン、加速度計及び／又はチルト・センサーを含む動きキャプチャ・デバイス、遠隔制御装置、スタイラス、或いはこれらのデバイスの任意の組合せなど、様々なハードウェア・デバイスが利用され得る。もちろん、ハードウェア・デバイスのこのリストは、単に実例として与えられ、音声、画像、ビデオ、又はタッチ情報を検出するために利用され得る任意のハードウェア・デバイスが利用され得る。
【００２４】
ハードウェア・デバイスとシステムとの間の通信結合は、様々な形式をとることができる。たとえば、ハードウェア・デバイスは、ワイヤレス・ネットワーク、Ｂｌｕｅｔｏｏｔｈプロトコル、無線周波数、赤外線信号を介して、及び／又はユニバーサルシリアルバス（ＵＳＢ：Ｕｎｉｖｅｒｓａｌ  Ｓｅｒｉａｌ  Ｂｕｓ）接続などの物理接続によってシステムと通信することができる。通信は、ワイヤレス通信とワイヤード通信の両方をも含むことができる。たとえば、ハードウェア・デバイスは、２つの構成要素を含むことができ、そのうちの１つが、第２の構成要素に（Ｂｌｕｅｔｏｏｔｈを介してなど）ワイヤレスに信号を送信し、第２の構成要素自体は、（ＵＳＢなどの）ワイヤード接続を介してシステムに接続する。様々な通信技法が本明細書で説明されるシステムに従って利用され得、これらの実例は、限定するものではない。
【００２５】
１つ又は複数のハードウェア・デバイスによってキャプチャされる情報は、１つ又は複数の画像を含む画像情報、ビデオのフレーム、音情報、及び／又はタッチ情報など、任意のタイプの情報であり得る。キャプチャされた情報は、音情報のための．ｗａｖ又は．ｍｐ３ファイル、画像のための．ｊｐｅｇファイル、タッチ情報のための数値座標など、任意の好適なフォーマットのものであり得る。
【００２６】
本明細書で説明される技法は、任意のディスプレイ・デバイスが、そのディスプレイ・デバイスが、タッチ信号又はタッチ・ベースのジェスチャーを検出するためのハードウェアを含まない場合でも、任意のコンテキストにおいて「タッチ」スクリーンデバイスとして事実上機能することを可能にすることができる。これは、以下でより詳細に説明され、カメラ又はビデオ・カメラによってキャプチャされた画像の分析を通して達成され得る。
【００２７】
図４は、システムに通信可能に結合された１つ又は複数のハードウェア・デバイスによってキャプチャされた情報が１つ又は複数の画像を含むときの、１つ又は複数のハードウェア・デバイスによってキャプチャされた情報に少なくとも部分的に基づいてユーザ入力を決定するためのフローチャートを示す。
【００２８】
ステップ４０１において、１つ又は複数の画像が受信される。これらの画像は、前に説明されたように、カメラ又はビデオ・カメラなど、ハードウェア・デバイスによってキャプチャされ得、仮想ドライバによって受信され得る。
【００２９】
ステップ４０２において、１つ又は複数の画像中のオブジェクトが認識される。オブジェクトは、たとえば、ユーザの手、指、又は他の身体部位であり得る。オブジェクトはまた、スタイラス又はペンなどの専用デバイス、或いはシステムに通信可能に結合され、加速度計及び／又はチルト・センサーを含んでいる動き追跡スタイラス／遠隔制御装置などの専用ハードウェア・デバイスであり得る。オブジェクト認識は、仮想ドライバによって実施され得、オブジェクトを使用して動作される較正ルーチンを通してなど、以前のトレーニングに基づき得る。
【００３０】
図５Ａは、例示的な実施例による、オブジェクト認識の一実例を示す。図５Ａに示されているように、画像５０１は、オブジェクト５０２として認識されたユーザの手を含む。認識アルゴリズムは、もちろん、指など、異なるオブジェクトを認識するように構成され得る。
【００３１】
図４に戻ると、ステップ４０３において、認識されたオブジェクトの１つ又は複数の配向と１つ又は複数の位置とが決定される。これは、様々なやリ方で達成され得る。オブジェクトがハードウェア・デバイスではなく、代わりに、手又は指など、身体部位である場合、オブジェクトは、オブジェクトの３次元座標と、Ｘ軸、Ｙ軸、及びＺ軸に対する様々な角度とを決定するために、カメラの既知のロケーションを基準点として使用する３次元座標系においてマッピングされ得る。オブジェクトがハードウェア・デバイスであり、加速度計及び／又はチルト・センサーなど、動き追跡ハードウェアを含む場合、画像情報は、オブジェクトの位置及び配向を決定するための加速度計及び／又はチルト・センサーによって示された情報とともに使用され得る。
【００３２】
ステップ４０４において、ユーザ入力は、認識されたオブジェクトの１つ又は複数の配向と１つ又は複数の位置とに少なくとも部分的に基づいて決定される。これは、１つ又は複数の配向と１つ又は複数の位置とに少なくとも部分的に基づいて、透明層の透明ユーザ・インターフェース（ＵＩ）上のロケーション座標を決定することを含むことができる。透明ＵＩは、透明層の一部であり、オペレーティング・システム及び／又はオペレーティング・システム上で実行する任意のアプリケーションに対応する下位ＵＩの上に重ね合わせられる。
【００３３】
図５Ｂは、オブジェクトがユーザの指であるときの、このステップの一実例を示す。図５Ｂに示されているように、ディスプレイ・デバイス５０３は、下位ＵＩ５０６と、下位ＵＩ５０６上に重ね合わせられた透明ＵＩ５０７とを含む。明快のために、透明ＵＩ５０７は、ドット・シェーディングで示されているが、実際には、透明ＵＩは、ユーザにとって可視でない透明層であることを理解されたい。さらに、透明ＵＩ５０７は、下位ＵＩ５０６よりもわずかに小さいものとして示されているが、実際には、透明ＵＩは、下位ＵＩと同じスクリーン・エリアをカバーすることになることを理解されたい。
【００３４】
図５Ｂに示されているように、オブジェクト（ユーザの指）の位置及び配向情報は、ディスプレイ・デバイス５０３の平面上にラインを投影し、交差点５０５を決定するために使用される。カメラ５０４によってキャプチャされた画像情報及びカメラの下のディスプレイ・デバイス５０３の既知の位置が、この投影を助けるために使用され得る。図５Ｂに示されているように、ユーザ入力は、交差点５０５における入力座標であると決定される。
【００３５】
以下でさらに説明されるように、この入力に基づいて生成される実際の透明層コマンドは、ユーザ設定及び／又は識別されたコンテキストに基づき得る。たとえば、コマンドは、点５０５の座標におけるオブジェクトが選択され、及び／又は開かれるべきであることを示すタッチ・コマンドであり得る。コマンドは、（マウス・ポインタなどの）ポインタが点５０５の座標に移動されるべきであることを示すポインティング・コマンドでもあり得る。さらに、コマンドは、（インターフェースにアノテーションを付けるか又は要素を描画するためになど）ロケーションにおけるグラフィカル出力を修正する編集コマンドであり得る。
【００３６】
図５Ｂは、ディスプレイ・デバイス５０３からある距離にあるものとして、認識されたオブジェクト５０２を示しているが、距離にかかわらずタッチ入力が検出され得る。たとえば、ユーザがディスプレイ・デバイス５０３に物理的にタッチする場合、上記で説明された技法は、依然として入力座標を決定することになる。その場合、オブジェクト５０２と交差点との間の投影ラインは、より短くなるにすぎないであろう。
【００３７】
もちろん、タッチ入力は、キャプチャされた画像から決定され得るユーザ入力の唯一のタイプではない。認識されたオブジェクトの１つ又は複数の配向と１つ又は複数の位置とに少なくとも部分的に基づいてユーザ入力を決定するステップは、ジェスチャー入力を決定することを含むことができる。特に、複数の画像にわたる認識されたオブジェクトの位置及び配向が、スワイプ・ジェスチャー、ピンチ・ジェスチャー、及び／或いは任意の既知の又はカスタマイズされたジェスチャーなど、対応するジェスチャーを決定するために分析され得る。ユーザは、特定のコンテキスト及びそれらのコンテキスト内のコマンドにマッピングされるカスタム・ジェスチャーを認識するように仮想ドライバを較正することができる。たとえば、ユーザは、オペレーティング・システム・コンテキストにマッピングされ、特定のアプリケーションを起動するネイティブ・オペレーティング・システム・コマンドの実行を生じる、カスタム・ジェスチャーを作成することができる。
【００３８】
前に説明されたように、図３のステップ３０１において１つ又は複数のハードウェア・デバイスによってキャプチャされた情報は、マイクロフォンによってキャプチャされた音情報をも含むことができる。図６は、システムに通信可能に結合された１つ又は複数のハードウェア・デバイスによってキャプチャされた情報が音情報であるときの、キャプチャされた情報に少なくとも部分的に基づいてユーザ入力を決定するためのフローチャートを示す。以下で説明されるように、ユーザ入力に対応する１つ又は複数のワードを識別するために、音情報に対して音声認識が実施される。
【００３９】
ステップ６０１において、音データが受信される。音データは、上記で説明されたように、マイクロフォンなど、ハードウェア・デバイスによってキャプチャされ、仮想ドライバによって受信され得る。ステップ６０２において、受信された音データは、音辞書と比較され得る。音辞書は、コマンド・ワード又はコマンド・モディファイアなど、１つ又は複数の認識されたワードの音シグネチャを含むことができる。ステップ６０３において、音データ中の１つ又は複数のワードが、比較に基づいて、ユーザ入力として識別される。次いで、識別された１つ又は複数のワードは、透明層コマンドに変換され、透明層に渡され得る。
【００４０】
前に説明されたように、仮想ドライバによってエミュレートされるドライバ、ユーザ入力の予想されるタイプ、及びユーザ入力に基づいて生成されるコマンドは、すべて、１つ又は複数の設定又は前のユーザ入力に少なくとも部分的に基づいて決定され得る。
【００４１】
図７は、透明層の一部でもあり得るツール・インターフェース７０１を示す。透明ＵＩとは異なり、ツール・インターフェース７０１は、ユーザにとって可視であり、仮想ドライバのエミュレーション・モード、ユーザ入力に基づいて生成されるネイティブ・コマンドを変更する異なるオプション間で選択するか、又は追加の機能を実施するために、使用され得る。
【００４２】
ボタン７０１Ａは、ユーザ入力が入力座標（ユーザがユーザの手又はスタイラス／遠隔制御装置を用いてスクリーンにタッチすることに基づく座標など）であるとき、ユーザが、ユーザ・インターフェースをグラフィカルに修正するために使用される描画ツールのタイプを選択することを可能にする。様々な描画ツールは、異なるブラシ、色、ペン、ハイライターなどを含むことができる。これらのツールは、変動するスタイル、厚さ、色などのグラフィカルな変更を生じることがある。
【００４３】
ボタン７０１Ｂは、入力座標がユーザ入力として受信されるとき、ユーザが、選択モード、ポインティング・モード、又は描画モードの間で切り替えることを可能にする。選択モードでは、入力座標は、「タッチ」として処理され、入力座標におけるオブジェクトの選択又はオブジェクトを開くことを生じ得る。ポインティング・モードでは、座標は、（マウス・ポインタなどの）ポインタ位置として処理され得、ユーザがマウスをエミュレートすることを効果的に可能にする。描画モードでは、座標は、ユーザ・インターフェース上に描画又は書込みの外観（ａｐｐｅａｒａｎｃｅ）を提示するために、ユーザ・インターフェースのグラフィカル出力を変更するためのロケーションとして処理され得る。変更の性質は、ボタン７０１Ａに関して説明されるように、選択された描画ツールに依存することがある。ボタン７０１Ｂはまた、（動き追跡デバイスが使用される場合）画像入力及び／又は動き入力を予想し、それに応じて適切なドライバをエミュレートするように仮想ドライバにアラートすることができる。
【００４４】
ボタン７０１Ｃは、音声コマンドを予想するように仮想ドライバにアラートする。これは、図６に関して説明されるように、仮想ドライバが、音声入力を受信し、音声入力をパースするための結合されたマイクロフォンに対応するドライバをエミュレートすることを引き起こすことができる。
【００４５】
ボタン７０１Ｄは、透明層の一部であり得、オペレーティング・システム内のアプリケーションを起動するために又はアプリケーション内の特定のコマンドを起動するために使用され得る、ランチャー・アプリケーションを開く。ランチャーは、ユーザ入力に関連付けられたアプリケーションのためのカスタム音声コマンド、カスタム・ジェスチャー、カスタム・ネイティブ・コマンドなど、透明層におけるオプションをカスタマイズするために、及び／又は（音声較正、動きキャプチャ・デバイス較正、及び／又はオブジェクト認識較正など）ハードウェア・デバイス及びユーザ入力を較正するためにも使用され得る。
【００４６】
ボタン７０１Ｅは、ユーザ・インターフェースのスクリーンショットをキャプチャするために、及び画像としてスクリーンショットをエクスポートするために使用され得る。これは、ボタン７０１Ｂの描画モード及び７０１Ａの描画ツールとともに使用され得る。ユーザが特定のユーザ・インターフェースをマーク・アップした後に、マーク・アップされたバージョンが画像としてエクスポートされ得る。
【００４７】
また、ボタン７０１Ｆは、グラフィカルな編集を可能にし、ユーザがユーザ・インターフェース上に作成している描画の色又は描画の態様を交換するために使用され得る。ボタン７０１Ｂの描画モードと同様に、このボタンは、入力座標におけるグラフィカルな変更の性質を変更する。
【００４８】
ボタン７０１Ｇは、ユーザ・インターフェース上の描画を消去する。このボタンの選択は、ユーザ・インターフェース上のすべてのグラフィカル・マーキングを除去し、下位ＵＩを、ユーザが描画を作成するより前にそうであった状態にリセットすることができる。
【００４９】
ボタン７０１Ｈは、ユーザが仮想ホワイトボード上に描画モードを使用して描画又は書込みを作成することを可能にする、ホワイトボード・アプリケーションを起動するために使用され得る。
【００５０】
ボタン７０１Ｉは、オペレーティング・システムＵＩ又はアプリケーションＵＩにおいて示されるオブジェクトなど、オブジェクトにテキスト・ノートを追加するために使用され得る。テキスト・ノートは、音声信号から解釈されるか、又はキーボードを使用してユーザによってタイピングされ得る。
【００５１】
ボタン７０１Ｊは、ツール・インターフェース７０１を開くか又は閉じるために使用され得る。閉じられたとき、ツール・インターフェースは、最小化されるか又は下位ユーザ・インターフェースから完全に除去され得る。
【００５２】
前に説明されたように、スタイラス又はリモート・ハードウェア・デバイスが、カメラ又はビデオ・カメラなど、他のハードウェア・デバイスとともに、本システムとともに使用され得る。図８は、本システムとともに使用され得るスタイラス８０１の一実例を示す。スタイラス８０１は、Ｂｌｕｅｔｏｏｔｈなどを介して、ハードウェア受信機８０２と通信することができる。ハードウェア受信機は、ＵＳＢ８０２Ｂなどを介して、コンピュータ・システムに接続することができ、ハードウェア受信機を介してコンピュータ・システムに渡されたスタイラスからの信号は、図７に示されているツール・インターフェースと同様であるメニュー８０３を制御し、それと対話するために使用され得る。
【００５３】
図８に示されているように、スタイラス８０１は、物理ボタン８０１Ａを含むことができる。これらの物理ボタン８０１は、スタイラスを電源投入し、メニュー８０３をナビゲートし、選択を行うために使用され得る。さらに、スタイラス８０１は、カメラによる画像においてキャプチャされ、仮想ドライバによって認識される、特徴的な先端８０１Ｂを含むことができる。これは、スタイラス８０１が、描画モードにあるとき、描画及び編集のために使用されることを可能にすることができる。スタイラス８０１は、スタイラスが入力座標又はジェスチャーを与えるために使用されるとき、位置検出を助けるための加速度計及び／又はチルト・センサーなど、動き追跡ハードウェアをも含むことができる。さらに、ハードウェア受信機８０２は、較正ボタン８０２Ａを含むことができ、較正ボタン８０２Ａは、押下されたとき、ユーザ・インターフェースにおいて較正ユーティリティを起動することができる。これは、スタイラスの較正を可能にする。
【００５４】
図３に戻ると、ステップ３０２において、ユーザ入力に対応するコンテキストが識別される。識別されたコンテキストは、オペレーティング・システム又はオペレーティング・システム上で実行するアプリケーションのうちの１つを備える。
【００５５】
図９は、例示的な実施例による、ユーザ入力に対応するコンテキストを識別するためのフローチャートを示す。図９に示されているように、オペレーティング・システム・データ９０１、アプリケーション・データ９０２、及びユーザ入力データ９０３が、すべて、コンテキスト９０４を決定するために使用され得る。
【００５６】
オペレーティング・システム・データ９０１は、たとえば、オペレーティング・システムにおけるアクティブ・ウィンドウに関する情報を含むことができる。たとえば、アクティブ・ウィンドウが計算器ウィンドウである場合、コンテキストが計算器アプリケーションであると決定され得る。同様に、アクティブ・ウィンドウがＭｉｃｒｏｓｏｆｔ  Ｗｏｒｄウィンドウである場合、コンテキストがＭｉｃｒｏｓｏｆｔ  Ｗｏｒｄアプリケーションであると決定され得る。一方、アクティブ・ウィンドウがファイル・フォルダである場合、アクティブ・コンテキストがオペレーティング・システムであると決定され得る。オペレーティング・システム・データは、どのアプリケーションが現在実行中であるか、最後に起動されたアプリケーション、及びコンテキストを決定するために使用され得る任意の他のオペレーティング・システム情報など、追加情報をも含むことができる。
【００５７】
アプリケーション・データ９０２は、たとえば、実行している１つ又は複数のアプリケーションに関する情報及び／又は特定のアプリケーションをいくつかのタイプのユーザ入力にマッピングする情報を含むことができる。たとえば、音声コマンドが受信されるときはいつでも、コンテキストが第１のアプリケーションであると自動的に決定されるように、第１のアプリケーションが音声入力にマッピングされ得る。別の例では、特定のジェスチャーが入力として受信されたとき、第２のアプリケーションが、起動されるか又は閉じられるか、或いは第２のアプリケーション内のあるアクションが実施されるように、そのジェスチャーが第２のアプリケーションに関連付けられ得る。
【００５８】
ユーザ入力９０３は、様々なやり方でコンテキストを決定するためにも使用され得る。上記で説明されたように、いくつかのタイプのユーザ入力が、いくつかのアプリケーションにマッピングされ得る。上記の実例では、音声入力が第１のアプリケーションのコンテキストに関連付けられる。さらに、ユーザ入力の属性も、コンテキストを決定するために使用され得る。ジェスチャー又は動きが、アプリケーションに又はオペレーティング・システムにマッピングされ得る。音声コマンド中の特定のワードも、アプリケーションに又はオペレーティング・システムにマッピングされ得る。入力座標も、コンテキストを決定するために使用され得る。たとえば、入力座標の位置にあるユーザ・インターフェースにおけるウィンドウが決定され得、そのウィンドウに対応するアプリケーションがコンテキストとして決定され得る。
【００５９】
図１０は、コンテキストを決定するために入力座標を使用することの一実例を示す。図１０に示されているように、ディスプレイ・デバイス１００１がユーザ・インターフェース１００２を表示している。また、カメラ１００４と、下位ユーザ・インターフェース１００３上に重ね合わされた透明層１００３とが示されている。ユーザは、ユーザ・インターフェース１００２におけるロケーション１００５を指すためにスタイラス１０００を利用する。ロケーション１００５は、アプリケーション１に対応するアプリケーション・ウィンドウ内にあるので、次いで、アプリケーション１は、アプリケーション２、アプリケーション３、又はオペレーティング・システムとは対照的に、ユーザ入力のためのコンテキストであると決定され得る。
【００６０】
図３に戻ると、ステップ３０３において、ユーザ入力は、識別されたコンテキストに少なくとも部分的に基づいて、１つ又は複数の透明層コマンドに変換される。前に説明されたように、透明層は、仮想ドライバとオペレーティング・システム及び／又はオペレーティング・システム上で実行するアプリケーションとの間をインターフェースするように構成されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を備える。
【００６１】
図１１は、ユーザ入力を透明層コマンドに変換するためのフローチャートを示す。図１１のステップ１１０４に示されているように、透明層コマンドは、識別されたコンテキスト１１０２及びユーザ入力１１０３に少なくとも部分的に基づいて決定され得る。透明層コマンドは、１つ又は複数の対応するコンテキストにおいて実行するように構成された１つ又は複数のネイティブ・コマンドを含むことができる。透明層コマンドは、仮想ドライバに及び（１つ又は複数の）ハードウェア・デバイス上に送信されるべき応答出力をも含むことができる。
【００６２】
識別されたコンテキスト１１０２は、どの透明層コマンドがユーザ入力にマッピングされるべきであるかを決定するために使用され得る。たとえば、識別されたコンテキストが「オペレーティング・システム」である場合、スワイプ・ジェスチャー入力が、ユーザ・インターフェースが（ある開いているウィンドウを最小化し、次の開いているウィンドウを最大化することによって）オペレーティング・システム内の現在開いているウィンドウをスクロールすることを生じる透明層コマンドにマッピングされ得る。代替的に、識別されたコンテキストが「ウェブ・ブラウザ・アプリケーション」である場合、同じスワイプ・ジェスチャー入力が、ウェブ・ページがスクロールされることを生じる透明層コマンドにマッピングされ得る。
【００６３】
ユーザ入力１１０３は、ユーザ入力が１つ又は複数のコンテキスト内のいくつかのネイティブ・コマンドに明確にマッピングされ、これらのネイティブ・コマンドが透明層コマンドの一部であるので、透明層コマンドをも決定する。たとえば、音声コマンド「電子メールを開いて」が、電子メール・アプリケーションＯｕｔｌｏｏｋを起動するための特定のオペレーティング・システム・ネイティブ・コマンドにマッピングされ得る。認識されたワード「電子メールを開いて」を含む音声入力が受信されたとき、これは、Ｏｕｔｌｏｏｋを起動するためのネイティブ・コマンドを含む透明層コマンドが決定されることを生じる。
【００６４】
図１１に示されているように、透明層コマンドはまた、１つ又は複数のユーザ設定１１０１及びＡＰＩライブラリ１１０４に基づいて決定され得る。ＡＰＩライブラリ１１０４は、識別されたコンテキスト及び特定のユーザ入力に対応するネイティブ・コマンドをルックアップするために使用され得る。スワイプ・ジェスチャー及びウェブ・ブラウザ・アプリケーション・コンテキストの実例では、ウェブ・ブラウザ・アプリケーションに対応するＡＰＩライブラリは、ウェブ・ページのスクロールを引き起こすために、適切なＡＰＩ呼出しについて問い合わせられ得る。代替的に、ＡＰＩライブラリ１１０４は、省略され得、ネイティブ・コマンドが、特定のユーザ入力及び識別されたコンテキストに向けてマッピングされ得る。
【００６５】
ユーザ入力が入力座標であると決定される状況では、透明層コマンドは、入力ロケーション座標及び識別されたコンテキストに少なくとも部分的に基づいて決定される。この場合、透明層コマンドは、識別されたコンテキストにおける少なくとも１つのネイティブ・コマンドを含むことができ、少なくとも１つのネイティブ・コマンドは、下位ＵＩにおける対応するロケーション座標におけるアクションを実施するように構成される。
【００６６】
特定のコンテキスト及びユーザ入力にマッピングされる２つ以上の可能なアクションがあるとき、設定１１０１は、対応する透明層コマンドを決定するために使用され得る。たとえば、図７のボタン７０１Ｂは、入力座標がユーザ入力として受信されるとき、ユーザが、選択モード、ポインティング・モード、又は描画モードの間で選択することを可能にする。この設定は、透明層コマンドを決定するために、並びにひいては、どのネイティブ・コマンドが実施されるか及びどのアクションが実施されるかを決定するために使用され得る。この場合、可能なネイティブ・コマンドは、下位ＵＩにおける対応するロケーション座標に関連するオブジェクトを選択するように構成された選択コマンド、ポインタを下位ＵＩにおける対応するロケーション座標に移動するように構成されたポインタ・コマンド、及び下位ＵＩにおける対応するロケーション座標におけるディスプレイ出力を変更するように構成されたグラフィカル・コマンドを含むことができる。
【００６７】
図１２Ａは、選択モードがトグルされるときの、入力座標を受信することの一実例を示す。図１２Ａに示されているように、ユーザは、ディスプレイ・デバイス１２０１上の（重ね合わせられた透明ＵＩ１２０３を有する）オペレーティング・システムＵＩ１２０２においてスタイラス１２００をポイントした。前の実例と同様に、カメラ１２０４は、スタイラス１２００についての位置及び配向情報並びに入力座標を決定するために使用され得る。選択モードがトグルされ、スタイラス１２００がオペレーティング・システムＵＩ１２０２内のフォルダ１２０５においてポイントされるので、決定された透明層コマンドは、入力座標に関連するオブジェクト（この場合、フォルダ１２０５である）を選択するためのネイティブ・オペレーティング・システム・コマンドを含むことができる。別の実例では、ウィンドウが入力座標に位置する場合、これは、ウィンドウ全体の選択を生じるであろう。
【００６８】
図１２Ｂは、ポインティング・モードがトグルされるときの、入力座標を受信することの一実例を示す。この場合、決定された透明層コマンドは、マウス・ポインタ１２０６を入力座標のロケーションに移動するためのネイティブ・オペレーティング・システム・コマンドを含むことができる。
【００６９】
図１２Ｃは、描画モードがトグルされ、ユーザが複数の入力座標にわたってスタイラス１２００をスイープしたときの、入力座標を受信することの一実例を示す。この場合、決定された透明層コマンドは、入力座標の各々のロケーションにおけるディスプレイ出力を変更するためのネイティブ・オペレーティング・システム・コマンドを含むことができ、ユーザ・インターフェース１２０２上のユーザの描画ライン１２０７を生じる。描画モードにおいてもたらされた修正されたグラフィカル出力は、透明層１２０３の一部として、たとえば、入力座標の経路に関係するメタデータとして記憶され得る。ユーザは、次いで、変更されたディスプレイ出力を画像としてエクスポートするためのオプションを選択することができる。
【００７０】
ユーザ入力がジェスチャーとして識別される状況では、識別されたコンテキストに少なくとも部分的に基づいてユーザ入力を１つ又は複数の透明層コマンドに変換することは、識別されたジェスチャー及び識別されたコンテキストに少なくとも部分的に基づいて透明層コマンドを決定することを含むことができる。透明層コマンドは、識別されたコンテキストにおける少なくとも１つのネイティブ・コマンドを含むことができ、少なくとも１つのネイティブ・コマンドは、識別されたコンテキストにおける識別されたジェスチャーに関連するアクションを実施するように構成される。これの一実例は、ウェブ・ブラウザにおけるスクロール・アクションを実施するように構成されたネイティブ・コマンドを生じる、スワイプ・ジェスチャー及びウェブ・ブラウザ・アプリケーション・コンテキストに関して上記で説明された。
【００７１】
（音声認識を使用することによってなど）ユーザ入力が１つ又は複数のワードとして識別される状況では、識別されたものに少なくとも部分的に基づいてユーザ入力を１つ又は複数の透明層コマンドに変換することは、識別された１つ又は複数のワード及び識別されたコンテキストに少なくとも部分的に基づいて透明層コマンドを決定することを含むことができる。透明層コマンドは、識別されたコンテキストにおける少なくとも１つのネイティブ・コマンドを含むことができ、少なくとも１つのネイティブ・コマンドは、識別されたコンテキストにおける識別された１つ又は複数のワードに関連するアクションを実施するように構成される。
【００７２】
図１３は、入力音声データ中で識別された１つ又は複数のワードに基づいて決定される透明層コマンド１３００の一実例を示す。識別されたワード１３０１は、「ホワイトボード」という句又は「ブランク・ページ」という句のうちの１つを含む。透明層コマンド１３００は、コマンドの説明１３０２と、透明層コマンドの実行時に透明層によって仮想ドライバに及びハードウェア出力デバイスに送られた出力命令である応答命令１３０３とをも含む。さらに、透明層コマンド１３００は、ホワイトボード機能を呼び出すために使用される実際のネイティブ・コマンド１３０４を含む。
【００７３】
図１４は、例示的な実施例による、入力音声データ中で識別された１つ又は複数のワードに基づいて決定される透明層コマンド１４００の別の実例を示す。この実例では、１つ又は複数のワードは、「電子メールを開いて」である。図１４に示されているように、透明層コマンド１４００は、ネイティブ・コマンド「ｏｕｔｌｏｏｋ．ｅｘｅ」を含み、これは、ｏｕｔｌｏｏｋアプリケーションを起動する特定の実行ファイルを動作させるようにとの命令である。透明層コマンド１４００は、音声コマンドを受信したことに応答して出力される「電子メールを開きました」という音声応答をも含む。
【００７４】
図３に戻ると、ステップ３０４において、１つ又は複数の透明層コマンドが透明層上で実行される。１つ又は複数の透明層コマンドの実行が、識別されたコンテキストにおける１つ又は複数のネイティブ・コマンドの実行を引き起こすように構成される。
【００７５】
図１５は、例示的な実施例による、透明層上で１つ又は複数の透明層コマンドを実行するためのフローチャートを示す。ステップ１５０１において、透明層コマンドにおける少なくとも１つのネイティブ・コマンドが識別される。ネイティブ・コマンドは、たとえば、透明層コマンドの構造内のネイティブ・コマンドとして指定され得、識別を可能にする。
【００７６】
ステップ１５０２において、少なくとも１つのネイティブ・コマンドが、識別されたコンテキストにおいて実行される。このステップは、そのコンテキストについての識別されたＡＰＩを介して、識別されたコンテキストに少なくとも１つのネイティブ・コマンドを渡すことと、識別されたコンテキスト内でネイティブ・コマンドを実行することとを含むことができる。たとえば、識別されたコンテキストがオペレーティング・システムである場合、ネイティブ・コマンドは、オペレーティング・システムＡＰＩを介して実行のためにオペレーティング・システムに渡され得る。さらに、識別されたコンテキストがアプリケーションである場合、ネイティブ・コマンドは、アプリケーションＡＰＩを介して実行のためにアプリケーションに渡され得る。
【００７７】
随意に、ステップ１５０３において、応答が（１つ又は複数の）ハードウェア・デバイスに送信され得る。前に説明されたように、この応答は、透明層から仮想ドライバに及びハードウェア・デバイス上にルーティングされ得る。
【００７８】
図１６〜図１９は、本明細書で開示されるシステムの追加の特徴を示す。図１６は、例示的な実施例による、ユーザ入力に対応する新しいコマンドを追加するための例示的なインターフェースを示す。インターフェース１６００におけるダッシュボードが、すでに追加され、所定のユーザ入力及びハードウェア・デバイス（たとえば、音声コマンド）を使用して起動され得る、アプリケーション１６０１のアイコンを含む。ダッシュボードは、アプリケーション固有であり、いくつかのユーザ入力にマッピングされる、他のコマンドをも示すことができる。追加ボタン１６０２の選択は、追加コマンド・メニュー１６０３を開く。このメニューは、ユーザが以下のオプション間で選択することを可能にする：アイテム・タイプ：下部バー・メニュー上に追加するための固定アイテム／ドラッグ・メニュー中に追加するための通常アイテム、アイコン：画像アイコンを選択する、背景：背景アイコン色を選択する、色：アイコン色を選択する、名前：新しいアイテム名を設定する、音声コマンド：新しいアプリケーションを開くための音声アクティベーション・コマンドを設定する、フィードバック応答：アプリケーション音声応答フィードバックを設定する、コマンド：起動すべきアプリケーション・タイプ又はカスタム・コマンド・タイプを選択する（たとえば、アプリケーション・コマンドを起動する、アプリケーション・コマンド内のアクションを実施する、アプリケーション・コマンドを閉じるなど）、プロセス開始：新しいプロセス又はアプリケーションを起動する場合、プロセス又はアプリケーションの名前、及びパラメータ：新しいプロセス又はアプリケーションに渡すべき任意のパラメータ。
【００７９】
図１７は、例示的な実施例による、描画インターフェース１７００及び描画モードの様々な構成要素及びオプションを示す。図１８は、オブジェクトを認識するために使用され、ユーザがタッチ及びジェスチャーを使用して入力を与えることを可能にする、ビデオ・カメラ・ハードウェア・デバイスのための較正及び設定インターフェース１８００を示す。図１９は、ユーザが、インターフェースの様々な態様をカスタマイズし、入力モードをトグルし、他の交換を行うことを可能にする、一般的な設定インターフェース１９００を示す。インターフェース１９００に示されているように、ユーザは、（「マジック・スタイラス」と呼ばれる）ハードウェア・スタイラスのための設定を較正及び調整するための設定ページにもアクセスすることができる。
【００８０】
本明細書で開示されるシステムは、複数のネットワーク化されたコンピューティング・デバイス上で実装され、ネットワーク化された共同セッションを行うことを助けるために使用され得る。たとえば、前に説明されたホワイトボード機能性は、複数のコンピューティング・デバイス上の複数のユーザ間の共有ホワイトボードであり得る。
【００８１】
しかしながら、既存のホワイトボード又は他の共有共同スペースの問題のうちの１つは、共同セッションを妨げること又は中断することなしに、リモート・コンピューティング・デバイスと対話するため又はデスクトップ・スクリーンを共有するための容易なやり方がないことである。たとえば、共同ワークスペース内の参加者が他の参加者とプレゼンテーションを共有したい場合、すべての参加者が、共同セッションを最小化するか又は閉じ、スクリーン共有アプリケーションを実行し、スクリーン共有会議に参加する必要がある。共有共同セッション中に、これは、共同スペースが促進するように設計されたワークフロー及び共有ブレインストーミング・セッションを頻繁に中断する。
【００８２】
ユニバーサル・ハードウェア・ソフトウェア・インターフェースの実装のための前に説明された方法及びシステムに加えて、出願人は、ネットワーク化された共同ワークスペースにおけるウェブ・ソケット接続を介したデスクトップ共有を可能にする方法、装置及びコンピュータ可読媒体をさらに発見した。
【００８３】
図２０は、例示的な実施例による、ネットワーク化された共同ワークスペースにおけるウェブ・ソケット接続を介したデスクトップ共有のためのフローチャートを示す。図２０に示されているステップのすべてが、サーバに接続されたクライアント・デバイスなど、ローカル・コンピューティング・デバイス上で実施され得、複数のコンピューティング・デバイスを必要としない。開示されるプロセスは、サーバに接続された複数のデバイスによっても実装され得る。
【００８４】
ステップ２００１において、サーバ上にホストされた共同ワークスペースの表現が、ローカル・コンピューティング・デバイスのユーザ・インターフェース上で送信される。共同ワークスペースは、ウェブ・ソケット接続を介して、ローカル・コンピューティング・デバイスでのローカル参加者及びリモート・コンピューティング・デバイスでの１人又は複数のリモート参加者を含む、複数のコンピューティング・デバイス上の複数の参加者にとってアクセス可能である。本明細書で使用されるリモート・コンピューティング・デバイス及びリモート参加者は、ローカル参加者及びローカル・コンピューティング・デバイス以外のコンピューティング・デバイス及び参加者を指す。リモート・コンピューティング・デバイスは、ワイド・エリア・ネットワーク（ＷＡＮ）などのネットワークによってローカル・デバイスから分離される。
【００８５】
図２１Ａは、例示的な実施例による、共同ワークスペースをホストし、送信するために使用されるネットワーク・アーキテクチャを示す。図２１Ａに示されているように、サーバ２１００は、コンピューティング・デバイス２１０１Ａ〜２１０１Ｆに接続される。サーバ２１００とコンピューティング・デバイス２１０１Ａ〜２１０１Ｆとは、コンピューティング・デバイス２１０１Ａ〜２１０１Ｆ（クライアント）とサーバ２１００との間の双方向通信を可能にする、ウェブ・ソケット接続など、ネットワーク接続を介して接続され得る。図２１Ａに示されているように、コンピューティング・デバイスは、ラップトップ、デスクトップ、スマートフォン、又は他のモバイル・デバイスなど、任意のタイプのコンピューティング・デバイスであり得る。
【００８６】
共同ワークスペースは、たとえば、ウェブ・ソケット接続を介して複数の参加者中の任意の参加者からの編集を他の参加者に伝えるように構成されたデジタル・ホワイトボードであり得る。図２１Ｂは、例示的な実施例による、ネットワーク内で共同ワークスペースに対する編集を伝えるためのプロセスを示す。図２１Ｂに示されているように、コンピューティング・デバイス２１０１Ｂにおけるユーザが共同ワークスペースに対する編集又は変更を行う場合、この編集又は変更２１０２Ｂは、サーバ２１００に送られ、ワークスペースのホストされたバージョンを更新するために使用される。編集又は変更は、次いで、サーバ２１００によって更新２１０２Ａ、２１０２Ｃ、２１０２Ｄ、２１０２Ｅ、及び２１０２Ｆとして、他の接続されたコンピューティング・デバイス２１０１Ａ、２１０１Ｃ、２１０１Ｄ、２１０１Ｅ、及び２１０１Ｆに伝えられる。
【００８７】
共同ワークスペースの各表現は、ローカル参加者に対してカスタマイズされた共同ワークスペースのバージョンであり得る。たとえば、上記で説明されたように、共同ワークスペースの各表現は、サーバに接続された１つ又は複数のリモート・コンピューティング・デバイスに対応する１つ又は複数のリモート参加者オブジェクトを含むことができる。
【００８８】
図２２は、例示的な実施例による、共同ワークスペースの複数の表現を示す。図２２に示されているように、サーバ２２００は、共同ワークスペース２２０１をホストする。サーバ上にホストされた共同ワークスペースのバージョンが、前に説明されたように、接続されたデバイスに伝えられる。図２２は、３つの接続されたユーザ、ユーザ１、ユーザ２、及びユーザ３のための共同ワークスペースの表現をも示す。各表現は、随意に、ローカル参加者に対して（各ロケーションにおけるローカル・コンピューティング・デバイスに対して）カスタマイズされ得る。
【００８９】
図２０に戻ると、ステップ２００２において、共同ワークスペース内でローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び共同ワークスペースの表現内のエリアの選択が、ローカル・コンピューティング・デバイスによって受信される。
【００９０】
図２３Ａ〜図２３Ｂは、例示的な実施例による、共同ワークスペース内でローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び共同ワークスペースの表現内のエリアの選択を受信するステップの一実例を示す。
【００９１】
図２３Ａは、要求及びエリアの選択を受信する前の、ローカル・コンピューティング・デバイスのユーザ・インターフェース（デスクトップ）の一実例を示す。図２３Ａに示されているように、ユーザ・インターフェース２３０１は、サーバ上にホストされた共同ワークスペース２３０３の表現をローカルに表示する共同アプリケーション２３０２、並びに別個のプレゼンテーション・アプリケーション２３０８（Ｐｏｗｅｒｐｏｉｎｔ（商標）など）及び別個のドキュメント編集アプリケーション（Ｗｏｒｄ（商標）など）を含む。ローカル・コンピューティング・デバイス上で実行するユーザ・アプリケーションはすべて、オペレーティング・システム（「ＯＳ」）に関連付けられたメニューを出す（ｂｒｉｎｇ  ｕｐ）ＯＳメニュー・ボタンに加えて、ＯＳのタスクバー２３０６内にタブとして表示される。
【００９２】
共同アプリケーション２３０２は、ローカル参加者及び任意の他の参加者によるすべての編集及び投稿（ｃｏｎｔｒｉｂｕｔｉｏｎ）を含む共同ワークスペース２３０３の表現、並びにツールバー２３０４を含むことができる。ツールバー２３０４は、共同ワークスペースの表現と対話するため又は共同ワークスペースの表現を構成するための、様々な編集ツール、設定、コマンド及びオプションを含むことができる。たとえば、ツールバー２３０４は、共同ワークスペース２３０３の表現上で描画するための編集ツールを含むことができ、編集は、ウェブ・ソケット接続を介してサーバ及び他の接続されたコンピュータ化されたデバイスに伝えられる。
【００９３】
ツールバー２３０４は、選択されたとき、ローカル・コンピューティング・デバイスに、共同ワークスペース内でローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求を受信させる、スクリーン共有ボタン２３０５をさらに含む。したがって、ユーザは、スクリーン共有ボタン２３０５を選択することによって、共同ワークスペース内でスクリーン共有を開始することができる。
【００９４】
図２３Ｂは、要求を受信した後、且つエリアの選択の前の、ローカル・コンピューティング・デバイスのユーザ・インターフェース（デスクトップ）の一実例を示す。図２３Ｂに示されているように、スクリーン共有ボタン２３０５の選択は、共同ワークスペース２３０３の表現内にエリア・ウィンドウ２３０９の出現（ａｐｐｅａｒａｎｃｅ）を生じさせることができる。ウィンドウ２３０９は、ローカル・デスクトップ（又はローカル・デスクトップの一部）のスクリーン共有の結果として生じる出力エリアを決定し、サイズ、形状、配向、ロケーションなどに関して、ユーザによって移動及び／又はカスタマイズされ得る。ユーザがウィンドウ２３０９のロケーション／サイズ／形状を選択すると、ユーザは、いくつかの入力（ポインティング・デバイスを押下する、ボタン２３０５を再選択する、又は何らかの他の入力など）によって選択を確定することができる。次いで、共同ワークスペース内の関連するパラメータ（サイズ、形状、配向など）を含む選択されたエリアは、ローカル・コンピューティング・デバイスによって受信され得る。随意に、エリアは、デフォルトのサイズ、ロケーション及び配向を含む何らかのデフォルト値に設定され得、ユーザがエリアから外れたい場合、ユーザによってさらに構成され得る。
【００９５】
もちろん、図２３Ａ〜図２３Ｂに示されているプロセスは、共同ワークスペース内でローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び共同ワークスペースの表現内のエリアの選択を受信することの一実例にすぎない。このステップは、様々なやり方で実装され得る。たとえば、スクリーン共有ボタン２３０５は、選択されるのではなく、共同ワークスペース２３０３内でドラッグされ得る。スクリーン共有要求は、ユーザが、キーボード・コマンド又はメニュー若しくはサブメニュー内の選択など、何らかの入力コマンドを使用することによっても開始され得、入力コマンドは、共同アプリケーションによって、スクリーンを共有するための要求として認識され得る。共同ワークスペース内でスクリーン共有を開始するための要求は、別個のスクリーン共有セッションがすでに開始された後でも開始され得る。たとえば、ユーザは、タスクバー・タブ、アイコン、又はスクリーン共有ウィンドウを共同ワークスペース内のロケーションにドラッグすることができ、その結果、コンピューティング・デバイスは、要求と共同ワークスペース内のエリアの選択との両方を受信することになる。
【００９６】
ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部を共有するための要求、及び共同ワークスペースの表現内のエリアの選択を受信するステップは、ユーザが、ユーザのデスクトップ全体を共有するのか、ユーザのデスクトップ内の１つ又は複数のウィンドウを共有するのか、ユーザのローカル・コンピューティング・デバイス上で実行する１つ又は複数のアプリケーションに関連する出力を共有するのかなど、スクリーン共有のソースを選択することを可能にするサブステップを含むことができる。これらのサブステップは、ローカル・デスクトップの少なくとも一部の選択を受信するように構成されたソース選択インターフェースを、ユーザ・インターフェース内で送信することと、ローカル・デスクトップの少なくとも一部の選択をソース選択インターフェース内で受信することとを含むことができる。
【００９７】
図２４Ａ〜図２４Ｃは、例示的な実施例によるソース選択プロセスの一実例を示す。図２４Ａは、ユーザが任意のスクリーン共有コマンド又はボタンを選択する前のローカル・コンピューティング・デバイスのユーザ・インターフェース（デスクトップ）２４０６を示す。数字２４０１〜２４０８は、上記で説明された図２３Ａにおける数字２３０１〜２３０８と同じ構成要素を示す。
【００９８】
図２４Ｂは、ユーザがスクリーン共有ボタン２４０５を選択した後のユーザ・インターフェース２４０６を示す。図２４Ｂに示されているように、ユーザのデスクトップ全体を共有したいのか、ユーザのデスクトップの一部を共有したいのか、またユーザのデスクトップのどの部分を共有したいのかをユーザが選択することを可能にするソース選択インターフェース２４０９が、共同ワークスペース２４０３内又は共同アプリケーション２４０４内で送信され得る。ソース選択インターフェースは、ローカル・コンピューティング・デバイスで実行している現在アクティブなすべてのアプリケーション、並びに任意のウィンドウ（ＯＳに対応するウィンドウ又はアプリケーションによって作成されたウィンドウなど）をリストし、ユーザがローカル・デスクトップ全体を共有すること、ローカル・デスクトップ内の１つ若しくは複数のウィンドウを共有すること、又はローカル・コンピューティング・デバイス上で実行する１つ若しくは複数のアプリケーションに対応する１つ若しくは複数のインターフェースを共有することから選択することを可能にすることができる。たとえば、ユーザが共有のためにアプリケーションを選択する場合、そのアプリケーションに関連付けられたすべてのインターフェース（ウィンドウ、プロンプト、ディスプレイなど）が共有され得る。ユーザが共有のために単一のウィンドウを選択する場合、そのウィンドウのみが共有されることになる。さらに、ユーザがデスクトップ全体を共有することを選択した場合、デスクトップ全体のコンテンツが他の参加者と共有され得る。
【００９９】
図２４Ｃは、ユーザが選択インターフェース２４０９内で「文書編集アプリ」を選択した後のインターフェース２４０１を示す。この選択は、ドキュメント編集アプリを、スクリーン共有ストリームのソースとして指定することになり、ローカル・コンピューティング・デバイス上で実行するドキュメント編集アプリケーションに対応するインターフェースを、共同ワークスペース内の他の参加者が閲覧できることを意味する。以下でさらに説明されるように、選択は、メモリに記憶され得、且つ／又はデスクトップの関連する部分をキャプチャするストリーミング・オブジェクトを生成するために使用されるアプリケーション若しくはプログラムに渡され得る。
【０１００】
図２４Ａ〜図２４Ｃに関して上記で説明されたソース選択ステップは、図２３Ａ〜図２３Ｂに関して説明されたように、エリアの選択の一部として、エリアの選択の前に、又はエリアの選択の後に実行され得る。たとえば、システムは、ユーザがスクリーン共有ウィンドウのエリアを選択した後に、ソース選択インターフェースを表示することができる。代替的に、エリアの選択の前に、ソース選択インターフェースが表示され得る。ソース選択プロセスは、ストリーミング・オブジェクトが生成されるときなど、プロセス全体における後の方のステップでも実行され得る。
【０１０１】
ソース選択プロセスはまた、省略され得（デフォルトではデスクトップ全体を共有する）、且つ／又は他のやり方で実行され得る。たとえば、ソース選択インターフェースを表示する代わりに、共有したいすべてのアクティブ・ウィンドウを選択するように、又はデスクトップ全体を共有するためのコマンドを入力するようにユーザに命令するプロンプトが、表示され得る。多くの変形形態が可能であり、これらの実例は、限定するものではない。
【０１０２】
ステップ２００２並びに図２３Ａ〜図２３Ｂ及び図２４Ａ〜図２４Ｃに関して説明された入力は、マウス、タッチスクリーン、又はスタイラスなど、任意のタイプのポインティング・デバイスを介して受信され得る。入力を検出するために、仮想ドライバ及び／又は透明層を含む、前に説明された技法が使用され得る。たとえば、入力は、ユーザによるポインティング・ジェスチャーであり得る。さらに、ドラッグ・アンド・ドロップ・アクション、選択、選択解除、若しくは他の入力、又は入力のシーケンスなどの上記で説明されたアクションはまた、仮想ドライバ及び／又は透明層を含む、前に説明された技法を使用して入力され得る。
【０１０３】
図２０に戻ると、ステップ２００３において、ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトが生成される。ストリーミング・オブジェクトは、ローカル・デスクトップの少なくとも一部のストリームをキャプチャするように構成されたビデオ・ストリームなどのメディア・ストリームであり得る。
【０１０４】
前に説明されたように、サーバ上にホストされた共同ワークスペースの表現は、ローカル・コンピューティング・デバイス上で実行するローカル共同アプリケーションによって、ローカル・コンピューティング・デバイス上で送信され得る。この共同アプリケーションは、たとえば、ウェブ・アプリケーションであり得、ローカル・コンピューティング・デバイス上のスクリーン・キャプチャ・プログラムと通信及びインターフェースする。スクリーン・キャプチャ・プログラムは、デスクトップの少なくとも一部のストリームを生成するように構成されたプログラムである。共同アプリケーションは、アプリケーション・プログラミング・インターフェース（ＡＰＩ）を介してスクリーン・キャプチャ・プログラムとインターフェースすることができる。さらに、共同アプリケーションは、透明層を介してスクリーン・キャプチャ・プログラムとインターフェースすることができ、透明層自体が、ローカル・コンピューティング・デバイス上で実行する複数のアプリケーションとインターフェースする。共同アプリケーションが、関連するルーチン又はプロセスを呼び出すだけでストリーミング・オブジェクトをインスタンス化できるように、メディア・ストリームを生成するために使用されるスクリーン・キャプチャ・プログラムの機能性は、共同アプリケーションに統合され得る。
【０１０５】
図２５は、例示的な実施例による、ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成するためのフローチャートを示す。
【０１０６】
ステップ２５０１において、ローカル共同アプリケーションは、ローカル共同アプリケーションとスクリーン・キャプチャ・プログラムとの間のアプリケーション・プログラミング・インターフェース（ＡＰＩ）を介して、ローカル・コンピューティング・デバイス上で実行するスクリーン・キャプチャ・プログラムにソース識別子を求める要求を送信する。前に説明されたように、このＡＰＩは、透明層自体であり得る。要求は、スクリーン共有ストリームの選択されたソースなど（特定のアプリケーション又はウィンドウなど）の追加の属性を含むことができる。代替的に、デフォルトのソース（デスクトップ全体など）の代わりに、要求がサブミット又は省略された後に、ソース選択プロセスが実行され得る。ソース識別子は、作成されるメディア・ストリームのハンドル又はアドレスであり、アプリケーションがメディア・ストリームの出力及び結果として生じるスクリーン共有にアクセスすることを可能にする。
【０１０７】
ステップ２５０２において、スクリーン・キャプチャ・プログラムは、ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部のストリームを開始し、ストリームは、対応するソース識別子を有する。ソース・パラメータがスクリーン・キャプチャ・プログラムに提供されると、スクリーン・キャプチャ・プログラムは、識別された構成要素（特定のアプリケーション又はウィンドウなど）のみを使用してストリームを開始することができる。それ以外の場合、スクリーン・キャプチャ・プログラムは、デフォルトでローカル・デスクトップ全体のストリームを開始するか、又は前に説明されたようにソース選択オプションをユーザに提示することができる。開始されたストリームは、デスクトップの少なくとも一部のスナップショットを定期的に（１秒あたり３０回など）キャプチャするスクリーン・キャプチャのシーケンスである。ストリームは、ソース識別子を使用してアクセスされ得、ソース識別子は、上記で説明されたように、プログラムがストリームにアクセスすることを可能にするハンドルである。
【０１０８】
ステップ２５０３において、スクリーン・キャプチャ・プログラムは、ソース識別子をローカル共同アプリケーションに送信する。ステップ２５０４において、ローカル共同アプリケーションは、ソース識別子に少なくとも部分的に基づいて、ストリーミング・オブジェクトを生成する。ソース識別子に加えて、ローカル共同アプリケーションは、ユーザによって指定されたエリアなど、以前に提供された情報を随意に利用して、ストリーミング・オブジェクトを作成することができる。ストリーミング・オブジェクトは、メディア・ストリーム、及び定義された形式を有する対応する出力インターフェースである。定義された形式は、随意に、選択されたエリアなどのユーザ入力に基づき得る。ストリーミング・オブジェクトは、参加者のカメラからのビデオ・ストリームと同様に、共同ワークスペースと互換性があり、共同ワークスペース内に埋め込まれるように構成された、メディア・ストリーム・オブジェクトである。
【０１０９】
スクリーン・キャプチャ・プログラムは、ローカル・デスクトップ若しくはローカル・デスクトップの一部のストリームを生成するように構成されたプログラムであるか、又はローカル共同アプリケーションに統合され、ローカル・デスクトップ若しくはローカル・デスクトップの一部のストリームを作成するように構成された構成要素である。たとえば、スクリーン・キャプチャ・プログラムは、ウェブ・リアルタイム通信（ＷｅｂＲＴＣ：Ｗｅｂ  Ｒｅａｌ−Ｔｉｍｅ  Ｃｏｍｍｕｎｉｃａｔｉｏｎ）ストリーミングのベースポイント又はエンドポイントであるウェブ・ブラウザ又はブラウザ・エンジン構成要素であり得る。以下のセクションは、スクリーン・キャプチャ・プログラムがＣｈｒｏｍｅである場合の、ストリーミング・オブジェクトを生成するステップの例示的な実装形態を提供する。
【０１１０】
Ｃｈｒｏｍｅにおけるスクリーン・キャプチャ機能性は、ＭｅｄｉａＤｅｖｉｃｅｓ．ｇｅｔＵｓｅｒＭｅｄｉａ（）関数インターフェースを介してアクセスされ得る。ｇＵＭ関数は、１回目に、ユーザのオーディオ／ビデオ・ストリームを取得するために呼び出され、２回目に、スクリーン・ストリームを得るために呼び出され得る。
【０１１１】
Ｃｈｒｏｍｅにおいて、スクリーン・キャプチャ機能性を使用するための許可は、ウェブ・アプリケーション（共同アプリケーションの１つの可能な実装など）においてｃｈｒｏｍｅ拡張を利用することによって有効にされ得る。この拡張は、関数ｃｈｒｏｍｅ．ｄｅｓｋｔｏｐＣａｐｔｕｒｅ．ｃｈｏｏｓｅＤｅｓｋｔｏｐＭｅｄｉａ（）を利用してｓｏｕｒｃｅＩＤを返す。次いで、ｓｏｕｒｃｅＩＤは、対応するストリームを取得するために、ｇＵＭ関数における引数として使用され得る。
【０１１２】
スクリーン共有のための拡張は、共同アプリケーションのコンテキストにおいて実行するコンテンツ・スクリプトと、別個の拡張コンテキストにおいて実行しているバックグラウンド・スクリプトとを含むことができる。コンテンツ・スクリプトは、ウィンドウにメッセージを送ることによって、又は文書オブジェクト・モデル（ＤＯＭ：ｄｏｃｕｍｅｎｔ  ｏｂｊｅｃｔ  ｍｏｄｅｌ）操作によって、共同アプリケーションと通信することができるが、バックグラウンド・スクリプトは通信することができない。バックグラウンド・スクリプトは、すべてのＣｈｒｏｍｅ拡張ＡＰＩにアクセスできるが、コンテンツ・スクリプトはアクセスすることができない。コンテンツ・スクリプト及びバックグラウンド・スクリプトは、関数ｃｈｒｏｍｅ．ｒｕｎｔｉｍｅ．ｃｏｎｎｅｃｔ（）によって相互に通信することができる。このアーキテクチャを考慮すると、ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部のビデオ・ストリームを出力するように構成されたストリーミング・オブジェクトを生成するプロセスは、以下によって実行され得る。
【０１１３】
（１）共同アプリケーションは、スクリーン共有ソース識別子を求める要求をコンテンツ・スクリプトに送る。
【０１１４】
（２）コンテンツ・スクリプトは、要求をバックグラウンド・スクリプトに渡す。
【０１１５】
（３）バックグラウンド・スクリプトは、関数ｃｈｒｏｍｅ．ｄｅｓｋｔｏｐＣａｐｔｕｒｅ．ｃｈｏｏｓｅＤｅｓｋｔｏｐＭｅｄｉａ（）を呼び出し、ソース識別子をコンテンツ・スクリプトに返す。
【０１１６】
（４）コンテンツ・スクリプトは、このソース識別子を共同アプリケーションに返し、共同アプリケーションは、最終的に、ソース識別子を制約／引数のうちの１つとして用いてｇｅｔＵｓｅｒＭｅｄｉａ（）関数を呼び出す。
【０１１７】
ＣｈｒｏｍｅにおけるｇＵＭ関数の場合、ビデオ・ストリームの制約は、
｛ｃｈｒｏｍｅＭｅｄｉａＳｏｕｒｃｅ：  ‘ｄｅｓｋｔｏｐ’；  ｍａｘＷｉｄｔｈ：  １９２０；  ｍａｘＨｅｉｇｈｔ：  １０８０；  ｍａｘＦｒａｍｅＲａｔｅ：  １０；  ｍｉｎＡｓｐｅｃｔＲａｔｉｏ：  １．７７；  ｃｈｒｏｍｅＭｅｄｉａＳｏｕｒｃｅＩｄ：  ｓｏｕｒｃｅＩｄ｝又は｛ｍａｘＷｉｄｔｈ：  １９２０；  ｍａｘＨｅｉｇｈｔ：  １０８０；  ｍａｘＦｒａｍｅＲａｔｅ：  １０；  ｍｉｎＡｓｐｅｃｔＲａｔｉｏ：  １．７７；  ｃｈｒｏｍｅＭｅｄｉａＳｏｕｒｃｅＩｄ：  ｓｏｕｒｃｅＩｄ｝を含むことができる。
【０１１８】
スクリーン共有ｇＵＭ呼び出しは、ＷｅｂＲＴＣ  ｍｅｄｉａＳｔｒｅａｍとして、ピア接続を介して共有され得るｍｅｄｉａＳｔｒｅａｍを返す。
【０１１９】
もちろん、Ｃｈｒｏｍｅブラウザをスクリーン・キャプチャ・プログラムとして利用する上述の実装形態は一実例として提供されているにすぎず、ストリーミング・オブジェクトを生成するステップは、Ｆｉｒｅｆｏｘなど、スクリーン・キャプチャ機能性をサポートする他のプログラム若しくはブラウザ、又は独立したスタンドアロン・スクリーン・キャプチャ・プログラムを使用して実行され得る。
【０１２０】
図２０に戻ると、ステップ２００４において、ローカル・コンピューティング・デバイスは、ウェブ・ソケット接続を介して、１つ又は複数のコマンドをサーバに送信する。１つ又は複数のコマンドは、ストリーミング・オブジェクト、及び選択されたエリアに対応する情報を含むことができ、サーバに、選択されたエリアに少なくとも部分的に基づいて共同ワークスペース内にストリーミング・オブジェクトを挿入することを行わせるように構成される。
【０１２１】
たとえば、ユーザが、共同ワークスペースの右下隅にある円形のエリアを、スクリーン共有のための選択されたエリアとして前に選択した場合、ストリーミング・オブジェクトは、メディア・ストリームが共同ワークスペース内に埋め込まれたときに円形の形式で共同ワークスペースの右下隅に表示されるように、サーバによって共同ワークスペース内に挿入され得る。円形のサイズ及び配向は、選択されたエリアの同じ属性に基づき得る。もちろん、共同ワークスペース内の任意の他のオブジェクトと同様に、ストリーミング・オブジェクトは、共同ワークスペースの表現と対話することによって、共同ワークスペース内に埋め込まれた後に参加者によって調整又は移動され得る。
【０１２２】
共同ワークスペース内のストリーミング・オブジェクトの形式は、形状、サイズ、及び位置などの選択されたエリアの属性を含む、以前に選択されたエリアに基づいて決定され得る。これらの属性は、サーバに送られる１つ又は複数のコマンドにおいて、ストリーミング・オブジェクト自体とともに送信され得る。次いで、サーバは、これらの属性に基づいて、ストリーミング・オブジェクトを共同ワークスペース内に埋め込むための挿入ポイント及び形式を決定することができる。
【０１２３】
代替的に、ストリーミング・オブジェクトは、ユーザの以前のエリアの選択に基づいて事前定義された空間属性を有するメディア・ストリーム・オブジェクトであり得る。この場合、ストリーミング・オブジェクトがローカル・コンピューティング・デバイスで生成されるとき、ストリーミング・オブジェクトの表示属性は、ストリーミング・オブジェクトに統合され得る。次いで、（埋め込まれた空間属性を有する）ストリーミング・オブジェクトは、サーバに送られ、サーバは、埋め込まれた空間属性に基づいて、ストリーミング・オブジェクトを適切なロケーションに適切な形式で共同ワークスペース内に埋め込む。
【０１２４】
１つ又は複数のコマンドは、ストリーミング・オブジェクト自体を含むのではなく、ストリーミング・オブジェクトを取得するため又はストリーミング・オブジェクトの独自のインスタンスをインスタンス化するためにサーバによって使用され得る、ストリーミング・オブジェクトのアドレス又は他の識別子を随意に含むことができる。
【０１２５】
サーバによるストリーミング・オブジェクトの共同ワークスペースへの挿入は、ストリーミング・オブジェクトの表現を、ウェブ・ソケット接続を介して複数のコンピューティング・デバイスに伝えさせる。したがって、接続された各コンピューティング・デバイスは、ストリーミング・オブジェクトの表現を共同ワークスペースのそれぞれの表現で有することになる。
【０１２６】
挿入されたストリーミング・オブジェクトは、ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部のビデオ・ストリームを受信し、ローカル・コンピューティング・デバイスのローカル・デスクトップの少なくとも一部のビデオ・ストリームを、ウェブ・ソケット接続を介して複数のコンピューティング・デバイスに送信するように構成される。
【０１２７】
前に説明されたように、このプロセスは、ストリーミング・オブジェクトをインスタンス化した（また、ストリーム識別子によってメディア・ストリームのソースとして識別された）ローカル・コンピューティング・デバイスから、ストリーム情報がサーバに転送され、次いで、共同ワークスペースの表現内の、サーバに接続された複数のコンピューティング・デバイスのそれぞれに転送されることを含む。したがって、ストリーミング・オブジェクト自体は、サーバ上の共同ワークスペース内に埋め込まれ得、結果として生じるストリームが、接続されたクライアントに伝えられ得る。
【０１２８】
図２６は、例示的な実施例による、ローカル・コンピューティング・デバイスからコマンドを送り、ストリーミング・オブジェクトを伝えるプロセスを示す。図２６に示されているように、ローカル・コンピューティング・デバイス２６０１は、コマンド（ストリーミング・オブジェクト又はストリーミング・オブジェクトに対する参照／ポインタのいずれかを含む）をサーバ２６００に送る。次いで、サーバ２６００は、ストリーミング・オブジェクトを共同ワークスペース内に挿入し、その結果、埋込みストリーミング・オブジェクトを有する共同ワークスペースが、ローカル・コンピューティング・デバイス２６０１並びにリモート・コンピューティング・デバイス２６０２及び２６０３を含むすべての接続されたデバイスに伝えられる。
【０１２９】
図２７は、例示的な実施例による、サーバが共同ワークスペース内にストリーミング・オブジェクトを埋め込んだ後の、ローカル・コンピューティング・デバイスのインターフェースの一実例を示す。数字２７０１〜２７０８は、図２３Ａにおける数字２３０１〜２３０８に関して記載されたものと同じ構成要素に対応する。図２７はさらに、ユーザのデスクトップのメディア・ストリームを表示する埋込みストリーミング・オブジェクト２７０９を示す。この場合、選択されたソースはデスクトップ全体であると想定される。サーバに接続されたリモート参加者の各々は、参加者の共同ワークスペースの表現内に、同じストリーミング・オブジェクトが埋め込まれていることになる。図２７に示されているように、結果として得られる埋込みストリームは、ローカル参加者とリモート参加者の両方が、共有されたスクリーンのコンテンツを共同ワークスペースのコンテキスト内で閲覧することを可能にする、「ピクチャ・イン・ピクチャ」効果を提供する。したがって、参加者は、共同セッションを妨げることなしに、関連するプログラム及び情報を共有することができる。
【０１３０】
上記で説明された技法に加えて、出願人は、ローカル参加者とリモート参加者の両方が埋込みストリーミング・オブジェクト内に表示されるデスクトップ又はデスクトップの一部を制御すること可能にする新規な技法をさらに発見した。この新規な技法は、透明層を利用し、ユーザ（ローカルとリモートの両方）が埋込みストリーミング・オブジェクト内に表示されるデスクトップ又はデスクトップの一部を効果的にブラウズすることを可能にする。
【０１３１】
図２８は、例示的な実施例による、ローカル・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御するためのフローチャートを示す。
【０１３２】
ステップ２８０１において、挿入されたストリーミング・オブジェクトは、ローカル・コンピューティング・デバイスのユーザ・インターフェース上で、共同ワークスペースの表現内で送信される。挿入されたストリーミング・オブジェクトは、ビデオ・ストリームのソースのネットワーク・アドレスに関連付けられる。この関連付けは、ストリーミング・オブジェクトに関連付けられたタグ又はメタデータの形式で、サーバによって提供され得る。さらに、関連付けは、ストリーミング・オブジェクトの一部であり得、たとえば、前に説明されたソース識別子に基づき得る。たとえば、ストリーミング・オブジェクトが作成されるときに、ストリーミング・オブジェクトを作成するデバイスは、デバイスのＩＰアドレスを示すタグを含むことができる。
【０１３３】
ステップ２８０２において、ローカル・コンピューティング・デバイス上で実行する透明層は、挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力を検出し、ユーザ入力は、ローカル・デスクトップ内のロケーションに対応する。前に説明されたように、透明層は、オペレーティング・システム又はオペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数とインターフェースするように構成されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を備える。透明層は、（座標によって決定されるような）入力のロケーション及びストリーミング・オブジェクトのロケーションに基づいて、挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力を検出することができる。たとえば、マウス・クリックとストリーミング・オブジェクトのある一部との間に重なりがある場合、この入力は、挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力として検出され得る。
【０１３４】
さらに、ユーザ入力は、挿入されたストリーミング・オブジェクト内の入力のロケーションに基づいて、ローカル・デスクトップ内の特定のロケーションにマッピングされ得る。この場合も、ローカル・デスクトップの異なる部分に関連付けられた、挿入されたストリーミング・オブジェクト内のエリア又は座標を示すマップが記憶され得、ロケーションは、ローカル・デスクトップのそれぞれの部分にマッピングされ得る。たとえば、挿入されたストリーミング・オブジェクトのサブエリアは、ローカル・デスクトップ内の対応するエリアを占有する特定のアプリケーションに関連付けられ得るか、又はローカル・デスクトップ内の対応する座標に関連付けられ得る。
【０１３５】
マッピング手順は、挿入されたストリーミング・オブジェクト内の入力の相対ロケーションを検出し、相対ロケーションを、ストリーミング・オブジェクトによってストリーミングされているデスクトップ（又はデスクトップの一部）内の絶対ロケーションにマッピングする、スケーリング・メカニズム又はプロセスを利用することができる。
【０１３６】
さらに、前に説明されたように、入力は、マウスなどのポインティング・デバイスから、又は仮想ドライバ及び透明層に依存する入力メカニズムなどの他の入力手段を介するものであり得る。
【０１３７】
ステップ２８０４において、ローカル・コンピューティング・デバイス上で実行する透明層は、挿入されたストリーミング・オブジェクトに関連付けられたネットワーク・アドレスがローカル・コンピューティング・デバイスのネットワーク・アドレスに対応すると判断する。これは、たとえば、入力を提供するデバイスのＩＰアドレスとストリーミング・オブジェクトに関連付けられたＩＰアドレスとを比較して一致するかどうかを判定することによって、判断され得る。
【０１３８】
ステップ２８０５において、挿入されたストリーミング・オブジェクトに関連付けられたネットワーク・アドレスが、入力を提供するコンピューティング・デバイスのネットワーク・アドレスに対応するとの判断に基づいて、透明層は、オペレーティング・システム又はオペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数に、１つ又は複数の第２のコマンドを送信し、１つ又は複数の第２のコマンドは、ローカル・デスクトップ内のロケーションでユーザ入力を実行するように構成される。
【０１３９】
前に説明されたように、透明層は、ＯＳ又はＯＳ上で実行するアプリケーションとインターフェースすることができる。したがって、挿入されたストリーミング・オブジェクト内の入力は、ローカル・デスクトップ内の対応するロケーションにマッピングされ得、コマンドは、（前に説明されたように、関連するコンテキストに応じて）適切なアプリケーション又はＯＳに送られて、ローカル・デスクトップ内の対応するロケーションで入力を実行し得る。
【０１４０】
図２９Ａ〜図２９Ｃは、例示的な実施例による、ローカル・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御することの一実例を示す。
【０１４１】
図２９Ａに示されているように、ローカル・ユーザ・インターフェース（デスクトップ）２９０１は、共同ワークスペースの表現を表示する共同アプリケーション２９０２を含む。表現は、ローカル・デスクトップ自体をストリーミングしている挿入された／埋込みストリーミング・オブジェクト２９０３を含む。ローカル・ユーザ・インターフェース２９０１はまた、ＯＳメニュー・ボタン２９０５を含むタスクバー２９０６を含む。図に示されているように、マウス・ポインタは、ローカル・デスクトップ内のＯＳメニュー・ボタン２９０５に対応する、挿入されたストリーミング・オブジェクト２９０３内のボタン２９０４の上にある。
【０１４２】
図２９Ｂは、ユーザが、ストリーミング・オブジェクト２９０３内のボタン２９０４のロケーションをクリックした結果を示す。透明層によって検出されるその入力の結果として、ストリーミング・オブジェクト２９０３内の入力のロケーションは、デスクトップ２９０１内の対応するロケーションにマッピングされる。対応するロケーションはＯＳメニュー・ボタン２９０５であるので、この入力の結果として、透明層は、ＯＳにコマンドを送り、ＯＳメニュー・ボタン２９０５をアクティブにする。デスクトップ２９０１におけるこの変更は、それ自体がストリーミング・オブジェクトによってキャプチャされ、ストリーミング・オブジェクトは、挿入されたストリーミング・オブジェクト内のボタン２９０４も同様にアクティブにされた状態で示す。
【０１４３】
図２９Ｃは、入力がローカル・デスクトップに運ばれた後の、インターフェース２９０１及び挿入されたストリーミング・オブジェクト２９０３を示す。図２９Ｃに示されているように、ＯＳメニューが開かれ、選択可能なインジケータのリスト２９０７を含む。その結果として、この変更は、挿入されたストリーミング・オブジェクト２９０３によってキャプチャされ、挿入されたストリーミング・オブジェクト２９０３自体は、選択可能なインジケータのリスト２９０８を含むようにボタン２９０４が対応して開くように見せる。
【０１４４】
上記で示されたように、透明層は、埋込みストリーミング・オブジェクトを介してローカル・デスクトップを制御するために効果的に使用され得る。この透明層は、共同セッションに参加しているユーザに、ユーザが共同セッション内にとどまり、同時に他の参加者と共有している自分のデスクトップ又は自分のデスクトップ内のアプリケーションをナビゲートすることを可能にする、リモート制御インターフェースを効果的に提供する。
【０１４５】
本システムはまた、リモート参加者が、共有されているデスクトップ又はデスクトップの一部を制御することを可能にするために使用され得る。この機能性は、リモート参加者が、共同ワークスペース内に挿入されたストリーミング・オブジェクトを介して、共有されている他のデスクトップ及びアプリケーションにアクセスすることを可能にするので、優れたユーティリティを有する。
【０１４６】
図３０は、例示的な実施例による、リモート・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御するためのフローチャートを示す。
【０１４７】
ステップ３００１において、挿入されたストリーミング・オブジェクトは、リモート・コンピューティング・デバイスのユーザ・インターフェース上で、共同ワークスペースの表現内で送信される。挿入されたストリーミング・オブジェクトは、ビデオ・ストリームのソースのネットワーク・アドレスに関連付けられる。この関連付けは、ストリーミング・オブジェクトに関連付けられたタグ又はメタデータの形式で、サーバによって提供され得る。さらに、関連付けは、ストリーミング・オブジェクトの一部であり得、たとえば、前に説明されたソース識別子に基づき得る。たとえば、ストリーミング・オブジェクトが作成されるときに、ストリーミング・オブジェクトを作成するデバイスは、デバイスのＩＰアドレスを示すタグを含むことができる。
【０１４８】
ステップ３００２において、リモート・コンピューティング・デバイス上で実行する透明層は、挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力を検出し、ユーザ入力は、ローカル・デスクトップ内のロケーションに対応する。前に説明されたように、透明層は、オペレーティング・システム又はオペレーティング・システム上で実行するように構成された１つ若しくは複数のアプリケーションのうちの１つ又は複数とインターフェースするように構成されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を備える。透明層は、（座標によって決定されるような）入力のロケーション及びストリーミング・オブジェクトのロケーションに基づいて、挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力を検出することができる。たとえば、マウス・クリックとストリーミング・オブジェクトのある一部との間に重なりがある場合、この入力は、挿入されたストリーミング・オブジェクトに関連付けられたユーザ入力として検出され得る。
【０１４９】
さらに、ユーザ入力は、挿入されたストリーミング・オブジェクト内の入力のロケーションに基づいて、ローカル・デスクトップ内の特定のロケーションにマッピングされ得る。この場合も、ローカル・デスクトップの異なる部分に関連付けられた、挿入されたストリーミング・オブジェクト内のエリア又は座標を示すマップが記憶され得、ロケーションは、ローカル・デスクトップのそれぞれの部分にマッピングされ得る。たとえば、挿入されたストリーミング・オブジェクトのサブエリアは、ローカル・デスクトップ内の対応するエリアを占有する特定のアプリケーションに関連付けられ得るか、又はローカル・デスクトップ内の対応する座標に関連付けられ得る。
【０１５０】
マッピング手順は、挿入されたストリーミング・オブジェクト内の入力の相対ロケーションを検出し、相対ロケーションを、ストリーミング・オブジェクトによってストリーミングされているデスクトップ（又はデスクトップの一部）内の絶対ロケーションにマッピングする、スケーリング機構又はプロセスを利用することができる。
【０１５１】
さらに、前に説明されたように、入力は、マウスなどのポインティング・デバイスから、又は仮想ドライバ及び透明層に依存する入力メカニズムなどの他の入力手段を介するものであり得る。
【０１５２】
ステップ３００４において、リモート・コンピューティング・デバイス上で実行する透明層は、挿入されたストリーミング・オブジェクトに関連付けられたネットワーク・アドレスがリモート・コンピューティング・デバイスのネットワーク・アドレスに対応しないと判断する。これは、たとえば、入力を提供するデバイス（リモート・コンピューティング・デバイス）のＩＰアドレスとストリーミング・オブジェクトに関連付けられたＩＰアドレスとを比較して一致するかどうかを判定することによって、判断され得る。
【０１５３】
ステップ３００５において、挿入されたストリーミング・オブジェクトに関連付けられたネットワーク・アドレスが、入力を提供するコンピューティング・デバイスのネットワーク・アドレスに対応しないとの判断に基づいて、透明層は、１つ又は複数の第２のコマンドを、ウェブ・ソケット接続を介してローカル・コンピューティング・デバイスに送信し、１つ又は複数の第２のコマンドは、ローカル・コンピューティング・デバイス上で実行するローカル透明層に、ローカル・デスクトップ内のロケーションでユーザ入力の実行を行わせるように構成される。
【０１５４】
１つ又は複数の第２のコマンドは、サーバを通してウェブ・ソケット接続を介して、リモート・コンピューティング・デバイスからローカル・コンピューティング・デバイスにルーティングされ得る。特に、１つ又は複数の第２のコマンドは、ローカル・コンピューティング・デバイスのＩＰアドレスとしての宛先アドレスとともにサーバに送信され、次いで、サーバによってローカル・コンピューティング・デバイスにルーティングされ得る。
【０１５５】
１つ又は複数の第２のコマンドは、ローカル・コンピューティング・デバイスのローカル透明層に、ローカル・オペレーティング・システム又はローカル・オペレーティング・システム上で実行するように構成された１つ又は複数のローカル・アプリケーションのうちの１つ又は複数にローカル・コマンドをローカル透明層自体で送らせるように構成され得、１つ又は複数のローカル・コマンドは、ローカル・デスクトップ内のロケーションでユーザ入力を実行するように構成される。
【０１５６】
前に説明されたように、透明層は、ＯＳ又はＯＳ上で実行するアプリケーションとインターフェースすることができる。したがって、挿入されたストリーミング・オブジェクト内の入力は、ローカル・デスクトップ内の対応するロケーションにマッピングされ得、コマンドは、ローカル透明層から、（前に説明されたように、関連するコンテキストに応じて）ローカル・コンピューティング・デバイス上の適切なアプリケーション又はＯＳに送られて、ローカル・デスクトップ内の対応するロケーションで入力を実行し得る。
【０１５７】
図３１Ａ〜図３１Ｃは、例示的な実施例による、リモート・コンピューティング・デバイスからの埋込みストリーミング・オブジェクトを介してデスクトップ又はデスクトップの一部を制御することの一実例を示す。
【０１５８】
図３１Ａに示されているように、リモート・ユーザ・インターフェース（デスクトップ）３１０１は、共同ワークスペースの表現を表示する共同アプリケーション３１０２を含む。表現は、ローカル・デスクトップをストリーミングしている挿入された／埋込みストリーミング・オブジェクト３１０３を含む（本明細書で使用される場合、「ローカル」は、ストリーミング・オブジェクトをインスタンス化し、そのデスクトップ又はそのデスクトップの一部を共有しているデバイスを指す）。リモート・ユーザ・インターフェース３１０１はまた、リモート・デスクトップ上で実行するウェブ・ブラウザ・アプリケーションに対応するタスクバー及びウィンドウを含む。図に示されているように、マウス・ポインタは、ストリーミングされているローカル・デスクトップ内のＯＳメニュー・ボタンに対応する、挿入されたストリーミング・オブジェクト３１０３内のボタン３１０４上にある。
【０１５９】
図３１Ｂは、ユーザが、ストリーミング・オブジェクト３１０３内のボタン３１０４のロケーションをクリックした結果を示す。リモート透明層によって検出されるその入力の結果として、ストリーミング・オブジェクト３１０３内の入力のロケーションは、ストリーミングされているローカル・デスクトップ内の対応するロケーションにマッピングされる。次いで、リモート透明層は、ローカル・コンピューティング・デバイス上のローカル透明層にコマンドを送り、ローカル・デスクトップ内の対応するロケーションに入力を生じさせる。対応するロケーションはローカル・デスクトップのＯＳメニュー・ボタンであるので、この入力の結果として、リモート透明層は、ローカル透明層にコマンドを送り、ローカル透明層自体が、ローカルＯＳにコマンドを送り、ローカル・デスクトップのＯＳメニュー・ボタンをアクティブにする。ローカル・デスクトップにおけるこの変更は、ストリーミング・オブジェクト３１０３によってキャプチャされ、ストリーミング・オブジェクト３１０３は、挿入されたストリーミング・オブジェクト内のボタン３１０４をアクティブにされた状態で示す。なお、挿入されたストリーミング・オブジェクトは、リモート・デスクトップをストリーミングしているのではなく、ローカル・コンピューティング・デバイスに関連付けられた異なるデスクトップをストリーミングしているので、リモート・デスクトップ３１０１は、この入力の影響を受けない（ストリーミング・オブジェクト３１０３に対する更新を除く）。
【０１６０】
図３１Ｃは、入力がローカル・デスクトップに運ばれた後の、インターフェース３１０１及び挿入されたストリーミング・オブジェクト３１０３を示す。図３１Ｃに示されている時点で、ストリーミングされているローカル・デスクトップ内のローカルＯＳメニューが開かれ、選択可能なインジケータのリストを含む。その結果として、この変更は、挿入されたストリーミング・オブジェクト３１０３によってキャプチャされ、挿入されたストリーミング・オブジェクト３１０３自体は、選択可能なインジケータのリストを含むようにボタン３１０４が対応して開くように見せる。
【０１６１】
上記で示されたように、透明層は、埋込みストリーミング・オブジェクトを介してリモート・デスクトップを制御するために使用され得る。この透明層は、共同セッションに参加しているユーザに、ユーザが共同セッション内にとどまり、同時に共同ワークスペース内の他の参加者のデスクトップ又はアプリケーションをナビゲートすることを可能にする、リモート制御インターフェースを効果的に提供する。たとえば、２人の参加者が他の参加者のグループにプレゼンテーションを提示している場合、第１の提示側参加者（ｐｒｅｓｅｎｔｉｎｇ  ｐａｒｔｉｃｉｐａｎｔ）は、参加者のデスクトップ上でプレゼンテーション・アプリケーションを共有し、共同ワークスペース内のストリーミング・オブジェクトと共有されたスライドの第１のセットについて説明することができる。次いで、第１の提示側参加者は、プレゼンテーション・アプリケーションの制御を、第２の提示側参加者に「譲る」ことができ、第２の提示側参加者は、第１の提示参加者のデスクトップ上でプレゼンテーション・アプリケーションをリモートで制御することができる。
【０１６２】
随意に、リモート制御機能性は、各参加者が、他の参加者がストリーミング・オブジェクトを介して各参加者の共有デスクトップをリモートで制御できるかどうか、またどの参加者が共有デスクトップをリモートで制御できるかを構成することを可能にする、許可、認証、又は何らかの他のアクセス制御メカニズムを含むことができる。たとえば、各ユーザは、各ユーザが自分のローカル・デスクトップ又は自分のローカル・デスクトップの一部を他の参加者によって制御されることを可能にするかどうかを示す設定を記憶することができる。これらの設定は、各コンピューティング・デバイスで記憶され得（また、透明層にとってアクセス可能であり、リモート制御入力を可能にするため又はブロックするために透明層によって使用され得る）、又はサーバで記憶され得、コンピューティング・デバイス間のリモート制御入力を可能するため又はブロックするためにサーバによって使用され得る。これらのアクセス制御メカニズムは、どのように記憶されているかにかかわらず、リモート参加者が挿入されたストリーミング・オブジェクトを介して別の参加者のデスクトップに入力を提供できるかどうかを判定するために使用され得る。
【０１６３】
上記で説明された技法のうちの１つ又は複数が、１つ又は複数のコンピュータ・システムにおいて実装されるか、又は１つ又は複数のコンピュータ・システムを伴い得る。図３２は、専用コンピューティング環境３２００の一実例を示す。コンピューティング環境３２００は、説明される（１つ又は複数の）実施例の使用又は機能性の範囲に関するいかなる限定をも示唆するものではない。
【０１６４】
図３２を参照すると、コンピューティング環境３２００は、少なくとも１つの処理ユニット３２１０と、メモリ３２２０とを含む。処理ユニット３２１０は、コンピュータ実行可能命令を実行し、現実プロセッサ又は仮想プロセッサであり得る。多重処理システムでは、処理能力を増加させるために、複数の処理ユニットがコンピュータ実行可能命令を実行する。メモリ３２２０は、揮発性メモリ（たとえば、レジスタ、キャッシュ、ＲＡＭ）、不揮発性メモリ（たとえば、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュ・メモリなど）、又はその２つの何らかの組合せであり得る。メモリ３２２０は、説明される技法を実装するソフトウェア３２８０を記憶することができる。
【０１６５】
コンピューティング環境は、追加の特徴を有することができる。たとえば、コンピューティング環境３２００は、ストレージ３２４０と、１つ又は複数の入力デバイス３２５０と、１つ又は複数の出力デバイス３２６０と、１つ又は複数の通信接続３２９０とを含む。バス、コントローラ、又はネットワークなど、相互接続機構３２７０が、コンピューティング環境３２００の構成要素を相互接続する。一般に、オペレーティング・システム・ソフトウェア又はファームウェア（図示せず）が、コンピューティング環境３２００において実行する他のソフトウェアのための動作環境を提供し、コンピューティング環境３２００の構成要素のアクティビティを協調させる。
【０１６６】
ストレージ３２４０は、リムーバブル又は非リムーバブルであり得、磁気ディスク、磁気テープ又はカセット、ＣＤ−ＲＯＭ、ＣＤ−ＲＷ、ＤＶＤ、或いは情報を記憶するために使用され得、コンピューティング環境３２００内でアクセスされ得る任意の他の媒体を含む。ストレージ３２４０は、ソフトウェア３２８０のための命令を記憶することができる。
【０１６７】
（１つ又は複数の）入力デバイス３２５０は、キーボード、マウス、ペン、トラックボール、タッチ・スクリーン、又はゲーム・コントローラなどのタッチ入力デバイス、音声入力デバイス、走査デバイス、デジタル・カメラ、遠隔制御、或いはコンピューティング環境３２００への入力を提供する別のデバイスであり得る。（１つ又は複数の）出力デバイス３２６０は、ディスプレイ、テレビジョン、モニタ、プリンタ、スピーカー、又はコンピューティング環境３２００からの出力を提供する別のデバイスであり得る。
【０１６８】
（１つ又は複数の）通信接続３２９０は、通信媒体を介した別のコンピューティング・エンティティへの通信を可能にする。通信媒体は、変調されたデータ信号中で、コンピュータ実行可能命令、オーディオ又はビデオ情報、或いは他のデータなど、情報を伝達する。変調されたデータ信号は、信号の特性のうちの１つ又は複数が、信号中の情報を符号化するような様式で設定又は交換された信号である。限定ではなく実例として、通信媒体は、電気、光、ＲＦ、赤外線、音響、又は他のキャリアを用いて実装されるワイヤード又はワイヤレス技法を含む。
【０１６９】
実装形態が、コンピュータ可読媒体のコンテキストにおいて説明され得る。コンピュータ可読媒体は、コンピューティング環境内でアクセスされ得る任意の利用可能な媒体である。限定ではなく実例として、コンピューティング環境３２００内で、コンピュータ可読媒体は、メモリ３２２０、ストレージ３２４０、通信媒体、及び上記のいずれかの組合せを含む。
【０１７０】
もちろん、図３２は、単に識別しやすいように、別個のデバイスとして、コンピューティング環境３２００、ディスプレイ・デバイス３２６０、及び入力デバイス３２５０を示す。コンピューティング環境３２００、ディスプレイ・デバイス３２６０、及び入力デバイス３２５０は、別個のデバイス（たとえば、ワイヤによってモニタ及びマウスに接続されたパーソナル・コンピュータ）であり得、単一のデバイス（たとえば、スマートフォン又はタブレットなど、タッチ・ディスプレイをもつモバイル・デバイス）、又はデバイスの任意の組合せ（たとえば、タッチスクリーン・ディスプレイ・デバイスに動作可能に結合されたコンピューティング・デバイス、単一のディスプレイ・デバイス及び入力デバイスに取り付けられた複数のコンピューティング・デバイスなど）に統合され得る。コンピューティング環境３２００は、セットトップ・ボックス、パーソナル・コンピュータ、或いは１つ又は複数のサーバ、たとえば、ネットワーク化されたサーバのファーム、クラスタリングされたサーバ環境、又はコンピューティング・デバイスのクラウド・ネットワークであり得る。
【０１７１】
説明される実施例に関して本発明の原理を説明及び図示したが、説明される実施例は、そのような原理から逸脱することなく構成及び詳細において修正され得ることを認識されよう。ソフトウェアにおいて示されている説明される実施例の要素は、ハードウェアにおいて実装され得、その逆も同様である。
【０１７２】
本発明の原理が適用され得る多くの可能な実施例に鑑みて、本発明として、以下の特許請求の範囲及びその等価物の範囲及び趣旨内に入り得るようなすべての実施例を主張する。
【図１】
2021525910.tif 000003
【図２】
2021525910.tif 000004
【図３】
2021525910.tif 000005
【図４】
2021525910.tif 000006
【図５Ａ】
2021525910.tif 000007
【図５Ｂ】
2021525910.tif 000008
【図６】
2021525910.tif 000009
【図７】
2021525910.tif 000010
【図８】
2021525910.tif 000011
【図９】
2021525910.tif 000012
【図１０】
2021525910.tif 000013
【図１１】
2021525910.tif 000014
【図１２Ａ】
2021525910.tif 000015
【図１２Ｂ】
2021525910.tif 000016
【図１２Ｃ】
2021525910.tif 000017
【図１３】
2021525910.tif 000018
【図１４】
2021525910.tif 000019
【図１５】
2021525910.tif 000020
【図１６】
2021525910.tif 000021
【図１７】
2021525910.tif 000022
【図１８】
2021525910.tif 000023
【図１９】
2021525910.tif 000024
【図２０】
2021525910.tif 000025
【図２１Ａ】
2021525910.tif 000026
【図２１Ｂ】
2021525910.tif 000027
【図２２】
2021525910.tif 000028
【図２３Ａ】
2021525910.tif 000029
【図２３Ｂ】
2021525910.tif 000030
【図２４Ａ】
2021525910.tif 000031
【図２４Ｂ】
2021525910.tif 000032
【図２４Ｃ】
2021525910.tif 000033
【図２５】
2021525910.tif 000034
【図２６】
2021525910.tif 000035
【図２７】
2021525910.tif 000036
【図２８】
2021525910.tif 000037
【図２９Ａ】
2021525910.tif 000038
【図２９Ｂ】
2021525910.tif 000039
【図２９Ｃ】
2021525910.tif 000040
【図３０】
2021525910.tif 000041
【図３１Ａ】
2021525910.tif 000042
【図３１Ｂ】
2021525910.tif 000043
【図３１Ｃ】
2021525910.tif 000044
【図３２】
2021525910.tif 000045
【国際調査報告】
2021525910.tif 000046
2021525910.tif 000047