(57)【要約】コンテンツ捕捉デバイスの１つ以上の設定を決定するための方法、システム、およびコンピュータプログラム製品が、提供される。いくつかの実施例では、１つ以上の設定を決定するために、コンテンツ捕捉デバイスからの画像のピクセルの輝度値が、識別され得る。画像内のオブジェクトおよびオブジェクトと関連付けられる情報もまた、識別され得る。オブジェクトと関連付けられる情報は、情報のカテゴリに分割され得る。そして、オブジェクトおよび情報を使用して、情報のカテゴリ毎の別個の加重アレイが、算出され得る。別個の加重アレイは、総加重アレイを作成し、輝度値を増補するように組み合わせられ得る。増補された輝度値は、画像の加重された輝度平均を算出するように集計され得る。加重された輝度平均および標的の差に基づいて、１つ以上の設定は、調節され得る。
2020504868.tif 000002
【特許請求の範囲】
【請求項１】
方法であって、
コンテンツ捕捉デバイスによって捕捉される画像を受信することであって、前記画像は、複数のピクセルを含む、ことと、
前記画像の標的輝度値を識別することと、
前記画像内のオブジェクトを識別することと、
前記画像の複数のピクセルを複数のピクセル群に分割することと、
前記複数のピクセル群毎にピクセル群輝度値を計算することと、
前記オブジェクトと関連付けられないピクセル群の第１のセットを定義することと、
前記ピクセル群の第１のセットの中のピクセル群毎に加重を設定することと、
前記オブジェクトと関連付けられるピクセル群の第２のセットを定義することと、
前記ピクセル群の第２のセットの中の前記ピクセル群毎に加重を設定することと、
前記複数のピクセル群毎に、前記加重および前記ピクセル群輝度値を使用して、画像輝度値を計算することと、
前記画像輝度値と前記標的輝度値との間の差を算出することと、
前記算出された差に基づいて、前記コンテンツ捕捉デバイスの設定を更新することと
を含む、方法。
【請求項２】
前記ピクセル群の第２のセットの中の前記ピクセル群の加重は、前記ピクセル群の第２のセットと前記オブジェクトとの間の関連性に基づく、請求項１に記載の方法。
【請求項３】
前記設定は、利得または露出に関連する、請求項１に記載の方法。
【請求項４】
前記画像内の第２のオブジェクトを識別することと、
前記第２のオブジェクトと関連付けられるピクセル群の第３のセットを定義することと、
前記ピクセル群の第３のセットの中の前記ピクセル群毎に加重を設定することと
をさらに含む、請求項１に記載の方法。
【請求項５】
前記標的輝度値は、前記コンテンツ捕捉デバイスの露出設定または利得設定のうちの少なくとも１つに基づいて決定される、請求項１に記載の方法。
【請求項６】
第１のピクセル群の中のピクセルの数は、第２のピクセル群の中のピクセルの数に等しい、請求項１に記載の方法。
【請求項７】
第１のピクセル群は、第２のピクセル群と異なる、請求項１に記載の方法。
【請求項８】
前記オブジェクトと関連付けられる付加的情報を識別することをさらに含む、請求項１に記載の方法。
【請求項９】
前記付加的情報は、前記オブジェクトと関連付けられるカテゴリ、前記オブジェクトのサイズ、前記コンテンツ捕捉デバイスからの前記オブジェクトの距離、または前記オブジェクトが位置付けられる前記コンテンツ捕捉デバイスの焦点レチクルからの距離であり、前記ピクセル群の第１のセットの中の前記ピクセル群毎の加重は、前記付加的情報に基づく、請求項８に記載の方法。
【請求項１０】
前記ピクセル群の第１のセットの中の前記ピクセル群毎の加重は、少なくとも部分的に前記付加的情報に基づく、請求項８に記載の方法。
【請求項１１】
ユーザが見ている方向を識別することと、
前記ユーザが見ている方向に対応する前記画像上の場所を決定することと、
前記オブジェクトが位置付けられる前記場所からの距離を決定することであって、前記ピクセル群の第１のセットの中の前記ピクセル群毎の加重は、前記距離に基づく、ことと
をさらに含む、請求項１に記載の方法。
【請求項１２】
前記画像は、ユーザに提示されない、請求項１に記載の方法。
【請求項１３】
方法であって、
コンテンツ捕捉デバイスによって捕捉される画像を受信することであって、前記画像は、複数のピクセルを含む、ことと、
前記画像の標的輝度値を識別することと、
前記画像内のオブジェクトを識別することと、
前記オブジェクトの１つ以上の属性を識別することと、
ニューラルネットワークを使用して、前記オブジェクトのための加重を計算することであって、前記ニューラルネットワークは、前記１つ以上の属性を入力として使用する、ことと、
前記画像の複数のピクセルを複数のピクセル群に分割することと、
前記オブジェクトと関連付けられないピクセル群の第１のセットを定義することと、
前記オブジェクトと関連付けられるピクセル群の第２のセットを定義することと、
前記ピクセル群の第２のセットのうちのピクセル群毎に、
ピクセル群輝度値を計算することと、
前記ピクセル群輝度値を前記加重で乗算し、加重されたピクセル群輝度値を提供することと、
前記画像の総輝度値を計算することであって、前記総輝度値は、前記加重されたピクセル群輝度値の総和を含む、ことと、
前記総輝度値と前記標的輝度値との間の差を算出することと、
前記算出された差に基づいて、前記コンテンツ捕捉デバイスの設定を更新することと
を含む、方法。
【請求項１４】
前記画像内の第２のオブジェクトを識別することと、
前記第２のオブジェクトの１つ以上の属性を識別することと、
前記第２のオブジェクトと関連付けられるピクセル群の第３のセットを定義することと、
第２のニューラルネットワークを使用して、前記第２のオブジェクトのための加重を計算することであって、前記第２のニューラルネットワークは、前記第２のオブジェクトの１つ以上の属性を入力として使用する、ことと、
前記ピクセル群の第３のセットのうちのピクセル群毎に、
第２のピクセル群輝度値を計算することと、
前記第２のピクセル群輝度値を前記第２のオブジェクトのための加重で乗算し、加重された第２のピクセル群輝度値を提供することであって、前記総輝度値はさらに、前記加重された第２のピクセル群輝度値の総和を含む、ことと
をさらに含む、請求項１３に記載の方法。
【請求項１５】
前記ニューラルネットワークは、多層パーセプトロンである、請求項１３に記載の方法。
【請求項１６】
前記オブジェクトの１つ以上の属性のうちの属性は、オブジェクト優先度、見る者からのオブジェクト距離、レチクルからのオブジェクト距離、視線からのオブジェクト距離、またはオブジェクトサイズを含む、請求項１３に記載の方法。
【請求項１７】
前記標的輝度値は、視野に基づく、請求項１３に記載の方法。
【請求項１８】
前記コンテンツ捕捉デバイスの設定は、露出または利得と関連付けられる、請求項１３に記載の方法。
【請求項１９】
前記複数のピクセル群のうちの各ピクセル群は、同一のサイズである、請求項１３に記載の方法。
【請求項２０】
方法であって、
コンテンツ捕捉デバイスによって捕捉される第１の画像を受信することと、
前記第１の画像内の事前決定された数の優先オブジェクトを識別することであって、前記事前決定された数は、２以上である、ことと、
前記事前決定された数の優先オブジェクト毎に、前記コンテンツ捕捉デバイスの１つ以上の設定のための１つ以上の更新を決定することと、
反復して、
前記１つ以上の更新のそれぞれを使用して、前記コンテンツ捕捉デバイスを更新することと、
前記１つ以上の更新のそれぞれを使用して、前記コンテンツ捕捉デバイスによって捕捉される前記事前決定された数の画像を受信することと、
前記事前決定された数の画像をともにスティッチングし、複合画像を形成することと
を含む、方法。
【請求項２１】
前記複合画像を表示することをさらに含む、請求項２０に記載の方法。
【請求項２２】
前記第１の画像は、事前決定された数の部分を含み、前記事前決定された数の部分はそれぞれ、前記事前決定された数の優先オブジェクトのうちの１つと関連付けられる、請求項２０に記載の方法。
【請求項２３】
前記事前決定された数の画像をともにスティッチングすることは、前記事前決定された数の部分を組み合わせることを含む、請求項２２に記載の方法。
【請求項２４】
前記１つ以上の設定のうちの設定は、露出または利得と関連付けられる、請求項２０に記載の方法。
【請求項２５】
前記１つ以上の更新のうちの１つ以上のものは、ニューラルネットワークを使用して決定される、請求項２０に記載の方法。
【請求項２６】
前記１つ以上の更新のうちの１つは、前記１つ以上の更新のうちの別ものと異なる、請求項２０に記載の方法。
【請求項２７】
前記第１の画像および事前決定された数の画像は、同一の視野内にある、請求項２０に記載の方法。
【請求項２８】
方法であって、
コンテンツ捕捉デバイスによって捕捉される画像を受信することであって、前記画像は、複数のピクセルを含む、ことと、
前記画像の標的輝度値を識別することと、
前記画像の複数のピクセルを複数のピクセル群に分割することと、
前記複数のピクセル群毎にピクセル群輝度値を計算することと、
前記画像内の場所を識別することであって、前記場所は、前記画像に対応する環境内でユーザが見ている点に対応する、ことと、
前記識別された場所に基づいて、前記複数のピクセル群毎に加重を設定することと、
前記複数のピクセル群毎に、前記加重および前記ピクセル群輝度値を使用して、画像輝度値を計算することと、
前記画像輝度値と前記標的輝度値との間の差を算出することと、
前記算出された差に基づいて、前記コンテンツ捕捉デバイスの設定を更新することと
を含む、方法。
【請求項２９】
前記場所は、前記ユーザの１つ以上の眼の画像に基づいて識別される、請求項２８に記載の方法。
【請求項３０】
前記場所は、前記ユーザの視線の方向に基づいて識別される、請求項２８に記載の方法。
【請求項３１】
前記場所は、前記画像内で識別されるオブジェクトの場所に基づいて識別される、請求項２８に記載の方法。
【請求項３２】
前記画像の複数のピクセルを複数のパッチに分割することをさらに含み、パッチは、１つ以上のピクセル群を含み、加重を設定することはさらに、前記場所を含むパッチからの距離に基づく、請求項２８に記載の方法。
【請求項３３】
加重を設定することはさらに、前記場所からの距離に基づく、請求項２８に記載の方法。
【請求項３４】
前記設定は、利得または露出に関連する、請求項２８に記載の方法。
【請求項３５】
方法であって、
コンテンツ捕捉デバイスによって捕捉される画像を受信することであって、前記画像は、複数のピクセルを含む、ことと、
前記画像の標的輝度値を識別することと、
前記画像の複数のピクセルを複数のピクセル群に分割することと、
前記複数のピクセル群毎にピクセル群輝度値を計算することと、
前記画像に対応する深度マップを受信することと、
前記深度マップに基づいて、前記複数のピクセル群毎に加重を設定することと、
前記複数のピクセル群毎に、前記加重および前記ピクセル群輝度値を使用して、画像輝度値を計算することと、
前記画像輝度値と前記標的輝度値との間の差を算出することと、
前記算出された差に基づいて、前記コンテンツ捕捉デバイスの設定を更新することと
を含む、方法。
【請求項３６】
前記深度マップは、１つ以上の点に関して空間内の点からの距離を示し、前記１つ以上の点はそれぞれ、前記画像の１つ以上のピクセルに対応する、請求項３５に記載の方法。
【請求項３７】
画像捕捉と同時に前記深度マップを捕捉することをさらに含む、請求項３５に記載の方法。
【請求項３８】
前記画像が捕捉される前に前記深度マップを捕捉することをさらに含み、前記深度マップは、複数の画像のための加重を設定するために使用される、請求項３５に記載の方法。
【請求項３９】
加重を設定することはさらに、前記画像からのオブジェクトの場所を示すデータに基づく、請求項３５に記載の方法。
【請求項４０】
前記オブジェクトの場所を示すデータは、
前記画像のピクセルを分析し、前記オブジェクトの記憶された画像の１つ以上のピクセルに合致する前記画像の１つ以上のピクセルを識別すること
によって決定される、請求項３９に記載の方法。
【請求項４１】
前記設定は、利得または露出に関連する、請求項３５に記載の方法。
【請求項４２】
方法であって、
コンテンツ捕捉デバイスによって捕捉される画像を受信することであって、前記画像は、複数のピクセルを含む、ことと、
前記画像の標的輝度値を識別することと、
前記画像の複数のピクセルを複数のピクセル群に分割することと、
前記画像内の複数のパッチを識別することであって、前記複数のパッチは、第１のパッチと、第２のパッチとを含み、前記第１のパッチは、１つ以上のピクセル群を含み、前記第２のパッチは、前記第１のパッチの１つ以上のピクセル群と異なる１つ以上のピクセル群を含む、ことと、
第１のモデルを使用して、前記第１のパッチのための１つ以上の加重を計算することと、
第２のモデルを使用して、前記第２のパッチのための１つ以上の加重を計算することと、
ピクセル群毎に、
ピクセル群輝度値を計算することと、
前記ピクセル群輝度値を前記加重で乗算し、加重されたピクセル群輝度値を提供することと、
前記画像の総輝度値を計算することであって、前記総輝度値は、前記加重されたピクセル群輝度値の総和を含む、ことと、
前記総輝度値と前記標的輝度値との間の差を算出することと、
前記算出された差に基づいて、前記コンテンツ捕捉デバイスの設定を更新することと
を含む、方法。
【請求項４３】
前記第１のモデルは、前記第１のパッチの中に含まれるピクセルに関して決定される１つ以上の属性に基づき、前記第２のモデルは、前記第２のパッチの中に含まれるピクセルに関して決定される１つ以上の属性に基づき、前記第１のモデルと関連付けられる１つ以上の属性は、前記第２のモデルと関連付けられる１つ以上の属性と異なる、請求項４２に記載の方法。
【請求項４４】
前記第１のモデルは、前記第１のパッチの中に含まれるピクセルに関して決定される１つ以上の属性に基づくニューラルネットワークである、請求項４２に記載の方法。
【請求項４５】
前記第１のパッチのための１つ以上の加重は、前記第２のパッチのための１つ以上の加重と同時に計算される、請求項４２に記載の方法。
【請求項４６】
前記第１のパッチは、前記第２のパッチと異なるサイズである、請求項４２に記載の方法。
【請求項４７】
前記複数のパッチは、前記複数のピクセルに基づいて識別される、請求項４２に記載の方法。
【請求項４８】
前記複数のパッチは、前記画像内で識別される１つ以上のオブジェクトに基づいて識別され、前記第１のパッチは、第１のオブジェクトと関連付けられるピクセルを含む、請求項４２に記載の方法。
【請求項４９】
前記設定は、利得または露出に関連する、請求項４２に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
（関連出願の相互参照）
本願は、２０１６年１２月２３日に出願され、“Ｍｅｔｈｏｄ  ａｎｄ  Ｓｙｓｔｅｍ  Ｆｏｒ  Ｄｅｔｅｒｍｉｎｉｎｇ  Ｅｘｐｏｓｕｒｅ  Ｌｅｖｅｌｓ”と題された米国仮特許出願第６２／４３８，９２６号に対する優先権を主張するものであり、該米国仮特許出願の開示は、あらゆる目的のためにその全体が参照により本明細書中に援用される。
【０００２】
本開示は、概して、コンテンツ捕捉デバイスのための設定（露出設定等）を決定することに関する。露出設定は、コンテンツ（例えば、画像またはビデオ）が捕捉されるときにコンテンツ捕捉デバイスのセンサが受光する光の量に関し得る。露出設定の実施例は、シャッタ速度、開口設定、または国際標準化機構（ＩＳＯ）速度を含む。
【背景技術】
【０００３】
露出を設定するための従来的な解決策は、ユーザによって対処されている。例えば、ユーザは、自分の好みに合わせて露出設定を調節するであろう。しかしながら、これは、信頼できないことが証明され、多くの場合、準最適結果を生じている。
【０００４】
現在、自動露出制御（ＡＥＣ）が、カメラ上の標準特徴である。ＡＥＣは、ユーザ入力を伴わずに画像のための露出設定を自動的に決定する。ＡＥＣを使用して、カメラは、カメラのための露出設定を決定してもよい。しかしながら、ＡＥＣは、典型的には、視野内にあるものを参照することなく、視野内の光の量を測定する。したがって、当技術分野では、改良されたＡＥＣの必要性がある。
【発明の概要】
【課題を解決するための手段】
【０００５】
コンテンツ捕捉デバイスのための１つ以上の設定（例えば、露出設定および／または利得設定）を決定するための技法が、提供される。いくつかの実施例では、１つ以上の設定を決定するために、コンテンツ捕捉デバイスからの画像のピクセルの輝度値が、識別されてもよい。画像内のオブジェクトおよびオブジェクトと関連付けられる情報もまた、識別されてもよい。オブジェクトと関連付けられる情報は、カテゴリに分割されてもよい。そして、オブジェクトおよび情報を使用して、情報のカテゴリ毎の別個の加重アレイが、算出されてもよい。別個の加重アレイは、総加重アレイを作成し、輝度値を増補するように組み合わせられてもよい。増補された輝度値は、画像の加重された輝度平均を算出するように集計されてもよい。加重された輝度平均および標的の差に基づいて、１つ以上の設定は、調節されてもよい。
【０００６】
他の実施例では、情報のカテゴリ毎に別個の加重アレイを算出するのではなく、各オブジェクトと関連付けられる情報が、別個の学習ベースのモデルで使用されてもよい。各学習ベースのモデルの出力を組み合わせて、総加重アレイが、画像の輝度値を増補するように作成されてもよい。増補された輝度値は、画像の加重された輝度平均を算出するように集計されてもよい。加重された輝度平均および標的の差に基づいて、１つ以上の設定は、調節されてもよい。
【０００７】
他の実施例では、本明細書に説明されるような加重モデルが、場面の画像内のオブジェクトに使用されてもよい。同一の加重モデルは、次いで、画像スティッチャが画像および他の画像をともに組み合わせ、最適化された画像を作成し得るように、場面の他の画像内のオブジェクトに使用されてもよい。
【０００８】
多数の利益が、従来の技法と比べて、本開示を介して達成される。例えば、本開示の実施形態は、より高い優先度のオブジェクトに集中することによって、画像のより良好な露出を提供する。本開示はまた、複合現実または拡張現実の場面の一部として、適切に露出された画像も提供する。いくつかの実施例では、本開示は、画像内のオブジェクトに割り当てられた優先度を学習さえし、適合させてもよい。
【０００９】
ある実施例は、視線のベクトルが変化すると、露出がユーザの視線に基づいて動的に適応することを可能にする。実施例はまた、ユーザの移動または画像内の焦点レチクルのサイズ変更に基づいて、オブジェクト優先度を動的に並べ替えてもよい。
【００１０】
本開示はまた、複数の高優先度オブジェクトが適切に露出される、オブジェクトベースの高ダイナミックレンジ（ＨＤＲ）方法も可能にする。本開示のこれらおよび他の実施形態は、その利点および特徴の多くとともに、下記のテキストおよび添付図と併せて、より詳細に説明される。
【００１１】
コンテンツ捕捉デバイスの設定を更新するための技法が、提供される。例えば、方法は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップを含んでもよい。いくつかの実施例では、画像は、複数のピクセルを含んでもよい。いくつかの実施例では、画像は、ユーザに提示されなくてもよい。本方法はさらに、画像の標的輝度値を識別するステップを含んでもよい。いくつかの実施例では、標的輝度値は、コンテンツ捕捉デバイスの露出設定または利得設定のうちの少なくとも１つに基づいて、決定されてもよい。
【００１２】
本方法はさらに、画像内のオブジェクトを識別するステップと、画像の複数のピクセルを複数のピクセル群に分割するステップと、複数のピクセル群毎にピクセル群輝度値を計算するステップとを含んでもよい。本方法はさらに、オブジェクトと関連付けられないピクセル群の第１のセットを定義するステップと、ピクセル群の第１のセットの中のピクセル群毎に加重を設定するステップと、オブジェクトと関連付けられるピクセル群の第２のセットを定義するステップと、ピクセル群の第２のセットの中のピクセル群毎に加重を設定するステップとを含んでもよい。いくつかの実施例では、ピクセル群の第２のセットの中のピクセル群毎の加重は、ピクセル群の第２のセットとオブジェクトとの間の関連性に基づいてもよい。いくつかの実施例では、第１のピクセル群の中のピクセルの数は、第２のピクセル群の中のピクセルの数に等しくあり得る。いくつかの実施例では、第１のピクセル群は、第２のピクセル群と異なり得る。
【００１３】
本方法はさらに、複数のピクセル群毎に、加重およびピクセル群輝度値を使用して、画像輝度値を計算するステップを含んでもよい。本方法はさらに、算出された差に基づいて、コンテンツ捕捉デバイスの設定（例えば、利得および／または露出）を更新するステップを含んでもよい。
【００１４】
いくつかの実施例では、本方法はさらに、画像内の第２のオブジェクトを識別するステップと、第２のオブジェクトと関連付けられるピクセル群の第３のセットを定義するステップと、ピクセル群の第３のセットの中のピクセル群毎に加重を設定するステップとを含んでもよい。第２のオブジェクトのために設定される加重は、画像輝度値を計算するときに使用されてもよい。
【００１５】
いくつかの実施例では、本方法はさらに、オブジェクトと関連付けられる付加的情報を識別するステップを含んでもよい。そのような実施例では、付加的情報は、オブジェクトと関連付けられるカテゴリ、オブジェクトのサイズ、コンテンツ捕捉デバイスからのオブジェクトの距離、またはオブジェクトが位置付けられるコンテンツ捕捉デバイスの焦点レチクルからの距離であってもよい。いくつかの実施例では、ピクセル群の第１のセットの中のピクセル群毎の加重は、付加的情報に基づいてもよい。いくつかの実施例では、ピクセル群の第１のセットの中のピクセル群毎の加重はさらに、第２の付加的情報に基づいてもよい。そのような実施例では、付加的情報は、第２の付加的情報と異なり得る。
【００１６】
実施例として、本方法はさらに、オブジェクトと関連付けられる付加的情報を識別するステップを含んでもよい。ピクセル群の第１のセットの中のピクセル群毎の加重は、付加的情報に基づくことができる。別の実施例では、付加的情報は、オブジェクトと関連付けられるカテゴリ、オブジェクトのサイズ、コンテンツ捕捉デバイスからのオブジェクトの距離、またはオブジェクトが位置付けられるコンテンツ捕捉デバイスの焦点レチクルからの距離を含んでもよい。
【００１７】
いくつかの実施例では、本方法はさらに、ユーザが見ている方向を識別するステップと、ユーザが見ている方向に対応する、画像上の場所を決定するステップと、オブジェクトが位置付けられる該場所からの距離を決定するステップとを含んでもよい。いくつかの実施例では、ピクセル群の第１のセットの中のピクセル群毎の加重は、付加的情報に基づいてもよい。ピクセル群の第１のセットの中のピクセル群毎の加重は、第２の付加的情報と異なる第２の付加的情報に基づくことができる。
【００１８】
別の実施例に関して、方法は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップを含んでもよい。いくつかの実施例では、画像は、複数のピクセルを含んでもよい。本方法はさらに、画像の標的輝度値を識別するステップを含んでもよい。いくつかの実施例では、標的輝度値は、視野に基づいてもよい。本方法はさらに、画像内のオブジェクトを識別するステップと、オブジェクトの１つ以上の属性を識別するステップと、ニューラルネットワークを使用して、オブジェクトのための加重を計算するステップとを含んでもよい。いくつかの実施例では、ニューラルネットワークは、１つ以上の属性を入力として使用してもよい。そのような実施例では、オブジェクトの１つ以上の属性のうちの属性は、オブジェクト優先度、オブジェクト距離、またはオブジェクトサイズを含んでもよい。いくつかの実施例では、ニューラルネットワークは、多層パーセプトロンであってもよい。本方法はさらに、画像の複数のピクセルを複数のピクセル群に分割するステップを含んでもよい。いくつかの実施例では、複数のピクセル群のうちの各ピクセル群は、同一のサイズであってもよい。
【００１９】
本方法はさらに、オブジェクトと関連付けられないピクセル群の第１のセットを定義するステップと、オブジェクトと関連付けられるピクセル群の第２のセットを定義するステップとを含んでもよい。本方法はさらに、ピクセル群の第２のセットのうちのピクセル群毎に、ピクセル群輝度値を計算するステップを含んでもよい。本方法はさらに、ピクセル群の第２のセットのうちのピクセル群毎に、ピクセル群輝度値を計算するステップを含んでもよい。本方法はさらに、ピクセル群の第２のセットのうちのピクセル群毎に、ピクセル群輝度値を加重で乗算し、加重されたピクセル群輝度値を提供するステップを含んでもよい。
【００２０】
本方法はさらに、画像の総輝度値を計算するステップを含んでもよい。いくつかの実施例では、総輝度値は、加重されたピクセル群輝度値の総和を含んでもよい。本方法はさらに、総輝度値と標的輝度値との間の差を算出するステップと、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップとを含んでもよい。いくつかの実施例では、コンテンツ捕捉デバイスの設定は、露出または利得と関連付けられてもよい。
【００２１】
本方法はさらに、画像内の第２のオブジェクトを識別するステップと、第２のオブジェクトの１つ以上の第２の属性を識別するステップと、第２のオブジェクトと関連付けられるピクセル群の第３のセットを定義するステップと、第２のニューラルネットワークを使用して、第２のオブジェクトのための第２の加重を計算するステップとを含んでもよい。いくつかの実施例では、第２のニューラルネットワークは、１つ以上の第２の属性を入力として使用してもよい。本方法はさらに、ピクセル群の第３のセットのうちのピクセル群毎に、第２のピクセル群輝度値を計算するステップを含んでもよい。本方法はさらに、ピクセル群の第３のセットのうちのピクセル群毎に、第２のピクセル群輝度値を第２の加重で乗算し、加重された第２のピクセル群輝度値を提供するステップを含んでもよい。いくつかの実施例では、総輝度値はさらに、加重された第２のピクセル群輝度値の総和を含んでもよい。
【００２２】
別の実施例に関して、方法は、コンテンツ捕捉デバイスによって捕捉される第１の画像を受信するステップと、第１の画像内の第１のオブジェクトを識別するステップと、コンテンツ捕捉デバイスの第１の設定への第１の更新を決定するステップとを含んでもよい。いくつかの実施例では、第１の更新は、第１のオブジェクトに関して決定されてもよい。いくつかの実施例では、第１の更新は、ニューラルネットワークを使用して、決定されてもよい。本方法はさらに、コンテンツ捕捉デバイスによって捕捉される第２の画像を受信するステップを含んでもよい。いくつかの実施例では、第２の画像は、第１の画像の後に捕捉されてもよい。本方法はさらに、第２の画像内の第２のオブジェクトを識別するステップと、コンテンツ捕捉デバイスの第２の設定への第２の更新を決定するステップとを含んでもよい。いくつかの実施例では、第２の更新は、第２のオブジェクトに関して決定されてもよい。いくつかの実施例では、第１の設定および第２の設定は、露出または利得と関連付けられてもよい。いくつかの実施例では、第１の設定は、第２の設定であってもよい。いくつかの実施例では、第１の更新は、第２の更新と異なり得る。いくつかの実施例では、第１の画像および第２の画像は、同一の視野内にあってもよい。本方法はさらに、コンテンツ捕捉デバイスの第１の設定への第１の更新を実施するステップと、コンテンツ捕捉デバイスによって捕捉される第３の画像を受信するステップとを含んでもよい。いくつかの実施例では、第３の画像は、第１の更新が実施された後に捕捉されてもよい。本方法はさらに、コンテンツ捕捉デバイスの第２の設定への第２の更新を実施するステップと、コンテンツ捕捉デバイスによって捕捉される第４の画像を受信するステップとを含んでもよい。いくつかの実施例では、第４の画像は、第２の更新が実施された後に捕捉されてもよい。本方法はさらに、第３の画像および第４の画像を単一の画像に組み合わせるステップを含んでもよい。いくつかの実施例では、第３の画像および第４の画像は、画像スティッチャを使用して組み合わせられてもよい。
【００２３】
本発明のある実施形態によると、方法が提供される。本方法は、コンテンツ捕捉デバイスによって捕捉される第１の画像を受信するステップと、第１の画像内の事前決定された数の優先オブジェクトを識別するステップとを含む。事前決定された数は、２以上である。本方法はまた、事前決定された数の優先オブジェクト毎に、コンテンツ捕捉デバイスの１つ以上の設定のための１つ以上の更新を決定するステップも含む。本方法はさらに、反復して、１つ以上の更新のそれぞれを使用して、コンテンツ捕捉デバイスを更新するステップと、１つ以上の更新のそれぞれを使用して、コンテンツ捕捉デバイスによって捕捉される事前決定された数の画像を受信するステップとを含む。加えて、本方法は、事前決定された数の画像をともにスティッチングし、複合画像を形成するステップを含む。
【００２４】
別の実施例に関して、方法は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップを含んでもよい。画像は、複数のピクセルを含んでもよい。本方法はさらに、画像の標的輝度値を識別するステップと、画像の複数のピクセルを複数のピクセル群に分割するステップと、複数のピクセル群毎にピクセル群輝度値を計算するステップと、画像内の場所を識別するステップとを含んでもよい。場所は、画像に対応する環境内でユーザが見ている点に対応してもよい。いくつかの実施例では、場所は、ユーザの１つ以上の眼の画像に基づいて識別されてもよい。他の実施例では、場所は、ユーザの視線の方向に基づいて識別されてもよい。他の実施例では、場所は、画像内で識別されるオブジェクトの場所に基づいて識別されてもよい。本方法はさらに、識別された場所に基づいて、複数のピクセル群毎に加重を設定するステップと、複数のピクセル群毎に、加重およびピクセル群輝度値を使用して、画像輝度値を計算するステップと、画像輝度値と標的輝度値との間の差を算出するステップと、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップとを含んでもよい。設定は、利得または露出に関連し得る。いくつかの実施例では、本方法はさらに、画像の複数のピクセルを複数のパッチに分割するステップを含んでもよく、パッチは、１つ以上のピクセル群を含んでもよい。そのような実施例では、加重を設定するステップはさらに、場所を含むパッチからの距離に基づいてもよい。いくつかの実施例では、加重を設定するステップはさらに、場所からの距離に基づいてもよい。
【００２５】
別の実施例に関して、方法は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップを含んでもよく、画像は、複数のピクセルを含む。本方法はさらに、画像の標的輝度値を識別するステップと、画像の複数のピクセルを複数のピクセル群に分割するステップと、複数のピクセル群毎にピクセル群輝度値を計算するステップと、画像に対応する深度マップを受信するステップと、深度マップに基づいて、複数のピクセル群毎に加重を設定するステップと、複数のピクセル群毎に、加重およびピクセル群輝度値を使用して、画像輝度値を計算するステップと、画像輝度値と標的輝度値との間の差を算出するステップと、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップとを含んでもよい。設定は、利得または露出に関連し得る。いくつかの実施例では、深度マップは、１つ以上の点に関して空間内の点からの距離を示してもよく、１つ以上の点はそれぞれ、画像の１つ以上のピクセルに対応する。いくつかの実施例では、本方法はさらに、画像捕捉と同時に深度マップを捕捉するステップを含んでもよい。他の実施例では、本方法はさらに、画像が捕捉される前に深度マップを捕捉するステップを含んでもよく、深度マップは、複数の画像のための加重を設定するために使用される。いくつかの実施例では、加重を設定するステップはさらに、画像からのオブジェクトの場所を示すデータに基づいてもよい。オブジェクトの場所を示すデータは、画像のピクセルを分析し、オブジェクトの記憶された画像の１つ以上のピクセルに合致する、画像の１つ以上のピクセルを識別することによって決定されてもよい。
【００２６】
別の実施例に関して、方法は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップであって、画像は、複数のピクセルを含む、ステップを含んでもよい。本方法はさらに、画像の標的輝度値を識別するステップと、画像の複数のピクセルを複数のピクセル群に分割するステップと、画像内の複数のパッチを識別するステップとを含んでもよい。複数のパッチは、第１のパッチと、第２のパッチとを含んでもよく、第１のパッチは、１つ以上のピクセル群を含み、第２のパッチは、第１のパッチの１つ以上のピクセル群と異なる１つ以上のピクセル群を含む。いくつかの実施例では、複数のパッチは、複数のピクセルに基づいて識別されてもよい。いくつかの実施例では、複数のパッチは、画像内で識別される１つ以上のオブジェクトに基づいて識別されてもよく、第１のパッチは、第１のオブジェクトと関連付けられるピクセルを含む。本方法はさらに、第１のモデルを使用して、第１のパッチのための１つ以上の加重を計算するステップと、第２のモデルを使用して、第２のパッチのための１つ以上の加重を計算するステップとを含んでもよい。いくつかの実施例では、第１のモデルは、第１のパッチの中に含まれるピクセルに関して決定される１つ以上の属性に基づいてもよい。そのような実施例では、第２のモデルは、第２のパッチの中に含まれるピクセルに関して決定される１つ以上の属性に基づいてもよく、第１のモデルと関連付けられる１つ以上の属性は、第２のモデルと関連付けられる１つ以上の属性と異なる。いくつかの実施例では、第１のモデルは、第１のパッチの中に含まれるピクセルに関して決定される１つ以上の属性に基づく、ニューラルネットワークである。いくつかの実施例では、第１のパッチのための１つ以上の加重は、第２のパッチのための１つ以上の加重と同時に計算されてもよい。いくつかの実施例では、第１のパッチは、第２のパッチと異なるサイズであってもよい。本方法はさらに、ピクセル群毎に、ピクセル群輝度値を計算するステップと、ピクセル群輝度値を加重で乗算し、加重されたピクセル群輝度値を提供するステップとを含んでもよい。本方法はさらに、画像の総輝度値を計算するステップであって、総輝度値は、加重されたピクセル群輝度値の総和を含む、ステップを含んでもよい。本方法はさらに、総輝度値と標的輝度値との間の差を算出するステップと、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップとを含んでもよい。設定は、利得または露出に関連し得る。
【００２７】
方法が上記に説明されているが、コンピュータ製品は、コンピュータシステムを制御し、上記に説明される方法のうちのいずれかの動作を実施するための複数の命令を記憶する、コンピュータ可読媒体を含み得ることを認識されたい。加えて、システムは、コンピュータ製品と、コンピュータ可読媒体上に記憶された命令を実行するための１つ以上のプロセッサとを含んでもよい。加えて、システムは、上記に説明される方法のうちのいずれかを実施するための手段を含んでもよい。加えて、システムは、上記に説明される方法のうちのいずれかを実施するように構成されてもよい。加えて、システムは、それぞれ、上記に説明される方法のうちのいずれかのステップを実施する、モジュールを含んでもよい。
【００２８】
本概要は、請求される主題の主要または不可欠な特徴を識別することも、請求される主題の範囲を決定するために分離して使用されることも意図していない。本主題は、本特許の明細書全体の適切な部分、図面、および各請求項のいずれかまたは全てを参照することによって理解されるべきである。
【００２９】
前述は、他の特徴および実施例とともに、以下の明細書、請求項、および付随する図面でより詳細に説明されるであろう。
【図面の簡単な説明】
【００３０】
例証的実施形態が、以下の図を参照して下記で詳細に説明される。
【００３１】
【図１Ａ】図１Ａは、自動露出制御を使用して、コンテンツ捕捉デバイスの１つ以上の設定を更新するためのプロセスの実施例を図示する。
【００３２】
【図１Ｂ】図１Ｂは、コンテンツ捕捉デバイスの１つ以上の設定を更新する方法を決定するためのプロセスの実施例を図示する。
【００３３】
【図２】図２は、輝度値を加重するための種々の測光技法の実施例を図示する。
【００３４】
【図３】図３は、オブジェクトのための優先度加重アレイの実施例を図示する。
【００３５】
【図４】図４は、複数のオブジェクトのための優先度加重アレイの実施例を図示する。
【００３６】
【図５】図５は、焦点レチクル加重アレイの実施例を図示する。
【００３７】
【図６】図６は、視線加重アレイの実施例を図示する。
【００３８】
【図７】図７は、正規化された総加重アレイの実施例を図示する。
【００３９】
【図８】図８は、第１の加重モデルを使用する、自動露出制御のためのプロセスの実施形態を図示する、フローチャートである。
【００４０】
【図９】図９は、自動露出制御に使用され得る第２の加重モデルの第１の部分の実施例を図示する。
【００４１】
【図１０】図１０は、自動露出制御に使用され得る第２の加重モデルの第２の部分の実施例を図示する。
【００４２】
【図１１】図１１は、第２の加重モデルを使用する、自動露出制御のためのプロセスの実施形態を図示する、フローチャートである。
【００４３】
【図１２Ａ】図１２Ａは、自動露出制御の複数のインスタンスを使用し得る、画像スティッチングプロセスの実施例を図示する。
【００４４】
【図１２Ｂ】図１２Ｂは、自動露出制御の複数のインスタンスを使用し得る、画像スティッチングプロセスの別の実施例を図示する。
【００４５】
【図１２Ｃ】図１２Ｃは、自動露出制御の複数のインスタンスを使用するためのプロセスの実施形態を図示するフローチャートである。
【００４６】
【図１３】図１３は、画像スティッチングプロセスと併用され得る画像ストリームの実施例を図示する。
【００４７】
【図１４】図１４は、画像スティッチングプロセスを使用する、自動露出制御のためのプロセスの実施形態を図示するフローチャートである。
【００４８】
【図１５】図１５は、コンピュータシステムのブロック図の実施例を図示する。
【００４９】
【図１６】図１６は、ユーザの視線に基づいて識別される場所を使用する、自動露出制御のためのプロセスの実施形態を図示するフローチャートである。
【００５０】
【図１７】図１７は、深度マップを使用する、自動露出制御のためのプロセスの実施形態を図示するフローチャートである。
【００５１】
【図１８】図１８は、複数のモデルを使用する、自動露出制御のためのプロセスの実施形態を図示するフローチャートである。
【発明を実施するための形態】
【００５２】
以下の説明では、解説の目的のために、具体的詳細が、本開示の実施形態の徹底的な理解を提供するために記載される。しかしながら、種々の実施形態は、これらの具体的詳細を伴わずに実践され得ることが明白であろう。図および説明は、制限的であることを意図していない。
【００５３】
続く説明は、例示的実施形態のみを提供し、本開示の範囲、適用可能性、または構成を限定することを意図していない。むしろ、例示的実施形態の続く説明は、例示的実施形態を実装することを可能にする説明を当業者に提供するであろう。例えば、説明は、ピクセル情報、画像、および／または表示を説明し得るが、視覚コンテンツの代わりに、またはそれに加えて、オーディオが、拡張現実デバイスによって生成され、ユーザに提示され得ることを認識されたい。また、添付の請求項に記載されるような本開示の精神および範囲から逸脱することなく、種々の変更が要素の機能および配列に行われ得ることも理解されたい。
【００５４】
本開示は、概して、コンテンツ捕捉デバイスのための露出設定を決定することに関する。露出設定は、コンテンツ（例えば、画像またはビデオ）が捕捉されるときにコンテンツ捕捉デバイスのセンサが受光する光の量に関し得る。露出設定の実施例は、シャッタ速度、開口設定、または国際標準化機構（ＩＳＯ）速度を含む。
【００５５】
露出を設定するための従来的な解決策は、ユーザによって対処されている。例えば、ユーザは、自分の好みに合わせて露出設定を調節するであろう。しかしながら、これは、信頼できないことが証明され、多くの場合、準最適結果を生じている。
【００５６】
現在、自動露出制御（ＡＥＣ）が、カメラ上の標準特徴である。ＡＥＣは、ユーザ入力を伴わずに画像のための露出設定を自動的に決定する。ＡＥＣを使用して、カメラは、カメラのための露出設定を決定してもよい。いくつかの実施例では、ＡＥＣは、視野のための自動焦点制御（ＡＦ）および／または自動ホワイトバランス制御（ＡＷＢ）と併せて起動されてもよい。そのような実施例では、ＡＥＣは、最初に、視野のための露出の量の推定値を算出するために使用されてもよい。推定値が算出された後、ＡＦは、視野のための焦点の量を決定するように実行されてもよい。いくつかの実施例では、焦点の量が決定された後、ＡＥＣは、視野のための露出設定を微調整するように実行され続けてもよい。いくつかの実施例では、ＡＷＢは、ＡＥＣと少なくとも部分的に並行して実行されてもよい。そのような実施例では、ＡＷＢは、ＡＦの前または後に終了してもよい。いくつかの実施例では、ＡＷＢは、ＡＦが終了した後に実行され始めてもよい。視野が上記に説明されるが、画像内で捕捉される場面は、視野を構成し得ることを認識されたい。
【００５７】
以下ではさらに、コンテンツ捕捉デバイスのための１つ以上の設定（例えば、露出設定および／または利得設定）を決定するための技法が説明される。いくつかの実施例では、１つ以上の設定を決定するために、コンテンツ捕捉デバイスからの画像のピクセルの輝度値が、識別されてもよい。画像内のオブジェクトおよびオブジェクトと関連付けられる情報もまた、識別されてもよい。オブジェクトと関連付けられる情報は、カテゴリに分割されてもよい。そして、オブジェクトおよび情報を使用して、情報のカテゴリ毎の別個の加重アレイが、算出されてもよい。別個の加重アレイは、総加重アレイを作成し、輝度値を増補するように組み合わせられてもよい。増補された輝度値は、画像の加重された輝度平均を算出するように集計されてもよい。加重された輝度平均および標的の差に基づいて、１つ以上の設定は、調節されてもよい。
【００５８】
他の実施例では、情報のカテゴリ毎に別個の加重アレイを算出するのではなく、各オブジェクトと関連付けられる情報が、別個の学習ベースのモデルで使用されてもよい。各学習ベースのモデルの出力を組み合わせて、総加重アレイが、画像の輝度値を増補するように作成されてもよい。増補された輝度値は、画像の加重された輝度平均を算出するように集計されてもよい。加重された輝度平均および標的の差に基づいて、１つ以上の設定は、調節されてもよい。
【００５９】
他の実施例では、本明細書に説明されるような加重モデルが、場面の画像内のオブジェクトに使用されてもよい。同一の加重モデルは、次いで、画像スティッチャが画像および他の画像をともに組み合わせ、最適化された画像を作成し得るように、場面の他の画像内の他のオブジェクトに使用されてもよい。
【００６０】
図１Ａは、自動露出制御（ＡＥＣ）を使用して、コンテンツ捕捉デバイスの１つ以上の設定を更新するためのプロセス１００の実施例を図示する。いくつかの実施例では、１つ以上の設定は、露出設定、利得設定、またはそれらの任意の組み合わせを含んでもよい。そのような実施例では、露出設定は、シャッタ速度、ＩＳＯ速度、またはそれらの任意の組み合わせであってもよい。利得設定は、デジタル利得、アナログ利得、またはそれらの任意の組み合わせであってもよい。
【００６１】
プロセス１００は、画像を受信するステップ（１１０）を含んでもよい。いくつかの実施例では、画像は、コンテンツ捕捉デバイスのセンサから受信されてもよい。他の実施例では、画像は、プロセス１００に供給されるフィードの中に含まれてもよい。画像は、いくつかのデバイスおよびシステムから受信され得ることを認識されたい。
【００６２】
いくつかの実施例では、画像は、画像バッファにおいて受信されてもよい。そのような実施例では、画像は、画像のピクセル毎にピクセル情報を含む、ビットマップ画像であってもよい。いくつかの実施例では、画像バッファは、画像のピクセル高さおよびピクセル幅に等しいサイズであってもよい。例証すると、画像バッファサイズは、６４０×４８０であってもよく、但し、６４０は、画像のピクセルの数における幅に対応し得、４８０は、画像のピクセルの数における高さに対応し得る。
【００６３】
プロセス１００はさらに、画像をピクセル群に分割するステップ（１２０）を含んでもよい。各ピクセル群のサイズおよび形状は、事前に定義されてもよい。いくつかの実施例では、各ピクセル群のサイズおよび形状は、同一である、または変動し得る。例証目的のために、ピクセル群は、長方形として説明されるであろう。しかしながら、ピクセル群は、画像を複数の部分に分割する任意の形状であり得ることを認識されたい。例えば、ピクセル群は、画像の中心から半径方向であり得る。そのような実施例では、各ピクセル群は、異なる範囲の直径を含んでもよい（例えば、第１の半径は、中心から０〜１単位であってもよく、第２の半径は、中心から１〜２単位であってもよく、第３の半径は、中心から２〜３単位であってもよい）。別の実施例に関して、ピクセル群は、各オブジェクトと関連付けられてもよい（例えば、第１のオブジェクトは、第１のピクセル群であってもよく、第２のオブジェクトは、第２のピクセル群であってもよく、画像の残りの部分は、第３のピクセル群であってもよい）。また、ピクセル群は、画像を複数の部分に分割する任意の他の形態であり得ることを認識されたい。いくつかの実施例では、ピクセル群は、２つ以上のピクセル群が重複しているように配列されてもよい。
【００６４】
一例証的実施例では、画像は、９６個のピクセル群（１２個のピクセル群×８個のピクセル群、但し、１２は、画像の幅に沿ったピクセル群の数に対応し、８は、画像の高さに沿ったピクセル群の数に対応する）に分割されてもよい。そのような例証では、６４０×４８０画像内に１２×８個のピクセル群を有することは、各ピクセル群が、約５０ピクセルの高さおよび約６０ピクセルの幅を有するであろうことを意味するであろう。本例証は、各ピクセル群の幅および高さが異なるであろうことを示すが、ピクセル群の幅は、ピクセル群の高さと同一であり得ることを理解されたい。
【００６５】
プロセス１００はさらに、画像のピクセル群毎に平均輝度ピクセル群値を算出するステップ（１３０）を含んでもよい。いくつかの実施例では、平均輝度ピクセル群値は、ピクセル群のピクセル毎に輝度値を累積することによって算出されてもよい。そのような実施例では、輝度値は、画像の明るさ（例えば、画像のアクロマート部分）を表してもよい。いくつかの実施例では、輝度値は、色成分を伴わない画像の表現であってもよい。例えば、ＹＵＶ色空間では、輝度値は、Ｙであってもよい。いくつかの実施例では、輝度値は、画像のガンマ圧縮ＲＧＢ成分の加重和である。そのような実施例では、輝度値は、ガンマ補正輝度と称され得る。いくつかの実施例では、累積は、ピクセル群のピクセル毎に輝度値を合計することによって、ソフトウェアまたはハードウェアによって実施されてもよい。いったんピクセル群の輝度値が累積されると、合計数は、ピクセル群の平均輝度ピクセル群値を算出するように、ピクセル群の中のピクセルの数によって除算されてもよい。本プロセスは、画像内のピクセル群毎に繰り返されてもよい。
【００６６】
プロセス１００はさらに、ＡＥＣを実施するステップ（１４０）を含んでもよい。ＡＥＣは、画像のピクセル群毎に平均輝度ピクセル群値を入力として受け取ってもよい。いくつかの実施例では、ＡＥＣ方法は、加重アレイを使用して、加重を上記に説明される平均輝度ピクセル群値に適用してもよい。そのような実施例では、ＡＥＣはまた、画像の各ピクセル群に適用する加重を識別し得る、加重アレイを入力として受け取ってもよい。
【００６７】
いくつかの実施例では、加重アレイは、画像を分割することによって作成されるピクセル群に対応する、ピクセル群を含んでもよい。例えば、画像が２５個のピクセル群（５つのピクセル群×５つのピクセル群）に分割される場合、加重アレイは、２５個のピクセル群（５つのピクセル群×５つのピクセル群）のための加重を含んでもよい。そのような実施例では、画像内の最も左上のピクセル群は、加重アレイ内の最も左上のピクセル群に対応する等であってもよい。いくつかの実施例では、加重アレイ内のピクセル群毎の値は、測光、オブジェクト優先度、焦点レチクル、視線、正規化された総加重アレイ、学習ベースの方法、同等物、またはそれらの任意の組み合わせを含む、本明細書で議論される、いくつかの技法に基づいてもよい。
【００６８】
いくつかの実施例では、加重アレイ（例えば、図１−７および１０に説明される加重アレイ）は、加重された輝度ピクセルを算出するように、平均輝度ピクセル群値と組み合わせられてもよい。例えば、各平均輝度ピクセル群値は、対応する加重によって乗算されてもよい。他の実施例では、加重アレイは、作成されるピクセル群に基づいて、ピクセルの輝度値と組み合わせられてもよい。そのような実施例では、ピクセルに適用する加重が、ピクセルを含むピクセル群に基づいて決定されてもよい。例えば、ピクセルが画像内の左上ピクセル群の中にある場合、加重アレイ内の左上ピクセル群と関連付けられる加重が、ピクセルに適用されてもよい。いくつかの実施例では、ピクセル群と関連付けられる加重は、対応するピクセル群のピクセル毎に加重された輝度値を算出するように、画像の対応するピクセル群内の各ピクセルによって乗算されてもよい。
【００６９】
いくつかの実施例では、加重された輝度値は、画像のための加重された輝度平均を作成するようにともに平均化されてもよい。ある実施例では、加重された輝度平均は、
【化１】
2020504868.tif 000003
として表されてもよく、式中、ＷＬＡは、加重された輝度平均であり、Ｍは、ピクセル群の高さであり、Ｎは、ピクセル群の幅であり、ｗ［ｒ，ｃ］は、加重アレイ内の場所ｒおよび場所ｃであり、ｌｕｍａａｖｇ［ｒ，ｃ］は、場所ｒおよび場所ｃにおけるピクセルの平均輝度値である。
【００７０】
他の実施例では、加重アレイは、局所色調マッピングに使用されてもよい。例えば、局所色調マッピングシステムは、明るくされるべきである視野の部分を識別するように、加重されたアレイを使用してもよい。本技法は、上記に説明される平均化技法のいくつかの実施例のように視野全体ではなくて、視野の部分を扱ってもよい。いくつかの実施例では、設定（例えば、露出設定および／または利得設定）が、加重アレイに基づいて１つ以上の部分に適用されてもよい。そのような実施例では、加重アレイが、局所色調マッピングのためのガイドとして使用されてもよい。
【００７１】
いくつかの実施例では、局所色調マッピングは、所定の閾値を上回るピクセルに実施されてもよく、閾値は、加重アレイの加重に対応する。例えば、閾値を上回る加重を与えられるピクセルは、局所色調マッピングシステムに、ピクセルのための設定（例えば、露出設定および／または利得設定）の調節を決定させてもよい。いくつかの実施例では、ピクセルおよび１つ以上の隣接ピクセルが、閾値と比較するときに使用されてもよい。例えば、ピクセルおよび１つ以上の隣接ピクセルは、ピクセルおよび／または１つ以上の隣接ピクセルに適用する局所色調マッピングのための閾値を上回る必要があろう。いくつかの実施例では、局所色調マッピングは、ソフトウェアおよび／またはハードウェアにおいてサポートされてもよい。
【００７２】
いくつかの実施例では、プロセス１００はさらに、１つ以上の設定を更新するステップを含んでもよい。上記で説明されるように、１つ以上の設定は、露出設定、利得設定、またはそれらの任意の組み合わせを含んでもよい。そのような実施例では、露出設定は、シャッタ速度、ＩＳＯ速度、またはそれらの任意の組み合わせであってもよい。いくつかの実施例では、シャッタ速度は、グローバルシャッタまたはロールシャッタであってもよい。グローバルシャッタは、視野の全てのピクセルを露出するための持続時間を示してもよい。ロールシャッタは、視野の列（水平または垂直のいずれか）を露出するための持続時間を示してもよい。ロールシャッタでは、視野のスナップショットではなく、画像の線が、ローリング様式で走査されてもよい。利得設定は、デジタル利得、アナログ利得、またはそれらの任意の組み合わせであってもよい。例えば、利得設定は、２倍のアナログ利得および４倍のデジタル利得を有することによって、８倍であってもよい。いくつかの実施例では、露出設定は、露出を増加させるときに利得設定の前に調節されてもよい。そのような実施例では、利得設定は、露出を減少させるときに利得設定の前に調節されてもよい。
【００７３】
図１Ｂは、コンテンツ捕捉デバイスの１つ以上の設定を更新する方法を決定するためのプロセス１６０の実施例を図示する。本プロセスは、標的輝度値を輝度値（例えば、加重された輝度平均）と比較するステップ（ステップ１７０）を含んでもよい。
【００７４】
加重された輝度平均が所定の第１の閾値だけ標的輝度平均よりも小さい場合、１つ以上の設定は、画像をより明るくするように調節されてもよい（ステップ１７２）。例えば、１つ以上の設定の露出設定が最大許容露出設定にない場合、露出設定は、最大許容露出設定まで増加（例えば、漸増的に増加）されてもよい（ステップ１７４および１７６）。一例証的実施例では、最大許容露出設定は、毎秒３０フレームのフレームレートに関して１６．６ミリ秒であってもよい。しかしながら、最大許容露出設定は、毎秒３０フレームのフレームレートに関してさえも異なり得ることを認識されたい。最大許容露出設定は、ＩＳＯ速度およびコンテンツ捕捉デバイスに基づいてもよい。いくつかの実施例では、コンテンツ捕捉デバイスのソフトウェアおよび／またはハードウェアは、最大許容露出設定を決定してもよい（例えば、最大許容露出設定は、センサとホストプロセッサとの間で画像を転送するための時間を差し引いたフレーム周期（１／フレームレート）よりも小さくあり得る）。いくつかの実施例では、最大許容露出設定は、ソフトウェアおよび／またはハードウェアが許容するもの未満であり得る。
【００７５】
露出設定が最大許容露出設定にある場合、１つ以上の設定の利得設定は、最大許容利得設定まで増加（例えば、漸増的に増加）されてもよい（ステップ１７４および１７８）。一例証的実施例では、最大許容利得設定は、８倍であってもよい。しかしながら、最大許容利得設定は、異なり得ることを認識されたい。最大許容利得設定は、所望される画質（例えば、画像内のノイズは、利得設定が増加すると増加し得る）およびコンテンツ捕捉デバイスのソフトウェアおよび／またはハードウェア（例えば、センサは、ある利得設定までサポートし得る）に基づいてもよい。
【００７６】
加重された輝度平均が所定の第２の閾値（第１の閾値と同一または異なり得る）だけ標的輝度平均を上回る場合、１つ以上の設定が、画像をより暗くするように調節されてもよい（ステップ１８０）。例えば、利得設定が最小許容利得設定（例えば、１倍）にない場合、利得設定は、最小許容利得設定まで減少（例えば、漸増的に減少）されてもよい（ステップ１８２および１８４）。いくつかの実施例では、最小許容利得設定は、コンテンツ捕捉デバイスのソフトウェアおよび／またはハードウェア（例えば、コンテンツ捕捉デバイスのセンサ）に基づいて決定されてもよい。
【００７７】
利得設定が最小許容利得設定にある場合、露出設定は、最小許容露出設定（例えば、２０マイクロ秒）まで減少（例えば、漸増的に減少）されてもよい（ステップ１８２および１８６）。最小許容露出は、コンテンツ捕捉デバイスのソフトウェアおよび／またはハードウェア（例えば、コンテンツ捕捉デバイスのセンサ）に基づいて、視野が露出されるべきである時間量に対応してもよい。いずれかの状況のための調節の量は、標的輝度平均からの加重輝度平均の差の量に基づいてもよい。
【００７８】
いくつかの実施例では、標的輝度平均が、提供されてもよい。そのような実施例では、標的輝度平均が、提供され、新しい標的輝度平均が提供されるまで使用されてもよい。他の実施例では、複数の標的輝度平均が、異なる状況のために提供されてもよい。例えば、標的輝度平均は、屋外ではより明るくあり得るため、屋内よりも屋外でわずかに高くあり得る。故に、いくつかの実施例では、２つの異なる標的輝度平均、すなわち、屋内に関する１つおよび屋外に関する１つが、提供または決定されてもよい。他の実施例では、標的輝度平均が、決定されてもよい。そのような実施例では、現在の物理的環境が、１つ以上のセンサに基づいて決定されてもよい。例えば、１つ以上のセンサは、現在の物理的環境内の光の量を検出してもよい。いくつかの実施例では、１つ以上の設定の任意の組み合わせが、標的輝度値を決定するために使用されてもよい。
【００７９】
図２は、輝度値を加重するための種々の測光技法の実施例を図示する。種々の測光技法に関して、加重スケール２１０が、特定の加重のための凡例であるように提供されている。加重スケール２１０の各レベルは、加重アレイの中に含まれるときに、特定の加重に対応する色を含む。例えば、加重スケール２１０内の上部ボックスは、最も暗い色であり、１の加重を表し、加重スケール２１０内の底部ボックスは、最も明るい色であり、０の加重を表す。加重スケール２１０は、上部ボックスから底部ボックスまで線形的に変化するように見えるが、加重スケール２１０が単一の画像の全体を通して一貫している限りにおいて、加重スケール２１０は、異なり得ることを理解されたい。いくつかの実施例では、下記に説明される測光技法のうちの２つ以上のものが、単一の加重アレイ内で組み合わせられてもよい。
【００８０】
第１の測光技法は、スポット測光であってもよい。いくつかの実施例では、スポット測光は、同一の加重を画像の選択された領域の各ピクセルに与えることを指し得る。そのような実施例では、スポット測光は、選択された領域からより遠く移動する、減少する加重を与えるように実装されてもよい。いくつかの実施例では、選択された領域は、（例えば、視野内でスクリーンタッチの運動を行うことによって）ユーザの運動に基づいて識別されてもよい。そのような実施例では、空中で第１の位置から第２の位置まで移動する指は、領域を選択することに対応し得る。ユーザが触れている実際の画面が存在しないであろうが、運動自体が検出されてもよい。領域が選択され得る別の方法は、大まかに円を作成する方法で指をともに組み合わせることによるものであり得、円の内側の全てが、選択となるであろう。他の実施例では、ユーザによって移動され得る仮想フレームが、出現してもよい。そのような実施例では、移動および／またはサイズ変更され得る円が、ユーザのディスプレイに示されてもよい。
【００８１】
スポット測光は、第１の加重を１つ以上の第１のピクセル群に割り当てさせ、第２の加重を１つ以上の第２のピクセル群に割り当てさせてもよい。典型的には、１つ以上の第１のピクセル群は、ユーザ選択に基づいて識別される。例えば、ユーザは、画面上に指を置き、スポットを示してもよい。指の場所は、スポット測光に使用される１つ以上の第１のピクセル群を定義してもよい。スポット測光の結果は、スポット測光加重アレイ２２０であってもよい。分かり得るように、スポット測光加重アレイ２２０は、スポット２２２を含む。スポット２２２は、ユーザ選択に基づいて識別される場所（例えば、１つ以上の第１のピクセル群）であってもよい。スポット２２２は、１であると考えられる、第１の加重を含む。スポット測光加重アレイ２２０の残りの部分（例えば、１つ以上の第２のピクセル群）は、０であると考えられる、第２の加重を含む。異なる加重が使用され得ることを理解されたい。また、１つを上回るスポットが識別され得ることも理解されたい。
【００８２】
第２の測光技法は、中心測光であってもよい。いくつかの実施例では、中心測光は、画像の中心におけるピクセル群により大きい加重を与え、減少する加重が画像の縁に向かって移動することを指し得る。
【００８３】
中心測光は、加重アレイの点（例えば、中心）からの距離に基づいて、複数の加重をピクセル群に割り当てさせてもよい。中心測光の結果は、中心測光加重アレイ２３０であってもよい。中心測光加重アレイ２３０は、中心から離れた特定の距離のための第１の加重を含んでもよい。第１の加重は、最大加重であってもよい。中心測光加重アレイ２３０では、第１の加重は、中心から垂直に２つのピクセル群および中心から水平に３つのピクセル群の中に含まれる。これは、中心からの距離が水平および垂直に異なり得ることを例証する。また、中心測光はまた、対角線上を含む、他の方向で変動し得ることも理解されたい。
【００８４】
中心測光加重アレイ２３０はまた、それぞれが前の加重から１ピクセル群離れている、第２、第３、第４、および第５の加重を含んでもよい。いくつかの実施例では、各連続レベルの加重が、加重を減少させてもよい。例えば、第５の加重は、第４の加重未満であり得、これは、第３の加重未満であり得、これは、第２の加重であり得、これは、第１の加重未満であり得る。再度、中心測光加重アレイは、実施例にすぎず、各レベルの加重および特定の加重の他の構成も使用され得ることを理解されたい。
【００８５】
第３の測光技法は、画像測光であってもよい。画像測光は、単一の加重を加重アレイの全ピクセル群に割り当てさせてもよい。画像測光の結果は、画像測光加重アレイ２４０であってもよい。画像測光加重アレイ２４０は、全ピクセル群のための単一の加重を含む。画像測光は、場面全体のための平均露出を生じてもよい。
【００８６】
いくつかの実施例では、測光に加えて（またはその代わりに）、画像内の１つ以上のオブジェクトは、画像のための加重アレイに影響を及ぼす優先度を割り当てられてもよい。１つ以上のオブジェクトに基づいて加重アレイのための加重を割り当てることによって、たとえ１つ以上のオブジェクトが、画像および加重アレイに関連して移動していても、１つ以上のオブジェクトは、複数の画像の全体を通して適切に露出されたままであってもよい。１つ以上のオブジェクトは、加重が毎回単一の位置に適用されているわけではなく、むしろ１つ以上のオブジェクトに基づいて変化するため、複数の画像の全体を通して適切に露出されてもよい。
【００８７】
図３は、画像内のオブジェクトのための優先度加重アレイ３２０の実施例を図示する。上記と同様に、加重スケール３１０が、特定の加重のための凡例であるように提供されている。いくつかの実施例では、画像内のオブジェクトは、オブジェクト認識システムによって識別されてもよい。そのような実施例では、オブジェクト認識システムは、オブジェクトのカテゴリ（例えば、個人、動物、椅子、または同等物）を識別してもよい。他の実施例では、識別は、（オブジェクトのカテゴリに加えて）オブジェクトの１つ以上の付加的詳細を識別してもよい。例えば、個人の身元、動物の識別（例えば、これがゴールデンレトリーバである、またはこれがＳｐｏｔである）、または同等物が、識別されてもよい。オブジェクト認識システムはまた、オブジェクトを含むピクセル群を決定してもよい。
【００８８】
一例証的実施例では、以下に図示されるような表が、加重を識別されたオブジェクトに割り当てるために使用されてもよい。そのような表を使用することにより、オブジェクトが識別されるとき、オブジェクトに関して識別される１つ以上のピクセル群は、表内の優先度加重を割り当てられる。
【表１−１】
2020504868.tif 000004
【表１−２】
2020504868.tif 000005
【００８９】
いくつかの実施例では、（上記の表に示されるような）アクティブなオブジェクトは、アプリケーションによって能動的に使用中であるオブジェクトを表してもよい。例えば、表面が、複合現実アプリケーションによって使用中であってもよい。そのような実施例では、キャラクタが、表面上で踊っていてもよい。表面が優先であることを確実にするために、表面と関連付けられる加重は、画像の他の面積のための加重を上回り得る。
【００９０】
いくつかの実施例では、（上記の表に示されるような）ユーザ選択されたオブジェクトは、上記に説明されるスポット測光と同様に、ユーザによって選択されたオブジェクトを表してもよい。しかしながら、スポット測光と異なり、ユーザ選択されたオブジェクトは、指が被覆するピクセル群だけではなくて、オブジェクトが含まれる全てのピクセル群を含んでもよい。
【００９１】
いくつかの実施例では、（上記の表に示されるような）識別された個人は、顔認識システム（または他の識別システム）によって識別された画像内の個人を表してもよい。例えば、顔認識システムは、個人をＣｌａｒｋ  Ｋｅｎｔとして認識してもよい。そのような実施例では、Ｃｌａｒｋ  Ｋｅｎｔは、より高い加重を割り当てられるべきである、識別された人のリストの中に含まれてもよい。加えて、いくつかの実施例では、特定の人は、異なる加重を割り当てられてもよい。いくつかの実施例では、リストの中に含まれない人および／または名前によって識別されない人は、識別された人（上記の表内の「人」によって示されるような）と異なる加重を与えられてもよい。
【００９２】
同様に、（上記の表に示されるような）識別されたペットは、顔認識システム（または他の識別システム）によって識別された画像内のペットを表してもよい。例えば、顔認識システムは、ペットをＤｉｘｉｅとして認識してもよい。そのような実施例では、Ｄｉｘｉｅは、より高い加重を割り当てられるべきである、識別されたペットのリストの中に含まれてもよい。加えて、いくつかの実施例では、特定のペットは、異なる加重を割り当てられてもよい。いくつかの実施例では、リストの中に含まれないペットおよび／または名前によって識別されないペットは、識別されたペット（上記の表内の「ペット」によって示されるような）と異なる加重を与えられてもよい。
【００９３】
いくつかの実施例では、識別される（上記の表に示されるような）オブジェクトの１つ以上の他のカテゴリ（例えば、ペット、車、花、建物、昆虫、木／灌木、芸術品、家具、または同等物）は、種々の加重を割り当てられてもよい。そのような実施例では、各カテゴリは、オブジェクトを含む全てのピクセル群に適用され得る、加重を割り当てられてもよい。いくつかの実施例では、オブジェクトを含まない任意のピクセル群は、（上記の表内の「その他」によって示されるような）異なる加重を与えられてもよい。そのような実施例では、異なる加重は、ゼロまたはある他のゼロではない数であってもよい。殆どの実施例では、異なる加重は、他の加重のうちの１つ以上のもの未満であり得る。いくつかの実施例では、異なる加重は、識別されたオブジェクトから離れた距離に応じて変動し得る。
【００９４】
いくつかの実施例では、表の加重、優先度、およびオブジェクトタイプは、事前に定義されてもよい。いくつかの実施例では、加重、優先度、およびオブジェクトタイプは、ユーザのアクションからの学習に基づいて、経時的に適応してもよい。例えば、ユーザが、主に、特定のオブジェクトを含む画像を補足するとき、そのオブジェクトは、より高い優先度を割り当てられてもよい。別の実施例に関して、加重は、類似場面の画像の数に関連して、ユーザの１つ以上のアクションに基づいて変化してもよい。例えば、削除される画像に基づいて、優先度加重は、ユーザの選好に合わせて更新されてもよい。削除と同様に、他者と共有される画像は、その画像のための１つ以上の設定が最適であったことを示してもよい。
【００９５】
図３に戻って参照すると、オブジェクト３２２を含む画像の面積が、識別されてもよい。オブジェクト３２２が識別されるものに基づいて、オブジェクト３２２を含む優先度加重アレイ３２０の１つ以上のピクセル群は、第１の加重を割り当てられてもよい。いくつかの実施例では、オブジェクト３２２の中に含まれない優先度加重アレイ３２０の１つ以上のピクセル群は、第２の加重を割り当てられてもよい。優先度加重アレイ３２０は、１の加重を有するオブジェクト３２２、および０の加重を有するオブジェクト３２２の中に含まれない１つ以上のピクセル群を図示するが、任意の加重が、オブジェクト３２２およびオブジェクト３２２の中に含まれない１つ以上のピクセル群に割り当てられ得ることを認識されたい。
【００９６】
図４は、複数のオブジェクトのための優先度加重アレイ４２０の実施例を図示する。上記と同様に、加重スケール４１０が、特定の加重のための凡例であるように提供されている。いくつかの実施例では、１つ以上のオブジェクトが、画像内で識別されてもよい。そのような実施例では、ＡＥＣは、画像内で識別される１つ以上のオブジェクトのサブセットを使用して実行することを決定してもよい。例えば、１つを上回るオブジェクトが画像内で識別される場合、ＡＥＣは、オブジェクトのうちの１つだけを使用して実行することを決定してもよい。いくつかの実施例では、ＡＥＣは、最高優先度を伴うオブジェクトに基づいて実行することを決定してもよい。他の実施例では、ＡＥＣは、オブジェクトの全てが識別されるわけではないが、識別されるオブジェクトのうちの１つ以上のものに基づいて実行することを決定してもよい。他の実施例では、ＡＥＣは、識別される全てのオブジェクトに基づいて実行することを決定してもよい。
【００９７】
一例証的実施例では、１つ以上のオブジェクトは、第１のオブジェクト４２２と、第２のオブジェクト４２４と、第３のオブジェクト４２６とを含んでもよい。いくつかの実施例では、各オブジェクトは、加重を割り当てられてもよい。いくつかの実施例では、２つ以上の加重は、類似し得る、および／または２つ以上の加重は、異なり得る。例えば、第１のオブジェクト４２２は、（上記の表に説明されるような）アクティブなオブジェクトであってもよく、第２のオブジェクト４２４は、（上記の表に説明されるような）ユーザ選択されたオブジェクトであってもよく、第３のオブジェクト４２６は、（上記の表に説明されるような）車であってもよい。
【００９８】
図５は、焦点レチクル加重アレイ５３０の実施例を図示する。上記と同様に、加重スケール５１０が、特定の加重のための凡例であるように提供されている。いくつかの実施例では、焦点レチクル加重アレイ５３０は、画像５２０内の焦点レチクル５２２の場所を識別してもよい。いくつかの実施例では、焦点レチクル５２２は、手のジェスチャ、（上記で説明されるような）自動焦点制御（ＡＦ）、および／または焦点レチクル５２２のサイズ変更に基づいて、調節されてもよい。いくつかの実施例では、手のジェスチャは、焦点レチクル５２２を形成する、または描いてもよい。そのような実施例では、オブジェクトが焦点レチクル５２２の内側にある場合、オブジェクトのピクセル群は、より高い加重を与えられてもよい。オブジェクトが焦点レチクル５２２の境界上にある場合、オブジェクトのピクセル群は、より小さい加重を与えられてもよい。オブジェクトが焦点レチクル５２２の外にある場合、オブジェクトのピクセル群は、最低加重を与えられてもよい。いくつかの実施例では、焦点レチクル５２２は、コンテンツ捕捉デバイス上またはコンテンツ捕捉デバイスから遠隔（例えば、手のジェスチャ、遠隔デバイス、または同等物）のいずれかで、コマンドを使用して、サイズ変更されてもよい。他の実施例では、ＡＦは、画像５２０の焦点である画像５２０の面積を示してもよい。そのような実施例では、面積内のオブジェクトは、より高い加重を与えられてもよい。
【００９９】
いくつかの実施例では、中心測光加重アレイ２３０と同様に、焦点レチクル加重アレイ５３０の加重は、距離が焦点レチクル５２２の中心から増加すると減少してもよい。例えば、焦点レチクル５２２の中心は、最高加重を有してもよい。中心の周辺のピクセル群もまた、最高加重を有してもよい。しかし、距離が中心から増加すると、ピクセル群は、加重の量を減少させてもよい。
【０１００】
他の実施例では、焦点レチクル加重アレイ５３０は、少なくとも部分的に焦点レチクル５２２内にあるオブジェクトを含む、ピクセル群の加重を増加させるために、オブジェクト識別システムと併用されてもよい。例えば、オブジェクトが重複している、または完全に焦点レチクル５２２に含有される場合、オブジェクトを含むピクセル群の加重は、増加されてもよい。オブジェクトが完全に焦点レチクル５２２の外側にある場合、オブジェクトを含むピクセル群の加重は、減少されてもよい。
【０１０１】
図６は、視線加重アレイ６９０の実施例を図示する。上記と同様に、加重スケール６１０が、特定の加重のための凡例であるように提供されている。視線加重アレイ６９０を実装するために、システムは、１つ以上の眼捕捉デバイスを含んでもよい。眼捕捉デバイスは、ユーザの１つ以上の眼（例えば、眼６６０）の１つ以上の画像および／または１つ以上のビデオを捕捉するために使用されてもよい。画像および／またはビデオは、眼６６０の視線６７０を決定するように、さらに処理されてもよい。いくつかの実施例では、視線６７０は、眼６６０が見ている方向または眼６６０が見ている場所を示してもよい。
【０１０２】
いくつかの実施例では、視線６７０はまた、ユーザの眼６６０に基づいて、眼６６０が見ている深度を示してもよい。いくつかの実施例では、左眼および右眼を見ることによって、システムは、視線６７０が特定の深度において特定のオブジェクトを見ていることを決定してもよい。いくつかの実施例では、中心測光加重アレイ２３０と同様に、視線加重アレイ６９０の加重は、距離が、視線６７０が見ている場所から増加すると、減少してもよい。例えば、視線６７０が見ている場所の中心は、最高加重を有してもよい。中心の周囲のピクセル群もまた、最高加重を有してもよい。しかし、距離が中心から増加すると、ピクセル群は、加重の量を減少させてもよい。
【０１０３】
視線加重アレイ６９０を例証すると、視線６７０は、第２のオブジェクト６３２を含み得る、ピクセル群の第２のセット６３０を指し示していてもよい。第２のオブジェクト６３２を含むピクセル群は、最高加重を割り当てられてもよい。次いで、加重が、第２のオブジェクト６３２から離れた距離に基づいて、および／または識別される他のオブジェクトに基づいて、割り当てられてもよい。
【０１０４】
例えば、ピクセル群の第１のセット６２０の中の第１のオブジェクト６２２およびピクセル群の第３のセット６４０の中の第３のオブジェクト６４２が、識別されてもよい。そのような実施例では、ピクセル群の第１のセット６２０は、第２のオブジェクト６３２からの距離および第１のオブジェクト６２２の識別に対応する加重を割り当てられてもよい。第１のオブジェクト６２２が高い優先度を伴うオブジェクトである場合、ピクセル群の第１のセットの加重は、増加されてもよい。一方で、第１のオブジェクト６２２が低い優先度を伴うオブジェクトである場合、ピクセル群の第１のセットの加重は、減少されてもよい。類似動作が、ピクセル群の第３のセット６４０および第３のオブジェクト６４２に関して実施されてもよい。いくつかの実施例では、いかなるオブジェクトも、ピクセル群のセット（例えば、ピクセル群６５０の第４のセット）の中で識別されなくてもよい。オブジェクトが識別されないとき、ピクセル群のセットは、デフォルト値、またはオブジェクトのうちの１つ以上のもの（例えば、第２のオブジェクト６３２）からの距離または視線６７０の場所に基づく値を割り当てられてもよい。
【０１０５】
図１６は、ユーザの視線に基づいて識別される場所を使用する、自動露出制御のためのプロセス１６００の実施形態を図示するフローチャートである。いくつかの側面では、プロセス１６００は、コンピューティングデバイス（例えば、カメラ等のコンテンツ捕捉デバイス）によって実施されてもよい。
【０１０６】
プロセス１６００は、論理フロー図として図示され、その動作は、ハードウェア、コンピュータ命令、またはそれらの組み合わせで実装され得る、一連の動作を表す。コンピュータ命令との関連で、動作は、１つ以上のプロセッサによって実行されると、記載される動作を実施する、１つ以上のコンピュータ可読記憶媒体上に記憶されたコンピュータ実行可能命令を表す。概して、コンピュータ実行可能命令は、特定の機能を果たす、または特定のデータタイプを実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造、および同等物を含む。動作が説明される順序は、限定として解釈されることを意図しておらず、任意の数の説明される動作が、プロセスを実装するように、任意の順序で、および／または並行して組み合わせられてもよい。
【０１０７】
加えて、プロセス１６００は、実行可能命令を伴って構成される１つ以上のコンピュータシステムの制御下で実施されてもよく、１つ以上のプロセッサ上で、ハードウェアによって、またはそれらの組み合わせで集合的に実行するコード（例えば、実行可能命令、１つ以上のコンピュータプログラム、または１つ以上のアプリケーション）として実装されてもよい。上記のように、コードは、機械可読記憶媒体上に、例えば、１つ以上のプロセッサによって実行可能な複数の命令を備える、コンピュータプログラムの形態で、記憶されてもよい。機械可読記憶媒体は、非一過性であり得る。
【０１０８】
プロセス１６００は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップ（１６１０）を含んでもよい。いくつかの実施例では、画像は、複数のピクセルを含んでもよい。いくつかの実施例では、画像は、カメラまたは他のコンテンツ捕捉デバイスから受信されてもよい。他の実施例では、画像は、画像のフィード（またはストリーム）から受信されてもよい。そのような実施例では、フィードは、現在または過去の画像であってもよい。図６は、パッチの第１のセット６２０と、パッチの第２のセット６３０と、パッチの第３のセット６４０と、パッチの第４のセット６５０とを含むものとして画像を図示する。画像は、図６に図示されるよりも多いまたは少ないパッチのセットを含み得ることを認識されたい。
【０１０９】
プロセス１６００はさらに、画像の標的輝度値を識別するステップ（１６２０）を含んでもよい。いくつかの実施例では、標的輝度値は、画像の最適な量の輝度を示してもよい。そのような実施例では、画像の各ピクセルは、輝度値と関連付けられてもよい。いくつかの実施例では、標的輝度値は、画像の輝度値の平均に対応してもよい。他の実施例では、標的輝度値は、画像の輝度値の加重された平均に対応してもよい。他の実施例では、標的輝度値は、加重アレイを輝度値で乗算する結果として得られるであろう数に対応してもよい。
【０１１０】
いくつかの実施例では、標的輝度値は、事前に定義されてもよい。他の実施例では、標的輝度値は、１つ以上のセンサに基づいて決定されてもよい。一例証的実施例に関して、センサが、環境内の光の量を検出してもよい。光の量に基づいて、標的輝度値が、設定されてもよい。そのような実施例では、標的輝度値の閾値が存在し得る。例えば、光の量がある量を上回る場合、標的輝度値は、ある量であってもよい。
【０１１１】
プロセス１６００はさらに、画像の複数のピクセルを複数のピクセル群に分割するステップ（１６３０）を含んでもよい。いくつかの実施例では、ピクセル群は、ピクセルの近接する（または隣接する／隣り合う）群を表してもよい。そのような実施例では、ピクセル群の形状は、変動し得る。例えば、各ピクセル群は、画像が行および列に分割されるように、長方形または正方形であり得る。他の実施例では、各ピクセル群は、画像の中心からのある数のピクセルを含んでもよい。いくつかの実施例では、異なるピクセル群は、（例えば、ピクセル群がオブジェクトを含むように作成される場合）異なる形状であってもよい。いくつかの実施例では、ピクセル群は、異なるサイズであってもよい。いくつかの実施例では、ピクセル群は、２つ以上のピクセル群が重複しているように配列されてもよい。
【０１１２】
プロセス１６４０はさらに、複数のピクセル群毎にピクセル群輝度値を計算するステップ（１６４０）を含んでもよい。いくつかの実施例では、ピクセル群のピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の平均を含んでもよい。他の実施例では、ピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の総和であってもよい。他の実施例では、ピクセル群輝度値は、画像に関して各ピクセルの輝度値と平均輝度値との間の差であってもよい。例えば、平均輝度値は、全ピクセルを考慮して、画像に関して算出されてもよい。平均輝度値は、次いで、平均輝度値からの差がピクセル群に関して生成されるように、ピクセル毎の差を算出するために使用されてもよい。ピクセル群の輝度値の他の概要値も使用され得ることを認識されたい。
【０１１３】
プロセス１６００はさらに、画像内の場所を識別するステップ（１６５０）を含んでもよい。場所は、画像に対応する環境（すなわち、ユーザが位置付けられる物理的面積）内でユーザが見ている点に対応してもよい。例えば、画像は、ユーザが見ている一般的方向に対応してもよい。場所は、ユーザが実際に見ていることが決定される画像内の位置であってもよい。
【０１１４】
いくつかの実施例では、場所は、ユーザの１つ以上の眼の眼画像に基づいて識別されてもよい。眼画像は、上記に説明される画像とは別個であり得る。そのような実施例では、眼画像は、ユーザが見ている場所を識別するように分析されてもよい。例えば、眼画像の１つ以上のピクセルの各セットは、画像の１つ以上のピクセルの異なるセットに対応すると決定されてもよい。そのような実施例では、眼画像内の１つ以上の眼が、眼画像の１つ以上のピクセルの特定のセットを見ていると決定される場合、画像内の場所は、眼画像の１つ以上のピクセルの特定のセットに対応する画像の１つ以上のピクセルのセットとして識別されてもよい。１つを上回る眼画像が使用され得ることを認識されたい。例えば、第１の眼の眼画像および第２の眼の眼画像が、使用されてもよい。いくつかの実施例では、場所は、画像内で識別されるオブジェクトの場所に対応してもよい。また、ユーザの１つ以上の眼の眼画像に基づいて、ユーザが見ている場所を識別するための他の方法も使用され得ることも認識されたい。
【０１１５】
他の実施例では、場所は、ユーザの視線の方向に基づいて、識別されてもよい。そのような実施例では、ユーザの１つ以上の眼の眼画像を使用する代わりに、ユーザによって装着されるデバイスの配向が、使用されてもよい。一例証的実施例では、配向は、ピッチ、ヨー、およびロールのセットから１つ以上のものを含んでもよい。そのような実施例では、デバイスの配向を測定するセンサ（例えば、ジャイロスコープ）が、デバイスとともに含まれてもよい。デバイスの配向に基づいて、ユーザが見ている場所を識別するための他の方法も使用され得ることを認識されたい。
【０１１６】
プロセス１６００はさらに、識別された場所に基づいて、複数のピクセル群毎に加重を設定するステップ（１６６０）を含んでもよい。例えば、識別された場所により近い場所に対応するピクセル群は、識別された場所からより遠い場所に対応するピクセル群よりも高い加重として設定されてもよい。加重は、他の方法に従って設定され得ることを認識されたい。図６は、眼加重アレイ６９０内のピクセル群に関して設定される加重を図示する。
【０１１７】
いくつかの実施例では、プロセス１６００はさらに、画像の複数のピクセルを複数のパッチに分割するステップを含んでもよく、パッチは、１つ以上のピクセル群を含む。そのような実施例では、加重を設定するステップはさらに、場所を含むパッチからの距離に基づいてもよい。図６は、画像の複数のピクセルを複数のパッチに分割するステップを図示する。例えば、第１のパッチは、パッチの第１のセット６２０であってもよく、第２のパッチは、パッチの第２のセット６３０であってもよく、第３のパッチは、パッチの第３のセット６４０であってもよく、第４のパッチは、パッチの第４のセット６５０であってもよい。画像は、図６に図示されるよりも多いまたは少ないパッチのセットに分割され得ることを認識されたい。
【０１１８】
プロセス１６００はさらに、複数のピクセル群毎に、加重およびピクセル群輝度値を使用して、画像輝度値を計算するステップ（１６７０）を含んでもよい。いくつかの実施例では、画像輝度値を計算するステップは、加重されたピクセル群輝度値のそれぞれを合計するステップを含んでもよく、加重されたピクセル群輝度値は、ピクセル群と関連付けられる加重を、ピクセル群と関連付けられる輝度値で乗算することによって算出されてもよい。
【０１１９】
プロセス１６００はさらに、画像輝度値と標的輝度値との間の差を算出するステップ（１６８０）と、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップ（１６９０）とを含んでもよい。いくつかの実施例では、設定は、利得設定または露出設定であり得る。そのような実施例では、露出設定は、シャッタ速度、ＩＳＯ速度、またはそれらの任意の組み合わせであってもよい。いくつかの実施例では、シャッタ速度は、グローバルシャッタまたはロールシャッタであってもよい。グローバルシャッタは、視野の全てのピクセルを露出するための持続時間を示してもよい。ロールシャッタは、視野の列（水平または垂直のいずれか）を露出するための持続時間を示してもよい。ロールシャッタでは、視野のスナップショットではなく、画像の線が、ローリング様式で走査されてもよい。利得設定は、デジタル利得、アナログ利得、またはそれらの任意の組み合わせであってもよい。例えば、利得設定は、２倍のアナログ利得および４倍のデジタル利得を有することによって、８倍であってもよい。いくつかの実施例では、露出設定は、露出を増加させるときに利得設定の前に調節されてもよい。そのような実施例では、利得設定は、露出を減少させるときに利得設定の前に調節されてもよい。いくつかの実施例では、調節の差は、差に比例し得る。例えば、調節は、画像輝度値と標的輝度値との間の差がより大きい場合に、より大きくあり得る。
【０１２０】
図７は、画像７２０に関して正規化された総加重アレイ７３０の実施例を図示する。上記と同様に、加重スケール７１０が、特定の加重のための凡例であるように提供されている。いくつかの実施例では、正規化された総加重アレイ７３０は、２つ以上の加重アレイの組み合わせであってもよい。そのような実施例では、２つ以上の加重アレイは、上記に説明される方法（例えば、測光、視線、焦点レチクル、および同等物）を含む、任意の方法に基づいて生成されてもよい。
【０１２１】
いくつかの実施例では、正規化された総加重アレイ７３０は、画像７２０に基づいてもよい。そのような実施例では、１つ以上のオブジェクト（例えば、女性７２２、子供７２４、猫７２６、おもちゃの家７２８、およびおもちゃのトラック７２９）が、画像７２０内で識別されてもよい。１つ以上のオブジェクトを識別するステップに基づいて、１つ以上の加重アレイが、生成されてもよい。
【０１２２】
例えば、オブジェクト優先度加重アレイ７４０（優先度加重アレイ４２０に類似する）が、生成されてもよい。オブジェクト優先度加重アレイ７４０は、加重を、１つ以上のオブジェクトを含むピクセル群に割り当ててもよい。いくつかの実施例では、加重は、図３で上記に説明されるような表に基づいてもよい。例えば、人は、動物よりも高い加重と関連付けられてもよい。故に、女性７２２および子供７２４を含むピクセル群は、猫７２６を含むピクセル群よりも高い加重を与えられてもよい。加えて、おもちゃは、動物よりも低い加重と関連付けられてもよく、したがって、おもちゃの家７２８およびおもちゃのトラック７２９を含むピクセル群は、猫７２６を含むピクセル群よりも低い加重を有してもよい。識別されたオブジェクトを含まない他のピクセル群は、おもちゃよりも低い加重を有してもよい。例えば、図７の説明図は、他のピクセル群が０の加重を有することを示す。しかしながら、加重は、非ゼロであり得る。
【０１２３】
別の実施例に関して、オブジェクト距離加重アレイ７５０が、１つ以上の識別されたオブジェクトを使用して生成されてもよい。そのような実施例では、オブジェクト距離加重アレイ７５０はさらに、深度マップに基づいてもよい。深度マップは、画像（または画像のセット）から作成され、各ピクセルの深度を説明してもよい。深度マップを使用して、識別されたオブジェクトは、深度と関連付けられてもよい。次いで、画像ソース（例えば、画像７２０を撮影するコンテンツ捕捉デバイス）により近いオブジェクトは、より高い加重を割り当てられてもよい。
【０１２４】
例えば、おもちゃの家７２８のピクセル群は、おもちゃの家が最も近いオブジェクトであるため、最も高い加重を与えられてもよい。女性７２２、子供７２４、および猫７２６のピクセル群は、これらのオブジェクトが画像ソースから同一の距離に離れているが、おもちゃの家７２８よりも遠く離れているため、おもちゃの家７２８のための加重未満である類似加重を割り当てられてもよい。同様に、おもちゃのトラック７２９のピクセル群は、おもちゃのトラック７２９が最も遠く離れたオブジェクトであるため、識別されたオブジェクトの最小加重を割り当てられてもよい。いくつかの実施例では、オブジェクトを含まない他のピクセル群は、ゼロの加重、またはオブジェクトのピクセル群に割り当てられる加重未満である、ある他のゼロではない加重のいずれかを割り当てられてもよい。
【０１２５】
他の実施例では、各ピクセル群は、オブジェクトが識別されるかどうかにかかわらず、加重を割り当てられてもよい。そのような実施例では、オブジェクトは、各加重が深度マップ内の値に対応し得るため、識別される必要がない。距離に基づいてオブジェクトを加重するための他の方法も使用され得ることを認識されたい。
【０１２６】
別の実施例に関して、オブジェクトサイズ加重アレイ７６０が、１つ以上の識別されたオブジェクトを使用して生成されてもよい。オブジェクトのサイズは、いくつかの異なる方法で算出され得るが、オブジェクトのサイズを決定するための１つの方法は、オブジェクトに関してオブジェクトサイズ加重アレイ７６０内で識別されたピクセル群の数を数えることである。
【０１２７】
いくつかの実施例では、各識別されたオブジェクトのサイズを算出した後、各識別されたオブジェクトのピクセル群は、そのサイズに比例する加重を割り当てられてもよい。例えば、おもちゃの家７２８は、それが最大のオブジェクトであるため、最大加重を与えられてもよい。一例証的実施例では、女性７２２、子供７２４、およびおもちゃのトラック７２９は、それらが全て類似サイズであるため、全て同一の加重を与えられてもよい。そして、猫７２６は、それが最小であるため、最小加重を与えられてもよい。識別されたオブジェクトを含まない他のピクセル群は、ゼロ加重または識別されたオブジェクトのための最小加重よりも小さいゼロではない加重のいずれかを与えられてもよい。
【０１２８】
他の実施例では、各識別されたオブジェクトのサイズを算出した後、各識別されたオブジェクトのピクセル群は、識別されたオブジェクトに関して識別されるピクセル群毎に加重の割合を与えられてもよい。例えば、各ピクセル群が０．１加重に値する場合、４つのピクセル群を伴うオブジェクトは、０．４加重であろう。他の実施例では、各ピクセル群が値する加重の量は、最大のオブジェクトの割合であってもよい。例えば、最大のオブジェクトは、１の加重を与えられてもよい。そして、そのオブジェクトが１０個のピクセル群の大きさである場合、５つのピクセル群を伴うオブジェクトは、０．５加重を与えられてもよい。サイズに基づいてオブジェクトを加重するための他の方法も使用され得ることを認識されたい。
【０１２９】
別の実施例に関して、１つ以上の測光加重アレイが、図２に説明されるように生成されてもよい。一例証的実施例では、中心測光加重アレイ７７０（中心測光加重アレイ２３０に類似する）が、生成されてもよい。
【０１３０】
別の実施例に関して、視線加重アレイ７９０（視線加重アレイ６９０に類似する）が、生成されてもよい。
【０１３１】
いくつかの実施例では、画像７２０はまた、図４で説明されるような焦点レチクルと関連付けられる情報を含んでもよい。焦点レチクルは、単独で、または識別されたオブジェクトと組み合わせて、焦点レチクル加重アレイ７８０（焦点レチクル加重アレイ５３０に類似する）を生成するために使用されてもよい。
【０１３２】
上記で説明されるように、２つ以上の加重アレイが生成された後、２つ以上の加重アレイは、正規化された総加重アレイ７３０を作成するように組み合わせられてもよい。例えば、複数の加重アレイを横断するピクセル群のための加重は、ピクセル群のための更新された加重を生成するように組み合わせられてもよい（例えば、ともに乗算される）。正規化された総加重アレイ７３０は、図１で上記に説明されるように、加重された輝度ピクセル群を算出するように、平均輝度ピクセル群値と組み合わせられてもよい。
いくつかの実施例では、正規化された総加重アレイ７３０は、
【化２】
2020504868.tif 000006
として表されてもよく、式中、Ｎｗは、加重アレイの数である。いくつかの実施例では、総加重アレイの正規化は、１の値を有する最大加重およびｗＴ［ｒ，ｃ］（例えば、０）の最小値を有する最小加重に従って、総加重アレイがスケーリングされるように実施されてもよい。いくつかの実施例では、正規化は、総加重アレイの総和で除算することによって、加重された輝度平均が結果を自動的にスケーリングするため、省略されてもよい。
【０１３３】
図８は、第１の加重モデルを使用する、自動露出制御のためのプロセスの実施形態を図示する、フローチャートである。いくつかの側面では、プロセス８００は、コンピューティングデバイスによって実施されてもよい。
【０１３４】
プロセス８００は、論理フロー図として図示され、その動作は、ハードウェア、コンピュータ命令、またはそれらの組み合わせで実装され得る、一連の動作を表す。コンピュータ命令との関連で、動作は、１つ以上のプロセッサによって実行されると、記載される動作を実施する、１つ以上のコンピュータ可読記憶媒体上に記憶されたコンピュータ実行可能命令を表す。概して、コンピュータ実行可能命令は、特定の機能を果たす、または特定のデータタイプを実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造、および同等物を含む。動作が説明される順序は、限定として解釈されることを意図しておらず、任意の数の説明される動作が、プロセスを実装するように、任意の順序で、および／または並行して組み合わせられてもよい。
【０１３５】
加えて、プロセス８００は、実行可能命令を伴って構成される１つ以上のコンピュータシステムの制御下で実施されてもよく、１つ以上のプロセッサ上で、ハードウェアによって、またはそれらの組み合わせで集合的に実行するコード（例えば、実行可能命令、１つ以上のコンピュータプログラム、または１つ以上のアプリケーション）として実装されてもよい。上記のように、コードは、機械可読記憶媒体上に、例えば、１つ以上のプロセッサによって実行可能な複数の命令を備える、コンピュータプログラムの形態で、記憶されてもよい。機械可読記憶媒体は、非一過性であり得る。
【０１３６】
プロセス８００は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップ（８０５）を含んでもよい。いくつかの実施例では、画像は、複数のピクセルを含んでもよい。いくつかの実施例では、画像は、カメラまたは他のコンテンツ捕捉デバイスから受信されてもよい。他の実施例では、画像は、画像のフィード（またはストリーム）から受信されてもよい。そのような実施例では、フィードは、現在または過去の画像であってもよい。
【０１３７】
プロセス８００はさらに、画像の標的輝度値を識別するステップ（８１０）を含んでもよい。いくつかの実施例では、標的輝度値は、画像の最適な量の輝度を示してもよい。そのような実施例では、画像の各ピクセルは、輝度値と関連付けられてもよい。いくつかの実施例では、標的輝度値は、画像の輝度値の平均に対応してもよい。他の実施例では、標的輝度値は、画像の輝度値の加重された平均に対応してもよい。他の実施例では、標的輝度値は、加重アレイを輝度値で乗算する結果として得られるであろう数に対応してもよい。
【０１３８】
いくつかの実施例では、標的輝度値は、事前に定義されてもよい。他の実施例では、標的輝度値は、１つ以上のセンサに基づいて決定されてもよい。一例証的実施例に関して、センサが、環境内の光の量を検出してもよい。光の量に基づいて、標的輝度値が、設定されてもよい。そのような実施例では、標的輝度値の閾値が存在し得る。例えば、光の量がある量を上回る場合、標的輝度値は、ある量であってもよい。
【０１３９】
プロセス８００はさらに、画像内のオブジェクトを識別するステップ（８１５）を含んでもよい。いくつかの実施例では、オブジェクトは、オブジェクト識別システムを使用して識別されてもよい。そのような実施例では、オブジェクト識別システムは、オブジェクトのタイプ（例えば、個人、動物、建物、または同等物）を識別してもよい。他の実施例では、オブジェクト識別システムは、オブジェクトのタイプ以上のもの（例えば、オブジェクトがＢｉｌｌ  Ｎｙｅであること）を示す、オブジェクトの１つ以上の属性を識別してもよい。いくつかの実施例では、オブジェクト識別システムは、オブジェクトが別のシステム（仮想オブジェクトを設置する場所を決定している複合現実システム等）によって処理されているかどうかを識別してもよい。
【０１４０】
プロセス８００はさらに、画像の複数のピクセルを複数のピクセル群に分割するステップ（８２０）を含んでもよい。いくつかの実施例では、ピクセル群は、ピクセルの近接する（または隣接する／隣り合う）群を表してもよい。そのような実施例では、ピクセル群の形状は、変動し得る。例えば、各ピクセル群は、画像が行および列に分割されるように、長方形または正方形であり得る。他の実施例では、各ピクセル群は、画像の中心からのある数のピクセルを含んでもよい。いくつかの実施例では、異なるピクセル群は、（ピクセル群がオブジェクトを含むように作成される場合）異なる形状であってもよい。いくつかの実施例では、ピクセル群は、異なるサイズであってもよい。いくつかの実施例では、ピクセル群は、２つ以上のピクセル群が重複しているように配列されてもよい。
【０１４１】
プロセス８００はさらに、複数のピクセル群毎にピクセル群輝度値を計算するステップ（８２５）を含んでもよい。いくつかの実施例では、ピクセル群のピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の平均を含んでもよい。他の実施例では、ピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の総和であってもよい。他の実施例では、ピクセル群輝度値は、画像に関して各ピクセルの輝度値と平均輝度値との間の差であってもよい。例えば、平均輝度値は、全ピクセルを考慮して、画像に関して算出されてもよい。平均輝度値は、次いで、平均輝度値からの差がピクセル群に関して生成されるように、ピクセル毎の差を算出するために使用されてもよい。ピクセル群の輝度値の他の概要値も使用され得ることを認識されたい。
【０１４２】
プロセス８００はさらに、オブジェクトと関連付けられないピクセル群の第１のセットを定義するステップ（８３０）を含んでもよい。いくつかの実施例では、ピクセル群の第１のセットは、１つ以上の他のオブジェクトを含んでもよい、および／またはいかなるオブジェクトも含まなくてもよい。いくつかの実施例では、オブジェクトと関連付けられないことは、オブジェクトとして識別されている１つ以上のピクセルのうちのピクセルがピクセル群の第１のセットの中に含まれないことを示してもよい。
【０１４３】
プロセス８００はさらに、ピクセル群の第１のセットの中のピクセル群毎に加重を設定するステップ（８３５）を含んでもよい。いくつかの実施例では、ピクセル群の第１のセットの中のピクセル群毎の加重は、図３で上記に説明されるような表に基づいてもよい。他の実施例では、ピクセル群の第１のセットの中のピクセル群のそれぞれの加重は、オブジェクトがピクセル群の中に含まれないため、自動的にゼロに設定されてもよい。オブジェクトを伴わないピクセル群の加重を決定するための他の方法も使用され得ることを認識されたい。
【０１４４】
プロセス８００はさらに、オブジェクトと関連付けられるピクセル群の第２のセットを定義するステップ（８４０）を含んでもよい。いくつかの実施例では、オブジェクトと関連付けられることは、オブジェクトとして識別されている１つ以上のピクセルのうちのピクセルがピクセル群の第２のセットの中に含まれることを示してもよい。
【０１４５】
プロセス８００はさらに、ピクセル群の第２のセットの中のピクセル群毎に加重を設定するステップ（８４５）を含んでもよい。上記で説明されるものと同様に、ピクセル群の第２のセットの中のピクセル群毎の加重は、図３に関して上記で説明されるような表に基づいてもよい。他の実施例では、ピクセル群の第２のセットの中のピクセル群のそれぞれの加重は、オブジェクトがピクセル群の中に含まれるため、自動的に１に設定されてもよい。オブジェクトを伴うピクセル群の加重を決定するための他の方法も使用され得ることを認識されたい。
【０１４６】
プロセス８００はさらに、複数のピクセル群毎に、加重およびピクセル群輝度値を使用して、画像輝度値を計算するステップ（８５０）を含んでもよい。いくつかの実施例では、画像輝度値を計算するステップは、加重されたピクセル群輝度値のそれぞれを合計するステップを含んでもよく、加重されたピクセル群輝度値は、ピクセル群と関連付けられる加重を、ピクセル群と関連付けられる輝度値で乗算することによって算出されてもよい。
【０１４７】
プロセス８００はさらに、画像輝度値と標的輝度値との間の差を算出するステップ（８５５）と、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップ（８６０）とを含んでもよい。いくつかの実施例では、設定は、利得設定または露出設定であり得る。そのような実施例では、露出設定は、シャッタ速度、ＩＳＯ速度、またはそれらの任意の組み合わせであってもよい。いくつかの実施例では、シャッタ速度は、グローバルシャッタまたはロールシャッタであってもよい。グローバルシャッタは、視野の全てのピクセルを露出するための持続時間を示してもよい。ロールシャッタは、視野の列（水平または垂直のいずれか）を露出するための持続時間を示してもよい。ロールシャッタでは、視野のスナップショットではなく、画像の線が、ローリング様式で走査されてもよい。利得設定は、デジタル利得、アナログ利得、またはそれらの任意の組み合わせであってもよい。例えば、利得設定は、２倍のアナログ利得および４倍のデジタル利得を有することによって、８倍であってもよい。いくつかの実施例では、露出設定は、露出を増加させるときに利得設定の前に調節されてもよい。そのような実施例では、利得設定は、露出を減少させるときに利得設定の前に調節されてもよい。いくつかの実施例では、調節の差は、差に比例し得る。例えば、調節は、画像輝度値と標的輝度値との間の差がより大きい場合に、より大きくあり得る。
【０１４８】
図１に関して上記に説明される、加重された輝度平均方程式を使用して、具体的加重は、加重と関連付けられるアレイを単位元に設定することによって、第１の加重モデルに関して無効にされてもよい。
【０１４９】
図１７は、深度マップを使用する、自動露出制御のためのプロセス１７００の実施形態を図示するフローチャートである。深度マップは、１つ以上の距離を含んでもよく、距離は、１つ以上の距離毎に単一の点から測定される。各距離が、１つ以上のピクセルの中に含まれるコンテンツが単一の点から存在する距離を示すように、各距離は、画像内の１つ以上のピクセルに対応してもよい。
【０１５０】
いくつかの側面では、プロセス１７００は、コンピューティングデバイス（例えば、カメラ等のコンテンツ捕捉デバイス）によって実施されてもよい。プロセス１７００は、論理フロー図として図示され、その動作は、ハードウェア、コンピュータ命令、またはそれらの組み合わせで実装され得る、一連の動作を表す。コンピュータ命令との関連で、動作は、１つ以上のプロセッサによって実行されると、記載される動作を実施する、１つ以上のコンピュータ可読記憶媒体上に記憶されたコンピュータ実行可能命令を表す。概して、コンピュータ実行可能命令は、特定の機能を果たす、または特定のデータタイプを実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造、および同等物を含む。動作が説明される順序は、限定として解釈されることを意図しておらず、任意の数の説明される動作が、プロセスを実装するように、任意の順序で、および／または並行して組み合わせられてもよい。
【０１５１】
加えて、プロセス１７００は、実行可能命令を伴って構成される１つ以上のコンピュータシステムの制御下で実施されてもよく、１つ以上のプロセッサ上で、ハードウェアによって、またはそれらの組み合わせで集合的に実行するコード（例えば、実行可能命令、１つ以上のコンピュータプログラム、または１つ以上のアプリケーション）として実装されてもよい。上記のように、コードは、機械可読記憶媒体上に、例えば、１つ以上のプロセッサによって実行可能な複数の命令を備える、コンピュータプログラムの形態で、記憶されてもよい。機械可読記憶媒体は、非一過性であり得る。
【０１５２】
プロセス１７００は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップ（１７１０）を含んでもよい。いくつかの実施例では、画像は、複数のピクセルを含んでもよい。いくつかの実施例では、画像は、カメラまたは他のコンテンツ捕捉デバイスから受信されてもよい。他の実施例では、画像は、画像のフィード（またはストリーム）から受信されてもよい。そのような実施例では、フィードは、現在または過去の画像であってもよい。
【０１５３】
プロセス１７００はさらに、画像の標的輝度値を識別するステップ（１７２０）を含んでもよい。いくつかの実施例では、標的輝度値は、画像の最適な量の輝度を示してもよい。そのような実施例では、画像の各ピクセルは、輝度値と関連付けられてもよい。いくつかの実施例では、標的輝度値は、画像の輝度値の平均に対応してもよい。他の実施例では、標的輝度値は、画像の輝度値の加重された平均に対応してもよい。他の実施例では、標的輝度値は、加重アレイを輝度値で乗算する結果として得られるであろう数に対応してもよい。
【０１５４】
いくつかの実施例では、標的輝度値は、事前に定義されてもよい。他の実施例では、標的輝度値は、１つ以上のセンサに基づいて決定されてもよい。一例証的実施例に関して、センサが、環境内の光の量を検出してもよい。光の量に基づいて、標的輝度値が、設定されてもよい。そのような実施例では、標的輝度値の閾値が存在し得る。例えば、光の量がある量を上回る場合、標的輝度値は、ある量であってもよい。
【０１５５】
プロセス１７００はさらに、画像の複数のピクセルを複数のピクセル群に分割するステップ（１７３０）を含んでもよい。いくつかの実施例では、ピクセル群は、ピクセルの近接する（または隣接する／隣り合う）群を表してもよい。そのような実施例では、ピクセル群の形状は、変動し得る。例えば、各ピクセル群は、画像が行および列に分割されるように、長方形または正方形であり得る。他の実施例では、各ピクセル群は、画像の中心からのある数のピクセルを含んでもよい。いくつかの実施例では、異なるピクセル群は、（ピクセル群がオブジェクトを含むように作成される場合）異なる形状であってもよい。いくつかの実施例では、ピクセル群は、異なるサイズであってもよい。いくつかの実施例では、ピクセル群は、２つ以上のピクセル群が重複しているように配列されてもよい。
【０１５６】
プロセス１７４０はさらに、複数のピクセル群毎にピクセル群輝度値を計算するステップ（１７４０）を含んでもよい。いくつかの実施例では、ピクセル群のピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の平均を含んでもよい。他の実施例では、ピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の総和であってもよい。他の実施例では、ピクセル群輝度値は、画像に関して各ピクセルの輝度値と平均輝度値との間の差であってもよい。例えば、平均輝度値は、全ピクセルを考慮して、画像に関して算出されてもよい。平均輝度値は、次いで、平均輝度値からの差がピクセル群に関して生成されるように、ピクセル毎の差を算出するために使用されてもよい。ピクセル群の輝度値の他の概要値も使用され得ることを認識されたい。
【０１５７】
プロセス１７００はさらに、画像に対応する深度マップを受信するステップ（１７５０）を含んでもよい。上記で説明されるように、深度マップは、１つ以上の距離を含んでもよく、距離は、１つ以上の距離毎に単一の点から測定される。各距離が、１つ以上のピクセルの中に含まれるコンテンツが単一の点から存在する距離を示すように、各距離は、画像内の１つ以上のピクセルに対応してもよい。
【０１５８】
いくつかの実施例では、深度マップは、上記に説明される画像捕捉と同時に捕捉されてもよい。例えば、画像がコンテンツ捕捉デバイスのための設定を決定するステップと併用するために捕捉される度に、深度マップも捕捉されてもよい。他の実施例では、深度マップは、深度マップが複数の画像のための加重を設定するために使用され得るように、画像が捕捉される前のある時点で捕捉されてもよい。そのような実施例では、深度マップは、画像が捕捉された配向に基づいて、使用されてもよい。例えば、１つ以上の深度マップはそれぞれ、異なる配向に対応してもよい。画像が特定の配向において撮影されるとき、特定の配向に対応する深度マップ（または深度マップの一部）は、コンテンツ捕捉デバイスのための設定を決定するために使用される加重を設定するときに使用されてもよい。
【０１５９】
図７を参照すると、深度マップは、女性７２２、子供７２４、猫７２６、おもちゃの家７２８、およびおもちゃのトラック７２９がそれぞれ、コンテンツ捕捉デバイスから存在する距離を示してもよい。距離は、オブジェクトベースではないが、距離がオブジェクトではなくてピクセルに関するようにピクセルベースであり得ることを認識されたい。また、深度マップは、上記に説明されるものと異なる方法で深度を示し得ることも認識されたい。
【０１６０】
プロセス１７００はさらに、深度マップに基づいて、複数のピクセル群毎に加重を設定するステップ（１７６０）を含んでもよい。加重は、１つ以上のピクセルのより近いセットが、より遠く離れている１つ以上のピクセルのセットよりも高いように設定されてもよい。いくつかの実施例では、加重を設定するステップはさらに、画像からオブジェクトの場所を示すデータに基づいてもよい。例えば、図７に図示されるように、オブジェクト距離加重アレイ７５０内の加重は、オブジェクトと関連付けられるものとして識別されるピクセルのみが加重を与えられるように設定される。他のピクセルもゼロ以上の異なる加重として設定され得ることを認識されたい。いくつかの実施例では、オブジェクトの場所を示すデータは、画像のピクセルを分析し、オブジェクトの記憶された画像の１つ以上のピクセルに合致する、画像の１つ以上のピクセルを識別することによって、決定される。また、距離加重アレイは、加重を設定することの結果であり、距離加重アレイは、画像内で識別されるオブジェクトに基づかないことも認識されたい。また、上記に説明される以外に、深度マップを使用して加重を設定するための他の方法が使用されることも認識されたい。
【０１６１】
プロセス１７００はさらに、複数のピクセル群毎に、加重およびピクセル群輝度値を使用して、画像輝度値を計算するステップ（１７７０）を含んでもよい。いくつかの実施例では、画像輝度値を計算するステップは、加重されたピクセル群輝度値のそれぞれを合計するステップを含んでもよく、加重されたピクセル群輝度値は、ピクセル群と関連付けられる加重を、ピクセル群と関連付けられる輝度値で乗算することによって算出されてもよい。
【０１６２】
プロセス１７００はさらに、画像輝度値と標的輝度値との間の差を算出するステップ（１７８０）と、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップ（１７９０）とを含んでもよい。いくつかの実施例では、設定は、利得設定または露出設定であり得る。そのような実施例では、露出設定は、シャッタ速度、ＩＳＯ速度、またはそれらの任意の組み合わせであってもよい。いくつかの実施例では、シャッタ速度は、グローバルシャッタまたはロールシャッタであってもよい。グローバルシャッタは、視野の全てのピクセルを露出するための持続時間を示してもよい。ロールシャッタは、視野の列（水平または垂直のいずれか）を露出するための持続時間を示してもよい。ロールシャッタでは、視野のスナップショットではなく、画像の線が、ローリング様式で走査されてもよい。利得設定は、デジタル利得、アナログ利得、またはそれらの任意の組み合わせであってもよい。例えば、利得設定は、２倍のアナログ利得および４倍のデジタル利得を有することによって、８倍であってもよい。いくつかの実施例では、露出設定は、露出を増加させるときに利得設定の前に調節されてもよい。そのような実施例では、利得設定は、露出を減少させるときに利得設定の前に調節されてもよい。いくつかの実施例では、調節の差は、差に比例し得る。例えば、調節は、画像輝度値と標的輝度値との間の差がより大きい場合に、より大きくあり得る。
【０１６３】
図９は、自動露出制御（ＡＥＣ）に使用される第２の加重モデルの第１の部分の実施例を図示する。いくつかの実施例では、第２の加重モデルは、画像内の他の全てから独立して、画像の各オブジェクトを取り扱ってもよい。そのような実施例では、学習ベースのモデル（例えば、ニューラルネットワーク、クラスタリング、または同等物）が、画像のオブジェクト（またはオブジェクトのサブセット）毎に使用されてもよい。学習ベースのモデルは、オブジェクトに関してピクセル群毎の加重として使用される値を出力してもよい。加重が画像のオブジェクト毎に生成された後、最終的な加重アレイは、オブジェクト毎に加重アレイのうちの各１つを合計することによって作成されてもよい。これは、加重アレイをともに乗算した、第１の加重モデルと異なる。他の実施例では、学習ベースのモデルが、オブジェクトのピクセル群毎に使用されてもよい。そのような実施例では、プロセスの残りの部分は、オブジェクトの全ピクセル群に使用される単一の値を有するのではなく、値がピクセル群毎に計算されるであろうことを除いて、オブジェクト毎に学習ベースのモデルを有することと同様に実施されるであろう。他の実施例では、学習ベースのモデルが、オブジェクトのための加重（例えば、オブジェクト距離、オブジェクト優先度、測光、または同等物）毎に使用されてもよい。そのような実施例では、単一のオブジェクトのための加重は、第１の加重モデルに関して上記で議論されるように組み合わせられる必要があろう。オブジェクト毎の加重が組み合わせられた後、プロセスの残りの部分は、第２の加重モデルと同様に継続してもよい。
【０１６４】
一例証的実施例では、第２の加重モデルは、１つ以上のニューラルネットワーク（例えば、多層パーセプトロン）を利用し、加重アレイを決定してもよい。いくつかの実施例では、第２の加重モデルは、画像内の１つ以上の識別されたオブジェクト毎にニューラルネットワークを作成してもよい。そのような実施例では、ニューラルネットワークへの入力は、加重アレイに関して上記に説明されるものに類似する加重を含んでもよい。一例証的実施例では、加重は、オブジェクト優先度−｛．１．．．１｝、オブジェクトサイズ−小、中、または大｛．５，．７５，１｝、オブジェクト距離−近、中、遠｛．５，．７５，１｝、測光−縁から中心まで｛．９．．．１｝、焦点レチクル−中、近、または外｛．５，．７５、または１｝、および視線−「ベクトルにある」、「ベクトルの近傍」、または「ベクトルの外」｛．５，．７５，１｝を含んでもよい。
【０１６５】
上記の実施例では、オブジェクト優先度加重は、オブジェクトの優先度を示してもよい。オブジェクトの優先度は、０〜１であってもよい。いくつかの実施例では、優先度は、図３に関して上記で説明されるような表によって定義されてもよい。
【０１６６】
オブジェクトサイズ加重は、オブジェクトのサイズを示してもよい。オブジェクトのサイズは、列挙されたセット（例えば、小、中、または大）のうちの１つであってもよい。いくつかの実施例では、列挙されたセットのうちの各１つに対応するサイズは、事前に定義されてもよい（例えば、オブジェクトが３つ以下のピクセル群の中に含まれる場合、オブジェクトは、小さく、０．５の加重を受容し、オブジェクトが４〜６つのピクセル群の中に含まれる場合、オブジェクトは、中程度であり、０．７５の加重を受容し、オブジェクトが６つ以上のピクセル群の中に含まれる場合、オブジェクトは、大きく、１の加重を受容する）。他の実施例では、オブジェクトのサイズは、単に、オブジェクトが含まれるピクセル群の数であってもよい。
【０１６７】
オブジェクト距離加重は、画像ソース（例えば、コンテンツ捕捉デバイス）からの距離を示してもよい。オブジェクトの距離は、列挙されたセット（例えば、近、中、または遠）のうちの１つであってもよい。いくつかの実施例では、列挙されたセットのうちの各１つに対応する距離は、事前に定義されてもよい（例えば、オブジェクトが画像ソースの１０フィート以内にある場合、オブジェクトは、近傍にあり、０．５の加重を受容し、オブジェクトが画像ソースの１０〜５０フィート以内にある場合、オブジェクトは、中間にあり、０．７５の加重を受容し、オブジェクトが画像ソースから５０フィートを上回る場合、オブジェクトは、遠くにあり、１の加重を受容する）。いくつかの実施例では、距離は、深度捕捉デバイスを使用して生成された深度マップを使用して、算出されてもよい。
【０１６８】
測光加重は、上記で説明されるような１つ以上の測光技法から、オブジェクトと関連付けられる値を示してもよい。例えば、オブジェクトが画像の視野の縁の近傍にある場合、０．９の加重値が割り当てられてもよい。オブジェクトが視野の中心にある場合、１．０の加重値が割り当てられてもよい。
【０１６９】
焦点レチクル加重は、オブジェクトが焦点レチクルに対する場所を示してもよい。焦点レチクルの値は、列挙されたセット（例えば、中、近、または外）のうちの１つであってもよい。いくつかの実施例では、列挙されたセットの値は、事前に定義されてもよい（例えば、オブジェクトが焦点レチクルの内側にある場合、オブジェクトは、中にあり、０．５の加重を受容し、オブジェクトが焦点レチクルに重複する場合、オブジェクトは、近傍にあり、０．７５の加重を受容し、オブジェクトが焦点レチクルの外側にある場合、オブジェクトは、外にあり、１の加重を受容する）。
【０１７０】
視線加重は、オブジェクトに対してユーザが見ている場所を示してもよい。視線の値は、列挙されたセット（例えば、「ベクトルにある」、「ベクトルの近傍」、または「ベクトルの外」）のうちの１つであってもよい。いくつかの実施例では、列挙されたセットの値は、事前に定義されてもよい（例えば、視線がオブジェクトから第２の距離（第１の距離を上回る）にある場合、視線は、「ベクトルの外」にあり、０．５の加重を受容し、視線がオブジェクトから第１の距離に離れている場合、視線は、「ベクトルの近傍」にあり、０．７５の加重を受容し、視線がオブジェクトに向かっている場合、視線は、「ベクトルにあり」、１の加重を受容する）。
【０１７１】
図９を参照すると、第１のオブジェクト（９１０）のための第１のニューラルネットワークが、使用されてもよい。第１のニューラルネットワークに関して、第１のオブジェクトに関して上記に説明される各加重は、入力９２０のうちの入力であってもよい。例えば、オブジェクト優先度加重は、露出加重パラメータ１（９２２）であってもよく、オブジェクトサイズ加重は、露出加重パラメータ２（９２４）であってもよく、視線加重は、露出加重パラメータｎ（９２６）であってもよい。任意の数の加重が、入力９２０として使用され得ることを認識されたい。
【０１７２】
入力９２０は、次いで、隠れ層９３０にパスされてもよい。隠れ層９３０は、１つのレベルとして図示されるが、ニューラルネットワークの実装に応じて、より多くのレベルが存在し得る。隠れ層９３０のレベル毎に、（第１のレベルのための入力９２０であろう）先行するレベルの各値は、レベルのノード（例えば、ノード９３２、ノード９３４、ノード９３６、およびノード９３８）毎にニューラルネットワークによって決定される値で乗算される。各ノードにおいて、関数が、ノードの入力に適用される。隠れ層９３０が完成した後、最終値が、各出力で乗算され、結果は、オブジェクト１露出加重（９２２）を作成するように組み合わせられる。
【０１７３】
図９で見られ得るように、上記で説明されるような類似プロセスが、画像内のオブジェクト（例えば、オブジェクト２ニューラルネットワーク（９５０）およびオブジェクトＭニューラルネットワーク（９６０））毎に実施されてもよい。
【０１７４】
図１０は、自動露出制御（ＡＥＣ）に使用され得る第２の加重モデルの第２の部分の実施例を図示する。第２の部分は、１つ以上のニューラルネットワークが画像内のオブジェクト毎に実施された後に起こることを図示し得る。ニューラルネットワーク（例えば、オブジェクト１ニューラルネットワーク１０３０、オブジェクト２ニューラルネットワーク１０４０、オブジェクト３ニューラルネットワーク１０５０、オブジェクト４ニューラルネットワーク１０６０、およびオブジェクト５ニューラルネットワーク１０７０）はそれぞれ、（上記で説明されるように）単一の値を出力してもよい。単一の値は、ニューラルネットワークと関連付けられるオブジェクトのための加重であってもよい。
【０１７５】
単一の値は、（総加重アレイ１０８０に示されるように）オブジェクトのピクセル群の全てに適用されてもよい。方程式において例証すると、総加重アレイｗＴは、各オブジェクトのニューラルネットワークからの出力の総和であってもよく、例えば、
【化３】
2020504868.tif 000007
であり、式中、Ｎｏは、オブジェクトの数である。
【０１７６】
総加重アレイ１０８０が生成された後、総加重アレイ１０８０は、図１を参照して上記で説明されるように標的と比較されてもよい。加えて、図１に関して上記に説明される、加重された輝度平均方程式を使用して、具体的加重は、加重と関連付けられるアレイをゼロに設定することによって、第２の加重モデルに関して無効にされてもよい。
【０１７７】
図１１は、第２の加重モデルを使用する、自動露出制御（ＡＥＣ）のためのプロセス１１００の実施形態を図示する、フローチャートである。いくつかの側面では、プロセス１１００は、コンピューティングデバイスによって実施されてもよい。
【０１７８】
プロセス１１００は、論理フロー図として図示され、その動作は、ハードウェア、コンピュータ命令、またはそれらの組み合わせで実装され得る、一連の動作を表す。コンピュータ命令との関連で、動作は、１つ以上のプロセッサによって実行されると、記載される動作を実施する、１つ以上のコンピュータ可読記憶媒体上に記憶されたコンピュータ実行可能命令を表す。概して、コンピュータ実行可能命令は、特定の機能を果たす、または特定のデータタイプを実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造、および同等物を含む。動作が説明される順序は、限定として解釈されることを意図しておらず、任意の数の説明される動作が、プロセスを実装するように、任意の順序で、および／または並行して組み合わせられてもよい。
【０１７９】
加えて、プロセス１１００は、実行可能命令を伴って構成される１つ以上のコンピュータシステムの制御下で実施されてもよく、１つ以上のプロセッサ上で、ハードウェアによって、またはそれらの組み合わせで集合的に実行するコード（例えば、実行可能命令、１つ以上のコンピュータプログラム、または１つ以上のアプリケーション）として実装されてもよい。上記のように、コードは、機械可読記憶媒体上に、例えば、１つ以上のプロセッサによって実行可能な複数の命令を備える、コンピュータプログラムの形態で、記憶されてもよい。機械可読記憶媒体は、非一過性であり得る。
【０１８０】
プロセス１１００は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップ（１１０５）を含んでもよい。いくつかの実施例では、画像は、複数のピクセルを含んでもよい。いくつかの実施例では、画像は、カメラまたは他のコンテンツ捕捉デバイスから受信されてもよい。他の実施例では、画像は、画像のフィード（またはストリーム）から受信されてもよい。そのような実施例では、フィードは、現在または過去の画像であってもよい。
【０１８１】
プロセス１１００はさらに、画像の標的輝度値を識別するステップ（１１１０）を含んでもよい。いくつかの実施例では、標的輝度値は、画像の最適な量の輝度を示してもよい。そのような実施例では、画像の各ピクセルは、輝度値と関連付けられてもよい。いくつかの実施例では、標的輝度値は、画像の輝度値の平均に対応してもよい。他の実施例では、標的輝度値は、画像の輝度値の加重された平均に対応してもよい。いくつかの実施例では、標的輝度値は、事前に定義されてもよい。他の実施例では、標的輝度値は、１つ以上のセンサに基づいて決定されてもよい。一例証的実施例に関して、センサが、環境内の光の量を検出してもよい。
【０１８２】
プロセス１１００はさらに、画像内のオブジェクトを識別するステップ（１１１５）を含んでもよい。いくつかの実施例では、オブジェクトは、オブジェクト識別システムを使用して識別されてもよい。そのような実施例では、オブジェクト識別システムは、オブジェクトのタイプ（例えば、個人、動物、建物、または同等物）を識別してもよい。他の実施例では、オブジェクト識別システムは、単なるオブジェクトのタイプ（例えば、オブジェクトがＳｈａｎｉａ  Ｔｗａｉｎであること）以上に、オブジェクトの１つ以上の属性または特性を識別してもよい。いくつかの実施例では、オブジェクト識別システムは、オブジェクトが別のシステム（仮想オブジェクトを設置する場所を決定している複合現実システム等）によって処理されているかどうかを識別してもよい。
【０１８３】
プロセス１１００はさらに、オブジェクトの１つ以上の属性を識別するステップ（１１２０）を含んでもよい。いくつかの実施例では、属性は、加重アレイ、例えば、（図９を参照して説明されるように）オブジェクト優先度、オブジェクトサイズ、オブジェクト距離、測光、焦点レチクル、視線、または同等物に対する加重アレイ等と関連付けられてもよい。そのような実施例では、属性は、オブジェクトのピクセル群のそれぞれの加重の平均を表す、単一の値であってもよい。
【０１８４】
プロセス１１００はさらに、ニューラルネットワークを使用して、オブジェクトのための加重を計算するステップ（１１２５）を含んでもよい。いくつかの実施例では、ニューラルネットワークは、（図９を参照して説明されるように）１つ以上の属性を入力として使用してもよい。そのような実施例では、１つ以上の属性は、単一のオブジェクトと関連付けられてもよい。付加的ニューラルネットワークが、１つ以上の他のオブジェクト（または１つ以上の他のオブジェクトのそれぞれ）に使用されてもよい。他の実施例では、ニューラルネットワークは、複数のオブジェクトと関連付けられてもよい。
【０１８５】
プロセス１１００はさらに、画像の複数のピクセルを複数のピクセル群に分割するステップ（１１３０）を含んでもよい。いくつかの実施例では、ピクセル群は、ピクセルの近接する（または隣接する／隣り合う）群を表してもよい。そのような実施例では、ピクセル群の形状は、変動し得る。例えば、各ピクセル群は、画像が行および列に分割されるように、長方形または正方形であり得る。他の実施例では、各ピクセル群は、画像の中心からのある数のピクセルを含んでもよい。いくつかの実施例では、異なるピクセル群は、（ピクセル群がオブジェクトを含むように作成される場合）異なる形状であってもよい。いくつかの実施例では、ピクセル群は、異なるサイズであってもよい。
【０１８６】
プロセス１１００はさらに、オブジェクトと関連付けられないピクセル群の第１のセットを定義するステップ（１１３５）を含んでもよい。いくつかの実施例では、ピクセル群の第１のセットは、１つ以上の他のオブジェクトを含んでもよい、および／またはいかなるオブジェクトも含まなくてもよい。いくつかの実施例では、オブジェクトと関連付けられないことは、オブジェクトとして識別されている１つ以上のピクセルのうちのピクセルがピクセル群の第１のセットの中に含まれないことを示してもよい。
【０１８７】
プロセス１１００はさらに、オブジェクトと関連付けられるピクセル群の第２のセットを定義するステップ（１１４０）を含んでもよい。いくつかの実施例では、オブジェクトと関連付けられることは、オブジェクトとして識別されている１つ以上のピクセルのうちのピクセルがピクセル群の第２のセットの中に含まれることを示してもよい。
【０１８８】
プロセス１１００はさらに、ピクセル群の第２のセットのうちのピクセル群毎に、ピクセル群輝度値を計算するステップ（１１４５Ａ）を含んでもよい。いくつかの実施例では、ピクセル群のピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の平均を含んでもよい。他の実施例では、ピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の総和であってもよい。他の実施例では、ピクセル群輝度値は、画像に関して各ピクセルの輝度値と平均輝度値との間の差であってもよい。例えば、平均輝度値は、全ピクセルを考慮して、フレームに関して算出されてもよい。平均輝度値は、次いで、平均輝度値からの差がピクセル群に関して生成されるように、ピクセル毎の差を算出するために使用されてもよい。ピクセル群の輝度値の他の概要値も使用され得ることを認識されたい。
【０１８９】
加えて、プロセス１１００はさらに、ピクセル群の第２のセットのうちのピクセル群毎に、ピクセル群輝度値を加重で乗算し、加重されたピクセル群輝度値を提供するステップ（１１４５Ｂ）を含んでもよい。いくつかの実施例では、加重は、オブジェクトと関連付けられるピクセル群毎に同一であり得る。
【０１９０】
プロセス１１００はさらに、画像の総輝度値を計算するステップ（１１５０）を含んでもよい。いくつかの実施例では、総輝度値は、加重されたピクセル群輝度値の総和を含んでもよい。いくつかの実施例では、画像輝度値を計算するステップは、加重されたピクセル群輝度値のそれぞれを合計するステップを含んでもよく、加重されたピクセル群輝度値は、ピクセル群と関連付けられる加重を、ピクセル群と関連付けられる輝度値で乗算することによって算出されてもよい。
【０１９１】
プロセス１１００はさらに、総輝度値と標的輝度値との間の差を算出するステップ（１１５５）と、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップ（１１６０）とを含んでもよい。いくつかの実施例では、設定は、利得設定または露出設定であり得る。そのような実施例では、露出設定は、シャッタ速度、ＩＳＯ速度、またはそれらの任意の組み合わせであってもよい。いくつかの実施例では、シャッタ速度は、グローバルシャッタまたはロールシャッタであってもよい。グローバルシャッタは、視野の全てのピクセルを露出するための持続時間を示してもよい。ロールシャッタは、視野の列（水平または垂直のいずれか）を露出するための持続時間を示してもよい。ロールシャッタでは、視野のスナップショットではなく、画像の線が、ローリング様式で走査されてもよい。利得設定は、デジタル利得、アナログ利得、またはそれらの任意の組み合わせであってもよい。例えば、利得設定は、２倍のアナログ利得および４倍のデジタル利得を有することによって、８倍であってもよい。いくつかの実施例では、露出設定は、露出を増加させるときに利得設定の前に調節されてもよい。そのような実施例では、利得設定は、露出を減少させるときに利得設定の前に調節されてもよい。いくつかの実施例では、調節の量は、差に比例し得る。例えば、調節は、画像輝度値と標的輝度値との間の差がより大きい場合に、より大きくあり得る。
【０１９２】
図１８は、複数のモデルを使用する、自動露出制御のためのプロセス１８００の実施形態を図示するフローチャートである。複数のモデルを使用するとき、複数のモデルのうちの２つ以上のものは、同一または異なるタイプのモデルであってもよい。例えば、複数のニューラルネットワーク（図９−１１で上記に説明されるような）が、使用されてもよい。複数のモデルが（本図に従って）、使用されるとき、複数のモデルはそれぞれ、複数のモデルのそれぞれと関連付けられる加重が重複しないように、画像の特定の部分のための加重を提供してもよい。
【０１９３】
いくつかの側面では、プロセス１８００は、コンピューティングデバイスによって実施されてもよい。プロセス１８００は、論理フロー図として図示され、その動作は、ハードウェア、コンピュータ命令、またはそれらの組み合わせで実装され得る、一連の動作を表す。コンピュータ命令との関連で、動作は、１つ以上のプロセッサによって実行されると、記載される動作を実施する、１つ以上のコンピュータ可読記憶媒体上に記憶されたコンピュータ実行可能命令を表す。概して、コンピュータ実行可能命令は、特定の機能を果たす、または特定のデータタイプを実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造、および同等物を含む。動作が説明される順序は、限定として解釈されることを意図しておらず、任意の数の説明される動作が、プロセスを実装するように、任意の順序で、および／または並行して組み合わせられてもよい。
【０１９４】
加えて、プロセス１８００は、実行可能命令を伴って構成される１つ以上のコンピュータシステムの制御下で実施されてもよく、１つ以上のプロセッサ上で、ハードウェアによって、またはそれらの組み合わせで集合的に実行するコード（例えば、実行可能命令、１つ以上のコンピュータプログラム、または１つ以上のアプリケーション）として実装されてもよい。上記のように、コードは、機械可読記憶媒体上に、例えば、１つ以上のプロセッサによって実行可能な複数の命令を備える、コンピュータプログラムの形態で、記憶されてもよい。機械可読記憶媒体は、非一過性であり得る。
【０１９５】
プロセス１８００は、コンテンツ捕捉デバイスによって捕捉される画像を受信するステップ（１８０２）を含んでもよい。いくつかの実施例では、画像は、複数のピクセルを含んでもよい。いくつかの実施例では、画像は、カメラまたは他のコンテンツ捕捉デバイスから受信されてもよい。他の実施例では、画像は、画像のフィード（またはストリーム）から受信されてもよい。そのような実施例では、フィードは、最近撮影されたかまたは記憶されたかのいずれかである画像であってもよい。
【０１９６】
プロセス１８００はさらに、画像の標的輝度値を識別するステップ（１８０４）を含んでもよい。いくつかの実施例では、標的輝度値は、画像の最適な量の輝度を示してもよい。そのような実施例では、画像の各ピクセルは、輝度値と関連付けられてもよい。いくつかの実施例では、標的輝度値は、画像の輝度値の平均に対応してもよい。他の実施例では、標的輝度値は、画像の輝度値の加重された平均に対応してもよい。いくつかの実施例では、標的輝度値は、事前に定義されてもよい。他の実施例では、標的輝度値は、１つ以上のセンサに基づいて決定されてもよい。一例証的実施例に関して、センサが、環境内の光の量を検出してもよい。
【０１９７】
プロセス１８００はさらに、画像の複数のピクセルを複数のピクセル群に分割するステップ（１８０６）を含んでもよい。いくつかの実施例では、ピクセル群は、ピクセルの近接する（または隣接する／隣り合う）群を表してもよい。そのような実施例では、ピクセル群の形状は、変動し得る。例えば、各ピクセル群は、画像が行および列に分割されるように、長方形または正方形であり得る。他の実施例では、各ピクセル群は、画像の中心からのある数のピクセルを含んでもよい。いくつかの実施例では、異なるピクセル群は、（ピクセル群がオブジェクトを含むように作成される場合）異なる形状であってもよい。いくつかの実施例では、ピクセル群は、異なるサイズであってもよい。
【０１９８】
プロセス１８００はさらに、画像内の複数のパッチを識別するステップ（１８０８）を含んでもよい。複数のパッチは、第１のパッチと、第２のパッチとを含んでもよい。各パッチは、１つ以上のピクセル群を含んでもよい。いくつかの実施例では、いくつかのパッチは、他のパッチよりも多いまたは少ないピクセル群を含んでもよい。いくつかの実施例では、パッチは、画像のコンテンツに基づいて識別されてもよい。例えば、１つ以上のオブジェクトは、各パッチが異なるオブジェクトのピクセルを含む、画像内で識別されてもよい。他の実施例では、各パッチは、１つ以上のピクセルのセットであってもよく、各セットは、どのような画像が受信されても使用される。パッチを識別するための他の方法も使用され得ることを認識されたい。
【０１９９】
プロセス１８００はさらに、第１のパッチのための１つ以上の加重を計算するステップ（１８１０）を含んでもよい。第１のパッチのための１つ以上の加重は、第１のモデルを使用して計算されてもよい。第１のモデルは、オブジェクト優先度加重アレイ、オブジェクトサイズ加重アレイ、オブジェクト距離加重アレイ、測光加重アレイ、焦点レチクル加重アレイ、視線加重アレイ、第１のパッチの中に含まれるコンテンツに基づくニューラルネットワーク、または同等物等の本明細書に説明される任意のモデルであってもよい。
【０２００】
プロセス１８００はさらに、第２のパッチのための１つ以上の加重を計算するステップ（１８１２）を含んでもよい。第２のパッチのための１つ以上の加重は、第２のモデルを使用して計算されてもよく、これは、第１のモデルと同一であるモデルであり得るかまたは第１のモデルと異なるモデルであり得る。２つを上回るモデルが使用され得ることを認識されたい。また、あるパッチが、同一のモデルを使用し得る一方で、同一の画像内の他のパッチは、異なるモデルを使用し得ることも認識されたい。そのような場合において、共通する１つ以上の特定の特性を有することが決定されるパッチは、最終的に同一のモデルを使用してもよい。
【０２０１】
プロセス１８００はさらに、ピクセル群の第２のセットのうちのピクセル群毎に、ピクセル群輝度値を計算するステップ（１８１４）を含んでもよい。いくつかの実施例では、ピクセル群のピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の平均を含んでもよい。他の実施例では、ピクセル群輝度値は、ピクセル群のピクセル毎に輝度値の総和であってもよい。他の実施例では、ピクセル群輝度値は、画像に関して各ピクセルの輝度値と平均輝度値との間の差であってもよい。例えば、平均輝度値は、全ピクセルを考慮して、フレームに関して算出されてもよい。平均輝度値は、次いで、平均輝度値からの差がピクセル群に関して生成されるように、ピクセル毎の差を算出するために使用されてもよい。ピクセル群の輝度値の他の概要値も使用され得ることを認識されたい。
【０２０２】
加えて、プロセス１８００はさらに、ピクセル群の第２のセットのうちのピクセル群毎に、ピクセル群のピクセル群輝度値をピクセル群のための加重で乗算し、加重されたピクセル群輝度値を提供するステップ（１８１６）を含んでもよい。いくつかの実施例では、加重は、オブジェクトと関連付けられるピクセル群毎に同一であり得る。
【０２０３】
プロセス１８００はさらに、画像の総輝度値を計算するステップ（１８１８）を含んでもよい。いくつかの実施例では、総輝度値は、加重されたピクセル群輝度値の総和を含んでもよい。いくつかの実施例では、画像輝度値を計算するステップは、加重されたピクセル群輝度値のそれぞれを合計するステップを含んでもよく、加重されたピクセル群輝度値は、ピクセル群と関連付けられる加重を、ピクセル群と関連付けられる輝度値で乗算することによって算出されてもよい。
【０２０４】
プロセス１８００はさらに、総輝度値と標的輝度値との間の差を算出するステップ（１８２０）と、算出された差に基づいて、コンテンツ捕捉デバイスの設定を更新するステップ（１８２２）とを含んでもよい。いくつかの実施例では、設定は、利得設定または露出設定であり得る。そのような実施例では、露出設定は、シャッタ速度、ＩＳＯ速度、またはそれらの任意の組み合わせであってもよい。いくつかの実施例では、シャッタ速度は、グローバルシャッタまたはロールシャッタであってもよい。グローバルシャッタは、視野の全てのピクセルを露出するための持続時間を示してもよい。ロールシャッタは、視野の列（水平または垂直のいずれか）を露出するための持続時間を示してもよい。ロールシャッタでは、視野のスナップショットではなく、画像の線が、ローリング様式で走査されてもよい。利得設定は、デジタル利得、アナログ利得、またはそれらの任意の組み合わせであってもよい。例えば、利得設定は、２倍のアナログ利得および４倍のデジタル利得を有することによって、８倍であってもよい。いくつかの実施例では、露出設定は、露出を増加させるときに利得設定の前に調節されてもよい。そのような実施例では、利得設定は、露出を減少させるときに利得設定の前に調節されてもよい。いくつかの実施例では、調節の量は、差に比例し得る。例えば、調節は、画像輝度値と標的輝度値との間の差がより大きい場合に、より大きくあり得る。
【０２０５】
図１２Ａは、画像スティッチングプロセス１２００を図示する。いくつかの実施例では、画像スティッチングプロセス１２００は、自動露出制御（ＡＥＣ）の複数のインスタンスを含んでもよく、各インスタンスは、同一または異なる１つ以上の設定を調節する。そして、ＡＥＣインスタンスが使用されるため、上記で議論される第１および第２の加重モデルを含む、任意の加重モデルが、使用されてもよい。いくつかの実施例では、画像スティッチングプロセス１２００は、２つ以上の画像を組み合わせる出力画像１２０４を作成してもよい。そのような実施例では、画像スティッチングプロセス１２００は、ＡＥＣの複数のインスタンスのそれぞれからの調節に基づいて捕捉された画像を組み合わせてもよい。例えば、１つ以上の設定がＡＥＣのインスタンスに起因して設定された後、１つ以上の設定がＡＥＣの他のインスタンスに起因して設定された後に同様に捕捉された他の画像と組み合わせられる、画像が捕捉されてもよい。
【０２０６】
いくつかの実施例では、コンテンツ捕捉デバイス１２１０は、高ダイナミックレンジ（ＨＤＲ）モードで構成されてもよい。ＨＤＲモードは、類似場面の複数の画像を捕捉し、複数の画像をともにスティッチングすることを促進してもよい。そのような実施例では、ＨＤＲモードは、１つ以上の設定を特定の画像に関して変更させる能力を含んでもよい。従来的なＨＤＲモードでは、コンテンツ捕捉デバイスと関連付けられるソフトウェアおよび／またはハードウェアは、３つまたは５つのフレームのシーケンスのための露出値（例えば、時として、ＥＶと略されることもある、コンテンツ捕捉デバイスのシャッタ速度およびｆ値の組み合わせを表す数）を＋／−１ＥＶまたは＋／−１ＥＶおよび＋／−３Ｅだけ自動的に調節するようにプログラムされてもよい。いくつかの実施例では、ＥＶは、事前決定されたサイズの露出ステップであってもよい。例えば、３フレームＨＤＲモードは、第１のフレームに関してＥＶを−１に、第２のフレームに関して０、第３のフレームに関して＋１に調節してもよい。そのような実施例では、従来的なＨＤＲモードは、画像のコントラストを増加させようとして、固定量だけ露出を無思慮に調節してもよい。本明細書に説明されるオブジェクトベースの露出方法は、画像内のオブジェクトの数のための適切な設定を提供することができる。例えば、３フレームＨＤＲモードは、第１のフレームのための第１のオブジェクトに関して、第２のフレーム内の第２のオブジェクトに関して、第３のフレーム内の残りのオブジェクトに関して、ＥＶを調節してもよい。
【０２０７】
いくつかの実施例では、ＡＥＣインスタンスは、画像の１つ以上のオブジェクトと関連付けられてもよい。そのような実施例では、ＡＥＣインスタンスは、１つ以上のオブジェクトのためのコンテンツ捕捉デバイス１２１０の１つ以上の設定を更新することを決定してもよい。いくつかの実施例では、ＡＥＣの各インスタンスは、インスタンスからの更新がインスタンスの１つ以上のオブジェクトのためにカスタマイズされるように、異なる画像および異なる１つ以上のオブジェクトと関連付けられてもよい。そのような実施例では、異なる更新（異なる１つ以上のオブジェクトのための各更新）を使用して捕捉される画像は、異なるオブジェクトのために個別かつ別個にカスタマイズされる画像を作成するように組み合わせられてもよい。
【０２０８】
いくつかの実施例では、画像スティッチングプロセス１２００は、コンテンツ捕捉デバイス１２１０からの３つの画像（例えば、画像ｎ（１２１２）、画像ｎ＋１（１２１４）、および画像ｎ＋２（１２１６））を受信するステップを含んでもよい。３つの画像は、一度に、または連続的に受信されてもよい。加えて、３つを上回るまたは下回る画像が、受信され得ることを認識されたい。
【０２０９】
いくつかの実施例では、３つの画像は、画像コントローラ１２２０によって受信されてもよい。画像コントローラ１２２０は、画像を送信するＡＥＣインスタンスを決定してもよい。いくつかの実施例では、画像コントローラ１２２０は、画像が受信されるとループで画像をＡＥＣインスタンスに送信してもよい。例えば、ループは、第１の画像（例えば、画像ｎ（１２１２））を第１のＡＥＣインスタンス１２３０に送信させ、第２の画像（例えば、画像ｎ＋１（１２１４））を第２のＡＥＣインスタンス１２４０に送信させ、第３の画像（例えば、画像ｎ＋２（１２１６））を第３のＡＥＣインスタンス１２５０に送信させてもよい。ループの順序を使用して、第４の画像が、（第１の画像と同様に）第１のＡＥＣインスタンス１２３０に送信されてもよく、第５の画像が、（第２の画像と同様に）第２のＡＥＣインスタンス１２４０に送信されてもよく、第６の画像が、（第３の画像と同様に）第３のＡＥＣインスタンス１２５０に送信されてもよい。
【０２１０】
画像内のオブジェクトは、より多いまたは少ない画像が１つの完全なループの中に含まれるように、より大きいまたは小さい群に分割され得ることを認識されたい。例えば、サイズ２のループは、第３の画像を第３のＡＥＣインスタンスではなくて第１のＡＥＣインスタンスに送信させるであろう。いくつかの実施例では、画像スティッチングプロセス１２００の画像は、画像が容易にともに組み合わせられ得るように、近似的に同一の場面と関連付けられてもよい。
【０２１１】
いくつかの実施例では、第１のＡＥＣインスタンス１２３０は、第１の画像から１つ以上の第１のオブジェクトのための１つ以上の第１の設定１２３２（例えば、露出設定、利得設定、またはそれらの任意の組み合わせ）を決定してもよい。１つ以上の第１の設定１２３２は、将来の画像に使用されるようにコンテンツ捕捉デバイス１２１０に送信されてもよい。いくつかの実施例では、将来の画像は、次の画像であってもよい。他の実施例では、将来の画像は、ＡＥＣインスタンスの数に基づいてもよい。例えば、３つのＡＥＣインスタンスがある場合、将来の画像は、将来に３つの画像であり得る。
【０２１２】
いくつかの実施例では、第２のＡＥＣインスタンス１２４０は、第２の画像から１つ以上の第２のオブジェクトのための１つ以上の第２の設定１２４２（例えば、露出設定、利得設定、またはそれらの任意の組み合わせ）を決定してもよい。そのような実施例では、第２の画像は、第１の画像の前または後に捕捉されてもよい。１つ以上の第２の設定１２４２は、第１のＡＥＣインスタンスに関して上記で説明されるように同様に、将来の画像に使用されるようにコンテンツ捕捉デバイス１２１０に送信されてもよい。
【０２１３】
いくつかの実施例では、第３のＡＥＣインスタンス１２５０は、第３の画像から１つ以上の第３のオブジェクトのための１つ以上の第３の設定１２５２（例えば、露出設定、利得設定、またはそれらの任意の組み合わせ）を決定してもよい。そのような実施例では、第３の画像は、第２の画像の前または後に捕捉されてもよい。１つ以上の第３の設定１２５２は、第１のＡＥＣインスタンスに関して上記で説明されるように同様に、将来の画像に使用されるようにコンテンツ捕捉デバイス１２１０に送信されてもよい。
【０２１４】
いくつかの実施例では、ＡＥＣインスタンスからのコンテンツ捕捉デバイス１２１０への調節後、コンテンツ捕捉デバイス１２１０は、画像コントローラ１２２０に送信される画像を捕捉し続けてもよい。そのような実施例では、調節が行われると、新しい画像が、特定のオブジェクトのために最適化されてもよく、それによって、画像のための露出を漸増的に改良する。
【０２１５】
いくつかの実施例では、画像コントローラ１２２０はまた、画像を画像スティッチャ１２０２に送信してもよい。画像スティッチャ１２０２は、識別されたオブジェクトに基づいて画像を組み合わせてもよい。例えば、画像スティッチャ１２０２は、１つ以上の第１のオブジェクトのために最適化された第１の画像、１つ以上の第２のオブジェクトのために最適化された第２の画像、および第１および第２のオブジェクトに含まれない他の部分のために最適化された第３の画像および／または全体として第３の画像を受信してもよい。そのような実施例では、画像スティッチャ１２０２は、１つ以上の第１のオブジェクトと関連付けられる第１の画像の部分、１つ以上の第２のオブジェクトと関連付けられる第２の画像の部分、および第３の画像の部分を使用し、出力画像１２０４を作成してもよい。
【０２１６】
いくつかの実施例では、画像スティッチャ１２０２は、ＡＥＣインスタンスの数に対応する画像の数のために画像をともにスティッチングする前に、待機してもよい。例えば、３つのＡＥＣインスタンスがある場合、画像スティッチャ１２０２は、画像を組み合わせる（またはスティッチングする）前に３つの画像を受信するまで待機してもよい。
【０２１７】
いくつかの実施例では、画像スティッチャ１２０２は、識別されたオブジェクトおよびそれらの相対的優先度を認識してもよい。そのような実施例では、画像スティッチャ１２０２は、識別されたオブジェクトおよびそれらの相対的優先度に基づいて、出力画像１２０４を出力してもよい。例えば、画像スティッチャ１２０２は、最初に、低優先度部分を生成し、次いで、低優先度部分の上に高優先度部分を生成してもよい。換言すると、高優先度オブジェクトのために調節される画像は、低優先オブジェクトのために調節される画像の上にオーバーレイされる。いくつかの実施例では、画像スティッチャ１２０２は、画像を生成してもよい。そのような実施例では、画像スティッチャ１２０２は、割り当てられた優先度を伴う３つの画像で動作するようにプログラムされてもよい。ＡＥＣが３つの画像のそれぞれを受け入れると、画像スティッチャ１２０２は、漸進的により良いスティッチングされた画像を生成してもよい。スティッチングされた画像は、オブジェクトが最適化されていない画像ではなくてスティッチングされた画像内で識別されるように、オブジェクト識別システムへの入力として（例えば、コンテンツ捕捉デバイスのビューファインダ内または遠隔ディスプレイ上で）ユーザに表示するため、または後で使用するためにメモリ（ローカルまたはコンテンツ捕捉デバイスから遠隔にある）の中に記憶するためを含む、種々の方法で使用されてもよい。
【０２１８】
本発明のある実施形態によると、方法が提供される。本方法は、コンテンツ捕捉デバイスによって捕捉される第１の画像を受信するステップと、第１の画像内の第１のオブジェクトを識別するステップと、コンテンツ捕捉デバイスの第１の設定への第１の更新を決定するステップであって、第１の更新は、第１のオブジェクトに関して決定される、ステップとを含む。本方法はまた、コンテンツ捕捉デバイスによって捕捉される第２の画像を受信するステップであって、第２の画像は、第１の画像の後に捕捉される、ステップと、第２の画像内の第２のオブジェクトを識別するステップと、コンテンツ捕捉デバイスの第２の設定への第２の更新を決定するステップであって、第２の更新は、第２のオブジェクトに関して決定される、ステップとを含む。本方法はさらに、コンテンツ捕捉デバイスの第１の設定への第１の更新を実施するステップと、コンテンツ捕捉デバイスによって捕捉される第３の画像を受信するステップであって、第３の画像は、第１の更新が実施された後に捕捉される、ステップと、コンテンツ捕捉デバイスの第２の設定への第２の更新を実施するステップとを含む。本方法は、加えて、コンテンツ捕捉デバイスによって捕捉される第４の画像を受信するステップであって、第４の画像は、第２の更新が実施された後に捕捉される、ステップと、第３の画像および第４の画像を単一の画像に組み合わせるステップとを含む。
【０２１９】
実施例として、第１の設定および第２の設定は、露出または利得と関連付けられることができる。第１の設定は、第２の設定であり得る。また、第３の画像および第４の画像は、画像スティッチャを使用して組み合わせられることができる。第１の更新は、ニューラルネットワークを使用して決定されることができる。実施形態では、第１の更新は、第２の更新と異なる。例えば、第１の画像および第２の画像は、同一の視野を有することができる。
【０２２０】
図１２Ｂは、自動露出制御の複数のインスタンスを使用し得る、画像スティッチングプロセスの別の実施例を図示する。図１２Ｂに図示されるプロセスは、図１２Ａに図示されるものといくつかの類似性を共有し、図１２Ａに関して提供される説明は、適宜、図１２Ｂに適用可能である。図１２Ｂを参照すると、コンテンツ捕捉デバイス１２１０（明確にする目的のために図１２Ｂではカメラとして参照される）が、第１の画像（画像Ｎ１２６１）を捕捉するために使用される。
【０２２１】
画像Ｎ１２６１は、画像コントローラ１２２０に提供される。画像コントローラ１２２０は、画像Ｎ内の最大で事前決定された数の優先オブジェクトを識別し、事前決定された数は、２以上である。実施例として、２〜５つの優先オブジェクトが、実施形態では識別されることができる。図１２Ｂに図示される実施例は、複合画像１２６６内の３つの優先オブジェクト１２６７、１２６８、および１２６９を使用する。画像１２６６は、３つの優先オブジェクトを有してもよく、なぜなら、１）それが許容される最大値である（すなわち、事前決定された数の優先オブジェクトが３つであり、たとえ３つを上回る潜在的優先オブジェクトが識別されたとしても、上位３つのオプションのみが選択された）、または２）たとえ最大値に達しなくても（例えば、事前決定された数の優先オブジェクトが５つであった）、優先オブジェクトと見なされ得る３つだけのオブジェクトが画像内で識別された、または３）本システムが、場面に含有されるものにかかわらず、常に事前決定された数の優先オブジェクトを返すであろう（すなわち、本システムが３の選択を強制するであろう）からである。３つの優先オブジェクトが図１２Ｂに図示されるが、より少数（例えば、２）またはより多数（例えば、４以上の）が、本発明の実施形態で利用され得ることが、当業者に明白であろう。いくつかの実施例では、優先オブジェクトのセットが、第１の画像内で識別される優先オブジェクトのより大きいセットから使用するために選択される。システムの複雑性および計算の負担を削減するために、優先オブジェクトの数は、所与の数、例えば、最大で５つの優先オブジェクトに限定されてもよい。
【０２２２】
画像コントローラ１２２０は、画像を複数のＡＥＣインスタンス１２３０、１２４０、および１２５０に送信し、ＡＥＣインスタンスの数は、識別される優先オブジェクトの数に等しい。いくつかの実施例では、画像コントローラ１２２０は、連続的様式で画像ＮをＮ個のＡＥＣインスタンスに同時に送信してもよい。
【０２２３】
ＡＥＣインスタンスは、事前決定された数の優先オブジェクト毎に、コンテンツ捕捉デバイスの１つ以上の設定のための更新を決定するために使用される。図１２Ｂに図示されるように、画像Ｎ１２６１は、１つ以上の設定のための更新を決定するように、３つの異なるＡＥＣインスタンス１２３０、１２４０、および１２５０を使用して分析されることができ、更新はそれぞれ、優先オブジェクトのうちの１つに合わせてカスタマイズされる。故に、ＡＥＣインスタンスは、コンテンツ捕捉デバイスのための設定を決定するために使用され、各ＡＥＣインスタンスは、特定の優先オブジェクトのうちの１つに合わせてカスタマイズされる機能を果たす。設定は、露出設定、利得設定、またはそれらの任意の組み合わせであってもよい。
【０２２４】
反復プロセスが、次いで、実施され、反復の数は、事前決定された数と等しい。図１２Ｂに図示されるように、コンテンツ捕捉デバイスが、事前決定された数の更新（すなわち、３つの更新）のそれぞれを使用して更新されると、画像Ｎ＋１、Ｎ＋２、およびＮ＋３のセットが、捕捉される。第１の画像は、第１の優先オブジェクトに合わせてカスタマイズされ、実施形態では、第１の優先オブジェクトのための最適化された露出設定を提供する。反復様式で、コンテンツ捕捉デバイスは、コンテンツ捕捉デバイスの１つ以上の設定のための次の更新を使用して更新され、次の画像が、取得される。本プロセスは、事前決定された数の画像が捕捉されるまで、更新毎に継続する。したがって、図１２Ｂでは、画像Ｎ＋１、Ｎ＋２、およびＮ＋３のセットはそれぞれ、個別の優先オブジェクト１２６７、１２６８、および１２６９に合わせてカスタマイズされる（例えば、最適化される）１つ以上の設定を使用して、捕捉される。当然ながら、３つを上回る設定および画像が、捕捉されることができる。
【０２２５】
当業者に明白であろうように、画像１２６５のセットはそれぞれ、事前決定された数の優先オブジェクトのそれぞれと関連付けられる一部を含むであろう。実施例として、画像Ｎ＋１は、優先オブジェクト１２６７と関連付けら得、画像Ｎ＋２は、優先オブジェクト１２６８と関連付けら得、画像Ｎ＋３は、優先オブジェクト１２６９と関連付けられ得る。特定の優先オブジェクトに合わせてカスタマイズされる（例えば、最適化される）設定を使用して、それぞれ捕捉される、画像のセットは、画像スティッチャ１２６０に提供される。画像スティッチャ１２６０は、事前決定された数の画像（すなわち、画像１２６５のセット）を複合画像１２６６にともにスティッチングするために使用される。図１２Ｂに図示されるように、画像１２６５のセットは、優先オブジェクトのうちの１つと関連付けられる各画像の部分を抽出するために使用されることができ、これらの部分は、次いで、部分を単一の画像に組み合わせる複合画像１２６６を形成するように、ともにスティッチングされることができる。画像のセットのそれぞれの一部分が、優先オブジェクトのうちの１つのために最適化されるため、単一の画像は、各優先オブジェクトの最適化された画像を含むであろう。複合画像は、次いで、ユーザに表示されることができる。また、いくつかの実装では、画像コントローラ１２２０および画像スティッチャ１２６０の機能性は、単一のマスタ画像処理ユニットにおいて組み合わせられることができる。
【０２２６】
図１２Ｃは、自動露出制御の複数のインスタンスを使用するためのプロセスの実施形態を図示するフローチャートである。方法１２７０は、コンテンツ捕捉デバイスから画像を受信するステップ（１２７２）と、画像内の事前決定された数（ｎ）の優先オブジェクトを識別するステップ（１２７４）とを含む。実施形態では、識別された優先オブジェクトは、画像内の上位ｎ個の優先オブジェクトであることができる。３つの優先オブジェクトが図１２Ｂに図示されるが、本発明の実施形態は、３に限定されず、ｎは、３よりも大きくあり得るかまたは３未満であり得る。本方法はまた、優先オブジェクト１のためのコンテンツ捕捉デバイスの設定を決定するステップ（１２７６）と、優先オブジェクト２のためのコンテンツ捕捉デバイスの設定を決定するステップ（１２７８）と、優先オブジェクトｎのためのコンテンツ捕捉デバイスの設定を決定するステップ（１２８０）とを含む。実施例として、１つ以上の設定とも称される設定は、それらが着目優先オブジェクトの望ましい（例えば、最良の）露出をもたらす露出値を提供するという意味で、最適化された設定であることができる。図１２Ｂに図示されるように、ＡＥＣインスタンス１２３０、１２４０、および１２５０は、露出設定、利得設定、またはそれらの任意の組み合わせを含み得る、これらの設定を提供するために利用されることができる。
【０２２７】
１つ以上の第１の設定は、設定を調節するために、コンテンツ捕捉デバイスに送信されてもよい。故に、コンテンツ捕捉デバイスのための設定は、優先オブジェクト１（１２８２）、優先オブジェクト２（１２８４）、および優先オブジェクト３（１２８６）のために調節される。更新された設定のセットを使用して、画像のセットが、コンテンツ捕捉デバイスを使用して捕捉される。優先オブジェクト１のために適合される画像が、捕捉され（１２８８）、優先オブジェクト２のために適合される画像が、捕捉され（１２９０）、優先オブジェクト３のために適合される画像が、捕捉される（１２９２）。これらの新しい画像が特定の優先オブジェクトのために最適化されるため、これらの画像のそれぞれのための露出は、各優先オブジェクトに関して改良される。
【０２２８】
本方法はまた、画像のセットの部分をともにスティッチングし、優先オブジェクト１からｎ  １２９４のために適合される複合画像を形成するステップも含む。したがって、図１２Ｂに図示される画像スティッチャ１２０２は、第１の優先オブジェクトと関連付けられる第１の画像の一部、第２の優先オブジェクトと関連付けられる第２の画像の一部、および第３の優先オブジェクトと関連付けられる第３の画像の一部を使用し、単一の画像１２６６を作成してもよい。図１２Ａの画像スティッチングに関連する説明は、適宜、図１２Ｃに関して説明される方法に適用可能である。
【０２２９】
したがって、複数の優先オブジェクトを含む、ブロック１２７２において受信される単一の画像を使用して、１つ以上のＡＥＣインスタンスが、単一の画像内で識別される優先オブジェクトのそれぞれに特有である、更新された（例えば、最適化された）設定を決定するために使用されることができる。次いで、更新された設定を使用して、画像のセットが、捕捉されることができ、セットの中の各画像は、優先オブジェクト毎にカスタマイズされる（例えば、最適化される）。部分が優先オブジェクトのうちの１つと関連付けられる、セットの中の各画像の部分をともにスティッチングすることは、露出設定が複合画像の全体を通して変動し、優先オブジェクトに合わせてカスタマイズされる、ユーザ１２９６に表示され得るスティッチングされた画像の生成を可能にする。
【０２３０】
図１３は、画像スティッチングプロセス（例えば、画像スティッチングプロセス１２００）と併用され得る画像ストリームの実施例を図示する。画像ストリームは、画像コントローラ（例えば、画像コントローラ１２２０）によって受信され得る、複数の画像を図示する。図１３の実施例では、点線を伴う画像内のオブジェクトは、ＡＥＣインスタンスがオブジェクトに集中しないことを示す。一方で、実線を伴う画像内のオブジェクトは、ＡＥＣインスタンスがオブジェクトに基づいて実施されることを示す。
【０２３１】
図１３の画像は、ＡＥＣインスタンスに送信される画像に分離される。例えば、画像１（１３３２）は、第１のＡＥＣインスタンス１３３０に送信される。画像１（１３３２）は、第１のＡＥＣインスタンス１３３０が第１のオブジェクト１３６２に基づいて実施されることを示す、実線を伴う第１のオブジェクト１３６２を有するものとして図示される。画像１（１３３２）はまた、第２のオブジェクト１３６４と、第３のオブジェクト１３６６とを有する。第２のオブジェクト１３６４および第３のオブジェクト１３６６は、第１のＡＥＣインスタンス１３３０が識別されていないものとして両方のオブジェクトを扱うことを示す点線を有するものとして図示される。
【０２３２】
第１のＡＥＣインスタンス１３３０は、コンテンツ捕捉デバイス（例えば、コンテンツ捕捉デバイス１２１０）の１つ以上の設定（例えば、露出設定、利得設定、またはそれらの任意の組み合わせ）のための調節を決定してもよい。調節は、コンテンツ捕捉デバイス１２１０がコンテンツ捕捉デバイス１２１０の１つ以上の設定を調節するように、コンテンツ捕捉デバイス１２１０に送信されてもよい。いくつかの実施例では、１つ以上の設定は、コンテンツ捕捉デバイス１２１０が画像を捕捉する直前にコンテンツ捕捉デバイス１２１０に送信されてもよい。そのような実施例では、１つ以上の設定の受信に応じて、コンテンツ捕捉デバイス１２１０は、その設定を調節してもよい。他の実施例では、コンテンツ捕捉デバイス１２１０は、１つ以上の設定を受信し、（上記で説明されるようなループに基づくような）１つ以上の設定を伴って画像を捕捉する時間まで待機するように構成されてもよい。
【０２３３】
画像２（１３６８）は、第２のＡＥＣインスタンス１３４０に送信されてもよい。第２のＡＥＣインスタンス１３４０は、第２のオブジェクト１３６４に対応するオブジェクトに基づいて実施されてもよい。画像３（１３７０）は、第３のＡＥＣインスタンス１３５０に送信されてもよい。第３のＡＥＣインスタンス１３５０は、第３のオブジェクト１３６６に対応するオブジェクトに基づいて実施されてもよい。第２および第３のＡＥＣインスタンス（１３４０、１３５０）はまた、（第１のＡＥＣインスタンス１３３０に関して上記で説明されるように同様に）１つ以上の設定を決定し、コンテンツ捕捉デバイス１２１０に送信してもよい。
【０２３４】
画像１（１３６０）、画像２（１３６８）、および画像３（１３７０）は、ループを表してもよい。１つ以上の設定がＡＥＣインスタンスに起因して設定された後、付加的画像が、１つ以上の設定とともに捕捉されてもよい。付加的画像が捕捉された後、画像コントローラは、１つ以上の設定が設定されたＡＥＣインスタンスを決定してもよい。画像コントローラは、次いで、付加的画像を決定されたＡＥＣインスタンスに送信してもよい。例えば、第１のＡＥＣインスタンス１３３０は、画像１に基づいて、１つ以上の第１の設定を設定してもよい（１３６０）。画像コントローラが、１つ以上の第１の設定を使用して捕捉され得る、画像４を受信するとき（１３７２）、画像コントローラは、画像４（１３７２）を第１のＡＥＣインスタンス１３３０に送信してもよい。同様に、画像５（１３７４）は、第２のＡＥＣインスタンス１３４０に送信されてもよく、画像６（１３７６）は、第３のＡＥＣインスタンス１３５０に送信されてもよい。
【０２３５】
画像４、５、および６（１３７２、１３７４、１３７６）は、第２のループを表してもよい。本プロセスは、画像ｎ、ｎ＋１、およびｎ＋２（１３７８、１３８０、１３８２）が受信されるまで継続してもよい。新しい画像と関連付けられるＡＥＣインスタンスを決定するステップと、新しい画像を捕捉するために使用される１つ以上の設定を生成したＡＥＣインスタンスに新しい画像を送信するステップとを含む、類似プロセスが起こってもよい。例えば、画像ｎ（１３７８）は、第１のＡＥＣインスタンス１３３０に送信されてもよく、画像ｎ＋１（１３８０）は、第２のＡＥＣインスタンス１３４０に送信されてもよく、画像ｎ＋２（１３８２）は、第３のＡＥＣインスタンス１３５０に送信されてもよい。
【０２３６】
図１４は、第３の加重モデルを使用する、自動露出制御のためのプロセス１４００の実施形態を図示するフローチャートである。いくつかの側面では、プロセス１４００は、コンピューティングデバイスによって実施されてもよい。
【０２３７】
プロセス１４００は、論理フロー図として図示され、その動作は、ハードウェア、コンピュータ命令、またはそれらの組み合わせで実装され得る、一連の動作を表す。コンピュータ命令との関連で、動作は、１つ以上のプロセッサによって実行されると、記載される動作を実施する、１つ以上のコンピュータ可読記憶媒体上に記憶されたコンピュータ実行可能命令を表す。概して、コンピュータ実行可能命令は、特定の機能を果たす、または特定のデータタイプを実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造、および同等物を含む。動作が説明される順序は、限定として解釈されることを意図しておらず、任意の数の説明される動作が、プロセスを実装するように、任意の順序で、および／または並行して組み合わせられてもよい。
【０２３８】
加えて、プロセス１４００は、実行可能命令を伴って構成される１つ以上のコンピュータシステムの制御下で実施されてもよく、１つ以上のプロセッサ上で、ハードウェアによって、またはそれらの組み合わせで集合的に実行するコード（例えば、実行可能命令、１つ以上のコンピュータプログラム、または１つ以上のアプリケーション）として実装されてもよい。上記のように、コードは、機械可読記憶媒体上に、例えば、１つ以上のプロセッサによって実行可能な複数の命令を備える、コンピュータプログラムの形態で、記憶されてもよい。機械可読記憶媒体は、非一過性であり得る。
【０２３９】
プロセス１４００は、コンテンツ捕捉デバイスによって捕捉される第１の画像を受信するステップ（１４０５）を含んでもよい。いくつかの実施例では、コンテンツ捕捉デバイスは、高ダイナミックレンジ（ＨＤＲ）モードであってもよい。ＨＤＲモードは、複数の写真を、変動する設定（例えば、露出設定、利得設定、またはそれらの任意の組み合わせ）を伴って近い時間に撮影させてもよい。
【０２４０】
プロセス１４００はさらに、第１の画像内の第１のオブジェクトを識別するステップ（１４１０）を含んでもよい。いくつかの実施例では、第１のオブジェクトは、オブジェクト識別システムを使用して識別されてもよい。そのような実施例では、オブジェクト識別システムは、第１のオブジェクトのタイプ（例えば、個人、動物、建物、または同等物）を識別してもよい。他の実施例では、オブジェクト識別システムは、単なる第１のオブジェクトのタイプ（例えば、第１のオブジェクトがＢｏｂ  Ｍａｒｌｅｙであること）以上に、第１のオブジェクトの１つ以上の属性または特性を識別してもよい。いくつかの実施例では、オブジェクト識別システムは、第１のオブジェクトが別のシステム（仮想オブジェクトを設置する場所を決定している複合現実システム等）によって処理されているかどうかを識別してもよい。
【０２４１】
プロセス１４００はさらに、コンテンツ捕捉デバイスの第１の設定への第１の更新を決定するステップ（１４１５）を含んでもよい。いくつかの実施例では、第１の更新は、第１のオブジェクトに関して決定されてもよい。そのような実施例では、第１の更新は、第１の加重モデルおよび／または第２の加重モデルを含む、本明細書に説明される加重モデルのうちのいずれかを使用して決定されてもよい。いくつかの実施例では、第１の設定は、露出設定、利得設定、またはそれらの任意の組み合わせであってもよい。そのような実施例では、露出設定は、シャッタ速度、ＩＳＯ速度、またはそれらの任意の組み合わせであってもよい。利得設定は、デジタル利得、アナログ利得、またはそれらの任意の組み合わせであってもよい。
【０２４２】
プロセス１４００はさらに、コンテンツ捕捉デバイスによって捕捉される第２の画像を受信するステップ（１４２０）を含んでもよい。いくつかの実施例では、第２の画像は、第１の画像の前または後に捕捉されてもよい。いくつかの実施例では、第２の画像は、ＨＤＲモードに従って捕捉されてもよい。
【０２４３】
プロセス１４００はさらに、第２の画像内の第２のオブジェクトを識別するステップ（１４２５）を含んでもよい。いくつかの実施例では、第２オブジェクトは、上記に説明されるオブジェクト識別システムを使用して識別されてもよい。
【０２４４】
プロセス１４００はさらに、コンテンツ捕捉デバイスの第２の設定への第２の更新を決定するステップ（１４３０）を含んでもよい。いくつかの実施例では、第２の更新は、第２のオブジェクトに関して決定されてもよい。いくつかの実施例では、第２の更新は、第１の加重モデルおよび／または第２の加重モデルを含む、本明細書に説明される加重モデルのうちのいずれかを使用して決定されてもよい。そのような実施例では、第２の更新に使用される加重モデルは、第１の更新に使用される加重モデルと同一である、または異なり得る。
【０２４５】
プロセス１４００はさらに、コンテンツ捕捉デバイスの第１の設定への第１の更新を実施するステップ（１４３５）を含んでもよい。第１の更新を実施するステップは、コンテンツ捕捉デバイスに第１の設定を変更させる、１つ以上の命令をコンテンツ捕捉デバイスに送信するステップを含んでもよい。いくつかの実施例では、第１の設定を将来の時点で（例えば、第１の設定を使用しているはずである画像が撮影されようとするときに）更新させる、１つ以上の命令が、送信されてもよい。他の実施例では、１つ以上の命令は、画像がコンテンツ捕捉デバイスから捕捉された（または受信された）後に送信されてもよく、捕捉は、第１の設定を使用し得る、新しい画像が捕捉されようとしていることを示す。
【０２４６】
プロセス１４００はさらに、コンテンツ捕捉デバイスによって捕捉される第３の画像を受信するステップ（１４４０）を含んでもよい。いくつかの実施例では、第３の画像は、第１の更新が実施された後に捕捉されてもよい。そのような実施例では、第１の更新は、第３の画像が第１の更新に基づく露出を伴って捕捉されるように、コンテンツ捕捉デバイスに適用されてもよい。
【０２４７】
プロセス１４００はさらに、コンテンツ捕捉デバイスの第２の設定への第２の更新を実施するステップ（１３４５）を含んでもよい。第２の更新を実施するステップは、コンテンツ捕捉デバイスに第２の設定を変更させる、１つ以上の命令をコンテンツ捕捉デバイスに送信するステップを含んでもよい。いくつかの実施例では、第２の設定を将来の時点で（例えば、第２の設定を使用しているはずである画像が撮影されようとするときに）更新させる、１つ以上の命令が、送信されてもよい。他の実施例では、１つ以上の命令は、画像がコンテンツ捕捉デバイスから捕捉された（または受信された）後に送信されてもよく、捕捉は、第２の設定を使用し得る、新しい画像が捕捉されようとしていることを示す。
【０２４８】
プロセス１４００はさらに、コンテンツ捕捉デバイスによって捕捉される第４の画像を受信するステップ（１４５０）を含んでもよい。いくつかの実施例では、第４の画像は、第２の更新が実施された後に捕捉されてもよい。そのような実施例では、第２の更新は、第４の画像が第２の更新に基づく露出を伴って捕捉されるように、コンテンツ捕捉デバイスに適用されてもよい。
【０２４９】
プロセス１４００はさらに、第３の画像および第４の画像を見るための単一の画像に組み合わせるステップ（１４５５）を含んでもよい。いくつかの実施例では、組み合わせる（例えば、スティッチングする）ステップは、第３の画像の一部および第４の画像の一部を取り込むステップを含んでもよい。例えば、第３の画像は、第１のオブジェクトのために最適化された第１の画像に対応してもよい。そのような実施例では、取り込まれる第３の画像の一部は、組み合わせるステップが、第１のオブジェクトと関連付けられる第３の画像の一部を取り込むステップを含むように、第１のオブジェクトと関連付けられてもよい。同様に、第４の画像は、第２のオブジェクトのために最適化された第２の画像に対応してもよい。したがって、取り込まれる第４の画像の一部は、組み合わせるステップが、第２のオブジェクトと関連付けられる第４の画像の一部を取り込むステップを含み得るように、第２のオブジェクトと関連付けられてもよい。それぞれ、第１および第２のオブジェクトと関連付けられる第３および第４の画像の一部を取り込んだ後、第３および第４の画像の他の部分は、第３の画像と第４の画像との間で平均化されてもよい。他の部分は、他の部分が第１の更新および／または第２の更新によって最適化されなかったように、第１のオブジェクトまたは第２のオブジェクトのいずれかと関連付けられなくてもよい。しかしながら、画像は、種々の方法でスティッチングされ得る（または組み合わせられ得る）ことを認識されたい。
【０２５０】
いくつかの実施例では、プロセス１４００は、第１のサイクルと、第２のサイクルとを含んでもよい。第１のサイクルは、第１の画像と、第２の画像とを含んでもよい。第２のサイクルは、第３の画像と、第４の画像とを含んでもよい。いくつかの実施例では、各新しいサイクルは、動作が各新しいサイクルで実施され続けるように、さらに２つの画像を含んでもよい。いくつかの実施例では、各新しいサイクルは、（第１の画像および第２の画像と同様に）コンテンツ捕捉デバイスの設定を更新するために使用されるとともに、（第３の画像および第４の画像と同様に）組み合わせられてもよい。例えば、（第１の画像および第２の画像に関して説明されるように）更新を決定するステップは、第３の画像および第４の画像に関して実施されてもよい。
【０２５１】
図１５は、コンピュータシステムのブロック図の実施例を図示する。本実施例では、コンピュータシステム１５００は、モニタ１５１０と、コンピュータ１５２０と、キーボード１５３０と、ユーザ入力デバイス１５４０と、１つ以上のコンピュータインターフェース１５５０と、同等物とを含む。本実施例では、ユーザ入力デバイス１５４０は、典型的には、コンピュータマウス、トラックボール、トラックパッド、ジョイスティック、無線リモート、ドローイングタブレット、音声コマンドシステム、視線追跡システム、および同等物として具現化される。ユーザ入力デバイス１５４０は、典型的には、ユーザが、ボタンまたは同等物のクリック等のコマンドを介して、モニタ１５１０上に出現するオブジェクト、アイコン、テキスト、および同等物を選択することを可能にする。
【０２５２】
コンピュータインターフェース１５５０の実施例は、典型的には、イーサネット（登録商標）カード、モデム（電話、衛星、ケーブル、ＩＳＤＮ）、（非同期）デジタルサブスクライバ回線（ＤＳＬ）ユニット、ＦｉｒｅＷｉｒｅインターフェース、ＵＳＢインターフェース、および同等物を含む。例えば、コンピュータインターフェース１５５０は、コンピュータネットワーク１５５５、ＦｉｒｅＷｉｒｅバス、または同等物に結合されてもよい。他の実施形態では、コンピュータインターフェース１５５０は、コンピュータ１５２０のマザーボード上に物理的に統合されてもよい、ソフトＤＳＬ等のソフトウェアプログラムであってもよい、または同等物である。
【０２５３】
種々の実施例では、コンピュータ１５２０は、典型的には、プロセッサ１５６０等のよく知られたコンピュータコンポーネントと、ランダムアクセスメモリ（ＲＡＭ）１５７０等のメモリ記憶デバイスと、ディスクドライブ１５８０と、上記のコンポーネントを相互接続するシステムバス１５９０とを含む。
【０２５４】
ＲＡＭ１５７０およびディスクドライブ１５８０は、実行可能コンピュータコード、人間が読み取れるコード、または同等物を含む、本開示の実施形態等のデータを記憶するように構成される有形媒体の実施例である。他のタイプの有形媒体は、フロッピー（登録商標）ディスク、リムーバブルハードディスク、ＣＤ−ＲＯＭ、ＤＶＤ、およびバーコード等の光学記憶媒体、フラッシュメモリ等の半導体メモリ、読取専用メモリ（ＲＯＭＳ）、バッテリバックアップされた揮発性メモリ、ネットワーク化記憶デバイス、および同等物を含む。
【０２５５】
種々の実施例では、コンピュータシステム１５００はまた、ＨＴＴＰ、ＴＣＰ／ＩＰ、ＲＴＰ／ＲＴＳＰプロトコル、および同等物等のネットワークを経由した通信を可能にするソフトウェアを含んでもよい。本開示の代替実施形態では、他の通信ソフトウェアおよび転送プロトコル、例えば、ＩＰＸ、ＵＤＰ、または同等物もまた、使用されてもよい。
【０２５６】
本明細書に説明される特徴は、デジタル電子回路で、またはコンピュータハードウェア、ファームウェア、ソフトウェアで、またはそれらの組み合わせで、実装されてもよい。本装置は、プログラマブルプロセッサによる実行のために、情報キャリアで（例えば、機械可読記憶デバイスで）有形に具現化される、コンピュータプログラム製品で実装されてもよく、方法ステップは、入力データに作用し、出力を生成することによって、説明される実装の機能を果たすように命令のプログラムを実行する、プログラマブルプロセッサによって実施されてもよい。説明される特徴は、有利なこととして、データ記憶システム、少なくとも１つの入力デバイス、および少なくとも１つの出力デバイスからデータおよび命令を受信するように、そしてそこにデータおよび命令を伝送するように結合される、少なくとも１つのプログラマブルプロセッサを含む、プログラマブルシステム上で実行可能である、１つ以上のコンピュータプログラムで実装されてもよい。コンピュータプログラムは、あるアクティビティを実施する、またはある結果をもたらすように、コンピュータで直接または間接的に使用され得る、命令のセットである。コンピュータプログラムは、コンパイラまたはインタープリタ型言語を含む、任意の形態のプログラミング言語で書かれてもよく、これは、独立型プログラムとして、またはコンピューティング環境内で使用するために好適なモジュール、コンポーネント、サブルーチン、または他のユニットとしての形態を含む、任意の形態で展開されてもよい。
【０２５７】
命令のプログラムの実行のための好適なプロセッサは、一例として、汎用および専用マイクロプロセッサの両方、および任意の種類のコンピュータの唯一のプロセッサまたは複数のプロセッサのうちの１つを含む。概して、プロセッサは、読取専用メモリまたはランダムアクセスメモリまたは両方から命令およびデータを受信するであろう。コンピュータの不可欠な要素は、命令を実行するためのプロセッサ、および命令およびデータを記憶するための１つ以上のメモリである。概して、コンピュータはまた、データファイルを記憶するための１つ以上の大容量記憶デバイスを含み、またはそれに動作可能に結合され、そのようなデバイスは、内部ハードディスクおよびリムーバブルディスク等の磁気ディスク、光磁気ディスク、および光ディスクを含むであろう。コンピュータプログラム命令およびデータを明白に具現化するために好適な記憶デバイスは、一例として、ＥＰＲＯＭ、ＥＥＰＲＯＭ、およびフラッシュメモリデバイス等の半導体メモリデバイス、内部ハードディスクおよびリムーバブルディスク等の磁気ディスク、光磁気ディスク、およびＣＤ−ＲＯＭおよびＤＶＤ−ＲＯＭディスクを含む、全ての形態の不揮発性メモリを含む。プロセッサおよびメモリは、ＡＳＩＣ（特定用途向け集積回路）によって補完される、またはそれに組み込まれてもよい。
【０２５８】
ユーザとの相互作用を提供するために、特徴は、情報をユーザに表示するためのＣＲＴ（陰極線管）、ＬＣＤ（液晶ディスプレイ）、ＬＥＤ（発光ダイオード）モニタ等の表示デバイスと、それによってユーザが入力をコンピュータに提供し得る、キーボードおよびマウスまたはトラックボール等のポインティングデバイスとを有する、コンピュータ上で実装されてもよい。
【０２５９】
特徴は、データサーバ等のバックエンドコンポーネントを含む、またはアプリケーションサーバまたはインターネットサーバ等のミドルウェアコンポーネントを含む、またはグラフィカルユーザインターフェースまたはインターネットブラウザを有する、クライアントコンピュータ等のフロントコンポーネントを含む、またはそれらの任意の組み合わせである、コンピュータシステムで実装されてもよい。システムのコンポーネントは、通信ネットワーク等の任意の形態または媒体のデジタルデータ通信によって接続されてもよい。通信ネットワークの実施例は、ＬＡＮ、ＷＡＮ、およびインターネットを形成するコンピュータおよびネットワークを含む。
【０２６０】
コンピュータシステムは、クライアントと、サーバとを含んでもよい。クライアントおよびサーバは、概して、相互から遠隔にあり、典型的には、説明されるもの等のネットワークを通して相互作用する。クライアントおよびサーバの関係は、個別のコンピュータ上で起動し、相互とクライアント・サーバ関係を有する、コンピュータプログラムにより生じる。いくつかの実装が、上記で詳細に説明されているが、他の修正も可能である。
【０２６１】
加えて、図に描写される論理フローは、望ましい結果を達成するために、示される特定の順序または連続順序を要求しない。加えて、他のステップが、提供されてもよい、またはステップが、説明されるフローから排除されてもよく、他のコンポーネントが、説明されるシステムに追加されてもよい、または、そこから除去されてもよい。故に、他の実装も、以下の請求項の範囲内である。
【０２６２】
コンポーネントが、ある動作を実施するように構成されるものとして説明される場合、そのような構成は、例えば、動作を実施するように電子回路または他のハードウェアを設計することによって、動作を実施するようにプログラマブル電子回路（例えば、マイクロプロセッサまたは他の好適な電子回路）をプログラムすることによって、またはそれらの任意の組み合わせによって、遂行されてもよい。
【０２６３】
本開示のいくつかの実施形態が、説明されている。それでもなお、種々の修正が、本開示の範囲から逸脱することなく行われ得ることを理解されたい。
【図１Ａ】
2020504868.tif 000008
【図１Ｂ】
2020504868.tif 000009
【図２】
2020504868.tif 000010
【図３】
2020504868.tif 000011
【図４】
2020504868.tif 000012
【図５】
2020504868.tif 000013
【図６】
2020504868.tif 000014
【図７】
2020504868.tif 000015
【図８】
2020504868.tif 000016
【図９】
2020504868.tif 000017
【図１０】
2020504868.tif 000018
【図１１】
2020504868.tif 000019
【図１２Ａ】
2020504868.tif 000020
【図１２Ｂ】
2020504868.tif 000021
【図１２Ｃ】
2020504868.tif 000022
【図１３】
2020504868.tif 000023
【図１４】
2020504868.tif 000024
【図１５】
2020504868.tif 000025
【図１６】
2020504868.tif 000026
【図１７】
2020504868.tif 000027
【図１８】
2020504868.tif 000028
【国際調査報告】
2020504868.tif 000029