(57)【要約】  カメラ較正システムは、カメラリグシステム内の複数台のカメラを一緒に較正する。カメラ較正システムは、他のカメラに対する各カメラの位置および配向などの、カメラリグシステム内の複数台のカメラに関する構成情報を取得する。カメラ較正システムは、取得された構成情報に基づいて、複数台のカメラの較正パラメータ（例：回転および平行移動）を推定する。カメラ較正システムは、複数台のカメラによって取り込まれた試験対象の二次元画像を受信し、試験対象の外観で区別可能な点の位置、サイズ、質感、および詳細情報などの、試験対象に関する既知の情報を取得する。次に、カメラ較正システムは、受信した二次元画像および推定された較正パラメータに基づいて試験対象の三次元モデルを生成する。生成された三次元モデルは、実際の試験対象と比較して評価され、較正誤差を決定する。カメラの較正パラメータは、複数台のカメラの較正誤差を低減するように更新される。
2019510982.tif 000002
【特許請求の範囲】
【請求項１】
カメラリグシステムを較正する方法であって、
前記カメラリグシステム内の複数台のカメラに関する構成情報を受信するステップと、
前記複数台のカメラの較正パラメータを識別するステップと、
前記複数台のカメラによって取り込まれた既知の試験対象の複数の画像を受信するステップと、
識別された前記較正パラメータおよび受信した前記複数の画像に基づいて前記試験対象の三次元モデルを生成するステップと、
前記既知の試験対象と比べた、前記試験対象の生成された前記三次元モデルの差異を反映する較正誤差を計算する、較正誤差計算ステップと、
前記複数台のカメラの前記較正パラメータを変更して前記較正誤差を低減するステップと
を備える、方法。
【請求項２】
前記構成情報は、前記複数台のカメラ中の各カメラについて、前記複数台のカメラ中の他のカメラに対する位置および配向を含む、請求項１に記載の方法。
【請求項３】
前記較正誤差計算ステップは、
前記三次元モデルの較正基準を前記既知の試験対象の対応する較正基準と比較するステップをさらに含む、請求項１に記載の方法。
【請求項４】
前記既知の試験対象の前記較正基準は、前記既知の試験対象上の外観で区別可能な点の位置、サイズ、質感、形状および詳細情報のうちの少なくとも１つを含む、請求項３に記載の方法。
【請求項５】
前記較正パラメータは、前記複数台のカメラのうちの各カメラに関する回転情報および平行移動情報を含む、請求項１に記載の方法。
【請求項６】
前記カメラリグシステム内の複数台のカメラは、前記既知の試験対象が位置するそれぞれの視野中に重なり合った部分を共有している、請求項１に記載の方法。
【請求項７】
前記カメラリグシステム内の前記複数台のカメラは、前記カメラリグシステム内の２台のカメラである、請求項６に記載の方法。
【請求項８】
前記カメラリグシステムは、複数台のカメラおよび複数の既知の対象を含み、既知の対象のそれぞれは少なくとも２台のカメラによって見られ、各カメラは少なくとも２つの既知の対象を見る、請求項１に記載の方法。
【請求項９】
対のカメラが較正される、請求項８に記載の方法。
【請求項１０】
前記複数台のカメラは、一緒に較正され、前記カメラ各々の較正誤差を最小にする、請求項８に記載の方法。
【請求項１１】
カメラリグシステムを較正するコンピュータプログラム命令を記憶する非一時的コンピュータ可読記憶媒体であって、コンピュータプロセッサによって実行されたときに前記コンピュータプログラム命令は、前記プロセッサに、
前記カメラリグシステム内の複数台のカメラに関する構成情報を受信するステップと、
前記複数台のカメラの較正パラメータを識別するステップと、
前記複数台のカメラによって取り込まれた既知の試験対象の複数の画像を受信するステップと、
識別された前記較正パラメータおよび受信した前記複数の画像に基づいて前記試験対象の三次元モデルを生成するステップと、
前記既知の試験対象と比べた、前記試験対象の生成された前記三次元モデルの差異を反映する較正誤差を計算する、較正誤差計算ステップと、
前記複数台のカメラの前記較正パラメータを変更して前記較正誤差を低減するステップと
を実行させる、非一時的コンピュータ可読記憶媒体。
【請求項１２】
前記構成情報は、前記複数台のカメラ中の各カメラについて、前記複数台のカメラ中の他のカメラに対する位置および配向を含む、請求項１１に記載の非一時的コンピュータ可読記憶媒体。
【請求項１３】
前記較正誤差計算ステップは、
前記三次元モデルの較正基準を前記既知の試験対象の対応する較正基準と比較するステップをさらに含む、請求項１１に記載の非一時的コンピュータ可読記憶媒体。
【請求項１４】
前記既知の試験対象の前記較正基準は、前記既知の試験対象上の外観で区別可能な点の位置、サイズ、質感、形状および詳細情報のうちの少なくとも１つを含む、請求項１３に記載の非一時的コンピュータ可読記憶媒体。
【請求項１５】
前記較正パラメータは、前記複数台のカメラのうちの各カメラに関する回転情報および平行移動情報を含む、請求項１１に記載の非一時的コンピュータ可読記憶媒体。
【請求項１６】
前記カメラリグシステム内の複数台のカメラは、前記既知の試験対象が位置するそれぞれの視野中に重なり合った部分を共有している、請求項１１に記載の非一時的コンピュータ可読記憶媒体。
【請求項１７】
前記カメラリグシステム内の前記複数台のカメラは、前記カメラリグシステム内の２台のカメラである、請求項１６に記載の非一時的コンピュータ可読記憶媒体。
【請求項１８】
前記カメラリグシステムは、複数台のカメラおよび複数の既知の対象を含み、既知の対象のそれぞれは少なくとも２台のカメラによって見られ、各カメラは少なくとも２つの既知の対象を見る、請求項１１に記載の非一時的コンピュータ可読記憶媒体。
【請求項１９】
対のカメラが較正される、請求項１８に記載の非一時的コンピュータ可読記憶媒体。
【請求項２０】
前記複数台のカメラは、一緒に較正され、前記カメラ各々の較正誤差を最小にする、請求項１８に記載の非一時的コンピュータ可読記憶媒体。
【請求項２１】
カメラリグシステムを較正する方法であって、
前記カメラリグシステム内の複数台のカメラに関する構成情報を受信するステップと、
前記複数台のカメラの較正パラメータを識別するステップと、
前記複数台のカメラによって取り込まれた既知の試験対象の複数の画像を受信するステップと、
識別された前記較正パラメータおよび受信した前記複数の画像に基づいて前記試験対象の三次元モデルを生成するステップと、
前記既知の試験対象と比べた、前記試験対象の生成された前記三次元モデルの差異を反映する較正誤差を計算する、較正誤差計算ステップと、
前記複数台のカメラの前記較正パラメータを変更して前記較正誤差を低減するステップと
を備える、方法。
【請求項２２】
前記構成情報は、前記複数台のカメラ中の各カメラについて、前記複数台のカメラ中の他のカメラに対する位置および配向を含む、請求項２１に記載の方法。
【請求項２３】
前記較正誤差計算ステップは、
前記三次元モデルの較正基準を前記既知の試験対象の対応する較正基準と比較するステップをさらに含み、
任意で、前記既知の試験対象の前記較正基準は、前記既知の試験対象上の外観で区別可能な点の位置、サイズ、質感、形状および詳細情報のうちの少なくとも１つを含む、請求項２１または２２に記載の方法。
【請求項２４】
前記較正パラメータは、前記複数台のカメラのうちの各カメラに関する回転情報および平行移動情報を含む、請求項２１〜２３のいずれか一項に記載の方法。
【請求項２５】
前記カメラリグシステム内の複数台のカメラは、前記既知の試験対象が位置するそれぞれの視野中に重なり合った部分を共有し、
任意で、前記カメラリグシステム内の前記複数台のカメラは、前記カメラリグシステム内の２台のカメラである、請求項２１〜２４のいずれか一項に記載の方法。
【請求項２６】
前記カメラリグシステムは、複数台のカメラおよび複数の既知の対象を含み、既知の対象のそれぞれは少なくとも２台のカメラによって見られ、各カメラは少なくとも２つの既知の対象を見て、
任意で、対のカメラが較正され、および／または、
任意で、前記複数台のカメラは、一緒に較正され、前記カメラ各々の較正誤差を最小にする、請求項２１〜２５のいずれか一項に記載の方法。
【請求項２７】
カメラリグシステムを較正するコンピュータプログラム命令を記憶する非一時的コンピュータ可読記憶媒体であって、コンピュータプロセッサによって実行されたときに前記コンピュータプログラム命令は、前記プロセッサに、
前記カメラリグシステム内の複数台のカメラに関する構成情報を受信するステップと、
前記複数台のカメラの較正パラメータを識別するステップと、
前記複数台のカメラによって取り込まれた既知の試験対象の複数の画像を受信するステップと、
識別された前記較正パラメータおよび受信した前記複数の画像に基づいて前記試験対象の三次元モデルを生成するステップと、
前記既知の試験対象と比べた、前記試験対象の生成された前記三次元モデルの差異を反映する較正誤差を計算する、較正誤差計算ステップと、
前記複数台のカメラの前記較正パラメータを変更して前記較正誤差を低減するステップと
を実行させる、非一時的コンピュータ可読記憶媒体。
【請求項２８】
前記構成情報は、前記複数台のカメラ中の各カメラについて、前記複数台のカメラ中の他のカメラに対する位置および配向を含む、請求項２７に記載の非一時的コンピュータ可読記憶媒体。
【請求項２９】
前記較正誤差計算ステップは、
前記三次元モデルの較正基準を前記既知の試験対象の対応する較正基準と比較するステップをさらに含み、
任意で、前記既知の試験対象の前記較正基準は、前記既知の試験対象上の外観で区別可能な点の位置、サイズ、質感、形状および詳細情報のうちの少なくとも１つを含む、請求項２７または２８に記載の非一時的コンピュータ可読記憶媒体。
【請求項３０】
前記較正パラメータは、前記複数台のカメラのうちの各カメラに関する回転情報および平行移動情報を含む、請求項２７〜２９のいずれか一項に記載の非一時的コンピュータ可読記憶媒体。
【請求項３１】
前記カメラリグシステム内の複数台のカメラは、前記既知の試験対象が位置するそれぞれの視野中に重なり合った部分を共有しており、
任意で、前記カメラリグシステム内の前記複数台のカメラは、前記カメラリグシステム内の２台のカメラである、請求項２７〜３０のいずれか一項に記載の非一時的コンピュータ可読記憶媒体。
【請求項３２】
前記カメラリグシステムは、複数台のカメラおよび複数の既知の対象を含み、既知の対象のそれぞれは少なくとも２台のカメラによって見られ、各カメラは少なくとも２つの既知の対象を見て、
任意で、対のカメラが較正され、および／または、
任意で、前記複数台のカメラは、一緒に較正され、前記カメラ各々の較正誤差を最小にする、請求項２７〜３１のいずれか一項に記載の非一時的コンピュータ可読記憶媒体。
【請求項３３】
１つまたは複数のプロセッサと、前記プロセッサに接続され、前記プロセッサによって実行可能な命令を含む少なくとも１つのメモリとを備えたシステムであって、前記プロセッサは、前記命令を実行するときに請求項２１〜２６のいずれか一項に記載の方法を実行するように動作可能である、システム。
【請求項３４】
コンピュータ可読非一時的記憶媒体を含むことが好ましいコンピュータプログラム製品であって、データ処理システムで実行されたときに、請求項２１〜２６のいずれか一項に記載の方法を実行するように動作可能である、コンピュータプログラム製品。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は一般に、マルチカメラシステム、より具体的には、マルチカメラシステムのカメラを較正することに関する。
【背景技術】
【０００２】
マルチカメラシステムを通して画像を取り込むことは、三次元（３Ｄ）画像またはビデオをヘッドマウントディスプレイ（Ｈｅａｄ−Ｍｏｕｎｔｅｄ  Ｄｉｓｐｌａｙ：ＨＭＤ）を装着したユーザに表示するバーチャルリアリティ（ＶＲ）システムに必須である。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
しかし、マルチカメラシステムの設計および製造における公差によって、実際のカメラは、正しい位置で、または設計された通りの正しい角度で位置決めされていない場合がある。カメラは、互いに水平方向または垂直方向に平行移動しているか、または互いに対して不完全に配向されている可能性がある。これらの欠陥により、マルチカメラシステムによって生成される画像に深刻な問題、例えば、深刻な歪みまた複視を引き起こす場合があり、これによってユーザ体験が低下する。
【０００４】
したがって、正確な画像を表示するためのマルチカメラシステムの較正が必要とされている。
【課題を解決するための手段】
【０００５】
本発明による実施形態は、具体的には、方法、記録媒体、システム、およびコンピュータプログラム製品を対象とした添付の請求項において開示されており、例えば、方法などの１つの請求項カテゴリにおいて言及されている任意の特徴は、例えば、システムなどの別の請求項カテゴリにおいても同様に特許請求され得る。添付の請求項における従属関係または後方参照は、形式的な理由にのみ起因して選択されたものである。ただし、請求項およびその特徴の任意の組み合わせが開示されると共に添付の請求項において選択された従属関係とは無関係に特許請求され得るように、任意の先行する請求項に対する意図的な後方参照（特に、複数従属関係）から結果的に得られる任意の主題も同様に特許請求され得る。特許請求され得る主題は、添付の請求項に記載される特徴の組み合わせだけでなく、請求項中の特徴の任意の他の組み合わせも包含し、請求項に記載される各特徴は、請求項中の任意の他の特徴または他の特徴の組み合わせと組み合わせることができる。さらに、本明細書に記述または図示される実施形態および特徴のいずれかは、別の請求項において、および／または本明細書に記述または図示される任意の実施形態および特徴もしくは添付の請求項の特徴のいずれかと任意に組み合わせて特許請求され得る。
【０００６】
本発明による一実施形態では、カメラリグシステムを較正する方法であって、方法は、
カメラリグシステム内の複数台のカメラに関する構成情報を受信するステップと、
複数台のカメラの較正パラメータを識別するステップと、
複数台のカメラによって取り込まれた既知の試験対象の複数の画像を受信するステップと、
識別された較正パラメータおよび受信した複数の画像に基づいて試験対象の三次元モデルを生成するステップと、
既知の試験対象と比べた、試験対象の生成された三次元モデルの差異を反映する較正誤差を計算する、較正誤差計算ステップと、
複数台のカメラの較正パラメータを変更して較正誤差を低減するステップと
を備えることができる。
【０００７】
構成情報は、複数台のカメラ中の各カメラについて、複数台のカメラ中の他のカメラに対する位置および配向を含むことができる。
較正誤差計算するステップは、
三次元モデルの較正基準を既知の試験対象の対応する較正基準と比較するステップ
をさらに含むことができる。
【０００８】
既知の試験対象の較正基準は、既知の試験対象上の外観で区別可能な点の位置、サイズ、質感、形状および詳細情報のうちの少なくとも１つを含むことができる。
較正パラメータは、複数台のカメラのうちの各カメラに関する回転情報および平行移動情報を含むことができる。
【０００９】
カメラリグシステム内の複数台のカメラは、既知の試験対象が位置するそれぞれの視野中に重なり合った部分を共有することができる。
カメラリグシステム内の複数台のカメラは、カメラリグシステム内の２台のカメラであってよい。
【００１０】
カメラリグシステムは、複数台のカメラおよび複数の既知の対象を含むことができ、既知の対象のそれぞれは少なくとも２台のカメラによって見られ、各カメラは少なくとも２つの既知の対象を見る。
【００１１】
対になったカメラが較正され得る。
複数台のカメラは、一緒に較正され、カメラ各々の較正誤差を最小にすることができる。
【００１２】
本発明による一実施形態では、カメラリグシステムを較正するコンピュータプログラム命令を記憶する非一時的コンピュータ可読記憶媒体であって、非一時的コンピュータ可読記憶媒体は、コンピュータプロセッサによって実行されたときに、プログラム命令はプロセッサに、
カメラリグシステム内の複数台のカメラに関する構成情報を受信するステップと、
複数台のカメラの較正パラメータを識別するステップと、
複数台のカメラによって取り込まれた既知の試験対象の複数の画像を受信するステップと、
識別された較正パラメータおよび受信した複数の画像に基づいて試験対象の三次元モデルを生成するステップと、
既知の試験対象と比べた、試験対象の生成された三次元モデルの差異を反映する較正誤差を計算する、較正誤差計算ステップと、
複数台のカメラの較正パラメータを変更して較正誤差を低減するステップと
を実行させることができる。
【００１３】
構成情報は、複数台のカメラ中の各カメラについて、複数台のカメラ中の他のカメラに対する位置および配向を含むことができる。
較正誤差計算ステップは、
三次元モデルの較正基準を既知の試験対象の対応する較正基準と比較するステップ
をさらに含むことができる。
【００１４】
既知の試験対象の較正基準は、既知の試験対象上の外観で区別可能な点の位置、サイズ、質感、形状および詳細情報のうちの少なくとも１つを含むことができる。
較正パラメータは、複数台のカメラのうちの各カメラに関する回転情報および平行移動情報を含むことができる。
【００１５】
カメラリグシステム内の複数台のカメラは、既知の試験対象が位置するそれぞれの視野中に重なり合った部分を共有することができる。
カメラリグシステム内の複数台のカメラは、カメラリグシステム内の２台のカメラであってよい。
【００１６】
カメラリグシステムは、複数台のカメラおよび複数の既知の対象を含むことができ、既知の対象のそれぞれは少なくとも２台のカメラによって見られ、各カメラは少なくとも２つの既知の対象を見る。
【００１７】
対になったカメラは較正され得る。
複数台のカメラは、一緒に較正され、カメラ各々の較正誤差を最小にすることができる。
【００１８】
本発明による一実施形態では、１つまたは複数のコンピュータ可読非一時的記憶媒体は、実行されたときに、本発明の方法または上述の実施形態のいずれかを実行するように動作可能なソフトウェアを具現化できる。
【００１９】
本発明による一実施形態では、システムは、１つまたは複数のプロセッサと、プロセッサに接続され、プロセッサによって実行可能な命令を含む少なくとも１つのメモリとを備え、プロセッサは、本発明の方法または上述の実施形態のいずれかを実行するために命令を実行するときに動作可能である。
【００２０】
本発明による一実施形態では、コンピュータ可読非一時的記憶媒体を含むことが好ましいコンピュータプログラム製品は、データ処理システムで実行されたときに、本発明の方法または上述の実施形態のいずれかを実行するように動作可能であり得る。
【図面の簡単な説明】
【００２１】
【図１】一実施形態による、カメラ較正システムが動作するシステム環境のブロック図。
【図２Ａ】一実施形態によるカメラリグシステムの斜視図。
【図２Ｂ】一実施形態による、図２Ａに示すカメラリグシステムの平面図。
【図２Ｃ】一実施形態による、較正中のカメラリグシステムの平面図。
【図３】一実施形態による、カメラ較正システムのアーキテクチャのブロック図。
【図４】一実施形態による、十分に較正されていない２台のカメラからの例示的画像を示す図。
【図５】一実施形態による、カメラリグシステム内の複数台のカメラの外部較正のための例示的な試験対象を示す図。
【図６Ａ】一実施形態による、カメラリグシステム内の２台の異なる周辺カメラによって取り込まれた試験対象の画像を示す図。
【図６Ｂ】一実施形態による、カメラリグシステム内の２台の異なる周辺カメラによって取り込まれた試験対象の画像を示す図。
【図７】一実施形態による、カメラ較正システムによる較正プロセスを示す例示的フローチャートを示す図。
【発明を実施するための形態】
【００２２】
カメラ較正システムは、カメラが見ている対象をモデル化し、その対象をカメラリグシステムの既知の周囲環境と比較することによって複数台のカメラを一緒に較正する。
カメラリグシステム内の複数台のカメラは、意図された設計目的のために要求される通りに配置または配向されていない場合があり、この場合、カメラの実際の位置および設計と比較した相対的な回転は不明である。この問題によって、例えば、２台のカメラ間のビューを生成するために、複数台のカメラによって取り込まれた画像を合成するときに視覚的なアーチファクトを引き起こす可能性がある。カメラ較正システムは、外部較正を実行して、カメラリグシステム内の複数台のカメラを較正する。外部較正とは、色、露出、およびカメラ間で異なり得る他の構成とは区別される、カメラリグシステム内のカメラ間の回転および平行移動の較正を意味する。
【００２３】
カメラ較正システムは、カメラリグシステムの１ラウンドまたは複数ラウンドの較正を実行することができる。較正ラウンドの間、複数台のカメラは、複数台のカメラによって提供される異なる視野から、指定された場所に配置された１組の試験対象の画像を取り込む。取り込まれた画像、ならびに試験対象の位置、サイズ、形状、色および質感などの１組の試験対象に関する詳細情報は、カメラ較正システムによって受信される。カメラ較正システムはまた、試験対象の画像を取り込む複数台のカメラに関する構成情報を取得する。構成情報は、複数台のカメラ中の他のカメラに対する各カメラの位置および配向の測定基準を含む。次に、構成情報を使用して、複数台のカメラの回転および平行移動などの初期較正パラメータを推定する。カメラ較正システムは、例えば、複数台のカメラによって取り込まれた受信二次元画像および複数台のカメラに関する推定較正パラメータに基づいて、三次元モデルの基準を計算することによって、ある特定の試験対象の三次元モデルを生成する。
【００２４】
カメラ較正システムは、特定の試験対象の既知の情報と比較して生成された三次元モデルを評価する。較正誤差は、生成された三次元モデルが実際の試験対象にどのくらい似ているか、例えば、生成された三次元モデルが様々な較正基準、例えば、試験対象の表面上の外観で区別可能な点の位置、サイズ、形状、質感および詳細情報に関して既知の試験対象にどのくらい一致しているかを示す。いくつかの実施形態では、較正基準は試験対象の特性にも依存する。例えば、六面立方体の試験対象の場合、異なる面間の直角度および各面の平坦度は、この試験対象の２つの較正基準である。したがって、較正誤差は、三次元モデルの計算された較正基準を既知の対象の較正基準と比較することによって、複数台のカメラの較正パラメータがどのくらい良好に推定されるかを示す。例えば、実際の試験対象と一致しない三次元モデルは、複数台のカメラの推定較正パラメータが正確ではなく、推定パラメータに基づく較正が有効ではなく、また較正パラメータは、次のラウンドの外部較正で調整できることを示すことができる。
【００２５】
一実施形態では、カメラリグシステム内の２台のカメラのみが、上記の手法を使用して１ラウンドの較正につき一度に一緒に較正される。次に、カメラのすべてのグループが所定の較正の繰り返しで較正されるまで、隣接する対のカメラ各々が一緒に較正されてもよい。別の実施形態では、カメラリグシステム内の異なる数のカメラまたはすべてのカメラが、上記の手法を使用して一度に一緒に較正されてもよい。較正誤差が改善し続けなくなる（すなわち、最後の較正誤差が繰り返す間に類似する）まで較正が繰り返し実行されてもよい。
【００２６】
一実施形態では、カメラリグシステムは、カメラリグシステム内の各カメラのビュー内に２つまたはそれ以上の既知の対象を有する既知の周囲環境に配置される。この例では、既知の対象のそれぞれは、２台またはそれ以上のカメラによって見られていてもよい。このようにして、各カメラの較正は、同じ対象のジョイントビューを介して他の近くのカメラの較正に関連付けることができる。
【００２７】
カメラを較正するために、カメラ較正システムは、カメラの較正パラメータに対して勾配降下関数を使用することができる。勾配降下関数は、較正誤差を低減する勾配内の較正パラメータを調整することによって、モデル化された三次元対象と既知の試験対象との間の、基準の差異の較正誤差を最小にする。既知の対象を使用してカメラを最適化することができるため、この較正技術は、従来の方法よりも高速かつより信頼性の高い較正を可能にする。
【００２８】
図面は、単なる例示を目的として本発明の種々の実施形態を図示する。当業者は、本明細書に記載された本発明の原理から逸脱することなく、本明細書に例示される構造および方法の代替的実施形態を利用できることを以下の記述より容易に認識するであろう。
【００２９】
システムアーキテクチャ
図１は、一実施形態による、カメラ較正システム３００が動作するシステム環境１００のブロック図である。図１に示すシステム環境１００は、カメラリグシステム２００、カメラ較正システム３００、およびクライアントＶＲデバイス１８０を含む。１台のみのカメラリグシステム２００、１つのカメラ較正システム３００、および１つのクライアントＶＲデバイス１８０が、図１で例示のために図示されている。図示されていない代替的実施形態では、システム環境１００は、複数のカメラリグシステム２００、カメラ較正システム３００、クライアントＶＲデバイス１８０、ならびに異なるおよび／または追加の要素を含むことができる。同様に、システム環境１００内の様々なエンティティによって実行される機能は、異なる実施形態において異なっていてもよい。
【００３０】
カメラリグシステム２００は、局所領域の画像および／またはビデオを取り込むように設計されたマルチカメラシステムである。局所領域は、カメラリグシステム２００を取り囲む環境である。例えば、局所領域は、カメラリグシステム２００が内部に位置している部屋であってもよい。カメラリグシステム２００によって取り込まれた画像は、シーンまたは対象の複数のビューを提供し、クライアントＶＲデバイス１８０のためのシーンのキャンバスビューを生成するために使用することができる。キャンバスビューは、カメラリグシステム２００内の複数台のカメラからの複数のビューを合成することによって生成されたシーンの任意のパノラマビュー、球面パノラマビュー、または好適な広角アングルビューであり得る。キャンバスビューは、クライアントＶＲデバイス１８０を装着したユーザのために、カメラリグシステム２００の起点に立っている体験をシミュレーションできる。以下の図２Ａ〜図２Ｂでより完全に説明されるように、カメラリグシステム２００は、複数台の周辺カメラ２３０、上部軸カメラ２４０および下部軸カメラを含む。いくつかの実施形態では、カメラリグシステム２００に含まれるカメラによって取り込まれた画像および関連する画像データは、複数台のカメラの組を較正するためにカメラ較正システム３００に出力される。一例として、カメラリグシステム２００は、カメラリグシステム内の複数台のカメラの組を一緒に較正するために、カメラ較正システム３００のために既知の試験対象の画像を取り込む。
【００３１】
カメラ較正システム３００は、カメラリグシステム２００から取り込まれた画像を受信し、カメラリグシステム内の複数台のカメラの組のためにソフトウェアに基づくカメラ較正を実行する。カメラリグシステム２００は、外部較正を必要とする様々な種類の歪みを含んでいる場合がある。例えば、カメラリグシステム２００内の複数台のカメラの組は、意図される製造構成とは異なる何らかの未知の不一致をもって配向されている場合があり、また異なるカメラ間の相対的な位置および配向は、理想的な設計とはわずかに異なっている場合がある。カメラ較正システム３００は、カメラリグシステム２００内の複数台のカメラの組を一緒に較正し、較正パラメータに、ソフトウェアに基づく較正を実行して、その不一致を考慮するように各カメラからの画像を調整する。
【００３２】
以下でより完全に説明されるように、カメラ較正システム３００は、カメラリグシステム２００によって取り込まれた既知の試験対象の画像を処理し、カメラリグシステム内のカメラの較正のための初期較正パラメータ（例：回転および平行移動）を識別する。より具体的には、試験対象の三次元モデルは、カメラ較正システム３００によって生成され、実際の試験対象の既知のデータと比較されて、較正パラメータを評価し、より正確な較正のためにそのパラメータを調整する。カメラ較正システム３００による較正は、互いに対する各カメラの位置および配向などの、カメラリグシステム２００に関するより正確な情報を提供する。較正パラメータを使用して、個々のカメラそれぞれから取り込まれた画像の確度を改善し、その後の処理を改善し、例えば、クライアントＶＲデバイス１８０用のコンテンツを生成することができる。
【００３３】
クライアントＶＲデバイス１８０は、メディアをユーザに提示するヘッドマウントディスプレイである。より具体的には、クライアントＶＲデバイス１８０は、カメラリグシステム２００によって提供される画像またはビデオを受信し、クライアントＶＲデバイスを装着したユーザにバーチャルシーンを提供する。例えば、クライアントＶＲデバイス１８０は、カメラリグシステム２００から取り込まれた画像を用いて生成されたビューから立体三次元バーチャルシーンをユーザに提供する。
【００３４】
図２Ａ〜図２Ｃは、一実施形態によるカメラリグシステム２００の異なるビューを示す。より詳細には、図２Ａは、一実施形態によるカメラリグシステム２００の斜視図である。図２Ａに示すように、カメラリグシステム２００は、位置合わせ軸２０５、上板２１０、底板２２０、複数台の周辺カメラ２３０および複数台の軸カメラ２４０を含む。複数台の周辺カメラ２３０は、周辺カメラ２３０が位置合わせ軸２０５によって二等分されている中心点周りにリングを成すように配置される。上板２１０は、周辺カメラ２３０のリングの上面に連結しており、底板２２０は、周辺カメラ２３０のリングの底面に連結している。軸カメラ２４０は、位置合わせ軸２０５に沿って位置合わせされ、局所領域またはシーンの上方ビューおよび下方ビューを取り込むことができる。この構成は、周辺カメラ２３０の振動を防止し、周辺カメラがＶＲシステム用の３６０°の画像／ビデオを生成するために使用される高品質の画像および／またはビデオを取り込むことを可能にする剛構造を作り出し、このことによって周辺カメラおよび軸カメラは一緒にＶＲシステム用のキャンバスビューを生成することができる。より詳細には、シーンのキャンバスビューは、上部軸カメラ２４０によって取り込まれた上方ビュー、下部軸カメラ（ここでは図示されていない）によって取り込まれた下方ビュー、および複数台の周辺カメラ２３０によって取り込まれた側方ビューを合成することによって生成される。
【００３５】
図２Ａでは、１４台の周辺カメラ２３０と、上部軸カメラ２４０および下部軸カメラ（ここでは図示せず）を含む２つの軸カメラとが、例示のために図示されている。図示されていない代替的実施形態では、異なる台数の周辺カメラ２３０および／または軸カメラ２４０がカメラリグシステム２００に含まれていてもよい。同様に、追加および／または異なる要素がカメラリグシステム２００に含まれてもよい。さらに、図２Ａに示す様々なエンティティによって実行される機能は、異なる実施形態において異なっていてもよい。
【００３６】
より詳細には、周辺カメラ２３０は、局所領域またはシーンの３６０°ビューの画像および／またはビデオを取り込むように設計される。上述したように、複数台の周辺カメラ２３０は、周辺カメラ２３０が位置合わせ軸２０５によって二等分されている中心点周りにリングを成すように配置される。複数台の周辺カメラ２３０はさらに、各周辺カメラの光軸が平面内にあり、各周辺カメラの視野が中心点から離れる方向を向くように、中心点の周りに配置される。図２Ａに示すように、各周辺カメラ２３０はさらに、ある距離およびある角度で、隣接する周辺カメラの隣に配置される。しかしながら、製造公差および構成公差のため、各カメラは実際には元の設計に対して平行移動または回転している場合がある。各カメラの較正パラメータを使用して、この平行移動および回転を考慮し修正することができる。
【００３７】
軸カメラ２４０は、局所領域またはシーンの上方ビューおよび下方ビューの画像および／またはビデオを取り込むように設計されている。軸カメラ２４０はそれぞれ、位置合わせ軸２０５に沿って位置合わせされ、軸カメラそれぞれの光軸が位置合わせ軸と同一線上になるように配向される。軸カメラ２４０それぞれの視野は、カメラリグシステム２００の中心点から離れる方向に向けられる。図２Ａに示すように、上部軸カメラ２４０は、局所領域または局所シーンの上方ビューを取り込む。下部軸カメラ（図示せず）は、位置合わせ軸２０５に沿って上部軸カメラ２４０と対称に配置され、局所領域の下方ビューを取り込む。上部軸カメラおよび下部軸カメラ２４０は、周辺カメラ２３０に対して垂直方向にずらされ、視野間の重なりを制限する。一例として、上部軸カメラ２４０および下部軸カメラは、広い視野を取り込むために魚眼レンズを含んでいてもよい。
【００３８】
図２Ｂは、一実施形態による、図２Ａに示すカメラリグシステム２００の平面図である。図２Ｂに示す構成は、特に、周辺カメラ２３０Ａ、２３０Ｂ、および２３０Ｃに関するカメラリグシステム２００の較正のために使用することができる。図２Ｂでは、対象２７５が図示されており、周辺カメラ２３０Ａ、２３０Ｂ、および２３０Ｃならびにそれらの対応するビュー領域２６０Ａ、２６０Ｂ、および２６０Ｃは、例示のために強調されている。各ビュー領域２６０は、対応する周辺カメラ２３０の視野を示す。例えば、ビュー領域２６０Ａは周辺カメラ２３０Ａの視野を示し、ビュー領域２６０Ｂは周辺カメラ２６０Ｂの視野を示し、ビュー領域２６０Ｃは周辺カメラ２６０Ｃの視野を示す。
【００３９】
以下で説明されるように、各周辺カメラ２３０は、それぞれ隣接する２台の周辺カメラがその視野の特定の重なりを有するように、隣接する周辺カメラの隣に一定の距離および一定の角度で配置および配向される。視野の重なり合う部分は、図２Ｂの影領域によって表される。いくつかの実施形態では、複数台の周辺カメラ２３０は、中心点から一定の距離にある局所領域内のいかなる対象も少なくとも２台の周辺カメラによって見えるように配置および配向される。図２Ａ示す実施例では、ビュー領域２６０Ａ、２６０Ｂ、および２６０Ｃの間の領域は、対象がいずれの周辺カメラ２３０によっても見ることができない死角領域２８０であり、影領域は、少なくとも２台の周辺カメラによって見ることができる。図２Ｂの対象２７５は、３台の周辺カメラ２３０Ａ、２３０Ｂ、および２３０Ｃによって見ることができる。視野は、周辺カメラ２３０の異なる種類に応じて変化し得、異なるカメラの視界の重なり合った領域は、複数台の周辺カメラの数、位置および配向によっても変化し得る。
【００４０】
対象２７５は、その形状、対象上の任意の印、および周辺カメラ２３０によって見ることができる他の特徴などの既知の特性を有する対象である。以下にさらに記述されように、対象２７５の異なるビューを使用して、周辺カメラ２３０を較正することができる。対象２７５の既知の特徴を使用して、既知の特徴を、異なるビューを介して決定された特徴と比較し、各周辺カメラ２３０に関して識別された較正パラメータを評価する。この例では、較正パラメータは周辺カメラ２３０Ａ、２３０Ｂ、および２３０Ｃに関して識別され得る。
【００４１】
図２Ｃは、一実施形態による、較正中のカメラリグシステム２７０の平面図である。カメラリグシステム２７０は、図２Ａ〜図２Ｂに示すカメラリグシステム２００と類似の特性を共有しているが、異なる台数の周辺カメラ２９５を有する。さらに詳細には、図２Ｃに示すカメラリグシステム２７０は、図２Ａ〜図２Ｂに示す１４台の周辺カメラ２３０の代わりに８台の周辺カメラ２９５を有する。この例に示すように、８台のカメラ２９５Ａ〜２９５Ｈはそれぞれ対応する視野２９０Ａ〜２９０Ｈを有する。カメラ２９５Ａおよび２９５Ｂなどの隣接しているカメラは、既知の対象２７５Ａ〜２７５Ｈが位置する重なり合った視野を有する。このようにして、各対象は、少なくとも２台のカメラによって見られ、各カメラは、その視野内に少なくとも２つの対象を含む。これにより、各カメラを、連続した対（例：２９５Ａ〜２９５Ｂ、次いで２９５Ｂ〜２９５Ｃ）として、またはカメラの全組に関して一緒にするなど、互いに一緒に較正することが可能になる。したがって、各対象２７５は、カメラリグシステム全体が一緒に較正され得るように、各カメラ２９５の較正を、対象を見る他のカメラ２９５の較正に結びつける。
【００４２】
図３は、一実施形態による、カメラ較正システム３００のアーキテクチャの例示的なブロック図である。カメラ較正システム３００は、カメラリグシステム２００からの入力、例えば、カメラリグシステム内の複数台のカメラによって取り込まれた画像および／またはビデオを受信する。例えば、カメラ較正システム３００は、カメラリグシステム２００によって取り込まれた試験対象の画像を受信する。カメラ較正システム３００はまた、カメラリグシステム２００の外部較正のために、回転および平行移動などの較正パラメータを推定および識別し、試験対象の位置、サイズ、質感、および形状などの計算された較正基準を用いて試験対象の三次元モデルを生成する。カメラ較正システム３００は、様々な較正基準に関して、生成された三次元モデルを実際の既知の試験対象と比較して評価し、その比較に基づいてカメラの較正パラメータを調整する。
【００４３】
より詳細には、図３では、カメラ較正システム３００は、インタフェースモジュール３２２、推定モジュール３２４、三次元モデル生成モジュール３２６、評価モジュール３２８、画像データ・ストア３４２、パラメータデータ・ストア３４４、三次元データ・ストア３４６、および評価データ・ストア３４８を含む。図示されていない代替的実施形態では、追加および／または異なる要素がカメラ較正システム３００に含まれてもよい。同様に、カメラ較正システム３００の様々なエンティティによって実行される機能は、異なる実施形態において異なっていてもよい。
【００４４】
インタフェースモジュール３２２は、カメラリグシステム２００および／またはクライアントＶＲデバイス１８０から入力データを受信する。より具体的には、インタフェースモジュール３２２は、カメラリグシステム２００から画像および／またはビデオを受信する。例えば、インタフェースモジュール３２２は、カメラリグシステム２００内の複数台のカメラによって取り込まれた局所領域または対象（例：試験対象）の二次元画像を受信することができる。インタフェースモジュール３２２はさらに、カメラリグシステム２００によって取り込まれた画像に関する画像データおよび／またはビデオデータを受信することができる。一実施形態では、インタフェースモジュール３２２は、以下により完全に説明されるように、将来の計算のために試験対象に関する情報を受信することもできる。試験対象に関する情報の例としては、試験対象上の特徴に関する位置、サイズ、形状、色および質感、ならびに情報、例えば、対象の外観で区別される点の視覚的特徴が挙げられる。
【００４５】
インタフェースモジュール３２２はまた、カメラリグシステムに含まれる各カメラの位置および配向の識別および推定のために、カメラリグシステム２００に関する構成情報を受信することができる。構成情報は、互いの関係など、カメラの元のまたは予想される構成を説明するものである。構成情報はさらに、カメラの最大の誤差または較正を含み、カメラの製造公差を反映することができる。例えば、構成情報は、各カメラが互いに水平であるべきだが、±２ｃｍだけ垂直にずれ、４５°±２だけ角度が離れていてもよいことを示すことができる。したがって、構成情報は、カメラの較正の開始点であってもよく、所定の方向におけるカメラの最大較正パラメータを示す。初期較正パラメータは、構成情報に基づいて決定することができる。
【００４６】
一実施形態では、試験対象に関する情報および／またはカメラリグシステム２００に関する構成情報は、カメラ較正システム３００のユーザから受信することができる。例えば、ユーザは、カメラ較正システム３００にインタフェースモジュール３２２を介して情報をタイプ入力する。ユーザ情報は、例えば、構築されたカメラリグシステム２００の測定値を反映することができる。別の実施形態では、情報は、カメラ較正システム３００に関連する別のコンピュータサーバ（ここでは図示せず）から受信される。受信した画像および／または関連する画像データは、将来の使用のために画像データ・ストア３４２に記憶される。試験対象に関する受信情報（例：位置、サイズ、質感、形状）およびカメラリグシステム２００内の各カメラの位置および配向情報などのカメラの構成情報は、将来の使用のためにパラメータデータ・ストア３４４に記憶される。
【００４７】
インタフェースモジュール３２２はまた、クライアントＶＲデバイス１８０から入力データを受信することができる。例えば、インタフェースモジュール３２２は、クライアントＶＲデバイス１８０を装着しているユーザに提供されたビュー、画像および／またはデータに関するフィードバック情報を受信し、フィードバックに応答してユーザに変更または更新された画像などの出力データを提供する。
【００４８】
インタフェースモジュール３２２はまた、上述したように、カメラリグシステム２００および／またはクライアントＶＲデバイス１８０にデータを出力する。クライアントＶＲデバイス１８０への出力データは、画像および／またはビデオを含むことができる。例えば、インタフェースモジュール３２２は、クライアントＶＲデバイス１８０を装着したユーザにバーチャル体験用に生成された三次元シーンを提供することができる。カメラリグシステム２００への出力データは、試験対象または異なる局所領域に関するより多くの画像、またはカメラリグシステムの更新された較正パラメータに対する要求であってもよい。
【００４９】
推定モジュール３２４は、カメラリグシステム２００の外部較正のためのパラメータを識別し、推定する。いくつかの実施形態では、パラメータは、カメラリグシステム２００内の複数台のカメラを較正するために使用される較正パラメータである。より具体的には、各周辺カメラ２３０は、位置および配向に関する周辺カメラと他の周辺カメラとの関係を示す較正パラメータを有する。パラメータはまた、各周辺カメラ２３０について、カメラリグシステム２００内のその実際の位置および配向と、設計された位置および配向（例：構成情報で指定されたもの）との間の関係を示す。例えば、周辺カメラ２３０は、その周辺カメラのために設計により要求されるような位置に配置されていなかったり、要求される方向に配向されていなかったりする場合があり、これにより周辺カメラによって撮影された画像が回転または変形する。一例として、異なる周辺カメラ２３０によって取り込まれた画像は、一緒に適用されてクライアントＶＲデバイス１８０用の画像を生成する場合、複視を引き起こすことがある。
【００５０】
各周辺カメラ２３０について、較正パラメータは、マルチカメラシステムの較正のための十分に確立されたデータ構造である、回転行列および変換行列を含むことができる。より詳細には、回転行列は、カメラのピッチ、ロール、およびヨーを説明でき、変換行列は、カメラの前方、側方、および垂直の配置を示す。いくつかの実施形態では、カメラリグシステム２００との関連における各周辺カメラ２３０のパラメータは、パラメータデータ・ストア３４４に記憶された周辺カメラ２３０に関する構成情報に基づいて推定される。
【００５１】
カメラリグシステム２００に含まれる異なる数のカメラのパラメータは、１回の外部較正に対して一度で識別し、推定することができる。例えば、カメラリグシステム２００内の２台の周辺カメラ２３０に対する較正パラメータ（例：回転および平行移動）は、図７でより完全に以下で説明されるように、カメラリグシステム内の他のカメラに関係なく、一度に推定されてもよく、これは、２台の周辺カメラのための外部較正に対応する。この実施例では、２台の周辺カメラ２３０は、互いに隣接していてもよく、または互いに隣接するのではなく、異なる場所に配置されていてもよい。２台の周辺カメラ２３０は、両方のカメラによって取り込まれるべき同じ対象を含む重なり合ったビュー領域または視野を共有する。さらに、２台のカメラのみが１ラウンドで一緒に較正される場合、カメラリグシステム２００内のすべての周辺カメラ２３０を較正するために、複数ラウンドの外部較正を実行することができる。例えば、カメラは繰り返し較正することができる。繰り返しの各回において、視野を共有するカメラの各対を較正することができる。図２Ｃの実施例では、１回目の繰り返しは、対象２７５Ａを使用してカメラ２９５Ｈおよび２９５Ａが較正されるまで、対象２７５Ｂを使用してカメラ２９５Ａおよび２９５Ｂを較正し、次に対象２７５Ｃを使用してカメラ２９５Ｂおよび２９５Ｃを較正し、同様のことをカメラリグを一周して行うことができる。較正パラメータの変化量は、較正誤差として測定されてもよく、較正誤差がしきい値未満になるか、またはそれ以上改善されなくなるまで、較正のさらなる繰り返しを実行することができる。
【００５２】
別の例として、カメラリグシステム２００内の異なる台数の周辺カメラ２３０、例えば、すべての周辺カメラを、１回の繰り返しで一緒に較正することができる。較正パラメータは、将来の使用のためにパラメータデータ・ストア３４４にも記憶され、同様にカメラリグシステム２００にも記憶されてもよい。
【００５３】
三次元モデル生成モジュール３２６は、局所領域または対象の画像および／または画像データを受信し、その局所領域または対象の三次元モデルを生成する。局所シーンまたは対象の三次元モデルは、以下により完全に説明されるように、局所シーンまたは対象をシミュレーションする三次元モデルである。一例として、三次元モデル生成モジュール３２６は、カメラリグシステム２００内の複数台のカメラによって取り込まれた二次元画像に基づいて、試験対象の三次元モデルを生成する。より詳細には、三次元モデル生成モジュール３２６は、画像データ・ストア３４２から試験対象の画像および／または画像データを抽出し、パラメータデータ・ストア３４４からカメラリグシステム２００の現在の較正パラメータ（例：回転および平行移動）を抽出する。試験対象の三次元モデルは、受信した試験対象の二次元画像およびカメラリグシステム２００内の複数台のカメラの推定較正パラメータに基づいて生成される。生成された三次元モデルに関するデータは、試験対象の位置、サイズ、形状、および質感に関する情報、例えば、三次元モデル上の外観で区別可能な点に関する詳細情報を含む。このデータは、上述のように、較正基準としてもみなされる。データは、以下により完全に説明されるように、三次元データ・ストア３４６に記憶される。
【００５４】
評価モジュール３２８は、生成された三次元モデルを評価して、既知の対象および三次元モデルの較正基準間の誤差を最小にするために、較正パラメータをさらに調整し、再推定する。評価モジュール３２８は、三次元データ・ストア３４６から生成された三次元モデルに関するデータを抽出し、パラメータデータ・ストア３４４から試験対象に関する既知のデータを抽出する。評価モジュール３２８は、三次元モデルの較正基準を既知の試験対象の基準と比較し、較正誤差を生成する。これらの基準としては、図６に関してさらに論じられるように、位置、サイズ、形状、質感、および他の基準を挙げることができる。評価モジュール３２８は、生成された三次元モデルに関するデータと、実際の試験対象に関する既知のデータとを比較して、生成された三次元モデルが実際の試験対象とどのくらい似ているか、例えば、生成された三次元モデルが様々な基準に関して実際の試験対象とどのくらい一致するかを評価する。（基準によって決定される）既知の対象と三次元モデルとの差異は、較正誤差と呼ばれる。
【００５５】
実際の試験対象とよく似ているかまたはよく一致する、生成された三次元モデルは、複数台のカメラに対する較正パラメータ（例：回転および平行移動）がほぼ正確であり、既知の対象を効果的に表すことを示す。
【００５６】
対照的に、実際の試験対象に似ていない、生成された三次元モデルは、カメラリグシステム２００の較正パラメータ（例：回転および平行移動）が正確ではなく、関与する複数台のカメラの外部較正が有効でないことを示す。例えば、生成された三次元モデルの形状が実際の試験対象と同じでない可能性があるか、または三次元モデルに関して決定された質感が実際の試験対象の対応する部分と同じでない可能性がある。これらの例は、較正パラメータ（例：回転および平行移動）の推定が正確でない可能性があることを示している。いくつかの実施形態では、較正誤差にしきい値を設定することができる。例えば、しきい値内にある較正誤差は、生成された三次元モデルと実際の試験対象との良好な一致を示すことができ、しきい値から外れている較正誤差は、生成された三次元モデルと実際の試験対象とがよく一致していないことを示すことができる。
【００５７】
上述のように、評価モジュール３２８はさらに、試験対象の生成された三次元モデルの評価に基づいてカメラリグシステム２００の推定較正パラメータを評価する。いくつかの実施形態では、較正パラメータ（例：回転および平行移動）は、現在の推定の評価に基づいて次のラウンドの較正および三次元モデル生成のために調整される。例えば、複数台のカメラの現在のラウンドの較正パラメータに対する評価が大きな較正誤差を有する場合、これはさらに、現在の較正がそれほど有効ではないことを示す。この例では、関与する同一の複数台のカメラに対する較正パラメータを次の較正ラウンドのために調整することができ、次の較正ラウンドの間、同じ試験対象の新しい三次元モデルが、現在のラウンド中に複数台のカメラによって取り込まれた同じ二次元画像に基づいて生成される。
【００５８】
一実施形態では、較正パラメータは、勾配降下関数または勾配降下アルゴリズムを使用して調整される。勾配降下関数は、較正パラメータに対する調整が三次元モデルの基準をどのように調整するかを決定し、三次元モデルの基準と対象の既知の基準との差異を最小にするように較正パラメータを調整する。勾配降下関数は、較正パラメータに対する可能な変化に基づいて三次元モデルを再計算するか、または基準および較正誤差が較正パラメータへの様々な調整に対してどのように変化するかを決定することができる。生成された三次元モデルおよび更新された較正パラメータの評価結果は、評価データ・ストア３４８に記憶される。
【００５９】
画像データ・ストア３４２は、特定の対象またはシーンの二次元画像および／または画像データを記憶する。一例として、画像は、同じ試験対象の複数のビューを示すことができ、カメラリグシステム２００内の異なるカメラによって異なる視点ビューから取り込まれる。画像データは、各画素の明度、階調および色などの二次元画像上の各画素に関する情報を含むことができる。画像データ・ストア３２２に記憶された画像および画像データは、上述のように、三次元モデル生成モジュール３２６のために使用され、試験対象の三次元モデルを生成する。
【００６０】
パラメータデータ・ストア３４４は、試験対象に関する既知のデータを記憶する。例えば、パラメータデータ・ストア３４４は、試験対象のサイズ、形状、質感、および他の基準を記憶し、試験対象上の各点またはパターンに関する細かい情報を含むことができる。
【００６１】
パラメータデータ・ストア３４４はまた、カメラリグシステム２００において一緒に較正されるべき複数台のカメラの構成情報および較正パラメータを記憶する。
三次元データ・ストア３４６は、生成された三次元モデルおよび生成された三次元モデルに関するデータを記憶する。上述のように、三次元モデルは、局所シーンまたは対象の三次元画像である。一例として、試験対象の三次元モデルは、画像データ・ストア３４２に記憶された試験対象の二次元画像を用いて生成される。生成された三次元モデルに関連するデータは、関与する複数台のカメラによって取り込まれたシーン内の試験対象のサイズ、形状、および位置などのデータを含むことができる。
【００６２】
評価データ・ストア３４８は、生成された三次元モデルおよび較正パラメータの評価データを記憶する。試験対象の生成された三次元モデルの評価データは、上述のように、三次元モデルが実際の試験対象にどのくらい似ているかを反映する較正誤差を示すことができる。
【００６３】
図４は、一実施形態による、十分に較正されていない２台のカメラからの例示的画像４３０を示す。図４では、画像４３０Ａおよび画像４３０Ｂは、２つの異なる斜視ビューから同じ対象を見せるように、２台の異なる周辺カメラ２３０Ａおよび２３０Ｂによって取り込まれる。２台のカメラ２３０Ａおよび２３０Ｂは、設計通りに配置または配向されていないか、または一緒に較正されていない。図４に示すように、２枚の画像４３０Ａおよび４３０ＢをブレンドしてクライアントＶＲデバイス１８０のユーザ用のビューを生成する際、２枚の画像４３０Ａおよび４３０Ｂの不正確な位置および配向を原因として複視を引き起こす場合がある。
【００６４】
図５は、一実施形態による、カメラリグシステム２００内の複数台のカメラの外部較正のための例示的な試験対象５００を示す。図５では、試験対象５００は、正面にチェッカー盤パターン５１０が塗布された六面立方体である。図５に示す実施例では、チェッカー盤パターン５１０は、５×５の正方形のチェッカー盤パターンである。チェッカー盤パターン５１０の角は、生成された三次元モデルの将来の評価に使用される。図示されていない代替的実施形態では、試験対象５００は、図５に示される立方体ではなく、異なる種類または形状を有していてもよい。
【００６５】
図６Ａおよび図６Ｂは、一実施形態による、カメラリグシステム２００内の２台の異なる周辺カメラ２３０によって取り込まれた試験対象５００の２枚の画像６００および６５０を示す。図６Ａおよび図６Ｂに示すように、角５１２は、図５に示す試験対象５００の表面上の同じ角を表す。
【００６６】
図５および図６Ａ〜図６Ｂに示す試験対象５００の実施例では、生成された三次元モデルが実際の試験対象に似ているかどうかを判断するいくつかの方法がある。これらの基準を計算し、比較して、図６Ａ〜図６Ｂを取り込むカメラの較正パラメータに対する較正誤差を決定することができる。一例として、図５に示された試験対象５００について、立方体の二つの面の各々は互いに垂直であるべきであり、その場合、試験対象の生成された三次元モデルの各二つの面は、それらが互いに垂直であるかどうかを調べられ得る。ドット積のような数学的計算を使用して、生成された三次元モデルの面同士が互いに垂直であるかどうかを確認することができる。別の例として、試験対象５００の各面は平坦であるべきであり、その場合、生成された三次元モデルは、試験対象５００の各面が平坦であるかどうかを調べられ得る。さらなる例として、試験対象５００の異なる辺は互いに対して回転すべきではない。別の例では、生成された三次元モデルにおける対象の面は、実際の試験対象の表面上の対応する点と比較され、生成された三次元モデルが実際の試験対象とどのくらい一致するかを評価することができる。別の言い方をすれば、生成された三次元モデルの面の質感は、試験対象の既知のパターンと比較することができる。この例では、「チェッカー盤」パターンを比較して、三次元モデルのパターンが正方形パターンであるか、または曲がっているかを１つの基準により判定することができる。生成された三次元モデルが既知の試験対象と一致するかどうかを評価するための較正基準として、試験対象のこれら様々な各側面を使用することができる。
【００６７】
図７は、一実施形態による、カメラ較正システム３００による較正プロセスを示す例示的フローチャート７００を示す。図７に示す例示的フローチャートでは、カメラ較正システム３００内の２台またはそれ以上のカメラは、一緒に推定されるこれらの２台またはそれ以上のカメラのパラメータを用いて一緒に較正される。図示されていない代替的実施形態では、カメラ較正システム３００内の異なる数のカメラまたはすべてのカメラは、図７に示すフローチャート７００と同様のプロセスを使用して一緒に較正されてもよい。上述のように、較正は、試験対象に関して２台またはそれ以上のカメラを較正する第１の較正ラウンド、次いで、第１の較正ラウンドから調整された較正パラメータを用いた、別の組のカメラを較正する次の較正ラウンドにおいて繰り返されてよい。
【００６８】
図７に戻ると、最初に、カメラ較正システム３００は、較正のためにカメラリグシステム２００内の２台またはそれ以上のカメラに関する構成情報を受信する（７１０）。構成情報は、カメラリグシステム２００内の他のカメラと比較した、各カメラの設計または測定された相対的な位置および配向に関する情報を含むことができる。カメラ較正システム３００はまた、既知の試験対象に関する情報を受信する（７２０）。この情報は、既知の試験対象の様々な較正基準を含むことができる。カメラ較正システムはまた、２台またはそれ以上のカメラによって取り込まれた既知の試験対象の二次元画像を受信する（７３０）。カメラ較正システム３００は、２台またはそれ以上のカメラに関する受信した構成情報に基づいて、またはカメラのための前の較正パラメータに基づいて、カメラの初期較正パラメータ、例えば、カメラの回転情報および平行移動情報を識別（７４０）または推定する。次に、カメラ較正システム３００は、試験対象の受信した二次元画像と、２台またはそれ以上のカメラの識別された較正パラメータとに基づいて、試験対象の三次元モデルを生成する（７５０）。カメラ較正システム３００は、試験対象の既知の基準に基づいて、試験対象の生成された三次元モデルの評価レポートを生成する（７６０）。評価レポートは、生成された三次元モデルが実際の試験対象とどのくらい似ているか、およびパラメータ（回転と平行移動）がどのくらい良好に推定されているかを示すことができる。カメラ較正システム３００は、評価レポートに基づいて較正パラメータの評価を調整する（７７０）。
【００６９】
追加構成情報
本発明の実施形態の上述の説明は、例示の目的のために提示されており、網羅的であること、または、開示された正確な形態に本開示を限定することを意図するものではない。関連技術の当業者は、上記の開示に照らして多くの修正および変形が可能であることを理解することができる。
【００７０】
上記説明の一部は、情報操作のアルゴリズムおよび記号表現に関して本発明の実施形態を説明するものである。これらのアルゴリズムの説明および表現は、それらの作業内容を当業者に効果的に伝えるためにデータ処理分野において当業者によって一般に用いられる。これらの操作は、機能的、計算的に、または論理的に説明されるが、コンピュータプログラムまたは同等の電気回路、マイクロコードなどによって実施されることが理解されよう。また、一般性を失うことなく、これらの操作の構成をモジュールとして指すことが時として便利であることがさらに分かっている。記述された操作およびその関連するモジュールは、ソフトウェア、ファームウェア、ハードウェア、または任意のそれらの組み合わせにおいて具現化されてよい。
【００７１】
本明細書に記載されているステップ、操作、またはプロセスのいずれかは、１つまたは複数のハードウェアまたはソフトウェアモジュールを、単独で、または他のデバイスと組み合わせて、実行または実施されてよい。一実施形態では、ソフトウェアモジュールは、コンピュータプログラムコードを含むコンピュータ可読媒体を備えたコンピュータプログラム製品を用いて実施され、このコンピュータプログラムコードは、記載されたステップ、操作、またはプロセスのいずれかまたはすべてを実行するためにコンピュータプロセッサによって実行され得る。
【００７２】
本発明の実施形態はまた、本明細書における操作を実行するための装置に関する。この装置は、必要な用途のために特別に設計されていてもよく、および／または、コンピュータ内に記憶されたコンピュータプログラムにより選択的に起動または再構成される汎用演算装置を備えていてもよい。このようなコンピュータプログラムは、非一時的な有形のコンピュータ可読記憶媒体、またはコンピュータシステムバスに接続することができる、電子命令を記憶するのに好適な任意の種類の媒体に記憶されてよい。さらに、本明細書において言及される演算システムは、単一のプロセッサを含んでいてもよく、または、増加した演算能力のための複数プロセッサ設計を使用したアーキテクチャであってもよい。
【００７３】
本発明の実施形態はまた、本明細書に記載の演算処理によって作り出される製品に関連し得る。このような製品は、演算処理から生じる情報を含むことができ、この情報は、非一時的な有形のコンピュータ可読記憶媒体に記憶され、かつ、コンピュータプログラム製品または本明細書に記載の他のデータの組み合わせの任意の実施形態を含むことができる。
【００７４】
最後に、本明細書で使用される用語は、主として読み易さおよび教示の目的で選択されており、それは本発明の主題を限定または制限するために選択されていない場合がある。したがって、本発明の範囲は、この詳細な説明によってではなく、本明細書に基づく出願に関して生じる特許請求の範囲によって限定されることが意図される。したがって、本発明の実施形態の開示は、添付の特許請求の範囲に記載される本発明の範囲を例示することを意図しており、限定することは意図していない。
【図１】
2019510982.tif 000003
【図２Ａ】
2019510982.tif 000004
【図２Ｂ】
2019510982.tif 000005
【図２Ｃ】
2019510982.tif 000006
【図３】
2019510982.tif 000007
【図４】
2019510982.tif 000008
【図５】
2019510982.tif 000009
【図６Ａ】
2019510982.tif 000010
【図６Ｂ】
2019510982.tif 000011
【図７】
2019510982.tif 000012
【手続補正書】
【提出日】平成30年11月30日(2018.11.30)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
カメラリグシステムを較正する方法であって、
前記カメラリグシステム内の複数台のカメラに関する構成情報を受信するステップであって、前記複数台のカメラは、試験対象が位置するそれぞれの視野中に重なり合った部分を共有している、ステップと、
前記複数台のカメラの較正パラメータを識別するステップと、
前記複数台のカメラによって取り込まれた前記試験対象の複数の画像を受信するステップであって、前記試験対象は、前記試験対象上の外観で区別可能な点の位置、サイズ、質感、形状および詳細情報のうちの少なくとも１つを含む既知の較正基準を有する、ステップと、
識別された前記較正パラメータおよび受信した前記複数の画像に基づいて前記試験対象の三次元モデルを生成するステップと、
前記試験対象の生成された前記三次元モデルの校正基準と、前記試験対象の前記既知の校正基準との間の差異を反映する較正誤差を計算する、較正誤差計算ステップと、
前記複数台のカメラの前記較正パラメータを変更して前記較正誤差を低減するステップと、
前記較正誤差がしきい値の較正誤差を下回るまで較正のさらなる繰り返しを実行するステップと
を備える、方法。
【請求項２】
前記構成情報は、前記複数台のカメラ中の各カメラについて、前記複数台のカメラ中の他のカメラに対する位置および配向を含む、請求項１に記載の方法。
【請求項３】
前記較正パラメータは、前記複数台のカメラのうちの各カメラに関する回転情報および平行移動情報を含む、請求項１に記載の方法。
【請求項４】
前記カメラリグシステム内の前記複数台のカメラは、前記カメラリグシステム内の２台のカメラである、請求項１に記載の方法。
【請求項５】
前記カメラリグシステムは、複数台のカメラおよび複数の既知の対象を含み、既知の対象のそれぞれは少なくとも２台のカメラによって見られ、各カメラは少なくとも２つの既知の対象を見る、請求項１に記載の方法。
【請求項６】
対のカメラが較正される、請求項５に記載の方法。
【請求項７】
前記複数台のカメラは、一緒に較正され、前記カメラ各々の較正誤差を最小にする、請求項５に記載の方法。
【請求項８】
カメラリグシステムを較正するコンピュータプログラム命令を記憶する非一時的コンピュータ可読記憶媒体であって、コンピュータプロセッサによって実行されたときに前記コンピュータプログラム命令は、前記プロセッサに、
前記カメラリグシステム内の複数台のカメラに関する構成情報を受信するステップであって、前記複数台のカメラは、試験対象が位置するそれぞれの視野中に重なり合った部分を共有している、ステップと、
前記複数台のカメラの較正パラメータを識別するステップと、
前記複数台のカメラによって取り込まれた前記試験対象の複数の画像を受信するステップであって、前記試験対象は、前記試験対象上の外観で区別可能な点の位置、サイズ、質感、形状および詳細情報のうちの少なくとも１つを含む既知の較正基準を有する、ステップと、
識別された前記較正パラメータおよび受信した前記複数の画像に基づいて前記試験対象の三次元モデルを生成するステップと、
前記試験対象の生成された前記三次元モデルの校正基準と、前記試験対象の前記既知の校正基準との間の差異を反映する較正誤差を計算する、較正誤差計算ステップと、
前記複数台のカメラの前記較正パラメータを変更して前記較正誤差を低減するステップと、
前記較正誤差がしきい値の較正誤差を下回るまで較正のさらなる繰り返しを実行するステップと
を実行させる、非一時的コンピュータ可読記憶媒体。
【請求項９】
前記構成情報は、前記複数台のカメラ中の各カメラについて、前記複数台のカメラ中の他のカメラに対する位置および配向を含む、請求項８に記載の非一時的コンピュータ可読記憶媒体。
【請求項１０】
前記較正パラメータは、前記複数台のカメラのうちの各カメラに関する回転情報および平行移動情報を含む、請求項８に記載の非一時的コンピュータ可読記憶媒体。
【請求項１１】
前記カメラリグシステム内の前記複数台のカメラは、前記カメラリグシステム内の２台のカメラである、請求項８に記載の非一時的コンピュータ可読記憶媒体。
【請求項１２】
前記カメラリグシステムは、複数台のカメラおよび複数の既知の対象を含み、既知の対象のそれぞれは少なくとも２台のカメラによって見られ、各カメラは少なくとも２つの既知の対象を見る、請求項８に記載の非一時的コンピュータ可読記憶媒体。
【請求項１３】
対のカメラが較正される、請求項１２に記載の非一時的コンピュータ可読記憶媒体。
【請求項１４】
前記複数台のカメラは、一緒に較正され、前記カメラ各々の較正誤差を最小にする、請求項１２に記載の非一時的コンピュータ可読記憶媒体。
【国際調査報告】
2019510982.tif 000013
2019510982.tif 000014