(57)【要約】【課題】ビデオシースルー型ＨＭＤにおいて、ＨＭＤ内に表示する表示画像より広い表示画角に相当する画像を生成できるようにする。【解決手段】画像表示システムは、左眼用および右眼用撮像画像である又はこれらに画像処理が行われることにより生成された左眼用および右眼用処理画像である左眼用および右眼用原画像を用いて第１の左眼用および右眼用表示画像を生成する第１の画像生成手段１２０と、これら第１の表示画像を観察者の左眼および右眼に観察させる第１の画像表示手段１０６，１０７とを有する。第１の画像生成手段は、左眼用および右眼用原画像のそれぞれの部分領域の画像に相当する第１の左眼用および右眼用表示画像を生成する。第２の画像生成手段１２０は、左眼用および右眼用原画像のうち少なくとも一方を用いて、上記部分領域を含み、かつ該部分領域より広い領域の画像に相当する第２の表示画像を生成する。【選択図】図２
2018023026.tif 000002
【特許請求の範囲】
【請求項１】
左眼用撮像画像および右眼用撮像画像をそれぞれ撮像により取得する左眼用撮像手段および右眼用撮像手段と、
前記左眼用撮像画像および前記右眼用撮像画像である又は前記左眼用撮像画像および前記右眼用撮像画像のそれぞれに対して画像処理が行われることにより生成された左眼用処理画像および右眼用処理画像である左眼用原画像および右眼用原画像を用いて第１の左眼用表示画像および第１の右眼用表示画像を生成する第１の画像生成手段と、
前記第１の左眼用表示画像および前記第１の右眼用表示画像をそれぞれ第１の観察者の左眼および右眼に観察させる第１の画像表示手段とを有し、
前記第１の画像生成手段は、前記左眼用原画像および前記右眼用原画像のそれぞれの部分領域の画像に相当する前記第１の左眼用表示画像および前記第１の右眼用表示画像を生成し、
前記左眼用原画像および前記右眼用原画像のうち少なくとも一方を用いて、前記部分領域を含み、かつ該部分領域より広い領域の画像に相当する第２の表示画像を生成する第２の画像生成手段をさらに有することを特徴とする画像表示システム。
【請求項２】
前記第１の左眼用表示画像および前記第１の右眼用表示画像はともに、前記左眼用原画像および前記右眼用原画像のうち前記左眼および前記右眼により互いに重なり合って観察される両眼画像領域を含み、
前記第１の左眼用表示画像は、前記両眼画像領域と前記左眼により観察される左眼画像領域とを含み、
前記第１の右眼用表示画像は、前記両眼画像領域と前記右眼により観察される右眼画像領域とを含むことを特徴とする請求項１に記載の画像表示システム。
【請求項３】
前記第２の表示画像は、前記両眼画像領域、前記右眼画像領域および前記左眼画像領域を含むことを特徴とする請求項２に記載の画像表示システム。
【請求項４】
前記画像処理は、前記左眼用撮像画像および前記右眼用撮像画像に別の画像を重畳する処理であることを特徴とする請求項１から３のいずれか一項に記載の画像表示システム。
【請求項５】
前記第１の観察者とは異なる第２の観察者による観察が可能な第２の画像表示手段を含み、
前記第２の画像表示手段に前記第２の表示画像を表示させる画像出力手段を有することを特徴とする請求項１から４のいずれか一項に記載の画像表示システム。
【請求項６】
前記第２の画像表示手段に表示させる画像を、前記第２の表示画像、前記第１の左眼用表示画像および前記第１の右眼用表示画像のなかから選択する選択手段を有することを特徴とする請求項５に記載の画像表示システム。
【請求項７】
前記第２の画像生成手段は、前記第２の画像表示手段に表示させる画像として、前記第１の左眼用表示画像および前記第１の右眼用表示画像を合成した合成表示画像を生成することを特徴とする請求項５または６に記載の画像表示システム。
【請求項８】
前記左眼用および右眼用撮像手段および前記第１の画像表示手段を有する画像表示装置と、
前記第２の画像生成手段を有する画像処理装置とを含み、
前記第１の画像生成手段は、前記画像表示装置および前記画像処理装置のうち一方に含まれていることを特徴とする請求項１から７のいずれか一項に記載の画像表示システム。
【請求項９】
左眼用撮像画像および右眼用撮像画像をそれぞれ撮像により取得する左眼用撮像手段および右眼用撮像手段と、第１の左眼用表示画像および第１の右眼用表示画像をそれぞれ第１の観察者の左眼および右眼に観察させる第１の画像表示手段とを含む画像表示システムのコンピュータに処理を実行させるコンピュータプログラムであって、
前記コンピュータに、
前記左眼用撮像画像および前記右眼用撮像画像である又は前記左眼用撮像画像および前記右眼用撮像画像のそれぞれに対して画像処理が行われることにより生成された左眼用処理画像および右眼用処理画像である左眼用原画像および右眼用原画像のそれぞれの部分領域の画像に相当する前記第１の左眼用表示画像および第１の右眼用表示画像を生成させ、
前記左眼用原画像および前記右眼用原画像のうち少なくとも一方を用いて、前記部分領域を含み、かつ該部分領域より広い領域の画像に相当する第２の表示画像を生成させることを特徴とする画像表示プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、観察者の頭部に装着され、撮像により取得した左眼用および右眼用撮像画像をそれぞれ観察者に左右の眼を通して観察させるビデオシースルー型のヘッドマウントディスプレイ（ＨＭＤ）等の画像表示装置を用いた画像表示システムに関する。
【背景技術】
【０００２】
上記のようなビデオシースルー型ＨＭＤは、現実の被写体を撮像して取得した撮像画像にＣＧ（コンピュータグラフィクス）画像を重畳した表示画像をＬＣＤ等の表示素子に表示し、該表示素子からの光を表示光学系により観察者の眼に導く。このようなビデオシースルー型ＨＭＤは、撮像画像と表示画像との位置合わせを容易にする等の理由から、撮像する画角（以下、撮像画角という）が表示素子に表示する画角（以下、表示画角という）よりも広いことが望ましい。また、ＨＭＤを装着していない他の観察者も表示画像を観察することができるように、表示画像を外部表示装置に出力できることが望ましい。
【０００３】
このようなＨＭＤは特許文献１および特許文献２に開示されている。特許文献１にて開示されたＨＭＤは、その使用状況に応じて外部表示装置に出力する画像を切り替える。また、特許文献２にて開示されたＨＭＤは、外部表示装置に出力する画像に対して表示光学系の歪逆補正やγ補正を行う画像補正部を有する。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００４−２５８１２３号公報
【特許文献２】特開２００６−０４１７９５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、表示画角が撮像画角よりも狭い場合において表示画像をそのまま外部表示装置に出力すると、外部表示装置を観察する観察者も狭い表示画角の表示画像しか観察することができない。外部表示装置を観察する観察者は、ＨＭＤを装着している観察者よりも広い表示画角の画像を観察できることが望ましい場合がある。特許文献１，２にて開示されたＨＭＤは、外部表示装置に対して撮像画角より狭い表示画角の表示画像しか出力することができない。
【０００６】
本発明は、撮像画角が表示画角よりも広いビデオシースルー型ＨＭＤを用いる場合に、外部表示装置に出力可能な表示画像としてＨＭＤ内に表示する表示画像より広い表示画角に相当する画像を生成できるようにした画像表示システムを提供する。
【課題を解決するための手段】
【０００７】
本発明の一側面としての画像表示システムは、左眼用撮像画像および右眼用撮像画像をそれぞれ撮像により取得する左眼用撮像手段および右眼用撮像手段と、左眼用撮像画像および右眼用撮像画像である又は左眼用撮像画像および右眼用撮像画像のそれぞれに対して画像処理が行われることにより生成された左眼用処理画像および右眼用処理画像である左眼用原画像および右眼用原画像を用いて第１の左眼用表示画像および第１の右眼用表示画像を生成する第１の画像生成手段と、第１の左眼用表示画像および第１の右眼用表示画像をそれぞれ第１の観察者の左眼および右眼に観察させる第１の画像表示手段とを有する。第１の画像生成手段は、左眼用原画像および右眼用原画像のそれぞれの部分領域の画像に相当する第１の左眼用表示画像および前記第１の右眼用表示画像を生成する。左眼用原画像および右眼用原画像のうち少なくとも一方を用いて、上記部分領域を含み、かつ該部分領域より広い領域の画像に相当する第２の表示画像を生成する第２の画像生成手段をさらに有することを特徴とする。
【０００８】
なお、コンピュータを上記第１および第２の画像生成手段として機能させるコンピュータプログラムとしての画像表示プログラムも、本発明の他の一側面を構成する。
【発明の効果】
【０００９】
本発明によれば、撮像画角が第１の左眼用および右眼用表示画像のそれぞれの表示画角より広い場合において、該第１の左眼用および右眼用表示画像のそれぞれよりも広い表示画角の画像に相当する第２の表示画像を生成することができる。
【図面の簡単な説明】
【００１０】
【図１】本発明の実施例１であるビデオシースルー型ＨＭＤシステムの構成を示す図。
【図２】実施例１のＨＭＤの構成を示す図。
【図３】実施例１のＨＭＤシステムにおける撮像画像、広角モニタ用表示画像および左眼用表示画像を示す図。
【図４】本発明の実施例２であるビデオシースルー型ＨＭＤシステムの構成を示す図。
【図５】実施例２のＨＭＤの構成を示す図。
【図６】実施例２のＨＭＤを通して両眼で見える観察画像を示す図。
【図７】実施形２のＨＭＤシステムにおける撮像画像、広角モニタ用表示画像および左眼用表示画像を示す図。
【図８】実施形２のＨＭＤシステムにおける撮像画像、広角モニタ用表示画像および左眼用表示画像を示す図。
【図９】実施形２のＨＭＤシステムにおける撮像画像、モニタ用合成表示画像および左眼用表示画像を示す図。
【図１０】実施例１においてＰＣボードが実行する処理を示すフローチャート。
【発明を実施するための形態】
【００１１】
以下、本発明の実施例について図面を参照しながら説明する。
【実施例１】
【００１２】
図１には、本発明の実施例１である画像表示システムとしてのビデオシースルー型ＨＭＤシステムの構成を示している。１０１はビデオシースルー型ＨＭＤ（画像表示装置）、１０２はパーソナルコンピュータ、１０３は第２の画像表示手段としての外部モニタである。ＨＭＤ１０１は不図示の観察者（第１の観察者：以下、ＨＭＤ観察者という）の頭部に装着され、該ＨＭＤ観察者の左眼および右眼に後述する左眼用表示画像および右眼用表示画像（の拡大虚像）を観察させる。
【００１３】
パーソナルコンピュータ１０２には、本ＨＭＤシステムの一部である画像処理装置としてのＰＣボード（第１の画像生成手段および第２の画像生成手段）１２０が組み込まれている。ＰＣボード１０２は、画像表示用のコンピュータとして、コンピュータプログラムである画像表示プログラムに従って以下に説明する処理を行う。
【００１４】
ＰＣボード１２０は、ＨＭＤ１０１から出力された後述する左眼用撮像画像および右眼用撮像画像に対して画像処理を行うことにより左眼用処理画像および右眼用処理画像としての左眼用原画像および右眼用原画像を生成する。ＰＣボード１２０は、左眼用原画像および右眼用原画像を用いて第１の左眼用表示画像（以下、単に左眼用表示画像という）および第１の右眼用表示画像（以下、単に右眼用表示画像という）を生成し、これらをＨＭＤ２０１に出力する。また、ＰＣボード１２０は、左眼用原画像および右眼用原画像のうち少なくとも一方を用いて後述する広角モニタ用表示画像（第２の表示画像）を生成し、画像出力手段として該広角モニタ用表示画像を外部モニタ１０３に出力する。
【００１５】
外部モニタ１０３は、入力された広角モニタ用表示画像を表示して、ＨＭＤ観察者とは別の一人または複数人の観察者（第２の観察者：以下、モニタ観察者という）に観察させる。
【００１６】
図２には、ＨＭＤ１０１の構成を示している。ＨＭＤ１０１は、左眼用撮像部（左眼用撮像手段）１０４、右眼用撮像部（右眼用撮像手段）１０５、左眼用表示部１０６および右眼用表示部１０７を有する。左眼用表示部１０６および右眼用表示部１０７により、第１の画像表示手段が構成される。また、ＨＭＤ１０１は、画像入出力部１１５を有する。
【００１７】
ビデオシースルー型であるＨＭＤ１０１は、現実世界を左眼用撮像部１０４と右眼用撮像部１０５によりそれぞれ撮像して左眼用撮像画像と右眼用撮像画像とを取得する。左眼用撮像部１０４は、左眼用撮像光学系１０４ａと、左眼用撮像光学系１０４ａにより形成された光学像としての被写体像を光電変換（撮像）する左眼用撮像素子１０４ｂとを有する。右眼用撮像部１０５は、右眼用撮像光学系１０５ａと、右眼用撮像光学系１０５ａにより形成された被写体像を撮像する右眼用撮像素子１０５ｂとを有する。
【００１８】
画像入出力部１１５は、左眼用および右眼用撮像部１０４，１０５がそれぞれ取得した左眼用および右眼用撮像画像をパーソナルコンピュータ１０２に装着されたＰＣボード１２０に出力する。
【００１９】
図１０には、ＰＣボード１２０が上述した画像表示プログラムに従って実行する処理の流れを示している。ＰＣボード１２０は、画像入出力部１１５から出力された左眼用および右眼用撮像画像を取り込む（ステップＳ３０１）。
【００２０】
次に、ＰＣボード１２０は、左眼用および右眼用撮像画像に対してそれぞれ別の画像であるＣＧ画像を重畳する画像処理を行って、左眼用処理画像および右眼用処理画像としての左眼用原画像および右眼用原画像を生成する（ステップＳ３０２）。そして、ＰＣボード１２０は、左眼用および右眼用原画像からそれらの部分領域の画像を切り出して左眼用表示画像および右眼用表示画像を生成し、画像入出力部１１５に出力する（ステップＳ３０３）。
【００２１】
左眼用表示部１０６は、画像入出力部１１５から入力された左眼用表示画像を表示する左眼用表示素子１０６ａと、左眼用表示素子１０６ａ（左眼用表示画像）からの光を左射出瞳に位置するＨＭＤ観察者の左眼１０８に導く右眼用表示光学系１０６ｂとを有する。右眼用表示部１０７は、画像入出力部１１５から入力された右眼用表示画像を表示する右眼用表示素子１０７ａと、右眼用表示素子１０７ａ（右眼用表示画像）からの光を右射出瞳に配置されたＨＭＤ観察者の右眼１０９に導く右眼用表示光学系１０７ｂとを有する。
【００２２】
本実施例において、左眼用および右眼用撮像部１０４，１０５の水平方向での撮像画角はともに８０度であり、左眼用および右眼用表示部１０６，１０７の水平方向での表示画角６０度よりも広い。各撮像部の撮像画角が各表示部の表示画角より広いことで、各撮像部により取得した撮像画像から各表示画像を切り出す位置を調整して各表示部で表示する表示画像を生成することができ、撮像部と表示部との光軸のアライメント調整を容易に行うことができる。また、撮像画像を用いて現実世界の被写体距離の測定やＣＧ画像の重畳のための特徴点検出を行う場合に、表示部における表示画角の端に存在する被写体に対しても精度良く被写体距離測定や特徴点検出を行うことができる。
【００２３】
図３（ａ）には、左眼用撮像部１０４が上述した撮像画角での撮像により取得した左眼用撮像画像を示している。また図３（ｂ）には、ＰＣボード１２０が左眼用撮像画像にＣＧ画像１１０を重畳して生成した左眼用処理画像としての左眼用原画像を示す。さらに図３（ｃ）には、左眼用原画像のうち一部である部分領域の画像に相当する左眼用表示画像を示す。ＰＣボード１２０は、図３（ｂ）に示す左眼用原画像から図３（ｃ）に示すように左眼用表示部１０６での表示画角に合った部分領域を切り出して左眼用表示画像を生成する。
【００２４】
さらに、ＰＣボード１２０は、外部モニタ１０３に、図３（ｂ）に示した左眼用原画像を広角モニタ用表示画像として出力する（ステップＳ３０４）。
【００２５】
ここで、選択手段として機能するＰＣボード１２０は、外部モニタ１０３に、図３（ｂ）に示した左眼用原画像を広角モニタ用表示画像として出力するか図３（ｃ）に示した左眼用表示画像を出力するかを選択することができる。左眼用原画像に相当する広角モニタ用表示画像は、左眼用表示画像よりも広い領域を表示可能な画像である。ＰＣボード１２０は、ＨＭＤ観察者と同じ画像の観察を望むモニタ観察者による選択入力に応じて、図３（ｃ）に示した左眼用表示画像を選択する。一方、ＨＭＤ観察者が観察している画像よりも広い画角の画像の観察を望むモニタ観察者による選択入力に応じて、図３（ｂ）に示した左眼用原画像を選択する。
【００２６】
図３（ａ）〜（ｃ）を用いて説明した事項は、右眼用撮像画像、右眼用原画像および右眼用表示画素についても当てはまる。すなわち、ＰＣボード１２０は、右眼用撮像画像にＣＧ画像１１０を重畳することで右眼用処理画像としての右眼用原画像を生成する。そして、右眼用原画像から右眼用表示部１０７での表示画角に合った部分領域を切り出して右眼用表示画像を生成する。さらに、ＰＣボード１２０は、外部モニタ１０３に、右眼用原画像を広角モニタ用表示画像として出力するか右眼用表示画像を出力するかを選択することができる。
【００２７】
また、外部モニタ１０３が２台ある場合には、ＰＣボード１２０は、一方の外部モニタ１０３に左眼用原画像から生成された左眼用表示画像を表示させ、他方の外部モニタ１０３に右眼用原画像から生成された右眼用表示画像を表示させてもよい。また、一方の外部モニタ１０３に表示画角が広い図３（ｂ）に示す左眼用原画像（広角モニタ用表示画像）を表示させ、他方の外部モニタ１０３に図３（ｃ）に示す左眼用表示画像を表示させてもよい。
【００２８】
さらに、各撮像画像（例えば左眼用撮像画像）のアスペクト比が外部モニタ１０３のアスペクト比と異なる場合には、ＰＣボード１２０は、左眼用原画像から外部モニタ１０３のアスペクト比に合った部分領域を切り出して左眼用表示画像を生成してもよい。また、これに代えて、切り出した左眼用表示画像を外部モニタ１０３のアスペクト比に合わせて拡大・縮小してもよい。
【００２９】
また、ＰＣボード１２０は、図10に示した処理とは異なり、撮像画像の取り込み⇒広角モニタ用表示画像の切り出し⇒ＣＧ画像の重畳⇒表示画像の切り出しという流れで処理を行ってもよい。ＣＧ画像を重畳する処理やCG重畳画像に対する処理や伝送の負荷が大きいため、ＣＧ重畳処理を施す画像はできるだけ軽い（小さい）画像データであることが望ましいためである。
【実施例２】
【００３０】
図４には、本発明の実施例２である画像表示システムとしてのビデオシースルー型ＨＭＤシステムの構成を示している。２０１はビデオシースルー型ＨＭＤ（画像表示装置）、２０２はパーソナルコンピュータ、２０３，２０４はそれぞれ第２の画像表示手段としての２台の外部モニタである。ＨＭＤ２０１は不図示のＨＭＤ観察者の頭部に装着され、該ＨＭＤ観察者の左眼および右眼に後述する左眼用表示画像および右眼用表示画像（の拡大虚像）を観察させる。
【００３１】
パーソナルコンピュータ２０２には、本ＨＭＤシステムの一部である画像処理装置としてのＰＣボード（第１の画像生成手段および第２の画像生成手段）２２０が組み込まれている。ＰＣボード２０２は、画像表示用のコンピュータとして、コンピュータプログラムである画像表示プログラムに従って以下に説明する処理を行う。
【００３２】
ＰＣボード２２０は、ＨＭＤ２０１から入力された後述する左眼用撮像画像および右眼用撮像画像に対して画像処理を行うことで左眼用処理画像および右眼用処理画像としての左眼用原画像および右眼用原画像を生成する。ＰＣボード２２０は、左眼用原画像および右眼用原画像を用いて第１の左眼用表示画像（以下、単に左眼用表示画像という）および第１の右眼用表示画像（以下、単に右眼用表示画像という）を生成し、これらをＨＭＤ２０１に出力する。また、ＰＣボード２２０は、左眼用原画像および右眼用原画像のうち少なくとも一方を用いて後述する広角モニタ用表示画像（第２の表示画像）を生成する。そして、ＰＣボード２２０は、画像出力手段として該広角モニタ用表示画像、左眼用表示画像および右眼用表示画像のいずれかを外部モニタ２０３，２０４に出力する。
【００３３】
外部モニタ２０３，２０４は、入力された広角モニタ用表示画像、左眼用表示画像および右眼用表示画像のいずれかを表示して、ＨＭＤ観察者とは別の一人または複数人のモニタ観察者に観察させる。
【００３４】
図５には、ＨＭＤ２０１の構成を示している。ＨＭＤ２０１は、左眼用撮像部（左眼用撮像手段）２０５、右眼用撮像部（右眼用撮像手段）２０６、左眼用表示部２０７および右眼用表示部２０８を有する。左眼用表示部２０７および右眼用表示部２０８により、第１の画像表示手段が構成される。また、ＨＭＤ２０１は、画像入出力部２１５を有する。
【００３５】
ビデオシースルー型であるＨＭＤ２０１は、現実世界を左眼用撮像部２０５と右眼用撮像部２０６によりそれぞれ撮像して左眼用撮像画像と右眼用撮像画像とを取得する。左眼用撮像部２０５は、左眼用撮像光学系２０５ａと、左眼用撮像光学系２０５ａにより形成された光学像としての被写体像を光電変換（撮像）する左眼用撮像素子２０５ｂとを有する。右眼用撮像部２０６は、右眼用撮像光学系２０６ａと、右眼用撮像光学系２０６ａにより形成された被写体像を撮像する右眼用撮像素子２０６ｂとを有する。
【００３６】
画像入出力部２１５は、左眼用および右眼用撮像部２０５，２０６がそれぞれ取得した左眼用および右眼用撮像画像をパーソナルコンピュータ２０２に装着されたＰＣボード２２０に出力する。ＰＣボード２２０は、左眼用および右眼用撮像画像に対してそれぞれ別の画像であるＣＧ画像を重畳する画像処理を行って左眼用処理画像および右眼用処理画像としての左眼用原画像および右眼用原画像を生成する。そして、ＰＣボード２２０は、左眼用および右眼用原画像からそれらの部分領域の画像に相当する左眼用表示画像および右眼用表示画像を生成し、画像入出力部２１５に出力する。
【００３７】
左眼用表示部２０７は、画像入出力部２１５から入力された左眼用表示画像を表示する左眼用表示素子２０７ａと、左眼用表示素子２０７ａ（左眼用表示画像）からの光を左射出瞳に配置されたＨＭＤ観察者の左眼２０９に導く右眼用表示光学系２０７ｂとを有する。右眼用表示部２０８は、画像入出力部２１５から入力された右眼用表示画像を表示する右眼用表示素子２０８ａと、右眼用表示素子２０８ａ（右眼用表示画像）からの光を右射出瞳に配置されたＨＭＤ観察者の右眼２１０に導く右眼用表示光学系２０８ｂとを有する。
【００３８】
本実施例において、左眼用および左眼用撮像部２０５，２０６の水平方向での撮像画角はともに９０度であり、左眼用および右眼用表示部２０７，２０８の水平方向での表示画角８０度よりも広い。実施例１でも述べたように、各撮像部の撮像画角が各表示部の表示画角より広いことで、撮像部と表示部との光軸のアライメント調整を容易に行うことができる。また、撮像画像を用いて、表示部における表示画角の端に存在する被写体に対しても精度良く被写体距離測定や特徴点検出を行うことができる。
【００３９】
本実施例では、左眼用表示部２０７の水平方向での表示画角は、ＨＭＤ観察者の左眼２０９の視軸を挟んで左側が４０度で右側が２０度であり、左側（すなわち外側）の方が右側（すなわち内側）よりも大きい。一方、右眼用表示部２０８の水平方向での表示画角は、ＨＭＤ観察者の右眼２１０の視軸を挟んで右側が４０度で左側が２０度であり、右側（すなわち外側）の方が左側（すなわち内側）よりも大きい。このような表示画角の設定により、左眼用表示部２０７と右眼用表示部２０８のそれぞれの水平表示画角は６０度であるものの、ＨＭＤ観察者が両眼（２０９，２１０）で観察可能な水平表示画角は８０度となり、広画角化が可能である。
【００４０】
図６には、左眼用表示部２０７の左眼用表示素子２０７ａに左眼用表示画像２１１が表示され、右眼用表示部２０８の右眼用表示素子２０８ａに右眼用表示画像２１２が表示されたときにＨＭＤ観察者が両眼を通して見る観察画像２３０を示す。左眼による左眼用表示画像２１１の観察画像と右眼による右眼用表示画像２１２の観察画像とがＨＭＤ観察者の脳内で融像されることで観察画像２３０が観察される。
【００４１】
左眼用表示画像２１２のうち左側の領域である左眼画像領域は左眼だけで観察され、右眼用表示画像２１２のうち右側の領域である右眼画像領域は右眼だけで観察される。そして、左眼用表示画像２１１のうち左眼画像領域より右側の領域および右眼用表示画像２１２のうち右眼画像領域より左側の領域である両眼画像領域はそれぞれ、左眼および右眼を通して互いに重なり合うように観察される。
【００４２】
図７（ａ）には、左眼用撮像部２０５が上述した撮像画角での撮像により取得した左眼用撮像画像を示している。また図７（ｂ）には、ＰＣボード２２０が左眼用撮像画像にＣＧ画像２１３を重畳して生成した左眼用処理画像としての左眼用原画像を示す。さらに図７（ｃ）には、左眼用原画像のうち一部である部分領域の画像に相当する左眼用表示画像を示す。ＰＣボード２２０は、図７（ｂ）に示す左眼用原画像から図７（ｃ）に示すように左眼用表示部２０７での表示画角に合った部分領域を切り出して左眼用表示画像を生成する。
【００４３】
さらに、選択手段としてのＰＣボード２２０は、外部モニタ２０３に、図７（ｂ）に示した左眼用原画像を広角モニタ用表示画像として出力するか図７（ｃ）に示した左眼用表示画像を出力するかを選択することができる。左眼用原画像に相当する広角モニタ用表示画像は、左眼用表示画像よりも広い領域を表示可能な画像である。ＰＣボード２２０は、ＨＭＤ観察者と同じ画像の観察を望むモニタ観察者による選択入力に応じて、図７（ｃ）に示した左眼用表示画像を選択する。一方、ＨＭＤ観察者が観察している画像よりも広い画角の画像の観察を望むモニタ観察者による選択入力に応じて、図７（ｂ）に示した左眼用原画像（広角モニタ用表示画像）を選択する。
【００４４】
図７（ａ）〜（ｃ）を用いて説明した事項は、右眼用撮像画像、右眼用原画像および右眼用表示画素についても当てはまる。すなわち、ＰＣボード２２０は、右眼用撮像画像にＣＧ画像２１３を重畳することで右眼用原画像を生成する。そして、右眼用原画像から右眼用表示部２０８での表示画角に合った部分領域を切り出して右眼用表示画像を生成する。さらに、ＰＣボード２２０は、外部モニタ２０４に、右眼用原画像を広角モニタ用表示画像として出力するか右眼用表示画像を出力するかを選択することができる。
【００４５】
また、ＰＣボード２２０は、図８（ａ）に示す左眼用撮像画像から図８（ｂ）に示すように予め切り出した両眼で観察可能な水平表示画角８０度に相当する部分領域の画像に対してＣＧ画像２１３を重畳してもよい。これにより、左眼用撮像画像よりも画角が小さい左眼用原画像を生成することができる。そして、ＰＣボード２２０は、図８（ｂ）に示す左眼用原画像から図８（ｃ）に示すように左眼用表示部２０７での表示画角に合った部分領域を切り出して左眼用表示画像を生成してもよい。このような処理を行うことで、ＣＧ画像を重畳する画像処理を行う左眼用原画像のサイズが小さくなり、該画像処理や画像転送の負荷を低減することができる。さらに、外部モニタ２０３に図８（ｂ）に示す左眼用原画像を表示すれば、ＨＭＤ観察者が両眼で観察している水平表示画角８０度の融像観察画像をモニタ観察者も観察することができる。
【００４６】
図８（ａ）〜（ｃ）を用いて説明した事項は、右眼用撮像画像、右眼用原画像および右眼用表示画素についても当てはまる。すなわち、ＰＣボード２２０は、右眼用撮像画像から予め切り出した両眼で観察可能な水平表示画角８０度に相当する部分領域の画像に対してＣＧ画像２１３を重畳して右眼用原画像を生成してもよい。また、ＰＣボード２２０は、右眼用原画像から右眼用表示部２０８での表示画角に合った部分領域を切り出して右眼用表示画像を生成してもよい。さらに、外部モニタ２０４に右眼用原画像を表示すれば、ＨＭＤ観察者が両眼で観察している水平表示画角８０度の融像観察画像をモニタ観察者も観察することができる。
【００４７】
なお、本実施例において、外部モニタが１台のみである場合には、該外部モニタに表示させる画像として、先の説明において外部モニタ２０３、２０４のそれぞれに表示された画像のうち１つを選択すればよい。また、ＰＣボード２２０は、図９に示すように左眼用表示画像と右眼用表示画像とが左右に並ぶようにこれらを合成することで生成したモニタ用合成表示画像２１４を１台の外部モニタ（２０３または２０４）に表示してもよい。この際、外部モニタにおいて画像が表示されない部分は黒表示状態としてもよいし、任意の画像を表示してもよい。また、外部モニタのアスペクト比に合わせて表示する合成表示画像を拡大・縮小してもよい。
【００４８】
各実施例では、ＰＣボード（１０１，２０２）が左眼と右眼用の撮像画像にＣＧ画像を重畳して原画像を生成する処理と、原画像から部分領域を切り出して表示画像を生成する処理と、原画像から広角モニタ用表示画像を生成する処理とを行う場合について説明した。つまり、ＰＣボードが第１および第２の画像生成手段として機能する場合について説明した。しかし、例えば各撮像画像に対してＣＧ画像の重畳を行わずに各撮像画像を原画像として用いる場合には、該原画像から部分領域を切り出して表示画像を生成する処理をＨＭＤ（１０１，２０１）に設けられた画像入出力部（１１５，２１５）が行ってもよい。つまり、画像入出力部に第１の画像生成手段としての機能を持たせてもよい。この場合、画像入出力部から原画像が入力されたＰＣボードが該原画像から広角モニタ用表示画像を生成する第２の画像生成手段として機能すればよい。
（その他の実施例）
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【００４９】
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
【符号の説明】
【００５０】
１０１，２０１  ＨＭＤ
１０２，２０２  ＰＣボード
１０３，２０３，２０４  外部モニタ
１０４，２０５  左眼用撮像部
１０５，２０６  右眼用撮像部
１０６，２０７  左眼用表示部
１０７，２０８  右眼用表示部
【図１】
2018023026.tif 000003
【図２】
2018023026.tif 000004
【図３】
2018023026.tif 000005
【図４】
2018023026.tif 000006
【図５】
2018023026.tif 000007
【図６】
2018023026.tif 000008
【図７】
2018023026.tif 000009
【図８】
2018023026.tif 000010
【図９】
2018023026.tif 000011
【図１０】
2018023026.tif 000012