(57)【特許請求の範囲】
【請求項１】
操作の対象物に紐付いたAR情報を当該対象物と関連する位置に表示するAR表示制御装置において、
対象物を含む視線方向を撮影するカメラと、
カメラ画像から認識した対象物およびそのAR情報を可視化するスクリーンと、
前記対象物とカメラとの相対的な位置および姿勢の関係を推定する手段と、
前記推定結果およびカメラ座標系からスクリーン座標系への変換行列に基づいてAR情報のスクリーン上での表示位置および姿勢を計算する手段と、
対象物とそのAR情報とが重ならないように前記変換行列を補正してAR情報のスクリーン上での表示位置を移動させる手段とを具備したことを特徴とするAR情報表示装置。
【請求項２】
前記スクリーンが、当該装置を使用する作業者の眼前に配置されて対象物を透視できる仮想スクリーンであって、
前記AR情報の表示位置を移動させる手段は、対象物と仮想スクリーンに投影されるAR情報とが当該作業者の視点で重ならないように各AR情報の表示位置を移動させることを特徴とする請求項１に記載のAR情報表示装置。
【請求項３】
前記スクリーンが対象物を表示できる物理スクリーンであって、
前記AR情報の表示位置を移動させる手段は、物理スクリーン上で対象物とAR情報とが重ならないようにAR情報の表示位置を移動させることを特徴とする請求項１に記載のAR情報表示装置。
【請求項４】
前記AR情報の表示位置を移動させる手段は更に、一の対象物のAR情報と他の一の対象物とが重ならないように当該AR情報の表示位置を移動させることを特徴とする請求項１ないし３のいずれかに記載のAR情報表示装置。
【請求項５】
前記AR情報の表示位置を移動させる手段は更に、一の対象物のAR情報が、カメラとの距離が当該一の対象物よりも近い他の一の対象物に重ならないように当該AR情報の表示位置を移動させることを特徴とする請求項１ないし３のいずれかに記載のAR情報表示装置。
【請求項６】
前記AR情報の表示位置を移動させる手段は、前記変換行列の並進パラメータを補正することを特徴とする請求項１ないし５のいずれかに記載のAR情報表示装置。
【請求項７】
前記AR情報の表示位置を移動させる手段は更に、AR情報の正面がスクリーン平面と平行化するように前記変換行列の回転パラメータを補正することを特徴とする請求項６に記載のAR情報表示装置。
【請求項８】
前記AR情報のスクリーン上での表示位置および姿勢を計算する手段は、前記変換行列の回転パラメータの補正後におけるAR情報のスクリーン上での表示位置を計算することを特徴とする請求項７に記載のAR情報表示装置。
【請求項９】
前記AR情報の表示位置を移動させる手段は、対象物とそのAR情報とがより近接表示されるように前記AR情報の表示位置を補正することを特徴とする請求項１ないし８のいずれかに記載のAR情報表示装置。
【請求項１０】
対象物とそのAR情報との相対位置毎に表示優先度を設定する手段を更に具備し、
前記AR情報の表示位置を移動させる手段は、優先度のより高い相対位置に前記AR情報の表示位置を移動させることを特徴とする請求項１ないし９のいずれかに記載のAR情報表示装置。
【請求項１１】
前記AR情報の表示位置を移動させる手段は、所定の周期で変換行列を繰り返し補正し、周期間での補正量の差分が所定の閾値以下であれば前回周期の補正を維持することを特徴とする請求項１ないし１０のいずれかに記載のAR情報表示装置。
【請求項１２】
複数の対象物の各AR情報の表示位置同士が重なると、カメラからの距離がより近い対象物のAR情報を優先表示する手段を更に具備したことを特徴とする請求項１ないし１１のいずれかに記載のAR情報表示装置。
【請求項１３】
前記優先表示する手段は、カメラからの距離が相対的に近い対象物のAR情報を遠い対象物のAR情報の手前側に表示することを特徴とする請求項１２に記載のAR情報表示装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、作業者に操作支援用の情報を拡張現実により提供するAR情報表示装置に係り、特に、AR情報の表示位置を操作の対象物と重ならない位置へ移動するAR情報表示装置に関する。
【背景技術】
【０００２】
現実環境に対してCGなどの仮想物体を位置合わせし、重畳表示することで情報を付加する拡張現実感（AR）が様々な分野で応用されている。
【０００３】
特許文献１には、光学式シースルー型HMD（Head Mounted Display）に撮像素子を取り付けてユーザの視界に映るマーカを撮像し、当該マーカに紐付いたAR情報をHMDスクリーンに表示する際、ユーザの頭の向きと連動してその画角が変動すると、撮像したマーカの傾きや位置に応じてAR情報の表示位置や傾きを精度高く特定する技術が開示されている。
【０００４】
特許文献２には、ARオブジェクトが他のARオブジェクトにより遮蔽される場合に、観察位置に対して実画像の視点から見て距離画像のそれぞれ対応する画点よりも後方に位置している点と、前方もしくは同位置にある点とを識別し、後者を前者とは異なる態様、例えば破線または鎖線で描写し、あるいは透明度や色を変更するなどして、視覚的に異ならせる技術が開示されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特許第5538483号公報
【特許文献２】特許第5032343号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
操作や作業（仕分け・組み立て・検査）の現場では、常に同じ手順や留意のもとで操作等を行なうわけではないので、操作者はしばしば操作内容を調査し、確認することになる。しかしながら、紙媒体のマニュアルを参照する場合には手を使ってページをめくるため、操作者は一時的に操作を中断しなければならない。
【０００７】
一方、ハンズフリーの光学式シースルー型HMDと拡張現実技術とを組み合わせ、操作支援内容を操作者の視界内に重畳表示すれば、操作者は視線移動のみで操作支援内容を読めるので操作を中断する必要がなくなる。
【０００８】
しかしながら、拡張現実技術を利用すると、操作の対象物の位置、姿勢に応じてAR情報の表示位置、姿勢も変化するため、対象物の位置、姿勢によっては、AR情報が対象物に重なって表示されてしまい、対象物が見えにくくなる場合がある。
【０００９】
特許文献１では、操作者の視界上の対象物に、操作支援メッセージを直接重畳して描画できるため、操作者は、操作の手を止めずに操作支援を受けることができて便利である。しかしながら、通常のAR技術で行われているように、メッセージを対象物の位置や傾きに応じて表示画面に描画すると、位置や方向によっては、操作者がメッセージを読みにくくなる事態が発生し、操作者が操作を間違える可能性がある。
【００１０】
特許文献２では、操作支援メッセージの一部が破線、鎖線、透明度または色を変更して表示画面上に描画されるので、メッセージの一部が欠けて十分な情報を操作者に提供できない事態が発生し、操作者を十分に支援ができない可能性がある。
【００１１】
本発明の目的は、上記の技術課題を解決し、操作支援用のAR情報を操作の対象物に対する作業者の操作が妨げられない位置へ移動して表示できるAR情報表示装置を提供することにある。
【課題を解決するための手段】
【００１２】
上記の目的を達成するために、本発明は、操作の対象物に紐付いたAR情報を当該対象物と関連する位置に表示するAR表示制御装置において、以下のような構成を具備した点に特徴がある。
【００１３】
(1) カメラ画像で認識された対象物およびそのAR情報を可視化するスクリーンと、対象物とカメラとの相対的な位置および姿勢の関係を推定する手段と、推定結果およびカメラ座標系からスクリーン座標系への変換行列に基づいてAR情報のスクリーン上での表示位置および姿勢を計算する手段と、対象物とそのAR情報とが重ならないようにAR情報の表示位置を移動させる手段とを具備した。
【００１４】
(2) スクリーンとして対象物を透視できる仮想スクリーンを採用し、当該装置を装着した作業者の視点で対象物と仮想スクリーンに投影されるAR情報とが重ならないように各AR情報の表示位置を移動させるようにした。
【００１５】
(3) スクリーンとして対象物を表示できる物理スクリーンを採用し、物理スクリーン上で対象物とAR情報とが重ならないようにAR情報の表示位置を移動させるようにした。
【００１６】
(4) AR情報の表示位置を移動させる手段は、一の対象物のAR情報と他の一の対象物とが重ならないように、その表示位置を移動させるようにした。
【００１７】
(5) AR情報の表示位置を移動させる手段は、一の対象物のAR情報が、カメラとの距離が当該一の対象物よりも近い他の一の対象物に重ならないように、AR情報の表示位置を移動させるようにした。
【００１８】
(6) AR情報の表示位置を移動させる手段は、変換行列のパラメータを補正することでAR情報の表示位置を移動させるようにした。
【００１９】
(7) AR情報のスクリーン上での表示位置は、AR情報の姿勢の補正後に計算されるようにした。
【００２０】
(8) AR情報は、対象物と近接する位置へ移動されるようにした。
【００２１】
(9) 対象物とそのAR情報との相対位置毎に表示優先度を設定しておき、AR情報が優先度のより高い相対位置に移動されるようにした。
【００２２】
(10) AR情報の表示位置を移動させる手段は、所定の周期で変換行列を繰り返し補正し、周期間での補正量の差分が小さければ前回周期の補正を維持するようにした。
【００２３】
(11) 複数の対象物の各AR情報の表示位置同士が重なると、カメラからの距離がより近い対象物のAR情報が優先表示されるようにした。
【発明の効果】
【００２４】
本発明によれば、以下のような効果が達成される。
(1) 請求項１の発明によれば、作業者の視点で操作の対象物とそのAR情報とが重ならないように、変換行列を補正することでAR情報の表示位置を移動させることができるので、従来のAR情報表示技術を利用して、作業者の操作性を妨げないように操作支援用のAR情報を提供できるようになる。
【００２５】
(2) 請求項２の発明によれば、光学式シースルー型HMDのように、対象物を透視できる仮想スクリーンにAR情報が表示されるシステムにおいて、作業者の操作性を妨げないようにAR情報を表示できるようになる。
【００２６】
(3) 請求項３の発明によれば、モバイル端末のように、対象物およびそのAR情報のいずれもが物理スクリーンに表示されるシステムにおいて、作業者の操作性を妨げないようにAR情報を表示できるようになる。
【００２７】
(4) 請求項４の発明によれば、対象物とそのAR情報との重なりのみならず、当該AR情報と他の対象物との重なりも回避できるので、作業者の操作性をさらに向上させることができるようになる。
【００２８】
(5) 請求項５の発明によれば、一の対象物のAR情報と当該一の対象物よりも手前に位置している対象物以外との重なりは許容されるので、AR情報の表示位置に関する制約を緩和できる。
【００２９】
(6) 請求項６，７の発明によれば、作業者にとって対象物やAR情報の視認性を向上させるためのAR情報の表示位置および姿勢の補正を簡単に行えるようになる。
【００３０】
(7) 請求項８の発明によれば、AR情報の表示位置が、その姿勢補正後に計算されるので、AR情報の表示位置を正確に計算できるようになる。
【００３１】
(8) 請求項９の発明によれば、AR情報は、対象物と重ならない範囲でより当該対象物と近い位置に移動されるので、対象物とAR情報との視覚的な紐付けを維持できる。
【００３２】
(9) 請求項１０の発明によれば、AR情報の表示位置を、撮像画面の構図や作業者の視認性に配慮して、より好適な位置へ自動で移動できるようになる。
【００３３】
(10) 請求項１１の発明によれば、変換行列の周期ごとの補正量の差分が所定の閾値以下であれば前回周期の補正が維持されるので、視認性の改善に大きく寄与しない僅かな補正が頻繁に繰り返されてAR表示が微動を繰り返すことによる視認性の低下を防止できるようになる。
【００３４】
(11) 請求項１２，１３の発明によれば、複数の対象物の各AR情報の表示位置同士が重なると、カメラからの距離がより近い対象物のAR情報が優先表示されるので、作業者が実際に操作する可能性の高い対象物のAR表示を優先的に表示できるようになる。
【図面の簡単な説明】
【００３５】
【図１】本発明の一実施形態に係るAR情報表示装置の主要部の構成を示した図である。
【図２】表示制御の仕組みを説明するための図である。
【図３】表示制御部の機能ブロック図である。
【図４】AR情報の姿勢変化によりその視認性が損なわれる例を示した図である。
【図５】AR情報の表示位置、姿勢を決定する変換行列の例を示した図である。
【図６】変換行列の補正によりAR情報の正面がHMDスクリーンに対して平行化される例を示した図である。
【図７】AR情報の移動例を示した図である。
【図８】本発明の一実施形態の動作を示したフローチャートである。
【図９】AR情報の表示位置、姿勢が補正される様子を示した図である。
【図１０】複数の対象物が認識されているときにカメラからの距離や角度の変化に伴って各AR情報の表示位置がリアルタイムで最適化される様子を示した図（その１）である。
【図１１】複数の対象物が認識されているときにカメラからの距離や角度の変化に伴って各AR情報の表示位置がリアルタイムで最適化される様子を示した図（その２）である。
【図１２】複数の対象物が認識されているときにカメラからの距離や角度の変化に伴って各AR情報の表示位置がリアルタイムで最適化される様子を示した図（その３）である。
【図１３】複数の対象物が認識されているときにカメラからの距離や角度の変化に伴って各AR情報の表示位置がリアルタイムで最適化される様子を示した図（その４）である。
【図１４】AR情報同士の重なりをカメラからの距離に応じた優先度で制御する方法を示した図（その１）である。
【図１５】AR情報同士の重なりをカメラからの距離に応じた優先度で制御する方法を示した図（その２）である。
【発明を実施するための形態】
【００３６】
以下、図面を参照して本発明の実施の形態について詳細に説明する。図１は、本発明の一実施形態に係る操作支援に好適なAR情報表示装置の主要部の構成を示した図である。ここでは、ハンズフリーの光学式シースルー型HMDへの適用を例にして説明するが、スマートフォン、タブレット端末、光学式シースルー型以外のHMDあるいはPC端末などの他のモバイル端末や情報端末にも適用できる。
【００３７】
光学式シースルー型HMD１は、作業者の視線方向の映像を撮影して操作の対象物（ARオブジェクト）Objを含むカメラ画像を出力するカメラモジュール２と、対象物ObjごとにそのAR情報として、作業支援用のメッセージ、図形、イラスト、記号、動画等の操作ガイドを記憶するAR情報データベース（DB）４と、作業者の眼前に配置されてAR情報を仮想のスクリーン３上に投影する透過型の光学系モジュール６と、作業者の視点で対象物とスクリーン３に投影されるAR情報とが重ならないように各AR情報のスクリーン３上での表示位置や表示形態を制御する表示制御部５とを主要な構成としている。
【００３８】
前記表示制御部５は、光学式シースルー型HMD１と一体の構成でも良いし、別のモジュールとして構成しても良い。前記AR情報DB４は表示制御部５に内蔵しても良いし、あるいはネットワーク上に設け、表示制御部５が無線通信によりネットワーク経由でAR情報を取得するように構成しても良い。
【００３９】
図２は、光学式シースルー型HMD１における表示制御の仕組みを説明するための図であり、図１と同一の符号は同一又は同等部分を表している。
【００４０】
光学式シースルー型HMD１では、作業者がスクリーン６において対象物Objを認識できる位置近傍に、そのAR情報を当該対象物Objの姿勢に応じた姿勢で重ねて表示するために、対象物Objの3D座標が現実空間の座標系（マーカ座標系）からカメラ座標系へ変換され、さらにカメラ座標系からスクリーン座標系へ変換される。
【００４１】
ここで、対象物Objの3D座標を仮想スクリーン上の2D座標に投影する関係を3行4列の変換行列P3×4、対象物Objに対するカメラ２の位置、姿勢を表す4行4列の変換行列をW4×4とすれば、カメラ座標系における3D座標をスクリーンへ投影する変換行列はP3×4・W-14×4で表される。
【００４２】
そして、対象物Objに対するカメラ２の現在の位置、姿勢をW1とすれば、当該対象物Objを前記変換行列P3×4・W-14×4を用いて現実空間の座標系基準でスクリーン上に描画する射影変換行列（P3×4・W-14×4）・W1を用いれば、AR情報を対象物Objの位置、姿勢に応じた位置、姿勢でスクリーン上に表示できる。
【００４３】
図３は、前記表示制御部５の主要部の構成を示した機能ブロック図であり、位置姿勢推定部５ａは、カメラ画像に基づいて対象物Objとカメラ２との相対的な位置および姿勢の関係を推定する。
【００４４】
本実施形態では、各対象物Objの操作主面（正面）の3Dモデルから予め抽出してデータベース化されている特徴点集合と、カメラ画像から抽出した特徴点集合とのマッチング結果に基づいて対応点を設定し、複数の対応点に基づいて公知の手法により位置、姿勢推定用の変換行列W1を計算する。
【００４５】
表示位置姿勢計算部５ｂは、対象物Objごとに、オンラインでDLT解法等により求めた変換行列P3×4と外部パラメータ行列W4×4とに基づいて変換行列P3×4・W-14×4を計算し、これに前記変換行列W1を乗じることにより、AR情報のスクリーン上での表示位置および姿勢を計算する。
【００４６】
変換行列補正部５ｃは、回転解消部５０１および表示重なり解消部５０２を含み、AR情報や対象物Objの視認性が低下することにより作業者の操作性が妨げられないように前記変換行列を補正する。
【００４７】
前記回転解消部５０１は、図４に示したように、対象物Objの姿勢変化に応じてそのAR情報の正面（表示面）とスクリーン平面との間に生じるx，y，zの各軸中心の回転（傾斜）を解消して視認性を改善する。
【００４８】
本実施形態では、図５に示した変換行列P3×4・W-14×4を対象に、並進パラメータω14，ω24，ω34は維持したまま、回転パラメータω11〜ω33のみを単位行列の配列に書き換えて補正後変換行列Yを生成する。この変換行列Yを用いてマーカ座標系をカメラ座標系に変換すれば、図６に模式的に示したように、対象物Objの姿勢変化にかかわらず、そのAR情報の正面をスクリーン平面に対して常に平行化できるようになる。
【００４９】
図３へ戻り、変換行列補正部５ｃの表示重なり解消部５０２は、AR情報がスクリーン上で対象物Objと重なって表示されることにより対象物Objに対する作業者の操作性が妨げられないように、前記変換行列を補正することによりAR情報の表示位置を対象物Objと重ならない位置までスクリーン上で平行移動させる。
【００５０】
本実施形態では、作業者の視点で各対象物Objが可視化される領域と当該各対象物に紐付いた各AR情報がスクリーンに投影される表示位置とを求める。各対象物Objの可視化領域は、対象物Objごとに予め登録されている特徴点集合に対して、当該対象物Objに関して計算された変換行列を用いたスクリーン上への逆投影を行って計算される。
【００５１】
前記表示重なり解消部５０２は、対象物ObjとそのAR情報との紐付けが不明瞭とならないように、図７に典型的に示したように、対象物に重なって表示されるAR情報[同図(a)]の表示位置を、対象物Objと重ならず、かつ対象物Objとの距離を最小化できる位置[同図(b)]ほど優先的に、前記変換行列の並進パラメータω14，ω24，ω34を補正することで平行移動させる。
【００５２】
なお、対象物とそのAR情報の表示位置との相対的な位置関係ごとに優先度を定義しておけば、これも考慮できる。例えば、AR情報を対象物の右側や上側に表示することが望ましいのであれば、右側や上側に位置する表示位置に対してより高い優先度を付与し、これらの優先度を総合的に勘案して移動先を選択できる。
【００５３】
優先表示制御部５ｄは、カメラ画像内で複数の対象物Objが認識され、表示位置補正後にAR情報同士が重なって表示される場合に、カメラ２からの距離がより近い対象物ObjのAR情報がより優先的に表示されるように各AR情報の表示を制御する。
【００５４】
前記優先表示制御部５ｄにおいて、距離計算部５０３は、カメラ２と各対象物Objとの距離を計算する。優先度決定部５０４は、前記距離の計算結果に基づいて、各対象物ObjのAR情報の表示優先度を決定する。
【００５５】
図８は、本発明の一実施形態の動作を示したフローチャートであり、ステップS１では、カメラ画像内の全ての対象物Objが認識される。ステップS２では、図９(a)に示したように、認識された対象物Objの一つに注目して、その位置、姿勢に応じた変換行列P3×4・W-14×4が計算される。当該変換行列と前記変換行列W1とに基づいて計算されるAR情報の表示位置、姿勢は、同図(b)に示したように、対象物Objの位置、姿勢に準じたものとなる。
【００５６】
ステップS３では、前記図４，５を参照して説明したように、変換行列P3×4・W-14×4のx，y，zの各軸中心の回転パラメータが、前記回転解消部５０１により単位行列の配列に補正される。これにより、AR情報は、そのx，y，zの各軸中心の回転がキャンセルされるので、同図(c)に示したように、その正面がHMDスクリーン平面と平行となる位置、姿勢に補正される。
【００５７】
ステップS４では、前記回転パラメータを補正後の変換行列に基づいて、AR情報がスクリーンと平行に表示される際の表示位置が計算される。さらに、対象物Objごとに、その特徴点集合を包含する最小矩形領域が、作業者の視点で当該対象物Objを認識できる可視化領域として計算される。
【００５８】
ステップS５では、AR情報の表示位置候補が探索される。本実施形態では、前記計算された対象物Objの可視化領域およびAR情報の表示位置に基づいて、対象物ObjとそのAR情報とが重ならず、換言すれば対象物Objの可視化領域以外において、AR情報をスクリーン内に完全に表示できる全ての位置が探索される。ただし、対象物との重なり量が所定の閾値内となる位置は、実質的に重ならない位置とみなしても良い。
【００５９】
なお、前記ステップS１において複数の対象物が認識されている場合には、注目している対象物の可視化領域のみならず他の対象物の可視化領域とも重ならないという探索条件が追加される。ただし、当該追加の探索条件は、注目している対象物のカメラからの位置が他の対象物の位置よりも手前側の場合は無視しても良い。
【００６０】
すなわち、注目している対象物のAR情報と他の対象物との重なりは、注目している対象物が当該他の対象物よりも後方に位置していれば許容されず、前方に位置していれば許容されるようにしても良い。
【００６１】
ステップS６では、注目している対象物のAR情報に関して、探索された表示位置候補が複数であるか否かが判定される。表示位置候補が複数であればステップS７へ進み、その中から最適表示位置候補が所定の規則で選択される。
【００６２】
本実施形態では、注目している対象物の可視化領域とそのAR情報の表示位置候補との距離が、例えば両者の重心位置や中心位置の距離に基づいて計算され、当該距離のより短い表示位置候補ほど高い優先度が付与される。また、注目している対象物の可視化領域とそのAR情報の表示位置候補との相対的な位置関係ごとに優先度が定義されていれば、これも考慮される。
【００６３】
例えば、AR情報を対象物の右側や上側に表示することが望ましいのであれば、右側や上側に位置する表示位置候補に対してより高い優先度が付与される。前記ステップS７では、これらの優先度を総合的に勘案して、一の最適表示位置候補が選択される。
【００６４】
ステップS８では、前記ステップS７で選択された一の最適表示位置候補または前記ステップS５で探索された唯一の表示位置候補がAR情報の表示位置に決定される。ステップS９では、例えば図９(d)に示したように、AR情報の表示位置が前記ステップS８で決定された表示位置へ移動されるように変換行列の並進パラメータが補正される。
【００６５】
ステップS１０では、前記ステップS１で認識された全ての対象物Objに関して上記の処理が完了したか否かが判定される。完了していなければステップS２へ戻り、残りの他の対象物Objについても、そのAR情報が対象物Objに重ならずに最も見易く表示されるように、変換行列のパラメータが補正される。
【００６６】
図１０ないし図１３は、複数の対象物（Obj1，Obj2）が認識されているときに、各対象物に関して上記の各処理が繰り返され、各AR情報の表示位置がリアルタイムで最適化される様子を示した図である。
【００６７】
前記ステップS３において、前記変換行列の回転系パラメータのみが補正され、並進パラメータが維持されている状態では、図１０に示したように、各対象物Obj1，Obj2のAR情報は、それぞれ対応する対象物の中心部近傍に位置している。その後、ステップS４ないしステップS９の各処理で各AR情報の表示位置が最適化されると、各AR情報の表示位置は、例えば図１１に示したように、対応する対象物Obj1，Obj2の上方の空きスペースに移動される。
【００６８】
その後、作業者と各対象物Obj1，Obj2との相対的な位置関係が変化して視点が変わり、対象物Obj1の上部にAR情報の表示スペースを確保できなくなると、ステップS４ないしステップS９の各処理が繰り返され、図１２に示したように、対象物Obj1の下側の空きスペースに、そのAR情報の表示位置が移動される。なお、対象物Obj1の右側や左側に空きスペースを確保できれば、これらのスペースに移動されることもある。
【００６９】
さらに、上記のように、手前側の対象物のAR情報に限って後ろ側の対象物との重なりが許容されるのであれば、図１３に一例を示したように、手前側の対象物Obj2のAR情報は、後ろ側の対象物Obj1と重なるように表示することもできる。
【００７０】
本実施形態によれば、AR情報の表示位置が、いずれの対象物Objとも重ならず、かつ作業者が直感的に関連性を感じられる位置へスクリーン上を平行移動されるので、対象物Objに対する作業性およびAR情報の視認性、識別性を向上させることができる。
【００７１】
なお、以上の各処理では対象物とAR情報との重なりは回避されるものの、AR情報同士の重なりは生じ得る。本実施形態では、対象物ObjとAR情報との重なり防止が優先され、そのためにはAR情報同士の重なりを回避できない場合には、AR情報同士の重なりを許容すると共に、前記優先制御部５ｄが、カメラ２との距離がより短い対象物Obj、すなわち手前側の対象物のAR情報を優先的に表示させる優先表示制御が、ステップS１１以降で実行される。
【００７２】
すなわち、ステップS１１ではAR情報同士が重なっているか否かが判定され、重なっていればステップS１２へ進む。ステップS１２では、相互に重なっているAR情報の各対象物Objとカメラ２との距離に基づいて、各対象物のAR情報に表示優先度が設定される。ステップS１３では、表示優先度のより高いAR情報がより優先的に表示されるように各AR情報の表示が制御される。
【００７３】
図１４，１５は、カメラ２（または、作業者の視点）との距離がより短い対象物ObjのAR情報が優先表示される例を示した図であり、図１４では、向かって右側の対象物Obj1とカメラ２との距離がより短いので、そのAR情報が他方の対象物Obj2のAR情報に優先して、手前側に重なって表示されている。
【００７４】
ここで、作業者が移動する等してカメラ２と各対象物Obj1、Obj2との相対的な位置関係が変化し、図１５に示したように、今度は向かって左側の対象物Obj2とカメラ２との距離がより短くなると、そのAR情報が他方の対象物Obj1のAR情報に優先して、その手前側に重なって表示される。
【００７５】
このように、本実施形態によれば、カメラ２との距離が短く、実際に操作される可能性が高い方の対象物ObjのAR情報が優先表示されるので、複数の対象物Objが視野に入る環境下でも、操作しようとしている対象物ObjのAR情報を優先的に表示できるようになる。
【００７６】
なお、対象物とAR情報との重なりを回避する場合と同様に、AR情報同士の重なりを回避する場合も、重なり量（面積）に閾値を設定し、閾値未満の重なりは許容するようにしても良い。
【００７７】
さらに、本実施形態では上記の処理が所定の周期（例えば、カメラ画像のフレーム単位）で繰り返されるが、ステップS３，S８で決定される補正量の変化が、作業性や視認性の改善にさほど寄与しない僅かなものであるにも関わらず、そのような補正が頻繁に繰り返されると、AR表示の表示位置が微動を繰り返すことによって作業性や視認性が低下する可能性がある。したがって、周期間での補正量の差分が所定の閾値以下であれば前回周期の補正を維持するようにしても良い。
【００７８】
なお、上記の実施形態では、本発明を光学式シースルー型HMD１への適用を例にして、対象物の可視化領域と仮想スクリーンに投影されるAR情報の表示位置とが、作業者の視点で重ならないように各AR情報の表示位置が移動されるものとして説明したが、モバイル端末のように、対象物のカメラ映像がそのAR情報と共に物理スクリーン（ディスプレイ）上に表示されるシステムへの適用では、対象物とそのAR情報とがディスプレイ上で重ならないように各AR情報の表示位置が移動される。
【符号の説明】
【００７９】
１…光学式シースルー型HMD，２…カメラモジュール，３…仮想スクリーン，４…AR情報データベース（DB），５…表示制御部，５ａ…位置姿勢推定部，５ｂ…表示位置姿勢計算部，５ｃ…変換行列補正部，５ｄ…優先表示制御部，６…光学系モジュール，５０１…回転解消部，５０２…表示重なり解消部，５０３…距離計算部，５０４…優先度決定部
【図１】
0006491574.tif 000002
【図２】
0006491574.tif 000003
【図３】
0006491574.tif 000004
【図４】
0006491574.tif 000005
【図５】
0006491574.tif 000006
【図６】
0006491574.tif 000007
【図７】
0006491574.tif 000008
【図８】
0006491574.tif 000009
【図９】
0006491574.tif 000010
【図１０】
0006491574.tif 000011
【図１１】
0006491574.tif 000012
【図１２】
0006491574.tif 000013
【図１３】
0006491574.tif 000014
【図１４】
0006491574.tif 000015
【図１５】
0006491574.tif 000016