(57)【要約】  先行車両及び後続車両を伴う複合現実シーンを提供するための方法、装置及びコンピュータ読み取り可能媒体が提示される。システムは、（ａ）先行車両に搭載されるカメラによってキャプチャされる画像及び（ｂ）後続車両に搭載されるカメラによってキャプチャ画像をマージして統合画像を生成することから生じる一連の複合現実画像を、後続車両のドライバーに提示してもよい。システムは、先行車両と後続車両との間のオブジェクトの検知を含みうる１以上の検知される状態に応じて、一連の複合現実画像の複合現実コンテンツを中止又は低減してもよい。
2021535507.tif 000002
【特許請求の範囲】
【請求項１】
先行車両及び後続車両を伴う複合現実シーンを提供する方法であって、
前記後続車両のドライバーに対して一連の複合現実画像を提示することであって、前記一連の複合現実画像における少なくとも１つの画像が、（ａ）前記先行車両に搭載されるカメラによってキャプチャされる画像と、（ｂ）前記後続車両に搭載されるカメラによってキャプチャされる画像とをマージして統合画像を生成することから生じること、を含み、
マージすることは、前記後続車両に搭載されるカメラによってキャプチャされる前記画像の遮蔽部分であって前記先行車両による遮蔽に対応する遮蔽部分を目立たせないようにすることと、前記先行車両に搭載されるカメラによってキャプチャされる前記画像の遮蔽されていない部分を強調することと、を含み、
１以上の検知される状態に応じて、前記後続車両の前記ドライバーに提示される前記一連の複合現実画像の複合現実コンテンツを中止又は低減し、前記１以上の検知される状態は：
前記先行車両と前記後続車両との間のオブジェクトの検知を含み、前記統合画像において、前記オブジェクトのビューは、前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を目立たせなくすること及び前記先行車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽されていない部分を強調することの結果として、潜在的にマスクされる、
方法。
【請求項２】
前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を目立たせなくすること及び前記先行車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽されていない部分を強調することは、
前記後続車両に搭載される前記カメラによってキャプチャされる前記画像と前記先行車両に搭載される前記カメラによってキャプチャされる前記画像とを融合することを含む、請求項１に記載の方法。
【請求項３】
前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を目立たせなくすること及び前記先行車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽されていない部分を強調することは、
前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を、前記先行車両によってキャプチャされる前記画像の前記遮蔽されていない部分に置き換えることを含む、請求項１に記載の方法。
【請求項４】
前記一連の複合現実画像の前記複合現実コンテンツの低減は、前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を強調することと、前記先行車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽されていない部分を目立たせないようにすることとを含む、請求項１に記載の方法。
【請求項５】
前記１以上の検知される状態は、前記先行車両に関連付けられるブレーキ状態の検知を更に含む、請求項１に記載の方法。
【請求項６】
前記１以上の検知される状態は、前記後続車両によって行われる少なくとも１つの関連操作の検知を更に含み、
前記少なくとも１つの関連操作は、追い越し操作、右折、中間ブロック横断歩道イベント、又は予期されない先行車両停止から選ばれる、
請求項１に記載の方法。
【請求項７】
前記１以上の検知される状態は、前記先行車両に搭載される前記カメラ及び前記後続車両に搭載される前記カメラに関連付けられる不適切なカメラアラインメントの検知を更に含む、請求項１に記載の方法。
【請求項８】
前記１以上の検知される状態は、候補先行車両が前記後続車両の前方に位置しないことの検出を更に含む、請求項１に記載の方法。
【請求項９】
前記一連の複合現実画像の複合現実コンテンツの中止又は低減は、
前記統合画像において、前記先行車両と前記後続車両との間の前記オブジェクトの描写を提示することを含む、請求項１に記載の方法。
【請求項１０】
前記先行車両と前記後続車両との間の前記オブジェクトの前記描写は、
前記先行車両と前記後続車両との間の前記オブジェクトを含む前記統合画像における領域を定めることと、
前記定められる領域において、前記先行車両によってキャプチャされる画像の前記遮蔽されていない部分の代わりに、前記先行車両と前記後続車両との間の前記オブジェクトの前記描写を提示することと、
によって提示される、請求項９に記載の方法。
【請求項１１】
先行車両及び後続車両を伴う複合現実シーンを提供する装置であって、
電子制御ユニット（ＥＣＵ）と、
ディスプレイと、を備え、
前記ＥＣＵは、前記後続車両のドライバーに対する提示のための一連の複合現実画像を生成するように構成され、前記ＥＣＵは、（ａ）前記先行車両に搭載されるカメラによってキャプチャされる画像及び（ｂ）前記後続車両に搭載されるカメラによってキャプチャされる画像をマージして統合画像を生成することによって、前記一連の複合現実画像結果における少なくとも１つの画像を生成するように構成され、
マージすることは、前記後続車両に搭載されるカメラによってキャプチャされる前記画像の遮蔽部分であって前記先行車両による遮蔽に対応する遮蔽部分を目立たせないようにすることと、前記先行車両に搭載されるカメラによってキャプチャされる前記画像の遮蔽されていない部分を強調することと、を含み、
１以上の検知される状態に応じて、前記後続車両の前記ドライバーに提示される前記一連の複合現実画像の複合現実コンテンツを中止又は低減し、前記１以上の検知される状態は、
前記先行車両と前記後続車両との間のオブジェクトの検知を含み、前記統合画像において、前記オブジェクトのビューは、前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を目立たせなくすること及び前記先行車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽されていない部分を強調することの結果として、潜在的にマスクされ、
前記ディスプレイは、前記後続車両の前記ドライバーに対して前記一連の複合現実画像を提示するように構成される、装置。
【請求項１２】
前記ＥＣＵは、
前記後続車両に搭載される前記カメラによってキャプチャされる前記画像と前記先行車両に搭載される前記カメラによってキャプチャされる前記画像とを融合することによって、
前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を目立たせなくするように及び前記先行車両によってキャプチャされる前記画像の前記遮蔽されていない部分を強調するように構成される、請求項１１に記載の装置。
【請求項１３】
前記ＥＣＵは、
前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を、前記先行車両によってキャプチャされる前記画像の前記遮蔽されていない部分に置き換えることによって、
前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を目立たせなくするように及び前記先行車両によってキャプチャされる前記画像の前記遮蔽されていない部分を強調するように構成される、請求項１１に記載の装置。
【請求項１４】
前記ＥＣＵは、前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を強調し、前記先行車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽されていない部分を目立たせないようにすることによって、前記一連の複合現実画像の前記複合現実コンテンツを低減するように構成される、請求項１１に記載の装置。
【請求項１５】
前記１以上の検知される状態は、前記先行車両に関連付けられるブレーキ状態の検知を更に含む、請求項１１に記載の装置。
【請求項１６】
前記１以上の検知される状態は、前記後続車両によって行われる少なくとも１つの関連操作の検知を更に含む、請求項１１に記載の装置。
【請求項１７】
前記１以上の検知される状態は、前記先行車両に搭載される前記カメラ及び前記後続車両に搭載される前記カメラに関連付けられる不適切なカメラアラインメントの検知を更に含む、請求項１１に記載の装置。
【請求項１８】
前記ＥＣＵは、
前記統合画像において、前記先行車両と前記後続車両との間の前記オブジェクトの描写を提示することによって、
前記一連の複合現実画像の複合現実コンテンツを中止又は低減するように構成される、請求項１１に記載の装置。
【請求項１９】
前記先行車両と前記後続車両との間の前記オブジェクトの前記描写は、
前記先行車両と前記後続車両との間の前記オブジェクトを含む前記統合画像における領域を定めることと、
前記定められる領域において、前記先行車両によってキャプチャされる画像の前記遮蔽されていない部分の代わりに、前記先行車両と前記後続車両との間の前記オブジェクトの前記描写を提示することと、
によって提示される、請求項１１に記載の装置。
【請求項２０】
インストラクションを含むコンピュータ読み取り可能記憶媒体であって、当該インストラクションがコンピュータの１以上のプロセッサによって実行される場合に、前記１以上のプロセッサに以下のことをさせる：
前記後続車両のドライバーに対して一連の複合現実画像が提示され、前記一連の複合現実画像における少なくとも１つの画像が、（ａ）前記先行車両に搭載されるカメラによってキャプチャされる画像及び（ｂ）前記後続車両に搭載されるカメラによってキャプチャされる画像をマージして統合画像を生成することから生じ、
マージすることは、前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の遮蔽部分であって前記先行車両による遮蔽に対応する遮蔽部分を目立たせないようにすることと、前記先行車両に搭載されるカメラによってキャプチャされる前記画像の遮蔽されていない部分を強調することと、を含み、
１以上の検知される状態に応じて、前記後続車両の前記ドライバーに提示される前記一連の複合現実画像の複合現実コンテンツを中止又は低減し、前記１以上の検知される状態は、
前記先行車両と前記後続車両との間のオブジェクトの検知を含み、前記統合画像において、前記オブジェクトのビューは、前記後続車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽部分を目立たせなくすること及び前記先行車両に搭載される前記カメラによってキャプチャされる前記画像の前記遮蔽されていない部分を強調することの結果として、潜在的にマスクされる、
コンピュータ読み取り可能記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
開示の態様は、複合現実に関連し、より具体的には、車両のドライバーに「シースルー」機能を提供することに関連する。先行車両が後続車両の前にある場合には、先行車両が後続車両のドライバーの視界を遮ることがよくある。これは安全ではない状態につながる可能性がある。複合現実は、先行車両を透視して先行車両に遮られたオブジェクトを見えるようにする能力をシミュレートする眺望を後続車両のドライバーに提供することにより、そのような問題に対処するための効果的な解決策として提案されている。ただし、そのようなシースルー機能を安全かつ効果的に提供するには、多くの課題が生じる。
【発明の概要】
【０００２】
先行車両と後続車両とを伴う複合現実シーンを提供するためのある実施形態が説明される。一実施形態において、システムは、一連の複合現実画像を後続車両のドライバーに提示してもよく、それにおいて一連の複合現実画像の少なくとも１つの画像は、（ａ）先行車両に搭載されるカメラによってキャプチャされた画像と、（ｂ）後続車両に搭載されるカメラによってキャプチャされた画像と、をマージして、統合画像を生じさせることによってもたらされる。そのマージは、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分であって、先行車両による遮蔽に対応する遮蔽部分を目立たせないようにすることと、先行車両に搭載されたカメラによってキャプチャされた画像の非遮蔽部分を強調することとを含んでもよい。１又は複数の検出される状態に応答して、システムは、後続車両のドライバーに提示される一連の複合現実画像の複合現実コンテンツを中止又は低減することができる。特に、１又は複数の検出される状態は、先行車両と後続車両との間のオブジェクトの検出を含んでもよく、統合画像において、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分を目立たせないようにすること及び先行車両に搭載されたカメラによってキャプチャされた画像の非遮蔽部分を強調することの結果として、オブジェクトのビューが潜在的にマスクされる。
【０００３】
一実施形態において、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分の目立たせないようにすることと、先行車両によってキャプチャされた画像の非遮蔽部分の強調とは、後続車両に搭載されたカメラによってキャプチャされた画像と、先行車両に搭載されたカメラによってキャプチャされた画像とをブレンドすることを含んでもよい。
【０００４】
別の実施形態において、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分の目立たせないようにすることと、先行車両によってキャプチャされた画像の非遮蔽部分の強調とは、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分を先行車両によってキャプチャされた画像の非遮蔽部分に置き換えることを含んでもよい。
【０００５】
一連の複合現実画像の複合現実コンテンツの減少は、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分を強調することと、先行車両に搭載されたカメラによってキャプチャされた画像の非遮蔽部分を目立たせないようにすることとを含んでいてもよい。
【０００６】
更に、１又は複数の検出される状態は、先行車両に関連するブレーキ状態の検出を更に含んでいてもよい。１又は複数の検出される状態は、後続車両によって実行される少なくとも１つの関連する操作の検出を更に含んでいてもよい。その少なくとも１つの関連する操作は、追い越し操作、右折、中間ブロック横断歩道イベント、又は予期しない先行車両の停止から選択されてもよい。その１又は複数の検出される状態は、先行車両に搭載されたカメラ及び後続車両に搭載されたカメラに関連する不適切なカメラアラインメントの検知を更に含んでいてもよい。その１又は複数の検出される状態は、候補先行車両が後続車両の前に配置されていないことの決定を更に含んでいてもよい。最後に、その１又は複数の検出される状態は、シースルー機能をサポートするためのカメラを備えた車両が近くに見つからないことの決定を更に含んでいてもよい。
【０００７】
様々な実施形態によれば、統合画像において、一連の複合現実画像の複合現実コンテンツを中止又は減少させることは、先行車両と後続車両との間のオブジェクトの表現を提示することを含む。先行車両と後続車両との間のオブジェクトの表現は、（１）先行車両と後続車両との間のオブジェクトを含む統合画像における領域を定めること及び（２）定められた領域において、先行車両によってキャプチャされた画像の非遮蔽部分の代わりに、先行車両と後続車両との間のオブジェクトの表現を提示すること、によって提示されてもよい。一実施形態において、先行車両と後続車両との間のオブジェクトを含む統合画像におけるその領域は、先行車両と後続車両との間のオブジェクトの輪郭に従うように定められる。別の実施形態において、先行車両と後続車両との間のオブジェクトを含む統合画像におけるその領域は、バウンディングボックスとして定められる。例えば、バウンディングボックスは長方形の形状を有してもよい。
【図面の簡単な説明】
【０００８】
開示の態様が例として示される。添付の図において、同様の参照番号は同様の要素を示す。
【図１】図１は、先行車両を透視する能力をシミュレートする、後続車両のドライバーに提示される複合現実画像を示す。
【図２】図２は、発明の一実施形態による、先行車両及び後続車両を伴うシースルー複合現実を実行するために使用されるハードウェアコンポーネントの概要を提示する。
【図３】図３は、発明の一実施形態による、先行車両と後続車両とを伴うシースルー複合現実を生成するための全体的なプロセスにおけるステップを示すフローチャートである。
【図４Ａ】図４Ａは、先行車両を透視するための複合現実ビューで使用される悪いカメラアラインメントが物理的世界を誤って表現しうるシナリオを示す。
【図４Ｂ】図４Ｂは、図４Ａに示される複合現実シーンがキャプチャされて提示された後の現実世界の道路シーン瞬間の画像である。
【図５】図５は、物理世界の別の不実表現において、先行車両と後続車両との間に物理的に位置するオブジェクトが、先行車両を透視するための複合現実ビューでマスクされうるシナリオを示す。
【図６】図６は、一実施形態による、後続車両のドライバーに表示するためのシースルー複合現実機能を自動的に有効化及び無効化するためのプロセスを示すフローチャートである。
【図７Ａ】図７Ａ、７Ｂ及び７Ｃは、ある実施形態による、シースルー機能をサポートするための良好及び悪いカメラアラインメントの様々なシナリオを示す。
【図７Ｂ】図７Ａ、７Ｂ及び７Ｃは、ある実施形態による、シースルー機能をサポートするための良好及び悪いカメラアラインメントの様々なシナリオを示す。
【図７Ｃ】図７Ａ、７Ｂ及び７Ｃは、ある実施形態による、シースルー機能をサポートするための良好及び悪いカメラアラインメントの様々なシナリオを示す。
【図８Ａ】図８Ａ、８Ｂ、８Ｃ及び８Ｄは、開示の実施形態による、先行車両と後続車両との間に位置するオブジェクトの、先行車両を透視する複合現実ビューにおいてそのようなオブジェクトを可視化するような提示を示す。
【図８Ｂ】図８Ａ、８Ｂ、８Ｃ及び８Ｄは、開示の実施形態による、先行車両と後続車両との間に位置するオブジェクトの、先行車両を透視する複合現実ビューにおいてそのようなオブジェクトを可視化するような提示を示す。
【図８Ｃ】図８Ａ、８Ｂ、８Ｃ及び８Ｄは、開示の実施形態による、先行車両と後続車両との間に位置するオブジェクトの、先行車両を透視する複合現実ビューにおいてそのようなオブジェクトを可視化するような提示を示す。
【図８Ｄ】図８Ａ、８Ｂ、８Ｃ及び８Ｄは、開示の実施形態による、先行車両と後続車両との間に位置するオブジェクトの、先行車両を透視する複合現実ビューにおいてそのようなオブジェクトを可視化するような提示を示す。
【図９】図９は、一実施形態によって実施されうる電子制御ユニット（ＥＣＵ）の一例の内部構成要素のブロック図である。
【発明を実施するための形態】
【０００９】
ここで、いくつかの例示的な実施形態が、これの一部を成す添付図面を参照して、説明される。開示の１又は複数の態様が実施される特定の実施形態が以下に説明される一方で、他の実施形態が使用されてもよく、開示の範囲又は添付の特許請求の範囲の精神から逸脱することなく様々な修正が行われてもよい。
【００１０】
図１は、先行車両を透視する能力をシミュレートする、後続車両のドライバーに提示される複合現実画像を示す。ここで、先行車両１０２は横断歩道で停車されている。図１は、後続車両（図示せず）のドライバーの視点からの図を示し、当該後続車両は、先行車両１０２の真後ろに位置し、同じ方向を向いている。歩行者１０４が横断歩道を渡っている。しかしながら、あるシナリオでは、後続車両のドライバーは歩行者１０４を見ることができず、それはそれらが先行車両１０２によって遮蔽される、すなわち視界から遮られるためである。これは、潜在的に安全ではない運転状態を示す。例えば、後続車両のドライバーが、歩行者１０４が横断歩道を横断していることに気づかず、待ちきれなくなった場合、後続車両のドライバーは、先行車両の周りに進もうと試みるかもしれず、そのことは歩行者１０４に衝突する可能性がある状況につながりうる。図１は、歩行者が視界から遮られつつ、他の車両、動物、又は他の移動オブジェクト又は静止オブジェクトも先行車両のために視界から遮られるうる状況を示す。先行車両が後続車両の視界を遮ることによって引き起こされる安全ではない状況は、必ずしも横断歩道に限定されるものではなく、駐車場、交差点、道路などの他の場所で発生する可能性がある。
【００１１】
このシナリオ及び同様のシナリオに対処するために、複合現実画像１０６を、先行車両を「透視」するように後続車両のドライバーに提示することができる。複合現実画像１０６は、後続車両のフロントガラスに統合され、後続車両の「ヘッドアップ」ディスプレイ等として実装される、後続車両のダッシュボードに取り付けられるディスプレイに、提示されることができる。例えば、ディスプレイは、液晶ディスプレイ（ＬＤＣ）、ヘッドマウントディスプレイ（ＨＵＤ）、又は他の拡張現実（ＡＲ）ディスプレイであってもよい。複合現実画像１０６は、後続車両のドライバーに提示されるビデオストリームを構成する一連の複合現実画像の一部として又は単一の画像、例えば静止フレーム、として、提示されることができる。様々な実施形態において、複合現実画像の生成及び提示は、最小のタイムラグに関連付けられ、その結果、ビデオストリームは、ライブビデオストリームと見なされてもよく、後続車両のドライバーによって、運転中の効果的な視覚補助として使用されてもよい。
【００１２】
複合現実画像１０６は、先行車両に搭載されたカメラからキャプチャされた画像を、後続車両に搭載されたカメラからキャプチャされた画像とマージして、統合画像を形成することによって生成されることができる。様々な実施形態において、複合現実画像１０６は、シースルー領域１０８を含んでいてもよい。シースルー領域１０８の外側で、複合現実画像１０６は、単純に、後続車両に搭載されたカメラによってキャプチャされた画像と同じであってもよい。シースルー領域１０８の内側で、複合現実画像１０６は、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分を強調し、先行車両によってキャプチャされた画像の非遮蔽部分を目立たせないようにすることによって、形成されてもよい。後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分は、先行車両による遮蔽に対応する画像の一部であってもよい。例えば、遮蔽部分は、先行車両によって占められる画像における領域（又はそのような領域の一部）として定められてもよい。
【００１３】
目立たせないようにすること及び強調することは、異なる方法で実施されてもよい。図１に示す実施形態では、目立たせないようにすること及び強調することは、後続車両に搭載されたカメラによってキャプチャされた画像と、先行車両に搭載されたカメラによってキャプチャされた画像とをブレンドすることによって、達成される。そのような画像ブレンドは、様々なデジタル合成技術を使用して実行されてもよい。ほんの一例として、アルファブレンドを使用したデジタル合成が実行されてもよい。画像の異なる部分は、異なる重みを使用して組み合わせられてもよい。また、その組み合わせのために勾配が使用されてもよい。例えば、図１において、画像の中央領域は第１ブレンド係数（例えば、「アルファ＿１」と呼ばれる定数）に関連付けられてもよく、画像の外側ボーダーでの領域は第２ブレンド係数（例えば、「ａｌｐｈａ＿２」と呼ばれる定数）に関連付けられてもよい。ほんの一例として、ブレンド係数は、画像の外側境界での領域と中央の領域との間で、ａｌｐｈａ＿１からａｌｐｈａ＿２に直線的に増加してもよい。別の実施形態において、目立たせないようにすること及び強調することは、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分を、先行車両に搭載されたカメラによってキャプチャされた画像の非遮蔽部分と単に置き換えて、統合画像のシースルー領域１０８を形成することによって達成される。
【００１４】
図２は、発明の一実施形態による、先行車両及び後続車両を伴うシースルー複合現実を実行するために使用される様々なハードウェアコンポーネントの概要を提示する。ここで、先行車両２０２と後続車両２２２が示される。先行車両２０２は、１又は複数のカメラ２０４、ビデオ電子制御ユニット（ＥＣＵ）２０６、及びテレマティクス及び全地球測位システム（ＧＰＳ）ＥＣＵ２０８を含む様々なデバイスであって、車両データバス２１０に全てが結合される様々なデバイスを装備してもよい。後続車両２２２は、１又は複数のカメラ２２４、光検出及び測距（ＬＩＤＡＲ）及び／又は無線検出及び測距（ＲＡＤＡＲ）検出器２２６、ディスプレイ２２８、ビデオＥＣＵ２３０、及びテレマティクス及びＧＰＳ  ＥＣＵ２３２を含む様々なデバイスであって、車両データバス２３４に全てが結合される様々なデバイスを装備してもよい。ビデオＥＣＵ２０６又はテレマティクス及びＧＰＳ  ＥＣＵ２０８などのＥＣＵは、ここに記載される特定のタスクを実行するためのプログラムされたインストラクションを実行するためのコードを実行する１又は複数のプロセッサを含んでいてもよい。またＥＣＵは、様々な機能をサポートするために、ビデオコンポーネント、通信コンポーネント、位置決めコンポーネント（例えばＧＰＳ）などのハードウェアコンポーネントを組み込んでもよい。例示的なＥＣＵに関する更なる詳細は、図８に示され、本開示の後のセクションで議論される。
【００１５】
先行車両２０２及び後続車両２２２に搭載されたこれらのコンポーネントは、データを通信して、複合現実シーン、例えば「シースルー」ビデオストリーム、を構築するように一緒に働いてもよく、当該複合現実シーンは後続車両のドライバーに提示される。先行車両２０２に搭載されたカメラ２０４は、後続車両２２２のドライバーに「シースルー」ビューを提供することができ、その結果、そうでなければ視界から遮られるであろう車両の前方のオブジェクトが見えるようになる。先行車両２０２に搭載される、カメラ２０４からのロー画像は、車両データバス２１０を介してビデオＥＣＵ２０６に転送されてもよい。ここで、ビデオＥＣＵ２０６は、適切なカメラビューを選択するか、いくつかのカメラ２０４のビューをつなぎ合わせて、先行車両２０２によって提供される画像を形成してもよい。示されるように、ビデオＥＣＵ２０６は、車両データバス２１０上に別個のデバイスとして実装される。しかしながら、代替の実施形態では、ビデオＥＣＵ２０６は、１又は複数のカメラ２０４の一部であってもよいし、或いは、テレマティクス及びＧＳＰ  ＥＣＵ２０８に統合されてもよい。また他の代替の実装も、図２に示されるコンポーネントにとって可能である。
【００１６】
先行車両２０２と後続車両２２２との間の接続は、先行車両２０２に搭載されたテレマティクス及びＧＰＳ  ＥＣＵ２０８と、後続車両２２２に搭載されたテレマティクス及びＧＰＳ  ＥＣＵ２３２によって提供されてもよい。例えば、先行車両２０２によって提供される画像は、テレマティクスとＧＰＵ  ＥＣＵ２０８及び２３２との間に確立された車両間（Ｖ２Ｖ）通信リンクを介して転送されてもよい。ＷＬＡＮ  Ｖ２Ｖ（ＤＳＲＣ）、セルラーＶ２Ｖ、Ｌｉ−Ｆｉなど、さまざまなタイプのＶ２Ｖリンクが確立されうる。また、先行車両２０２と後続車両２２２との間の接続は、必ずしもＶ２Ｖ通信に制限されない。代替的に又は追加的に、２つの車両間の接続は、車両−ネットワーク間（Ｖ２Ｎ）通信を使用して確立されてもよく、例えば、中間ノードを介してデータを転送してもよい。
【００１７】
後続車両２２２において、同様のコンポーネント（例えば、１つ以上のカメラ２２４、ビデオＥＣＵ２３０、テレマティクス及びＧＰＳ  ＥＣＵ２３２など）、及び、ＬＩＤＡＲ及び／又はＲＡＤＡＲ検出器２２６及びディスプレイ２２８を含む追加のコンポーネントが、配備されてもよい。後続車両２２２に搭載されたＬＩＤＡＲ及び／又はＲＡＤＡＲ検出器２２６は、後続車両２２２に対する相対的な先行車両２０２の位置の正確な決定を容易にする。相対位置の決定は、いくつかの点で役立ちうる。例えば、先行車両２０２の正確な相対位置が使用されて、先行車両がＶ２Ｖ通信を確立するための正しいパートナーであることを確認してもよい。適切な状況下で「シースルー」機能を有効又は無効にするため、及び、シースルービデオストリームを形成するように２台の車両からの画像を重ね合わせる方法を制御するため、先行車両２０２の正確な相対位置が使用されてもよい。後続車両２２２に搭載されたビデオＥＣＵ２３０は、先行車両２０２からの画像と後続車両２２２からの画像とのマージを実行して、シースルービデオストリームを生成してもよい。最後に、シースルービデオストリームが、ディスプレイ２２８上で後続車両のドライバーに提示される。
【００１８】
図３は、発明の実施形態による、先行車両と後続車両とを伴うシースルー複合現実を生成するための全体的なプロセスにおけるステップを示すフローチャートである。ここで、プロセス３００は、ステップ３０２〜３１０を含む。ステップ３０２において、先行車両は、カメラ利用可能性ブロードキャスト（ｃａｍｅｒａ  ａｖａｉｌａｂｉｌｉｔｙ  ｂｒｏａｄｃａｓｔ）を実行する。これは、先行車両が「シースルー」機能をサポートするために利用可能なカメラを所有していることをアナウンスするブロードキャストであってもよい。ブロードキャストメッセージの内容は：時間、ＧＰＳ位置、速度、進行方向、車両物理的寸法（例えば長さ、幅、高さ）、カメラ情報（例えばＸ、Ｙ、Ｘ取り付け位置、方向、視野情報）など、を含んでもよい。そのブロードキャストは、ＷＬＡＮ（ＤＳＲＣ）、セルラー、Ｌｉ−Ｆｉ、又は他のＶ２Ｖ通信チャネルなどの１つ以上のリンクを使用して、ブロードキャスト通信の範囲内の他の車両に送信される。代替的に又は追加的に、先行車両は、上記にリストアップされるようなデータを含むそのカメラ利用可能性を、４Ｇ又は５Ｇセルラーネットワーク接続などの無線リンクを使用して、レジストリに、例えばクラウドサーバーに、登録してもよい。レジストリは、車両位置とカメラ利用可能性情報を集めて、直接Ｖ２Ｖ通信範囲にいない車両などの他の車両によってデータが検索されることを可能にする。ステップ３０２は、先行車両に搭載されたＥＣＵによって、例えばビデオＥＣＵ及び／又はテレマティクス及びＧＰＳ  ＥＣＵによって、実行されてもよい。
【００１９】
ステップ３０４で、後続車両は、先行車両カメラ利用可能性を検出してもよい。例えば、後続車両は、「シースルー」機能をサポートするために利用可能なすべての近くの車両カメラシステムに関して、利用可能なデータソースを、例えばレジストリを、獲得してもよい。これは、後続車両の現在のＧＰＳ座標に基づいてクラウドから受信したリストとしうるものであり、又は、それは、近くの車両であって当該近くの車両のブロードキャストが後続車両によって受信されるような近くの車両の、集められたリストとしうるものである。前述のように、そのようなブロードキャストは、ＤＳＲＣ、セルラー、Ｌｉ−Ｆｉ、又はその他のＶ２Ｖ通信チャネルなどのリンクを介して、受信されてもよい。次に、後続車両は、それ自身のＧＰＳ位置及び方向を、カメラの利用可能性を示している近くの車両のＧＰＳ位置及び方向と比較してもよい。コンパス方向、相対方位、距離などの測定値の差を計算することにより、利用可能なカメラを備えた近くの車両のリストが、後続車両の前にいる可能性のあるカメラを備えた候補車両のより制限されたリストに絞り込まれることができる。次に、後続車両に搭載されるＬＩＤＡＲ及び／又はＲＡＤＡＲ検出器からの読み取り内容が使用されて、先行車両であると仮定された車両が実際に後続車両の真正面にあることを選択及び確認してもよい。例えば、利用可能なカメラを備えた候補車両が１００メートル離れて、２０ｍｐｈで走行しているが、後続車両のＬＩＤＡＲ及び／又はＲＡＤＡＲ検出器が、後続車両の前の車両が実際には５０メートル離れて３０ｍｐｈで走行していることを示す場合、候補車両は潜在的な先行車両として拒否されうる。別の実施形態において、候補車両のナンバープレート番号が、後続車両の前にいる車両のナンバープレートと比較されて、選択を検証してもよい。ステップ３０４は、後続車両に搭載されたＥＣＵによって、例えばビデオＥＣＵ及び／又はテレマティクス及びＧＰＳ  ＥＣＵによって、実行されてもよい。
【００２０】
ステップ３０６において、後続車両は、先行車両のビデオストリームの送信を要求してもよく、先行車両は、要求されたビデオストリームを送信してもよい。後続車両が、それが利用可能なカメラを備えた先行車両を実際に追跡していることを検出した場合、後続車両は、先行車両のビデオストリームの要求を送信してもよい。一実施形態において、後続車両は、Ｖ２Ｖベースのビデオ要求を先行車両に直接送信する。これは、後続車両のテレマティクス及びＧＰＳ  ＥＣＵから先行車両のテレマティクス及びＧＰＳ  ＥＣＵに送信された要求であってもよい。別の実施形態において、後続車両は、クラウドベースのビデオ要求をレジストリに、例えばサーバーに、送信する。ＩＰアドレスなどのビデオストリームを要求する方法についてのデータは、先行車両のＧＰＳレコードとともにクラウドに保存されてもよい。次に、後続車両は、先行車両に、追従距離、方向、所望のカメラビュー、好ましい通信プロトコル、信号強度に基づく交渉されたビデオ品質、などのビデオ要求のためのコンテキスト情報を提供してもよい。それに応じて、先行車両は、要求されたビデオストリームを後続車両に送信してもよい。先行車両は、後続車両によって提供されるコンテキスト情報に基づいてそれを行い、後続車両に送信されるビデオストリームをカスタマイズしてもよい。先行車両は、利用可能な通信帯域幅や信号強度などのファクターに基づいて、伝送のためのビデオ品質と圧縮率を調整してもよい。更に、先行車両は、後続車両の後続距離などの情報に基づいて、後続車両のニーズによりよく一致するようにビデオストリームの視野を（例えば複数のカメラを使用して）拡大し又はトリミングしてもよい。例えば、後続車両が非常に接近している場合、死角をなくすように先行車両はより広い視野を必要とするかもしれない。したがって、先行車両は、複数の前方及び側面カメラからのビューを組み合わせて、後続車両用にカスタマイズされたビデオストリームを作成することを決定してもよい。別の例として、後続車両が比較的遠くにあり、それによって関心領域が前方方向に狭い視野のみである場合、先行車両は、後続車両のニーズに応えるように、より高い解像度又はビットレートでより狭い視野のビデオストリームを提供することによって応答してもよい。このようにして、先行車両は、後続車両に関する適切なビデオストリームを提供することによって要求に応答してもよい。後続車両は、先行車両のビデオストリームを受信してもよい。先行車両ビデオストリームに関する要求を行うこと及びビデオストリームを受信することなどのステップ３０６のある部分は、後続車両に搭載されたＥＣＵ、例えばビデオＥＣＵ及び／又はテレマティクス及びＧＰＳ  ＥＣＵ、によって実行されうる。要求に応答すること、先行車両ビデオストリームを生成すること、及び先行車両ビデオストリームを送信することなどのステップ３０６の他の部分は、先行車両に搭載されたＥＣＵ、例えばビデオＥＣＵ及び／又はテレマティクス及びＧＰＳ  ＥＣＵ、によって実行されうる。
【００２１】
ステップ３０８において、先行車両及び後続車両ビデオストリームは、「シースルー」ビデオストリームを形成するようにマージされる。先行車両及び後続車両によって見られる現実をミックスする「シースルー」ビデオストリームを形成する一連の統合画像を生成するように、先行車両ビデオストリームにおける各画像は、後続車両のビデオストリームからの対応の画像上にオーバーレイされてもよい。前述のように、デジタル合成などの画像を融合するための技術もまた、ある実施形態において使用されうる。先行車両からの第１画像と後続車両からの第２画像とを一緒にマージすること又はつなぎ合わせることは、特徴が適切に整列されうるように、第１画像及び第２画像を適切にシフトすること、サイジングすること、及び／又は歪ませることを含んでいてもよい。このプロセスは、既知の先行車両及び後続車両カメラ情報、両車両に関する既知のＧＰＳ情報、及び先行車両の位置に関する後続車両のＬＩＤＡＲ及び／又はＲＡＤＡＲ情報などの、車両及びカメラ位置及び向き情報を考慮してもよい。ステップ３０８は、後続車両に搭載されたＥＣＵ、例えばビデオＥＣＵ及び／又はテレマティクス及びＧＰＳ  ＥＣＵ、によって実行されうる。
【００２２】
ステップ３１０において、「シースルー」ビデオストリームは、後続車両のドライバーに対して表示される。結果として得られる複合現実ビデオストリームは、後続車両のドライバーの視点と一致するビューを提供する。マージされたビデオストリームは、ＬＣＤ、ＨＵＤ、又はその他の拡張現実（ＡＲ）ディスプレイなどのユーザーインターフェイス上で、後続車両のドライバーに対して表示されてもよい。複合現実ビューの描写は、様々な方法で実行されることができる。一例において、先行車両は、後続車両のドライバーに提示される複合現実シーンから完全に「消失」しうる。別の例では、先行車両は、後続車両のドライバーに提示される複合現実シーンにおいて部分的に透明なオブジェクトとして現れうる。別の例では、先行車両は、後続車両のドライバーに提示される複合現実シーンにおいての輪郭としてのみ現れうる。更に別の例では、視点が後続車両のものから先行車両のものに移ったという印象を観察者（後続車両のドライバー）に与えるように、動的ビデオ視点遷移を使用して、複合現実シーンが先行車両に「ズームイン」するか或いは先行車両を「フライスルー」するように見えてもよい。ステップ３１０は、後続車両に搭載されたＥＣＵ、例えばビデオＥＣＵ及び／又はテレマティクス及びＧＰＳ  ＥＣＵ、によって実行されうる。
【００２３】
図４Ａは、先行車両を透かして見るための複合現実ビューで使用される悪いカメラアラインメントが物理的世界を誤って表現しうるシナリオを示す。図４Ａは、後続車両の視点から見た複合現実シーンを提示する。このシーンにおいて、先行車両４０２は交差点で左折している。２人の歩行者が、交差点の角の第１の場所４０４で、先行車両４０２の前に、立っている。先行車両４０２の旋回操作により、先行車両に搭載されたカメラと後続車両に搭載されたカメラとの位置がズレすぎている。そのため、先行車両のカメラから撮影された画像は、後続車両のカメラからの対応の画像と一緒に、適切にマージされること又はつなぎ合わせられることができない。先行車両及び後続車両に搭載されたカメラからの画像の強制的なマージは、複合現実シーン内の場所４０６における同じ歩行者のコピー、つまり「二重画像」、を表す統合画像をもたらしうる。その統合画像は、現実の世界に実際に存在する（つまり２人の歩行者）よりも多くの歩行者（つまり４人の歩行者）を示しているため、これは現実の不実表示である。
【００２４】
別の例として、同じずれの問題は、図４Ａの統合画像をもたらし、現実世界道路シーンでの関連する車両を分かりにくくして関連する車両の場所を間違えて、後続ドライバーにとって潜在的な安全上の危険を作り出す。ここで、シルバー車両のゴースト画像が統合画像における場所４０８に現れうる。シルバー車両は実際には、場所４０８ではなく、現実の世界に存在する。代わりに、シルバー車両は実際には先行車両の前に位置するが、図４Ａにおいて先行車両によってビューからブロックされている。実際、シルバー車両は先行車両に面しており、左折しようとしている。ただし、先行車両に搭載されたカメラと後続車両に搭載されたカメラとの間の位置ずれのため、「シースルー」複合現実シーンの統合画像は、場所４０８におけるシルバー車両のゴースト画像を生成する。まず、ゴースト画像は、カメラの位置ずれの重大度が、マージに先立つ２つのカメラからの画像を適切にシフトすることを不可能にするので、誤った場所、すなわち場所４０８、にシルバー車両を提示する。適切な位置合わせがない強制されたマージは、シーン内において間違った位置に現れるシルバー車両のゴーストイメージを、結果としてもたらす。第２に、マージアルゴリズムが、シルバー車両を含む先行車両によってキャプチャされた画像の部分を目立たせないため、ゴースト画像はかすかに現れ、これは、それが「シースルー」領域の外側にあるからであり、このケースにおいて当該「シースルー」領域が先行車両によって占められる画像の部分である。したがって、シルバー車両のかすかな、誤って配置されたゴースト画像が、場所４０８に現れる。これは、後続車両のドライバーに対して提示されるべきではない現実の不実表示である。
【００２５】
図４Ｂは、図４Ａに示される複合現実シーンがキャプチャされて提示された後の現実世界道路シーン瞬間の画像である。図４Ｂに見られるように、シルバー車両は実際に先行車両に面しており、左折しようとしている。図４Ｂは、シルバー車両が現実世界において場所４１０にあることを示す。これは、図４Ａに示される複合現実シーンがシルバー車両の存在及び位置の両方を誤って伝えることを明確に示し−実際、図４Ａによって描かれたシーンにおいて場所４０８には車が存在しない。したがって、後続車両のドライバーへの図４Ａに示される複合現実シーンの提示は、避けられるべき危険な不実表示を作り出す。
【００２６】
図５は、現実世界の別の不実表示において、先行車両を透かして見るための複合現実ビューにて、先行車両と後続車両との間に物理的に位置するオブジェクトがマスクされることができるシナリオを示す。図５は、後続車両の視点から見た複合現実シーンを示す。そのシーンにおいて、先行車両５０２は、目に見える輪郭（緑）によって表される。ただし、シースルー機能が有効になっているため、先行車両はシーンから「消えて」おり、先行車両の前にトロリーカー５０４などのオブジェクトを示す。トロリーカー５０４の画像は、先行車両５０２に搭載されたカメラによってキャプチャされ、後続車両によってキャプチャされた画像とマージされる。ここで、歩行者５０６は、先行車両５０２と後続車両との間に物理的に位置する。しかしながら、図５に示されるように、後続車両のドライバーに提示された統合画像は、先行車両５０２を「消滅」させる過程で、歩行者５０６も効果的に「消滅」させる。これはマージプロセスの結果として生じ、当該マージプロセスにおいて（１）後続車両のカメラによってキャプチャされた画像の一部を目立たせない、（２）先行車両５０２のカメラによってキャプチャされた画像の対応の部分が強調され、及び（３）画像の２つの部分がオーバーレイされる。図５に示される統合画像に頼って、後続車両のドライバーは、先行車両５０２と後続車両との間に何もないと誤って結論付けるかもしれない。停止する理由がないので、後続車両のドライバーは前進して歩行者５０６とぶつかるかもしれない。したがって、統合画像は、現実の更に別の危険な不実表示を作り出す。
【００２７】
図６は、一実施形態による、後続車両のドライバーに対する表示のため「シースルー」複合現実機能を自動的に有効化及び無効化するためのプロセス６００を示すフローチャートである。前に示したように、シースルー機能が後続車両のドライバーの安全性を高めるのに役立ちうるある状況がある。ただし、「シースルー」機能が現実を誤って表現して実際に危険になる状況もある。したがって、プロセス６００で提示されるもののような技術は、ある状態の検出に基づいて、自動的に、それが後続車両のドライバーにとって有益であるであろう場合にはシースルー機能を有効にし、それが有益でない場合にはその機能を無効にしてもよい。
【００２８】
ステップ６０２で、「シースルー」機能の提供をサポートするために近くのカメラが利用可能であるかどうかを決定するように、チェックが実行される。前述のように、これは様々な方法で後続車両によって行われてもよく、当該様々な方法は、（１）シースルー機能をサポートするために利用可能なカメラを持つことを通知する先行車両から直接的にブロードキャストメッセージを受信すること、及び／又は、（２）そのような機能をサポートするカメラを備えた近くの車両のレジストリから、例えばクラウドサーバーから、レコードのリストを受信すること、を含む。カメラ利用可能性メッセージ又は記録は、候補先行車両が後続車両にとって適切な先行車両であることを確認するのに有用なデータと、そうでなければシースルー機能が有効にされるべきか無効にされるべきかを決定するのに有用なデータと、を含んでもよい。そのようなデータは、例えば、次のものを含んでもよい：
・時間、
・ＧＰＳ位置（緯度、経度）
・速度、加速、ブレーキフラグ
・向かう方向／進行方向
・車両サイズ情報（長さ、幅、高さ）
・カメラ取り付け情報（Ｘ、Ｙ、Ｚ、取り付け位置）
・カメラ方向及び視野情報
シースルー機能をサポートするカメラを備えた車両が近くに見つからない場合、プロセス６００は、自動的に機能を無効にするステップ６１４に進む。それ以外の場合、プロセス６００は次のチェックステップに進む。
【００２９】
ステップ６０４において、候補先行車両の位置及び向きが、それが実際に後続車両の直前の車両であることを示しているかどうかを決定するように、チェックが実行される。単なる一例として、許容範囲限度内で候補先行車両が後続車両の前にあることの信頼のレベルを達成するため、そのチェックは、（例えばＧＰＳ読み取り値からの）後続車両から候補先行車両への相対方位が（例えばまたＧＰＳ読み取り値からの）後続車両の進行方向と一致するかどうかを評価すること、を含んでもよい。別の例として、そのチェックは、候補先行車両が後続車両に搭載された前方センサ（例えばＬＩＤＡＲ、ＲＡＤＡＲ及び／又はカメラ）によって検知されるかどうか、を決定することを含んでいてもよい。別の例として、そのチェックは、ＧＰＳ位置から計算された候補先行車両と後続車両との間の距離を、後続車両に搭載される前方センサ（例えば、ＬＩＤＡＲ、ＲＡＤＡＲ、及び／又は１又は複数のカメラ）から計算されるような候補先行車両と後続車両との間の距離と、比較することを含んでいてもよい。その比較は、そのような距離間の差が許容可能な許容限度内にあるかどうかを評価しうる。別の例として、そのチェックは、候補先行車両によって報告される速度を、後続車両に搭載された前方センサを使用して検知されるような候補先行車両の速度と比較することを含んでもよく、その比較は、そのような速度間の差が許容可能な許容限度内であるかどうかを評価してもよい。更に別の例として、そのチェックは、経時的なＧＰＳトレースに基づいて決定されるように、候補先行車両及び後続車両が道路の同じ車線を走行しているかどうかを評価することを含んでいてもよい。ステップ６０４の結果として、候補先行車両の位置及び向きが、それが後続車両の直前の車両ではないことを示す場合、プロセス６００はステップ６１４に進み、シースルー機能を自動的に無効にする。それ以外の場合、プロセス６００は次のチェックステップに進む。
【００３０】
ステップ６０６で、先行車両に搭載されたカメラと後続車両に搭載されたカメラとが整列しているかどうかを決定するように、チェックが実行される。ここで、適切な整列は、カメラが正確に同じ方向を向いていること又は２つの車両が完全に整列されていることを、必ずしも必要とはしなくてもよい。むしろ、整列されているということは、カメラが、それらの位置、角度、及び視野の観点から相対的な向きの許容範囲内にあることを意味しうる。これに関してカメラの適切な整列は、後述される図７Ａ、７Ｂ、及び７Ｃに関してより詳細に説明される。例えば、ステップ６０６において、シースルー機能をサポートするように先行車両カメラ及び後続車両カメラが整列されているかどうかを、それらの車両の位置及びそれらのカメラのそれぞれの視野のオーバーラップを考慮して、決定するために、後続車両は、（１）（例えばＧＰＳ読み取り値からの）車両の向き及び相対的な方位、（２）（例えばＬＩＤＡＲ及び／又はＲＡＤＡＲなどの前方センサによって測定されるような）先行車両距離、及び（３）（例えば先行車両からの又はクラウドベースサーバーなどのレジストリからのＶ２Ｖブロードキャストによって提供されるような）カメラ情報、などの情報を使ってもよい。更に、先行車両及び後続車両のそれぞれのカメラが整列から外れようとしているのかどうかをより迅速に予測するために、後続車両も先行車両のステアリング角度にアクセスしてもよい。これは、システムがシースルー機能をより迅速に有効又は無効にすることを可能にしうる。ステップ６０６の結果として、カメラの位置合わせが不適切であるか又は不適切になりそうな場合には、プロセス６００はステップ６１４に進んで、シースルー機能を自動的に無効にする。それ以外の場合、プロセス６００は次のチェックステップに進む。
【００３１】
ステップ６０８で、様々な関連する車両操作が検知される。シースルー機能は、これらの特定の車両操作で役立ちうる。したがって、以下に提供される非網羅的なリストで識別された関連操作のいずれかが検出された場合、システムは、シースルー機能を有効にするためにプロセスが進行することを可能にしうる：
・  追い越し−後続車両は、例えば車線道路において、より遅い先行車両の後ろにおり、通過状況が適切である。
・  右折−後続車両は先行車両の後ろにあり、（例えば、後続車両に伝えられうる右折信号によって示されているように）当該先行車両は右折することが意図されている。ここでは、交通や横断歩道が原因で先行車両が停止されてもよい。シースルー機能は、後続車両が先行車両の前方を横断する交通や歩行者を見ることを可能にする。これは、後続車両のドライバーが、先行車両が停止される理由を理解することを助けることができ、それによってドライバーの側における焦りを和らげ、安全でないドライバーの反応（例えば先行車両を追い越すことの試み）を潜在的に防ぐ。
・中間ブロック横断歩道−道路における歩行者やその他の障害物のため、先行車両がブロックの中央（すなわち交差点ではない）で停止するようになる。シースルー機能は、後続車両のドライバーが歩行者や障害物を見て、先行車両が停止される理由を理解するのを助けるに役立ちうるものであり、それによってドライバーの焦りを和らげ、安全でないドライバーの反応を潜在的に防ぐ。
・あらゆる予期しない先行車両の停止後−予期しないあらゆる先行車両の停止は、シースルー機能が役立ちうる状況でありうる。例えば、後続車両が安全に停止した後、後続車両のドライバーが先行車両の前方のものを確認してその停止の理由を理解するのを助けるように、シースルービューが表示されてもよい。
・自動化された車両隊−後続車両は自動化された車両隊の一部である。隊における複数車両は、非常に近い距離で互いに追従していてもよい。シースルー機能は、後続車両のドライバーが隊の前方まで先行する車両を透視することを可能にしうる。
【００３２】
様々な関連する車両操作は、ＥＣＵなどの機器、及び、カメラ、ＬＩＤＡＲ及び／又はＲＡＤＡＲなどのセンサを使用して、後続車両によって検出されてもよい。コンピュータービジョン／機械学習技術も採用されうる。別の実施形態において、車両は、ドライバーから、操縦（例えば追い越しなど）を実行する彼／彼女の意図についての入力を受けてもよい。ステップ６０８の結果として、関連する車両操作のいずれも検出されない場合、プロセス６００はステップ６１４に進み、シースルー機能を自動的に無効にする。それ以外の場合、プロセス６００は次のチェックステップに進む。
【００３３】
ステップ６１０において、オブジェクトが先行車両と後続車両との間に来ているかもしれないかどうかを決定するように、チェックが実行される。そのようなオブジェクトは、シースルー機能によって潜在的にマスクされうるものであり、それによって図５に関して前に説明され述べられたように（及び図８Ａ〜８Ｄに関して説明したように）、危険な状態を作り出す。シースルー機能は、先行車両と後続車両との間に位置する例えば歩行者などのオブジェクトを「消失」させることにより、そのような状況において現実を誤って表現するかもしれない。したがって、後続車両は、例えば１又は複数のカメラ、ＬＩＤＡＲ及び／又はＲＡＤＡＲ検出器などのセンサを使用することによって、先行車両と後続車両との間の空間を監視ししうる。オブジェクトが検出された場合又は新しいオブジェクトが車両間のスペース内に移動した場合、プロセスはステップ６１４に進み、シースルー機能を自動的に無効にして安全性を向上させる。それ以外の場合、プロセス６００は次のチェックステップに進む。
【００３４】
ステップ６１２で、先行車両がブレーキをかけられているかどうかを決定するように、チェックが実行される。図５に関して前述したように、シースルー機能はまた、先行車両の前方のシーンのビューを提供するために、先行車両を「消失」させうる。ただし、先行車両がブレーキをかけている場合は、そうすることが安全ではないかもしれない。そのようなシナリオにおいて、後続車両のドライバーは、先行車両がブレーキをかけていることに注意喚起される必要がある。先行車両を「消失させること」は、安全ではないかもしれない。シースルー複合現実画像（例えば図５）に頼って、後続車両のドライバーは、先行車両のブレーキライトが作動していること又は先行車両の画像が近接してすぐに近くになることなど、先行車両がブレーキをかけていることを示す視覚的合図を奪われうる。したがって、先行車両がブレーキをかけている場合、シースルー機能を無効にすることがより安全かもしれない。様々な実施形態によれば、先行車両が急にブレーキをかけているかどうかを決定する様々な方法がありえ、それらは個別に又は組み合わせて使用されうる：
・  先行車両Ｖ２Ｖ速度データ−前述のように、先行車両は、現在の速度、加速度、ブレーキフラグなどのそのステータス情報を、送信してもよい。これは、例えば、Ｖ２Ｖ通信リンクを介して行われてもよい。後続車両は、そのようなステータス情報を受信してもよく、それを使用して、先行車両ブレーキが例えば減速閾値などの閾値を超えたかどうかを決定してもよい。
・  後続車両前方センサデータ−前方センサを使用して、後続車両は先行車両の速度、距離、及び加速度を監視してもよい。そのような情報は、先行車両ブレーキがしきい値を超えているかどうかを決めるように使用されることができる。
・  ビデオベースのブレーキライト又は迫り来る距離測定−後続車両に搭載された１又は複数のカメラは画像をキャプチャするように使用されてもよく、ブレーキライトアクティブ化や素早く接近する又は迫り来るオブジェクトなどの先行車両ブレーキの兆候を監視するように、当該画像は、コンピュータービジョン技術／機械学習技術を使用して処理されることができる。そのような視覚ベースの技術は、先行車両ブレーキがしきい値を超えているかどうかを決めるように、使用されることもできる。
【００３５】
ステップ６１２の結果として、先行車両がブレーキをかけていることが検出される場合、プロセスはステップ６１４に進み、シースルー機能を自動的に無効にする。それ以外の場合、プロセス６００はステップ６１６に進み、シースルー機能を自動的に有効にする。
【００３６】
図６に明示的に示されていないが、プロセス６００は、リストされた条件が自動的にシースルー機能を有効又は無効にすることを繰り返しチェックするように、ループで動作されてもよい。例えば、既存のステップ６１４において、プロセス６００は、ステップ６０２に戻って、条件をチェックするための様々なステップを繰り返してもよい。同様に、既存のステップ６１６において、プロセス６００は、ステップ６０２に戻って、条件をチェックするための様々なステップを繰り返してもよい。プロセス６００は、このやり方でループで繰り返し実行されうる。プロセス６００において上記のステップは、少なくとも１つの実施形態によれば、後続車両に搭載された機器によって実行されうる。例えば、ステップ６０２〜ステップ６１６は、後続車両に搭載されたＥＣＵによって、例えばビデオＥＣＵ及び／又はテレマティクス及びＧＰＳ  ＥＣＵによって、実行されてもよい。
【００３７】
「有効」及び「無効」という用語は、ここでは広い意味で使用される。例えば、シースルー機能を無効にすることは、先行車両と後続車両によってキャプチャされた画像のマージを中止して、後続車両によってキャプチャされた画像のみを提示することを含みうる。あるいは、シースルー機能を無効にすることは、提示される画像の複合現実コンテンツを減らすことを含みうる。提示された画像は、先行車両によってキャプチャされた画像による寄与をあまり強調せずに、引き続きマージされてもよい。例えば、先行車両のカメラからの画像の一部が強調されてもよく、後続車両のカメラからの画像の一部が強調されてもよく、その２つの画像部分が統合画像を作り出すように融合されてもよい。そのような１又は複数の統合画像の提示は、先行車両の前方のビューが強調されていないため、シースルー機能を「無効」にすることを構成してもよい。同様に、シースルー機能を有効にすることは、後続車両によって見られるようなビューの一部が先行車両によって見られるようなビューの一部によって完全に置換される統合画像を、提示することを含んでいてもよい。あるいは、シースルー機能を有効にすることは、先行車両によってキャプチャされる画像の寄与を強調するように提示される画像の複合現実コンテンツを増大することを含んでいてもよい。例えば、先行車両のカメラからの画像の一部が強調されてもよく、後続車両のカメラからの画像の一部を目立たせないようにしてもよく、その２つの画像部分が融合されて統合画像を作り出してもよい。そのような１又は複数の統合画像の提示は、先行車両の前方のビューが強調されているため、シースルー機能を「有効にすること」を構成しうる。
【００３８】
図７Ａ、７Ｂ、及び７Ｃは、ある実施形態による、シースルー機能をサポートするための良好な及び悪いカメラアラインメントの様々なシナリオを示す。前に説明したように、先行車両に搭載されたカメラ及び後続車両に搭載されたカメラの適切なアラインメントは、シースルー機能を有効にする際又は無効にする際に用いられる条件となりうる。適切なアラインメントは、カメラがまったく同じ方向を向くことを必ずしも必要とはしないかもしれない。むしろ、整列されているということは、カメラが、それらの位置、角度、及び視野の観点から相対的な向きの許容範囲内にあることを意味しうる。少なくとも１つの実施形態によれば、適切なカメラアラインメントは、後続車両の視点から、先行車両の存在によって定められる遮蔽の画角が先行車両のカメラの画角と完全にオーバーラップされる場合に、達成されうる。そのような状態は、完全なマージ領域が統合画像において形成されることを可能にする。例としてのさらなる説明が以下に提供される。
【００３９】
図７Ａは、一実施形態による、良好なカメラアラインメントの例を示す。後続車両の視点から、遮蔽の画角７０２は、先行車両によって遮蔽される角度範囲として定められる。先行車両に搭載されたカメラの画角７０４及び後続車両に搭載されたカメラの画角７０６も示される。ここで、遮蔽の画角７０２は、先行車両のカメラの画角７０４と完全に重なっている。したがって、複合現実画像は、完全にマージされた領域で構築されることができる。換言すれば、後続車両のカメラによってキャプチャされた画像の遮蔽部分は、先行車両のカメラによってキャプチャされた画像の非遮蔽部分によって、完全にオーバーラップされうる（そして潜在的に置き換えられうる）。したがって、本実施形態によれば、シースルー機能をサポートするように適切なカメラアラインメントが達成される。
【００４０】
図７Ｂは、一実施形態による、良好なカメラアラインメントの別の例を示す。ここで、図７Ａにおけるのとは異なり、先行車両は、後続車両の真正面にいない。代わりに、先行車両は後続車両に対してわずかにオフセットされている。それにもかかわらず、このオフセット位置にもかかわらず、遮蔽の画角７０２は、先行車両のカメラの画角７０４によって完全にオーバーラップされる。複合現実画像は、完全にマージされた領域によって構築されることができる。したがって、本実施形態によれば、シースルー機能をサポートするように適切なカメラアラインメントが達成される。
【００４１】
図７Ｂは、一実施形態による、悪いカメラアラインメントの例を示す。ここで、先行車両は重要な旋回操作を実行し、それによって遮蔽の画角７０２が、先行車両のカメラの画角７０４によってもはや完全にはオーバーラップされない。複合現実画像が構築されるとすると、それは不完全なマージ領域を有することになるであろう。換言すれば、後続車両のカメラによってキャプチャされた画像の遮蔽部分は、先行車両のカメラによってキャプチャされた画像の非遮蔽部分によって完全にはオーバーラップされない（したがって完全には置き換えることができない）かもしれない。したがって、そのカメラアラインメントは、本実施形態によるシースルー機能をサポートすることができない。
【００４２】
図８Ａ、８Ｂ、８Ｃ、及び８Ｄは、開示の実施形態による、先行車両と後続車両との間に位置するオブジェクトの提示を示し、先行車両を透かして見る複合現実ビューにおいて、そのようなオブジェクトを可視化する。図８Ａは、いかなる複合現実ビューが提示される前の現実世界の道路シーンの画像を示す。その画像は、後続車両に搭載されたカメラによって撮影されうる。図８Ａには、先行車両８０２が示される。更に、先行車両８０２と後続車両との間に位置する１又は複数のオブジェクト８０４も示される。例えば、１又は複数のオブジェクト８０４は、先行車両８０２と後続車両との間を歩いた大人及び子供などの歩行者であってもよい。図８Ａにおいて、１又は複数のオブジェクト８０４は、描写として、例えば単色形状として、示される。あるいは、１又は複数のオブジェクト８０４はまた、１又は複数のオブジェクト８０４の実際の画像として示されてもよい。すなわち、１又は複数のオブジェクト８０２の画像は、後続車両に搭載されたカメラによってキャプチャされるような１又は複数のオブジェクト８０４の視覚的な詳細を示してもよい。
【００４３】
図８Ｂは、先行車両８０２と後続車両との間に位置するオブジェクト８０４のビューを目立たせないようにしうる複合現実画像を示し、その複合現実画像は、図８Ａに示される現実世界の画像に基づく。ここで、複合現実画像は、「シースルー」機能を提供することを意図されており、後続車両のドライバーが先行車両８０２を透かして見ることを可能にする。前述のように、これは、後続車両によってキャプチャされた画像を先行車両８０２によってキャプチャされた画像とマージすることによって、達成されることができる。より具体的には、後続車両に搭載されたカメラによってキャプチャされた画像の遮蔽部分は、先行車両８０２に搭載されたカメラによってキャプチャされた画像の遮蔽されていない部分とマージされる。一実施形態において、これは、第１のバウンディングボックス８０６を使用して達成される。バウンディングボックス８０６内に、先行車両によってキャプチャされた画像の一部が示され、そうでなければ後続車両の視点から先行車両８０２によって遮られていたであろう先行車両８０２の前方のシーンを明らかにする。バウンディングボックス８０６の外側には、後続車両によってキャプチャされた画像の部分が示される。
【００４４】
図８Ｂに示される結果として得られた複合現実画像がシースルー機能を提供する一方で、１又は複数のオブジェクト８０４は「消失」されることができ、そのことは安全ではない状態を作り出しうる。図８Ｂに示されるように、複合現実画像は、部分的に１又は複数のオブジェクト８０４を「消失させた」。しかしながら、バウンディングボックス８０６及び１又は複数のオブジェクト８０４の画像に現れる際のサイズに応じて、複合現実画像が１又複数のオブジェクト８０４を完全に「消失」させることが可能である。後続車両のドライバーが、提示されている複合現実画像に頼って、１又は複数のオブジェクト８０４が存在しないものと、すなわち後続車両と先行車両８０２との間に何もないものと、誤って思い込むかもしれないので、この「消失」効果は安全ではないかもしれない。その結果、後続車両のドライバーは、安全な距離を保つことができず、場合によっては、後続車両が１又は複数のオブジェクト８０４（例えば先行車両８０２と後続車両との間に位置する歩行者）に衝突することさえも許容するかもしれない。
【００４５】
図８Ｃは、「シースルー」機能を提供する複合現実画像ならびに後続車両と先行車両８０２との間に位置する１又は複数のオブジェクト８０４の描写を示す。前述のように、統合画像は、先行車両８０２によってキャプチャされた画像の非遮蔽部分が提示される第１のバウンディングボックス８０６を含み、それによって先行車両８０２を透かして見る能力を提供する。更に、１又は複数のオブジェクト８０４も検知されて、それらの描写が提示される。１又は複数のオブジェクト８０４の検知は、様々な方法で実施されうる。前述のように、後続車両は、ＬＩＤＡＲ及びＲＡＤＡＲセンサ（例えば図２におけるＬＩＤＡＲ及びＲＡＤＡＲセンサ２２６）及び１又は複数のカメラ（例えば図２における複数のカメラ２２４）などの様々なセンサを装備しうる。そのようなセンサ及びカメラは、後続車両と先行車両８０２との間に位置する１又は複数のオブジェクト８０４の存在を検知するために使用されうる。後続車両に搭載された演算リソース（例えば図２のビデオＥＣＵ２３０、後述の図９の処理ユニット９１０など）が利用されて、１又は複数のオブジェクト８０４を検知するようにセンサ情報及び画像情報を処理してもよい。様々な実施形態において、オブジェクト検知は、センサデータ、画像データ、及び／又はセンサデータ及び画像データの組み合わせを使用して実行される。
【００４６】
そして、１又は複数のオブジェクト８０４の描写が、複合現実画像において提示される。これは、後続車両と先行車両８０２との間の１又は複数のオブジェクト８０４を含む統合画像において領域を定めることによって達成されうる。その定められた領域において、先行車両８０２によってキャプチャされた画像の遮蔽部分の代わりに、オブジェクト８０４の描写が提示される。図８Ｃに示される実施形態において、定められた領域は、１又は複数のオブジェクト８０４の輪郭に従う。また、この実施形態では、１又は複数のオブジェクト８０４の輪郭に従う単色形状が、１又は複数のオブジェクト８０４の描写として使用される。しかしながら、前述のように、１又は複数のオブジェクト８０４の実際の画像も描写として使用されうる。
【００４７】
一実装において、１又は複数のオブジェクト８０４の描写の提示をもたらすためのロジックは、以下の通りであってもよい。後続車両と先行車両８０２との間の１又は複数のオブジェクト８０４が検知されると、１又は複数のオブジェクト８０４を含む定められた領域は、第１のバウンディングボックス８０６と比較される。定められた領域と第１のバウンディングボックス８０６との間にオーバーラップがある場合、オーバーラップ領域に関してシースルー機能はオフに切り替えられる。そのプロセスは、１又は複数のオブジェクト８０４を含む定められた領域を回避するために、シースルーウィンドウの形状を単に変更することとしても想定されうる。言い換えれば、先行車両８０２のビューが提示されるシースルーウィンドウの形状は、１又は複数のオブジェクト８０４を含む定められた領域を含まない第１のバウンディングボックス８０６の部分として定められうる。したがって、複合現実画像は、（１）シースルー機能、例えば、先行車両８０２の前方のシーンのビューを提示する第１のバウンディングボックス８０６、及び、（２）後続車両と先行車両８０２との間に位置する１又は複数のオブジェクト８０４の描写、の両方を提供する。
【００４８】
図８Ｄはまた、「シースルー」機能と、後続車両と先行車両８０２との間に位置する１又は複数のオブジェクト８０４の描写との両方を提供するが、より単純な実行を有する複合現実画像を示す。再度、後続車両と先行車両８０２との間の１又は複数のオブジェクト８０４を含む領域が定められる。しかしながら、この場合、定められた領域は、オブジェクト８０４の輪郭に従わない。代わりに、定められた領域は、実行がより簡単な１又は複数の第２のバウンディングボックス８０８として実行される。図８Ｄに示される特定の実施形態では、第２のバウンディングボックス８０８の各々は、長方形形状を有する。１又は複数のオブジェクト８０４の描写は、第２のバウンディングボックス８０８内に提示される。したがって、シースルーウィンドウは、第１のバウンディングウィンドウ８０６から第２のバウンディングウィンドウ８０８を引いたものとして形作られうる。少なくとも１つの実施形態によれば、このシースルーウィンドウ内で、統合画像は、先行車両８０２によってキャプチャされた画像の一部を提示する。このシースルーウィンドウの外側では、統合画像は、後続車両によってキャプチャされた画像の一部を提示する。
【００４９】
図９は、一実施形態に従って実装されうる電子制御ユニット（ＥＣＵ）の例の内部構成要素のブロック図である。例えば、ＥＣＵ  ９００は、前述のテレマティクス及びＧＰＳ  ＥＣＵ又はビデオＥＣＵの実行を表しうる。図９は、様々な構成要素の一般化された説明を提供することのみを意図されており、当該様々な構成要素のいずれか又はすべてが適切に使用されうることに留意されるべきである。いくつかの例において、図９に示される構成要素は、単一の物理的デバイスに特定されることができること、及び／又は、様々な物理的な位置に配置されうる様々なネットワークで結ばれたデバイス間に分散されることができること、に留意されうる。
【００５０】
ＥＣＵ９００は、バス９０５を介して電気的に結合されることができる（又はそうでなければ必要に応じて通信されうる）複数のハードウェア要素を含むことが示される。そのハードウェア要素は１又は複数の処理ユニット９１０を含んでもよく、当該１又は複数の処理ユニット９１０は、制限なく、１又は複数の汎用プロセッサ、（デジタル信号処理（ＤＳＰ）チップ、グラフィックスアクセラレーションプロセッサ、特定用途向け集積回路（ＡＳＩＣｓ）、及び／又は同類のもの）１又は複数の専用プロセッサ、及び／又は他の処理構造又は手段を含むことができる。図８に示されるように、いくつかの実施形態は、所望の機能に応じて、別個のＤＳＰ９２０を有してもよい。デバイス９００はまた、１又は複数の入力デバイスコントローラ９７０であって、車載のタッチスクリーン、タッチパッド、マイクロフォン、１又は複数のボタン、１又は複数のダイヤル、１又は複数のスイッチ、及び／又は同類のものを、制限なく、制御することができる当該１又は複数の入力デバイスコントローラ９７０と；ディスプレイ、発光ダイオード（ＬＥＤ）、スピーカー、及び／又は同類のものを制限なく制御することができる１又は複数の出力デバイスコントローラ９１５と、を含むことができる。
【００５１】
ＥＣＵ９００はまた無線通信インターフェース９３０を含んでもよく、当該無線通信インターフェース９３０は、モデム、ネットワークカード、赤外線通信デバイス、無線通信デバイス、及び／又はチップセット（Ｂｌｕｅｔｏｏｔｈデバイス、ＩＥＥＥ  ８０２.１１デバイス、ＩＥＥＥ  ８０２.１６.４デバイス、ＷｉＦｉデバイス、ＷｉＭａｘデバイス、４Ｇ、５Ｇなどを含むセルラー通信設備）などを、制限なく含みうる。無線通信インターフェース９３０は、ネットワーク、無線アクセスポイント、他のコンピュータシステム、及び／又はここに記載されている他の任意の電子デバイスと、データが交換されることを可能にしてもよい。通信は、無線信号９３４を送信する及び／又は受信する１又は複数の無線通信アンテナ９３２を介して実行されることができる。
【００５２】
所望の機能に応じて、無線通信インターフェース９３０は、ベーストランシーバーステーション（例えばセルラーネットワークの基地局）及び／又は１又は複数のアクセスポイントと通信する別個のトランシーバを含むことができる。これらの異なるデータネットワークは、様々なネットワークタイプを含むことができる。更に、ワイヤレスワイドエリアネットワーク（ＷＷＡＮ）は、符号分割多元接続（ＣＤＭＡ）ネットワーク、時分割多重アクセス（ＴＤＭＡ）ネットワーク、周波数分割多元接続（ＦＤＭＡ）ネットワーク、直交周波数分割多元接続（ＯＦＤＭＡ）ネットワーク、ＷｉＭａｘ（ＩＥＥＥ  ８０２.１６）などであってもよい。ＣＤＭＡネットワークは、ｃｄｍａ２０００、広帯域ＣＤＭＡ（Ｗ−ＣＤＭＡ）などのような１又は複数の無線アクセス技術（ＲＡＴｓ）を実行してもよい。Ｃｄｍａ２０００は、ＩＳ−９５、ＩＳ−２０００及び／又はＩＳ−８５６規格を含む。ＴＤＭＡネットワークは、グローバルシステムフォーモバイルコミュニケーションズ（ＧＳＭ）、デジタルアドバンストモバイルフォンシステム（Ｄ−ＡＭＰＳ）、又はその他のＲＡＴを実行してもよい。ＯＦＤＭＡネットワークは、４Ｇテクノロジー及び５Ｇテクノロジーを含むＬＴＥ、ＬＴＥ  Ａｄｖａｎｃｅｄなどを採用してもよい。
【００５３】
ＥＣＵ９００は、１又は複数のセンサコントローラ９４０を更に含むことができる。そのようなコントローラーは、１又は複数の加速度計、１又は複数のジャイロスコープ、１又は複数のカメラ、１又は複数の磁力計、１又は複数の高度計、１又は複数のマイクロフォン、１又は複数の近接センサ、１又は複数の光センサ、及び同類のものを、制限なく、制御できる。
【００５４】
ＥＣＵ９００の実施形態はまた、ＳＰＳアンテナ９８２を使用して１又は複数のＳＰＳ衛星から信号９８４を受信することができる衛星測位システム（ＳＰＳ）受信機９８０を含んでいてもよい。ＳＰＳ受信機９８０は、従来の技術を使用して、全地球航法衛星システム（ＧＮＳＳ）（例えば、全地球測位システム（ＧＰＳ））、ガリレオ、グロナス、コンパス、日本の準天頂衛星システム（ＱＺＳＳ）、インドのインド地域航法衛星システム（ＩＲＮＳＳ）、中国の北斗、及び／又は同類のものなどのＳＰＳシステムの衛星から、デバイスの位置を抽出することができる。更に、ＳＰＳ受信機１７８０は、１又は複数のグローバル及び／又は地域ナビゲーション衛星システムに関連付けられるかそうでなければ使用が可能とされうる様々な補強システム（例えば、衛星ベース補強システム（ＳＢＡＳ））を、使用することができる。限定ではないが例として、ＳＢＡＳは、例えば、広域補強システム（ＷＡＡＳ）、欧州静止ナビゲーションオーバーレイサービス（ＥＧＮＯＳ）、多機能衛星補強システム（ＭＳＡＳ）、ＧＰＳ支援ＧＥＯ補強ナビゲーション又はＧＰＳ及びジオ補強ナビゲーションシステム（ＧＡＧＡＮ）、及び／又は同類のものなどの、完全性情報、差分補正など、を提供する１又は複数の補強システムを含んでいてもよい。したがって、ここで使用される場合、ＳＰＳは、１又は複数のグローバル及び／又は地域ナビゲーション衛星システム及び／又は補強システムの任意の組み合わせを含みうるものであり、ＳＰＳ信号は、ＳＰＳ、ＳＰＳのようなもの、及び／又はそのような１又は複数のＳＰＳに関連する他の信号を含みうる。
【００５５】
ＥＣＵ９００は、メモリ９６０を更に含んでもよく、及び／又は、メモリ９６０と通信してもよい。メモリ９６０は、プログラム可能、フラッシュ更新可能、及び／又は同類のことが可能な、ローカル及び／又はネットワークアクセス可能なストレージ、ディスクドライブ、ドライブアレイ、光ストレージデバイス、ランダムアクセスメモリ（「ＲＡＭ」）などのソリッドステートストレージデバイス、及び／又は読み取り専用メモリ（「ＲＯＭ」）を、制限なく、含むことができる。そのような記憶装置は、様々なファイルシステム、データベース構造、及び／又は同類のものを制限なく含む任意の適切なデータ保存を実行するように、構成されうる。
【００５６】
デバイス９００のメモリ９６０はまた、オペレーティングシステム、デバイスドライバ、実行可能ライブラリ、及び／又は１又は複数のアプリケーションプログラムなどのコンピュータ読み取り可能媒体に埋め込まれた他のコードを含むソフトウェア要素（図示せず）を、含むことができ、それは、多様な実施形態によって提供されるコンピュータプログラムを含んでいてもよいし、及び／又は、ここで説明されるような、他の実施形態によって提供されるシステムを構成してもよい。そして、一態様において、そのようなコード及び／又はインストラクションは、説明された方法に従って１又は複数の操作を実行するように汎用コンピュータ（又は他のデバイス）を構成するように及び／又は適応させるように使用されうる。
【００５７】
特定の要件に従って実質的な変更が行われうることは当業者には明らかであろう。例えば、カスタマイズされたハードウェアが使用されてもよく、及び／又は、特定の要素がハードウェア、ソフトウェア（アプレットなどのポータブルソフトウェアを含む）、又はその両方において実行されてもよい。更に、ネットワーク入力／出力デバイスなどの他の計算装置への接続が採用されてもよい。
【００５８】
添付の図を参照すると、メモリを含むことができる構成要素は、非一時的な機械読み取り可能媒体を含むことができる。ここで使用されるような「機械読み取り可能媒体」及び「コンピュータ読み取り可能媒体」という用語は、機械を特定のやり方で動作させるデータの提供に関与する任意の記憶媒体を指す。上記で提供された実施形態では、様々な機械読み取り可能媒体が、実行のために処理ユニット及び／又は他のデバイスにインストラクション／コードを提供することに関与してもよい。追加的又は代替的に、機械読み取り可能媒体は、そのようなインストラクション／コードを格納及び／又は運ぶために、使用されてもよい。多くの実行において、コンピュータ読み取り可能媒体は、物理的及び／又は有形の記憶媒体である。そのような媒体は、非揮発性媒体、揮発性媒体及び伝送媒体を含むがこれらに限定されない多くの形態をとることができる。コンピュータ読み取り可能媒体の一般的な形態は、例えば、磁気及び／又は光学媒体、パンチカード、ペーパーテープ、穴のパターンを有する他の任意の物理媒体、ＲＡＭ、ＰＲＯＭ、ＥＰＲＯＭ、ＦＬＡＳＨ−ＥＰＲＯＭ、他の任意のメモリチップ又はカートリッジ、以下に説明するキャリア波、又はコンピュータがインストラクション及び／又はコードを読み取ることができる他の任意の媒体を含む。
【００５９】
ここで論じられる方法、システム、及びデバイスは例である。様々な実施形態は、必要に応じて、様々な手順又は構成要素を省略、置換、又は追加することができる。例えば、ある実施形態に関して説明される特徴は、様々な他の実施形態において組み合わせられてもよい。実施形態の様々な態様及び要素は、同様のやり方で組み合わせられてもよい。ここで提供される図の様々な構成要素は、ハードウェア及び／又はソフトウェアで具体化されることができる。また、技術は進化しており、したがって、要素の多くは、開示の範囲をそれらの特定の例に限定しない例である。
【００６０】
いくつかの実施形態を説明したが、本開示の精神から逸脱することなく、様々な修正、代替構造、及び同等物が使用されてもよい。例えば、上記の要素は、より大きなシステムの構成要素にすぎないかもしれず、他のルールが発明の適用よりも優先されてもよいし、そうでなければ発明の適用を修正してもよい。また、上記の要素が考慮される前、最中、又は後に、いくつかのステップが実行されてもよい。したがって、上記の説明は、開示の範囲を限定しない。
【図１】
2021535507.tif 000003
【図２】
2021535507.tif 000004
【図３】
2021535507.tif 000005
【図４Ａ】
2021535507.tif 000006
【図４Ｂ】
2021535507.tif 000007
【図５】
2021535507.tif 000008
【図６】
2021535507.tif 000009
【図７Ａ】
2021535507.tif 000010
【図７Ｂ】
2021535507.tif 000011
【図７Ｃ】
2021535507.tif 000012
【図８Ａ】
2021535507.tif 000013
【図８Ｂ】
2021535507.tif 000014
【図８Ｃ】
2021535507.tif 000015
【図８Ｄ】
2021535507.tif 000016
【図９】
2021535507.tif 000017
【国際調査報告】
2021535507.tif 000018
2021535507.tif 000019