(57)【要約】  方法が、少なくとも地理空間座標に各々が帰する複数の点を含むＬＩＤＡＲ取得点群を含むデータセットにアクセスする段階と、複数の点の少なくとも一部分をサブサンプリングして複数の点の代表サンプルを導出する段階と、複数の点の代表サンプルを表示する段階とを含む。【選択図】図２１
2019532433.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも地理空間座標に各々が帰する複数の点を含むＬＩＤＡＲ取得点群を含むデータセットにアクセスする段階と、
前記複数の点の少なくとも一部分をサブサンプリングして該複数の点の代表サンプルを導出する段階と、
前記複数の点の前記代表サンプルを表示する段階と、
を含むことを特徴とする方法。
【請求項２】
前記ＬＩＤＡＲ取得点群は、可搬型同時位置付け及びマッピング（ＳＬＡＭ）システムによって取得されることを特徴とする請求項１に記載の方法。
【請求項３】
前記代表サンプルを表示する段階は、前記可搬型ＳＬＡＭシステムのインタフェース表示時に発生することを特徴とする請求項２に記載の方法。
【請求項４】
前記代表サンプルを表示する段階は、前記ＬＩＤＡＲ取得点群の前記取得中にリアルタイムで発生することを特徴とする請求項２に記載の方法。
【請求項５】
前記複数の点の少なくとも一部分をサブサンプリングする段階は、前記点群によって表された容積を部分容積に分割する段階と、該部分容積の各々に値を割り当てる段階とを含むことを特徴とする請求項１に記載の方法。
【請求項６】
前記部分容積は、実質的に等しいサイズのものであることを特徴とする請求項５に記載の方法。
【請求項７】
各部分容積の前記割り当てられた値は、前記複数の点のいずれかが該部分容積内に位置付けられるか否かを示すことを特徴とする請求項５に記載の方法。
【請求項８】
前記複数の点の各々が、該点からの赤外線（ＩＲ）光の反射の強度に対応する強度を用いて表示されることを特徴とする請求項１に記載の方法。
【請求項９】
前記複数の点の各々が、該点からの赤外線（ＩＲ）光の反射の強度に対応するカラーを用いて表示されることを特徴とする請求項１に記載の方法。
【請求項１０】
前記複数の点の各々が、強度パラメータ、密度パラメータ、時間パラメータ、及び地理空間場所パラメータから構成される群から選択された前記取得データのパラメータに対応するカラーを用いて表示されることを特徴とする請求項１に記載の方法。
【請求項１１】
少なくとも地理空間座標とセグメントとに各々が帰する複数の点を含むＬＩＤＡＲ点群を取得する段階と、
同じセグメントに帰する前記複数の点の計算された精度を示す信頼水準を各セグメントに割り当てる段階と、
前記割り当てられた信頼水準をユーザに表示する段階と、
を含むことを特徴とする方法。
【請求項１２】
各信頼水準が、前記点群の点密度、前記複数の点の直交性、該点群が取得された環境の形状、及び別々の空間の間の移行の状態のうちの少なくとも１つに少なくとも部分的に基づいて割り当てられることを特徴とする請求項１１に記載の方法。
【請求項１３】
前記表示する段階は、前記割り当てられた信頼水準を割り当てられた信頼水準を示すカラーを利用して前記ユーザに表示する段階を含むことを特徴とする請求項１１に記載の方法。
【請求項１４】
前記表示する段階は、手持式ＳＬＡＭデバイスの一部を形成するディスプレイ上で実行されることを特徴とする請求項１３に記載の方法。
【請求項１５】
前記割り当てられた信頼水準をユーザに表示する段階は、リアルタイム又はほぼリアルタイムのうちの一方で発生することを特徴とする請求項１１に記載の方法。
【請求項１６】
少なくとも地理空間座標とタイムスタンプとに各々が帰する複数の点を含むＬＩＤＡＲ点群をＳＬＡＭシステムを用いて取得する段階と、
前記複数の点の少なくとも一部分を表示する段階と、
前記点群の前記取得をそこまで巻き戻す指定時間の指示を受信する段階と、
前記指定時間後のタイムスタンプに各々が帰する前記複数の点の一部分をタグ付けする段階と、
を含むことを特徴とする方法。
【請求項１７】
前記指定時間後のタイムスタンプを有する点の前記タグ付けされた部分を消去する段階を更に含むことを特徴とする請求項１６に記載の方法。
【請求項１８】
前記ＳＬＡＭユニットが、前記指定時間に対応する地理空間座標を有する少なくとも１つの点に近いという指示をユーザから受信する段階と、
前記点群の取得を再開する段階と、
を更に含むことを特徴とする請求項１６に記載の方法。
【請求項１９】
タグ付けする段階は、前記複数の点の前記部分を低信頼度として割り当てる段階を含むことを特徴とする請求項１６に記載の方法。
【請求項２０】
許容可能な信頼水準を有する置換点が取得された後に前記複数の点の前記タグ付けされた部分を取り除く段階を更に含むことを特徴とする請求項１６に記載の方法。
【請求項２１】
指定時間の指示を受信する段階は、該指定時間を参照するユーザ要求を受信する段階を含むことを特徴とする請求項１６に記載の方法。
【請求項２２】
前記指定時間は、予め決められた閾値よりも下への点群密度の変化に関連付けられた時間を含むことを特徴とする請求項１６に記載の方法。
【請求項２３】
少なくとも地理空間座標とタイムスタンプとに各々が帰する複数の点を含むＬＩＤＡＲ点群をＳＬＡＭシステムを用いて取得する段階と、
前記複数の点の少なくとも一部分を表示する段階と、
予め決められた閾値よりも下の点密度を示す前記点群の一部分の指示をユーザに表示する段階と、
を含むことを特徴とする方法。
【請求項２４】
未走査区域の指示を前記ユーザに表示する段階を更に含むことを特徴とする請求項２３に記載の方法。
【請求項２５】
走査を再開する地理空間座標の指示を前記ユーザに表示する段階を更に含むことを特徴とする請求項２３に記載の方法。
【請求項２６】
予め決められた閾値よりも下の点密度を示す前記点群の一部分の指示をユーザに表示する段階は、走査を再開するためのターゲット場所を表示する段階を含むことを特徴とする請求項２３に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
〔優先権の表記〕
この出願は、２０１７年３月７日出願の「リアルタイムオンラインエゴモーション推定を有するレーザスキャナ」という名称のＰＣＴ出願番号ＰＣＴ／ＵＳ２０１７／０２１１２０に対する優先権を主張し、かつその一部継続出願である。この出願は、２０１６年１０月１１日出願の「リアルタイムオンラインエゴモーション推定を有するレーザスキャナ」という名称の米国仮特許出願第６２／４０６，９１０号に対する優先権を更に主張するものである。ＰＣＴ／ＵＳ２０１７／０２１１２０及び米国仮出願第６２／４０６,９１０号の両方の開示は、その全体が全ての目的に対して引用により本明細書に組み込まれている。
【背景技術】
【０００２】
自律移動デバイスは、それがそこで作動する地形に関する情報を要求する場合がある。そのようなデバイスは、地形を提示する予め定められたマップ及びそこに見出される場合があるあらゆる障害物に頼る場合がある。これに代えて、デバイスは、リアルタイムデータを提供するために１又は２以上のセンサを備えたコンピュータベースのマッピングシステムを含む固定又は運動中のいずれかの間にその地形をマップする機能を有する場合がある。モバイルコンピュータベースマッピングシステムは、その位置の変化を経時的に推定する（オドメーター）及び／又は３次元空間の点群のような３次元マップ表現を発生させることができる。
【０００３】
例示的マッピングシステムは、マップをそこから構築することができるデータを提供する様々なセンサを含むことができる。一部のマッピングシステムは、１つのそのようなセンサとしてステレオカメラシステムを使用する場合がある。これらのシステムは、モーション推定のスケールを決定するために基準として２つのカメラの間のベースラインから恩恵を得ている。単眼システムは、追加のセンサからデータを受信する又はデバイスのモーションに関して仮定を行うことなしでは画像のスケールを分解することができない場合があるので、２眼システムが単眼システムよりも好ましい。近年では、ＲＧＢ−Ｄカメラが研究分野で人気を得ている。そのようなカメラは、個々のピクセルに関連付けられた深度情報を提供することができ、従って、スケールの決定を助けることができる。しかし、ＲＧＢ−Ｄカメラを含む一部の方法は、深度情報のカバレージを有する画像区域のみを使用する場合があり、これは、特に深度がスパースにのみ利用可能である可能性がある開放環境では大きい画像区域が浪費されることをもたらす場合がある。
【０００４】
マッピングシステムの他の例では、スケール制約をＩＭＵ加速から提供することができるようにＩＭＵを１又は２以上のカメラに結合することができる。一部の例では、単眼カメラをカルマンフィルタによってＩＭＵにきつく又は緩く結合することができる。他のマッピングシステムは、モバイルシステムのモーションに関して解くために最適化方法を使用する場合がある。
【０００５】
マッピングシステムの代替例は、モーション推定のためのレーザスキャナの使用を含むことができる。しかし、レーザの走査速度から、そのようなデータの使用の難しさが生じる場合がある。システムが移動している間は、固定位置レーザスキャナとは異なってレーザ点は、スキャナの相対移動によって影響を受ける。従って、この移動の影響は、異なる時間にシステムに到着するレーザ点の要因である場合がある。その結果、走査速度がマッピングシステムのモーションに対して遅い時は、レーザの外部モーションに起因して走査歪みが存在する場合がある。モーション効果は、レーザ自体によって補償することができるが、補償は、必要な補正を提供するための独立したモーションモデルを要求する場合がある。一例として、モーションは、一定速度として又はガウス過程としてモデル化することができる。一部の例では、ＩＭＵは、モーションモデルを提供することができる。そのような方法は、レーザ点群によって形成された空間−時間パッチを適合させてセンサモーションを推定し、かつオフラインバッチ最適化でＩＭＵバイアスを補正する。
【０００６】
ローリングシャッターカメラの使用では、モーション歪みの類似の問題が見出される場合がある。具体的には、画像ピクセルが経時的に継続して受信される場合があり、カメラの外因性モーションによって引き起こされる画像歪みをもたらす。一部の例では、視覚的オドメトリ方法は、ピクセルの読み出し時間が与えられるとローリングシャッター効果を補償するためにＩＭＵを使用することができる。
【０００７】
一部の例では、ＧＰＳ／ＩＮＳ技術を使用してモバイルマッピングデバイスの位置を決定することができる。しかし、高精度ＧＰＳ／ＩＮＳソリューションは、用途がＧＰＳ拒否型、軽量、又は費用重視である時に実用的ではない場合がある。正確なＧＰＳマッピングは、ＧＰＳ受信機と少なくとも４つのＧＰＳ衛星（５が好ましいが）の間の見通し通信を要求することが認識されている。一部の環境では、例えば陸橋及び他の障害物を含む場合がある都会環境では、４つの衛星から歪みのない信号を受信することは困難であると考えられる。
【先行技術文献】
【非特許文献】
【０００８】
【非特許文献１】「ｉＳＡＭ：区分的平滑化及びマッピング」、Ｍ．Ｋａｅｓｓ、Ａ．Ｒａｎｇａｎａｔｈａｎ、及びＦ．Ｄｅｌｌａｅｒｔ著、ＩＥＥＥ  Ｔｒａｎｓ．ｏｎ  Ｒｏｂｏｔｉｃｓ、ＴＲＯ，ｖｏｌ．２４，ｎｏ．６，２００８年１２月、１３６５‐１３７８ページ、ＰＤＦ
【発明の概要】
【発明が解決しようとする課題】
【０００９】
すなわち、特にマッピングデバイスが運動中である間は、自律マッピングデバイスの周りの地形のロバストマップを発生させるために光学デバイスからのデータを他のモーション測定デバイスと融合させることに関連付けられたいくつかの技術的な課題があることを認めることができる。以下に開示するのは、光学マッピング情報を取得し、かつ歪みを低減したロバストマップを生成することができるマッピングデバイスの方法及びシステムである。
【課題を解決するための手段】
【００１０】
この節での例は、単に一部の可能な実施形態を表すものであるが、この出願で開示する全ての可能な実施形態、要素の組合せ、又は発明を反映するものではない。一例では、マッピングシステムは、慣性測定ユニットと、カメラユニットと、レーザ走査ユニットと、慣性測定ユニット、カメラユニット、及びレーザ走査ユニットと通信するコンピュータシステムとを含むことができる。コンピュータシステムは、少なくとも１つのプロセッサ、少なくとも１つの１次メモリユニット、及び少なくとも１つの２次メモリユニットから構成することができる。１次メモリユニットは、少なくとも１つのプロセッサによって実行されるソフトウエアを格納することができ、ソフトウエアは、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサに第１の周波数での慣性測定ユニットからの慣性測定データに基づいて第１の測定予測を計算させる第１の計算モジュールと、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサに第１の測定予測及び第２の周波数でのカメラユニットからの視覚測定データに基づいて第２の測定予測を計算させる第２の計算モジュールと、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサに第２の測定予測及び第３の周波数でのレーザ走査ユニットからのレーザ測距データに基づいて第３の測定予測を計算させる第３の計算モジュールとを含むことができる。
【００１１】
マッピングシステムの例では、第１の計算モジュールは、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサに第２の測定予測及び第３の測定予測に基づいて第１の測定予測内のバイアス誤差を補正させるソフトウエアを更に含むことができる。
【００１２】
マッピングシステムの例では、第１の周波数は、第２の周波数よりも高く、第２の周波数は、第３の周波数よりも高い。
【００１３】
マッピングシステムの例では、第２の計算モジュールは、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサに第１の測定期間中に視覚測定データが劣化したか否かを決定させ、かつ視覚測定データが第１の測定期間中に劣化したという決定時に第１の測定期間中の第１の測定予測に等しい第１の測定期間中の第２の測定予測を計算させるソフトウエアを更に含むことができる。
【００１４】
マッピングシステムの例では、第３の計算モジュールは、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサにレーザ測距データが第２の測定期間中に劣化したか否かを決定させ、かつレーザ測距データが第２の測定期間中に劣化したという決定時に第２の測定期間中の第２の測定予測に等しい第２の測定期間中の第３の測定予測を計算させるソフトウエアを更に含むことができる。
【００１５】
マッピングシステムの例では、１次メモリデバイスは、第１及び第２のセットのボクセルを格納することができ、第１及び第２のセットのボクセルは、第３の予測測定に基づいている。第１のセットのボクセルの各ボクセルは、空間の第１の容積に対応することができ、第２のセットのボクセルの各ボクセルは、空間の第２の容積に対応することができる。空間の第２の容積は、空間の第１の容積よりも小さい場合があり、第１のセットのボクセルの各ボクセルは、第２のセットのボクセルの複数のボクセルにマップ可能である場合がある。
【００１６】
マッピングシステムの例では、２次メモリユニットは、第３の予測測定から発生した点群データを格納することができる。
【００１７】
一例では、マッピングシステムは、モバイルユニットを更に含むことができ、慣性測定ユニットが、モバイルユニット上にあり、カメラユニットが、モバイルユニット上にあり、レーザ走査ユニットが、モバイルユニット上にあり、コンピュータシステムが、モバイルユニット上にある。
【００１８】
マッピングシステムの例では、モバイルユニットは、モバイルユニットを案内するためのナビゲーションシステムを含むことができ、ナビゲーションシステムは、第３の測定予測を使用して自律モバイルユニットを案内することができる。
【００１９】
マッピングシステムの例では、第３の計算モジュールは、走査適合アルゴリズムを使用して第３の測定予測を計算することができる。少なくとも１つのプロセッサは、複数の処理スレッドを含むことができる。１次メモリデバイスは、少なくとも１つのプロセッサによって実行された時に第１のスレッドがレーザ測距データの第１の走査を走査適合させるように割り当てられるような複数のスレッドによってレーザ測距データの走査の処理を管理することができるソフトウエアを格納することができる。第１のスレッドは、第１のスレッドが第２の走査の到着前に第１の走査を処理することができる時に、第１の走査後の時点からレーザ測距データの第２の走査を走査適合させるように割り当てることができる。第２のスレッドは、第１のスレッドが第２の走査の到着前に第１の走査を処理できない時に、レーザ測距データの第２の走査を走査適合させるように割り当てることができる。
【００２０】
マッピングシステムの例では、慣性測定ユニット、カメラユニット、及びレーザ走査ユニットは、走査データのダウンサンプルバージョンが３次元表現で提示される対話型ディスプレイにコンピュータシステムを通じてインタフェース接続することができる。
【００２１】
例示的かつ非限定的実施形態により、マッピングシステムは、慣性測定ユニットと、カメラユニットと、レーザ走査ユニットと、慣性測定ユニット、カメラユニット、及びレーザ走査ユニットと通信するコンピュータシステムとを含み、コンピュータシステムは、少なくとも１つのプロセッサ、少なくとも１つの１次メモリユニット、及び少なくとも１つの２次メモリユニットを含み、１次メモリユニットは、少なくとも１つのプロセッサによって実行されるソフトウエアを格納し、ソフトウエアは、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサに第１の周波数での慣性測定ユニットからの慣性測定データに少なくとも部分的に基づく少なくとも１つの第１の測定予測を計算させる第１の計算モジュールと、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサに少なくとも１つの第１の測定予測及び第２の周波数でのカメラユニットからの視覚測定データに少なくとも部分的に基づく少なくとも１つの第２の測定予測を計算させる第２の計算モジュールと、少なくとも１つのプロセッサによって実行された時に少なくとも１つのプロセッサに少なくとも１つの第２の測定予測及び第３の周波数でのレーザ走査ユニットからのレーザ測距データに基づく少なくとも１つの第３の測定予測を計算させる第３の計算モジュールとを含む。
【００２２】
例示的かつ非限定的実施形態により、マッピングシステムは、双方向情報フローの問題に対処するためにモジュール式システム構造から構成される。具体的には、３つのモジュールが、粗から細のデータの問題に段階的に対処する。データ処理フローは、ＩＭＵ予測モジュールから視覚−慣性オドメトリモジュールに、更に走査適合精緻化モジュールに進むことができ、一方でフィードバックフローが、ＩＭＵのバイアスを補正するために逆の順に発生する。
【００２３】
例示的かつ非限定的実施形態により、マッピングシステムは、動的に再構成可能である。例えば、視覚特徴が視覚−慣性オドメトリに不十分である場合に、ＩＭＵ予測モジュールは、視覚−慣性オドメトリモジュールを（部分的に）バイパスし、ローカルにレーザ点を記録する。他方、環境構造が走査適合に不十分である場合に、視覚−慣性オドメトリ出力は、走査適合精緻化モジュールを（部分的に）バイパスし、マップ上にレーザ点を記録する。
【００２４】
例示的かつ非限定的実施形態により、マッピングシステムは、ＩＭＵバイアス補正のための優先度フィードバックを使用する。例えば、視覚−慣性オドメトリモジュール及び走査適合精緻化モジュールの両方は、ＩＭＵバイアスを補正するためにＩＭＵ予測モジュールにフィードバックを提供することができる。フィードバックは、組み合わされて視覚−慣性オドメトリモジュールに優先度を与えることができる。換言すると、走査適合精緻化モジュールからのフィードバックは、視覚−慣性オドメトリモジュールが劣化した方向に視覚−慣性オドメトリモジュールを補償する。
【００２５】
例示的かつ非限定的実施形態により、マッピングシステムは、マップの２層ボクセル表現を使用する。第１の層は、大きいボクセルから構成される。この層は、マップストレージのためのものである。センサに近い各大きいボクセルに対して、ボクセルは、走査適合のためにマップを正確に取り出すための小さいボクセルの第２の層を含有する。
【００２６】
例示的かつ非限定的実施形態により、マッピングシステムは、走査適合のマルチスレッド処理を使用する。走査適合は、ＫＤツリー構築、点クエリ、及び非線形最適化のための逆行列などを利用することができる。ｏｐｅｎＭＰのような標準的な並行処理は、点クエリを加速することができるだけであり、全体時間を実質的に低減するのに寄与しない。対照的に、本発明のシステムは、各スレッド上で異なる走査を処理する。換言すると、４つのスレッドは、１つの走査の代わりに４つの連続走査を処理する。
【００２７】
例示的かつ非限定的実施形態により、方法は、少なくとも地理空間に各々が帰する複数の点を含むＬＩＤＡＲ取得点群を含むデータセットにアクセスする段階と、複数の点の少なくとも一部分をサブサンプリングして複数の点の代表サンプルを導出する段階と、複数の点の代表サンプルを表示する段階とを含む。
【００２８】
例示的かつ非限定的実施形態により、方法は、少なくとも地理空間座標とセグメントとに各々が帰する複数の点を含むＬＩＤＡＲ点群を取得する段階と、同じセグメントに帰する複数の点の計算された精度を示す信頼水準を各セグメントに割り当てる段階と、割り当てられた信頼水準をユーザに表示する段階とを含む。
【００２９】
例示的かつ非限定的実施形態により、方法は、少なくとも地理空間座標とタイムスタンプとに各々が帰する複数の点を含むＬＩＤＡＲ点群をＳＬＡＭシステムを用いて取得する段階と、少なくとも複数の点の一部分を表示する段階と、点群の取得をそこまで巻き戻す指定された時間の指示を受信する段階と、指定された時間の後のタイムスタンプに各々が帰する複数の点の一部分にタグ付けする段階とを含む。
【００３０】
例示的かつ非限定的実施形態により、方法は、少なくとも地理空間座標とタイムスタンプとに各々が帰する複数の点を含むＬＩＤＡＲ点群をＳＬＡＭシステムを用いて取得する段階と、複数の点の少なくとも一部分を表示する段階と、予め決められた閾値よりも下の点密度を示す点群の一部分の指示をユーザに表示する段階とを含む。
【図面の簡単な説明】
【００３１】
【図１】マッピングシステムの実施形態を示すブロック図である。
【図２】図１のマッピングシステムの３つの計算モジュール及びそれらのそれぞれのフィードバック特徴のブロック図の実施形態を示す図である。
【図３】位置情報をマップの中に精緻化するためのカルマンフィルタモデルの実施形態を示す図である。
【図４】位置情報をマップの中に精緻化するための因子グラフ最適化モデルの実施形態を示す図である。
【図５】視覚−慣性オドメトリサブシステムの実施形態を示す図である。
【図６】走査適合サブシステムの実施形態を示す図である。
【図７Ａ】粗詳細解像度を有する大面積マップの実施形態を示す図である。
【図７Ｂ】細詳細解像度を有する小面積マップの実施形態を示す図である。
【図８Ａ】マルチスレッド走査適合の実施形態を示す図である。
【図８Ｂ】単一スレッド走査適合の実施形態を示す図である。
【図９Ａ】視覚−慣性オドメトリユニットからのフィードバックデータがデータ劣化に起因して抑制される３つの計算モジュールのブロック図の実施形態を示す図である。
【図９Ｂ】走査適合ユニットからのフィードバックデータがデータ劣化に起因して抑制される３つの計算モジュールの実施形態を示す図である。
【図１０】視覚−慣性オドメトリユニット及び走査適合ユニットからのフィードバックデータがデータ劣化に起因して部分的に抑制される３つの計算モジュールの実施形態を示す図である。
【図１１】モバイルマッピングデバイスの推定される軌跡の実施形態を示す図である。
【図１２】例示的かつ非限定的実施形態による双方向情報フローを示す図である。
【図１３ａ】例示的かつ非限定的実施形態による動的再構成可能システムを示す図である。
【図１３ｂ】例示的かつ非限定的実施形態による動的再構成可能システムを示す図である。
【図１４】例示的かつ非限定的実施形態によるＩＭＵバイアス補正のため優先度フィードバックを示す図である。
【図１５ａ】例示的かつ非限定的実施形態によるマップの２層ボクセル表現を示す図である。
【図１５ｂ】例示的かつ非限定的実施形態によるマップの２層ボクセル表現を示す図である。
【図１６ａ】例示的かつ非限定的実施形態による走査適合のマルチスレッド処理を示す図である。
【図１６ｂ】例示的かつ非限定的実施形態による走査適合のマルチスレッド処理を示す図である。
【図１７ａ】ＳＬＡＭシステムの例示的かつ非限定的実施形態を示す図である。
【図１７ｂ】ＳＬＡＭシステムの例示的かつ非限定的実施形態を示す図である。
【図１８】ＳＬＡＭエンクロージャの例示的かつ非限定的実施形態を示す図である。
【図１９ａ】信頼水準を示す点群の例示的かつ非限定的実施形態を示す図である。
【図１９ｂ】信頼水準を示す点群の例示的かつ非限定的実施形態を示す図である。
【図１９ｃ】信頼水準を示す点群の例示的かつ非限定的実施形態を示す図である。
【図２０】異なっている信頼水準メトリックの例示的かつ非限定的実施形態を示す図である。
【図２１】ＳＬＡＭシステムの例示的かつ非限定的実施形態を示す図である。
【図２２】ＳＬＡＭシステムに対する信号を時間調節する例示的かつ非限定的実施形態を示す図である。
【図２３】ＳＬＡＭシステムに対する信号を時間調節する例示的かつ非限定的実施形態を示す図である。
【図２４】ＳＬＡＭシステム信号同期の例示的かつ非限定的実施形態を示す図である。
【発明を実施するための形態】
【００３２】
１つの一般的態様では、本発明は、位置の変化を経時的に推定する（オドメーター）及び／又は３次元空間の点群のような３次元マップ表現を発生させるモバイルコンピュータベースマッピングシステムに関する。本発明のマッピングシステムは、以下に限定されるものではないが、慣性測定ユニット（ＩＭＵ）、カメラ、及び／又は３Ｄレーザスキャナを含む複数のセンサを含むことができる。それはまた、経時的にシステムの位置の変化を推定する及び／又は周囲環境のマップ表現を発生させるためにセンサからの出力を処理するように構成された複数のセンサと通信する少なくとも１つのプロセッサを有するコンピュータシステムを含むことができる。マッピングシステムは、高密度の正確な３Ｄマッピング記録と共に、高周波数、低周波数、オンライン、リアルタイムのエゴモーション推定を可能にすることができる。本発明の開示の実施形態は、同時位置付け及びマッピング（ＳＬＡＭ）システムを含むことができる。ＳＬＡＭシステムは、ＧＰＳ独立であってリアルタイム同時位置付け及びマッピングを提供する多次元（例えば、３Ｄ）レーザ走査及び範囲測定システムを含むことができる。ＳＬＡＭシステムは、環境内の物体からのレーザ走査の反射から生じる高精度点群のデータを発生及び管理することができる。点群内の点のうちのいずれかの移動は、経時的に正確に追跡され、それによってＳＬＡＭシステムは、場所の基準点として点群の点を使用してそれが環境を通って移動した時の場所及び向きの正確な理解を維持することができる。
【００３３】
一実施形態では、モバイルマッピングシステムの位置及びモーションの解像度は、一連の粗対細更新で逐次精緻化することができる。非限定例では、離散計算モジュールを使用して、急速更新速度を有する粗解像度からより遅い更新速度を有する細解像度までモバイルマッピングシステムの位置及びモーションを更新することができる。例えば、ＩＭＵデバイスは、データを第１の計算モジュールに提供して高速更新速度でマッピングシステムのモーション又は位置を予測することができる。視覚−慣性オドメトリシステムは、データを第２の計算モジュールに提供して低速更新速度でマッピングシステムのモーション又は位置解像度を改善することができる。これに加えて、レーザスキャナは、第３の計算走査適合モジュールにデータを提供して、更に低速の更新速度でモーション推定値を更に精緻化してマップを記録することができる。一非限定例では、細位置データ及び／又はモーション解像度データを処理するように構成された計算モジュールからのデータは、粗位置データ及び／又はモーション解像度データを処理するように構成された計算モジュールにフィードバックすることができる。別の非限定例では、計算モジュールは、欠陥、間違い、不完全、又は存在しないデータのソースになっているセンサに関連付けられた計算モジュールを自動的にバイパスすることにより、センサ劣化の問題に対処するための欠陥許容値を組み込むことができる。すなわち、マッピングシステムは、高度に動的なモーションの存在下で、並びに暗く、テクスチャがなく、かつ構造のない環境で作動することができる。
【００３４】
多くがオフラインバッチシステムである既存のマップ発生技術とは対照的に、本明細書に開示するマッピングシステムは、運動している間にリアルタイムで作動してマップを発生することができる。この機能は、２つの実際的な利点を提供する。第１に、ユーザは、三脚又は他の非固定マウント上に固定されたスキャナに制限されない。代わりに、本明細書に開示するマッピングシステムは、モバイルデバイスに関連付けることができ、それによってリアルタイムでマップすることができる環境の範囲を増大する。第２に、リアルタイム特徴は、データが収集される間に現在マップされている区域のフィードバックをユーザに与えることができる。オンライン発生マップはまた、自律ナビゲーション及び障害物回避に関してロボット又は他のデバイスを補助することができる。一部の非限定的実施形態では、そのようなナビゲーション機能は、マッピングシステム自体に組み込むことができる。代替非限定的実施形態では、マップデータは、外部ソースのマップを要求する場合があるナビゲーション機能を有する追加のロボットに提供することができる。
【００３５】
３Ｄモデリング、シーンマッピング、及び環境推論のようなセンサのいくつかの潜在的用途が存在する。本発明のマッピングシステムは、更に別の処理のための入力として点群を取る他のアルゴリズムのための点群マップを提供することができる。更に、本発明のマッピングシステムは、屋内及び屋外の両方で機能することができる。そのような実施形態は、外部照明を必要とせず、暗闇で作動することができる。カメラを有する実施形態は、高速モーションを扱うことができ、カメラからの画像でレーザ点群をカラー化することができるが、外部照明が必要である場合がある。ＳＬＡＭシステムは、ユーザが歩いている、自転車に乗っている、運転している、飛んでいる、及びその組合せの時のようなユーザが環境を運動中の時に点群をリアルタイムで構築及び維持することができる。マップは、マップ器が環境を進んでいる時にリアルタイムで構成される。ＳＬＡＭシステムは、点として数千の特徴を追跡することができる。マップ器が移動すると、点が追跡されてモーションの推定を可能にする。従って、ＳＬＡＭシステムは、リアルタイムでかつＧＰＳのような外部位置付け技術に関係なく作動する。実施形態では、物体のような環境の複数の（多くの場合に非常に多数の）特徴が三角測量のための点として使用され、システムは、リアルタイムで多くの場所及び向き計算を実行及び更新し、ＳＬＡＭシステムが環境を移動した時の場所及び向きの正確な現在の推定値を維持する。実施形態では、環境内の特徴の相対的なモーションを使用して移動特徴（人、車両、及び他の移動アイテムなど）から固定特徴（壁、扉、窓、家具、及び作り付け備品など）を区別することができ、それによって固定特徴を場所及び向き計算に使用することができる。水中ＳＬＡＭシステムは、減衰を低減するために青緑色のレーザを使用する場合がある。
【００３６】
マッピングシステム設計は、エゴモーション推定のドリフトがモジュール固有の周波数よりも低い周波数を有するという観察に従っている。３つの計算モジュールは、従って、減少する周波数の順番で並べられる。高周波モジュールは、積極的なモーションを扱うように特化されるが、低周波モジュールは、以前のモジュールのドリフトを打ち消す。逐次処理は計算にも有利であり、前にあるモジュールは、計算をあまり費やすことなく高周波で実行し、完全な処理のために後ろのモジュールに十分な時間を与える。マッピングシステムは、従って、リアルタイムでオンライン実行しながら高レベルの精度を達成することができる。
【００３７】
更に、システムは、センサ劣化を扱うように構成することができる。カメラが機能しない場合（例えば、暗闇、大きい照明の変化、又はテクスチャの少ない環境により）、又はレーザが機能しない場合（例えば、構造の少ない環境により）、対応するモジュールをバイパスすることができ、システムの残りは、確実に機能するように交互配置することができる。システムは、多数の実験を通じて試験され、結果は、システムが環境的劣化及び積極的なモーションに対してナビゲーションの数キロメートルにわたる高精度及びロバスト性を生じることができることを示している。
【００３８】
以下に開示するモジュール式マッピングシステムは、多層最適化構造を使用することにより、距離センサ、視覚センサ、及び慣性センサからのデータを処理してモーション推定及びマッピングを実行するように構成される。モジュール式マッピングシステムは、以下を含むことができる特徴を組み込むことにより、高精度、ロバスト性、及び低ドリフトを達成することができる：
・計算モジュールを動的に再構成する機能、
・計算モジュールの故障モードを完全に又は部分的にバイパスし、かつセンサ及び／又はセンサデータの劣化を扱う方式で残りのモジュールからのデータを組合せ、それによって環境的に誘導されたデータ劣化及びモバイルマッピングシステムの積極的なモーションに対処する機能、及び
・リアルタイムの性能を提供するために計算モジュールを協働的に統合する機能。
【００３９】
本明細書に開示するのは、３Ｄレーザ、カメラ、及びＩＭＵからのデータによってオンラインエゴモーション推定をするマッピングシステムである。推定されたモーションは、横断された環境のマップを構築するためにレーザ点を記録する。多くの現実世界の用途では、エゴモーション推定及びマッピングは、リアルタイムで行わなくてはならない。自律ナビゲーションシステムでは、マップは、モーション計画及び障害物回避に重要であり、同時にモーション推定は、車両制御及び操縦に重要である。
【００４０】
図１は、本発明の一実施形態によるマッピングシステム１００の単純化ブロック図を示している。特定の構成要素を以下に開示するが、これらの構成要素は例としてだけ提示され、他の均等物又は類似の構成要素に関して制限するものではない。例示的なシステムは、Ｘｓｅｎｓ（記録商標）ＭＴｉ−３０ＩＭＵのようなＩＭＵシステム１０２、ＩＤＳ（記録商標）ＵＩ−１２２０ＳＥモノクロカメラのようなカメラシステム１０４、及びＶｅｌｏｄｙｎｅＰＵＣＫ（記録商標）ＶＬＰ−１６レーザスキャナのようなレーザスキャナ１０６を含む。ＩＭＵ１０２は、ｘ−ｙ−ｚ加速度計、ロール・ピッチ・ヨージャイロスコープ、及び磁気探知器の１又は２以上から得られた慣性モーションデータを提供することができ、第１の周波数での慣性データを提供することができる。一部の非限定例では、第１の周波数は、約２００Ｈｚとすることができる。カメラシステム１０４は、約７５２ｘ４８０ピクセルの解像度、７６°水平視野（ＦＯＶ）、及び第２の周波数でのフレーム取り込み速度を有することができる。一部の非限定例では、フレーム取り込み速度は、約５０Ｈｚの第２の周波数で作動することができる。レーザスキャナ１０６は、３６０°水平ＦＯＶ、３０°垂直ＦＯＶを有することができ、レーザスピン速度を表す第３の周波数で３０万点／秒を受信することができる。一部の非限定例では、第３の周波数は、約５Ｈｚとすることができる。図１に示すように、レーザスキャナ１０６を符号器１０９を組み込むモータ１０８に接続してモータ回転角度を測定することができる。一非限定例では、レーザモータ符号器１０９は、約０．２５°の分解能で作動させることができる。
【００４１】
ＩＭＵ１０２、カメラ１０４、レーザスキャナ１０６、及びレーザスキャナモータ符号器１０９は、１又は２以上のプロセッサ１３４を有するあらゆるコンピュータデバイスとすることができるコンピュータシステム１１０と、十分な処理パワーを有する関連のメモリ１２０、１６０及び望ましいオドメトリ方法及び／又はマッピングを実行するためのメモリとにデータ通信することができる。例えば、２．６ＧＨｚ  ｉ７ｑｕａｄ−ｃｏｒｅプロセッサ（各コアで２スレッド及び全体で８スレッド）及び一体型ＧＰＵメモリを備えたラップトップコンピュータを使用することができる。更に、コンピュータシステムは、１又は２以上のタイプのＲＡＭのような１次又は動的メモリ１２０、及び１又は２以上のタイプのハードディスク又はフラッシュＲＯＭのような２次又はストレージメモリ１６０を有することができる。特定の計算モジュール（ＩＭＵモジュール１２２、視覚−慣性オドメトリモジュール１２６、及びレーザ走査モジュール１３２）を上記に開示したが、そのようなモジュールが単に上述の機能を有する例示的モジュールにすぎず、非限定的であることを認識しなければならない。同様に、上記に開示したタイプのコンピュータデバイス１１０は、単にそのようなセンサと共に使用することができるコンピュータデバイスの１つのタイプの例にすぎず、かつ本明細書に開示する目的のためのものであり、決して限定ではない。
【００４２】
図１に示すように、マッピングシステム１００は、粗対細方式（図２を参照）でモーションを順次に回復する個々の計算モジュールを含む計算モデルを組み込んでいる。ＩＭＵ１０２（ＩＭＵ予測モジュール１２２）からのモーション予測から始めて、視覚−慣性密接結合方法（視覚−慣性オドメトリモジュール１２６）は、モーションを推定し、レーザ点をローカルに記録する。走査適合方法（走査適合精緻化モジュール１３２）は、推定されたモーションを更に精緻化する。走査適合精緻化モジュール１３２は、点群データ１６５を記録してマップ（ボクセルマップ１３４）を構築する。このマップは、任意的なナビゲーションシステム１３６の一部としてマッピングシステムによって使用することができる。ナビゲーションシステム１３６は、搭載コンピュータシステム、１次メモリ内の計算モジュールとして含めることができ、又は全く個別のシステムを構成することができることは認識することができる。
【００４３】
各計算モジュールは、センサシステムの各々のうちの１つからのデータを処理することができることを認識することができる。従って、ＩＭＵ予測モジュール１２２は、ＩＭＵシステム１０２から得られたデータから粗マップを発生させ、視覚−慣性オドメトリモジュール１２６は、カメラシステム１０４からの精緻化されたデータを処理し、走査適合精緻化モジュール１３２は、レーザスキャナ１０６及びモータ符号器１０９からの最細粒度解像度データを処理する。更に、細粒度解像度モジュールの各々は、粗粒度モジュールから提示されるデータを更に処理する。視覚−慣性オドメトリモジュール１２６は、ＩＭＵ予測モジュール１２２から受信されてそれによって計算されたマッピングデータを精緻化する。同様に、走査適合精緻化モジュール１３２は、視覚−慣性オドメトリモジュール１２６によって提示されたデータを更に処理する。上記に開示したように、センサシステムの各々は異なる速度でデータを収集する。一非限定例では、ＩＭＵ１０２は、約２００Ｈｚの速度でデータ収集を更新することができ、カメラ１０４は、約５０Ｈｚの速度でデータ収集を更新することができ、レーザスキャナ１０６は、約５Ｈｚの速度でデータ収集を更新することができる。これらの速度は制限ではなく、例えば、それぞれのセンサのデータ収集速度を反映することができる。粗粒度データは、細粒度データよりも速い速度で収集することができ、粗粒度データは、細粒度データよりも速い速度で処理することができることは認識することができる。データ収集の特定周波数値及び様々な計算モジュールによる処理を上記に開示したが、絶対的周波数もそれらの相対的周波数も限定ではない。
【００４４】
マッピング及び／又はナビゲーショナルデータは、粗レベルデータ及び細レベルデータを含むと考えることができる。従って、１次メモリ（動的メモリ１２０）では、粗位置データは、計算モジュール１２２、１２６、１３２のいずれかによってアクセス可能にすることができるボクセルマップ１３４に格納することができる。走査適合精緻化モジュール１３２によって発生される点群データ１６５としてのファイル詳細マッピングデータは、ハードドライブ、フラッシュドライブ、又は他の永続メモリのような２次メモリ１６０にプロセッサ１５０を通じて格納することができる。
【００４５】
粗粒度データが細粒度計算のために計算モジュールによって使用されるだけでなく、視覚−慣性オドメトリモジュール１２６及び走査適合精緻化モジュール１３２（細等級位置情報及びマッピング）は、ＩＭＵ位置予測を更新するための基礎として更に精緻化されたマッピングデータをそれぞれのフィードバック経路１２８及び１３８を通じてＩＭＵ予測モジュール１２２にフィードバックすることができる。この方式で、粗位置及びマッピングデータは、順次に解像度を精緻化することができ、精緻化された解像度データは、粗解像度計算のフィードバック基準として寄与する。
【００４６】
図２は、３つの計算モジュールのそれぞれのデータ経路に沿ったブロック図を示している。ＩＭＵ予測モジュール１２２は、ＩＭＵ（図１の１０２）からＩＭＵ位置データ２２３を受信することができる。視覚−慣性オドメトリモジュール１２６は、ＩＭＵ予測モジュール１２２からのモデルデータ、並びにカメラ（図１の１０４）からの１又は２以上の個々に追跡された視覚特徴２２７ａ、２２７ｂからの視覚データを受信することができる。レーザスキャナ（図１の１０６）は、視覚−慣性オドメトリモジュール１２６によって供給される位置データに加えて走査適合精緻化モジュール１３２に供給されるレーザ決定式ランドマーク２３３ａ、２３３ｂに関するデータを発生させることができる。視覚−慣性オドメトリモジュール１２６からの位置推定モデルは、フィードバック１２８されてＩＭＵ予測モジュール１２２によって計算された位置モデルを精緻化することができる。同様に、走査適合精緻化モジュール１３２からの精緻化マップデータは、フィードバック１３８されてＩＭＵ予測モジュール１２２によって計算された位置モデルに追加の補正を加えることができる。
【００４７】
図２に示すようにかつ上記に開示したように、モジュール式マッピングシステムは、粗対細方式でモーション関連データを順次に回復及び精緻化することができる。更に、各モジュールのデータ処理は、モジュールにデータを供給するデバイスの各々のデータ収集及び処理速度によって決定することができる。ＩＭＵからのモーション予測から開始して、視覚−慣性密接結合方法は、モーションを推定してローカルにレーザ点を記録する。次に、走査適合方法は、推定されたモーションを更に精緻化する。走査適合精緻化モジュールは、点群を記録してマップを構築することができる。その結果、マッピングシステムは、データが利用可能になる時に各精緻化フェーズを処理するように時間最適化される。
【００４８】
図３は、図１に示す同じセンサタイプから得られたデータに基づく標準的カルマンフィルタモデルを示している。図３に示すように、カルマンフィルタモデルは、データの分解機能に関わらずセンサのいずれかからのあらゆるデータの受信に応答して位置及び／又はマッピングデータを更新する。従って、例えば、ＩＭＵデータに基づく位置情報推定値の状態に関わらずこれらのデータが利用可能になるいずれの時間にも視覚−慣性オドメトリデータを使用して位置情報を更新することができる。従って、カルマンフィルタモデルは、各タイプの測定の相対的な解像度を利用しない。図３は、位置データを最適化するための標準カルマンフィルタベースの方法のブロック図を示している。カルマンフィルタは、データが提示された時に順次に位置モデル３２２ａ−３２２ｎを更新する。従って、初期位置予測モデル３２２ａから開始して、カルマンフィルタは、ＩＭＵ機械化データ３２３の受信に基づいて精緻化することができる次の位置モデル３２２ｂを予測することができる３２４ａ。位置予測モデルは、個々の視覚特徴又はレーザランドマークでシードされた更新段階の前に予測段階３２４ａでＩＭＵ機械化データ３２３に応答して更新することができる３２２ｂ。
【００４９】
図４は、因子−グラフ方法に基づく位置最適化を示している。この方法では、第１の時間４１０のモバイルマッピングシステムの姿勢をデータの受信に応答して第２の時間４２０の姿勢に更新することができる。因子−グラフ最適化モデルは、各精緻化計算中の全センサからの制約を組み合わせる。従って、カメラからのＩＭＵデータ３２３、特徴データ３２７ａ、３２７ｂなど、及びレーザランドマークデータ３３３ａ、３３３ｂなどは、全て各更新段階に使用される。そのような方法は、望ましい大量のデータによる各位置精緻化段階の計算の複雑さを増すことは認めることができる。センサは、大きさの程度によって異なる場合がある独立速度でデータを提供することができるので、全精緻化段階は、最も遅いセンサのデータ収集時間に時間的に制限される。その結果、そのようなモデルは高速リアルタイムマッピングに適切ではない場合がある。図１及び２に示すモジュール式システムは、粗対細方式におけるモーションを順次に回復する。この方式では、モーション精緻化の程度は、各タイプのデータの利用可能性によって決定される。
【００５０】
仮定、座標、及び問題
仮定及び座標系
図１に示すように、モバイルマッピングシステムのセンサシステムは、レーザ１０６、カメラ１０４、及びＩＭＵ１０２を含むことができる。カメラは、固有のパラメータが公知であるピンホールカメラモデルとしてモデル化することができる。３つのセンサの全ての間の外因性パラメータは較正することができる。カメラとレーザ間の相対的姿勢及びレーザとＩＭＵ間の相対的姿勢は、当業技術で公知の方法に従って決定することができる。単一座標系をカメラ及びレーザに使用することができる。一非限定例では、カメラ座標系を使用することができ、全てのレーザ点を前処理でカメラ座標系に投影することができる。一非限定例では、ＩＭＵ座標系は、カメラ座標系に平行にすることができ、従って、ＩＭＵ測定は、収集に応答して回転させながら補正することができる。座標系は、以下のように定義することができる。
・カメラ座標系｛Ｃ｝は、ｘ軸が左を指し、ｙ軸が上を指し、ｚ軸がカメラ主軸に一致する前方を指すカメラ光学中心から派生することができる。
・ＩＭＵ座標系｛Ｉ｝は、ｘ−、ｙ−、及びｚ−軸が｛ｃ｝に平行であり、同じ方向を指すＩＭ測定中心から派生することができる。
・世界座標系｛Ｗ｝は、開始姿勢の｛Ｃ｝に一致する座標系とすることができる。
【００５１】
ＭＡＰ推定問題
状態推定問題は、機能的最大確率（ＭＡＰ）推定問題として定式化することができる。本発明者は、システム状態のセットＵ＝｛ｕｉ｝としてｘ＝｛ｘｉ｝、ｉ∈｛１；２；．．．，ｍ｝、制御入力のセットとしてｉ∈｛１；２；．．．，ｍ｝、及びランドマーク測定のセットとしてＺ＝｛ｚk｝、ｋ∈｛１；２；．．．，ｎ｝を定義することができる。提案するシステムが与えられる場合と、Ｚは、視覚特徴とレーザランドマークの両方を含むことができる。システムの複合確率は以下のように定義される。
式１
2019532433.tif 000003
【００５２】
Ｐ（ｘ0）は、第１のシステム状態のプライアーであり、
2019532433.tif 000004
は、モーションモデルを表し、
2019532433.tif 000005
は、ランドマーク測定モデルを表している。（１）として定式化された各問題に対して、問題の対応するベイズ簡略ネットワーク表現がある。ＭＡＰ推定は式１を最大にすることである。ゼロ平均ガウスノイズの仮定の下で、問題は最小二乗問題と同等である。
式２
2019532433.tif 000006
【００５３】
ここで、
2019532433.tif 000007
は、モーションモデル及びランドマーク測定モデルにそれぞれ関連付けられた残差である。
【００５４】
式２を解く標準的な方法は、全てのセンサデータ、例えば、視覚特徴、レーザランドマーク、及びＩＭＵ測定値を大型因子−グラフ最適化問題に組み合わせることである。提案するデータ処理パイプラインは、代わりに、複数の小さい最適化問題を定式化して問題を粗対細方式で解く。最適化問題は以下のように言い直すことができる。
問題：レーザ、カメラ、及びＩＭＵから与えられたデータは、（２）として問題を定式化及び解いて、｛Ｗ｝に対して｛Ｃ｝の姿勢を決定し、次に、推定された姿勢を使用してレーザ点を記録して｛Ｗ｝の横断された環境のマップを構築する。
【００５５】
ＩＭＵ予測サブシステム
ＩＭＵ機械化
この小節ではＩＭＵ予測サブシステムを説明する。システムは基本的なセンサ座標系として｛Ｃ｝を考えているので、ＩＭＵは、｛Ｃ｝に対して特徴付けることができる。「仮定及び座標系」という名称の小節で上記に開示したように、｛Ｉ｝及び｛Ｃ｝は平行座標系であり、ω（ｔ）及びα（ｔ）は、時間ｔの｛Ｃ｝の角速度及び加速度それぞれを示す２つの３ｘ１ベクトルとすることができる。対応するバイアスは、ｂω（ｔ）及びｂα（ｔ）として示すことができ、ｎω（ｔ）及びｎα（ｔ）は対応するノイズである。ベクトル、バイアス、及びノイズの項は｛Ｃ｝で定義される。更に、ｇは、｛Ｗ｝の一定重力ベクトルとして示すことができる。ＩＭＵ測定項は次式の通りである。
式３
2019532433.tif 000008
式４
2019532433.tif 000009
ここで、
2019532433.tif 000010
は、｛Ｗ｝から｛Ｃ｝への回転行列であり、
2019532433.tif 000011
は、｛Ｃ｝及び｛Ｉ｝の間の変換ベクトルである。
【００５６】
項
2019532433.tif 000012
は、回転中心（｛Ｃ｝の始点）が｛Ｉ｝の始点とは異なるという事実による遠心力を表している。視覚−慣性ナビゲーション方法の一部の例は、この遠心力項を推定するために｛Ｉ｝のモーションをモデル化する。本明細書に開示する計算方法では、深度情報あり及びなしの視覚特徴が使用され、｛Ｃ｝から｛Ｉ｝の深度なしの変換特徴は直接的ではない（以下を参照）。その結果、本明細書に開示するシステムは、代わりに、｛Ｃ｝のモーションの全てをモデル化する。実際的にカメラ及びＩＭＵは、項の影響を最大限低減するために互いに近づけて装着される。
【００５７】
ＩＭＵバイアスはゆっくり変化する変数とすることができる。この結果、最も新しく更新されたバイアスは、モーション積分に使用される。最初に、式３は時間で積分される。次に、得られる向きは、二度の時間積分のために式４と共に使用され、加速度データからの変換を取得する。
【００５８】
バイアス補正
ＩＭＵバイアス補正は、カメラ又はレーザのいずれかからのフィードバックによって行うことができる（図１及び２の１２８、１３８をそれぞれ参照）。各フィードバック項は、短時間にわたる推定区分的モーションを含有する。バイアスは、区分的モーション中に一定になるようにモデル化することができる。式３から開始して、推定された向きをＩＭＵ積分と比較することによってｂω（ｔ）を計算することができる。更新されたｂω（ｔ）は、推定された変換と比較された変換を再度計算してｂα（ｔ）を計算するために更に一巡の積分に使用される。
【００５９】
高周波数ノイズの影響を低減するために、バイアスの既知の数を維持するスライディングウィンドウが利用される。スライディングウィンドウに使用されるバイアスの数の非限定例は、２００ＨｚＩＭＵ速度に基づく４００バイアスの推奨される数を有する２００から１０００バイアスを含むことができる。１００ＨｚのＩＭＵ速度を有するスライディングウィンドウのバイアスの数の非限定例は、一般的に２００バイアスの値を有する１００から５００である。スライディングウィンドウからの平均化バイアスが使用される。この実施では、スライディングウィンドウの長さは、バイアスの更新速度を決定するためのパラメータとして機能する。バイアスをモデル化するための代替方法は当業技術で公知であるが、開示する実施は、個別のかつ異なるモジュールとしてＩＭＵ処理モジュールを維持するのに使用される。スライディングウィンドウ方法は、本発明のシステムの動的再構成を可能にすることができる。この方式では、ＩＭＵは、カメラ、レーザ、又は必要に応じてカメラとレーザの両方に結合することができる。例えば、カメラが機能しない場合に、ＩＭＵバイアスは、代わりに、レーザだけによって補正することができる。
【００６０】
視覚−慣性オドメトリサブシステム
視覚−慣性オドメトリサブシステムのブロックシステム図を図５に示している。最適化モジュール５１０は、モーション推定５５０の深度情報を有するか又は持たない光学特徴データに基づいてカメラ制約５１５と共にＩＭＵ予測モジュール５２０からの姿勢制約５１２を使用する。深度マップ記録モジュール５４５は、レーザ点５４０から得られた深度情報を有する追跡カメラ特徴５３０の深度マップ記録及び深度アソシエーションを含むことができる。深度マップ記録モジュール５４５は、前の計算から得られたモーション推定５５０を組み込むことができる。本方法は、視覚とＩＭＵを密接に結合する。各々は、区分的モーション５５０を推定する最適化モジュール５１０に制約５１２、５１５をそれぞれ提供する。同時に、本方法は、深度情報を深度マップ記録モジュール５４５の一部として視覚特徴に関連付ける。特徴が、レーザ範囲測定が利用可能な区域に位置付けられる場合に、深度がレーザ点から得られる。そうでなければ、深度は、前に推定されたモーションシーケンスを使用して三角測量から計算される。最後のオプションとして、本方法は、異なる方法で制約を定式化することによっていずれの深度もない特徴を使用することができる。これは、レーザ範囲カバレージを持たないか又はカメラモーションの方向に十分長く追跡又は位置付けられないので三角測量できない特徴に対して真である。
【００６１】
カメラ制約
視覚−慣性オドメトリ方法は、キー−フレームベースの方法である。新しいキー−フレームは、ある一定の数の特徴よりも多くが追跡を失うか又は画像オーバラップがある比率よりも下である場合に決定される５３５。従って、右の上付き文字ｌ、ｌ∈Ｚ+は最後のキー−フレームを示すことができ、ｃ、ｃ∈Ｚ+、及びｃ＞ｋは、現在のフレームを示すことができる。上記に開示したように、本方法は、深度あり及び深度なしで特徴を組み合わせる。キー−フレームｌの深度に関連付けられた特徴は、Ｘ1＝｛Ｃ1｝の［ｘ1、ｙ1、ｘ1］Tとして示すことができる。相応に、深度なしの特徴は、代わりに、標準化座標を使用して、
2019532433.tif 000013
として示される。
2019532433.tif 000014
及び
2019532433.tif 000015
は、システム状態を表す式１の
2019532433.tif 000016
とは異なる。キー−フレームの特徴は、２つの理由で深度に関連付けることができる：１）深度アソシエーションが処理の何らかの量を取り、キー−フレームのコンピュータ深度アソシエーションだけが計算強度を低減することができ、２）深度マップがフレームｃで利用できず、従って、記録が設定された深度マップに依存するのでレーザ点を記録することができない。｛Ｃc｝の標準化特徴は、
2019532433.tif 000017
として示すことができる。
【００６２】
2019532433.tif 000018
は、フレームl及びcの間の３ｘ３回転行列及び３ｘ１変換ベクトルとし、ここで、
2019532433.tif 000019
変換を形成する。フレームｌとｃの間のモーション関数を次式のように書くことができる。
式５
2019532433.tif 000020
【００６３】
Ｘcは未知の深度を有する。ｄcを深度とし、ここで、
2019532433.tif 000021
である。Ｘｃを
2019532433.tif 000022
で置換して式５の第１及び第２の行と第３の行とを組み合わせてｄcを除き、次式をもたらす。
式６
2019532433.tif 000023
式７
2019532433.tif 000024
【００６４】
2019532433.tif 000025
2019532433.tif 000026
2019532433.tif 000027
の第ｈ行である。深度を特徴に利用できない場合に、ｄ1をキー−フレームｌの未知の深度とする。Ｘl及びＸcを
2019532433.tif 000028
それぞれで置換し、ｄk及びｄcを除くために式５の全ての３つの行を組み合わせて別の制約をもたらす。
式８
2019532433.tif 000029
【００６５】
モーション推定
モーション推定処理５１０は、１）式６−７の公知の深度を有する特徴から、２）式８の未知の深度を有する特徴から、及び３）ＩＭＵ予測５２０からの制約の３つのセットを組み合わせる最適化問題を解くのに必要である。
2019532433.tif 000030
は、フレームａとｂの間の４ｘ４変換行列として定義することができる。
式９
2019532433.tif 000031
【００６６】
ここで、
2019532433.tif 000032
は、対応する回転行列及び変換ベクトルである。更に、
2019532433.tif 000033
に対応する３ｘ１ベクトルとすると、
2019532433.tif 000034
は、回転角度である。各
2019532433.tif 000035
のセットに対応する。
【００６７】
フレームｌとｃ−１の間で解かれたモーション変換、すなわち、
2019532433.tif 000036
を使用して、ＩＭＵ姿勢制約を定式化することができる。
2019532433.tif 000037
として示される最後の２つのフレームｃ−１とｃの間の予測される変換は、ＩＭＵ機械化から取得することができる。フレームｃの予測変換は以下として計算される。
式１０
2019532433.tif 000038
【００６８】
2019532433.tif 000039
は、
2019532433.tif 000040
に対応する６−ＤＯＦモーションである。ＩＭＵ予測変換
2019532433.tif 000041
は、向きに依存することは理解することができる。一例として、向きは、式４の回転行列を通じて重力ベクトルの予測
2019532433.tif 000042
、従って、積分される加速度を決定することができる。
2019532433.tif 000043
の関数として定式化することができ、
2019532433.tif 000044
として書き直すことができる。ＩＭＵ予測モジュール１２２（図１及び２）によって提供される２００Ｈｚ姿勢、並びに視覚−慣性オドメトリモジュール１２６（図１及び２）によって提供される５０Ｈｚ姿勢は、両方とも姿勢関数であることは理解することができる。
2019532433.tif 000045
の計算は、フレームｃで開始することができ、加速度は、時間に関して逆積分することができる。
2019532433.tif 000046
は解かれるモーションである。制約を次式として表すことができる。
式１１
2019532433.tif 000047
ここで、
2019532433.tif 000048
は、カメラ制約に対して姿勢制約を適切にスケーリングする相対的共分散行列である。
【００６９】
視覚−慣性オドメトリサブシステムでは、姿勢制約がモーションモデルを満足してカメラ制約が式２のランドマーク測定モデルを満足する。最適化問題は、異常値特徴除去のためのロバストな当て嵌めフレームワークに適応されたニュートン勾配−降下方法を使用することによって解くことができる。この問題では、状態空間が
2019532433.tif 000049
を含有する。従って、フルスケールＭＡＰ推定は実行されないが、マージン化問題を解くためだけに使用される。ランドマーク位置は最適化されず、従って、状態空間の６つの未知数だけが使用され、それによって計算強度を低く維持する。従って、本発明の方法は、レーザ範囲測定を伴い、特徴に正確な深度情報を提供し、モーション推定の精度を保証する。その結果、バンドル精緻化を通じた特徴の深度の更に別の最適化は必要ない。
【００７０】
深度アソシエーション
深度マップ記録モジュール５４５は、以前に推定されたモーションを使用して深度マップ上にレーザ点を記録する。カメラの視野内のレーザ点５４０は、ある一定の時間量に対して維持される。深度マップは一定密度を維持するためにダウンサンプリングされ、高速インデキシングのための２ＤのＫＤツリーに格納される。ＫＤツリーでは、全てのレーザ点が、カメラ中心の周りの単位球面に投影される。点は点の２つの角座標によって表される。深度を特徴に関連付ける時に、特徴を球面に投影することができる。３つの最も近いレーザ点が各特徴に対して球面上に見出される。次に、それらの有効性は、直交空間の３つの点間の距離を計算することによって得られる。距離が閾値よりも大きい場合に、点が、物体、例えば、壁及び壁の前面の物体とは異なる機会が高く、有効性検査が失敗する。最終的に、深度は、直交空間内にローカル平面パッチを有する３つの点から補間される。
【００７１】
レーザ範囲カバレージのない特徴は、それらがある一定の距離にわたって追跡され、かつカメラモーションの方向に位置付けられない場合に、特徴が追跡される画像シーケンスを使用して三角測量することができる。そのような手順では、ベイズ確率モードに基づいて各フレームの深度を更新することができる。
【００７２】
走査適合サブシステム
このサブシステムは、レーザ走査適合による前のモジュールからのモーション推定値を精緻化する。図６は、走査適合サブシステムのブロック図を示している。サブシステムは、提供されたオドメトリ推定５５０を使用してローカル点群でレーザ点５４０を受信してこれらを記録する６２０。次に、図形特徴が点群から検出され６４０、かつマップに適合される。走査適合は、当業技術で公知の多くの方法と同様に特徴対マップの距離を最小にする。しかし、オドメトリ推定５５０は、最適化６１０で姿勢制約６１２を提供する。最適化は、レーザ制約６１７によって発見及び更に処理される特徴対応性６１５を有する姿勢制約を処理する段階とを含み、デバイス姿勢６５０を発生させる。この姿勢６５０は、特徴対応性６１５の発見を容易にするマップ記録処理６５５を通じて処理される。この実施はマップのボクセル表現を使用する。更に、それは、１から複数のＣＰＵスレッドに並行して実行されるように動的に構成することができる。
【００７３】
レーザ制約
レーザ走査を受信する時に、本方法は、最初に走査６２０からの点を共通座標系に記録する。
2019532433.tif 000050
は、走査数を示すのに使用することができる。カメラ座標系をカメラとレーザの両方に使用することができることは理解される。走査ｍは、
2019532433.tif 000051
として示される走査の最初のカメラ座標系に関連付けることができる。視覚−慣性オドメトリからレーザ点５４０、オドメトリ推定５５０をローカルに記録６２０することは、キー−点として取ることができ、ＩＭＵ測定を使用してキー−点の間を補間することができる。
【００７４】
2019532433.tif 000052
は、走査ｍからのローカルに記録された点群とする。Ｐmからの図形特徴の２つのセットを抽出することができ、一方はシャープエッジで、すなわち、エッジ点で
2019532433.tif 000053
として示され、他方はローカル平面表面で、すなわち、平面点で
2019532433.tif 000054
として示されている。これは、ローカル走査での曲率の計算を通じたものである。塞いだ領域の境界上の点及びローカル表面がレーザビームに平行になるように近い点のような近傍点が既に選択されている点は避けられる。これらの点は、大きいノイズを含有するか又はセンサが移動する時に経時的に位置を変える場合がある。
【００７５】
図形特徴は、構築された現在のマップに適合される。
2019532433.tif 000055
は｛Ｗ｝で定義される。
2019532433.tif 000056
の点は、エッジ点及び平面点をそれぞれ含有する２つのセットに分離される。ボクセルを使用して、センサの周りのある一定の距離で切り捨てられたマップを格納することができる。各ボクセルに対して、２つの３ＤのＫＤツリーを構築することができ、一方はエッジ点に対して、片方は平面点に対してのものである。個々のボクセルのＫＤツリーの使用は、クエリ点が与えられているので点検索を加速し、単一ボクセルに関連付けられた特定のＫＤツリーを検索する必要がある（以下を参照）。
【００７６】
走査を適合させる時に、｛Ｗ｝への
2019532433.tif 000057
が、最初に、利用可能なモーションの最良推測を使用して投影され、次に、
2019532433.tif 000058
の各点に対して、最も近い点のクラスターが、マップ上の対応するセットから見出される。点クラスターの図形分布を検証するために、関連付けられた固有値及び固有ベクトルを調べることができる。特に、１つの大きい及び２つの小さい固有値がエッジラインセグメントを示し、２つの大きい及び１つの小さい固有値がローカル平面パッチを示している。適合が有効である場合に、式は、点から対応する点クラスターまでの距離に関して定式化される。
式１２
2019532433.tif 000059
ここで、
2019532433.tif 000060
の点であり、
2019532433.tif 000061
は、｛Ｗ｝での{Cm}の６−ＤＯＦ姿勢を示している。
【００７７】
モーション推定
走査適合は、式１２によって説明した全体的な距離を最小にする最適化問題６１０に定式化される。最適化は、前のモーションからの姿勢制約６１２を含有する。
2019532433.tif 000062
を{W}での
2019532433.tif 000063
の姿勢に関する４×４変換行列とすると、
2019532433.tif 000064
は、最後の走査を処理することによって発生される。
2019532433.tif 000065
は、オドメトリ推定によって提供される{Cm-1}から{Cm}への姿勢変換とする。式１０と同様に、{W}での{Cm}の予測される姿勢変換は次式である。
式１３
2019532433.tif 000066
【００７８】
2019532433.tif 000067
に対応する６−ＤＯＦ姿勢とし、
2019532433.tif 000068
は、相対的共分散行列とする。制約は次式になる。
式１４
2019532433.tif 000069
【００７９】
式１４は、前のモーションが視覚−慣性オドメトリからのものである場合を示し、カメラが機能していると仮定する。そうでなければ、制約はＩＭＵ予測からのものである。
2019532433.tif 000070
を使用して、ＩＭＵ機械化による同じ項を示すことができる。加速度の積分が向き（式１１の
2019532433.tif 000071
2019532433.tif 000072
の関数である。ＩＭＵ姿勢制約は次式になる。
式１５
2019532433.tif 000073
ここで、
2019532433.tif 000074
は、対応する相対的共有結合行列である。最適化問題では、式１４及び１５は、制約の１つのセットに直線的に組み合わされる。線形組合せは、視覚−慣性オドメトリの作動モードによって決定される。最適化問題は、ロバストな当て嵌めフレームワークに適用されるニュートン勾配−下降方法によって解かれる。
【００８０】
ボクセル内のマップ
マップ上の点はボクセルで維持される。Ａ２−レベルボクセル実施を図７Ａ及び７Ｂに示している。
2019532433.tif 000075
は、最後の走査を処理した後の第１のレベルマップ７００上のボクセルのセット７０２、７０４を示している。センサ７０６の周りのボクセル７０４は、
2019532433.tif 000076
を形成する。６−ＤＯＦセンサ姿勢、
2019532433.tif 000077
が与えられた状態で、マップ上のセンサと共に移動する対応する
2019532433.tif 000078
がある。センサがマップの境界に近づいた時は、境界の反対側７２５上のボクセルが、マップ境界７３０を拡張するために移動される。移動したボクセルの点は消え、マップの切り捨てをもたらす。
【００８１】
図７Ｂに示すように、第２のレベルマップ７５０の各ボクセル、
2019532433.tif 000079
は、第１のレベルマップ７００よりも大きさが小さい
2019532433.tif 000080
として示されるボクセルのセットによって形成される。走査を適合させる前に、
2019532433.tif 000081
の点は、モーションの最良推測を使用してマップに投影され、これを
2019532433.tif 000082
に充填する。
2019532433.tif 000083
からの点によって占められるボクセル７０８は、
2019532433.tif 000084
を形成するために抽出され、走査適合のために３ＤのＫＤツリーに格納される。ボクセル７１０は、
2019532433.tif 000085
からの点によって占められないものである。走査適合の完了に応答して、走査は、マップを備えたボクセル７０８に融合される。この後で、マップ点は、ある一定の密度を維持するためにダウンサイジングされる。第１のレベルマップ７００の各ボクセルが第２のレベルマップ７５０のサブボクセルよりも大きい空間の容積に対応することは理解することができる。従って、第１のレベルマップ７００の各ボクセルは、第２のレベルマップ７５０の複数のサブボクセルを含み、第２のレベルマップ７５０の複数のサブボクセルにマップすることができる。
【００８２】
図７Ａ及び７Ｂに関して上述したように、ボクセルの２つのレベル（第１のレベルマップ７００及び第２のレベルマップ７５０）は、マップ情報を格納するのに使用される。
2019532433.tif 000086
に対応するボクセルが第１のレベルマップ７００を維持するのに使用され、第２のレベルマップ７５０の
2019532433.tif 000087
に対応するボクセルは、走査適合のためのセンサの周りのマップを取り出すのに使用される。マップは、センサがマップ境界に近づく時だけ切り捨てられる。従って、センサがマップの内側をナビゲートする場合に、切り捨ては必要ない。別の考慮は、２つのＫＤツリーが
2019532433.tif 000088
における各個々のボクセルに使用され、一方がエッジ点に、他方が平面点に使用される。上述のように、そのようなデータ構造は、点検索を加速することができる。この方式では、複数のＫＤツリーの検索は、
2019532433.tif 000089
で各個々のボクセルに対する２つのＫＤツリーの使用とは対照的に避けられる。後者は、ＫＤツリー構築及び保守に多くのリソースを必要とする。
【００８３】
表１は、異なるボクセル及びＫＤツリー構成を使用するＣＰＵ処理時間を比較するものである。この時間は、閉じられた環境及び開かれた環境、構造物のある環境及び植生区域を含む異なるタイプの環境から収集された複数のデータセットから平均化される。ボクセルの１つのレベルのみ、
2019532433.tif 000090
の使用が、ＫＤツリー構築及びクエリに約２倍の処理時間をもたらすことを見ることができる。これは、ボクセルの第２のレベル、
2019532433.tif 000091
が、マップの正確な検索を補助するためである。これらのボクセルなしでは、より多くの点が
2019532433.tif 000092
に含有され、ＫＤツリーに蓄積される。更に、各ボクセルに対してＫＤツリーを使用することにより、
2019532433.tif 000093
で全てのボクセルに対してＫＤツリーを使用することに比べて僅かに処理時間が低減される。
【００８４】
（表１）表１．ＫＤツリー作動における平均ＣＰＵ処理時間の比較
2019532433.tif 000094
【００８５】
並行処理
走査適合は、ＫＤツリーを構築する段階及び特徴対応性を繰返し見出す段階を伴う。この処理は、時間を消費し、システムの主要な計算を費やす。１つのＣＰＵスレッドが望ましい更新周波数を保証できない場合に、マルチスレッド実施が複雑な処理の問題に対処することができる。図８Ａは、２つの適合化器プログラム８１２、８１５が並行して実行される場合を示している。走査の受信に応答して、マネージャプログラム８１０は、これを利用可能な最新のマップに適合させるように並べる。複数の構造物及び複数の視覚特徴を有するクラスター化環境から構成される一例では、適合が遅く、次の走査の到着前に完了できない場合がある。２つの適合化器８１２及び８１５が代わりに呼び出される。１つの適合化器８１２では、
2019532433.tif 000095
2019532433.tif 000096
８１３ｎそれぞれに適合される。同様に、第２の適合化器８１５では、
2019532433.tif 000097
2019532433.tif 000098
（ｋ＝奇数の整数）８１６ｎそれぞれに適合される。このインターリーブ処理の使用は、処理のために２倍の時間量をもたらす場合がある。いくつかの構造物又は視覚特徴を備えた清浄な環境から構成される代替の例では、計算が軽い。そのような例（図８Ｂ）では、単一適合化器８２０だけを呼び出すことができる。インターリーブが必要ないので、
2019532433.tif 000099
にそれぞれ適合される（８２７ａ、８２７ｂ、８２７ｎを参照）。実施は４つのスレッドの最大値を使用するように構成することができるが、一般的に２つのスレッドだけが必要になる。
【００８６】
変換積分
最終モーション推定は、図２に示す３つのモジュールからの出力の積分である。５Ｈｚ走査適合出力は最も正確なマップを発生し、５０Ｈｚ視覚−慣性オドメトリ出力及び２００ＨｚＩＭＵ予測は、高周波数モーション推定のために積分される。
【００８７】
ロバスト性に関して
システムのロバスト性は、センサ劣化を扱う機能によって決定される。ＩＭＵは、システムのバックボーンとしての信頼できる機能であると常に仮定される。カメラは、劇的照明変化の影響を受け易く、暗闇／テクスチャの少ない環境又は重大なモーションのぼけが存在する（それによって視覚特徴追跡の損失を引き起こす）時に失敗する場合がある。レーザは、構造物の少ない環境、例えば、単一平面によって支配されるシーンに対処することができない。これに代えて、レーザデータ劣化は、積極的なモーションによるデータのスパースさによって発生する場合がある。
【００８８】
視覚−慣性オドメトリ及び走査適合モジュールの両方は、式２に従って最適化問題を定式化して解く。欠陥が引き起こされた時に、これは劣化最適化問題に相当し、すなわち、問題の一部の方向における制約は条件が悪く、ノイズが、解を決定する場合に支配的になる。１つの非限定的方法では、問題に関連付けられた
2019532433.tif 000100
2019532433.tif 000101
として示される固有ベクトルを計算することができる。センサの状態空間が６−ＤＯＦ（６の自由度）を含有するので６つの固有値／固有ベクトルが存在する。一般性を排除することなく、
2019532433.tif 000102
は、減少する順序で並べ替えることができる。各固有値は、解がその対応する固有ベクトルの方向にどのように確実に条件付けられるかを説明する。固有値と閾値を比較することにより、確実に条件付けられた方向は、状態空間の劣化した方向から分離することができる。
2019532433.tif 000103
を確実に条件付けされた方向の数とする。２つの行列を次式として定義することができる。
式１６
2019532433.tif 000104
【００８９】
最適化問題を解く時は、非線形反復を初期推測によって開始することができる。図２に示す順次パイプラインにより、ＩＭＵ予測は、出力が走査適合のための初期推測として取られる視覚−慣性オドメトリのための初期推測を提供する。追加の２つのモジュール（視覚−慣性オドメトリ及び走査適合モジュール）に対して、ｘを解及びΔｘを非線形反復におけるｘの更新とし、Δｘは、線形化システム式を解くことによって計算される。最適化処理中に、全ての方向のｘを更新する代わりに、ｘを確実に条件付けられた方向でのみ更新することができ、代わりに劣化方向における初期推測を保持する。
式１７
2019532433.tif 000105
【００９０】
式１７では、システムは、粗対細順序でモーションを解き、ＩＭＵ予測から開始して、追加の２つのモジュールが、可能な限り多くのモーションを更に解く／精緻化する。問題が確実に条件付けられた場合に、精緻化は全ての６−ＤＯＦを含むことができる。そうでなければ、問題が部分的にのみ確実に条件付けられた場合に、精緻化は、０から５−ＤＯＦを含むことができる。問題が完全に劣化した場合に、
2019532433.tif 000106
【００９１】
図１４及び１５に示す姿勢制約に戻って、２つの式が走査適合問題に直線的に組み合わされたことを理解することができる。式１６に定義したように、
2019532433.tif 000107
は、視覚−慣性オドメトリモジュールからの固有ベクトルを含有する行列を示し、
2019532433.tif 000108
2019532433.tif 000109
以下の通りである。
式１８
2019532433.tif 000110
2019532433.tif 000111
【００９２】
カメラが機能している標準的な場合では、
2019532433.tif 000112
及び式１８は、式１４の視覚−慣性オドメトリからの姿勢制約から構成される。しかし、カメラデータが完全に劣化した場合に、
2019532433.tif 000113
姿勢制約から構成される。
【００９３】
カメラ劣化の事例研究
図９Ａに示すように、視覚特徴が視覚−慣性オドメトリに不十分にしか利用できない場合に、ＩＭＵ予測１２２は、視覚−慣性オドメトリ問題で確実に条件付けられた方向の数に応答して、視覚−慣性オドメトリモジュール１２６を点線に示すように完全に又は部分的にバイパスする９２４。走査適合モジュール１３２は、走査適合のためのレーザ点をローカルに記録することができる。ＩＭＵ予測のバイパスはドリフトの影響を受ける。レーザフィードバック１３８は、カメラフィードバック１２８が利用できない方向にのみＩＭＵの速度ドリフト及びバイアスを補正するカメラフィードバック１２８を補償する。従って、カメラフィードバックは、カメラデータが劣化しなかった時にこれを適合させる高周波数に起因してより高い優先度を有する。十分な視覚特徴が見出された時に、レーザフィードバックは使用されない。
【００９４】
レーザ劣化の事例研究
図９Ｂに示すように、環境構造がモーション推定を精緻化するための走査適合１３２に対して不十分である場合に、視覚−慣性オドメトリモジュール１２６出力は、点線に示すようにマップ９３０上のレーザ点を記録するために走査適合モジュールを十分に又は部分的にバイパスする。確実に条件付けられた方向が走査適合問題に存在する場合に、レーザフィードバックは、これらの方向の精緻化されたモーション推定値を含有する。そうでなければ、レーザフィードバックが空白になる１３８。
【００９５】
カメラ及びレーザ劣化の事例研究
更に複雑な例では、カメラとレーザの両方が少なくともある程度は劣化する。図１０はそのような例を示している。６つの行を有する垂直バーは６−ＤＯＦ姿勢を表し、各行は、式１６の固有ベクトルに対応するＤＯＦ（自由度）である。この例では、視覚−慣性オドメトリ及び走査適合の各々がモーションの３ＤＯＦを更新し、他の３−ＤＯＦのモーションは変化させない。ＩＭＵ予測１０２２ａ−ｆは初期ＩＭＵ予測値１００２を含むことができる。視覚−慣性オドメトリは一部の３−ＤＯＦ（１０２６ｃ、１０２６ｅ、１０２６ｆ）を更新し１００４、精緻化済み予測１０２６ａ−１０２６ｆをもたらす。走査適合は、一部の３−ＤＯＦ（１０３２ｂ、１０３２ｄ、１０３２ｆ）を更新し１００６、更に別の精緻化済み予測１０３２ａ−１０３２ｆをもたらす。カメラフィードバック１２８はカメラ更新１０２８ａ−１０２８ｆを含有し、レーザフィードバック１３８はレーザ更新１０３８ａ−１０３８ｆをそれぞれ含有する。図１０を参照すると、陰影付けされていないセル（１０２８ａ、１０２８ｂ、１０２８ｄ、１０３８ａ、１０３８ｃ、１０３８ｅ）は、それぞれのモジュールからのいずれの更新情報も含有しない。ＩＭＵ予測モジュールへの合計更新１０８０ａ−１０８０ｆは、カメラフィードバック１２８からの更新１０２８ａ−１０２８ｆ及びレーザフィードバック１３８からの更新１０３８ａ−１０３８ｆの組合せである。フィードバックがカメラ（例えば、１０２８ｆ）及びレーザ（例えば、１０３８ｆ）の両方から利用可能な１又は２以上の自由度では、カメラ更新（例えば、１０２８ｆ）は、レーザ更新（例えば、１０３８ｆ）よりも優先度を有することができる。
【００９６】
しかし、実際には、視覚−慣性オドメトリモジュール及び走査適合モジュールは異なる周波数で実行する場合があり、各々がその固有の劣化方向を有する場合がある。ＩＭＵメッセージを使用して走査適合出力からの姿勢の間を補間することができる。この方式で、視覚−慣性オドメトリ出力に時間位置合わせされた区分的モーションを発生させることができる。
2019532433.tif 000114
をフレームｃ−１とｃの間の視覚−慣性オドメトリによって推定される６−ＤＯＦモーションとし、ここで
2019532433.tif 000115
である。
2019532433.tif 000116
を時間補間後の走査適合によって推定される対応する項とする。
2019532433.tif 000117
は、視覚−慣性オドメトリモジュールからの固有ベクトルを含有する式１６で定義された行列とすることができ、
2019532433.tif 000118
劣化した方向を表している。
2019532433.tif 000119
は、走査適合モジュールからの同じ行列とする。以下の式は組み合わされたフィードバック、
2019532433.tif 000120
式１９
2019532433.tif 000121
従って、
2019532433.tif 000122
は、カメラ及びレーザフィードバックを表している。
式２０
2019532433.tif 000123
式２１
2019532433.tif 000124
【００９７】
2019532433.tif 000125
だけが状態空間のサブ空間に解かれたモーションを含有することに注意しなければならない。ＩＭＵ予測からのモーション、すなわち、
2019532433.tif 000126
2019532433.tif 000127
式２２
2019532433.tif 000128
【００９８】
2019532433.tif 000129
を使用して、式３及び４の積分を通じて
2019532433.tif 000130
の関数として定式化されたＩＭＵ予測モーションを示すことができる。向き
2019532433.tif 000131
2019532433.tif 000132
の両方に依存する。バイアスは、以下の式を解くことによって計算することができる。
式２３
2019532433.tif 000133
【００９９】
システムが正常に機能している時に、
2019532433.tif 000134
2019532433.tif 000135
は、ゼロ行列である。それに応じて、
2019532433.tif 000136
から計算される。劣化した場合では、ＩＭＵ予測モーション、
2019532433.tif 000137
は、モーションが解かれない方向に使用される（例えば、図１０の組み合わされたフィードバックの白い行１０８０ａ）。結果は、前に計算されたバイアスがこれらの方向で維持される。
【０１００】
実験
スキャナによる試験
オドメトリ及びマッピングソフトウエアシステムは２つのセンサ組で検証される。第１のセンサ組では、ＶｅｌｏｄｙｎｅＬＩＤＡＲ（記録商標）ＨＤＬ−３２ＥレーザスキャナがＵＩ−１２２０ＳＥ白黒カメラ及びＸｓｅｎｓ（記録商標）ＭＴｉ−３０ＩＭＵに取り付けられる。レーザスキャナは、３６０°水平ＦＯＶ、４０°垂直ＦＯＶを有し、５Ｈｚスピン速度で７０万点／秒を受信する。カメラは、７５２ｘ４８０ピクセルの解像度、７６°水平ＦＯＶ、及び５０Ｈｚフレーム速度から構成される。ＩＭＵ周波数は２００Ｈｚで設定される。第２のセンサ組では、ＶｅｌｏｄｙｎｅＬＩＤＡＲ（記録商標）ＶＬＰ−１６レーザスキャナが同じカメラ及びＩＭＵに取り付けられる。このレーザスキャナは、３６０°水平ＦＯＶ、３０°垂直ＦＯＶを有し、５Ｈｚスピン速度で３０万点／秒を受信する。各センサ組が、データ収集のために路上で及びオフロードの地形で運転される車両にそれぞれ取り付けられる。
【０１０１】
両方のセンサ組では、３００Ｈａｒｒｉｓコーナの最大値が追跡された。視覚特徴を均等に分配するために、画像は、５ｘ６の同一副領域に分割され、各副領域は最大１０特徴を提供する。特徴が追跡を失った時に、新しい特徴が各副領域の特徴数を維持するために発生される。
【０１０２】
本発明のソフトウエアは、ロボットオペレーティングシステム（ＲＯＳ）を実行するＬｉｎｕｘ（登録商標）システムで２．６ＧＨｚ  ｉ７クアドコアプロセッサ（各コアに２スレッド及び全体で８スレッド）及び一体型ＧＰＵを有するラップトップコンピュータで実行される。ソフトウエアの２つのバージョンが、ＧＰＵ及びＣＰＵそれぞれで実行される視覚特徴追跡によって実施される。処理時間を表２に示している。視覚−慣性オドメトリによって使用される時間（図２の１２６）は、環境又はセンサ構成に対してあまり変化しない。ＧＰＵバージョンでは５０Ｈｚで実行されるＣＰＵスレッドの約２５％を消費する。ＣＰＵバージョンではスレッドの約７５％を取る。センサの第１の組は、第２のセンサ組より僅かに多い処理時間をもたらす。これは、スキャナが多くの点を受信し、プログラムが深度マップを維持し、深度を視覚特徴に関連付けるのに多くの時間を必要とするからである。
【０１０３】
走査適合（図２の１３２）は、環境及びセンサ構成に関して変化する処理時間を多く消費する。第１のセンサ組では、構造物のある環境で作動された場合に走査適合は５Ｈｚで実行するスレッドの約７５％を取る。しかし、植物のある環境では、多くの点がマップに記録されプログラムは、一般的にスレッドの約１３５％を消費する。第２のセンサ組では、スキャナが受信する点が少ない。走査適合モジュール１３２は、環境に依存してスレッドの約５０−９５％を使用する。ＩＭＵ予測（図２の１３２）によって使用される時間は、他の２つのモジュールに比べて無視することができるものである。
【０１０４】
精度試験
提案するシステムの精度を認めるために試験が行われた。これらの試験では、第１のセンサ組が使用された。センサは、大学のキャンパスの周りで運転するオフロード車両に設けられた。１６分以内で２．７ｋｍ運転した後で、キャンパスマップが構築される。試験中の平均速度は２．８ｍ／ｓであった。
【０１０５】
（表２）表２．第１及び第２のセンサ組を使用した平均ＣＰＵ処理時間
2019532433.tif 000138
【０１０６】
試験中のモーション推定ドリフトを評価するために、推定された軌跡及び記録されたレーザ点が衛星画像上で位置合わせされた。従って、地面のレーザ点が手動で取り除かれる。軌跡を衛星画像上で街路と適合させることにより、水平誤差の上限が＜１：０ｍであることが決定された。同じフロア上の建物を比較することにより、垂直誤差が＜２：０ｍであったことが決定された。これは最後には移動された距離の＜０．０９％になる全体的な相対的位置ドリフトを与える。精度が測定に対して保証されないことは理解することができ、従って、位置ドリフトの上限だけが計算された。
【０１０７】
乗客車両に設けられた同じセンサを有する更に包括的な試験が行われた。乗客車両は、構造物のある道路上を９．３ｋｍ移動して運転された。経路は、植生された環境、橋、丘の地形、及び交通量の多い街路を横断し、最後に開始場所に戻る。上昇は経路に沿って７０ｍ以上変化する。信号機を待つことを除いて、車両速度は、試験中に９−１８ｍ／ｓの間である。経路の始め及び終わりの両方で見出された建物が２つの中に記録されると決定された。２つの記録は、経路の長さにわたるモーション推定ドリフトのために発生する。従って、第１の記録は、試験の最初の車両に対応し、第２の記録は試験の終わりに車両に対応する。間隙が＜２０ｍであると測定され、移動した距離の＜０：２２％の最後の相対的位置誤差をもたらす。
【０１０８】
システムの各モジュールは全体的な精度に寄与する。図１１は精度試験の推定される軌跡を示している。視覚−慣性オドメトリシステムによって発生される移動センサの軌跡の第１の軌跡プロット１１０２は、ＩＭＵモジュール１２２及び視覚−慣性オドメトリモジュール１２６を使用する（図２を参照）。第１の軌跡プロット１１０２に使用された構成は、図９Ｂに示すものに類似である。第２の軌跡プロット１１０４は、ＩＭＵモジュール１２２からのＩＭＵ予測を視覚−慣性オドメトリをバイパスする走査適合モジュール１３２（図２を参照）への直接転送に基づいている。この構成は図９Ａに示すものに類似である。完全なパイプラインの第３の軌跡プロット１１０８は、ＩＭＵモジュール１２２、視覚−慣性オドメトリモジュール１２６、及び走査適合モジュール１３２（図２を参照）の組合せに基づいて最小量のドリフトを有する。第１の２つの構成、軌跡プロット１１０２及び１１０４の位置誤差は、それぞれ約４及び２倍大きい。
【０１０９】
第１の軌跡プロット１１０２及び第２の軌跡プロット１１０４は、個々のセンサ劣化に遭遇した時に予測されるシステム性能として見ることができる。走査適合が劣化した場合に（図９Ｂを参照）、システムは、第１の軌跡プロット１１０２によって示されたモードに低下する。視野が劣化した場合に（図９Ａを参照）、システムは、第２の軌跡プロット１１０４に示すモードに低下する。センサのどれも劣化していない場合に（図２を参照）、システムは、軌跡プロット１１０８をもたらす最適化関数の全てを組み込んでいる。別の例では、システムは、初期推測としてＩＭＵ予測を取ることができるが、レーザ周波数（５Ｈｚ）で実行される。システムは、第４の軌跡プロット１１０６を発生させる。得られる精度は、視覚−慣性オドメトリ方法を通過するレーザに直接に結合されたＩＭＵを使用する第２の軌跡プロット１１０４と比較して僅かに良いだけである。結果は、互いにスタックされた全ての制約を有する問題を解く場合にカメラの機能が十分利用されないことを示している。
【０１１０】
システムの別の精度試験は、オリジナルの１ｘ速度及び加速された２ｘ速度で実行する移動センサを含む。２ｘ速度で実行された時に、全ての３つのセンサのあらゆる他のデータフレームが抑制され、試験を通じてより積極的なモーションをもたらす。結果を表３に列挙する。各速度で３つの構成が評価された。２ｘ速度では、視覚−慣性オドメトリ及びＩＭＵ＋走査適合構成の精度が、１ｘ速度の精度に比べて移動した距離の０．５４％及び０．３８％大幅に低減される。しかし、完全なパイプラインは、ごく僅かの０．０４％だけしか精度を低減しない。結果は、カメラ及びレーザが互いに補償し、全体的な精度を維持することを示している。これは特にモーションが積極的である時に真である。
【０１１１】
（表３）表３．移動した距離の百分率としての相対的位置誤差
【０１１２】
（図１１の軌跡に対応する１ｘ速度の誤差）
2019532433.tif 000139
【０１１３】
図１２を参照すると、双方向情報フローの例示的かつ非限定的実施形態が示されている。例示するように、ＩＭＵ予測モジュール、視覚−慣性オドメトリモジュール、及び走査−適合精緻化モジュールを含む３つのモジュールは、粗から細への段階的に問題を解く。データ処理フローは、左から右に３つのモジュールをそれぞれ通過し、フィードバックフローは右から左にＩＭＵのバイアスを補正する。
【０１１４】
図１３ａ及び１３ｂを参照すると、動的再構成可能システムの例示的かつ非限定的実施形態が示されている。図１３ａに示すように、視覚特徴が視覚−慣性オドメトリに不十分である場合に、ＩＭＵ予測（部分的）が視覚−慣性オドメトリモジュールをバイパスしてレーザ点をローカルに記録する。一方では、図１３ｂに示すように環境構造が走査適合に不十分である場合に、視覚−慣性オドメトリ出力（部分的）は走査適合精緻化モジュールをバイパスしてマップにレーザ点を記録する。
【０１１５】
図１４を参照すると、ＩＭＵバイアス補正のため優先度フィードバックの例示的かつ非限定的実施形態が示されている。例示するように、垂直バーは、６−ＤＯＦ姿勢を表し、各行がＤＯＦである。劣化した場合では、全ての６行が「ＩＭＵ」と示されている左のＩＭＵ予測から始めて、視覚−慣性オドメトリ方法が３−ＤＯＦを更新し、行の指定が「カメラ」になり、次に、走査適合が別の３−ＤＯＦを更新し、行の指定が「レーザ」に変わる。カメラ及びレーザフィードバックは左の垂直バーのように組み合わされる。カメラフィードバックは高優先度を有し、カメラフィードバックからの「カメラ」行が存在しない場合は、レーザフィードバックからの「レーザ」行だけが充填される。
【０１１６】
図１５ａ及び１５ｂを参照すると、マップの２層ボクセル表現の例示的かつ非限定的実施形態が示されている。マップ上のボクセルＭm-1（図１５ａの全てのボクセル）、及びセンサの周りのボクセルＳm-1（点で充填されたボクセル）が示されている。Ｓm-1は、Ｍm-1の部分集合である。センサがマップの境界に近づいた場合に、境界の反対側のボクセル（下の行）がマップ境界を延びるように移動する。移動したボクセル上の点はクリアされ、マップが切り捨てられる。図１５ｂに示すように、各ボクセル
2019532433.tif 000140
（図１５ａの点で充填されたボクセル）が、大きさが小さいボクセルのセット
2019532433.tif 000141
走査適合の前に、レーザ走査は、モーションの最良推測を使用してマップ上に投影される。
2019532433.tif 000142
は、クロスハッチでラベル付けされる。次に、クロスハッチボクセル内のマップ点が抽出され、走査適合のための３ＤのＫＤツリーに格納される。
【０１１７】
図１６を参照すると、走査適合のマルチスレッド処理の例示的かつ非限定的実施形態が示されている。例示するように、マネージャプログラムは、個別のＣＰＵスレッドで実行される複数の適合化器プログラムを呼び出し、走査を利用可能な最新のマップに適合させる。図１６ａは２スレッドの場合を示している。２倍の処理時間量が与えられると、走査
2019532433.tif 000143
に適合される。比較すると、図１６ｂは１スレッドの場合を示し、従って、
2019532433.tif 000144
に適合される。実施は、最大４つのスレッドを使用して動的に構成可能である。
【０１１８】
実施形態では、リアルタイムＳＬＡＭシステムは、リアルタイムナビゲーションシステムと組み合わせて使用することができる。実施形態では、ＳＬＡＭシステムは、ＬＩＤＡＲ又はＲＡＤＡＲベースの障害物検出システム、視覚ベースの障害物検出システム、又は熱ベースのシステムなどのような障害物検出システムと組み合わせて使用することができる。これは、人又はペットなどのような生きている障害物をモーション検出、熱検出、電気又は磁界検出、又は他の機構などによって検出する段階を含むことができる。
【０１１９】
実施形態では、環境の特徴を走査することによって確立される点群は、ＳＬＡＭの一部を形成する画面上などに表示され、ＳＬＡＭシステムに近くの反射を提供する物体などの近距離特徴、並びに近距離特徴間の空間又は近距離特徴内の開口を通して走査することができるアイテムのような遠距離特徴のマッピングを含むことができる空間のマッピングを示すことができる。例えば、隣接する通路内のアイテムは、マップ器が部屋の内部を通って移動する時に部屋の内部の異なる点で異なる外側要素をこのような空間又は開口を通して走査することができるので窓又はドアを通して走査することができる。得られる点群は、次に、直近の近距離環境の包括的マッピングデータ及び環境の外側である遠距離要素の部分マッピングを含むことができる。すなわち、ＳＬＡＭシステムは、近距離場内の空間又は開口（すなわち、フェンスの隙間）を通した遠距離場片の識別による「ピケットフェンス」効果を通した空間のマッピングを含むことができる。遠距離場データは、マップ器が包括的にマップされた空間（そこでは向き及び位置が点群の密度に起因して十分に既知である）からスパースにマップされた空間（新しい部屋など）に移動する時の場所の一貫性のある推定を維持するようなマップ器が空間から空間に移動する時にシステムがＳＬＡＭを方向付けするのを助けるのに使用することができる。ユーザが近距離場から遠距離場の場所に移動する時に、点群の相対的密度又は希薄度は、例えば、別の空間から開口を通して見ることができない遠距離場の各部分にマップ器を向けるようなマップ器を例えばＳＬＡＭの一部を形成するユーザインタフェースを通じて案内するのにＳＬＡＭシステムによって使用することができる。
【０１２０】
実施形態では、ＳＬＡＭシステムからの点群マップは、カメラ又はセンサなどの他の入力からのマッピングと組み合わせることができる。例えば、飛行又は航空機の例では、飛行機、ドローン、又は他の空中移動プラットフォームには、ＳＬＡＭシステムのための参照データ（走査から生じた点群をＧＰＳ参照式場所にリンクするような）として使用することができる又は他のシステムからの出力上のオーバレイとして追加の走査データを表示するための走査からの参照データを取ることができる他の距離計測及び地理位置情報機器を備えることができる。例えば、従来のカメラ出力にオーバレイとして点群データを表示することができ、又は逆も同様である。
【０１２１】
実施形態では、ＳＬＡＭシステムは、各特徴からのリターン信号の反射強度を示すデータを含む点群を提供することができる。この反射強度を用いて、システムに対する信号の効果の決定を助け、特徴が互いにどう関係するかを決定し、面ＩＲ反射率などを決定することができる。実施形態では、マップ内の点群の表示を操作するための基礎として反射強度を使用することができる。例えば、ＳＬＡＭシステムは、所与の特徴、材料、又は構造などに対する信号の反射率を示すためのある程度のカラーコントラストを（ユーザ制御下で自動的に）導入することができる。これに加えて、システムは、カラー及び反射率情報を増やすために他のシステムに結び付けることができる。実施形態では、点群内の点の１又は２以上は、強度パラメータ、密度パラメータ、時間パラメータ、及び地理空間場所パラメータのような取得されたデータのパラメータに対応するカラーで表示することができる。点群のカラー化は、ＳＬＡＭシステムが作動している環境の要素又は特徴、及び／又は点群自体の取得の処理の要素又は特徴をユーザが理解及び分析するのを助けることができる。例えば、地理空間区域内で取得された点の数を示す密度パラメータを用いて、データの点の多くが取得された区域を表すカラーと、データがスパースであり、恐らく「現実」データ以外のアーチファクトの存在を示唆している別のカラーとを決定することができる。カラーは、走査が行われている時の一連のカラーの進行具合などの時間を示すこともでき、ＳＬＡＭ走査が実行された経路の明確な指示を結果として生じる。カラー化は、他の多くの目的の中でも、異なる特徴（壁と比較した時の空間における家具のアイテムなど）の区別を与える、美的効果を与える、関心の区域を目立たせるような（走査の観察者の注意を引くために関連の機器片を目立たせるような）表示目的のために行うこともできる。
【０１２２】
実施形態では、ＳＬＡＭシステムは、「影」（点群が走査からの比較的少ないデータ点を有する区域）を識別することができ、追加の走査が必要な区域を（ユーザインタフェースなどを通して）目立たせることができる。例えば、このような区域は、影区域が十分「ペイント」されるまで又はレーザ走査によってカバーされるまで点群を表示する特定のカラーでＳＬＡＭシステムの視覚インタフェースにおいて点滅又はレンダリングすることができる。このようなインタフェースは、まだ走査されていないフィールド内の区域を目立たせるユーザへのいずれかのインジケータ（視覚、文字ベース、音声ベースなど）を含むことができ、いずれのこのようなインジケータも、直接に又は外部デバイス（ユーザの移動電話など）を通してのいずれかでユーザの注意を引くために用いることができる。他の例示的かつ非限定的実施形態により、システムは、現在の走査と比較して走査されていない区域を識別するために、以前に構築された点群又はマップなどのＳＬＡＭ上に格納されたデータから外部データを参照することができる。
【０１２３】
実施形態では、本明細書で開示する方法及びシステムは、正確な場所及び向きの情報を決定する又はレーザ走査からの反射された信号に基づいて環境の特徴を示す点データ群から構成されるマップを生成するために、外部システムによる処理又は計算を必要とすることなく作業点でリアルタイム位置決め出力を提供するＳＬＡＭシステムを含む。実施形態では、本明細書で開示する方法及びシステムは、レーザ走査から収集されたデータの後処理を必要とすることなくリアルタイム位置付け情報を提供するＳＬＡＭシステムを含むこともできる。
【０１２４】
実施形態では、ＳＬＡＭシステムは、車両ナビゲーションシステム（無人空中車両、ドローン、移動ロボット、無人水中車両、自動運転車両、半自動車両、及びその他多くのためのような）のような様々な外部システムに統合することができる。実施形態では、ＳＬＡＭシステムを用いてＧＰＳなどの外部システムに頼ることなく車両を車両の環境内でナビゲートするのを可能にすることができる。
【０１２５】
実施形態では、ＳＬＡＭシステムは、位置又は向きなどの現在のＳＬＡＭシステムの推定に関する信頼水準を決定することができる。信頼水準は、走査で利用可能な点の密度、走査で利用可能な点の直交性、環境の形状又は他の因子、又はこれらの組合せに基づくことができる。信頼水準は、走査の経路に沿った各点の場所及び向きの推定に帰することがあり、これによって走査のセグメントは、低信頼セグメント又は高信頼セグメントなどと呼ぶことができる。低信頼セグメントは、他の技術の使用（外部データに基づく調節など）などの追加の走査のために目立たせることができる。例えば、走査が閉ループ（走査の終了点が既知の起点場所の開始点と同じである）で行われる場合、走査のある一定のセグメントの場所推定を優先的に調節して開始及び終了場所の一致を回復することにより、計算された終了場所と開始場所の間のいずれの相違も解決することができる。高信頼セグメントと比較して低信頼セグメントの場所及び位置情報を優先的に調節することができる。従って、ＳＬＡＭシステムは、閉ループ走査の信頼ベースの誤差補正を使用することができる。
【０１２６】
この信頼ベースの調節の例示的かつ非限定的実施形態では、ジョージア工科大学のＭｉｃｈａｅｌ  Ｋａｅｓｓ及びＦｒａｎｋ  Ｄｅｌｌａｅｒｔによって最初に開発された区分的平滑化及びマッピング（ｉＳＡＭ）アルゴリズム（「ｉＳＡＭ：区分的平滑化及びマッピング」、Ｍ．Ｋａｅｓｓ、Ａ．Ｒａｎｇａｎａｔｈａｎ、及びＦ．Ｄｅｌｌａｅｒｔ著、ＩＥＥＥ  Ｔｒａｎｓ．ｏｎ  Ｒｏｂｏｔｉｃｓ、ＴＲＯ，ｖｏｌ．２４，ｎｏ．６，２００８年１２月、１３６５‐１３７８ページ、ＰＤＦ）の派生物を使用することができる。このアルゴリズムは、「セグメント」でマップデータを処理し、これらのセグメントの相対的位置を繰り返し精緻化し、セグメント間の適合の残差を最適化する。これは、閉ループ内の全データを調節することによるループの閉止を可能にする。セグメント化点が多いことで、アルゴリズムが大きくデータを動かすのを可能にし、同時に少ないセグメント化点が高度な剛性を生成する。
【０１２７】
適合信頼メトリックに基づいてセグメント化の点を選択する場合、この事実を用いて、低信頼度を有する区域でマップを柔軟性のあるものにし、かつ高信頼度を有する区域で剛性のあるものにすることができ、これによってループ閉止処理は、正確なマップのセクションを通して局所誤差を分配することはない。これは、セグメント化点に重み付けして「柔軟性」を各点に割り当て、この因子に基づいて誤差を分配することによって更に拡張することができる。
【０１２８】
実施形態では、点群の区域又はセグメントに関する信頼性尺度を用いて、改善されたＳＬＡＭ走査などを提供する追加の走査を行うようにユーザを案内することができる。実施形態では、信頼性尺度は、ユーザがより良い走査を可能にするように案内するために使用することができる点の密度又は点の直交性などの組合せに基づくことができる。点の密度及び点の直交性などの走査属性は、走査が進行するにつれてリアルタイムに決定することができる点に留意されたい。同様に、システムは、低信頼性尺度を生じる可能性の高い走査環境の形状を感知することができる。例えば、平らな壁のある長い廊下は、１つの走査セグメントと次のセグメントを区別するためのいずれの凹凸も示さないことがある。このような事例では、システムは、このような環境で取得された走査データに低信頼性尺度を割り当てることができる。システムは、ＬＩＤＡＲ、カメラ、及び恐らくは他のセンサなどの様々な入力を用いて減少する信頼度を決定し、かつユーザが走査するのを命令（「減速せよ」又は「左に曲がれ」など）で案内することができる。他の実施形態では、システムは、低信頼度の面積、容積、又は領域を更にユーザが走査するのを可能にする助けを与えながら、ユーザインタフェースなどを通してユーザに要求される信頼度よりも低い信頼度の区域を表示することができる。
【０１２９】
実施形態では、ＳＬＡＭ出力は、カメラからの出力又は他のマッピング技術からの出力などの他のコンテンツと融合させることができる。実施形態では、ＳＬＡＭ走査は、走査に対応する時間符号化音声注釈を取り込む随伴アプリケーション（任意的にモバイルアプリケーション）などを通して音声トラックの取り込みと共に行うことができる。実施形態では、ＳＬＡＭシステムは、走査中のデータ収集の時間符号化を提供し、これによってマッピングシステムは、マップ器が音声及び／又は注釈を取り込んだ時間及び場所を含む走査が行われた時間及び場所を特定することができる。実施形態では、時間符号化は、音声が利用可能なマップ上のインジケータをクリックすることによってユーザによってアクセスすることができるマップ又は走査にデータを挿入することなどによって注釈が関連するマップの区域に注釈を位置付けるのに使用することができる。実施形態では、写真又はＨＤビデオなどの他の媒体フォーマットを取り込み、走査に同期させることができる。これらは、時間情報に基づいて別々にアクセスすることができ、又は他の媒体の時間情報との走査出力の時間同期に基づいてマップ自体の適切な箇所に挿入することができる。実施形態では、ユーザは、時間データを用いて時間的に戻り、異なる時間符号化データを有する複数の走査などに基づいて経時的に変化したものを見ることができる。走査は、日付又はタイムスタンプサービス記録データなどの他の情報によって拡張することができる。従って、走査は、シーン又は空間の多次元データベースの一部とすることができ、点群データは、時間ベースのデータ又は媒体を含むシーンに関係付けられた他のデータ又は媒体に関連付けられる。実施形態では、起点で始まる新しい走査を再初期化するのではなく、走査の所与の点に戻り、この点で再初期化するように走査をバックアップできる方式で段階又はセグメントのシーケンスを通して計算が維持される。これは、良好な出力を最初に生成した走査において後の点で問題が起こった時などで走査を継続するための開始点としての部分的走査情報の使用を可能にする。従って、ユーザは、ある点まで走査を「復元」又は「巻き戻す」ことができ、この点からの走査を再開する。システムは、点群特徴に基づいて正確な位置及び場所情報を維持することができ、時間情報を維持して他の時間ベースのデータとのシーケンシングを可能にする。時間ベースのデータは、走査又は他の媒体の編集を可能にし、走査が時間間隔にわたって完了した場所及び異なる時間間隔にわたって取り込まれた他の媒体に同期する必要のあるものを同期することができる。点群のデータにタイムスタンプをタグ付けすることができ、これによって巻き戻しが行われる時間のある点後に起こったタイムスタンプのデータを消去することができ、指定された点から走査を再開することができる。実施形態では、ある時間点までの及び／又は地理空間座標までの巻き戻しなどの物理的な場所までの巻き戻しを行うことができる。
【０１３０】
実施形態では、ＳＬＡＭベースのマップからの出力は、点群をカラー化してこれをオーバレイとして使用することを含むＨＤビデオなどの他のコンテンツと融合することができる。これは、ＳＬＡＭシステムと他の媒体取り込みシステムの間の時間同期を含むことができる。コンテンツは、ビデオ、空間の静止画像、空間のＣＡＤモデル、走査中に取り込まれた音声コンテンツ、場所に関連付けられたメタデータ、又は他のデータ又は媒体に融合させることができる。
【０１３１】
実施形態では、ＳＬＡＭシステムは、点群を操作するために使用することができるツール（ＣＡＤなど）のような他の技術及びプラットフォームに統合することができる。これは、ＣＡＤモデリングツール、迅速プロトタイプシステム、３Ｄプリントシステム、及び点群又は立体モデルデータを使用することができる他のシステムでモデル化される特徴と走査を組み合わせる段階を含むことができる。走査は、カラー化ツールなどの後処理ツールへの入力として提供することができる。走査は、関心の点、メタデータ、媒体コンテンツ、注釈、ナビゲーション情報、構文分析を追加して特定の形状を区別する及び／又は物体を識別するなどのためにマッピングツールに提供することができる。
【０１３２】
出力は、地中探知レーダー、Ｘ線画像化、磁気共鳴画像化、コンピュータ断層撮影画像化、熱画像化、写真、ビデオ、ＳＯＮＡＲ、ＲＡＤＡＲ、又はＬＩＤＡＲなどのような他の走査及び画像取り込みシステムからの出力と組み合わせることができる。これは、車載ナビゲーションシステム、手持式マッピングシステム、移動電話ナビゲーションシステム、及びその他などのナビゲーション及びマッピングシステムのディスプレイに走査の出力を統合する段階を含むことができる。走査からのデータを用いて、Ｘ、Ｙ、及びＺ位置情報、並びにピッチ、ロール、及びヨー情報を含む場所及び向きのデータを他のシステムに提供することができる。
【０１３３】
とりわけ、３Ｄモーションキャプチャシステム、音響工学アプリケーション、バイオマス測定、航空機建造、考古学、建築、工学及び建設、拡張リアリティ（ＡＲ）、自律車、自律モバイルロボットアプリケーション、清掃及び処理、ＣＡＤ／ＣＡＭアプリケーション、建設現場管理（例えば、進捗状況の確認）、娯楽、探検（宇宙、採掘、水中など）、森林管理（材木搬出及びメープルシュガーのような林産物管理を含む）、フランチャイズ管理及びコンプライアンス（例えば、店及びレストラン）、認証及びコンプライアンスのための画像化用途、屋内場所、インテリアデザイン、在庫整理、景観設計、メンテナンスのための産業空間のマッピング、トラック輸送経路のマッピング、軍事／知的用途、モバイルマッピング、輸送管及び掘削のモニタ、財産評価及び他の不動産用途、小売屋内場所（リアルタイムマップと在庫マップの結合など）、セキュリティ用途、備蓄モニタ（鉱石、丸太、商品など）、調査（より良い見積実行のための事前走査の実行を含む）、ＵＡＶ／ドローン、モバイルロボット、地下マッピング、３Ｄモデリング用途、バーチャルリアリティ（カラー化空間を含む）、倉庫管理、ゾーン分け／立案用途、自律ミッション、検査用途、ドッキング用途（宇宙船及び船舶を含む）、洞窟探検、及びビデオゲーム／拡張リアリティ用途の目的を含む多くの異なる目的にリアルタイムＳＬＡＭシステムから取得されたデータを使用することができる。全ての使用シナリオにおいて、ＳＬＡＭシステムは、使用の注釈区域に本明細書に説明するように作動することができる。
【０１３４】
例示的かつ非限定的実施形態により、ユニットは、ＩＭＵ、カメラ（ビジョン）、及びＬｉＤＡＲセンサのハードウエア同期を含む。ユニットは、ある持続時間に暗い又は構造物のない環境で作動することができる。処理パイプラインは、モジュールから構成することができる。暗闇ではビジョンモジュールをバイパスすることができる。構造物のない環境では、ＬｉＤＡＲモジュールをバイパス又は部分的にバイパスすることができる。例示的かつ非限定的実施形態では、ＩＭＵ、ＬｉＤＡＲ、及びカメラデータが全てタイムスタンプされ、時間的に適合及び同期させることができる。この結果、システムは自動様式で作用し、画像データ及び点群データを同期することができる。一部の事例では、同期されたカメラ画像からのカラーデータを用いて、ユーザに表示するための点群データピクセルに色付けすることができる。
【０１３５】
ユニットは、走査適合のための４つのＣＰＵスレッドを含むことができ、例えば、Ｖｅｌｏｄｙｎｅデータを有する５Ｈｚで実行することができる。作動する時のユニットのモーションは相対的に高速である可能性がある。例えば、ユニットは、約３６０度／秒の角速度及び約３０ｍ／ｓの直線速度で作動することができる。
【０１３６】
ユニットは、以前に生成されたマップにローカライズすることができる。例えば、スクラッチからマップを構築する代わりに、ユニットのソフトウエアは、以前に構築されたマップを参照して古いマップのフレームワーク（例えば、地理空間又は他の座標）内にセンサ姿勢及び新しいマップを生成することができる。ユニットは、ローカライゼーションを用いてマップを拡張することができる。古いマップフレームに新しいマップを展開することにより、新しいマップは古いマップ上及び古いマップから先に進むことができる。これは、初期「バックボーン」走査が最初に生成されて潜在的に後処理される分岐及び連鎖を含む異なる使用の様式を可能にし、関心の区域における建物のサイドルーム又は増加した点密度などのローカルな詳細を追加するためにマップから再開する前にドリフト及び／又は他の誤差を低減することができる。この方式を用いることによって、バックボーン様式を特別な注意を払って生成することができ、グローバルドリフトを制限し、ローカル詳細を取り込むことに集中して後続走査を発生させることができる。複数のデバイスが大きな区域の高速取り込みのための同じベースマップからの詳細な走査を実行することも可能である。
【０１３７】
異なるタイプのデバイスによって生成された又はＣＡＤ製図から生成されたモデルを再開することも可能である。例えば、高グローバル精度固定デバイスは、ベースマップを構築することができ、モバイルスキャナはこのマップから再開して詳細を埋めることができる。代替実施形態では、長距離デバイスが、建物の外側及び大きな内側区域を走査することができ、短距離デバイスが、この走査から再開して小さな廊下及び部屋及び要求される細かい詳細を加えることができる。ＣＡＤ図面からの再開は、ＣＡＤと竣工図の間の差を迅速に検出するための有意な利点を有することができる。
【０１３８】
再開は、場所登録式時間データを提供することもできる。例えば、複数の走査を経時的に建設現場で行い、進捗状況を視覚的に見ることができる。他の実施形態では、工場の複数の走査は、資産管理の追跡を助けることができる。
【０１３９】
再開は、これに代えて、以前のマップ内のローカライゼーションデータを純粋に提供するのに使用することができる。これは、ロボット車両の案内、又は既存のマップ内の画像、熱マップ、音響などの新しいセンサデータのローカライズに有用である場合がある。
【０１４０】
一部の実施形態では、ユニットは、長期間のローカライゼーション／ナビゲーションに適したマッピングモードでの比較的高いＣＰＵ使用及びローカライゼーションモードでの比較的低いＣＰＵ使用を利用する。一部の実施形態では、ユニットは、時々内部リセットを実行することによって長期間動作をサポートする。これは、内部処理中に生成された値の一部が経時的に増える場合に有利である。長期間の作動（例えば、数日）にわたって、値は、コンピュータ内の値のためのストレージの論理的又は物理的制限値などの制限値に達することがあり、リセットの不在で処理を潜在的に失敗させる。一部の事例では、システムは、ＲＡＭメモリを自動的にフラッシュして性能を向上させることができる。他の実施形態では、システムは、新しく取得されたデータと古い及び／又は記録されたデータとのリアルタイムの比較を実行する時に必要な場合に古い走査データを選択的にダウンサンプリングすることができる。
【０１４１】
他の例示的実施形態では、ユニットは、飛行用途及び空中‐地上マップ統合をサポートすることができる。他の実施形態では、ユニットは、ＩＭＵ周波数、例えば１００Ｈｚで姿勢出力を計算することができる。このような事例では、本発明のソフトウエアは、マップ並びにセンサ姿勢を生成することができる。センサ姿勢は、センサ位置及び展開されているマップに関する指向を知らせる。高周波数及び正確な姿勢出力は、車両モーション制御がこのようなデータを必要とするのでモバイル自律性をサポートする。ユニットは、共分散及び推定信頼度を更に利用してセンサが静止している時の姿勢をロックすることができる。
【０１４２】
図１７（ａ）〜１７（ｂ）に関して、ＳＬＡＭの例示的かつ非限定的実施形態を示している。ＬＩＤＡＲは、実質的に半球の走査を生成するために回転される。これは、平歯車アセンブリ１７０４を通じてＬＩＤＡＲマウントに対する平歯車減速を駆動するＤＣモータを備えた機構によって実行される。平歯車減速アセンブリ１７０４は、モータ１７０８からＬＩＤＡＲをオフセットすることを可能にする。ＬＩＤＡＲの回転に合致したスリップリングが存在し、電力を供給してスピンしているＬＩＤＡＲからデータを受信する。符号器１７０６は、ＬＩＤＡＲの回転に合致して走査中の機構の向きを記録する。薄いセクション接触ベアリングがＬＩＤＡＲ回転軸を支持する。ＬＩＤＡＲ回転プレート上の平行錘が、回転の軸の周りの重量の均衡を取り、回転を滑らかにかつ一定にする。以下のＬＩＤＡＲ駆動機構及び取り付け図に示すように、この機構は、最小のスロップ及びバックラッシュを有するよう設計され、走査点位置の補間のための一定速度の維持を可能にする。モータシャフト１７１０がＬＩＤＡＲコネクタ１７１２と物理的に通信する点に留意されたい。
【０１４３】
図１８に関して、ＳＬＡＭエンクロージャ１８０２の例示的かつ非限定的実施形態を示している。ＳＬＡＭエンクロージャ１８０２を様々な図及び斜視図に示している。寸法は、ＬＩＤＡＲ、オドメトリカメラ、カラー化カメラ、又はユーザインタフェース画面などのような主要な構成要素の一般的な特徴及び向きを維持すると同時にサイズが同様又は異なる場合の実施形態及び非限定的実施形態を表している。
【０１４４】
一部の実施形態では、ユニットは、ネックブレース、ショルダーブレース、キャリア、又は他のウェアラブル要素又はデバイス（図示せず）を利用して、個人が歩き回る時にユニットを保持するのを助ける。ユニット又は支持要素又はデバイスは、走査中の揺れ又は振動を低減するための１又は２以上の安定化要素を含むことができる。他の実施形態では、ユニットは、ショルダーバッグなどで運ばれるリモートバッテリを利用して手持式ユニットの重さを低減する場合があり、これによって走査デバイスは外部電源を有する。
【０１４５】
他の実施形態では、カメラ及びＬＩＤＡＲは、視野を最大にするよう配置される。カメラ‐レーザ配置はトレードオフを課す。１つの側では、カメラはレーザＦＯＶを遮り、他方の側では、レーザがカメラを遮る。このような配置では、両方がわずかに遮られるが、この遮りがマッピング品質を大きく犠牲にすることはない。一部の実施形態では、視界処理がレーザデータによって支援されるので、カメラはレーザと同じ方向を向く。レーザ範囲測定は、処理中に深度情報を画像特徴に提供する。
【０１４６】
一部の実施形態では、空間データの信頼度を表す信頼度メトリックを用いることができる。このような信頼度メトリック測定値は、限定されないが、点の数、点の分布、点の直交性、及び環境の形状などを含むことができる。レーザデータ処理（例えば、走査適合）及び画像処理のために１又は２以上の信頼度メトリックを計算することができる。図１９（ａ）‐１９（ｃ）に関して、レーザ適合推定信頼度によって区別される点群を示す例示的かつ非限定的実施例の画像が示されている。実際に、このような画像を図示のようにカラー符号化することができ、軌跡及び点の両方は、記録時に最後の信頼値に基づいて点群内に実線又は破線として描かれる。実施例では、暗い灰色が悪く、明るい灰色が良好である。値＞１０を有する全てが実線になるように値が閾値化される。実験を通してＶｅｌｏｄｙｎｅ＜１は信頼できず、＜１０は少し信頼でき、＞１０は非常に良好であることが見出されている。
【０１４７】
これらのメトリックを用いることで、本明細書の他の箇所で論じるループ閉止ツールなどを利用した時のモデル課題及びオフラインモデル補正を解決するための自動化試験を可能にすることができる。これらのメトリックの使用は、適合が悪い時にユーザに警告し、可能であれば自動停止する、低信頼度データを却下する、走査する時にユーザに警告することを可能にする。図１９（ａ）は、比較的遅いペースで実行される建物床面の走査を示す。図１９（ｂ）は、比較的早いペースで実行される同じ建物フロアの走査を示す。走査が行われる速度から一部発生する遅い走査ペースから取得された走査と比較した時の軽いほつれに留意されたい。図１９（ｃ）は、比較的低信頼度の潜在的なトラブルスポットにズームした表示を示す。
【０１４８】
図２０に関して、フルレーザ走査と以前のフルレーザ走査から構築されたマップとの間の軌道を計算して視覚的に提示することができる走査対走査適合信頼度メトリック処理及び視覚特徴の平均数の例示的かつ非限定的実施形態が示されている。このメトリックは、有用であるが異なる信頼度メトリックを示すことがある。図２０では、レーザ走査信頼度メトリック図が左のフレームに示され、同じデータの視覚特徴メトリックの平均数が右フレームに示されている。ここでもまた、暗い灰色の線は、視覚特徴のより低い信頼度及び／又はより少数の平均数を示す。
【０１４９】
一部の実施形態では、ループ閉止を用いることができる。例えば、ユニットは、人が部屋の周りで、小部屋で、オフィスを出入りして、次に開始点に戻って歩く時に作動させることができる。理想的には、開始及び終了点からのデータのメッシュを正確に網目にしなければならない。現実には、あるドリフトが存在する可能性がある。本明細書で説明するアルゴリズムはこのようなドリフトを大幅に最小化する。一般的な低減は、１０ｘ対従来方法（０．２％対２％）の程度である。この比率は、ループ中に横断された合計距離によって除算された開始点と終了点間の距離の誤差を反映する。一部の実施形態では、本発明のソフトウエアは、開始点に戻り、起点に再度ロックできることを認識している。行われた状態で、変動を取り、収集されたデータの全てにこれを広げることができる。他の実施形態では、データ信頼度が低いことを信頼度メトリックが示す場合に、ある一定の点群データにロックインすることができ、低信頼度を有する区域に調節を加えることができる。
【０１５０】
一般的に、システムは、明示的及び暗黙的ループ閉止の両方を利用することができる。一部の事例では、ユーザは、ＳＬＡＭの一部を形成するユーザインタフェースなどを通じてループが閉じることを示すことができる。この明示的ループ閉止は、開始及び終了取得データを互いにスナップしてループを閉じるためにループの始めで取得されたデータに新しく走査されたデータを適合させるよう作動するソフトウエアを実行するＳＬＡＭを結果として生じる場合がある。他の実施形態では、システムは、暗黙的ループ閉止を実行することができる。このような事例では、システムは、システムが走査ループの点又は起点の区域を含む場所を能動的に再走査することを認識する自動化方式で作動することができる。
【０１５１】
一部の実施形態では、信頼度ベースのループ閉止を利用することができる。最初に、複数のセグメントを含む区域のループ走査の開始及び終了点を決定することができる。次に、複数のマルチセグメントの信頼度を決定することができる。ループの開始及び終了を合致させるために高品質セグメントよりも低い品質セグメントに調節を行うことができる。
【０１５２】
他の例示的実施形態では、マルチループ信頼度ベースのループ閉止を実行することができる。他の実施形態では、構文的に調節された信頼度ベースのループ閉止を利用することができる。例えば、走査された要素の属性から構造的情報、すなわち、床が平坦である、廊下がまっすぐであるなどを得ることができる。
【０１５３】
一部の事例では、ＬＩＤＡＲ点群データのカラー化を利用することができる。一部の実施形態では、粗いカラー化を収集された点にリアルタイムで利用し、取り込まれたものの識別を助けることができる。他の実施形態では、オフライン写真現実カラー化を利用することができる。他の実施形態では、カメラの各ピクセルを固有のＬＩＤＡＲピクセルにマップすることができる。例えば、点群内のＬＩＤＡＲデータに対応するカラー化カメラのピクセルからカラーデータを取ることができ、カラーデータをＬＩＤＡＲデータに追加することができる。
【０１５４】
例示的かつ非限定的実施形態により、ユニットは、順次多層処理パイプラインを用いて粗から細にモーションを解くことができる。最適化の各層で、以前の粗い結果は、最適化問題への初期推測として使用される。パイプラインの段階は以下の通りである。
【０１５５】
１．高周波数更新（２００Ｈｚの程度）を提供するが、ドリフトの高レベルに影響されるモーション予測のためのＩＭＵ機械化によって開始する。
【０１５６】
２．次に、この推定値は、カメラのフレーム速度（３０‐４０Ｈｚ）の視覚‐慣性オドメトリ最適化によって精緻化され、最適化問題は、姿勢変化の初期推測としてＩＭＵモーション推定値を使用し、現在のカメラフレームからキーフレームまで追跡されるいくつかの特徴の間のモーションにおける残余平方誤差を最小にしようとしてこの姿勢変化を調節する。
【０１５７】
３．次に、この推定値は、「走査フレーム」速度によって決定された低速のレーザオドメトリ最適化によって更に精緻化される。走査データは、継続して発生し、ソフトウエアは、このデータを通常の速度で画像フレームに類似のフレームにセグメント化し、現時点では、この速度は、各走査フレームをデータの全半球にするためのＬＩＤＡＲ回転機構の１つの回転に対してかかる時間である。このデータは、同じ走査フレーム内の点が収集される位置変化の視覚‐慣性推定値を使用して互いに縫い合わされる。ＬＩＤＡＲオドメトリ姿勢最適化段階では、視覚オドメトリ推定値が初期推測として取られ、最適化は、以前の走査フレームに適合した現在の走査フレーム内の追跡された特徴における残差を低減しようとする。
【０１５８】
４．最終段階では、現在の走査フレームは、これまでのマップ全体に対して適合される。レーザオドメトリ推定値が初期推測として取られ、現在の走査フレーム内の特徴とこれまでのマップ内の特徴の間の残余平方差を最適化が最小にする。
【０１５９】
得られるシステムは、密度の高い正確な３Ｄマップ記録と共に高周波数、低待ち時間エゴモーション推定を可能にする。システムは、各段階が以前の段階内の誤差を補正することができるので失敗モジュールをバイパスする自動再構成によってセンサ劣化に対処することができる。従って、高度に動的なモーションが存在する場合、並びに暗いテクスチャのないかつ構造物のない環境で作動することができる。実験中に、システムは、ナビゲーションの９．３ｋｍにわたる相対位置ドリフトの０．２２％、及び走行、ジャンプ、及び更に高速道路高速運転（３３ｍ／ｓまで）に関するロバスト性を明らかにしている。
【０１６０】
このようなシステムの他の主要な特徴は以下を含むことができる。
【０１６１】
深度あり及び深度なしの視覚特徴最適化：ソフトウエアは、最初に追跡された視覚特徴の深度をレーザデータに関連付けることを試み、次にカメラフレーム間の深度を三角測量することを試みることによって、追跡された視覚特徴の深度の決定を試みることができる。特徴最適化ソフトウエアは、１つは深度を有する特徴、及び１つは深度なしの特徴の２つの異なる誤差計算を備えた全ての特徴を用いることができる。
【０１６２】
レーザ特徴決定：ソフトウエアは、走査フレーム全体ではなく走査線データが来る時のレーザ走査特徴を抽出することができる。これは、平坦な特徴として最も平滑な点及びエッジ特徴として最も尖った点をラベル付けするこの点とこの点のいずれかの側のＫ最隣接点との間の相対距離によって定義される各点の平滑度を見ることによってより容易であり、かつそれによって行われる。これは、悪い特徴である可能性がある一部の点の削除も可能にする。
【０１６３】
マップ適合及びボクセル化：レーザ適合がリアルタイムでどのように機能するかの部分は、マップ及び特徴データがどのように格納されるかである。この格納されたデータのプロセッサ負荷を追跡することは、長期の走査及び選択的なボクセル化、又は正確な適合に必要であることを維持しながら格納されるデータを最小にするために３次元ベースユニットにダウンサンプリングすることに対して必須である。プロセッサ負荷に基づいて無線でダウンサンプリングのボクセルサイズ又は基本ユニットを調節することは、大きなマップ内のリアルタイムの性能を維持する機能を改善することができる。
【０１６４】
並行処理：ソフトウエアは、プロセッサが処理できるよりも高速でデータが来る場合にリアルタイムの性能を維持するために平行処理を利用することができるように設定することができる。これは、Ｖｅｌｏｄｙｎｅのような高速点／秒ＬＩＤＡＲに該当する。
【０１６５】
ロバスト性：システムが使用する方法は、次の推定値の一部（初期推測とは別に）が一部の固有のロバスト性を生じる場合に前の段階の推定値を含むことなく最適化段階を分離する。
【０１６６】
信頼度メトリック：この処理における各最適化段階は、固有の結果における信頼度の情報を提供することができる。特に、各段階では、最適化後の残りの残余平方差及びフレーム間で追跡される特徴の数などを評価し、結果における信頼度の尺度を提供することができる。
【０１６７】
デバイスによって取得されているデータを用いて準備されているマルチスペクトラルモデルのダウンスケール（例えば、サブサンプル）バージョンをユーザに提示することができる。実施例では、モデルデータの各測定された３ｃｍｘ３ｃｍｘ３ｃｍキューブは、単一のピクセルとしてユーザインタフェースに提示されるスケールダウンバージョンで表現することができる。表示のために選択されたピクセルは、キューブの中心に最も近いピクセルとすることができる。ＳＬＡＭの作動中に生成された代表ダウンスケール表示を以下に示す。説明するように、容積内の単一のピクセルを表示する決定は、定義された次元の空間キューブを占める点群の１又は２以上の点の存在又はいずれかのこのような点の不在のいずれかを示すバイナリ結果を表す。他の例示的実施形態では、選択されたピクセルによって表される定義されたキューブの内側のピクセルの数を示す値などの属性を選択されたピクセルに備えることができる。この属性は、属性の値を反映させるためにカラー及び／又は強度を利用する各選択されたピクセルなどを表示することによってサブサンプル点群を表示する時に利用することができる。
【０１６８】
視覚フレームは、カラーカメラからの単一の２Ｄカラー画像を含む。ＬＩＤＡＲセグメントは、ＬＩＤＡＲスキャナのフル３６０度回転を含む。視覚フレーム及びＬＩＤＡＲセグメントは同期され、これによってこれらは、オドメトリ（例えば、高速黒／白）カメラなどのＩＭＵ及び関係付けられたセンサから取り込まれたユニット位置データに基づいて既存のモデルデータと組み合わされてこれに位置合わせすることができる。
【０１６９】
より低い信頼度メトリックに起こる問題は、限定されないが、光沢のある壁、ガラス、透明なガラス、及び狭い通路からの反射を含む。一部の実施形態では、ユニットのユーザは、例えば、停止ボタンを叩く及び／又は過去の予め決められた又は要求された秒数である点までの巻き戻しを要求することなどによって走査を停止かつ再開することができる。
【０１７０】
例示的かつ非限定的実施形態により、走査中の巻き戻しは、以下のように進めることができる。最初に、システムのユーザが、巻き戻す希望を示す。これは、ＳＬＡＭの一部を形成するユーザインタフェースの操作を通じて達成することができる。巻き戻し要求を示す結果として、システムは、持続時間に対応する走査されたデータ点の一部を削除又はそうでなければ取り除く。全ての走査されたデータ点がタイムスタンプされる場合、システムは、予め決められた時間後のデータ点を効率的に取り除くことができ、従って、走査の以前の点に「巻き戻す」。本明細書で論じるように、カメラからの画像が各走査中に収集されてタイムスタンプされる。この結果、予め決められた時間点後のデータ点を取り除いた後、システムは、予め決められた時間点まで巻き戻された走査点群を表示しながら予め決められた時間点で記録された画像の表示をユーザに提供することができる。画像はガイドとして作用し、システムのユーザが、以前に予め決められた時間点のＳＬＡＭの向き及び姿勢に密接に適合する位置にＳＬＡＭを向け直すのを助ける。ユーザが予め決められた時間点のＳＬＡＭの以前の向きの近くに向けられた状態で、ユーザは、ＳＬＡＭのユーザインタフェース上の「進む」ボタンに係合することなどによって走査を再開する希望を示すことができる。走査再開の指令に応答して、ＳＬＡＭは、新しく走査されたデータを利用する処理パイプラインの実行に進み、ＳＬＡＭ場所及び向きの初期推定を形成することができる。この処理中に、ＳＬＡＭは、新しいデータを走査に追加することはできないが、新しく走査されたデータを用いてユーザの場所の瞬間信頼水準、並びに新しく取得されたデータが以前の走査データに対応する程度の視覚表現を決定及び表示することができる。最後に、ＳＬＡＭの場所及び向きが以前に走査されたデータに対して十分に決定されたことが確立された状態で、走査を続行することができる。
【０１７１】
前述のように、この巻き戻す機能は、格納されたデータによって一部可能になる。１秒あたりにもたらされる点の数を推定し、「巻き戻す」量を推定することができる。ユニットは、ユーザがｘ秒前に居た場所をユーザに通知し、ユーザがこの場所に移動してユーザが適切な場所に居ることを確認するのに数走査行うことができる。例えば、ユーザは、行くべき適切な場所を知らされる（又はユーザが再開したい場所を示す）。ユーザが十分に近い場合、ユニットは、ユーザが居る場所を把握してユーザが十分近いかをユーザに知らせることができる。
【０１７２】
他の例示的実施形態では、ユニットは、空間間の移行において作動することができる。例えば、ユーザが狭い出入り口を素早く歩いた場合、新しい空間のユーザの場所を決定するための十分なデータ及び時間がない可能性がある。詳細には、この例では、ドアフレームの境界は、それを通って進む前に、ユーザの場所を設定するのに十分なドアを超える環境の一部をＬＩＤＡＲが画像化するのを阻止することがある。１つのオプションは、この信頼度メトリック及び信号の低下をオペレータに対して検出し、視覚インジケータを点滅させる又は画面のカラーなどを変えることによって狭い通路に近づいて行くユーザの行動を遅くするように修正することである。
【０１７３】
図２１に関して、ＳＬＡＭユニット２１００の概略の例示的かつ非限定的実施形態が示されている。ＳＬＡＭユニット２１００は、ＩＭＵ２１０６のパルス／秒（ＰＰＳ）信号から得られた複数の信号を生成するためのタイミングサーバを含むことができる。生成された信号を用いて、ユニット内の異なるセンサから収集されたデータを同期させることができる。マイクロコントローラ２１０２を用いて信号を生成し、ＣＰＵ２１０４と通信することができる。直交復号器２１０８は、マイクロコントローラ内に又は外部ＩＣ上に組み込むことができる。
【０１７４】
一部の例示的実施形態では、ＩＭＵ２２０６は、システムの他の部分のためのタイミングパルスを生成するために使用される立ち上がりＰＰＳ信号を供給する。カメラは、上述のような１つの立ち上がり信号及び２つの立下り信号、ＧＰＩＯＩ（持続する１つのフレーム）及びＧＰＩＯ２（持続する２つのフレーム）を図２２に関して示すように含むＩＭＵ  ＰＰＳ信号から生成される３つの信号を受信することができる。
【０１７５】
図のように、各カメラは、約３０Ｈｚ又は４０Ｈｚの高フレーム速度及び約０．５Ｈｚ‐５Ｈｚの高解像度を有するＩＭＵ  ＰＰＳと同期されたトリガ信号を受信する。
【０１７６】
各ＩＭＵ  ＰＰＳパルスは、マイクロコントローラ２２０２の内部のカウンタをゼロにすることができる。ＬＩＤＡＲの同期出力は、以下の事象をトリガすることができる。
【０１７７】
・直交復号器を通して現在の符号器値を読み取る。
【０１７８】
・現在のカウンタ値を読み取る。
【０１７９】
符号器及びカウンタ値を一緒に保存してＣＰＵに送信することができる。これは、図２３に関して図示したＬＩＤＡＲ同期出力によって示される４０Ｈｚ毎に発生することができる。
【０１８０】
代替時間同期技術は、センサとコンピュータプロセッサの同期を容易にするＩＭＵベースのパルス／秒同期を含むことができる。このタイプの同期の例示的かつ非限定的実施形態を図２４に関して示している。
【０１８１】
ＩＭＵ２４００は、パルス／秒（ＰＰＳ）信号２４０６をＬＩＤＡＲ２４０２に送信するように構成することができる。ＰＰＳが送信される度に、コンピュータ２４０４は、ＩＭＵデータストリーム内のフラグを認識することによって通知される。コンピュータ２４０４は、追跡して時間ストリングをＬＩＤＡＲ２４０２に送信する。ＬＩＤＡＲ２４０２はＰＰＳ２４０６に同期し、受信された時間ストリングに基づいてＬＩＤＡＲデータストリーム内の時間スタンプを符号化する。
【０１８２】
第１のＰＰＳ２４０６の受信時に、コンピュータ２４０４は、そのシステム時間を記録する。第２のＰＰＳから開始して、コンピュータ２４０４は、１秒毎に記録された時間を増やし、得られる時間ストリングをＬＩＤＡＲ２４０２に送信し、固有のシステム時間を訂正してＰＰＳ２５０６を追跡する。
【０１８３】
この時間同期方式では、ＩＭＵ２４００は、時間サーバとして機能し、初期時間がコンピュータシステム時間から取得される。ＩＭＵ２４００データストリームは、その固有のクロックに基づいて時間スタンプに関連づけられ、第１のＰＰＳ２４０６が送信された時にコンピュータシステム時間によって初期化される。従って、ＩＭＵ２４００、ＬＩＤＡＲ２４０２、及びコンピュータ２４０４は全時間同期される。実施形態では、ＬＩＤＡＲ２４０２は、ＶｅｌｏｄｙｎｅＬＩＤＡＲとすることができる。
【０１８４】
例示的かつ非限定的実施形態により、ユニットは、走査のためのＣＯＭエクスプレスボード及び単一ボタンインタフェースを含む。
【０１８５】
例示的かつ非限定的実施形態により、処理ＩＭＵ、ビジョン、及びレーザデータセンサを結合することができる。ユニットは、長期間にわたって暗闇又は構造物のない環境で作用することができる。一部の実施形態では、４つのＣＰＵスレッドは、走査適合のために利用することができ、Ｖｅｌｏｄｙｎｅデータを有する各ＣＰＵスレッドが５Ｈｚで実行される。上述のように、ユニットのモーションは高速である可能性があり、ユニットは、以前のマップにローカライズしてローカライゼーションを使用してマップを拡張することができる。ユニットは、マッピングモードでは比較的高いＣＰＵ使用を示し、かつローカライゼーションモードでは比較的低いＣＰＵ使用を示し、従ってそれを長期にわたって適するようにする。
【０１８６】
以下の条項は、本明細書で開示する実施形態に関する追加の陳述を提供する。
【０１８７】
条項１．少なくとも地理空間座標とセグメントとに各々が帰する複数の点を含むＬＩＤＡＲ点群を取得する段階と、同じセグメントに帰する複数の点の計算された精度を示す信頼水準を各セグメントに割り当てる段階と、信頼水準に少なくとも部分的に基づいて、同じセグメントに帰する複数の点の少なくとも一部の各々の地理空間座標を調節する段階とを含む方法。
【０１８８】
条項２．信頼水準がループ閉止の信頼水準である条項１の方法。
【０１８９】
条項３．地理空間座標の調節が、決定されたループ閉止誤差に応答する条項１の方法。
【０１９０】
条項４．地理空間座標を調節するためのセグメントが、少なくとも１つの他のセグメントよりも低い信頼水準を有する条項１の方法。
【０１９１】
条項５．開始場所を有し、かつ少なくとも地理空間座標とセグメントとに各々が帰する複数の点を含むＬＩＤＡＲ点群をＳＬＡＭによって取得することを開始する段階と、ＬＩＤＡＲ点群を取得する間にループを横断する段階と、ＳＬＡＭが開始場所に近接している時に走査終了点を決定する段階とを含む方法。
【０１９２】
条項６．走査終了点を決定する段階が、ループが横断されたというＳＬＡＭのユーザからの指示を受信する段階を含む条項６の方法。
【０１９３】
条項７．走査終了点を決定する段階が、開始場所への近接度を示すセグメント内の点に基づく条項６の方法。
【０１９４】
条項８．開始場所を含むセグメント以外のセグメント内の点が、開始場所に近接する地理空間座標に帰する条項６の方法。
【０１９５】
条項９．各々が少なくとも地理空間座標及びタイムスタンプに帰する複数の点を含むＬＩＤＡＲ点群を取得する段階と、地理空間座標及びタイムスタンプの少なくとも一方に各々が帰する複数の画像を含むカラー画像データを取得する段階と、カラー化される各点のタイムスタンプに時間的に近いタイムスタンプを有し、かつカラー化された複数の点の地理空間座標に近い地理空間座標を有する画像から得られたカラー情報を有する複数の点の少なくとも一部分をカラー化する段階とを含む方法。
【０１９６】
条項１０．カラー化がリアルタイム及びほぼリアルタイムの一方で実行される条項９の方法。
【０１９７】
条項１１．ＳＬＡＭシステムの一部を形成するＩＭＵを使用してＳＬＡＭシステムのためのモーション推定値を導出する段階と、視覚−慣性オドメトリ最適化処理を通してモーション推定値を精緻化し、精緻化した推定値を生成する段階と、現在の走査における少なくとも１つの特徴と少なくとも１つの以前に走査された特徴との間の少なくとも１つの残余平方誤差を最小化することによってレーザオドメトリ最適化処理を通して精緻化された推定値を生成する段階とを含む方法。
【０１９８】
条項１２．モーション推定値を導出する段階が、約２００Ｈｚの周波数のＩＭＵ更新を受信する段階を含む条項１１の方法。
【０１９９】
条項１３．ＩＭＵ更新の周波数が１９０Ｈｚと２１０Ｈｚの間である条項１２の方法。
【０２００】
条項１４．モーション推定値を精緻化する段階が、ＳＬＡＭシステムの一部を形成するカメラのフレーム速度に等しい速度のモーション推定値を精緻化する段階を含む条項１１の方法。
【０２０１】
条項１５．フレーム速度が３０Ｈｚと４０Ｈｚの間である条項１４の方法。
【０２０２】
条項１６．レーザオドメトリ最適化処理が、ＳＬＡＭの一部を形成するＬＩＤＡＲ回転機構がデータの全半球を走査する走査フレーム速度で実行される条項１１の方法。
【０２０３】
条項１７．ＳＬＡＭシステムの一部を形成するカメラを使用して複数のカメラフレーム内の複数の深度追跡視覚特徴を取得する段階と、複数の視覚特徴にＳＬＡＭの一部を形成するＬＩＤＡＲから取得されたＬＩＤＡＲ導出点群を関連付ける段階と、少なくとも２つのカメラフレーム間の少なくとも１つの視覚特徴の深度を三角測量する段階とを含む方法。
【０２０４】
条項１８．関連付け及び三角測量段階が、並列演算を利用するプロセッサで実行される条項１７の方法。
【０２０５】
条項１９．マイクロコントローラ、複数のタイミング信号を生成するよう適応された慣性測定ユニット（ＩＭＵ）、及び複数のタイミング信号から得られる複数の同期信号を生成するよう適応されたタイミングサーバを含み、同期信号が、ＳＬＡＭデバイスの一部を形成する少なくとも２つのセンサを同期するように作動するＳＬＡＭデバイス。
【０２０６】
条項２０．少なくとも２つのセンサが、ＬＩＤＡＲ、カメラ、及びＩＭＵから構成される群から選択される条項２０のＳＬＡＭデバイス。
【０２０７】
条項２１．少なくとも地理空間座標とタイムスタンプとに各々が帰する複数の点を含むＬＩＤＡＲ点群を取得する段階と、少なくとも地理空間座標とタイムスタンプとに各々が帰する複数の画像を含むカラー画像データを取得する段階と、カラー化される各点のタイムスタンプに時間的に近いタイムスタンプとカラー化される各点の地理空間座標までの距離が近い地理空間座標とのうちの少なくとも一方を有する画像から取得されたカラー情報を有する複数の点の少なくとも一部分をカラー化する段階と、複数の点のカラー化部分を表示する段階とを含む方法。
【０２０８】
条項２２．表示された複数の点上のオーバレイとしてカメラからの出力を表示する段階を更に含む条項２１の方法。
【０２０９】
条項２３．少なくとも地理空間座標とタイムスタンプとに各々が帰する複数の点を含むＬＩＤＡＲ点群を取得する段階と、カラー情報を有する複数の点の少なくとも一部分をカラー化する段階とを含み、複数の点の各々が、強度パラメータ、密度パラメータ、時間パラメータ、及び地理空間場所パラメータから構成される群から選択される取得されたＬＩＤＡＲ点群データのパラメータに対応するカラーでカラー化される方法。
【０２１０】
条項２４．対応する近くの環境から導出された複数の近距離場点と対応する遠距離場環境から導出されて近い環境に位置付けられた１又は２以上の要素間の１又は２以上の空間を通して走査される複数の遠距離場点とを含むＬＩＤＡＲ点群をＳＬＡＭによって取得する段階と、近い環境から遠い環境に移動する時にＳＬＡＭを方向付けする複数の遠距離場点を利用する段階とを含む方法。
【０２１１】
本発明の開示の一部の実施形態しか図示及び説明していないが、多くの変形及び修正が特許請求の範囲に示す本発明の開示の精神及び範囲から逸脱することなく本明細書に実行することができることは当業者に明らかであろう。外国及び国内両方の全ての特許出願及び特許、及び本明細書に引用のする全ての他の公開は、法律によって認められる限度まで全体が本明細書に組み込まれている。
【０２１２】
本明細書に説明する方法及びシステムは、コンピュータソフトウエア、プログラムコード、及び／又は命令をプロセッサで実行する機械を通じて部分的又は完全に配備することができる。本発明の開示は、機械における方法として、機械の一部又は機械に関したシステム又は装置として、又は機械の１又は２以上で実行されるコンピュータ可読媒体を用いて実施されるコンピュータプログラム製品として実施することができる。実施形態では、本発明のプロセッサは、サーバ、クラウドサーバ、クライアント、ネットワークインフラストラクチャ、移動コンピュータプラットフォーム、固定コンピュータプラットフォーム、又は他のコンピュータプラットフォームの一部とすることができる。プロセッサは、プログラム命令、コード、バイナリ命令などを実行することができる計算又は処理デバイスのいずれかの種類とすることができる。プロセッサは、信号プロセッサ、デジタルプロセッサ、組み込み式プロセッサ、マイクロプロセッサ、又はコプロセッサのようなあらゆる変形（数学コプロセッサ、グラフィックコプロセッサ、通信コプロセッサなど）及び格納しているプログラムコード又はプログラム命令の実行を直接又は間接的に容易にすることができるものとすることができ、又はこれらを含むことができる。更に、プロセッサは、複数のプログラム、スレッド、及びコードの実行を可能にすることができる。スレッドは、プロセッサの性能を拡張して用途の同時作動を容易にするために同時に実行することができる。実施により、本明細書に説明する方法、プログラムコード、プログラム命令などを１又は２以上のレッドを用いて実施することができる。スレッドは、これらに関連付けられた優先度を割り当てることができる他のスレッドを発生させることができ、プロセッサは、優先度又はプログラムコードで提供される命令に基づくあらゆる他の順序に基づいてこれらのスレッドを実行することができる。プロセッサ、又はプロセッサを利用するあらゆる機械は、本明細書及び他に説明する方法、コード、命令及びプログラムを格納する非一時的メモリを含むことができる。プロセッサは、本明細書及び他で説明する方法、コード、及び命令を格納することができる非一時的ストレージ媒体にインタフェースを通じてアクセス可能である。方法、プログラム、コード、プログラム命令、又はコンピュータ又は処理デバイスによって実行することができる他のタイプの命令を格納するためのプロセッサに関連付けられたストレージ媒体は、限定されないが、ＣＤ−ＲＯＭ、ＤＶＤ、メモリ、ハードディスク、フラッシュドライブ、ＲＡＭ、ＲＯＭ、キャッシュなどのうちの１又は２以上を含むことができる。
【０２１３】
プロセッサは、マルチプロセッサの速度及び性能を拡張することができる１又は２以上のコアを含むことができる。実施形態では、処理は、２又は３以上の独立コア（ダイと呼ぶ）を組み合わせるデュアルコアプロセッサ、クアドコアプロセッサ、他のチップレベルマルチプロセッサなどとすることができる。
【０２１４】
本明細書に説明する方法及びシステムは、サーバ、クライアント、ファイヤウォール、ゲートウェイ、ハブ、ルータ、又は他のそのようなコンピュータ及び／又はネットワーキングハードウエアでコンピュータソフトウエアを実行する機械を通じて一部又は全てを配備することができる。ソフトウエアプログラムは、ファイルサーバ、プリントサーバ、ドメインサーバ、インターネットサーバ、イントラネットサーバ、クラウドサーバ、及び２次サーバ、ホストサーバ、分散サーバのような他の変形を含むことができるサーバに関連付けることができる。サーバは、メモリ、プロセッサ、コンピュータ可読媒体、ストレージ媒体、ポート（物理的及び仮想的）、通信デバイスなどのサーバ、クライアント、機械、及びデバイスに、有線又は無線媒体などを通じてアクセス可能なインタフェースの１又は２以上を含むことができる。本明細書及び他で説明する方法、プログラム、又はコードは、サーバによって実行することができる。更に、この出願で説明する方法の実行に必要な他のデバイスは、サーバに関連付けられたインフラストラクチャの一部として考えることができる。
【０２１５】
サーバは、以下に限定されるものではないが、クライアント、他のサーバ、プリンタ、データベースサーバ、プリントサーバ、ファイルサーバ、通信サーバ、分散サーバ、ソーシャルネットワークなどを含む他のデバイスへのインタフェースを提供することができる。これに加えて、この結合及び／又は接続は、ネットワークを通じてプログラムのリモート実行を容易にすることができる。これらのデバイスの一部又は全てのネットワーキングは、本発明の開示の範囲から逸脱することなく１又は２以上の位置でプログラム又は方法の並行処理を容易にすることができる。更に、インタフェースを通じてサーバに接続されたデバイスのいずれも、方法、プログラム、コード、及び／又は命令を格納することができる少なくとも１つのストレージ媒体を含むことができる。中央リポジトリは、異なるデバイスで実行されるプログラム命令を提供することができる。この実施では、リモートリポジトリは、プログラムコード、命令、及びプログラムのためのストレージ媒体として作用することができる。
【０２１６】
ソフトウエアプログラムは、ファイルクライアント、プリントクライアント、ドメインクライアント、インターネットクライアント、イントラネットクライアント及び２次クライアント、ホストクライアント、分散クライアントのような他の変形を含むことができるクライアントに関連付けることができる。クライアントは、メモリ、プロセッサ、コンピュータ可読媒体、ストレージ媒体、ポート（物理的及び仮想的）、通信デバイスなどのクライアント、サーバ、機械、及びデバイスに有線又は無線媒体などを通じてアクセス可能なインタフェースの１又は２以上を含むことができる。本明細書及び他で説明する方法、プログラム、又はコードは、クライアントによって実行することができる。更に、この出願で説明する方法の実行に必要な他のデバイスは、クライアントに関連付けられたインフラストラクチャの一部として考えることができる。
【０２１７】
クライアントは、以下に限定されるものではないが、サーバ、他のクライアント、プリンタ、データベースサーバ、プリントサーバ、ファイルサーバ、通信サーバ、分散サーバなどを含む他のデバイスへのインタフェースを提供することができる。これに加えて、この結合及び／又は接続は、ネットワーク全体のプログラムのリモート実行を容易にすることができる。これらのデバイスの一部又は全てのネットワーキングは、本発明の開示の範囲から逸脱することなく１又は２以上の位置でのプログラム又は方法の並行処理を容易にすることができる。更に、インタフェースを通じてクライアントに接続されたデバイスのいずれも、方法、プログラム、用途、コード及び／又は命令を格納することができる少なくとも１つのストレージ媒体を含むことができる。中央リポジトリは、異なるデバイスで実行されるプログラム命令を提供することができる。この実施では、リモートリポジトリは、プログラムコード、命令、及びプログラムのためのストレージ媒体として作用することができる。
【０２１８】
本明細書に説明する方法及びシステムは、ネットワークインフラストラクチャを通じて一部又は全てを配備することができる。このネットワークインフラストラクチャは、コンピュータデバイス、サーバ、ルータ、ハブ、ファイヤウォール、クライアント、パーソナルコンピュータ、通信デバイス、経路指定デバイス、及び他のアクティブ及びパッシブデバイス、モジュール、及び／又は当業技術で公知の構成要素のような要素を含むことができる。ネットワークインフラストラクチャに関連付けられたコンピュータ及び／又は非コンピュータデバイスは、他の構成要素以外に、フラッシュメモリ、バッファ、スタック、ＲＡＭ、ＲＯＭのようなストレージ媒体を含むことができる。本明細書及び他で説明する処理、方法、プログラムコード、命令は、ネットワークインフラストラクチャ要素の１又は２以上によって実行することができる。本明細書に説明する方法及びシステムは、ソフトウエア・アズ・ア・サービス（ＳａａＳ）、プラットフォーム・アズ・ア・サービス（ＰａａＳ）、及び／又はインフラストラクチャ・アズ・ア・サービス（ＩａａＳ）の特徴を含有する特徴を含むプライベート、コミュニティ、又はハイブリッドクラウドコンピュータネットワーク又はクラウドコンピュータ環境のあらゆる種類と共に使用するように適応させることができる。
【０２１９】
本明細書及び他で説明する方法、プログラム、コード、及び命令は、セルラーネットワークｈａａ送信者制御式接触媒体コンテンツ項目マルチセル上で実施することができる。セルラーネットワークは、周波数分割多元接続（ＦＤＭＡ）ネットワーク又は符号分割多元接続（ＣＤＭＡ）ネットワークのいずれかとすることができる。セルラーネットワークは、モバイルデバイス、セルサイト、基地局、リピータ、アンテナ、タワーなどを含むことができる。セルネットワークは、ＧＳＭ(登録商標)、ＧＰＲＳ、３Ｇ、ＥＶＤＯ、メッシュ、又は他のネットワークタイプとすることができる。
【０２２０】
本明細書及び他で説明する方法、プログラムコード、及び命令は、モバイルデバイスで又はモバイルデバイスを通じて実施することができる。モバイルデバイスは、ナビゲーションデバイス、携帯電話、移動電話、移動携帯情報端末、ラップトップ、パームトップ、ネットブック、ポケットベル、電子書籍読取器、音楽プレーヤなどを含むことができる。これらのデバイスは、他の構成要素以外にフラッシュメモリ、バッファ、ＲＡＭ、ＲＯＭ、及び１又は２以上のコンピュータデバイスのようなストレージ媒体を含むことができる。モバイルデバイスに関連付けられたコンピュータデバイスは、格納しているプログラムコード、方法、及び命令を実行することができる。これに代えて、モバイルデバイスは、他のデバイスと協働して命令を実行するように構成することができる。モバイルデバイスは、サーバに接続されてプログラムコードを実行するように構成された基地局と通信することができる。モバイルデバイスは、ピア・ツー・ピアネットワーク、メッシュネットワーク、又は他の通信ネットワーク上で通信することができる。プログラムコードは、サーバに関連付けられたストレージ媒体に格納されてサーバ内に組み込まれたコンピュータデバイスによって実行することができる。基地局は、コンピュータデバイス及びストレージ媒体を含むことができる。ストレージデバイスは、基地局に関連付けられたコンピュータデバイスによって実行されるプログラムコード及び命令を格納することができる。
【０２２１】
コンピュータソフトウエア、プログラムコード、及び／又は命令は、コンピュータ構成要素、デバイス、及び何らかの時間間隔にわたって計算するのに使用されるデジタルデータを保存する記録媒体、ランダムアクセスメモリ（ＲＡＭ）として公知の固体ストレージ、一般的に光学ディスク、ハードディスク、テープ、ドラム、カード、及び他のタイプのような磁気ストレージの形態のような恒久的ストレージのための大容量ストレージ、プロセッサレジスタ、キャッシュメモリ、揮発性メモリ、不揮発性メモリ、ＣＤ、ＤＶＤのような光学ストレージ、フラッシュメモリ（例えば、ＵＳＢスティック又はキー）、フロッピーディスク、磁気テープ、紙テープ、パンチカード、独立ＲＡＭディスク、Ｚｉｐドライブ、着脱可能大容量ストレージ、オフラインのような着脱可能媒体、動的メモリ、静的メモリ、読取／書込ストレージ、変異ストレージ、読取専用、ランダムアクセス、シーケンシャルアクセス、位置アドレス可能、ファイルアドレス可能、コンテンツアドレスア可能、ネットワーク付属ストレージ、ストレージエリアネットワーク、バーコード、磁気リンクのような他のコンピュータメモリを含むことができる機械可読媒体上に格納される及び／又はそこにアクセス可能である。
【０２２２】
本明細書に説明する方法及びシステムは、物理的及び／又は非有形アイテムを１つの状態から別の状態に変形することができる。本明細書に説明する方法及びシステムはまた、物理的及び／又は非有形アイテムを表すデータを１つの状態から別の状態に変形することができる。
【０２２３】
本明細書に説明して図示する流れ図及び図面全体のブロック図に含む要素は要素間の論理的境界を意味する。しかし、ソフトウエア又はハードウエア工学の慣例により、図示の要素及びその機能は、コンピュータ実行可能媒体ｈａａ送信者制御式接触媒体コンテンツ項目を通じて機械を用いて実施することができ、プロセッサは、モノリシックソフトウエア構造として、独立ソフトウエアモジュールとして、又は外部ルーチン、コード、サービスなどを利用するモジュールとして、又はこれらのあらゆる組合せとして格納されたプログラム命令を実行することができ、全てのそのような実施は本発明の開示の範囲にあるものとすることができる。そのような機械の例は、限定されないが、携帯情報端末、ラップトップ、パーソナルコンピュータ、移動電話、他の手持ち式コンピュータデバイス、医療機器、有線又は無線通信デバイス、変換器、チップ、計算機、衛星、タブレットＰＣ、電子書籍、ガジェット、電子デバイス、デバイスｈａａ送信者制御式接触媒体コンテンツ項目人工知能、コンピュータデバイス、ネットワーキング機器、サーバ、ルータなどを含むことができる。流れ図及びブロック図に示す要素又はあらゆる他の論理的構成要素は、プログラム命令を実行することができる機械を用いて実施することができる。従って、上述の図面及び説明は開示したシステムの機能的態様を示し、これらの機能的態様を実施するためのソフトウエアの特定の構成は、明示的に記載するか又は他に関連から明らかでない限り、これらの説明からは推測されない。同様に、上記に識別及び説明した様々な段階を変更することができること、及び段階の順序を本明細書に開示する技術の特定の応用に適応することができることは認められるであろう。全てのそのような変形及び修正は、本発明の開示の範囲に入るものとする。同様に、様々な段階の順序の図示及び／又は説明は、特定の応用によって要求される又は明示的に記載する又は他に関連から明らかでない限り、これらの段階を実行する特定の順序を必要とすると理解してはならない。
【０２２４】
上述の方法及び／又は処理、及び本明細書に関連付けられた段階は、特定の応用に適するハードウエア、ソフトウエア、又はハードウエアとソフトウエアのあらゆる組合せで達成することができる。ハードウエアは、汎用コンピュータ及び／又は専用コンピュータデバイス又は特定のコンピュータデバイス又は特定のコンピュータデバイスの特定の態様又は構成要素を含むことができる。処理は、内部及び／又は外部メモリと共に１又は２以上のマイクロプロセッサ、マイクロコントローラ、組み込み式マイクロコントローラ、プログラマブルデジタル信号プロセッサ、又は他のプログラマブルデバイスで達成することができる。処理は、特定用途向け集積回路、プログラマブルゲートアレイ、プログラマブルアレイ論理部、又は電子信号を処理するように構成することができるあらゆる他のデバイス又はデバイスの組合せとすることができ、又はこれらを用いて実施することができる。処理の１又は２以上は、機械可読媒体で実行することができるコンピュータ実行可能コードとして達成することができることが更に認められるであろう。
【０２２５】
コンピュータ実行可能コードは、上述のデバイスの１つ、並びにプロセッサの異種組合せ、プロセッサアーキテクチャ、又は異なるハードウエア及びソフトウエアの組合せ、又はプログラム命令を実行することができるあらゆる他の機械の１つで実行するために格納、コンパイル、又は解釈することができるＣのような構造化プログラミング言語、Ｃ＋＋のようなオブジェクト指向プログラミング言語、又はあらゆる他の高レベル又は低レベルプログラミング言語（アセンブリ言語、ハードウエア記述言語、及びデータベースプログラミング言語及び技術を含む）を使用して作成することができる。
【０２２６】
すなわち、一態様では、上述の方法及びその組合せは、１又は２以上のコンピュータデバイスで実行された時にこれらの段階を実行するコンピュータ実行可能コードを用いて実施することができる。別の態様では、本方法は、この段階を実行するシステムを用いて実施することができ、いくつかの方法でデバイスにわたって分散させることができ、又は機能の全てを専用、独立デバイス、又は他のハードウエアに統合することができる。別の態様では、上述の処理に関連付けられた段階を実行するための手段は、上述のハードウエア及び／又はソフトウエアのいずれかを含むことができる。全てのそのような置換及び組合せは、本発明の開示の範囲に入るものとする。
【０２２７】
本発明の開示は、図示して詳細に説明した好ましい実施形態に関して開示したものであり、本発明の開示の様々な修正及び改良は、当業者には容易に明らかになるであろう。従って、本発明の開示の精神及び範囲は、上述の例によって制限されず、むしろ法律によって許容可能な様々な意味で理解されるものとする。
【０２２８】
本発明の開示を説明する関連（特に、特許請求の範囲の関連）における「ａ」及び「ａｎ」及び「ｔｈｅ」という語及び類似の表示語は、本明細書に他に表示がないか又は関連によって明確に矛盾しない限り、単数形及び複数形の両方を含むものと解釈しなければならない。「ｃｏｍｐｒｉｓｉｎｇ」、「ｈａａ送信者制御式接触媒体コンテンツ項目」、「ｉｎｃｌｕｄｉｎｇ」、及び「ｃｏｔａｉｎｉｎｇ」は、他に示されない限り、非限定的語として解釈されるものとする（すなわち、「限定されないが含む」を意味する）。本明細書の値の範囲の列挙は、本明細書に特に示さない限り値内に入る各それぞれの値を個々に指す簡単な方法として機能するものとし、個別の各値は、本明細書に個々に説明されているように本明細書に組み込まれる。本明細書に説明する全ての方法は、本明細書で特に示さない限り又は関連によって明確に矛盾しない限り、あらゆる適切な順序で実行することができる。本明細書に提供するいずれか及び全ての例、又は例示的言語（例えば、「のような」）の使用は、単に本発明の開示を的確に説明するものであり、他に主張されない限り、本発明の開示の範囲に制限を設けることはない。本明細書の言語は、本発明の開示の実施に不可欠ないずれかの主張されない要素を示すものとして解釈すべきではない。
【０２２９】
以上の説明は、当業者が現時点で最良のモードと考えられるものを使用することを可能にするものであり、当業者は、本明細書の特定の実施形態、方法、及び例の変形、組合せ、及び均等物の存在を理解かつ認めるであろう。従って、本発明の開示は、上述の実施形態、方法、及び例によって制限すべきではなく、むしろ本発明の開示の精神及び範囲内の全ての実施形態及び方法によって制限されるべきである。
【０２３０】
本明細書で参照した全ての文書は、これにより引用によって組み込まれる。
【符号の説明】
【０２３１】
２１００  ＳＬＡＭユニット
２１０２  マイクロコントローラ
２１０６  ＩＭＵ
２１０８  直交復号器
ＰＰＳ  パルス／秒
【図１】
2019532433.tif 000145
【図２】
2019532433.tif 000146
【図３】
2019532433.tif 000147
【図４】
2019532433.tif 000148
【図５】
2019532433.tif 000149
【図６】
2019532433.tif 000150
【図７Ａ】
2019532433.tif 000151
【図７Ｂ】
2019532433.tif 000152
【図８Ａ】
2019532433.tif 000153
【図８Ｂ】
2019532433.tif 000154
【図９Ａ】
2019532433.tif 000155
【図９Ｂ】
2019532433.tif 000156
【図１０】
2019532433.tif 000157
【図１１】
2019532433.tif 000158
【図１２】
2019532433.tif 000159
【図１３ａ】
2019532433.tif 000160
【図１３ｂ】
2019532433.tif 000161
【図１４】
2019532433.tif 000162
【図１５ａ】
2019532433.tif 000163
【図１５ｂ】
2019532433.tif 000164
【図１６ａ】
2019532433.tif 000165
【図１６ｂ】
2019532433.tif 000166
【図１７Ａ】
2019532433.tif 000167
【図１７Ｂ】
2019532433.tif 000168
【図１８】
2019532433.tif 000169
【図１９Ａ】
2019532433.tif 000170
【図１９Ｂ】
2019532433.tif 000171
【図１９Ｃ】
2019532433.tif 000172
【図２０】
2019532433.tif 000173
【図２１】
2019532433.tif 000174
【図２２】
2019532433.tif 000175
【図２３】
2019532433.tif 000176
【図２４】
2019532433.tif 000177
【国際調査報告】
2019532433.tif 000178
2019532433.tif 000179
2019532433.tif 000180