(57)【要約】      （修正有）【課題】複数の波長帯域ごとの画像データを効率的に記録しながら、撮像された内容をリアルタイムに確認できることが望まれている。【解決手段】画像処理装置（撮像装置１００）は、撮像装置が備える第１イメージセンサから出力された第１波長帯域の第１画像信号及び撮像装置が備える第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に第１画像信号を選択し、第２期間に第１画像信号及び第２画像信号を選択する選択部と、選択部から第１期間に選択された第１画像信号に基づいて表示用の画像データを生成する第１生成部を備える。さらに、選択部から第２期間に選択された第１画像信号及び第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する第２生成部を備える。【選択図】図４
2020072289.tif 000002
【特許請求の範囲】
【請求項１】
撮像装置が備える第１イメージセンサから出力された第１波長帯域の第１画像信号、及び前記撮像装置が備える第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に前記第１画像信号を選択し、第２期間に前記第１画像信号及び前記第２画像信号を選択する選択部と、
前記選択部から前記第１期間に選択された前記第１画像信号に基づいて表示用の画像データを生成する第１生成部と、
前記選択部から前記第２期間に選択された前記第１画像信号及び前記第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する第２生成部と
を備える画像処理装置。
【請求項２】
前記第１生成部が前記表示用の画像データを生成するごとに、前記表示用の画像データを表示装置に送信する送信部をさらに備える、請求項１に記載の画像処理装置。
【請求項３】
前記選択部は、前記第２生成部が前記記録用の画像データの生成、または前記記録用の画像データの記録部への記録が終了する前に、前記第２期間から前記第１期間に移行して、前記第１画像信号の選択を開始する、請求項１に記載の画像処理装置。
【請求項４】
前記表示用の画像データのデータ量は、前記記録用の画像データのデータ量より少ない、請求項１に記載の画像処理装置。
【請求項５】
前記第２生成部は、ＲＡＷ形式で前記記録用の画像データを生成する、請求項１に記載の画像処理装置。
【請求項６】
前記選択部は、前記第１画像信号、前記第２画像信号、前記撮像装置が備える第３イメージセンサから出力される第３波長帯域の第３画像信号、及び前記撮像装置が備える第４イメージセンサから出力される第４波長帯域の第４画像信号のうち、前記第１期間に前記第１画像信号、前記第３画像信号、及び前記第４画像信号を選択し、前記第２期間に前記第１画像信号、前記第２画像信号、前記第３画像信号、及び前記第４画像信号を選択し、
前記第１生成部は、前記選択部から前記第１期間に選択された前記第１画像信号、前記第３画像信号、及び前記第４画像信号に基づいて前記表示用の画像データを生成し、
前記第２生成部は、前記選択部から前記第２期間に選択された前記第１画像信号、前記第２画像信号、前記第３画像信号、及び前記第４画像信号に基づいて前記記録用の画像データを生成する、請求項１に記載の画像処理装置。
【請求項７】
前記選択部は、前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、及び前記撮像装置が備える第５イメージセンサから出力される第５波長帯域の第５画像信号のうち、前記第１期間に前記第１画像信号、前記第３画像信号、及び前記第４画像信号を選択し、前記第２期間に前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、及び前記第５画像信号を選択し、
前記第１生成部は、前記選択部から前記第１期間に選択された前記第１画像信号、前記第３画像信号、及び前記第４画像信号に基づいて前記表示用の画像データを生成し、
前記第２生成部は、前記選択部から前記第２期間に選択された前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、及び前記第５画像信号に基づいて前記記録用の画像データを生成する、請求項６に記載の画像処理装置。
【請求項８】
前記第１波長帯域は、赤色領域の波長帯域であり、
前記第２波長帯域は、レッドエッジ領域の波長帯域であり、
前記第３波長帯域は、緑色領域の波長帯域であり、
前記第４波長帯域は、青色領域の波長帯域であり、
前記第５波長帯域は、近赤外領域の波長帯域である、請求項７に記載の画像処理装置。
【請求項９】
前記選択部は、前記第１画像信号、前記第２画像信号、前記撮像装置が備える第３イメージセンサから出力される第３波長帯域の第３画像信号、前記撮像装置が備える第４イメージセンサから出力される第４波長帯域の第４画像信号、前記撮像装置が備える第５イメージセンサから出力される第５波長帯域の第５画像信号、及び前記撮像装置が備える第６イメージセンサから出力される第６波長帯域の第６画像信号のうち、前記第１期間に前記第１画像信号を選択し、前記第２期間に前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、前記第５画像信号、及び前記第６画像信号を選択し、
前記第１生成部は、前記選択部から前記第１期間に選択された前記第１画像信号に基づいて前記表示用の画像データを生成し、
前記第２生成部は、前記選択部から前記第２期間に選択された前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、前記第５画像信号、及び前記第６画像信号に基づいて前記記録用の画像データを生成する、請求項１に記載の画像処理装置。
【請求項１０】
前記第１波長帯域は、第１赤色領域、第１緑色領域、及び第１青色領域の波長帯域であり、
前記第２波長帯域は、レッドエッジ領域の波長帯域であり、
前記第３波長帯域は、近赤外領域の波長帯域であり、
前記第４波長帯域は、前記第１赤色領域より狭い第２赤色領域の波長帯域であり、
前記第５波長帯域は、前記第１緑色領域より狭い第２緑色領域の波長帯域であり、
前記第６波長帯域は、前記第１青色領域より狭い第２青色領域の波長帯域である、請求項９に記載の画像処理装置。
【請求項１１】
前記記録用の画像データを記憶部に記憶する記憶指示を受け付ける受付部をさらに備え、
前記選択部は、前記受付部が前記記憶指示を受け付けると、前記第１期間から前記第２期間に移行する、請求項１に記載の画像処理装置。
【請求項１２】
前記選択部は、前記撮像装置の位置が予め定められた位置である場合、前記第１期間から前記第２期間に移行する、請求項１に記載の画像処理装置。
【請求項１３】
前記選択部は、予め定められたタイミングで、前記第１期間と前記第２期間とを切り替える、請求項１に記載の画像処理装置。
【請求項１４】
請求項１に記載の画像処理装置と、
前記第１イメージセンサと、
前記第２イメージセンサと、
を備える撮像装置。
【請求項１５】
請求項１４に記載の撮像装置を備えて移動する移動体。
【請求項１６】
前記移動体は、飛行体であり、
前記選択部は、予め定められた時間、前記飛行体がホバリングを継続している場合、前記第１期間から前記第２期間へ切り替える、請求項１５に記載の移動体。
【請求項１７】
予め定められた経路に沿って前記移動体を移動させる制御部を備える、請求項１６に記載の移動体。
【請求項１８】
撮像装置が備える第１イメージセンサから出力された第１波長帯域の第１画像信号、及び前記撮像装置が備える第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に前記第１画像信号を選択し、第２期間に前記第１画像信号及び前記第２画像信号を選択する段階と、
前記第１期間に選択された前記第１画像信号に基づいて表示用の画像データを生成する段階と、
前記第２期間に選択された前記第１画像信号及び前記第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する段階と
を備える画像処理方法。
【請求項１９】
請求項１から１３の何れか１つに記載の画像処理装置としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、撮像装置、移動体、画像処理方法、及びプログラムに関する。
【背景技術】
【０００２】
特許文献１には、マルチバンドセンサを搭載した無人航空機が開示されている。
特許文献１  米国特許出願公開第２０１７／３５６７９９号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００３】
マルチバンドセンサなどで撮像された複数の波長帯域ごとの画像データを効率的に記録しながら、撮像された内容をリアルタイムに確認できることが望まれている。
【課題を解決するための手段】
【０００４】
本発明の一態様に係る画像処理装置によれば、撮像装置が備える第１イメージセンサから出力された第１波長帯域の第１画像信号、及び撮像装置が備える第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に第１画像信号を選択し、第２期間に第１画像信号及び第２画像信号を選択する選択部を備えてよい。画像処理装置は、選択部から第１期間に選択された第１画像信号に基づいて表示用の画像データを生成する第１生成部を備えてよい。画像処理装置は、選択部から第２期間に選択された第１画像信号及び第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する第２生成部を備えてよい。
【０００５】
第１生成部が表示用の画像データを生成するごとに、表示用の画像データを表示装置に送信する送信部を備えてよい。
【０００６】
選択部は、第２生成部が記録用の画像データの生成、または記録用の画像データの記録部への記録が終了する前に、第２期間から第１期間に移行して、第１画像信号の選択を開始してよい。
【０００７】
表示用の画像データのデータ量は、記録用の画像データのデータ量より少なくてよい。
【０００８】
第２生成部は、ＲＡＷ形式で記録用の画像データを生成してよい。
【０００９】
選択部は、第１画像信号、第２画像信号、撮像装置が備える第３イメージセンサから出力される第３波長帯域の第３画像信号、及び撮像装置が備える第４イメージセンサから出力される第４波長帯域の第４画像信号のうち、第１期間に第１画像信号、第３画像信号、及び第４画像信号を選択し、第２期間に第１画像信号、第２画像信号、第３画像信号、及び第４画像信号を選択してよい。第１生成部は、選択部から第１期間に選択された第１画像信号、第３画像信号、及び第４画像信号に基づいて表示用の画像データを生成してよい。第２生成部は、選択部から第２期間に選択された第１画像信号、第２画像信号、第３画像信号、及び第４画像信号に基づいて記録用の画像データを生成してよい。
【００１０】
選択部は、第１画像信号、第２画像信号、第３画像信号、第４画像信号、及び撮像装置が備える第５イメージセンサから出力される第５波長帯域の第５画像信号のうち、第１期間に第１画像信号、第３画像信号、及び第４画像信号を選択し、第２期間に第１画像信号、第２画像信号、第３画像信号、第４画像信号、及び第５画像信号を選択してよい。第１生成部は、選択部から第１期間に選択された第１画像信号、第３画像信号、及び第４画像信号に基づいて表示用の画像データを生成してよい。第２生成部は、選択部から第２期間に選択された第１画像信号、第２画像信号、第３画像信号、第４画像信号、及び第５画像信号に基づいて記録用の画像データを生成してよい。
【００１１】
第１波長帯域は、赤色領域の波長帯域でよい。第２波長帯域は、レッドエッジ領域の波長帯域でよい。第３波長帯域は、緑色領域の波長帯域でよい。第４波長帯域は、青色領域の波長帯域でよい。第５波長帯域は、近赤外領域の波長帯域でよい。
【００１２】
選択部は、第１画像信号、第２画像信号、撮像装置が備える第３イメージセンサから出力される第３波長帯域の第３画像信号、撮像装置が備える第４イメージセンサから出力される第４波長帯域の第４画像信号、撮像装置が備える第５イメージセンサから出力される第５波長帯域の第５画像信号、及び撮像装置が備える第６イメージセンサから出力される第６波長帯域の第６画像信号のうち、第１期間に第１画像信号を選択し、第２期間に第１画像信号、第２画像信号、第３画像信号、第４画像信号、第５画像信号、及び第６画像信号を選択してよい。第１生成部は、選択部から第１期間に選択された第１画像信号に基づいて表示用の画像データを生成してよい。第２生成部は、選択部から第２期間に選択された第１画像信号、第２画像信号、第３画像信号、第４画像信号、第５画像信号、及び第６画像信号に基づいて記録用の画像データを生成してよい。
【００１３】
第１波長帯域は、第１赤色領域、第１緑色領域、及び第１青色領域の波長帯域でよい。第２波長帯域は、レッドエッジ領域の波長帯域でよい。第３波長帯域は、近赤外領域の波長帯域でよい。第４波長帯域は、第１赤色領域より狭い第２赤色領域の波長帯域でよい。第５波長帯域は、第１緑色領域より狭い第２緑色領域の波長帯域でよい。第６波長帯域は、第１青色領域より狭い第２青色領域の波長帯域でよい。
【００１４】
画像処理装置は、記録用の画像データを記憶部に記憶する記憶指示を受け付ける受付部を備えてよい。
【００１５】
選択部は、受付部が記憶指示を受け付けると、第１期間から第２期間に移行してよい。
【００１６】
選択部は、撮像装置の位置が予め定められた位置である場合、第１期間から第２期間に移行してよい。
【００１７】
選択部は、予め定められたタイミングで、第１期間と第２期間とを切り替えてよい。
【００１８】
本発明の一態様に係る撮像装置は、上記画像処理装置を備えてよい。撮像装置は、第１イメージセンサと、第２イメージセンサと、を備えてよい。
【００１９】
本発明の一態様に係る移動体は、上記撮像装置を備えて移動する移動体でよい。
【００２０】
移動体は、飛行体でよい。選択部は、予め定められた時間、飛行体がホバリングを継続している場合、第１期間から第２期間へ切り替えてよい。
【００２１】
移動体は、予め定められた経路に沿って移動体を移動させる制御部を備えてよい。
【００２２】
本発明の一態様に係る画像処理方法は、撮像装置が備える第１イメージセンサから出力された第１波長帯域の第１画像信号、及び撮像装置が備える第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に第１画像信号を選択し、第２期間に第１画像信号及び第２画像信号を選択する段階を備えてよい。画像処理方法は、第１期間に選択された第１画像信号に基づいて表示用の画像データを生成する段階を備えてよい。画像処理方法は、第２期間に選択された第１画像信号及び第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する段階を備える。
【００２３】
本発明の一態様に係るプログラムは、画像処理装置としてコンピュータを機能させるためのプログラムとしてよい。
【００２４】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【図面の簡単な説明】
【００２５】
【図１】無人航空機及び遠隔操作装置の外観の一例を示す図である。
【図２】無人航空機に搭載される撮像装置の外観の一例を示す図である。
【図３】無人航空機の機能ブロックの一例を示す図である。
【図４】撮像装置の機能ブロックの一例を示す図である。
【図５】撮像装置を搭載した無人航空機による撮影の様子を示す図である。
【図６】飛行経路上のマルチスペクトル画像の記録地点の一例を示す図である。
【図７】飛行経路上のマルチスペクトル画像の記録地点の一例を示す図である。
【図８】撮像制御部での処理内容の時間的な流れのイメージを示す図である。
【図９】撮像装置がマルチスペクトル画像を記録する処理の手順の一例を示すフローチャートである。
【図１０】撮像装置がマルチスペクトル画像を記録する処理の手順の一例を示すフローチャートである。
【図１１】撮像装置がマルチスペクトル画像を記録する処理の手順の一例を示すフローチャートである。
【図１２】撮像装置がマルチスペクトル画像を記録する処理の手順の一例を示すフローチャートである。
【図１３】無人航空機に搭載される撮像装置の外観の一例を示す図である。
【図１４】ハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【００２６】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【００２７】
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
【００２８】
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。
【００２９】
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（ＲＴＭ）ディスク、メモリスティック、集積回路カード等が含まれてよい。
【００３０】
コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
【００３１】
図１は、無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備える。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、移動体の一例である。移動体とは、空中を移動する飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。空中を移動する飛行体とは、ＵＡＶの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。
【００３２】
ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。
【００３３】
撮像装置１００は、所望の撮像範囲に含まれるオブジェクトを撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。
【００３４】
複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。撮像装置６０は、撮像装置６０の撮像範囲に含まれるオブジェクトの存在、及びオブジェクトまでの距離を計測してよい。撮像装置６０は、撮像装置１００の撮像方向に存在するオブジェクトを計測する計測装置の一例である。計測装置は、撮像装置１００の撮像方向に存在するオブジェクトを計測する赤外線センサ、超音波センサなどの他のセンサでもよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。
【００３５】
遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。
【００３６】
図２は、ＵＡＶ１０に搭載される撮像装置１００の外観の一例を示す図である。撮像装置１００は、予め定められた複数の波長帯域ごとの画像データを撮像するマルチスペクトルカメラである。撮像装置１００は、Ｒ用撮像部１１０、Ｇ用撮像部１２０、Ｂ用撮像部１３０、ＲＥ用撮像部１４０、及びＮＩＲ用撮像部１５０を備える。撮像装置１００は、Ｒ用撮像部１１０、Ｇ用撮像部１２０、Ｂ用撮像部１３０、ＲＥ用撮像部１４０、及びＮＩＲ用撮像部１５０により撮像されたそれぞれの画像データをマルチスペクトラル画像として記録することができる。マルチスペクトラル画像は、例えば、農作物の健康状態及び活力についての予測をするために用いられてよい。
【００３７】
図３は、ＵＡＶ１０の機能ブロックの一例を示す。ＵＡＶ１０は、ＵＡＶ制御部３０、メモリ３２、通信インタフェース３６、推進部４０、ＧＰＳ受信機４１、慣性計測装置４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０及び撮像装置１００を備える。
【００３８】
通信インタフェース３６は、遠隔操作装置３００などの他の装置と通信する。通信インタフェース３６は、遠隔操作装置３００からＵＡＶ制御部３０に対する各種の命令を含む指示情報を受信してよい。メモリ３２は、ＵＡＶ制御部３０が、推進部４０、ＧＰＳ受信機４１、慣性計測装置（ＩＭＵ）４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０、及び撮像装置１００を制御するのに必要なプログラム等を格納する。メモリ３２は、コンピュータ読み取り可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリ等のフラッシュメモリの少なくとも１つを含んでよい。メモリ３２は、ＵＡＶ本体２０の内部に設けられてよい。ＵＡＶ本体２０から取り外し可能に設けられてよい。
【００３９】
ＵＡＶ制御部３０は、メモリ３２に格納されたプログラムに従ってＵＡＶ１０の飛行及び撮像を制御する。ＵＡＶ制御部３０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。ＵＡＶ制御部３０は、通信インタフェース３６を介して遠隔操作装置３００から受信した命令に従って、ＵＡＶ１０の飛行及び撮像を制御する。推進部４０は、ＵＡＶ１０を推進させる。推進部４０は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部４０は、ＵＡＶ制御部３０からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、ＵＡＶ１０を飛行させる。
【００４０】
ＧＰＳ受信機４１は、複数のＧＰＳ衛星から発信された時刻を示す複数の信号を受信する。ＧＰＳ受信機４１は、受信された複数の信号に基づいてＧＰＳ受信機４１の位置（緯度及び経度）、つまりＵＡＶ１０の位置（緯度及び経度）を算出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢を検出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢として、ＵＡＶ１０の前後、左右、及び上下の３軸方向の加速度と、ピッチ、ロール、及びヨーの３軸方向の角速度とを検出する。磁気コンパス４３は、ＵＡＶ１０の機首の方位を検出する。気圧高度計４４は、ＵＡＶ１０が飛行する高度を検出する。気圧高度計４４は、ＵＡＶ１０の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ４５は、ＵＡＶ１０の周囲の温度を検出する。湿度センサ４６は、ＵＡＶ１０の周囲の湿度を検出する。
【００４１】
以上のように構成されたＵＡＶ１０において、撮像装置１００において、マルチスペクトラル画像データを効率的に記録しながら、撮像された内容をリアルタイムに確認できるようにする。
【００４２】
図４は、撮像装置１００の機能ブロックの一例を示す。撮像装置１００は、Ｒ用撮像部１１０、Ｇ用撮像部１２０、Ｂ用撮像部１３０、ＲＥ用撮像部１４０、及びＮＩＲ用撮像部１５０を備える。撮像装置１００は、撮像制御部１８０、送信部１９０、及びメモリ１９２を備える。撮像制御部１８０は、マルチプレックス１７０、入力受付部１７２、デモザイク処理部１７４、及び記録処理部１７８を備える。撮像制御部１８０は、画像処理装置の一例である。
【００４３】
Ｒ用撮像部１１０は、Ｒ用イメージセンサ１１２、及び光学系１１４を有する。Ｒ用イメージセンサ１１２は、光学系１１４により結像された像を撮像する。Ｒ用イメージセンサ１１２は、赤色領域の波長帯域の光を透過するフィルタを有し、赤色領域の波長帯域の画像信号であるＲ画像信号を出力する。赤色領域の波長帯域は、例えば、６２０ｎｍ〜７５０ｎｍである。赤色領域の波長帯域は、赤色領域の特定の波長帯域でよく、例えば、６６３ｎｍ〜６７３ｎｍでよい。
【００４４】
Ｇ用撮像部１２０は、Ｇ用イメージセンサ１２２、及び光学系１２４を有する。Ｇ用イメージセンサ１２２は、光学系１２４により結像された像を撮像する。Ｇ用イメージセンサ１２２は、緑色領域の波長帯域の光を透過するフィルタを有し、緑色領域の波長帯域の画像信号であるＧ画像信号を出力する。緑色領域の波長帯域は、例えば、５００ｎｍ〜５７０ｎｍである。緑色領域の波長帯域は、緑色領域の特定の波長帯域でよく、例えば、５５０ｎｍ〜５７０ｎｍでよい。
【００４５】
Ｂ用撮像部１３０は、Ｂ用イメージセンサ１３２、及び光学系１３４を有する。Ｂ用イメージセンサ１３２は、光学系１３４により結像された像を撮像する。Ｂ用イメージセンサ１３２は、青色領域の波長帯域の光を透過するフィルタを有し、青色領域の波長帯域の画像信号であるＢ画像信号を出力する。青色領域の波長帯域は、例えば、４５０ｎｍ〜５００ｎｍである。青色領域の波長帯域は、青色領域の特定の波長帯域でよく、例えば、４６５ｎｍ〜４８５ｎｍでよい。
【００４６】
ＲＥ用撮像部１４０は、ＲＥ用イメージセンサ１４２、及び光学系１４４を有する。ＲＥ用イメージセンサ１４２は、光学系１４４により結像された像を撮像する。ＲＥ用イメージセンサ１４２は、レッドエッジ領域の波長帯域の光を透過するフィルタを有し、レッドエッジ領域の波長帯域の画像信号であるＲＥ画像信号を出力する。レッドエッジ領域の波長帯域は、例えば、７０５ｎｍ〜７４５ｎｍである。レッドエッジ領域の波長帯域は、７１２ｎｍ〜７２２ｎｍでよい。
【００４７】
ＮＩＲ用撮像部１５０は、ＮＩＲ用イメージセンサ１５２、及び光学系１５４を有する。ＮＩＲ用イメージセンサ１５２は、光学系１５４により結像された像を撮像する。ＮＩＲ用イメージセンサ１５２は、近赤外領域の波長帯域の光を透過するフィルタを有し、近赤外領域の波長帯域の画像信号であるＮＩＲ画像信号を出力する。近赤外領域の波長帯域は、例えば、８００ｎｍ〜２５００ｎｍである。近赤外領域の波長帯域は、８００ｎｍから９００ｎｍでよい。
【００４８】
マルチプレックス１７０は、各イメージセンサから出力された画像信号を受信し、予め定められた条件に従って、いずれかのイメージセンサから出力された画像信号を選択し、入力受付部１７２に入力する。マルチプレックス１７０は、選択部の一例である。マルチプレックス１７０は、第１期間に、Ｒ用撮像部１１０から出力されたＲ画像信号、Ｇ用撮像部１２０から出力されたＧ画像信号、及びＢ用撮像部１３０から出力されたＢ画像信号を選択して、入力受付部１７２に入力する。マルチプレックス１７０は、第１期間に、ＲＥ用撮像部１４０から出力されたＲＥ画像信号、及びＮＩＲ用撮像部１５０から出力されたＮＩＲ画像信号を破棄する。
【００４９】
マルチプレックス１７０は、第１期間と異なる第２期間に、Ｒ用撮像部１１０から出力されたＲ画像信号、Ｇ用撮像部１２０から出力されたＧ画像信号、Ｂ用撮像部１３０から出力されたＢ画像信号、ＲＥ用撮像部１４０から出力されたＲＥ画像信号、及びＮＩＲ用撮像部１５０から出力されたＮＩＲ画像信号を選択して、入力受付部１７２に入力する。マルチプレックス１７０は、それぞれのイメージセンサからの画像信号を受け付ける複数の入力ポートと、入力受付部１７２に画像信号を出力する出力ポートを有してよい。そして、選択とは、マルチプレックス１７０が、入力ポートを介して受信されたそれぞれの画像信号の中から選択され、出力ポートから出力すべき画像信号を多重化する動作を含む概念である。
【００５０】
デモザイク処理部１７４は、第１期間に入力受付部１７２に入力されたＲ画像信号、Ｇ画像信号、及びＢ画像信号に基づいて、表示用の画像データを生成する。デモザイク処理部１７４は、第１生成部の一例である。デモザイク処理部１７４は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号にデモザイク処理を施すことで、表示用の画像データを生成する。デモザイク処理部１７４は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号に間引き処理を施し、間引き処理されたＲ画像信号、Ｇ画像信号、及びＢ画像信号をベイヤ配列の画像信号に変換することで、表示用の画像データを生成してよい。送信部１９０は、表示用の画像データを表示装置に送信する。送信部１９０は、例えば、遠隔操作装置３００に表示用の画像データを送信してよい。遠隔操作装置３００は、表示部に表示用の画像データをライブビューの画像として表示してよい。
【００５１】
記録処理部１７８は、第２期間に入力受付部１７２に入力されたＲ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、予め定められた記録形式に従って記録用の画像データを生成する。記録処理部１７８は、第２生成部の一例である。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号から、ＲＡＷ形式に従って記録用の画像データとしてＲＡＷデータを生成してよい。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号のそれぞれを間引き処理せずにフル画素の記録用の画像データを生成してよい。記録処理部１７８は、記録用の画像データをメモリ１９２に格納してよい。メモリ１９２は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。メモリ１９２は、撮像装置１００の筐体の内部に設けられてよい。メモリ１９２は、撮像装置１００の筐体から取り外し可能に設けられてよい。
【００５２】
マルチプレックス１７０は、第１期間に、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号のうちの少なくとも１つの画像信号を選択して、入力受付部１７２に入力し、残りの画像信号をＲＥ画像信号、及びＮＩＲ画像信号とともに破棄してもよい。デモザイク処理部１７４は、第１期間に入力受付部１７２に入力された画像信号のみを間引き処理して、表示用の画像データを生成してよい。
【００５３】
マルチプレックス１７０は、第２期間に、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号のうちの少なくとも１つの画像信号を選択して、入力受付部１７２に入力し、残りの画像信号を破棄してもよい。記録処理部１７８は、第２期間に入力受付部１７２に入力された画像信号のみを間引き処理をせずに、ＲＡＷ形式の記録用の画像データを生成してよい。
【００５４】
記録処理部１７８による記録用の画像データの生成には時間がある程度かかる。そこで、マルチプレックス１７０は、記録処理部１７８が記録用の画像データの生成、または記録用の画像データのメモリ１９２への記録が終了する前に、第２期間から第１期間に移行して、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号のみを選択して、入力受付部１７２への入力を開始してよい。記録処理部１７８が記録用の画像データを生成して、メモリ１９２に格納するのを待たずに、デモザイク処理部１７４は、次の第１期間に入力受付部１７２に順次入力されたＲ画像信号、Ｇ画像信号、及びＢ画像信号から、順次表示用の画像データを生成してよい。送信部１９０は、デモザイク処理部１７４が表示用の画像データを生成するごとに、表示用の画像データを遠隔操作装置３００などの表示装置に送信してよい。すなわち、記録処理部１７８が記録用の画像データを生成して、メモリ１９２に格納する処理を行っている間、遠隔操作装置３００などの表示装置に撮像装置１００に撮像された画像データをライブビューとして表示させてよい。
【００５５】
表示用の画像データのデータ量は、記録用の画像データのデータ量より少ない。したがって、デモザイク処理部１７４での処理の負担を低減できる。
【００５６】
撮像制御部１８０は、受付部１８４、及び切替部１８８をさらに有する。受付部１８４は、記録用の画像データをメモリ１９２に記憶する記憶指示を受け付ける。受付部１８４は、遠隔操作装置３００などの外部の端末を介してユーザからの記憶指示を受け付けてよい。受付部１８４は、撮像装置１００の位置が予め定められた位置である場合に、ＵＡＶ制御部３０から記憶指示を受け付けてよい。受付部１８４は、ＵＡＶ１０の位置が予め定められた位置である場合に、ＵＡＶ制御部３０が撮像装置１００の位置が予め定められた位置であると判断して、ＵＡＶ制御部３０から記憶指示を受け付けてよい。撮像装置１００がＧＰＳ受信機を備えてもよい。この場合、撮像制御部１８０が、自身のＧＰＳ受信機からの位置情報に従って、撮像装置１００の位置が予め定められた位置かどうかを判断してよい。
【００５７】
切替部１８８は、第１期間と第２期間との切り換えを行う。切替部１８８は、受付部１８４が記憶指示を受け付けると、マルチプレックス１７０に第１期間から第２期間への切り替えを指示する。さらに、切替部１８８は、入力受付部１７２からの画像信号の入力をデモザイク処理部１７４から記録処理部１７８に切り替える。マルチプレックス１７０は、切り替え指示を受け付けると、第１期間から第２期間に移行する。すなわち、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号を選択して、入力受付部１７２に入力し、ＲＥ画像信号及びＮＩＲ画像信号を破棄する処理から、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号及びＮＩＲ画像信号を選択して、入力受付部１７２に入力する処理に移行する。
【００５８】
切替部１８８は、予め定められたタイミングで、第１期間と第２期間とを切り替えてよい。切替部１８８は、予め定められた周期で、第１期間と第２期間とを切り替えてよい。受付部１８４が、ＵＡＶ制御部３０からＵＡＶ１０が予め定められた期間継続して、ホバリングしていることの通知を受けると、切替部１８８は、第１期間と第２期間とを切り替えてよい。ＵＡＶ１０が予め定められた期間継続して、ホバリングしている場合、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号を選択して、入力受付部１７２に入力し、ＲＥ画像信号及びＮＩＲ画像信号を破棄する処理から、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号及びＮＩＲ画像信号を選択して、入力受付部１７２に入力する処理に移行する。
【００５９】
図５は、撮像装置１００を搭載したＵＡＶ１０による撮影の様子を示す図である。ＵＡＶ１０は、農作物などの撮像領域５００を飛行しながら、撮像装置１００は、撮像されたマルチスペクトル画像を順次メモリ１９２に格納する。ユーザは、遠隔操作装置３００の表示部に表示された撮像装置１００のライブビューの画像を見ながら、撮像装置１００が撮像している撮像領域を目視で確認できる。そして、撮像装置１００にマルチスペクトル画像を順次メモリ１９２に記憶させることができる。
【００６０】
図６に示すように、撮像領域５００上のＵＡＶ１０の飛行経路５１０は、予め定められてよい。マルチスペクトル画像をメモリ１９２に記憶させる地点は、飛行経路５１０上の予め定められた間隔ごとの地点５１２でよい。図７に示すように、マルチスペクトル画像をメモリ１９２に記憶させる地点は、飛行経路５１０上の任意の地点５１２でよい。例えば、ユーザは、遠隔操作装置３００を介して、飛行経路５１０の中で、撮像装置１００のライブビューを参照しながら、マルチスペクトル画像を記憶したい地点を登録してもよい。
【００６１】
図８は、撮像制御部１８０での処理内容の時間的な流れのイメージを示す図である。第１期間Ｔ１において、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号を選択して、入力受付部１７２に入力し、ＲＥ画像信号及びＮＩＲ画像信号を破棄する。デモザイク処理部１７４は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号を間引き処理して、ベイヤ配列のＲＧＢ画像データを生成する。送信部１９０は、ＲＧＢ画像データを遠隔操作装置３００などの外部の表示装置に送信する。表示装置は、ＲＧＢ画像データをライブビュー画像として表示部に表示する。
【００６２】
第２期間において、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号を選択して、入力受付部１７２に入力する。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、ＲＡＷ形式などの予め定められた記録形式に従って記録用の画像データとしてマルチスペクトル画像を生成する。記録処理部１７８は、マルチスペクトル画像をメモリ１９２に記憶する。記録処理部１７８が、マルチスペクトル画像を生成してメモリ１９２に記憶する処理が終了する前に、マルチプレックス１７０は、第２期間Ｔ２から第１期間Ｔ１に切り替えて、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号のみを選択して、入力受付部１７２に入力してもよい。
【００６３】
図９は、撮像装置１００がマルチスペクトル画像を記録する処理の手順の一例を示すフローチャートである。
【００６４】
ＵＡＶ１０が飛行を開始する。撮像装置１００から送信されたＲＧＢ画像データを遠隔操作装置３００の表示部にライブビュー画像として表示する（Ｓ１００）。受付部１８４は、遠隔操作装置３００を介してマルチスペクトル画像の記録指示を受け付けたか否かを判定する（Ｓ１０２）。受付部１８４が、記録指示を受け付けると、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号を選択して、入力受付部１７２に入力する。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、ＲＡＷ形式などの予め定められた記録形式に従って記録用の画像データとしてマルチスペクトル画像を生成する（Ｓ１０４）。記録処理部１７８は、マルチスペクトル画像をメモリ１９２に記憶する（Ｓ１０６）。マルチスペクトル画像の撮影が終了していなければ（Ｓ１０８）、撮像装置１００は、ステップＳ１００以降の処理を繰り返す。
【００６５】
図１０は、撮像装置１００がマルチスペクトル画像を記録する処理の手順の一例を示すフローチャートである。
【００６６】
遠隔操作装置３００を介してユーザがＵＡＶ１０の飛行経路を決定する（Ｓ２００）。ユーザは、遠隔操作装置３００に表示された地図から飛行経路を決定してよい。ユーザは、予め定められた複数の飛行経路の中から所望の飛行経路を選択してよい。遠隔操作装置３００を介して受け付けられたユーザからの指示に基づいて、撮像装置１００は、飛行経路上で、マルチスペクトル画像を記録する地点を設定する（Ｓ２０２）。
【００６７】
次いで、ＵＡＶ１０が飛行経路に沿った飛行を開始する（Ｓ２０４）。マルチスペクトル画像を記録する地点でない場合、撮像装置１００から送信されるＲＧＢ画像データを遠隔操作装置３００の表示部にライブビュー画像として表示する（Ｓ２０６）。受付部１８４は、マルチスペクトル画像を記録する地点にＵＡＶ１０が到達したかどうかを判定する（Ｓ２０８）。受付部１８４は、マルチスペクトル画像を記録する地点にＵＡＶ１０が到達したことに対応してＵＡＶ制御部３０から記録指示を受け付けると、受付部１８４は、マルチスペクトル画像を記録する地点にＵＡＶ１０が到達したと判定してよい。
【００６８】
受付部１８４が、記録指示を受け付けると、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号を選択して、入力受付部１７２に入力する。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、ＲＡＷ形式などの予め定められた記録形式に従って記録用の画像データとしてマルチスペクトル画像を生成する（Ｓ２０４）。記録処理部１７８は、マルチスペクトル画像をメモリ１９２に記憶する（Ｓ２０６）。マルチスペクトル画像の撮影が終了していなければ（Ｓ２０８）、撮像装置１００は、ステップＳ２０６以降の処理を繰り返す。
【００６９】
図１１は、撮像装置１００がマルチスペクトル画像を記録する処理の手順の一例を示すフローチャートである。
【００７０】
遠隔操作装置３００を介してユーザがＵＡＶ１０の飛行経路を決定する（Ｓ３００）。次いで、ＵＡＶ１０が飛行経路に沿った飛行を開始する（Ｓ３０２）。マルチスペクトル画像を記録するタイミングではない場合、撮像装置１００から送信されるＲＧＢ画像データを遠隔操作装置３００の表示部にライブビュー画像として表示する（Ｓ３０４）。受付部１８４は、ＵＡＶ１０が飛行経路を飛行してから予め定められた時間が経過したかどうか、もしくは、受付部１８４は、前回、マルチスペクトル画像を記録してから予め定められた時間が経過したかどうかを判定する（Ｓ３０６）。マルチスペクトル画像を記録するタイミングであれば、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号を選択して、入力受付部１７２に入力する。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、ＲＡＷ形式などの予め定められた記録形式に従って記録用の画像データとしてマルチスペクトル画像を生成する（Ｓ３０８）。記録処理部１７８は、マルチスペクトル画像をメモリ１９２に記憶する（Ｓ３１０）。マルチスペクトル画像の撮影が終了していなければ（Ｓ３１２）、撮像装置１００は、ステップＳ３０４以降の処理を繰り返す。
【００７１】
図１２は、撮像装置１００がマルチスペクトル画像を記録する処理の手順の一例を示すフローチャートである。
【００７２】
遠隔操作装置３００を介してユーザがＵＡＶ１０の飛行経路を決定する（Ｓ４００）。次いで、ＵＡＶ１０が飛行経路に沿った飛行を開始する（Ｓ４０２）。マルチスペクトル画像を記録するタイミングではない場合、撮像装置１００から送信されるＲＧＢ画像データを遠隔操作装置３００の表示部にライブビュー画像として表示する（Ｓ４０４）。受付部１８４は、ＵＡＶ１０が予め定められた時間、ホバリングしているか否かを判定する（Ｓ４０６）。受付部１８４は、ＵＡＶ制御部３０からＵＡＶ１０が予め定められた時間、ホバリングしていることに対応して記録指示を受け付けると、ＵＡＶ１０が予め定められた時間、ホバリングしていると判定してよい。
【００７３】
ＵＡＶ１０が予め定められた時間、ホバリングしていれば、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号を選択して、入力受付部１７２に入力する。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、ＲＡＷ形式などの予め定められた記録形式に従って記録用の画像データとしてマルチスペクトル画像を生成する（Ｓ４０８）。記録処理部１７８は、マルチスペクトル画像をメモリ１９２に記憶する（Ｓ４１０）。マルチスペクトル画像の撮影が終了していなければ（Ｓ４１２）、撮像装置１００は、ステップＳ４０４以降の処理を繰り返す。
【００７４】
図１３は、ＵＡＶ１０に搭載される撮像装置１００の外観の他の一例を示す図である。撮像装置１００は、Ｇ用撮像部１２０、Ｂ用撮像部１３０、ＲＥ用撮像部１４０、及びＮＩＲ用撮像部１５０に加えて、ＲＧＢ用撮像部１６０を備える点で、図２に示す撮像装置１００と異なる。ＲＧＢ用撮像部１６０は、通常のカメラと同様でよく、光学系と、イメージセンサを有する。イメージセンサは、ベイヤ配列で配置された、赤色領域の波長帯域の光を透過するフィルタ、緑色領域の波長帯域の光を透過するフィルタ、及び青色領域の波長帯域の光を透過するフィルタを有してよい。ＲＧＢ用撮像部１６０は、ＲＧＢ画像を出力してよい。赤色領域の波長帯域は、例えば、６２０ｎｍ〜７５０ｎｍでよい。緑色領域の波長帯域は、例えば、５００ｎｍ〜５７０ｎｍでよい。青色領域の波長帯域は、例えば、４５０ｎｍ〜５００ｎｍである。
【００７５】
マルチプレックス１７０は、第１期間において、ＲＧＢ用撮像部１６０からＲＧＢ画像信号を選択して、入力受付部１７２に入力してよい。第１期間において、マルチプレックス１７０は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号を破棄してよい。デモザイク処理部１７４は、ＲＧＢ画像信号から表示用のＲＧＢ画像データを生成してよい。
【００７６】
マルチプレックス１７０は、第２期間において、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号を選択して、入力受付部１７２に入力し、ＲＧＢ画像信号を破棄してよい。マルチプレックス１７０は、第２期間において、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、ＮＩＲ画像信号、及びＲＧＢ画像信号を選択して、入力受付部１７２に入力してよい。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、ＮＩＲ画像信号、及びＲＧＢ画像信号に基づいて、ＲＡＷ形式などの予め定められた記録形式に従って記録用の画像データとしてマルチスペクトル画像を生成してよい。
【００７７】
以上の通り、本実施形態に係る撮像装置１００によれば、マルチスペクトル画像データを効率的に記録しながら、撮像装置１００により撮像された内容をリアルタイムに確認できる。
【００７８】
図１４は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。
【００７９】
本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
【００８０】
通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
【００８１】
例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
【００８２】
また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。
【００８３】
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。
【００８４】
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。
【００８５】
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【００８６】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【符号の説明】
【００８７】
１０  ＵＡＶ
２０  ＵＡＶ本体
３０  ＵＡＶ制御部
３２  メモリ
３６  通信インタフェース
４０  推進部
４１  ＧＰＳ受信機
４２  慣性計測装置
４３  磁気コンパス
４４  気圧高度計
４５  温度センサ
４６  湿度センサ
５０  ジンバル
６０  撮像装置
１００  撮像装置
１１０  Ｒ用撮像部
１１２  Ｒ用イメージセンサ
１１４  光学系
１２０  Ｇ用撮像部
１２２  Ｇ用イメージセンサ
１２４  光学系
１３０  Ｂ用撮像部
１３２  Ｂ用イメージセンサ
１３４  光学系
１４０  ＲＥ用撮像部
１４２  ＲＥ用イメージセンサ
１４４  光学系
１５０  ＮＩＲ用撮像部
１５２  ＮＩＲ用イメージセンサ
１５４  光学系
１６０  ＲＧＢ用撮像部
１７０  マルチプレックス
１７２  入力受付部
１７４  デモザイク処理部
１７８  記録処理部
１８０  撮像制御部
１８４  受付部
１８８  切替部
１９０  送信部
１９２  メモリ
１２００  コンピュータ
１２１０  ホストコントローラ
１２１２  ＣＰＵ
１２１４  ＲＡＭ
１２２０  入力／出力コントローラ
１２２２  通信インタフェース
１２３０  ＲＯＭ
【図１】
2020072289.tif 000003
【図２】
2020072289.tif 000004
【図３】
2020072289.tif 000005
【図４】
2020072289.tif 000006
【図５】
2020072289.tif 000007
【図６】
2020072289.tif 000008
【図７】
2020072289.tif 000009
【図８】
2020072289.tif 000010
【図９】
2020072289.tif 000011
【図１０】
2020072289.tif 000012
【図１１】
2020072289.tif 000013
【図１２】
2020072289.tif 000014
【図１３】
2020072289.tif 000015
【図１４】
2020072289.tif 000016
【手続補正書】
【提出日】令和1年10月18日(2019.10.18)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮像装置が備える第１イメージセンサから出力された第１波長帯域の第１画像信号、及び前記撮像装置が備える第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に前記第１画像信号を選択し、第２期間に前記第１画像信号及び前記第２画像信号を選択する選択部と、
前記選択部から前記第１期間に選択された前記第１画像信号に基づいて表示用の画像データを生成する第１生成部と、
前記選択部から前記第２期間に選択された前記第１画像信号及び前記第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する第２生成部と
を備え、
前記選択部は、前記撮像装置の位置が予め定められた位置である場合、前記第１期間から前記第２期間に移行する、画像処理装置。
【請求項２】
前記第１生成部が前記表示用の画像データを生成するごとに、前記表示用の画像データを表示装置に送信する送信部をさらに備える、請求項１に記載の画像処理装置。
【請求項３】
前記選択部は、前記第２生成部が前記記録用の画像データの生成、または前記記録用の画像データの記録部への記録が終了する前に、前記第２期間から前記第１期間に移行して、前記第１画像信号の選択を開始する、請求項１または２に記載の画像処理装置。
【請求項４】
前記表示用の画像データのデータ量は、前記記録用の画像データのデータ量より少ない、請求項１から３の何れか１つに記載の画像処理装置。
【請求項５】
前記第２生成部は、ＲＡＷ形式で前記記録用の画像データを生成する、請求項１から４の何れか１つに記載の画像処理装置。
【請求項６】
前記選択部は、前記第１画像信号、前記第２画像信号、前記撮像装置が備える第３イメージセンサから出力される第３波長帯域の第３画像信号、及び前記撮像装置が備える第４イメージセンサから出力される第４波長帯域の第４画像信号のうち、前記第１期間に前記第１画像信号、前記第３画像信号、及び前記第４画像信号を選択し、前記第２期間に前記第１画像信号、前記第２画像信号、前記第３画像信号、及び前記第４画像信号を選択し、
前記第１生成部は、前記選択部から前記第１期間に選択された前記第１画像信号、前記第３画像信号、及び前記第４画像信号に基づいて前記表示用の画像データを生成し、
前記第２生成部は、前記選択部から前記第２期間に選択された前記第１画像信号、前記第２画像信号、前記第３画像信号、及び前記第４画像信号に基づいて前記記録用の画像データを生成する、請求項１から５の何れか１つに記載の画像処理装置。
【請求項７】
前記選択部は、前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、及び前記撮像装置が備える第５イメージセンサから出力される第５波長帯域の第５画像信号のうち、前記第１期間に前記第１画像信号、前記第３画像信号、及び前記第４画像信号を選択し、前記第２期間に前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、及び前記第５画像信号を選択し、
前記第１生成部は、前記選択部から前記第１期間に選択された前記第１画像信号、前記第３画像信号、及び前記第４画像信号に基づいて前記表示用の画像データを生成し、
前記第２生成部は、前記選択部から前記第２期間に選択された前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、及び前記第５画像信号に基づいて前記記録用の画像データを生成する、請求項６に記載の画像処理装置。
【請求項８】
前記第１波長帯域は、赤色領域の波長帯域であり、
前記第２波長帯域は、レッドエッジ領域の波長帯域であり、
前記第３波長帯域は、緑色領域の波長帯域であり、
前記第４波長帯域は、青色領域の波長帯域であり、
前記第５波長帯域は、近赤外領域の波長帯域である、請求項７に記載の画像処理装置。
【請求項９】
前記選択部は、前記第１画像信号、前記第２画像信号、前記撮像装置が備える第３イメージセンサから出力される第３波長帯域の第３画像信号、前記撮像装置が備える第４イメージセンサから出力される第４波長帯域の第４画像信号、前記撮像装置が備える第５イメージセンサから出力される第５波長帯域の第５画像信号、及び前記撮像装置が備える第６イメージセンサから出力される第６波長帯域の第６画像信号のうち、前記第１期間に前記第１画像信号を選択し、前記第２期間に前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、前記第５画像信号、及び前記第６画像信号を選択し、
前記第１生成部は、前記選択部から前記第１期間に選択された前記第１画像信号に基づいて前記表示用の画像データを生成し、
前記第２生成部は、前記選択部から前記第２期間に選択された前記第１画像信号、前記第２画像信号、前記第３画像信号、前記第４画像信号、前記第５画像信号、及び前記第６画像信号に基づいて前記記録用の画像データを生成する、請求項１から５の何れか１つに記載の画像処理装置。
【請求項１０】
前記第１波長帯域は、第１赤色領域、第１緑色領域、及び第１青色領域の波長帯域であり、
前記第２波長帯域は、レッドエッジ領域の波長帯域であり、
前記第３波長帯域は、近赤外領域の波長帯域であり、
前記第４波長帯域は、前記第１赤色領域より狭い第２赤色領域の波長帯域であり、
前記第５波長帯域は、前記第１緑色領域より狭い第２緑色領域の波長帯域であり、
前記第６波長帯域は、前記第１青色領域より狭い第２青色領域の波長帯域である、請求項９に記載の画像処理装置。
【請求項１１】
前記記録用の画像データを記憶部に記憶する記憶指示を受け付ける受付部をさらに備え、
前記選択部は、前記受付部が前記記憶指示を受け付けると、前記第１期間から前記第２期間に移行する、請求項１から１０の何れか１つに記載の画像処理装置。
【請求項１２】
前記選択部は、予め定められたタイミングで、前記第１期間と前記第２期間とを切り替える、請求項１から１１の何れか１つに記載の画像処理装置。
【請求項１３】
撮像装置を備えて移動する移動体であって、
前記撮像装置は、
請求項１から１２の何れか１つに記載の画像処理装置と、
前記第１イメージセンサと、
前記第２イメージセンサと、
を備え、
前記移動体は、飛行体であり、
前記選択部は、予め定められた時間、前記飛行体がホバリングを継続している場合、前記第１期間から前記第２期間へ切り替える、移動体。
【請求項１４】
撮像装置を備えて移動する移動体であって、
前記撮像装置は、
第１イメージセンサと、
第２イメージセンサと、
前記第１イメージセンサから出力された第１波長帯域の第１画像信号、及び前記第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に前記第１画像信号を選択し、第２期間に前記第１画像信号及び前記第２画像信号を選択する選択部と、
前記選択部から前記第１期間に選択された前記第１画像信号に基づいて表示用の画像データを生成する第１生成部と、
前記選択部から前記第２期間に選択された前記第１画像信号及び前記第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する第２生成部と
を備え、
前記移動体は、飛行体であり、
前記選択部は、予め定められた時間、前記飛行体がホバリングを継続している場合、前記第１期間から前記第２期間へ切り替える、移動体。
【請求項１５】
予め定められた経路に沿って前記移動体を移動させる制御部を備える、請求項１３または１４に記載の移動体。
【請求項１６】
撮像装置が備える第１イメージセンサから出力された第１波長帯域の第１画像信号、及び前記撮像装置が備える第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に前記第１画像信号を選択し、第２期間に前記第１画像信号及び前記第２画像信号を選択する段階と、
前記第１期間に選択された前記第１画像信号に基づいて表示用の画像データを生成する段階と、
前記第２期間に選択された前記第１画像信号及び前記第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する段階と
を備え、
前記選択する段階は、前記撮像装置の位置が予め定められた位置である場合、前記第１期間から前記第２期間に移行する段階を含む、画像処理方法。
【請求項１７】
飛行体に搭載された撮像装置が備える第１イメージセンサから出力された第１波長帯域の第１画像信号、及び前記撮像装置が備える第２イメージセンサから出力された第２波長帯域の第２画像信号のうち、第１期間に前記第１画像信号を選択し、第２期間に前記第１画像信号及び前記第２画像信号を選択する段階と、
前記第１期間に選択された前記第１画像信号に基づいて表示用の画像データを生成する段階と、
前記第２期間に選択された前記第１画像信号及び前記第２画像信号に基づいて予め定められた記録形式に従って記録用の画像データを生成する段階と
を備え、
前記選択する段階は、予め定められた時間、前記飛行体がホバリングを継続している場合、前記第１期間から前記第２期間へ切り替える段階を含む、画像処理方法。
【請求項１８】
請求項１から１２の何れか１つに記載の画像処理装置としてコンピュータを機能させるためのプログラム。