(57)【特許請求の範囲】
【請求項１】
撮像された画像の空間周波数帯域を導出する導出部と、
前記導出部により導出された前記画像の前記空間周波数帯域に基づいて、撮像面とレンズとの位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいてオートフォーカス処理を実行する第１ＡＦ処理と、位相差方式でオートフォーカス処理を実行する第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、前記撮像面と前記レンズとの位置関係を制御する制御部と
を備え、
前記制御部は、前記導出部により導出された前記画像の前記空間周波数帯域のうち前記第２ＡＦ処理に対して予め定められた空間周波数帯域に含まれる空間周波数帯域の割合が第１閾値以上である場合、前記第２ＡＦ処理を選択し、前記割合が前記第１閾値より小さく、かつ第２閾値以上である場合、前記第１ＡＦ処理と前記第２ＡＦ処理とを組み合わせ、前記第２閾値より小さい場合、前記第１ＡＦ処理を選択することで、前記撮像面と前記レンズとの位置関係を制御する、撮像制御装置。
【請求項２】
前記制御部は、前記導出部に導出された前記画像の前記空間周波数帯域を、位相差検出用信号を生成する複数の画素によって再現可能な予め定められた空間周波数帯域と比較することにより、前記第１ＡＦ処理と前記第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、前記撮像面と前記レンズとの位置関係を制御する、請求項１に記載の撮像制御装置。
【請求項３】
前記第２ＡＦ処理は、前記複数の画素、及び色成分信号を生成する複数の他の画素が予め定められた配列パターンで配置されるイメージセンサから出力される前記位相差検出用信号に基づいて実行される、請求項２に記載の撮像制御装置。
【請求項４】
請求項１から３の何れか１つに記載の撮像制御装置と、
前記撮像面を有するイメージセンサと
前記レンズと
を備える撮像装置。
【請求項５】
請求項４に記載の撮像装置と、
前記撮像装置を支持する支持機構と
を備える撮像システム。
【請求項６】
請求項５に記載の撮像システムを搭載して移動する移動体。
【請求項７】
撮像された画像の空間周波数帯域を導出する段階と、
導出された前記画像の前記空間周波数帯域に基づいて、撮像面とレンズとの位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいてオートフォーカス処理を実行する第１ＡＦ処理と、位相差方式でオートフォーカス処理を実行する第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、前記撮像面と前記レンズとの位置関係を制御する段階と
を備え、
前記制御する段階は、前記導出する段階で導出された前記画像の前記空間周波数帯域のうち前記第２ＡＦ処理に対して予め定められた空間周波数帯域に含まれる空間周波数帯域の割合が第１閾値以上である場合、前記第２ＡＦ処理を選択し、前記割合が前記第１閾値より小さく、かつ第２閾値以上である場合、前記第１ＡＦ処理と前記第２ＡＦ処理とを組み合わせ、前記第２閾値より小さい場合、前記第１ＡＦ処理を選択することで、前記撮像面と前記レンズとの位置関係を制御する段階を含む、撮像制御方法。
【請求項８】
請求項１から３の何れか１つに記載の撮像制御装置としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像制御装置、撮像装置、撮像システム、移動体、撮像制御方法、及びプログラムに関する。
【背景技術】
【０００２】
２つの視差画像を用いたオートフォーカス処理（ＡＦ処理）、及び特許文献１のように、異なる撮影パラメータで撮像したぼけ量の異なる複数の画像を用いたＡＦ処理などが知られている。
特許文献１  特許第５９３２４７６号公報
【解決しようとする課題】
【０００３】
画像のぼけ量を用いるＡＦ処理によれば、少なくとも２枚の画像を撮像する必要があり、ＡＦ処理の時間が長くなる場合がある。２つの視差画像を用いるＡＦ処理によれば、画像の空間周波数に高周波成分などの特定の周波数成分が含まれる場合にＡＦ処理の精度が低下する場合がある。
【一般的開示】
【０００４】
本発明の一態様に係る撮像制御装置は、撮像された画像の空間周波数帯域を導出する導出部を備えてよい。撮像制御装置は、導出部により導出された画像の空間周波数帯域に基づいて、撮像面とレンズとの位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいてオートフォーカス処理を実行する第１ＡＦ処理と、位相差方式でオートフォーカス処理を実行する第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、撮像面とレンズとの位置関係を制御する制御部を備えてよい。
【０００５】
制御部は、導出部により導出された画像の空間周波数帯域と、第２ＡＦ処理に対して予め定められた空間周波数帯域とに基づいて第１ＡＦ処理と第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、撮像面とレンズとの位置関係を制御してよい。
【０００６】
制御部は、導出部により導出された画像の空間周波数帯域のうち予め定められた空間周波数帯域に含まれる空間周波数帯域の割合に基づいて、第１ＡＦ処理と第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、撮像面とレンズとの位置関係を制御してよい。
【０００７】
制御部は、割合が閾値以上である場合、第２ＡＦ処理を選択し、割合が閾値より小さい場合、第１ＡＦ処理を選択することで、撮像面とレンズとの位置関係を制御してよい。
【０００８】
制御部は、割合が第１閾値以上である場合、第２ＡＦ処理を選択し、割合が第１閾値より小さく、かつ第２閾値以上である場合、第１ＡＦ処理と第２ＡＦ処理とを組み合わせ、第２閾値より小さい場合、第１ＡＦ処理を選択することで、撮像面とレンズとの位置関係を制御してよい。
【０００９】
制御部は、導出部に導出された画像の空間周波数帯域を、位相差検出用信号を生成する複数の画素によって再現可能な予め定められた空間周波数帯域と比較することにより、第１ＡＦ処理と第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、撮像面とレンズとの位置関係を制御してよい。
【００１０】
第２ＡＦ処理は、複数の画素、及び色成分信号を生成する複数の他の画素が予め定められた配列パターンで配置されるイメージセンサから出力される位相差検出用信号に基づいて実行されてよい。
【００１１】
本発明の一態様に係る撮像装置は、上記撮像制御装置を備えてよい。撮像装置は、撮像面を有するイメージセンサを備えてよい。撮像装置は、レンズを備えてよい。
【００１２】
本発明の一態様に係る撮像システムは、上記撮像装置を備えてよい。撮像システムは、撮像装置を支持する支持機構を備えてよい。
【００１３】
本発明の一態様に係る移動体は、上記撮像システムを搭載して移動してよい。
【００１４】
本発明の一態様に係る撮像制御方法は、撮像された画像の空間周波数帯域を導出する段階を備えてよい。撮像制御方法は、導出された画像の空間周波数帯域に基づいて、撮像面とレンズとの位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいてオートフォーカス処理を実行する第１ＡＦ処理と、位相差方式でオートフォーカス処理を実行する第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、撮像面とレンズとの位置関係を制御する段階を備えてよい。
【００１５】
本発明の一態様に係るプログラムは、撮像された画像の空間周波数帯域を導出する段階をコンピュータに実行させてよい。プログラムは、導出された画像の空間周波数帯域に基づいて、撮像面とレンズとの位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいてオートフォーカス処理を実行する第１ＡＦ処理と、位相差方式でオートフォーカス処理を実行する第２ＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、撮像面とレンズとの位置関係を制御する段階をコンピュータに実行させてよい。
【００１６】
本発明の一態様によれば、ＡＦ処理の時間の増大と、ＡＦ処理の精度の低下とをバランスよく抑制できる。
【００１７】
上記の発明の概要は、本発明の特徴の全てを列挙したものではない。これらの特徴群のサブコンビネーションも発明となりうる。
【図面の簡単な説明】
【００１８】
【図１】無人航空機及び遠隔操作装置の外観の一例を示す図である。
【図２】無人航空機の機能ブロックの一例を示す図である。
【図３】ぼけ量とレンズ位置との関係を示す曲線の一例を示す図である。
【図４】ぼけ量に基づいてオブジェクトまでの距離を算出する手順の一例を示す図である。
【図５】オブジェクトの位置、レンズの位置、及び焦点距離との関係について説明するための図である。
【図６】イメージセンサの画素配列の一例を示す図である。
【図７Ａ】画像の空間周波数帯域の割合について説明するための図である。
【図７Ｂ】画像の空間周波数帯域の割合について説明するための図である。
【図８】ＡＦ処理の手順の一例を示すフローチャートである。
【図９】ＡＦ処理の手順の一例を示すふとーチャートである。
【図１０】ハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【００１９】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。
【００２０】
請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
【００２１】
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。
【００２２】
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（ＲＴＭ）ディスク、メモリスティック、集積回路カード等が含まれてよい。
【００２３】
コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
【００２４】
図１は、無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備える。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、推進部により推進される移動体の一例である。移動体とは、ＵＡＶの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
【００２５】
ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。
【００２６】
撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。
【００２７】
複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。
【００２８】
遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。
【００２９】
図２は、ＵＡＶ１０の機能ブロックの一例を示す。ＵＡＶ１０は、ＵＡＶ制御部３０、メモリ３２、通信インタフェース３４、推進部４０、ＧＰＳ受信機４１、慣性計測装置４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、ジンバル５０、及び撮像装置１００を備える。
【００３０】
通信インタフェース３４は、遠隔操作装置３００などの他の装置と通信する。通信インタフェース３４は、遠隔操作装置３００からＵＡＶ制御部３０に対する各種の命令を含む指示情報を受信してよい。メモリ３２は、ＵＡＶ制御部３０が、推進部４０、ＧＰＳ受信機４１、慣性計測装置（ＩＭＵ）４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、ジンバル５０、撮像装置６０、及び撮像装置１００を制御するのに必要なプログラム等を格納する。メモリ３２は、コンピュータ読み取り可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリ等のフラッシュメモリの少なくとも１つを含んでよい。メモリ３２は、ＵＡＶ本体２０の内部に設けられてよい。ＵＡＶ本体２０から取り外し可能に設けられてよい。
【００３１】
ＵＡＶ制御部３０は、メモリ３２に格納されたプログラムに従ってＵＡＶ１０の飛行及び撮像を制御する。ＵＡＶ制御部３０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。ＵＡＶ制御部３０は、通信インタフェース３４を介して遠隔操作装置３００から受信した命令に従って、ＵＡＶ１０の飛行及び撮像を制御する。推進部４０は、ＵＡＶ１０を推進させる。推進部４０は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部４０は、ＵＡＶ制御部３０からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、ＵＡＶ１０を飛行させる。
【００３２】
ＧＰＳ受信機４１は、複数のＧＰＳ衛星から発信された時刻を示す複数の信号を受信する。ＧＰＳ受信機４１は、受信された複数の信号に基づいてＧＰＳ受信機４１の位置、つまりＵＡＶ１０の位置を算出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢を検出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢として、ＵＡＶ１０の前後、左右、及び上下の３軸方向の加速度と、ピッチ、ロール、及びヨーの３軸方向の角速度とを検出する。磁気コンパス４３は、ＵＡＶ１０の機首の方位を検出する。気圧高度計４４は、ＵＡＶ１０が飛行する高度を検出する。気圧高度計４４は、ＵＡＶ１０の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ４５は、ＵＡＶ１０の周囲の温度を検出する。
【００３３】
撮像装置１００は、撮像部１０２及びレンズ部２００を備える。レンズ部２００は、レンズ装置の一例である。撮像部１０２は、イメージセンサ１２０、撮像制御部１１０、及びメモリ１３０を有する。イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、複数のレンズ２１０を介して結像された光学像の画像データを撮像制御部１１０に出力する。撮像制御部１１０は、ＣＰＵまたはＭＰＵなどのマイクロプロセッサ、ＭＣＵなどのマイクロコントローラなどにより構成されてよい。撮像制御部１１０は、ＵＡＶ制御部３０からの撮像装置１００の動作命令に応じて、撮像装置１００を制御してよい。メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。メモリ１３０は、撮像制御部１１０がイメージセンサ１２０などを制御するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。メモリ１３０は、撮像装置１００の筐体から取り外し可能に設けられてよい。
【００３４】
レンズ部２００は、複数のレンズ２１０、レンズ移動機構２１２、及びレンズ制御部２２０を有する。複数のレンズ２１０は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ２１０の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部２００は、撮像部１０２に対して着脱可能に設けられる交換レンズでよい。レンズ移動機構２１２は、複数のレンズ２１０の少なくとも一部または全部を光軸に沿って移動させる。レンズ制御部２２０は、撮像部１０２からのレンズ制御命令に従って、レンズ移動機構２１２を駆動して、１または複数のレンズ２１０を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。
【００３５】
このように構成された撮像装置１００は、オートフォーカス処理（ＡＦ処理）を実行して、所望の被写体を撮像する。
【００３６】
撮像装置１００は、ＡＦ処理を実行するために、レンズから被写体までの距離（被写体距離）を決定する。被写体距離を決定するための方式として、レンズと撮像面との位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいて決定する方式がある。ここで、この方式を、ぼけ検出オートフォーカス（Ｂｏｋｅｈ  Ｄｅｔｅｃｔｉｏｎ  Ａｕｔｏ  Ｆｏｕｃｕｓ：ＢＤＡＦ）方式と称する。
【００３７】
例えば、画像のぼけ量（Ｃｏｓｔ）は、ガウシアン関数を用いて次式（１）で表すことができる。式（１）において、ｘは、水平方向における画素位置を示す。σは、標準偏差値を示す。
【数１】
0006503607.tif 000002
【００３８】
図３は、式（１）に表される曲線の一例を示す。曲線５００の極小点５０２に対応するレンズ位置にフォーカスレンズを合わせることで、画像Ｉに含まれるオブジェクトに焦点を合わせることができる。
【００３９】
図４は、ＢＤＡＦ方式の距離算出手順の一例を示すフローチャートである。まず、撮像装置１００で、レンズと撮像面とが第１位置関係にある状態で、１枚目の画像Ｉ１を撮像してメモリ１３０に格納する。次いで、フォーカスレンズまたはイメージセンサ１２０の撮像面を光軸方向に移動させることで、レンズと撮像面とが第２位置関係にある状態にして、撮像装置１００で２枚目の画像Ｉ２を撮像してメモリ１３０に格納する（Ｓ１０１）。例えば、いわゆる山登りＡＦのように、合焦点を超えないようにフォーカスレンズまたはイメージセンサ１２０の撮像面を光軸方向に移動させる。フォーカスレンズまたはイメージセンサ１２０の撮像面の移動量は、例えば、１０μｍでよい。
【００４０】
次いで、撮像装置１００は、画像Ｉ１を複数の領域に分割する（Ｓ１０２）。画像Ｉ２内の画素ごとに特徴量を算出して、類似する特徴量を有する画素群を一つの領域として画像Ｉ１を複数の領域に分割してよい。画像Ｉ１のうちＡＦ処理枠に設定されている範囲の画素群を複数の領域に分割してもよい。撮像装置１００は、画像Ｉ１の複数の領域に対応する複数の領域に画像Ｉ２を分割する。撮像装置１００は、画像Ｉ１の複数の領域のそれぞれのぼけ量と、画像Ｉ２の複数の領域のそれぞれのぼけ量とに基づいて、複数の領域ごとに複数の領域のそれぞれに含まれるオブジェクトまでの距離を算出する（Ｓ１０３）。
【００４１】
図５を参照して距離の算出手順についてさらに説明する。レンズＬ（主点）からオブジェクト５１０（物面）までの距離をＡ、レンズＬ（主点）からオブジェクト５１０が撮像面で結像する位置（像面）までの距離をＢ、焦点距離をＦとする。この場合、距離Ａ、離Ｂ、及び焦点距離Ｆの関係は、レンズの公式から次式（２）で表すことができる。
【数２】
0006503607.tif 000003
【００４２】
焦点距離Ｆはレンズ位置で特定される。したがって、オブジェクト５１０が撮像面で結像する距離Ｂが特定できれば、式（２）を用いて、レンズＬからオブジェクト５１０までの距離Ａを特定することができる。
【００４３】
図５に示すように、撮像面上に投影されたオブジェクト５１０のぼけの大きさ（錯乱円５１２及び５１４）からオブジェクト５１０が結像する位置を算出することで、距離Ｂを特定し、さらに距離Ａを特定することができる。つまり、ぼけの大きさ（ぼけ量）が撮像面と結像位置とに比例することを考慮して、結像位置を特定できる。
【００４４】
ここで、撮像面から近い像Ｉ１からレンズＬまでの距離をＤ１とする。像面から遠い像Ｉ２からレンズＬまでの距離をＤ２とする。それぞれの画像はぼけている。このときの点像分布関数（Ｐｏｉｎｔ  Ｓｐｒｅａｄ  Ｆｕｎｃｔｉｏｎ）をＰＳＦ、Ｄ１及びＤ２における画像をそれぞれ、Ｉｄ１及びＩｄ２とする。この場合、例えば、像Ｉ１は、畳み込み演算により次式（３）で表すことができる。
【数３】
0006503607.tif 000004
【００４５】
さらに、画像データＩｄ１及びＩｄ２のフーリエ変換関数をｆとして、画像Ｉｄ１及びＩｄ２の点像分布関数ＰＳＦ１及びＰＳＦ２をフーリエ変換した光学伝達関数（Ｏｐｔｉｃａｌ  Ｔｒａｎｓｆｅｒ  Ｆｕｎｃｔｉｏｎ）をＯＴＦ１及びＯＴＦ２として、次式（４）のように比をとる。
【数４】
0006503607.tif 000005
【００４６】
式（４）に示す値Ｃは、画像Ｉｄ１及びＩｄ２のそれぞれのぼけ量の変化量、つまり、値Ｃは、画像Ｉｄ１のぼけ量と画像Ｉｄ２ｎのぼけ量との差に相当する。
【００４７】
上記のようなＢＤＡＦ方式によれば、少なくとも２枚の画像を取得する必要があるので、ＡＦ処理に時間がかかる場合がある。
【００４８】
ＡＦ処理の時間を比較的短くできる手法として、２つの視差画像を用いてＡＦ処理を行う位相差ＡＦ処理方式が知られている。位相差ＡＦ処理方式には、像面位相差ＡＦ（ＰＤＡＦ）方式がある。ＰＤＡＦ方式によれば、例えば、図６に示すように複数の画素が配置されたイメージセンサが用いられる。イメージセンサは、色成分検出用信号を出力するベイヤ配列の画素ブロックからなる画素列６００と、位相差検出用信号を出力する画素を含む画素ブロックからなる画素列６０２及び画素列６０４とを含む。画素列６０２に含まれる位相差検出用信号を出力する画素Ｐ１と、画素列６０４に含まれる位相差検出用信号を出力する画素Ｐ２とは、光が入射する方向が異なる。よって、画素Ｐ１から得られる画像と、画素Ｐ２から得られる画像とから位相が異なる画像が得られる。そして、画素Ｐ１から得られる画像に含まれる像と、画素Ｐ２から得られる画像に含まれる像とのずれの量及び方向に基づいて被写体までの距離を導出できる。
【００４９】
ＰＤＡＦ方式は、ＢＤＡＦ方式よりも高速にＡＦ処理を実行できる場合が多い。しかし、位相差検出用の画素同士は、比較的間隔が空いている。したがって、画像Ｐ１及び画素Ｐ２から得られる画像の画質は比較的低い。そのため、イメージセンサで撮像される画像の空間周波数帯域に高周波成分が多く含まれると、ＡＦ処理の精度が低下する場合がある。
【００５０】
そこで、本実施形態に係る撮像装置１００によれば、ＢＤＡＦ方式のＡＦ処理と、ＰＡＤＦ方式のＡＦ処理とを、画像の空間周波数帯域に基づいて一方を選択する、または両方を組み合わせることで、ＡＦ処理を実行する。
【００５１】
撮像制御部１１０は、導出部１１２、及び合焦制御部１１４を有する。導出部１１２は、イメージセンサ１２０により撮像された画像の空間周波数帯域を導出する。導出部１１２は、画像に対してフーリエ変換を行うことで、画像を空間周波数成分ごとに分解することで、画像の空間周波数帯域を導出してよい。
【００５２】
合焦制御部１１４は、導出部１１２により導出された画像の空間周波数帯域に基づいて、イメージセンサ１２０の撮像面とレンズ２１０との位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいてオートフォーカス処理を実行するＢＤＡＦ処理と、位相差方式でオートフォーカス処理を実行するＰＤＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御する。合焦制御部１１４は、画像の空間周波数帯域に基づいて、ＢＤＡＦ処理とＰＤＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、フォーカスレンズの位置を制御してよい。合焦制御部１１４は、制御部の一例である。ＢＤＡＦ処理は、第１ＡＦ処理の一例である。ＰＦＡＦ処理は、第２ＡＦ処理の一例である。
【００５３】
合焦制御部１１４は、導出部１１２により導出された画像の空間周波数帯域と、ＰＤＡＦ処理に対して予め定められた空間周波数帯域とに基づいてＢＤＡＦ処理とＰＤＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御してよい。合焦制御部１１４は、導出部１１２により導出された画像の空間周波数帯域のうち予め定められた空間周波数帯域に含まれる空間周波数帯域の割合に基づいて、ＢＤＡＦ処理とＰＤＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御してよい。
【００５４】
合焦制御部１１４は、割合が閾値以上である場合、ＰＤＡＦ処理を選択し、割合が閾値より小さい場合、ＢＤＡＦ処理を選択することで、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御してよい。合焦制御部１１４は、割合が第１閾値以上である場合、ＰＤＡＦ処理を選択し、割合が第１閾値より小さく、かつ第２閾値以上である場合、ＢＤＡＦ処理とＰＤＡＦ処理とを組み合わせ、第２閾値より小さい場合、ＢＤＡＦ処理を選択することで、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御してよい。合焦制御部１１４は、例えば、ＢＤＡＦ処理により特定される被写体までの距離と、ＰＡＤＦ処理により特定される被写体までの距離とにそれぞれ重み付けを行い、重み付けされた距離に基づいて、フォーカスレンズの位置を制御してよい。合焦制御部１１４は、割合の大きさにより、ＢＤＡＦ処理及びＰＤＡＦ処理の重み付けの大きさを変えてよい。
【００５５】
合焦制御部１１４は、導出部１１２に導出された画像の空間周波数帯域を、位相差検出用信号を生成する複数の画素によって再現可能な予め定められた空間周波数帯域と比較することにより、ＢＤＡＦ処理とＰＤＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御してよい。
【００５６】
合焦制御部１１４は、位相差検出用信号を生成する複数の画素及び、及び色成分信号を生成する複数の他の画素が予め定められた配列パターンで配置されるイメージセンサ１２０から出力される位相差検出用信号に基づいてＰＤＡＦ処理を実行してよい。位相差検出用信号を生成する複数の画素は、例えば、図６に示される画素Ｐ１及び画素Ｐ２である。色成分信号を生成する複数の他の画素は、例えば、図６に示される画素Ｒ、画素Ｇ、及び画素Ｂである。予め定められた空間周波数帯域は、例えば、画素Ｐ１及び画素Ｐ２によって再現可能な空間周波数帯域でよい。
【００５７】
図７Ａ及び図７Ｂに示すように、画素Ｒ、画素Ｇ、及び画素Ｂで再現可能な空間周波数帯域は、例えば、領域７００である。一方、画素Ｐ１及び画素Ｐ２で再現可能な空間周波数帯域は、例えば、領域７０２である。領域７００及び領域７０２はそれぞれ低周波成分を含む。領域７０２に含まれる周波数成分は、領域７００に含まれる周波数成分より高周波成分の割合が少ない。したがって、イメージセンサ１２０により撮像される画像が高周波成分を多く含む場合、画素Ｐ１及び画素Ｐ２で再現可能な空間周波数成分が少なく、合焦制御部１１４は、ＰＤＡＦ処理により精度よくＡＦ処理を実行できない場合がある。
【００５８】
一方、ＢＤＡＦ処理は、色成分信号に基づいて実行される。つまり、合焦制御部１１４は、領域７００の範囲の空間周波数帯域を含む画像に対して、精度よくＢＤＡＦ処理を実行できる。
【００５９】
図７Ａ及び図７Ｂは、空間周波数と、空間周波数のゲインとの関係を示す。ゲインが大きいほど、そのゲインに対応する空間周波数成分が画像に多く含まれる。図７Ａ及び図７Ｂにおいて、領域７１０は、導出部１１２により導出された画像の空間周波数帯域に対応する領域である。領域７１２は、画像の空間周波数帯域のうち領域７０２に含まれる画像の空間周波数帯域に対応する領域である。合焦制御部１１４は、領域７１０の面積に対する領域７１２の面積の割合に基づいて、ＢＤＡＦ処理とＰＤＡＦ処理との何れか一方を選択する、または両方を組み合わせることで、フォーカスレンズの位置を制御してよい。
【００６０】
合焦制御部１１４は、例えば、図７Ａに示すように、領域７１２の割合が予め定められた閾値以上であれば、ＰＤＡＦ処理を選択して、フォーカスレンズの位置を制御してよい。一方、合焦制御部１１４は、図７Ｂに示すように、領域７１２の割合が予め定められた閾値より小さい場合には、ＢＤＡＦ処理を選択して、フォーカスレンズの位置を制御してよい。
【００６１】
合焦制御部１１４は、導出部１１２により導出された画像の空間周波数帯域に含まれる最大の空間周波数成分が、予め定められた空間周波数成分以下であれば、ＰＤＡＦ処理を選択し、最大の空間周波数成分が予め定められた空間周波数成分より大きければ、ＢＤＡＦ処理を選択し、フォーカスレンズの位置を制御してよい。予め定められた空間周波数成分は、例えば、画素Ｐ１及び画素Ｐ２で再現可能な空間周波数帯域のうち最大の空間周波数成分に基づいて定めらえてよい。
【００６２】
図８は、ＡＦ処理の手順の一例を示すフローチャートである。まず、導出部１１２が、イメージセンサ１２０により撮像された画像を取得する。導出部１１２は、画像の空間周波数帯域を導出する。さらに、導出部１１２は、画像の空間周波数帯域のうち、ＰＤＡＦ処理に対して予め定められた空間周波数帯域に占める割合Ｂを導出する（Ｓ２００）。
【００６３】
合焦制御部１１４は、導出された割合Ｂが予め定められた第１閾値Ｔｈ１以上か否かを判定する（Ｓ２０２）。割合Ｂが第１閾値Ｔｈ１以上であれば、合焦制御部１１４は、ＰＤＡＦ処理を選択して、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御する（Ｓ２０４）。一方、割合Ｂが第１閾値Ｔｈ１より小さければ、合焦制御部１１４は、ＢＤＡＦ処理を選択して、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御する（Ｓ２０６）。
【００６４】
このように、ＡＦ処理に利用される画像に含まれる空間周波数成分に基づいて、合焦制御部１１４は、ＰＤＡＦ処理及びＢＤＡＦ処理を切り替える。これにより、画像に高周波成分が多く含まれる場合に、合焦制御部１１４がＰＤＡＦ処理を実行することで、ＡＦ処理の精度が低下することを防止できる。また、画像に高周波成分が多く含まれない場合に、合焦制御部１１４がＢＤＡＦ処理を実行することで、ＡＦ処理に時間がかかることを防止できる。よって、本実施形態に係る撮像装置１００によれば、ＡＦ処理の時間の増大と、ＡＦ処理の精度の低下とをバランスよく抑制できる。第１閾値Ｔｈを境界として低周波成分と高周波成分とを区別してもよい。
【００６５】
図９は、ＡＦ処理の手順の他の一例を示すフローチャートである。まず、導出部１１２は、画像の空間周波数帯域を導出する。さらに、導出部１１２は、画像の空間周波数帯域のうち、ＰＤＡＦ処理に対して予め定められた空間周波数帯域に占める割合Ｂを導出する（Ｓ３００）。
【００６６】
合焦制御部１１４は、導出された割合Ｂが予め定められた第１閾値Ｔｈ１以上か否かを判定する（Ｓ３０２）。割合Ｂが第１閾値Ｔｈ１以上であれば、合焦制御部１１４は、ＰＤＡＦ処理を選択して、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御する（Ｓ３０４）。一方、割合Ｂが第１閾値Ｔｈ１より小さければ、合焦制御部１１４は、割合Ｂが第１閾値Ｔｈ１より小さく、かつ予め定められた第２閾値Ｔｈ２以上か否かを判定する（Ｓ３０６）。
【００６７】
割合Ｂが第１閾値Ｔｈ１より小さく、かつ予め定められた第２閾値Ｔｈ２以上であれば、合焦制御部１１４は、ＰＤＡＦ処理とＢＤＡＦ処理とを組み合わせて、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御する（Ｓ３０８）。例えば、合焦制御部１１４は、ＰＤＡＦ処理で特定されるフォーカスレンズの位置と、ＢＤＡＦ処理で特定されるフォーカスレンズの位置とに基づいて、フォーカスレンズの位置を制御してよい。合焦制御部１１４は、ＰＤＡＦ処理及びＢＤＡＦ処理で特定されるフォーカスレンズの位置のそれぞれに割合Ｂに応じた重み付けを行い、重み付けされたそれぞれの距離に基づいて、フォーカスレンズの位置を制御してよい。割合Ｂが大きいほど、ＰＤＡＦ処理で特定される距離の重み付けが、ＢＤＡＦ処理で特定される距離の重み付けより大きくなるように、合焦制御部１１４は、それぞれの距離に対して重み付けを行ってよい。
【００６８】
割合Ｂが第２閾値より小さければ、合焦制御部１１４は、ＢＤＡＦ処理を選択して、イメージセンサ１２０の撮像面とレンズ２１０との位置関係を制御する（Ｓ３１０）。
【００６９】
以上の通り、画像に含まれる空間周波数成分に基づいて、合焦制御部１１４は、ＰＤＡＦ処理及びＢＤＡＦ処理を切り替える、またはＰＤＡＦ処理及びＢＤＡＦ処理を組み合わせることで、ＡＦ処理を実行する。これにより、画像に高周波成分が多く含まれる場合に、合焦制御部１１４がＰＤＡＦ処理を実行して、ＡＦ処理の精度が低下することを防止できる。また、画像に高周波成分が多く含まれない場合に、合焦制御部１１４がＢＤＡＦ処理を実行して、ＡＦ処理に時間がかかることを防止できる。割合Ｂが例えば５０％前後の場合、ＰＤＡＦ処理及びＢＤＡＦ処理のいずれか一方のみを選択するのではなく、ＰＤＡＦ処理及びＢＤＡＦ処理を組み合わせてＡＦ処理を実行する。これにより、割合Ｂが例えば５０％前後の場合に、ＰＤＡＦ処理及びＢＤＡＦ処理のいずれか一方のみでＡＦ処理を実行する場合よりもＡＦ処理の精度を向上させることができる。よって、本実施形態に係る撮像装置１００によれば、ＡＦ処理の時間の増大と、ＡＦ処理の精度の低下とをバランスよく抑制できる。
【００７０】
図１０は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。
【００７１】
本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
【００７２】
通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
【００７３】
例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
【００７４】
また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。
【００７５】
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。
【００７６】
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。
【００７７】
請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【符号の説明】
【００７８】
１０  ＵＡＶ
２０  ＵＡＶ本体
３０  ＵＡＶ制御部
３２  メモリ
３４  通信インタフェース
４０  推進部
４１  ＧＰＳ受信機
４２  慣性計測装置
４３  磁気コンパス
４４  気圧高度計
４５  温度センサ
５０  ジンバル
６０  撮像装置
１００  撮像装置
１０２  撮像部
１１０  撮像制御部
１１２  導出部
１１４  合焦制御部
１２０  イメージセンサ
１３０  メモリ
２００  レンズ部
２１０  レンズ
２１２  レンズ移動機構
２２０  レンズ制御部
３００  遠隔操作装置
１２００  コンピュータ
１２１０  ホストコントローラ
１２１２  ＣＰＵ
１２１４  ＲＡＭ
１２２０  入力／出力コントローラ
１２２２  通信インタフェース
１２３０  ＲＯＭ
【図１】
0006503607.tif 000006
【図２】
0006503607.tif 000007
【図３】
0006503607.tif 000008
【図４】
0006503607.tif 000009
【図５】
0006503607.tif 000010
【図６】
0006503607.tif 000011
【図７Ａ】
0006503607.tif 000012
【図７Ｂ】
0006503607.tif 000013
【図８】
0006503607.tif 000014
【図９】
0006503607.tif 000015
【図１０】
0006503607.tif 000016