(57)【要約】      （修正有）【課題】フォーカスレンズなどの光学系が備えるレンズの移動に、歪曲歪などにより意図しない画角変動が生じることのない画像処理装置、撮像装置、無人航空機、画像処理方法及びプログラムを提供する。【解決手段】撮像装置において、撮像部１０２の画像処理部１０４は、撮像素子（イメージセンサ１２０）の露光期間中に移動するレンズ部２００の複数のレンズ２１０、２１１の複数の位置を示す情報を取得する取得部１４２と、複数の位置に基づいて、露光期間にレンズを通じて撮像素子を露光することにより取得された画像を補正する補正部１４０とを備える。画像処理方法は、撮像素子の露光期間中に移動するレンズの複数の位置を示す情報を取得する段階と、複数の位置に基づいて、露光期間にレンズを通じて撮像素子を露光することにより取得された画像を補正する段階とを備える。【選択図】図２
2020123897.tif 000002
【特許請求の範囲】
【請求項１】
撮像素子の露光期間中に移動するレンズの複数の位置を示す情報を取得する取得部と、
前記複数の位置に基づいて、前記露光期間に前記レンズを通じて前記撮像素子を露光することにより取得された画像を補正する補正部と
を備える画像処理装置。
【請求項２】
前記補正部は、前記複数の位置に基づいて、前記露光期間内における前記レンズの平均的な位置を算出し、算出した前記レンズの平均的な位置に基づいて、前記画像の歪みを補正する
請求項１に記載の画像処理装置。
【請求項３】
前記補正部は、前記レンズの平均的な位置と、前記レンズの位置に対応づけられた歪係数とに基づいて、前記画像の歪みを補正する
請求項２に記載の画像処理装置。
【請求項４】
前記補正部は、前記複数の位置及び前記撮像素子が備える複数の画素の位置に基づいて、前記複数の位置及び前記複数の画素の組み合わせ毎に、前記画像上で前記複数の画素のそれぞれに対応する複数の画素位置を算出し、前記複数の画素のそれぞれについて前記複数の画素位置の平均的な位置を算出することにより、前記画像を補正する
請求項１に記載の画像処理装置。
【請求項５】
前記撮像素子は、前記撮像素子が備える複数の画素列毎に異なる露光期間で露光され、
前記取得部は、前記複数の画素列のそれぞれの露光期間中に移動するレンズの複数の位置を示す情報を取得し、
前記補正部は、前記複数の画素列のそれぞれの露光期間中の前記複数の位置に基づいて、前記複数の画素列のそれぞれにより取得された前記画像を補正する
請求項１又は２に記載の画像処理装置。
【請求項６】
前記レンズは、光軸方向に移動可能なフォーカスレンズである
請求項１又は２に記載の画像処理装置。
【請求項７】
前記レンズは、前記レンズを含む光学系の焦点を調節をするために、前記露光期間中に前記光軸方向に往復移動し、
前記取得部は、前記露光期間中の前記往復移動における前記レンズの複数の位置を示す情報を取得する
請求項６に記載の画像処理装置。
【請求項８】
前記レンズは、前記レンズを含む光学系の焦点を調節をするために、前記露光期間中に前記光軸方向に一方向に移動し、
前記取得部は、前記露光期間中の前記一方向の移動における前記レンズの複数の位置を示す情報を取得する
請求項６に記載の画像処理装置。
【請求項９】
前記露光期間は、動画を構成する複数の動画構成画像のそれぞれを取得するために前記撮像素子を繰り返し露光する期間であり、
前記補正部は、前記複数の動画構成画像のそれぞれを取得するための前記露光期間における前記複数の位置に基づいて、それぞれの動画構成画像を補正する
請求項１又は２に記載の画像処理装置。
【請求項１０】
請求項１から９のいずれか一項に記載の画像処理装置と、
前記撮像素子と
を備える撮像装置。
【請求項１１】
前記レンズは、光軸方向に移動可能なフォーカスレンズであり、
前記撮像装置は、
前記補正部により補正された前記画像に基づいて、前記レンズを含む光学系の焦点調整を行う焦点調節部
をさらに備える請求項１０に記載の撮像装置。
【請求項１２】
請求項１０に記載の撮像装置を備えて移動する無人航空機。
【請求項１３】
撮像素子の露光期間中に移動するレンズの複数の位置を示す情報を取得する段階と、
前記複数の位置に基づいて、前記露光期間に前記レンズを通じて前記撮像素子を露光することにより取得された画像を補正する段階と
を備える画像処理方法。
【請求項１４】
請求項１又は２に記載の画像処理装置としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、撮像装置、無人航空機、画像処理方法、及びプログラムに関する。
【背景技術】
【０００２】
特許文献１には、入力された画面座標の画素に対する収差を、レンズパラメータに対応する各画素の位置座標データを保持する歪み補正パラメータテーブルにより補正する技術が記載されている。
特許文献１  特開２０１１−６１４４４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００３】
フォーカスレンズなどの光学系が備えるレンズを移動させると、歪曲歪などにより意図しない画角変動が生じる場合がある。
【課題を解決するための手段】
【０００４】
本発明の一態様に係る画像処理装置は、撮像素子の露光期間中に移動するレンズの複数の位置を示す情報を取得する取得部を備える。画像処理装置は、複数の位置に基づいて、露光期間にレンズを通じて撮像素子を露光することにより取得された画像を補正する補正部を備える。
【０００５】
補正部は、複数の位置に基づいて、露光期間内におけるレンズの平均的な位置を算出し、算出したレンズの平均的な位置に基づいて、画像の歪みを補正してよい。
【０００６】
補正部は、レンズの平均的な位置と、レンズの位置に対応づけられた歪係数とに基づいて、画像の歪みを補正してよい。
【０００７】
補正部は、複数の位置及び撮像素子が備える複数の画素の位置に基づいて、複数の位置及び複数の画素の組み合わせ毎に、画像上で複数の画素のそれぞれに対応する複数の画素位置を算出し、複数の画素のそれぞれについて複数の画素位置の平均的な位置を算出することにより、画像を補正してよい。
【０００８】
撮像素子は、撮像素子が備える複数の画素列毎に異なる露光期間で露光されてよい。取得部は、複数の画素列のそれぞれの露光期間中に移動するレンズの複数の位置を示す情報を取得してよい。補正部は、複数の画素列のそれぞれの露光期間中の複数の位置に基づいて、複数の画素列のそれぞれにより取得された画像を補正してよい。
【０００９】
レンズは、光軸方向に移動可能なフォーカスレンズであってよい。
【００１０】
レンズは、レンズを含む光学系の焦点を調節をするために、露光期間中に光軸方向に往復移動してよい。取得部は、露光期間中の往復移動におけるレンズの複数の位置を示す情報を取得してよい。
【００１１】
レンズは、レンズを含む光学系の焦点を調節をするために、露光期間中に光軸方向に一方向に移動してよい。取得部は、露光期間中の一方向の移動におけるレンズの複数の位置を示す情報を取得してよい。
【００１２】
露光期間は、動画を構成する複数の動画構成画像のそれぞれを取得するために撮像素子を繰り返し露光する期間であってよい。補正部は、複数の動画構成画像のそれぞれを取得するための露光期間における複数の位置に基づいて、それぞれの動画構成画像を補正してよい。
【００１３】
本発明の一態様に係る撮像装置は、上記画像処理装置を備えてよい。撮像装置は、イメージセンサを備えてよい。
【００１４】
レンズは、光軸方向に移動可能なフォーカスレンズであってよい。撮像装置は、補正部により補正された画像に基づいて、レンズを含む光学系の焦点調整を行う焦点調節部を備えてよい。
【００１５】
本発明の一態様に係る無人航空機は、上記撮像装置を備えて移動する。
【００１６】
本発明の一態様に係る画像処理方法は、撮像素子の露光期間中に移動するレンズの複数の位置を示す情報を取得する段階を備える。画像処理方法は、複数の位置に基づいて、露光期間にレンズを通じて撮像素子を露光することにより取得された画像を補正する段階を備える。
【００１７】
本発明の一態様に係るプログラムは、上記の画像処理装置としてコンピュータを機能させるためのプログラムとしてよい。
【００１８】
本発明の一態様によれば、レンズの移動に伴う画角変動の影響を抑制することができる。
【００１９】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【図面の簡単な説明】
【００２０】
【図１】本実施形態に係る撮像装置１００の外観斜視図の一例を示す図である。
【図２】本実施形態に係る撮像装置１００の機能ブロックを示す図である。
【図３】補正部１４０の処理を概略的に説明する図である。
【図４】歪係数の一例を示す。
【図５】イメージセンサ１２０上の座標とイメージ座標（ｘ，ｙ）との位置関係の一例を模式的に示す。
【図６】フォーカスレンズ２１０の位置の平均値の算出方法を説明する図である。
【図７】撮像装置１００が実行する手順の一例を示すフローチャートである。
【図８】補正部１４０が実行する他の補正方法を説明する図である。
【図９】ローリング読み出しにより画素データを読み出す場合の補正処理を概略的に説明する図である。
【図１０】撮像装置１００を搭載した無人航空機（ＵＡＶ）を示す。
【図１１】本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。
【発明を実施するための形態】
【００２１】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【００２２】
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
【００２３】
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。
【００２４】
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク、メモリスティック、集積回路カード等が含まれてよい。
【００２５】
コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
【００２６】
図１は、本実施形態に係る撮像装置１００の外観斜視図の一例を示す図である。図２は、本実施形態に係る撮像装置１００の機能ブロックを示す図である。
【００２７】
撮像装置１００は、撮像部１０２及びレンズ部２００を備える。撮像部１０２は、イメージセンサ１２０、画像処理部１０４、撮像制御部１１０、メモリ１３０、指示部１６２、及び表示部１６０を備える。
【００２８】
イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳなどの撮像素子である。イメージセンサ１２０は、レンズ部２００が有する光学系を介して光を受光する。イメージセンサ１２０は、レンズ部２００が有する光学系を介して結像された光学像の画像データを画像処理部１０４に出力する。
【００２９】
撮像制御部１１０及び画像処理部１０４は、ＣＰＵまたはＭＰＵなどのマイクロプロセッサ、ＭＣＵなどのマイクロコントローラなどにより構成されてよい。メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。メモリ１３０は、撮像制御部１１０がイメージセンサ１２０などを制御するのに必要なプログラム、画像処理部１０４が画像処理を実行するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。メモリ１３０は、撮像装置１００の筐体から取り外し可能に設けられてよい。
【００３０】
指示部１６２は、撮像装置１００に対する指示をユーザから受け付けるユーザインタフェースである。表示部１６０は、イメージセンサ１２０により撮像され、画像処理部１０４により処理された画像、撮像装置１００の各種設定情報などを表示する。表示部１６０は、タッチパネルで構成されてよい。
【００３１】
撮像制御部１１０は、レンズ部２００及びイメージセンサ１２０を制御する。撮像制御部１１０は、レンズ部２００が備える光学系の焦点位置や焦点距離の調整を制御する。撮像制御部１１０は、ユーザからの指示を示す情報に基づいて、レンズ部２００が備えるレンズ制御部２２０に制御命令を出力することにより、レンズ部２００を制御する。
【００３２】
レンズ部２００は、フォーカスレンズ２１０、ズームレンズ２１１、レンズ駆動部２１２、レンズ駆動部２１３、レンズ制御部２２０、メモリ２２２、位置センサ２１４、及び位置センサ２１５を備える。フォーカスレンズ２１０、及びズームレンズ２１１は、少なくとも１つのレンズを含んでよい。フォーカスレンズ２１０及びズームレンズ２１１は、光学系に含まれるレンズである。フォーカスレンズ２１０、及びズームレンズ２１１の少なくとも一部または全部は、光学系の光軸に沿って移動可能に配置される。
【００３３】
撮像制御部１１０は、焦点調節部１１２を備える。焦点調節部１１２は、フォーカスレンズ２１０を制御することにより、レンズ部２００が備える光学系の焦点調節を行う。
【００３４】
レンズ部２００は、撮像部１０２に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部２１２は、ステッピングモータ、ＤＣモータ、コアレスモータ、または超音波モータなどの駆動装置を備えてよい。フォーカスレンズ２１０の少なくとも一部または全部は、レンズ駆動部２１２が備える駆動装置からの動力をカム環、ガイド軸などの機構部材を介して受け取ることにより移動する。レンズ駆動部２１３は、ステッピングモータ、ＤＣモータ、コアレスモータ、または超音波モータなどの駆動装置を備えてよい。ズームレンズ２１１の少なくとも一部または全部は、レンズ駆動部２１３が備える駆動装置からの動力をカム環、ガイド軸などの機構部材を介して受け取ることにより移動する。
【００３５】
レンズ制御部２２０は、撮像部１０２からのレンズ制御命令に従って、レンズ駆動部２１２及びレンズ駆動部２１３の少なくとも一方を駆動して、機構部材を介してフォーカスレンズ２１０及びズームレンズ２１１の少なくとも一方を光軸方向に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。
【００３６】
メモリ２２２は、レンズ駆動部２１２を介して移動するフォーカスレンズやズームレンズ用の制御値を記憶する。メモリ２２２は、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。
【００３７】
位置センサ２１４は、フォーカスレンズ２１０の位置を検出する。位置センサ２１５は、ズームレンズ２１１の位置を検出する。位置センサ２１４、及び位置センサ２１５は、磁気抵抗（ＭＲ）センサ等であってよい。
【００３８】
撮像制御部１１０は、指示部１６２等を通じてユーザからの指示を示す情報に基づいて、イメージセンサ１２０に制御命令を出力することにより、イメージセンサ１２０に撮像動作の制御を含む制御を実行する。イメージセンサ１２０により撮像された画像は、画像処理部１０４により処理されて、メモリ１３０に格納される。
【００３９】
画像処理部１０４には、イメージセンサ１２０により取得された画像が入力される。補正部１４０は、イメージセンサ１２０により取得された画像を補正する。表示部１６０は、補正部１４０により補正された画像を表示する。メモリ１３０は、補正部１４０により補正された画像を格納する。補正部１４０により補正された画像は、メモリ１３０から、メモリカード等の記録媒体に転送されてよい。
【００４０】
画像処理部１０４は、補正部１４０と、取得部１４２とを備える。取得部１４２は、イメージセンサ１２０の露光期間中に移動するフォーカスレンズ２１０の複数の位置を示す情報を取得する。例えば、取得部１４２は、焦点調節部１１２から、フォーカスレンズ２１０の複数の位置を示す情報を取得する。補正部１４０は、複数の位置に基づいて、露光期間にフォーカスレンズ２１０を通じてイメージセンサ１２０を露光することにより取得された画像を補正する。
【００４１】
例えば、補正部１４０は、取得したフォーカスレンズ２１０の複数の位置に基づいて、露光期間内におけるフォーカスレンズ２１０の平均的な位置を算出し、算出したフォーカスレンズ２１０の平均的な位置に基づいて、画像の歪みを補正する。具体的には、補正部１４０は、フォーカスレンズ２１０の平均的な位置と、フォーカスレンズ２１０の位置に対応づけられた歪係数とに基づいて、画像の歪みを補正する。
【００４２】
補正部１４０は、フォーカスレンズ２１０の複数の位置及びイメージセンサ１２０が備える複数の画素の位置に基づいて、フォーカスレンズ２１０の複数の位置及びイメージセンサ１２０の複数の画素の組み合わせ毎に、画像上で複数の画素のそれぞれに対応する複数の画素位置を算出してよい。補正部１４０は、複数の画素のそれぞれについて、算出した複数の画素位置の平均的な位置を算出することにより、画像を補正してよい。
【００４３】
イメージセンサ１２０は、イメージセンサ１２０が備える複数の画素列毎に異なる露光期間で露光されてよい。例えば、撮像制御部１１０は、ローリング読み出しによりイメージセンサ１２０から画素情報を読み出してよい。この場合、取得部１４２は、複数の画素列のそれぞれの露光期間中に移動するフォーカスレンズ２１０の複数の位置を示す情報を取得する。補正部１４０は、複数の画素列のそれぞれの露光期間中の複数の位置に基づいて、複数の画素列のそれぞれにより取得された画像を補正する。
【００４４】
フォーカスレンズ２１０は、フォーカスレンズ２１０を含む光学系の焦点を調節をするために、露光期間中に光軸方向に往復移動する。例えば、焦点調節部１１２は、露光期間中にフォーカスレンズ２１０をウォブリング動作を行わせる。取得部１４２は、露光期間中の往復移動におけるフォーカスレンズ２１０の複数の位置を示す情報を取得する。補正部１４０は、露光期間中の往復移動におけるフォーカスレンズ２１０の複数の位置に基づいて、画像を補正する。
【００４５】
フォーカスレンズ２１０は、フォーカスレンズ２１０を含む光学系の焦点を調節をするために、露光期間中に光軸方向に一方向に移動してよい。取得部１４２は、露光期間中の一方向の移動におけるフォーカスレンズ２１０の複数の位置を示す情報を取得する。補正部１４０は、露光期間中の一方向の移動におけるフォーカスレンズ２１０の複数の位置に基づいて、画像を補正する。
【００４６】
露光期間は、動画を構成する複数の動画構成画像のそれぞれを取得するためにイメージセンサ１２０を繰り返し露光する期間であってよい。補正部１４０は、複数の動画構成画像のそれぞれを取得するための露光期間における複数の位置に基づいて、それぞれの動画構成画像を補正してよい。
【００４７】
焦点調節部１１２は、補正部１４０により補正された画像に基づいて、フォーカスレンズ２１０を含む光学系の焦点調整を行う。例えば、焦点調節部１１２は、補正部１４０により補正された画像のコントラスト値に基づいてフォーカスレンズ２１０の光軸方向の位置を決定して、決定した位置にフォーカスレンズ２１０を移動させる。
【００４８】
図３は、補正部１４０の処理を概略的に説明する図である。図３に関連して、イメージセンサ１２０が備える全ての水平画素列の露光期間が同一である場合の補正部１４０の処理を説明する。具体的には、イメージセンサ１２０のグローバル読み出しにより連続的に撮像している場合の処理を説明する。本実施形態において、イメージセンサ１２０は、Ｎ個（Ｎは自然数）の水平画素列を有するものとする。
【００４９】
撮像制御部１１０は、垂直同期信号ＶＤに基づくタイミングでイメージセンサ１２０が備える水平画素列１〜水平画素列Ｎを露光する。図３には、時刻ｔ１から時刻ｔ７までの露光期間と、時刻ｔ９から時刻ｔ１５までの露光期間が示されている。
【００５０】
焦点調節部１１２は、垂直同期信号ＶＤのトリガから次の垂直同期信号ＶＤまでの期間内にフォーカスレンズ２１０の光軸方向の位置を複数回検出させる。具体的には、焦点調節部１１２は、時刻ｔ０の垂直同期信号ＶＤから、予め定められた時間間隔でフォーカスレンズ２１０の光軸方向の位置を予め定められた回数検出させる。また、焦点調節部１１２は、時刻ｔ７の垂直同期信号ＶＤから、予め定められた時間間隔でフォーカスレンズ２１０の光軸方向の位置を予め定められた回数検出させる。
【００５１】
図３に示されるように、レンズ制御部２２０は、時刻ｔ１から時刻ｔ７までの露光期間において、ＬＰ１、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７を検出する。また、レンズ制御部２２０は、時刻ｔ９から時刻ｔ１５までの露光期間において、ＬＰ９、ＬＰ１０、ＬＰ１１、ＬＰ１２、ＬＰ１３、ＬＰ１４、及びＬＰ１５を検出する。ＬＰｉ（ｉは自然数）は、フォーカスレンズ２１０の光軸方向の位置を示すものとする。
【００５２】
時刻ｔ７の垂直同期信号ＶＤに応じて、焦点調節部１１２は、時刻ｔ１からｔ７までの露光期間に検出されたＬＰ１、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７を示すレンズ位置情報をレンズ制御部２２０から取得して、画像処理部１０４に出力する。取得部１４２は、焦点調節部１１２から出力されたレンズ位置情報を取得する。
【００５３】
補正部１４０は、レンズ位置情報に基づいて、ＬＰ１、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７の平均値を算出する。補正部１４０は、ＬＰ１、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７の平均値に基づいて、歪係数を算出する。歪係数は、フォーカスレンズ２１０の位置から定まる歪曲歪を表す情報である。歪係数については図４などに関連して説明する。平均値はＬＰ１からＬＰ７までの和を、時刻ｔ１から時刻ｔ７までの時間で割ることで算出される値である。平均値の具体的な算出方法については図６などに関連して説明する。
【００５４】
画像処理部１０４は、時刻ｔ７の垂直同期信号ＶＤに応じて、イメージセンサ１２０から、水平画素列１〜水平画素列Ｎの画素データ３１０を取得する。画像処理部１０４は、イメージセンサ１２０から取得した画素データ３１０と、フォーカスレンズ２１０の位置の平均値に対応する歪係数とに基づいて画素データ３１０の画像を補正して、補正画像３１１を生成する。補正部１４０により生成された補正画像３１１はメモリ１３０に記憶され、表示部１６０の表示用の画像として表示部１６０に出力される。
【００５５】
同様に、時刻ｔ７の垂直同期信号ＶＤに応じて、焦点調節部１１２は、時刻ｔ９からｔ１５までの露光期間に検出されたＬＰ９、ＬＰ１０、ＬＰ１１、ＬＰ１２、ＬＰ１３、ＬＰ１４、及びＬＰ１５を示すレンズ位置情報をレンズ制御部２２０から取得して、画像処理部１０４に出力する。取得部１４２は、焦点調節部１１２から出力されたレンズ位置情報を取得する。
【００５６】
補正部１４０は、レンズ位置情報に基づいて、ＬＰ９、ＬＰ１０、ＬＰ１１、ＬＰ１２、ＬＰ１３、ＬＰ１４、及びＬＰ１５の平均値を算出する。補正部１４０は、ＬＰ９、ＬＰ１０、ＬＰ１１、ＬＰ１２、ＬＰ１３、ＬＰ１４、及びＬＰ１５の平均値に基づいて、歪係数を算出する。
【００５７】
画像処理部１０４は、時刻ｔ１５の垂直同期信号ＶＤに応じて、イメージセンサ１２０から、水平画素列１〜水平画素列Ｎの画素データ３２０を取得する。画像処理部１０４は、イメージセンサ１２０から取得した画素データ３２０と、フォーカスレンズ２１０の位置の平均値に対応する歪係数とに基づいて画素データ３２０の画像を補正して、補正画像３２１を生成する。補正部１４０により生成された補正画像３２１はメモリ１３０に記憶され、表示部１６０の表示用の画像として表示部１６０に出力される。
【００５８】
撮像装置１００は、垂直同期信号ＶＤに応じて、上述したように１回の露光処理と、画素データの読み出し処理と、画像の補正処理と、表示部１６０に表示する処理とを実行する。撮像装置１００は、垂直同期信号ＶＤ毎に上述した処理を繰り返す。
【００５９】
図４は、歪係数の一例を示す。図４の横軸はフォーカスレンズ２１０の位置であり、縦軸は歪係数の値である。歪係数は、ｋ１、ｋ２、及びｋ３を含む。メモリ１３０は、ｋ１、ｋ２、及びｋ３のフォーカスレンズ２１０の依存性を示す歪係数データを格納する。歪係数データは、レンズ部２００が備える光学系のレンズ設計データに基づいて予め算出されて、メモリ１３０に格納されてよい。歪係数データは、実験により予め算出されて、メモリ１３０に格納されてもよい。ｋ１、ｋ２、及びｋ３の歪係数データは、フォーカスレンズ２１０の位置を変数とする関数を表すデータであってよい。当該関数は、予め算出された歪み係数ｋ１、ｋ２、ｋ３をフォーカスレンズ２１０の位置を変数とする関数にフィッティングすることにより取得されてよい。ｋ１、ｋ２、及びｋ３の歪係数データは、フォーカスレンズ２１０の位置をｋ１、ｋ２、及びｋ３にマッピングするマップデータであってよい。
【００６０】
イメージセンサ１２０上の座標（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）と、正規化したイメージ座標（ｘ、ｙ）との関係は、歪係数ｋ１、ｋ２及びｋ３を用いて以下の式１で表される。
【数１】
2020123897.tif 000003
【００６１】
座標（ｘ、ｙ）は、補正画像内の座標を表す。式１のＬＰは、フォーカスレンズ２１０の位置を表す。歪係数ｋ１、ｋ２、ｋ３はＬＰに依存するため、式１では、ｋ１（ＬＰ）、ｋ２（ＬＰ）、及びｋ３（ＬＰ）として表されている。図５は、イメージセンサ１２０上の座標（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）とイメージ座標（ｘ，ｙ）との位置関係の一例を模式的に示す。
【００６２】
補正部１４０は、画素データの各画素の座標を式１の（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）に適用し、フォーカスレンズ２１０の位置の平均値と上記歪係数データから算出したｋ１、ｋ２、及びｋ３をそれぞれｋ１（ＬＰ）、ｋ２（ＬＰ）、及びｋ３（ＬＰ）に適用して、式１を満たす座標（ｘ，ｙ）を算出する。そして、補正部１４０は、イメージセンサ１２０から取得した画素データにおける座標（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）の画素値を、座標（ｘ，ｙ）の画素値として適用することにより、補正画像を生成する。
【００６３】
図３、図４、および図５などに関連して説明したように、補正部１４０は、露光期間中のフォーカスレンズ２１０の平均位置から定まる歪係数を用いて画像を補正する。これにより、図３に示されるように、フォーカスレンズ２１０の移動に伴って生じる画角変動が抑えられた補正画像３１１及び補正画像３２１を生成することができる。
【００６４】
図６は、フォーカスレンズ２１０の位置の平均値の算出方法を説明するための図である。図６において、Ｔは露光時間である。すなわち、Ｔｅはｔ１からｔ７までの時間である。Ｔｄは、フォーカスレンズ２１０の位置を検出する時間間隔である。図６に示す例では、Ｔ＝６Ｔｄである。フォーカスレンズ２１０の位置の平均値は、ＬＰ１からＬＰ７までの時間平均によって算出される値である。
【００６５】
具体的には、フォーカスレンズ２１０の位置の平均値は、ＬＰ１からＬＰ７までの加重和をＴで割ることで算出される。ＬＰ１からＬＰ７までの加重和は、Σαｉ×ＬＰｉにより算出される。ｉは１から７の自然数である。
【００６６】
αｉは加重和の重み係数である。α１からα７までの和はＴである。αｉは、時刻ｔｉ―Ｔｄ／２から時刻ｔｉ＋Ｔｄ／２までの期間のうち、露光期間に含まれる期間の時間に基づいて定められる。具体的には、α１及びα７はＴｄ／２であり、α２からα６はＴｄである。このように、フォーカスレンズ２１０の位置を検出したタイミングに応じて重み係数αｉを定めることによって、フォーカスレンズ２１０の位置の時間的な平均値を算出することができる。
【００６７】
なお、平均値は、ＬＰ１からＬＰ７の和を７で割ることで算出される値であってよい。すなわち、平均値は、露光期間内に検出されたフォーカスレンズ２１０の位置の和をフォーカスレンズ２１０の位置の検出数で割ることで算出される値であってよい。
【００６８】
図７は、撮像装置１００が実行する手順の一例を示すフローチャートである。本フローチャートは、垂直同期信号ＶＤのトリガが生じた場合に開始される。
【００６９】
Ｓ６００において、焦点調節部１１２は、レンズ制御部２２０にフォーカスレンズ２１０の位置を検出するタイミング信号を出力することにより、フォーカスレンズ２１０の位置を検出させる。
【００７０】
Ｓ６００において、撮像制御部１１０は、垂直同期信号ＶＤから予め定められた時間が経過した場合に、イメージセンサ１２０の露光を開始させる。Ｓ６０４において、レンズ制御部２２０は、焦点調節部１１２から出力されたタイミング信号に従って、フォーカスレンズ２１０の位置を検出する。
【００７１】
Ｓ６０６において、撮像制御部１１０は、露光を終了するか否かを判断する。例えば、撮像制御部１１０は、新たな垂直同期信号ＶＤのトリガを検出した場合に、露光を終了すると判断する。露光を終了すると判断するまで、イメージセンサ１２０を露光したまま、Ｓ６０４の処理が繰り返される。
【００７２】
Ｓ６０６の判断において、露光を終了すると判断すると、Ｓ６０８において、補正部１４０は、焦点調節部１１２を通じてレンズ制御部２２０からフォーカスレンズ２１０のレンズ位置情報を取得して、フォーカスレンズ２１０の位置の平均値を算出する。
【００７３】
Ｓ６１０において、補正部１４０は、イメージセンサ１２０から出力される画素データを取得する。Ｓ６１２において、補正部１４０は、歪係数データに基づいて、イメージセンサ１２０の各画素の座標（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）に対応するイメージ座標（ｘ，ｙ）を算出する。
【００７４】
Ｓ６１４において、補正部１４０は、イメージセンサ１２０から出力される画素データの各座標の画素値を、Ｓ６１２で算出したイメージ座標の画素値として反映することにより、補正画像を生成する。
【００７５】
Ｓ６１６において、画像処理部１０４は、補正部１４０により生成された補正画像をメモリ１３０に格納する。Ｓ６１６の処理が完了すると本フローチャートの処理を終了する。
【００７６】
Ｓ６１６でメモリ１３０に格納された補正画像は、例えば、表示用の動画構成画像として表示部１６０に出力される。動画撮影中に上記の補正処理を行った場合、メモリ１３０に格納された補正画像は、動画撮影の終了後、動画データの動画構成画像としてメモリ１３０に記録される。
【００７７】
なお、補正部１４０は、Ｓ６１２で算出したイメージ座標を、フォーカスレンズ２１０の位置の平均値に対応づけてメモリ１３０に記憶させてよい。補正部１４０は、新たに算出したフォーカスレンズ２１０の位置の平均値と、メモリ１３０に記憶されている平均値との差が予め定められた値より小さい場合、Ｓ６１２の処理に代えて、メモリ１３０に記憶されているイメージ座標を用いてよい。これにより、イメージ座標を算出するための演算量を削減することができる場合がある。
【００７８】
図３から図７に関連して説明したように、補正部１４０は、露光期間中におけるフォーカスレンズ２１０の位置の平均値に基づいて、画像の歪を補正する。これにより、露光期間中のフォーカスレンズ２１０の移動に伴う画角変化の影響を抑制した補正画像を生成することができる。
【００７９】
図８は、補正部１４０が実行する他の補正方法を説明する図である。図８は、イメージセンサ１２０の画素の座標（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）と、補正後のイメージ座標（ｘ，ｙ）との関係を、イメージ座標の一部を拡大して示す。
【００８０】
補正部１４０は、露光期間中に検出されたフォーカスレンズ２１０の位置のそれぞれに基づいて、イメージ座標（ｘ,ｙ）を算出する。以下に、図３に示す例を参照して、他の補正方法に基づく補正処理を説明する。
【００８１】
補正部１４０は、時刻ｔ１〜ｔ７までの露光期間におけるＬＰ１、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７のそれぞれから、イメージ座標（ｘ,ｙ）を算出する。具体的には、補正部１４０は、イメージセンサ１２０から取得した画素データにおける画素の座標を式１の（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）に適用し、ＬＰ１と歪係数データから算出したｋ１、ｋ２、及びｋ３をそれぞれ式１のｋ１（ＬＰ）、ｋ２（ＬＰ）、及びｋ３（ＬＰ）に適用して、式１を満たす座標（ｘ，ｙ）を算出する。算出した座標（ｘ，ｙ）は、図８において、（ｘ１，ｙ１）で示される。
【００８２】
ＬＰ２についても同様に、補正部１４０は、画素データにおける画素の座標を式１の（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）に適用し、ＬＰ２と歪係数データから算出したｋ１、ｋ２、及びｋ３をそれぞれ式１のｋ１（ＬＰ）、ｋ２（ＬＰ）、及びｋ３（ＬＰ）に適用して、式１を満たす座標（ｘ，ｙ）を算出する。算出した座標（ｘ，ｙ）は、図８において、（ｘ２，ｙ２）で示される。ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７についても同様に、ＬＰｉ（ｉは３から７の自然数）と歪係数データから算出したｋ１、ｋ２、及びｋ３を用いて、式１を満たす（ｘ，ｙ）を算出して、各ＬＰｉに対応する（ｘｉ、ｙｉ）として算出する。
【００８３】
補正部１４０は、画素データにおける座標（ｘｄｉｓｔｏｒｔｅｄ，ｙｄｉｓｔｏｒｔｅｄ）の画素値を、（ｘｉ、ｙｉ）（ｉは１から７の自然数）の平均座標（ｘ，ｙ）の画素値として適用する。補正部１４０は、イメージセンサ１２０から取得した画素データの各画素に同様の処理を行って、補正画像を生成する。
【００８４】
図８に関連して説明した補正方法によっても、露光期間中のフォーカスレンズ２１０の移動に伴う画角変化の影響を抑制した補正画像を提供することができる。図３及び図５などに関連して説明した補正方法に比べて、画角変化の影響をより低減した補正画像を生成することができる場合がある。
【００８５】
図９は、イメージセンサ１２０からローリング読み出しにより画素データを読み出す場合の補正部１４０の補正処理を概略的に説明する図である。ローリング読み出しを行う場合、撮像制御部１１０は、水平画素列１から水平画素列Ｎまの露光開始時刻を順次にずらして露光する。これにより、イメージセンサ１２０の露光期間は、イメージセンサ１２０が備える画素列毎に異なる。
【００８６】
図９に示されるように、水平画素列１の露光期間は、時刻ｔ１から時刻ｔ７までである。水平画素列Ｎの露光期間は、時刻ｔ７から時刻ｔ１３までである。一般に、水平画素列１＋ｉの露光期間は、時刻ｔ１＋δＴ×（ｉ−１）から、時刻ｔ７＋δＴ×（ｉ−１）までである（ｉは、１からＮまでの自然数）。δＴは、隣接する水平画素列の露光開始時刻の間隔である。
【００８７】
水平画素列１の露光期間中に検出されたフォーカスレンズ２１０の位置は、ＬＰ１、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７である。補正部１４０は、ＬＰ１、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７の平均値と歪係数データとに基づいて、ＬＰ１、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７の平均値に対応する歪係数ｋ１、ｋ２及びｋ３を算出する。補正部１４０は、算出した歪係数ｋ１、ｋ２及びｋ３を式１に適用して水平画素列１の画素データ８１０を補正することにより、補正画素データ８１１を生成する。
【００８８】
同様に、水平画素列２の露光期間中に検出されたフォーカスレンズ２１０の位置は、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７である。補正部１４０は、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７の平均値と歪係数データとに基づいて、ＬＰ２、ＬＰ３、ＬＰ４、ＬＰ５、ＬＰ６、及びＬＰ７の平均値に対応する歪係数ｋ１、ｋ２及びｋ３を算出する。補正部１４０は、算出した歪係数ｋ１、ｋ２及びｋ３を算出式１に適用して水平画素列２の画素データを補正することにより、補正画素データを生成する。平均値はＬＰ１からＬＰ７までの加重和を、時刻ｔ１から時刻ｔ７までの時間で割ることで算出される値である。具体的には、平均値は、図６などに関連して説明した算出方法により算出される値である。
【００８９】
補正部１４０は、水平画素列３から水平画素列Ｎまで同様の処理を適用して、補正画素データを生成する。例えば、水平画素列Ｎの露光期間中に検出されたフォーカスレンズ２１０の位置はＬＰ７、ＬＰ８、ＬＰ９、ＬＰ１０、ＬＰ１１、ＬＰ１２、及びＬＰ１３であるので、補正部１４０は、ＬＰ７、ＬＰ８、ＬＰ９、ＬＰ１０、ＬＰ１１、ＬＰ１２、及びＬＰ１３の平均値と歪係数データとに基づいて、ＬＰ７、ＬＰ８、ＬＰ９、ＬＰ１０、ＬＰ１１、ＬＰ１２、及びＬＰ１３の平均値を算出し、算出した平均値に対応する歪係数ｋ１、ｋ２及びｋ３を算出する。補正部１４０は、算出した歪係数ｋ１、ｋ２及びｋ３を式１に適用して水平画素列Ｎの画素データ８２０を補正することにより、補正画素データ８２１を生成する。補正部１４０は、各水平画素列から生成された補正画素データに基づいて１つの補正画像を生成する。
【００９０】
以上に説明したように、イメージセンサ１２０からローリング読み出しを行う場合、水平画素列毎に露光期間が異なるため、検出されたイメージセンサ１２０の位置が画素列によって異なる場合がある。そこで、補正部１４０は、露光期間内に検出されたフォーカスレンズ２１０の位置が同一の画素列群について、露光期間内のフォーカスレンズ２１０の位置の平均値に基づく歪係数ｋ１、ｋ２、及びｋ３を式１に適用して、補正画素データを生成する。
【００９１】
図９などに関連して、ローリング読み出しにより読み出された画像データを、フォーカスレンズ２１０の位置の平均値に基づいて補正する処理を説明した。図８などに関連して説明した補正方法を、ローリング読み出しにより読み出された画像データの補正に適用できる。例えば、補正部１４０は、各画素列について、フォーカスレンズ２１０の位置のそれぞれに対応するイメージ座標を算出して、算出したイメージ座標の平均座標を、補正後の画像の画素値として適用してよい。
【００９２】
以上に説明した通り、撮像装置１００によれば、フォーカスレンズ２１０の移動に伴う画角変動の影響を抑制した画像を提供することができる。この効果は特に、イメージセンサのサイズに対して比較的に小型なレンズ装置に対して有効である。例えば、イメージセンサのサイズに対して光学系を小型化すると、フォーカスレンズの移動による歪曲収差の影響が顕著になる。そのため、例えばライブビュー撮影中にフォーカスレンズのウォブリング動作を行うと、ウォブリング動作に伴う画角変動がライブビュー画像上で観察されてしまう場合がある。上述したように、撮像装置１００によれば、フォーカスレンズ２１０の移動に伴う画角変動の影響を抑制することができるので、ウォブリング動作に伴う画角変動がライブビュー画像上で観察されにくくすることができる。また、合焦制御に用いるコントラスト値を補正画像から検出することによって、コントラスト値の検出対象となる画像領域がフォーカスレンズ２１０の移動に伴って変動することを抑制することができる。そのため、コントラスト値に基づく合焦制御をより正確に行うことができる。
【００９３】
なお、本実施形態の撮像装置１００に関連して説明した処理は、フォーカスレンズ２１０のウォブリング動作だけでなく、露光期間中にフォーカスレンズ２１０を一方向に移動させる場合の処理にも適用できる。また、本実施形態の撮像装置１００に関連して説明した処理は、ライブビュー撮影中の画像だけでなく、記録用の動画データを生成する場合の補正処理や、記録用の静止画データを生成する場合の補正処理にも適用できる。また、本実施形態の撮像装置１００に関連して説明した処理は、フォーカスレンズ２１０以外のレンズの移動にも適用できる。すなわち、補正部１４０は、イメージセンサ１２０の露光期間中に移動するフォーカスレンズ２１０以外のレンズの複数の位置に基づいて、当該露光期間にイメージセンサ１２０を露光することによって取得された画像を補正してよい。
【００９４】
上記のような撮像装置１００は、移動体に搭載されてもよい。撮像装置１００は、図１０に示すような、無人航空機（ＵＡＶ）に搭載されてもよい。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備えてよい。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、推進部により推進される移動体の一例である。移動体とは、ＵＡＶの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
【００９５】
ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。
【００９６】
撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。
【００９７】
複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。
【００９８】
遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。
【００９９】
図１１は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。例えば、コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、補正部１４０又は画像処理部１０４として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」の機能を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。
【０１００】
本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
【０１０１】
通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
【０１０２】
例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
【０１０３】
また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。
【０１０４】
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。
【０１０５】
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。
【０１０６】
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【０１０７】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【符号の説明】
【０１０８】
１０  ＵＡＶ
２０  ＵＡＶ本体
５０  ジンバル
６０  撮像装置
１００  撮像装置
１０２  撮像部
１０４  画像処理部
１１０  撮像制御部
１１２  焦点調節部
１２０  イメージセンサ
１３０  メモリ
１４０  補正部
１４２  取得部
１６０  表示部
１６２  指示部
２００  レンズ部
２１０  フォーカスレンズ
２１１  ズームレンズ
２１２  レンズ駆動部
２１３  レンズ駆動部
２２０  レンズ制御部
２２２  メモリ
２１４、２１５  位置センサ
３００  遠隔操作装置
３１０  画素データ  
３１１  補正画像  
３２０  画素データ  
３２１  補正画像  
８１０  画素データ  
８１１  補正画素データ  
８２０  画素データ  
８２１  補正画素データ  
１２００  コンピュータ
１２１０  ホストコントローラ
１２１２  ＣＰＵ
１２１４  ＲＡＭ
１２２０  入力／出力コントローラ
１２２２  通信インタフェース
１２３０  ＲＯＭ
【図１】
2020123897.tif 000004
【図２】
2020123897.tif 000005
【図３】
2020123897.tif 000006
【図４】
2020123897.tif 000007
【図５】
2020123897.tif 000008
【図６】
2020123897.tif 000009
【図７】
2020123897.tif 000010
【図８】
2020123897.tif 000011
【図９】
2020123897.tif 000012
【図１０】
2020123897.tif 000013
【図１１】
2020123897.tif 000014
【手続補正書】
【提出日】令和2年3月18日(2020.3.18)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮像素子の露光期間中に移動するレンズの複数の位置を示す情報を取得する取得部と、
前記複数の位置に基づいて、前記露光期間に前記レンズを通じて前記撮像素子を露光することにより取得された画像の歪みを補正する補正部と
を備える画像処理装置。
【請求項２】
前記補正部は、前記複数の位置に基づいて、前記露光期間内における前記レンズの平均的な位置を算出し、算出した前記レンズの平均的な位置に基づいて、前記画像の歪みを補正する
請求項１に記載の画像処理装置。
【請求項３】
前記補正部は、前記レンズの平均的な位置と、前記レンズの位置に対応づけられた歪係数とに基づいて、前記画像の歪みを補正する
請求項２に記載の画像処理装置。
【請求項４】
前記補正部は、前記複数の位置及び前記撮像素子が備える複数の画素の位置に基づいて、前記複数の位置及び前記複数の画素の組み合わせ毎に、前記画像上で前記複数の画素のそれぞれに対応する複数の画素位置を算出し、前記複数の画素のそれぞれについて前記複数の画素位置の平均的な位置を算出することにより、前記画像の歪みを補正する
請求項１に記載の画像処理装置。
【請求項５】
前記撮像素子は、前記撮像素子が備える複数の水平画素列毎に異なる露光期間で露光され、
前記取得部は、前記複数の水平画素列のそれぞれの露光期間中に移動するレンズの複数の位置を示す情報を取得し、
前記補正部は、前記複数の水平画素列のそれぞれの露光期間中の前記複数の位置に基づいて、前記複数の水平画素列のそれぞれにより取得された前記画像の歪みを補正する
請求項１から４のいずれか一項に記載の画像処理装置。
【請求項６】
前記レンズは、光軸方向に移動可能なフォーカスレンズである
請求項１から５のいずれか一項に記載の画像処理装置。
【請求項７】
前記レンズは、前記レンズを含む光学系の焦点を調節するために、前記露光期間中に前記光軸方向に往復移動し、
前記取得部は、前記露光期間中の前記往復移動における前記レンズの複数の位置を示す情報を取得する
請求項６に記載の画像処理装置。
【請求項８】
前記レンズは、前記レンズを含む光学系の焦点を調節するために、前記露光期間中に前記光軸方向に一方向に移動し、
前記取得部は、前記露光期間中の前記一方向の移動における前記レンズの複数の位置を示す情報を取得する
請求項６に記載の画像処理装置。
【請求項９】
前記露光期間は、動画を構成する複数の動画構成画像のそれぞれを取得するために前記撮像素子を繰り返し露光する期間であり、
前記補正部は、前記複数の動画構成画像のそれぞれを取得するための前記露光期間における前記複数の位置に基づいて、それぞれの動画構成画像の歪みを補正する
請求項１から８のいずれか一項に記載の画像処理装置。
【請求項１０】
請求項１から９のいずれか一項に記載の画像処理装置と、
前記撮像素子と
を備える撮像装置。
【請求項１１】
前記レンズは、光軸方向に移動可能なフォーカスレンズであり、
前記撮像装置は、
前記補正部により歪みが補正された前記画像に基づいて、前記レンズを含む光学系の焦点調整を行う焦点調節部
をさらに備える請求項１０に記載の撮像装置。
【請求項１２】
請求項１０に記載の撮像装置を備えて移動する無人航空機。
【請求項１３】
撮像素子の露光期間中に移動するレンズの複数の位置を示す情報を取得する段階と、
前記複数の位置に基づいて、前記露光期間に前記レンズを通じて前記撮像素子を露光することにより取得された画像の歪みを補正する段階と
を備える画像処理方法。
【請求項１４】
請求項１から９のいずれか一項に記載の画像処理装置としてコンピュータを機能させるためのプログラム。