(57)【特許請求の範囲】
【請求項１】
複数のマイクロレンズと、前記複数のマイクロレンズのそれぞれに複数の光電変換部が対応して画像信号を出力する撮像素子とを含む撮像装置において、
前記各マイクロレンズに対応する複数の前記光電変換部からの画像信号をシフトして、ピント位置の異なる画像を生成する像生成手段と、
前記像生成手段により生成された前記画像のコントラストの評価値を計算し、前記コントラストの評価値に基づいてコントラストピント位置を決定するコントラスト評価手段と、
前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の相関の評価値を計算し、前記相関の評価値に基づいて相関ピント位置を決定する相関計算手段と、
前記相関ピント位置と、前記像生成手段によりシフトが可能なピント評価位置の範囲とを比較し、前記相関ピント位置の絶対値が前記像生成手段によりシフトが可能なピント評価位置の範囲の絶対値よりも大きいとき、前記コントラスト評価手段による決定を省略して前記相関計算手段により決定された前記相関ピント位置に基づいて被写体のピント評価位置を決定し、前記相関ピント位置の絶対値が前記像生成手段によりシフトが可能なピント評価位置の範囲の絶対値以下のとき、前記コントラスト評価手段により決定された前記コントラストピント位置に基づいて前記被写体のピント評価値を決定するピント評価手段と、
を備えることを特徴とする撮像装置。
【請求項２】
前記像生成手段は、前記撮像素子及び前記複数のマイクロレンズの構造に基づいて決まる、前記シフトが可能なシフト量の範囲で、前記ピント位置の異なる画像を生成することを特徴とする請求項１記載の撮像装置。
【請求項３】
前記像生成手段は、前記撮像素子の画素ピッチおよび前記複数のマイクロレンズの角度分解能と角度分割数に基づいて、前記シフトが可能な前記ピント評価位置の範囲を決定することを特徴とする請求項１または２に記載の撮像装置。
【請求項４】
前記撮像装置は、前記ピント評価手段により決定された前記ピント評価位置に従って前記被写体を撮影する撮影モードを有し、前記撮影モードは静止画撮影モードと動画撮影モードとを有し、前記動画撮影モードは前記ピント評価手段による前記ピント評価位置の決定を予め決められた所定時間ごとに行なうことを特徴とする請求項１乃至３のいずれか一項に記載の撮像装置。
【請求項５】
撮影レンズをさらに備え、
前記複数のマイクロレンズは、各マイクロレンズに対応して複数の画素グループに分割し、前記マイクロレンズは対応する画素グループの各画素を前記撮影レンズの異なる射出瞳領域からの光束に対応させることを特徴とする請求項１乃至４のいずれか一項に記載の撮像装置。
【請求項６】
前記相関計算手段は、前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の位相差を計算することで前記相関の評価値を計算することを特徴とする請求項１乃至５のいずれか一項に記載の撮像装置。
【請求項７】
前記像生成手段により生成された前記画像を記憶する記憶手段および前記記憶手段に記憶された画像を表示する表示手段をさらに備えることを特徴とする請求項１乃至６のいずれか一項に記載の撮像装置。
【請求項８】
複数のマイクロレンズと、前記複数のマイクロレンズのそれぞれに複数の光電変換部が対応して画像信号を出力する撮像素子とを含む撮像装置の制御方法において、
前記各マイクロレンズに対応する複数の前記光電変換部からの画像信号をシフトして、ピント位置の異なる画像を生成する像生成ステップと、
前記像生成ステップで生成された前記画像のコントラストの評価値を計算し、前記コントラストの評価値に基づいてコントラストピント位置を決定するコントラスト評価ステップと、
前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の相関の評価値を計算し、前記相関の評価値に基づいて相関ピント位置を決定する相関計算ステップと、
前記相関ピント位置と、前記像生成ステップによりシフトが可能なピント評価位置の範囲とを比較し、前記相関ピント位置の絶対値が前記像生成ステップによりシフトが可能なピント評価位置の範囲の絶対値よりも大きいとき、前記コントラスト評価ステップでの決定を省略して前記相関計算ステップで決定された前記相関ピント位置に基づいて被写体のピント評価位置を決定し、前記相関ピント位置の絶対値が前記像生成ステップによりシフトが可能なピント評価位置の範囲の絶対値以下のとき、前記コントラスト評価ステップで決定された前記コントラストピント位置に基づいて前記被写体のピント評価値を決定するピント評価ステップを備えたことを特徴とする制御方法。
【請求項９】
コンピュータを、
複数のマイクロレンズと、前記複数のマイクロレンズのそれぞれに複数の光電変換部が対応して画像信号を出力する撮像素子とを含む撮像装置において、
前記各マイクロレンズに対応する複数の前記光電変換部からの画像信号をシフトして、ピント位置の異なる画像を生成する像生成手段、
前記像生成手段により生成された前記画像のコントラストの評価値を計算し、前記コントラストの評価値に基づいてコントラストピント位置を決定するコントラスト評価手段と、
前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の相関の評価値を計算し、前記相関の評価値に基づいて相関ピント位置を決定する相関計算手段、
前記相関ピント位置と、前記像生成手段によりシフトが可能なピント評価位置の範囲とを比較し、前記相関ピント位置の絶対値が前記像生成手段によりシフトが可能なピント評価位置の範囲の絶対値よりも大きいとき、前記コントラスト評価手段による決定を省略して前記相関計算手段により決定された前記相関ピント位置に基づいて被写体のピント評価位置を決定し、
前記相関ピント位置の絶対値が前記像生成手段によりシフトが可能なピント評価位置の範囲の絶対値以下のとき、前記コントラスト評価手段により決定された前記コントラストピント位置に基づいて前記被写体のピント評価値を決定するピント評価手段として機能させるプログラム。
【請求項１０】
請求項９のプログラムを記録したコンピュータが読み取り可能な記録媒体。
【請求項１１】
コンピュータを、請求項１乃至７のいずれか一項に記載の撮像装置の各手段として機能させるプログラム。
【請求項１２】
コンピュータを、請求項１乃至７のいずれか一項に記載の撮像装置の各手段として機能させるプログラムを格納した記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、被写体像を光電変換する撮像素子を有する撮像装置およびその制御方法に関し、特に撮像素子から出力される光電変換信号に基づくオートフォーカス（以下ＡＦ）制御装置および方法に関する。
【背景技術】
【０００２】
従来、デジタルカメラなどでのピント調整のためのオートフォーカス制御として、例えば主にデジタル一眼レフカメラで使用される位相差ＡＦ制御とコンパクトカメラなどに使用されるコントラストＡＦ制御がある。これらのＡＦ制御の特徴は、例えば位相差ＡＦでは高速なピント調整が可能であること、またコントラストＡＦでは厳密なピント合わせが可能であることである。
【０００３】
例えば、特許文献１には、位相差ＡＦセンサの信号に基づいてコントラスト評価を行う方法が開示されている。また、特許文献２には、異なる瞳領域を通過した光束を個別に受光可能な撮像素子を使用し、撮像素子から出力された撮像信号を用いて（即ち撮像後に）ピント調整を行った画像を生成する手法が開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開平７−１９９０５２号公報
【特許文献２】特開２００７−４４７１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、上述の特許文献に開示された従来技術では、十分なピント精度が得られず、狙った被写体にピントが合わない像しか得られない場合がある。すなわち特許文献１では、コントラスト計算を行うセンサと撮像を行うセンサが異なっているので必ずしもピント精度を向上できない場合がある。特許文献２では、撮影後にピント位置を変化させた像を得ることができるが、ピントを正確に変化させることができる範囲には限界があり、それを超えた場合には正常に像を得ることが困難となる。
そこで、本発明の目的は、撮像素子に入射する異なる瞳領域を通過した光束の情報に基づいて位相差ＡＦとコントラストＡＦを同時に実現することで、高速かつ合焦精度の高いＡＦを行う撮影を可能にした撮像装置を提供することである。
【課題を解決するための手段】
【０００６】
上記本発明の目的を達成するため、本発明の撮像装置は、複数のマイクロレンズと、前記複数のマイクロレンズのそれぞれに複数の光電変換部が対応して画像信号を出力する撮像素子とを含む撮像装置において、前記各マイクロレンズに対応する複数の前記光電変換部からの画像信号をシフトして、ピント位置の異なる画像を生成する像生成手段と、前記像生成手段により生成された前記画像のコントラストの評価値を計算し、前記コントラストの評価値に基づいてコントラストピント位置を決定するコントラスト評価手段と、前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の相関の評価値を計算し、前記相関の評価値に基づいて相関ピント位置を決定する相関計算手段と、前記相関ピント位置が、前記像生成手段が生成する画像のピント位置より合焦位置から遠いとき、前記コントラスト評価手段による決定を省略して前記相関計算手段により決定された前記相関ピント位置に基づいて被写体のピント評価位置を決定し、前記相関ピント位置が、前記像生成手段が生成する画像のピント位置より合焦位置に近いとき、前記コントラスト評価手段により決定された前記コントラストピント位置に基づいて前記被写体のピント評価値を決定するピント評価手段と、を備える。
【発明の効果】
【０００７】
本発明によれば、高速かつ合焦精度の高いＡＦ制御を可能にした撮影を行える撮像装置を提供することができる。
【図面の簡単な説明】
【０００８】
【図１】本発明の実施形態に係わる撮影装置のシステム構成を示すブロック図
【図２】本発明の第１の実施例に係わる撮影動作のフローチャートを示す図
【図３】本発明の第１の実施例に係わる撮影装置の光学系の概念図
【図４】本発明の第１の実施例に係わるＡＦ制御のフローチャートを示す図
【図５】本発明の第１の実施例に係わるＡＦ制御のフローチャートを示す図
【図６】像の再構成動作を示す概念図
【図７】本発明に適用可能な光学系の概念図
【発明を実施するための形態】
【０００９】
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
【実施例１】
【００１０】
以下、図１から図７を参照して、本発明の第1の実施例に係わる撮影装置を説明する。
【００１１】
図１は本発明に係わる撮影装置としてのデジタルカメラのシステム構成を示すブロック図である。本カメラシステムは、撮影モードとして静止画撮影モードと動画撮影モードを有し、本件発明が目的とするＡＦ制御を各撮影モードおいて達成する構成を有する。
【００１２】
本撮像装置１００はカメラ１０１およびレンズ１０２からなり、撮像系、画像処理系、記録再生系、制御系を有する。撮像系は撮影光学系１０３ 、撮像素子１０６を含み、画像処理系は画像処理部１０７を含む。また、記録再生系はメモリ手段１０８、表示手段１０９を含み、制御系はカメラシステム制御回路１０５、操作検出部１１０、およびレンズシステム制御回路１１２、レンズ駆動手段１１３を含む。レンズ駆動手段１１３は、焦点レンズ、ブレ補正レンズ、絞りなどを駆動することができる。
【００１３】
撮像系は、被写体からの光（光学像）を、撮影レンズを有する撮影光学系１０３を介して撮像素子１０６の撮像面に結像する光学処理系である。撮影素子１０６の表面(受光面)にはマイクロレンズが格子状に配置され、いわゆるマイクロレンズアレイ（以下 ＭＬＡ）を形成している。ＭＬＡは本実施例において瞳分割手段を構成する。ＭＬＡの機能や配置の詳細については図３を用いて後述するが、この瞳分割手段があるために、撮影素子１０６の出力信号からピント評価量／適当な露光量が得られるので、この情報に基づいて適切に撮影光学系１０３が調整される。これにより、適切な光量の被写体光を撮像素子１０６に露光することおよび撮像素子１０６の近傍で被写体像が結像することが可能となる。
【００１４】
画像処理部１０７は、内部にＡ／Ｄ変換器、ホワイトバランス回路、ガンマ補正回路、補間演算回路等を有しており、記録用の画像を画像処理により生成することができる。また、本発明の要部である、像シフト手段、像生成手段、コントラスト評価手段、相関計算手段等を含めることもできる。実施例ではこれらの要素はカメラシステム制御内に制御プログラムとして構成されている。
【００１５】
メモリ部１０８は、実際にデータを記憶する記憶部だけではなく、記録に必要な処理回路を備えている。メモリ部１０８は、記録部へ出力を行うとともに、表示手段１０９に出力する像を生成、保存する。また、メモリ部１０８ は、予め定められた方法を用いて画像、動画、音声などの圧縮処理も行う。
【００１６】
カメラシステム制御回路１０５は、撮像の際のタイミング信号などを生成して出力するとともに、外部操作に応動して撮像系、画像処理系、記録再生系をそれぞれ制御する。例えば、不図示のシャッターレリーズ釦の押下を操作検出回路１１０が検出して、撮像素子１０６の駆動(光電変換)、画像処理部１０７の動作、メモリ部１０８の圧縮処理などを制御する。さらにカメラシステム制御回路１０５、表示手段１０９によって液晶モニタ等に情報表示を行うための情報表示装置の各セグメントの状態をも制御する。
【００１７】
制御系による光学系の調整動作について説明する。カメラシステム制御回路１０５には画像処理部１０７が接続されており、撮像素子１０６からの画像信号に基づいて撮影条件に適切な焦点位置、絞り位置を求める。カメラシステム制御回路１０５は、電気接点１１１を介してレンズシステム制御回路１１２に指令を送信し、レンズシステム制御回路１１２は指令に従いレンズ駆動手段１１３を制御する。さらにレンズシステム制御回路１１２には不図示の手ぶれ検出センサが接続されており、手ぶれ補正を行うモードにおいては、手ぶれ検出センサの信号に基づいてレンズ駆動手段１１３を介して手ぶれ補正レンズを制御する。
【００１８】
撮像装置１００全体の動作を、図２を用いて説明する。図２は本発明の撮像装置の動作の概略を説明するためのフローチャートである。図２（ａ）は電源ＯＮから電源ＯＦＦまでの動作を、図２（ｂ）は静止画撮影モードの要部の動作を、図２（ｃ）は動画撮影モードの要部の動作をそれぞれ示している。これらの動作は、カメラシステム制御回路１０５が図示しない記憶装置から各フローチャートに対応する制御プログラムをロードして実行することにより達成される。
【００１９】
図２（ａ）から各ステップ順に説明する。ステップＳ２０１は電源のＯＮを示している。ステップＳ２０２は電源がＯＦＦされたかどうかを検出するステップである。この検出は、カメラの図示しない電源スイッチまたは他の操作部（例えばメニュー画面に表示された電源ボタン）などが操作されたことをカメラシステム制御回路１０５による制御に従って操作検出部１１０が行なう。電源のＯＦＦが検出された場合はステップＳ２０５に進み、そうでない場合はステップＳ２０３に処理を進める。ステップＳ２０３はカメラシステム制御回路１０５による制御に従って操作検出部１１０によりユーザー操作を検出するステップである。ユーザーによる撮像装置１００への操作があった場合はステップＳ２０４に進み、そうでない場合はステップＳ２０２に戻って電源ＯＦＦやユーザー操作の検出を繰り返す。ステップＳ２０４では、検出されたユーザー操作に応じた処理を行うステップである。例えば、操作検出部１１０で静止画撮影モードの選択操作が検出されたときは、カメラシステム制御部１０５は静止画撮影モードの動作を開始する。このほかの操作として、動画撮影モードの実行、メモリ手段に記録されたデータの再生や、撮像装置１００の設定を変更する操作などがある。
【００２０】
図２（ｂ）、図２（ｃ）を参照して、ステップ２０４で行なわれる処理としての静止画撮影モードおよび動画撮影モードの動作を説明する。
【００２１】
図２（ｂ）は静止画撮影モードを行う時の撮像装置１００の動作を示すフローチャートである。ステップＳ２１１は静止画撮影モードの開始を示す。
【００２２】
ステップＳ２１２は、カメラシステム制御回路１０５による制御に従って操作検出部１１０が図示しないレリーズボタンの１段目のスイッチ（以下 ＳＷ１）がオンされたかどうかを判断するステップである。静止画撮影ではレリーズボタンの押下に応じて、撮影動作や撮影予備動作が行われる。一般的にレリーズボタンは２段階のスイッチになっており、１段目のスイッチのオンで撮影予備動作を、２段目のスイッチのオンで撮影動作を行う。ここでいう撮影予備動作とは、測光、測距等を行い、撮影光学系３のＡＦ調整や撮像素子６の露出条件を決定する動作のことを言う。
【００２３】
ステップＳ２１２においてＳＷ１のオンが検出された場合はステップＳ２１４に、検出されない場合はステップＳ２１３に処理に進める。ステップＳ２１３では、ＳＷ１以外の操作に応じた処理がなされる。例えば、撮影設定の変更などがあげられるが、本発明の要部ではないのでここでの説明を割愛する。
【００２４】
ステップＳ２１４は、撮影予備動作としての測距を行う。他の撮影予備動作も同時に行われるが、本発明の要部ではないのでここでは説明を簡単にするために測距動作とそれに関連した動作のみを示している。
【００２５】
ステップＳ２１５では、ステップＳ２１４の結果に基づいて必要であれば、撮影光学系３の調整のためのレンズ駆動を行う。なお、ステップＳ１１４の結果、現在ピントが合っている状態であると判断されれば、焦点の調整のためのレンズ駆動は行う必要がない。
ステップＳ２１６は、ＳＷ１のリリースを監視する。ＳＷ１をユーザーが離したと判断された場合は、ステップＳ２１２に戻ってＳＷ１のオンの検出待機状態に戻る。ユーザーがＳＷ１を継続している場合はステップＳ２１７に進む。
【００２６】
ステップＳ２１７では、カメラ制御回路１０５の制御に従い操作検出部１１０がレリーズボタンの２段目のスイッチ（以下 ＳＷ２）のオンを検出する。ＳＷ２のオンが検出された場合はステップＳ２１８に、検出されない場合はステップＳ２１６に戻る。
【００２７】
ステップＳ２１８では、撮影動作を行うステップである。撮像素子１０６を撮影予備動作の結果に従って適宜露光させて被写体の光学像を電気信号として取得し、画像処理部７で処理したのちにメモリ手段１０８に記録する。
【００２８】
ステップＳ１１９は静止画撮影の終了を示す。
【００２９】
図２（ｂ）で説明したように、静止画撮影モードにおいては、ＳＷ１のオンに連動してステップＳ１１２，Ｓ１１４，Ｓ１１５に対応する測距および光学系の調整動作が行われる。なお、サーボＡＦやコンティニュアスＡＦと呼ばれる測距および光学系の調整方法においてはこの限りではないが、ここでは静止画撮影の基本的な動作を例示す。
【００３０】
図２（ｃ）は動画撮影を行う時の撮像装置１００の動作を示すフローチャートである。ステップＳ２２１は動画撮影のモードの開始を示す。
【００３１】
ステップＳ２２２では、図示しない録画ボタン（動画撮影の開始を意味するボタン）のオンを操作検出部１１０により検出する。ステップＳ２２２において録画ボタンのオンが検出された場合はステップＳ２２４に、検出されない場合はステップＳ２２３に進む。
【００３２】
ステップＳ２２３では、録画ボタン以外の操作に応じた処理がなされる。例えば、撮影設定の変更などがあげられるが、本発明の要部ではないので説明を割愛する。
【００３３】
ステップＳ２２４は、撮影予備動作として測距を行う。他の撮影予備動作も同時に行われるが、本発明の要部ではないので説明を簡単にするために測距動作とそれに関連した動作のみを示している。
【００３４】
ステップＳ２２５では、ステップＳ２２４の結果に基づいて必要であれば、撮影光学系３の調整のためのレンズ駆動を行う。ステップＳ２２４の結果、現在合焦状態であると判断されれば、焦点の調整のためのレンズ駆動は行う必要がない。ステップＳ２２４，Ｓ２２５において録画開始前に光学系を調整することで、録画開始直後のピント状態などが適切に定められ、取得される映像の品位が向上する。
【００３５】
ステップＳ２２６では、録画を開始する。具体的には、予め設定されたサンプリング間隔で撮像素子１０６から画像信号を読み出し、画像処理手段７で符号化処理などを施したのちに、メモリ手段８へ記録する動作を開始する。
【００３６】
ステップＳ２２７では、操作検出部１１０により録画停止ボタンの操作を検出する。ステップＳ２２７において録画停止ボタンの操作が検出された場合はステップＳ２２９に、検出されない場合はステップＳ２２８に進む。
【００３７】
ステップＳ２２８では、測距を行うためのタイマーの計測時間を判断する。タイマーの計測時間に従い、予め設定された間隔毎にステップＳ２２４に進み、それ以外の時はステップＳ２２７に戻り録画終了ボタンの操作を待つ。タイマーＳ２２８の計測時間を判断することによって、予め設定された所定時間ごとに測距動作Ｓ２２４を実行し、録画中にも測距および光学系の調整を行う。ステップＳ２２９は動画撮影の終了を示す。
【００３８】
図２（ｃ）で説明したように、動画撮影においては、録画ボタンの操作およびタイマーの時間計測に連動してステップＳ１２２，Ｓ１２４，Ｓ１２５、Ｓ１２８に対応する測距および光学系の調整動作が行われる。
【００３９】
次に、図３は本実施例における撮影光学系の要部を説明する図である。同図において、第１図と同じ要素は同じ符号を付して示す。本発明を適用するためには、いわゆる光線空間情報等といわれる光線の位置に加えて角度の情報を取得する必要がある。本実施例では、角度情報の取得のために撮影光学系１０３の結像面近傍にＭＬＡを配置するとともに、ＭＬＡを構成する１つのマイクロレンズに対して複数の画素を対応させる。
【００４０】
図３（ａ）は撮像素子１０６とＭＬＡ３２０の対応関係を概念的に示す図である。図３（ｂ）は撮像素子１０６の画素とＭＬＡ３２０との対応を示す概念図である。図３（ｃ）はＭＬＡ３２０によってＭＬＡの下に設けられた画素が特定の瞳領域と対応づけられることを示す図である。
【００４１】
図３（ａ）に示すように、撮像素子１０６上にはＭＬＡ３２０が設けられており、ＭＬＡ３２０の前側主点は撮影光学系１０３の結像面近傍になるように配置されている。図３（ａ）は撮像素子１０６の側面図と、ＭＬＡ３２０の正面図を示しており、ＭＬＡ３２０のレンズが撮像素子１０６上の画素を覆うように配置されている。なお、図３（ａ）ではＭＬＡ３２０を構成する各マイクロレンズを見やすくするために大きく記載したが、実際には各マイクロレンズは画素の数倍程度の大きさしかない。実際の大きさについては図３（ｂ）を用いて説明する。
【００４２】
図３（ｂ）は図３（ａ）のＭＬＡ３２０の正面図の一部を拡大した図である。図３（ｂ）に示す格子状の枠は、撮像素子１０６の各画素を示している。一方、ＭＬＡ３２０を構成する各マイクロレンズは太い円３２０ａ，３２０ｂ，３２０ｃ，３２０ｄで示した。図３（ｂ）から明らかなように、マイクロレンズ１つに対して複数の画素が割り当てられており、図３（ｂ）の例では、５行x５列＝２５個の画素グループが１つのマイクロレンズに対して設けられている。すなわち各マイクロレンズの大きさは画素の大きさの５倍x５倍の大きさである。
【００４３】
図３（ｃ）は撮像素子１０６を、マイクロレンズの光軸を含み撮像素子の長手方向（Ｘ方向）が図の横方向になるように切断したときの一つのマイクロレンズについての切断面を示す図である。図３（ｃ）の３２１、３２２、３２３、３２４、３２５は撮像素子１０６の画素（１つの光電変換部）を示している。一方、図３（ｃ）の上方に示した図は撮影光学系１０３の射出瞳面を示している。実際には、図３（ｃ）の下方に示したセンサの図と方向を合わせると、射出瞳面（Ｘ−Ｙ面）は図３（ｃ）の紙面垂直方向（ｙ方向）と平行になるが、説明のために投影方向を変化させている。また、図３（ｃ）については説明を簡単にするために、１次元の投影／信号処理について説明する。即ち、瞳分割が３３１−３３５だけの一次元であり、対応する画素配列も、例えば図３（ｂ）の３２１ａ−３２５ａだけの一次元とする。この仮定は図６の説明においても適用する。実際の装置での２次元の投影／信号処理への拡張は容易にできる。
【００４４】
図３（ｃ）の画素３２１、３２２、３２３、３２４、３２５は図３（ｂ）の３２１ａ、３２２ａ、３２３ａ、３２４ａ、３２５ａとそれぞれ対応する位置関係にある。図３（ｃ）に示すように、マイクロレンズ３２０によって各画素は撮影光学系１０３の射出瞳面上の特定の射出瞳領域と共役になるように設計されている。図３（ｃ）の例では画素３２１と領域３３１が、画素３２２と領域３３２が、画素３２３と領域３３３が、画素３２４と領域３３４が、画素３２５と領域３３５がそれぞれ対応している。すなわち画素３２１には撮影光学系１０３の射出瞳面上の領域３３１を通過した光束のみが入射する。他の画素も同様である。結果として、瞳面上での通過領域と撮像素子１０６上の位置関係から入射光束の角度の情報を取得することが可能となる。  
【００４５】
なお、図３（ｃ）に示す記号Δx  およびΔθはそれぞれ撮像素子１０６の画素ピッチおよび角度分解能である。後述するように、これらは角度の分割数をNθ（図３の例ではNθ=5）とともにコントラストＡＦが可能な範囲ｄmaxを与える。画素ピッチΔxは撮像素子１０６の形状によって決定され、角度分解能Δθは光線の角度を取得する範囲と角度分割数Nθで決定されるので物理的な構造（撮像素子１０６およびＭＬＡ３２０の構造）のみによってこれらのパラメータは決定される。
【００４６】
次に、図７を用いて図３の撮影光学系における仮想的な結像面での像の再構成について説明する。同図において、図１および図３の構成要素と同じ構成要素は同じ符号を付して示す。図７は物体（被写体）からの光線が撮像素子１０６上に結像する状態を概念的に示した図である。図７（ａ）は図３で説明した光学系と対応しており、撮影光学系１０３の結像面近傍にＭＬＡ３２０を配置した例である。図７（ｂ）は撮影光学系１０３の結像面よりも被写体寄りにＭＬＡ３２０を配置した例である。図７（ｃ）は撮影光学系１０３の結像面よりも被写体から遠い側にＭＬＡ３２０を配置した例である。
【００４７】
図７において、１０６は撮像素子、３２０はＭＬＡ、３３１から３３５は図３で用いた瞳領域、７５１は物体平面、７５１ａ，７５１ｂは物体上の適当な点、７５２は撮影光学系の瞳平面をそれぞれ示す、また、７６１、７６２、７７１，７７２，７７３，７８１，７８２，７８３，７８４はＭＬＡ上の特定のマイクロレンズをそれぞれ示している。図７（ｂ）および（ｃ）に示した１０６ａは仮想的な結像面に位置する撮像素子を、３２０ａは仮想的な結像面に位置するＭＬＡを示している。これらは、図７（ａ）との対応関係を明確にするための参考として示した。また、物体上の点７５１ａから出て瞳平面上の領域３３１および３３３を通過する光束を実線で、物体上の点７５１ｂから出て瞳平面上の領域３３１および３３３を通過する光束を破線で図示した。
【００４８】
図７（ａ）の例では、図１でも説明したように、撮影光学系１０３の結像面近傍にＭＬＡ３２０を配置することで、撮像素子１０６と撮影光学系の瞳平面７５２が共役の関係にある。さらに、被写体平面７５１とＭＬＡ３２０が共役の関係にある。このため被写体上の点７５１ａから出た光束はマイクロレンズ７６１に、７５１ｂを出た光束はマイクロレンズ６２に到達し、領域３３１から３３５それぞれを通過した光束はマイクロレンズ下に設けられたそれぞれ対応する画素に到達する。
【００４９】
図７（ｂ）の例では、マイクロレンズ３２０で撮影光学系１０３からの光束を結像させ、その結像面に撮像素子１０６を設ける。このように配置することで、被写体平面７５１と撮像素子１０６は共役の関係にある。被写体上の点７５１ａから出で瞳平面上の領域３３１を通過した光束はマイクロレンズ７７１に到達し、被写体上の点７５１ａから出で瞳平面上の領域３３３を通過した光束はマイクロレンズ７７２に到達する。被写体上の点７５１ｂから出で瞳平面上の領域３３１を通過した光束はマイクロレンズ７７２に到達し、被写体上の点７５１ｂから出で瞳平面上の領域３３３を通過した光束はマイクロレンズ７７３に到達する。各マイクロレンズを通過した光束は、マイクロレンズ下に設けられたそれぞれ対応する画素に到達する。このように被写体上の点は、瞳平面上の通過領域によって、撮像素子の異なる位置にそれぞれ結像される。これらを、仮想的な結像面１０６ａ上の位置に並べなおせば、図７（ａ）と同様の情報（像の再構成）を得ることができる。すなわち、通過した瞳領域（入射角度）と撮像素子上の位置の情報を得ることができる、瞳分割手段としての機能が達成される。
【００５０】
図７（ｃ）の例では、マイクロレンズ３２０で撮影光学系１０３からの光束を再結像させ（一度結像した光束が拡散する状態にあるものを結像させるので再結像と呼んでいる）、その結像面に撮像素子１０６を設ける。このように配置することで、被写体平面７５１と撮像素子１０６は共役の関係にある。被写体上の点７５１ａから出で瞳平面上の領域３３１を通過した光束はマイクロレンズ７８２に到達し、被写体上の点７５１ａから出で瞳平面上の領域３３３を通過した光束はマイクロレンズ３８１に到達する。被写体上の点７５１ｂから出で瞳平面上の領域３３１を通過した光束はマイクロレンズ７８４に到達し、被写体上の点７５１ｂから出で瞳平面上の領域３３３を通過した光束はマイクロレンズ３８３に到達する。各マイクロレンズを通過した光束は、マイクロレンズ下に設けられたそれぞれ対応する画素に到達する。図７（ｂ）と同様に、仮想的な結像面１０６ａ上の位置に並べなおせば、図７（ａ）と同様の情報(像の再構成)を得ることができる。すなわち、通過した瞳領域（入射角度）と撮像素子上の位置の情報を得ることができ、瞳分割手段としての機能が達成される。
【００５１】
図７ではＭＬＡ（位相変調素子）を瞳分割手段として用いて、位置情報と角度情報を取得可能な例を示したが、位置情報と角度情報（瞳の通過領域を制限することと等価）を取得可能なものであれば他の光学構成も利用可能である。例えば、適当なパターンを施したマスク（ゲイン変調素子）を撮影光学系の光路中に挿入する方法も利用できる。
【００５２】
本実施例に示した撮影光学系を利用して、撮像素子１０６の信号からピント評価値を得る処理について図4、図５及び図６を用いて説明する。
【００５３】
図４および図５を用いて本発明の要部である測距動作について説明する。
【００５４】
図４および図５は本発明の撮像装置の測距動作を説明するためのフローチャートである。図４（ａ）は測距動作全体の動作を、図４（ｂ）は相関計算手段の動作をそれぞれ示すフローチャートである。また、図５（ａ）はコントラスト評価手段の動作を、図５（ｂ）は像生成手段の動作を、図５（ｃ）はコントラスト評価手段の動作をそれぞれ示すフローチャートである。図４（ａ）から各ステップ順に本発明の測距動作を説明する。
【００５５】
ステップＳ４０１は測距動作の開始を示している。例としては、静止画撮影モードにおいて、図１に示す操作検出部１１０が撮影者によるレリースボタンの一段目のスイッチＳＷ１の動作を検出した時（図２（ｂ）のステップＳ２１２）などが該当する。
【００５６】
ステップＳ４０２では、カメラシステム制御回路１０５の制御の下で撮像素子１０６を撮影予備動作の結果に従って露光して読み出す（Ａ／Ｄ変換する）ことによりデータ（被写体の撮像信号）を取得する。この時の露光時間と露光量から撮影における露出量を計算することもできが、本発明の要部ではないので説明は割愛する。
【００５７】
ステップＳ４０３では、カメラシステム制御回路１０５が相関計算手段を動作させて相関値に基づく相関最良ピント位置を得る。相関計算手段の動作の詳細は図４（ｂ）のフローチャートを用いて後述する。
【００５８】
ステップＳ４０４では、カメラシステム制御回路１０５の制御の下にコントラスト評価判断を行ない、ステップＳ４０５ではカメラ制御回路１０５が後述するピント評価範囲決定手段として動作する。すなわち、ステップＳ４０４は、ステップＳ４０３で得られた相関量評価に基づく最良ピント位置（図中では“相関最良ピント位置”と表記した）の絶対値とステップＳ４０５で入力される閾値ｄmaxの絶対値とを比較する。相関量評価に基づく最良ピント位置の絶対値のほうが大きい場合はステップＳ４１２に、相関量評価に基づく最良ピント位置の絶対値が閾値ｄmaxの絶対値以下の場合はステップＳ４０６に進む。
【００５９】
ここでステップＳ４０５のピント評価範囲決定手段から与えられる閾値は、ステップＳ４０６からステップＳ４１１で行うコントラストによるピント評価を行う場合（像シフト量が決定可能な場合）の閾値であり次式であたえられる。この閾値を超える位置での仮想的な結像面では、図３および図７を用いて説明した像の再構成において被写体情報が欠落することがあり、コントラストＡＦの精度が低下する可能性がある。
【数１】
0006000520.tif 000002
【００６０】
ただしNθ、Δx、Δθは図３で説明したように、撮影条件などに寄らず、撮像装置１００の物理的な構造によって決定される。このため予め計算された値をメモリに記憶しておきステップＳ４０５で読み出して用いれば良い。
【００６１】
ステップＳ４０６からステップＳ４０はループを形成している。ステップＳ４０６ではピント評価位置（図７を用いて説明した仮想的な結像面に対応）を予め与えられた初期値から予め与えられた所定の位置（ステップ）だけずらしながら予め与えられた終了値まで計算を繰り返す。この初期値と終了値は、dmaxを利用して決定すれば良い。図４の例では−dmax〜＋dmaxの範囲を評価範囲とした。
【００６２】
ステップＳ４０７では、カメラシステム制御回路１０５が像シフト手段を動作させて像シフト量を得る。像シフト手段の動作の詳細は図５（ａ）のフローチャートを用いて後述する。
【００６３】
ステップＳ４０８では、カメラシステム制御回路１０５が像生成手段を動作させて像生成を行なう。像生成手段の動作の詳細は図５（ｂ）のフローチャートを用いて後述する。
【００６４】
ステップＳ４０９では、カメラシステム制御回路１０５がコントラスト評価手段を動作させてコントラスト評価値に基づくコントラスト最良ピント位置を得る。コントラスト評価手段の動作の詳細は図５（ｃ）のフローチャートを用いて後述する。
【００６５】
ステップＳ４１１ではピント評価値として、ステップＳ４０６〜ステップＳ４１０で求めたコントラスト評価に基づく最良ピント位置（図中では“コントラスト最良ピント位置”と表記した）を採用する。
【００６６】
結果として、撮像素子１０６の読み出しはステップＳ４０２で１回のみ行うことで、コントラスト評価値を含むピント評価値を得ることができ、処理の高速化が可能となる。
【００６７】
ステップＳ４１２に進んだ場合は、コントラストに基づくピント評価を省略して、ピント評価値として相関評価に基づく相関最良ピント位置を採用する。
【００６８】
図４（ｂ）のフローチャートを用いて相関計算手段について説明する。ステップＳ４２１は相関計算手段の動作開始を示している。
【００６９】
ステップＳ４２２からステップＳ４３１はループを形成している。ステップＳ４２２ではピント評価位置の数（いわゆる測距視野数）に対応して繰り返し演算を行う。測距視野数は多くなると画面全体を覆うことが可能となるが評価に時間がかかるという問題がある。ユーザーの設定などにより適宜設定する。
【００７０】
ステップＳ４２３では評価を行う評価点の数と、評価枠の大きさ（例えば評価点を中心とする枠）を設定する。ここでいう評価点の数とは、ステップＳ４２４で行う相関値を求める点数で有り、撮影条件やレンズ１０２の種類などに応じて適宜設定される。また、評価点の数は像をシフトさせながら相関を求める場合のシフト量に対応しており、これは撮像装置１００においては焦点合わせの探索を行うピントの深さに対応している。評価点の数は多くなると画面全体を覆うことが可能となるが評価に時間がかかるという問題があるので、ユーザーの設定などにより適宜設定する。一方、評価枠を大きくすると局所的にはあまりパターンを有していないテクスチャであってもピントを合わせることが可能となるが、大きすぎると距離の異なる被写体の像を同時に評価するいわゆる遠近競合が発生してしまう。これらの問題を解決できるように評価枠の大きさを適宜設定する。
【００７１】
ステップＳ４２４からステップＳ４２９はループを形成している。ステップＳ４２４では、ステップＳ４２３で決定された評価点に対応した評価値を得るように繰り返し演算を行う。
【００７２】
ステップＳ４２５からステップＳ４２７はループを形成している。ステップＳ４２５では、ステップＳ４２３で決定された評価枠内の画素について相関計算を行う。相関計算はステップＳ４２６において、例えばΣ｜Ai - Bi｜で計算する。ここで、Aiは特定の瞳領域を通過したi番目の画素の輝度を示している。BiはAiとは異なる瞳領域を通過したi番目の画素の輝度を示している。例えば図３において、画素３２２に対応する画素のみを並べたものをAi、画素３２４に対応する画素のみを並べたものをBiとすれば良い。どの瞳領域の画素を選択するかは、基線長の長さ、瞳面のケラレ状況、等によって決定すればよい。
【００７３】
上記のように設定することで、異なる瞳領域を通過した画像間の相関を計算でき、いわゆる位相差AFに基づく評価量を得ることができる。ステップＳ２８では、得られた相関値を評価量としてメモリ１０８に格納する。
【００７４】
上記に示したΣ｜Ai - Bi｜という評価式においては、相関値が小さくなった個所が最もピント状態が良い個所（相関ピント位置）に対応している。ここでは差分の絶対値を加算する方法で相関計算を行ったが、最大値を加算する方法、最小値を加算する方法、差分２乗値を加算する方法など他の計算方法によって相関計算を行っても良い
【００７５】
ステップＳ４３０では相関評価値が最良となる点を相関量評価に基づく最良ピント位置として更新する。前述したステップＳ４２６の式においては、相関評価値が最良となる点は相関値が小さくなった所だが、その他の指標も併用して最良の位置を決定しても良い。
【００７６】
この演算を各視野で行い、最終的に相関量評価に基づく最良ピント位置を得てステップＳ４３２に進み、本ルーチンの呼び出し元のステップＳ４０３に戻る。
【００７７】
図５（ａ）のフローチャートを用いて像シフト手段について説明する。ステップＳ５０１は像シフト手段の動作開始を示している。
【００７８】
ステップＳ５０２からステップＳ５０６はループを形成している。ステップＳ５０２では瞳分割数に応じた数（一つのマイクロレンズに対応する撮像素子画素の）だけループ計算が実行される。例えば、図３に示した例では、５ｘ５＝２５個に分割されていたので（二次元）、２５個のそれぞれの瞳位置に応じた像シフト量の計算がなされる。図６を用いて後述するように、像の再構成において同じ再構成面であっても入射角度が異なると像をシフトさせる量が異なる。これを像生成に反映させるためのループである。
【００７９】
ステップＳ５０３ではステップＳ５０４からのデータをもとに、評価位置に対応する各瞳領域でのシフト量を計算する。ステップＳ５０４には、撮像素子１０６上の各画素とＭＬＡとの対応関係が保存されており、各画素がどの瞳領域の光線を受光しているかが分かる情報が格納されている。
【００８０】
ステップＳ５０５ではステップＳ５０３の情報をもとに同じ入射角の光線を得ている（同じ瞳領域からの光線を得ている）画素をシフトさせる。同じ入射角の光線を得ている画素は例えば図３（ｂ）の３２５ａと３２５ｂが該当する。このような画素がＭＬＡを構成するマイクロレンズの数だけ存在している。
【００８１】
ステップＳ５０７において、本処理ルーチンを呼び出し元のステップＳ４０７に戻る。
【００８２】
図５（ｂ）のフローチャートを用いて像生成手段の動作の詳細を説明する。ステップＳ５５１は像生成手段の動作開始を示している。
【００８３】
ステップＳ５１２では、ステップＳ５１５での加算のための領域のデータを初期化（０で埋める）する。この時のデータ領域の大きさはＭＬＡの数だけあれば良く、データの諧調は元のデータの諧調と瞳分割数の積を格納できるだけあれば都合がよい。例えば元のデータが8bitで25分割の場合、13bit （> 8bit + log225）あれば演算処理でのデータの桁あふれを考慮する必要が無くなる。
【００８４】
ステップＳ５１３からステップＳ５１７はループを形成している。ステップＳ５１３ではＭＬＡを構成するマイクロレンズの数に応じて(即ち各マイクロレンズについて)ループ計算が実行される。例えば、図３に示した例では、元の撮像素子の画素数÷25（瞳分割数）がマイクロレンズの数となる。
【００８５】
ステップＳ５１４からステップＳ５１６はループを形成している。ステップＳ５１４では、瞳分割数に応じた数だけループ計算が実行される。例えば、図３に示した例では、５ｘ５＝２５個に分割されていたので、２５個のそれぞれの瞳位置からの光束がステップＳ５１５で加算される。シフト量が画素の整数倍でない場合は、加算Ｓ５１５において、適宜に内分して加算する。例えば、重なっている面積に応じて適宜加算する。これにより、各評価位置での像が再生される。生成された画像の画像データはカメラシステム制御回路１０５の制御によりメモリ１０８または図示しない記憶手段に記憶される。従って、生成画像の再生、表示が可能となる。
【００８６】
ステップＳ５１８において、本処理ルーチンの呼び出し元のステップＳ４０８に戻る。
【００８７】
図５（ｃ）のフローチャートを用いてコントラスト評価手段の動作の詳細を説明する。ステップＳ５２１はコントラスト評価手段の動作開始を示している。
【００８８】
ステップＳ５２２では、コントラスト評価を行う評価視野の数と、評価枠の大きさを設定する。評価視野の数や大きさの設定は、相関計算手段で説明した内容に従って行えばよい。
【００８９】
ステップＳ５２３からステップＳ５３１はループを形成している。ステップＳ５２３では、ステップＳ５２２で決定された評価視野数に対応した評価値を得るように繰り返し演算を行う。
【００９０】
ステップＳ５２４からステップＳ５２６はループを形成している。ステップＳ５２４では、ステップＳ５２２で決定された各評価枠内の画素について一次コントラスト演算を行う。一次コントラスト演算はステップＳ５２５にあるようにΣ｜Si - Si-1｜で計算する。ここで、Siはi番目の像生成手段から出力された輝度を示している。このようにすることで隣接画素間の輝度差を積分することができる。ただしこのステップの説明においては、説明を明瞭にするために画像が１次元的に配置されている場合に対応する式を示す。２次元の画像においては、縦横両方向の輝度差を積分しても良いし、適宜一方向の輝度差のみを積分しても良い。
【００９１】
ステップＳ５２７からステップＳ５２９はループを形成している。ステップＳ５２７では、ステップＳ５２２で決定された評価枠内の画素について二次コントラスト演算を行う。二次コントラスト演算はステップＳ５２８にあるようにΣ(Si - Si-1)2で計算する。このステップの説明においても、説明を明瞭にするために画像が１次元的に配置されている場合に対応する式を示す。
【００９２】
一次コントラストは、なだらかに輝度が変化するような被写体（例えば空など）を撮影した場合には顕著に変化が見られない。一方で、二次コントラストはピント位置に応じて大きく変化する。（より高周波成分の影響が強い。）
そこでステップＳ６３０では、二次コントラストを一次コントラストの二乗で割ることでコントラスト評価値としている。このようにすることで輝度に対して正規化されるとともに、ピント位置に応じた被写体のコントラスト評価値を得ることができる。
【００９３】
本実施例では上記のような方法でコントラスト評価値を得たが、ピント変動にともなうコントラスト評価値で有れば他の計算方法にすることも可能である。
【００９４】
ステップＳ５３２では、コントラスト評価値が最良となる点（コントラストピント位置）をコントラスト評価に基づく最良ピント位置として更新する。
【００９５】
ステップＳ５３３において、本処理ルーチンの呼び出し元ステップＳ４０９に戻る。
【００９６】
次に図６を用いて像シフトおよび像生成を模式的に示し、像の再構成によるコントラスト計算の有用性について述べる。
【００９７】
図６において、図６（ｂ）は実際に撮像素子６が存在して画像を取得した面を、図６（ａ）は図６（ｂ）よりも被写体側の再構成面（再構成面１）を、図６（ｃ）は図６（ｂ）よりも被写体側から遠い側の再構成面（再構成面２）をそれぞれ示している。なお、上述のように同図においては、説明を明瞭とするために瞳分割方向および画素配列はそれぞれ一次元としている。
【００９８】
図６（ｂ）において、X1,i、X2,i、X3,i、X4,i、X5,i、はそれぞれ瞳領域１、２、３、４、５を通過してマイクロレンズXiに入射して得られたデータ（画像データ）を示している。すなわち、添え字のうち前半は通過する瞳領域を、後半はマイクロレンズの番号を示している。物理的な位置との関係においては、X1,iは図３（ｃ）の３２１領域から得られるデータを、X2,iは図３（ｃ）の３２２領域から得られるデータを、以下添え字の３、４、５は領域３２３、３２４、３２５に対応していることを示している。
【００９９】
取得面での画像を生成するためには、図６（ｂ）に示すように、マイクロレンズXiに入射したデータ(輝度)を加算すればよい。具体的には、Si = X1,I  + X2,i + X3,i + X4,i + X5,iでXiに入射した光の角度方向の積分値を得ることができる。これをすべてのマイクロレンズについて行なうことにより通常のカメラと同様の像が生成される。
【０１００】
次に再構成面１での像の生成方法を考える。図３で説明したように、本実施例の撮影光学系は、各画素に入射する光束を特定の瞳領域に限定しているために、入射角度が既知である。この角度に沿って再構成面での各画素の位置を再構成する。具体的にはX1,iのように瞳領域の添え字が１のものは図６の右側の図において６４１で示すような角度で入射しているとする。以下瞳領域の添え字２，３，４，５はそれぞれ６４２，６４３，６４４，６４５に対応しているとする。この時、再構成面１でのマイクロレンズXiに入射した光束は、取得面においては、Xi-2からXi+2(一次元)に分散して入射していることになる。より具体的には、X1,i-2、X2,i-1、X3,i、X4,i+1、X5,i+2に分散している。Xiに限らず再構成面１での像を復元するためには、入射角度に応じて像をシフトさせて加算すれば良いことが分かる。再構成面１での像を生成するためには、瞳領域の添え字が１のものは右に２画素シフト、瞳領域の添え字が２のものは右に１画素シフト、瞳領域の添え字が３のものはシフトなしとする。さらに、瞳領域の添え字が４のものは左に１画素シフト、瞳領域の添え字が５のものは左に２画素シフトとすることで入射角度に応じたシフトを与えることができる。その後図６（ａ）に示す縦方向の加算によって再構成面１でのデータを得ることができる。具体的には、Si = X1,i-2 + X2,i-1 + X3,i + X4,i+1 + X5,i+2で再構成面１において、Xiに入射した光の角度方向の積分値を得ることができる。これにより再構成面での画像が得られた。
【０１０１】
ここで、再構成面１において、Xiに輝点があったとすると、取得面においてはX1,i-2、X2,i-1、X3,i、X4,i+1、X5,i+2に分散していわゆるボケ状態にある。しかしながら、上述した再構成面１での像を生成すると、再びXiに輝点が生成されコントラストの高い像が得られる。すなわち像を再構成してコントラストを計算することで、いわゆるコントラストＡＦを行うことが可能となる。
【０１０２】
また、図６（ｃ）から分かるように、再構成面２においても再構成面と全く同様の方法で像を生成することができる。再構成面を配置する方向が異なると（物体に対して反対側という意味）シフトさせる方向を反転させれば良いだけである。
【０１０３】
以上に説明したように、本実施例によれば、撮像装置の構造に応じて決まる結像位置に応じて位相差ＡＦとコントラストＡＦを使い分けて高いＡＦ精度を維持することが可能な撮像装置を提供するこができる。しかも、本発明の撮像装置では、コントラストＡＦの精度が保証されない結像位置では位相差ＡＦのみが実行される。結果として、高速かつピント精度の高いＡＦを行うことを可能にした撮像装置を提供することが出来る。また、ＡＦ用の光束情報を得るために必要な撮像動作は（撮像素子の蓄積、読み出し）、一回だけでよいため、合焦制御動作のさらなる高速化が可能となる。
【０１０４】
上述した実施形態において図２及び図４−５示した各処理は、各処理の機能を実現する為のプログラムをメモリから読み出して制御系のＣＰＵが実行することによりその機能を実現させるものである。
【０１０５】
尚、上述した構成に限定されるものではなく、図２及び図４−５に示した各処理の全部または一部の機能を専用のハードウェアにより実現してもよい。また、上述したメモリは、光磁気ディスク装置、フラッシュメモリ等の不揮発性のメモリや、ＣＤ−ＲＯＭ等の読み出しのみが可能な記録媒体、ＲＡＭ以外の揮発性のメモリが可能である。また、それらの組合せによるコンピュータ読み取り、書き込み可能な記録媒体より構成されていてもよい。
【０１０６】
また、図２及び図４−５に示した各処理の機能を実現する為のプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各処理を行っても良い。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。具体的には、記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書きこまれた場合である。このプログラムの指示に基づき、機能拡張ボードや機能拡張ユニットに備わるＣＰＵなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本件発明に含まれる。
【０１０７】
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発メモリ（ＲＡＭ）のように、一定時間プログラムを保持しているものも含む。
【０１０８】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク（通信網）や電話回線等の通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。
【０１０９】
また、上記プログラムは、前述した機能の一部を実現する為のものであっても良い。さらに、前述した機能をコンピュータシステムに既に記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル（差分プログラム）であっても良い。
【０１１０】
また、上記のプログラムを記録したコンピュータ読み取り可能な記録媒体等のプログラムプロダクトも本発明の実施形態として適用することができる。上記のプログラム、記録媒体、伝送媒体およびプログラムプロダクトは、本発明の範疇に含まれる。
【０１１１】
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
【図１】
0006000520.tif 000003
【図２】
0006000520.tif 000004
【図３】
0006000520.tif 000005
【図４】
0006000520.tif 000006
【図５】
0006000520.tif 000007
【図６】
0006000520.tif 000008
【図７】
0006000520.tif 000009