(57)【要約】【課題】間引き読み出しモードにおける制御シーケンスの簡略化を図る。【解決手段】撮像用画素(Ｒ，Ｇ，Ｂ)が二次元状に配列された撮像素子の一部に複数の焦点検出用画素(Ｓ１，Ｓ２)が配列された撮像素子において、すべての撮像用画素(Ｒ，Ｇ，Ｂ)とすべての焦点検出用画素(Ｓ１，Ｓ２)から信号を読み出す全画素読み出しモードと、撮像用画素(Ｒ，Ｇ，Ｂ)の内の一部の画素を間引いて信号を読み出す間引き読み出しモードとを有し、間引き読み出しモードでは、撮像用画素(Ｒ，Ｇ，Ｂ)の内の一部の画素の信号に加え、すべての焦点検出用画素(Ｓ１，Ｓ２)の信号を読み出す。【選択図】図４
2010185998.tif 000002
【特許請求の範囲】
【請求項１】
画像を生成するための信号を出力する複数の撮像用画素が二次元状に配列された撮像素子の一部に、焦点検出のための信号を出力する複数の焦点検出用画素が配列された撮像素子であって、
すべての前記撮像用画素とすべての前記焦点検出用画素から信号を読み出す全画素読み出しモードと、前記撮像用画素の内の一部の画素を間引いて信号を読み出す間引き読み出しモードとを有し、前記間引き読み出しモードでは、前記撮像用画素の内の一部の画素の信号に加え、すべての前記焦点検出用画素の信号を読み出すようにしたことを特徴とする撮像素子。
【請求項２】
請求項１に記載の撮像素子において、
前記撮像用画素と前記焦点検出用画素はそれぞれＸ軸アドレスとＹ軸アドレスを有する二次元状に展開されており、Ｘ,Ｙアドレスを指定して画素ごとに信号を読み出す読み出し回路を備え、
前記読み出し回路は、前記間引き読み出しモードの実行時には、すべての前記焦点検出用画素の信号を読み出した後に、前記撮像用画素の内の一部の画素を間引いて信号を読み出すことを特徴とする撮像素子。
【請求項３】
請求項１または請求項２に記載の撮像素子において、
前記焦点検出用画素は、光学系の瞳の異なる領域を通過した対の光束の一方または両方を受光する光電変換部を有することを特徴とする撮像素子。
【請求項４】
請求項１〜３のいずれか１の請求項に記載の撮像素子と、
前記間引き読み出しモードの実行時に、前記撮像用画素から出力された信号と前記焦点検出用画素から出力された信号とを分離する信号分離手段と、
前記信号分離手段により分離された前記撮像用画素の信号により画像を生成する画像生成手段と、
前記信号分離手段により分離された前記焦点検出用画素の信号により光学系の焦点調節状態を検出し、焦点調節状態に基づいて前記光学系の焦点調節を行う焦点調節手段とを備えることを特徴とする撮像装置。
【請求項５】
請求項４に記載の撮像装置において、
前記焦点検出用画素の周囲の前記撮像用画素の信号に基づいて、当該焦点検出用画素の位置における画像を生成するための信号を補間により求める補間手段と、
前記撮像用画素の信号に基づいてホワイトバランス調整に用いる評価値を算出するホワイトバランス評価値算出手段と、
前記全画素読み出しモードの実行時に、前記撮像用画素の信号と前記補間手段により求めた前記焦点検出用画素位置の信号とに基づいて前記ホワイトバランス調整に用いる評価値を補正する評価値補正手段とを備えることを特徴とする撮像装置。
【請求項６】
請求項４に記載の撮像装置において、
前記信号分離手段は、前記焦点検出用画素の信号を分離するか否かを設定可能であり、分離する設定がなされた場合に、前記間引き読み出しモードにおいて繰り返し行われる間引き読み出しの内の１回だけ前記焦点検出用画素の信号を分離するモードと、所定の間引き読み出し回数ごとに前記焦点検出用画素の信号を分離するモードとのいずれかを選択可能にしたことを特徴とする撮像装置。
【請求項７】
請求項４〜６のいずれか１項に記載の撮像装置において、
前記焦点調節手段は、ＣＰＵと高速読み書き可能なメモリとを有し、前記間引き読み出しモードの実行時には、前記信号分離手段により分離された前記焦点検出用画素の信号を前記メモリに直接記憶するとともに、前記メモリに記憶された信号に基づいて前記ＣＰＵが焦点検出演算と焦点調節制御を実行することを特徴とする撮像装置。
【請求項８】
請求項７に記載の撮像装置において、
前記焦点調節手段は、演算専用のコプロセッサーをさらに有し、前記間引き読み出しモードの実行時には、前記信号分離手段により分離された前記焦点検出用画素の信号を前記メモリに直接記憶するとともに、前記メモリに記憶された信号に基づいて前記コプロセッサーが焦点検出演算を実行し、この焦点検出演算結果に基づいて前記ＣＰＵが焦点調節制御を実行することを特徴とする撮像装置。
【請求項９】
請求項８に記載の撮像装置において、
前記補間手段および前記評価値補正手段は、前記コプロセッサーと前記メモリを用いて補間演算と評価値補正演算を実行することを特徴とする撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は撮像素子と撮像装置に関する。
【背景技術】
【０００２】
撮像画素と焦点検出画素とを平面上に展開し、焦点検出画素から出力される測距信号に基づいて位相差検出方式で撮影レンズの焦点検出を行うようにした撮像装置が知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０００−１５６８２３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上述した従来の撮像装置では、高解像度の静止画を得るために撮像素子上のすべてのラインの信号を読み出す静止画撮影モードと、ＥＶＦ（Electronic View Finder；電子ビューファインダー）表示（スルー画表示）や動画撮影のために撮像素子上のラインを間引いて信号を読み出す間引きモードと、撮影光学系の焦点検出を行うために焦点検出画素が含まれるラインの信号を読み出す測距モードとを有し、静止画撮影時には、最初に間引きモードでＥＶＦ表示を行って撮影構図を決定し、次に測距モードに切り換えて撮影光学系のＡＦ（Auto Focus；自動焦点調節）を行い、最後に静止画撮影モードに切り換えて撮像を行っている。一方、動画撮影時には、間引きモードでＥＶＦ表示を行うとともに間引き読み出しした画像信号を圧縮してメモリに記録し、所定時間ごとに測距モードに切り換えて撮影光学系のＡＦを行っている。
このように、従来の撮像装置では撮影時に静止画撮影モード、間引きモードおよび測距モードという３つのモードを切り換えなければならないので、制御シーケンスが煩雑になるという問題がある。
【課題を解決するための手段】
【０００５】
（１）  請求項１の発明は、画像を生成するための信号を出力する複数の撮像用画素が二次元状に配列された撮像素子の一部に、焦点検出のための信号を出力する複数の焦点検出用画素が配列された撮像素子であって、すべての撮像用画素とすべての焦点検出用画素から信号を読み出す全画素読み出しモードと、撮像用画素の内の一部の画素を間引いて信号を読み出す間引き読み出しモードとを有し、間引き読み出しモードでは、撮像用画素の内の一部の画素の信号に加え、すべての焦点検出用画素の信号を読み出す。
（２）  請求項２の撮像素子は、撮像用画素と焦点検出用画素がそれぞれＸ軸アドレスとＹ軸アドレスを有する二次元状に展開されており、Ｘ,Ｙアドレスを指定して画素ごとに信号を読み出す読み出し回路を備え、読み出し回路によって、間引き読み出しモードの実行時には、すべての焦点検出用画素の信号を読み出した後に、撮像用画素の内の一部の画素を間引いて信号を読み出すようにしたものである。
（３）  請求項３の撮像素子の焦点検出用画素は、光学系の瞳の異なる領域を通過した対の光束の一方または両方を受光する光電変換部を有する。
（４）  請求項４の発明は、請求項１〜３のいずれか１項に記載の撮像素子と、間引き読み出しモードの実行時に、撮像用画素から出力された信号と焦点検出用画素から出力された信号とを分離する信号分離手段と、信号分離手段により分離された撮像用画素の信号により画像を生成する画像生成手段と、信号分離手段により分離された焦点検出用画素の信号により光学系の焦点調節状態を検出し、焦点調節状態に基づいて光学系の焦点調節を行う焦点調節手段とを備える。
（５）  請求項５の撮像装置は、焦点検出用画素の周囲の撮像用画素の信号に基づいて、当該焦点検出用画素の位置における画像を生成するための信号を補間により求める補間手段と、撮像用画素の信号に基づいてホワイトバランス調整に用いる評価値を算出するホワイトバランス評価値算出手段と、全画素読み出しモードの実行時に、撮像用画素の信号と補間手段により求めた焦点検出用画素位置の信号とに基づいてホワイトバランス調整に用いる評価値を補正する評価値補正手段とを備えたものである。
（６）  請求項６の撮像装置は、信号分離手段によって、焦点検出用画素の信号を分離するか否かを設定可能であり、分離する設定がなされた場合に、間引き読み出しモードにおいて繰り返し行われる間引き読み出しの内の１回だけ焦点検出用画素の信号を分離するモードと、所定の間引き読み出し回数ごとに焦点検出用画素の信号を分離するモードとのいずれかを選択可能にしたものである。
（７）  請求項７の撮像装置は、焦点調節手段が、ＣＰＵと高速読み書き可能なメモリとを有し、間引き読み出しモードの実行時には、信号分離手段により分離された焦点検出用画素の信号をメモリに直接記憶するとともに、メモリに記憶された信号に基づいてＣＰＵが焦点検出演算と焦点調節制御を実行するようにしたものである。
（８）  請求項８の撮像装置は、焦点調節手段が、演算専用のコプロセッサーをさらに有し、間引き読み出しモードの実行時には、信号分離手段により分離された焦点検出用画素の信号をメモリに直接記憶するとともに、メモリに記憶された信号に基づいてコプロセッサーが焦点検出演算を実行し、この焦点検出演算結果に基づいてＣＰＵが焦点調節制御を実行するようにしたものである。
（９）  請求項９の撮像装置は、補間手段および評価値補正手段が、コプロセッサーと高速読み書き可能なメモリを用いて補間演算と評価値補正演算を実行する。
【発明の効果】
【０００６】
本発明によれば、間引き読み出しモードにおいてＡＦ制御を行う場合に、間引き読み出しモードから他のモードへモードを切り換える必要がなく、制御シーケンスを簡略化できる。
【図面の簡単な説明】
【０００７】
【図１】一実施の形態のデジタルカメラの構成を示す図
【図２】画像処理回路の詳細な構成を示す図
【図３】撮像素子の代表的なRGB原色ベイヤー配列を示す図
【図４】間引きモードにおける信号読み出しの一例を示す図
【図５】静止画撮影モードにおける信号読み出しの一例を示す図
【図６】静止画撮影モードにおける画像処理方法を示す図
【図７】AE/AWB評価値を検出するためのウインドウの設定例を示す図
【図８】図４に示すセンサーセルＳ１を含むラインとセンサーセルＳ２を含むラインの拡大図
【図９】間引きモードの信号読み出しタイミングを示す図
【図１０】AFセンサーアレイの配置例を示す図
【図１１】焦点検出用画素位置の画像信号を補間により求める方法を示す図
【図１２】AFセンサーアレイからの信号の読み出し順を示す図
【図１３】コストを重視した位相差演算回路の一実施例を示す図
【図１４】性能と柔軟性を重視した位相差演算回路の他の実施例を示す図
【発明を実施するための形態】
【０００８】
図１は一実施の形態のデジタルカメラの構成を示す図、図２は画像処理回路の詳細な構成を示す図である。
【０００９】
一実施の形態のデジタルカメラは、カメラのほとんどの機能と動作を制御するDSCエンジン(システムLSI)６を中心に構成されている。DSCエンジン６にはCPU３０、画像処理回路２２、JPEGコーデック２４、ディスプレイエンジン２５、SDRAMコントローラ(SDRAMC)３２、FlashメモリIF３１、メモリカードIF２８、USBコントローラ２９、クロック発生器３３、シリアルポート(SIO)２６、パラレルポート(PIO)２７などが設けられ、画像バス３４およびＣＰＵバス３５を介して各種情報の授受を行う。なお、DSCエンジン６には図示しないタイマー、割り込みコントローラ、DMAコントローラ(DMAC)、汎用のAD変換器なども設けられている。
【００１０】
また、DSCエンジン６には様々な外付けコンポーネントが接続される。主要な外付けコンポーネントとしては、SDRAM１２、フラッシュメモリ９、LCDパネル１１、メモリカード７、水晶発振子(X’tal)１０、固体撮像素子(CCDやCMOSなど)２、AFE(Analog Front End)３、TG(Timing Generator)５、撮影レンズ１、モータードライバーIC(MDIC)４などがある。撮影レンズ１は鏡筒ユニットとして構成されており、図示しないズーミングレンズ、フォーカシングレンズ、メカ絞り、メカシャッターなどと、それらを駆動するためのモーターなどが設けられている。
【００１１】
なお、この一実施の形態では固体撮像素子２にCCDを用いた例を示し、CCDの色フィルターは図３に示す代表的なRGB原色ベイヤー配列とする。DSCエンジン６にはこれらの他にも不図示のスピーカー、マイク、操作ボタンなどが接続されている。オーディオコーデック(不図示)を内蔵しないDSCエンジンの場合には、これも外付けとなる。これらの外付けコンポーネントもDSCエンジン６の制御下で動作する。
【００１２】
SDRAM１２は画像メモリおよびCPU３０のワークメモリとして利用され、アクセスの頻度が非常に高いことから高速なメモリデバイスが使われる。最近ではDDR-SDRAMを使うことが多い。フラッシュメモリ９にはCPU３０のプログラム(ファームウェア)、カメラごとに異なる様々な調整値やユーザーによるカメラの設定情報、さらに撮影された画像データのファイルなどが記憶される。一方、メモリカード７は着脱式の記録媒体であり、記憶領域が空いている場合は撮影された画像がこちらの方に優先的に記録される。LCDパネル１１はカメラに内蔵されるディスプレイ装置であり、スルー画や再生画などの画像を表示する他に、文字やアイコンなどの様々なカメラ情報を表示することにも使用される。
【００１３】
ここで、図１を参照しながら、固体撮像素子２として通常のCCDを用いたデジタルカメラの全般的な動作を説明する。被写体像は撮影レンズ１によって固体撮像素子２上に結像される。撮影時は、撮影レンズ１のズーミングレンズやフォーカシンレンズ、メカ絞り、メカシャッターなどがそれぞれのモーターによって駆動され、撮影が行われる。これらのモーターは図中のモータードライバーIC４によって駆動されるが、その制御はSIO２６やPIO２７を介してDSCエンジン６により行われる。
【００１４】
固体撮像素子２はTG５のパルスによって駆動され、被写体の露光(画像信号電荷の蓄積)や画像信号の様々な読み出し動作がこれにより制御される。固体撮像素子２から読み出された画像信号はAFE３によってサンプリングされ、画素ごとにデジタルデータへ変換される。TG５とAFE３はSIO２６を介してDSCエンジン６により制御される。このデジタル画像データ(RAWデータ)はDSCエンジン６に入力され、画像処理回路２２で処理されてYCbCrデータとなる。画像処理回路２２から出力されたYCbCrデータは、画像バス３４を経由してSDRAM１２に記憶される。SDRAM１２からYCbCrデータを読み出し、画像バス３４からディスプレイエンジン２５に入力すると、その画像がLCDパネル１１に表示される。
【００１５】
同様に、SDRAM１２からYCbCrデータを読み出し、画像バス３４を経由してJPEGコーデック２４に入力すると、YCbCrデータが圧縮される。JPEGコーデック２４から出力された圧縮データは、画像バス３４を経由してSDRAM１２に記憶される。この圧縮データをSDRAM１２から読み出し、CPUバス３５からメモリカードIF２８へ送ると、メモリカード７にその圧縮データが記録され、一連の撮影動作が終了する。一方、画像を再生するにはメモリカード７から圧縮データを読み出し、CPUバス３５を経由してそれをいったんSDRAM１２に記憶する。この圧縮データをSDRAM１２から読み出し、画像バス３４からJPEGコーデック２４へ入力すれば、圧縮データが伸長される。
【００１６】
JPEGコーデック２４から出力された伸長後の画像データは、再び画像バス３４を経由してSDRAM１２に記憶される。この画像データをSDRAM１２から読み出し、画像バス３４から画像処理回路２２へ入力して適当なサイズに変換する。画像処理回路２２から出力された解像度変換後の画像データは、画像バス３４を経由してSDRAM１２に記憶される。この画像データをSDRAM１２から読み出し、画像バス３４からディスプレイエンジン２５へ入力すれば、再生画像がLCDパネル１１に表示される。なお、解像度変換が不要な場合はJPEG伸長後の画像データをそのまま表示する。
【００１７】
メモリカード７に記録された画像データ(JPEGファイルなど)をホストPC８に保存するには、カメラとホストPC８をUSBケーブルで接続する。まず、メモリカード７から画像ファイルを読み出し、CPUバス３５を経由してこれをいったんSDRAM１２へ記憶する。この画像ファイルをSDRAM１２から読み出してCPUバス３５を経由してUSBコントローラ２９へ送れば、ホストPC８に保存される。これと逆の流れでホストPC８のファイルをカメラのメモリカード７に記録することもできる。
【００１８】
次に、撮影時の固体撮像素子２からの信号読み出しと、画像処理回路２２の動作について説明する。まず、カメラの撮影動作には２つの異なる動作があり、一方はＥＶＦ表示(スルー画表示)動作であり、他方はフル解像度の静止画撮影動作である。この２つの動作の違いは、固体撮像素子２からの信号読み出しモードの違いである。すなわち、ＥＶＦ表示動作では固体撮像素子２から間引きモードで信号が読み出されるが、静止画撮影動作では固体撮像素子２から静止画撮影モードで全画素の信号が読み出される。
【００１９】
図４に間引きモードにおける信号読み出しの一例を示す。図において、「n」や「n＋1」は間引きモードにおけるライン番号を表す。間引きモードでは、少数の画素ラインの信号だけが読み出されるので垂直解像度は低下するが、1フレームの信号読み出し時間が短くなるので約30フレーム/secなどの高速なフレーム・レートが実現される。これはリアルタイムで被写体像(スルー画)を観察したり、AF(Auto Focusing)の制御やAE(Auto Exposure)の測光を行ったりするのに適している。従来の撮像装置では、図中の撮像用画素ＲとＧのライン、および撮像用画素ＧとＢのラインだけ信号が読み出され、AFセンサーセル（焦点検出用画素）Ｓ１やＳ２を含むラインの信号は読み出されないが、この一実施の形態では間引きモードでAFセンサーセルＳ１やＳ２を含むラインの信号が読み出される。この一実施の形態の間引きモードにおける信号読み出しについては詳細を後述する。
【００２０】
図５に静止画撮影モードにおける信号読み出しの一例を示す。静止画撮影モードでは、すべての画素ラインの信号が読み出されるのでそれに掛かる時間が長く、しかも撮像素子２の画素ラインは飛び飛びに読み出されるので１フレームの画像信号は複数のフィールド信号に分かれている(インターレース読み出し)。これに対し上述した間引きモードでは、撮像素子２の画素ラインが上から下への順に読み出されるので最初からフレーム画像信号として出力される(プログレッシブ読み出し)。このように、静止画撮影モードと間引きモードでは画像信号の読み出し動作が異なるため、それに対応してそれぞれの画像処理の手順も大きく異る。
【００２１】
画像処理回路の詳細な構成を示す図２において、網掛けで示す制御ブロック、すなわちＡＦ信号補間回路６１とAWB補正値回路６２は、従来のデジタルカメラにはなかった新しい制御ブロックである。これらの新しい制御ブロック６１、６２については詳細を後述することにし、まず従来のデジタルカメラの制御ブロックについて説明する。
【００２２】
画像処理回路２２へ入力された画像データ(RAWデータ)には、先ず欠陥補正回路４１により欠陥画素補正が施される。補正テーブル４６には欠陥画素のアドレスが登録されており、このアドレスに一致した画素のデータは周囲の画素から計算された補正値に置き換えられる。続いてOBクランプ回路４２により画像の黒レベルを決定するOBクランプ処理が施される。固体撮像素子２のCCDにはOB(Optical Black)領域が設けられており、このOB領域の信号の平均値を検出して各画素の値から差し引くことによって黒レベルを決めている。
【００２３】
次に、画像データは感度比調整回路４３により色別に異なるゲイン調整(感度比調整)がなされる。撮像素子２の画素は色ごとに感度が異なるため、白い(グレー)被写体を撮影してもR，G，B各色の信号レベルが異なり、そのままでは白(グレー)とはならない。したがって、標準光源(例えばD65：昼光)の下でR，G，B各色の感度(信号レベル)を合わせる必要がある。通常はGのゲインを１に固定してRとBの感度をGに合わせるようにゲイン調整(乗算)を行う。
【００２４】
ここまでの画像処理が前処理部(Pre-Process)２２ａによる処理であり、静止画撮影モードの場合はここで画像データがいったんSDRAM１２に移される。そのため、前処理の最終段には画像バスに向けて出力バッファ４４(FIFO等)が設けられている。一方、間引きモードの場合は後続の後処理(Post-Process)部２２ｂによる処理が続けて実行される。間引きモードはプログレッシブ読み出しの画像信号なので前処理と後処理を一体にして施すことができるのに対し、静止画撮影モードはインターレース読み出しのフィールド画像信号なのでそのまま後処理を施すことはできない。
【００２５】
そこで、以下では２つのモードの後処理動作を分け、先ず間引きモードにおける後処理について説明する。後処理ではまず水平間引き回路５１により水平間引き処理が行われ、画像データの水平画素数が低減される。後処理では２次元のデジタルフィルター処理が何度か施されるので、ラインメモリが設けられている。間引きモードではライン数は減っているが水平画素数は依然多いので、そのままではラインメモリが溢れてしまう。スルー画のサイズは高々VGA(640×480)程度であるから、それを作成するのに必要な数(例えば700画素強)まで水平画素数を減らしても構わない。これによりラインメモリの容量が抑えられる。
【００２６】
次に、WB調整回路５２により画像データにWB(White Balance)調整が施される。照明光の分光分布は撮影環境によって異なるため、白い(グレー)被写体を撮影してもそのままでは白(グレー)とはならない。R，G，Bの色ごとに異なるゲインを掛けて３色の信号レベルを合わせる。通常はGのゲインを１に固定してRとBの信号レベルをGに合わせる。RとBのゲインの決め方は後述する。WB調整後、γ補正回路５３により画像データにγ補正が施される。γ補正ではディスプレイ装置などの出力デバイスに合った階調変換を行う。よく知られたsRGB色空間のディスプレイであれば「γ＝2.2」となる。
【００２７】
ここまでは１画素当たり１色のBayer配列信号であったが、色補間回路５４による色補間処理によって１画素当たり３色から成る通常のカラー画像信号に変換される。これ以降は３つの色信号が並列に画像処理回路２２の中を流れる。続く色変換/色補正回路５５では出力色空間の信号への変換と、好ましい色を実現するための補正が行われる。代表的な色空間は表示に適したsRGBと、印刷ワークフローに適したAdodeRGBなどである。色補正では肌色や空や海の色といった記憶色を好ましい色として表現する。色変換/色補正ではカラーマトリックス処理が主たるものとなるが、高度な色補正を行う場合はLUT(Look Up Table)なども用いられる。この色変換/色補正が行われた後の画像データは、通常YCbCr4:4:4である。
【００２８】
このYCbCrデータは、解像度変換回路５６により解像度変換を受け、目的のサイズに変換される。スルー画であればQVGA(320×240)やVGAが一般的である。次いで空間フィルター回路５７により画像データに空間フィルター処理が施される。ここではY信号のエッジ強調とCb/Cr信号のLPF処理が行われる。最後に、CbCr間引き回路５８によりCb/Cr信号の間引き処理を行ってYCbCr4:2:2のデータに変換し、画像バス３４を経由してSDRAM１２に記憶すれば間引きモードの後処理が終了する。そのため、後処理の最後には画像バス３４に向けて出力バッファ(FIFOなど)６３が設けられている。このデータはディスプレイエンジン２５に送られスルー画としてLCDパネル１１に表示される。
【００２９】
次に、静止画撮影モードの後処理部２２ｃによる処理を説明する。静止画撮影モードの場合は、図５に示すように飛び飛びのライン順（インターレース）に画像信号が読み出されるので、隣接するラインが存在しない。したがって、そのようなフィールド画像信号に色補間処理を直接施すことはできない。そのため、前処理の終わった各フィールド画像信号をいったん画像処理回路２２から排出し、それらがSDRAM１２上で隣り合ったライン順（プログレッシブ）に並ぶように配置する。この画像信号をSDRAM１２から読み出し、画像バス３４から画像処理回路２２に入力すれば、後処理を施すことができる。そのため、画像バス３４から後処理回路２２に向けて入力バッファ(FIFOなど)５９が設けられている。
【００３０】
ただし、静止画撮影モードの場合は高解像度の画像を作成するので、図中の水平間引きはスキップされる。このままでは水平画素数の大きな画像データがその後の処理に送られるので、ラインメモリを持った処理ブロックの場合はラインメモリが溢れて処理することができない。そこで、静止画像撮影モードの場合は、大きな静止画を図６に示すように横幅の短い短冊状のブロックに分割し、このブロックごとに後処理を施すようにしている。後処理ではデジタルフィルター処理（コンボルーション）が幾つか施されるが、その処理の後では周辺の画素が切り落とされて画像サイズが僅かに小さくなる。図６に示すブロックの境界では処理後の画像が滑らかに繋がらなければならないので、少なくとも切り落とされる画素分はブロックをオーバーラップさせて処理する。各ブロックの後処理は間引きモードと同じフローで行われるが、画像処理のパラメータは一般に異なる。
【００３１】
静止画撮影モードではこのような高解像度の主画像の他に、撮影確認のための表示用画像(フリーズ画ともいう）や検索用のサムネイルを併せて作成することが多い。後者の２つの画像は小さなサイズではあるが大きな原画像から作成されるため、主画像と同じフローで後処理を行うと図６に示すようにブロック分割が必要となって煩わしい。そこで、フリーズ画やサムネイルを作成する場合は、水平間引きを利用して予め目的のサイズ付近まで水平画素数を減らして処理する。大きなサイズの原画像データにそのまま後処理を施すので、小さな画像なら１パスで作成される。この場合の後処理は間引きモードと全く同じフローになる。
【００３２】
なお、後処理の中で色変換/色補正より後は撮影時ばかりでなく再生時にも利用されるので、図中の入力バッファ(FIFOなど)から色変換/色補正に向かうデータパスも用意されている。このパスは「YCbCr←→RGB」という色変換や画像再生時に色補正を行ったり、LCDパネル１１に合ったサイズの画像を表示するため解像度変換を行う際に利用されたりする。静止画撮影モードの画像処理が前処理と後処理に分かれているのは、画像信号が複数のフィールドに分かれていることと、図６に示すように短冊状のブロックに分割して処理しなければならないという２つの理由による。
【００３３】
次に、検波回路４７による制御について説明する。ここで、検波の対象はAE，AWB(Auto White Blannce)である。図２には検波回路４７が設けられており、そこでは感度比調整後の画像データからAE,AWB評価値４５が抽出される。AE,AWB評価値とはAE，AWBの各制御を行うために必要な情報である。
【００３４】
AF制御には瞳分割型位相差検出方式が用いられる。これは撮影レンズ１の射出瞳面上の異なる領域を通過した対の光束を撮像素子２の対のAFセンサーセルＳ１とＳ２により受光し、ＡＦセンサーセルＳ１の配列から得られる信号と、AFセンサーセルＳ２の配列から得られる信号との位相差に基づいて撮影レンズ１の焦点調節状態、すなわちデフォーカス量が検出される。
【００３５】
AEとAWBの評価値はウインドウを設定して抽出するが、これらは同じウインドウ設定を利用して抽出することが多い。図７(ｂ)にAE/AWB評価値のウインドウ設定例を示す。これらのウインドウに含まれる画素の値を色別に積算して各ウインドウのAE/AWB評価値とする。AEによる露光の場合は、AE評価値から露光量(絞り値やシャッター時間)を決めて露光を行う。一方、AWB評価値は正しい色からのズレを表している。あるウインドウの色が白(グレー)一色であるなら、そのウインドウ内のR，G，Bの値を色ごとに同数ずつ積算するとそれらはほぼ等しくなるはずであるが、実際は撮影環境によって照明光の分光分布が変わるので積算値は一致しない。
【００３６】
そこで、図２に示すWB調整回路５２による３色のゲインの比が、３つの積算値の逆比に一致するよう調整すれば白い色(グレー)になるはずである。実際は、上述したようにGのゲインを１に固定して、RとBのゲインを３つの積算値の逆比に一致させるよう調整する。これがWB(White Balance)調整の原理である。AWBとはAWB評価値に基づいてカメラが自動的にWB調整を行うことである。図３に示すベイヤー配列色フィルターの場合はGの画素がRとBの2倍存在するので、各ウインドウのGの積算値を「1/2」倍したものをAWB評価値として利用する。そのため、各ウインドウのサイズを水平・垂直共「2」の倍数に設定しておくとよい。
【００３７】
一般に画像の中央が最も重要であるため、AE,AWB評価値のウインドウの数は図７に示すように水平・垂直共奇数に設定することが多い傾向にある。なお、後処理でWB調整が行われるので前処理の感度比調整は必須ではない。感度比調整が行われない場合はAE/AWB評価値がその誤差を含んでいるので、RとBの積算値に感度比調整に相当するゲインを掛けて補正する必要がある。したがって、感度比調整を行うことが望ましい。間引きモードではスルー画を表示しつつ適当なフレーム間隔でAE,AWB評価値を抽出してAE,AWBの制御を行う。メカシャッターは開いたままなのでAEの制御にはTGの電子シャッターが利用される。
【００３８】
AWBの制御は前述のようにRとBのゲイン調整により行われる。被写体の明るさや色温度(照明光の分光分布)が急激に変化することは少ないので、AE/AWBの制御周期は長くてもよい。AFの制御には瞳分割型位相差検出方式が用いられる。AFの制御は被写体を追尾するような場合を除くとスルー画表示が始まったときと、レリーズ釦が半押しされたときにそれぞれ１回ずつ行われることが多い。レリーズ釦が半押しされると静止画の撮影に備え、AFの制御の他にAE評価値を基に露光量(絞り値とシャッター時間)を計算する。
【００３９】
レリーズ釦が全押しされると静止画の露光動作に移行する。直前の半押しに伴うAF制御によって撮影レンズは被写体に合焦しており、同時に行われた露光量の計算によってメカ絞りの値とシャッター時間は決まっているので、それに基づいて静止画としての被写体の露光が行われる。露光動作はメカシャッターの閉鎖によって終了する。次いで静止画撮影モードで撮像素子２のCCDから画像信号が読み出され、上述した手順にしたがって静止画の画像処理が行われる。この場合は3A評価値の中でAWB評価値だけが抽出される。露光は終わっているのでAEとAFの評価値を抽出する必要はない。
【００４０】
静止画のAWB評価値はフィールドごとに抽出されるため、１つの画像全体(フレーム)のAWB評価値を得るためにはフィールドごとの評価値を積算する。AWB検波回路がこの積算機能を持っていない場合は、各フィールドの評価値をCPUのソフトウェアによって積算する。積算されたAWB評価値からRとBのゲインを決めて後処理の前にWB調整回路に設定する。このように、撮影された静止画のデータからAWB評価値を抽出してAWBの調整を行っているので精度が高い。WB調整が後処理に含まれるのはそのためである。
【００４１】
一方、間引きモード(スルー画表示)の場合は、抽出されたAWB評価値がそれ以降のフレームのAWB調整に利用されているという点が異なる。なお、動画撮影動作の場合もビューファインダー動作(スルー画表示)と同じ間引きモードが使われており、スルー画のデータをそのままJPEG圧縮してメモリカードに記録している。
【００４２】
ところで、一実施の形態の撮像素子２では、位相差AF方式のセンサーを組み込んだタイプの撮像素子としている。撮像素子２は、画像信号を形成する画素(光電変換セル)の一部を、図４に示すように位相差AF方式のためのセンサーセル（焦点検出用画素）に置き換えたものである。図８は、図４に示すセンサーセルＳ１を含むラインとセンサーセルＳ２を含むラインの拡大図である。このAFセンサーはセンサーセルＳ１とＳ２の１次元アレイから成り、２つの異なるセンサーアレイ一組で利用される。このセンサーアレイの各センサーセルは中心から一方に偏った開口部S1a、S2aを持ち、その偏りの方向に沿って１次元状に並べられている。２つのセンサーアレイの各センサーセルは開口部S1a、S2aの偏りが互いに逆方向であり、その偏りの距離は同一である。この２つのセンサーアレイはほぼ同一と見なされる位置に並べて置かれる。
【００４３】
図４および図８に示すように、撮像素子２では、互いに逆方向に偏心した開口部S1a、S2aを持つAFセンサーセルＳ１，Ｓ２が、RGB原色ベイヤー配列中のG画素の代わりに置かれている。なお、図４および図８に示すようにAFセンサーセルＳ１とＳ２を隣接するライン上に配置してもよいし、同一ライン上に交互に配置してもよい。これらのAFセンサーセルＳ１、Ｓ２によって瞳分割位相差AF方式を実現する。つまり、射出瞳を通る光束の中で撮影レンズ１の光軸に対して対称な位置にある２つの部分光束を、Ｓ１のセンサーアレイとＳ２のセンサーアレイでそれぞれ受光すれば、２つのセンサーアレイから出力された信号の位相差によりフォーカスずれの方向(フォーカシングレンズの移動方向)と、フォーカスずれの量(フォーカシングレンズの移動量)が分かる。これにより速やかなフォーカス合わせが可能になる。
【００４４】
被写体の位置は撮影画面内を常に移動するので、このAFセンサーアレイは撮影画面内の数ヶ所に設けることが望ましい。これらの各場所には、Ｓ１とＳ２のセンサーアレイが並んで配置される。なお、センサーセルＳ１とＳ２の開口部S1a、S2aの形状は図８に示すような長方形に限定されず、例えば半円形としてもよい。
【００４５】
ところで、AFセンサーセルＳ１とＳ２は撮像領域に埋め込まれているので、その部分の画像信号が欠落してしまうという問題がある。この一実施の形態ではその問題を解決しつつ撮像素子２を利用している。先ず、静止画撮影モードでは、すべての光電変換セルの信号が読み出されるので、画像信号とAF信号の両方を含んだ信号が出力される。このままではAFセンサー部の画像信号が欠落しているため、満足な画質の静止画は得られない。
【００４６】
そこで、周囲の画像信号から補間された信号でAF信号を置き換えるようにしている。この補間処理をリアルタイム(On the fly)で行うことは困難なので、すべての信号をいったんSDRAM１２に記憶し、後で時間を掛けて補間を行っている。AFセンサーアレイは撮影画面内の数ヶ所に設けられるだけなので、このような補間を行って得られた静止画であっても画質は十分である。
【００４７】
一方、デジタルカメラではＥＶＦ動作(スルー画表示)も行われており、この場合は約30fpsの高速レートで連続して撮像素子２から信号が読み出されるため、後で時間を掛けて補間処理を行うようなことはできない。この場合は間引きモードが使われているので、AFセンサーが埋め込まれたラインが丁度間引かれるようにして補間処理をなくしている。AFセンサーアレイは撮影画面の数ヶ所に設けられており、それらを間引いてもスルー画を作成するのに十分な画像信号が確保される。
【００４８】
しかし、間引きモードではAF信号が得られないため今度はAFの制御ができないという問題が起こる。デジタルカメラではＥＶＦ動作(スルー画表示)中にAF制御が行われるので、これは問題である。従来の撮像装置では測距モードが設けられており、AF制御を行うときは間引きモードから測距モードへ移るようにしている。測距モードではAFセンサーアレイが埋め込まれた少数のラインだけが読み出されるので、測距モードに入っている期間は僅かである。レリーズ釦操作が半押しから全押しまで一気に行われた場合、半押しが検出された段階で測距モードに移行するが、続けて全押しが検出されるのでAFの制御が完了した後は間引きモード(スルー画表示)に戻らず、静止画の露光動作に入る。
【００４９】
AF制御を行う際は併せてAEのための測光も行われる。測光は、測距モードに移る直前の間引きモードのAE評価値を利用して、従来のカメラと同じように行われる。レリーズ釦が全押しされると静止画の露光動作に入り、半押し時の測光で得られた露光量(メカ絞りの値とシャッター時間)にしたがってAEによる露光が行われる。
【００５０】
露光が完了すると上述した静止画撮影モードに移って画像信号とAF信号が読み出され、次いで上述した補間処理によりAF信号が画像信号に置き換えられる。補間処理が完了すると上述した画像処理(後処理)が施されてYCbCrデータとなり、これをJPEG圧縮してメモリカード７に記録すると静止画の撮影が完了する。一方、静止画撮影モードの読み出しが終わった時点でカメラは間引きモードに移行し、次の静止画の撮影に備えてＥＶＦ動作(スルー画表示)が再開される。ただし、レリーズ釦操作が半押しだけで終わり全押しが行われなかった場合は、AFの制御が終わると測距モードから間引きモードに戻ってＥＶＦ動作(スルー画表示)を再開する。
【００５１】
次に、一実施の形態の構成の内、従来の撮像装置になかった新しい構成について説明する。一実施の形態のデジタルカメラは静止画撮影モードと間引きモードを有しており、従来の撮像装置で用いられている測距モードはない。静止画撮影モードの読み出し動作は、従来の撮像装置の読み出し動作と同様であり、ともに図５に示すような信号読み出しが行われる。ただし、AF用の光電変換セルが含まれているので、図５に示す画像信号の一部がAFセンサーセルS1とS2の信号に変わっている。図４の配列であれば、図５の上から４ライン目(第４フィールド)のGの信号がS1の信号、上から６ライン目(第２フィールド)のGの信号がS2の信号に変わっている。
【００５２】
一方、間引きモードの読み出し動作は従来の撮像装置と大きく異なり、この一実施の形態では図４に示すように間引かれて数の減った画像信号と、間引かれていないS1とS2のAF信号が混在して読み出される。静止画撮影モードの読み出し動作は従来の撮像装置の動作と同様であるから説明を省略し、以下では間引きモードの読み出し動作について詳しく説明する。間引きモードはＥＶＦ動作(スルー画表示)や動画撮影で利用されているが、それは1V期間(VSync信号の１周期)に信号がすべて読み出されるというプログレッシブ読み出しである。
【００５３】
図４に示すように、上のラインから下のラインに向かって順に信号が読み出される。すなわち、ライン番号nの画像信号として「R/G」が読み出され、続いてS1の信号を含むラインとS2の信号を含むラインが順次読み出され、その次にライン番号n+1の画像信号「G/B」が読み出される。S1の信号を含むラインとS2の信号を含むラインはスルー画(動画)の作成には利用されないので、これらのラインにはライン番号が付与されていない。また、図４において、左側の配列中に網掛けで示すラインは、間引かれるラインであり、画像信号は出力されない。なお、図５に示すように、静止画撮影モードの場合は、図４に示す網掛けラインを含むすべての信号(S1とS2を含む)が読み出される。
【００５４】
図９は、図４に示す間引きモードの信号読み出しタイミングを示す。図９(ａ)は一実施の形態の読み出しタイミングを示し、図９(ｂ)は特許文献１に示す従来の撮像装置の読み出しタイミングを示す。間引きモードでは1V期間に信号が読み出されるので、図９(ａ)と(ｂ)の上半分にはVSync信号の1周期分だけが示されている。図９(ａ)の上半分は、図４に示す1ライン前(ライン番号n-1)からの読み出し動作を表しており、前方と後方の垂直ブランキング期間を含むフレームの先頭と最後は省略されている。
【００５５】
図中のn-1，n，n+1はそれぞれ画像信号のライン番号を表している。ライン番号nの画像信号(R/G)の次はS1/Bのラインが読み出され、さらに続いてS2/Bのラインが読み出され、その後にライン番号n+1の画像信号(G/B)が続いており、図４に示す信号読み出し動作と一致している。図９(ａ)の下半分はS1/BまたはS2/Bのラインの読み出し動作を表しているが、ラインの中間ではS1またはS2の信号とBの信号が交互に読み出されており、図４に示す配列と一致している。
【００５６】
一方、従来の撮像装置では、図９(ｂ)の上半分に示すように画像信号のラインだけが読み出される。図中のn-2，n-1，n，n+1，n+2はそれぞれライン番号を表す。図９(ｂ)の下半分はその中の1ラインの読み出し動作を表しており、画像信号だけを含んでいる。図９(ｂ)の上半分にはAFセンサー(S1とS2)のラインが含まれないので、有効画像ラインが同数であれば図９(ａ)の上半部によりも短い期間で画像信号の読み出しが終わる。フレーム周波数を落とさないために、図９(ａ)の上半分に示す読み出し動作では、垂直ブランキング期間の一部をS1/BとS2/Bのラインを読み出す期間に割り当てている。S1/BとS2/Bのライン数だけ垂直ブランキング期間は短くなるが、それがある程度長ければ問題はない。
【００５７】
AFセンサーアレイは撮像画面の数ヶ所に設けることが望ましいので、これを5ヶ所に設けた固体撮像装置の例を図１０(ａ)に示す。図１０(ａ)において、符号1，2，3，4，5はAFセンサーアレイの番号を表しており、それぞれがS1のセンサーアレイとS2のセンサーアレイの１組のセンサーアレイから成る。図４は１つのAFセンサーアレイ付近の信号読み出し動作を表しているが、AFセンサーアレイが複数ヶ所に設けられていると、他のAFセンサーアレイの信号を読み出すための期間が余分に必要となる。
【００５８】
図１０(ａ)において、AFセンサーアレイ２と３、および４と５がそれぞれ同じライン上に配置されているとすれば、それぞれがS1のラインとS2のラインを含むのでAFセンサーアレイ１を合わせると合計６ラインの読み出しが必要である。図１０(ａ)に示す撮像素子２から間引きモードで信号を読み出すと、垂直ブランキング期間は６ラインだけ短くなる。その点を考慮してVSync信号とHSync信号の周波数を決めなければならない。
【００５９】
図４や図５に示すような読み出しを行う代表的な固体撮像素子はCCDである。CCDではライン単位で信号が読み出されるので、図１０(ａ)に示すようにS1とS2のAFセンサーアレイをそれぞれ水平方向に置くのに適している。S1やS2が置かれているライン上の画像信号（図４の場合はBの信号）は、スルー画や動画の作成には利用されないので、その信号を読み出す時間は無駄ということになる。CCDはその構造上、S1やS2の信号を読み出す際に同じライン上の画像信号を一緒に読み出すことになるため、S1やS2の信号が利用できるのまでに長い時間がかかるという欠点を持っている。
【００６０】
図１において、従来の撮像装置に対し画像／ＡＦ信号分離回路２１が新しく追加された制御ブロックである。また、図２において、従来の撮像装置に対しAWB補正値回路６２が新しく追加された制御ブロックである。これらの一実施の形態の新しい制御ブロックを中心に一実施の形態のデジタルカメラの撮影動作を説明する。
【００６１】
被写体の露光が終わると、撮像素子２のCCDは静止画像撮影モードに移行し、撮影された静止画の画像信号が図５に示す手順で読み出される。その画像信号はAFE３でデジタルデータとなって画像/AF信号分離回路２１に送られるが、静止画撮影モードの場合はそれがバイパスされて画像データがそのまま画像処理回路２２へ入力される。画像処理回路２２では先ず前処理が施され、前処理後の画像データはいったんSDRAM１２に記憶される。
【００６２】
前処理後の静止画データをSDRAM１２に記憶する場合は、飛び飛びの順(インターレース)に読み出されたデータが図１１に示すようにライン順(プログレッシブ)に並ぶように配置する。ただし、この静止画データにはAF信号(S1やS2の信号)が含まれているので、前処理を施す際は注意が必要である。例えばAFセンサー(S1とS2)の付近に欠陥画素が存在した場合は、その欠陥画素の信号を補正する際にS1やS2の信号を利用してはならない。欠陥画素の補正は周囲の画像信号で補間するのが普通であるから、AFセンサー付近の欠陥画素を単純にこの方法で補正するとS1やS2の信号が使われてしまうおそれがある。そこで、S1やS2の信号が参照された場合はその欠陥画素を補正せずにそのまま出力する。AFセンサーの位置は予め分かっているのでそのような対応は可能である。流れてくる画像信号の中からS1やS2の信号を検出するには、ライン番号（VSync信号を基準としたHSync信号のカウント値）と、ライン上の画素番号（HSync信号を基準としたピクセルクロックのカウント値）を利用する。
【００６３】
OBクランプ処理は各画素の値からOBレベル(OB領域の信号平均)を差し引くだけなので、S1やS2の信号が混在していても問題なく処理される。S1やS2の信号にOBクランプを施す必要はないのでバイパスする(処理しても構わない)。その点では次の感度比調整も同じである。感度比調整はRとBのゲイン合わせ(掛け算)であるから、S1やS2の信号が混在していても問題なく処理される。S1やS2の信号に感度比調整を施す必要はないのでバイパスする(処理しても構わない)。
【００６４】
しかし、AWB評価値の抽出には注意しなければならない。静止画撮影モードの場合は以前に説明した通りAWB評価値を抽出するだけでよい。ところが、静止画データの中にはS1やS2の信号が含まれているので、各色信号を積算する際はS1やS2の信号を除外しなければならない。図７(ｂ)に示すAWB評価値のウインドウの何れかはS1やS2の信号を含むので、そのウインドウでは各色信号の総数が異なってしまい、正しいAWB評価値が得られない。S1やS2の信号が含まれたウインドウのAWB評価値は後で補正しなければならないので、上述したようにS1やS2の信号が積算されないようにする必要がある。
【００６５】
図２に示す画像処理回路２２の前処理ではこのような例外に対応している。前処理の施された静止画データは図２に示す出力バッファ６３と画像バス３４を経由して図１１に示すような配列でいったんSDRAM１２に記憶される。次に、この静止画データには後処理を施すことになるが、図１１に示すようにS1やS2の信号が含まれているので、先ずこの部分を周囲の画像信号で補間しなければならない。S1やS2の信号は複数ヶ所に部分的に存在するだけなので、周辺の画像信号を含めてその部分を切り出して補間を行えばよい。
【００６６】
図２に示す画像処理回路２２には前処理や後処理とは独立に動くAF信号補間回路６１が設けられており、これを用いてS1やS2の信号の部分を補間する。この一実施の形態ではハードウェア構成のAF信号補間回路６１が設けられるので、マイクロプロセッサーでソフトウェア的に補間を行うのに比べ、非常に短時間で処理される。補間のアルゴリズムは例えばバイキュービック法などを利用する。S1やS2の信号近くに画像のエッジが存在する場合、エッジを横切る方向に補間を行うとそれが鈍ってしまうため、エッジ方向の周辺画像信号だけから補間を行うようにするのが望ましい。AF信号補間回路６１はこのようなエッジ判定機能を備える必要がある。
【００６７】
図１１に示す例では、S1やS2の信号をGの信号に置き換えているが、通常これは隣接したR/Gライン上に存在する±45°方向のG信号で補間することになる。エッジの方向によっては±45°方向のG信号で補間するのが不適切となり、その場合はさらに外側のG信号を用いて補間を行う。画像のエッジ方向を判定する場合も、周囲の画像信号をできるだけ多く参照するとよい。この補間処理を行う場合は、S1やS2の信号を含む領域を周辺の画像信号とともに切り出し、そのデータを画像バス３４から図２に示す入力バッファ５９へ入力する。不図示のDMACを利用するとこのデータ転送が高速に行われる。
【００６８】
このデータ転送は矩形の領域に対して行われるので、補間に必要のない画像信号も含まれているが、一般にその方がデータ転送は高速となるので不要な画像信号を無視すれば問題はない。入力バッファ５９に入力されたデータはAF信号補間回路６１により処理され、補間によって作られた画像信号が出力バッファ６３に蓄積される。補間によって作られた画像信号で出力バッファ６３が埋まると、上述したDMACを利用してそれをSDRAM１２へ出力し、記憶する。入力バッファ５９や出力バッファ６３は後処理でも利用されるが、今の場合は後処理が行われていないので、AF信号補間回路６１が占有しても構わない。
【００６９】
図１１に示すように、S1やS2の信号は不連続なアドレスに存在するので、補間によって作られたG信号だけをそこに上書きするのは難しい。S1やS2の信号とともに切り出された周囲の原画像信号まで含めて元の矩形の領域全体に上書きする方が簡単である。
【００７０】
続いて補間によって作られた画像信号を利用してAWB評価値の補正を行う。図２に示す画像処理回路２２では先ずAWB補正値が生成される。図１１に示す画像データの場合は補間によってG信号が作られるので、AWB補正値はその積算値となる。このAWB補正値を、S1やS2の信号が含まれていたウインドウのAWB評価値(Gの積算値)に足し合わせる。S1やS2の信号が複数のウインドウに分散していた場合はウインドウごとにAWB補正値を計算し、それぞれのウインドウのAWB評価値にそれを足し合わせるようにする。図２に示す破線の矢印はウインドウごとにAWB評価値がAWB補正値で補正されることを表している。
【００７１】
このAWB評価値の補正が自動的に行われると最も使い易いのであるが、それが難しければ図１に示すCPU３０によってソフトウェア的に補正を行ってもよい。以上の補間処理とAWB評価値の補正をAFセンサー(S1とS2)が置かれているすべての場所について行う。例えば図１０(ａ)に示すようにAFセンサーが5ヶ所に配置されている場合は、その5ヶ所で上述した補間処理とAWB評価値の補正を行う。
【００７２】
AWB評価値の補正が終了したら続いてWB調整回路のRとBのゲインを求める。これはAWB評価値を基にAWBアルゴリズムにしたがって決定される。このRとBのゲインは図２に示すWB調整回路５２に設定される。一実施の形態のデジタルカメラではこのようにAWB評価値の補正を行っているのでAWBの精度が高い。これで後処理の準備がすべて整ったので、補間後の静止画データに後処理を施す。SDRAM１２から補間後の画像データを読み出し、画像バス３４から図２に示す入力バッファ５９へ入力する。このデータ転送は不図示のDMACを利用したDMA転送により行う。
【００７３】
入力バッファ５９へ入力された画像データは先ず水平間引き回路５１へ送られ、後処理が開始される。後処理で主画像のような大きな画像を作成する場合は、図６に示すように短冊状のブロック単位で処理する代わりに水平間引き回路５１をバイパスする。サムネイルやフリーズ画のような小さな画像を作成する場合は、大きな画像データをそのまま入力する代わりに水平間引き回路５１で先ず水平画素数を削減している。これ以降の処理は、上述した従来の撮像装置と同様である。
【００７４】
後処理によって作成されたYCbCrデータは、いったん図２に示す出力バッファ６３に蓄積される。YCbCrデータで出力バッファ６３が埋まると、それをDMA転送によってSDRAM１２へ送り、記憶する。主画像の場合は短冊状のブロックごとにこれを繰り返し、各ブロックのYCbCrデータをSDRAM１２上で結合すると１つの大きな主画像が完成する。以上が静止画撮影モードにおける一実施の形態のデジタルカメラの動作である。
【００７５】
次に、一実施の形態のデジタルカメラにおける間引きモードの動作について説明する。間引きモードでは、撮像素子２のCCDから図４や図９(ａ)に示すように信号が読み出される。間引かれてライン数の減った画像信号に混じってAF信号を含むラインが読み出されている。その信号は先ずAFE３でデジタルデータに変換され、次に図１の画像/AF信号分離回路２１へ入力される。２種類の信号はここで分離されて別々に出力される。図９(ａ)において、・・・，n-1，n，n+1，・・・などの画像信号だけを含むラインと、ラインnとn+1に挟まれるAF信号を含むラインとが分離され、画像/AF信号分離回路２１から別々に出力される。
【００７６】
AF信号が含まれているラインは予め分かっているので、その期間に入ったら分離が行われるよう画像/AF信号分離回路２１に設定しておく。図９(ａ)の場合は、ラインnに続く２ラインが分離されるように設定する。画像/AF信号分離回路２１から出力された画像信号だけを含むラインは、図１，図２に示す画像処理回路２２へ出力され、画像処理が施される。間引きモードの場合は前処理と後処理が一体となって施され、スルー画や動画のデータが作成される。
【００７７】
ただし、AF信号が含まれていたラインの期間は画像信号が存在せず、画像処理回路２２をこの期間動作させると不正なデータが混在してしまう。その期間は画像処理回路２２を停止させなければならず、画像処理回路２２はそのような機能を持つ必要がある。図９(ａ)の場合には、ラインnに続く２ラインの期間は画像処理回路２２が停止するように設定する。AF信号を含むラインは画像/AF信号分離回路２１により取り除かれており、画像処理回路２２では画像信号だけに画像処理が施されるので、正常なスルー画や動画が作成される。
【００７８】
この画像処理と並行して3A評価値の抽出が行われる。ただし、AF信号は別途出力されるのでAE評価値とAWB評価値の抽出だけでよい。作成されたスルー画や動画のデータは画像処理回路２２の出力バッファ６３にいったん蓄積され、次いでDMA転送により画像バス３４を経由してSDRAM１２に記憶される。間引きモードの場合は、画像処理回路２２のAF信号補間回路６１やAWB補正値６２は利用されない。この画像処理の動作は上述した従来の撮像装置と同様である。
【００７９】
一方、分離されたAF信号を含むラインは、画像/AF信号分離回路２１の中で更に画像信号とAF信号とに分離される。図９(ａ)に示す画像/AF信号というラインは、詳細なタイミングがその下に示されており、その一部では図４の配列に対応して画像信号とAF信号がピクセルクロックに同期して交互に流れてくる。画像/AF信号分離回路２１では、このラインからさらにAF信号だけが取り出され、残った画像信号の方は利用されずに廃棄される。AF信号の位置は予め分かっているので、HSync信号を基準にしたピクセルクロックのカウント値からAF信号だけを取り出す。
【００８０】
このAF信号は画像/AF信号分離回路２１内に設けられた不図示の出力バッファ(FIFOなど)にいったん蓄積され、次いでDMA転送により図１に示す画像バス３４を経由してSDRAM１２に記憶される。図１０(ａ)に示すように複数ヶ所にAFセンサーが配置されている場合は、すべての場所のAF信号をSDRAM１２に記憶する。AFセンサーを構成しているS1とS2の光電変換セルは少数であり、さらにS1とS2の信号だけを取り出すようにしているので、図１０(ａ)に示すように5ヶ所のAF信号をすべてSDRAM１２に転送したとしても、データのトラフィックは大した量にならない。
【００８１】
このAF信号はSDRAM１２から読み出されて図１に示す位相差演算回路２３に入力される。この位相差演算回路２３では、先ずS1の信号列とS2の信号列との間の位相差を計算する。続いて位相差演算回路２３は、この位相差からフォーカシングレンズの移動方向と移動量を求める。この移動方向と移動量は位相差演算回路２３内のレジスタ(不図示)に格納されCPU３０に読み取られる。これらの値がレジスタに格納されたら割り込み要求が出されるようにすれば、CPU３０は無駄な読み取り動作を行わずにすむので効率がよい。
【００８２】
図１０(ａ)に示すような配置であれば、５ヶ所の中から主要被写体と重なるAFセンサーを選んでこれら演算を行うが、２つ以上が主要被写体と重なっていた場合は位相差が明確な方のAFセンサーを選んで演算を行うとよい。CPU３０は読み取った上記情報にしたがってモータードライバーIC４に指令を送ると不図示のフォーカシングモーターが駆動され、フォーカシングレンズが目標の位置まで移動して被写体にフォーカスが合わせられる。
【００８３】
一実施の形態のデジタルカメラでは間引きモード中にスルー画の作成とAFの制御が行えるようになってので、従来の撮像装置のように間引きモードと測距モードを切り換えるという煩わしさがない。そのためスルー画や動画が途切れないという大きなメリットが生まれる。
【００８４】
ところで、AF信号は間引きモードのフレームごとに出力されるが、ＥＶＦ動作(スルー画表示)や動画撮影時にフレームごとにAFの制御を行う必要性は少ない。静止画撮影であればレリーズ釦が半押しされる度に１回行えばよいし、動画撮影の場合でも適当なフレーム間隔ごとに１回AFの制御を行えばよい。したがって、利用されないAF信号をSDRAM１２に記憶するのは電力消費が増えて無駄なことである。
【００８５】
そこで、画像/AF信号分離回路２１にはAF信号の分離とその出力を行う、行わないの設定ができるようにする。これにより、必要な時だけAF信号の分離と出力が行われるので消費電力が減らせる。AFの制御が必要になる度この設定を切り換えるようにしてもよいが、さらに便利な機能を画像/AF信号分離回路２１に持たせることもできる。すなわち、AF信号の分離と出力が行われる場合のモードを２つ設ける。第１は、設定が有効になった直後の１フレームだけAF信号の分離と出力を行った後、止まるという単一出力モードであり、第２は、指定されたフレーム間隔ごとに１フレームだけAF信号の分離と出力を行うという繰り返し出力モードである。
【００８６】
静止画撮影の場合は、ほとんどが単一出力モードで済むと思われるので、消費電力の削減に寄与できる。繰り返し出力モードは動画撮影の場合に便利である。AFの制御を行うときが来たらAF信号が出力されるようにフレーム間隔を設定しておけば、AF信号がSDRAM１２に記憶されるとそれがCPU３０に通知されるので、無駄な動作を行うことなくAFの制御が開始される。無駄な電力の消費もなくなる。さらに、AF信号がSDRAM１２に記憶されたら位相差演算回路２３が自動的に上述した演算を開始するようにしてもよい。なお、繰り返し出力モードのフレーム間隔を１に設定すれば毎フレームAF信号を出力することもできるので、柔軟性は十分高い。
【００８７】
ところで、図１０(ａ)に示すAFセンサーアレイの配列だけでは、AFの制御が困難なことも予想される。図１０(ａ)ではS1のアレイとS2のアレイが水平方向を向いているが、水平方向に沿って被写体の輝度が殆ど変化しない場合は、S1の信号列とS2の信号列との間の位相差を求めることが容易でないと思われる。その場合には、図１０(ｂ)に示すようなAFセンサーアレイの配列を採用すると位相差が求め易くなることがある。
【００８８】
しかし、図１０(ｂ)に示すような配列はCCDには適さない。図１０(ｂ)ではS1のアレイとS2のアレイが垂直方向を向いているため、図中の各AFセンサーアレイに含まれるS1とS2の光電変換セルが幾つものラインに跨って配置されることになる。CCDはライン単位で信号が読み出されるため、各AFセンサーアレイの信号を読み出すのに長い時間が必要となる。AF信号が速やかに読み出せないので、AF演算の開始も遅れてしまう。CCDの場合はライン上の特定の光電変換セルを選んで信号を読み出すことができないため、図１０(ａ)に示すような配列であってもAF信号を読み出すのに比較的長い時間がかかる。図１０(ｂ)に示すような配列の場合は、この短所がより顕著に表れる。
【００８９】
このような問題を解決するために、固体撮像素子２をX-Yアドレス方式の読み出しができるタイプを採用する。具体的には、C-MOSセンサーのような固体撮像素子を利用する。C-MOSセンサーでは特定の光電変換セルを選んで信号を読み出すこともがきるので、AFセンサーの信号だけをまとめて読み出すことができる。このようなX-Yアドレス方式の読み出し機能を備えた固体撮像素子を上述した間引きモードで動作させる場合には、AFセンサーの信号だけをまとめて先に読み出し、その後で間引いて数を減らした画像信号を読み出すようにしている。
【００９０】
AFセンサーが水平方向のアレイの場合には、例えば図１２(ａ)に実線で示す矢印の順にAF信号をまとめて読み出し、垂直方向のアレイの場合には、例えば図１２(ｂ)に実線で示す矢印の順にAF信号をまとめて読み出す。図１２において、破線の矢印は各AFセンサーアレイ内のS1とS2の信号読み出し方向を表す。図１１、図４に示すように、S1やS2の光電変換セルの間に画像信号用の画素が含まれていても、S1やS2だけを選んで信号を読み出すことができるので、AF信号を読み出すのにかかる時間は僅かなものである。
【００９１】
図１２(ａ)、(ｂ)に示すように５ヶ所にAFセンサーアレイが配置されたとしても、S1とS2の光電変換セルの総数は1000個に満たないと思われる。最近の高画素の固体撮像素子であれば水平画素数は3000を超えるので、間引きモードで水平間引きが行われていなければ1H期間(HSync信号の周期)にすべてのAF信号を読み出すことも可能である。この固体撮像装置の間引きモードにおいてAF信号を読み出すとしたら、VSync信号が出力された直後の垂直ブランキング期間にまとめて読み出すことが最良である。
【００９２】
すなわち、図９(ａ)、(ｂ)において、VSync信号の直後にある不図示のラインの中にAF信号を埋め込んで読み出すのである。この部分は垂直ブランキング期間なので幾つかのラインは空いており、AF信号を読み出す期間として利用することができる。このような読み出しを行うことのメリットは、その後に読み出される画像信号のラインの間にAF信号の含まれるラインが挿入されないことと、垂直ブランキング期間の長さが変わらないことである。このため画像処理の動作も従来の撮像装置の場合とほとんど変わらないことになり、この点もメリットの1つである。
【００９３】
図１２(ｃ)に示すように、水平方向のアレイから成るＡＦセンサーと、垂直方向のアレイから成るＡＦセンサーとを、撮影画面内の複数の場所に混在して配置することもできる。図１２(ｃ)に示すようなAFセンサーの配列でも、図１２(ａ)、(ｂ)に示すものと同様、実線の矢印順にAF信号をまとめて読み出せばよい。図中の破線の矢印が各AFセンサー内のS1とS2のアレイの読み出し方向を表している。なお、S1とS2のアレイ、水平方向と垂直方向のアレイの何れを先に読み出しても構わない。
【００９４】
上述したように、固体撮像素子２の間引きモードでは、VSync信号が出力された直後の垂直ブランキング期間中にAF信号がまとめて読み出されるので、このAF信号を図１に示す画像/AF信号分離回路２１によって取り出し、以前と同様にSDRAM１２に記憶する。AF信号が読み出されるタイミングは分かっているので、それらが正確に取り出されるように画像/AF信号分離回路２１を設定する。これが完了したらAF信号をSDRAM１２から読み出して位相差演算回路２３へ入力し、そこで２つの信号の位相差を求めてAFの制御を行う。AF信号の読み出しが早まったので、AFの制御も早く開始されるというメリットが生まれる。
【００９５】
一方、垂直ブランキング期間が終わると、画像信号のラインの読み出しが始まる。この画像信号のラインは、画像/AF分離回路２１から出力されて画像処理回路２２へ送られる。この画像信号に画像処理が施されてスルー画や動画のデータが作成される。AF信号のラインが画像信号のラインの間に挿入されて読み出されるようなことがなく、以前のように画像処理中に画像処理回路２２を停止させるという期間を設ける必要がない。間引きモードの垂直ブランキング期間と有効画像期間が従来の固体撮像素子と殆ど変わらないので、画像処理のタイミングが厳しくなるというようなこともない。
【００９６】
ただし、図１２(ｂ)、(ｃ)に示すようにAFセンサーが垂直方向のアレイを含む場合は、画像処理を行う際に新たな注意が必要となる。AFセンサーが垂直方向のアレイを含む場合は、画像信号だけを含むラインというものが大幅に減ってしまっている。このような固体撮像素子において、AFセンサーを含むラインの信号を完全に取り除くと、スルー画や動画のライン数が足りなくなってしまうおそれがある。仮にスルー画や動画を作成するのに必要な画像信号のラインが確保されたとしても、AFセンサーを含むラインがまとめて間引かれてしまうため、画像信号が不均一になってスルー画や動画の画質が劣化してしまう。
【００９７】
したがって、AFセンサーが垂直方向のアレイを含む場合は、AFセンサーを含むラインもスルー画や動画のデータを作成するのに利用しなければならない。図１２(ｂ)に示すように5ヶ所にAFセンサーが配置されたとしても、垂直方向のアレイだけに着目するなら１ラインに含まれるS1やS2の光電変換セルの合計は高々６個である。このように、１ラインに少数のS1やS2の光電変換セルが含まれるだけなら、スルー画や動画のような低解像度の画像を作成するのにそのラインを利用してもよい。ただし、図１２(ａ)および(ｃ)において、水平方向のアレイを含むラインは画像信号が少ないので画像処理には利用しない。間引きモードではこれらのラインが読み出されないようにする。
【００９８】
一方、垂直方向のアレイを含むラインは画像信号が多いので画像処理に利用することになっており、間引きモードではこれらのラインも必要なだけ読み出されるようにする。AF信号はまとめて先に読み出されてしまうため、画像信号が読み出される時点ではAFセンサーから読み出される信号はない。VSync信号直後の垂直ブランキング期間が終わると有効画像期間が始まるが、上述した通り、この期間は画像処理に利用されるラインだけが読み出されるようになっているため、図１に示す画像/AF信号分離回路２１はこの期間のラインをすべて画像処理回路２２へ送ってよい。その中で垂直方向のアレイを含むラインについては、S1やS2の部分に画像信号がないため画像処理を施す際別に扱わなければならない。
【００９９】
一般にスルー画や動画の解像度は低いので、水平方向の画素は間引かれている。C-MOSセンサーのようにX-Yアドレス方式の読み出し機能を持つ固体撮像素子であれば、間引きモードにおいて垂直間引きばかりでなく水平間引きを併用して読み出すこともできる。さらに同色の画素同士を加算して読み出すこともできる。この様な読み出し機能を利用すれば、垂直方向のアレイを含むラインであっても、S1やS2の光電変換セルを飛ばして画像信号だけを読み出すことができる。
【０１００】
このような水平間引きを併用して読み出された信号であれば、画像信号だけが画像処理回路２２に送られるので、そのまま画像処理を施しても正常なスルー画や動画や動画が作成される。予め水平間引きの行われた画像信号が読み出されるので、画像処理回路２２における水平間引きや水平解像度変換も簡略化される。なお、固体撮像素子で予め水平間引きを行わないのであれば画像処理回路で対応しなければならない。最も簡単な対応の仕方は、固体撮像素子の水平間引きと同様な水平間引きを画像処理回路で行うことである。この水平間引きの際にS1とS2の部分が廃棄されるようにすればよい。
【０１０１】
この水平間引きを図２に示す水平間引き回路５１で行うこともできるが、画像処理回路２２の前処理部２２ａにS1やS2の部分を含んだ信号が流れてしまうので前処理の最初に行うことが望ましい。特に、AE評価値やAWB評価値を抽出する場合はS1やS2の部分を含まない信号が必要なので、前処理の最初に水平間引きを行うことが必須となる。前処理と後処理の両方で図２に示す水平間引き回路５１が使えると、画像処理回路２２のゲート数削減に寄与する。
【０１０２】
次に、性能を落とさずにコストダウンを達成するための位相差演算回路２３の具体的な構成について説明する。図１に示すデジタルカメラは専用の位相差演算回路２３を備えているため位相差を求めるのが速く、その結果AFの制御も高速に行われるという長所を持つ。しかし、これを専用のハードウェアで構成すると、他の目的には使えないという不自由さが生じてしまう。回路規模は増えるが利用される機会が少ないため、効率が悪い。
【０１０３】
図１３はコストを重視した位相差演算回路２３の一実施例を示す。なお、図１に示す機器と同様な機器に対しては同一の符号を付して相違点を中心に説明する。CPU３０はカメラ全体を制御するためのメインCPUであり、SRAM７１はそのメインCPU３０から高速に読み書きができるメモリである。画像/AF信号分離回路２１の１つ目の出力は画像処理回路２２に接続されており、２つ目の出力はSRAM７１に接続されている。
【０１０４】
固体撮像素子２が間引きモードで動作している場合は、画像/AF信号分離回路２１で分離された画像信号が１つ目の出力を通って画像処理回路２２へ入力され、そこでスルー画や動画のデータが作成される。一方、画像/AF信号分離回路２１により分離されたAF信号は２つ目の出力を通って直接SRAM７１に記憶される。このAF信号はCPUバス３５を経由してメインCPU３０に読み取られ、メインCPU３０のソフトウェア処理によって先ず２つの信号の間の位相差が計算される。次に、メインCPU３０のソフトウェア処理によって、その位相差情報からフォーカシングレンズの移動方向と移動量が計算される。
【０１０５】
メインCPU３０がその情報にしたがって図１に示すモータードライバーIC４へ指令を送るとフォーカシングモーターが駆動され、フォーカシングレンズが目標の位置まで移動して被写体にフォーカスが合わせられる。上述した様々な演算はメインCPU３０のソフトウェアによって行われるので、図１に示すような専用の位相差演算回路２３に比べると演算速度が劣ることは否めない。そこで、AF信号を図１３に示す高速SRAM７１に記憶してから演算することによって、演算速度の低下を抑える。通常、このSRAM７１はメインCPU３０と同じくDSCエンジン６内のオンチップメモリとして実装される。
【０１０６】
図１３に示すSRAM７１は、図１に示すSDRAM１２に比べてメインCPU３０から高速に読み書きが出来るので、その分演算速度が速い。AF信号が直接このSRAMに記憶されるというのはSDRAMなどを経由しないという意味である。これもAF演算の高速化に寄与する。メインCPU３０のクロック周波数に応じて演算速度が変わるので、性能はこれにより引き出す。図１に示す位相差演算回路２３は削除されたが、新たにSRAM７１が設けられたので、回路規模は減らないと感じるかも知れない。しかし、CPU３０と高速SRAM７１という組み合わせは様々な目的に使えるため柔軟性が高く、専用の位相差演算回路２３を設けるよりもはるかに有用である。
【０１０７】
それに、システムオンチップ用のCPUコアはキャッシュメモリ(命令＆データ)の他に汎用の高速SRAMを備えることが多くなり、AF信号を記憶する高速メモリとしてこの汎用SRAMを利用するならハードウェアの追加は必要ない。AF信号を記憶するのに必要な記憶容量は僅かである。例えば、図１２(ｃ)に示すような配列でAFセンサーの光電変換セルが合計1024個あり、１つの光電変換セル当たり16bitのAF信号を出力するとしても2KBを占有するだけである。CPUコアの汎用SRAMは4KB，8KB，16KBなどの記憶容量のものが用意されており、これらのSRAMであればAF信号を記憶するのに十分利用できる。ただし、オンチップの汎用SRAMを利用する場合は、画像/AF信号分離回路２１との接続に若干の変更が必要になる場合もある。
【０１０８】
図１３の接続ではSRAM７１が画像/AF信号分離回路２１からの書き込み用と、メインCPU３０からの読み書き用の２つのポートを持つように見える。しかし、上述の汎用SRAMは読み書き用のポートが一般に１つなので、画像/AF信号分離回路２１とメインCPU３０の両方からこれをアクセスするには画像/AF信号分離回路２１の出力をCPUバス３５に接続し、このCPUバス３５を経由してAF信号をSRAM７１に記憶する。このデータ転送には不図示のDMACによるDMA転送を利用すればよい。図１３に示すように、メインCPU３０と高速SRAM７１という組み合わせによって、柔軟性の高い処理機能とコストの低減が同時に達成される。
【０１０９】
図１４は性能と柔軟性を重視した位相差演算回路２３の他の実施例を示す。上述した図１３に示す位相差演算回路と比較すると、新たにコプロセッサー７２が設けられる。このコプロセッサー７２は演算を専門に行い、メインCPU３０の方はカメラ全体の制御を行う。図１３に示す位相差演算回路と同様に高速のSRAM７１を備えている。このSRAM７１はコプロセッサー７２から高速に読み書きができるようなっている。このコプロセッサー７２はプログラムによって演算を実行する。コプロセッサー７２としてはDSP(Digital Signal Processor)のようなものが適している。
【０１１０】
図１４に示す位相差演算回路２３において、SRAM７１をプログラム用とデータ用の統合メモリとして使うこともできるが、プログラムメモリとデータメモリを分けた方がプログラムの実行速度(演算速度)が上がるので本実施例もそれに倣う。コプロセッサー７２には不図示のプログラムメモリが内蔵されているものとし、SRAM７１はデータメモリ(ワークメモリ)専用として利用する。上述したAF信号はこのSRAM７１の方に記憶される。コプロセッサー７２はCPUバス３５に接続されており、メインCPU３０はこのCPUバス３５を介してプログラムメモリにプログラムをダウンロードする。
【０１１１】
メインCPU３０がCPUバス３５を介して不図示のコマンドレジスタにコマンドを書き込むと、コプロセッサー７２はプログラムの実行を開始する。プログラムを実行する際はSRAM７１がワークメモリ(データメモリ)とし使用される。コプロセッサー７２はステータスレジスタ（不図示）を備え、プログラムの実行状態をこのレジスターに書き込むとメインCPU３０がそれを読み取る。コプロセッサー７２がステータスレジスタに書き込みを行ったときにメインCPU３０に割り込み要求が発行されるようにすると、無駄な読み出し動作が減る。
【０１１２】
この他にも様々なレジスタが用意されており、メインCPU３０とコプロセッサー７２はCPUバス３５とそれらのレジスタを介して通信を行う。このような仕組みにより様々な演算をコプロセッサー７２に行わせることができる。別の演算を実行させる場合は、メインCPU３０が別のプログラムをダウンロードする。SRAM７１はCPUバス３５にも接続されており、演算に必要なデータをメインCPU３０が用意する場合には、ここからSRAM７１にデータをダウンロードする。演算結果のデータをアップロードする場合も、ここから読み取る。これらのダウンロードやアップロードに不図示のDMACを利用したDMA転送によって行ってもよい。
【０１１３】
図１４に示すような構成ではSRAM７１とコプロセッサー７２の接続の方が標準であり、メインCPU３０とSRAM７１の接続はデータのダウンロードやアップロードの場合に行われる。このようにSRAM７１に対するコプロセッサー７２とメインCPU３０のアクセスは排他的であり、SRAM７１はコプロセッサー７２の専用メモリという色彩が濃い。メインCPU３０の汎用SRAMとしてはCPUコア自身に内蔵されたものを利用する。このように、コプロセッサー７２とSRAM７１から成るサブシステムは極めて汎用性の高い演算器となる。
【０１１４】
次に、図１４に示す位相差演算回路２３によるＡＦ演算について説明する。画像/AF信号分離回路２１の１つ目の出力は画像処理回路２２に接続されており、２つ目の出力の方はSRAM７１に接続されている。固体撮像素子２が間引きモードで動作している場合は、画像/AF信号分離回路２１で分離された画像信号が１つ目の出力を通って画像処理回路２２に入り、そこでスルー画や動画のデータが作成される。一方、画像/AF信号分離回路２１で分離されたAF信号の方は２つ目の出力を通って直接SRAM７１に記憶される。
【０１１５】
図１４に示す位相差演算回路２３ではDual Port SRAMを利用することもできるが、画像/AF信号分離回路２１の２つ目の出力をCPUバス３５に接続し、そこからSRAM７１にAF信号を書き込むこともできる。なお、その間はコプロセッサー７２がSRAM７１をアクセスしないようにする。AF信号がSRAM７１に記憶されたらメインCPU３０の指令でコプロセッサー７２が演算を開始する。メインCPU３０は予めコプロセッサー７２にプログラムをダウンロードしておく。
【０１１６】
コプロセッサー７２は先ず２つの信号の間の位相差を計算し、次いでその位相差からフォーカシングレンズの移動方向と移動量を求める。これらの演算が終了するとコプロセッサー７２はステータスレジスタに演算終了という情報を書き込む。この書き込みによってメインCPU３０に向けて割り込み要求が発行され、メインCPU３０がそれに応答してステータスレジスタを読むと演算終了のことが分かる。SRAM７１に記憶された演算結果はCPUバス３５から読み取られ、その情報にしたがってメインCPU３０が図１に示すモータードライバーIC４に指令を送るとフォーカシングモーターが駆動され、フォーカシングレンズが目標の位置まで移動して被写体にフォーカスが合わせられる。
【０１１７】
演算を専門に行うコプロセッサー７２を用いてAF演算を行っているので、演算時間が短く、AF制御が高速に行われる。コプロセッサー７２とSRAM７１を備えているので回路規模は多少増大するが、専用の位相差演算回路に比べるとこのコプロセッサー・サブシステムは極めて汎用性が高い。すなわち、このコプロセッサー・サブシステムは利用される機会が多く、そのためコストパフォーマンスが高い。コプロセッサー・サブシステムを用いるとメインCPU３０は並行して別の処理が行えるというメリットも生まれる。このように、一実施の形態のデジタルカメラでは高いコストパフォーマンスが達成される。
【０１１８】
ところで、上述した一実施の形態の図１に示すデジタルカメラと図２に示す画像処理回路２２では、位相差演算回路２３とAF信号補間回路６１という２つの専用ハードウェアが用いられている。それぞれの回路は決められた処理しか行わないので利用効率が悪いため、これらの処理を１つの回路で行うようにすればコストパフォーマンスが向上する。
【０１１９】
そこで、図１４に示すコプロセッサー・サブシステムを利用してAF信号補間を行う。２つの回路を１つに集約したので全体の回路規模は減少する。演算を専門に行うコプロセッサー・サブシステムを用いることによって、より高速な処理が可能になる。補間処理を行う場合は、図１１に示すS1やS2の信号を周囲の画像信号とともにSDRAM１２から読み出し、SRAM７１に記憶する。図１４に示す構成では、このデータをCPUバス３５からダウンロードすることになる。このデータ転送は不図示のDMACを用いてDMA転送により行えばよい。コプロセッサー７２はS1やS2の信号を周囲の画像信号を利用して補間する。コプロセッサー７２にDSPを用いるとバイキュービック法の補間も高速に行うことができる。
【０１２０】
補間処理が完了したら、続いてコプロセッサー７２は補間された画像信号を基にAWB補正値を求め、前処理の際に抽出されていたAWB評価値をそのAWB補正値によって補正する。図２に示す画像処理回路２２によれば、AWB評価値はCPUバス３５から読み取るようになっているため、コプロセッサー７２がこのAWB評価値を直接読み取ることはできない。メインCPU３０は、この補正が始まる前に該当するウインドウのAWB評価値をSRAM７１にダウンロードしておく。AWB評価値の補正が終わったら、補間済みの画像信号をSRAM７１から読み出してSDRAM１２に記憶する。このデータのアップロードもCPUバス３５から行う。これにもDMA転送を利用することができる。
【０１２１】
図１２(ａ)、(ｂ)、(ｃ)に示すように、撮影画面内の複数ヶ所にAFセンサーアレイが配置されている場合には、それらのすべてについて上述した補間処理と補正処理を行う。これらの処理が完了したら、コプロセッサー７２は補正されたAWB評価値を基にAWBアルゴリズムを実行し、WB調整用のRゲインとBゲインを決定する。AWBアルゴリズに必要なAWB評価値はメインCPU３０がSRAM７１にダウンロードする。このダウンロードをDMA転送によって行ってもよい。
【０１２２】
RゲインとBゲインが決定されたら、メインCPU３０はそれらをSRAM７１から読み出して図２に示すWB調整回路５２に設定する。最後に、補間済みの画像信号を図１４に示す画像処理回路２２へ入力して後処理を施すと、撮影された静止画のYCbCrデータが作成される。コプロセッサー・サブシステムが上記処理を行っている間、メインCPU３０は並行して別の処理を行うことができる。SRAM７１へデータをダウンロードしたり、逆にSRAM７１からデータがアップロードされたりするので、CPUバス３５には頻繁にデータが流れる。このためメインCPU３０の動作が妨げられることになる。SRAM７１をCPUバス３５と画像バス３４の両方に接続できるようにすると、CPUバス３５が空くのでメインCPU３０は動作し易くなる。画像データのフローとメインCPU３０の処理は一般に非同期なので、このようにバスを分けておくとそれぞれの動作がスムーズに行われる。
【０１２３】
このように、位相差演算回路２３とAF信号補間回路６１が1つに集約されたのでコストパフォーマンスがさらに向上する。
【０１２４】
以上説明したように、一実施の形態によれば、間引き読み出しモードでは、撮像用画素の内の一部の画素の信号に加え、すべてのAFセンサーセルの信号を読み出すようにしたので、間引き読み出しモードにおいてＡＦ制御を行う場合に、間引き読み出しモードから他のモードへモードを切り換える必要がなく、制御シーケンスを簡略化できる。
【０１２５】
また、一実施の形態によれば、撮像用画素とAFセンサーセルはそれぞれＸ軸アドレスとＹ軸アドレスを有する二次元状に展開されており、Ｘ,Ｙアドレスを指定して画素ごとに信号を読み出す読み出し回路を備え、読み出し回路によって、間引き読み出しモードの実行時には、すべてのAFセンサーセルの信号を読み出した後に、撮像用画素の内の一部の画素を間引いて信号を読み出すようにしたので、AF信号が早く得られる上に、画像信号の読み出しタイミングも従来の撮像装置とほとんど変わらないようにすることができる。
【０１２６】
一実施の形態によれば、AFセンサーセルを、光学系の瞳の異なる領域を通過した対の光束の一方または両方を受光する光電変換部を有する構成としたので、AFセンサーセルの配列から出力される信号を用いて瞳分割型位相差検出方式による素早い焦点検出を実行することができる。
【０１２７】
一実施の形態によれば、間引き読み出しモードの実行時に、撮像用画素から出力された信号とAFセンサーセルから出力された信号とを分離し、分離された撮像用画素の信号により画像を生成するとともに、分離されたAFセンサーセルの信号により光学系の焦点調節状態を検出し、焦点調節状態に基づいて光学系の焦点調節を行うようにしたので、正常なスルー画や動画のデータを作成しつつ、並行してAF制御を行うことができる。
【０１２８】
一実施の形態によれば、AFセンサーセルの周囲の撮像用画素の信号に基づいて、当該AFセンサーセルの位置における画像を生成するための信号を補間により求めるとともに、撮像用画素の信号に基づいてホワイトバランス調整に用いる評価値を算出し、全画素読み出しモードの実行時に、撮像用画素の信号と補間により求めたAFセンサーセル位置の信号とに基づいてホワイトバランス調整に用いる評価値を補正するようにしたので、ホワイトバランスの精度を向上させることができる。
【０１２９】
一実施の形態によれば、AFセンサーセルの信号を分離するか否かを設定可能にするとともに、分離する設定がなされた場合に、間引き読み出しモードにおいて繰り返し行われる間引き読み出しの内の１回だけAFセンサーセルの信号を分離するモードと、所定の間引き読み出し回数ごとにAFセンサーセルの信号を分離するモードとのいずれかを選択可能にしたので、柔軟かつ容易にAF制御を行うことができる。
【０１３０】
一実施の形態によれば、焦点調節手段がＣＰＵと高速読み書き可能なメモリとを有し、間引き読み出しモードの実行時には、分離されたAFセンサーセルの信号をメモリに直接記憶するとともに、メモリに記憶された信号に基づいてＣＰＵが焦点検出演算と焦点調節制御を実行するようにしたので、柔軟性の高い処理機能を実現できる上に、コストを低減することができる。
【０１３１】
一実施の形態によれば、焦点調節手段が演算専用のコプロセッサーをさらに有し、間引き読み出しモードの実行時には、分離されたAFセンサーセルの信号をメモリに直接記憶するとともに、メモリに記憶された信号に基づいてコプロセッサーが焦点検出演算を実行し、この焦点検出演算結果に基づいてＣＰＵが焦点調節制御を実行するようにしたので、演算速度の向上と柔軟性の高い処理機能を実現でき、高いコストパフォーマンスを達成することができる。
【０１３２】
一実施の形態によれば、コプロセッサーと高速読み書き可能なメモリを用いて補間演算と評価値補正演算を実行するようにしたので、専用のハードウェアを削減することができ、コストを抑制できる。
【符号の説明】
【０１３３】
２；撮像素子、５；タイミング・ジェネレーター、６；ＤＳＣエンジン、２１；画像／ＡＦ信号分離回路、２２；画像処理回路、２３；位相差演算回路、３０；ＣＰＵ、６１；ＡＦ信号補間回路、６２；ＡＷＢ補正値回路、７１；ＳＲＡＭ、７２；コプロセッサー
【図１】
2010185998.tif 000003
【図２】
2010185998.tif 000004
【図３】
2010185998.tif 000005
【図４】
2010185998.tif 000006
【図５】
2010185998.tif 000007
【図６】
2010185998.tif 000008
【図７】
2010185998.tif 000009
【図８】
2010185998.tif 000010
【図９】
2010185998.tif 000011
【図１０】
2010185998.tif 000012
【図１１】
2010185998.tif 000013
【図１２】
2010185998.tif 000014
【図１３】
2010185998.tif 000015
【図１４】
2010185998.tif 000016