(57)【特許請求の範囲】
【請求項１】
相対的に高感度の主感光部と相対的に低感度の従感光部とで構成される受光素子を含み、該主感光部と従感光部とから独立に信号電荷を読み出し可能である固体撮像素子の信号読み出し方法において、該方法は、
被写界の輝度分布から所定の評価値を算出する工程と、
該評価値に応じて、前記主感光部のみによって前記被写界の再現は可能であるか否かを判断する工程とを含み、該工程で再現可能と判断した場合にはさらに、
前記主感光部から信号電荷を読み出す工程と、
該読み出した信号電荷をデジタル化して、得られたデジタル信号を同じ内容で２つのメモリにそれぞれ格納する工程と、
該２つのメモリのうち一方に格納した前記デジタル信号をゲインアップして他方に格納した前記デジタル信号と合成する工程とを含み、
これによって主感光部のみを使用して固体撮像素子のダイナミックレンジを拡大することを特徴とする固体撮像素子の信号読み出し方法。
【請求項２】
相対的に高感度の主感光部と相対的に低感度の従感光部とで構成される受光素子を含み、該主感光部と従感光部とから独立に信号電荷を読み出し可能である固体撮像素子の信号読み出し方法において、該方法は、
被写界の輝度分布から所定の評価値を算出する工程と、
該評価値に応じて、前記主感光部のみによって前記被写界の再現は可能であるか否かを判断する工程とを含み、該工程で再現可能と判断した場合にはさらに、
前記主感光部から信号電荷を読み出す工程と、
該読み出した信号電荷を異なるゲインによってアナログゲインアップして、同じ信号電荷から得られた高ゲインアップ信号および低ゲインアップ信号を生成する工程と、
該高ゲインアップ信号および低ゲインアップ信号をそれぞれデジタル化し、２つのメモリにそれぞれ格納する工程と、
前記高ゲインアップ信号と前記低ゲインアップ信号とを合成する工程とを含み、
これによって主感光部のみを使用して固体撮像素子のダイナミックレンジを拡大することを特徴とする固体撮像素子の信号読み出し方法。
【請求項３】
相対的に高感度の主感光部と相対的に低感度の従感光部とで構成される受光素子を含み、該主感光部と従感光部とから独立に信号電荷を読み出し可能である固体撮像素子の信号読み出し方法において、該方法は、
被写界の輝度分布から所定の評価値を算出する工程と、
該評価値に応じて、前記主感光部および従感光部から独立に信号電荷を読み出す第１の工程、前記主感光部のみから信号電荷を読み出す第２の工程、および前記主感光部からの信号電荷に従感光部からの信号電荷を混合して読み出す第３の工程、からなる群から１つを選択する工程と、
第１の工程を選択した場合に、前記主感光部および従感光部から独立に読み出した信号電荷を合成する工程と、
第２の工程を選択した場合に、前記主感光部から読み出した信号電荷を２種類のゲインでゲインアップして合成する工程と、
第３の工程を選択した場合に、前記混合して読み出した信号電荷を２種類のゲインでゲインアップして合成する工程とを含み、
これによって固体撮像素子のダイナミックレンジを拡大することを特徴とする固体撮像素子の信号読み出し方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、デジタルスチルカメラその他の撮像装置に設けられた固体撮像素子の信号読み出し方法に関するものである。
【０００２】
【従来の技術】
従来、電荷結合素子（Charge Coupled Device; CCD）などの固体撮像素子のダイナミックレンジを拡大するため、感度の異なる受光素子によって得られる２つの画像を用意する方法がある。高感度の受光素子によって得られる画像は、素子が少ない光量に対しても反応するため、相対的に暗い被写体でも鮮明になるが、所定の輝度を超過する明るい被写体に対しては素子が飽和して、白く「飛んで」しまい、鮮明にならない。一方、低感度の受光素子によって得られる画像では、暗い被写体は暗くつぶれてしまい鮮明にならないが、高感度の受光素子であれば飽和してしまう明るい被写体は鮮明になる。そこで、それら明暗差がある２つの画像の双方の長所を生かすように合成し、輝度分布のバラツキの大きいシーンであっても、すべての被写体を鮮明にするダイナミックレンジ拡大が可能である（例えば非特許文献１を参照）。
【０００３】
従来は、２板式、電子シャッタ単板式またはCCDデバイス式などの方式（非特許文献１を参照）によって２つの画像を用意してダイナミックレンジ拡大を行っていたが、最近、フォトダイオードなどの受光素子を、相対的に広い面積を有する主感光部と、相対的に狭い面積を有する従感光部とに分割した固体撮像素子による方式が提案されている。主感光部はその広い面積のため感度が高く、一方、従感光部はその狭い面積のため感度が低い。したがって、受光素子が分割された固体撮像素子によれば、主／従感光部の感度差を利用し、主／従感光部のいずれからも選択的に画像信号を読み出し、適切に画像を組み合わせることで、ダイナミックレンジ拡大が可能である。
【０００４】
【非特許文献１】
竹村裕夫著、「ＣＣＤカメラ技術入門」、初版、株式会社コロナ社、１９９７年１２月、ｐ．１００−１０２。
【０００５】
しかし、受光素子が分割された固体撮像素子では、ダイナミックレンジを拡大する際に、単純に、例えば主感光部の信号電荷を読み出し、その後従感光部の信号電荷を読み出すという２フィールド相当の読み出し時間を要する読み出し方法を採用していたにすぎず、さらに読み出し時間を短縮して、連写速度を高速化したり、消費電力を低減したりすることが望まれていた。
【０００６】
本発明はこのような従来技術の欠点を解消し、主／従感光部に分離された受光素子で構成される固体撮像素子において、効率的に信号を読み出しつつダイナミックレンジを拡大できる固体撮像素子の信号読み出し方法を提供することを目的とする。
【０００７】
【課題を解決するための手段】
本発明は上述の課題を解決するために、相対的に高感度の主感光部と相対的に低感度の従感光部とで構成される受光素子を含み、主感光部と従感光部とから独立に信号電荷を読み出し可能であり、主感光部の感度は変更可能である固体撮像素子の信号読み出し方法において、主感光部の感度を高くして主感光部の有するダイナミックレンジを拡大する工程と、ダイナミックレンジを拡大した主感光部から信号電荷を読み出す工程と、読み出した信号電荷をデジタル化して２つのメモリにそれぞれ格納する工程と、２つのメモリのうち一方に格納したデジタル信号をゲインアップして他方に格納したデジタル信号と合成する工程とを含む。
【０００８】
本発明によれば、主感光部のみを使用して固体撮像素子のダイナミックレンジを拡大することが可能となる。
【０００９】
【発明の実施の形態】
次に添付図面を参照して本発明による固体撮像素子の信号読み出し方法の実施例を詳細に説明する。なお各図面において本発明に直接関係のない要素は省略し、同様の要素は同一の参照符号によって示すものとする。また信号はそれが現れる信号線の参照符号を用いて示すものとする。
【００１０】
図２は本発明による固体撮像素子の信号読み出し方法を適用するデジタルスチルカメラの一例のブロック図である。中央処理装置（Central Processing Unit; CPU）12はこれに接続された操作キー14からのユーザの操作信号15に従ってカメラ10を制御する。
【００１１】
操作キー14には図示しないがISO感度設定部、モード選択部およびレリーズシャッタボタンが含まれている。ISO感度設定部はカメラ10のISO感度をISO100相当、ISO200相当またはISO400相当のいずれかに設定可能である。モード選択部は静止画像撮影モードまたは動画像撮影モードのいずれかのモードを選択可能である。これらISO感度設定およびモード選択は、信号15によってCPU 12に出力される。レリーズシャッタボタンは２段階のストロークを有するボタンで、第１段のストローク（以下「S1」と呼ぶ）でデジタルカメラ10を予備測光の段階にし、第２段のストローク（以下「S2」と呼ぶ）で本撮像の段階にするトリガ信号15をCPU 12に出力する。
【００１２】
光学系16はレンズ、自動露出（Auto Exposure）を行う絞り機構、自動焦点合わせ（Auto Focus）を行うフォーカス機構およびメカニカルシャッタを含み、これらは、CPU 12からの光学系制御信号18を受信するドライバ20によって駆動される。
【００１３】
CCD（Charge Coupled Device）22はフォトダイオードを配列した固体撮像素子であり、CPU 12に制御されるタイミング発生器24から水平同期信号、垂直同期信号および電子シャッタ用タイミングパルスなどを含む信号26を受信するドライバ28によって駆動される。ドライバ28は受信した各種タイミングパルス26に基づき、水平転送信号、垂直転送信号およびオーバフロードレーン用の駆動信号30をCCD 22に与えて信号読み出しその他の駆動を行う。
【００１４】
図３は図２に示すCCD 22を構成するフォトダイオード32の構成図である。図３に示すように、フォトダイオード32は、相対的に広い面積を有し高感度の主感光部34と、相対的に狭い面積を有し低感度の従感光部36とに分割されている。なお本実施例ではフォトダイオード32は、同一の行方向に対する画素ピッチをXｐに、同一の列方向に対する画素ピッチをYｐにして配設され、さらに隣接するフォトダイオード32同士の画素ピッチはそれぞれXｐ/2、Yｐ/2にして配設されている。このようは配設方法を、本文では、以下、画素ずらし配列と呼ぶ。画素ずらし配列により、フォトダイオード32は稠密に配設される。またCCD 22は、この配設の間に垂直転送レジスタ35を形成している。垂直転送レジスタ35は、各フォトダイオード32を迂回するため、蛇行して形成されている。主感光部34と従感光部36とからは、独立に信号電荷を読み出し可能である。
【００１５】
なお本発明が適用可能なのは、画素ずらし配列を採用する固体撮像素子に限られない。例えば格子状に受光素子が配列された従来の固体撮像素子にも適用可能である。
【００１６】
図４は図３に示すフォトダイオード32の光電変換特性を示すグラフである。本実施例では、フォトダイオード32のうち、主感光部34は、感度の低いものから順に、ISO（International Standard Organization; 国際標準化機構）100、ISO200およびISO400相当の感度のいずれかを選択して設定可能である。主感光部34をISO100相当に感度設定した場合、出力電圧は、主画素再現域40として示す輝度範囲において、実線42で示すように増加し、レベル38、すなわち400mvで飽和するものとする。
【００１７】
このような主感光部34の光電変換特性に対して、従感光部36の光電変換特性を感度1/16、飽和1/4に設定したとすると、従感光部36の出力電圧は、従画素再現域44として示す輝度範囲において、実線46で示すように増加し、レベル48、すなわち100mvで飽和する。
【００１８】
すると、従画素再現域44は、図４に示すように、主画素再現域40の４倍の長さを有する。したがって従感光部36は、画像として再現できる明暗の最大範囲であるダイナミックレンジが主感光部34の４倍であり、主感光部34の輝度情報を100％とすれば、従感光部36では400％の輝度情報が得られる。
【００１９】
一方、主感光部34をISO200またはISO400相当の高感度に設定する場合には、まず、シャッタ時間またはＦ値を変更する。例えばISO100時の1/60秒のシャッタ時間を、1/120秒または1/240秒に短縮して受光量を1/2または1/4に絞る。するとISO100時に使用していた主画素再現域40に分布していた輝度情報は、1/2の再現域50または1/4の再現域52に分布することとなる。そして、必要に応じて出力値を２倍または４倍にゲインアップする。このようにデジタルカメラの感度設定は、受光量を絞って再現域を限定し、必要に応じて出力を電気的に増幅するという一連の処理によって行われる。
【００２０】
図４に示すように、例えばデジタルカメラのISO感度をISO200相当に設定すると、主感光部によって実際に使用される再現域50はISO100相当時の再現域40に対して半分になる。したがって、従感光部36の再現域44は、主感光部34の再現域50に対して800%の情報を有する。また、デジタルカメラのISO感度をISO400相当に設定すると、従感光部36の再現域44は、主感光部34の再現域52に対して、1600%になる。
【００２１】
しかしながら、実際には10倍もの輝度差のあるシーンは極めて少ない。一方、主感光部34を例えばISO100からISO400に感度アップした場合、受光量が絞られているため、主感光部34には、実際には、ISO100時には飽和してしまっていた、図４に示す値Ａ以上の輝度が、ISO100相当の場合の主画素再現域40に分布することとなる。その結果、ISO400時に使用が予定される主画素再現域52に対して、主感光部34には、ISO100時に使用される再現域40が有する400%の輝度情報が蓄積されている。これだけの輝度差のあるシーンの撮像が主感光部34のみによって可能であるため、従感光部36の情報を用いなくとも、そのシーンの輝度を、主感光部の飽和レベル38以下で再現できる場合は少なくない。すなわち、ISO400設定時には、あえて従感光部36から画像データを独立に読み出す必要がないことが多い。
【００２２】
なお、あるシーンが再現できるか否かは、そのシーンの有する絶対的な輝度の値には関係がなく、輝度値の分散、すなわち相対的なばらつきによって定まる。したがって、いくら高い輝度を有するシーンであっても、シーンのほとんどがそれと同等の輝度値を有する場合は、輝度値の分散が小さいから、再現が容易である。そうすると、図４においてISO100設定時には、従感光部36の情報を用いて400%撮像、すなわち輝度差が最大４倍程度のシーンの撮像が可能であるが、ISO400設定時にも、主感光部の情報のみによって、ISO100設定時と同様の400%撮像の効果が得られることとなる。
【００２３】
そこで、主感光部の情報のみを読み出すことによって、十分にシーンを再現することができる。また、このようにISO100時の主画素再現域40のみでシーンを再現することが不可能な場合は、主従感光部34、36によって蓄積される電荷を混合して読み出すこととしてもよい。その場合は、出力電圧が上がるため感度が上がるし、その後のゲインの値も低く抑えることができるため、S/N比の高いノイズの少ない画像が得られ好都合である。
【００２４】
図５は図２に示す回路58の詳細図であり、回路58には相関二重サンプリング（Correlated Double Sampling; CDS）回路60、ゲインコントロール増幅器（Gain Control Amplifier; GCA）62、64およびクランプ回路66が含まれている。CDS 60はCCD 22からの出力データ68を受信してCCD出力波形のうちフィールドスルーレベル252と信号レベル254とを二重にサンプリングし、これら両レベルに含まれるノイズが相関を有していることを利用してノイズを減少させるものである。CDS 60はタイミング発生器24から与えられるサンプリング用パルスSHP（Sample Hold Pedestal）によってフィールドスルーレベルをクランプし、サンプリング用パルスSHD（Sample Hold Data）によって実際の信号レベルをサンプルホールドする。
【００２５】
GCA 62、64にはそれぞれ異なるゲインを設定可能であり、ゲインの設定はCPU 12から到来するゲイン設定信号69、71によってそれぞれ行われる。本実施例では、GCA 62に高いゲインを設定し、GCA 64に低いゲインを設定するものとする。例えばカメラ10のISO感度がISO200またはISO400相当に設定した場合は、GCA 62をゲイン２または４とし、GCA 64をゲイン１とする。しかしゲインはこれらの値に限定されるものではなく、GCA 62、64それぞれについて自由に設定してよい。
【００２６】
回路58では、タイミング発生器24からのゲイン切替信号70に従ってスイッチ72、74が切り替えられ、GCA 62、64のうちいずれか選択されたものによってゲインアップされた信号がクランプ回路66に出力される。本実施例ではGCA 62が選択された場合は２倍または４倍に信号をゲインアップし、GCA 64が選択された場合は１倍にゲインアップする。このように信号電荷を選択的にアナログゲインアップ可能である点が本発明の特徴の１つである。
【００２７】
クランプ回路66は、ゲインアップされた信号が周期性を有することを利用して直流成分の再生を行い、低周波ノイズを除去するものである。タイミング発生器24から与えられる水平同期信号と同じ繰返し周期のクランプパルス76によって駆動する。回路58によってこれらの処理を受けた信号78は、AD変換器（Analogue-to-Digital Converter）80に出力され、AD変換器80は変換クロックパルス82によってアナログ信号をデジタル信号84に変換して信号処理部86に出力する。
【００２８】
図１は図２の信号処理部86の詳細図である。信号処理部86は、画像メモリ88a、88b、ホワイトバランス（White Balance）ゲイン部92a、92b、ガンマ変換部94a、94b、画像合成部96、同時化処理部98、補正部100、圧縮／伸長処理部102および画像縮小部104を含む。
【００２９】
これら信号処理部86内のユニットは、タイミング発生器24から与えられるタイミング信号108に基づき、CPU 12より与えられる制御信号106によって制御される。なおタイミング信号108には水平同期信号、垂直同期信号および各ユニットの動作クロック等が含まれる。
【００３０】
画像メモリ88a、88bはバッファメモリである。これらには画像データ84が格納され、一時的に記憶される。画像データ84は、主感光部34から得られた画像データまたは従感光部36から得られた画像データであり、同じ主感光部34から得られた画像データであっても、図５に示したように、GCA 62、64によって異なるゲインによってゲインアップされている場合もある。これら画像データ84はその種類に応じて画像メモリ88a、88bに別々に記憶される。本実施例では、原則として、相対的に高感度の感光部から得られたデータはメモリ88aに、相対的に低感度の感光部から得られたデータはメモリ88bに記憶される。
【００３１】
画像メモリ88aはWBゲイン部92a、ガンマ変換部94a、画像合成部96、同時化処理部98、補正部100、圧縮／伸長処理部102および画像縮小部104とそれぞれ接続されている。画像メモリ88bは、WBゲイン部92bおよびガンマ変換部94bとそれぞれ接続されている。画像メモリ88a、88bは制御信号106に応じて一時的に格納した画像データをWBゲイン部92a、92bにそれぞれ出力する。
【００３２】
WBゲイン部92a、92bは供給される画像データに対するホワイトバランス調整・ゲイン補正を行う機能を有する。WBゲイン部92a、92bは、ホワイトバランス調整用のゲインによってデジタル画像信号をゲインアップすることができる。例えばWBゲイン部92aはゲイン４に設定してメモリ88aに格納されているデジタル画像信号をゲインアップし、WBゲイン部92bはゲイン１に設定してメモリ88bに格納されているデジタル画像信号をゲインアップする。WBゲイン部92a、92bは、CPU 12の制御により調整した画像データをガンマ変換部94a、94bにそれぞれ送信する。
【００３３】
ガンマ変換部94a、94bには、例えばガンマ補正用のルックアップテーブルが含まれていて、供給される画像データをこのテーブルのデータを用いてガンマ補正する。ガンマ変換部94a、94bは制御に応じてガンマ補正した画像データを画像合成部96または同時化処理部98に出力する。ガンマ変換部94aは、補正したデータを画像データ110としてCPU 12に出力する。ガンマ変換部94bは、制御に応じてガンマ補正した画像データを画像合成部96に出力する。
【００３４】
画像合成部96は、供給される画像データを各フォトダイオード32に対応させて合成する機能を有する。例えばあるダイオード32のうち、主従感光部34、36からそれぞれ得られた画像データが画像メモリ88a、88bにそれぞれ格納される場合、これら感度の異なる感光部34、36から得られるデータが画像合成部96によって合成される。この合成機能によりダイナミックレンジ拡大が実現される。画像合成部96は、合成結果を同時化処理部98に出力する。
【００３５】
同時化処理部98は、供給される合成結果を用いて画素補間処理および色補間処理を行う機能を有する。画素補間処理は、フォトダイオード32の画素ずらし配列によって生じるフォトダイオードのない空領域、仮想画素の補間を行う。同時化処理部98は、補間された画像データを補正部100に出力する。
【００３６】
補正部100は、プレーンな３色の画像データを基に色差マトリクス処理、輪郭強調処理およびゲイン調整等の補正処理を施す機能を有する。補正部100は、各種補正を施した画像データを圧縮／伸長処理部102に出力する。
【００３７】
圧縮／伸長処理部102は、静止画や動画（ムービー）モードにおいて供給される画像データにJPEG（Joint Photographic coding Experts Group）やMPEG（Moving Picture coding Experts Group）-1、MPEG-2等の規格でそれぞれ圧縮処理を施す。圧縮された画像データ112は図２に示す記録メディア114に送られ、記録される。また、メディア114に記録された圧縮画像は、圧縮／伸長処理部102に適宜読み込まれることにより、圧縮処理と逆の伸長処理によって再生される。
【００３８】
画像縮小部104は供給される画像データのサイズを考慮して間引き処理を行い、表示部116に表示サイズ・表示形式データに調整する機能を有する。画像縮小部104は、調整された画像データ118を表示部116に供給する。
【００３９】
CPU 12は輝度分布評価値算出部120を含む。輝度分布評価値算出部120は、供給される画像データ110を基に輝度分布の演算処理により測光の評価値（積算値）を算出する。算出部120は、算出した測光評価値と所定の評価値とを比較し、ダイナミックレンジ拡大を行うか否か、行うとした場合にはCCD 22の読み出し方法をどのようにするかを決定する。
【００４０】
ダイナミックレンジ拡大を行うか否かを判断する理由は、被写界にハイライト情報が豊富でないのに不用意にダイナミックレンジ拡大を行うと、軟調な画像が生成されてしまうからである。ダイナミックレンジ拡大を行うか否かの判断は、最も単純には、例えば、ある設定値以上の輝度を有する画像データが所定の数以上検出されたか否かによって判断すればよい。無論、他の方法によって輝度の分布状況を判断して行ってもよい。
【００４１】
ダイナミックレンジ拡大を行うと決定した場合には、さらにCCD 22の読み出し方法を決定する。すなわち、各フォトダイオード32を構成する主従感光部34、36のうち、主従感光部34、36両方の画像データを独立して読み出す第１の読み出し方法、主感光部34で得られた画像データのみを読み出す第２の読み出し方法、あるいは主従感光部34、36両方の画像データを混合して読み出す第３の読み出し方法のいずれかに決定する。
【００４２】
第１の読み出し方法の場合は、主従感光部34、36からそれぞれ独立に、２フィールド分の読み出し時間をかけて読み出された画像データを合成してダイナミックレンジ拡大を行う。一方、第２および第３の読み出し方法にあっては、１フィールド分の読み出し時間をかけて読み出された画像データに、異なるゲインを乗じて２通りの画像データを生成し、それらを合成してダイナミックレンジ拡大を行う。
【００４３】
ダイナミックレンジ拡大を行う場合に、さらにこのように第１ないし第３の読み出し方法から１つを選択するのは、カメラのISO感度設定および被写界の輝度分布によっては、主従感光部34、36を独立に読み出す場合に得られる広いダイナミックレンジが、主感光部34の情報だけでカバーできるケースもあるからである。例えば、既に述べたように、主感光部34だけでも、ISO100設定時に対してISO400設定時は情報量が４倍まで格納されていることになるから、被写界の輝度分布のばらつきが少なければ、２フィールド分の時間をかけて主従感光部34、36を独立に読み出す代わりに、１フィールド分の短時間で主感光部34から得られる画像データのみを読み出すだけで十分に対応できる。また、主従感光部34、36を混合して読み出すこととしてもよい。
【００４４】
CPU 12は、決定したCCD 22の読み出し方法に応じて、ゲイン設定信号69、71を回路58に与え、制御信号73を発することによりタイミング発生器24を介してゲイン切替信号70を回路58に与える。例えばISO200設定時に、主従感光部34、36両方の画像データを独立して読み出す場合は、主感光部34からの画像データをゲインアップするGCA 62をゲイン２とし、従感光部36からの画像データをゲインアップするGCA 64をゲイン１とする。主感光部34からの画像データのみを読み出す場合も、ゲイン設定は上記と同様であるが、信号70によりスイッチ72、74を高速に切り替えて、各画像データから、GCA 62によりゲイン２によってゲインアップしたものと、ゲイン１によってゲインアップしたものと、両方のゲインアップデータを取得する。また主従感光部34、36を混合して読み出す場合には、各画像データから、GCA 62、64によるゲインアップデータを取得するが、出力電圧が高くなっているため、GCA 62に設定するゲインを２より小さい値とすることができる。したがって、S/N比の高いノイズの少ない画像が得られ有利となる。
【００４５】
以下、本発明の実施例の動作を図６ないし図９を参照して説明する。図６は本実施例の動作フローの前半を示すフローチャートであり、図７および図８はそれぞれ、共通の前半部である図６に続く２通りの後半の動作フローを示すフローチャートである。まずカメラ10の電源が入ると、操作キー14のISO感度設定部よりCPU 12に対してISO感度設定信号15が発せられる（ステップS200）。ここでは、主感光部34のISO感度を通常のISO100より高い例えばISO400に感度設定して、主感光部34の有するダイナミックレンジを拡大する場合の動作を説明する。感度設定すると、CPU 12は回路58にゲイン設定信号69、71を与えてGCA 62をゲイン４に設定し、GCA 64をゲイン１に設定する。
【００４６】
次に、操作キー14に含まれるレリーズシャッタボタンをユーザが操作して第１段のストローク（S1）をオンにされるのを待つ（ステップS202）。オンにされると、デジタルカメラ10は本撮影準備（予備測光）の段階になる（ステップS204）。ここで光学系16によって自動露出、自動焦点合わせを行い、光学系を介して被写界から取り込まれCCD 22から読み出された予備測光データは、例えば回路58のゲイン１に設定されたGCA 64を通ってAD変換器80によってAD変換され、信号処理部86の、例えば画像メモリ88aに一時的に記録される。予備測光データはWBゲイン部92aによってホワイトバランス調整・ゲイン調整され、ガンマ変換部94aでガンマ補正された後、信号110としてCPU 12の輝度分布評価値算出部120に送られる。
【００４７】
算出部120は輝度分布評価値を算出する（ステップS206）。この例ではISO400に設定されているから、主画素再現域52のみでシーンを再現できるか否か、すなわちダイナミックレンジ拡大を行う必要があるか否かを判断する（ステップS208）。ダイナミックレンジ拡大を行う必要がないと判断した場合には、操作キーの第２段のストローク（S2）がオンにされると同時に本撮像を行い、通常の信号処理（ステップS210）を行う。すなわち、再現域52を有する画像データはゲイン１のGCA 64を通して信号処理部86に運ばれ、そこで各種処理を受けて記録メディア114に記録される（ステップS212）。
【００４８】
一方、算出部120がダイナミックレンジ拡大を行うと決定した場合は、さらに主感光部の飽和レベル38で当該シーンを再現可能か否かを判断する（図７に示すステップS214）。言い換えれば、主画素再現域40の中で、４倍のダイナミックレンジ拡大が可能か否かを判断することにより、信号電荷の読み出し方法を選択する。不可能であれば、CCD 22の読み出しを既に述べた第１の読み出し方法または後述の第３の読み出し方法によって行い（ステップS216またはS219）、可能であれば第２の読み出し方法によって行う（ステップS217）。
【００４９】
主画素再現域40の中で、４倍のダイナミックレンジ拡大が不可能な場合は、第１または第３の読み出し方法のいずれかを以下の方法で選択する（ステップS214）。第３の読み出し方法は、主従感光部34、36の信号電荷を混合して読み出す方法である。この方法による場合、図４に示すように、主感光部34の飽和レベル38（400mv）と、従感光部36の飽和レベル48（100mv）とが加算された500mvの飽和レベルが確保される。したがって、500mvの飽和レベルがあれば４倍のダイナミックレンジの拡大が可能な場合は第３の方法で読み出しを行い（ステップS219）、500mvの飽和レベルでもダイナミックレンジの拡大が不可能な場合は、第１の方法で読み出しを行う（ステップS216）。
【００５０】
第１の読み出し方法による場合は、まず主感光部34の画像データを読み出し（ステップS218A）、ゲイン１のGCA 64を通してデジタル化し画像メモリ88aに書き込む（ステップS220）。次に、従感光部36の画像データを読み出し（ステップS222A）、同様にゲイン１のGCA 64を通してデジタル化し画像メモリ88bに書き込む（ステップS224）。その後、デジタル化された段階でゲイン調整等の各種処理を処理部86において行う。画像合成部96において主従感光部34、36の画像データが合成され、ダイナミックレンジ拡大が行われる（ステップS226）。
【００５１】
第２の読み出し方法を行う場合は、感度を高くしたことによってダイナミックレンジを拡大した主感光部34の信号電荷のみを読み出す（ステップS217）。アナログデータの段階ではゲインアップせず、ゲイン１のGCA 64を通してデジタル化した後、同じ画像データを２つの画像メモリ88a、88bにそれぞれ書き込む（ステップS228A）。この場合は、主画素再現域40の中で４倍のダイナミックレンジを確保する必要があるため、デジタル化された段階でWBゲイン部92a、92bにより同じデータのゲイン調整を行い、画像合成部96において合成することによって、ダイナミックレンジ拡大が行われる（ステップS226）。具体的には、メモリ88aに格納したデジタル信号をゲイン４によってゲインアップし、メモリ88bに格納したデジタル信号と合成する。これによって主感光部34のみを使用して固体撮像素子のダイナミックレンジを拡大する。
【００５２】
第３の読み出し方法を行う場合は、主従感光部34、36の信号電荷を混合して読み出す（ステップS219）。その後の処理は基本的に第２の読み出し方法と同様であるが、第３の読み出し方法の場合は出力電圧が上がるため感度が上がるし、その後のゲインの値も低く抑えることができるため、S/N比の高いノイズの少ない画像が得られ好都合である。
【００５３】
図８は図７と同様、図６の前半動作フローに続く後半動作フローのフローチャートであるが、画像データをアナログ段階でゲインアップする点で図７と異なる。図７と異なる点のみ説明すると、第１の読み出し方法を行う場合に、主感光部34の画像データを独立に読み出した場合は、ゲイン４に設定したGCA 62を選択してアナログゲインアップを行う（ステップS218B）。一方、従感光部36の画像データを独立に読み出した場合は、ゲイン１に設定したGCA 64を選択する。このようにアナログ段階でゲインアップすることによって、デジタル化した後にゲイン調整する場合に量子化誤差までもが増幅されてしまうという不利益が回避され、図７の場合よりS/N比が高いノイズの少ない画像が得られるという利点がある。
【００５４】
図９は、図８において第２の読み出し方法（ステップS217）を用いてゲイン切替制御（ステップS230）を行う際の各種信号のタイムチャートである。図９(a)に示すCCD出力は、主感光部34から得られた画素アナログデータを示す。１画素を表す信号波形はリセット期間250、フィールドスルーレベル252および信号レベル254に大別される。図９(b)(c)は、タイミング発生器24からCDS 60に与えられるサンプルホールド信号SHP、SHDであり、それぞれ１画素を表す波形のフィールドスルーレベル252および信号レベル254を相関二重サンプリングしてノイズを低減するものである。
【００５５】
図９(d)に示すCDS出力は、サンプルホールド信号SHDによって得られた信号レベル254を差分反転して出力するものであり、図５に示す信号256である。図９(e)のゲイン切替は図５に示すゲイン切替信号70の波形であり、スイッチ72、74が切り替えられるタイミングを示している。信号70がハイレベルの時にGCA 62（ゲイン４）が選択され、ローレベルの時にGCA 64（ゲイン１）が選択される。
【００５６】
図９(d)(e)に示すように、１画素分のCDS出力レベルに対して、ゲイン切替信号はハイレベルおよびローレベルに切り替えられる。したがって、それぞれGCA 62、64の異なるゲインによってアナログゲインアップした信号が図９(f)(g)に示すように生成され、これらはそれぞれ図５に示す信号258、260に相当する。
【００５７】
図９(f)はゲイン４のGCA 62によってCDS出力を４倍にゲインアップした高ゲインアップ信号を示していて、図９(g)はゲイン１のGCA 64によってCDS出力をゲインアップした低ゲインアップ信号を示している。スイッチ74はスイッチ72と同期して共通の切替信号70によってスイッチングされるため、図５に示す出力信号262は、図９(h)に示すように出力される。結局、図９(d)に示す１画素分のCDS出力レベルからは、２通りにゲインアップされた信号262が出力されることとなる。
【００５８】
このように、図８に示す信号読み出し方法は、主感光部34で得られた画像データのみを読み出すがアナログ段階ではゲインアップせず、実質的に同じデータが画像メモリ88a、88bに書き込まれていた図７に示す読み出し方法と異なり、アナログ段階で２通りのゲインによりゲインアップしておくことにより、図７の場合よりS/N比が高いノイズの少ない画像が得られるという利点がある。２通りにゲインアップされたアナログ信号は、クランプ回路66を経て信号78として出力され、AD変換器80によって、図９(i)に示すAD変換クロックパルスに従ってデジタル化される。ゲイン４および１によってゲインアップされた信号はそれぞれ、２つの画像メモリ88a、88bに書き込まれる（ステップS228B）。
【００５９】
図８の場合は、アナログ段階でゲインアップすることにより主画素再現域40の中で４倍のダイナミックレンジを確保しているため、デジタル化された段階では、WBゲイン部92a、92bによりホワイトバランス用のゲイン調整を行えばよく、ダイナミックレンジ拡大用にゲインアップする必要はない。これ以降は図７と同様であり、画像合成部96において２通りにゲインアップされた高ゲインアップ信号と低ゲインアップ信号とを合成することによって、ダイナミックレンジ拡大が行われる（ステップS226）。これによって主感光部のみを使用して固体撮像素子のダイナミックレンジを拡大する。
【００６０】
図８において第３の読み出し方法（ステップS219）を用いる場合、主従感光部34、36の信号電荷を混合して読み出す点は図７に示すステップS219と同様であり、その後のステップS230以降の処理は、基本的に第２の読み出し方法と同様である。ただし、第３の読み出し方法の場合は出力電圧が上がるため感度が上がるし、ステップS230においてアナログ段階でゲインアップする際のゲインの値も低く抑えることができるため、S/N比の高いノイズの少ない画像が得られ好都合である。
【００６１】
本実施例では、特に説明を省いたが、読み出し順番に関して、熱拡散による飽和量低下の影響があるため、基本的に信号処理上の負担が大きい主感光部の読み出しを行い、従感光部の読み出しを行う順番で読み出すのが有利である。
【００６２】
【発明の効果】
このように本発明によれば、輝度分布のばらつきの小さいシーンでは、従感光部で得られる画像データを読み出すことなく、専ら主感光部から読み出した画像データを利用して広いダイナミックレンジを確保することができる。したがって、特にシステムを変更することなく、主従感光部を独立して読み出す場合と同様のダイナミックレンジ拡大による効果が得られる。また主従感光部を混合して読み出す方法によれば、さらに感度アップやS/N比についても有利となる。さらに、すべての読み出し方法において、アナログ段階で２通りにゲインアップする方法を用いれば、S/N比も高くすることができる。
【００６３】
本発明によれば、主従感光部の画像データを独立して読み出す場合と比較して、読み出し時間を短縮して連写速度を高速化することができ、消費電力を低減するなどの効果が得られる。また、主感光部の画像データのみを読み出す場合は、従感光部によるシェーディングの影響を回避する事も可能である。
【図面の簡単な説明】
【図１】本発明による固体撮像素子の信号読み出し方法を適用するデジタルスチルカメラに含まれる信号処理部のブロック図である。
【図２】図１に示す信号処理部を含むデジタルスチルカメラのブロック図である。
【図３】図２に示すCCDを構成するフォトダイオードの構成図である。
【図４】図３に示すフォトダイオードの光電変換特性を示すグラフである。
【図５】図２に示すCDS/GCAの詳細図である。
【図６】本発明の実施例の動作フロー前半を示すフローチャートである。
【図７】図６に続く動作フロー後半を示すフローチャートである。
【図８】図６に続く他の動作フロー後半を示すフローチャートである。
【図９】図８において画像データ読み出し方法の１つを行う際の各種信号のタイムチャートである。
【符号の説明】
10  デジタルカメラ
22  電荷結合素子
62、64  ゲインコントロール増幅器
88a、88b  画像メモリ
96  画像合成部
120  輝度分布評価値算出部
【図１】
0004350936.tif 000002
【図２】
0004350936.tif 000003
【図３】
0004350936.tif 000004
【図４】
0004350936.tif 000005
【図５】
0004350936.tif 000006
【図６】
0004350936.tif 000007
【図７】
0004350936.tif 000008
【図８】
0004350936.tif 000009
【図９】
0004350936.tif 000010