(57)【要約】  撮影装置は、被写体を撮像して得られた画素信号を画像データに変換する撮像部と、撮像部で変換された画像データに、所定の画像処理を行う画像処理部とを備え、撮像部は、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサと、イメージセンサの撮像領域を所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段とを含み、画像処理部は、処理単位の画像データを順次受け取って記憶するメモリと、メモリに記憶される画像データの矩形ブロックの範囲に所定の画像処理を順次行って出力する画像処理手段とを含む。
2011055483.tif 000002
【特許請求の範囲】
【請求項１】
被写体を撮像して被写体の画像データを出力する撮影装置であって、
被写体を撮像し、撮像で得られた画素信号を画像データに変換する撮像部と、
前記撮像部で変換された画像データに、少なくとも１つの所定の画像処理を行う画像処理部とを備え、
前記撮像部は、
撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサと、
前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段とを含み、
前記画像処理部は、
前記処理単位の画像データを順次受け取って記憶する少なくとも１つのメモリと、
前記メモリに記憶される画像データの前記矩形ブロックの範囲に前記所定の画像処理を順次行って出力する少なくとも１つの画像処理手段とを含む、撮影装置。
【請求項２】
前記画像処理部は、
前記メモリおよびそれぞれ異なる前記所定の画像処理を行う前記画像処理手段を、交互に複数接続して備え、
複数の前記所定の画像処理を順次行うことを特徴とする、請求項１に記載の撮影装置。
【請求項３】
前記変換手段から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部をさらに備え、
前記画像処理部は、ノイズ低減処理された前記画像データを受け取ることを特徴とする、請求項１または２に記載の撮影装置。
【請求項４】
被写体を撮像して被写体の画像データを出力する撮影装置の機能を集積した集積回路であって、
被写体を撮像し、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサと、
前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段と、
前記処理単位の画像データを順次受け取って記憶する少なくとも１つのメモリと、
前記メモリに記憶される画像データの前記矩形ブロックの範囲に所定の画像処理を順次行って出力する少なくとも１つの画像処理手段とを集積した、集積回路。
【請求項５】
前記変換手段から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部をさらに集積し、
前記メモリは、ノイズ低減処理された前記画像データを受け取ることを特徴とする、請求項４に記載の集積回路。
【請求項６】
被写体を撮像して被写体の画像データを出力する撮影装置であって、
被写体を撮像し、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサと、
前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段とを集積した第１の集積回路と、
前記処理単位の画像データを順次受け取って記憶する少なくとも１つのメモリと、
前記メモリに記憶される画像データの前記矩形ブロックの範囲に前記所定の画像処理を順次行って出力する少なくとも１つの画像処理手段とを集積した第２の集積回路とを備える、撮影装置。
【請求項７】
前記第１の集積回路は、前記変換手段から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部をさらに集積し、
前記メモリは、ノイズ低減処理された前記画像データを受け取ることを特徴とする、請求項６記載の撮影装置。
【請求項８】
前記第２の集積回路は、前記変換手段から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部をさらに集積し、
前記メモリは、ノイズ低減処理された前記画像データを受け取ることを特徴とする、請求項６記載の撮影装置。
【請求項９】
被写体を撮像して被写体の画像データを出力する撮影装置の機能を集積した集積回路であって、
被写体を撮像し、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサと、
前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段と、
前記変換手段から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部とを集積した、集積回路。
【請求項１０】
被写体を撮像して被写体の画像データを出力する撮影装置に用いられる集積回路であって、
イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位とし、各処理単位内の画素信号に対応する画像データを順次受け取ってノイズ低減処理を行って出力するノイズ低減部と、
前記ノイズ低減処理された画像データを順次受け取って記憶するメモリと、
前記メモリに記憶される画像データの前記矩形ブロックの範囲に順次前記所定の画像処理を順次行って出力する画像処理手段とを集積し、
前記ノイズ低減部は、受け取った前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力することを特徴とする、集積回路。
【請求項１１】
被写体を撮像して被写体の画像データを出力するための撮影方法であって、
ＸＹアドレス読み出しが可能なイメージセンサで被写体を撮像し、撮像した画素信号を撮像領域に蓄積するステップと、
前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換ステップと、
前記処理単位の画像データを順次受け取って記憶するステップと、
前記記憶するステップで記憶された画像データの前記矩形ブロックの範囲に所定の画像処理を順次行って出力するステップとを含む、撮影方法。
【請求項１２】
前記変換ステップから出力される各処理単位の画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減ステップをさらに含み、
前記記憶するステップは、ノイズ低減処理された前記画像データを記憶することを特徴とする、請求項１１に記載の撮影方法。
【請求項１３】
映像の入力インターフェースである撮像周辺部と、
音声の入力インターフェースであるマイクと、
オートフォーカス部と、
前記オートフォーカス部を制御するカメラ信号処理手段と、
画像の符号化および復号化と、音声の符号化および復号化とを行うＡＶ信号処理手段と、
映像および音声を出力する映像／音声インターフェースと、
記録データを入出力するための記録インターフェースとを備えたデジタルカメラシステムであって、
請求項１−３のいずれかに記載の撮影装置を備えたことを特徴とするデジタルカメラシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮影装置に関し、特に、撮影装置における画像データ処理の低消費電力化および省メモリ化に関するものである。
【背景技術】
【０００２】
デジタルカメラシステムにおいては、イメージセンサにて撮像された画素信号を、デジタルデータである画像データに変換する。画像データは、一時的にメモリに格納され、画像処理が行われる。【０００３】
デジタルカメラシステムが高解像度化し、搭載されるイメージセンサの多画素化が進むと、それに伴って、画像データ量が増大し、画像データを一時的に格納するのに必要なメモリ量も増大する。また、大量の画像データを読み書きするため、メモリアクセスのためのバンド幅も大量に確保する必要が生じる。しかしながら、メモリ量やバンド幅を大きくすることは、消費電力やコストが増大につながるという課題がある。【０００４】
メモリ量を削減するための従来の技術として、特許文献１が開示する画像処理装置が挙げられる。特許文献１が開示する画像処理装置１４００の構成を、図１２の（ａ）に示す。撮像素子１４１３で撮像が行われ、蓄積された画素信号を、Ａ／Ｄ変換器１４１４によって、デジタル変換したのち、増幅手段１４１５によって増幅することで、デジタル画像データが生成される。デジタル画像データは、図１３に示すように所定の大きさの複数の矩形ブロックに分割され、各矩形ブロックのデジタル画像データは、固定符号量で圧縮符号化され、メモリ１４１６に格納される。このようにしてデータ量を圧縮することでメモリ容量の削減を行っている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００６−１６６１４４号公報
【非特許文献】
【０００６】
【非特許文献１】米本和也、「ＣＣＤ／ＣＭＯＳイメージ・センサの基礎と応用」、ＣＱ出版社、第１１９頁−第１２０頁、２００３年８月
【発明の概要】
【発明が解決しようとする課題】
【０００７】
特許文献１の画像処理装置においては、撮像部から出力される画像データを順次受け取って保持するのに必要なメモリ量の削減は可能であるが、その後フィルタ演算等の画像処理を行うためには、大きなメモリ量やメモリバンド幅が必要であるという課題があった。以下に、画像処理の例として、画像データに３×３フィルタ演算を施す場合を挙げ、従来の課題について説明する。３×３フィルタ演算は、着目する画素を中心とする３×３の領域に含まれる画素データを用いて、当該着目する画素データを修正する処理である。画像処理の対象となる領域中の画素のそれぞれに着目してこの処理を行うことにより、画像処理が完了する。【０００８】
着目する画素が、矩形ブロックの境界に位置する画素である場合、３×３の領域には、複数のブロックに属する画素が含まれている。このことを図１３を用いて説明する。画像データは、３×４の矩形ブロック（０，０）から（２，３）に分割されている。ここで、例えば、矩形ブロック（０，０）の右下の境界に位置する画素データ１３０１を、３×３フィルタの中心画素として着目した場合を考える。この場合、３×３フィルタ演算に用いる領域は３×３フィルタ領域１３００となる。３×３フィルタ領域１３００は、（０，０）、（０，１）、（１，０）および（１，１）の４つの矩形ブロックに属する画素を含んでいることが分かる。【０００９】
したがって、画素データ１３０１を中心画素とする３×３フィルタ演算を行う場合、４つの矩形ブロックの画素データが必要になる。そのため、４つの矩形ブロックごとに圧縮された画像データを、同時にメモリ上に展開して保持するか、処理に応じて必要な部分をメモリ上に展開して保持する必要があるため、メモリ量またはメモリアクセスのバンド幅を大きく確保する必要がある。このことは、コストの増大、消費電力の増大を招く。【００１０】
このような課題は、撮像部から出力される画像データに対するフィルタ演算等の画像処理をパイプライン化するうえでも課題となる。例えば、図１３に示す矩形ブロック（０，０）、（０，１）、（０，２）、（０，３）、（１，０）、（１，１）、・・・の順に、画素データを読み出し、同じ順で、画像処理を行う場合を考える。１つ目の矩形ブロック（０，０）のフィルタ演算処理を行うためには、６つ目の矩形ブロック（１，１）の画素データが必要である。したがって、６つ目の矩形ブロック（１，１）の画素データが読み出されるまで、１つ目の矩形ブロック（０，０）のフィルタ演算処理が完了しない。この場合、領域１３０２が示す６つの矩形ブロック分の画素データやフィルタ演算結果を、保持するため大きなメモリ量またはメモリアクセスのバンド幅が必要になる。このような課題は、３×３フィルタ演算を行う場合だけでなく、隣接する複数の矩形ブロックの画素データを用いて画像処理を行う場合全般において発生する。図１２の（ｂ）に、従来の画像処理装置において、このような画像処理を行う場合の構成例を示す。画像処理装置１５００は、従来の画像処理装置１４００に、画像処理手段１４１７および、画像処理手段とメモリとを接続するバス１４１８を追加したものである。上述の課題のため、メモリ１４１６の容量あるいはバス１４１８のバンド幅は大きくしなければならない。【００１１】
以上のように、従来の画像処理装置では、撮像部から出力される画像データに対して、フィルタ演算等の画像処理を行うのに必要なメモリ量およびメモリバンド幅を削減することには、限界があった。また、そのため、コストや消費電力の低減が困難であった。【００１２】
それ故に、本発明の目的は、撮像部から出力される画像データを受け取り、フィルタ演算等の画像処理を行う撮影装置において、必要なメモリ量やメモリバンド幅を削減し、低コスト、低消費電力化することである。
【課題を解決するための手段】
【００１３】
従来の課題を解決するために、本発明の第１の局面は、被写体を撮像して被写体の画像データを出力する撮影装置であって、被写体を撮像し、撮像で得られた画素信号を画像データに変換する撮像部と、撮像部で変換された画像データに、少なくとも１つの所定の画像処理を行う画像処理部とを備え、撮像部は、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサと、イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段とを含み、画像処理部は、処理単位の画像データを順次受け取って記憶する少なくとも１つのメモリと、メモリに記憶される画像データの矩形ブロックの範囲に所定の画像処理を順次行って出力する少なくとも１つの画像処理手段とを含む、撮影装置である。【００１４】
また、本発明の第２の局面は、第１の局面において、画像処理部は、メモリおよびそれぞれ異なる所定の画像処理を行う画像処理手段を、交互に複数接続して備え、複数の所定の画像処理を順次行うことを特徴とする、撮影装置である。【００１５】
また、本発明の第３の局面は、第１または第２の局面において、変換手段から出力される画像データを順次受け取り、当該画像データのうち、イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部をさらに備え、画像処理部は、ノイズ低減処理された画像データを受け取ることを特徴とする、請求項１または２に記載の撮影装置である。【００１６】
さらにまた、本発明の他の局面は、上述のような撮影装置の機能の一部または全部を集約した集積回路や、撮影装置の機能を実現するための方法、上述のような撮影装置を備えたデジタルカメラシステムである。
【発明の効果】
【００１７】
本発明によれば、撮像部から出力される画像データを受け取り、フィルタ演算等の画像処理を行う撮影装置において、必要なメモリ量やメモリバンド幅を削減でき、コストや消費電力を低減することができる。
【図面の簡単な説明】
【００１８】
【図１】図１は、本発明の実施の形態１における撮影装置を示す図である。
【図２】図２は、本発明の実施の形態１における読み出しブロックを示す図である。
【図３】図３は、本発明の実施の形態１における読み出しブロックのオーバーラップを示す図である。
【図４】図４は、本発明の実施の形態１におけるフローを示す図である。
【図５】図５は、本発明の実施の形態２における撮影装置を示す図である。
【図６】図６は、本発明の実施の形態２におけるノイズ低減特性制御のフローを示す図である。
【図７】図７は、本発明の実施の形態２におけるノイズ除去の特性切り替えを示す図である。
【図８】図８は、本発明の実施の形態２におけるフローを示す図である。
【図９】図９は、ＣＭＯＳイメージセンサの構成を示す図である。
【図１０】図１０は、本発明の集積回路の構成例を示す図である。
【図１１】図１１は、本発明のデジタルカメラシステムの構成例を示す図である。
【図１２】図１２は、（ａ）従来の撮影装置の構成、および、（ｂ）従来の撮影装置の課題を示す図である。
【図１３】図１３は、従来技術における矩形ブロックの読み出しを示す図である。
【発明を実施するための形態】
【００１９】
本発明の実施の形態について、図面を参照しながら説明する。
【００２０】
（第１の実施形態）
図１は、本発明の第１の実施形態における撮影装置を示す図である。撮影装置１００は、撮像部１０１と画像処理部１１０とから構成される。撮像部１０１は、被写体を撮像して画素信号を蓄積するＸＹアドレス方式ＣＭＯＳイメージセンサ１０２と、被写体の明るさに合わせて画素信号を増幅する増幅手段１０３と、画素信号をデジタル画像データに変換するＡ／Ｄ変換器１０４とを備えている。増幅手段１０３およびＡ／Ｄ変換器１０４は、変換手段１１１を構成する。画像処理部１１０は、メモリ１０５、１０７と画像処理手段１０６、１０８とを備えている。すなわち、本実施形態では、撮影装置１００は、画像処理手段１０６、１０８により、２種類の画像処理を行う。メモリ１０５は、Ａ／Ｄ変換器１０４から出力されたデジタル画像データを格納する。画像処理手段１０６は、メモリ１０５から、デジタル画像データを読み出し、画像処理を行いメモリ１０７に書き込む。画像処理手段１０８は、メモリ１０７から、書き込まれたデジタル画像データを読み出し、別の画像処理を行い、出力する。画像処理手段１０６および１０８が行う画像処理の例としては、レンズの歪みを補正する処理、Ｂａｙｅｒ配列の色情報をＲＧＢへ変換する処理や、ＲＧＢ信号のマトリクス演算によるカラー補正、γ補正、画像データの圧縮符号化処理など従来知られた多様な画像処理を挙げることができる。これらの画像処理の内容については、説明を省略する。
【００２１】
次に、主な構成要素について、図１−３を用いて説明を行う。図１に示したＸＹアドレス方式ＣＭＯＳイメージセンサ１０２は、所望の位置にある画素のアドレスを指定して、その画素信号を読み出すことができるイメージセンサである。図２は、ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２から、画素信号を読み出す際に行う矩形ブロック読み出し方式を示す図である。図２に示す例では、撮像領域が、３×４の矩形ブロック（０，０）、・・・、（２，３）に分割されている。領域２００は、矩形ブロック（０，０）に対して、水平および垂直方向に所定の画素数分を付加した領域であり、矩形ブロック（０，０）に対応する読み出しブロック単位である。ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２に蓄積された画素信号は、各矩形ブロックに対応するこのような読み出しブロック単位で読み出される。ここで、矩形ブロックに付加された所定の画素分の領域については、隣接する読み出しブロック間でオーバーラップして読み出されることになる。
【００２２】
図３は各矩形ブロックに対応する読み出しブロックが、隣接する矩形ブロックにオーバーラップする様子を示す図である。図３に示すような矩形ブロック（ｉ，ｊ）に対応する読み出しブロック３００における水平方向のオーバーラップ量３０１は、矩形ブロック（ｉ，ｊ）に対して後に行われる画像処理に必要なフィルタ演算の水平方向の画素数の幅を確保すれば十分である。垂直方向のオーバーラップ量３０２も同様に後続の画像処理に必要なフィルタ演算の垂直方向の画素数の幅を確保すれば十分である。なお、撮像領域の端部にある矩形ブロックについては、当然、画素信号が存在しない方向に対してオーバーラップ量を確保する必要はない。例えば、図２において、矩形ブロック（０，０）は撮像領域の左上端部にあるため、領域２００は、実際は、矩形ブロック（０，０）の左方向および上方向については、オーバーラップ量は０である。
【００２３】
次に、図４に示す本実施形態における撮影装置１００の処理フローを参照しながら、処理フローの各ステップを、各構成要素と対応をとりながら説明する。
（ステップＳ４００）  ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２にて被写体を撮像する。
（ステップＳ４０１）  撮像によってＸＹアドレス方式ＣＭＯＳイメージセンサ１０２に蓄積された画素信号を、隣接する矩形ブロックに対して水平および垂直方向に所定の画素数分オーバーラップした読み出しブロック単位で読み出す。
（ステップＳ４０２）  増幅手段１０３と、Ａ／Ｄ変換器１０４によって、画素信号を増幅およびＡ／Ｄ変換してデジタル画像データを生成する。
（ステップＳ４０３）  画像処理手段１０６および１０８にて読み出しブロック単位のパイプライン処理で画像処理を行う。
（ステップＳ４０４）  すべての矩形ブロックが処理が完了していれば終了となり、完了していなければステップＳ４０１に戻る。
【００２４】
第１の実施の形態によれば、各矩形ブロックを読み出す際、当該矩形ブロックの画像処理に必要な隣接する矩形ブロック内の画素信号も含めた読み出しブロック単位で読み出すため、読み出しブロック内の画像データのみを用いて、当該矩形ブロックに対する画像処理を行うことができる。そのため、従来のように、複数の矩形ブロックのデータを、同時にメモリ上に保持したり、あるいは画像処理に必要な画像データをそのつどメモリ上に展開する必要がなくなり、メモリ量やデータアクセス量を低減することができ、低コスト化を実現できる。また、パイプライン処理の実現も容易となる。
【００２５】
本実施例では、２つの画像処理手段１０６および１０８を、メモリ１０７を介して接続し、２種類の画像処理をパイプライン処理する例を示したが、画像処理の数に応じて、画像処理手段およびメモリを増減し、パイプライン処理の段数を変更してもよい。画像処理の数が増えると、メモリの数が増えるが、各メモリは、読み出しブロック単位の容量程度の小規模のものでよい。また、データ読み書きのためのメモリアクセスは、各メモリに分散されるため、各メモリのアクセスバンド幅は小さくてよい。そのため、コスト増加の程度は、従来に比べ小さく抑えることができる。
【００２６】
（第２の実施形態）
図５は、本発明の第２の実施形態における撮影装置５００を示す図である。撮影装置５００は、第１の実施形態における撮影装置１００のＡ／Ｄ変換器１０４とメモリ１０５との間に、ノイズ低減部５１０を備え、Ａ／Ｄ変換器１０４から出力されたデジタル画像データが、メモリ１０５に書き込まれる前に、ノイズ低減処理を行うものである。第１の実施形態と同様の箇所については、同一の参照符号を付し、説明を省略する。ノイズ低減部５１０は、読み出しブロックに含まれる領域のうち、すでに読み出しが行われた他の読み出しブロックの領域とオーバーラップする領域とオーバーラップしない領域とに対して、それぞれ異なる特性のノイズ低減処理を行う。すなわち、ノイズ低減部５１０は、ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２から、撮像後初めて読み出された画素信号に対応する画像データと、それ以外の画素信号に対応する画像データに対して、異なる特性のノイズ低減処理を行う。このようにノイズ低減方式を切り替える理由については後述する。
【００２７】
ノイズ低減部５１０の内部構成について説明する。ノイズ低減特性制御手段６００は、特性Ａノイズ低減手段６０１と特性Ｂノイズ低減手段６０２の切り替えを行う。特性Ａノイズ低減手段６０１は、暗電流ノイズ、光ショットノイズおよびｋＴＣノイズのランダムパターンノイズの低減に適したノイズ低減手段である。特性Ｂノイズ低減手段６０２は、暗電流ノイズおよび光ショットノイズのランダムパターンノイズの低減に適したノイズ低減手段である。なお、暗電流ノイズ、光ショットノイズおよびｋＴＣノイズは、ＣＭＯＳイメージセンサにおいて一般に発生することが知られているノイズである。暗電流ノイズ、光ショットノイズについては、説明を省略する。ｋＴＣノイズについては、ノイズ低減方式を切り替える理由の説明と合わせて後述する。
【００２８】
図６に示すノイズ低減特性制御手段６００の処理フローおよび図７に示すノイズ除去の特性切り替えの例を参照しながら、処理フローの各ステップについて説明する。ノイズ低減特性制御手段６００は、現在処理中の画像データに含まれる各画素データに着目して、以下の処理を行う。
（ステップＳ７００）着目した画素データが、ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２から、１回目に読み出された画素信号に対応する画素データであるかどうか判定する。
（ステップＳ７０１）着目した画素データが、１回目に読み出された画素信号に対応する画素データではない場合、特性Ａノイズ低減手段６０１で処理する。
（ステップＳ７０２）着目した画素データが、１回目に読み出された画素信号に対応する画素データである場合、特性Ｂノイズ低減手段６０２で処理する。
【００２９】
なお、着目する画素データに対応する画素信号が、１回目に読み出されたものであるか否かの判断を行うには、例えば、ノイズ低減特性制御手段６００が、すでに読み出された画素信号の範囲を、画素信号のアドレスの範囲あるいは読み出しブロック単位で記憶しておき、当該範囲にその画素信号が含まれているか否かを判定すればよい。
【００３０】
例えば、図７に示す矩形ブロック（ｉ，ｊ）に対応する読み出しブロックの領域８００を考える。矩形ブロック（ｉ，ｊ）に対応する読み出しブロックを読み出した時点において、斜線で示した領域８０１に含まれる画素データは、以前に読み出した、矩形ブロック（ｉ−１，ｊ−１）、（ｉ，ｊ−１）および（ｉ−１，ｊ）に対応する読み出しブロックに含まれている。したがって、領域８０１に含まれる画素データは、１回目に読み出された画素信号に対応する画素データではないことになる。このような領域８０１には、ノイズ低減特性Ａによるノイズ低減処理が行われる。また、矩形ブロック（ｉ＋１，ｊ）、（ｉ，ｊ＋１）および（ｉ＋１，ｊ＋１）にそれぞれ対応する読み出しブロックは、まだ読み出されていない。したがって、領域８０２に含まれる画素データは、今回初めて読み出された画素信号に対応する画素データであることになる。このような領域８０２には、ノイズ低減特性Ｂによるノイズ低減処理が行われる。
【００３１】
次に、図８に示す本実施形態における撮影装置５００全体の処理フローを参照しながら、処理フローの各ステップについて、各構成要素と対応をとりながら説明する。本処理フローは、第１の実施形態のステップＳ４０２とステップＳ４０３との間に、ステップＳ１０００を追加したものである。図８において、第１の実施形態と同一のステップには、同一の参照符号を付し、説明は省略する。
（ステップＳ１０００）  ノイズ低減部５１０において上述のステップＳ７００−Ｓ７０２の処理により、ノイズ低減特性を切り替えてノイズを低減する。
【００３２】
ここで、ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２から、撮像後初めて読み出された画素信号に対応する画像データと、それ以外の画素信号に対応する画像データに対して、異なる特性のノイズ低減処理を行う理由を説明する。図９は、一般的なＣＭＯＳイメージセンサの１つの画素単位の構成を示す図である。ＣＭＯＳイメージセンサの各画素は、光を受光して電荷を蓄積するＰＤ（フォトダイオード）と、読み出された電荷を電圧に変換するＦＤ（フローティングディフュージョン）と、リセット、増幅、選択の機能を行う各ＴＲ（トランジスタ）を備えている。このような画素単位は、読み出し、選択、リセットの各信号線によって制御され、画素信号を、出力信号線に出力する。
【００３３】
一般に、ＰＤが受光して蓄積された電荷を読み出す前に、ＦＤの電位はリセットされる。非特許文献１によれば、その際、ｋＴＣノイズと呼ばれるランダムパターンノイズがＦＤの電位に発生する。その後、電荷がＦＤに読み出され、電荷に応じてＦＤの電位が変動する。外部から読み出される画素信号は、このＦＤの電位変動に応じて増幅された電位信号であるが、読み出し時のＦＤの電位は、リセット時に発生したｋＴＣノイズが加算された状態となっている。したがって、リセット時のＦＤの電位をサンプリングして保持しておき、読み出した画素信号の電位から減算することで、ｋＴＣノイズを相殺することができる。このようなサンプリングおよびノイズ相殺を行う回路としてＣＤＳ（Ｃｏｒｒｅｌａｔｅｄ  Ｄｏｕｂｌｅ  Ｓａｍｐｌｉｎｇ）回路が知られている。
【００３４】
しかし、２回目以降に、画素信号の読み出しを行うときは、ＦＤの電位はリセット時から変化しており、また、再度ＦＤの電位のリセットを行うこともできないため、ｋＴＣノイズは、上述の方法ではキャンセルできない。そのため、２回目に読み出した画素信号には、ｋＴＣノイズが含まれることとなる。本実施の形態では、このような画素信号に対応する画像データに対しては、特に、ｋＴＣノイズの低減に適した方式で、ノイズ低減処理をすることにしたものである。
【００３５】
第２の実施形態によれば、第１の実施形態と同様、メモリ量やデータアクセス量を低減することができ、低コスト化を実現でき、パイプライン処理の実現も容易になるとともに、画素信号を再度読み出すことによって画素データに含まれてしまうｋＴＣノイズを低減することができ、画質の品質低下を防ぐことができる。
【００３６】
以上説明した本発明の撮影装置は、集積回路として実現することができる。集積回路は、図１０の（ａ）に示すように、１チップ構成の集積回路１１０１として実現してもよいし、図１０の（ｂ）に示すように、撮像部の機能と画像処理部の機能とを、それぞれ別の集積回路１１０２および１１０３に集積した２チップ構成で実現してもよい。図１０の（ｃ）に示すように、このような集積回路に、第２の実施形態で説明したノイズ低減部５１０の機能が集積されていてもよい。図１０の（ｃ）では、ノイズ低減部５１０を、画像処理を行う集積回路１１０５に備える例を示したが、撮像を行う集積回路１１０４に備えてもよい。また、図１０の（ａ）、（ｂ）および（ｃ）には、２つのメモリおよび画像処理手段を備える例を示しているが、必要に応じて、増減することが可能である。このような集積回路においては、必要最低限の少量のメモリを集積回路内に搭載することによって、ＤＲＡＭのような外部記憶装置を削減することが可能となり、コストおよび消費電力をさらに削減することが可能となる。また、本発明の撮影装置は、３チップ以上の集積回路で実現してもよい。
【００３７】
また、さらに、本発明の撮影装置は、デジタルカメラシステムに備えることができる。図１１は、撮影装置を備えたデジタルカメラシステムの構成例を示す図である。デジタルカメラシステムは、映像と音声の入力インターフェースである、撮像周辺部およびマイクと、オートフォーカス部と、オートフォーカス部を制御するカメラ信号処理手段と、画像や音声の符号化および復号化をそれぞれ行う、映像符号化器、映像復号化器、音声符号化器および音声復号化器を含むＡＶ信号処理手段と、映像を表示する表示部と、映像および音声を出力するインターフェースである映像／音声インターフェースと、記録データを入出力する記録インターフェースと、これらすべてを制御するシステム制御手段とを備えている。この例においては、撮像周辺部に撮像部が実装され、カメラ信号処理手段に画像処理手段が実装されている。
【産業上の利用可能性】
【００３８】
本発明にかかる撮影装置は、デジタルカメラシステム等において有用であり、特に、高画素数、高画質のデジタルカメラシステムにおいて、メモリや消費電力の削減による省コスト化を図るうえで有用である。
【符号の説明】
【００３９】
１００、５００    撮影装置
１０１    撮像部
１０２    ＸＹアドレス方式ＣＭＯＳイメージセンサ
１０３    増幅手段
１０４    Ａ／Ｄ変換器
１０５、１０７、６０３    メモリ
１０６、１０８    画像処理手段
１１０    画像処理部
１１１    変換手段
２００、３００、８００    画像データ読み出し領域
３０１    水平方向オーバーラップ量
３０２    垂直方向オーバーラップ量
５１０    ノイズ低減部
６００    ノイズ低減特性制御手段
６０１    特性Ａノイズ低減手段
６０２    特性Ｂノイズ低減手段
８０１    ２回目以降の読み出し領域
８０２    １回目の読み出し領域
１１０１、１１０２、１１０３、１１０４、１１０５    集積回路
１３００    ３×３フィルタ領域
１３０１    ３×３フィルタ領域の中心
１３０２    従来におけるメモリに格納が必要な領域
１４１３    撮像素子
１４１４    Ａ／Ｄ変換器
１４１５    増幅手段
１４１６    メモリ
１４１７    画像処理手段
１４１８    バス
１４００    従来の画像処理装置
１５００    画像処理手段を備えた従来の画像処理装置
【図１】
2011055483.tif 000003
【図２】
2011055483.tif 000004
【図３】
2011055483.tif 000005
【図４】
2011055483.tif 000006
【図５】
2011055483.tif 000007
【図６】
2011055483.tif 000008
【図７】
2011055483.tif 000009
【図８】
2011055483.tif 000010
【図９】
2011055483.tif 000011
【図１０】
2011055483.tif 000012
【図１１】
2011055483.tif 000013
【図１２】
2011055483.tif 000014
【図１３】
2011055483.tif 000015
【手続補正書】
【提出日】平成23年1月14日(2011.1.14)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
被写体を撮像して被写体の画像データを出力する撮影装置であって、
被写体を撮像し、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサ、および、前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段を含む撮像部と、
前記撮像部から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部と、
少なくとも１つのメモリ、および、それぞれ所定の画像処理を行う少なくとも１つの画像処理手段を、交互に接続して構成され、前記ノイズ低減部から出力されるノイズ低減処理された前記画像データを順次受け取り、当該画像データの前記矩形ブロックの範囲に少なくとも１つの前記所定の画像処理を順次行って出力する画像処理部とを備える、撮影装置。
【請求項２】
前記撮像部、前記ノイズ低減部、および、前記画像処理部の少なくとも１つの機能は、集積回路として集積されている、請求項１に記載の撮影装置。
【請求項３】
（削除）
【請求項４】
被写体を撮像して被写体の画像データを出力する撮影装置の機能を集積した集積回路であって、
被写体を撮像し、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサ、および、前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段とを含む撮像部と、
前記撮像部から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部と、
少なくとも１つのメモリ、および、それぞれ所定の画像処理を行う少なくとも１つの画像処理手段を、交互に接続して構成され、前記ノイズ低減部から出力されるノイズ低減処理された前記画像データを順次受け取り、当該画像データの前記矩形ブロックの範囲に少なくとも１つの前記所定の画像処理を順次行って出力する少なくとも１つの画像処理部とを集積した、集積回路。
【請求項５】
（削除）
【請求項６】
（削除）
【請求項７】
（削除）
【請求項８】
（削除）
【請求項９】
（削除）
【請求項１０】
（削除）
【請求項１１】
被写体を撮像して被写体の画像データを出力するための撮影方法であって、
ＸＹアドレス読み出しが可能なイメージセンサで被写体を撮像し、撮像した画素信号を撮像領域に蓄積するステップと、
前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換するステップと、
前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行うステップと、
前記画像データを順次受け取って記憶するサブステップ、および、それぞれ所定の画像処理を行うサブステップを交互に少なくとも１回実行することで、前記ノイズ低減処理された画像データを順次受け取り、当該画像データの前記矩形ブロックの範囲に少なくとも１つの前記所定の画像処理を順次行って出力するステップとを含む、撮影方法。
【請求項１２】
（削除）
【請求項１３】
映像の入力インターフェースである撮像周辺部と、
音声の入力インターフェースであるマイクと、
オートフォーカス部と、
前記オートフォーカス部を制御するカメラ信号処理手段と、
画像の符号化および復号化と、音声の符号化および復号化とを行うＡＶ信号処理手段と、
映像および音声を出力する映像／音声インターフェースと、
記録データを入出力するための記録インターフェースとを備えたデジタルカメラシステムであって、
請求項１または２に記載の撮影装置を備えたことを特徴とするデジタルカメラシステム。
【手続補正書】
【提出日】平成23年6月22日(2011.6.22)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮影装置に関し、特に、撮影装置における画像データ処理の低消費電力化および省メモリ化に関するものである。
【背景技術】
【０００２】
デジタルカメラシステムにおいては、イメージセンサにて撮像された画素信号を、デジタルデータである画像データに変換する。画像データは、一時的にメモリに格納され、画像処理が行われる。
【０００３】
デジタルカメラシステムが高解像度化し、搭載されるイメージセンサの多画素化が進むと、それに伴って、画像データ量が増大し、画像データを一時的に格納するのに必要なメモリ量も増大する。また、大量の画像データを読み書きするため、メモリアクセスのためのバンド幅も大量に確保する必要が生じる。しかしながら、メモリ量やバンド幅を大きくすることは、消費電力やコストが増大につながるという課題がある。
【０００４】
メモリ量を削減するための従来の技術として、特許文献１が開示する画像処理装置が挙げられる。特許文献１が開示する画像処理装置１４００の構成を、図１２の（ａ）に示す。撮像素子１４１３で撮像が行われ、蓄積された画素信号を、Ａ／Ｄ変換器１４１４によって、デジタル変換したのち、増幅手段１４１５によって増幅することで、デジタル画像データが生成される。デジタル画像データは、図１３に示すように所定の大きさの複数の矩形ブロックに分割され、各矩形ブロックのデジタル画像データは、固定符号量で圧縮符号化され、メモリ１４１６に格納される。このようにしてデータ量を圧縮することでメモリ容量の削減を行っている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００６−１６６１４４号公報
【非特許文献】
【０００６】
【非特許文献１】米本和也、「ＣＣＤ／ＣＭＯＳイメージ・センサの基礎と応用」、ＣＱ出版社、第１１９頁−第１２０頁、２００３年８月
【発明の概要】
【発明が解決しようとする課題】
【０００７】
特許文献１の画像処理装置においては、撮像部から出力される画像データを順次受け取って保持するのに必要なメモリ量の削減は可能であるが、その後フィルタ演算等の画像処理を行うためには、大きなメモリ量やメモリバンド幅が必要であるという課題があった。以下に、画像処理の例として、画像データに３×３フィルタ演算を施す場合を挙げ、従来の課題について説明する。３×３フィルタ演算は、着目する画素を中心とする３×３の領域に含まれる画素データを用いて、当該着目する画素データを修正する処理である。画像処理の対象となる領域中の画素のそれぞれに着目してこの処理を行うことにより、画像処理が完了する。
【０００８】
着目する画素が、矩形ブロックの境界に位置する画素である場合、３×３の領域には、複数のブロックに属する画素が含まれている。このことを図１３を用いて説明する。画像データは、３×４の矩形ブロック（０，０）から（２，３）に分割されている。ここで、例えば、矩形ブロック（０，０）の右下の境界に位置する画素データ１３０１を、３×３フィルタの中心画素として着目した場合を考える。この場合、３×３フィルタ演算に用いる領域は３×３フィルタ領域１３００となる。３×３フィルタ領域１３００は、（０，０）、（０，１）、（１，０）および（１，１）の４つの矩形ブロックに属する画素を含んでいることが分かる。
【０００９】
したがって、画素データ１３０１を中心画素とする３×３フィルタ演算を行う場合、４つの矩形ブロックの画素データが必要になる。そのため、４つの矩形ブロックごとに圧縮された画像データを、同時にメモリ上に展開して保持するか、処理に応じて必要な部分をメモリ上に展開して保持する必要があるため、メモリ量またはメモリアクセスのバンド幅を大きく確保する必要がある。このことは、コストの増大、消費電力の増大を招く。
【００１０】
このような課題は、撮像部から出力される画像データに対するフィルタ演算等の画像処理をパイプライン化するうえでも課題となる。例えば、図１３に示す矩形ブロック（０，０）、（０，１）、（０，２）、（０，３）、（１，０）、（１，１）、・・・の順に、画素データを読み出し、同じ順で、画像処理を行う場合を考える。１つ目の矩形ブロック（０，０）のフィルタ演算処理を行うためには、６つ目の矩形ブロック（１，１）の画素データが必要である。したがって、６つ目の矩形ブロック（１，１）の画素データが読み出されるまで、１つ目の矩形ブロック（０，０）のフィルタ演算処理が完了しない。この場合、領域１３０２が示す６つの矩形ブロック分の画素データやフィルタ演算結果を、保持するため大きなメモリ量またはメモリアクセスのバンド幅が必要になる。このような課題は、３×３フィルタ演算を行う場合だけでなく、隣接する複数の矩形ブロックの画素データを用いて画像処理を行う場合全般において発生する。図１２の（ｂ）に、従来の画像処理装置において、このような画像処理を行う場合の構成例を示す。画像処理装置１５００は、従来の画像処理装置１４００に、画像処理手段１４１７および、画像処理手段とメモリとを接続するバス１４１８を追加したものである。上述の課題のため、メモリ１４１６の容量あるいはバス１４１８のバンド幅は大きくしなければならない。
【００１１】
以上のように、従来の画像処理装置では、撮像部から出力される画像データに対して、フィルタ演算等の画像処理を行うのに必要なメモリ量およびメモリバンド幅を削減することには、限界があった。また、そのため、コストや消費電力の低減が困難であった。
【００１２】
それ故に、本発明の目的は、撮像部から出力される画像データを受け取り、フィルタ演算等の画像処理を行う撮影装置において、必要なメモリ量やメモリバンド幅を削減し、低コスト、低消費電力化することである。
【課題を解決するための手段】
【００１３】
従来の課題を解決するために、本発明の第１の局面は、被写体を撮像して被写体の画像データを出力する撮影装置であって、被写体を撮像し、撮像で得られた画素信号を画像データに変換する撮像部と、撮像部で変換された画像データに、少なくとも１つの所定の画像処理を行う画像処理部とを備え、撮像部は、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサと、イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段とを含み、画像処理部は、処理単位の画像データを順次受け取って記憶する少なくとも１つのメモリと、メモリに記憶される画像データの矩形ブロックの範囲に所定の画像処理を順次行って出力する少なくとも１つの画像処理手段とを含む、撮影装置である。
【００１４】
また、本発明の第２の局面は、第１の局面において、画像処理部は、メモリおよびそれぞれ異なる所定の画像処理を行う画像処理手段を、交互に複数接続して備え、複数の所定の画像処理を順次行うことを特徴とする、撮影装置である。
【００１５】
また、本発明の第３の局面は、第１または第２の局面において、変換手段から出力される画像データを順次受け取り、当該画像データのうち、イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部をさらに備え、画像処理部は、ノイズ低減処理された画像データを受け取ることを特徴とする、請求項１または２に記載の撮影装置である。
【００１６】
さらにまた、本発明の他の局面は、上述のような撮影装置の機能の一部または全部を集約した集積回路や、撮影装置の機能を実現するための方法、上述のような撮影装置を備えたデジタルカメラシステムである。
【発明の効果】
【００１７】
本発明によれば、撮像部から出力される画像データを受け取り、フィルタ演算等の画像処理を行う撮影装置において、必要なメモリ量やメモリバンド幅を削減でき、コストや消費電力を低減することができる。
【図面の簡単な説明】
【００１８】
【図１】本発明の実施の形態１における撮影装置を示す図
【図２】本発明の実施の形態１における読み出しブロックを示す図
【図３】本発明の実施の形態１における読み出しブロックのオーバーラップを示す図
【図４】本発明の実施の形態１におけるフローを示す図
【図５】本発明の実施の形態２における撮影装置を示す図
【図６】本発明の実施の形態２におけるノイズ低減特性制御のフローを示す図
【図７】本発明の実施の形態２におけるノイズ除去の特性切り替えを示す図
【図８】本発明の実施の形態２におけるフローを示す図
【図９】ＣＭＯＳイメージセンサの構成を示す図
【図１０】本発明の集積回路の構成例を示す図
【図１１】本発明のデジタルカメラシステムの構成例を示す図
【図１２】（ａ）従来の撮影装置の構成、および、（ｂ）従来の撮影装置の課題を示す図
【図１３】従来技術における矩形ブロックの読み出しを示す図
【発明を実施するための形態】
【００１９】
本発明の実施の形態について、図面を参照しながら説明する。
【００２０】
（第１の実施形態）
図１は、本発明の第１の実施形態における撮影装置を示す図である。撮影装置１００は、撮像部１０１と画像処理部１１０とから構成される。撮像部１０１は、被写体を撮像して画素信号を蓄積するＸＹアドレス方式ＣＭＯＳイメージセンサ１０２と、被写体の明るさに合わせて画素信号を増幅する増幅手段１０３と、画素信号をデジタル画像データに変換するＡ／Ｄ変換器１０４とを備えている。増幅手段１０３およびＡ／Ｄ変換器１０４は、変換手段１１１を構成する。画像処理部１１０は、メモリ１０５、１０７と画像処理手段１０６、１０８とを備えている。すなわち、本実施形態では、撮影装置１００は、画像処理手段１０６、１０８により、２種類の画像処理を行う。メモリ１０５は、Ａ／Ｄ変換器１０４から出力されたデジタル画像データを格納する。画像処理手段１０６は、メモリ１０５から、デジタル画像データを読み出し、画像処理を行いメモリ１０７に書き込む。画像処理手段１０８は、メモリ１０７から、書き込まれたデジタル画像データを読み出し、別の画像処理を行い、出力する。画像処理手段１０６および１０８が行う画像処理の例としては、レンズの歪みを補正する処理、Ｂａｙｅｒ配列の色情報をＲＧＢへ変換する処理や、ＲＧＢ信号のマトリクス演算によるカラー補正、γ補正、画像データの圧縮符号化処理など従来知られた多様な画像処理を挙げることができる。これらの画像処理の内容については、説明を省略する。
【００２１】
次に、主な構成要素について、図１−３を用いて説明を行う。図１に示したＸＹアドレス方式ＣＭＯＳイメージセンサ１０２は、所望の位置にある画素のアドレスを指定して、その画素信号を読み出すことができるイメージセンサである。図２は、ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２から、画素信号を読み出す際に行う矩形ブロック読み出し方式を示す図である。図２に示す例では、撮像領域が、３×４の矩形ブロック（０，０）、・・・、（２，３）に分割されている。領域２００は、矩形ブロック（０，０）に対して、水平および垂直方向に所定の画素数分を付加した領域であり、矩形ブロック（０，０）に対応する読み出しブロック単位である。ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２に蓄積された画素信号は、各矩形ブロックに対応するこのような読み出しブロック単位で読み出される。ここで、矩形ブロックに付加された所定の画素分の領域については、隣接する読み出しブロック間でオーバーラップして読み出されることになる。
【００２２】
図３は各矩形ブロックに対応する読み出しブロックが、隣接する矩形ブロックにオーバーラップする様子を示す図である。図３に示すような矩形ブロック（ｉ，ｊ）に対応する読み出しブロック３００における水平方向のオーバーラップ量３０１は、矩形ブロック（ｉ，ｊ）に対して後に行われる画像処理に必要なフィルタ演算の水平方向の画素数の幅を確保すれば十分である。垂直方向のオーバーラップ量３０２も同様に後続の画像処理に必要なフィルタ演算の垂直方向の画素数の幅を確保すれば十分である。なお、撮像領域の端部にある矩形ブロックについては、当然、画素信号が存在しない方向に対してオーバーラップ量を確保する必要はない。例えば、図２において、矩形ブロック（０，０）は撮像領域の左上端部にあるため、領域２００は、実際は、矩形ブロック（０，０）の左方向および上方向については、オーバーラップ量は０である。
【００２３】
次に、図４に示す本実施形態における撮影装置１００の処理フローを参照しながら、処理フローの各ステップを、各構成要素と対応をとりながら説明する。
（ステップＳ４００）  ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２にて被写体を撮像する。
（ステップＳ４０１）  撮像によってＸＹアドレス方式ＣＭＯＳイメージセンサ１０２に蓄積された画素信号を、隣接する矩形ブロックに対して水平および垂直方向に所定の画素数分オーバーラップした読み出しブロック単位で読み出す。
（ステップＳ４０２）  増幅手段１０３と、Ａ／Ｄ変換器１０４によって、画素信号を増幅およびＡ／Ｄ変換してデジタル画像データを生成する。
（ステップＳ４０３）  画像処理手段１０６および１０８にて読み出しブロック単位のパイプライン処理で画像処理を行う。
（ステップＳ４０４）  すべての矩形ブロックが処理が完了していれば終了となり、完了していなければステップＳ４０１に戻る。
【００２４】
第１の実施の形態によれば、各矩形ブロックを読み出す際、当該矩形ブロックの画像処理に必要な隣接する矩形ブロック内の画素信号も含めた読み出しブロック単位で読み出すため、読み出しブロック内の画像データのみを用いて、当該矩形ブロックに対する画像処理を行うことができる。そのため、従来のように、複数の矩形ブロックのデータを、同時にメモリ上に保持したり、あるいは画像処理に必要な画像データをそのつどメモリ上に展開する必要がなくなり、メモリ量やデータアクセス量を低減することができ、低コスト化を実現できる。また、パイプライン処理の実現も容易となる。
【００２５】
本実施例では、２つの画像処理手段１０６および１０８を、メモリ１０７を介して接続し、２種類の画像処理をパイプライン処理する例を示したが、画像処理の数に応じて、画像処理手段およびメモリを増減し、パイプライン処理の段数を変更してもよい。画像処理の数が増えると、メモリの数が増えるが、各メモリは、読み出しブロック単位の容量程度の小規模のものでよい。また、データ読み書きのためのメモリアクセスは、各メモリに分散されるため、各メモリのアクセスバンド幅は小さくてよい。そのため、コスト増加の程度は、従来に比べ小さく抑えることができる。
【００２６】
（第２の実施形態）
図５は、本発明の第２の実施形態における撮影装置５００を示す図である。撮影装置５００は、第１の実施形態における撮影装置１００のＡ／Ｄ変換器１０４とメモリ１０５との間に、ノイズ低減部５１０を備え、Ａ／Ｄ変換器１０４から出力されたデジタル画像データが、メモリ１０５に書き込まれる前に、ノイズ低減処理を行うものである。第１の実施形態と同様の箇所については、同一の参照符号を付し、説明を省略する。ノイズ低減部５１０は、読み出しブロックに含まれる領域のうち、すでに読み出しが行われた他の読み出しブロックの領域とオーバーラップする領域とオーバーラップしない領域とに対して、それぞれ異なる特性のノイズ低減処理を行う。すなわち、ノイズ低減部５１０は、ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２から、撮像後初めて読み出された画素信号に対応する画像データと、それ以外の画素信号に対応する画像データに対して、異なる特性のノイズ低減処理を行う。このようにノイズ低減方式を切り替える理由については後述する。
【００２７】
ノイズ低減部５１０の内部構成について説明する。ノイズ低減特性制御手段６００は、特性Ａノイズ低減手段６０１と特性Ｂノイズ低減手段６０２の切り替えを行う。特性Ａノイズ低減手段６０１は、暗電流ノイズ、光ショットノイズおよびｋＴＣノイズのランダムパターンノイズの低減に適したノイズ低減手段である。特性Ｂノイズ低減手段６０２は、暗電流ノイズおよび光ショットノイズのランダムパターンノイズの低減に適したノイズ低減手段である。なお、暗電流ノイズ、光ショットノイズおよびｋＴＣノイズは、ＣＭＯＳイメージセンサにおいて一般に発生することが知られているノイズである。暗電流ノイズ、光ショットノイズについては、説明を省略する。ｋＴＣノイズについては、ノイズ低減方式を切り替える理由の説明と合わせて後述する。
【００２８】
図６に示すノイズ低減特性制御手段６００の処理フローおよび図７に示すノイズ除去の特性切り替えの例を参照しながら、処理フローの各ステップについて説明する。ノイズ低減特性制御手段６００は、現在処理中の画像データに含まれる各画素データに着目して、以下の処理を行う。
（ステップＳ７００）着目した画素データが、ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２から、１回目に読み出された画素信号に対応する画素データであるかどうか判定する。
（ステップＳ７０１）着目した画素データが、１回目に読み出された画素信号に対応する画素データではない場合、特性Ａノイズ低減手段６０１で処理する。
（ステップＳ７０２）着目した画素データが、１回目に読み出された画素信号に対応する画素データである場合、特性Ｂノイズ低減手段６０２で処理する。
【００２９】
なお、着目する画素データに対応する画素信号が、１回目に読み出されたものであるか否かの判断を行うには、例えば、ノイズ低減特性制御手段６００が、すでに読み出された画素信号の範囲を、画素信号のアドレスの範囲あるいは読み出しブロック単位で記憶しておき、当該範囲にその画素信号が含まれているか否かを判定すればよい。
【００３０】
例えば、図７に示す矩形ブロック（ｉ，ｊ）に対応する読み出しブロックの領域８００を考える。矩形ブロック（ｉ，ｊ）に対応する読み出しブロックを読み出した時点において、斜線で示した領域８０１に含まれる画素データは、以前に読み出した、矩形ブロック（ｉ−１，ｊ−１）、（ｉ，ｊ−１）および（ｉ−１，ｊ）に対応する読み出しブロックに含まれている。したがって、領域８０１に含まれる画素データは、１回目に読み出された画素信号に対応する画素データではないことになる。このような領域８０１には、ノイズ低減特性Ａによるノイズ低減処理が行われる。また、矩形ブロック（ｉ＋１，ｊ）、（ｉ，ｊ＋１）および（ｉ＋１，ｊ＋１）にそれぞれ対応する読み出しブロックは、まだ読み出されていない。したがって、領域８０２に含まれる画素データは、今回初めて読み出された画素信号に対応する画素データであることになる。このような領域８０２には、ノイズ低減特性Ｂによるノイズ低減処理が行われる。
【００３１】
次に、図８に示す本実施形態における撮影装置５００全体の処理フローを参照しながら、処理フローの各ステップについて、各構成要素と対応をとりながら説明する。本処理フローは、第１の実施形態のステップＳ４０２とステップＳ４０３との間に、ステップＳ１０００を追加したものである。図８において、第１の実施形態と同一のステップには、同一の参照符号を付し、説明は省略する。
（ステップＳ１０００）  ノイズ低減部５１０において上述のステップＳ７００−Ｓ７０２の処理により、ノイズ低減特性を切り替えてノイズを低減する。
【００３２】
ここで、ＸＹアドレス方式ＣＭＯＳイメージセンサ１０２から、撮像後初めて読み出された画素信号に対応する画像データと、それ以外の画素信号に対応する画像データに対して、異なる特性のノイズ低減処理を行う理由を説明する。図９は、一般的なＣＭＯＳイメージセンサの１つの画素単位の構成を示す図である。ＣＭＯＳイメージセンサの各画素は、光を受光して電荷を蓄積するＰＤ（フォトダイオード）と、読み出された電荷を電圧に変換するＦＤ（フローティングディフュージョン）と、リセット、増幅、選択の機能を行う各ＴＲ（トランジスタ）を備えている。このような画素単位は、読み出し、選択、リセットの各信号線によって制御され、画素信号を、出力信号線に出力する。
【００３３】
一般に、ＰＤが受光して蓄積された電荷を読み出す前に、ＦＤの電位はリセットされる。非特許文献１によれば、その際、ｋＴＣノイズと呼ばれるランダムパターンノイズがＦＤの電位に発生する。その後、電荷がＦＤに読み出され、電荷に応じてＦＤの電位が変動する。外部から読み出される画素信号は、このＦＤの電位変動に応じて増幅された電位信号であるが、読み出し時のＦＤの電位は、リセット時に発生したｋＴＣノイズが加算された状態となっている。したがって、リセット時のＦＤの電位をサンプリングして保持しておき、読み出した画素信号の電位から減算することで、ｋＴＣノイズを相殺することができる。このようなサンプリングおよびノイズ相殺を行う回路としてＣＤＳ（Ｃｏｒｒｅｌａｔｅｄ  Ｄｏｕｂｌｅ  Ｓａｍｐｌｉｎｇ）回路が知られている。
【００３４】
しかし、２回目以降に、画素信号の読み出しを行うときは、ＦＤの電位はリセット時から変化しており、また、再度ＦＤの電位のリセットを行うこともできないため、ｋＴＣノイズは、上述の方法ではキャンセルできない。そのため、２回目に読み出した画素信号には、ｋＴＣノイズが含まれることとなる。本実施の形態では、このような画素信号に対応する画像データに対しては、特に、ｋＴＣノイズの低減に適した方式で、ノイズ低減処理をすることにしたものである。
【００３５】
第２の実施形態によれば、第１の実施形態と同様、メモリ量やデータアクセス量を低減することができ、低コスト化を実現でき、パイプライン処理の実現も容易になるとともに、画素信号を再度読み出すことによって画素データに含まれてしまうｋＴＣノイズを低減することができ、画質の品質低下を防ぐことができる。
【００３６】
以上説明した本発明の撮影装置は、集積回路として実現することができる。集積回路は、図１０の（ａ）に示すように、１チップ構成の集積回路１１０１として実現してもよいし、図１０の（ｂ）に示すように、撮像部の機能と画像処理部の機能とを、それぞれ別の集積回路１１０２および１１０３に集積した２チップ構成で実現してもよい。図１０の（ｃ）に示すように、このような集積回路に、第２の実施形態で説明したノイズ低減部５１０の機能が集積されていてもよい。図１０の（ｃ）では、ノイズ低減部５１０を、画像処理を行う集積回路１１０５に備える例を示したが、撮像を行う集積回路１１０４に備えてもよい。また、図１０の（ａ）、（ｂ）および（ｃ）には、２つのメモリおよび画像処理手段を備える例を示しているが、必要に応じて、増減することが可能である。このような集積回路においては、必要最低限の少量のメモリを集積回路内に搭載することによって、ＤＲＡＭのような外部記憶装置を削減することが可能となり、コストおよび消費電力をさらに削減することが可能となる。また、本発明の撮影装置は、３チップ以上の集積回路で実現してもよい。
【００３７】
また、さらに、本発明の撮影装置は、デジタルカメラシステムに備えることができる。図１１は、撮影装置を備えたデジタルカメラシステムの構成例を示す図である。デジタルカメラシステムは、映像と音声の入力インターフェースである、撮像周辺部およびマイクと、オートフォーカス部と、オートフォーカス部を制御するカメラ信号処理手段と、画像や音声の符号化および復号化をそれぞれ行う、映像符号化器、映像復号化器、音声符号化器および音声復号化器を含むＡＶ信号処理手段と、映像を表示する表示部と、映像および音声を出力するインターフェースである映像／音声インターフェースと、記録データを入出力する記録インターフェースと、これらすべてを制御するシステム制御手段とを備えている。この例においては、撮像周辺部に撮像部が実装され、カメラ信号処理手段に画像処理手段が実装されている。
【産業上の利用可能性】
【００３８】
本発明にかかる撮影装置は、デジタルカメラシステム等において有用であり、特に、高画素数、高画質のデジタルカメラシステムにおいて、メモリや消費電力の削減による省コスト化を図るうえで有用である。
【符号の説明】
【００３９】
１００、５００    撮影装置
１０１    撮像部
１０２    ＸＹアドレス方式ＣＭＯＳイメージセンサ
１０３    増幅手段
１０４    Ａ／Ｄ変換器
１０５、１０７、６０３    メモリ
１０６、１０８    画像処理手段
１１０    画像処理部
１１１    変換手段
２００、３００、８００    画像データ読み出し領域
３０１    水平方向オーバーラップ量
３０２    垂直方向オーバーラップ量
５１０    ノイズ低減部
６００    ノイズ低減特性制御手段
６０１    特性Ａノイズ低減手段
６０２    特性Ｂノイズ低減手段
８０１    ２回目以降の読み出し領域
８０２    １回目の読み出し領域
１１０１、１１０２、１１０３、１１０４、１１０５    集積回路
１３００    ３×３フィルタ領域
１３０１    ３×３フィルタ領域の中心
１３０２    従来におけるメモリに格納が必要な領域
１４１３    撮像素子
１４１４    Ａ／Ｄ変換器
１４１５    増幅手段
１４１６    メモリ
１４１７    画像処理手段
１４１８    バス
１４００    従来の画像処理装置
１５００    画像処理手段を備えた従来の画像処理装置
【手続補正２】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
被写体を撮像して被写体の画像データを出力する撮影装置であって、
被写体を撮像し、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサ、および、前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段を含む撮像部と、
前記撮像部から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部と、
少なくとも１つのメモリ、および、それぞれ所定の画像処理を行う少なくとも１つの画像処理手段を、交互に接続して構成され、前記ノイズ低減部から出力されるノイズ低減処理された前記画像データを順次受け取り、当該画像データの前記矩形ブロックの範囲に少なくとも１つの前記所定の画像処理を順次行って出力する画像処理部とを備える、撮影装置。
【請求項２】
前記撮像部、前記ノイズ低減部、および、前記画像処理部の少なくとも１つの機能は、集積回路として集積されている、請求項１に記載の撮影装置。
【請求項３】
被写体を撮像して被写体の画像データを出力する撮影装置の機能を集積した集積回路であって、
被写体を撮像し、撮像で得られた被写体の画素信号を撮像領域に蓄積するＸＹアドレス読み出しが可能なイメージセンサ、および、前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換して出力する変換手段とを含む撮像部と、
前記撮像部から出力される前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行って出力するノイズ低減部と、
少なくとも１つのメモリ、および、それぞれ所定の画像処理を行う少なくとも１つの画像処理手段を、交互に接続して構成され、前記ノイズ低減部から出力されるノイズ低減処理された前記画像データを順次受け取り、当該画像データの前記矩形ブロックの範囲に少なくとも１つの前記所定の画像処理を順次行って出力する少なくとも１つの画像処理部とを集積した、集積回路。
【請求項４】
被写体を撮像して被写体の画像データを出力するための撮影方法であって、
ＸＹアドレス読み出しが可能なイメージセンサで被写体を撮像し、撮像した画素信号を撮像領域に蓄積するステップと、
前記イメージセンサの撮像領域を、所定のサイズで矩形ブロックに分割し、各矩形ブロックに対して、当該矩形ブロックの垂直および水平方向に所定画素数付加したサイズの領域を処理単位として、各処理単位内の画素信号を順次読み出して画像データに変換するステップと、
前記画像データを順次受け取り、当該前記画像データのうち、前記イメージセンサによる撮像後、１回目に読み出された画素信号に対応する画像データと、２回目以降に読み出された画素信号に対応する画像データとに対して、異なる特性のノイズ低減処理を行うステップと、
前記画像データを順次受け取って記憶するサブステップ、および、それぞれ所定の画像処理を行うサブステップを交互に少なくとも１回実行することで、前記ノイズ低減処理された画像データを順次受け取り、当該画像データの前記矩形ブロックの範囲に少なくとも１つの前記所定の画像処理を順次行って出力するステップとを含む、撮影方法。
【請求項５】
映像の入力インターフェースである撮像周辺部と、
音声の入力インターフェースであるマイクと、
オートフォーカス部と、
前記オートフォーカス部を制御するカメラ信号処理手段と、
画像の符号化および復号化と、音声の符号化および復号化とを行うＡＶ信号処理手段と、
映像および音声を出力する映像／音声インターフェースと、
記録データを入出力するための記録インターフェースとを備えたデジタルカメラシステムであって、
請求項１または２に記載の撮影装置を備えたことを特徴とするデジタルカメラシステム。
【手続補正３】
【補正対象書類名】図面
【補正対象項目名】全図
【補正方法】変更
【補正の内容】
【図１】
2011055483.tif 000016
【図２】
2011055483.tif 000017
【図３】
2011055483.tif 000018
【図４】
2011055483.tif 000019
【図５】
2011055483.tif 000020
【図６】
2011055483.tif 000021
【図７】
2011055483.tif 000022
【図８】
2011055483.tif 000023
【図９】
2011055483.tif 000024
【図１０】
2011055483.tif 000025
【図１１】
2011055483.tif 000026
【図１２】
2011055483.tif 000027
【図１３】
2011055483.tif 000028
【国際調査報告】
2011055483.tif 000029
2011055483.tif 000030
2011055483.tif 000031
2011055483.tif 000032