(57)【特許請求の範囲】
【請求項１】
撮像レンズからの光を２つの光路に分割するハーフミラーと、
前記ハーフミラーで分割された一方の光を受光して被写体の輝度情報を取得する輝度撮像素子と、
前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、
前記輝度信号を明度信号に変換する明度信号変換部と、
前記ハーフミラーで分割された他方の光を短波長成分と長波長成分に分割するダイクロイックミラーと、
前記短波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する短波長成分撮像素子と、
前記長波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する長波長成分撮像素子と、
前記短波長成分撮像素子と前記長波長成分撮像素子が出力する前記色信号から前記被写体の分光情報を推定する被写体分光情報推定部と、
前記分光情報から算出した測色値の明度情報を前記明度信号変換部が変換した明度信号に前記受光セル単位で置換するセル単位明度信号置換部と、
を具備することを特徴とする撮像装置。
【請求項２】
撮像レンズからの光を２つの光路に分割するハーフミラーと、
前記ハーフミラーで分割された一方の光を受光して被写体の輝度情報を取得する輝度撮像素子と、
前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、
前記輝度信号を明度信号に変換する明度信号変換部と、
前記ハーフミラーで分割された他方の光を短波長成分と長波長成分に分割するダイクロイックミラーと、
前記短波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する短波長成分撮像素子と、
前記長波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する長波長成分撮像素子と、
前記短波長成分撮像素子と前記長波長成分撮像素子が出力する前記色信号から前記被写体の分光情報を推定する被写体分光情報推定部と、
前記分光情報から算出した測色値を前記輝度信号により前記受光セル単位でスケーリングするセル単位測色値スケーリング部と、
を具備することを特徴とする撮像装置。
【請求項３】
前記短波長成分撮像素子全体の前記色フィルタの配置は、隣接する複数の前記受光セルからなる単位ブロックの繰り返しパターンとなっており、
前記短波長成分撮像素子の前記色フィルタは、前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内におけるすべての前記色フィルタの分光透過率分布を組み合わせると前記短波長成分の光の波長帯域をカバーする、
ことを特徴とする請求項１または請求項２記載の撮像装置。
【請求項４】
前記長波長成分撮像素子全体の前記色フィルタの配置は、隣接する複数の前記受光セルからなる単位ブロックの繰り返しパターンとなっており、
前記長波長成分撮像素子の前記色フィルタは、前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内におけるすべての前記色フィルタの分光透過率分布を組み合わせると前記長波長成分の光の波長帯域をカバーする、
ことを特徴とする請求項１または請求項２記載の撮像装置。
【請求項５】
撮像レンズからの光を２つの光路に分割するハーフミラーと、
前記ハーフミラーで分割された一方の光を受光して被写体の輝度情報を取得する輝度撮像素子と、
前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、
前記輝度信号を明度信号に変換する明度信号変換部と、
前記ハーフミラーで分割された他方の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する色撮像素子と、
前記色信号から前記被写体の分光情報を推定する被写体分光情報推定部と、
前記分光情報から算出した測色値のうち、明度情報だけを前記明度信号変換部が変換した明度情報に前記受光セル単位で置換するセル単位明度信号置換部と、
を具備することを特徴とする撮像装置。
【請求項６】
撮像レンズからの光を２つの光路に分割するハーフミラーと、
前記ハーフミラーで分割された一方の光を受光して被写体の輝度情報を取得する輝度撮像素子と、
前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、
前記輝度信号を明度信号に変換する明度信号変換部と、
前記ハーフミラーで分割された他方の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する色撮像素子と、
前記色信号から前記被写体の分光情報を推定する被写体分光情報推定部と、
前記分光情報から算出した測色値を前記輝度信号により前記受光セル単位でスケーリングするセル単位測色値スケーリング部と、
を具備することを特徴とする撮像装置。
【請求項７】
前記色撮像素子は、撮像素子の受光セルごとに色フィルタを通して光を受光し、
前記色フィルタは、隣接する複数の受光セルを単位ブロックとして、前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内のすべての色フィルタを組み合わせると撮像レンズから入射した波長帯域をカバーする分光透過率分布を持ち、
前記色撮像素子全体の前記色フィルタの配置は、前記単位ブロックの繰り返しパターンとなっている、
ことを特徴とする請求項５または請求項６記載の撮像装置。
【請求項８】
前記単位ブロックは、縦２セル、横２セルからなり、
前記被写体分光情報推定部は、前記単位ブロックごとに被写体の分光情報を推定する、
ことを特徴とする請求項３、請求項４および請求項７のいずれかに記載の撮像装置。
【請求項９】
前記単位ブロックの縦方向の位置は、前記単位ブロックの１ライン目が画像走査の走査ラインと一致するように決定される、
ことを特徴とする請求項３、請求項４および請求項７のいずれかに記載の撮像装置。
【請求項１０】
前記単位ブロックは、縦ｎセルから構成されており、
前記単位ブロック内の（ｎ−１）ラインに相当する外部出力信号をラインメモリに記憶し、前記単位ブロック内の第２ライン以降の前記外部出力信号を前記ラインメモリから出力する、
ことを特徴とする請求項３、請求項４および請求項７のいずれかに記載の撮像装置。
【請求項１１】
照明の分光情報を記憶した照明分光情報記憶部と、
前記照明分光情報記憶部に保持した前記照明の分光情報を用いて前記被写体の測色値を算出する測色値変換部と、を具備し、
前記セル単位明度信号置換部あるいは前記セル単位測色値スケーリング部は、前記被写体分光情報推定部が推定した被写体の分光情報と、前記測色値変換部から測色値情報を入手する、
ことを特徴とする請求項１、請求項２、請求項５および請求項６のいずれかに記載の撮像装置。
【請求項１２】
前記セル単位明度信号置換部あるいはセル単位測色値スケーリング部は、
前記受光セルごとに算出した測色値を表示デバイスの輝度リニアドライブレベルに変換する原色変換部と、
前記原色変換部の出力から前記表示デバイスのガンマ特性を補正するガンマ補正部と、
前記ガンマ補正部の出力から輝度・色差信号を算出する輝度・色差信号変換部と、
を具備することを特徴とする請求項１、請求項２、請求項５および請求項６のいずれかに記載の撮像装置。
【請求項１３】
前記セル単位明度信号置換部あるいはセル単位測色値スケーリング部は、
前記受光セルごとに算出した測色値を表示デバイスの輝度リニアドライブレベルに変換する原色変換部と、
前記原色変換部の出力から輝度・色差信号を算出する輝度・色差信号変換部と、
を具備することを特徴とする請求項１、請求項２、請求項５および請求項６のいずれかに記載の撮像装置。
【請求項１４】
セル単位明度信号置換部あるいはセル単位測色値スケーリング部は、
前記受光セルごとに算出した測色値を明度成分と色差成分に変換する明度・色差信号変換部、
を具備することを特徴とする請求項１、請求項２、請求項５および請求項６のいずれかに記載の撮像装置。
【請求項１５】
前記輝度・色差信号変換部は、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成し、前記デバイスドライブ信号あるいは前記輝度リニアデバイスドライブ信号の構成要素のうち、前記線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから前記輝度信号を差し引いた差分値を色差信号とし、前記輝度信号と色差信号を出力する、
ことを特徴とする請求項１２または請求項１３に記載の撮像装置。
【請求項１６】
前記明度・色差信号変換部は、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成し、前記デバイスドライブ信号あるいは前記輝度リニアデバイスドライブ信号の構成要素のうち、前記線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから前記輝度信号を差し引いた差分値を色差信号とし、前記輝度信号を指数関数によって明度信号に変換し、前記明度信号と前記色差信号を出力する、
ことを特徴とする請求項１４記載の撮像装置。
【請求項１７】
映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるか、あるいは輝度リニアデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるとき、Ｒバンドの寄与率を０．３０、Ｇバンドの寄与率を０．５９、Ｂバンドの寄与率を０．１１とした線形和で輝度信号を算出する、
ことを特徴とする請求項１５または請求項１６記載の撮像装置。
【請求項１８】
映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるか、あるいは輝度リニアデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるとき、Ｒバンドの寄与率を０．２９９、Ｇバンドの寄与率を０．５８７、Ｂバンドの寄与率を０．１１４とした線形和で輝度信号を算出する、
ことを特徴とする請求項１５または請求項１６記載の撮像装置。
【請求項１９】
映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるか、あるいは輝度リニアデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるとき、Ｒバンドの寄与率を０．２１２６、Ｇバンドの寄与率を０．７１５２、Ｂバンドの寄与率を０．０７２２とした線形和で輝度信号を算出する、
ことを特徴とする請求項１５または請求項１６記載の撮像装置。
【請求項２０】
前記ハーフミラーと前記ダイクロイックミラーは、色分解光学系に含まれており、
前記色分解光学系は、
入射光を２つの光路に分割する前記ハーフミラーを備えた第一の光学プリズムと、
前記第一の光学プリズムで分割された一方の光を短波長成分のみ反射する前記ダイクロイックミラーを備えた第二の光学プリズムと、
前記第二の光学プリズムで透過した長波長成分を透過する第三の光学プリズムと、
前記第一の光学プリズムと前記第二の光学プリズムとの間にエアギャップと、
を具備することを特徴とする請求項１または請求項２記載の撮像装置。
【請求項２１】
前記第三の光学プリズムは、長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタを具備する、
ことを特徴とする請求項２０記載の撮像装置。
【請求項２２】
前記ハーフミラーと前記ダイクロイックミラーは、色分解光学系に含まれており、
前記色分解光学系は、
入射光を２つの光路に分割する前記ハーフミラーを備えた第一の光学プリズムと、
前記第一の光学プリズムで分割された一方の光を長波長成分のみ反射する前記ダイクロイックミラーを備えた第二の光学プリズムと、
前記第二の光学プリズムで透過した短波長成分を透過する第三の光学プリズムと、
前記第一の光学プリズムと前記第二の光学プリズムの間にエアギャップと、
を具備することを特徴とする請求項１または請求項２記載の撮像装置。
【請求項２３】
前記第二の光学プリズムは、反射された長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタを具備する、
ことを特徴とする請求項２２記載の撮像装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は被写体の分光情報を正確に推定できる撮像装置に関する技術である。
【０００２】
【従来の技術】
ディジタル化と集積技術の進歩によって、高精細画像を取得できるビデオカメラ、デジタルカメラ、スチルカメラ、スキャナなどの撮像装置の開発が盛んである。カラーマネジメントの観点から見ると、撮像装置は被写体の測色値、あるいは分光情報を正確に取り込む必要があり、撮像素子の出力信号から被写体の測色値、あるいは分光情報を推定する推定精度の向上が鍵となる。円滑な色情報交換のために、近年のデジタルカメラではｓＲＧＢ信号を標準信号として出力することが主流となっている。
【０００３】
しかし、Ｒ、Ｇ、Ｂの３つの色フィルタを持つ撮像素子の出力信号を線形変換して被写体の測色値を正確に求めるには、色フィルタの分光透過率分布が等色関数の線形結合で表現できる、いわゆるルーター条件を満たす必要がある。ルーター条件が満たせない場合には、撮像素子の出力信号に非線形変換を施す必要がある。これは、正確な測色的推定が困難な場合が多く、ｓＲＧＢ信号への変換誤差が生じやすい。仮に測色的推定が正確に実現できても、条件等色の問題が残り、被写体の分光反射率を正確に推定することが望まれる。
【０００４】
しかし、被写体の分光反射率を４００ｎｍから７００ｎｍの可視域で１０ｎｍおきに離散的に推定する場合、分光反射率ベクトルは３１次元ベクトルとなる。よって、分光反射率ベクトルの次元数（つまり３１）と撮像素子のチャネル（つまり３）の違いから、３バンドカメラでの分光反射率推定が容易でないことが理解できる。
【０００５】
以上のように、Ｒ、Ｇ、Ｂの３つの色フィルタを用いた３バンド撮像装置では、正確な色情報推定が困難であるため、バンド数を増やしたマルチバンド撮像装置が有効な手段となる。
【０００６】
たとえば杉浦らは、「分光画像の入力系システム（カラーフォーラムＪＡＰＡＮ‘９９、Ｐ６５−Ｐ７２）」で、５枚のバンドパスフィルタと１つの撮像素子を用いて時分割方式でマルチバンド画像を撮影するマルチバンドカメラの技術を開示している。このようにバンド数を増やせば、分光推定の精度は向上するが、子の方法は時分割撮影方式のため、撮影回数が増加する問題が発生する。
【０００７】
そこで、近年、バンド数と色推定精度のトレードオフに関連した研究（たとえば、村上ら「正確な色再現が可能なカラー画像システムの開発（カラーフォーラムＪＡＰＡＮ‘９９、Ｐ５−Ｐ８）」など）が盛んに行われ、５バンドから１０バンド程度が適当とする研究報告がなされている。
【０００８】
しかし、時分割方式はバンド数の分だけ撮影時間が長くなり、動く被写体を撮影することが困難になる。そこで、特開平４−３２９３２２号公報には、バンドパスフィルタごとに撮像素子を設け、マルチバンド画像を同時撮影する技術が開示されている。
【０００９】
【発明が解決しようとする課題】
しかしながら上記の従来の同時撮影方式マルチバンド撮像装置においては、以下のような課題を残す。
【００１０】
近年の学会への研究報告では、上述したように、正確な被写体の分光反射率推定には少なくとも５バンド以上は必要であるとしている。そこで、バンドパスフィルタごとに撮像素子を設ける方式では、最低でも５つの撮像素子が必要である。さらに、撮像レンズから入力した光を５つの光路に分ける色分解光学系が必要になり、装置サイズと重量の増大を招く。また、色分解光学系のサイズが大きくなると、撮像レンズから撮像素子までの距離が長くなり、その結果、撮像レンズの口径の増大をも併発し、撮像装置のコストアップを引き起こす。
【００１１】
本発明は、かかる点に鑑みてなされたもので、被写体の分光情報を推定するに必要なバンド数よりも少ない数の撮像素子で、必要なバンド数のマルチバンド画像を同時に撮影することを目的とする。
【００１２】
【課題を解決するための手段】
この目的を達成するために本発明は、撮像レンズから入力した光をハーフミラーで２つの光路に分割し、一方の光から輝度画像を生成し、他方の光を短波長成分と長波長成分に分割し、短波長成分の光および長波長成分の光からそれぞれ被写体の分光情報を推定し、推定した被写体の分光情報から算出した測色値の明度情報を明度信号変換部の変換した明度信号にセル単位で置換するようにした。
【００１３】
これにより、視覚系の解像力の高い輝度成分情報を高精細に保ちつつ、分光推定に必要なバンド数より少ない数の撮像素子で複数バンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能となる。
【００１４】
【発明の実施の形態】
本発明の第１の態様にかかる撮像装置は、撮像レンズからの光を２つの光路に分割するハーフミラーと、前記ハーフミラーで分割された一方の光を受光して前記被写体の輝度情報を取得する輝度撮像素子と、前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、前記輝度信号を明度信号に変換する明度信号変換部と、前記ハーフミラーで分割された他方の光を短波長成分と長波長成分に分割するダイクロイックミラーと、前記短波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する短波長成分撮像素子と、前記長波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する長波長成分撮像素子と、前記短波長成分撮像素子と前記長波長成分撮像素子の出力する前記色信号から被写体の分光情報を推定する被写体分光情報推定部と、前記分光情報から算出した測色値の明度情報を前記明度信号変換部の変換した明度信号に前記受光セル単位で置換するセル単位明度信号置換部と、を具備する構成を採る。
【００１５】
このように、視覚系の解像力の高い明度成分情報を前記輝度撮像素子で高精細に取得し、同時に前記短波長成分撮像素子と前記長波長成分撮像素子から取得された測色値の明度成分のみを前記輝度撮像素子からの明度成分情報で撮像素子の受光セル単位に置換することによって、前記短波長成分撮像素子と前記長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない２つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【００１６】
本発明の第２の態様にかかる撮像装置は、撮像レンズからの光を２つの光路に分割するハーフミラーと、前記ハーフミラーで分割された一方の光を受光して前記被写体の輝度情報を取得する輝度撮像素子と、前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、前記輝度信号を明度信号に変換する明度信号変換部と、前記ハーフミラーで分割された他方の光を短波長成分と長波長成分に分割するダイクロイックミラーと、前記短波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する短波長成分撮像素子と、前記長波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する長波長成分撮像素子と、前記短波長成分撮像素子と前記長波長成分撮像素子の出力する前記色信号から被写体の分光情報を推定する被写体分光情報推定部と、前記分光情報から算出した測色値を前記輝度信号により前記受光セル単位でスケーリングするセル単位測色値スケーリング部と、を具備する構成を採る。
【００１７】
このように、視覚系の解像力の高い輝度成分情報を前記輝度撮像素子で高精細に取得し、同時に前記短波長成分撮像素子と前記長波長成分撮像素子から取得された測色値を前記輝度撮像素子からの輝度成分情報で撮像素子の受光セル単位にスケーリングすることによって、前記短波長成分撮像素子と前記長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない２つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【００１８】
本発明の第３の態様は、第１の態様または第２に態様にかかる撮像装置において、前記短波長成分撮像素子全体の前記色フィルタの配置は隣接する複数の前記セルからなる単位ブロックの繰り返しパターンとなっていて、前記短波長成分撮像素子の前記色フィルタは前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内におけるすべての前記色フィルタの分光透過率分布を組み合わせると前記短波長成分の光の波長帯域をカバーする。
【００１９】
このように、ダイクロイックミラーが分割した短波長成分の光を無駄なく受光し、視覚系の解像力の低い色成分情報を単位ブロックごとで取得することにより、１つに撮像素子で複数のマルチバンド画像を撮影できる作用を有する。
【００２０】
本発明の第４の態様は、第１の態様または第２の態様にかかる撮像装置において、前記長波長成分撮像素子全体の前記色フィルタの配置は隣接する複数の前記セルからなる単位ブロックの繰り返しパターンとなっていて、前記長波長成分撮像素子の前記色フィルタは前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内におけるすべての前記色フィルタの分光透過率分布を組み合わせると前記長波長成分の光の波長帯域をカバーする。
【００２１】
このように、ダイクロイックミラーが分割した長波長成分の光を無駄なく受光し、視覚系の解像力の低い色成分情報を単位ブロックごとで取得することにより、１つに撮像素子で複数のマルチバンド画像を撮影できる作用を有する。
【００２２】
本発明の第５の態様にかかる撮像装置は、撮像レンズからの光を２つの光路に分割するハーフミラーと、前記ハーフミラーで分割された一方の光を受光して前記被写体の輝度情報を取得する輝度撮像素子と、前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、前記輝度信号を明度信号に変換する明度信号変換部と、前記ハーフミラーで分割された他方の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する色撮像素子と、前記色信号から被写体の分光情報を推定する被写体分光情報推定部と、前記分光情報から算出した測色値のうち、明度情報だけを前記明度信号変換部の変換した明度情報に前記受光セル単位で置換するセル単位明度信号置換部と、を具備する構成を採る。
【００２３】
このように、視覚系の解像力の高い明度成分情報を前記輝度撮像素子で高精細に取得し、同時に前記短波長成分撮像素子と前記長波長成分撮像素子から取得された測色値の明度成分のみを前記輝度撮像素子からの明度成分情報で撮像素子の受光セル単位に置換することによって、前記短波長成分撮像素子と前記長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない１つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【００２４】
本発明の第６の態様にかかる撮像装置は、撮像レンズからの光を２つの光路に分割するハーフミラーと、前記ハーフミラーで分割された一方の光を受光して前記被写体の輝度情報を取得する輝度撮像素子と、前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、前記輝度信号を明度信号に変換する明度信号変換部と、前記ハーフミラーで分割された他方の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する色撮像素子と、前記色信号から被写体の分光情報を推定する被写体分光情報推定部と、前記分光情報から算出した測色値を前記輝度信号により前記受光セル単位でスケーリングするセル単位測色値スケーリング部と、を具備する構成を採る。
【００２５】
このように、視覚系の解像力の高い輝度成分情報を前記輝度撮像素子で高精細に取得し、同時に前記短波長成分撮像素子と前記長波長成分撮像素子から取得された測色値を前記輝度撮像素子からの輝度成分情報で撮像素子の受光セル単位にスケーリングすることによって、前記短波長成分撮像素子と前記長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない１つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【００２６】
本発明の第７の態様は、第５の態様または第６の態様にかかる撮像装置において、前記色撮像素子は、撮像素子の受光セルごとに色フィルタを通して光を受光し、前記色フィルタは隣接する複数の受光セルを単位ブロックとして、前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内のすべての色フィルタを組み合わせると撮像レンズから入射した波長帯域をカバーする分光透過率分布を持ち、色撮像素子全体の色フィルタの配置は、前記単位ブロックの繰り返しパターンとなっている。
【００２７】
このように、ハーフミラーが分割した光を無駄なく受光し、視覚系の解像力の低い色成分情報を単位ブロック単位で取得することにより、１つに撮像素子で複数のマルチバンド画像を撮影できる。
【００２８】
本発明の第８の態様は、第１の態様から第７の態様のいずれかにかかる撮像装置において、前記単位ブロックは、縦２セル、横２セルからなり、前記被写体分光情報推定部は、前記単位ブロックごとに被写体の分光情報を推定する。
【００２９】
これにより、１つの撮像素子で単位ブロックごとに４つのマルチバンド画像が同時に撮影できる作用を有する。
【００３０】
本発明の第９の態様は、第１の態様から第７の態様のいずれかにかかる撮像装置において、前記単位ブロックの縦方向の位置は、前記単位ブロックの１ライン目が画像走査の走査ラインと一致するように決定される。
【００３１】
これにより、撮像装置の出力信号をラインメモリへ一時的に保持することなくストリーム形式で出力でき、かつ被写体の分光情報を走査ラインごとに緻密の推定できる作用を有する。
【００３２】
本発明の第１０の態様は、第１の態様から第７の態様のいずれかにかかる撮像装置において、前記単位ブロックは縦ｎセルから構成されており、前記単位ブロック内の（ｎ−１）ラインに相当する外部出力信号をラインメモリに記憶し、前記単位ブロック内の第２ライン以降の前記外部出力信号を前記ラインメモリから出力する。
【００３３】
これにより、受光セル単位でｎライン分同時に生成されるマルチバンド画像のうち、第１ラインはラインメモリを介さず出力し、第２ライン以降の（ｎ−１）ラインは画像走査の同期に合わせてラインメモリから出力して、様々な走査方式に対応できる作用を有する。
【００３４】
本発明の第１１の態様は、第１の態様、第２の態様、第５の態様または第６の態様のいずれかにかかる撮像装置において、照明の分光情報を記憶した照明分光情報記憶部と、前記照明分光情報記憶部に保持した前記照明の分光情報を用いて被写体の測色値を算出する測色値変換部と、を具備し、前記セル単位明度信号置換部あるいは前記セル単位測色値スケーリング部は、前記被写体分光情報推定部が推定した被写体の分光情報と、前記測色値変換部から測色値情報を入手する。
【００３５】
これにより、撮像素子の受光セル単位で置換される明度を持つ測色値、あるいはスケーリングされる測色値を被写体の分光情報と照明の分光情報から算出できる作用を有する。
【００３６】
本発明の第１２の態様は、第１の態様、第２の態様、第５の態様または第６の態様のいずれかにかかる撮像装置において、前記セル単位明度信号置換部あるいはセル単位測色値スケーリング部が前記受光セルごとに算出した測色値を表示デバイスの輝度リニアドライブレベルに変換する原色変換部と、前記原色変換部の出力から前記表示デバイスのガンマ特性を補正するガンマ補正部と、前記ガンマ補正部の出力から輝度・色差信号を算出する輝度・色差信号変換部と、を具備した構成を採る。
【００３７】
これにより、撮像素子の受光セル単位で明度が置換された測色値、あるいはスケーリングされた測色値を表示デバイスのガンマ補正処理を含んだ輝度・色差信号に変換できる作用を有する。
【００３８】
本発明の第１３の態様は、第１の態様、第２の態様、第５の態様または第６の態様のいずれかにかかる撮像装置において、前記セル単位明度信号置換部あるいはセル単位測色値スケーリング部が前記受光セルごとに算出した測色値を表示デバイスの輝度リニアドライブレベルに変換する原色変換部と、前記原色変換部の出力から輝度・色差信号を算出する輝度・色差信号変換部と、を具備した構成を採る。
【００３９】
これにより、撮像素子の受光セル単位で明度が置換された測色値、あるいはスケーリングされた測色値を、輝度・色差信号に輝度線形性を保ったまま変換できる作用を有する。
【００４０】
本発明の第１４の態様は、第１の態様、第２の態様、第５の態様または第６の態様のいずれかにかかる撮像装置において、セル単位明度信号置換部あるいはセル単位測色値スケーリング部が前記受光セルごとに算出した測色値を明度成分と色差成分に変換する明度・色差信号変換部を具備した構成を採る。
【００４１】
これにより、撮像素子の受光セル単位で明度が置換された測色値、あるいはスケーリングされた測色値を明度・色差信号に明度線形性を保ったまま変換できる作用を有する。
【００４２】
本発明の第１５の態様は、第１２の態様または第１３の態様にかかる撮像装置において、前記輝度・色差信号変換部は、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成し、前記デバイスドライブ信号あるいは前記輝度リニアデバイスドライブ信号の構成要素のうち、前記線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから前記輝度信号を差し引いた差分値を色差信号とし、前記輝度信号と色差信号を出力する。
【００４３】
これにより、表示デバイスに特別な処理部を設けることになくデバイスドライブ信号と発光色の輝度の線形性を確保し、かつデバイスドライブ信号よりも帯域の小さい輝度・色差信号での信号伝送を可能にする作用を有する。
【００４４】
本発明の第１６の態様は、第１４の態様にかかる撮像装置において、前記明度・色差信号変換部は、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成し、前記デバイスドライブ信号あるいは前記輝度リニアデバイスドライブ信号の構成要素のうち、前記線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから前記輝度信号を差し引いた差分値を色差信号とし、前記輝度信号を指数関数によって明度信号に変換し、前記明度信号と前記色差信号を出力する。
【００４５】
これにより、映像表示デバイスに特別な処理部を設けることになくデバイスドライブ信号と発光色の明度の線形性を確保し、かつデバイスドライブ信号よりも帯域の小さい明度・色差信号での信号伝送を可能にする作用を有する。
【００４６】
本発明の第１７の態様は、第１５の態様または第１６の態様にかかる撮像装置において、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるか、あるいは輝度リニアデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるとき、Ｒバンドの寄与率を０．３０、Ｇバンドの寄与率を０．５９、Ｂバンドの寄与率を０．１１とした線形和で輝度信号を算出する。
【００４７】
これにより、ＥＩＡ−ＲＳ  １７０Ａ方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする作用を有する。
【００４８】
本発明の第１８の態様は、第１５の態様または第１６の態様にかかる撮像装置において、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるか、あるいは輝度リニアデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるとき、Ｒバンドの寄与率を０．２９９、Ｇバンドの寄与率を０．５８７、Ｂバンドの寄与率を０．１１４とした線形和で輝度信号を算出する。
【００４９】
これにより、ＳＭＰＴＥ  １７０Ｍ方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする作用を有する。
【００５０】
本発明の第１９の態様は、第１５の態様または第１６の態様にかかる撮像装置において、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるか、あるいは輝度リニアデバイスドライブ信号がＲ、Ｇ、Ｂの３バンドからなるとき、Ｒバンドの寄与率を０．２１２６、Ｇバンドの寄与率を０．７１５２、Ｂバンドの寄与率を０．０７２２とした線形和で輝度信号を算出する。
【００５１】
これにより、ＩＴＵ−Ｒ  Ｒｅｃ．ＢＴ．７０９−３方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする作用を有する。
【００５２】
本発明の第２０の態様にかかる色分解光学系は、入射光を２つの光路に分割するハーフミラーを備えた第一の光学プリズムと、前記第一の光学プリズムで分割された一方の光を短波長成分のみ反射するダイクロイックミラーを備えた第二の光学プリズムと、前記第二の光学プリズムで透過した長波長成分を透過する第三の光学プリズムと、前記第一の光学プリズムと前記第二の光学プリズムとの間にエアギャップと、を具備する構成を採る。
【００５３】
この構成により、被写体からの光を輝度成分と短波長、長波長の２つの色成分に分割する色分解光学系を３つの光学プリズムの容積分だけに小型化できる作用を有する。
【００５４】
本発明の第２１の態様は、第２０の態様にかかる色分解光学系において、前記第三の光学プリズムは、長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタを具備する構成を採る。
【００５５】
この構成により、赤外光に感度を持つ撮像素子からのノイズを簡単な構成で抑制できる作用を有する。
【００５６】
本発明の第２２の態様にかかる色分解光学系は、入射光を２つの光路に分割するハーフミラーを備えた第一の光学プリズムと、前記第一の光学プリズムで分割された一方の光を長波長成分のみ反射するダイクロイックミラーを備えた第二の光学プリズムと、前記第二の光学プリズムで透過した短波長成分を透過する第三の光学プリズムと、前記第一の光学プリズムと前記第二の光学プリズムの間にエアギャップと、を具備する構成を採る。
【００５７】
この構成により、被写体からの光を輝度成分と色成分に分割する色分解光学系を２つの光学プリズムの容積分だけに小型化できる作用を有する。
【００５８】
本発明の第２３の態様は、第２２の態様にかかる色分解光学系において、前記第二の光学プリズムは、反射された長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタを具備する構成を採る。
【００５９】
この構成により、赤外光に感度を持つ撮像素子からのノイズを簡単な構成で抑制できる作用を有する。
【００６０】
（実施の形態１）
以下、本発明の実施の形態１にかかる撮像装置であるマルチバンドビデオカメラについて説明する。まず、実施の形態１における３つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステムについて図１を用いて説明する。図１は、本発明の実施の形態１における３つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成図である。
【００６１】
被写体からの光は、撮像レンズ１０１を通して色分解光学系１０２に入る。そして、色分解光学系１０２が、入射された光を第一の光路、第二の光路、および第三の光路の、３光路に分割する。
【００６２】
第一の光路には、分光特性として撮像レンズ１０１を通過した光と同一の光が供給される。第一の光路上には、輝度撮像素子１０３が配置されていて、第一の光路の光は輝度撮像素子１０３に入射される。輝度撮像素子１０３は、受光セルごとに入射された光に対応する信号を明度信号変換部１０５に出力する。輝度撮像素子１０３の受光セルごとに出力される信号値は、輝度信号生成部１０４で輝度信号として調整されて、明度信号変換部１０５に出力される。そして、明度信号変換部１０５は、入力された輝度信号を、指数関数を用いて明度信号に変換し、出力する。
【００６３】
第二の光路には、分光特性として撮像レンズ１０１を通過した光の短波長成分が供給される。そして、第二の光路上には、短波長成分撮像素子１０６が配置されていて、第二の光路の光は短波長成分撮像素子１０６に入射される。第三の光路には、分光特性として撮像レンズ１０１を通過した光の長波長成分が供給される。そして、第三の光路上には長波長成分撮像素子１０７が配置されていて、第三の光路の光は長波長成分撮像素子１０７に入射される。ただし、第二の光路の光と第三の光路の光は、色分解光学系１０２で撮像レンズ１０１を通過した光をもとに分光的に分割したもので、これら２つの光の、波長帯域の和は、撮像レンズ１０１を通過した光の波長帯域に一致する。
【００６４】
短波長成分撮像素子１０６は、受光セルに密接した分光透過率分布の互いに異なる複数の色フィルタを介して光を受光する。そして、短波長成分撮像素子１０６は、受光セルごとに入射された光に対応する色信号を短波長成分色信号処理部１０８に出力する。短波長成分色信号処理部１０８は、入力された色信号値から色フィルタの種類の数だけのマルチバンド画像を同時に生成する。同様に長波長成分撮像素子１０７は受光セルに密接した分光透過率分布の互いに異なる複数に色フィルタを介して光を受光し、長波長成分色信号処理部１０９で色フィルタの種類の数だけのマルチバンド画像を同時に生成する。
【００６５】
短波長成分色信号処理部１０８と長波長成分色信号処理部１０９で生成されたマルチバンド画像はともに被写体分光情報推定部１１０へ供給され、被写体の分光情報が推定される。被写体の分光情報とは、被写体が自発光体である場合は、発光スペクトルの推定であり、被写体が照明の光を反射する反射物体である場合は分光反射率となる。また、被写体分光情報推定部１１０による推定結果の分光情報は、分光情報出力端子１１１を介してカメラ外部へ出力できる。被写体分光情報推定部１１０が推定した被写体の分光情報は、測色値変換部１１２に与えられる。
【００６６】
測色値変換部１１２は、入力された分光情報を、ＣＩＥＸＹＺ三刺激値を経てたとえばＣＩＥＬＡＢ値のような明度成分（つまりＬ*）と色味成分（つまりａ*、ｂ*）に分離された測色値に変換する。ただし、測色値の算出に必要な照明の分光情報は予め、照明分光情報記憶部１１３に格納されていて、照明分光情報記憶部１１３から測色値変換部１１２へ与えられる。測色値変換部１１２で算出された測色値は、セル単位明度信号置換部１１４へ入力される。
【００６７】
セル単位明度信号置換部１１４は、測色値変換部１１２から出力された測色値のうち、明度成分のみ、明度信号変換部１０５において受光セル単位で生成された明度信号と置き換える。
【００６８】
また、撮像した被写体の色情報を測色値として取り出したい場合は、測色値出力端子１１５を介してカメラ外部へ出力できる。セル単位明度信号置換部１１４から出力された受光セル単位の測色値は、原色変換部１１６で映像表示デバイスが持つ原色系の信号へ変換される。また、原色変換部１１６の出力である輝度リニアデバイスドライブ信号はガンマ補正部１１７において、映像表示デバイスのガンマ特性を相殺するような逆ガンマ特性を施し、デバイスドライブ信号としてデバイスドライブ信号用ラインメモリ１１８と輝度・色差信号変換部１１９へ供給される。輝度・色差信号変換部１１９はデバイスドライブ信号を輝度信号と色差信号に変換して輝度・色差信号用ラインメモリ１２０に出力される。
【００６９】
デバイスドライブ信号用ラインメモリ１１８と輝度・色差信号用ラインメモリ１２０の２種類のラインメモリは、走査方式の違いに対応するために設けられており、短波長成分撮像素子１０６と、長波長成分撮像素子１０７の持つ色フィルタの配列に応じて動作が決まる。そこで、撮像素子の持つ色フィルタの説明の後、詳細に説明を行う。さらに、デバイスドライブ信号用送信機１２１と輝度・色差信号用送信機１２２は様々な通信プロトコルに対応するために設けられていて、マルチバンドビデオカメラの撮影映像信号をディスプレイ等の受信デバイスへ定められたプロトコルに則って出力する。
【００７０】
次に、色分解光学系１０２、輝度撮像素子１０３、短波長成分撮像素子１０６、長波長成分撮像素子１０７、被写体分光情報推定部１１０、測色値変換部１１２、セル単位明度信号置換部１１４、原色変換部１１６、ガンマ補正部１１７、輝度・色差信号変換部１１９、デバイスドライブ信号用ラインメモリ１１８、輝度・色差信号信号用ラインメモリ１２０について順を追って詳細に説明する。
【００７１】
第一に、色分解光学系１０２について、図２を用いて詳細に説明する。図２は、実施の形態１にかかる色分解光学系の内部構造を説明する図である。
【００７２】
色分解光学系１０２は、被写体からの光を３つの光学プリズムを用いて、輝度成分、短波長成分、超波長成分の３つの成分に分解する。
【００７３】
色分解光学系１０２は、三角プリズムである第１光学プリズム２０２と、三角プリズムである第２光学プリズム２０９と、台形プリズムである第３光学プリズム２１６とから構成される。
【００７４】
第１光学プリズム２０２は、撮像レンズ１０１からの入射光２０１に垂直に配置され、入射光２０１が入射される入射面である第１面２０６と、第１面２０６の長波長成分撮像素子１０７側と接続され面の法線が輝度撮像素子１０３側に所定の角度傾いた入射光２０１の半透過面（第２面）であるハーフミラー２０３と、第１面２０６の輝度撮像素子１０３側と接続され、面法線が輝度撮像素子１０３の方向に垂直な透過面である第３面２０７と、から構成される。
【００７５】
ハーフミラー２０３は、入射光２０１を、反射光である第１反射光２０４と、透過光である第１透過光２０５の、２つの光に分割する。また、ハーフミラー２０３には波長選択性はなく、分割された２つの光、第１反射光２０４と第１透過光２０５は同じ分光分布を持つ。
【００７６】
第１反射光２０４は、ハーフミラー２０３の法線が輝度撮像素子１０３側に傾いているため、入射光２０１に対して輝度撮像素子１０３側に傾いて進む。そして、第１反射光２０４は、第１光学プリズム２０２の第１面２０６に臨界角以上で入射し、すべての第１反射光２０４が第１面２０６で反射されて、第３面２０７の方向に進む。そして、第１反射光２０４は、第３面２０７を透過し輝度撮像素子１０３へ入射する。
【００７７】
一方、第１透過光２０５は、第１光学プリズム２０２と、エアギャップ２０８を介して配置された第２光学プリズム２０９へ入射される。
【００７８】
第２光学プリズム２０９は、第１透過光２０５の入射される透過面であり、エアギャップ２０８を介して第１光学プリズム２０２のハーフミラー２０３と平行に配置された第１面２１３と、第１面２１３の輝度撮像素子１０３側と接続され面の法線が長波長成分撮像素子１０７側に所定の角度傾いた第１透過光２０５の半透過面（第２面）である長波長成分反射ダイクロイックミラー２１０と、第１面２１３の長波長成分撮像素子１０７側と接続され、面法線が長波長成分撮像素子１０７側に垂直な透過面である第３面２１４と、から構成される。
【００７９】
長波長成分反射ダイクロイックミラー２１０は、第１透過光２０５を、光を短波長成分と長波長成分の２つの光に分割し、長波長成分の光である第２反射光２１１を反射し、短波長成分の光である第２透過光２１２を透過する。
【００８０】
第２反射光２１１は、第２光学プリズム２０９の第１面２１３に臨界角以上で入射する。第１面２１３と第１光学プリズム２０２との間にはエアギャップ２０８があるので、第２反射光２１１のすべての光が第１面２１３で反射されて、第３面２１４を介して長波長成分撮像素子１０７へ入射する。また、第２面２１４には、赤外吸収フィルタ２１５が蒸着されており、赤外域に感度を持つ撮像素子のノイズを抑制する。
【００８１】
また、第２透過光２１２は、第３光学プリズム２１６に入射される。第３光学プリズム２１６は、第２光学プリズム２０９の長波長成分反射ダイクロイックミラー２１０と接触した透過面である第１面２１７と、第１面２１７と所定間隔あけて、短波長成分撮像素子１０６と水平に配置された第２面２１８と、第２面２１８と垂直にかつ第１面２１７と接触する第３面２１９および第４面２２０と、から構成されている。
【００８２】
長波長成分反射ダイクロイックミラー２１０の反射と透過の境界の波長、いわゆるカットオフ波長は、光の損失を最小限にするために、長波長成分撮像素子１０７の受光セルが持つ色フィルタの透過域のみを反射するように設定する。以上の構成により、被写体からの光を３つの光学プリズムを用いて、輝度成分と短波長、長波長の２つの色成分に分解でき、３つの光学プリズムの容積分だけに小型化できる。
【００８３】
第２透過光２１２は、第３光学プリズム２１６の第１面から入射し、第３光学プリズム２１６により結像し、第２面２１７を透過して短波長成分撮像素子１０６へ入射する。
【００８４】
なお、ハーフミラー２０３で２つに分割される第１反射光２０４と第１透過光２０５の光量の割合は、３つの撮像素子、輝度撮像素子１０３、短波長成分撮像素子１０６、長波長成分撮像素子１０７の感度特性に応じて最適化することが望ましい。また、長波長成分反射ダイクロイックミラー２１０は長波長成分透過ダイクロイックミラーであっても構わない。ただし、この場合、短波長成分撮像素子１０６と長波長成分撮像素子１０７の位置が入れ替わり、同時に赤外吸収フィルタも第３光学プリズムに設置される。
【００８５】
第二に、輝度撮像素子１０３、短波長成分撮像素子１０６、長波長成分撮像素子１０７について、図３を用いて詳細に説明する。図３は、実施の形態１にかかる、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の受光セルと色フィルタの構造を説明する概念図である。
【００８６】
図３（ａ）は、撮像素子を側面から見た模式的構造図であり、輝度撮像素子１０３、短波長成分撮像素子１０６、長波長成分撮像素子１０７に共通する図である。基板３０１の上に、複数の受光セル３０２が並んで配置されている。複数の受光セル３０２上には、それぞれ分光透過率分布の互いに異なる複数の色フィルタ３０３が密接して配置されている。
【００８７】
短波長成分撮像素子１０６、長波長成分撮像素子１０７は、色フィルタ３０３を通して、受光セル３０２で光を受ける。ただし、輝度撮像素子１０３は、色フィルタ３０２を持たず、波長選択性なしに受光する。
【００８８】
図３（ｂ）は、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の色フィルタの配列を示す概念図である。
【００８９】
輝度撮像素子１０３は、色フィルタを持たないため、仮にＬと示した。短波長成分撮像素子１０６はｆ1からｆ4で示される４種類の色フィルタを縦２セル、横２セルのブロック単位で具備する。同様に、長波長成分撮像素子１０７はｆ5からｆ8で示される４種類の色フィルタを縦２セル、横２セルのブロック単位で具備する。
【００９０】
短波長成分撮像素子１０６と長波長成分撮像素子１０７を合わせた８種類の色フィルタｆ1からｆ8は互いに異なる分光透過率分布を持ち、たとえば図４に示すように８つで可視域（図４では３８０ｎｍから７８０ｎｍ）をカバーする関係を持つ。つまり可視域全体の光を８つの色フィルタで分担して受光する。
【００９１】
このように可視域全体の光を８つの色フィルタで分担して受光することにより、従来の３バンド系カメラに比べて各バンドが狭帯域であり、かつバンド数が多くなる。このため、被写体の分光推定を行うに際し、８バンドカメラは３バンドカメラより自由度が高く、構造的に分光推定精度向上の可能性を持つ。
【００９２】
被写体分光情報推定部１１０は、色フィルタｆ1からｆ8の８つの信号をもとに被写体の分光情報を推定する。従って、被写体分光情報推定部１１０は、分光情報を縦２セル、横２セルのブロック単位で推定し、算出する。
【００９３】
図３（ｃ）は、実施の形態１にかかる輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の画素単位で見た色信号の配列と輝度変換部の動作と被写体分光情報推定部の動作を説明する概念図である。
【００９４】
輝度信号生成部１０４は、受光セルごとに輝度信号Ｙij（ｉ＝１，２，…，ｍ，ｊ＝１，２，…，ｎ）を生成する。一方、被写体分光情報推定部１１０は、縦２セル、横２セルのブロック単位ごとに分光情報信号Ｒkl（（ｋ＝１，２，…，ｍ／２，ｌ＝１，２，…，ｎ／２）を生成する。よって、色成分である分光情報信号は、輝度信号に対し、縦１／２、横１／２の解像度となる。
【００９５】
ところで、坂田らの「視覚系における色度の空間周波数特性（色差弁別閾）、テレビジョン第３１巻第１号（１９９７年）」によると、視覚系は輝度変調に対して感度が高く、逆に色味変調に対して感度が低い。反対色対の空間的正弦波（輝度一定）を用いた弁別能は０．３ｃｙｃｌｅｓ／ｄｅｇに感度ピークを持つ。一方、無彩色成分のみで作成した空間的正弦波（色度一定）を用いた弁別能は３ｃｙｃｌｅｓ／ｄｅｇでピークを持つ。
【００９６】
以上の結果に基づくと、カメラで取り込む被写体の色情報は、視覚系の空間的解像能から見ると、輝度成分を高精細に取り込むことが重要になる。言い換えると、視覚系に対して同じ空間的解像性をカメラ取り込み画像に持たせるには、色味成分は輝度成分の半分未満のサンプリング間隔で構わないことになる。
【００９７】
本発明は、上記のような視覚系が持つ輝度成分と色味成分への空間的弁別能の違いに着目し、積極的に利用したものである。つまり、色味成分のサンプリング間隔を広くすることで、マルチバンド画像を同時に撮影でき、かつ分光推定精度を落とさない効果を有するようにしている。
【００９８】
なお、図３では、縦２セル、横２セルを単位ブロックとしたが、単位ブロックを形成する受光セル数は任意であり、本発明はこれらを限定しない。受光セル数の増加は、分光推定精度の向上につながるが、反面、解像度の低下を導く。このため、単位ブロックを構成する受光セル数は、分光推定精度と空間解像度のバランスで決まり、各システムの色再現目標に応じて最適化されるべきである。
【００９９】
また、図４に示した８つの色フィルタの分光透過率は互いに同じ形状を持ち、ピーク波長が等間隔で異なるが、本発明が言及するのは短波長成分撮像素子１０６と長波長成分撮像素子１０７の色フィルタすべての組み合わせで可視域（たとえば３８０ｎｍから７８０ｎｍ）全体をカバーするところにあり、分光的形状やピーク波長に関して制限を与えるものではない。ただし、信号処理の複雑化を避けるために、短波長成分撮像素子１０６と長波長成分撮像素子１０７の色フィルタの配列は同一であることが望ましい。
【０１００】
第三に、被写体分光情報推定部１１０について詳細に説明する。ここでは、被写体の分光情報として分光反射率を取り上げて説明する。マルチバンド信号から被写体の分光反射率を推定する方法は様々提案されている。本発明は、分光推定方法を制限するものではないため、任意の方法を適応可能である。そこで、ここではウィナー推定による方法を説明する。短波長成分色信号処理部１０８からの出力を列ベクトルＶshort＝［ｖ1，ｖ2，ｖ3，ｖ4］t、長波長成分色信号処理部１０９からの出力を列ベクトルＶlong＝［ｖ5，ｖ6，ｖ7，ｖ8］t、カメラ特性を行列Ｓ、被写体の分光反射率を列ベクトルＲ＝［ｒ1，ｒ2，…，ｒq］tとするとこれらは以下の関係を持つ。
【０１０１】
【数１】
0003826174.tif 000002
ただしセンサー応答を表わす列ベクトルＶは
【０１０２】
【数２】
0003826174.tif 000003
で与えられる。またカメラ特性を表わす行列Ｓは
【０１０３】
【数３】
0003826174.tif 000004
で与えられる。ここで、行列Ｆは受光セルに配置された色フィルタの分光透過率を表わし、８つの色フィルタを用いるとして８行ｑ列からなる。たとえば３８０ｎｍから７８０ｎｍを１０ｎｍおきに取った場合、ｑ＝４１となる。また、行列Ｅは照明の分光分布を表わす対角行列であり、対角成分にｑ個の成分が並ぶ。
【０１０４】
さて、式（１）において、センサー応答Ｖの次元（ここでは８）と波長の次元ｑが同一であれば、カメラ特性行列Ｓは正則であり、逆行列Ｓ-1によって
【０１０５】
【数４】
0003826174.tif 000005
から被写体の分光反射率が求まる。
【０１０６】
しかし、本実施の形態のように、８種類の色フィルタを用いて３８０ｎｍから７８０ｎｍの帯域を１０ｎｍおきに量子化するとｑ＝４１となり、行列Ｓは正則とならない。このような場合はウィナー推定法が用いられる。今、被写体の真の分光反射率を行列Ｒreal、推定された分光反射率を行列Ｒest、行列Ｓに対応する擬似逆行列をＧとすると、式（１）は
【０１０７】
【数５】
0003826174.tif 000006
と表わされ、式（４）は
【０１０８】
【数６】
0003826174.tif 000007
と表わされる。従って以下で与えられる行列Ｒrealと行列Ｒestの最小自乗誤差εを最小化する推定行列Ｇを求めれば良い。
【０１０９】
【数７】
0003826174.tif 000008
ここでｔは転置、＜＞はアンサンブル平均を表わす。εを最小にする推定行列はウィナー推定から次式で与えられる。
【０１１０】
【数８】
0003826174.tif 000009
ここで、行列ρは相関行列を表わす。行列Ｒsamplesと行列Ｖsamplesは相関行列ρを算出するためのサンプルデータで、行列Ｒsamplesはサンプルの分光反射率行列、ＶsamplesはＲsamplesに対する信号値を表わし、短波長成分色信号処理部１０８と長波長成分色信号処理部１０９の出力信号に対応する。
【０１１１】
第四に、測色値変換部１１２とセル単位明度信号置換部１１４について、図５を用いて詳細に説明する。図５は、実施の形態１にかかる、測色変換部、照明分光情報記憶部、明度信号変換部、セル単位明度置換部の動作を説明する図である。
【０１１２】
図５に示すように、測色値変換部１１２は、被写体分光情報推定部１１０が縦２セル、横２セルのブロック単位で推定した被写体の分光情報と照明分光情報記憶部１１３から供給される照明の分光情報から次式に用いてブロック単位でＣＩＥＸＹＺ三刺激値を算出する。
【０１１３】
【数９】
0003826174.tif 000010
ここで、ｒhは波長ｈ番目の被写体の分光反射率を表わす。測色値変換部１１２は、ＣＩＥＸＹＺ三刺激値をさらに輝度成分と色味成分に分離された測色値、たとえば、式（１０）を用いてＣＩＥＬＡＢ値などに変換する。
【０１１４】
【数１０】
0003826174.tif 000011
ここで、Ｘn、Ｙn、Ｚnは基準白色のＣＩＥＸＹＺ三刺激値を表わす。ただし、輝度成分は式（１０）にあるような視覚系の明るさ間隔に対して比例的な関係を持つ明度信号に変換する。一般に、式（９）で与えられる輝度値は視覚系の明るさ間隔に対して線形関係が成り立たず、式（１０）に示すような１／３乗程度の指数関数で輝度値を変換すると視覚系の明るさ間隔と線形関係が成立すると言われている。
【０１１５】
一方、明度信号変換部１０５は輝度信号生成部１０４で受光セル単位に算出された輝度信号Ｙを式（１０）を用いて明度信号Ｌ*に変換する。測色値変換部１１２が縦２セル、横２セルのブロック単位で測色値を算出するのに対し、明度信号変換部１０５はセル単位で明度信号Ｌ*を算出する。
【０１１６】
そこで、セル単位明度信号置換部１１４は、測色値変換部１１２から出力される測色値のうち、明度成分Ｌ*のみ、明度信号変換部１０５からの出力に置き換える。
【０１１７】
前述したように、視覚系は輝度変調に対する解像力が高いため、縦２セル、横２セルのブロック単位で算出されたＣＩＥＬＡＢ値の明度成分Ｌ*のみを色成分ａ*とｂ*に対して縦方向、横方向それぞれで２倍の解像度に変換する。
【０１１８】
ところで、照明分光情報記憶部１１３に格納する照明の分光分布を、被写体が撮影された環境の照明と別の分光分布に入れ替えれば、照明変換が容易に行える。
【０１１９】
たとえば、再現画像はプリンタで紙に印刷されるとして、被写体は色温度４０００Ｋ程度のタングステンランプで照明されていて、再現画像は６５００Ｋ程度の昼光ランプで観察する場合を考える。被写体の撮影の視環境下（つまり４０００Ｋタングステンランプ）で定義されるＣＩＥＸＹＺ三刺激値で出力したい場合は、式（９）のｅhに４０００Ｋタングステンランプの分光分布を代入すればいい。プリントを観察する視環境下（つまり６５００Ｋ昼光ランプ）で定義されるＣＩＥＸＹＺ三刺激値で出力したい場合は、式（９）のｅhに６５００Ｋ昼光ランプの分光分布を代入すればいい。上記のような照明変換は、マルチバンドカメラ特有の機能であり、マルチバンドカメラは被写体の分光反射率を算出できるためである。測色値情報をＣＩＥＸＹＺ三刺激値ベースで持ち、分光情報を持たない３バンドカメラと大きく差別化される特徴である。
【０１２０】
このように、測色値変換部１１２が照明分光情報記憶部１１３に保持した照明の分光情報を用いて被写体の測色値を算出することで、測色値を被写体の分光情報と照明の分光情報から算出できる。
【０１２１】
第五に、原色変換部１１６について詳細に説明する。原色変換部１１６は測色値を映像表示デバイスに依存した信号に変換する。測色値とデバイス依存信号の関係は、ディスプレイの原色点の測色値で決まる。たとえばＩＴＵ−Ｒ  Ｒｅｃ．ＢＴ．７０９−３では測色パラメータとして３原色の色度値を定めている。すなわち、Ｒ原色は（ｘ，ｙ）＝（０．６４，０．３３）、Ｇ原色は（ｘ，ｙ）＝（０．３０，０．６０）、Ｂ原色は（ｘ，ｙ）＝（０．１５，０．０６）であり、表示色の輝度値と比例関係にある輝度リニアデバイスドライブ信号Ｒ、Ｇ、ＢとＣＩＥＸＹＺ三刺激値との関係は以下で与えられる。
【０１２２】
【数１１】
0003826174.tif 000012
ここで、ＸR、ＹR、ＺRはＲ原色のＣＩＥＸＹＺ三刺激値を表わし、同様にＸG、ＹG、ＺGはＧ原色のＣＩＥＸＹＺ三刺激値を、ＸB、ＹB、ＺBはＢ原色のＣＩＥＸＹＺ三刺激値を表わす。ＣＩＥＸＹＺ三刺激値とｘｙ色度座標の関係は
【０１２３】
【数１２】
0003826174.tif 000013
で与えられるために、式（１１）はＲ原色の色度座標（ｘR，ｙR）、Ｇ原色の色度座標（ｘG，ｙG）、Ｂ原色の色度座標（ｘB，ｙB）を用いて以下のように書き換えられる。
【０１２４】
【数１３】
0003826174.tif 000014
以上、原色変換部１１６は、式（１３）によってＣＩＥＸＹＺ三刺激値を輝度リニアデバイスドライブ信号Ｒ、Ｇ、Ｂに変換する。
【０１２５】
なお、本発明は映像表示デバイスの原色数を限定するものではなく、式（１１）と式（１３）の３原色は任意数に拡張可能である。
【０１２６】
第六に、ガンマ補正部１１７について詳細に説明する。現在、流通しているデバイス依存のＲＧＢ信号は、ＮＴＳＣ方式の概念を周到するＣＲＴディスプレイのガンマ補正処理が施されている。ＣＲＴディスプレイは、表示管や信号処理系などの総合的入出力特性として、デバイスドライブ信号と発光輝度の関係が２．２乗の指数関数で表わされる。これがいわゆるガンマ特性である。そこで、デバイスドライブ信号と発光輝度の関係が線形になるように、予め送信側で１／２．２乗の指数関数変換を施し、ＣＲＴディスプレイのガンマ特性を相殺するように、いわゆるガンマ補正を施してＲ信号、Ｇ信号、Ｂ信号を送出する。ガンマ補正部１１７は、式（１４）で輝度リニアデバイスドライブ信号Ｒ、Ｇ、Ｂをガンマ補正済のデバイスドライブ信号Ｒ'、Ｇ'、Ｂ'に変換する。
【０１２７】
【数１４】
0003826174.tif 000015
なお、本発明は映像表示デバイスの原色数を限定するものではなく、式（１４）の３原色は任意数に拡張可能である。
【０１２８】
このように、ガンマ補正部１１７を具備することで、撮像素子の受光セル単位で明度が置換された測色値を表示デバイスのガンマ補正処理を含んだ輝度・色差信号に変換できる。
【０１２９】
第七に、輝度・色差信号変換部１１９について詳細に説明する。デバイスドライブ信号Ｒ'、Ｇ'、Ｂ'は、輝度・色差信号変換部１１９において様々な伝送フォーマットに対応させるために輝度・色差信号に変換される。たとえばＩＴＵ−Ｒ  Ｒｅｃ．ＢＴ．７０９−３に従う場合は、式（１５）によってデバイスドライブ信号Ｒ'、Ｇ'、Ｂ'が輝度・色差信号に変換される。
【０１３０】
【数１５】
0003826174.tif 000016
このように、輝度・色差信号変換部１１９を具備することで、撮像素子の受光セル単位で明度が置換された測色値の輝度線形性を保ったまま、輝度・色差信号に変換できる作用を有する。
【０１３１】
なお、本発明は、デバイスドライブ信号Ｒ'、Ｇ'、Ｂ'を輝度・色差信号へ変換する方式に対して制限を与えるものではなく、伝送フォーマットに応じて自由に設定できることを特筆しておく。
【０１３２】
たとえば、Ｒバンドの寄与率を０．３０、Ｇバンドの寄与率を０．５９、Ｂバンドの寄与率を０．１１とした線形和で輝度信号を算出することで、ＥＩＡ−ＲＳ  １７０Ａ方式に従わせることができ、ＥＩＡ−ＲＳ  １７０Ａ方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする。
【０１３３】
また、Ｒバンドの寄与率を０．２９９、Ｇバンドの寄与率を０．５８７、Ｂバンドの寄与率を０．１１４とした線形和で輝度信号を算出することで、ＳＭＰＴＥ  １７０Ｍ方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする。
【０１３４】
最後に、走査方式の違いに対応する方法とデバイスドライブ信号用ラインメモリ１１８、輝度・色差信号用ラインメモリ１２０について詳細に説明する。一般に映像方式には１走査ラインおきに飛び越し走査を行うインタレース方式と飛び越しなしに走査ライン順に走査を行うプログレッシブ方式がある。本発明では、短波長成分色信号処理部１０８と長波長成分色信号処理部１０９が受光セル単位で縦２セル、横２セルを単位ブロックとしたブロック単位で測色値を算出する。従って、走査ライン方向に見た場合、２ライン分の測色値が１回の動作で求められる。そこで、プログレッシブ方式の場合は、２ライン目の測色値データを保持しておいて、走査タイミングに合わせて、保持しておいた２ライン目の測色データを送出する必要がある。
【０１３５】
図１におけるデバイスドライブ信号用ラインメモリ１１８は、取り込んだ被写体の色情報をデバイスドライブ信号形式で保持し、デバイスドライブ信号用送信機１２１からの走査タイミングに合わせた読み出し指示に従って保持したデバイスドライブ信号を出力する。
【０１３６】
同様に、輝度・色差信号用ラインメモリ１２０は、取り込んだ被写体の色情報を輝度・色差信号形式で保持し、輝度・色差信号用送信機１２２からの走査タイミングに合わせた読み出し指示に従って保持した輝度・色差信号を出力する。
【０１３７】
またインタレース方式の場合は、ラインメモリに保持することなく取得された被写体の分光情報をそのまま出力すればいい。すなわち、図３に示すように、被写体の分光反射率は縦２セルずつ取得される。そこで、インタレース走査が奇数ラインを走査中でも偶数ラインを走査中でも、被写体分光情報推定部１１０は同一の分光反射率を出力する。このため、測色値変換部１１２は奇数ラインでも偶数ラインでも同じ測色値を出力し、ラインメモリにデータを保持しておく必要はない。
【０１３８】
ただし、被写体の分光反射率を推定する単位ブロックの縦方向のセル数が３以上の場合は、プログレッシブ方式とインタレース方式の両走査方式において、データを保持しておく必要がある。プログレッシブ方式の場合は、単位ブロックの縦方向のセル数をｎとすると（ｎ−１）ライン分のラインメモリを必要とする。インタレース方式の場合は、（ｎ−１）／２の商にあたるライン分のラインメモリを必要とする。ラインメモリに保持された信号値は、送信機から指示された読み出しタイミングに応じて出力される。
【０１３９】
このように、単位ブロックが縦ｎセルから構成されている際には、単位ブロック内の（ｎ−１）ラインに相当する外部出力信号をラインメモリに記憶し、単位ブロック内の第２ライン以降の出力はラインメモリから撮像装置の外部へ出力することで、受光セル単位でｎライン分同時に生成されるマルチバンド画像のうち、第１ラインはラインメモリを介さず出力し、第２ライン以降の（ｎ−１）ラインは画像走査の同期に合わせてラインメモリから出力して、様々な走査方式に対応できる。
【０１４０】
一方、被写体の分光情報を推定する単位ブロックが走査ラインごとに移動する場合は最小限の構成でプログレッシブ方式とインタレース方式に対応できる。図６は、実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの動作を説明する図である。図６は、図３と同様に縦２セル、横２セルを単位ブロックとして被写体の分光情報を推定するケースである。図６（ａ）は、実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの画像の第１走査ライン走査時における動作を表わした図であり、図６（ｂ）は、実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリ画像の、第２走査ライン走査時の動作を表わした図である。
【０１４１】
撮影装置が画像の第１走査ラインを走査している場合、図６（ａ）に示すように、短波長成分撮像素子１０６と長波長成分撮像素子１０７は、素子の第１走査ラインと第２走査ラインがアクティブとなり、２ライン分の信号が同時に被写体分光情報推定部１１０に出力されて、被写体の分光情報を２ライン単位で推定する。そこで、撮影装置は、第２走査ラインの出力信号を、画像の走査が第２走査ラインに入るまで保持する必要があり、分光情報は測色値に変換された後、１ライン分のラインメモリ６０１（図１中のデバイスドライブ信号用ラインメモリ１１８および輝度・色差信号用ラインメモリ１２０に相当）に第２走査ラインの測色値が保存される。画像の走査が第２走査ラインに移ったら、図６（ｂ）に示すように、短波長成分撮像素子１０６、長波長成分撮像素子１０７、被写体分光情報推定部１１０とは関係なく、ラインメモリ６０２（実体はラインメモリ６０１と同一。）から、すでに計算済の出力信号を外部出力する。
【０１４２】
図７は、被写体の分光情報推定における単位ブロックの位置を画像の走査位置に合わせて、１ラインずつ移動する場合である。図７（ａ）は、実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの画像の、第１走査ライン走査時の動作を表わした図であり、図７（ｂ）は、実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリ画像の、第２走査ライン走査時の動作を表わした図である。
【０１４３】
画像の第１走査ライン走査時は、図６（ａ）と同様に、短波長成分撮像素子１０６と長波長成分撮像素子１０７の第１走査ラインと第２走査ラインがアクティブとなり、２ライン分の信号が同時に被写体分光情報推定部１１０に出力されて、被写体の分光情報を２ライン単位で推定する。分光情報は測色値に変換されて、そのまま外部へ出力される。画像の走査が第２走査ラインに移ると、図７（ｂ）に示すように、短波長成分撮像素子１０６と長波長成分撮像素子１０７は、素子の第２走査ラインと第３走査ラインがアクティブとなり、２ライン分の信号が同時に被写体分光情報推定部１１０に出力されて、被写体の分光情報を２ライン単位で推定する。引き続き、分光情報は測色値に変換されて、そのまま外部へ出力される。
【０１４４】
図７に示すように、分光推定を行う撮像素子上の単位ブロックの第１ラインが、画像走査の走査ラインと一致するように移動すれば、図６に示すようなラインメモリが必要なくなる。また、図７で推定される分光情報は、撮像素子を１ラインずつ移動していくため、２ラインごとに分光推定を行う図６より、推定精度が高くなる利点がある。
【０１４５】
つまり、図６の場合、奇数走査ライン、偶数走査ラインの順で隣接する２ラインは同一の分光情報を持ち、たとえば図６の隣接するセル６０３とセル６０４は同一の分光情報Ｒ11を持つ。
【０１４６】
一方、図７の場合、セル６０４と同一位置にあるセル７０１は、画像の第１走査ラインを走査時図７（ａ）には、分光情報Ｒ11を持つが、画像の第２走査ラインを走査時図７（ｂ）には、分光情報Ｒ21に書き換えられる。分光情報Ｒ21は撮像素子の第２ライン、第３ラインで取得した被写体情報であり、撮像素子の第１ライン、第２ラインから取得された被写体情報Ｒ11とは異なる。
【０１４７】
以上、分光推定を行う撮像素子上の単位ブロックの第１ラインが、画像走査の走査ラインと一致するように移動することで、単位ブロック固定の場合よりも正確な分光推定が可能になるが、図５において、すでに詳細に説明を行ったセル単位明度信号置換部１１４との組み合わせで、色推定精度がさらに向上することを追記しておく。
【０１４８】
なお、図６と図７では分光推定を行う単位ブロックを縦２セル、横２セルを例にとって説明したが、本発明は単位ブロックのセル数に制限されるものではなく、任意サイズの単位ブロックで実施可能であることを特筆しておく。
【０１４９】
また、デバイスドライブ信号用送信機１２１と輝度・色差信号用送信機１２２は任意の伝送フォーマットを適応可能であり、ＩＴＵ−ＲやＳＭＰＴＥのテレビジョン、ＶＴＲ、ディスク記録フォーマット等の標準規格や、多くのデジタルカメラで採用されているｓＲＧＢ信号など、任意に対応できる。
【０１５０】
以上、実施の形態１によって、視覚系の解像力の高い明度成分情報を前記輝度撮像素子で高精細に取得し、同時に短波長成分撮像素子と長波長成分撮像素子から取得された測色値の明度成分のみを輝度撮像素子からの明度成分情報で撮像素子の受光セル単位に置換することによって、短波長成分撮像素子と長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない２つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる。
【０１５１】
また、実施の形態１は、短波長成分撮像素子１０６および長波長成分撮像素子１０７が、互いに異なり、かつ単位ブロック内のすべての色フィルタを組み合わせるとダイクロイックミラー２１０が分割した短波長側および長波長側の光の波長帯域をカバーする分光透過率分布を持つ受光セルからなる単位ブロックを持つので、ダイクロイックミラー２１０が分割した短波長成分および長波長成分の光を無駄なく受光し、視覚系の解像力の低い色成分情報を単位ブロックごとで取得することにより、１つに撮像素子で複数のマルチバンド画像を撮影できる。
【０１５２】
さらに、実施の形態１は、単位ブロックが、縦２セル、横２セルからなるので、縦２セル、横２セルの単位ブロックごとに被写体の分光情報を推定できる。この結果、１つの撮像素子で単位ブロックごとに４つのマルチバンド画像が同時に撮影できる作用を有する。よって、短波長成分撮像素子１０６および長波長成分撮像素子１０７の２つの撮像素子を使用することで、４×２の８バンドの画像が同じに撮影できる。
【０１５３】
また、実施の形態１は、単位ブロックの縦方向の位置が、単位ブロックの１ライン目が画像走査の走査ラインと一致するように決定されているので、撮像装置の出力信号をラインメモリへ一時的に保持することなくストリーム形式で出力でき、かつ被写体の分光情報を走査ラインごとに緻密の推定できる。
【０１５４】
また、実施の形態１は、色分解光学系１０２を、入射光を２つの光路に分割するハーフミラー２０３を備えた第１光学プリズム２０２と、第１光学プリズム２０２で分割された一方の光の短波長成分のみ反射するダイクロイックミラー２１０を備えた第２光学プリズム２０９と、第２光学プリズム２０９で透過した長波長成分を透過する第３光学プリズム２１６と、エアギャップ２０８と、から構成した。これにより、輝度成分と短波長、長波長の２つの色成分に分割する色分解光学系１０２を３つの光学プリズムの容積分だけに小型化できる。また、ここで着目すべき点に、色分解光学系１０２が、従来のＲＧＢからなる色分解光学系等と同様に３つの光学プリズムから構成されている点がある。つまり、本実施の形態の色分解光学系１０２は、従来の色分解光学系を少し改良するだけで作成できる。よって、本実施の形態の色分解光学系１０２は、既存の材料から作成できるので、既存の撮像装置に適用することが容易である。
【０１５５】
また、実施の形態１は、第２光学プリズム２０９は、長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタ２１５を具備することで、赤外光に感度を持つ撮像素子からのノイズを簡単な構成で抑制できる。
【０１５６】
（実施の形態２）
以下、本発明の実施の形態２にかかる撮像装置であるマルチバンドビデオカメラについて説明する。まず、実施の形態２における３つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステムについて図８を用いて説明する。図８は、実施の形態２における３つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成図である。図８と図１の相違点は以下の２点で、その他は同一の構成を持ち、かつ同一の動作、機能を有する。
【０１５７】
第一の相違点は、図８には図１の明度信号変換部１０５がない点である。第二の相違点は、図１のセル単位明度信号置換部１１４がセル単位測色値スケーリング部８０１に変更されている点である。
【０１５８】
図１のセル単位明度信号置換部１１４は、図５で詳細に説明したように、撮像素子の受光セル単位で、測色値変換部１１２からの測色値の明度のみを明度信号変換部１０５からの明度信号で置換した。一方、図８のセル単位測色値スケーリング部８０１は、図８の測色値変換部８０２から供給された測色値を、輝度信号生成部８０３の輝度信号を用いてスケーリングする。
【０１５９】
次に、図９を用いてセル単位測色値スケーリング部８０１の動作を詳細に説明する。図９は図５と同様に、被写体の分光推定の単位ブロックを、縦２セル、横２セルとした場合である。測色値変換部８０２は、図８の被写体分光情報推定部８０４が供給する被写体の分光反射率ｒhと図８の照明分光情報記憶部８０５が供給する照明の分光分布ｅhから式（９）を用いてＣＩＥＸＹＺ三刺激値を算出する。測色値変換部８０２の出力（Ｘ'Ｙ'Ｚ'）は、セル単位測色値スケーリング部８０１に与えられ、輝度生成部８０３で生成されたセル単位の輝度信号Ｙを用いて式（１６）のスケーリング処理が施される。
【０１６０】
【数１６】
0003826174.tif 000017
従って、セル単位測色値スケーリング部８０１は、分光情報推定の単位ブロックごとに算出された相対的な測色値情報（Ｘ'Ｙ'Ｚ'）を、セル単位のスケーリング処理を用いて、セル単位で絶対的測色値情報（ＸＹＺ）に変換する機能を有する。
【０１６１】
図８の原色変換部８０６は、セル単位測色値スケーリング部８０１の出力であるＣＩＥＸＹＺ三刺激値を式（１３）を用いて、輝度リニアデバイスドライブ信号Ｒ、Ｇ、Ｂに変換する。
【０１６２】
以上、実施の形態２によって、視覚系の解像力の高い輝度成分情報を高精細に保ちつつ、短波長成分撮像素子と長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない２つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる。
【０１６３】
（実施の形態３）
次に、本発明の実施の形態３にかかる撮像装置であるマルチバンドビデオカメラについて説明する。
【０１６４】
図１０は、本発明の実施の形態３における３つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成を示し、図１と比較しながら、以下に説明する。図１と図１０の相違点は以下の１点で、その他は同一の構成を持ち、かつ同一の動作、機能を有する。図１０と図１との相違点は、図１０には図１のガンマ補正部１１７がない点である。
【０１６５】
ガンマ補正は、図１で詳細に説明したように、表示デバイスが持つデバイスドライブ信号と表示色の輝度との非線形特性を線形化するものである。表示デバイスに特別な処理回路を搭載することなく、送信側の処理のみで対応できるため、受信側の端末機器の簡素化、廉価化に有効である。
【０１６６】
しかし、近年、半導体部品を中心とする電子機器の高性能化とコストダウンが大幅に達成され、受信端末機に様々な処理機能を持たせることが可能になってきた。特に、計算機端末としての表示デバイスは、ビジネスグラフィックスやコンピュータグラフィックスを作成する映像表示装置として活用され、表示デバイス自身で輝度リニア信号を発生する機能を有するものが増えてきた。インターネットを中心とする放送と通信の融合は、逆ガンマ特性を持った信号で映像を表示するテレビジョンと輝度リニア信号で映像を表示する計算機ビジュアル端末の２つの機能を持つ映像表示装置の需要を作り上げた。
【０１６７】
このため、受信端末が自身でガンマ補正機能を持っている場合、送信側はガンマ補正を施す必要がなくなる。実施の形態３は、ガンマ補正を加えずに映像信号を出力する撮像装置であり、表示デバイス自身でガンマ補正を実行する計算機ビジュアル端末等に、正確な色情報を供給できる。
【０１６８】
以上、実施の形態３によって、視覚系の解像力の高い輝度成分情報を高精細に保ちつつ、短波長成分撮像素子と長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない２つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になり、かつガンマ補正の必要がない画像デバイスにガンマ補正なしの色信号を供給できる。
【０１６９】
（実施の形態４）
以下、本発明の実施の形態４にかかる撮像装置であるマルチバンドビデオカメラについて説明する。図１１は、本発明の実施の形態４における２つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成を示し、図１と比較しながら、以下に説明する。図１と図１１の相違点は以下の３点で、その他は同一の構成を持ち、かつ同一の動作、機能を有する。
【０１７０】
第一の相違点は、色分解光学系にあり、図１の色分解光学系１０２は撮像レンズ１０１から入射した被写体からの光を３つの光路に分けるのに対し、図１１の色分解光学系１１０１は撮像レンズ１１０２から入射した被写体からの光を２つの光路に分け、輝度撮像素子１１０３と後述する色成分撮像素子１１０４に光を分配する点である。
【０１７１】
第二の相違点は、被写体の分光情報を撮像する撮像素子で、図１では短波長成分撮像素子１０６と長波長成分撮像素子１０７の２つの撮像素子で被写体の分光情報を推定するのに対し、図１１では色成分撮像素子１１０４の１つの撮像素子で被写体の分光情報を推定する点である。
【０１７２】
第三の相違点は、撮像素子が１つになったことに伴う信号処理部の違いで、色成分撮像素子１１０４からの信号は色成分色信号処理部１１０５へ入力し、被写体分光情報推定部１１０６での分光推定は、色成分色信号処理部１１０５からの出力のみで実行される点である。
【０１７３】
次に、図１２を用いて、色分解光学系１１０１について詳細に説明する。色分解光学系１１０１内部には、撮像レンズ１１０２からの入射光１２０３を２つの光路に分割するハーフミラー１２０１が設けられている。ハーフミラー１２０１により分割された第１の光路の光は、ハーフミラー１２０１の反射光１２０５である。ハーフミラー１２０１は、反射光１２０５が輝度撮像素子１１０３に垂直に入射されるように配置されている。ハーフミラー１２０１により分割された第２の光路の光は、ハーフミラー１２０１の透過光１２０４である。ハーフミラー１２０１は、透過光１２０４が色成分撮像素子１１０４に垂直に入射されるように配置されている。
【０１７４】
このようにハーフミラー１２０１により、入射光１２０３は、透過光１２０４と反射光１２０５に分割され、透過光１２０４は色成分撮像素子１１０４に入射し、反射光１２０５は輝度撮像素子１１０３に入射する。
【０１７５】
また、ハーフミラー１２０１には波長選択性はなく、ハーフミラー１２０１によって分割された光１２０４と光１２０５とは同一の分光分布を持つ。
【０１７６】
また、色分解光学系１１０１の内部の、ハーフミラー１２０４に対して色成分撮像素子１１０４側、つまり、透過光１２０４の進む方向には、赤外吸収フィルタ１２０２が色成分撮像素子１１０４と平行に設けられている。これにより、透過光１２０４は、色成分撮像素子１１０４に入射される前に、赤外吸収フィルタ１２０２によりノイズを除去される。
【０１７７】
次に色成分撮像素子１１０４と被写体分光情報推定部１１０６について詳細に説明する。図１３（ａ）は色フィルタの配列を説明する図、図１３（ｂ）は画素単位で見た色信号の配列を説明する図である。
【０１７８】
色成分撮像素子１１０４はｆ1からｆ9で示される９種類の色フィルタを縦３セル、横３セルのブロック単位で具備する。９種類の色フィルタｆ1からｆ9は互いに異なる分光透過率分布を持ち、たとえば図１４に示すように９つで可視域（図１４では３８０ｎｍから７８０ｎｍ）をカバーする関係を持つ。つまり可視域全体の光を９つの色フィルタで分担して受光する。
【０１７９】
上述したように、被写体の分光推定には、少なくとも５バンド分の情報が必要である。このため、縦横同じ数の正方形の単位ブロックで、５バンド分以上のバンドを形成するには、図１３に示すような、縦３セル、横３セルが最小構成となる。
【０１８０】
そして、被写体分光情報推定部１１０６は、色フィルタｆ1からｆ9の９つの信号をもとに被写体の分光情報を推定する。従って、被写体分光推定部１１０６は、分光情報を縦３セル、横３セルのブロック単位で推定し、算出する。
【０１８１】
図１の２つの撮像素子で分光推定を行う構成に比べて、色成分の空間解像度は１／３に落ちるが、撮像素子が１つであり、かつ図１２に示したように、色分解光学系の構成も簡素化されるため、サイズやコスト面で大きな利点を持つ。  また、図７ですでに説明したように分光推定の単位ブロックを画像走査に合わせて移動すれば、解像度低下の影響を抑えられる。
【０１８２】
以上、実施の形態４によって、視覚系の解像力の高い輝度成分情報を高精細に保ちつつ、色撮像素子の受光セルに具備された色フィルタの種類より少ない１つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【０１８３】
なお、実施の形態４の明度信号変換部１０５を無くし、セル単位明度信号置換部１１４をセル単位測色値スケーリング部８０１に置き換えた形態であっても良い。この構成により、視覚系の解像力の高い輝度成分情報を輝度撮像素子１１０３で高精細に取得し、同時に色成分撮像素子１１０４から取得した測色値を輝度撮像素子１１０３からの輝度成分情報で撮像素子の受光セル単位にスケーリングできる。この結果、色成分撮像素子１１０４の受光セルに具備された色フィルタの種類より少ない１つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる。
【０１８４】
（実施の形態５）
以下、本発明の実施の形態５にかかる撮像装置であるマルチバンドビデオカメラについて図１５を用いて説明する。図１５は、実施の形態５における３つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成図である。すでに、説明した部分と同一の部分については、同一の符番を付与し説明を省略する。
【０１８５】
実施の形態５と実施の形態１との相違点は、輝度・色差信号変換部１１９が明度・色差信号変換部１５０１に、輝度・色差信号用ラインメモリ１２０が明度・色差信号用ラインメモリ１５０２に、輝度・色差信号用送信機１２２が明度・色差信号用送信機１５０３になっている点である。
【０１８６】
明度・色差信号変換部１５０１は、セル単位明度信号置換部１１４が、撮像素子の受光セルごとに算出した測色値を明度成分と色差成分に変換する。具体的には、明度・色差信号変換部１５０１は、まず、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成する。次に、明度・色差信号変換部１５０１は、デバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の構成要素のうち、線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから輝度信号を差し引いた差分値を色差信号とし、輝度信号を指数関数によって明度信号に変換し、明度信号と色差信号を出力する。
【０１８７】
また、明度・色差信号用ラインメモリ１５０２および明度・色差信号用送信機１５０３は、実施の形態１の輝度・色差信号用ラインメモリ１２０および輝度・色差信号用送信機１２２が輝度信号を扱うのに対し、明度信号を扱うようにしたものであり、その他の動作については同一である。
【０１８８】
以上説明したように、実施の形態５によれば、撮像素子の受光セル単位で明度が置換された測色値を、明度線形性を保ったまま、明度・色差信号に変換できる作用を有する。また、映像表示デバイスに特別な処理部を設けることになくデバイスドライブ信号と発光色の明度の線形性を確保し、かつデバイスドライブ信号よりも帯域の小さい明度・色差信号での信号伝送を可能にする作用を有する。
【０１８９】
なお、実施の形態５では、実施の形態１を変形した形態で説明したが、実施の形態２〜４の輝度・色差信号変換部１１９を明度・色差信号変換部１５０１に、輝度・色差信号用ラインメモリ１２０を明度・色差信号用ラインメモリ１５０２に、輝度・色差信号用送信機１２２を明度・色差信号用送信機１５０３に変形した形態であっても良い。
【０１９０】
【発明の効果】
以上のように本発明は、互いに分光透過率の異なる複数の色フィルタを受光セル単位で並置させた１つ、あるいは２つの撮像素子から被写体の分光情報を推定し、受光セル単位で取得した被写体の輝度情報で、前記被写体の分光情報から得た測色値の輝度情報を受光セル単位で置換して、あるいはスケーリングして高精細でかつ高色忠実な映像を出力できる優れた撮像装置を提供する。また、ハーフミラーとダイクロイックミラーを組み合わせて、被写体からの光を光量の損失を抑えて１つの輝度撮像素子と２つの色成分撮像素子へ入射させることができ、かつ３つのプリズムの組み合わせで省スペースを実現できる優れた色分解光学系を提供する。
【図面の簡単な説明】
【図１】本発明の実施の形態１におけるマルチバンドビデオカメラの構成を示す図
【図２】実施の形態１にかかる色分解光学系の内部構造を説明する図
【図３】（ａ）  実施の形態１にかかる、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子を側面から見た模式的構造図
（ｂ）  実施の形態１にかかる、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の色フィルタの配列を説明する概念図
（ｃ）  実施の形態１にかかる、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の画素単位で見た色信号の配列と輝度変換部の動作と被写体分光情報推定部の動作を説明する概念図
【図４】実施の形態１にかかる色フィルタの分光透過率の一例を示す図
【図５】実施の形態１にかかる測色変換部、照明分光情報記憶部、明度信号変換部、およびセル単位明度置換部の動作を説明する図
【図６】（ａ）  実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの画像の第１走査ライン走査時における動作を表わした図（単位ブロックが固定された場合）
（ｂ）  実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリ画像の第２走査ライン走査時における動作を表わした図（単位ブロックが固定された場合）
【図７】（ａ）  実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの画像の第１走査ライン走査時における動作を表わした図（単位ブロックが画像走査に対応して移動する場合）
（ｂ）  実施の形態１にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリ画像の第２走査ライン走査時における動作を表わした図（単位ブロックが画像走査に対応して移動する場合）
【図８】本発明の実施の形態２におけるマルチバンドビデオカメラの構成を示す図
【図９】実施の形態２にかかるセル単位測色値スケーリング部の動作を説明する図
【図１０】本発明の実施の形態３におけるマルチバンドビデオカメラの構成を示す図
【図１１】本発明の実施の形態４におけるマルチバンドビデオカメラの構成を示す図
【図１２】実施の形態４にかかる色分解光学系の内部構成を示す図
【図１３】（ａ）  実施の形態４にかかる色成分撮像素子の色フィルタ配列を説明する図（ｂ）  実施の形態４にかかる画素単位の色信号の配列と被写体分光情報推定部の動作を示す図
【図１４】実施の形態４にかかる９種類の色フィルタｆ1からｆ9の分光透過率の一例を示す図
【図１５】本発明の実施の形態５におけるマルチバンドビデオカメラの構成を示す図
【符号の説明】
１０１、１１０２  撮像レンズ
１０２、１１０１  色分解光学系
１０３、１１０３  輝度撮像素子
１０４、８０３、１１０７  輝度信号生成部
１０５  明度信号変換部
１０６  短波長成分撮像素子
１０７  長波長成分撮像素子
１０８  短波長成分色信号処理部
１０９  長波長成分色信号処理部
１１０、８０４  被写体分光情報推定部
１１１  分光情報出力端子
１１２、８０２  測色値変換部
１１３、８０５  照明分光情報記憶部
１１４  セル単位明度信号置換部
１１５  測色値出力端子
１１６、８０６  原色変換部
１１７  ガンマ補正部
１１８  デバイスドライブ信号用ラインメモリ
１１９  輝度・色差信号変換部
１２０  輝度・色差信号用ラインメモリ
１２１  デバイスドライブ信号用送信機
１２２  輝度・色差信号用送信機
２０１、１２０３  撮像レンズからの入射光
２０２  第１光学プリズム
２０３、１２０１  ハーフミラー
２０４  第１反射光
２０５  第１透過光
２０６  第１光学プリズムの面
２０７  第１光学プリズムの面
２０８  エアギャップ
２０９  第２光学プリズム
２１０  長波長成分反射ダイクロイックミラー
２１１  第２反射光
２１２  第２透過光
２１３  第２光学プリズムの面
２１４  第２光学プリズムの面
２１５、１２０２  赤外吸収フィルタ
２１６  第３光学プリズム
３０１  基板
３０２  受光セル
３０３  色フィルタ
６０１、６０２  ラインメモリ
６０３、６０４、７０１  セル
８０１  セル単位測色値スケーリング部
１１０４  色成分撮像素子
１１０５  色成分信号処理部
１１０６  被写体分光情報推定部
１２０４  透過光
１２０５  反射光
１５０１  明度・色差信号変換部
【図１】
0003826174.tif 000018
【図２】
0003826174.tif 000019
【図３】
0003826174.tif 000020
【図４】
0003826174.tif 000021
【図５】
0003826174.tif 000022
【図６】
0003826174.tif 000023
【図７】
0003826174.tif 000024
【図８】
0003826174.tif 000025
【図９】
0003826174.tif 000026
【図１０】
0003826174.tif 000027
【図１１】
0003826174.tif 000028
【図１２】
0003826174.tif 000029
【図１３】
0003826174.tif 000030
【図１４】
0003826174.tif 000031
【図１５】
0003826174.tif 000032