(57)【要約】  画像生成装置（１）は、電圧値の異なる複数の電圧を生成する電圧生成部（４０）と、複数の電圧が印加される有機薄膜（３２）を有し、複数の電圧の印加のそれぞれに対応して撮像を行う撮像部（１０）と、撮像部（１０）の撮像によって得られる輝度データであって、複数の電圧の印加に対応する複数の輝度データを取得する輝度データ取得部（５１）と、複数の輝度データに基づいてカラー画像を生成するカラー画像生成部（５２）とを備える。
2020045443.tif 000002
【特許請求の範囲】
【請求項１】
電圧値の異なる複数の電圧を生成する電圧生成部と、
前記複数の電圧が印加される有機薄膜を有し、前記複数の電圧の印加のそれぞれに対応して撮像を行う撮像部と、
前記撮像部の撮像によって得られる輝度データであって、前記複数の電圧の印加に対応する複数の輝度データを取得する輝度データ取得部と、
前記複数の輝度データに基づいてカラー画像を生成するカラー画像生成部と
を備える画像生成装置。
【請求項２】
前記カラー画像生成部は、前記複数の輝度データに、予め決められた係数を掛けあわせることで前記カラー画像を生成する
請求項１に記載の画像生成装置。
【請求項３】
前記係数は、前記撮像部を用いて複数の色を有するカラーチャートを撮像することで、前記複数の色に対応する色データ、前記係数、及び、前記複数の輝度データを含む行列式を取得し、前記行列式を疑似逆行列を使って解くことで導出される
請求項２に記載の画像生成装置。
【請求項４】
前記係数は、前記撮像部を用いて複数の色を有するカラーチャートを撮像し、当該撮像によって得られた前記複数の輝度データを入力とし、前記複数の色に対応する色データを正解データとして学習することで導出される
請求項２に記載の画像生成装置
【請求項５】
前記電圧生成部は、前記撮像部を用いて撮像する際のシーンに応じて前記電圧を変える
請求項１〜４のいずれか１項に記載の画像生成装置。
【請求項６】
前記電圧生成部は、前記撮像部の露光中に前記電圧を変調する
請求項５に記載の画像生成装置。
【請求項７】
前記撮像部は、積層された複数の前記有機薄膜を有し、
複数の前記有機薄膜に印加される前記複数の電圧の数は、複数の前記有機薄膜の数以上である
請求項１〜６のいずれか１項に記載の画像生成装置。
【請求項８】
前記撮像部は、複数の前記有機薄膜として、可視光を検出する第１の有機薄膜と、近赤外光を検出する第２の有機薄膜とを有し、
前記第１の有機薄膜は、前記第２の有機薄膜よりも被写体側に設けられている
請求項７に記載の画像生成装置。
【請求項９】
前記撮像部は、複数の前記有機薄膜として、可視光を検出する第１の有機薄膜と、近赤外光を検出する第２の有機薄膜とを有し、
前記第２の有機薄膜は、前記第１の有機薄膜よりも被写体側に設けられている
請求項７に記載の画像生成装置。
【請求項１０】
有機薄膜に電圧値の異なる複数の電圧を印加して撮像を行うことと、
前記撮像によって得られる輝度データであって、前記複数の電圧の印加に対応する複数の輝度データを取得することと、
前記複数の輝度データに基づいてカラー画像を生成することと
を含む画像生成方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、有機薄膜（ＯＰＦ：Ｏｒｇｎｉｃ  Ｐｈｏｔｏｃｏｎｄｕｃｔｉｖｅ  Ｆｉｌｍ）を有する撮像素子を備える画像生成装置、及び、画像生成方法に関する。
【背景技術】
【０００２】
従来、複数の画素を有する撮像素子を備える画像生成装置が知られている。この種の画像生成装置の一例として、非特許文献１には、カラーフィルタと撮像素子とを備える画像生成装置が記載されている。この画像装置では、撮像素子の１画素が４つの副画素によって構成されている。そしてこの画像装置では、入射した光をカラーフィルタでＲ（赤）、Ｇ（緑）、Ｂ（青）、及びＩＲ（赤外線）の成分に分解し、分解した各成分の光を各副画素にて光電変換した後、画像処理することでカラー画像を生成している。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】Ｓｈｉｎｉｃｈｉ  Ｍａｃｈｉｄａ,  Ｓａｎｓｈｉｒｏ  Ｓｈｉｓｈｉｄｏ,  Ｔａｋｅｙｏｓｈｉ  Ｔｏｋｕｈａｒａ，  Ｍａｓａａｋｉ  Ｙａｎａｇｉｄａ,  Ｔａｋａｙｏｓｈｉ  Ｙａｍａｄａ,  Ｍａｓｕｍｉ  Ｉｚｕｃｈｉ,  Ｙｏｓｈｉａｋｉ  Ｓａｔｏ,  Ｙａｓｕｏ  Ｍｉｙａｋｅ,  Ｍａｎａｂｕ  Ｎａｋａｔａ,  Ｍａｓａｓｈｉ  Ｍｕｒａｋａｍｉ,  Ｍｉｔｓｕｒｕ  Ｈａｒａｄａ,  ａｎｄ  Ｙａｓｕｎｏｒｉ  Ｉｎｏｕｅ，  “Ａ  ２．１−Ｍｐｉｘｅｌ  Ｏｒｇａｎｉｃ  Ｆｉｌｍ−Ｓｔａｃｋｅｄ  ＲＧＢ−ＩＲ  Ｉｍａｇｅ  Ｓｅｎｓｏｒ  Ｗｉｔｈ  Ｅｌｅｃｔｒｉｃａｌｌｙ  Ｃｏｎｔｒｏｌｌａｂｌｅ  ＩＲ  Ｓｅｎｓｉｔｉｖｉｔｙ”，  ＩＥＥＥ  ＪＯＵＲＮＡＬ  ＯＦ  ＳＯＬＩＤ−ＳＴＡＴＥ  ＣＩＲＣＵＩＴ，  ｖｏｌ．５３，  ＮＯ．１，  ｐｐ．２２９−２３５，  ＪＡＮＵＡＲＹ  ２０１８．
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、非特許文献１の画像生成装置では、カラーフィルタが用いられているため、１画素をＲ、Ｇ、Ｂ及びＩＲからなる４つの副画素によって構成する必要がある。そのため、１画素の面積が大きくなり、カラー画像の解像度が低下するという問題がある。【０００５】
本開示の非限定的ではない例示的な一態様は、カラー画像の解像度を向上することができる画像生成装置である。また、本開示の非限定的ではない例示的な一態様は、カラー画像の解像度を向上することができる画像生成方法である。本開示の一態様の付加的な恩恵及び有利な点は本明細書及び図面から明らかとなる。この恩恵及び／又は有利な点は、本明細書及び図面に開示した様々な態様及び特徴により個別に提供され得るものであり、その１以上を得るために全てが必要ではない。
【課題を解決するための手段】
【０００６】
本開示の一態様に係る画像生成装置は、電圧値の異なる複数の電圧を生成する電圧生成部と、前記複数の電圧が印加される有機薄膜を有し、前記複数の電圧の印加のそれぞれに対応して撮像を行う撮像部と、前記撮像部の撮像によって得られる輝度データであって、前記複数の電圧の印加に対応する複数の輝度データを取得する輝度データ取得部と、前記複数の輝度データに基づいてカラー画像を生成するカラー画像生成部とを備える。【０００７】
また、本開示の一態様に係る画像生成方法は、有機薄膜に電圧値の異なる複数の電圧を印加して撮像を行うことと、前記撮像によって得られる輝度データであって、前記複数の電圧の印加に対応する複数の輝度データを取得することと、前記複数の輝度データに基づいてカラー画像を生成することとを含む。【０００８】
上述の包括的又は具体的な態様は、システム、方法及びコンピュータプログラム、コンピュータ読み取り可能な記録媒体を用いて実装されてもよいし、装置、システム、方法、コンピュータプログラム、及びコンピュータ読み取り可能な記録媒体の組み合わせを用いて実現されてもよい。コンピュータ読み取り可能な記録媒体は、例えばＣＤ−ＲＯＭ（Ｃｏｍｐａｃｔ  Ｄｉｓｃ−Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）などの不揮発性の記録媒体を含む。
【発明の効果】
【０００９】
本開示によれば、カラー画像の解像度を向上することができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、画像生成装置の撮像部及び電圧生成部を示す模式図である。
【図２】図２は、有機薄膜を有する撮像素子の波長−感度特性の一例を示す模式図である。
【図３】図３は、実施の形態１における画像生成装置を示す概略図である。
【図４】図４は、実施の形態１における画像生成装置の構成を示すブロック図である。
【図５】図５は、実施の形態１における画像生成装置の撮像部及び電圧生成部を示す模式図である。
【図６】図６は、実施の形態１における画像生成装置にて得られるデータの一例を示す図である。
【図７】図７は、実施の形態１の画像生成方法を示すフローチャートである。
【図８】図８は、実施の形態１の画像生成方法にて使用される係数の求め方の一例を示す図である。
【図９】図９は、実施の形態１の画像生成装置にて生成した画像の一例を示す図である。
【図１０】図１０は、実施の形態１の変形例１の画像生成装置における撮像素子の波長−感度特性を示す模式図である。
【図１１】図１１は、実施の形態１の変形例２の画像生成装置における撮像部の露光中に、有機薄膜に印加されている電圧を示す図である。
【図１２】図１２は、実施の形態２における画像生成装置の撮像部及び電圧生成部を示す模式図である。
【図１３】図１３は、実施の形態３における画像生成装置の撮像部及び電圧生成部を示す模式図である。
【発明を実施するための形態】
【００１１】
（本開示の基礎となる知見）
従来の画像生成装置では、カラーフィルタが用いられているため、１画素をＲ、Ｇ、Ｂ及びＩＲからなる４つの副画素によって構成する必要がある。そのため、１画素の面積が大きくなり、カラー画像の解像度が低下するという問題がある。この問題を解決するため、被写体を撮像する際にカラーフィルタを用いずにカラー画像を生成する装置について提案する。カラーフィルタを用いずに撮像することができれば、従来技術で示した副画素の面積を１画素の面積として扱い、１画素の面積を小さくすることができるので、カラー画像の解像度を向上させることが可能となる。
【００１２】
図１は、画像生成装置の撮像部１０及び電圧生成部４０を示す模式図である。
【００１３】
撮像部１０は、複数の画素を有する撮像素子３０を備えている。撮像素子３０は、シリコン基板３９上に設けられたＦＤ（フローティングディフュージョン）３８と、ＦＤ３８に電気的に接続された金属配線及び画素電極と、画素電極上に設けられた有機薄膜ＯＰＦと、有機薄膜ＯＰＦ上に設けられた透明電極３１とを有している。
【００１４】
有機薄膜ＯＰＦは、透明電極３１を介して入射した光を光電変換する導光膜である。有機薄膜ＯＰＦは、可視光を検出する層と近赤外光を検出する層との積層構造によって構成されている。有機薄膜ＯＰＦによって光電変換された電荷は、ＦＤ３８に蓄積される。
【００１５】
撮像部１０には、透明電極３１を介して有機薄膜ＯＰＦに電圧を印加するための電圧生成部４０が接続されている。
【００１６】
図２は、有機薄膜ＯＰＦを有する撮像素子３０の波長−感度特性の一例を示す模式図である。
【００１７】
同図に示すように撮像素子３０は、有機薄膜ＯＰＦに電圧Ｈを印加したときの感度特性と、電圧Ｌ（Ｌ＜Ｈ）を印加したときの感度特性とで異なる傾向を示す。具体的には、印加電圧をＨ又はＬに切り替えた場合の青色、緑色、赤色の波長における感度の違いが、同じ倍率となって表れるのでなく異なる倍率となって表れる。
【００１８】
このように有機薄膜ＯＰＦを有する撮像素子３０は、有機薄膜ＯＰＦに印加する電圧を変えることで異なる感度特性を示す。そこで本開示では、有機薄膜に印加する電圧を変えることで複数の異なる感度特性（フィルタ特性）を作り出し、この複数の感度特性によって得られたデータに基づいて、カラー画像を生成する装置を提案する。以下、本開示における画像生成装置等について説明する。
【００１９】
本開示の一態様に係る画像生成装置は、電圧値の異なる複数の電圧を生成する電圧生成部と、前記複数の電圧が印加される有機薄膜を有し、前記複数の電圧の印加のそれぞれに対応して撮像を行う撮像部と、前記撮像部の撮像によって得られる輝度データであって、前記複数の電圧の印加に対応する複数の輝度データを取得する輝度データ取得部と、前記複数の輝度データに基づいてカラー画像を生成するカラー画像生成部とを備える。
【００２０】
このように、有機薄膜に複数の電圧を印加することで複数の感度特性を作ることができる。そのため、この複数の感度特性によって得られた複数の輝度データに基づいて、カラー画像を生成することができる。これにより、カラーフィルタを用いることなく、１画素の面積を小さくしてカラー画像を生成できるので、カラー画像の解像度を向上することができる。
【００２１】
また、前記カラー画像生成部は、前記複数の輝度データに、予め決められた係数を掛けあわせることで前記カラー画像を生成してもよい。
【００２２】
これによれば、複数の輝度データに基づいて、簡易にカラー画像を生成することができる。本開示の画像生成装置によれば、上記により簡易に生成されたカラー画像の解像度を向上することができる。
【００２３】
また、前記係数は、前記撮像部を用いて複数の色を有するカラーチャートを撮像することで、前記複数の色に対応する色データ、前記係数、及び、前記複数の輝度データを含む行列式を取得し、前記行列式を疑似逆行列を使って解くことで導出されてもよい。
【００２４】
これによれば、複数の輝度データに基づいて、再現性の高いカラー画像を生成することができる。本開示の画像生成装置によれば、上記により生成された再現性の高いカラー画像の解像度を向上することができる。
【００２５】
また、前記係数は、前記撮像部を用いて複数の色を有するカラーチャートを撮像し、当該撮像によって得られた前記複数の輝度データを入力とし、前記複数の色に対応する色データを正解データとして学習することで導出されてもよい。
【００２６】
これによれば、複数の輝度データに基づいて、再現性の高いカラー画像を生成することができる。本開示の画像生成装置によれば、上記により生成された再現性の高いカラー画像の解像度を向上することができる。
【００２７】
また、前記電圧生成部は、前記撮像部を用いて撮像する際のシーンに応じて前記電圧を変えてもよい。
【００２８】
このように、撮像する際のシーンに応じて電圧を変えることで、多様な目的の撮像を行うことができる。本開示の画像生成装置によれば、多様な目的に応じて撮像され、生成されたカラー画像の解像度を向上することができる。
【００２９】
また、前記電圧生成部は、前記撮像部の露光中に前記電圧を変調してもよい。
【００３０】
このように、露光中に電圧を変調することで、目的に応じた感度特性を作りだし、その特性を使ってカラー画像を生成することができる。本開示の画像生成装置によれば、多様な目的に応じて撮像され、生成されたカラー画像の解像度を向上することができる。
【００３１】
また、前記撮像部は、積層された複数の前記有機薄膜を有し、複数の前記有機薄膜に印加される前記複数の電圧の数は、複数の前記有機薄膜の数以上であってもよい。
【００３２】
これによれば、より多くの感度特性を作り出すことができる。これにより、より正確な感度特性を使って再現性の高いカラー画像を生成することができる。
【００３３】
また、前記撮像部は、複数の前記有機薄膜として、可視光を検出する第１の有機薄膜と、近赤外光を検出する第２の有機薄膜とを有し、前記第１の有機薄膜は、前記第２の有機薄膜よりも被写体側に設けられていてもよい。
【００３４】
これによれば、第２の有機薄膜にて可視光を検出してその可視光を取り除いた後に、第１の有機薄膜にて近赤外光を検出することができるので、近赤外光の検出性能を向上することができる。
【００３５】
また、前記撮像部は、複数の前記有機薄膜として、可視光を検出する第１の有機薄膜と、近赤外光を検出する第２の有機薄膜とを有し、前記第２の有機薄膜は、前記第１の有機薄膜よりも被写体側に設けられていてもよい。
【００３６】
これによれば、第１の有機薄膜にて近赤外光を検出してその近赤外光を取り除いた後に、第２の有機薄膜にて可視光を検出することができるので、可視光の色再現性を向上することができる。
【００３７】
本開示の一態様に係る画像生成方法は、有機薄膜に電圧値の異なる複数の電圧を印加して撮像を行うことと、前記撮像によって得られる輝度データであって、前記複数の電圧の印加に対応する複数の輝度データを取得することと、前記複数の輝度データに基づいてカラー画像を生成することとを含む。
【００３８】
このように、有機薄膜に複数の電圧を印加することで複数の感度特性を作ることができる。そのため、この複数の感度特性によって得られた複数の輝度データに基づいて、カラー画像を生成することができる。これにより、カラーフィルタを用いることなく、１画素の面積を小さくしてカラー画像を生成できるので、カラー画像の解像度を向上することができる。
【００３９】
なお、これらの包括的又は具体的な各種態様には、装置、システム、方法、集積回路、コンピュータプログラム、コンピュータで読み取り可能な記録媒体等の１つ又は複数の組み合わせが含まれる。
【００４０】
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本発明の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、本発明の一形態に係る実現形態を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。本発明の実現形態は、現行の独立請求項に限定されるものではなく、他の独立請求項によっても表現され得る。
【００４１】
なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付しており、重複する説明は省略又は簡略化される場合がある。
【００４２】
（実施の形態１）
［１−１．画像生成装置の構成及び動作］
実施の形態１の画像生成装置の構成について、図３〜図６を参照しながら説明する。
【００４３】
図３は、実施の形態１における画像生成装置１を示す概略図である。図４は、画像生成装置１の構成を示すブロック図である。
【００４４】
図３及び図４に示すように、画像生成装置１は、被写体Ｏｂ１を撮像する撮像部１０と、撮像部１０に印加する電圧を生成する電圧生成部４０と、撮像部１０によって得られた撮像結果を処理するデータ処理部５０とを備える。
【００４５】
データ処理部５０は、撮像部１０によって得られた撮像結果から輝度データを取得する輝度データ取得部５１と、この輝度データに基づいてカラー画像を生成するカラー画像生成部５２とを備える。
【００４６】
なお、図３及び図４では、電圧生成部４０が、データ処理部５０及び撮像部１０と別体となっているが、電圧生成部４０は、データ処理部５０が収容されている筐体内又は撮像部１０が収容されている筐体内に設けられていてもよい。
【００４７】
また、本実施の形態は、撮像部１０及び電圧生成部４０を含む信号生成装置と、データ処理部５０に相当するデータ処理装置とを備える画像生成システムであってもよい。この場合、信号生成装置及びデータ処理装置のそれぞれは、通信部を有し、信号生成装置は、有線又は無線通信により、後述するデジタル信号をデータ処理装置に送信する。
【００４８】
図５は、画像生成装置１の撮像部１０及び電圧生成部４０を示す模式図である。
【００４９】
撮像部１０は、複数のマイクロレンズ２０と、行列状に配置された複数の画素を有する撮像素子３０とを備えている。本実施の形態では、マイクロレンズ２０と撮像素子３０との間に、カラーフィルタが設けられていない。
【００５０】
複数のマイクロレンズ２０のそれぞれは、複数の画素のそれぞれに対応して行列状に配置されている。各マイクロレンズ２０は、入射した光を撮像素子３０の各画素に向けて集光する。
【００５１】
撮像素子３０はマイクロレンズ２０で集光された光を受光して、電気信号を出力する素子である。撮像素子３０は、シリコン基板３９と、シリコン基板３９上に設けられたＦＤ３８と、ＦＤ３８に電気的に接続された金属配線３７及び画素電極３６と、画素電極３６上に設けられた有機薄膜３２と、有機薄膜３２上に設けられた透明電極３１とを有している。
【００５２】
透明電極３１は、光を透過する電極であり、ＩＴＯ（Ｉｎｄｉｕｍ  Ｔｉｎ  Ｏｘｉｄｅ）又はＺｎＯなどの透明材料によって形成されている。透明電極３１は、マイクロレンズ２０と有機薄膜３２との間に配置され、配線等を介して電圧生成部４０に接続されている。
【００５３】
有機薄膜３２は、マイクロレンズ２０及び透明電極３１を介して入射した光を光電変換する導光膜である。前述したように有機薄膜３２を有する撮像素子３０は、有機薄膜３２に印加された電圧の値によって光の感度が変化する特性を有している。図５に示されている有機薄膜３２の層数は１層であるが、それに限られず、有機薄膜３２は、Ｒ成分を検出するための層、Ｇ成分を検出するための層及びＢ成分を検出するための層などの複数層で形成されていてもよい。有機薄膜３２は、画素電極３６及び金属配線３７を介してＦＤ３８に接続されている。
【００５４】
ＦＤ３８は、有機薄膜３２にて光電変換された電荷を蓄積する電荷蓄積ノードである。撮像素子３０は、複数のＦＤ３８を有しており、各ＦＤ３８は、各画素に１対１で対応するように配置されている。ＦＤ３８は、撮像部１０の撮像中すなわち露光中に上記電荷を蓄積する。
【００５５】
電圧生成部４０は、電圧値の異なる複数の電圧を生成する電圧生成装置である。電圧生成部４０は、例えば、複数のトランジスタを有し、複数のトランジスタのオンオフを切り替えることで複数の電圧を生成する。電圧生成部４０は、プラス側が透明電極３１に接続され、マイナス側が接地されている。電圧生成部４０は、透明電極３１を介して有機薄膜３２に複数の電圧を印加する。
【００５６】
図６は、画像生成装置１にて得られるデータの一例を示す図である。
【００５７】
本実施の形態では、同じ被写体Ｏｂ１を撮像する際に、電圧生成部４０を用いて有機薄膜３２に印加する電圧を変化させる。例えば、画像生成装置１では、有機薄膜３２に対して３つの電圧Ｖ１、Ｖ２、Ｖ３が順に印加され、３つの異なる感度特性が作り出される。撮像部１０は、３つの電圧Ｖ１〜Ｖ３のそれぞれの印加タイミングに対応して撮像を行う。
【００５８】
３つの特性を有する有機薄膜３２によって得られた電荷のそれぞれは、その都度、ＦＤ３８に蓄積される。撮像部１０は、ＦＤ３８に蓄積された電荷によって発生する電位を検出し、この電位をデジタル信号に変換してデータ処理部５０に出力する。また、電圧生成部４０は、データ処理部５０に、印可された電圧の情報（印可電圧の大きさ、印可タイミング）を送信してもよい。
【００５９】
輝度データ取得部５１は、撮像部１０から出力されたデジタル信号によって輝度データを取得する。具体的には図６に示すように、輝度データ取得部５１は、撮像部１０が複数の電圧Ｖ１〜Ｖ３を印加して被写体Ｏｂ１を撮像した際の、複数の電圧Ｖ１〜Ｖ３の印加に対応する複数の輝度データＤ１、Ｄ２、Ｄ３を取得する。
【００６０】
カラー画像生成部５２は、複数の輝度データＤ１〜Ｄ３に基づいてカラー画像Ｄｃを生成する。具体的には、カラー画像生成部５２は、複数の輝度データＤ１〜Ｄ３に対して、予め決められた係数Ａ１（式（２）参照）を掛けあわせ、データ処理を行うことでカラー画像Ｄｃを生成する。なお、カラー画像生成部５２は、印可された電圧の情報を用いて、カラー画像Ｄｃを生成してもよいし、予め決められた印可される電圧の情報を用いて、カラー画像Ｄｃを生成してもよい。つまり、電圧値に応じた係数を用いて、カラー画像Ｄｃが生成されてもよい。カラー画像生成部５２は、生成したカラー画像Ｄｃを、映像出力端子（図示省略）等に出力し、デジタル信号として又はアナログ信号として画像生成装置１の外部に出力する。
【００６１】
［１−２．画像生成方法］
次に、実施の形態の画像生成方法について、図７を参照しながら説明する。ここでは、有機薄膜３２に３つの電圧Ｖ１〜Ｖ３を印加する例を中心に説明する。
【００６２】
図７は、実施の形態１における画像生成方法を示すフローチャートである。
【００６３】
まず、有機薄膜３２に複数の電圧Ｖ１〜Ｖ３を印加して被写体Ｏｂ１を撮像する（Ｍ１０）。また、画像生成装置１は、撮像部１０の撮像によって得られる輝度データであって、複数の電圧Ｖ１〜Ｖ３の印加に対応する複数の輝度データＤ１〜Ｄ３を取得する（Ｍ２０）。これらの内容Ｍ１０及びＭ２０を具体的に示すと以下のようになる。
【００６４】
まず、撮像部１０は、有機薄膜３２に電圧Ｖ１が印加された状態で、被写体Ｏｂ１を撮像する（Ｍ１１）。そして撮像部１０は、撮像によってＦＤ３８に発生した電位をデジタル信号に変換して出力する。輝度データ取得部５１は、撮像部１０から出力されたデジタル信号によって輝度データＤ１を取得する（Ｍ２１）。データ取得後、ＦＤ３８に蓄積された電荷は放出される。
【００６５】
次に、撮像部１０は、有機薄膜３２に電圧Ｖ２（例えばＶ２＞Ｖ１）が印加された状態で、被写体Ｏｂ１を撮像する（Ｍ１２）。そして撮像部１０は、撮像によってＦＤ３８に発生した電位をデジタル信号に変換して出力する。輝度データ取得部５１は、撮像部１０から出力されたデジタル信号によって輝度データＤ２を取得する（Ｍ２２）。データ取得後、ＦＤ３８に蓄積された電荷は放出される。
【００６６】
次に、撮像部１０は、有機薄膜３２に電圧Ｖ３（例えばＶ３＞Ｖ２）が印加された状態で、被写体Ｏｂ１を撮像する（Ｍ１３）。そして撮像部１０は、撮像によってＦＤ３８に発生した電位をデジタル信号に変換して出力する。輝度データ取得部５１は、撮像部１０から出力されたデジタル信号によって輝度データＤ３を取得する（Ｍ２３）。データ取得後、ＦＤ３８に蓄積された電荷は放出される。
【００６７】
画像生成装置１は、これらの内容（Ｍ１０及びＭ２０）を実行することで、３つの輝度データＤ１〜Ｄ３を取得する。
【００６８】
次に、カラー画像生成部５２は、３つの輝度データＤ１〜Ｄ３に基づいて、カラー画像を生成する（Ｍ３０）。具体的には、カラー画像生成部５２は、３つの輝度データＤ１〜Ｄ３に予め決められた係数Ａ１を掛けあわせることでカラー画像Ｄｃ生成する。
【００６９】
ここで、輝度データＤ１〜Ｄ３からカラー画像Ｄｃを生成する方法について、詳しく説明する。図６に示す輝度データＤ１〜Ｄ３及びカラー画像Ｄｃは、撮像した全画素のデータを示しているが、ここでは理解を容易にするため、まず、全画素のうちの１画素に着目して説明する。
【００７０】
１画素に着目した場合、例えば、撮像によって取得した３つの輝度データは、輝度データ（ｉ１、ｉ２、ｉ３）で表される。生成されるカラー画像（ｒ１、ｇ１、ｂ１）は、Ｒ、Ｇ、Ｂの各成分からなり、以下の（式１）で表される。係数Ａ１は、（式２）の変換行列で表される。
【００７１】
【数１】
2020045443.tif 000003
【００７２】
【数２】
2020045443.tif 000004
【００７３】
係数Ａ１のＣｒ１、Ｃｇ１、Ｃｂ１は、有機薄膜３２に電圧Ｖ１を印加したときに表れる特性値であり、Ｃｒ２、Ｃｇ２、Ｃｂ２は、有機薄膜３２に電圧Ｖ２を印加したときに表れる特性値であり、Ｃｒ３、Ｃｇ３、Ｃｂ３は、有機薄膜３２に電圧Ｖ３を印加したときに表れる特性値である。
【００７４】
上記をもとにして、全画素数がｐ（ｐは２以上の整数）であり、有機薄膜３２に印加される異なる電圧の数がＮ（Ｎは２以上の整数）である場合について説明する。この場合、撮像によって取得した複数の輝度データＤ１〜ＤＮは、輝度データ（ｉ１，１〜ｉｐ，Ｎ）で表される。生成されるカラー画像（ｒ１、ｇ１、ｂ１〜ｒｐ、ｇｐ、ｂｐ）は、Ｒ、Ｇ、Ｂの各成分からなり、以下の（式３）で表される。係数Ａは、（式４）の変換行列で表される。
【００７５】
【数３】
2020045443.tif 000005
【００７６】
【数４】
2020045443.tif 000006
【００７７】
係数ＡのＣｒ１、Ｃｇ１、Ｃｂ１は、有機薄膜３２に電圧Ｖ１を印加したときに表れる特性値であり、ＣｒＮ、ＣｇＮ、ＣｂＮは、有機薄膜３２にＮ回目の電圧ＶＮを印加したときに表れる特性値である。
【００７８】
このように、有機薄膜３２に複数Ｎの電圧Ｖ１〜ＶＮを印加して撮像した場合には、撮像によって取得した輝度データＤ１〜ＤＮに、上記係数Ａを掛けあわせることでカラー画像Ｄｃ生成することができる。
【００７９】
［１−３．画像生成方法にて使用される係数の導出方法］
ここで、上記の画像生成方法にて使用される係数Ａの導出方法について説明する。
【００８０】
図８は、画像生成方法にて使用される係数Ａの求め方の一例を示す図である。図８には、複数の色を有するカラーチャートＯｂ２と標準光源とが示されている。本実施の形態で用いられるカラーチャートＯｂ２は、マクベスチャートであり、２４の色を有している。なお、カラーチャートＯｂ２は、マクベスチャートに限られず、各色に対応する各色データが既知となっているサンプル体であってもよい。
【００８１】
まず、撮像部１０を用いてカラーチャートＯｂ２を撮像する。具体的には、異なるＮの電圧Ｖ１〜ＶＮを有機薄膜３２に印加し、それぞれの印加タイミングでカラーチャートＯｂ２を撮像する。これによって（式５）に示すような、３×２４の行列で構成される色データ、３×Ｎの行列で構成される係数Ａ、及び、Ｎ×２４の行列で構成される輝度データを含む行列式を取得する。なお（式５）では、１色を１画素とみなして行列式を形成している。
【００８２】
【数５】
2020045443.tif 000007
【００８３】
【数６】
2020045443.tif 000008
【００８４】
（式４）に示す係数Ａは、（式５）の行列式を、疑似逆行列を使って解くことで導出される。なお、この行列式では、全方程式を満足する解がないため、全方程式の二乗誤差を最小とする解が採用される。
【００８５】
なお、係数Ａは、上記に限られず、ディープラーニングによって導出されてもよい。例えば、係数Ａは、撮像部１０を用いて複数の色を有するカラーチャートＯｂ２を撮像し、当該撮像によって得られた複数の輝度データを入力とし、複数の色に対応するデータを正解データとして学習することで導出されてもよい。この場合、被写体はカラーチャートである必要はなく、各色に対応する各色データが既知となっているサンプル体であってもよい。これは、例えば、通常のカラーカメラで撮影した複数の画像を利用し、カラーカメラのＲ、Ｇ、Ｂの各成分の輝度値を（色５）の左辺に与えればよい。このような被写体を利用することで、実際の撮像シーンに近いデータを学習することができるため、より色再現性の高いカラー画像を生成することができる。
【００８６】
［１−４．画像の生成結果等］
次に、画像生成装置１による画像の生成結果について説明する。
【００８７】
図９は、画像生成装置１にて生成した画像の一例を示す図である。図９の（ａ）は、被写体Ｏｂ１の正解画像であり、（ｂ）は、画像生成装置１にて生成した画像である。
【００８８】
図９の（ｂ）には、有機薄膜３２に電圧値が異なる２つの電圧を印加し、被写体Ｏｂ１を２回撮像して得られた画像が示されている。なお、変換行列である係数Ａは、被写体Ｏｂ１の正解画像が（Ｒ＋Ｇ）成分及びＢ成分で構成される２色画像であると仮定して求めた。また、有機薄膜３２は、可視光を検出する層と近赤外光を検出する層との２層構造で形成されているものを用いた。
【００８９】
同図に示されるように、画像生成装置１にて生成した画像は、被写体Ｏｂ１の色を問題なく再現できている。
【００９０】
［１−５．実施の形態１の変形例１］
次に、実施の形態１の変形例１における画像生成装置１について説明する。変形例１では、撮像する際のシーンに応じて有機薄膜３２に印加する電圧の値を変える例について説明する。
【００９１】
図１０は、画像生成装置１の撮像素子３０の波長−感度特性を示す模式図である。
【００９２】
図１０の（ａ）は、明るい環境にて撮像する場合の感度特性であり、有機薄膜３２に電圧Ｖ１、Ｖ２、Ｖ３が印加され、可視光領域に相当する広い波長領域を使って撮像が行われる例が示されている。図１０の（ｂ）は、（ａ）よりも暗い環境にて撮像する場合の感度特性であり、有機薄膜３２に電圧Ｖ４、Ｖ５、Ｖ６が印加され、近赤外線の領域に近い波長領域を使って撮像が行われる例が示されている。これらの異なる電圧Ｖ１〜Ｖ６は、電圧生成装置４０によって有機薄膜３２に印加される。
【００９３】
電圧Ｖ１〜Ｖ３及び電圧Ｖ４〜Ｖ６の切り替えは、明るいときと暗いときとで使い分けるように画像生成装置１にて予め設定されていてもよい。また、はじめに電圧Ｖ１〜Ｖ３を使って撮像したが、生成されたカラー画像Ｄｃが暗い画像となってしまった場合に、電圧Ｖ４〜Ｖ６を使って撮像するようにしてもよい。つまり、電圧生成部４０は、複数の電圧値セットの情報を有し、電圧値のセットを切り替える。電圧値のセットの例は、第１の電圧値セット（Ｖ１〜Ｖ３）と、第１の電圧値セットよりも撮像環境の明るさが暗いときに利用される第２の電圧値セット（Ｖ４〜Ｖ６）である。
【００９４】
画像生成装置１がセンサをさらに備え、センサ値および電圧値セットが対応付けられた情報と、センサで取得されるセンサ値とに基づいて、電圧値セットが選択されてもよい。又は、画像生成装置１の外部にセンサで取得されたセンサ値を取得して、電圧値セットが選択されてもよい。また、画像生成装置１へのユーザの入力に応じて、電圧値セットが切り替えられてもよい。
【００９５】
また、有機薄膜３２に印加する電圧の値を変えて撮像するのは、環境の明暗だけに限られない。例えば、人間の肌を撮像する場合は、肌色に近い波長領域を使って撮像を行えるように有機薄膜３２に印加する電圧を設定してもよい。
【００９６】
変形例１の画像生成装置１のように、撮像する際のシーンに応じて有機薄膜３２に印加する電圧を変えることで、多様な目的の撮像を行うことができる。
【００９７】
［１−６．実施の形態１の変形例２］
次に、実施の形態１の変形例２における画像生成装置１について説明する。変形例２では、撮像部１０の露光中（露光時間内）に有機薄膜３２に印加される電圧を変調する例について説明する。
【００９８】
図１１は、画像生成装置１の撮像部１０の露光中に、有機薄膜３２に印加されている電圧を示す図である。図１１には、撮像部１０が露光中に、すなわちＦＤ３８が電荷を蓄積している途中に、印加する電圧を変化させる例が示されている。
【００９９】
同図には、３回露光して撮像する際の１回目の撮像中に、まず、有機薄膜３２に電圧Ｖ１を印加し、次に電圧Ｖ２を印加して撮像している。その後、有機薄膜３２に電圧Ｖ２を印加して２回目の撮像を行い、電圧Ｖ３を印加して３回目の撮像を行っている。
【０１００】
このように、１回の露光中に電圧を変調することで、例えば、電圧Ｖ１の印加による感度と電圧Ｖ２の印加による感度の両方の感度を有する特性を作り出すことができる。変形例２の画像生成装置１によれば、目的に応じた感度特性を作りだし、その特性を使って輝度データＤ１〜Ｄ３を取得し、カラー画像Ｄｃを生成することができる。
【０１０１】
（実施の形態２）
実施の形態２の画像生成装置１の構成について説明する。
【０１０２】
図１２は、実施の形態２における画像生成装置１の撮像部１０Ａ及び電圧生成部４０を示す模式図である。
【０１０３】
撮像部１０Ａは、複数のマイクロレンズ２０と、行列状に配置された複数の画素を有する撮像素子３０とを備えている。
【０１０４】
撮像素子３０は、シリコン基板３９と、シリコン基板３９上に設けられたＦＤ３８と、ＦＤ３８に電気的に接続された金属配線３７及び画素電極３６と、画素電極３６上に設けられた有機薄膜３２と、有機薄膜３２上に設けられた透明電極３１とを有している。
【０１０５】
本実施の形態の有機薄膜３２は、近赤外光を検出する第１の有機薄膜３２ａと、可視光を検出する第２の有機薄膜３２ｂとの積層構造によって構成されている。
【０１０６】
また本実施の形態では、第２の有機薄膜３２ｂが、第１の有機薄膜３２ａ上に形成されている。すなわち、可視光（ＲＧＢ）を検出する第２の有機薄膜３２ｂが、近赤外光（ＮＩＲ）を検出する第１の有機薄膜３２ａよりも被写体Ｏｂ１側に設けられている。この構造によれば、第２の有機薄膜３２ｂにて可視光を検出してその可視光を取り除いた後に、第１の有機薄膜３２ａにて近赤外光を検出することができるので、近赤外光の検出性能を向上することができる。
【０１０７】
また、実施の形態２では、複数の有機薄膜３２ａ、３２ｂに印加される複数の電圧の数は、複数の有機薄膜３２ａ、３２ｂの数以上となっている。例えば、実施の形態２では、２つの有機薄膜３２ａ及び３２ｂのそれぞれに、３つの電圧Ｖ１〜Ｖ３が印加されるため、有機薄膜３２が１層で形成されている場合に比べて、より多くの感度特性を作り出すことができる。これにより、より正確な感度特性を使って再現性の高いカラー画像Ｄｃを生成することができる。
【０１０８】
（実施の形態３）
実施の形態３の画像生成装置１の構成について説明する。
【０１０９】
図１３は、実施の形態３における画像生成装置１の撮像部１０Ｂ及び電圧生成部４０を示す模式図である。
【０１１０】
撮像部１０Ｂは、複数のマイクロレンズ２０と、行列状に配置された複数の画素を有する撮像素子３０とを備えている。
【０１１１】
撮像素子３０は、シリコン基板３９と、シリコン基板３９上に設けられたＦＤ３８と、ＦＤ３８に電気的に接続された金属配線３７及び画素電極３６と、画素電極３６上に設けられた有機薄膜３２と、有機薄膜３２上に設けられた透明電極３１とを有している。
【０１１２】
本実施の形態の有機薄膜３２は、近赤外光（ＮＩＲ）を検出する第１の有機薄膜３２ａと、可視光（ＲＧＢ）を検出する第２の有機薄膜３２ｂとの積層構造によって構成されている。また、第２の有機薄膜３２ｂは、３層構造であり、画素電極３６上にＲ層３２ｂ１、Ｇ層３２ｂ２、Ｂ層３２ｂ３の順で積層されている。例えば、Ｒ層３２ｂ１は、光のＲ成分を検出する層であり、Ｇ層３２ｂ２は、光のＧ成分を検出する層であり、Ｂ層３２ｂ３は、光のＢ成分を検出する層である。
【０１１３】
また本実施の形態では、第１の有機薄膜３２ａが、第２の有機薄膜３２ｂ上に形成されている。すなわち、近赤外光を検出する第１の有機薄膜３２ａが、可視光を検出する第２の有機薄膜３２ｂよりも被写体Ｏｂ１側に設けられている。この構造によれば、第１の有機薄膜３２ａにて近赤外光を検出してその近赤外光を取り除いた後に、第２の有機薄膜３２ｂにて可視光を検出することができるので、可視光の色再現性を向上することができる。
【０１１４】
（他の実施の形態）
以上のように、本開示に係る技術の例示として実施の形態を説明した。しかしながら、本開示に係る技術は、これらの実施の形態に限定されず、適宜、変更、置き換え、付加、省略等を行った実施の形態にも適用可能である。即ち、本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を上記実施の形態に施した形態、互いに異なる実施の形態における構成要素を組み合わせて構築される形態等は、本開示に係る技術の一実施態様に含まれる。
【０１１５】
また、上記の実施の形態で示した画像生成装置の各構成要素（特に、データ処理部５０を含む各回路等）は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェア（プログラム）を実行することによって実現されてもよい。各構成要素は、マイクロプロセッサ等のプログラム実行部が、ハードディスク又は半導体メモリ等の記憶媒体（或いは記録媒体）に記録されたプログラムを読み出して実行することによって、実現されてもよい。
【０１１６】
また、画像生成装置に含まれる複数の回路は、全体として１つの回路を構成してもよいし、それぞれ別々の回路でもよい。また、これらの回路は、それぞれ、汎用的な回路でもよいし、専用の回路でもよい。また、例えば、上記実施の形態における特定の構成要素が実行する処理を特定の構成要素の代わりに別の構成要素が実行してもよい。また、上記実施の形態における各種処理の実行順序が変更されてもよいし、複数の処理が並行して実行されてもよい。
【産業上の利用可能性】
【０１１７】
本開示に係る画像生成装置は、カラーフィルタを備えていない撮像装置を用いてカラー画像を生成する装置として適用可能である。
【符号の説明】
【０１１８】
１      画像生成装置
１０、１０Ａ、１０Ｂ  撮像部
２０    マイクロレンズ
３０    撮像素子
３１    透明電極
３２、ＯＰＦ  有機薄膜
３２ａ  第１の有機薄膜
３２ｂ  第２の有機薄膜
３２ｂ１  Ｒ層
３２ｂ２  Ｇ層
３２ｂ３  Ｂ層
３６    画素電極
３７    金属配線
３８    ＦＤ（フローティングディフュージョン）
３９    シリコン基板
４０    電圧生成部
５０    データ処理部
５１    輝度データ取得部
５２    カラー画像生成部
Ａ、Ａ１  係数（変換行列）
Ｄ１、Ｄ２、Ｄ３  輝度データ
Ｄｃ    カラー画像
Ｏｂ１  被写体
Ｏｂ２  カラーチャート
【図１】
2020045443.tif 000009
【図２】
2020045443.tif 000010
【図３】
2020045443.tif 000011
【図４】
2020045443.tif 000012
【図５】
2020045443.tif 000013
【図６】
2020045443.tif 000014
【図７】
2020045443.tif 000015
【図８】
2020045443.tif 000016
【図９】
2020045443.tif 000017
【図１０】
2020045443.tif 000018
【図１１】
2020045443.tif 000019
【図１２】
2020045443.tif 000020
【図１３】
2020045443.tif 000021
【国際調査報告】
2020045443.tif 000022
2020045443.tif 000023
2020045443.tif 000024
2020045443.tif 000025