(57)【要約】【課題】ハイダイナミックレンジ動画撮影方法を提供する。【解決手段】本発明に係るハイダイナミックレンジ動画撮影方法は、画像センサを用いて互いに交錯された複数の長露光領域及び複数の短露光領域からなる複数の画素を含む本来映像を撮影するステップ（Ｓ５１）と、複数の長露光領域が長露光フィールドに形成され、複数の短露光領域が短露光フィールドに形成されるステップ（Ｓ５２、Ｓ５３）と、長露光フィールド及び短露光フィールドの各々の画素の画素値に基づいて、再構築工程を経て本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドを形成するステップ（Ｓ５４、Ｓ５５）と、結合工程を経て再構築した長露光フィールド及び再構築した短露光フィールドの各々の画素の画素値に基づいて、ハイダイナミックレンジ映像を形成するステップ（Ｓ５６）と、を含む。【選択図】図２
2015027067.tif 000002
【特許請求の範囲】
【請求項１】
画像センサを備える電気製品に適用されるハイダイナミックレンジ動画撮影方法であって、
前記画像センサを用いて互いに交錯された複数の長露光領域及び複数の短露光領域からなる複数の画素を含む本来映像を撮影するステップと、
前記複数の長露光領域が長露光フィールドに形成され、前記複数の短露光領域が短露光フィールドに形成されるステップと、
前記長露光フィールド及び前記短露光フィールドの各々の画素の画素値に基づいて、再構築工程を経て前記本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドを形成するステップと、
結合工程を経て前記再構築した長露光フィールド及び前記再構築した短露光フィールドの各々の画素の画素値に基づいて、ハイダイナミックレンジ映像を形成するステップと、を含み、
前記画素値は、０から２ｘ−１までの整数値であり、ｘは、前記画像センサのバイト数であり、異なる画素値は異なる輝度に対応し、前記複数の長露光領域の長露光時間と前記複数の短露光領域の短露光時間との比は、露光時間比（Ｒ）であることを特徴とする、ハイダイナミックレンジ動画撮影方法。
【請求項２】
前記各長露光領域は、少なくとも１列の画素を含み、前記各短露光領域は、少なくとも１列の画素を含むことを特徴とする、請求項１に記載のハイダイナミックレンジ動画撮影方法。
【請求項３】
前記画像センサの第１列及び第２列の露光時間は、前記長露光時間とし、第３列及び第４列の露光時間は、前記短露光時間とすることを特徴とする、請求項２に記載のハイダイナミックレンジ動画撮影方法。
【請求項４】
前記再構築工程は、
前記複数の短露光領域の欠落部分が対応して補足されるように、前記複数の長露光領域の各画素の画素値を前記露光時間比（Ｒ）で割るとともに、前記複数の短露光領域と組み合わせることによって前記再構築した短露光フィールドを形成するステップと、
前記複数の長露光領域の欠落部分が対応して補足されるように、前記複数の短露光領域の各画素の画素値に前記露光時間比（Ｒ）を掛けるとともに、前記複数の長露光領域と組み合わせることによって前記再構築した長露光フィールドを形成するステップと、
を含むことを特徴とする、請求項１〜３のいずれか一項に記載のハイダイナミックレンジ動画撮影方法。
【請求項５】
前記結合工程は、前記再構築した長露光フィールドの各画素及び前記再構築した短露光フィールドに対応する各画素の画素値を逐次比較し、比較結果に基づいて、
前記再構築した長露光フィールドの画素値が第１既定値より大きい場合、前記再構築した長露光フィールドの画素値に代えて、前記再構築した短露光フィールドの画素値掛けるＲの値を前記ハイダイナミックレンジ映像の画素値とするステップと、
前記再構築した短露光フィールドの画素値が第２既定値より小さい場合、前記再構築した短露光フィールドの画素値に代えて、前記再構築した長露光フィールドの画素値割るＲの値を前記ハイダイナミックレンジ映像の画素値とするステップと、
を行うことを特徴とする、請求項４に記載のハイダイナミックレンジ動画撮影方法。
【請求項６】
前記結合工程は、さらに、
前記再構築した長露光フィールドの画素値が前記第２既定値より小さい場合、前記複数の長露光領域の前記長露光時間を延長するステップと、
前記再構築した短露光フィールドの画素値が前記第１既定値より大きい場合、前記複数の短露光領域の前記短露光時間を短縮するステップと、
前記再構築した長露光フィールド及び前記再構築した短露光フィールドの画素値のいずれも前記第１既定値と前記第２既定値との間にある場合、前記再構築した長露光フィールドの画素値を前記ハイダイナミックレンジ映像の画素値とするステップと、
を含むことを特徴とする、請求項５に記載のハイダイナミックレンジ動画撮影方法。
【請求項７】
前記第１既定値が２５０であり、前記第２既定値が１０であることを特徴とする、請求項５または請求項６に記載のハイダイナミックレンジ動画撮影方法。
【請求項８】
前記再構築工程及び前記結合工程は、前記複数の長露光領域の欠落部分の各画素に対し、
前記複数の長露光領域の欠落部分の画素に対応する短露光領域の画素の画素値が第３既定値より小さい場合、前記複数の長露光領域の欠落部分の前記画素に対応する上下長露光領域の２つの画素の画素値の平均値を前記画素の画素値とするステップと、
前記複数の長露光領域の欠落部分の画素に対応する短露光領域の画素の画素値が前記第３既定値と第４既定値との間にある場合、前記複数の長露光領域の欠落部分の前記画素に対応する短露光領域の画素の画素値掛けるＲの値が前記画素の画素値となるステップと、
を行うことを特徴とする、請求項１に記載のハイダイナミックレンジ動画撮影方法。
【請求項９】
前記再構築工程は、さらに、前記複数の短露光領域の欠落部分の各画素に対し、
前記複数の短露光領域の欠落部分の画素に対応する長露光領域の画素の画素値が前記第４既定値より大きい場合、前記複数の短露光領域の欠落部分の前記画素に対応する上下短露光領域の２つの画素の画素値の平均値を前記画素の画素値とするステップと、
前記複数の短露光領域の欠落部分の画素に対応する長露光領域の画素の画素値が前記第３既定値と第４既定値との間にある場合、前記複数の短露光領域の欠落部分の前記画素に対応する短露光領域の画素の画素値割るＲの値が前記画素の画素値となるステップと、
を行うことを特徴とする、請求項８に記載のハイダイナミックレンジ動画撮影方法。
【請求項１０】
前記第３既定値が１０であり、前記第４既定値が２５０であることを特徴とする、請求項８または請求項９に記載のハイダイナミックレンジ動画撮影方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施例は、ハイダイナミックレンジ動画撮影方法に係り、特に、インターレース式画像センサを用いて単枚の画面上に２種類の異なる露光時間の露光情報を得るとともに、２種類の異なる露光時間の露光情報を結合して１枚のハイダイナミックレンジ映像を形成する方法に関するものである。
【背景技術】
【０００２】
現在の消費型デジタルカメラまたはウェブカメラ（Ｗｅｂｃａｍ）のダイナミックレンジ（Ｄｙｎａｍｉｃ  Ｒａｎｇｅ）（輝度信号の最大値と最小値との比）が約４００である。然しながら、室内場面のダイナミックレンジのほとんどが１５００を越えており、その上室外場面のダイナミックレンジも時には１０５までに達する。そのため、前述のような機器では、場面における部分的な輝度情報しか捕捉できない。つまり、前述のような機器では、場面における全ての輝度情報を同時に捕捉することができなかった。
【０００３】
上記問題を解消するため、Ｐ．Ｅ．Ｄｅｂｅｖｅｃ氏らが１９９７年に発表したハイダイナミックレンジ映像の技術としては、例えば「Ｐａｕｌ  Ｅ．  Ｄｅｂｅｖｅｃ，Ｊｉｔｅｎｄｒａ  Ｍａｌｉｋ，“Ｒｅｃｏｖｅｒｉｎｇ  Ｈｉｇｈ  Ｄｙｎａｍｉｃ  Ｒａｎｇｅ  Ｒａｄｉａｎｃｅ  Ｍａｐｓ  ｆｒｏｍ  Ｐｈｏｔｏｇｒａｐｈｓ”，ＳＩＧＧＲＡＰＨ（１９９７）」の記載が参照され、即ち複数枚の異なる露光時間の映像を結合する方法が提案された。しかし、このような技術は、図１に示すように、静止した映像しか適用できない、その原因は、２枚の映像内の物体が移動でもすると、結合後の映像は、ゴースト現象（Ｇｈｏｓｔ  Ｅｆｆｅｃｔ）が生じるからである。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】Ｐａｕｌ  Ｅ．  Ｄｅｂｅｖｅｃ，Ｊｉｔｅｎｄｒａ  Ｍａｌｉｋ，“Ｒｅｃｏｖｅｒｉｎｇ  Ｈｉｇｈ  Ｄｙｎａｍｉｃ  Ｒａｎｇｅ  Ｒａｄｉａｎｃｅ  Ｍａｐｓ  ｆｒｏｍ  Ｐｈｏｔｏｇｒａｐｈｓ”，ＳＩＧＧＲＡＰＨ（１９９７）
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本発明は、インターレース式画像センサ（Ｉｎｔｅｒｌａｃｅｄ  Ｉｍａｇｅ  Ｓｅｎｓｏｒ）を用いて単枚の画面（Ｆｒａｍｅ）上に２種類の異なる露光時間の露光情報を同時に得て、これらの２種類の露光情報を結合することによって、ゴースト現象を生じることがない、ハイダイナミックレンジ動画撮影方法を提供することを目的とする。ここで注目すべき点は、本方法の低演算量の特性により、撮影されたハイダイナミックレンジ映像を即時に使用者に提供することができる、という点である。
【課題を解決するための手段】
【０００６】
本発明の目的に基づいて、ハイダイナミックレンジ動画撮影方法を提供する。この方法は、画像センサを用いて互いに交錯された複数の長露光領域及び複数の短露光領域からなる複数の画素を含む本来映像を撮影するステップと、複数の長露光領域が長露光フィールドに形成され、複数の短露光領域が短露光フィールドに形成されるステップと、長露光フィールド及び短露光フィールドの各々の画素の画素値に基づいて、再構築工程を経て本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドを形成するステップと、結合工程を経て再構築した長露光フィールド及び再構築した短露光フィールドの各々の画素の画素値に基づいて、ハイダイナミックレンジ映像を形成するステップと、を含む。そのうち、画素値は、０から２ｘ−１までの整数値であり、ｘは、前記画像センサのバイト数であり、異なる画素値は異なる輝度に対応し、複数の長露光領域の長露光時間と前記複数の短露光領域の短露光時間との比は、露光時間比（Ｒ）である。
【発明の効果】
【０００７】
上記の通り、本発明のハイダイナミックレンジ動画撮影方法は、インターレース式画像センサを用いて互いに交錯された長露光領域及び短露光領域からなる本来映像を撮影し、再構築工程で長露光領域及び短露光領域の欠落部分を補正することによって、本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドが形成されてから、結合工程で再構築した長露光フィールド及び再構築した短露光フィールドを結合することでハイダイナミックレンジ映像を形成する。本発明は、映像の再構築により、一般使用されているインターレース式画像センサによる解像度が半分減少することによって引き起こされる映像品質の低下問題を解決することができる。
【図面の簡単な説明】
【０００８】
【図１】従来技術の方法によるゴースト現象を示す模式図である。
【図２】本発明の第１実施例に係るハイダイナミックレンジ動画撮影方法のフローチャートである。
【図３】本発明に係るインターレース式画像センサで捕捉されたハイダイナミックレンジ場面の本来映像を示す模式図である。
【図４】本発明に係る長露光フィールド及び短露光フィールドを示す模式図である。
【図５】本発明に係る長露光フィールドの画素値と短露光フィールドの画素値に対応する輝度を示す模式図である。
【図６】本発明に係る輝度と、長露光フィールドの画素値及び短露光フィールドの画素値との関係図である。
【図７】本発明に係る再構築した長露光フィールドと再構築した短露光フィールドを示す模式図である。
【発明を実施するための形態】
【０００９】
本発明をより完全に理解するために、本発明の技術特徴、内容と長所及びそれが達成できる作用効果については、添付図面を参照して、実施例の表現形式で以下のように詳細に説明される。なお、使用された図面は、単に例示または明細書内容を補助する目的としたものであって、本発明の実施後の原寸に比例したものや精確に配置したものには何ら拘束されない。よって、図示された図面は、添付図面の比例と配置関係で解釈されてはならず、本発明を実際に実施する権利範囲に制限することを意図したものではないことについて先に説明しておきたい。
【００１０】
本発明が提案するハイダイナミックレンジ動画撮影方法は、使用者にインターレース式画像センサで複数の長露光領域及び複数の短露光領域を有する本来映像を撮影するものを提供する。長露光領域に捕捉された映像情報を用いて再構築工程中に場面の暗い部分を提供するとともに、短露光領域に捕捉された映像情報を用いて再構築工程中に場面の明るい部分を提供する。映像品質の低下という欠点を避けるために、再構築工程及び結合工程を経てハイダイナミックレンジ映像を形成する。また、本方法は、低演算量の特性があるので、使用者は、撮影されたハイダイナミックレンジ映像を即時に表示することができる。
【００１１】
本発明に係るハイダイナミックレンジ動画撮影方法は、画像センサを備える任意の電気製品に応用することが可能であり、例えば、携帯電話、デジタルカメラ、タブレットパソコン、ノートパソコンなどが挙げられる。
【００１２】
＜第１実施例＞
図２は、本発明の第１実施例に係るハイダイナミックレンジ動画撮影方法のフローチャートである。図２に示すステップＳ５１〜Ｓ５６の詳細について、以下に説明する。
【００１３】
Ｓ５１：インターレース式画像センサを用いてハイダイナミックレンジ場面の本来映像を捕捉する。
【００１４】
Ｓ５２：本来映像から解像度が本来映像の半分である長露光フィールドを取得する。
【００１５】
Ｓ５３：本来映像から解像度が本来映像の半分である短露光フィールドを取得する。
【００１６】
Ｓ５４：短露光フィールドの情報を用いて長露光フィールドの解像度を本来映像の解像度と同じくなるように再構築する。
【００１７】
Ｓ５５：長露光フィールドの情報を用いて短露光フィールドの解像度を本来映像の解像度と同じくなるように再構築する。
【００１８】
Ｓ５６：長露光フィールド及び短露光フィールドを結合することによってハイダイナミックレンジ映像を得る。
【００１９】
本発明は、インターレース式画像センサを用いてハイダイナミックレンジ場面の本来映像を捕捉する。前記インターレース式画像センサとしては、ベイヤー配列式（Ｂａｙｅｒ  Ｐａｔｔｅｒｎ）画像センサであってもよい。その画像センサは、第１列と第２列の露光時間をより長く設定してもよく、それで捕捉された映像情報を用いて映像場面における低輝度な部分を再構築する一方、第３列と第４列の露光時間をより短く設定してもよく、それで捕捉された映像情報を用いて映像場面における高輝度な部分を再構築する。その他はこれによって類推すればよい。従って、本来映像は、解像度が本来映像の半分である複数の長露光フィールドと、解像度が本来映像の半分である複数の短露光フィールドと、を結合してなるものであってもよい。続いて、再構築工程において、短露光領域の情報を用いて長露光領域の欠落部分を補足することによって、解像度が本来映像と同じである長露光フィールドを形成すると同時に、長露光領域の情報を用いて短露光領域の欠落部分を補足することによって、解像度が本来映像と同じである短露光フィールドを形成する。最後に、結合工程において、長露光フィールド及び短露光フィールドの情報を結合することによって、ハイダイナミックレンジ映像を得る。
【００２０】
図３は、本発明に係るインターレース式画像センサで捕捉されたハイダイナミックレンジ場面の本来映像を示す模式図である。以下の説明をより容易に理解するために、ここでは、８×８の解像度を用いて説明する。それにより、本来映像は、第１長露光領域１０１と、第１短露光領域１０２と、第２長露光領域１０３と、第２短露光領域１０４とが交錯して構成される。説明すべき点は、露光領域のいずれも連続２列の画像センサ素子を有する必要はなく、第１列の露光時間をより長く設定し、第２列の露光時間をより短く設定し、第３列の露光時間をより長く設定し、第２列の露光時間をより短く設定してもよい。このように交錯することによって本来映像が捕捉される。なお、本実施例では、少なくとも１列の横方向の画像センサ素子を露光領域としているが、本発明はこれに限らず、露光領域を縦方向の画像センサ素子と定義してもよく、例えば第１行と第２行の露光時間をより長く設定し、第３行と第４行の露光時間をより短く設定してもよい。
【００２１】
図４は、本発明に係る長露光フィールド及び短露光フィールドを示す模式図である。図３及び図４を同時に参照して、長露光フィールド１０５は、第１長露光領域１０１及び第２長露光領域１０３を含んでもよいし、短露光フィールド１０６は、第１短露光領域１０２及び第２短露光領域１０４を含んでもよい。図４に示すように、長露光フィールド１０５及び短露光フィールド１０６には、それぞれ場面における異なる部分が捕捉される。
【００２２】
図５は、本発明に係る長露光フィールドの画素値と短露光フィールドの画素値に対応する輝度を示す模式図である。環境における同一輝度の光源には、露光時間の差により異なる画素値（Ｐｉｘｅｌ  Ｖａｌｕｅ）が形成される。ｘを画像センサのバイト数と仮定すれば、画素値は、０から２ｘ−１までの整数値になる。さらに、長露光フィールドの露光時間と短露光フィールドの露光時間との比を露光時間比（Ｒ）と仮定する。この場合、同じ輝度の光源において、長露光フィールドと短露光フィールドに捕捉された映像の画素値の間には、Ｒ倍の差がある。例えば、本実施例において、同じ輝度の条件下、長露光フィールドの画素値がＲとすると、短露光フィールドの画素値が１となる。また、同じ輝度の条件下、長露光フィールドの画素値が２ｘとすると、短露光フィールドの画素値が２ｘ／Ｒとなる。説明すべき点は、本模式図の映像暗領域が短露光フィールドの捕捉能力を超えると、この時の短露光フィールドにおいては、この映像暗領域の画素値のいずれも０または１つの既定値より小さくなる。そのため、再構築工程において、この暗領域の情報は、長露光フィールドに捕捉された映像情報により再構築される。相対的に、本模式図の映像明領域が長露光フィールドの捕捉能力を超えると、この時の長露光フィールドにおいては、この映像明領域の画素値のいずれも２５５または１つの既定値より大きくなる。そのため、再構築工程において、この明領域の情報は、短露光フィールドに捕捉された映像情報により再構築される。
【００２３】
図６は、本発明に係る輝度と、長露光フィールドの画素値及び短露光フィールドの画素値との関係図である。説明の便宜のため、ここでは画像センサのバイト数を８と仮定すると、画像値の最大値が２８−１＝２５５となり、露光時間比Ｒを４と仮定すると、長露光フィールドに捕捉可能な輝度が１から１０００までの範囲にあり、それに対応する画像値が０から２５５までの範囲にある（１から１０００までの範囲にある輝度のいずれも長露光フィールドの捕捉能力の範囲内に含まれることを仮定し、露光過度または暗すぎて映像の細部を損なうことにならない）。露光時間比Ｒが４であるため、短露光フィールドに捕捉可能な輝度が４から４０００までの範囲になる（４から４０００までの範囲にある輝度のいずれも短露光フィールドの捕捉能力の範囲内に含まれることを仮定し、露光過度または暗すぎて映像の細部を損なうことにならない）。０から２５５までの範囲にある長露光フィールドの画素値は、１から１０００までの範囲にある輝度に線形的に対応しており、また０から２５５までの範囲にある短露光フィールドの画素値は、４から４０００までの範囲にある輝度に線形的に対応している。また、同じ画素値の条件下、短露光フィールドの輝度は、長露光フィールドの輝度の４倍になる。一方、同じ輝度の条件下、長露光フィールドの画素値は、短露光フィールドの画素値の４倍になる。これにより、画像センサが本来捕捉可能な輝度が１から１０００までの範囲とすると、本発明ではインターレース式画像センサを用いることによって捕捉可能な輝度を１から４０００までの範囲に拡張する。簡単に言えば、画像センサの本来のダイナミックレンジ比がＤとすると、本方法によりダイナミックレンジ比がＲ×Ｄであるハイダイナミックレンジ映像が得られる。
【００２４】
具体的な実施例において、露光時間比Ｒは、使用者自身により決定される。露光時間比Ｒが決定された後、一般のカメラの自動露光（Ａｕｔｏ  Ｅｘｐｏｓｕｒｅ）機能で露光時間Ａを決定し、長露光フィールドと短露光フィールドの露光時間は、Ａを基準として対称的に伸縮し、即ち長露光フィールドと短露光フィールドの露光時間の平均値がＡとなる。例えば、露光時間比Ｒが３である場合、長露光フィールドの露光時間が１．５Ａとなり、短露光フィールドの露光時間が０．５Ａとなる。露光時間比Ｒが７である場合、長露光フィールドの露光時間が１．７５Ａとなり、短露光フィールドの露光時間が０．２５Ａとなる。
【００２５】
図７は、本発明に係る再構築した長露光フィールドと再構築した短露光フィールドを示す模式図である。図４、図５、図６及び図７を同時に参照して、再構築した長露光フィールド１０７は、短露光フィールド１０６の全ての画素（第１短露光領域１０２及び第２短露光領域１０４）の画素値にＲを掛けた後、長露光フィールド１０５（第１長露光領域１０１及び第２長露光領域１０３）と組み合わせることによって形成される一方、再構築した短露光フィールド１０８は、長露光フィールド１０５の全ての画素（第１長露光領域１０１及び第２長露光領域１０３）の画素値をＲで割った後、短露光フィールド１０６（第１短露光領域１０２及び第２短露光領域１０４）と組み合わせることによって形成される。本発明の再構築工程は、長露光フィールド１０５及び短露光フィールド１０６を用いて、お互いの欠落部分の情報を再構築するので、一般使用されているインターレース式画像センサによる垂直方向の解像度が半分減少することがない。伝統的な画像内挿法と違って、本方法は、ぼかし（Ｂｌｕｒ）やエイリアシング（Ａｌｉａｓｉｎｇ）などの欠陥がない。
【００２６】
図７に示すように、再構築工程を完了して再構築した長露光フィールド１０７（解像度８×８）及び再構築した短露光フィールド１０８（解像度８×８）を得た後、続いて結合工程を行う。結合工程は、前記再構築した長露光フィールド１０７の各画素及び前記再構築した短露光フィールド１０８に対応する各画素の画素値を逐次比較することを含む。以下の説明をより容易に理解するために、再構築した長露光フィールド１０７の第１列の第１個目の画素をａとし、再構築した短露光フィールド１０８の第１列の第１個目の画素をｂとすると、画素ａの画素値（Ｐｉｘｅｌ  Ｖａｌｕｅ）は、ＰＶ（ａ）で表され、画素ｂの画素値は、ＰＶ（ｂ）で表される。画素値が高すぎても低すぎても、いずれも情報としての価値がない。従って、例えば画素値の第１既定値を２５０と設定し、第２既定値を１０と設定するように、それぞれの既定値を設定しておくのが好ましい。この場合、画素値が第１既定値２５０を超えると、この領域の輝度が高すぎることを示し、取得された情報のいずれも不正確な情報である。また、画素値が第２既定値１０より低いと、この領域の輝度が低すぎることを示し、取得された情報のいずれも不正確な情報である。
【００２７】
上記のように、再構築した長露光フィールド１０７及び再構築した短露光フィールド１０８を結合する工程において、以下のような５種類の状態が発生し得る。ＰＶ（ａ）が第１既定値２５０より大きい場合、この領域の輝度が高すぎることを示し、再構築した長露光フィールド１０７の捕捉能力を既に超えた状態では、ＰＶ（ａ）に代えて、ＰＶ（ｂ）×Ｒをハイダイナミックレンジ映像の画素値とする。ＰＶ（ｂ）が第２既定値１０より小さい場合、この領域の輝度が低すぎることを示し、再構築した短露光フィールド１０８の捕捉能力を既に超えた状態では、ＰＶ（ｂ）に代えて、ＰＶ（ａ）／Ｒをハイダイナミックレンジ映像の画素値とする。ＰＶ（ａ）が第２既定値１０より小さい場合、この領域に長露光時間を設定して用いても輝度が暗すぎることを示し、そのため、第１長露光領域１０１及び第２長露光領域１０３の露光時間を延長することによって、この領域の輝度が暗すぎる問題を解決することができる。ＰＶ（ｂ）が第１既定値２５０より大きい場合、この領域に短露光時間を設定して用いても輝度が明すぎることを示し、そのため、第１短露光領域１０２及び第２短露光領域１０４の露光時間を短縮することによって、この領域の輝度が明すぎる問題を解決することができる。ＰＶ（ａ）及びＰＶ（ｂ）のいずれも第２既定値１０と第１既定値２５０との間にある場合、ＰＶ（ａ）をハイダイナミックレンジ映像の画素値とする。
【００２８】
＜第２実施例＞
本発明の第２実施例は、図４を参照して説明する。第２実施例と第１実施例との相異点は、長露光フィールド１０５及び短露光フィールド１０６が形成された後の再構築と結合工程であり、それらを以下のように述べる。図４に示すように、画素ｃ，ｄ，ｅ，ｆ，ｇ，ｈの画素値は、それぞれＰＶ（ｃ），ＰＶ（ｄ），ＰＶ（ｅ），ＰＶ（ｆ），ＰＶ（ｇ），ＰＶ（ｈ）で表される。長露光フィールドにおける欠落した画素ｇを再構築しようとする時、まず画素ｅの画素値ＰＶ（ｅ）の判断を行い、ＰＶ（ｅ）が第３既定値１０より小さい場合、画素ｅに何らの情報もないことを示し、（ＰＶ（ｃ）＋ＰＶ（ｄ））／２を画素ｇの画素値ＰＶ（ｇ）とする。ＰＶ（ｅ）が第３既定値１０と第４既定値２５０との間にある場合、ＰＶ（ｅ）×Ｒを画素ｇの画素値ＰＶ（ｇ）とする。短露光フィールドにおける欠落した画素ｈを再構築しようとする時、まず画素ｄの画素値ＰＶ（ｄ）の判断を行い、ＰＶ（ｄ）が第４既定値２５０より大きい場合、画素ｄに何らの情報もないことを示し、（ＰＶ（ｅ）＋ＰＶ（ｆ））／２を画素ｈの画素値ＰＶ（ｈ）とする。ＰＶ（ｅ）が第３既定値１０と第４既定値２５０との間にある場合、ＰＶ（ｄ）／２Ｒを画素ｈの画素値ＰＶ（ｈ）とする。上記の方法によれば、長露光フィールド１０５及び短露光フィールド１０６の全ての画素が補足完了した後、再構築工程が完了される。
【００２９】
上記のように、本発明の第２実施例では、インターレース式画像センサを用いて互いに交錯された複数の長露光領域及び複数の短露光領域からなる本来映像を撮影した後、長露光フィールド１０５に対応する画素の画素値を補足するため、直接に短露光フィールド１０６の画素値にＲを掛けないで、それに代えて、まず短露光フィールド１０６の画素値が有効（画素値が１０から２５０までの範囲にある）かどうかを判断してから、その画素値にＲを掛けることによって長露光フィールド１０５に対応する画素の画素値が補足される。このようにして、無効な画素値を用いて演算し、また無効な数値が出ることを避けられる。言い換えれば、第２実施例の再構築工程と結合工程は、単一工程で完了される。
【産業上の利用可能性】
【００３０】
上記を総合すると、本発明に提案するハイダイナミックレンジ動画撮影方法は、使用者にインターレース式画像センサで複数の長露光領域及び複数の短露光領域を有する本来映像を撮影するものを提供する。長露光領域に捕捉された映像情報を用いて再構築及び結合工程中に場面の暗い部分を提供するとともに、短露光領域に捕捉された映像情報を用いて再構築及び結合工程中に場面の明るい部分を提供する。画像センサの本来のダイナミックレンジ比がＤとすると、本方法によりダイナミックレンジ比がＲ×Ｄであるハイダイナミックレンジ映像が得られ、そのうち、Ｒは、露光時間比を示す。ここで注目すべき点は、本方法では、低演算量の特性があるので、使用者は、撮影されたハイダイナミックレンジ映像を即時に表示することができる、という点である。
【符号の説明】
【００３１】
Ｓ５１〜Ｓ５６  ステップ、
１０１  第１長露光領域、
１０２  第１短露光領域、
１０３  第２長露光領域、
１０４  第２短露光領域、
１０５  長露光フィールド、
１０６  短露光フィールド、
１０７  再構築した長露光フィールド、
１０８  再構築した短露光フィールド。
【図１】
2015027067.tif 000003
【図２】
2015027067.tif 000004
【図３】
2015027067.tif 000005
【図４】
2015027067.tif 000006
【図５】
2015027067.tif 000007
【図６】
2015027067.tif 000008
【図７】
2015027067.tif 000009
【手続補正書】
【提出日】平成26年11月27日(2014.11.27)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
画像センサを備える電気製品に適用されるハイダイナミックレンジ動画撮影方法であって、
前記画像センサを用いて交互に配列された複数の長露光領域及び複数の短露光領域からなる複数の画素を含む本来映像を撮影するステップと、
前記複数の長露光領域が長露光フィールドに形成され、前記複数の短露光領域が短露光フィールドに形成されるステップと、
前記長露光フィールド及び前記短露光フィールドの各々の画素の画素値に基づいて、再構築工程を経て前記本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドを形成するステップと、
結合工程を経て前記再構築した長露光フィールド及び前記再構築した短露光フィールドの各々の画素の画素値に基づいて、ハイダイナミックレンジ映像を形成するステップと、を含み、
前記画素値は、０から２ｘ−１までの整数値であり、ｘは、前記画像センサのバイト数であり、異なる画素値は異なる輝度に対応し、前記複数の長露光領域の長露光時間と前記複数の短露光領域の短露光時間との比を、露光時間比（Ｒ）とすると共に、
前記再構築工程は、
前記複数の短露光領域の欠落部分が対応して補足されるように、前記複数の長露光領域の各画素の画素値を前記露光時間比（Ｒ）で割るとともに、前記複数の短露光領域と組み合わせることによって前記再構築した短露光フィールドを形成するステップと、
前記複数の長露光領域の欠落部分が対応して補足されるように、前記複数の短露光領域の各画素の画素値に前記露光時間比（Ｒ）を掛けるとともに、前記複数の長露光領域と組み合わせることによって前記再構築した長露光フィールドを形成するステップと、
を含むことを特徴とする、ハイダイナミックレンジ動画撮影方法。
【請求項２】
前記各長露光領域は、少なくとも１列の画素を含み、前記各短露光領域は、少なくとも１列の画素を含むことを特徴とする、請求項１に記載のハイダイナミックレンジ動画撮影方法。
【請求項３】
前記画像センサの第１列及び第２列の露光時間は、前記長露光時間とし、第３列及び第４列の露光時間は、前記短露光時間とすることを特徴とする、請求項２に記載のハイダイナミックレンジ動画撮影方法。
【請求項４】
前記結合工程は、前記再構築した長露光フィールドの各画素及び前記再構築した短露光フィールドに対応する各画素の画素値を逐次比較し、比較結果に基づいて、
前記再構築した長露光フィールドの画素値が第１既定値より大きい場合、前記再構築した長露光フィールドの画素値に代えて、前記再構築した短露光フィールドの画素値掛けるＲの値を前記ハイダイナミックレンジ映像の画素値とするステップと、
前記再構築した短露光フィールドの画素値が第２既定値より小さい場合、前記再構築した短露光フィールドの画素値に代えて、前記再構築した長露光フィールドの画素値割るＲの値を前記ハイダイナミックレンジ映像の画素値とするステップと、
を行うことを特徴とする、請求項１に記載のハイダイナミックレンジ動画撮影方法。
【請求項５】
前記結合工程は、さらに、
前記再構築した長露光フィールドの画素値が前記第２既定値より小さい場合、前記複数の長露光領域の前記長露光時間を延長するステップと、
前記再構築した短露光フィールドの画素値が前記第１既定値より大きい場合、前記複数の短露光領域の前記短露光時間を短縮するステップと、
前記再構築した長露光フィールド及び前記再構築した短露光フィールドの画素値のいずれも前記第１既定値と前記第２既定値との間にある場合、前記再構築した長露光フィールドの画素値を前記ハイダイナミックレンジ映像の画素値とするステップと、
を含むことを特徴とする、請求項４に記載のハイダイナミックレンジ動画撮影方法。
【請求項６】
前記第１既定値が２５０であり、前記第２既定値が１０であることを特徴とする、請求項４または請求項５に記載のハイダイナミックレンジ動画撮影方法。
【請求項７】
前記再構築工程及び前記結合工程は、前記複数の長露光領域の欠落部分の各画素に対し、
前記複数の長露光領域の欠落部分の画素に対応する短露光領域の画素の画素値が第３既定値より小さい場合、前記複数の長露光領域の欠落部分の前記画素に対応する上下長露光領域の２つの画素の画素値の平均値を前記画素の画素値とするステップと、
前記複数の長露光領域の欠落部分の画素に対応する短露光領域の画素の画素値が前記第３既定値と第４既定値との間にある場合、前記複数の長露光領域の欠落部分の前記画素に対応する短露光領域の画素の画素値掛けるＲの値が前記画素の画素値となるステップと、
を行うことを特徴とする、請求項１に記載のハイダイナミックレンジ動画撮影方法。
【請求項８】
前記再構築工程は、さらに、前記複数の短露光領域の欠落部分の各画素に対し、
前記複数の短露光領域の欠落部分の画素に対応する長露光領域の画素の画素値が前記第４既定値より大きい場合、前記複数の短露光領域の欠落部分の前記画素に対応する上下短露光領域の２つの画素の画素値の平均値を前記画素の画素値とするステップと、
前記複数の短露光領域の欠落部分の画素に対応する長露光領域の画素の画素値が前記第３既定値と第４既定値との間にある場合、前記複数の短露光領域の欠落部分の前記画素に対応する短露光領域の画素の画素値割るＲの値が前記画素の画素値となるステップと、
を行うことを特徴とする、請求項７に記載のハイダイナミックレンジ動画撮影方法。
【請求項９】
前記第３既定値が１０であり、前記第４既定値が２５０であることを特徴とする、請求項７または請求項８に記載のハイダイナミックレンジ動画撮影方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００６
【補正方法】変更
【補正の内容】
【０００６】
本発明の目的に基づいて、ハイダイナミックレンジ動画撮影方法を提供する。この方法は、画像センサを用いて交互に配列された複数の長露光領域及び複数の短露光領域からなる複数の画素を含む本来映像を撮影するステップと、複数の長露光領域が長露光フィールドに形成され、複数の短露光領域が短露光フィールドに形成されるステップと、長露光フィールド及び短露光フィールドの各々の画素の画素値に基づいて、再構築工程を経て本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドを形成するステップと、結合工程を経て再構築した長露光フィールド及び再構築した短露光フィールドの各々の画素の画素値に基づいて、ハイダイナミックレンジ映像を形成するステップと、を含む。そのうち、画素値は、０から２ｘ−１までの整数値であり、ｘは、前記画像センサのバイト数であり、異なる画素値は異なる輝度に対応し、複数の長露光領域の長露光時間と前記複数の短露光領域の短露光時間との比は、露光時間比（Ｒ）である。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００７
【補正方法】変更
【補正の内容】
【０００７】
上記の通り、本発明のハイダイナミックレンジ動画撮影方法は、インターレース式画像センサを用いて交互に配列された長露光領域及び短露光領域からなる本来映像を撮影し、再構築工程で長露光領域及び短露光領域の欠落部分を補正することによって、本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドが形成されてから、結合工程で再構築した長露光フィールド及び再構築した短露光フィールドを結合することでハイダイナミックレンジ映像を形成する。本発明は、映像の再構築により、一般使用されているインターレース式画像センサによる解像度が半分減少することによって引き起こされる映像品質の低下問題を解決することができる。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００２９
【補正方法】変更
【補正の内容】
【００２９】
上記のように、本発明の第２実施例では、インターレース式画像センサを用いて交互に配列された複数の長露光領域及び複数の短露光領域からなる本来映像を撮影した後、長露光フィールド１０５に対応する画素の画素値を補足するため、直接に短露光フィールド１０６の画素値にＲを掛けないで、それに代えて、まず短露光フィールド１０６の画素値が有効（画素値が１０から２５０までの範囲にある）かどうかを判断してから、その画素値にＲを掛けることによって長露光フィールド１０５に対応する画素の画素値が補足される。このようにして、無効な画素値を用いて演算し、また無効な数値が出ることを避けられる。言い換えれば、第２実施例の再構築工程と結合工程は、単一工程で完了される。