(57)【要約】【課題】１回の撮影によって撮影者と被写体の両方の好みの表情の画像を得ることができる撮像装置を提供すること。【解決手段】スルー画表示前に、被写体２００に表情の画像の採点をしてもらい、その採点結果をＲ値と対応付けて表情データベース１１６ａに格納しておく。撮影前のスルー画表示時には、撮像素子１０７を連続して動作させて得られるスルー画像における顔部の画像からＲ値を算出し、算出したＲ値に対応する点数を表情データベース１１６ａから抽出し、抽出した点数に基づいて撮影前の被写体２００の表情のレベルを表示パネル１１１に表示させる。【選択図】図１
2008283572.tif 000002
【特許請求の範囲】
【請求項１】
顔画像と前記顔画像に対して指定された点数とを対応付けて格納した格納部と、
被写体を撮像して顔を含む画像を得る撮像部と、
撮影前に、前記撮像部を連続動作させて得られる複数の画像に対応する点数を前記格納部から抽出し、該点数に基づいて前記撮像部を連続動作させている間の前記顔の表情のレベルを演算する演算部と、
前記演算の結果を提供する情報提供部と、
を具備することを特徴とする撮像装置。
【請求項２】
前記点数を手動で指定するための指定部をさらに具備することを特徴とする請求項１に記載の撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮影者と被写体の両方の好みの表情の画像を撮影できる撮像装置に関する。
【背景技術】
【０００２】
近年、ユーザが自身で撮影して得られたデジタルの写真画像を、ネットワークを介して広く公開できるようにしたシステムが各種提案されている。このようなネットワーク上で写真公開ができるシステムにおいては、公開した写真画像が多くの人に見られる可能性があるため、ユーザはなるべくならば見栄えの良い写真画像を撮影して公開したいと考えると思われる。
【０００３】
ここで、撮影者の好みに応じた表情の被写体を撮影するための技術に関する提案として、例えば特許文献１においては、撮影者が好みとする表情の顔画像の特徴量（目や鼻の分布等）を所定の記憶部に記憶させておき、撮影時においては１回の撮影指示で複数回の撮影を行って複数枚の画像を取得し、その中で先に記憶しておいて顔画像の特徴量と最も類似する画像を選択して記録するようにしている。
【特許文献１】特開２００６−１１５４０６号公報
【発明の開示】
【発明が解決しようとする課題】
【０００４】
ここで、特許文献１においては、撮影前に被写体が好みの表情をしているかを確認することができないため、１回の撮影指示で複数枚の画像を撮影するようにしている。このため、撮影時間が長くなりやすく、また複数枚の画像を１度に保持しておく必要があるため、メモリの容量も増大しやすい。
【０００５】
本発明は、上記の事情に鑑みてなされたもので、１回の撮影によって撮影者と被写体の両方の好みの表情の画像を得ることができる撮像装置を提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記の目的を達成するために、本発明の第１の態様の撮像装置は、顔画像と前記顔画像に対して指定された点数とを対応付けて格納した格納部と、被写体を撮像して顔を含む画像を得る撮像部と、撮影前に、前記撮像部を連続動作させて得られる複数の画像に対応する点数を前記格納部から抽出し、該点数に基づいて前記撮像部を連続動作させている間の前記顔の表情のレベルを演算する演算部と、前記演算の結果を提供する情報提供部とを具備することを特徴とする。
【発明の効果】
【０００７】
本発明によれば、１回の撮影によって撮影者と被写体の両方の好みの表情の画像を得ることができる撮像装置を提供することができる。
【発明を実施するための最良の形態】
【０００８】
以下、図面を参照して本発明の実施形態を説明する。  
図１は、本発明の一実施形態に係るカメラ１００の構成を示すブロック図である。図１に示すカメラ１００は、マイクロプロセッシングユニット（ＭＰＵ）１０１と、操作部１０２と、撮影レンズ１０３と、オートフォーカス（ＡＦ）回路１０４と、絞り機構１０５と、絞り制御回路１０６と、撮像素子１０７と、アナログフロントエンド（ＡＦＥ）回路１０８と、画像処理回路１０９と、表示制御回路１１０と、表示パネル１１１と、ピント判定回路１１２と、顔検出回路１１３と、表情レベル演算回路１１４と、圧縮／伸張部１１５と、記録制御部１１６と、表情データベース１１６ａと、記録メディア１１７と、補助光発光回路１１８とを有している。
【０００９】
ＭＰＵ１０１は、ユーザからの操作部１０２の操作に応じてカメラ１００を構成する各ブロックをシーケンシャルに制御する。操作部１０２は、カメラ１００による撮影を実行させるためのレリーズスイッチや、カメラ１００の動作モードを撮影モードや再生モード等の間で切り替えるための切り替えスイッチ等が含まれる。また、詳細は後述するが、操作部１０２は、被写体となる人物に、好みの表情を指定させるための指定部の機能を有する操作部も含まれる。
【００１０】
また、ＭＰＵ１０１は、ユーザによって写真撮影がなされた時刻を計測するためのタイマを有している。これにより、撮影によって得られる画像データに対して撮影時刻が関連付けられる。
【００１１】
撮影レンズ１０３は、被写体２００からの像を撮像素子１０７に結像させる。この撮影レンズ１０３は、オートフォーカス（ピント合わせ）用のレンズを含んでいる。オートフォーカスの際に、ＭＰＵ１０１は、ピント合わせレンズのレンズ位置をモニタしつつ、ＡＦ回路１０４を制御してピント合わせレンズのレンズ位置を切り替えて撮影レンズ１０３のピント合わせを行う。また、撮影レンズ１０３はズームレンズも含んでおり、ズームレンズの位置を切り替えることで撮影時の画角を切り替えることもできる。絞り機構１０５は、撮影レンズ１０３内又はその近傍に設けられ、シャッタや絞りの効果を奏する機構である。絞り機構１０５は、撮影開始時に絞り制御回路１０６によって所定の口径まで開かれ、撮影終了時に閉じられるものである。撮影時においては、撮影レンズ１０３のズームレンズや絞り機構１０５等を駆動することで、撮影者は自身の好みの撮影効果（構図、背景処理、動きの描写等）での写真撮影を行うことができる。
【００１２】
撮像素子１０７は、多数の画素が配列されて構成される受光面を有し、撮影レンズ１０３を介して受光した被写体２００からの像を電気的な信号に変換する。本実施形態においては、撮像素子１０７にはＣＣＤ方式及びＣＭＯＳ方式の何れを用いても良い。
【００１３】
ＡＦＥ回路１０８は、ＣＤＳ回路、ゲイン調整回路、ＡＤ変換回路等を含み、撮像素子１０７において得られるアナログ電気信号に対し相関二重サンプリング処理、ゲイン調整処理といったアナログ処理を行った後、これによって得られる画像信号をデジタルデータ化して画像処理回路１０９に入力する。また、ＡＦＥ回路１０８には、撮像素子１０７を構成する複数の画素からの信号を一括して読み出す機能も設けられている。例えば、ＡＦＥ回路１０８によって、４画素（２×２画素）や９画素（３×３画素）の信号をまとめて読み出し、これら読み出した電気信号を加算することでＳ／Ｎを向上させることが出来る。このような処理によって、撮像素子１０７の見かけ上の感度を上げること等が出来る。
【００１４】
さらに、ＡＦＥ回路１０８は、撮像素子１０７からの出力信号を取捨選択する機能も有し、撮像素子１０７の全有効画素のうち、限られた範囲の画素からの信号のみを抽出することも出来る。一般に、撮像素子１０７は間引きを行うことで高速で信号を読み出すことが出来る。この機能を利用して、撮像素子１０７を連続動作させて得られる構図確認用のスルー画像を高速で読み出して画像処理回路１０９において処理してから表示パネル１１１に表示すれば、ユーザは表示パネル１１１上に表示されるスルー画像を利用してフレーミングを行うことが可能である。
【００１５】
画像処理回路１０９は、ＡＦＥ回路１０８から入力される画像データにおける色や階調、シャープネス等を補正処理したり、画像データのレベルを所定のレベルに増幅して、正しい濃淡及び正しい灰色レベルに調整したりする各種画像処理を行う。
【００１６】
また、上述したようなフレーミング用の画像等の各種の画像を表示するために、画像処理回路１０９は、ＡＦＥ回路１０８から入力される画像データを表示パネル１１１に表示可能なようにリサイズ（縮小）する機能も有する。
【００１７】
表示制御回路１１０は、画像処理回路１０９で得られた画像データや記録メディア１１７に記録されている画像データを映像信号に変換し、変換した映像信号に基づいて画像を表示パネル１１１に表示させる。表示パネル１１１は液晶表示パネルや有機ＥＬ表示パネル等の表示パネルである。また、表示制御回路１１０は、表示パネル１１１に複数の画像を重畳して表示させるマルチ画面表示機能も有している。このマルチ画面表示機能によって、撮影した画像や撮影する画像の上に、モード設定の文字表示やいろいろな警告表示を重畳表示することも可能である。
【００１８】
ピント判定回路１１２は、画像処理回路１０９によって得られる画像のコントラストを検出する。このピント判定回路１１２によって検出されるコントラストはオートフォーカスの際に用いられる。即ち、ＡＦ回路１０４によって撮影レンズ１０３のピント合わせレンズのレンズ位置を変化させながら、ピント判定回路１１２によって画像のコントラストを逐次検出し、検出されるコントラストが最大となるレンズ位置でピント合わせレンズを停止させることで、撮影レンズ１０３のピント合わせを行うことができる。
【００１９】
顔検出回路１１３は、画像処理回路１０９によって得られる画像内の特徴点（例えば、被写体が人物等であれば、目や鼻、口等）の分布から、画像内における被写体の特に顔に相当する部分を検出する。表情レベル演算回路１１４は、顔検出回路１１３によって検出される顔画像から被写体の表情レベルを求めるための値であるＲ値（詳細は後述する）を算出する。
【００２０】
圧縮／伸張部１１５は、撮影時に、画像処理回路１０９において処理された画像データを圧縮する。また、圧縮／伸張部１１５は記録メディア１１７に圧縮記録された画像データを伸張する。記録制御部１１６は、圧縮／伸張部１１５で圧縮された画像データに付随データを付随させて記録メディア１１７に記録する。
【００２１】
格納部としての表情データベース１１６ａは、被写体２００となる人物によって指定されたその人物の好みの表情の画像に対応するＲ値と、その画像に対応して被写体２００によって指定された点数とを格納する。
【００２２】
補助光発光回路１１８は、撮影時の状況に応じて被写体２００に補助光を照射する。これによって、撮影時の明るさの不足や不均一を防止する。
【００２３】
図２は、図１に示すカメラにおける動作の概要について示す図である。撮影前には、まず、被写体２００に、各種表情の画像を呈示し、それぞれの表情の画像に点数を付けさせる。このとき呈示する各種の表情の画像は、例えば表情のサンプル集のような画像を予め撮影して表情データベース１１６ａに格納しておくようにしても良いし、実際に、被写体２００に各種の表情をさせた状態で撮影を行って得るようにしても良い。ここで、本実施形態においては、被写体２００に呈示する表情の画像には、詳細は後述するＲ値（図２のＲａ〜Ｒｄ）が対応付けられている。そして、被写体２００によって採点がなされると、その採点結果がＲ値と対応付けられて表情データベース１１６ａに格納される。図２の例では、被写体２００が画像Ａ、画像Ｂ、画像Ｃ、画像Ｄの４枚の表情の画像について１０段階評価の採点を行った例を示している。採点を行う画像の枚数は４枚に限らず、また、採点も１０段階評価に限るものではない。
【００２４】
撮影前のフレーミング時において、カメラ１００は逐次被写体２００を撮像してスルー画像を取得し、このスルー画像を逐次表示パネル１１１に表示させる。本実施形態ではフレーミング時に逐次取得されるスルー画像における人物の顔部の画像のＲ値に対応する点数を表情データベース１１６ａから抽出し、この点数に基づいて、現在の表情が、被写体２００がどの程度好む表情であるかを判定する。そして、この判定結果を、例えば参照符号１１１ａに示すようなレベル表示（バー表示）の形式等で撮影者に提供する。
【００２５】
次に、Ｒ値について説明する。図３は、Ｒ値を算出する際の処理の流れについて示すフローチャートである。図３において、表情レベル演算回路１１４は、顔検出回路１１３によって検出された顔部の画像における陰影分布から画像内の顔部における目部、口部を検出する（ステップＳ１０１）。より具体的には画像のコントラストを強調した状態で画像内において略円形をしている顔部を顔検出回路１１３によって検出する。そして、表情レベル演算回路１１４において顔部内の陰影の分布から目部及び鼻部を検出する。
【００２６】
ステップＳ１０１において目部、鼻部を検出した後、表情レベル演算回路１１４は、両目の瞳を結ぶ直線Ａの上側の白眼部分の面積ＥＡ（図４（ａ）参照）を求める（ステップＳ１０２）。次に、表情レベル演算回路１１４は、両目の瞳を結ぶ直線Ａの下側の白眼部分の面積ＥＢ（図４（ａ）参照）を求める（ステップＳ１０３）。ＥＡ及びＥＢを求めた後、表情レベル演算回路１１４は、ＥＡとＥＢの差をＥＡとＥＢの和で正規化した値ＲＥを求める（ステップＳ１０４）。ここで、被写体２００が他人に見せたい笑顔の場合には図４（ａ）に示すようにＥＢが０に近くなるため、結果ＲＥが大きくなる。逆に、被写体２００が他人に見せたくない困った顔の場合には図４（ｂ）に示すようにＥＡが０に近くなるため、結果ＲＥが小さくなる。したがって、ＲＥの大小から表情を判定することが可能である。
【００２７】
ＲＥを求めた後、表情レベル演算回路１１４は、口の両端を結ぶ直線Ｂの上側の唇部分の面積ＬＡ（図４（ｂ）参照）を求める（ステップＳ１０５）。次に、表情レベル演算回路１１４は、口の両端を結ぶ直線Ｂの下側の唇部分の面積ＬＢ（図４（ｂ）参照）を求める（ステップＳ１０６）。ＬＡ及びＬＢを求めた後、表情レベル演算回路１１４は、ＬＢとＬＡの差をＬＡとＬＢの和で正規化した値ＲＬを求める（ステップＳ１０７）。ここで、笑顔の場合には図４（ａ）に示すようにＬＡが０に近くなるため、結果ＲＬが大きくなる。逆に、困った顔の場合には図４（ｂ）に示すようにＬＢが小さくなるため、結果ＲＬが小さくなる。したがって、ＲＬの大小からも表情を判定することが可能である。
【００２８】
ＲＥ及びＲＬを求めた後、表情レベル演算回路１１４はＲＥとＲＬの和Ｒを求める（ステップＳ１０８）。このＲ値は大きいほどそのときの表情は笑顔（良好な表情）に近いものとなる。さらに、図４（ａ）の矢印Ｃで示したように口の端部に影があったり、歯が見えていたりすると笑顔の確率が高い。そこで、表情レベル演算回路１１４は口部分に歯（白部分）が検出され、かつ口端部に影があるか否かを判定する（ステップＳ１０９）。ステップＳ１０９の判定において、口部分に歯が検出され、かつ口端部に影がある場合に、表情レベル演算回路１１４はＲに１を加算する（ステップＳ１１０）。
【００２９】
一方、ステップＳ１０９の判定において、口部分に歯が検出され、かつ口端部に影がない場合、若しくはステップＳ１１０の後、表情レベル演算回路１１４は眉間部分（目の間部分）に矢印Ｄで示すような皺があるか否かを判定する（ステップＳ１１１）。ステップＳ１１１の判定において、眉間部分に皺がある場合に、表情レベル演算回路１１４はＲから１を減算する（ステップＳ１１２）。即ち、眉間に皺が検出されるような表情では笑顔とは言えないのでステップＳ１１１の判定を行う。
【００３０】
以上のようにして求められるＲ値は笑顔に近いほど高い数値となる。一般的にはＲ値が高いほど、良い表情であると考えられるが、被写体２００となる人物が必ずしもＲ値の高い表情を好むとは限らないので、被写体２００となる人物に各種表情の画像を採点させるようにし、この採点結果を、被写体毎の表情の嗜好として表情データベース１１６ａに格納する。図５は、Ｒ値と採点結果との関係を示した分布曲線を示す図である。なお、採点してもらっていないＲ値に対応する点数については、例えば補間演算によって算出することが望ましい。
【００３１】
例えば、図５の例において、被写体Ａは、カメラ１００によって呈示された表情の画像のうち、Ｒ値がほどほどであるＲ１の表情の画像が最高だと思っていることが分かる。一方、被写体Ｂは、Ｒ１よりも高いＲ値であるＲ２の表情の画像が最高だと思っていることが分かる。このような被写体２００の表情の嗜好を、撮影前に、撮影者に分かるように呈示することにより、撮影者は、被写体毎の表情の嗜好を考慮しつつ、また自身の嗜好も加味しながら撮影を行うことが可能である。
【００３２】
以下、具体的なカメラの動作について説明する。図６は本一実施形態に係るカメラのメイン動作制御について示すフローチャートである。
【００３３】
撮影前に、ＭＰＵ１０１は、表情画像の採点処理を行う（ステップＳ２０１）。この採点処理の詳細については後述する。ステップＳ２０１の表情画像の採点処理の後、ＭＰＵ１０１は、撮影者による操作部１０２の操作によって撮影指示がなされたか否かを判定する（ステップＳ２０２）。ステップＳ２０２の判定において、撮影指示がなされていない場合に、ＭＰＵ１０１は表示パネル１１１にフレーミング用のスルー画像を表示させるための各種の制御を実行する（ステップＳ２０３）。即ち、ＭＰＵ１０１は撮像素子１０７を連続動作させてスルー画像データを逐次取得し、取得したスルー画像データを画像処理回路１０９において処理してからこのスルー画像データに基づいて表示パネル１１１にスルー画像を表示させる。スルー画像を表示させた後、ＭＰＵ１０１は、顔検出回路１１３によってスルー画像中の顔部の画像を検出する。顔部の画像が検出された後、ＭＰＵ１０１は、表情レベル演算回路１１４によってスルー画中の顔部の表情に対するＲ値を図３で示したようにして算出する（ステップＳ２０４）。そして、ＭＰＵ１０１は、表情レベル演算回路１１４によって演算されたＲ値に対応する点数を、表情データベース１１６ａに格納されている被写体２００に対応した表情の嗜好の分布曲線を参照して抽出する（ステップＳ２０５）。スルー画表示中の表情（Ｒ値）に対応した点数を抽出した後、ＭＰＵ１０１は、この点数を、例えば図２に示すようなレベル表示（バー表示）１１１ａのような形態で、表示パネル１１１に表示されているスルー画像に重畳表示させる（ステップＳ２０６）。その後にステップＳ２０２に戻る。
【００３４】
また、ステップＳ２０２の判定において、撮影指示がなされた場合に、ＭＰＵ１０１は撮影動作を実行する（ステップＳ２０７）。即ち、ＭＰＵ１０１は撮影レンズ１０３のピント調整を実行させた後、絞り機構１０５を所定の開口まで絞った状態で撮像素子１０７を動作させ、これによって得られた撮影画像データを画像処理回路１０９において処理させる。その後、画像処理回路１０９において処理した撮影画像データを圧縮／伸張部１１５において圧縮し、この圧縮画像データを記録メディア１１７に記録させる。その後に図６の処理を終了させる。
【００３５】
図７は、図６のステップＳ２０１の表情画像の採点処理について示すフローチャートである。図７において、ＭＰＵ１０１は、被写体２００に好みの表情の点数をつけさせるために、表示制御回路１１０を介して各種の表情の画像を表示パネル１１１に表示させる（ステップＳ３０１）。なお、ここで表示させる表情の画像は１枚ずつ表示パネル１１１に表示させるようにしても良いし、複数枚を同時に表示させるようにしても良い。その後、ＭＰＵ１０１は、被写体２００による操作部１０２の操作によって点数の指定操作がなされたか否かを判定する（ステップＳ３０２）。
【００３６】
ステップＳ３０２の判定において、表情の画像に対して点数が指定された場合に、ＭＰＵ１０１は、表情の画像のＲ値と点数とを対応付けする（ステップＳ３０３）。次に、ＭＰＵ１０１は、補間演算によって各Ｒ値に対応した点数を順次算出する（ステップＳ３０４）。一方、ステップＳ３０２の判定において、表情の画像に対して点数が指定されない場合（例えば、表情の画像の表示から所定時間が経過した後等）には、各表情の画像のうち、Ｒ値の高いものから高得点を割り当てる（ステップＳ３０５）。これは、上述したように、Ｒ値の高い表情は、笑顔に近く、皆が良い表情と感じる可能性が高いためである。
【００３７】
ステップＳ３０４又はステップＳ３０５において表情の画像の採点が行われた後、ＭＰＵ１０１は、被写体毎に各表情の画像のＲ値と点数とを対応付けて表情データベース１１６ａに格納する（ステップＳ３０６）。その後、図７の処理を抜ける。
【００３８】
以上説明したように、本実施形態によれば、撮影者は、撮影前のスルー画表示時に被写体２００の表情のレベルを確認しつつ、自身の好みのタイミングで撮影を行うことができる。また、例えば、レベルが低いときには、撮影者が被写体にアドバイス（「もっと笑って」、「まじめな顔をして」、「口を閉じて」）や刺激（ジョークやギャグを言う）を与えて被写体の好む表情を作り出すこともできる。このように、本実施形態では、実際に撮影を行う前に撮影者が被写体の撮影して欲しい表情のレベルを見ながら、自身の好きなタイミングで撮影することにより、１回の撮影で撮影者と被写体の両方の好みを反映した表情の写真を撮影することができる。
【００３９】
また、一般にはＲ値の高い表情のほうが笑顔であると考えられるが、被写体によっては必ずしもそうとは限らないので、各種の表情の画像を実際に被写体に採点してもらうことにより、より被写体の嗜好を反映させることが可能である。
【００４０】
以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。例えば、上述した実施形態では、Ｒ値と点数とを対応付けて表情データベース１１６ａに格納するようにしているが、表情の画像と点数とを直接対応付けても良い。この場合には、スルー画像における顔部と表情の画像の顔部とのマッチングをとることで対応する点数を抽出することが可能である。また、このようなマッチングの場合には、表情のみならず、首の傾げ方や、顔の向きなども含めて点数を判定できるようにしても良い。
【００４１】
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
【図面の簡単な説明】
【００４２】
【図１】本発明の一実施形態に係るカメラの構成を示すブロック図である。
【図２】図１に示すカメラにおける動作の概要について示す図である。
【図３】Ｒ値を算出する際の処理の流れについて示すフローチャートである。
【図４】図４（ａ）はＲ値の高い表情の例を示す図であり、図４（ｂ）はＲ値の低い表情の例を示す図である。
【図５】Ｒ値と採点結果との関係を示した分布曲線を示す図である。
【図６】本発明の一実施形態に係るカメラのメイン動作制御について示すフローチャートである。
【図７】表情画像の採点処理について示すフローチャートである。
【符号の説明】
【００４３】
１００…カメラ、１０１…マイクロプロセッシングユニット（ＭＰＵ）、１０２…操作部、１０３…撮影レンズ、１０４…オートフォーカス（ＡＦ）回路、１０５…絞り機構、１０６…絞り制御回路、１０７…撮像素子、１０８…アナログフロントエンド（ＡＦＥ）回路、１０９…画像処理回路、１１０…表示制御回路、１１１…表示パネル、１１２…ピント判定回路、１１３…顔検出回路、１１４…表情レベル演算回路、１１５…圧縮/伸張部、１１６…記録制御部、１１６ａ…表情データベース、１１７…記録メディア
【図１】
2008283572.tif 000003
【図２】
2008283572.tif 000004
【図３】
2008283572.tif 000005
【図４】
2008283572.tif 000006
【図５】
2008283572.tif 000007
【図６】
2008283572.tif 000008
【図７】
2008283572.tif 000009