(57)【特許請求の範囲】
【請求項１】
被写体を撮像して画像データに変換する撮像手段と、
音声を検出して音声データに変換する音声検出手段と、
前記音声の発生位置に関連する位置情報を取得する位置情報取得手段と、
前記位置情報を、前記画像データまたは前記音声データに関連付けさせて出力する出力手段と、
前記画像データを使用して、被写体の動態を検出する動態検出手段とを有し、
前記位置情報取得手段は、
前記動態検出手段での動態検出から被写体位置を検出したと判断した場合には当該被写体位置に対応する位置情報を被写体の発音位置として一時記憶し、
前記動態検出手段での動態検出から被写体位置を検出できないと判断した場合には、撮影画面上のほぼ中央位置の被写体位置を発音候補位置として一時記憶することを特徴とする電子カメラ。
【請求項２】
前記動態検出手段は、被写体の動き量に基づいた動体の検出を行う動体検出手段であることを特徴とする請求項１に記載の電子カメラ。
【請求項３】
前記音声データ及び前記位置情報に基づいて、仮想的な音声発生位置に対応する音声データを生成する手段を有することを特徴とする請求項１に記載の電子カメラ。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、一般的には録音機能を備えた電子カメラに関し、特に被写体と音声との関連付け機能を実現する技術に関する。
【０００２】
【従来の技術】
近年、デジタルビデオカメラ（ＤＶＣ）だけでなく、音声を記録する録音機能を備えたデジタルスチールカメラ（ＤＳＣ）とも呼ばれる電子カメラが開発されている。このような電子カメラであれば、撮影した画像（静止画像又は動画像）を再生すると共に、録音した音声を再生することができるため、撮影画像に対する再生効果を高めることができる。但し、ここでは、電子カメラは、ＤＳＣだけでなく、静止画撮影機能を備えたＤＶＣも意味する。
【０００３】
関連する先行技術としては、対話制御技術を有する情報処理装置において、画面表示及び音声出力の少なくとも一方を用いてガイダンス情報を提示する技術が提案されている（例えば特開平１０−１１２４８号公報を参照）。
【０００４】
一般的に、電子カメラは、撮影画像をパーソナルコンピュータ等の情報処理装置に入力させることができる。パーソナルコンピュータは、入力した撮影画像を表示画面上に表示すると共に、付属しているスピーカから録音した音声を再生することも可能である。
【０００５】
【発明が解決しようとする課題】
パーソナルコンピュータでは、撮影画像を表示画面上に表示しているときに、被写体位置をポインタ（カーソル）で指定するタイミングで、録音した音声を再生することも可能である。しかしながら、従来の電子カメラでは、撮影した画像において、被写体と録音した音声とを対応付けして記録することはできない。パーソナルコンピュータなどで、入力した静止画像に音声位置情報を付加する処理は可能であるが、通常では高度の画像処理が必要となる。
【０００６】
そこで、本発明の目的は、録音機能を有する電子カメラにおいて、撮影画像の被写体と音声とを関連付けした位置情報を生成できる機能を備えた電子カメラを提供することにある。
【０００７】
【課題を解決するための手段】
本発明の観点は、録音機能を有する電子カメラにおいて、撮影画像中の被写体（人や物）と、録音（検出）した音声とを関連付けした位置情報（発音位置情報）を取得（算出又は推定）する機能を備えた電子カメラに関する。
【０００８】
本発明の電子カメラは、被写体を撮像して画像データに変換する撮像手段と、音声を検出して音声データに変換する音声検出手段と、前記音声の発生位置に関連する位置情報を取得する位置情報取得手段と、前記位置情報を前記画像データまたは前記音声データに関連付けさせて出力する出力手段と、前記画像データを使用して被写体の動態を検出する動態検出手段とを有し、前記位置情報取得手段は、前記動態検出手段での動態検出から被写体位置を検出したと判断した場合には当該被写体位置に対応する位置情報を被写体の発音位置として一時記憶し、前記動態検出手段での動態検出から被写体位置を検出できないと判断した場合には、撮影画面上のほぼ中央位置の被写体位置を発音候補位置として一時記憶する構成である。
【０００９】
位置情報取得手段は、例えば被写体の動態（例えば人の口の動きなど）を検出し、当該検出位置を音声の発生位置（発音位置）として推定した発音位置情報を取得する構成である。出力手段は、当該位置情報を記録媒体に記録する記録手段や、無線通信等によりデータを伝送する伝送手段に出力する。
【００１０】
このような構成の電子カメラであれば、撮影画像及び録音した音声と共に、被写体と音声とを関連付けした位置情報（発音位置情報）を得ることができるため、画像再生時に、被写体に関連付けして音声再生を行う処理を比較的容易に実現することができる。これにより、画像再生中の単なる音声再生だけでなく、例えば会話中の被写体を指定することにより、当該会話の音声再生を実現できる等、優れた再生効果を得ることができる。
【００１１】
【発明の実施の形態】
以下図面を参照して、本発明の実施の形態を説明する。
【００１２】
（電子カメラの構成）
図１は、同実施形態に関する電子カメラの要部を示すブロック図である。同電子カメラは、静止画及び動画の撮影機能を備えたデジタルスチールカメラ（ＤＳＣ）を想定しているが、静止画撮影機能を有するデジタルビデオカメラ（ＤＶＣ）にも適用可能である。
【００１３】
同電子カメラは、大別して撮影系、画像処理系、制御・操作系、表示・出力系、及び記録系から構成されている。撮影系は、光学レンズユニット１と、レンズ駆動回路２と、撮像素子３と、撮像系制御回路４と、Ａ／Ｄコンバータ５とを有する。撮影系は、被写体の結像を入力し、デジタル画像データ（静止画像データ及び動画像データ）に変換する機能を有する。
【００１４】
光学レンズユニット１は、ズーム及びフォーカス機構を含み、レンズ駆動回路２によりズーム及びフォーカス制御がなされる。撮像素子３は、通常では数百万画素のＣＣＤ（charge coupled device）を有し、光学レンズユニット１から入力される入力光（被写体像）を撮像信号（色成分を含む）に光電変換する。撮像系制御回路４は、撮像素子１１からの撮像信号の出力タイミング、出力レベルなどを制御するためのＡＧＣ（自動利得調整）処理、及びＣＤＳ（相関２重サンプリング）処理などを実行する。Ａ／Ｄコンバータ５は、撮像信号をデジタル画像データに変換する。
【００１５】
画像処理系は、ディジタル信号プロセッサ（ＤＳＰ）回路６、動き検出回路７、及びＳＤＲＡＭ（synchronous DRAM）８を有する。ＤＳＰ回路６は、ＳＤＲＡＭ８に格納された画像データに対する各種の画像処理（ホワイトバランス補正処理や、画像圧縮・伸張処理等）、及び音声データに対する加工処理を実行する。ＳＤＲＡＭ８は、画像データ及び音声データ以外に、同実施形態の発音位置情報に関係する情報（動き量分布、被写体位置情報など）を一時的に格納するワークメモリ（バッファメモリ）である。動き検出回路７は、後述するように、被写体の動態に関係する動き検出（動体検出）を実行する回路であり、動き量分布及び被写体の位置情報を取得する機能を有する。
【００１６】
表示・出力系及び記録系は、ＤＭＡ回路１１、撮影画像をディスプレイ上に表示する画像表示部１２、及びカードインターフェース１３を有する。ＤＭＡ回路１１は、システムコントローラ１７の指示に応じて、ＳＤＲＡＭ８とカードインターフェース１３との間のデータ転送を実行する。画像表示部１２は、例えばＬＣＤ（liquid crystal display）モニタからなる。カードインターフェース１３は、記録媒体であるメモリカード１４に対する画像データ、音声データ及び発音位置情報などの書込み及び読出しを制御する。なお、表示・出力系としては、無線又は有線通信方式でのデータ伝送を行うための装置や、ビデオ出力端子なども含まれる（図示せず）。
【００１７】
同実施形態の電子カメラは、録音機能を実現するための音声インターフェース９、及びマイクロフォン（音声入力機器）１０を有する。音声インターフェース９は、マイク１０から入力した音声のサンプリングデータを生成し、ＳＤＲＡＭ８に音声データとして格納する。
【００１８】
制御・操作系は、電源部１５、操作部１６、及びシステムコントローラ１７を有する。電源部１５は、システムコントローラ１７の指示に応じて、電子カメラの各ブロックに対して電源供給を制御する。操作部１６は、レリーズボタンや、各種のモード設定に必要なスイッチなどを有する。システムコントローラ１７は、電子カメラの各ブロックの入出力や動作を制御するマイクロプロセッサ及び其のプログラムから構成されている。システムコントローラ１７は、同実施形態に関係する発音位置情報の生成処理を実行する。また、システムコントローラ１７は、操作部１６の入力操作に応じて、画像表示部１２上にモード設定などの操作用画面を表示する制御も実行する。
【００１９】
（撮影動作）
以下図１と共に、図２と図３のフローチャート、図４及び図５を参照して、同実施形態の被写体と音声とを関連付けるための位置情報（発音位置情報）を生成する動作を含む撮影動作について説明する。
【００２０】
まず、電子カメラの電源がオンされると、システムコントローラ１７は、撮影処理と音声処理を開始させる（ステップＳ１のＹＥＳ，Ｓ２）。撮影処理では、撮影系で得られた撮像画像データがＳＤＲＡＭ８に格納されるまでの一連の動作が実行される（ステップＳ６を参照）。音声処理では、被写体の近傍から発生する音声がマイク１０により検出されると、音声インターフェース９は、音声データに変換してＳＤＲＡＭ８に格納する。
【００２１】
ここで、同実施形態では、被写体位置検出モードと呼ぶモードが用意されており、当該モードが操作部１６を介してシステムコントローラ１７に設定されると、撮影動作に伴って、位置情報（発音位置情報）の生成処理が実行される（ステップＳ３のＹＥＳ）。当該モードが設定されていない場合には、操作部１６のレリーズボタンの操作に応じて、システムコントローラ１７は、前記の撮影処理を実行する（ステップＳ３のＮＯ，Ｓ５，Ｓ６）。システムコントローラ１７は、ＳＤＲＡＭ８からＤＳＰ回路６に撮影画像を転送し、ＤＳＰ回路６で画像圧縮処理などを実行させる。そして、カードインターフェース１３を介して、当該画像データをメモリカード１４に記録する（ステップＳ７のＮＯ，Ｓ１１）。また、音声記録モードが設定されている場合には、システムコントローラ１７は、ＳＤＲＡＭ８から音声データを読出し、ＤＳＰ回路６及びカードインターフェース１３を経て、メモリカード１４に記録する（ステップＳ１２のＹＥＳ，Ｓ１３）。
【００２２】
一方、被写体位置検出モードが設定されている場合には、システムコントローラ１７は、動き検出回路７を制御して、動き検出処理を開始させる（ステップＳ３のＹＥＳ，Ｓ４）。システムコントローラ１７は、撮影処理での撮影したタイミング（即ち、撮影フレーム）を動き検出回路７に指示する（ステップＳ６，Ｓ７のＹＥＳ，Ｓ８）。動き検出回路７は、フレームの動き量分布から被写体を判別し、被写体の位置情報を取得する（ステップＳ９）。システムコントローラ１７は、動き検出回路７により取得された位置情報を、画像データ及び音声データに関連付けしてメモリカード１４に記録する（ステップＳ１０）。
【００２３】
（動き検出回路の動作原理）
同実施形態は、被写体位置検出モードが設定されている場合には、撮影時の被写体の位置を音声の発生位置である発音位置として想定し、当該位置情報を撮影時に記録する画像データ及び音声データに関連付けてメモリカード１４に記録する。
【００２４】
この場合、同実施形態では、動き検出回路７は、被写体の動態、具体的には人体全体や口などの動き（動体）を検出して、当該検出結果（動体の位置）を被写体の位置情報として算出する。要するに、動きのある被写体から音声が発生し、その被写体の位置が発音位置であると想定する。
【００２５】
以下図３から図５を参照して、動き検出回路７の動作原理を説明する。
【００２６】
動き検出回路７は、システムコントローラ１７からの指示に応じて動作を開始し、ＳＤＲＡＭ８からフレームを取得する（ステップＳ２０，Ｓ２１）。具体的には、画像フレーム中の輝度データを取得する。動き検出回路７は、少なくとも２フレーム分の輝度データを取得すると、図４に示すように、最新フレーム（Ｆｎ）４０および直前のフレーム（Ｆｎ−１）４１の各輝度データを使用して、被写体の動き量分布（Ｍｎ）４２を算出する（ステップＳ２３）。この動き量分布（Ｍｎ）４２は、所定の閾値（Ｍｆ）を超えるフレーム間の差分絶対値の集合である。
【００２７】
動き量分布（Ｍｎ）は、撮影画像での座標値Ｍ（ｎ，ｘ，ｙ）の集合として、下記式（１）により表現できる。
【００２８】
Ｍ（ｎ，ｘ，ｙ）＝ＭＡＸ（｜Ｆ（ｎ，ｘ，ｙ）−Ｆ（ｎ−１，ｘ，ｙ）｜，Ｍｆ）…（１）
ここで、ｘ，ｙは、撮影画像の任意のＸ軸、Ｙ軸方向の座標位置を意味する。Ｆ（ｎ，ｘ，ｙ）は、ｎ番目のフレーム位置での座標（ｘ，ｙ）位置における輝度を示す。Ｍｆは、輝度を２値化するための閾値を示す。ＭＡＸ（ａ，ｂ）は、「ｂ＞ａ」である場合を「０」、それ以外は「１」を返す関数を意味する。
【００２９】
次に、システムコントローラ１７から撮影フレーム（時系列的に最後のフレーム）が指示されると、動き検出回路７は、動き量区間分布（Ｓｎ）をｍフレーム分を算出する（ステップＳ２４のＹＥＳ，Ｓ２５）。この動き量区間分布（Ｓｎ）は２値化された分布であり、図５（Ａ）に示すように、Ｘ軸、Ｙ軸で分割し、区間毎に閾値（Ｍｆ）を超えた個数をカウントしたものである。動き検出回路７は、指定された撮影フレームからｍフレーム前までの動き量区間分布（Ｓｎ）を比較し、被写体位置を取得する（ステップＳ２６）。
【００３０】
ここで、図５を参照して、動き量区間分布（Ｓｎ）について説明する。図５（Ａ）は、動き量分布（Ｍｎ）中の［Ｘａｒｅａ，Ｙａｒｅａ］で分割されたエリア中の（ａ，ｂ）区間でのＭ（ｎ，ｘ，ｙ）を足した数（これをＳ（ｎ，ａ，ｂ）と定義する）を動き量分布（Ｍｎ）として示したものである。また、同図（Ｂ）は、Ｓ（ｎ，ａ，ｂ）の値が閾値（Ｋｓ）を超える区間を示すものである。
【００３１】
動き量区間分布（Ｓｎ）は、全エリアでのＳ（ｎ，ａ，ｂ）の集合として、下記式（２）により表現できる。
【００３２】
Ｓ（ｎ，ａ，ｂ）＝Σ（ｘ＝ａ［０］，ｘ＝ａ［Ｘｅ−１］，Σ（ｙ＝ｂ［０］，ｙ＝ｂ［Ｙｅ−１］，Ｍ（ｎ，ｘ，ｙ）））…（２）
ここで、ａ，ｂは、「Ｘａｒｅａ×Ｙａｒｅａ」で分割された任意のエリア［ａ，ｂ］を示す。「Σ（ｘ＝０，ｘ＝ｎ，Ｘ（ｘ））」は、ｘ＝０からｘ＝ｎまでのＸ（ｘ）を積算した値であることを意味する。Ｘｅは、撮影画像エリアでのＸ軸方向区間での分割数（Ｘｅ＝Ｘ軸画素数／Ｘａｒｅａ）を示す。Ｙｅは、撮影画像エリアでのＹ軸方向区間での分割数（Ｙｅ＝Ｙ軸画素数／Ｙａｒｅａ）を示す。ａ［０］はエリアａでの０番目のＸ座標を示し、ｂ［０］はエリアｂでの０番目のＹ座標を示す。
【００３３】
動き検出回路７は、被写体の部分的動きが激しい場合に、図５（Ｂ）に示すように、Ｓ（ｎ，ａ，ｂ）の値が閾値（Ｋｓ）を超える数がＮ未満となる場合には、Ｓ（ｎ，ａ，ｂ）の値が最大となる区間を被写体が存在すると推定する。また、その区間に隣接する区間で、閾値（Ｋｓ）を超える区間があれば、その区間も被写体位置とする。逆に全体の動きが激しい場合（区間毎にカウントされた数Ｓ（ｎ，ａ，ｂ）が閾値（Ｋｓ）より多い区間の数がＮ以上の場合）は、カメラが動いているものと仮定し、被写体位置を特定しない。
【００３４】
動き検出回路７は、撮影フレームの画像に対して最終的に被写体位置を検出したと判断した場合には、当該位置情報をＳＤＲＡＭ８に一時記憶する（ステップＳ２７のＹＥＳ，Ｓ２８）。一方、最終的に被写体位置を特定できない場合には、複数の候補位置情報をＳＤＲＡＭ８に一時記憶する（ステップＳ２７のＮＯ，Ｓ２９）。具体的には、ｍフレーム間の被写体の位置が時系列で連続する場合（即ち、被写体の位置がｍフレーム間で同じ位置または隣接区間にある場合）には、最終的に被写体位置を検出したと判断される。また、ｍフレーム間で被写体の位置が時系列で連続しない場合（即ち、被写体の位置がｍフレーム間で１つ以上離れた区間に存在する場合）には、最終的に被写体位置を検出できないと判断される。この場合には、時系列の要素と、撮影画像の中心に近いなどの位置的要素から被写体の複数の候補位置を決定してＳＤＲＡＭ８に一時記憶することになる。
【００３５】
以上要するに、被写体位置検出モードが設定されている場合には、動き検出回路７は、被写体の動態、具体的には人体全体や口などの動き（動体）を検出して、当該検出結果（動体の位置）を被写体の位置情報として取得する。即ち、撮影時に動きのある被写体の位置を音声の発生位置である発音位置として想定し、当該位置情報を撮影時に記録する画像データ及び音声データに関連付けてメモリカード１４に記録する。従って、撮影画像及び録音した音声と共に、被写体と音声とを関連付けした位置情報（発音位置情報）を得ることができるため、画像再生時に、被写体に関連付けして音声再生を行う処理を比較的容易に実現することができる。これにより、画像再生中の単なる音声再生だけでなく、例えば会話中の被写体を指定することにより、当該会話の音声再生を実現できる等、優れた再生効果を得ることができる。
【００３６】
（変形例１）
同実施形態の原理では、被写体として、動かない人物が後ろ向きに撮影している場合には、その口の動きなどが検出できないため、発音位置を特定できない。そこで、同実施形態の変形例として、動き検出回路７を使用することなく、システムコントローラ１７は、撮影画面上の例えば中央位置で撮影されている被写体を発音位置として想定する。従って、システムコントローラ１７は、想定した発音位置の位置情報を、撮影時に記録する画像データ及び音声データに関連付けてメモリカード１４に記録する。
【００３７】
通常では、音声記録モード時には、音声を発生していると思われる被写体をほぼ中央にして撮影する場合が多いため、当該中央位置は発音位置として妥当であると推定できる。また、ユーザが操作部１６から被写体の位置情報（指定位置）を入力できる機能があれば、当該位置情報を発音位置情報として記録してもよい。
【００３８】
（変形例２）
図６は、同実施形態の変形例２として、音声再生時に、疑似ステレオ効果を実現する方式を説明するための図である。
【００３９】
同実施形態の動き検出回路７は、図６（Ａ）に示すように、時間軸Ｔに対して、ｍフレーム間での被写体６０の位置を検出する。そこで、当該被写体６０の位置情報を利用して、同図（Ｂ）に示すように、仮想的なステレオマイクの位置ＸＬ，ＸＲを設定し、モノラル音声からステレオ音声に変換するための音量に関係する係数（ＫＬ，ＫＲ）を算出することができる。位置ＸＬは左側仮想マイク位置を意味し、位置ＸＲは右側仮想マイク位置を意味する。
【００４０】
具体的には、システムコントローラ１７は、以下のような手順で係数（ＫＬ，ＫＲ）を算出する。即ち、図６（Ｂ）に示すように、被写体６０までの距離Ｌを撮影系から得られる焦点距離から算出する。次に、被写体６０の中心位置６１と、仮想的なステレオマイクの位置ＸＬ，ＸＲとの角度α，β、及び距離Ｍ（被写体６０までの距離とレンズの仕様から算出）から、下記関係式（３），（４）が成立する。
【００４１】
ｔａｎ（α）＝Ｌ／（ＸＬ＋Ｍ）…（３）
ｔａｎ（β）＝Ｌ／（ＸＲ−Ｍ）…（４）
前記関係式（３）を使用して、左側仮想マイク位置ＸＬから被写体６０までの距離（ＬＬとする）を算出する。また、前記関係式（４）を使用して、右側仮想マイク位置ＸＲから被写体６０までの距離（ＬＲとする）を算出する。そして、角度α，βに基づいた仮想的なステレオマイクの位置ＸＬ，ＸＲ、及び距離ＬＬ，ＬＲを含むテーブルを作成する。システムコントローラ１７は、最終的に当該テーブルからモノラル音声からステレオ音声に変換するための音量に関係する係数（ＫＬ，ＫＲ）を算出する。
【００４２】
以上のように本変形例によれば、被写体の位置と関連付けて音声を再生する場合に、当該音声を仮想的なステレオマイクにより録音して、あたかもステレオ再生するような疑似ステレオ再生効果を得ることができる。
【００４３】
【発明の効果】
以上詳述したように本発明によれば、録音機能を有する電子カメラにおいて、撮影画像の被写体と音声とを関連付けした位置情報を生成できる機能を備えた電子カメラを提供できる。これにより、画像再生時に、被写体に関連付けして音声再生を行う処理を比較的容易に実現することができる。
【図面の簡単な説明】
【図１】本発明の実施形態に関係する電子カメラの要部を示すブロック図。
【図２】同実施形態に関する撮影動作を説明するためのフローチャート。
【図３】同実施形態に関する動き検出回路の動作を説明するためのフローチャート。
【図４】同実施形態に関する動き検出処理の原理を説明するための図。
【図５】同実施形態に関する動き検出処理の原理を説明するための図。
【図６】同実施形態の変形例に関する疑似ステレオ効果処理を説明するための図。
【符号の説明】
１…光学レンズユニット
２…レンズ駆動回路
３…撮像素子
４…撮像系制御回路
５…Ａ／Ｄコンバータ
６…ディジタル信号プロセッサ（ＤＳＰ）回路
７…動き検出回路
８…ＳＤＲＡＭ
９…音声インターフェース
１０…マイクロフォン
１１…ＤＭＡ回路
１２…画像表示部
１３…カードインターフェース
１４…メモリカード
１５…電源部
１６…操作部
１７…システムコントローラ
【図１】
0004515005.tif 000002
【図２】
0004515005.tif 000003
【図３】
0004515005.tif 000004
【図４】
0004515005.tif 000005
【図５】
0004515005.tif 000006
【図６】
0004515005.tif 000007