(57)【特許請求の範囲】
【請求項１】
撮像し、映像信号を出力する撮像部と、
音声が入力され、音声信号を出力する音声取得部と、
該撮像部から出力された映像信号と該音声取得部から出力された音声信号とを記録する記録部と、
該映像信号から特定被写体の撮影範囲における位置を検出する物体検出部と、
該音声信号から該検出された特定被写体に対応する音声を抽出する音声抽出部と、
該物体検出部により該映像信号から検出された特定被写体の撮影範囲における位置に応じて、該音声抽出部によって抽出された特定被写体に対応する音声信号を調整し、該特定被写体に対応する音声以外の音声信号と重畳させて出力する音声信号処理部と、
を有する映像音声記録装置。
【請求項２】
請求項１において、
該物体検出部は、話者の検出を行う映像音声記録装置。
【請求項３】
請求項２において、
該音声抽出部は、該物体検出部によって検出された話者の声の成分を抽出し、
該音声信号処理部は、該物体検出部によって検出された話者の位置に応じて、該抽出した話者の声を調整する映像音声記録装置。
【請求項４】
請求項１ないし３のいずれかにおいて、
該音声信号処理部は、該音声抽出部によって抽出された音声信号によって再現される該特定被写体の位置を、該物体検出部で検出された特定被写体の位置に近づくように調整する映像音声記録装置。
【請求項５】
請求項４において、
該音声取得部は、複数チャンネルの音声信号を出力し、
該音声信号処理部は、該物体検出部で検出された特定被写体の位置に応じて、該音声抽出部によって抽出された音声信号の該複数チャンネル毎の音量を調整する映像音声記録装置。
【請求項６】
請求項１ないし５のいずれかにおいて、
該物体検出部は、該複数の特定被写体それぞれの位置および該複数の特定被写体それぞれが音声を発するタイミングを検出し、
該音声抽出部は、該複数の特定被写体それぞれが発した音声に対応する音声信号を抽出し、
該音声信号処理部は、該物体検出部で検出された該複数の特定被写体それぞれの位置および該複数の特定被写体それぞれが音声を発するタイミングに応じて、該音声抽出部によって抽出された音声信号を調整する映像音声記録装置。
【請求項７】
請求項６において、
該特定被写体は話者であり、
該物体検出部は、該複数の話者それぞれの唇の動きを検出することによって、該複数の話者それぞれの位置および該複数の話者それぞれが音声を発するタイミングを検出する映像音声記録装置。
【請求項８】
請求項１ないし７のいずれかにおいて、
該撮像部は、ズーム倍率または撮像モードを変えることができ、
該音声信号処理部は、該撮像部におけるズーム倍率または撮像モードによって、音声信号を調整する度合いを変える映像音声記録装置。
【請求項９】
請求項１ないし８のいずれかにおいて、
該音声信号から特定音声を認識する音声認識部を備え、
該物体検出部は、該音声認識部で認識された特定音声に対応する特定被写体の位置を検出する映像音声記録装置。
【請求項１０】
請求項１ないし９のいずれかにおいて、
該記録部は、該撮像部から出力された映像信号と、該音声取得部から出力され、該音声信号処理部によって調整が行われた音声信号とを記録する映像音声記録装置。
【請求項１１】
請求項１ないし９のいずれかにおいて、
該記録部はさらに、該映像信号と該音声信号の再生ができ、かつ、該映像信号と該音声信号を記録するとき、該物体検出部で検出された特定被写体の位置の情報である物体検出結果を記録し、該映像信号と該音声信号を再生するとき、該物体検出結果を読み出し、
該音声信号処理部は、該読み出された物体検出結果に応じて、該音声抽出部によって抽出された音声信号の調整を行う映像音声記録装置。
【請求項１２】
映像信号と音声信号を再生する再生部と、
該映像信号から特定被写体の撮影範囲における位置を検出する物体検出部と、
該音声信号から該検出された特定被写体に対応する音声を抽出する音声抽出部と、
該物体検出部により該映像信号から検出された特定被写体の撮影範囲における位置に応じて、該音声抽出部によって抽出された特定被写体に対応する音声信号を調整し、該特定被写体に対応する音声以外の音声信号と重畳させて出力する音声信号処理部とを備える映像音声再生装置。
【請求項１３】
請求項１２において、
該物体検出部は、話者の検出を行う映像音声再生装置。
【請求項１４】
請求項１３において、
該音声抽出部は、該物体検出部によって検出された話者の声の成分を抽出し、
該音声信号処理部は、該物体検出部によって検出された話者の位置に応じて、該抽出した話者の声を調整する映像音声再生装置。
【請求項１５】
請求項１２ないし１４のいずれかにおいて、
該音声信号処理部は、該音声抽出部によって抽出された音声信号によって再現される該特定被写体の位置を、該物体検出部で検出された特定被写体の位置に近づくように調整する映像音声再生装置。
【請求項１６】
請求項１５において、
該再生部は、複数チャンネルの音声信号を再生し、
該音声信号処理部は、該物体検出部で検出された特定被写体の位置に応じて、該音声抽出部によって抽出された音声信号の該複数チャンネル毎の音量を調整する映像音声再生装置。
【請求項１７】
請求項１２ないし１６のいずれかにおいて、
該物体検出部は、該複数の特定被写体それぞれの位置および該複数の特定被写体それぞれが音声を発するタイミングを検出し、
該音声抽出部は、該複数の特定被写体それぞれが発した音声に対応する音声信号を抽出し、
該音声信号処理部は、該物体検出部で検出された該複数の特定被写体それぞれの位置および該複数の特定被写体それぞれが音声を発するタイミングに応じて、該音声抽出部によって抽出された音声信号を調整する映像音声再生装置。
【請求項１８】
請求項１７において、
該特定被写体は話者であり、
該物体検出部は、該複数の話者それぞれの唇の動きを検出することによって、該複数の話者それぞれの位置および該複数の話者それぞれが音声を発するタイミングを検出する映像音声再生装置。
【請求項１９】
請求項１１ないし１８のいずれかにおいて、
該音声信号から特定音声を認識する音声認識部を備え、
該物体検出部は、該音声認識部で認識された特定音声に対応する特定被写体の位置を検出する映像音声再生装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は映像音声記録装置および映像音声再生装置関する。
【背景技術】
【０００２】
当技術分野の背景技術として、例えば特開２００６−２８７５４４号公報（特許文献１）と特開２００７−５８４９号公報（特許文献２）とがある。
【０００３】
特許文献１には課題として「記録された映像信号を任意の画角で再生する時に、記録された複数チャンネルの音声信号における指向性、あるいは指向角を可変させることができるようにする。」と記載され、解決手段として「ｎ個（ｎは２以上の整数）のマイクユニット１０１からのｎチャンネルの音声信号と、ビデオカメラ１０３からの映像信号とを記録媒体に記録する記録装置１０５と、記録媒体に記録されたｎチャンネルの音声信号及び映像信号を再生する再生装置１０６と、再生装置１０６で再生された映像信号に基づく再生画像の特定の画角を選択する映像操作入力手段１１３と、選択された前記画角に対応する映像信号に基づいて、再生装置１０６で再生されたｎチャンネルの音声信号の指向角又は指向性を制御するための演算処理を行う音声演算処理部１０７とを有するようにする。」と記載されている（要約参照）。
【０００４】
特許文献２には課題として「本発明は、記録装置、記録方法、再生装置、再生方法、記録方法のプログラム及び記録方法のプログラムを記録した記録媒体に関し、例えばＤＶＤの光ディスクを用いたビデオカメラに適用して、個人ユーザーがビデオカメラ等によりマルチチャンネルによる音声信号を記録する場合でも、従来に比して高い臨場感によりマルチチャンネルによる音声信号を楽しむことができるようにする。」と記載され、解決手段として「本発明は、撮像結果による映像信号の映像に対応するように、マルチチャンネルによる音声信号ＦＲＴ、ＦＬ、ＦＲ、ＲＬ、ＲＲ、ＬＦの特性を可変する。」と記載されている（要約参照）。
【０００５】
また、その他の背景技術として、例えば、特開２００７−０１３２５５号公報（特許文献３）、特開２００４−１４７２０５号公報（特許文献４）、および特開２００１−１６９３０９号公報（特許文献５）もある。
【０００６】
特許文献３には課題として「撮影された画像内において特定の被写体から発せられる音声を強調することができるようにする。」と記載され、解決手段として「画像認識部１３１が、画像を構成する画素のヒストグラムを生成し、人物が写っている場合の画素のヒストグラムのパターンとマッチングして相関係数を出力する。判定部１３２が相関係数に基づいて、画像の中に人物が写っているか否かを判定し、人物が写っていると判定された場合、指向性操作部１３３が前方向を重視したポーラパターンを設定し、音声帯域操作部１３４が人の声の周波数帯域を強調させるように音声の信号を処理する。本発明は、ビデオカメラに適用することができる。」と記載されている（要約参照）。
【０００７】
特許文献４には課題として「音声のステレオ記録を可能とし、臨場感のある動画を記録することができる画像音声記録装置を提供。」と記載され、解決手段として「画像音声記録装置１０は、被写界を撮像してこの被写界を表わす画像信号１０３を形成する。また、被写界の左側および右側の音声を集音してそれぞれ左音声信号１０８および右音声信号１１０を形成する。さらにこの画像信号１０３から信号処理により動きベクトルを検出し、この動きベクトルから画像において最も有力な移動方向を判断する。この移動方向に応じて、左右の音量バランスが変化するように左音声信号１０８および右音声信号１１０をそれぞれ調整し、これらの音声信号をステレオ録音して音声の移動感を強調し、臨場感のある動画記録を実現している。」と記載されている（要約参照）。
【０００８】
特許文献５には課題として「従来の情報記録装置および情報再生装置においては、音源や被写体の奥行き等の正確な位置に関する情報を持たずに音声情報や画像情報等が直線的または平面的に記録されており、情報の再生時に充分に現実感や立体感および情報の利便性を得ることができなかった。」と記載され、解決手段として「音声情報や画像情報等に音源や被写体の位置に関する情報を付加して記録し、それら情報の再生時に、付加した位置に関する情報を有効に利用する。例えば音声情報の場合、楽器別の録音トラックごとに位置情報を付加して、再生時に各トラックに異なる伝播特性を与えて奥行きのある音場を形成する。」と記載されている（要約参照）。
【０００９】
【特許文献１】特開２００６−２８７５４４号公報
【特許文献２】特開２００７−５８４９号公報
【特許文献３】特開２００７−０１３２５５号公報
【特許文献４】特開２００４−１４７２０５号公報
【特許文献５】特開２００１−１６９３０９号公報
【発明の開示】
【発明が解決しようとする課題】
【００１０】
上記特許文献１では、映像を再生する際に、画角を変化させるなどの操作によって音声の指向性を変化させることで画像と音声の違和感を軽減させる。しかし、指向性を持たせることで、ステレオ感の乏しい音声となってしまう。
【００１１】
また、上記特許文献２では、撮影モードなどに応じて音声の指向性や周波数特性を調整し、より臨場感のある撮影を可能とする。しかし、撮影モードや撮影条件によっての調整だけでは、臨場感を高めることが難しい。
【００１２】
また、上記特許文献３では、人物が写っていると判定された場合、前方向を重視したポーラパターンを設定し、人の声の周波数帯域を強調させる。しかし、前方向を重視するのみで、左右方向については記載されていない。
【００１３】
また、上記特許文献４では、動きベクトルから画像において最も有力な移動方向を判断し、その移動方向に応じて、左右の音量バランスを変化させ、臨場感のある動画記録を実現する。しかし、集音した左右の音声の音量をそのまま変化させてしまうため、本来移動していない対象の音まで移動してしまう。
【００１４】
また、上記特許文献５では、音源毎にマイクを準備し、集音した音声を位置情報と共に記録し、再生時に異なる伝播特性を与えて奥行きのある音場を形成する。しかし、音源の数だけマイクが必要となる。
【００１５】
いずれの特許文献にも、少なくとも、映像信号から特定被写体の位置を検出し、音声信号からその特定被写体の音声を抽出し、検出した位置によって、抽出した音声を調整することにより、臨場感を高めることについて、記載されていない。
【課題を解決するための手段】
【００１６】
そこで、例えば、映像信号から特定被写体の位置を検出し、音声信号からその特定被写体の音声を抽出し、検出した位置によって、抽出した音声を調整することにより、臨場感を高める。また、例えば、物体検出として話者検出を備えることで、話者の有無と画面上の位置を含む話者検出の結果によって、声の成分を左右に分配する割合を変化させることができる。画面の右側に人物がいる場合には、マイクロフォンから取得される音声データのうち、人間の声の成分を、右側のチャンネルに多く配分して記録する。または、例えば、画面のどの位置に人物がいるかの情報である話者検出結果を、映像音声情報とともに記録媒体に記録し、再生時に該話者検出結果を元に、音声データを調整する。詳細には、特許請求の範囲に記載の構成を備える。
【発明の効果】
【００１７】
本発明によれば、臨場感を高めることができる。例えば、特に、映像信号からの特定被写体の位置の検出と、音声信号からの特定被写体の音声の抽出との相乗効果により、被写体とマイクが離れていてマイクロフォンでステレオ感のある撮影が困難であっても、人物が撮影している画面のどの位置にいるか検出し、その位置に合わせて人物の声を左右に調整する為、ステレオ感のある撮影が可能となる。
上記以外の課題、構成、および効果は、以下の実施形態の説明により明らかにされる。
【発明を実施するための最良の形態】
【００１８】
以下、この発明に好適な実施形態の例について図面を参照しながら説明する。
【実施例１】
【００１９】
図１は、映像音声データ（映像データ、音声データともいう）を記録する映像音声記録装置の例として、ビデオカメラの構成例を示す図であり、主に記録に関するフローを表している。ただし、本発明はビデオカメラに限定されるものではない。
【００２０】
まず、映像の入力から説明する。撮像ユニット１０１は、ズーム可能なレンズユニットから入射される光を、ＣＭＯＳやＣＣＤなどの撮像素子で受光し、その信号を１画素ごとにデジタルデータに変換するユニットである。
【００２１】
画像処理部１０２は、上記撮像ユニット１０１の出力結果を入力し、色合い調整やノイズ低減、エッジ強調などの画像処理を行う。
【００２２】
物体検出部の一例である話者検出部１０３は、上記画像処理部１０２から入力される映像から、特定被写体の一例である話者の有無を検出し話者の位置を求める。
【００２３】
図３は撮影している範囲３０１の中のどの位置に話者がいるかを表した図である。横軸（位置Ｘ）は、画面上の左右（ＬＲ）のどちら側にいるかを表している。便宜上、Ｒ側にいるときを正（＋）、Ｌ側にいるときを負（−）と定義する。例えば図の構図の場合は、話者の位置は「＋Ｐ」と出力する。話者の位置特定方法は顔を検出し、唇の動きを検出するといった手法があるが、本発明はこれに限定しない。また、撮影している範囲３０１に複数人存在した場合には、それぞれの位置を検出する。さらに、唇の動きを検出し、どの話者が話しているかも検出する。
【００２４】
次に、音声の入力について説明する。図１のマイクロフォンユニット１０６は、左右の音声を取得するために左右２個搭載し、音声信号を電気信号に変換し、ＡＤコンバータでデジタル変換した結果を出力するユニットである。
【００２５】
音声信号処理部１０７は、上記マイクロフォンユニット１０６の出力を入力とし、左右の音声信号の調整を行うことがでる。
【００２６】
図４に音声信号処理部１０７の構成例を示す。図４の話者検出４０１とマイクロフォンユニット４０２は、それぞれ図１の話者検出１０３とマイクロフォンユニット１０６に対応する。声成分分離部４０３は、マイクロフォンユニット４０２からの出力結果を入力とし、その音声データから人間の声の成分と、声の成分を除いた成分に分離する。人間の声の分離方法には、例えば４００（Ｈｚ）〜４（ｋＨｚ）の周波数を抽出するなどの方法があるが、本発明はこれに限定するものではない。声の成分はＬＲ調整部４０４に入力され、声を除いた成分は音声重畳部４０５に入力される。ＬＲ調整部４０４は話者検出４０１からの出力に応じて、人間の声の成分の左右（ＬＲ）への分配を調整する機能をもつ。例えば、話者の位置に比例して、人間の声の左右分配比率を変動させてもよい。音声重畳部４０５は、ＬＲ調整部４０４で左右分配を調整された人間の声の成分と、声成分分離部４０３で分離された、人間の声を除いた成分とを重畳する。
【００２７】
話者が複数人いる場合には、声成分分離部４０３にてそれぞれの位置に応じた方向からの音声を抽出する。そして、顔検出や唇の動きのよって各話者の位置と声を発しているタイミングを検出し、その位置とタイミングによって、人の声の成分を調節する。このような手法を用い、それぞれの人の声を左右のスピーカにそれぞれの位置に応じた割合で重畳することで、複数人の声を分離し、臨場感のある撮影が可能となる。また、複数人存在する場合、特に、複数の話者の唇が同時に動いていることを検出した場合は人の声の抽出や重畳をやめ、そのまま記録するといった制御をおこなってもよい。これは、複数人が話した場合声の成分の分離が困難と判断される場合有用である。
【００２８】
従来技術では、カメラと被写体に距離がある場合、人間の声はほとんど中央からのみのしか記録されなかった。他方、本実施例によれば、上述した一連の処理により、画面内の話者の位置に応じて、話者の声が左右に強調される、あるいは、上述した一連の処理によって調整された人間の声の音声信号によって再現される人間の位置が、話者検出部１０３で検出された話者の位置に近づくように調整される。したがって、より臨場感のあるシーンを撮影することが可能となる。
【００２９】
なお、本実施例では２ｃｈのステレオ音声を想定して説明したが、５．１ｃｈなどの多チャンネル音声でもよい。また、本実施例では人の声を抽出して調整を行っているが、楽器（またはその演奏者）や動物を検出し、その楽器や動物の音成分を抽出してもよい。
【００３０】
また、ズームした時とズームしていない時とで、音声の調整の度合いを変えてもよい。広角時に検出した時は、比較的カメラと被写体が近いことが多い為、調整度合いを下げることでより自然なステレオ感となる。このようにズーム倍率などの撮像パラメータや撮影モードなども加味した音声信号の調整をおこなってもよい。
【００３１】
また、これらの調整を簡単に設定できるように、カメラで記録する前にあらかじめ設定する手段を設けてもよい。例えば、舞台モード、運動会モード、赤ちゃんモードの３モードを用意する。舞台モードの場合は、カメラ周辺の音を集音しないようにマイクの指向性をカメラ前方に持たせ、人の声の成分を左右に振り分ける度合いを大きくする。そうすることで、舞台のような比較的遠くの話者を撮影する場合にも、より臨場感のある撮影が可能となる。運動会モードでは、周囲の応援も集音したいので、マイクの指向性は広くして、被写体に人物が１人の時だけ人の声の成分を左右に振り分ける。但し、左右の振り分け度合いは弱めとする。これにより、多数の話者が存在し、それぞれの声を集音したい状況でも、自然な撮影が可能となる。赤ちゃんモードは、人の声の成分を抽出する過程において、赤ちゃんの声の成分を特に強調するように設定する。これにより、赤ちゃんの声を鮮明に撮影することが可能となる。これらの設定例は一例であり、本発明はこれに限定するものではない。
【００３２】
図１のＭＵＸ１０４は、画像信号処理１０２から出力される映像データと、音声信号処理１０７から出力される音声データを、それぞれ圧縮、重畳する処理を行う。記録装置１０５は圧縮、重畳されたデータを記録する。例えば、大容量光ディスクであるＢＤ（Ｂｌｕ-ｒａｙ  Ｄｉｓｃ）に記録する場合、映像はＨ．２６４／ＡＶＣ形式で圧縮し、音声はドルビーデジタル形式で圧縮したものをＴＳ（Ｔｒａｎｓｐｏｒｔ  Ｓｔｒｅａｍ）形式に重畳し記録する。記録媒体は、ＢＤの他、ＤＶＤ、フラッシュメモリ（ＳＤカードなど）、磁気テープ、ハードディスクなどがある。また、ネットワークを経由し、外部デバイスの記録装置に転送して記録してもよい。本発明はこれらの記録媒体に限るものではない。
【００３３】
また、以上に述べた処理の全てまたは一部を計算機上で実現してもよい。すなわち、上述した処理の全てまたは一部を計算機に実行させるソフトウェアと、それを実行するハードウェアである計算機との協働によって、上述した処理を行うようにしても良い。
【００３４】
本実施例では、記録時に音声データに直接調整を行い記録媒体に記録する例を示したが、記録時には音声データの調節パラメータを映像音声データとは別に記録し、再生時に該調整パラメータにしたがって再生を行ってもよい。
【００３５】
ここで、調整パラメータとは、上述した処理を実行するために必要な情報の全部または一部をいい、上述した処理を途中で中断して記録を終了し、その後、再生時に上述した処理の続きを再開できるようにするために記録しておくための情報である。
【００３６】
例えば、話者検出部１０３が検出した話者の位置を調整パラメータとして、映像音声データとは別に記録しておく。そして、再生時に、この記録しておいた話者の位置を用いて、上述した処理を実行し、人間の声の成分の左右（ＬＲ）への分配を調整してもよい。  あるいは、上述したＬＲ調整部４０４が、話者検出４０１からの出力に応じて、人間の声の成分の左右（ＬＲ）への分配を調整する動作において、音声データのいつの時点の人間の声の成分をどの程度左右（ＬＲ）への分配するか、という情報を、調整パラメータとして、映像音声データとは別に記録しておく。そして、再生時に、この調整パラメータにしたがって、該当する人間の声の成分を左右（ＬＲ）への分配して調整するようにしてもよい。
【００３７】
このように、人間の声の成分を左右（ＬＲ）へ分配して調整する処理を再生時におこなうことで、記録した後でユーザーが本効果を適用するかどうか選択することが可能となる。
【実施例２】
【００３８】
実施例１では、記録時に、特定被写体を検出し、音声を抽出し、抽出した音声の左右調整を行ったが、これらを再生時におこなってもよい。以下、図を参照しながら詳細に説明する。
【００３９】
図２は、映像音声データ（映像データ、音声データともいう）を記録する映像音声再生装置の例として、ビデオカメラの構成例を示す図であり、主に再生に関するフローを表している。ただし、本発明はビデオカメラに限定されるものではない。
【００４０】
記録再生装置２０１は、記録媒体への書き出しと、読み出しを行う。再生時には、記録媒体から映像音声データを読み出し、ＤＥＭＵＸ２０２に入力する。ＤＥＭＵＸ２０２は、映像データと音声データを分離し、それぞれ伸長処理を行い、映像データは画像信号処理２０３へ、音声データは音声信号処理２０７に入力する。例えば、大容量光ディスクであるＢＤ（Ｂｌｕ-ｒａｙ  Ｄｉｓｃ）から再生する場合、映像はＨ．２６４／ＡＶＣ形式で圧縮し、音声はドルビーデジタル形式で圧縮したものをＴＳ（Ｔｒａｎｓｐｏｒｔ  Ｓｔｒｅａｍ）形式に重畳し記録されている。記録媒体は、ＢＤの他、ＤＶＤ、フラッシュメモリ（ＳＤカードなど）、磁気テープ、ハードディスクなどがある。また、ネットワーク経由し、外部デバイスから記録装置に転送して再生してもよい。本発明はこれらの記録媒体に限るものではない。画像信号処理２０３と話者検出２０５は実施例１で述べた画像信号処理１０１、話者検出１０３同等の機能を有する為、ここでは省略する。
【００４１】
音声信号処理２０７は、ＤＥＭＵＸ２０２からの出力を入力とし、話者検出２０５の出力結果によって、音声信号処理を行う。
【００４２】
図６に音声信号処理２０７の詳細を示す。図６の話者検出６０１、ＤＥＭＵＸ６０２、外部ＡＶ出力ユニット６０６、スピーカユニット６０７は、それぞれ図２の話者検出２０５、ＤＥＭＵＸ２０２、外部ＡＶ出力ユニット２０６、スピーカユニット２０８に対応する。声成分分離部６０３、ＬＲ調整部６０４と音声重畳部６０５は、実施例１で説明した、図４の声成分分離部４０３、ＬＲ調整部４０４と音声重畳部４０５とそれぞれ同一機能である。つまり、記録再生装置２０１から読み出された映像データから話者の位置を特定し、その位置に応じて声の成分を左右調整する。
【００４３】
このように、特定被写体を検出し、音声を抽出し、抽出した音声の左右に調整する処理を再生時におこなうことで、過去に撮ったビデオを臨場感のある再生が可能となる。また、記録時に行わないことにより、記録した後でユーザーが本効果を適用するかどうか選択することが可能となる。
【００４４】
画像信号処理２０３の出力は、画像表示ユニット２０４と外部ＡＶ出力ユニット２０６に入力される。一方音声は、音声信号処理２０７の出力から、スピーカユニット２０８と外部ＡＶ出力ユニット２０６へ入力される。画像表示ユニット２０４は、画像信号処理２０３のデータをＬＣＤなどに表示する。スピーカユニット２０８は、音声信号処理２０７から入力される音声データをＤ／Ａ変換し音を鳴らす。外部ＡＶ出力ユニット２０６は入力される映像音声データを例えばＨＤＭＩ（Ｈｉｇｈ−Ｄｅｆｉｎｉｔｉｏｎ  Ｍｕｌｔｉｍｅｄｉａ  Ｉｎｔｅｒｆａｃｅ）端子などから出力し、テレビなどに接続できる。
【００４５】
以上に述べた処理は、全てまたは一部を計算機上で実現してもよい。ソフトウェアおよびハードウェアによる実現方法は上述したとおりである。
【実施例３】
【００４６】
図７は、映像音声データ（映像データ、音声データともいう）を記録する情報記録装置の例として、ビデオカメラの構成例を示す図であり、音声認識結果によって画像認識の動作モードを変化させ、画像認識の精度を向上させる例について説明する。実施例１と同等な部分は省略して説明する。なお、本実施例でもビデオカメラを例とするが、本発明はビデオカメラに限定されるものではない。
【００４７】
実施例１では図１において、音声信号処理１０７があるが、本実施例では音声信号処理１０７の前段に音声認識処理７０８を持つ。音声認識処理７０８は、音声の解析を行い、人間の話し声、楽器の音や車の音などといった音を検出し、その結果を物体検出７０３に入力する。また、マイクロフォンユニット７０６から音声認識処理７０８に入力された音声データは解析に使用するとともに、そのまま音声信号処理７０７へ入力する。
【００４８】
物体検出７０３は実施例１で述べた話者検出１０３の機能に加え、話者以外にも楽器や車などといった物体を検出する機能を備え、音声認識処理７０８からの入力結果によって検出方法を変更することができる。例えば、音声認識処理７０８から人間の声が含まれていることが検出された場合には、物体検出７０３では人間を中心に検索するようにする。逆に人間の声が検知できない場合には、話者や楽器、動物などを広く浅く検知する。また、楽器の音色が検出された場合は、その音色に相当する楽器を優先的に探索する。このようにすることにより、音声の認識結果から物体の検出範囲が限定され、限られた時間で、効率よく特定被写体（たとえば物体や人物）を検出することが可能となる。
【００４９】
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。
【産業上の利用可能性】
【００５０】
本発明は、例えば、ビデオカメラに適用できる。
【図面の簡単な説明】
【００５１】
【図１】実施例１における記録時のデータフローを示す図である。
【図２】実施例２における再生時のデータフローを示す図である。
【図３】実施例１における話者検出の説明を示す図である。
【図４】実施例１における音声信号処理部の詳細（記録時）を示す図である。
【図５】実施例１における記録再生装置の構成例を示す図である。
【図６】実施例２における音声信号処理部の詳細（再生時）を示す図である。
【図７】実施例３における記録時のデータフローを示す図である。
【符号の説明】
【００５２】
１０１  撮像ユニット
１０２  画像信号処理部
１０３  話者検出部
１０４  ＭＵＸ部
１０５  記録再生装置
１０６  マイクロフォンユニット
１０７  音声信号処理部
２０１  記録再生装置
２０２  ＤＥＭＵＸ部
２０３  画像信号処理部
２０４  映像表示ユニット
２０５  話者検出部
２０６  外部ＡＶ出力ユニット
２０７  音声信号処理部
２０８  スピーカユニット
３０１  撮影時の描画領域
４０１  話者検出部
４０２  マイクロフォンユニット
４０３  声成分分離部
４０４  ＬＲ調整部
４０５  音声重畳部
４０６  ＭＵＸ部
５０１  ドライブ制御部
５０２  ハードディスクドライブ
５０３  光ディスクドライブ
５０４  フラッシュメモリ
６０１  話者検出部
６０２  ＤＥＭＵＸ部
６０３  声成分分離部
６０４  ＬＲ調整部
６０５  音声重畳部
６０６  外部ＡＶ出力ユニット
６０７  スピーカユニット
７０１  撮像ユニット
７０２  画像信号処理部
７０３  物体検出部
７０４  ＭＵＸ部
７０５  記録再生装置
７０６  マイクロフォンユニット
７０７  音声信号処理部
７０８  音声認識処理部
【図１】
0004934580.tif 000002
【図２】
0004934580.tif 000003
【図３】
0004934580.tif 000004
【図４】
0004934580.tif 000005
【図５】
0004934580.tif 000006
【図６】
0004934580.tif 000007
【図７】
0004934580.tif 000008