(57)【特許請求の範囲】
【請求項１】
カメラによる撮影に基づく画像の表示装置への表示と共に行われる複数のスピーカーによる音の再生に係る音響信号であって、複数の方向に対応する音を再生するための音響信号を、前記カメラによる撮影と共に行われる複数のマイクロホンによる収音に基づく収音信号を用いて生成する信号処理装置であって、
前記収音信号を取得する取得手段と、
前記表示装置に表示される画像に対応する前記カメラの撮影方向に対応する音が所定方向の音として再生され、且つ、前記撮影方向の仰俯角の大きさが所定値以下である場合には前記撮影方向の逆方向に対応する音が前記所定方向の逆方向の音として再生され、前記撮影方向の仰俯角の大きさが前記所定値より大きい場合には前記撮影方向の逆方向とは仰俯角が異なる方向に対応する音が前記所定方向の逆方向の音として再生されるように、前記音響信号の生成に係る制御を行う制御手段と、
前記取得手段により取得される前記収音信号に対して、前記制御手段による制御に応じた処理を実行することで、前記音響信号を生成する生成手段とを有することを特徴とする信号処理装置。
【請求項２】
前記カメラの撮影時の傾きを示す傾き情報を取得する情報取得手段を有し、
前記制御手段は、前記情報取得手段により取得される前記傾き情報に基づいて前記音響信号の生成に係る制御を行うことを特徴とする請求項１に記載の信号処理装置。
【請求項３】
前記所定方向は、前記表示装置の位置に対応する方向であることを特徴とする請求項１又は２に記載の信号処理装置。
【請求項４】
前記複数のマイクロホンは前記カメラと一体となって構成されることを特徴とする請求項１乃至３の何れか１項に記載の信号処理装置。
【請求項５】
前記所定値は０°以上の値であることを特徴とする請求項１乃至４の何れか１項に記載の信号処理装置。
【請求項６】
前記制御手段は、前記所定方向と方位角が垂直な方向の音として前記撮影方向に垂直な方向に対応する音が再生されるように、前記音響信号の生成に係る制御を行うことを特徴とする請求項１乃至５の何れか１項に記載の信号処理装置。
【請求項７】
前記制御手段は、前記撮影方向の仰俯角の大きさが前記所定値より大きい値である場合に、前記撮影方向の逆方向から仰俯角が前記値だけずれた方向に対応する音が前記所定方向の逆方向の音として再生されるように、前記音響信号の生成に係る制御を行うことを特徴とする請求項１乃至６の何れか１項に記載の信号処理装置。
【請求項８】
前記制御手段は、前記撮影方向の仰俯角の大きさが前記所定値より大きい場合に、方位角が前記撮影方向と１８０°異なり且つ仰俯角が前記撮影方向と等しい方向に対応する音が前記所定方向の逆方向の音として再生されるように、前記音響信号の生成に係る制御を行うことを特徴とする請求項１乃至６の何れか１項に記載の信号処理装置。
【請求項９】
前記複数のスピーカーは、視聴者に対してそれぞれ異なる方向に配置されるスピーカーであり、
前記生成手段は、前記複数のスピーカーに出力される複数チャネルの前記音響信号を生成することを特徴とする請求項１乃至８の何れか１項に記載の信号処理装置。
【請求項１０】
前記複数のスピーカーは、視聴者の両耳近傍に装着されるスピーカーであり、
前記生成手段は、頭部伝達関数を用いて前記音響信号を生成することを特徴とする請求項１乃至８の何れか１項に記載の信号処理装置。
【請求項１１】
前記制御手段は、前記表示装置に表示される画像に含まれる音源に対応する音と当該画像に含まれない音源に対応する音とで異なる指向性制御が行われるように、前記音響信号の生成に係る制御を行うことを特徴とする請求項１乃至１０の何れか１項に記載の信号処理装置。
【請求項１２】
前記表示装置に画像が表示されているか否かを判定する判定手段を有し、
前記制御手段は、前記複数のスピーカーにより再生される音の方向が前記表示装置に画像が表示されているか否かに応じて異なるように、前記判定手段による判定結果に応じて前記音響信号の生成に係る制御を行うことを特徴とする請求項１乃至１１の何れか１項に記載の信号処理装置。
【請求項１３】
カメラによる撮影に基づく画像の表示装置への表示と共に行われる複数のスピーカーによる音の再生に係る音響信号であって、複数の方向に対応する音を再生するための音響信号を、前記カメラによる撮影と共に行われる複数のマイクロホンによる収音に基づく収音信号を用いて生成する信号処理装置であって、
前記収音信号を取得する取得手段と、
前記表示装置に表示される画像に対応する前記カメラの撮影方向の仰俯角に応じて異なる方向の音が所定方向の音として再生され、且つ、前記撮影方向の仰俯角によらずに決まる方向に対応する音が前記所定方向とは逆方向の音として再生されるように、前記音響信号の生成に係る制御を行う制御手段と、
前記取得手段により取得される前記収音信号に対して、前記制御手段による制御に応じた処理を実行することで、前記音響信号を生成する生成手段とを有することを特徴とする信号処理装置。
【請求項１４】
カメラによる撮影に基づく画像の表示装置への表示と共に行われる複数のスピーカーによる音の再生に係る音響信号であって、複数の方向に対応する音を再生するための音響信号を、前記カメラによる撮影と共に行われる複数のマイクロホンによる収音に基づく収音信号を用いて生成する信号処理装置であって、
前記収音信号を取得する取得手段と、
前記複数のスピーカーにより再生される音の仰俯角に関する設定を、複数の再生モードから何れかの再生モードを選択するためのユーザ操作に応じて実行する設定手段と、
前記表示装置に表示される画像に対応する前記カメラの撮影方向の仰俯角が所定値より大きい場合に、前記撮影方向の逆方向から前記設定手段による設定に応じた値だけ仰俯角がずれた方向に対応する音が前記表示装置の位置に対応する方向とは逆方向の音として再生されるように、前記音響信号の生成に係る制御を行う制御手段と、
前記取得手段により取得される前記収音信号に対して、前記制御手段による制御に応じた処理を実行することで、前記音響信号を生成する生成手段とを有することを特徴とする信号処理装置。
【請求項１５】
カメラによる撮影に基づく画像の表示装置への表示と共に行われる複数のスピーカーによる音の再生に係る音響信号であって、複数の方向に対応する音を再生するための音響信号を、前記カメラによる撮影と共に行われる複数のマイクロホンによる収音に基づく収音信号を用いて生成する信号処理方法であって、
前記収音信号を取得する取得工程と、
前記表示装置に表示される画像に対応する前記カメラの撮影方向に対応する音が所定方向の音として再生され、且つ、前記撮影方向の仰俯角の大きさが所定値以下である場合には前記撮影方向の逆方向に対応する音が前記所定方向の逆方向の音として再生され、前記撮影方向の仰俯角の大きさが前記所定値より大きい場合には前記撮影方向の逆方向とは仰俯角が異なる方向に対応する音が前記所定方向の逆方向の音として再生されるように、前記音響信号の生成に係る制御を行う制御工程と、
前記取得工程において取得される前記収音信号に対して、前記制御工程における制御に応じた処理を実行することで、前記音響信号を生成する生成工程とを有することを特徴とする信号処理方法。
【請求項１６】
前記カメラの撮影時の傾きを示す傾き情報を取得する情報取得工程を有し、
前記制御工程においては、前記情報取得工程において取得される前記傾き情報に基づいて前記音響信号の生成に係る制御が行われることを特徴とする請求項１５に記載の信号処理方法。
【請求項１７】
前記所定方向は、前記表示装置の位置に対応する方向であることを特徴とする請求項１５又は１６に記載の信号処理方法。
【請求項１８】
コンピュータを、請求項１乃至１４の何れか１項に記載の信号処理装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、信号処理装置、信号処理方法、及びプログラムに関する。
【背景技術】
【０００２】
複数のマイク素子（マイクアレイ）で収音した複数チャンネルの音響信号を処理して、所望方向の音を取り出す（生成する）技術として指向性制御技術が知られている。これは、複数チャンネルの音響信号にそれぞれ所望方向に応じたフィルタ係数を畳み込んで加算し、単一の出力信号を得るものである。このようなフィルタ係数を畳み込んで加算する処理が、マイクアレイで所望方向に指向性を形成することに対応している。特許文献１には、マイクアレイを有するＩＣレコーダ等の装置において、装置の傾き角度と想定角度の差分に応じてマイクアレイに係る指向性の指向方向を補正する技術が提案されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１０−５０５７１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
図２（ａ）に示すように、撮像素子を有するカメラ２０１、及びカメラ２０１に固定され、ユーザの撮影行為によって一体的に移動するマイクアレイ２０２で撮影及び録音を行うことを考える。マイクアレイ２０２は、例えばカメラ２０１の画角の起点を中心とする立方体の頂点位置に配置された、８個の無指向性マイク素子で構成されるものとする。図２（ａ）に示す例では、カメラ２０１はその正面方向（画角範囲）にいる人物２０３の映像を映像信号として捉え、マイクアレイ２０２は全方位の音を音響信号として捉える。また、カメラ２０１の正面下方に犬２０５、水平真後ろに車２０４、真後ろ上方にヘリコプタ２０６が存在しているものとする。
【０００５】
次に、このようにして取得した映像と音を表示及び再生することを考える。図３（ａ）に示すように、視聴者であるユーザ３３０の略水平前方に配置されたディスプレイ３２０に映像を表示する。この場合、ディスプレイ３２０には人物２０３の映像が表示される。また、ユーザ３３０の略水平周囲に配置された、例えば８台のスピーカ３１１〜３１８で音を再生する。このとき、水平各方向のスピーカ３１１〜３１８から、全方位の音のうち各スピーカの配置方向に対応する特定方向の音（方向音と呼ぶ）を再生すれば、録音現場にいるとユーザ３３０が感じるかのような臨場感の高い再生を実現することができる。
【０００６】
各スピーカ３１１〜３１８から再生する方向音は、音響信号に各スピーカの配置方向に応じたフィルタ係数を畳み込んで加算することで得られる。これはマイクアレイ２０２で各スピーカの配置方向に指向性を形成することに対応する。
【０００７】
例えば、図３（ａ）に示す例においてユーザ３３０の水平正面方向のスピーカ３１１から再生する方向音については、図２（ａ）に示したようにマイクアレイ２０２の水平正面方向に指向性２１１を向けることで、人物２０３の音が得られる。同様に、図３（ａ）に示す例においてユーザ３３０の水平真後ろ方向のスピーカ３１５から再生する方向音については、図２（ａ）に示したようにマイクアレイ２０２の水平真後ろ方向に指向性２１５を向けることで、車２０４の音が得られる。
【０００８】
このように各スピーカの配置方向を指向方向とする指向性制御を行うことで、図３（ａ）に示したように人物２０３の映像を表示しているディスプレイ３２０の方向に配置されたスピーカ３１１からは、人物２０３の音が再生される。図３（ａ）においては、模式的に人物音像３０３で表現している。また、水平真後ろ方向に配置されたスピーカ３１５からは、車２０４の音が再生される（車音像３０４）。すなわち、ディスプレイ３２０に表示される映像とスピーカ３１１から再生される音の内容が一致しており、また、撮影時に水平真後ろ方向に位置していた車２０４の音が同じく水平真後ろ方向のスピーカ３１５から聞こえるため、自然である。
【０００９】
次に、撮影及び録音において、カメラ２０１（及びマイクアレイ２０２）が傾く場合を考える。例えば、図２（ｂ）に示すようにカメラ２０１が前方に傾いた場合、カメラ２０１はその正面方向にいる犬２０５の映像を映像信号として捉える。
【００１０】
ここで、スピーカから再生する方向音の生成に関して、指向性制御に用いるフィルタ係数は、一般にマイクアレイ座標系（ｘm、ｙm、ｚm）で記述した指向方向と対応付けられている。一方、スピーカの配置方向については、重力の反対方向をｚ軸の正方向（天頂方向）とする、グローバル座標系（ｘg、ｙg、ｚg）で記述するのが普通である。
【００１１】
図２（ａ）に示した例のようにカメラ２０１が傾いていない場合、マイクアレイ座標系（＝カメラ座標系）がグローバル座標系と一致している。このため、グローバル座標系で記述したスピーカの配置方向を、そのままマイクアレイ座標系における指向方向として用いれば、グローバル座標系で見て水平正面方向や水平真後ろ方向の音が取り出される。グローバル座標系における極座標表現でのスピーカの配置方向は、例えばスピーカ３１１については（方位角θg1＝０°、仰角φg1＝０°）、スピーカ３１５については（方位角θg5＝１８０°、仰角φg5＝０°）のように記述される。
【００１２】
しかし、図２（ｂ）に示す例のようにカメラ２０１が傾いている場合、マイクアレイ座標系はグローバル座標系と一致しない。このため、グローバル座標系で記述したスピーカの配置方向を、そのままマイクアレイ座標系における指向方向として用いると、以下のようになる。
【００１３】
例えば、図３（ｂ）に示す例においてユーザ３３０の水平正面方向のスピーカ３１１から再生する方向音については、図２（ｂ）に示したようにマイクアレイ２０２の水平正面方向に指向性２２１を向けるため、犬２０５の鳴き声が得られる。また、図３（ｂ）に示す例においてユーザ３３０の水平真後ろ方向のスピーカ３１５から再生する方向音については、図２（ｂ）に示したようにマイクアレイ２０２の水平真後ろ方向に指向性２２５を向けるため、ヘリコプタ２０６の音が得られる。
【００１４】
この場合、マイクアレイ座標系における極座標表現の指向方向は、例えば指向性２２１については（方位角θm1＝θg1＝０°、仰角φm1＝φg1＝０°）のように設定されている。また、指向性２２５については（方位角θm5＝θg5＝１８０°、仰角φm5＝φg5＝０°）のように設定されている。このようにグローバル座標系で記述したスピーカの配置方向を、そのままマイクアレイ座標系における指向方向として用いると、以下のようになる。
【００１５】
まず、図３（ｂ）に示したように犬２０５の映像を表示しているディスプレイ３２０の方向に配置されたスピーカ３１１からは、犬２０５の鳴き声が再生される（犬音像３０５）。これは、撮影時にグローバル座標系で見て正面下方にいた犬２０５の鳴き声が、水平正面方向のスピーカ３１１から聞こえることになるが、ディスプレイ３２０に表示される映像とスピーカ３１１から再生される音の内容は一致しているため、違和感は無い。一方、撮影時にグローバル座標系で見て真後ろ上方に位置していたヘリコプタ２０６の音については、違和感が生じる。なぜなら、画角外で映像に映っていないためにユーザ３３０の目に見えない真後ろ上方のヘリコプタ２０６の音が、水平真後ろ方向のスピーカ３１５から聞こえる（ヘリコプタ音像３０６）からである。
【００１６】
そこで、カメラ２０１が傾いた場合でもグローバル座標系で見て水平正面方向や水平真後ろ方向の音を取り出せるよう、指向性制御における指向方向をカメラ２０１の姿勢に応じて補正することを考える。すなわち、カメラ２０１の姿勢（＝マイクアレイ２０２の姿勢）をもとに、グローバル座標系で記述したスピーカの配置方向をマイクアレイ座標系に座標変換してからマイクアレイ座標系における指向方向として用いる。
【００１７】
例えば、図２（ｂ）に示した例と同じく図２（ｃ）に示すように、カメラ２０１が前方に４５°傾いた場合を考える。カメラ２０１は、図２（ｂ）に示した例と同様に、その正面方向にいる犬２０５の映像を映像信号として捉える。
【００１８】
また、グローバル座標系で記述したスピーカ３１１の配置方向（θg1＝０°、φg1＝０°）をマイクアレイ座標系に座標変換（θg1→mθg1＝０°、φg1→mφg1＝４５°）する。そして、座標変換して得られた値をマイクアレイ座標系における指向性２３１の指向方向（θm1＝mθg1、φm1＝mφg1）とする。同様に、グローバル座標系で記述したスピーカ３１５の配置方向（θg5＝１８０°、φg5＝０°）をマイクアレイ座標系に座標変換（θg5→mθg5＝１８０°、φg5→mφg5＝−４５°）する。そして、座標変換して得られた値をマイクアレイ座標系における指向性２３５の指向方向（θm5＝mθg5、φm5＝mφg5）とする。
【００１９】
これにより、図３（ｃ）に示す例においてユーザ３３０の水平正面方向のスピーカ３１１から再生する方向音については、図２（ｃ）に示したようにグローバル座標系で見て水平正面方向に指向性２３１を向けるため、人物２０３の音が得られる。また、図３（ｃ）に示す例においてユーザ３３０の水平真後ろ方向のスピーカ３１５から再生する方向音については、図２（ｃ）に示したようにグローバル座標系で見て水平真後ろ方向に指向性２３５を向けるため、車２０４の音が得られる。
【００２０】
このようにグローバル座標系で記述したスピーカの配置方向をマイクアレイ座標系に座標変換してから、マイクアレイ座標系における指向方向として用いると、以下のようになる。まず、撮影時にグローバル座標系で見て水平真後ろ方向に位置していた車２０４の音は、図３（ｃ）に示したように同じく水平真後ろ方向のスピーカ３１５から聞こえる（車音像３０４）ため、自然である。一方、犬２０５の映像を表示しているディスプレイ３２０の方向のスピーカ３１１からは、人物２０３の音が聞こえる（人物音像３０３）。すなわち、ディスプレイ３２０に表示される映像とスピーカ３１１から再生される音の内容が一致していないため、違和感が生じる。
【００２１】
本発明は、このような事情に鑑みてなされたものであり、映像と音を表示及び再生する際に、映像と音の内容を一致させつつ、表示されている画像の範囲外の音も違和感なく自然となるよう指向性の制御を行う信号処理装置を提供することを目的とする。
【課題を解決するための手段】
【００２２】
本発明に係る信号処理装置は、カメラによる撮影に基づく画像の表示装置への表示と共に行われる複数のスピーカーによる音の再生に係る音響信号であって、複数の方向に対応する音を再生するための音響信号を、前記カメラによる撮影と共に行われる複数のマイクロホンによる収音に基づく収音信号を用いて生成する信号処理装置であって、前記収音信号を取得する取得手段と、前記表示装置に表示される画像に対応する前記カメラの撮影方向に対応する音が所定方向の音として再生され、且つ、前記撮影方向の仰俯角の大きさが所定値以下である場合には前記撮影方向の逆方向に対応する音が前記所定方向の逆方向の音として再生され、前記撮影方向の仰俯角の大きさが前記所定値より大きい場合には前記撮影方向の逆方向とは仰俯角が異なる方向に対応する音が前記所定方向の逆方向の音として再生されるように、前記音響信号の生成に係る制御を行う制御手段と、前記取得手段により取得される前記収音信号に対して、前記制御手段による制御に応じた処理を実行することで、前記音響信号を生成する生成手段とを有することを特徴とする。
【発明の効果】
【００２３】
本発明によれば、映像と音を表示及び再生する際に、映像と音の内容を一致させつつ、表示されている画像の範囲外の音も違和感なく自然となるよう指向性の制御を行うことができる。
【図面の簡単な説明】
【００２４】
【図１】本発明の実施形態における信号処理装置の構成例を示す図である。
【図２】指向性制御に係る説明図である。
【図３】表示及び再生時の映像と音像に係る説明図である。
【図４】第１の実施形態における指向性制御処理の例を示すフローチャートである。
【図５】第２の実施形態における指向性制御処理の例を示すフローチャートである。
【図６】本発明の実施形態における指向方向を説明するための図である。
【発明を実施するための形態】
【００２５】
以下、本発明の実施形態を図面に基づいて説明する。なお、以下の実施形態は本発明を限定するものではなく、また、本実施形態で説明されている特徴の組み合わせのすべてが本発明の解決手段に必須のものとは限らない。なお、同一の構成については、同じ符号を付して説明する。以下に説明する実施形態においては、撮像素子を有するカメラ２０１で撮影を行い、カメラ２０１に固定されカメラ２０１と一体となって姿勢変化するマイクアレイ２０２で収音（録音）が行われるものとする。また、マイクアレイ２０２は、例えばカメラ２０１の画角の起点を中心とする立方体の頂点位置に配置された、８個の無指向性マイク素子で構成されるものとする。
【００２６】
（第１の実施形態）
本発明の第１の実施形態について説明する。はじめに、第１の実施形態の考え方を図２（ｄ）及び図３（ｄ）を用いて説明する。図２（ｃ）に示した例と同じく図２（ｄ）に示すように、カメラ２０１が前方に４５°傾いた場合を考える。カメラ２０１は、その正面方向にいる犬２０５の映像を映像信号として捉える。
【００２７】
まず、グローバル座標系で記述したスピーカの配置方向を、そのままマイクアレイ座標系における指向性制御の指向方向として初期設定する。例えば、図３（ｄ）に示す例において、ユーザ３３０の水平正面方向に配置されたスピーカ３１１用の方向音を生成する指向性については、（方位角θm1＝θg1＝０°、仰角φm1＝φg1＝０°）のように初期設定する。また、ユーザ３３０の水平真後ろ方向に配置されたスピーカ３１５用の方向音を生成する指向性については、（方位角θm5＝θg5＝１８０°、φm5＝φg5＝０°）のように初期設定する。
【００２８】
次に、このように初期設定した指向方向がカメラ２０１の画角内であれば、初期設定の指向方向に指向性を向ける。例えば、マイクアレイ座標系（＝カメラ座標系）で（方位角θm1＝０°、仰角φm1＝０°）の方向は、カメラ２０１の水平正面方向であるため画角内である。そこで、図３（ｄ）に示す例においてユーザ３３０の水平正面方向のスピーカ３１１から再生する方向音については、図２（ｄ）に示すようにマイクアレイ２０２の水平正面方向に指向性２４１を向けるため、犬２０５の鳴き声が得られる。すなわち、図３（ｄ）に示したように犬２０５の映像を表示しているディスプレイ３２０の方向に配置されたスピーカ３１１からは、犬２０５の鳴き声が再生される（犬音像３０５）。よって、ディスプレイ３２０に表示される映像とスピーカ３１１から再生される音の内容は一致しているため、違和感は無い。
【００２９】
一方、初期設定した指向方向がカメラ２０１の画角外であれば、グローバル座標系のスピーカ配置方向で初期設定した指向方向を、マイクアレイ座標系に座標変換することで補正（更新）する。すなわち、カメラ２０１の姿勢（＝マイクアレイ２０２の姿勢）をもとに、初期設定の指向方向をマイクアレイ座標系に座標変換することで補正し、その補正された指向方向に指向性を向ける。
【００３０】
例えば、マイクアレイ座標系（＝カメラ座標系）で（方位角θm5＝１８０°、仰角φm5＝０°）の方向は、カメラ２０１の水平真後ろ方向であるため画角外である。そこで、グローバル座標系のスピーカ３１５の配置方向で初期設定した指向方向（θm5＝θg5＝１８０°、φm5＝φg5＝０°）をマイクアレイ座標系に座標変換（θg5→mθg5＝１８０°、φg5→mφg5＝−４５°）する。そして、補正された指向方向（θm5＝mθg5、φm5＝mφg5）とする。これにより、図３（ｄ）に示す例においてユーザ３３０の水平真後ろ方向のスピーカ３１５から再生する方向音については、図２（ｄ）に示したようにグローバル座標系で見て水平真後ろ方向に指向性２４５を向けるため、車２０４の音が得られる。すなわち、撮影時にグローバル座標系で見て水平真後ろ方向に位置していた車２０４の音が、図３（ｄ）に示すように同じく水平真後ろ方向のスピーカ３１５から再生される（車音像３０４）ため、自然である。
【００３１】
このように第１の実施形態では、映像と音を表示及び再生する際、映像と音の内容を一致させつつ、画角外の音については撮影時と同じ方向から聞こえるよう指向性の制御を行う。
【００３２】
図１は、本発明の一実施形態における信号処理装置の構成例を示すブロック図である。信号処理装置１００は、全構成要素を統括的に制御するシステム制御部１０１、各種データを記憶しておく記憶部１０２、信号の解析処理を行う信号解析処理部１０３を有する。記憶部１０２は、カメラで撮影された映像信号、及びカメラと一体のマイクアレイで録音された音響信号を保持している。
【００３３】
また、映像の表示系の機能を実現する要素として、ユーザ１３０の略水平前方に配置され、映像を表示するディスプレイ１２０を有する。また、音の再生系の機能を実現する要素として、音響信号出力部１０４、及びユーザ１３０の略水平周囲に配置されたスピーカ１１１〜１１８を有する。なお、スピーカの数や配置は、図１に示す例に限られるものではなく任意でよい。
【００３４】
信号解析処理部１０３は、後述する指向性制御処理によって、各スピーカから再生する方向音を音響信号から生成する。音響信号出力部１０４は、信号解析処理部１０３により生成された方向音にＤＡ変換処理（デジタル−アナログ変換処理）及び増幅処理を施し、ディスプレイ１２０に表示する映像信号と同期して各スピーカから再生する。
【００３５】
以下、第１の実施形態における指向性制御処理について、図４に示すフローチャートに沿って説明する。図４は、第１の実施形態における指向性制御処理の例を示すフローチャートである。なお、図４に示すフローチャートの処理は、特に別記しない限り信号解析処理部１０３が行うものとし、音響信号の所定の時間フレーム長毎、すなわち音響フレーム毎の処理を表すものとする。
【００３６】
ステップＳ４０１では、記憶部１０２が予め保持している、方向音（所定の方向の音）の音像の配置に係るスピーカ１１１〜１１８の配置方向（方位角θgi、仰角φgi）の情報を取得する。取得したスピーカ１１１〜１１８の配置方向（方位角θgi、仰角φgi）の情報を指向性制御における各指向性の指向方向として初期設定する（θmi＝θgi、φmi＝φgi）。ｉは添え字であり、本例ではｉ＝１〜８の整数である（以下についても同様）。各スピーカの配置方向は、リスニングポイント（ユーザ１３０の頭部中心）を原点とするグローバル座標系（ｘg、ｙg、ｚg）において極座標表現で記述されているものとする。
【００３７】
なお、ユーザ１３０から見て水平正面方向のスピーカ１１１の方向をｘg軸正方向とし、重力の反対方向をｚg軸正方向とし、これらと右手系を成すようにｙg軸を取る。図１に示す例の場合、各スピーカの配置方向は（方位角θgi＝（ｉ−１）×４５°、仰角φgi＝０°）のように記述され、これにより初期設定された各指向性の指向方向は、図６（ａ）において太点線の指向方向６０１〜６０８で表されている。
【００３８】
ステップＳ４０２では、現音響フレームと時間的に対応する映像信号の映像フレームについて、その画角を取得する。映像信号の各映像フレームの画角は、映像信号の付加情報として撮影時に記録されているものとし、これはカメラ撮像系のズーム倍率等に応じて映像フレーム毎に変わり得る。なお、映像信号に画角情報が記録されていない場合には、一般的なカメラ撮像系の非ズーム時の画角を用いるようにしてもよい。ここでは、現音響フレームに対応する現映像フレームの画角（水平画角）を１００°とする。
【００３９】
ステップＳ４０３では、現映像フレームを撮影したとき（又は現音響フレームを録音したとき）のカメラの姿勢の情報を取得する。ここで、撮影に用いたカメラはジャイロセンサ等の姿勢センサを備えており、撮影時のカメラの姿勢をグローバル座標系の三軸（ｘg、ｙg、ｚg）に対する回転角で検出できるものとする。これにより、映像信号の各映像フレーム（又は音響信号の各音響フレーム）におけるカメラ姿勢が、映像信号（又は音響信号）の付加情報として撮影及び録音時に記録されているものとする。ここでは、現音響フレームを録音したときのマイクアレイ座標系（＝カメラ座標系）が、図６（ａ）に示すようにグローバル座標系に対してｙg軸周りに４５°回転しているとして、カメラ姿勢をｙg軸周りの回転角αy＝４５°で表す。
【００４０】
ステップＳ４０４〜Ｓ４０８の処理は、ステップＳ４０１において初期設定した指向方向の指向性毎の処理であり、指向性ループの中で行う。ステップＳ４０４では、システム制御部１０１が、ディスプレイ１２０に映像を表示しているかを調べ、表示している場合にはステップＳ４０５へ、表示していない場合にはステップＳ４０６へ進む。これは、第１の実施形態では、指向性の指向方向が映像信号の画角外であれば指向方向の補正を行うが、映像信号の画角に関わらずディスプレイ１２０に映像を表示していなければ、指向方向が画角外であることと同義となるためである。
【００４１】
ステップＳ４０５では、現在の指向性ループで対象としている指向性の指向方向が、ステップＳ４０２において取得した画角内であるかを調べる。その結果、画角内であれば指向方向の補正は不要であるためステップＳ４０８へ、画角外であれば指向方向の補正が必要となる可能性があるためステップＳ４０６へ進む。図６（ａ）に示した指向方向６０１〜６０８（θmi＝θgi＝（ｉ−１）×４５°、φmi＝φgi＝０°）の場合、指向方向６０１、６０２、６０８はステップＳ４０２において取得した画角（１００°）内であるため、指向方向の補正は不要である。
【００４２】
ステップＳ４０６では、画角外の指向方向について、指向方向の補正が必要であるかを判定する。例えばカメラ（マイクアレイ）が傾いていない状態から、前方に傾いて行く場合を考える。このとき、図６（ａ）から分かるように、マイクアレイ座標系のｘm軸がグローバル座標系のｘg軸に対して徐々に角度を成して行くのに対し、マイクアレイ座標系のｙm軸は基本的にグローバル座標系のｙg軸と一致したままである。すなわち、グローバル座標系のｙg軸がカメラ姿勢の回転軸となっている。
【００４３】
ここで、指向方向の補正はグローバル座標系からマイクアレイ座標系への座標変換により行うため、カメラ姿勢の回転軸と略平行な指向方向については、本来、補正は行われないはずである。しかしながら、カメラ（マイクアレイ）の手ぶれ等によって、マイクアレイ座標系のｙm軸はグローバル座標系のｙg周りにわずかに変動するため、指向方向の補正によるフィルタ係数の連続的な切り替えが発生し得る。このとき、座標変換で生じる方向変化は小さいため、生成される方向音は大きくは変化しないが、あまり意味のない頻繁なフィルタの切り替えが、音の連続性など音質の劣化を招く可能性がある。
【００４４】
そこで、ステップＳ４０６では、指向性の指向方向とカメラ姿勢の回転軸との成す角を算出し、その値が閾値未満（すなわち指向方向と姿勢の回転軸が略平行）であればカメラ姿勢に応じた指向方向の補正は不要としてステップＳ４０８へ進む。一方、指向性の指向方向とカメラ姿勢の回転軸との成す角の値が閾値以上であれば、カメラ姿勢に応じた指向方向の補正が必要としてステップＳ４０７へ進む。指向方向とカメラ姿勢の回転軸との成す角は、例えば指向方向を直交座標表現の単位ベクトルとして記述し直して、カメラ姿勢の回転軸の正・負方向に対応する２つの単位ベクトルとの成す角（０°〜１８０°）の最小値として算出する。図６（ａ）に示した指向方向６０１〜６０８の場合、指向方向６０３、６０７はカメラ姿勢の回転軸であるｙg軸と平行であるため、指向方向の補正は不要である。
【００４５】
ステップＳ４０７では、グローバル座標系のスピーカ配置方向で初期設定した指向方向を、マイクアレイ座標系に座標変換することで補正（更新）する。図６（ａ）に示した例の場合、マイクアレイ座標系はグローバル座標系に対してｙg軸周りにαy（＝４５°）回転している。そのため、グローバル座標系からマイクアレイ座標系への座標変換には、式（１）で表される回転行列Ｒ（αy）の逆行列Ｒ-1（αy）＝Ｒ（−αy）を用いる。
【００４６】
【数１】
0006521675.tif 000002
【００４７】
すなわち、補正が必要な指向方向６０４〜６０６（θmi＝θgi＝（ｉ−１）×４５°、φmi＝φgi＝０°）（ここではｉ＝４〜６の整数）を直交座標表現の単位ベクトルとして記述し直す。それに、Ｒ（−αy）を掛けて座標変換してから再び極座標表現に戻す（θgi→mθgi、φgi→mφgi）ことで更新する（θmi＝mθgi、φmi＝mφgi）。具体的には、指向方向６０４（θm4＝θg4＝１３５°、φm4＝φg4＝０°）が指向方向６１４（θm4＝mθg4≒１２５．３°、φm4＝mφg4＝−３０°）に更新される。また、指向方向６０５（θm5＝θg5＝１８０°、φm5＝φg5＝０°）が指向方向６１５（θm5＝mθg5＝１８０°、φm5＝mφg5＝−４５°）に更新される。また、指向方向６０６（θm6＝θg6＝２２５°、φm6＝φg6＝０°）が指向方向６１６（θm6＝mθg6≒２３４．７°、φm6＝mφg6＝−３０°）に更新される。なお、このような座標変換による方向変化を、ステップＳ４０６における指向方向の補正要否の判定に用いてもよい。すなわち、補正前後の指向方向の成す角が閾値未満であれば、指向方向の補正は不要と判定してもよい。
【００４８】
ステップＳ４０８では、指向方向に指向性を向けることで、スピーカから再生する方向音を生成する。すなわち、記憶部１０２が予め保持している指向性制御のためのフィルタ係数から、指向方向（θmi、φmi）に対応するものを取得して現音響フレームの音響信号に畳み込み、加算することで方向音を得る。ここで、１つの方向のフィルタ係数（ベクトル）は、音響信号のチャンネル数、すなわち音響信号の録音に用いたマイクアレイのマイク素子数（例えば８個）の要素で構成される。なお、マイクアレイ毎にフィルタ係数は異なるため、録音に用いたマイクアレイの識別ＩＤを音響信号の付加情報として録音時に記録しておき、そのマイクアレイに対応するフィルタ係数を本ステップで用いるようにしてもよい。
【００４９】
ステップＳ４０９では、ステップＳ４０８において生成した方向音を各スピーカから再生する。すなわち、図６（ａ）に示した指向方向６０１〜６０３、６１４〜６１６、６０７〜６０８で生成した８つの方向音を、スピーカ１１１〜１１８からそれぞれ再生する。このようにして、第１の実施形態によれば、映像と音を表示及び再生する際、映像と音の内容を一致させつつ、画角外の音については撮影時と同じ方向から聞こえるよう指向性の制御を行うことができる。
【００５０】
なお、ユーザ１３０の周囲に方向音の音像を生成する方法として、前述のように方向音を再生するスピーカ１１１〜１１８をユーザ１３０の周囲に配置する方法の他に、ヘッドホン再生で仮想的にスピーカを配置する方法がある。すなわち、各スピーカの配置方向に対応する左右耳の頭部伝達関数（ＨＲＴＦ）を各方向音に畳み込み、左右それぞれ加算してヘッドホンによりユーザの両耳近傍で再生する。これにより、スピーカ１１１〜１１８に対応する仮想スピーカをユーザ１３０の周囲に配置することができる。
【００５１】
また、第１の実施形態ではカメラが前方に傾いた場合を例に説明したが、第１の実施形態での考え方は、横撮りや縦撮りのようにカメラの正面方向を回転軸とするような場合にも適用できる。その場合、縦撮りのときにステップＳ４０５で比較する映像フレームの画角は、水平画角ではなく垂直画角とするのが好適である。
【００５２】
（第２の実施形態）
次に、本発明の第２の実施形態について説明する。はじめに、第２の実施形態の考え方を図２（ｅ）及び図３（ｅ）を用いて説明する。図２（ｄ）に示した例と同じく図２（ｅ）に示すように、カメラ２０１が前方に４５°傾いた場合を考える。カメラ２０１は、その正面方向にいる犬２０５の映像を映像信号として捉える。
【００５３】
まず、第１の実施形態と同様に、グローバル座標系で記述したスピーカの配置方向を、そのままマイクアレイ座標系における指向性制御の指向方向として初期設定する。例えば、図３（ｅ）に示す例において、ユーザ３３０の水平正面方向に配置されたスピーカ３１１用の方向音を生成する指向性については、（方位角θm1＝θg1＝０°、仰角φm1＝φg1＝０°）のように初期設定する。また、ユーザ３３０の水平真後ろ方向に配置されたスピーカ３１５用の方向音を生成する指向性については、（方位角θm5＝θg5＝１８０°、φm5＝φg5＝０°）のように初期設定する。
【００５４】
次に、このように初期設定した指向方向のうち、カメラ２０１の画角内の指向方向について、カメラ２０１の姿勢変化による仰角方向の変化が最大となるものを特定する。例えば、マイクアレイ座標系（＝カメラ座標系）で（方位角θm1＝０°、仰角φm1＝０°）の方向は、カメラ２０１の水平正面方向であるため画角内である。そこで、この指向方向についてカメラ２０１の姿勢変化による仰角方向の変化を見るために、カメラ２０１の姿勢（＝マイクアレイ２０２の姿勢）をもとにグローバル座標系に座標変換する（θm1→gθm1＝０°、φm1→gφm1＝−４５°）。これより、グローバル座標系で見たときの仰角方向の変化は｜φg1−gφm1｜＝４５°となり、これは画角内の指向方向の中で最大の仰角方向の変化と考えられるため、このgφm1＝−４５°をグローバル座標系における目標仰角gφtとする。
【００５５】
第２の実施形態では、グローバル座標系で見てすべての指向方向の仰角が目標仰角と一致するよう、グローバル座標系における指向方向を決定する。そして、これをマイクアレイ座標系に座標変換することで、初期設定から更新されたマイクアレイ座標系における指向方向を算出する。
【００５６】
例えば、図３（ｅ）に示す例において、ユーザ３３０の水平正面方向に配置されたスピーカ３１１用の方向音を生成する指向性については、グローバル座標系における指向方向が（方位角gθm1＝０°、仰角gφm1＝gφt＝−４５°）となる。これをマイクアレイ座標系に座標変換（gθm1→θm1、gφm1→φm1）することで、マイクアレイ座標系における指向方向（θm1＝０°、φm1＝０°）となる。なお、仰角が目標仰角として採用された指向方向については、初期設定の指向方向が維持されることになる。
【００５７】
これにより、図３（ｅ）に示す例においてユーザ３３０の水平正面方向のスピーカ３１１から再生する方向音については、図２（ｅ）に示すようにマイクアレイ２０２の水平正面方向に指向性２５１を向けるため、犬２０５の鳴き声が得られる。すなわち、図３（ｅ）に示したように犬２０５の映像を表示しているディスプレイ３２０の方向に配置されたスピーカ３１１からは、犬２０５の鳴き声が再生される（犬音像３０５）。よって、ディスプレイ３２０に表示される映像とスピーカ３１１から再生される音の内容は一致しているため、違和感は無い。
【００５８】
また、図３（ｅ）に示した例において、ユーザ３３０の水平真後ろ方向に配置されたスピーカ３１５用の方向音を生成する指向性については、グローバル座標系における指向方向が（方位角gθm5＝１８０°、仰角gφm5＝gφt＝−４５°）となる。これをマイクアレイ座標系に座標変換（gθm5→θm5、gφm5→φm5）することで、マイクアレイ座標系における指向方向（θm5、φm5＝−９０°）となる。
【００５９】
これにより、図３（ｅ）に示す例においてユーザ３３０の水平真後ろ方向のスピーカ３１１から再生する方向音については、図２（ｅ）に示したようにグローバル座標系で見て真後ろ下方に指向性２５５を向けるため、猫２０７の鳴き声が得られる。すなわち、図３（ｅ）に示したようにスピーカ３１１と同じ高さの水平真後ろ方向のスピーカ３１５からは、ディスプレイ３２０に表示されている犬２０５と同じ目線の高さの猫２０７の鳴き声が聞こえる（猫音像３０７）、という効果が得られる。これは例えば、犬２０５と猫２０７が戯れながら足元の周りを走り回っている、というような場合に臨場感を高めてくれると考えられる。
【００６０】
このように第２の実施形態では、映像と音を表示及び再生する際、映像と音の内容を一致させつつ、画角外の音については画角内の音と同じ目線の高さの音が聞こえるよう指向性の制御を行う。
【００６１】
以下、第２の実施形態における指向性制御処理について、図５に示すフローチャートに沿って説明する。図５は、第２の実施形態における指向性制御処理の例を示すフローチャートである。なお、図５に示すフローチャートの処理は、特に別記しない限り信号解析処理部１０３が行うものとし、音響信号の所定の時間フレーム長毎、すなわち音響フレーム毎の処理を表すものとする。
【００６２】
ステップＳ５０１〜Ｓ５０３の処理は、図４に示した第１の実施形態におけるステップＳ４０１〜Ｓ４０３と同じであるため説明を省略する。ステップＳ５０１において初期設定された各指向性の指向方向は、図６（ｂ）において太点線の指向方向６０１〜６０８で表されている。
【００６３】
ステップＳ５０４〜Ｓ５０５の処理は、ステップＳ５０１において初期設定した指向方向の指向性毎の処理であり、指向性ループの中で行う。ステップＳ５０４では、現在の指向性ループで対象としている指向性の指向方向が、ステップＳ５０２において取得した画角内であるかを調べ、画角内であればステップＳ５０５へ進み、画角外であればステップＳ５０５をスキップする。図６（ｂ）に示した指向方向６０１〜６０８（θmi＝θgi＝（ｉ−１）×４５°、φmi＝φgi＝０°）の場合、指向方向６０１、６０２、６０８についてはステップＳ５０２において取得した画角（１００°）内であるため、ステップＳ５０５へ進む。
【００６４】
ステップＳ５０５では、カメラの姿勢変化による指向方向の仰角方向変化を算出する。まず、初期設定の指向方向をグローバル座標系に座標変換する。図６（ｂ）に示した例の場合、マイクアレイ座標系はグローバル座標系に対してｙg軸周りにαy（＝４５°）回転しているため、マイクアレイ座標系からグローバル座標系への座標変換には、式（１）で表される回転行列Ｒ（αy）を用いる。
【００６５】
すなわち、指向方向６０１、６０２、６０８（θmi＝θgi＝（ｉ−１）×４５°、φmi＝φgi＝０°）（ここではｉ＝１、２、８）を直交座標表現の単位ベクトルとして記述し直す。それに、Ｒ（αy）を掛けて座標変換してから再び極座標表現に戻す（θmi→gθmi、φmi→gφmi）。具体的には、指向方向６０１が（gθm1＝０°、gφm1＝−４５°）、指向方向６０２が（gθm2≒５４．７°、gφm2＝−３０°）、指向方向６０８が（gθm8≒３０５．３°、gφm8＝−３０°）となる。これより、グローバル座標系で見たときの仰角方向の変化は、指向方向６０１において｜φg1−gφm1｜＝４５°、指向方向６０２において｜φg2−gφm2｜＝３０°、指向方向６０８において｜φg8−gφm8｜＝３０°となる。
【００６６】
ステップＳ５０６では、ステップＳ５０５において算出した仰角方向変化が最大となる指向方向を特定し、その仰角をグローバル座標系における目標仰角gφtとする。この場合、指向方向６０１の仰角方向変化（＝４５°）が最大であるため、gφt＝gφm1＝−４５°とする。
【００６７】
ステップＳ５０７〜Ｓ５０９の処理は指向性毎の処理であり、指向性ループの中で行う。ステップＳ５０７では、グローバル座標系で見てすべての指向方向の仰角が目標仰角gφtと一致するよう、グローバル座標系における指向方向を（方位角gθmi＝θgi＝（ｉ−１）×４５°、gφmi＝gφt＝−４５°）のように決定する。ここで、グローバル座標系における方位角については、スピーカの配置方向を用いている。
【００６８】
ステップＳ５０８では、ステップＳ５０７において決定したグローバル座標系における指向方向をマイクアレイ座標系に座標変換することで、初期設定から更新されたマイクアレイ座標系における指向方向を算出する。すなわち、第１の実施形態におけるステップＳ４０７と同様に、グローバル座標系における指向方向を直交座標表現の単位ベクトルとして記述し直し、Ｒ（−αy）を掛けて座標変換してから再び極座標表現に戻す（gθmi→θmi、gφmi→φmi）。具体的には、図６（ｂ）に示した指向方向６０１〜６０８（θmi＝（ｉ−１）×４５°、φmi＝０°）がそれぞれ以下のように更新される。指向方向６０１が指向方向６２１（θm1＝０°、φm1＝０°）、指向方向６０２が指向方向６２２（θm2≒３０．４°、φm2≒−８．４°）、指向方向６０３が指向方向６２３（θm3≒５４．７°、φm3＝−３０°）に更新される。指向方向６０４が指向方向６２４（θm4≒７３．７°、φm4≒−５８．６°）、指向方向６０５が指向方向６２５（θm5、φm5＝−９０°）、指向方向６０６が指向方向６２６（θm6≒２８６．３°、φm6≒−５８．６°）に更新される。指向方向６０７が指向方向６２７（θm7≒３０５．３°、φm7＝−３０°）、指向方向６０８が指向方向６２８（θm8≒３２９．６°、φm8≒−８．４°）に更新される。
【００６９】
ステップＳ５０９の処理は、第１の実施形態におけるステップＳ４０８の処理と同じであるため説明を省略する。ステップＳ５１０では、ステップＳ５０９において生成した方向音を各スピーカから再生する。すなわち、図６（ｂ）に示した指向方向６２１〜６２８で生成した８つの方向音を、スピーカ１１１〜１１８からそれぞれ再生する。このようにして、第２の実施形態によれば、映像と音を表示及び再生する際、映像と音の内容を一致させつつ、画角外の音については画角内の音と同じ目線の高さの音が聞こえるよう指向性の制御を行うことができる。
【００７０】
以上説明したように本発明によれば、映像と音を表示及び再生する際に、映像と音の内容を一致させつつ、表示されている画像の範囲外の音も違和感なく自然となるよう指向性の制御を行うことができる。
【００７１】
なお、前述した実施形態では、映像信号、音響信号、スピーカ配置方向、指向性制御のためのフィルタ係数は、記憶部１０２が予め保持しているとしていたが、記憶部１０２と相互に結ばれた不図示のデータ入出力部を介して外部から入力するようにしてもよい。また、第１の実施形態における指向性制御手法と第２の実施形態における指向性制御手法を、システム制御部１０１と相互に結ばれたＧＵＩを介してユーザが切り替えられるようにしてもよい。このとき、例えばディスプレイ１２０をタッチパネル等で構成し、ＧＵＩとして機能するようにしてもよい。また、信号処理装置１００が表示（ディスプレイ）及び再生（スピーカ）の機能に加えて、撮影（カメラ）及び録音（マイクアレイ）の機能を備えていてもよい。このとき、例えば撮影・録音系と表示・再生系がそれぞれ遠隔地で同期的に動作すれば、遠隔ライブシステムを実現することができる。
【００７２】
（本発明の他の実施形態）
また、本発明は、以下の処理を実行することによっても実現される。即ち、前述した実施形態の機能を実現するソフトウェア（プログラム）を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ（またはＣＰＵやＭＰＵ等）がプログラムを読み出して実行する処理である。
【００７３】
なお、前記実施形態は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【符号の説明】
【００７４】
１００：信号処理装置  １０１：システム制御部  １０２：記憶部  １０３：信号解析処理部  １０４：音響信号出力部  １１１〜１１８：スピーカ  １２０：ディスプレイ
【図１】
0006521675.tif 000003
【図２】
0006521675.tif 000004
【図３】
0006521675.tif 000005
【図４】
0006521675.tif 000006
【図５】
0006521675.tif 000007
【図６】
0006521675.tif 000008