(57)【要約】【課題】関連を有する画像と音声を出力することができる。【解決手段】  情報処理装置は、データベースを参照することで入力画像の意味を判定する画像意味判定部と、データベースを参照することで入力音声の意味を判定する音声意味判定部と、上記画像意味判定部及び上記音声意味判定部の各判定結果に基づいて、上記入力画像及び入力音声を関連付けて出力する関連付け制御部とを具備し、対応する音声がない画像、対応する画像がない音声が入力された場合でも、画像と音声とを関連付けて出力することができる。【選択図】図１
2015037212.tif 000002
【特許請求の範囲】
【請求項１】
データベースを参照することで入力画像の意味を判定する画像意味判定部と、
データベースを参照することで入力音声の意味を判定する音声意味判定部と、
上記画像意味判定部及び上記音声意味判定部の各判定結果に基づいて、上記入力画像及び入力音声を関連付けて出力する関連付け制御部と
を具備したことを特徴とする情報処理装置。
【請求項２】
上記画像意味判定部は、検出された画面上の陰影のパターンまたはその時間的変化で意味を判定し、
上記音声意味判定部は、検出された音声の周波数や時間変化でそれぞれの意味を判定する
ことを特徴とする請求項１に記載の情報処理装置。
【請求項３】
上記画像意味判定部は、検出された画面上の陰影パターンや色で意味を判定し、
上記音声意味判定部は、検出された音声の特定のパターンでそれぞれの意味を判定する
ことを特徴とする請求項１に記載の情報処理装置。
【請求項４】
上記画像意味判定部の判定結果と上記音声意味判定部の判定結果との一致判定を行う一致判定部と、
上記一致判定部からの一致判定によって、上記入力画像及び入力音声の意味を確定する意味確定部と
を具備したことを特徴とする請求項１乃至３のいずれか１つに記載の情報処理装置。
【請求項５】
被写体を撮像して撮像画像を得る撮像部と、
音を収音して音声を得る収音部と、
上記撮像画像及び音声を記録する仮記録部と、
データベースを参照することで上記撮像画像の意味を判定し判定結果を記録する画像意味判定部と、
データベースを参照することで上記音声の意味を判定し判定結果を記録する音声意味判定部と、
上記画像意味判定部の判定結果に基づいて上記撮像画像に対応する音声を上記仮記録部から読出して上記撮像画像と関連付けて出力するか又は、上記音声意味判定部の判定結果に基づいて上記音声に対応する撮像画像を上記仮記録部から読出して上記音声と関連付けて出力するか選択部と
を具備したことを特徴とする撮影機器。
【請求項６】
上記画像意味判定部の判定結果と上記音声意味判定部の判定結果との一致判定を行う一致判定部と、
上記一致判定部からの一致判定によって、上記入力画像及び入力音声の意味を確定する意味確定部と
を具備した請求項５に記載の撮影機器。
【請求項７】
画像意味判定部が、データベースを参照することで入力画像の意味を判定し、
音声意味判定部が、データベースを参照することで入力音声の意味を判定し、
関連付け制御部が、上記画像意味判定部及び上記音声意味判定部の各判定結果に基づいて、上記入力画像及び入力音声を関連付けて出力する
ことを特徴とする情報処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像と音声とを処理可能な情報処理装置、撮影機器及び情報処理方法に関する。
【背景技術】
【０００２】
近年、画像及び音声のデジタル処理、符号化技術、ＩＣ化技術等の発展によって、画像や音声を長時間記録可能な装置が普及している。例えば、携帯型のデジタルレコーダ、デジタルカメラ、携帯電話等においても、画像及び音声を記録することができるものが多い。これらの記録機器では、記録媒体として半導体メモリを用いて、小型・軽量化されている。
【０００３】
撮影及び録音が可能なこの種の記録機器は、携帯性に優れていることから、会議、野鳥の声、せせらぎ、音楽の録音等の様々なシーンにおいて撮影及び録音が可能である。また、水密構造を採用することにより、陸上だけでなく水中での使用を可能にした水中カメラも普及しており、水中においても撮影及び録音が可能である。
更に、特許文献１においては、画像に応じた擬音や画像をイメージに合成する装置も開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００６−１０９３２２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、水中では音の伝搬の仕方が陸上とは異なり、陸上のように、被写体や被写体周囲の音を十分に記録することはできるとは限らない。例えば、スキューバダイビング中にダイバー同士で撮影を行う場合には、被写体であるダイバーを撮影しても被写体から発する音を十分に記録することはできず、主に撮影者が発する音が記録されることが多い。この場合には、記録画像及び音声を再生しても、関連していない画像と音とが再生されることになる。なお、特許文献１の技術を用いることで、画像に応じた擬音や画像をイメージに合成することは可能である。しかしながら、この場合でも、合成される擬音は実際の音声とは異なり、再生音には違和感がある。
【０００６】
本発明は、関連を有する画像と音声を出力することができる情報処理装置、撮影機器及び情報処理方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明に係る情報処理装置は、データベースを参照することで入力画像の意味を判定する画像意味判定部と、データベースを参照することで入力音声の意味を判定する音声意味判定部と、上記画像意味判定部及び上記音声意味判定部の各判定結果に基づいて、上記入力画像及び入力音声を関連付けて出力する関連付け制御部とを具備する。
【０００８】
本発明に係る撮影機器は、被写体を撮像して撮像画像を得る撮像部と、音を収音して音声を得る収音部と、上記撮像画像及び音声を記録する仮記録部と、データベースを参照することで上記撮像画像の意味を判定し判定結果を記録する画像意味判定部と、データベースを参照することで上記音声の意味を判定し判定結果を記録する音声意味判定部と、上記画像意味判定部の判定結果に基づいて上記撮像画像に対応する音声を上記仮記録部から読出して上記撮像画像と関連付けて出力するか又は、上記音声意味判定部の判定結果に基づいて上記音声に対応する撮像画像を上記仮記録部から読出して上記音声と関連付けて出力するか選択部とを具備する。
【０００９】
本発明に係る情報処理方法は、画像意味判定部が、データベースを参照することで入力画像の意味を判定し、音声意味判定部が、データベースを参照することで入力音声の意味を判定し、関連付け制御部が、上記画像意味判定部及び上記音声意味判定部の各判定結果に基づいて、上記入力画像及び入力音声を関連付けて出力する。
【発明の効果】
【００１０】
本発明によれば、関連を有する画像と音声を出力することができるという効果を有する。
【図面の簡単な説明】
【００１１】
【図１】本発明の第１の実施の形態に係る情報処理装置の回路構成を示すブロック図。
【図２】画像と音声との関連を説明するための説明図。
【図３】画像意味ＤＢ１４及び音声意味ＤＢ１５に記憶されている内容を説明するための説明図。
【図４】図４は第１の実施の形態の動作を説明するためのフローチャート。
【図５】本発明の第２の実施の形態を示すブロック図。
【図６】カメラ制御を示すフローチャート。
【図７】水中での撮影の様子を示す説明図。
【図８】画像及び音声判定を説明するための説明図。
【図９】画像意味記録領域及び音声意味記録領域に記録される内容を説明するための説明図。
【図１０】画像と音声との関連を説明するための説明図。
【図１１】ＤＢ２６に記憶されている内容を説明するための説明図。
【図１２】川辺での撮影の状態を説明するための説明図。
【図１３】図１２の例における画像及び音声判定の判定結果の記録内容を説明するための説明図。
【図１４】本発明の第３の実施の形態を示すフローチャート。
【図１５】本発明の第４の実施の形態を示すフローチャート。
【図１６】画像中に意味を示す表示を含めた場合における表示例を示す説明図。
【発明を実施するための形態】
【００１２】
以下、図面を参照して本発明の実施の形態について詳細に説明する。
【００１３】
（第１の実施の形態）
図１は本発明の第１の実施の形態に係る情報処理装置の回路構成を示すブロック図である。
【００１４】
本実施の形態の情報処理装置１０は、画像意味データベース（ＤＢ）１４及び音声意味データベース（ＤＢ）１５にアクセス可能な画像音声関連付け制御部１１によって構成される。画像音声関連付け制御部１１には、関連付けを行う画像及び音声の少なくとも一方が入力される。画像音声関連付け制御部１１は、入力された画像に基づいて画像意味ＤＢ１４を参照して、画像の意味を判定する。また、画像音声関連付け制御部１１は、入力された音声に基づいて音声意味ＤＢ１５を参照して、音声の意味を判定する。
【００１５】
画像音声関連付け制御部１１は、画像が入力された場合には、入力された画像に対応する意味を画像意味ＤＢ１４から取得し、取得した意味に対応する音声、即ち、画像に関連した音声を音声意味ＤＢ１５から読み出す。画像音声関連付け制御部１１は、入力された画像に、読み出した音声を関連付けて出力する。
【００１６】
また、画像音声関連付け制御部１１は、音声が入力された場合には、入力された音声に対応する意味を音声意味ＤＢ１５から取得し、取得した意味に対応する画像、即ち、音声に関連した画像を画像意味ＤＢ１４から読み出す。画像音声関連付け制御部１１は、入力された音声に、読み出した画像を関連付けて出力する。
【００１７】
図２は画像と音声との関連を説明するための説明図であり、図３は画像意味ＤＢ１４及び音声意味ＤＢ１５に記憶されている内容を説明するための説明図である。
【００１８】
図２（ａ）は水中４１でスキューバダイビングしている人物（ダイバー）４２の画像を示し、図２（ｂ）は水中４１の魚４６の画像を示している。水中眼鏡４３を掛けたダイバー４２は水中４１においてレギュレータ４４を介して呼吸を行う。図２（ａ）は、レギュレータ４４の図示しない排気弁から空気が排出され、排出された空気が泡４５となって水中を上昇する様子を示している。
【００１９】
図３に示すように、画像中の人物の顔のあたりから引力に逆らって上昇する白色の塊が画像中に含まれる場合には、このような画像が泡の画像であると判定することができる。画像意味ＤＢ１４には、このように白色の塊が人物の顔のあたりから上昇する動画像が泡を意味することを示す情報が記述されている。
【００２０】
一方、図２（ａ）において、空気が排出されて泡４５になり、その泡が水中を上昇する際には、「ぶくぶく」、「ぼこぼこ」という音が発生する。図３に示すように、音声意味ＤＢ１５には、このような「ぶくぶく」、「ぼこぼこ」という音の音声波形の情報が記述されると共に、この音声波形の情報やこのような低周波の繰り返し音が数秒継続することを示す情報に対応して、泡を意味する情報が記述されている。
【００２１】
また、ダイバー４２がレギュレータ４４を介して呼吸する場合には、「しゅー」、「ぼー」というレギュレータ４４を通過する空気の音が発生する。音声意味ＤＢ１５には、このような「しゅー」、「ぼー」という音の音声波形の情報が記述されると共に、この音声波形の情報や上述した「ぶくぶく」、「ぼこぼこ」という低周波の音に先立つ２秒間程度の持続音であることを示す情報に対応して、呼吸を意味する情報が記述されている。つまり、上記音声意味ＤＢは、検出された音声の周波数や時間変化でそれぞれの意味を判定、または、検出された音声の特定のパターンでそれぞれの意味を判定するために、音声の特徴と（「しゅー」や、「ぼこぼこ」など周波数、大きさやパターン）と意味（泡や呼吸や砂利の音）を関連づけて記録している。水中において、ダイバーが撮影する時に耳にする音は限られているので、こうしたＤＢ化が比較的簡単にできる。したがって、この音声意味ＤＢは、水中判定用に限定使用できるようにしても良い。さもなくば、陸上では起こりえないような音声が意味付けされたり再生されてしまうことになる。水中で使うカメラの形状や人物の仕草をＤＢ化しても良い。なお、陸上においては、聞こえる音がはるかに多彩になるが、それでも、このような考え方を踏襲してもよく、時計情報、ＧＰＳ情報や室内判定などで撮影シーンを特定して、夏の山なら蝉の声といった風に、シーンに応じてＤＢを変更しても良い。
【００２２】
なお、画像意味ＤＢ１４には、白色の塊が人物の顔のあたりから上昇する動画像に先立つ２秒間程度の画像に対して呼吸を意味する情報が記述されている。
【００２３】
図２（ｂ）は魚が岩４７の岩陰から素早く移動する様子を示しており、砂利４８や砂４９が魚４６の移動方向の反対側に巻き上げられる様子を示している。魚の顔の移動方向の反対側の方向に向かって、魚の下方から移動する白い粒状物が画像中に含まれる場合には、このような画像は、砂利や砂の上にいた魚が移動した場合の画像であると判定することができる。画像意味ＤＢ１４には、このように魚の顔の移動方向の反対側の方向に向かって白い粒状物が移動する動画像によって、砂利や砂の上を魚が動くことを意味するものとする情報が記述されている。上記画像意味ＤＢは、検出された画面上の陰影のパターンまたはその時間的変化で意味（泡、砂利の動きなど）を判定、または、検出された画面上の陰影パターンや色で意味（魚など）を判定できるように、画像の特徴と意味を関連付けデータベース化したものである。水中において、ダイバーが撮影するものは限られているので、こうしたＤＢ化が比較的簡単にできる。この画像意味ＤＢは、水中判定用に限定使用できるようにしても良い。さもなくば、陸上では起こりえないような意味付けや再生がなされてしまうことになる。このほか、カメラの操作音や合図や会話などをＤＢ化しても良い。
【００２４】
また、このような魚の動きによる砂利や砂の移動によって、「じゃっ」、「さっ」という音が発生する。音声意味ＤＢ１５には、このような「じゃっ」、「さっ」という音の音声波形の情報が記述されると共に、この音声波形の情報やこのような比較的高い周波数の音が０．５秒程度で消失することを示す情報に対応して、魚の動きによって砂利や砂が移動することを意味する情報が記述されている。
【００２５】
画像音声関連付け制御部１１は、相互に関連付けられた画像及び音声を提示部１２に与えることができる。提示部１２は、例えば、モニタ及びスピーカによって構成されており、画像音声関連付け制御部１１からの画像に基づく表示及び音声に基づく音響を出力する。
【００２６】
また、画像音声関連付け制御部１１は、相互に関連付けられた画像及び音声を記録部１３に与えることができる。記録部１３は、画像音声関連付け制御部１１からの画像及び音声を図示しない記録媒体に記録することができるようになっている。
【００２７】
なお、画像音声関連付け制御部１１は、画像及び音声が同時に入力された場合には、画像意味ＤＢ１４及び音声意味ＤＢ１５によって画像に関連した音声を取得することができたときのみ、画像と関連する音声とを関連付けて出力するようにしてもよい。また、画像音声関連付け制御部１１は、画像及び音声が同時に入力された場合には、画像意味ＤＢ１４及び音声意味ＤＢ１５によって画像に関連した音声を取得することができたときには画像と関連する音声とを関連付けて出力し、取得することができなかったときには入力された画像及び音声をそのまま出力するようにしてもよい。
【００２８】
次にこのように構成された実施の形態の動作について図４を参照して説明する。図４は第１の実施の形態の動作を説明するためのフローチャートである。
【００２９】
画像音声関連付け制御部１１には、関連付けを行う画像及び音声の少なくとも一方が入力される。画像音声関連付け制御部１１は、ステップＳ１において画像データが指定されているか否かを判定し、ステップＳ５において音声データが指定されているか否かを判定する。画像音声関連付け制御部１１は、画像データが指定されている場合には、画像意味ＤＢ１４を参照して（ステップＳ２）、画像データに基づく意味を抽出し（ステップＳ３）、抽出した意味に基づいて音声を判定する（ステップＳ４）。
【００３０】
例えば、図２（ａ）に示す動画像が入力された場合には、画像音声関連付け制御部１１は、入力画像の特徴と画像意味ＤＢ１４に記述されている画像の特徴との比較を行い、特徴が一致していると判定することができる画像に対して割当てられた意味、即ち、「泡」を抽出する。画像音声関連付け制御部１１は、意味が「泡」として音声意味ＤＢ１５に格納されている音声「ぶくぶく、ぼこぼこ」を読み出す。
【００３１】
画像音声関連付け制御部１１は、入力された画像に対して音声意味ＤＢ１５から読み出した音声を関連付けて出力する。これにより、図２（ａ）に示す画像、即ち、泡４５が上昇する画像に対して、「ぶくぶく」、「ぼこぼこ」という音声が付加される。
【００３２】
画像音声関連付け制御部１１からの画像及び音声は、提示部１２において提示されると共に、記録部１３において記録される（ステップＳ１０）。ステップＳ１１において処理の終了が判定され、関連付け処理が終了するまで、ステップＳ１〜Ｓ１０が繰り返される。
【００３３】
また、画像音声関連付け制御部１１は、音声データが指定されている場合には、ステップＳ６において、音声意味ＤＢ１５を参照して、音声データに基づく意味を抽出する（ステップＳ７）。例えば、画像音声関連付け制御部１１は、入力音声の特徴と音声意味ＤＢ１５に記述されている音声の特徴との比較を行い、特徴が一致していると判定することができる音声に対して割当てられた意味を抽出する。画像音声関連付け制御部１１は、抽出した意味に基づいて画像を判定する（ステップＳ８）。
【００３４】
ステップＳ５〜Ｓ８の処理によって、画像音声関連付け制御部１１は、音声のみが入力された場合でも、入力音声に画像を付加して出力することができる。また、或いは、画像及び音声が入力された場合でも、入力音声に基づいて抽出した画像を元の画像に代えて出力することも可能である。
【００３５】
このように本実施の形態においては、画像と音声の意味を判定し、意味が一致する画像と音声とを関連付けて出力することができる。これにより、画像に対応する音声が得られていない場合、或いは音声に対応する画像が得られていない場合であっても、画像に対応した音声、音声に対応した画像を得て、相互に関連する画像及び音声を提示又は記録することができるという効果を有する。
【００３６】
（第２の実施の形態）
図５は本発明の第２の実施の形態を示すブロック図である。本実施の形態は情報処理装置の画像音声関連付け制御部を撮影機器に搭載した場合の例を示している。第１の実施の形態においては、画像意味ＤＢ１４及び音声意味ＤＢ１５に記録されている画像データ及び音声データを用いて、画像又は音声に夫々関連する音声又は画像を抽出し関連付けて出力する例について説明した。これに対し、本実施の形態においては、撮影して得た画像又は音声を用いて、画像又は音声に、異なるタイミングにおいて取得した音声又は画像を関連付けて出力する例を示している。
この場合も、上記画像意味判定部が、検出された画面上の陰影のパターンまたはその時間的変化で意味を判定、上記音声意味判定部音声は、検出された音声の周波数や時間変化でそれぞれの意味を判定し、この意味に応じて関連付けを行うことによって、課題を解決している。なお、上記画像意味判定部は、検出された画面上の陰影パターンや色で意味を判定、上記音声意味判定部は、検出された音声の特定のパターンでそれぞれの意味を判定するようにしても良い。
【００３７】
図５において、撮影機器２０は、ＣＣＤやＣＭＯＳセンサ等の撮像素子によって構成された撮像部２２を有している。撮像部２２は、信号処理及び制御部２１によって、絞り、ピント、ズーム等が制御可能に構成されており、様々な構図、被写体に対応した撮像が可能である。
【００３８】
撮像部２２は、信号処理及び制御部２１によって駆動制御されて、被写体を撮像し、撮像画像を出力する。信号処理及び制御部２１は、ＣＰＵ等によって構成されており、撮像部２２に撮像素子の駆動信号を出力すると共に、撮像部２２からの撮像画像を読み出す。この撮像画像の取り込みは読取部２１ａによって行われる。読取部２１ａは撮像部２２から読み出した撮像画像を仮記録部２５に与える。
【００３９】
また、撮影機器２０は、撮像部２２だけでなくマイク２３を有しており、撮影だけでなく録音も可能である。マイク２３からの音声信号は、ＡＤＣ２４に与えられる。ＡＤＣ２４は入力された音声信号をデジタル信号に変換して仮記録部２５に出力する。
【００４０】
仮記録部２５は、読取部２１ａからの撮像画像及びＡＤＣ２４からの音声を所定期間保存する容量を有し、撮像部２２から読み出された撮像画像（動画及び静止画）及びマイク２３によって取得された音声を記憶保持する。
【００４１】
仮記録部２５に仮記録された画像は、対象物判定部２１ｃ及び選択部２１ｂの画像選択部２１ｂ１に与えられ、仮記録部２５に仮記録された音声は、対象物判定部２１ｃ及び選択部２１ｂの音声選択部２１ｂ２に与えられる。
【００４２】
撮影機器２０には、ＤＢ２６が設けられている。ＤＢ２６は、例えば、図１の画像意味ＤＢ１４及び音声意味ＤＢ１５と同様の構成を有しており、画像特徴の情報に対してこの画像特徴に対応する意味の情報が記述されており、また、音声特徴の情報に対してこの音声特徴に対応する意味の情報が記述されている。信号処理及び制御部２１の対象物判定部２１ｃには、仮記録部２５から撮像画像及び音声が入力されると共に、時間判定部２６から撮像部２２による撮像時間及びマイク２３による収音時間の情報が与えられる。
【００４３】
対象物判定部２１ｃは、ＤＢ２６を参照することで、入力された撮像画像の意味を判定し、撮像時間の情報と共に判定結果を仮記録部２５の画像意味記録領域に記録するようになっている。また、対象物判定部２１ｃは、ＤＢ２６を参照することで、入力された音声の意味を判定し、収音時間の情報と共に判定結果を仮記録部２５の音声意味記録領域に記録するようになっている。なお、対象物判定部２１ｃによるこのような意味判定は、動画又は静止画の撮影時に行ってもよく、スルー画表示時に行ってもよい。
【００４４】
選択部２１ｂは、画像音声関連付けモード時において、対象物判定部２１ｃに制御されて、画像に対応する音声又は音声に対応する画像を選択する。即ち、対象物判定部２１ｃは、画像音声関連付けモード時には、仮記録部２５から画像の意味の判定結果及び撮像時間を読み出すと共に、音声の意味の判定結果及び収音時間を読み出して、選択部２１ｂの選択を制御する。これにより、画像選択部２１ｂ１及び音声選択部２１ｂ２は、対象物判定部２１ｃに制御されて、意味の判定結果が共通の画像及び音声を仮記録部２５から読み出して出力する。
【００４５】
例えば、画像を基準にした場合には、画像選択部２１ｂ１は、仮記録部２５に記録されている動画像を順次読み出す。一方、音声選択部２１ｂ２は、画像選択部２１ｂ１に読出されている動画像の各タイミングにおける意味の判定結果に夫々一致する音声を順次仮記録部２５から読出して、当該意味の画像の出力時間に一致させて出力する。こうして、画像選択部２１ｂ１及び音声選択部２１ｂ２からは相互に意味が共通する画像及び音声が同時に選択合成部２１ｆに出力される。
【００４６】
なお、テキスト化部２１ｄは、ＤＢ２６の音声情報に基づくテキストを生成して、テキスト情報を選択部２１ｂに供給することができるようになっている。画像選択部２１ｂ１は、仮記録部２５からの画像に対応するテキストを画像に合成して出力することも可能である。
【００４７】
選択合成部２１ｆは、入力された画像及び音声を合成して提示制御部２１ｇ、Ｓ圧縮部２１ｈ、Ｍ圧縮部２１ｉ及び音声圧縮部２１ｊに出力する。これらの選択部２１ｂ、対象物判定部２１ｃ、テキスト化部２１ｄ及び選択合成部２１ｆによって、画像音声関連付け制御部が構成される。
【００４８】
提示制御部２１ｇは、入力された動画像、静止画像及び音声を提示部３０に与えて表示及び音声出力させるための処理を行う。提示部３０はＬＣＤ等によって構成されたモニタやスピーカによって構成されており、提示制御部２１ｇから与えられた動画像、静止画像を表示すると共に、与えられた音声に基づく音響を出力する。
【００４９】
Ｓ圧縮部２１ｈは入力された静止画像を圧縮して記録制御部２１ｋに与え、Ｍ圧縮部２１ｉは入力された動画像を圧縮して記録制御部２１ｋに与える。また、音声圧縮部２１ｊは入力された音声を圧縮して記録制御部２１ｋに与える。記録制御部２１ｋは、圧縮された圧縮動画像、圧縮静止画像及び圧縮音声を記録部３１に与えて記録させる。記録部３１は、記録制御部２１ｋに制御されて、入力された圧縮動画像、圧縮静止画像及び圧縮音声を記録する。記録部３１としては、例えばカードインターフェースを採用することができ、記録部３１はメモリカード等の記録媒体に画像情報及び音声情報等を記録可能である。
【００５０】
また、撮影機器２０には、操作部２９も設けられている。操作部２９は、撮影モード設定等の各種スイッチやボタンを有しており、ユーザ操作に基づく操作信号を発生して信号処理及び制御部２１に供給する。例えば、図１では、操作部２９の具体例として、動画撮影操作部２９ａ及び静止画撮影操作部２９ｂを示している。動画撮影操作部２９ａは動画撮影を指示するためのものであり、動画撮影操作部２９ａが操作されることで、動画撮影を開始するための操作信号が信号処理及び制御部２１に供給されるようになっている。また、静止画撮影操作部２９ｂは静止画撮影を指示するためのものであり、静止画撮影操作部２９ｂが操作されることで、静止画撮影を開始するための操作信号が信号処理及び制御部２１に供給されるようになっている。信号処理及び制御部２１は、操作信号に基づいて、各部を制御する。
【００５１】
更に、操作部２９としてはタッチパネルを採用することもできる。例えば、操作部２９としてのタッチパネルを提示部３０の図示しない表示画面上に設けることで、ユーザが指で指し示した表示画面上の位置に応じた操作信号を発生することができる。
【００５２】
また、撮影機器２０には水中判定部２８も設けられている。水中判定部２８は、例えば水圧検出等によって、撮影機器２０が水中にあるか否かを判定して判定結果を信号処理及び制御部２１に出力することができるようになっている。
【００５３】
次に、このように構成された実施の形態の動作について図６乃至図９を参照して説明する。図６はカメラ制御を示すフローチャートであり、図７は水中での撮影の様子を示す説明図であり、図８は画像及び音声判定を説明するための説明図であり、図９は画像意味記録領域及び音声意味記録領域に記録される内容を説明するための説明図である。
【００５４】
いま、図７に示すように、水中４１において２人のダイバー４２，５２がスキューバダイビングを行っているものとする。水中眼鏡４３を付けたダイバー４２は、レギュレータ４４を介して呼吸しており、呼吸に伴う泡４５がダイバー４２の顔の側から上昇しようとしている。ダイバー５２は、左手５３Ｌ及び右手５３Ｒによって、撮影機器２０を収納した筐体２０ａを把持して、ダイバー４２を被写体として撮影しようとしている。ダイバー５２も図示しないレギュレータを介して呼吸を行っており、この呼吸に伴って泡５４が発生している。
【００５５】
撮影機器２０の電源がオンになると、信号処理及び制御部２１は、図６のステップＳ２１において、撮影モードであるか否かを判定する。信号処理及び制御部２１は、ステップＳ２１において撮影モードが指示されているものと判定した場合には、ステップＳ２２において撮像及び収音を行って、撮像画像及び音声を仮記録部２５に仮記録する。即ち、信号処理及び制御部２１は、撮像部２２からの撮像画像を取込み、仮記録部２５に与えて記録させる。また、マイク２３によって収音された音声は、ＡＤＣ２４によってデジタル信号に変換された後、仮記録部２５に与えられて記録される。
【００５６】
次いで、信号処理及び制御部２１は、ステップＳ２３において、スルー画表示を行うと共に、画像判定を行う。即ち、信号処理及び制御部２１は、仮記録部２５に記録された画像及び音声を読出して、選択部２１ｂ及び選択合成部２１ｆを介して提示制御部２１ｇに供給する。提示制御部２１ｇは、撮像画像に基づく画像を提示部３０の表示画面上に表示させる。また、提示制御部２１ｇは、提示部３０から収音した音を音響出力するようにしてもよい。
【００５７】
本実施の形態においては、信号処理及び制御部２１の対象物判定部２１ｃは、仮記録部２５から画像を読出して、ＤＢ２６を参照することで、画像の意味を判定し、判定結果及び撮像時間を仮記録部２５の画像意味記録領域に記録する。次のステップＳ２４においては、対象物判定部２１ｃは、仮記録部２５から音声を読出して、ＤＢ２６を参照することで、音声の意味を判定し、判定結果及び収音時間を仮記録部２５の音声意味記録領域に記録する（ステップＳ２５）。
【００５８】
ステップＳ２６においては、信号処理及び制御部２１は、撮影操作があったか否かを判定し、撮影者が撮影操作を行った場合には、処理をステップＳ２７に移行して撮影を行う。このように本実施の形態においては、撮影モードが指定されると、撮影者の撮影操作前に、撮像及び収音が行われて仮記録される。そして、仮記録された撮像画像及び音声は、データベース２６の参照によって意味が判定され、意味ありと判定された画像部分及び音声部分を示す時間情報が判定された意味と共に、仮記録される。なお、このような意味判定及び記録処理は、撮影前だけでなく、撮影中、撮影後、或いは再生時に行うようにしてもよい。
【００５９】
図８は意味判定と撮影との時間関係の一例を示している。なお、以後、画像を基準にして、画像の意味に対応する音声を抽出して画像に関連付けて用いる例を説明する。図８の例は図７のダイバー５２がパートナーであるダイバー４２の撮影の後、水中を泳いでいる魚を撮影していることを示している。ダイバー５２が把持している撮影機器２０の筐体２０ａには背面に提示部３０を構成する表示画面３０ａが設けられている。パートナーであるダイバー４２の撮影期間には、表示画面３０ａには、ダイバー４２が写されて、スルー画６１として表示されている。また、魚の撮影期間には、表示画面３０ａには、魚４６の画像を含むスルー画６１が表示されている。
【００６０】
撮影操作が行われると、信号処理及び制御部２１の対象物判定部２１ｃは、ステップＳ２８において、撮像部２２から読取部２１ａを介して仮記録部２５に仮記録された現在の撮像画像について順次画像判定を行う。また、対象物判定部２１ｃは、ステップＳ２９において、画像判定により得た意味と同じ意味であるという判定結果が音声意味記録領域に記録されているか否かを判定し判定結果を選択部２１ｂに出力する。
【００６１】
選択部２１ｂの画像選択部２１ｂ１は、現在撮影している画像を仮記録部２５から読出して出力する。一方、音声選択部２１ｂ２は、対象物判定部２１ｃによって画像選択部２１ｂ１によって選択されている画像の意味と同一の意味を有する音声部分を仮記録部２５から読出して出力する。
【００６２】
図８においてパターンＡは、画像又は音声のパターンが例えば図３の泡を意味することを示し、パターンＢは、画像又は音声のパターンが例えば図３の呼吸を意味することを示し、パターンＣは、画像又は音声のパターンが例えば図３の砂利・砂の上を魚が動くことを意味することを示している。
【００６３】
図８の音声判定は、撮影前又は撮影中における音声判定の結果を示し、矢印は、矢印の期間に収音された音声が意味を有する音声であると判定されたことを示している。パートナーであるダイバー４２の撮影期間において、撮影者は呼吸しており、この呼吸によって、例えば「しゅー」という音が呼吸判定Ｂ１〜Ｂ３として判定され、収音時間及び意味（パターン）が音声意味記録領域に記録される。
【００６４】
図９は音声意味記録領域及び画像意味記録領域の記録内容を示しており、例えば、息の意味（パターンＢ）と判定された音声が、収音時間２８秒〜３０秒の間、３４秒〜３６秒の間、４１秒〜４３秒の間に仮記録部２５に記録されたことを示している。なお、収音時間と撮像時間とは相互に同一の時間基準を用いており、収音時間及び撮像時間から仮記録部２５の記録位置が明らかとなる。
【００６５】
また、ダイバー４２の撮影期間においては、撮影者の呼吸に伴って生じる泡によって、例えば「ぶくぶく」という音が泡判定Ａ１，Ａ２として判定され、収音時間及び意味（パターン）が音声意味記録領域に記録される。
【００６６】
現在の撮像画像の画像判定、即ち、ダイバー４２の撮像画像によって、ダイバー４２の顔の付近から生じた泡が泡判定Ａ１’，Ａ２’として検出されると、この判定結果によって、音声選択部２１ｂ２は、泡判定Ａ１，Ａ２として判定された音声の収音時間に基づいて、仮記録部２５の記録位置を指定して音声の読み出しを行う。こうして、泡判定Ａ１’，Ａ２’の部分の音声としては、泡判定Ａ１，Ａ２の部分の音声が選択されて出力される。
【００６７】
例えば、図９の例では、撮像時間３５秒〜３８秒の画像に対応させて、収音時間３０秒〜３３秒に収音されて仮記録された音声が選択される。また、撮像時間４２秒〜４５秒の画像に対応させて、収音時間３７秒〜４０秒に収音されて仮記録された音声が選択される。
【００６８】
また、この泡判定Ａ１’，Ａ２’の前の時間については、呼吸判定Ｂ１’，Ｂ２’が行われて、撮像時間３２秒〜３４秒及び３９秒〜４１秒の画像に対応させて、収音時間２８秒〜３０秒の音声及び３４秒〜３６秒の音声が選択されて出力される。
【００６９】
また、図８の例では、ダイバー５２が魚４６の撮影をし始めたしばらくの間は、息をひそめながら撮影行ったため、無音状態であることを示している。また、図８では魚４６が逃げるときに発した音が判定Ｃ１として意味判定されていることを示している。図９では６１秒〜６２秒の間に、魚４６の移動によって、例えば「じゃっ」という音が判定されて記録されたことを示している。この音は被写体から発せられた音であり、対象物判定部２１ｃは、図９に示すように、実際の音、即ち、収音中の音をそのまま用いるよう音声選択部２１ｂ２を制御する。
【００７０】
画像選択部２１ｂ１及び音声選択部２１ｂ２によって選択された画像及び音声は選択合成部２１ｆに与えられて合成される。合成された画像及び音声は、Ｓ圧縮部２１ｈ，Ｍ圧縮部２１ｉ及び音声圧縮部２１ｊによって圧縮された後、記録制御部２１ｋに与えられて記録部３１に記録される（ステップＳ３１）。
【００７１】
信号処理及び制御部２１は、ステップＳ３２において撮影モードの終了操作が行われたか否かを判定し、終了操作が行われるまで、上記処理を繰り返す。撮影モードの終了操作が行われると、信号処理及び制御部２１は、ステップＳ３３において電源オフ操作が行われたか否かを判定する。電源オフ操作が行われなければ処理をステップＳ２１に戻し、電源オフ操作が行われると処理を終了する。
【００７２】
一方、信号処理及び制御部２１は、撮影モードでない場合には、ステップＳ４１において再生モードが指定されたか否かを判定する。再生ボタン等が操作された場合には、信号処理及び制御部２１は、ステップＳ４２において、再生モードに移行し、記録部３１によって記録されたファイルの一覧の情報を読み出し、ファイル一覧表示を提示部３０に表示させる。
【００７３】
ファイル一覧の表示時に、ユーザがファイル選択を行うと（ステップＳ４３）、信号処理及び制御部２１は、選択されたファイルを記録部３１から読み出し、復号化処理を行って、画像信号及び音声信号を再生する（ステップＳ４５）。信号処理及び制御部２１は、再生した画像信号及び音声信号を提示部３０に与えて表示させる。
【００７４】
また、本実施の形態においては、記録時だけでなく、再生時においても画像と音声の関連付けが可能である。信号処理及び制御部２１は、画像再生中において、対象物判定部２１ｃによって画像の意味を判定すると共に、判定した意味を有する音声が仮記録部２５に記録されているか否かを判定する（ステップＳ４６）。画像に関連する音声が記録されている場合には、ステップＳ４７において仮記録部２５から読出した音声を再生画像に関連付けて出力する。こうして、記録時に画像と音声とが関連付けられていない場合でも、再生時において、再生画像に関連する音声を関連付けて出力することが可能である。
【００７５】
また、ステップＳ４７においては、テキスト化部２１ｄによるテキスト化した画像を用いることで、音声に代えて音声に対応するテキストを表示させるようにすることも可能である。
【００７６】
なお、ファイル一覧表示時に、終了操作が行われた場合には、信号処理及び制御部２１は、処理をステップＳ４４からステップＳ２１に移行して再生モードを終了する。
【００７７】
このように本実施の形態においては、実際の記録に先立って、取得した画像や音声の意味を判定し、既に記録された意味が一致する画像や音声を用いて、相互に関連する画像及び音声を得るようになっている。これにより、画像に対応する音声が得られていない場合、或いは音声に対応する画像が得られていない場合であっても、画像に対応した音声、音声に対応した画像を得て、相互に関連する画像及び音声を提示又は記録することができる。例えば、水中における撮影のように、被写体の画像に対応する音声が収音されていない場合でも、収音された他のタイミングの音声を利用して、被写体の画像に対応する音声を関連付けて出力することができ、違和感のない画像及び音声を提示することが可能である。
【００７８】
なお、図６においては、画像を基準に画像に対応する音声を抽出する例について説明したが、音声を基準にして対応する画像を抽出するようにしてもよい。また、水中では収音が困難となるので、水中判定部２８の判定結果によって水中であることが示された場合には、画像を基準に対応する音声を抽出するようにしてもよい。
【００７９】
（他の例）
図１０乃至図１３は第２の実施の形態における他の例を示す説明図である。図１０乃至図１３は、撮影時の背景音として適切な音を、撮影前に自動的に収音する例を示す説明図である。
【００８０】
図１０は画像と音声との関連を説明するためのものであり、図１１はＤＢ２６に記憶されている内容を説明するためのものである。この場合も、上記画像意味判定部が、検出された画面上の陰影のパターンまたはその時間的変化で意味を判定、上記音声意味判定部音声は、検出された音声の周波数や時間変化でそれぞれの意味を判定し、この意味に応じて関連付けを行うことによって、課題を解決している。なお、上記画像意味判定部は、検出された画面上の陰影パターンや色で意味を判定、上記音声意味判定部は、検出された音声の特定のパターンでそれぞれの意味を判定するようにしても良い。前者はおおらかな概略判定で、背景の画像や音にふさわしく、後者は特定で詳細な主被写体の画像や音声にふさわしいとも言える。
【００８１】
図１０（ａ）は川７２の側で撮影機器２０の筐体２０ａを把持して構えた人物７１の様子を示し、図１０（ｂ）は図１０（ａ）の状態で撮影機器２０の表示画面３０ａに表示されたスルー画８１を示すものである。川７２の側には草７３が生えているが、人物７１は川７２の近くで、主に川７２のみを撮影範囲として、撮影機器２０を構えている。また、図１０（ｃ）は人物７１がトンボ７５を撮影する様子を示し、図１０（ｄ）は図１０（ｃ）の状態で撮影機器２０の表示画面３０ａに表示された画像を示すものである。表示画面３０ａ上のスルー画８１には、川７２の側の草７４が生えており、草７４にはトンボ７５が留まっている画像が表示されている。
【００８２】
図１１に示すように、ＤＢ２６には、画像中に同じ方向に移動しながらきらめく部分が含まれる場合には、このような動画像が川の画像を意味すると判定するための情報が記述されている。また、図１０（ａ）において、川７２に水が流れることにより、例えば、「さらさら」、「ざーざー」という音が発生する。図１１に示すように、ＤＢ２６には、このような「さらさら」、「ざーざー」という音の音声波形の情報が記述されると共に、この音声波形の情報やこのような低周波の繰り返し音が約１秒周期で継続することを示す情報に対応して、川を意味する情報が記述されている。つまり、音の意味は、周波数や強弱のパターンなどをもとに判定されている。川は背景として、色や流れの方向への位置方向の変化やきらめきのような画像パターンで判定できる。
【００８３】
なお、図１１では、海における波に関する情報も記述されている。画像中に同じ方向に移動して戻る白い波を検出すると、このような動画像は波を意味すると判定するための情報が記述されている。また、このような波が生じた場合には、例えば、「ざざー」、「ざわざわ」等の例えば４秒周期の低周波の繰り返し音が発生する。ＤＢ２６には、このような「ざざー」、「ざわざわ」という音の音声波形の情報が記述されると共に、この音声波形の情報やこの低周波が例えば４秒周期であることを示す情報に対応して、波を意味する情報が記述されている。
【００８４】
また、図１１では、鳥に関する情報も記述されている。画像中に鳥の顔や飛んでいる小物体を検出すると、このような画像は鳥を意味すると判定するための情報が記述されている。また、鳥は、例えば、「ちゅんちゅん」、「ぎゃー」等の鳴き声を発生する。ＤＢ２６には、このような「ちゅんちゅん」、「ぎゃー」という音の音声波形の情報が記述されると共に、この音声波形の情報や或いは種々の鳥の鳴き声の音声波形や鳥の鳴き声に対応した特定の周波数帯の音の情報に対応して、鳥を意味する情報が記述されている。この場合、鳥やとんぼなどは、特定で詳細な主被写体といえ、こうした画像や音声にふさわしいのは陰影パターンや形状、色の分布などによる画像同定である。
【００８５】
本実施の形態においては、上述したように、撮影前のスルー画表示の状態において、画像及び音声を記録することができ、ＤＢ２６を参照することで、例えば、音声の意味を認識し、意味の判定結果と共に音声の録音位置を記録することができる。
【００８６】
いま、図１０に示す人物７１が川７２の近くで、トンボ７５の撮影を行うものとする。撮影機器２０とトンボ７５との位置関係によっては、撮影範囲内にトンボ７５だけでなく川７２が含まれている場合でも、川７２のせせらぎを収音できないこともある。この場合には、図１０（ａ）に示すように、人物７１は川７２の近くで主に撮影機器２０を川７２の川面に向けて構える。
【００８７】
図１２はこのような川辺での撮影の状態を説明するための説明図である。図１２に示すように、トンボの撮影期間に先立って、川面のスルー画表示期間が設けられている。撮影モードになっていれば、スルー画中であっても、撮像画像及びマイク２３からの音声は仮記録部２５に記録される。対象物判定部２１ｃは、ＤＢ２６を参照することで、川７２のせせらぎを意味する音声が入力されたことを判定する。判定結果及び収音時間の情報は、仮記録部２５の音声意味記録領域に記録される。
【００８８】
図１３は図１２の例における画像及び音声判定の判定結果の記録内容を説明するための説明図である。図１２及び図１３において、パターンＤは、画像又は音声のパターンが例えば図１１の川を意味することを示しており、図１３では、０秒〜１５秒の間、川を意味する音声が収音されたことが分かる。なお、図１３のパターンＥは、画像又は音声のパターンが例えば図１１の波を意味することを示し、パターンＦは、画像又は音声のパターンが例えば図１１の鳥を意味することを示している。
【００８９】
例えば、図１２に示すように、人物７１が川７２がスルー画表示されるように構えて撮影モードに移行した時点を基準にして、１０秒後に５秒間トンボ７５の動画撮影を行うものとする。図１３は、川７２のスルー画表示状態での仮記録開始から３秒間は、川７２のせせらぎの収音は比較的ノイズが大きく、撮影機器２０が川７２に近接した３秒〜６秒の間に良好な収音が行われ、トンボ７５を撮影するために川７２から撮影機器２０を離した１０秒〜１５秒の間には収音レベルが低いことを示している。
【００９０】
撮影が開始されると、対象物判定部２１ｃは、ＤＢ２６を参照することで、撮像画像の一部の画像が川を意味するものと判定する。また、対象物判定部２１ｃは、ＤＢ２６を参照することで、入力音声についての判定を行う。この場合には、対象物判定部２１ｃは、ＤＢ２６を参照することで、入力音声が川のせせらぎの音であると判定すると共に、ノイズの大小やレベルの大小を判定する。対象物判定部２１ｃは、入力音声に対する判定結果と仮記録部２５に記録されている、川のせせらぎと判定した音声の判定結果とを比較することで、ノイズが少なく、十分なレベルの音声を選択するように、選択部２１ｂを制御する。
【００９１】
図１３の例では、スルー画表示期間において収音した３秒〜６秒の音声がせせらぎの音として良好であり、音声選択部２１ｂ２は、現在撮像されている画像に対して、現在収音中の音に代えて、仮記録部２５から読出したせせらぎの音と判定された音声部分を選択して出力する。
【００９２】
なお、音声選択部２１ｂ２は、対象物判定部２１ｃに制御されて、川のせせらぎと判定された音声を、川の画像の撮影時間に対応する時間だけ繰り返し読出して出力する。これにより、収音時間に拘わらず、画像に関連した音声を対応する画像の全期間に亘って出力することが可能である。
【００９３】
こうして、撮影時において背景音を適切に録音することができない場合でも、撮影前に自動的に収音した背景音を利用して、良好な背景音を有する撮像画像を得ることができる。
【００９４】
（第３の実施の形態）
図１４は本発明の第３の実施の形態を示すフローチャートである。図１４において図４と同一の手順には同一符号を付して説明を省略する。本実施の形態のハードウェア構成は第１の実施の形態と同様であり、画像音声関連付け制御部１１において意味確定処理を行う点が第１の実施の形態と異なる。
【００９５】
本実施の形態においても、画像音声関連付け制御部１１は、入力画像を取得して（ステップＳ５１）、その特徴と画像意味ＤＢ１４に記述されている画像の特徴との比較を行い、特徴が一致していると判定することができる画像に対して割当てられた意味を抽出する。また、画像音声関連付け制御部１１は、入力音声を取得して（ステップＳ５３）、その特徴と音声意味ＤＢ１５に記述されている音声の特徴との比較を行い、特徴が一致していると判定することができる音声に対して割当てられた意味を抽出する。
【００９６】
本実施の形態においては、ステップＳ５２，Ｓ５４において、画像音声関連付け制御部１１によって判定された画像の意味と音声の意味とが一致しているか否かが判定される。これらのステップＳ５２，Ｓ５４のいずれかにおいて、画像及び音声の意味が一致していると判定された場合には、画像音声関連付け制御部１１は、撮像画像及び収音した音声の意味が確定したものとして、記録を行う（ステップＳ５５）。
【００９７】
このように本実施の形態においては、画像と音声の意味を判定し、判定した画像の意味と判定した音声の意味とが一致している場合には、画像と音声の意味を確定する。例えば、撮影機器に適用した場合には、撮像中の画像、収音中の音声について同一意味の画像及び音声を取得しているか否かを判定することができる。例えば、川を撮影しようとする場合において、構え方によっては川が画角外にずれてしまうことや、周囲の音がうるさくてせせらぎを確実に収音することができない場合もある。このような場合でも、画像と音声によって被写体を確実に特定することが可能であり、被写体を確実に特定したことを撮影者に提示することで、撮影者において被写体を確実に撮影したか否かを認識可能にしたり、画像と音声が同一の意味を持つ撮影状態になった時点で記録を行うようにすることもできる。
【００９８】
（第４の実施の形態）
図１５は本発明の第４の実施の形態を示すフローチャートである。図１５において図６と同一の手順には同一符号を付して説明を省略する。本実施の形態のハードウェア構成は第２の実施の形態と同様であり、信号処理及び制御部２１において意味確定処理を行う点が第２の実施の形態と異なる。
【００９９】
本実施の形態においても、信号処理及び制御部２１の対象物判定部２１ｃは、仮記録部２５に記録された撮像画像の特徴と、ＤＢ２６に記述されている画像の特徴との比較を行い、特徴が一致していると判定することができる画像に対して割当てられた意味を抽出する。また、対象物判定部２１ｃは、仮記録部２５に記録された音声の特徴と、ＤＢ２６に記述されている音声の特徴との比較を行い、特徴が一致していると判定することができる音声に対して割当てられた意味を抽出する。対象物判定部２１ｃは、判定結果と撮像時間又は収音時間の情報を仮記録部２５に記録する。
【０１００】
本実施の形態においては、図６のステップＳ２９〜Ｓ３１に代えて、ステップＳ６１〜Ｓ６４を採用した点が第２の実施の形態と異なる。撮影が開始されると、信号処理及び制御部２１は、ステップＳ６１において、同一判定時間に判定された画像意味及び音声意味が一致しているか否かを判定する。なお、対象物判定部２１ｃによる判定の遅延を無視するものとし、撮像時間及び収音時間は判定時間で表されるものとする。
【０１０１】
信号処理及び制御部２１は、同一判定時間に判定された画像意味及び音声意味が一致していない場合には、ステップＳ６４において、撮像中の画像及び収音中の音声をそのまま記録する。また、信号処理及び制御部２１は、同一判定時間に判定された画像意味及び音声意味が一致している場合には、ステップＳ６２において、撮像中の画像及び収音中の音声の意味が判定された意味を有するものと確定して、当該意味を示す情報を付加して記録を行う。例えば、信号処理及び制御部２１は、画像中に、意味を示す表示を含めて記録してもよく、意味を示すテキストを画像ファイルと共に記録してもよい。
【０１０２】
図１６は画像中に意味を示す表示を含めた場合における表示例を示す説明図であり、図１０（ｃ）の撮影シーンにおいて、川の画像と川のせせらぎの音声の判定によって、「川辺にて」という表示８５を行った例を示している。
【０１０３】
このように本実施の形態においても、画像と音声の意味を判定し、判定した画像の意味と判定した音声の意味とが一致している場合には、撮像中の画像、収音中の音声の意味を確定して表示や記録を行うことができる。例えば、川を撮影しようとする場合において、構え方によっては川が画角外にずれてしまうことや、周囲の音がうるさくてせせらぎを確実に収音することができない場合もある。このような場合でも、スルー画表示期間中に得た画像と音声（スルー画中に特定の被写体の具体的判定を行ってもよい）によって、撮影者が川辺にて撮影を行うことを意識していたことを検出して、そのことを示す表示等を画像に含めることが可能であり、撮影者の撮影の意図を示すことも可能である。
画像であれば、画面上の陰影のパターン（方向や形状、色など）や、その時間的変化（変化の方向や規則性や周波数などを含む）で意味を判定、音声においても検出された音声の周波数や時間変化（規則性も含む）などで意味を判定している。強烈に色や形や明るさが変化する画像は、静かな連続音より、大きなパルス状音声に対応すると考えた方が、自然であり、規則的な変化のある画像は、規則的な音声パターンが一緒に再生される音声にはふさわしく、これらの対となる画像や音声は同じ意味付けがなされることが好ましい。大きな画像変化には低音（周波数が低い）がふさわしく、小さな画像変化には（周波数が高い）高音がふさわしい。もちろん、拡大して撮影すれば、実際には高い声で鳴いている鳥が、低音で鳴くような不自然さを起こすので、撮影時の画角や距離などを加味して判定しても良い。今回の実施例では、よく撮影されるシーンを代表例として、特定の被写体の具体的判定（泡や川の流れ）を加味し、自然な再生がなされるようにした。
【０１０４】
さらに、本発明の各実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話やスマートフォンなど携帯情報端末（ＰＤＡ：Personal Digital Assist）等に内蔵されるカメラでも勿論構わない。また、内視鏡、顕微鏡のような産業用、医療用の光学機器でもよく、監視カメラや車載用カメラ、据え置き型のカメラ、例えば、テレビジョン受信機やパーソナルコンピュータ等に取り付けられているカメラであってもよい。例えば、音声のパターンと撮影画像のパターンを対応づけることによって、画面を見ていなくても音声で、何が表示されているかを判定することが可能となる。これは、ブラインド操作などが可能となるので、ユーザに優しい仕様となる。また、画面を見ていても、変化が小さい場合には、視覚的には気づかない事があるが、音声情報を重ねることによって注意を喚起するようなこともできる。
【０１０５】
本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【０１０６】
なお、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。また、これらの動作フローを構成する各ステップは、発明の本質に影響しない部分については、適宜省略も可能であることは言うまでもない。
【０１０７】
また、ここで説明した技術のうち、主にフローチャートで説明した制御や機能は、多くがプログラムにより設定可能であり、そのプログラムをコンピュータが読み取り実行することで上述した制御や機能を実現することができる。そのプログラムは、コンピュータプログラム製品として、フレキシブルディスク、ＣＤ−ＲＯＭ等、不揮発性メモリ等の可搬媒体や、ハードディスク、揮発性メモリ等の記憶媒体に、その全体あるいは一部を記録又は記憶することができ、製品出荷時又は可搬媒体或いは通信回線を介して流通又は提供可能である。利用者は、通信ネットワークを介してそのプログラムをダウンロードしてコンピュータにインストールしたり、あるいは記録媒体からコンピュータにインストールすることで、容易に本実施の形態の情報処理装置、撮影機器及び情報処理方法を実現することができる。
【符号の説明】
【０１０８】
１１…画像音声関連付け制御部、１２…提示部、１３…記録部、１４…画像意味ＤＢ、１５…音声意味ＤＢ。
【図１】
2015037212.tif 000003
【図２】
2015037212.tif 000004
【図３】
2015037212.tif 000005
【図４】
2015037212.tif 000006
【図５】
2015037212.tif 000007
【図６】
2015037212.tif 000008
【図７】
2015037212.tif 000009
【図８】
2015037212.tif 000010
【図９】
2015037212.tif 000011
【図１０】
2015037212.tif 000012
【図１１】
2015037212.tif 000013
【図１２】
2015037212.tif 000014
【図１３】
2015037212.tif 000015
【図１４】
2015037212.tif 000016
【図１５】
2015037212.tif 000017
【図１６】
2015037212.tif 000018