(57)【要約】      （修正有）【課題】簡単な操作で表示する画像を操作することができ、操作性の高い電子機器を提供する。【解決手段】制御部２２は、表示部３２に画像を表示させるとともに、撮影部３８にユーザを撮影させ、さらにユーザとの距離及び不可視光の波長の光の検出によりユーザの動きと位置を検出させる。そして、ユーザの動きに基づいて、画像を変化させるとともに、表示部３２の画像上に表示させるユーザの位置を決定する。【選択図】図２
2015007986.tif 000002
【特許請求の範囲】
【請求項１】
表示部に画像を表示させるとともに、
撮影部にユーザを撮影させ、
さらに、ユーザとの距離及び不可視光の波長の光の検出により検出部にユーザの動きと位置を検出させる制御部と、を有し、
前記制御部は、前記ユーザの動きに基づいて、前記画像を変化させるとともに、前記表示部の画像上に表示させるユーザの位置を決定する
ことを特徴とする電子機器。
【請求項２】
前記検出部は、前記ユーザの手の動きまたは足の動き、或いは頭部の動き、または全身の動きの少なくとも一つを検出する
ことを特徴とする請求項１に記載の電子機器。
【請求項３】
前記制御部は、前記ユーザの動きをアイコン表示或いはキャラクタ表示により前記表示部に表示する
ことを特徴とする請求項１に記載の電子機器。
【請求項４】
前記制御部は、前記ユーザの動きと前記体重とから運動量を推定し、消費カロリーを前記表示部に表示する
ことを特徴とする請求項１に記載の電子機器。
【請求項５】
前記制御部は、前記ユーザの動きを検出した後に、前記動きに対応したメッセージ或いは前記動きに関連付けられた画像を前記表示部に表示する
ことを特徴とする請求項１に記載の電子機器。
【請求項６】
前記制御部は、前記ユーザの動きを検出した後に、前記動きの結果に対応したメッセージ或いは前記動きに関連付けられた画像を前記表示部に表示する
ことを特徴とする請求項１に記載の電子機器。
【請求項７】
前記動きは、キック動作、パンチ動作、体当たり動作、ジャンプ動作、しゃがむ動作、走る動作のいずれかが含まれる
ことを特徴とする請求項１に記載の電子機器。
【請求項８】
前記撮影部は、前記画像表示部が画像を表示させている面とは異なる位置の画像を取得することを特徴とする請求項１から７のいずれか１項に記載の電子機器。
【請求項９】
前記画像表示部は、画像を投影して表示させることを特徴とする請求項１から８のいずれか１項に記載の電子機器。
【請求項１０】
前記検出部は、複数の波長の光を検出することを特徴とする請求項１から９のいずれか１項に記載の電子機器。
【請求項１１】
前記表示画面に表示される人物を特定する人物特定部を備える
ことを特徴とする請求項１から１０のいずれか１項に記載の電子機器。
【請求項１２】
表示部に画像を表示させるとともに、
撮影部にユーザを撮影させ、
さらに、ユーザとの距離及び不可視光の波長の光の検出によりユーザの動きと位置を検出させ、
ユーザの動きに基づいて、前記画像を変化させるとともに、前記表示部の画像上に表示させるユーザの位置を決定する
ことを特徴とする電子機器制御用プログラム。
【請求項１３】
表示部に画像を表示させるとともに、
撮影部にユーザを撮影させ、
さらに、ユーザとの距離及び不可視光の波長の光の検出によりユーザの動きと位置を検出させ、
ユーザの動きに基づいて、前記画像を変化させるとともに、前記表示部の画像上に表示させるユーザの位置を決定する
ことを特徴とする電子機器の制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像を表示する表示部と画像を取得する撮影部とを有する電子機器、電子機器制御用プログラム、及び電子機器の制御方法に関する。
【背景技術】
【０００２】
従来から、画像を表示する電子機器としては、ブラウン管、液晶ディスプレイ等の所定の表示面に表示させる装置、プロジェクタ等の壁面やスクリーンに画像を投影する装置がある。
【０００３】
このプロジェクタは、商用電源から電力が供給され、所定位置に固定した状態で使用される、いわゆる据え置き型の装置が主流である。この据え置き型のプロジェクタは、固定した状態で、一定箇所の壁面やスクリーンに画像を投影させる。また、近年、プロジェクタとしては、小型で持ち運びが容易な携帯型のプロジェクタが提案されている。例えば、特許文献１には、上キャビネットと、下キャビネットと、上キャビネットおよび下キャビネットを互いに回動可能に接続するヒンジ部とを備え、レンズと光源とを有するプロジェクタが搭載されたプロジェクタ機能付携帯端末が記載されている。
【０００４】
また、電子機器としては、画像を表示する機能と、画像を撮影する機能の両方を備える装置もある。例えば、特許文献２には、外部から入力された投影画像をスクリーン上に投影する投影部と、前記スクリーンを撮像し、撮像画像を生成する撮像部と、前記撮像部により生成された前記撮像画像に基づいて、前記スクリーン上に直接書き込まれた書き込みを前記投影画像に対応付けて記憶する書込記憶部とを備えるプロジェクタ装置が記載されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００７−９６５４２号公報
【特許文献２】特開２００５−１１４９９６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
特許文献２に記載の装置は、操作者によりスクリーン上に書き込まれた書き込みを撮影部により検出し、記憶することで、操作者による操作を検出し、表示していた画像を加工することが可能となる。
【０００７】
しかしながら、特許文献２に記載の装置は、操作者が筆記具によりスクリーンに書き込まれた画像を記録させているため、画像を投影するスクリーンが書き込みできるものである必要がある。また、文字等の情報を実際に書き込むため、画像が切り替わるたびにスクリーンに書いた情報を消す必要があり、操作に手間がかかる。また、特許文献２に記載の装置は、単にスクリーンに書かれた情報を画像として取り込んでいるに過ぎず、スクリーンに表示される画像を切り替える等の操作を行うためには操作部で操作する必要がある。
【０００８】
本発明は、上記に鑑みてなされたものであって、簡単な操作で表示する画像を操作することができ、操作性の高い電子機器、電子機器制御用プログラム、及び電子機器の制御方法を提供することを目的とする。
【課題を解決するための手段】
【０００９】
本発明は、電子機器であって、表示部に画像を表示させるとともに、撮影部にユーザを撮影させ、さらに、ユーザとの距離及び不可視光の波長の光の検出により検出部にユーザの動きと位置を検出させる制御部と、を有し、前記制御部は、前記ユーザの動きに基づいて、前記画像を変化させるとともに、前記表示部の画像上に表示させるユーザの位置を決定することを特徴とする。
【００１０】
ここで、前記検出部は、前記ユーザの手の動きまたは足の動き、或いは頭部の動き、または全身の動きの少なくとも一つを検出することが好ましい。
【００１１】
また、前記制御部は、前記ユーザの動きをアイコン表示或いはキャラクタ表示により前記表示部に表示することが好ましい。
【００１２】
また、前記制御部は、前記ユーザの動きと前記体重とから運動量を推定し、消費カロリーを前記表示部に表示することが好ましい。
また、前記制御部は、前記ユーザの動きを検出した後に、前記動きに対応したメッセージ或いは前記動きに関連付けられた画像を前記表示部に表示することが好ましい。
また、前記制御部は、前記ユーザの動きを検出した後に、前記動きの結果に対応したメッセージ或いは前記動きに関連付けられた画像を前記表示部に表示することが好ましい。
また、前記動きは、キック動作、パンチ動作、体当たり動作、ジャンプ動作、しゃがむ動作、走る動作のいずれかが含まれることが好ましい。
【００１３】
また、前記撮影部は、前記画像表示部が画像を表示させている面とは異なる位置の画像を取得することが好ましい。
【００１４】
また、前記画像表示部は、画像を投影して表示させることが好ましい。
【００１５】
また、さらに前記ユーザとの距離を測定する距離計測部を備えることが好ましい。
【００１６】
また、前記表示画面に表示される人物を特定する人物特定部を備えることが好ましい。
【００１７】
本発明は、電子機器であって、表示部に画像を表示させるとともに、撮影部にユーザを撮影させ、さらに、検出部にユーザの動きを検出させる制御部と、を有し、前記制御部は、前記ユーザの走行動作に基づいて、前記画像を変化させることを特徴とする。
【００１８】
本発明は、電子機器制御用プログラムであって、表示部に画像を表示させるとともに、撮影部にユーザを撮影させ、さらに、ユーザとの距離及び不可視光の波長の光の検出によりユーザの動きと位置を検出させ、ユーザの動きに基づいて、前記画像を変化させるとともに、前記表示部の画像上に表示させるユーザの位置を決定することを特徴とする。
本発明は、電子機器の制御方法であって、表示部に画像を表示させるとともに、撮影部にユーザを撮影させ、さらに、ユーザとの距離及び不可視光の波長の光の検出によりユーザの動きと位置を検出させ、ユーザの動きに基づいて、前記画像を変化させるとともに、前記表示部の画像上に表示させるユーザの位置を決定することを特徴とする。
【発明の効果】
【００１９】
本発明にかかる電子機器は、取得した被写体の動きに基づいて、表示部に表示させる画像を制御できるという効果を奏する。
【図面の簡単な説明】
【００２０】
【図１】図１は、携帯電子機器の一実施形態の概略構成を示す斜視図である。
【図２】図２は、図１に示す携帯電子機器の機能の概略構成を示すブロック図である。
【図３】図３は、図１に示す携帯電子機器で画像を表示させている状態を示す説明図である。
【図４】図４は、携帯電子機器の動作の一例を示すフロー図である。
【図５】図５は、携帯電子機器の動作を説明するための説明図である。
【図６】図６は、携帯電子機器の動作を説明するための説明図である。
【図７】図７は、携帯電子機器の動作を説明するための説明図である。
【図８】図８は、携帯電子機器の動作の他の例を示すフロー図である。
【図９】図９は、携帯電子機器の動作を説明するための説明図である。
【発明を実施するための形態】
【００２１】
以下、本発明につき図面を参照しつつ詳細に説明する。なお、以下の説明により本発明が限定されるものではない。また、以下の説明における構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。以下においては、電子機器を携帯電話機とした場合を例として説明するが、本発明の適用対象は携帯電話機に限定されるものではなく、例えば、ＰＨＳ（Personal  Handyphone  System）、ＰＤＡ、ビデオカメラ、ポータブルナビゲーション装置、ノートパソコン、ポータブルゲーム機等の各種携帯電子機器、画像表示装置（例えば、テレビモニタ）、据置き型プロジェクタ、ゲーム機等の据置き型の電子機器に対しても本発明は適用できる。
【００２２】
まず、携帯電子機器の外観の構成を説明する。図１は、携帯電子機器の一実施形態の概略構成を示す斜視図である。携帯電子機器１０は、無線通信機能を備えた携帯電話機である。携帯電子機器１０は、１つの箱型形状の筐体１１の内部に各部が収納されたストレート形状の携帯電話機である。なお、本実施形態では、筐体１１を１つの箱型形状としたが、ヒンジで連結された２つの部材で構成した折りたたみ可能な筐体や、２つの部材をスライドさせる筐体としてもよい。また、３つ以上の部材を連結した筐体も用いることができる。
【００２３】
筐体１１には、表示部として、図１に示すディスプレイ１２が設けられる。ディスプレイ１２は、所定の画像として、携帯電子機器１０が受信を待機している状態のときに待ち受け画像を表示したり、携帯電子機器１０の操作を補助するために用いられるメニュー画像を表示したりする。
【００２４】
筐体１１には、通話相手の電話番号や、メール作成時等に文字を入力するための操作キー１３が複数設けられている。さらに、筐体１１の一つの側部（操作キー１３が設けられる面と略直交する面のうちの一つ）には、後述するプロジェクタ３４の動作を制御する専用キー１４が設けられる。なお、操作キー１３及び専用キー１４は、携帯電子機器１０の操作部を構成する。また、筐体１１には、携帯電子機器１０の通話時に音声を受け取るマイク１５、携帯電子機器１０の通話時に音声を発するレシーバ１６が設けられる。
【００２５】
また、筐体１１の上面（一辺が、操作キー１３が設けられる面と接し、他の一辺が、専用キー１４が設けられている面と接している面）には、画像を投影するプロジェクタ３４の光射出部３４ａが設けられている。また、筐体１１の専用キー１４が設けられている面とは反対側の面には、さらに、撮影部３８の撮像部３８ａが設けられている。
【００２６】
図２は、図１に示す携帯電子機器の機能の概略構成を示すブロック図である。図２に示すように携帯電子機器１０は、制御部２２と、記憶部２４と、送受信部２６と、操作部２８と、音声処理部３０と、表示部３２と、プロジェクタ３４と、撮影部３８と、を有する。
【００２７】
制御部２２は、ＣＰＵ（Central  Processing  Unit）等の携帯電子機器１０の全体的な動作を統括的に制御する処理部である。すなわち、携帯電子機器１０の各種の処理が、操作部２８の操作や携帯電子機器１０の記憶部２４に保存されるソフトウェアに応じて適切な手順で実行されるように、送受信部２６や、音声処理部３０や、表示部３２等の動作を制御する。携帯電子機器１０の各種の処理としては、例えば、回線交換網を介して行われる音声通話、電子メールの作成及び送受信、インターネットのＷｅｂ（World  Wide  Web）サイトの閲覧等がある。また、送受信部２６、音声処理部３０、表示部３２等の動作としては、例えば、送受信部２６による信号の送受信、音声処理部３０による音声の入出力、表示部３２による画像の表示、プロジェクタ３４による画像の投影、撮影部３８による画像の取得等がある。
【００２８】
制御部２２は、記憶部２４に保存されているプログラム（例えば、オペレーティングシステムプログラム、アプリケーションプログラム等）に基づいて処理を実行する。制御部２２は、例えば、マイクロプロセッサユニット（ＭＰＵ：Micro  Processor  Unit）で構成され、前記ソフトウェアで指示された手順にしたがって上述した携帯電子機器１０の各種の処理を実行する。すなわち、制御部２２は、記憶部２４に保存されるオペレーティングシステムプログラムやアプリケーションプログラム等から命令コードを順次読み込んで処理を実行する。
【００２９】
制御部２２は、複数のアプリケーションプログラムを実行する機能を有する。制御部２２が実行するアプリケーションプログラムとしては、例えば、プロジェクタ３４の駆動を制御するアプリケーションプログラムや、撮影部３８の駆動を制御するアプリケーションプログラム、各種ゲームを作動させるゲームアプリケーションプログラム等の複数のアプリケーションプログラムがある。
【００３０】
記憶部２４には、制御部２２での処理に利用されるソフトウェアやデータが保存されており、上述した、プロジェクタ３４の駆動を制御するアプリケーションプログラムを作動させるタスクや、撮影部３８の駆動を制御するアプリケーションプログラムを作動させるタスクや、各種ゲームアプリケーションプログラムを作動させるタスクが保存されている。
【００３１】
また、記憶部２４には、これらのタスク以外にも、例えば、通信、ダウンロードされた音声データ、あるいは記憶部２４に対する制御に制御部２２が用いるソフトウェア、通信相手の電話番号やメールアドレス等を保存し、管理するアドレス帳、発信音や着信音等の音声ファイル、ソフトウェアの処理過程で用いられる一時的なデータ等が保存されている。また、記憶部２４には、被写体（被投影対象）の大きさ情報を有する画像のデータ等も保存されている。なお、ソフトウェアの処理過程で用いられるコンピュータプログラムや一時的なデータは、制御部２２によって記憶部２４に割り当てられた作業領域へ一時的に保存される。記憶部２４は、例えば、不揮発性の記憶デバイス（ＲＯＭ：Read  Only  Memory等の不揮発性半導体メモリ、ハードディスク装置等）や、読み書き可能な記憶デバイス（例えば、ＳＲＡＭ：Static  Random  Access  Memory、ＤＲＡＭ：Dynamic  Random  Access  Memory）等で構成される。
【００３２】
送受信部２６は、アンテナ２６ａを有し、基地局によって割り当てられるチャネルを介し、基地局との間でＣＤＭＡ方式などによる無線信号回線を確立し、基地局との間で電話通信及び情報通信を行う。
【００３３】
操作部２８は、例えば、電源キー、通話キー、数字キー、文字キー、方向キー、決定キー、発信キーなど、各種の機能が割り当てられた操作キー１３と専用キー１４とで構成され、これらのキーがユーザの操作により入力されると、その操作内容に対応する信号を発生させる。そして、発生した信号は、ユーザの指示として制御部２２へ入力される。
【００３４】
音声処理部３０は、マイク１５に入力される音声信号やレシーバ１６から出力される音声信号の処理を実行する。すなわち、音声処理部３０は、マイク１５から入力される音声を増幅し、ＡＤ変換（Analog  Digital変換）を実行した後さらに符号化等の信号処理を施して、ディジタルの音声データに変換して制御部２２へ出力する。また、制御部２２から送られる音声データに対して復号化、ＤＡ変換（Digital  Analog変換）、増幅等の処理を施してアナログの音声信号に変換してから、レシーバ１６へ出力する。
【００３５】
表示部３２は、液晶ディスプレイ（ＬＣＤ、Liquid  Crystal  Display）や、有機ＥＬ（Organic  Electro−Luminescence）パネルなどで構成された表示パネル（上述したディスプレイ１２等）を備え、制御部２２から供給される映像データに応じた映像、画像データに応じた画像を表示パネルに表示させる。
【００３６】
プロジェクタ３４は、画像を投影する画像投影機構であり、上述したように、筐体１１の上面に画像を投影する光射出部３４ａが設けられている。ここで、図３は、図１に示す携帯電子機器で画像を表示させている状態を示す説明図である。携帯電子機器１０は、プロジェクタ３４の光射出部３４ａから画像を投影する、つまり画像を構成する光を射出することで、図３に示すように、筐体１１の上面に対向する面にある壁面、スクリーン等のうち、一定の領域（投影領域）に画像を投影することができる。なお、プロジェクタ３４は、制御部２２により動作が制御され、制御部２２から送られる種々の映像、例えば映画、プレゼンテーション資料を投影し、投影領域に表示させる。
【００３７】
プロジェクタ３４は、光源と、画像データに応じて、光源から射出された光を投影するか否かを切り換える光学系とで構成されている。例えば、プロジェクタ３４には、ハロゲンライトや、ＬＥＤ光源、ＬＤ光源を光源とし、ＬＣＤ（Liquid  Crystal  Display）や、ＤＭＤ（Digital  Micro-mirror  Device）を光学系とした構成のプロジェクタを用いることができる。この場合は、光学系を各画素に対応して投影領域の全面に配置し、光源から射出された光を画像に合わせて光学系をオンオフさせることで画像を投影領域の全面に投影させることができる。また、プロジェクタ３４には、レーザ光を光源とし、光源から射出された光を透過させるか否かを切り換える切り換え素子と、切り換え素子を通過した光をラスター走査させるミラーとで構成される光学系とした構成のプロジェクタを用いることもできる。この場合は、ミラーによってレーザ光から射出された光の角度を変えて、投影領域の全面に光源から照射された光を走査させることで、投影領域に画像を投影させることができる。
【００３８】
撮影部３８は、筐体１１の側面に設けられた撮像部３８ａにより画像を取得する機構である。つまり、撮影部３８は、プロジェクタ３４が光を射出する方向とは異なる方向の画像を取得する。撮影部３８は、撮像部３８ａから取得した画像を制御部２２に送る。
【００３９】
次に、図４を用いて携帯電子機器１０の動作について説明する。ここで、図４は、携帯電子機器の動作の一例を示すフロー図である。携帯電子機器１０は、撮影部３８で取得した画像に含まれる被写体を抽出し、その被写体の動きを検出し、被写体の動きに基づいて、プロジェクタ３４から投影する画像の制御（操作）を行うモードが設定可能となっている。なお、画像から被写体を抽出する方法としては、種々の画像処理技術を用いることができる。また、被写体の動きと画像の制御との関係は、予め設定され、記憶部２４に記憶されている。
【００４０】
まず、操作者による操作部２８の操作、または、設定により、撮影部３８により取得した被写体の動きに基づいて画像を制御するモードを立ち上げる指示が入力されると、制御部２２は、処理を開始し、ステップＳ１２として、撮影部３８による画像の取得を開始する。具体的には、撮影部３８を起動させ、撮像部３８ａから取得した画像を制御部２２に送る。
【００４１】
制御部２２は、ステップＳ１２で画像の取得を開始したら、ステップＳ１４として、撮影した画像から被写体を抽出する。具体的には、撮影部３８で取得した画像を解析し、画像に写っている被写体を抽出する。なお、制御部２２は、取得した画像から被写体が抽出できない場合は、次に取得した画像（一定時間経過後の画像）から被写体の抽出を行う。
【００４２】
制御部２２は、ステップＳ１４で被写体を抽出したら、ステップＳ１６として、所定の被写体が抽出されたかを判定する。具体的には、ステップＳ１４で抽出した被写体が、予め設定されている被写体、つまり、画像の制御と対応付けて記憶されている被写体であるかを判定する。制御部２２は、ステップＳ１６で抽出した被写体が所定の被写体ではない（Ｎｏ）と判定したら、ステップＳ１４に進み、次に取得した画像から被写体の抽出を行う。制御部２２は、このように、所定の被写体が抽出されるまで、ステップＳ１４とステップＳ１６の処理を繰り返す。
【００４３】
制御部２２は、ステップＳ１６で抽出した被写体が所定の被写体である（Ｙｅｓ）と判定したら、ステップＳ１８として、抽出した被写体の動きを検出する。つまり、制御部２２は、一定時間分の画像から、ステップＳ１６で特定した所定の被写体を抽出し、所定の被写体の動きを検出する。
【００４４】
制御部２２は、ステップＳ１８で被写体の動きを検出したら、ステップＳ２０として、ステップＳ１８で検出した動きに対応する操作はあるかを判定する。つまり、検出した被写体の動きが画像の制御と対応付けて記憶されている被写体の動きであるかを判定する。
【００４５】
制御部２２は、ステップＳ２０で対応する操作がある（Ｙｅｓ）と判定したら、ステップＳ２２として、ステップＳ２０で検出した操作に基づいて画面を変化させる。つまり、制御部２２は、検出した操作指示に基づいて画面を制御する。画面の操作については、後ほど説明する。制御部２２は、ステップＳ２２で画面を変化させたらステップＳ２４に進む。制御部２２は、ステップＳ２０で対応する操作がない（Ｎｏ）と判定したら、ステップＳ２４に進む。
【００４６】
制御部２２は、ステップＳ２０でＮｏと判定したら、または、ステップＳ２２の処理を行ったら、ステップＳ２４として、処理終了の指示があるかを判定する。なお、処理終了の指示は、操作部２８からの入力や、ステップＳ１６からステップＳ２２の処理で検出される操作指示等によって入力される。制御部２２は、ステップＳ２４で処理終了ではない（Ｎｏ）、つまり、終了指示が入力されていないと判定したら、ステップＳ１４に進み、ステップＳ１４からステップＳ２４の処理を繰り返す。また、制御部２２は、ステップＳ２４で処理終了である（Ｙｅｓ）、つまり、終了指示が入力されていると判定したら、ステップＳ２６として、撮影部３８による画像の取得を終了し、処理を終了する。
【００４７】
以上のように、撮影部３８で撮影した画像から被写体を抽出し、その被写体の動き（動きの規則性、移動量、運動量）に基づいてプロジェクタ３４により投影している画像、または、表示部３２に表示させている画像を操作することで、操作者は被写体を動かすのみで画像を操作することができる。また、被写体の動きとして種々の動きを設定することができ、その動きに応じて種々の操作を設定することができる。これにより、画像の操作性を高くすることができる。
【００４８】
また、本実施形態のように、プロジェクタ３４が画像を投影する方向と、撮影部３８が撮影する方向（画像を取得する方向）とを異なる方向とすることで、被写体がまぶしい思いをすることなく、被写体を動かすこと（つまり、操作指示を入力すること）ができる。
【００４９】
また、特に本実施形態のように、携帯電子機器１０の場合は、筐体１１が小型であるため、操作部２８を操作すると、筐体１１が移動しプロジェクタ３４による画像を投影する位置がずれる可能性があるが、携帯電子機器１０は、筐体１１に接触することなく、画像を操作することができる。これにより、操作により筐体１１を移動させる必要がなくなり、画像の投影位置がずれ、意図しない方向に画像を投影することを防止することができる。
【００５０】
次に、図５から図７を用いて、ステップＳ１６からステップＳ２２までの処理を具体的に説明する。ここで、図５から図７は、それぞれ携帯電子機器の動作を説明するための説明図である。なお、図５から図７に示す例では、特定の被写体として、人間の手（または指先）を検出する。また、携帯電子機器１０は、プロジェクタ３４により画像を投影している。
【００５１】
図５に示す例は、携帯電子機器１０に、被写体の動きと文字とが対応付けて記憶されている。この場合、画像が取得される領域内、つまり、撮像部３８ａの撮影領域内で、操作者（ユーザ）が手により空中に文字（図５ではアルファベットの大文字の「Ａ」）を書く（描く）動作を行うと、撮影部３８が、被写体が文字を書く動作の画像を取得する。携帯電子機器１０は、撮影部３８で被写体が文字を書く動作の画像を取得したら、被写体によって書かれた文字を解析し、検出した文字をプロジェクタ３４により投影している画像に重ねて表示させる。
【００５２】
なお、プロジェクタ３４の画面内において、文字を表示させる位置は、設定により種々の位置とすればよい。例えば、撮影領域において被写体がある位置、つまり、取得した画像内における被写体の位置に対応した位置に文字を表示させるように設定することもできる。また、被写体の所定部分、例えば、ユーザの頭部、肘を基準点（中心）として、基準点と手の位置との関係から表示させる位置を決定するようにしてもよい。また、この時、例えば、画像処理により肘から手先までの距離を算出し、その長さを基準長さとして、画面上における中心からの距離を決定するようにしてもよい。具体的には、肘から手先までの距離の２倍を、画像の中心から端に割り当て、基準点と手との距離から画面中心からの距離を算出するようにする。
【００５３】
このように、被写体の文字を書く動きと文字の入力とを対応付け、被写体の動きを解析して文字を検出することで、操作者は、撮影部３８に向かって文字を書く動きを行うことで、画面に文字を描くことができる。なお、この時、制御部２２は、被写体が描いた文字をそのまま表示させてもよいが、抽出した文字を予め設定されたフォント、スタイルで表示させるようにしてもよい。また、上記実施例では、被写体の動きから検出した文字を入力するようにしたが、被写体の動きをそのまま線として描くようにしてもよい。つまり、被写体が図形や絵を描く動作をしたら、画面上に被写体が描いた図形や絵を表示させるようにしてもよい。
【００５４】
次に、図６に示す例は、携帯電子機器１０のプロジェクタ３４で動画を再生する場合であり、被写体の動きと動画の操作とが対応付けて記憶されている。例えば、操作者が被写体（手）で、撮影部３８に向かって右回り（時計回り）の円を描けば早送り、左回り（反時計回り）の円を描けば巻き戻し、上下動させたら停止、左右に動かしたら再生等の関係が記憶されている。また、円を描く速度に応じて、早送り、巻き戻しの速度を変化させる、つまり２倍速、３倍速に変化させるようにしてもよい。
【００５５】
この対応関係が記憶されている場合、画像が取得される領域内、つまり、撮像部３８ａの撮影領域内で、操作者（ユーザ）が手により空中に右回りの円を描く動作を行うと、撮影部３８が、被写体が右回りの円を描いている動作の画像を取得する。携帯電子機器１０は、撮影部３８で被写体の動作の画像を取得したら、被写体の動作を解析し、検出した被写体の動作に対応する操作を行い、プロジェクタ３４により投影している画像を操作する。本例では、プロジェクタ３４に投影している動画を早送りする。
【００５６】
このように、被写体の動きにより表示する画面を操作、つまり画像を変化させることができることで、操作者は、手を動かすのみで、画像を変化させることができる。
【００５７】
なお、図６に示す例では、操作として、再生、停止、早送り、巻き戻しを例示したが、これに限定されず、一時停止、スキップ、頭だし、動画のスタートから再生、音量の調整、輝度の調整等種々の操作も、被写体の動きと対応付けておくことで、操作者は被写体を動かすだけで操作を行うことができる。また、映像として字幕を表示させている場合は、被写体の動きにより、字幕の表示、非表示、また表示させる字幕の種類を切り替えるようにしてもよい。
【００５８】
また、図６に示す例では、プロジェクタ３４に表示させる画像を動画の場合として説明したが、静止画の場合も同様に、被写体の動きと操作とを対応付けて記憶させておくことで、種々の操作を行うことができる。例えば、スライドショーのように複数の静止画を順番に表示させる場合は、被写体の動きによって、１つ前の画像を表示させたり、１つ後の画像を表示させたり、２つ前の画像を表示させたり、特定のキーワードを含む画像を検索させたりすることができる。
【００５９】
次に、図７に示す例は、携帯電子機器１０のプロジェクタ３４で映画や、テレビ番組を再生（表示）する場合であり、被写体の動きと検索操作とが対応付けて記憶されている。この場合は、携帯電子機器１０が画像を表示している際に、操作者が被写体の動きにより画面の任意の領域を囲う動作を入力する。なお、図７に示す例では、画面に表示されている人物を囲う動作が入力される。なお、操作者が画面の所望の領域を囲うことができるように、制御部２２は、被写体が画面のどの位置にあるかをポインタとして表示させるようにすることが好ましい。
【００６０】
制御部２２は、被写体の動きにより囲まれた領域に表示されている人物を特定し、その人物に関する情報を収集し、画面上に表示させる。ここで、画面に表示させる情報としては、特定した人物の名前、経歴（出演映画、出演番組、生年月日）等である。
【００６１】
このように、被写体の動きにより囲まれた領域に表示されている人物の情報を表示させることで、その画面に表示されている人物について知ることができる。また、単にその人物を囲うのみで、その人物の情報が表示されるため、操作者は簡単な操作で所望の情報を取得することができる。
【００６２】
なお、制御部２２により、囲まれた領域に表示されている人物を特定する方法は、特に限定されず種々の方法を用いることができる。例えば、囲まれた領域を画像解析して人物を抽出し、抽出した人物の画像を、データベース（携帯電子機器１０内のデータベース、または、通信回線を介して接続された外部のデータベース）にある画像と照合（パターンマッチング）を行うことで、人物を特定すればよい。また、再生させる映画、ＴＶ番組のデータとして、画像、音声データに加え、予め画像の各領域にどの人物が表示されているかの情報を記憶、または、取得しておく。これにより、被写体の動きで囲まれた領域の情報と、予め記憶または取得してある画像の領域にどの人物が表示されているかの情報とから、囲まれた領域にいる人物を特定することができる。また、特定した人物に関する情報を取得する方法は、特に限定されず、記憶部２４に記憶されている情報を表示させるようにしても、インターネットを用いて外部のデータベースを検索して取得した情報を表示させてもよい。
【００６３】
また、上記実施例では、囲まれた領域に表示されている人物についての情報を表示させるようにしたが、囲まれた領域に表示されている物の情報を検索して表示させるようにしてもよい。また、表示されている物に限らず、音楽が出力されている場合は、出力されている音楽の情報を表示させるようにしてもよい。なお、画像に表示されている物、人物の情報を表示させるか、画像には写っていない音楽の情報を表示させるかの判定は、被写体の動きに基づいて判定すればよい。例えば、画面の特定の領域が囲まれた場合や、被写体の動きが領域を囲う動きではない、所定の動き（大きく×を描く、単に左右に動く等）を検出した場合に音楽の情報を表示させるようにすればよい。
【００６４】
また、上記実施形態では、被写体として、人物の手を用いた場合を説明したが、人物の全体を被写体としてもよい。人物全体を被写体とすることで、被写体の全体の動きに基づいて画面の操作を行うことができる。以下、図８及び図９を用いて、一例を説明する。ここで、図８は、携帯電子機器の動作の他の例を示すフロー図であり、図９は、携帯電子機器の動作を説明するための説明図である。また、本例では、携帯電子機器１０でアプリケーションソフトウェアとして格闘ゲームを実行させた場合の例である。
【００６５】
まず、制御部２２は、操作者による操作により格闘ゲームが起動されると、ステップＳ４０としてプロジェクタ３４により画像を投影する。プロジェクタ３４は、例えば、格闘ゲームの起動画面を投影し、ゲームをスタートさせる。また、操作者は、この時、撮影部３８の撮影領域内に全身が入る位置に立っている。
【００６６】
制御部２２は、ステップＳ４０で画像を投影（画像の投影を開始）したら、ステップＳ４２として、撮影部３８によりユーザ（操作者）の撮影を開始する。つまり、撮影部３８により撮影領域の画像を取得する。制御部２２は、撮影部３８により画像を取得したら、取得した画像から被写体としてユーザの体全体を抽出する。
【００６７】
制御部２２は、ステップＳ４２でユーザを撮影し取得した画像から被写体を抽出したら、ステップＳ４４として、投影画像にユーザを投影する。つまり、ステップＳ４２で取得した被写体の画像をプロジェクタ３４に投影する画像に合成し、合成した画像をプロジェクタ３４により投影する。これにより、プロジェクタ３４からは被写体を含む画像が投影される。また、制御部２２は、投影させる画像で、被写体を撮影部３８で取得した画像の被写体の位置に対応した位置に表示させる。また、本例は、格闘ゲームであるので、投影される画面には、被写体と対戦する対戦相手の画像が表示されている。
【００６８】
ここで、投影する画面には、画面における被写体の位置や、被写体の動作、手足の位置（つまり手を上げているか下げているか）等がわかればよく、被写体の表示形状は特に限定されない。したがって、投影する画像には、撮影部３８で取得した被写体の画像をそのまま表示させてもよいが、被写体の外形だけを線で表示させてもよい。つまり、被写体を記号化（アイコン化）して表示させるようにしてもよい。また、被写体の画像に変えて特定のキャラクタで表示してもよい。
【００６９】
制御部２２は、ステップＳ４４で投影画像にユーザを投影したら、ステップＳ４６としてユーザが動作したかを判定する。具体的には、制御部２２は、ステップＳ４４の処理を行った後も、撮影部３８により取得した画像から被写体を抽出し、抽出した被写体を投影する画像に投影しつつ、抽出した被写体の動きを検出する。ここで、制御部２２、ステップＳ４６で予め設定された特定の動き（本例では、パンチ、キック、体当たりのいずれか）をしたかを判定する。また、特定の動きであるか否かは、抽出した被写体の変化に基づいて判定すればよい。つまり、被写体を抽出する際に、被写体の手、足、胴体、頭部分を特定し、各部の動きを抽出することで、特定の動きであるかを判定することができる。例えば、他の部分に比べ、一方の手の位置が大きく変化した場合は、パンチであると判定するように設定すればよい。制御部２２は、ステップＳ４６でユーザが動作していない（Ｎｏ）と判定したら、ステップＳ４６に進み同じ処理を繰り返す。つまり、制御部２２は、ユーザが所定の処理を行うまで、ステップＳ４６の処理を繰り返す。
【００７０】
制御部２２は、ステップＳ４６でユーザが動作した（Ｙｅｓ）と判定したら、ステップＳ４８として、動作判定を行う。つまり、制御部２２は、ステップＳ４８として、ステップＳ４６で検出した動作の種類、本例では、パンチ、キック、体当たりのいずれであるか判定する。制御部２２は、ステップＳ４８でユーザがパンチをしたと判定したら、ステップＳ５０として、１０ポイントのダメージを加算し、ステップＳ４８でユーザがキックをしたと判定したら、ステップＳ５２として、１５ポイントのダメージを加算し、ステップＳ４８でユーザが体当たりをしたと判定したら、ステップＳ５４として、５０ポイントのダメージを加算する。なお、図９は、ユーザがキックをしている状態である。撮影部３８によりキックをしているユーザの画像を取得しているため、プロジェクタ３４に投影されるユーザの画像もキックをしている状態となる。また、画面には、ダメージ１５ポイントを与えたことが表示され、さらに、画面上に表示された対戦相手は、キックによるダメージを受けた状態で表示される。なお、ダメージの初期値は、０であり、ステップＳ５０、ステップＳ５２、ステップＳ５４の処理が行われると加算される。
【００７１】
制御部２２は、ステップＳ５０、ステップＳ５２、ステップＳ５４の処理を行ったらステップＳ５６として、与えたダメージが合計１００ポイント以上であるかを判定する。制御部２２は、ステップＳ５６でダメージが１００ポイント未満であると、判定したら、ステップＳ４６に進み、上記処理を繰り返す。また、制御部２２は、ステップＳ５６でダメージが１００ポイント以上であると判定したら、処理を終了する。なお、終了する前に、対戦相手を倒したことを通知するメッセージや、画像を表示させるようにしてもよい。また、そのまま、次の対戦相手との対戦を開始する場合は、ステップＳ４０からの処理を繰り返す。
【００７２】
このように、撮影部で撮影したユーザを被写体として抽出し、その動きを検出することで、ユーザが体を動かすことが入力となり、実際の動作とゲームの操作とを対応付けることができる。これにより、操作者は、直感で操作をすることができ、ゲームをより楽しむことができる。また、操作部を必要としないため、装置構成を簡単にすることができる。
【００７３】
また、本実施形態のように、投影する方向と画像を取得する方向を異なる方向とすることで、ユーザは、画面を見ながら動くことができ、プロジェクタから投影される光が直接操作者に当たり、まぶしい思いをすることも防止することができる。
【００７４】
また、上記例では、ゲームとして、格闘ゲームを例にしたが、マラソン等の走るゲームにも用いることができる。この場合は、風景の画像を投影し、ユーザが走っていることを検出したら、その走りのリズムに合わせて、投影している画面の風景を走っているように切り替えるようにすることで、走っている雰囲気を味わうことができる。また、ジャンプ、しゃがむ等の動作を検出し、障害物を乗り越えるゲームも行うことができる。
【００７５】
この時、被写体の動きから、ユーザの運動量を検出するようにしてもよい。ユーザの運動量を検出することで、消費カロリーを算出することができる。具体的には、ユーザの体重等の身体情報と、体の動きに対応付けられたカロリー表とを記憶しておき、検出したユーザの動きとカロリー表との関係に基づいて消費カロリーを算出すればよい。
【００７６】
また、上記実施形態では、被写体として、人物の一部または全体を検出したが、人物に限定されず、撮影部で取得した画像の所定の被写体（設定された被写体）の動きに基づいて画面を操作すればよい。例えば、被写体として所定の波長域、または所定波長の光（例えば、レーザポインタの光）を用い、この光の動きに基づいて画面を操作するようにしてもよい。被写体として、所定の波長域の光を用いることで、撮影部で取得した画像から簡単に被写体を抽出することができる。
【００７７】
また、複数の波長域または複数の波長の光、つまり複数の色の光を被写体として、設定し、検出した被写体の波長域に応じて、画面操作を切り替えるようにしてもよい。つまり、被写体の動き及び被写体の波長域と、画面の操作とを対応付けておき、検出した、被写体の動きと被写体の波長域とに基づいて、画面を操作するようにしてもよい。このように、光の波長域によって操作を切り替えることで、同一の動きでも異なる操作を入力することが可能となり、より多くの操作を行うことが可能となる。
【００７８】
また、被写体の動きに基づいて、被写体の動き、検出した文字や図形を画面に表示させる場合は、画面に表示させる被写体の動き、検出した文字や図形を被写体の色に合わせて変化させるようにしてもよい。これにより、操作者は、種々の色で画面に書き込むことが可能となる。
【００７９】
また、被写体の点滅も被写体の動きとして検出することができる。例えば、被写体が３回点滅したら、プロジェクタの電源をオフにする、つまり画像の表示を終了する操作も設定することができる。
【００８０】
また被写体として検出する光の波長域は、不可視光の波長域としてもよい。不可視光とすることで、ポインタの光が目に入りまぶしい思いをすることを防止することができる。
【００８１】
また、本発明の電子機器は、プロジェクタにより画像を投影する方向と、撮影部により画像を取得する方向を同じ方向としてもよい。つまり、プロジェクタが投影する画像を含む画像を撮影部が取得するようにしてもよい。このようにプロジェクタが投影した画像を含む画像から被写体を検出する場合は、画像処理により、撮影部が取得した画像からプロジェクタが投影した画像を除去した後、被写体を検出するようにする。例えば、所定の波長域の光を被写体として検出する場合に、プロジェクタが投影する画像に所定の波長域の光があっても、当該部分の光は、被写体として検出しないようにする。これにより、操作者が操作した被写体の動きをより確実に検出することができる。
【００８２】
また、被写体としては、所定の波長域の光、以外にもペンや、棒も用いることができる。なお、操作者が被写体の動きを入力するために別途物を持つ必要が無くなり、構成を簡単にすることができるため、被写体は、人物全体、または人物の所定の部分とすることが好ましい。
【００８３】
携帯電子機器は、撮影部に対面する位置にある被写体との距離を計測するセンサ（測距センサ）を設けることが好ましい。センサを設け、被写体と携帯電子機器との距離が計測できることで、被写体と基準位置との距離、被写体の移動量をより正確に算出することができる。これにより、投影する画像上における被写体の位置が算出しやすくなる。
【００８４】
また、上記実施形態では、プロジェクタ３４により投影した画像を操作したが、表示部としては、プロジェクタ３４に限定されず、液晶モニタ等の表示装置に表示させた画像を操作するようにしてもよい。
【００８５】
なお、上記画面の操作例、表示例は、一例であり本発明は上記例に限定されない。また、上記各例を組み合わせてもよい。例えば、所定の被写体の動きを検出したら文字入力モードに移行し、被写体の動きから文字を検出するようにしてもよい。
【産業上の利用可能性】
【００８６】
以上のように、本発明にかかる電子機器は、所定の入力により画像の表示を制御する電子機器に用いることに適している。
【符号の説明】
【００８７】
１０  携帯電子機器
１１  筐体
１２  ディスプレイ
１３  操作キー
１４  専用キー
１５  マイク
１６  レシーバ
２２  制御部
２４  記憶部
２６  送受信部
２６ａ  アンテナ
２８  操作部
３０  音声処理部
３２  表示部
３４  プロジェクタ
３４ａ  光射出部
３８  撮影部
３８ａ  撮像部
【図１】
2015007986.tif 000003
【図２】
2015007986.tif 000004
【図３】
2015007986.tif 000005
【図４】
2015007986.tif 000006
【図５】
2015007986.tif 000007
【図６】
2015007986.tif 000008
【図７】
2015007986.tif 000009
【図８】
2015007986.tif 000010
【図９】
2015007986.tif 000011