(57)【要約】【課題】ユーザによる指示の誤検出を低減する。【解決手段】検出装置（１０）は、赤外光の波長領域を撮像する撮像部（１５）と、検出対象面上における手の先端部を検出する第１の赤外光と、第１の赤外光より検出対象面から離れた領域に照射される第２の赤外光とを照射する赤外光照射部（１１）と、第１の赤外光と第２の赤外光とを照射することにより撮像部（１５）によって撮像された画像に基づいて、手の向きを検出し、第１の赤外光を照射することにより撮像された画像に基づいて抽出された先端部の画像領域と、検出した手の向きとに基づいて、検出対象面上の先端部の位置を検出する検出部（１９）と、を備える。【選択図】図２
2012208926.tif 000002
【特許請求の範囲】
【請求項１】
赤外光の波長領域を撮像する撮像部と、
検出対象面上における指示部の先端部を検出する第１の赤外光と、前記第１の赤外光より前記検出対象面から離れた領域に照射される第２の赤外光とを照射する照射部と、
前記第１の赤外光と前記第２の赤外光とを照射することにより前記撮像部によって撮像された画像に基づいて、前記指示部の向きを検出し、前記第１の赤外光を照射することにより撮像された画像に基づいて抽出された前記先端部の画像領域と、検出した前記指示部の向きとに基づいて、前記検出対象面上の前記先端部の位置を検出する検出部と
を備えることを特徴とする検出装置。
【請求項２】
前記第１の赤外光及び前記第２の赤外光は、前記検出対象面と平行な平行光であることを特徴とする請求項１に記載の検出装置。
【請求項３】
前記第１の赤外光が前記検出対象面と平行な平行光であり、前記第２の赤外光が前記検出対象面と垂直な方向に拡散する拡散光であることを特徴とする請求項１に記載の検出装置。
【請求項４】
前記照射部は、
前記撮像部の撮像タイミングに応じて、前記第１の赤外光と前記第２の赤外光とを切り替えて照射し、
前記検出部は、
前記第１の赤外光を照射することにより撮像された第１の画像及び前記第２の赤外光を照射することにより前記撮像部によって撮像された第２の画像に基づいて、前記指示部の向きを検出する
ことを特徴とする請求項１から請求項３のいずれか一項に記載の検出装置。
【請求項５】
前記照射部は、
前記第１の赤外光と前記第２の赤外光とを互いに異なる光の強度で照射する
ことを特徴とする請求項４に記載の検出装置。
【請求項６】
前記検出部は、
前記互いに異なる光の強度を照射して撮像された前記第１の画像と前記第２の画像との差分画像に基づいて、前記指示部の画像領域と前記先端部の画像領域とを抽出し、抽出した前記指示部の画像領域に基づいて前記指示部の向きを検出し、検出した前記指示部の向きと前記先端部の画像領域とに基づいて、前記先端部の位置を検出する
ことを特徴とする請求項５に記載の検出装置。
【請求項７】
前記検出部は、
前記差分画像を多値化し、多値化した前記差分画像に基づいて、前記指示部の画像領域と前記先端部の画像領域とを抽出する
ことを特徴とする請求項６に記載の検出装置。
【請求項８】
前記撮像部は、
さらに、前記第１の赤外光及び前記第２の赤外光がともに照射されない期間の画像である第３の画像を撮像し、
前記検出部は、
前記第１の画像と前記第３の画像との差分画像、及び前記第２の画像と前記第３の画像との差分画像に基づいて、前記指示部の画像領域と前記先端部の画像領域とを抽出し、抽出した前記指示部の画像領域に基づいて、前記指示部の向きを検出し、検出した前記指示部の向きと前記先端部の画像領域とに基づいて、前記先端部の位置を検出する
ことを特徴とする請求項４に記載の検出装置。
【請求項９】
前記検出部は、
前記指示部の画像領域のパターンと予め定められた基準パターンとの比較によるパターンマッチング、前記撮像部の撮像範囲以内に予め指定された検出範囲の境界線のうち、前記指示部の画像領域と重なる位置、及び前記指示部の画像領域の動きベクトルのうちのいずれか１つ又は組み合わせによって、前記指示部の向きを検出する
ことを特徴とする請求項６から請求項８のいずれか一項に記載の検出装置。
【請求項１０】
前記検出部は、
前記指示部の向きと前記先端部の画像領域とに基づいて、複数の前記先端部の位置を検出する
ことを特徴とする請求項６から請求項９のいずれか一項に記載の検出装置。
【請求項１１】
前記検出部は、
前記第２の画像に基づいて、前記撮像部の撮像範囲内で前記指示部が移動する空間上の前記先端部の位置を検出する
ことを特徴とする請求項４から請求項１０のいずれか一項に記載の検出装置。
【請求項１２】
前記照射部は、
前記検出対象面に対する垂直方向の照射範囲が互いに異なる複数の前記第２の赤外光を順番に照射し、
前記撮像部は、前記複数の第２の赤外光それぞれに対応した複数の前記第２の画像を撮像し、
前記検出部は、
前記複数の第２の画像に基づいて、前記先端部の前記垂直方向の位置を検出する
ことを特徴とする請求項１１に記載の検出装置。
【請求項１３】
前記検出部は、
前記第２の画像に基づいて前記指示部の画像領域を抽出し、抽出した前記指示部の画像領域における前記先端部の前記第２の画像上の位置及び大きさに基づいて前記先端部の検出対象面に対する垂直方向の位置を検出する
ことを特徴とする請求項１１に記載の検出装置。
【請求項１４】
前記検出部は、
前記第２の画像に基づいて前記指示部の画像領域を抽出し、抽出した前記指示部の画像領域の前記第２の画像上の位置及び大きさに基づいて、前記検出対象面に対する水平方向の前記先端部の位置を検出する
ことを特徴とする請求項１１から請求項１３のいずれか一項に記載の検出装置。
【請求項１５】
請求項１から請求項１４のいずれか一項に記載の検出装置を備えることを特徴とする入力装置。
【請求項１６】
請求項１５に記載の入力装置と、
前記検出対象面に画像を投影する投影部と
を備えることを特徴とするプロジェクタ。
【請求項１７】
請求項１から請求項１４のいずれか一項に記載の検出装置を備えることを特徴とする電子機器。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、検出装置、入力装置、プロジェクタ、及び電子機器に関する。
【背景技術】
【０００２】
ユーザによる指示動作を検出するための検出装置並びにその検出装置を用いた入力装置が、知られている（例えば、特許文献１を参照）。
【０００３】
特許文献１に記載されている入力装置では、ユーザが投影像を直接指示し、ユーザの指又はユーザが持つスタイラスの動きになどを検出することにより指示を検出し、検出した指示によって文字などを入力することが可能となっている。その際、例えば、赤外光の反射を利用して検出されるようになっている。また、ユーザの指による押下動作は、例えば、指の押下前後における赤外像の違いを解析することで検出されるようになっている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特表２００３−５３５４０５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、特許文献１では、単に、ユーザの指又はユーザが持つスタイラスの動きを検出しているため、例えば、装置の側面から指示されたような場合に、指示が誤検出されてしまうことがある。
【０００６】
本発明は、上記の事情を考慮してなされたものであり、ユーザによる指示の誤検出を低減することができる検出装置、入力装置、プロジェクタ、及び電子機器を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記問題を解決するために、本発明の一実施形態は、赤外光の波長領域を撮像する撮像部と、検出対象面上における指示部の先端部を検出する第１の赤外光と、前記第１の赤外光より前記検出対象面から離れた領域に照射される第２の赤外光とを照射する照射部と、前記第１の赤外光と前記第２の赤外光とを照射することにより前記撮像部によって撮像された画像に基づいて、前記指示部の向きを検出し、前記第１の赤外光を照射することにより撮像された画像に基づいて抽出された前記先端部の画像領域と、検出した前記指示部の向きとに基づいて、前記検出対象面上の前記先端部の位置を検出する検出部とを備えることを特徴とする検出装置である。
【０００８】
また、本発明の一実施形態は、上記検出装置を備えることを特徴とする入力装置である。
【０００９】
また、本発明の一実施形態は、上記入力装置と、前記検出対象面に画像を投影する投影部とを備えることを特徴とするプロジェクタである。
【００１０】
また、本発明の一実施形態は、上記入力装置を備えることを特徴とする電子機器である。
【発明の効果】
【００１１】
本発明によれば、ユーザによる指示の誤検出を低減することができる。
【図面の簡単な説明】
【００１２】
【図１】本発明の一実施の形態を説明するための斜視図である。
【図２】図１のプロジェクタ３０の内部構成を示すブロック図である。
【図３】図１の第１の赤外光照射部１２における垂直方向の光束を示す側面図である。
【図４】図１の第１の赤外光照射部１２における水平方向の光束を示す平面図である。
【図５】図１の第２の赤外光照射部１３における垂直方向の光束を示す側面図である。
【図６】図１の第２の赤外光照射部１３の変形例における垂直方向の光束を示す側面図である。
【図７】図２の検出装置１０の動作を説明するためのタイミングチャートである。
【図８】図２の検出装置１０の動作を説明するために用いる画像の一例を示す図である。
【図９】図２の検出装置１０の動作を説明するために用いるユーザの手の形の一例を示す図である。
【図１０】図２の検出装置１０の動作を説明するために用いるユーザの手の形の一例と差分画像の一例を示す第１の図である。
【図１１】図２の検出装置１０の動作を説明するために用いるユーザの手の形の一例と差分画像の一例を示す第２の図である。
【図１２】図２の検出装置１０の動作を説明するために用いるユーザの手の形の一例と差分画像の一例を示す第３の図である。
【図１３】本発明の他の実施形態における動作を説明するためのタイミングチャートである。
【図１４】本発明の他の実施形態における動作を説明するために用いる画像の一例を示す図である。
【図１５】本発明の他の実施形態のプロジェクタ３０ｂの内部構成の一例を示すブロック図である。
【図１６】図１５の検出装置１０ａの動作の一例を示す第１の図である。
【図１７】図１５の検出装置１０ａの動作の一例を示す第２の図である。
【図１８】図１５のプロジェクタ３０ｂの動作の一例を示す図である。
【図１９】図１５のプロジェクタ３０ｂの動作の別の一例を示す図である。
【図２０】図１５の検出装置１０ａの動作の別の一例を示す第１の図である。
【図２１】図１５の検出装置１０ａの動作の別の一例を示す第２の図である。
【図２２】図１５の検出装置１０ａをタブレット端末４０に適用した一例を模式図である。
【図２３】図２２のタブレット端末４０の構成の一例を示すブロック図である。
【図２４】図２３のタブレット端末４０における赤外光照射部１１と撮像部１５の一例を示す図である。
【図２５】図２３のタブレット端末４０における赤外光照射部１１と撮像部１５の一例を示す図である。
【図２６】図２３のタブレット端末４０における撮像部１５の別の一例を示す第１の図である。
【図２７】図２３のタブレット端末４０における撮像部１５の別の一例を示す第２の図である。
【図２８】図２３のタブレット端末４０における撮像部１５の別の一例を示す第３の図である。
【発明を実施するための形態】
【００１３】
以下、図面を参照して本発明の実施形態について説明する。
［第１の実施形態］
図１は、本発明の一実施形態としての検出装置を説明するための斜視図である。図２は、本発明の一実施形態としての検出装置を説明するためのブロック図である。なお、各図において、同一の（あるいは対応する）構成には同一の符号を用いている。
【００１４】
図１に示すプロジェクタ３０は、本発明が特徴とする検出装置１０（図２参照）を内部に備えるとともに、外部に面する位置に投影部３１（の照射口）を備えて、検出対象面２に投影像３を投影する。さらに、プロジェクタ３０は、外部に面する位置に、第１の赤外光照射部１２、第２の赤外光照射部１３及び撮像部１５を備えている。
【００１５】
検出対象面２は、この実施形態では机の天板であるとする。ただし、検出対象面２は、壁面、天井面、床面、映写用スクリーン、黒板、白板などの平面体、球状などの曲面体、ベルトコンベアなどの移動体であってもよい。また、検出対象面２は、投影像３が投影される面に限らず、液晶ディスプレイなどのフラットパネルであってもよい。
【００１６】
図２に示すように、プロジェクタ３０は、入力装置２０、投影部３１、投影像生成部３２及び画像信号入力部３３を備えている。
また、入力装置２０は、検出装置１０及びシステム制御部２１を備えている。
【００１７】
投影部３１は、光源、液晶パネル、レンズ、それらの光源やレンズ、液晶パネルの制御回路などを備えて構成されている。投影部３１は、投影像生成部３２から入力された画像を拡大して検出対象面２に投射し、投影像３を生成する。
【００１８】
投影像生成部３２は、画像信号入力部３３から入力された画像と、入力装置２０内のシステム制御部２１から入力された制御情報（あるいは画像情報）とに基づいて、投影部３１に出力する画像を生成する。画像信号入力部３３から入力された画像は、静止画像や動画像である。システム制御部２１から入力された制御情報（あるいは画像情報）とは、ユーザによる指示動作の内容に基づいて投影像３を変化させることを指示するための情報である。ここで、ユーザによる指示動作の内容は、検出装置１０によって検出される。
【００１９】
システム制御部２１は、検出装置１０によって検出されたユーザによる指示動作の内容に基づいて投影像生成部３２に出力する制御情報を生成する。また、システム制御部２１は、検出装置１０内の物体抽出部１７や指示点抽出部１８の動作を制御する。また、システム制御部２１は、物体抽出部１７や指示点抽出部１８から抽出結果を受け取る。なお、システム制御部２１は、ＣＰＵ（中央処理装置）、主記憶装置、補助記憶装置、他の周辺装置などを備え、所定のプログラムを実行することで種々の機能を実現する装置として構成することができる。また、システム制御部２１は、検出装置１０内の一部の構成を含む（すなわちシステム制御部２１と検出装置１０とを統合する）ように構成されていてもよい。
【００２０】
検出装置１０は、赤外光照射部１１、赤外光制御部１４、撮像部１５、フレーム画像取得部１６、物体抽出部１７及び指示点抽出部１８を備えて構成されている。なお、検出装置１０の構成のうち、物体抽出部１７及び指示点抽出部１８が、検出部１９に対応する。
【００２１】
赤外光照射部１１は、第１の赤外光照射部１２と第２の赤外光照射部１３とを備えている。赤外光制御部１４は、第１の赤外光照射部１２と第２の赤外光照射部１３との赤外線の点灯及び消灯時刻を制御して、第１の赤外光と第２の赤外光とを点滅制御するとともに、第１の赤外光と第２の赤外光との強度を制御する。赤外光制御部１４は、第１の赤外光と第２の赤外光との点滅制御を、フレーム画像取得部１６から供給される同期信号に同期させて制御する。
【００２２】
撮像部１５は、ＣＣＤ（電荷結合素子）などからなる撮像素子、レンズ、赤外線透過フィルタなどから構成されている。撮像部１５は、赤外線透過フィルタを透過して入射した赤外光の波長領域を撮像素子で撮像することで、すなわち、第１の赤外光及び第２の赤外光の反射光を撮像することで、ユーザの手や指の検出対象面２上での動きを動画で（あるいは連続静止画で）撮影する。撮像部１５は、動画撮影の垂直同期信号（ｖｓｙｎｃ）とフレーム毎の画像信号とをフレーム画像取得部１６に出力する。フレーム画像取得部１６は、撮像部１５で撮像された各フレームの画像信号と垂直同期信号とを撮像部１５から順次取得する。フレーム画像取得部１６は、取得した垂直同期信号に基づいて所定の同期信号を生成し、赤外光制御部１４に出力する。
【００２３】
検出部１９は、第１の赤外光と第２の赤外光とを照射することにより撮像部１５によって撮像された画像に基づいて、手（指示部）などの向きを検出する。そして、指示点抽出部１８は、第１の赤外光を照射することによって撮像された画像に基づいて抽出された先端部の画像領域と、物体抽出部１７で検出された手（指示部）の向きとに基づいて、検出対象面２上の指（先端部）の位置を検出する。
【００２４】
物体抽出部１７は、第１の赤外光と第２の赤外光とを照射することにより撮像部１５によって撮像された画像に基づいて、手（指示部）の画像領域と、先端部の画像領域とを抽出する。
指示点抽出部１８は、物体抽出部１７が抽出した手（指示部）の画像領域と、先端部の画像領域とに基づいて、手（指示部）などの向きを検出する。そして、指示点抽出部１８は、先端部の画像領域と手（指示部）の向きとに基づいて、検出対象面２上の指（先端部）の位置を検出する。
【００２５】
なお、第１の赤外光照射部１２は、検出対象面２上においてユーザの手の指、ユーザが持つスタイラスの先端などの指示部（指示部＝手やスタイラス）の先端部（すなわち指やスタイラスの先端）を検出するための第１の赤外光を照射する。第２の赤外光照射部１３は、第１の赤外光より検出対象面２から離れた領域に照射される第２の赤外光を照射する。第１の赤外光照射部１２の出射部と、第２の赤外光照射部１３の出射部とは、図１に示すようにプロジェクタ３０の外部前面に上下に並んで配置されている。
【００２６】
また、図１に示す例では、プロジェクタ３０の外部前面に、撮像部１５、投影部３１、第１の赤外光照射部１２の出射部及び第２の赤外光照射部１３の出射部が直線状に上下に整列して設置されている。なお、以下では、「指示部」がユーザの「手」、指示部の「先端」がユーザの「指」、である場合を例にして説明する。
【００２７】
第１の赤外光は、図３の側面図及び図４の平面図に照射領域１２１として示す検出対象面２とほぼ平行な平行光である。第１の赤外光照射部１２は、例えば赤外線ＬＥＤ（発光ダイオード）と、ガルバノスキャナや非球面反射鏡などから構成されている。第１の赤外光照射部１２は、図３に示すように、検出対象面２に対して垂直方向の照射領域１２１が、検出対象面２（の表面）にできるだけ近い高さで、できるだけ狭い照射幅を有し、できるだけ平行な光となるような光束を有するように構成されている。
【００２８】
また、図４に示すように、平面方向の照射領域１２１は、扇形の形状を有し、投影像３の多くの部分を覆うように調整されている。この第１の赤外光は、指の先端が検出対象面２に接触していることを検出するために用いられる。なお、第１の赤外光照射部１２は、例えば、平面上で比較的狭い指向性を有する平行光赤外線ＬＥＤを同一平面上で異なる方向に複数設置して図４に示すように平面上に広い指向性を有するようにすることで、構成することもできる。
【００２９】
第２の赤外光は、ユーザの手全体（あるいは手の大部分）を検出するために用いられる。したがって、第２の赤外光の垂直方向の照射領域は、例えば、図３に示すような照射領域１２１の垂直方向の幅を大きくしたものとすることができる。すなわち第２の赤外光は、検出対象面２に対して、ユーザの手全体を照射するのに十分な広さの照射幅を有し、できるだけ平行な光となるような光束を有するものとすることができる。
【００３０】
ただし、幅の広い平行光を得るには、光学系を大きくしてしまったり、複雑化してしまったりすることがある。そこで、構成を簡易にするには、例えば、図５の側面図に照射領域１３１として示すように、検出対象面２に対して垂直方向上方に向けて拡散する拡散光とすることが考えられる。この場合、第２の赤外光の照射領域１３１は、検出対象面２に対して垂直方向下方にはなるべく拡散しないような光束を有するように設定されていることが望ましい。なぜならば、下方に向かう光を弱くすることで、検出対象面２からの赤外光の反射を小さく抑えることができるからである。そうすると、手（すなわち指示部）以外からの反射を抑え、後述する物体抽出時の物体検出の感度を良好にすることができる。
【００３１】
なお、第２の赤外光照射部１３は、例えば赤外線ＬＥＤ単体で構成したり、あるいは赤外線ＬＥＤとガルバノスキャナや非球面反射鏡などを用いて構成したりすることができる。また、第２の赤外光の平面方向の照射領域は、図４に示した第１の赤外光の平面方向の照射領域１２１と同様に、扇形の形状を有し、投影像３の多くの部分を覆うように調整されている。
【００３２】
なお、第２の赤外光照射部１３及び第２の赤外光は、図１又は図５に示すような設置位置や照射幅を有するもののほか、図６に示すようなものとすることができる。
【００３３】
図６に示す構成は、図５に示した第２の赤外光照射部１３に代えて、図３に示した第１の赤外光照射部１２と同様な構成の第２の赤外光照射部１３ａを複数設けた構成である。
図６に示すプロジェクタ３０ａ（プロジェクタ３０に対応）には、図３に示した第１の赤外光照射部１２と同様な構成の第１の赤外光照射部１２ａと、複数の第２の赤外光照射部１３ａとが、垂直方向に一例に並べて設置されている。この場合、第１の赤外光照射部１２ａは、第１の赤外光を照射するために用いられるとともに、複数の第２の赤外光照射部１３ａとともに第２の赤外光を照射するためにも使用される。すなわち、図６に示すプロジェクタ３０ａでは、第１の赤外光照射部１２ａと複数の第２の赤外光照射部１３ａとを用いて、垂直方向に照射幅が広い照射領域１３１ａが発生される。
【００３４】
次に、図７〜図９を参照して、検出装置１０の動作について説明する。
まず、図７を参照して、赤外光制御部１４による第１の赤外光及び第２の赤外光の照射タイミングの制御について説明する。図７は、撮像部１５から出力された垂直同期信号（ｖｓｙｎｃ）、第１の赤外光の点灯及び消灯、及び第２の赤外光の点灯及び消灯の時間変化の関係（及び赤外光の強度の関係）を示すタイミングチャートである。
【００３５】
図７は、撮像部１５による撮像動画のｎ番目のフレームからｎ＋３番目のフレームまでの動作を示している（ただし、ｎは自然数）。図７に示すように、第１及び第２の赤外光の照射タイミングは、撮像部１５のフレーム切り替えタイミングに合わせて切り替えられるようになっている。
【００３６】
例えば、ｎフレーム目は第１の赤外光の照射、ｎ＋１フレーム目は第２の赤外光の照射、ｎ＋２フレーム目は第１の赤外光の照射、…、のように、フレームタイミングに応じて赤外光の照射が時系列で切り替わるように、赤外光制御部１４によって制御される。また、本実施形態では、図７に示すように、第１の赤外光の強度が、赤外光制御部１４によって、第２の赤外光の強度よりも大きくなるように制御されている。
【００３７】
図８に、図７のｎフレーム（第１の赤外光照射時）の画像（第１の画像）の一例の画像５０と、ｎ＋１フレーム（第２の赤外光照射時）の画像（第２の画像）の一例の画像５３とを示した。なお、図８の画像５０及び５３は、図９に示すような握り方をした手４が検出対象面２上に置かれた場合の撮影画像を示している。
図９（ａ）は平面図、図９（ｂ）は側面図である。この例では、図９（ｂ）に示すように、手４は人差し指の先端４１で検出対象面２に接触し、他の指は接触していない。図８の画像５０では、図９の人差し指の先端４１の部分が高輝度領域（すなわち画素値の大きい領域；第１の赤外光の反射領域）５２となっているほかは、低輝度領域（すなわち画素値の小さい領域）５１となっている。一方、図８の画像５３では、図９の手４の全体が中輝度領域（すなわち画素値が中程度の領域；第２の赤外光の反射領域）５５となっているほかは、低輝度領域５４となっている。
【００３８】
図２のフレーム画像取得部１６は、撮像部１５からフレーム単位で画像を取得する。そして、取得した画像を物体抽出部１７に出力する。この例では、フレーム画像取得部１６が図９に示す画像５０及び画像５３を物体抽出部１７に出力した場合の例を説明する。
【００３９】
物体抽出部１７は、フレーム画像取得部１６から２フレーム分の画像データを受け取ると、ｎフレームの画像５０と、ｎ＋１フレームの画像５３とについて、対応する画素毎に画素値の差分を算出することで、画像中に含まれる指示部とその先端部の撮像領域を抽出する。すなわち、物体抽出部１７は、ｎフレームの画像５０と、ｎ＋１フレームの画像５３とについて、撮像部１５の撮像素子において同一位置に位置する画素毎に、画素値が大きいものから、画素値の小さいものを差し引く処理（すなわち差分処理）を行う。
【００４０】
この差分を算出する処理の結果得られた画像の一例を、図８に画像５６として示す。図８に示す例では、画像５６に、低輝度領域５７、中輝度領域５９、高輝度領域５８が含まれている。中輝度領域５９は、画像５３の中輝度領域５５（すなわち手４の全体）に対応し、高輝度領域５８は画像５０の高輝度領域５２（すなわち人差し指の先端４１）に対応している。
【００４１】
このように、赤外光制御部１４は、図７に示したように、撮像素子の垂直同期信号（ｖｓｙｎｃ）に合わせて赤外光の照射タイミングを切り替えることで、フレーム間の赤外光照射状態を変化させる。ここでは、第１の赤外光がＯＮ（点灯）の場合は、第２の赤外光がＯＦＦ（消灯）となり、第１の赤外光がＯＦＦの場合は、第２の赤外光がＯＮとなる。
【００４２】
撮像部１５で撮像されたフレーム取得画像には、太陽光や屋内の照明環境によって放射された赤外光によって、手４以外の周辺の物体も写り込む。また、第１の赤外光に比べて第２の赤外光の強度を低くさせることで第１の赤外光照射時と手４の表示状態とが区別されている。そのため、物体抽出部１７は、第１の赤外光照射時と第２の赤外光照射時のフレーム画像の差分を取ることで手４だけを切り出すことが可能となる。
【００４３】
図８の例では、この差分画像５６に含まれる手の領域５９の画素値と指の先端の領域５８の画素値とは異なる値となる。したがって、差分画像５０を所定の画素値の範囲毎に多値化することで手の領域５９と指先端の領域５８とをそれぞれ抽出することができる。すなわち、物体抽出部１７は、差分画像の算出処理と、多値化処理によって、手の領域５９と指先端の領域５８とを抽出することができる。
【００４４】
次に、指示点抽出部１８は、物体抽出部１７によって抽出された手の領域５９と指の先端領域５８から、指示動作を行ったと推定される指の先端領域（すなわち指示点）を抽出する。図８に示す例では、指の先端領域５８（すなわち第１の赤外光の反射領域）は１カ所なので、同領域が指示動作を行った領域として抽出される。
【００４５】
ここで、図１０を参照して、第１の赤外光の反射領域が複数ある場合の指示点抽出部１８の抽出処理について説明する。
【００４６】
図１０に示す例では、図１０（ａ）に示すように、矢印で示す手の向き（すなわち装置（＝プロジェクタ３０）正面から入ってきた向き）で手４ａが検出対象面２上に置かれ、かつ全ての指が検出対象面２に接触していたものとしている。この場合、物体抽出部１７は、図１０（ｂ）に示すような差分画像６０を算出する。この差分画像６０には、低輝度領域６１、高輝度領域６２〜６４及び中輝度領域６５が含まれている。
【００４７】
指示点抽出部１８は、物体抽出部１７からこの差分画像６０を受け取ると、高輝度領域（すなわち第１の赤外光の反射領域）が複数含まれているため、所定の画像処理を行って、手（指示部）４ａの向きを検出する処理を行う。
【００４８】
所定の画像処理としては、次のようなものを用いることができる。すなわち、１つの手法として、中輝度領域（指示部の画像領域）のパターンと予め定められた基準パターンとの比較によるパターンマッチングがある。他の手法として、撮像部１５の撮像範囲以内に予め指定された検出範囲の境界線のうち、中輝度領域（指示部の画像領域）と重なる位置を検出することで手の腕側（根元側）の方向を得るものがある。さらに他の手法として、過去に抽出した中輝度領域（指示部の画像領域）の動きベクトルに基づいて、手の差し出し方向を算出するものがある。そして、これらの１つ又は組み合わせによって、指示部の向きを検出することができる。
【００４９】
この場合、指示点抽出部１８によって、図１０（ｂ）に矢印で示す手の向きが検出されたとする。指示点抽出部１８は、手の向きと、高輝度領域（すなわち第１の赤外光の反射領域）の位置とに基づいて、手（指示部）の先端部（指示点と呼ぶ）の位置を抽出する。例えば、手が装置正面から入ってきた場合は第１の赤外光で反射された領域のうち最も下にある領域を指示点とする。また、例えば、手が装置左側面から入った場合は最も右にある領域を指示点とする。
【００５０】
図１０に示す例では、指示点抽出部１８は、手４ａが装置正面から入ってきたと認識するので、第１の赤外光で反射された領域のうち最も下にある領域、すなわち高輝度領域６３を指示点と決定する。そして、指示点抽出部１８は、高輝度領域６３の位置情報をシステム制御部２１に出力する。
【００５１】
次に、図１１を参照して、第１の赤外光の反射領域が複数ある場合の指示点抽出部１８の抽出処理の他の例について説明する。図１１に示す例では、図１１（ａ）に示すように、矢印で示す手の向き（すなわち図９で右上から装置の方向）で手４ｂが検出対象面２上に置かれ、かつ人差し指４２と親指４３とが検出対象面２に接触していたものとしている。この場合の物体抽出部１７は、図１１（ｂ）に示すような差分画像７０を算出する。
この差分画像７０には、低輝度領域７１、高輝度領域７２〜７４及び中輝度領域７５が含まれている。指示点抽出部１８は、物体抽出部１７から画像７０を受け取ると、高輝度領域（すなわち第１の赤外光の反射領域）が複数含まれているため、上述したような画像処理を行って、手（指示部）４ｂの向きを検出する処理を行う。
【００５２】
この場合、指示点抽出部１８によって、図１１（ｂ）に矢印で示す手の向きが検出されたとする。すなわち、図１０に示す例では、指示点抽出部１８は、手４ｂが装置やや斜めから入ってきたと認識するので、第１の赤外光で反射された領域のうち手の向きの最先端の領域（すなわち高輝度領域７２）を指示点と決定する。そして、指示点抽出部１８は、高輝度領域７２の位置情報をシステム制御部２１に出力する。
【００５３】
また、図１２に示す例では、図１２（ａ）に示すように、矢印で示す手の向きで手４ｃが検出対象面２上に置かれ、かつ人差し指４５が検出対象面２に接触していたものとしている。この場合の物体抽出部１７は、図１２（ｂ）に示すような差分画像８０を算出する。この差分画像８０には、低輝度領域８１、高輝度領域８２及び中輝度領域８３が含まれている。指示点抽出部１８は、物体抽出部１７から画像８０を受け取ると、高輝度領域（すなわち第１の赤外光の反射領域）が１カ所であるため、高輝度領域８２を指示点と決定する。そして、指示点抽出部１８は、高輝度領域８２の位置情報をシステム制御部２１に出力する。
【００５４】
この例では、図１２（ａ）に示すように、手の向きの最先端の位置には、人差し指４５の先端と、中指４６の先端とが位置している。ただし、人差し指４５は検出対象面２に接触、中指４６は検出対象面２に非接触である。この場合に、仮に、第１の赤外光を用いた画像撮影を行っていなかった場合にはどこを指示点とするかの判定が困難となるが、本実施形態では第１の赤外光を用いることで接触した指が高輝度領域として示されるので容易に判定を行うことができる。
【００５５】
なお、図２の指示点抽出部１８では、指示点の位置を抽出するだけでなく、過去に抽出した指示点の位置情報に基づく移動ベクトルを算出する処理を行うようにしてもよい。この場合に、例えば図１１（ａ）に実線の矢印で示すように、人差し指４２と親指４３とが閉じたり開いたりするように動いたことが検出された場合には、その旨を示す情報をシステム制御部２１に出力するようにする。ただし、この場合には、指示点抽出部１８内に（あるいは他の記憶装置内に）過去の一定期間のすべての高輝度領域の位置情報を移動ベクトルとともに記憶しておくようにする。このようにすることで、手（指示部）の動きを検出することができる。なお、指示点の動き検出には、パターン認識の手法などを用いてもよい。
【００５６】
また、本実施形態における検出装置１０は、複数の先端部の位置を検出することが可能である。
例えば、図１１（ｂ）に示すように、指示点抽出部１８は、矢印で示す手の向きと、高輝度領域７２〜７４（指先端の領域７２〜７４）とから、矢印で示す手の向きに近い先端部である、高輝度領域７２及び高輝度領域７４を先端部の位置として検出する。
また、図１２において、例えば、指示点抽出部１８は、手の向きと高輝度領域とに基づいて、複数の先端部の位置を検出する。この場合、手の向きに近い全ての高輝度領域を、先端部の位置として検出する。この例では、図１２（ｂ）に示すように、高輝度領域８２を先端部の位置としているが、図１２（ａ）の中指４５と人差し指４５とが検出対象面２に接触する場合には、物体抽出部１７によって、高輝度領域が２箇所抽出される。そして、指示点抽出部１８は、手の向きに近い先端部である中指４５と人差し指４５とに対応すする高輝度領域を先端部の位置として検出する。
【００５７】
なお、図１１及び図１２において、指示点抽出部１８は、中輝度領域７５（又は８３）をパターン認識の手法などを用いて手（指示部）の形状を抽出し、手（指示部）の形状に基づいて、複数の先端部を検出するか否かを判定してもよい。例えば、指示点抽出部１８は、中輝度領域８３をパターン認識の手法などを用いて、図１２に示す手の形状が、キーボードを押下する際の形状である判定し、複数の先端部の位置を検出する。これにより、本実施形態における検出装置１０は、キーボードにおける複数の指の検出に対応することができる。
また、指示点抽出部１８は、投影部３１から検出対象面２に投影される投影像３の内容と手の向きに基づいて、複数の先端部を検出するか否かを判定してもよい。例えば、投影像３としてキーボードが投影され、手の向きがキーボードを押下する向きである場合に、指示点抽出部１８は、複数の先端部の位置を検出してもよい。また、指示点抽出部１８は、上述した手（指示部）の動きを検出することによって、複数の先端部を検出するか否かを判定してもよい。
【００５８】
また、図７を参照して説明した例では、第１の赤外光の強度と第２の赤外光の強度とを互いに異ならせる場合について説明した。これについては、撮像部１５で、第１の赤外光による反射光の画素値（輝度）と、第２の赤外光による反射光の画素値（輝度）とを異ならせることが目的であった。したがって、強度を異ならせることに代えて、次のような手法を採用することも可能である。すなわち、例えば、撮像部１５を構成する撮像素子の周波数特性に合わせて第１の赤外光による画素値が比較的大きくなり、第２の赤外光による画素値が比較的小さくなるように、第１の赤外光の波長と第２の赤外光の波長とを異ならせることができる。また、同様の効果を得るため、第１の赤外光の波長と第２の赤外光の波長を異ならせることに加えて、撮像部１５を構成する赤外線透過フィルタの特性を変更してもよい。
【００５９】
以上のように、本実施形態における検出装置１０は、撮像部１５が、赤外光の波長領域を撮像し、赤外光照射部１１（照射部）が、検出対象面２上における指示部の先端部を検出する第１の赤外光と、第１の赤外光より検出対象面２から離れた領域に照射される第２の赤外光とを照射する。そして、検出部１９は、第１の赤外光と第２の赤外光とを照射することにより撮像部１５によって撮像された画像に基づいて、指示部の向きを検出する。さらに、検出部１９は、第１の赤外光を照射することにより撮像された画像に基づいて抽出された先端部の画像領域と、検出した指示部の向きとに基づいて、検出対象面２上の先端部の位置を検出する。
【００６０】
これにより、照射領域が互いに異なる第１の赤外光及び第２の赤外光を用いて指示部の向きが検出されるとともに、第１の赤外光を照射することにより撮像された画像に基づいて抽出された先端部の画像領域と、検出された指示部の向きとに基づいて、検出対象面上の先端部の位置が検出される。すなわち、本実施形態における検出装置１０は、手の向きを検出するようにしているので、複数の先端部がある場合や手の向きの違いによる指示の誤検出を低減することができる。なお、本実施形態における検出装置１０は、赤外光を用いるので、人の肌の色の影響を受けずに、手を検出することが可能であるので、指示の誤検出を低減することができる。
また、照射領域が異なる第２の赤外光及び第２の赤外光のうち、第１の赤外光が検出対象面２上における指示部の先端部を検出するように設けられている。そのため、本実施形態における検出装置１０は、先端部の位置や動きの検出精度を向上させることができる。
【００６１】
また、本実施形態において、第１の赤外光及び第２の赤外光は、検出対象面２と平行な平行光である。この場合、検出対象面２と平行な赤外光を使用するため、指示部の先端部や動きを精度よく検出することができる。よって、本実施形態における検出装置１０は、ユーザによる指示の誤検出を低減し、検出精度を向上させることができる。
【００６２】
また、本実施形態において、第１の赤外光が検出対象面２と平行な平行光であり、第２の赤外光が検出対象面２と垂直な方向に拡散する拡散光である。この場合、第２の赤外光に拡散光を使用するため、広い範囲の検出を行うことができる。そのため、本実施形態における検出装置１０は、ユーザによる指示の誤検出を低減し、検出精度を向上させることができる。また、第２の赤外光に平行光にする必要がないため、第２の赤外光照射部１３を簡易な構成にすることができる。
【００６３】
また、本実施形態において、赤外光照射部１１は、撮像部１５の撮像タイミングに応じて、第１の赤外光と第２の赤外光とを切り替えて照射する。そして、検出部１９は、第１の赤外光を照射することにより撮像された第１の画像（画像５０）及び第２の赤外光を照射することにより撮像部１５によって撮像された第２の画像（画像５３）に基づいて、指示部の向きを検出する。
これにより、第１の画像（画像５０）と第２の画像（画像５３）とを容易に取得することができる。
【００６４】
また、本実施形態において、赤外光照射部１１は、第１の赤外光と第２の赤外光とを互いに異なる光の強度で照射する。検出部１９（物体抽出部１７）は、互いに異なる光の強度を照射して撮像された第１の画像（画像５０）と第２の画像（画像５３）との差分画像に基づいて、指示部の画像領域（手の領域５９）と先端部の画像領域（指先端の領域５８）とを抽出し、抽出した指示部の画像領域に基づいて指示部の向きを検出し、検出した指示部の向きと先端部の画像領域とに基づいて、先端部の位置を検出する。
【００６５】
これにより、検出部１９（物体抽出部１７）は、第１の画像（画像５０）と第２の画像（画像５３）との差分画像を生成することにより、容易に、指示部の画像領域（手の領域５９）及び先端部の画像領域（指先端の領域５８）を抽出することができる。また、第１の画像（画像５０）及び第２の画像（画像５３）には、太陽光や屋内の照明環境によって放射された赤外光が写り込んでいるが、検出部１９（物体抽出部１７）は、この差分画像を生成することにより、この写り込みを除外することができる。したがって、本実施形態における検出装置１０は、ユーザによる指示の誤検出を低減し、検出精度を向上させることができる。
【００６６】
また、本実施形態において、検出部１９（物体抽出部１７）は、差分画像を多値化し、多値化した差分画像に基づいて、指示部の画像領域（手の領域５９）と先端部の画像領域（指先端の領域５８）とを抽出する。
これにより、多値化した差分画像に基づいて抽出するため、検出部１９（物体抽出部１７）は、指示部の画像領域（手の領域５９）と先端部の画像領域（指先端の領域５８）とを容易に抽出することができる。
【００６７】
また、本実施形態において、検出部１９（指示点抽出部１８）は、指示部の画像領域（手の領域５９）のパターンと予め定められた基準パターンとの比較によるパターンマッチング、撮像部１５の撮像範囲以内に予め指定された検出範囲の境界線のうち、指示部の画像領域（手の領域５９）と重なる位置、及び指示部の画像領域（手の領域５９）の動きベクトルのうちのいずれか１つ又は組み合わせによって、指示部の向きを検出する。
これにより、検出部１９（指示点抽出部１８）は、容易、且つ検出精度よく指示部の向きを検出することができる。そのため、本実施形態における検出装置１０は、ユーザによる指示の誤検出を低減し、検出精度を向上させることができる。
【００６８】
また、本実施形態において、検出部１９（指示点抽出部１８）は、指示部の向きと先端部の画像領域（例えば指先端の領域７２及び７４）とに基づいて、複数の先端部の位置を検出する。
これにより、本実施形態における検出装置１０は、複数の位置を検出する用途に適用することができる。例えば、複数の指を用いるキーボードや手の動きを検出するモーション検出に適用することができる。
【００６９】
［第２の実施形態］
次に、図１３及び図１４を参照して、本発明の他の実施形態について説明する。
【００７０】
本実施形態は、図１３のタイミングチャートに示すように、上記の第１の実施形態で２フレームを１単位として指示点を検出していたものを、３フレームを１単位として指示点を検出するようにしたものである。ただし、本実施形態では、第１の赤外光の強度と第２の赤外光の強度とを同一とすることができる。なお、本実施形態については、図２のブロック図では、各部の内部処理が一部異なることになる。
【００７１】
本実施形態では、図１３に示すように、第１の赤外光及び第２の赤外光共に照射しないフレームが付加される。例えば、ｎフレーム目は赤外光照射無し、ｎ＋１フレーム目は第１の赤外光の照射、ｎ＋２フレーム目は第２の赤外光の照射、…、のようになる。未照射時のフレーム画像を基準にして、第１の赤外光及び第２の赤外光照射時それぞれの取得画像から差分画像を抽出して手の向きと指示点を計算する。図１４を参照して、物体抽出処理と指示点抽出処理の内容について具体的に説明する。
【００７２】
図１４は、ｎフレーム目（赤外光照射なし時）の取得画像９０（第３の画像）、ｎ＋１フレーム目（第１の赤外光照射時）の取得画像９１（第１の画像）、ｎ＋２フレーム目（第２の赤外光照射時）の取得画像９３（第１の画像）の一例を示す図である。なお、指示部（手）の状態は、図９に示す通りである。この場合、画像９１には、図９の人差し指の先端４１に対応する高輝度領域９２が含まれ、画像９３には、図９の手４に対応する高輝度領域９４が含まれている。
【００７３】
図２に示す物体抽出部１７は、フレーム画像取得部１６から、ｎフレーム目の画像９０、ｎ＋１フレーム目の画像９１、及びｎ＋２フレーム目の画像９３を受け取ると、ｎ＋１フレーム目の画像９１とｎフレーム目の画像９０との差分画像と、ｎ＋２フレーム目の画像９３とｎフレーム目の画像９０との差分画像とを算出する。図１４に、ｎ＋１フレーム目の画像９１とｎフレーム目の画像９０との差分画像９５と、ｎ＋２フレーム目の画像９３とｎフレーム目の画像９０との差分画像９７との算出結果を示した。この場合、画像９５及び９７の背景画像９９からは、太陽光や屋内の照明環境によって放射された赤外光による影響が除かれている。また、画像９５に含まれる高輝度領域９６（先端部の画像領域）と画像９７に含まれる高輝度領域９８（指示部の画像領域）とに基づき、上記の実施形態と同様にして手の向きを検出することが可能である。
【００７４】
以上のように、本実施形態における検出装置１０は、撮像部１５が、さらに、第１の赤外光及び第２の赤外光がともに照射されない期間の画像である第３の画像（画像９０）を撮像する。また、検出部１９（物体抽出部１７）は、第１の画像（画像９１）と第３の画像との差分画像、及び第２の画像（画像９３）と第３の画像との差分画像に基づいて、指示部の画像領域と先端部の画像領域とを抽出する。検出部１９（指示点抽出部１８）は、抽出した指示部の画像領域に基づいて、指示部の向きを検出し、検出した指示部の向きと先端部の画像領域とに基づいて、先端部の位置を検出する。
【００７５】
これにより、本実施形態における検出装置１０は、第１の実施形態と同様に、手の向きを検出するようにしているので、複数の先端部がある場合や手の向きの違いによる指示の誤検出を低減することができる。
また、検出部１９（物体抽出部１７）は、第１の画像（画像９１）と第３の画像との差分画像、及び第２の画像（画像９３）と第３の画像との差分画像を生成することにより、容易に、指示部の画像領域及び先端部の画像領域を抽出することができる。また、第１の画像（画像９１）及び第２の画像（画像９３）には、太陽光や屋内の照明環境によって放射された赤外光が写り込んでいるが、検出部１９（物体抽出部１７）は、この差分画像を生成することにより、この写り込みを除外することができる。したがって、本実施形態における検出装置１０は、ユーザによる指示の誤検出を低減し、検出精度を向上させることができる。
【００７６】
また、本実施形態における検出装置１０は、第１の赤外光と第２の赤外光との光の強度を変更する必要がない。そのため、赤外光照射部１１の構成を簡易な構成にすることができる。
【００７７】
なお、上記の実施形態によれば、入力装置２０は、上述した検出装置１０を備えている。これにより、入力装置２０は、検出装置１０と同様に、ユーザによる指示の誤検出を低減し、検出精度を向上させることができる。
【００７８】
また、上記の実施形態によれば、プロジェクタ３０は、入力装置２０と、検出対象面２に画像を投影する投影部３１とを備えている。これにより、プロジェクタ３０は、先端部の位置や動きの検出する場合に、検出装置１０と同様に、ユーザによる指示の誤検出を低減し、検出精度を向上させることができる。
【００７９】
［第３の実施形態］
次に、図１５〜図１９を参照して、本発明の他の実施形態について説明する。
図１５は、別の実施形態としての検出装置１０ａを説明するためのブロック図である。なお、図１５において、図２と同一の（あるいは対応する）構成には同一の符号を用いている。
図１５に示すように、本実施形態における検出装置１０ａは、空間位置抽出部１９１を備えている点が、上記の各実施形態と異なる。本実施形態における検出装置１０ａは、この空間位置抽出部１９１を備えることにより、ユーザの手が空間上に位置する場合の３次元座標を取得可能になっている。なお、本実施形態では、検出装置１０ａの構成のうち、物体抽出部１７、指示点抽出部１８及び空間位置抽出部１９１が、検出部１９ａに対応する。また、プロジェクタ３０ｂ（プロジェクタ３０に対応）は、入力装置２０ａ（入力装置２０に対応）を備え、入力装置２０ａは、検出装置１０ａ（検出装置１０に対応）を備えている。
【００８０】
空間位置抽出部１９１は、第２の赤外光を照射することにより撮像部１５によって撮像された第２の画像に基づいて、撮像部１５の撮像範囲内で手（指示部）が移動する空間上の指（先端部）の位置（３次元座標）を検出する。
【００８１】
図１６及び図１７は、赤外光照射部１１が図６に示すような構成である場合の本実施形態における検出装置１０ａの動作の一例を示す図である。
図１６及び図１７に示すように、第２の赤外光照射部１３ａは、複数の第２の赤外光照射部（１３０ａ，１３０ｂ，１３０ｃ）を備えている。複数の第２の赤外光照射部（１３０ａ，１３０ｂ，１３０ｃ）は、それぞれ異なる高さの異なる第２の赤外光を照射する。すなわち、この複数の第２の赤外光照射部（１３０ａ，１３０ｂ，１３０ｃ）は、検出対象面２に対する垂直方向の照射範囲が互いに異なる第２の赤外光を照射する。
また、本実施形態では、フレーム画像取得部１６は、赤外光制御部１４を介して複数の第２の赤外光照射部（１３０ａ，１３０ｂ，１３０ｃ）を異なるタイミングにより順番に第２の赤外光を照射させる。そして、撮像部１５は、複数の第２の赤外光照射部（１３０ａ，１３０ｂ，１３０ｃ）それぞれに対して第２の画像を撮像する。つまり、撮像部１５は、複数の第２の赤外光それぞれに対応した複数の第２の画像を撮像する。
【００８２】
フレーム画像取得部１６は、例えば、１フレーム目は最下段（第２の赤外光照射部１３０ａ）を照射させ、２フレーム目は一つ上の段（第２の赤外光照射部１３０ｂ）・・・とフレームと同期させて、第２の赤外光を照射されるタイミングをずらしていく。撮像部１５は、このような照射タイミングにより第２の画像を撮像し、撮像した第２の画像をフレーム画像取得部１６に出力する。
【００８３】
また、物体抽出部１７は、フレーム画像取得部１６によって取得された上述の第２の画像に基づいて、手（指示部）の画像領域（この場合、指の先端の画像領域）を抽出する。空間位置抽出部１９１は、例えば、物体抽出部１７が抽出した指の先端の画像領域に基づいて、指の先端を検出した照射タイミングを判定する。空間位置抽出部１９１は、指の先端が検出された照射タイミングに対応する第２の赤外光照射部（１３０ａ，１３０ｂ，１３０ｃ）の高さに基づいて、高さ方向（垂直方向）の指の位置を検出する。このように、空間位置抽出部１９１は、上述した複数の第２の画像に基づいて、先端部（指の先端）の垂直方向（高さ方向）の位置を検出する。
【００８４】
また、空間位置抽出部１９１は、撮像部１５が撮像した第２の画像に基づいて、横方向及び奥行き方向の位置を検出する。空間位置抽出部１９１は、例えば、検出した高さ位置に応じて、先端部（指の先端）の縮尺（大きさ）を変化させることにより、横方向と奥行き方向の検出エリア（撮像範囲）における絶対位置が抽出する。すなわち、空間位置抽出部１９１は、抽出した指示部の画像領域の第２の画像上の位置及び大きさに基づいて、検出対象面２に対する水平方向の先端部の位置を検出する。
【００８５】
例えば、図１６は、第２の赤外光照射部１３０ａが照射する第２の赤外光１３１ｂの照射範囲に指の先端がある場合を示している。この場合、撮像部１５は、第２の赤外光１３１ｂに対応する第２の画像として画像１０１を撮像する。画像１０１において、破線１０２は、手４が存在する領域を示しており、領域１０３は、第２の赤外光１３１ｂが照射されている指の先端の部分（先端部の画像領域１０３）を示している。空間位置抽出部１９１は、この画像１０１に基づいて、第２の赤外光１３１ｂの照射位置に対応する高さ位置を垂直方向の先端部の位置として検出する。
また、人の手において、指の先端部の幅は、ほぼ一定であることを利用して、空間位置抽出部１９１は、画像１０１上の画像領域１０３の位置と幅（大きさ）に基づいて、横方向及び奥行き方向（水平方向）の先端部の位置を検出（抽出）する。このように、空間位置抽出部１９１は、指示部（手）が移動する空間上の３次元位置を検出する。
【００８６】
また、例えば、図１７は、第２の赤外光照射部１３０ｂが照射する第２の赤外光１３１ｃの照射範囲に指の先端がある場合を示している。この場合、撮像部１５は、第２の赤外光１３１ｃに対応する第２の画像として画像１０１ａを撮像する。画像１０１ａにおいて、破線１０２ａは、手４が存在する領域を示しており、領域１０３ａは、第２の赤外光１３１ｃが照射されている指の先端の部分（先端部の画像領域１０３ａ）を示している。空間位置抽出部１９１は、図１６に示される場合と同様に、指示部（手）が移動する空間上の３次元位置を検出する。
なお、図１７では、図１６に示される場合よりも、手４が高い位置にある。そのため、画像領域１０３ａは、画像領域１０３に比べて、画像１０１ａの上方の位置になるとともに、画像領域１０３ａの幅（大きさ）は、画像領域１０３の幅（大きさ）よりも大きい。
【００８７】
以上のように、本実施形態における検出装置１０ａは、検出部１９ａは、第２の画像に基づいて、撮像部１５の撮像範囲内で指示部（手）が移動する空間上の先端部の位置を検出する。これにより、検出装置１０ａは、空間上の先端部（指の先端）の位置（３次元位置）を検出することができるので、例えば、指の位置に応じた、ユーザーインターフェース表示を行うことが可能になる。
例えば、プロジェクタ３０ｂは、図１８に示すように、検出範囲（撮像部１５の撮像範囲）に指が入った場合に、表示画面１０４から表示画面１０５に移り、メニュー１０６を表示する。さらに、指が検出対象面２に近づいた場合に、プロジェクタ３０ｂは、表示画像１０７に示すように、拡大したメニュー１０８を表示し、指の先端が検出対象面２に接触した場合に、このメニューを選択したと判定する。そして、プロジェクタ３０ｂは、選択されたメニューに対応する所定の処理を実行する。
【００８８】
また、例えば、プロジェクタ３０ｂは、図１９に示すように、指が検出対象面２に近づいた場合に、キー表示１０９からキー表示１０９ａに表示を変化させ、指の先端が検出対象面２に接触した場合に、このキー表示１０９ａを押下したと判定する。そして、プロジェクタ３０ｂは、指の先端が検出対象面２から離れた場合に、キー表示１０９ａからキー表示１０９ｂに表示を変化させる。このように、検出装置１０ａは、指の押し下げ及び押し上げの操作を指の位置関係から検出することができる。そのため、検出装置１０ａは、より実際のキーボード操作に近い環境を作り出すことができる。
したがって、本実施形態における検出装置１０ａは、ユーザによる指示の誤検出を低減するとともに、上述のようなユーザーインターフェース表示が可能になるので利便性を向上させることができる。
なお、ここで、表示される映像コンテンツ等は、ネットワークに接続されたサーバー装置上にあってもよく、プロジェクタ３０ｂは、ネットワークを介してサーバー装置と通信しつつ、入力を制御することが可能であってもよい。
【００８９】
また、例えば、赤外光照射部１１は、検出対象面２に対する垂直方向の照射範囲が互いに異なる複数の第２の赤外光を順番に照射し、撮像部１５は、複数の第２の赤外光それぞれに対応した複数の第２の画像を撮像する。そして、検出部１９ａは、複数の第２の画像に基づいて、先端部の垂直方向の位置を検出する。
これにより、本実施形態における検出装置１０ａは、正確に先端部の垂直方向の位置を検出することができる。
【００９０】
さらに、検出部１９ａは、第２の画像に基づいて指示部の画像領域を抽出し、抽出した指示部の画像領域の第２の画像上の位置及び大きさに基づいて、検出対象面に対する水平方向の先端部の位置を検出する。
これにより、本実施形態における検出装置１０ａは、簡易な手段により、水平方向の先端部の位置を検出することができる。
【００９１】
［第４の実施形態］
次に、図２０及び図２１を参照して、本発明の他の実施形態について説明する。
本実施形態では、検出装置１０ａがユーザの手が空間上に位置する場合の３次元座標を検出する第３の実施形態の変形例について説明する。
なお、本実施形態におけるプロジェクタ３０ｂの内部構成は、図１５に示される第３の実施形態と同様である。
【００９２】
また、本実施形態では、上述の３次元座標を検出を図５に示す赤外光照射部１１に適用した場合について説明する。
この場合、空間位置抽出部１９１は、第２の画像に基づいて指示部の画像領域を抽出し、抽出した指示部の画像領域における先端部の第２の画像上の位置及び大きさに基づいて先端部の垂直方向の位置を検出する。
【００９３】
図２０及び図２１は、赤外光照射部１１が図５に示すような構成である場合の本実施形態における検出装置１０ａの動作の一例を示す図である。
図２０及び図２１に示すように、第２の赤外光照射部１３は、放射状に第２の赤外光を照射する。そのため、物体抽出部１７は、第２の画像に基づいて、手（指示部）の画像領域（この場合、手の全体の画像領域）を抽出する。
【００９４】
例えば、図２０は、第２の赤外光照射部１３が照射する第２の赤外光１３１ｄの照射範囲の下方領域に指の先端がある場合を示している。この場合、撮像部１５は、第２の赤外光１３１ｄに対応する第２の画像として画像１０１ｃを撮像する。画像１０１ｃにおいて、領域１０２ｃは、第２の赤外光１３１ｄが照射されている手の画像領域（指示部の画像領域）を示している。検出部１９ａは、この画像１０１ｃに基づいて、第２の赤外光１３１ｂの照射位置に対応する高さ位置を垂直方向の先端部の位置として検出する。
具体的に、物体抽出部１７は、画像１０１ｃに基づいて、手の画像領域（領域１０２ｃ）を抽出する。人の手において、指の先端部の幅は、ほぼ一定であることを利用して、空間位置抽出部１９１は、物体抽出部１７が抽出した指示部の画像領域（領域１０２ｃ）における先端部の第２の画像上の位置及び大きさに基づいて先端部の垂直方向の位置を検出する。
また、同様に、人の手において、指の先端部の幅は、ほぼ一定であることを利用して、空間位置抽出部１９１は、画像１０１上の指示部の画像領域（領域１０２ｃ）の位置と幅（大きさ）に基づいて、横方向及び奥行き方向（水平方向）の先端部の位置を検出（抽出）する。このように、空間位置抽出部１９１は、指示部（手）が移動する空間上の３次元位置を検出する。
【００９５】
また、例えば、図２１は、第２の赤外光照射部１３が照射する第２の赤外光１３１ｄの照射範囲の上方領域に指の先端がある場合を示している。この場合、撮像部１５は、第２の赤外光１３１ｃに対応する第２の画像として画像１０１ｄを撮像する。画像１０１ｄにおいて、領域１０２ｄは、第２の赤外光１３１ｄが照射されている手の画像領域（指示部の画像領域）を示している。空間位置抽出部１９１は、図１６に示される場合と同様に、指示部（手）が移動する空間上の３次元位置を検出する。
なお、図２１では、図２０に示される場合よりも、手４が高い位置にある。そのため、画像領域１０２ｄは、画像領域１０２ｃに比べて、画像１０１ｄの上方の位置になるとともに、画像領域１０２ｄにおける先端部（指の先端）の幅（大きさ）は、画像領域１０２ｃにおける先端部（指の先端）の幅（大きさ）よりも大きい。
【００９６】
以上のように、本実施形態における検出装置１０ａは、検出部１９ａは、第２の画像に基づいて、撮像部１５の撮像範囲内で指示部（手）が移動する空間上の先端部の位置を検出する。これにより、検出装置１０ａは、第３の実施形態と同様に、空間上の先端部（指の先端）の位置（３次元位置）を検出することができるので、例えば、指の位置に応じた、ユーザーインターフェース表示を行うことが可能になる。
【００９７】
また、本実施形態によれば、検出部１９ａは、第２の画像に基づいて指示部の画像領域を抽出し、抽出した指示部の画像領域における先端部の第２の画像上の位置及び大きさに基づいて先端部の垂直方向の位置を検出する。
これにより、本実施形態における検出装置１０ａは、簡易な手段により先端部の垂直方向の位置を検出することができる。
【００９８】
［第５の実施形態］
次に、図２２及び図２３を参照して、本発明の他の実施形態について説明する。
本実施形態では、上述した検出装置１０ａをタブレット端末４０に適用した場合の一例について説明する。
図２２は、検出装置１０ａをタブレット端末４０に適用した一例を模式図である。
図２２において、タブレット端末４０（電子機器）は、一例として、第４の実施形態における検出装置１０ａを備えている。なお、検出装置１０ａは、タブレット端末４０に取り付けられて一体とされていてもよいし、タブレット端末４０に着脱可能に取り付けられてもよい。
また、図２３は、タブレット端末４０の構成の一例を示すブロック図である。
図２３において、図１５と同一の構成については同一の符号を付す。
タブレット端末４０は、表示部４０１を備えており、表示部４０１は、システム制御部２１から出力された画像を表示する。
【００９９】
図２２に示すように、検出装置１０ａは、第２の赤外光照射部１３が照射する第２の赤外光１３１ｄに応じて撮像部１５が撮像した第２の画像に基づいて、空間上のユーザＵ１の指の先端の位置（３次元位置）を検出することができる。そのため、タブレット端末４０は、検出装置１０ａと同様の効果を奏する。例えば、タブレット端末４０は、ユーザによる指示の誤検出を低減するとともに、上述のようなユーザーインターフェース表示が可能になるので利便性を向上させることができる。
【０１００】
なお、本発明は、上記の各実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で変更可能である。
例えば、上記の各実施形態では、撮像部１５を１つ備える形態を説明したが、撮像部１５を複数設けてオクルージョンをなくすための処理を加えてもよい。また、第１の赤外光と第２の赤外光をフィルタやガルバノスキャナとを用いることで１つの赤外光光源を用いて生成する形態でもよい。
また、上記の各実施形態において、検出装置１０及び入力装置２０をプロジェクタ３０に適用する形態を説明したが、他の装置に適用する形態でもよい。例えば、表示機能付きの電子黒板や電子会議装置などに適用する形態でもよい。また、検出装置１０及び入力装置２０は、複数を組み合わせて使用する形態でもよいし、単独の装置として使用する形態でもよい。
【０１０１】
また、タブレット端末４０は、上記の第５の実施形態に限定されるものではなく、下記のような変形例が可能である。
例えば、図２４に示すように、タブレット端末４０は、検出装置１０ａを表示部４０１の表示面とフラットに近い状態に実装する形態でもよい。この場合、撮像部１５は、表示面から斜め上に見上げるように配置されている。この撮像部１５は、可動式でユーザＵ１自身によって調整可能な形態であってもよいし、表示部４０１の傾きに応じて撮像する角度を変更できる形態でもよい。また、撮像部１５の横に配置されている複数の第２の赤外光照射部（１３ｂ，１３ｃ）は、左右で傾きが異なるように配置されており、照射タイミングも撮像部１５のフレーム周波数に同期して異なる形態でもよい。
【０１０２】
図２４に示す例では、第２の赤外光照射部１３ｂが照射する第２の赤外光１３２ｂの方が、第２の赤外光照射部１３ｃが照射する第２の赤外光１３２ｃより上向きに傾いて照射される。つまり、第２の赤外光１３２ｂと第２の赤外光１３２ｃとは、照射範囲がエリア分けてされている。この場合、タブレット端末４０は、第２の赤外光１３２ｂと第２の赤外光１３２ｃとをエリア分割することにより、先端部の位置を限定することができるので、より高精度に３次元位置を抽出することができる。
なお、図２４において、第１の赤外光照射部１２の図示を省略しているが、第１の赤外光照射部１２は、上記の各実施形態と同様に、第１の赤外光を照射する。
【０１０３】
また、例えば、図２５に示すように、タブレット端末４０（検出装置１０ａ）は、２つ以上の複数の第２の赤外光照射部（１３ｄ〜１３ｇ）を備え、照射範囲（照射エリア）の異なる複数の第２の赤外光（１３３ａ〜１３３ｄ）を照射する形態でもよい。この場合、複数の第２の赤外光照射部（１３ｄ〜１３ｇ）は、上述したように赤外光の照射方向のみ変えて勝者エリアを分けてもよいし、第２の赤外光照射部（１３ｄ〜１３ｇ）の配置位置を変えて照射エリアをより細かく分けるようにしてもよい。
【０１０４】
なお、図２５において、第１の赤外光照射部１２の図示を省略しているが、第１の赤外光照射部１２は、上記の各実施形態と同様に、第１の赤外光を照射する。
また、タブレット端末４０がタッチパネルを備える場合には、検出装置１０ａとタッチパネルを組み合わせて指示部（手）による入力を検出する形態でもよい。この場合、タブレット端末４０は、指示部（手）の検出対象面２への接触をタッチパネルにより検出して、第１の赤外光を用いない形態でもよい。こうすることでタブレット端末４０は、撮像部１５の回転可動域が少なくても検出できるようになる。例えば、一般に、タブレット端末が備えるカメラでは、手が画面近くにあるときは検出することができない。そこでタブレット端末４０は、ある程度離れた検出エリアのみ撮像部１５により検出し、接触をタッチパネルで検出する形態でもよい。
【０１０５】
また、上記の空間位置抽出部は、第２の画像上の手（指の先端）の位置と大きさ（指の幅）とに基づいて奥行き方向の先端部の位置を抽出する形態を説明したが、これに限定されるものではない。例えば、図２６に示すように、撮像部１５が画角（Ｇ１ａ，Ｇ１ｂ）の異なる２つの撮像部（１５ａ，１５ｂ）を備えて、検出装置１０ａ（タブレット端末４０）は、２つの撮像部（１５ａ，１５ｂ）の視差に基づいて、奥行き方向の先端部の位置（距離Ｌ１）を算出する形態でもよい。
【０１０６】
また、検出装置１０ａは、視差を利用して奥行き方向の先端部の距離を算出する場合には、図２７に示すように、ミラー（１５１ａ，１５１ｂ，１５２ａ，１５２ｂ）、及び凹レンズ（１５３ａ，１５３ｂ）を用いて、１つの撮像部１５によって異なる画角（Ｇ２ａ，Ｇ２ｂ）を実現してもよい。
また、撮像部１５がＡＦ（オートフォーカス）機能を有している場合には、検出装置１０ａは、撮像部１５のＡＦ機能を用いて、奥行き方向の先端部の距離を検出してもよい。
【０１０７】
また、図２２に示すような撮像部１５が下から見上げるように配置されている場合には、撮像部１５が広角レンズを備える形態でもよい。なお、撮像部１５は、２個以上配置されてもよい。例えば、撮像部１５が表示部４０１の表示面の四隅（４箇所）に配置される形態でもよい。
【０１０８】
また、図２８に示すように、検出装置１０ａは、タブレット端末４０が内蔵する撮像部１５を用いる形態でもよい。この場合、検出装置１０ａは、ミラー１５４を備えて、撮像部１５がミラー１５４によって反射した表示部４０１の表示面の範囲（画角Ｇ３）を撮像する形態でもよい。
【０１０９】
また、上記の第５の実施形態において、電子機器の一例としてタブレット端末４０に検出装置１０ａを適用する形態を説明したが、携帯電話などの他の電子機器に適用する形態でもよい。
また、上記の第５の実施形態において、検出装置１０ａをタブレット端末４０に適用する形態を説明したが、上記の第１及び第２の実施形態における検出装置１０をタブレット端末４０に適用する形態でもよい。
【符号の説明】
【０１１０】
１０，１０ａ…検出装置、１１…赤外光照射部、１５…撮像部、１７…物体抽出部、１８…指示点抽出部、１９，１９ａ…検出部、２０，２０ａ…入力装置、３０，３０ａ，３０ｂ…プロジェクタ、３１…投影部、４０…タブレット端末、１９１…空間位置抽出部
【図１】
2012208926.tif 000003
【図２】
2012208926.tif 000004
【図３】
2012208926.tif 000005
【図４】
2012208926.tif 000006
【図５】
2012208926.tif 000007
【図６】
2012208926.tif 000008
【図７】
2012208926.tif 000009
【図８】
2012208926.tif 000010
【図９】
2012208926.tif 000011
【図１０】
2012208926.tif 000012
【図１１】
2012208926.tif 000013
【図１２】
2012208926.tif 000014
【図１３】
2012208926.tif 000015
【図１４】
2012208926.tif 000016
【図１５】
2012208926.tif 000017
【図１６】
2012208926.tif 000018
【図１７】
2012208926.tif 000019
【図１８】
2012208926.tif 000020
【図１９】
2012208926.tif 000021
【図２０】
2012208926.tif 000022
【図２１】
2012208926.tif 000023
【図２２】
2012208926.tif 000024
【図２３】
2012208926.tif 000025
【図２４】
2012208926.tif 000026
【図２５】
2012208926.tif 000027
【図２６】
2012208926.tif 000028
【図２７】
2012208926.tif 000029
【図２８】
2012208926.tif 000030