(57)【要約】【課題】インデックス画面に表示されるデータの数を変更した場合に、所望のデータを確実に表示する。【解決手段】インデックス画面２４１において、位置A41と位置B41で２本の指の近接または接触を開始し、２本の指の間の距離を距離d41から距離d42に拡げてから２本の指の近接および接触を解除したとき、位置A41と位置B41の中点である指示中心C41上の９番のインデックスデータが基準データに設定される。そして、２本の指の間の距離の拡大率に基づいて最大表示数を変更するとともに、指示中心C41を含む行または列に基準データが表示されるようにインデックスデータが再配置されたインデックス画面２４２または２４３が表示される。本発明は、例えば、デジタルカメラに適用することができる。【選択図】図２０
2008299474.tif 000002
【特許請求の範囲】
【請求項１】
表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置による表示を制御する表示制御装置において、
前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段と、
前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段と、
設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段と、
前記最大表示数を変更した後の前記インデックス画面を前記表示装置に表示させる表示制御手段と
を含む表示制御装置。
【請求項２】
前記インデックス画面においては、前記データが格子状に配置されており、
前記配置設定手段は、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置を含む行または列に配置されるように前記データの配置を設定する
請求項１に記載の表示制御装置。
【請求項３】
前記表示装置は、表示画面上の複数の点に対する入力が可能であり、
前記取得手段は、前記表示画面上において指示された点の位置を前記指示位置として取得する
請求項１に記載の表示制御装置。
【請求項４】
前記表示装置は、画像の表示と外部から入力される光の検出を行い、表示画面上の複数の点に対する入力が可能な入出力部を有し、
前記取得手段は、前記表示画面上において第１の点および第２の点の指示が開始されたときの前記第１の点と前記第２の点の中点の位置を前記指示位置として取得し、前記第１の点と前記第２の点の指示が開始されたときの前記第１の点と前記第２の点との間の距離と、前記第１の点と前記第２の点の指示が終了したときの前記第１の点と前記第２の点との間の距離との間の変化量を前記増減情報として取得する
請求項１に記載の表示制御装置。
【請求項５】
表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置による表示を制御する表示制御方法において、
前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得し、
前記増減情報に基づいて、前記データの最大表示数を設定し、
設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定し、
前記最大表示数を変更した後の前記インデックス画面を前記表示装置に表示させる
ステップを含む表示制御方法。
【請求項６】
表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置による表示を制御するコンピュータに実行させるプログラムにおいて、
前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得し、
前記増減情報に基づいて、前記データの最大表示数を設定し、
設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定し、
前記最大表示数を変更した後の前記インデックス画面を前記表示装置に表示させる
ステップを含むプログラム。
【請求項７】
表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面を表示する表示装置において、
前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段と、
前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段と、
設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段と、
前記最大表示数を変更した後の前記インデックス画面を表示させる表示制御手段と
を含む表示装置。
【請求項８】
前記インデックス画面においては、前記データが格子状に配置されており、
前記配置設定手段は、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置を含む行または列に配置されるように前記データの配置を設定する
請求項７に記載の表示装置。
【請求項９】
表示画面上の複数の点に対する入力が可能であり、
前記取得手段は、前記表示画面上において指示された点の位置を前記指示位置として取得する
請求項７に記載の表示装置。
【請求項１０】
画像の表示と外部から入力される光の検出を行い、表示画面上の複数の点に対する入力が可能な入出力手段を
さらに含み、
前記取得手段は、前記表示画面上において第１の点および第２の点の指示が開始されたときの前記第１の点と前記第２の点の中点の位置を前記指示位置として取得し、前記第１の点と前記第２の点の指示が開始されたときの前記第１の点と前記第２の点との間の距離と、前記第１の点と前記第２の点の指示が終了したときの前記第１の点と前記第２の点との間の距離との間の変化量を前記増減情報として取得する
請求項７に記載の表示装置。
【請求項１１】
表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面を表示する表示部を有する撮像装置において、
前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段と、
前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段と、
設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段と、
前記最大表示数を変更した後の前記インデックス画面を前記表示部に表示させる表示制御手段と
を含む撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、表示制御装置および方法、表示装置、撮像装置、並びに、プログラムに関し、特に、例えば、インデックス画面の表示を行う表示制御装置および方法、表示装置、撮像装置、並びに、プログラムに関する。
【背景技術】
【０００２】
従来、パネル上の点に対する入力が可能であり、入力があった点に関する情報を出力可能なパネルとして、静電式や感圧式のタッチパネルが普及している。タッチパネルでは、外部からの入力に対して、その入力があったタッチパネル上の点に関する情報（例えば、点の座標等）である点情報を、一度に１つの点についてのみ出力することができる。すなわち、タッチパネルでは、一度にパネル上の１つの点に対する入力および出力が可能である。
【０００３】
また、パネル上の複数の点に対する入力が可能であるとともに、一度に複数の点に関する情報を出力可能なパネルとして、例えば、液晶表示装置に光センサを内蔵させ、外部からの光の入力を光センサで検出することにより、光による入力が可能な表示パネル（以下、入出力パネルともいう）が提案されている（例えば、特許文献１参照）。
【０００４】
入出力パネルにおいて、光による入力を検出する方法としては、大きく分けて、LED(Light Emitting Diode)等の外部光源を持つ物体（例えば、ペンなど）をユーザに操作させる方法と、そのような外部光源を持たない指やペン等で入力操作させ、液晶表示装置が発する光、つまり、液晶表示装置のバックライトの透過光が、液晶表示装置の表示画面に近づいている指やペンで反射して液晶表示装置の内部に戻ってくる光を光センサで検出する方法とがある。
【０００５】
入出力パネルでは、一度に複数の点の点情報を出力することができ、すなわち、一度にパネル上の複数の点に対する入力および出力が可能であり、今後、従来のタッチパネルが適用されていた製品等のアプリケーションへの適用が期待されている。
【０００６】
ところで、タッチパネルを適用した製品の１つにデジタルカメラがある。タッチパネルを適用したデジタルカメラの中には、デジタルカメラが記憶している画像、または、デジタルカメラの機能を表すアイコンなどのデータを格子状に並べたインデックス画面を、タッチパネル上に表示する機能を有するものがある。ユーザは、インデックス画面を参照することにより、所望の画像や機能などを簡単かつ迅速に見つけることができ、見つけたデータを指やペンなどで指示することにより、所望の画像や機能などを簡単に選択することができる。
【０００７】
なお、以下、インデックス画面内に表示される画像やアイコンなどの個々のデータのことをインデックスデータと称する。
【０００８】
【特許文献１】特開２００４−１２７２７２号公報
【発明の開示】
【発明が解決しようとする課題】
【０００９】
ところで、従来のデジタルカメラの中には、インデックス画面内に表示されるインデックスデータの数の最大値（以下、最大表示数と称する）を変更できる機能を有するものがある。例えば、図１に示されるように、最大表示数が縦３個×横３個の９個のインデックス画面１から、最大表示数が縦２個×横２個の４個のインデックス画面２に表示を切換えることにより、インデックス画面内の個々のインデックスデータを大きく表示することができる。逆に、インデックス画面２からインデックス画面１に切換えることにより、一度に多くのインデックスデータを表示することができる。
【００１０】
なお、インデックス画面１および２内の四角の各マスはインデックスデータを示しており、インデックスデータ内の番号は各インデックスデータに割り振られた番号であるインデックス番号を示している。
【００１１】
しかしながら、従来のデジタルカメラでは、インデックスデータの数を変更した場合、所望のインデックスデータが必ずしも表示されるとは限らない。例えば、図１に示される例の場合、９番のインデックスデータを大きく表示させるために、インデックス画面１からインデックス画面２に切換えた場合、９番のインデックスデータがインデックス画面２内に表示されないため、ユーザは、９番のインデックスデータを表示させるために、インデックス画面のページを切換える必要がある。
【００１２】
本発明は、このような状況に鑑みてなされたものであり、表示されるインデックスデータの数を変更した場合に、所望のインデックスデータを確実に表示するようにするものである。
【課題を解決するための手段】
【００１３】
本発明の第１の側面の表示制御装置は、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置による表示を制御する表示制御装置であって、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段と、前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段と、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段と、前記最大表示数を変更した後の前記インデックス画面を前記表示装置に表示させる表示制御手段とを備える。
【００１４】
前記インデックス画面においては、前記データが格子状に配置されるようにすることができ、前記配置設定手段には、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置を含む行または列に配置されるように前記データの配置を設定させることができる。
【００１５】
前記表示装置は、表示画面上の複数の点に対する入力を可能とすることができ、前記取得手段には、前記表示画面上において指示された点の位置を前記指示位置として取得させることができる。
【００１６】
前記表示装置は、画像の表示と外部から入力される光の検出を行い、表示画面上の複数の点に対する入力が可能な入出力部を有することができ、前記取得手段には、前記表示画面上において第１の点および第２の点の指示が開始されたときの前記第１の点と前記第２の点の中点の位置を前記指示位置として取得させ、前記第１の点と前記第２の点の指示が開始されたときの前記第１の点と前記第２の点との間の距離と、前記第１の点と前記第２の点の指示が終了したときの前記第１の点と前記第２の点との間の距離との間の変化量を前記増減情報として取得させることができる。
【００１７】
本発明の第１の側面の表示装置の表示制御方法またはプログラムは、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置による表示を制御する表示制御方法、または、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置による表示を制御するコンピュータに実行させるプログラムであって、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得し、前記増減情報に基づいて、前記データの最大表示数を設定し、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定し、前記最大表示数を変更した後の前記インデックス画面を前記表示装置に表示させるステップを含む。
【００１８】
本発明の第２の側面の表示装置は、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面を表示する表示装置であって、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段と、前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段と、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段と、前記最大表示数を変更した後の前記インデックス画面を表示させる表示制御手段とを備える。
【００１９】
前記インデックス画面においては、前記データが格子状に配置されるようにすることができ、前記配置設定手段には、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置を含む行または列に配置されるように前記データの配置を設定させることができる。
【００２０】
表示画面上の複数の点に対する入力を可能とすることができ、前記取得手段には、前記表示画面上において指示された点の位置を前記指示位置として取得させることができる。
【００２１】
画像の表示と外部から入力される光の検出を行い、表示画面上の複数の点に対する入力が可能な入出力手段をさらに設け、前記取得手段には、前記表示画面上において第１の点および第２の点の指示が開始されたときの前記第１の点と前記第２の点の中点の位置を前記指示位置として取得させ、前記第１の点と前記第２の点の指示が開始されたときの前記第１の点と前記第２の点との間の距離と、前記第１の点と前記第２の点の指示が終了したときの前記第１の点と前記第２の点との間の距離との間の変化量を前記増減情報として取得させることができる。
【００２２】
本発明の第３の側面の撮像装置は、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面を表示する表示部を有する撮像装置であって、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段と、前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段と、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段と、前記最大表示数を変更した後の前記インデックス画面を前記表示部に表示させる表示制御手段とを備える。
【００２３】
本発明の第１の側面においては、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報が取得され、前記増減情報に基づいて、前記データの最大表示数が設定され、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置が設定され、前記最大表示数を変更した後の前記インデックス画面が前記表示装置に表示される。
【００２４】
本発明の第２の側面においては、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報が取得され、前記増減情報に基づいて、前記データの最大表示数が設定され、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置が設定され、前記最大表示数を変更した後の前記インデックス画面が表示される。
【００２５】
本発明の第３の側面においては、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報が取得され、前記増減情報に基づいて、前記データの最大表示数が設定され、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置が設定され、前記最大表示数を変更した後の前記インデックス画面が前記表示部に表示される。
【発明の効果】
【００２６】
本発明の第１乃至第３の側面によれば、インデックス画面に表示されるデータの数を変更することができる。特に、本発明の第１乃至第３の側面によれば、インデックス画面に表示されるデータの数を変更した場合に、所望のデータを確実に表示することができる。
【発明を実施するための最良の形態】
【００２７】
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書又は図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書又は図面に記載されていることを確認するためのものである。従って、明細書又は図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
【００２８】
本発明の第１の側面の表示制御装置（例えば、図３のインデックス表示制御部１６１）は、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置（例えば、図２の入出力パネル１１６）による表示を制御する表示制御装置であって、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段（例えば、図３の受信部１７１）と、前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段（例えば、図３の表示数設定部１７３）と、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段（例えば、図３の配置設定部１７４）と、前記最大表示数を変更した後の前記インデックス画面を前記表示装置に表示させる表示制御手段（例えば、図３の画像データ生成部１７５）とを備える。
【００２９】
本発明の第１の側面の表示制御装置は、第２に、画像の表示と外部から入力される光の検出を行い、表示画面上の複数の点に対する入力が可能な入出力部（例えば、図２の入出力ディスプレイ１３２）を有し、前記取得手段には、前記表示画面上において第１の点および第２の点の指示が開始されたときの前記第１の点と前記第２の点の中点の位置を前記指示位置として取得し、前記第１の点と前記第２の点の指示が開始されたときの前記第１の点と前記第２の点との間の距離と、前記第１の点と前記第２の点の指示が終了したときの前記第１の点と前記第２の点との間の距離との間の変化量を前記増減情報として取得させることができる。
【００３０】
本発明の第１の側面の表示制御方法またはプログラムは、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置（例えば、図２の入出力パネル１１６）による表示を制御する表示制御方法、または、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面の表示装置（例えば、図２の入出力パネル１１６）による表示を制御するコンピュータに実行させるプログラムであって、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得し（例えば、図１５のステップＳ１０１）、前記増減情報に基づいて、前記データの最大表示数を設定し（例えば、図１５のステップＳ１０７）、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定し（例えば、図１５のステップＳ１０８）、前記最大表示数を変更した後の前記インデックス画面を前記表示装置に表示させる（例えば、図１５のステップＳ１０９）ステップを含む。
【００３１】
本発明の第２の側面の表示装置（例えば、図２の入出力パネル１１６）は、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面を表示する表示装置であって、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段（例えば、図３の受信部１７１）と、前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段（例えば、図３の表示数設定部１７３）と、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段（例えば、図３の配置設定部１７４）と、前記最大表示数を変更した後の前記インデックス画面を表示させる表示制御手段（例えば、図３の画像データ生成部１７５）とを備える。
【００３２】
本発明の第２の側面の表示装置は、第２に、画像の表示と外部から入力される光の検出を行い、表示画面上の複数の点に対する入力が可能な入出力手段（例えば、図２の入出力ディスプレイ１３２）をさらに備え、前記取得手段には、前記表示画面上において第１の点および第２の点の指示が開始されたときの前記第１の点と前記第２の点の中点の位置を前記指示位置として取得させ、前記第１の点と前記第２の点の指示が開始されたときの前記第１の点と前記第２の点との間の距離と、前記第１の点と前記第２の点の指示が終了したときの前記第１の点と前記第２の点との間の距離との間の変化量を前記増減情報として取得させることができる。
【００３３】
本発明の第３の側面の撮像装置（例えば、図３０のデジタルカメラ６４１）は、表示されるデータの数の最大値である最大表示数の変更が可能で、前記最大表示数に応じて所定の形式でデータが配置されて表示されるインデックス画面を表示する表示部（例えば、図３０の表示部６５２）を有する撮像装置であって、前記インデックス画面上において指示された位置である指示位置、および、前記最大表示数の増加または減少の指示を示す増減情報を取得する取得手段（例えば、図３の受信部１７１）と、前記増減情報に基づいて、前記データの最大表示数を設定する表示数設定手段（例えば、図３の表示数設定部１７３）と、設定された前記最大表示数に応じた形式に基づいて前記データを配置するとともに、前記最大表示数を変更する前の前記インデックス画面において前記指示位置に最も近い位置に表示されているデータが、前記最大表示数を変更した後の前記インデックス画面において、前記指示位置上または前記指示位置の近傍に配置されるように前記データの配置を設定する配置設定手段（例えば、図３の配置設定部１７４）と、前記最大表示数を変更した後の前記インデックス画面を前記表示部に表示させる表示制御手段（例えば、図３の画像データ生成部１７５）とを備える。
【００３４】
以下、図面を参照して本発明を適用した実施の形態について説明する。
【００３５】
図２は、本発明を適用した表示システムの一実施の形態の構成例を示すブロック図である。
【００３６】
図２において、表示システム１０１は、例えば、携帯電話機やTV(Television)受像機等を構成する。
【００３７】
表示システム１０１は、アンテナ１１０、信号処理部１１１、制御部１１２、記憶部１１３、操作部１１４、通信部１１５、及び入出力パネル１１６から構成される。
【００３８】
信号処理部１１１は、アンテナ１１０で受信された地上波や衛星波等のテレビジョン放送の放送電波を復調し、その結果得られる画像データ及び音声データを制御部１１２に供給する。
【００３９】
制御部１１２は、操作部１１４から供給されるユーザの操作に対応する操作信号に基づいて、各種の処理を行い、その過程で一時的に記憶すべきデータを、記憶部１１３に供給する。
【００４０】
また、制御部１１２は、表示制御部１２１を含み、表示制御部１２１は、信号処理部１１１から供給される画像データ等を入出力パネル１１６に供給する。また、表示制御部１２１は、入出力パネル１１６から供給される、後述するターゲットとイベントの情報に基づいて、必要に応じて、画像データを、入出力パネル１１６の入出力ディスプレイ１３２に供給することにより、入出力ディスプレイ１３２の表示状態を変更させる等の表示制御を行う。
【００４１】
記憶部１１３は、例えば、RAM(Random Access Memory)から構成される。記憶部１１３は、制御部１１２から供給されるデータを一時的に記憶する。
【００４２】
操作部１１４は、例えば、テンキー、キーボード等から構成される。操作部１１４は、ユーザによって操作されることにより、その操作に対応する操作信号を生成し、制御部１１２に供給する。
【００４３】
通信部１１５は、例えば、図示せぬ無線局との間で無線電波を用いて通信を行う。
【００４４】
入出力パネル１１６は、制御部１１２から供給される画像データに対応する画像を入出力ディスプレイ１３２に表示するとともに、入出力ディスプレイ１３２から出力される受光信号から検出される１以上の点に対する入力の情報に、後述する統合処理と認識処理を施すことにより、ターゲットとイベントの情報を生成し、制御部１１２に供給する。
【００４５】
すなわち、入出力パネル１１６は、表示信号処理部１３１、入出力ディスプレイ１３２、受光信号処理部１３３、画像処理部１３４、及び生成部１３５から構成される。
【００４６】
表示信号処理部１３１は、制御部１１２から供給される画像データに対して、入出力ディスプレイ１３２に表示するための処理を施し、その結果得られる画像データを、入出力ディスプレイ１３２に供給する。
【００４７】
入出力ディスプレイ１３２は、画像の表示と、外部からの入力に対応する光の検出とを行う。すなわち、入出力ディスプレイ１３２は、表示信号処理部１３１から供給される画像データに対応する画像を、その表示画面に表示する。また、入出力ディスプレイ１３２は、例えば、表示画面全体に分布するように配置された複数の光センサ１３２Ａを内蔵し、外部から入射する光を受光し、その光の受光量に対応する受光信号を生成して、受光信号処理部１３３に供給する。
【００４８】
受光信号処理部１３３は、入出力ディスプレイ１３２から供給される受光信号に対して、所定の処理を施すことにより、入出力ディスプレイ１３２の表示画面に対して、ユーザの指等が近接または接触している部分と、何も近接および接触していない部分とで輝度が異なる画像を、フレームごとに得て、画像処理部１３４に供給する。
【００４９】
画像処理部１３４は、受光信号処理部１３３から供給される各フレームの画像に対して、２値化、ノイズ除去、ラベリング等の画像処理を施すことにより、入出力ディスプレイ１３２の表示画面に指等の物体が近接または接触している部分（領域）を、外部からの入力があった入力部分として検出し、その入力部分の情報、すなわち、例えば、その入力部分を代表する表示画面上の点の座標である代表座標等の入力があった表示画面上の点に関する点情報、つまり、入力部分の点情報を得て、生成部１３５に供給する。
【００５０】
生成部１３５は、画像処理部１３４から供給される入力部分の点情報に、後述の統合処理を施すことにより、ターゲットの情報を生成する。さらに、生成部１３５は、ターゲットの情報に基づいて、後述の認識処理を行うことにより、ターゲットの状態の変化を表すイベントの情報を生成する。なお、統合処理でも、一部のイベントの情報が生成される。
【００５１】
すなわち、生成部１３５は、ターゲット生成部１４１、イベント生成部１４２、及び記憶部１４３から構成され、ターゲットとイベントの情報を、フレームごとに生成し、制御部１１２に供給する。
【００５２】
入出力ディスプレイ１３２に対しては、その表示画面に、例えば、指等を近接または接触することにより、入力を行うことができるが、この入出力ディスプレイ１３２に対する一連の入力が、ターゲットである。すなわち、例えば、入出力ディスプレイ１３２の表示画面に対して、指が近接または接触し、その近接または接触が維持されながら指が移動し、指の近接および接触が解除されるまでに行われる、入出力ディスプレイ１３２の表示画面への一連の入力がターゲットとなる。
【００５３】
また、イベントは、ターゲットの状態の変化を表し、例えば、ターゲットの位置が移動したことや、ターゲットが新たに出現した（生成された）こと、ターゲットが消滅した（削除された）こと等を表す。
【００５４】
生成部１３５のターゲット生成部１４１は、画像処理部１３４から供給されるフレームごとの入力部分の点情報に、統合処理を施すことにより、外部から入力があった入力部分の時間的若しくは空間的位置関係に基づいて、一連の入力を表すターゲットの情報を生成して、記憶部１４３に供給する。
【００５５】
いま、画像処理部１３４からターゲット生成部１４１に供給される入力部分の点情報が、時刻t+1の第t+1フレームの点情報であるとすると、ターゲット生成部１４１は、第t+1フレームの入力部分の点情報と、時間的に近い関係にある１つ前のフレームである時刻tの第tフレームのターゲットの情報とを比較する。
【００５６】
第tフレームのあるターゲットを、注目ターゲットとして注目することとすると、ターゲット生成部１４１は、注目ターゲットに対して、第t+1フレームの空間的に近い関係にある入力部分を、注目ターゲットとしての一連の入力における一部を構成する入力部分であるとして、注目ターゲットに統合する。
【００５７】
また、ターゲット生成部１４１は、注目ターゲットに対して、空間的に近い関係にある入力部分が第t+1フレームに存在しない場合には、注目ターゲットとしての一連の入力が終了したとして、注目ターゲットを削除する。
【００５８】
さらに、ターゲット生成部１４１は、ターゲットに統合されずに残った第t+1フレームの入力部分については、ターゲットとしての一連の入力が開始されたとして、新たなターゲットを生成する。そして、ターゲット生成部１４１は、統合されたターゲットの情報と新たに生成されたターゲットの情報を、第t+1フレームのターゲットの情報として記憶部１４３に供給する。
【００５９】
イベント生成部１４２は、ターゲットの情報に基づいて、ターゲットの状態の変化を表すイベントの情報を適宜生成し、記憶部１４３に供給する。すなわち、例えば、イベント生成部１４２は、第tフレームと第t+1フレームのそれぞれのターゲットの情報、あるいは、必要に応じて、記憶部１４３に記憶されている第tフレーム以前に発行されたイベントの情報等に基づいて、ターゲットの状態の変化を表すイベントを認識する。そして、イベント生成部１４２は、認識したイベントの内容を表すイベントの情報を生成するイベントの発行を行い、そのイベントの情報を第t+1フレームのイベントの情報として記憶部１４３に供給する。
【００６０】
また、イベント生成部１４２は、記憶部１４３から第t+1フレームのターゲットとイベントの情報を読み出し、制御部１１２に供給（出力）する。
【００６１】
記憶部１４３は、ターゲット生成部１４１から供給されるターゲットの情報と、イベント生成部１４２から供給されるイベントの情報とを記憶する。
【００６２】
図３は、表示制御部１２１の機能的構成の一部の例を示す図である。表示制御部１２１は、インデックス表示制御部１６１を含むように構成される。
【００６３】
インデックス表示制御部１６１は、インデックス画面の入出力ディスプレイ１３２による表示を制御する。なお、ここで、インデックス画面とは、インデックス画面内に表示されるインデックスデータの数の最大値である最大表示数に応じて所定の形式によりインデックスデータが配置されて表示される画面のことであり、上述した図１のインデックス画面はその一例である。また、表示システム１０１においては、後述するように、インデックス画面の最大表示数の変更が可能である。インデックス表示制御部１６１は、受信部１７１、基準データ設定部１７２、表示数設定部１７３、配置設定部１７４、および、画像データ生成部１７５を含むように構成される。
【００６４】
受信部１７１は、操作部１１４を介してユーザにより入力されたインデックス画面の表示の指令を受信し、受信した指令を画像データ生成部１７５に供給する。また、受信部１７１は、イベント生成部１４２により発行されたイベントの情報を受信し、必要に応じて、受信したイベントの情報を基準データ設定部１７２および表示数設定部１７３に供給する。
【００６５】
基準データ設定部１７２は、図１５などを参照して後述するように、入出力ディスプレイ１３２の表示画面に表示されているインデックス画面においてユーザにより指示された位置に最も近い位置に表示されているインデックスデータを基準データに設定し、設定した基準データを示す情報を配置設定部１７４に供給する。
【００６６】
表示数設定部１７３は、図１５などを参照して後述するように、取得したイベントの情報に基づいて、インデックス画面の最大表示数を設定する。表示数設定部１７３は、設定した最大表示数を示す情報を配置設定部１７４に供給する。
【００６７】
配置設定部１７４は、図１５などを参照して後述するように、表示数設定部１７３により設定された最大表示数に応じた形式に基づいてインデックスデータを配置するとともに、最大表示数を変更した後のインデックス画面において、基準データがユーザにより指示された位置またはその近傍に配置されるように、インデックスデータの配置を設定する。配置設定部１７４は、設定したインデックスデータの配置を示す情報を画像データ生成部１７５に供給する。
【００６８】
画像データ生成部１７５は、ユーザより入力されたインデックス画面の表示の指令を受信部１７１から取得した場合、その指令に基づくインデックス画面の画像データを生成し、表示信号処理部１３１に供給する。また、画像データ生成部１７５は、インデックスデータの配置を示す情報を配置設定部１７４から取得した場合、設定された配置に従ってインデックスデータを配置したインデックス画面の画像データを生成し、表示信号処理部１３１に供給する。さらに、画像データ生成部１７５は、入出力ディスプレイ１３２の表示画面に表示されているインデックス画面における各インデックスデータの種類や位置などを示す情報を受信部１７１、基準データ設定部１７２、表示数設定部１７３、および、配置設定部１７４に供給する。
【００６９】
次に、図４のフローチャートを参照して、表示システム１０１による表示受光制御処理について説明する。
【００７０】
表示システム１０１による表示受光制御処理は、例えば、ユーザが表示システム１０１の電源をオンにすると、開始される。
【００７１】
なお、以下においては、既に、表示受光制御処理のステップＳ１乃至Ｓ８の処理が第tフレームまで行われており、記憶部１４３には、少なくとも、第tフレーム以前のターゲットとイベントの情報が適宜記憶されているものとする。
【００７２】
ステップＳ１において、入出力ディスプレイ１３２の光センサ１３２Ａは、時刻t+1のフレームのタイミングで、表示画面に指が近接または接触している部分から反射した光等の外部からの光を受光し、その光の受光量に対応する受光信号を受光信号処理部１３３に供給する。
【００７３】
ステップＳ２において、受光信号処理部１３３は、入出力ディスプレイ１３２から供給される受光信号に所定の処理を施すことにより、入出力ディスプレイ１３２に対して、指等が近接または接触している部分と、何も近接および接触していない部分とで輝度が異なる画像を、第t+1フレームの画像として得て、画像処理部１３４に供給する。
【００７４】
ステップＳ３において、画像処理部１３４は、受光信号処理部１３３から供給される第t+1フレームの画像に対して、２値化、ノイズ除去、ラベリング等の画像処理を施すことにより、第t+1フレームについて、入出力ディスプレイ１３２の表示画面に指等の物体が近接または接触した部分（領域）を、外部からの入力があった入力部分として検出し、その入力部分の点情報を得て、生成部１３５に供給する。
【００７５】
ステップＳ４において、生成部１３５のターゲット生成部１４１は、画像処理部１３４から供給される第t+1フレームの入力部分の点情報に、統合処理を施すことにより、第t+1フレームについて、ターゲットの情報を生成し、記憶部１４３に記憶させる。また、生成部１３５のイベント生成部１４２は、ターゲットの情報に基づいて、統合処理を行うことにより、第t+1フレームについて、特定のイベント、すなわち、例えば、ターゲットの生成及び削除（消滅）を表すイベントの情報を適宜生成し、記憶部１４３に記憶させる。統合処理の詳細については、図６乃至図１０を参照して、後述する。
【００７６】
ステップＳ５において、生成部１３５のイベント生成部１４２は、さらに、ターゲットの情報に基づいて、認識処理を行うことにより、第t+1フレームについて、ターゲットの状態の変化を表すイベントの情報を生成し、記憶部１４３に記憶させる。認識処理の詳細については、図１１乃至図１４を参照して後述する。
【００７７】
ステップＳ６において、生成部１３５のイベント生成部１４２は、記憶部１４３から第t+1フレームのターゲットとイベントの情報を読み出し、制御部１１２に供給（出力）する。
【００７８】
ステップＳ７において、制御部１１２は、入出力パネル１１６の生成部１３５から供給（出力）されるターゲットとイベントの情報に基づいて、必要に応じて、画像データを、表示信号処理部１３１を介して、入出力ディスプレイ１３２に供給することにより、入出力ディスプレイ１３２の表示状態を変更させる等の表示制御処理を行う。表示制御処理の詳細については、図１５乃至図２５を参照して後述する。
【００７９】
ステップＳ８において、入出力ディスプレイ１３２は、制御部１１２の表示制御に従い、それまでとは異なる表示状態、例えば、それまで表示されていた画像が時計周りに９０°回転して表示される表示状態で、画像を表示する。
【００８０】
その後、処理は、ステップＳ１に戻り、次の第t+2フレームについて、同様の処理が繰り返される。
【００８１】
図５は、図４の表示受光制御処理を行うソフトウエアの構成例を説明する図である。
【００８２】
ここで、入出力パネル１１６において表示受光制御処理を行うソフトウエアは、点情報の生成処理を行うソフトウエア、および、情報の整形処理を行うソフトウエアを含む。
【００８３】
図５において、入出力ディスプレイ１３２の光センサ１３２Ａは、外部からの光、例えば、表示画面に近接または接触している指等で反射した光を受光し、１フレームの受光信号を生成する。
【００８４】
受光信号処理の階層では、入出力ディスプレイ１３２から供給される１フレームの受光信号に、例えば、増幅やフィルタ処理等の受光信号処理が施されることにより、その受光信号に対応する１フレームの画像が得られる。
【００８５】
受光信号処理の階層の上位階層の点情報の生成処理の階層では、受光信号処理で得られる画像に対して、所定の画像処理、例えば、２値化、ノイズ除去、ラベリング等が施されることにより、入出力ディスプレイ１３２の表示画面の、物体が近接または接触している部分である入力部分が検出される。そして、入力部分の点情報がフレームごとに生成される。
【００８６】
点情報の生成処理の上位の情報の整形処理の階層では、点情報の生成処理で得られる点情報が、表示制御部１２１が望む形の情報に整形される。例えば、点情報に統合処理が施され、フレームごとのターゲットの情報が生成される。さらに、そのフレームのターゲットの情報に基づいて、特定のイベント、例えば、ターゲットの生成や削除（消滅）を表すイベントの情報が生成される。また、統合処理で生成されたターゲットの情報等に基づいて、ユーザの指の動きやジェスチャ等の認識処理が施されることにより、ターゲットの状態の変化を表すイベントの情報がフレームごとに生成される。統合処理で生成されたターゲット及びイベントの情報と、認識処理で生成されたイベントの情報が、フレームごとに表示制御部１２１に出力される。
【００８７】
表示制御部１２１は、情報の整形処理で出力されたターゲットとイベントの情報に基づいて、必要に応じて、表示に関しての指示、例えば、画像データを入出力ディスプレイ１３２に供給することにより、入出力ディスプレイ１３２の表示状態を変更する等の表示制御を行う。
【００８８】
次に、図６乃至図１０を参照して、図１の生成部１３５による統合処理の詳細について説明する。
【００８９】
図６は、時刻tの第tフレームに存在するターゲットを表している。
【００９０】
ここで、図６では（後述する図７及び図８でも同様）、フレームを表す長方形の内部に、説明の便宜上、マスを図示してある。
【００９１】
図６において、時刻tの第tフレームには、３つのターゲット#1，#2、及び#3が存在する。ターゲットには、ターゲットの属性であるターゲット属性を与えることができる。ターゲット属性には、例えば、各ターゲットを識別するための識別情報としてのターゲットID(Identifier)（識別番号）があり、図６では、３つのターゲットに対して、#1，#2、及び#3がそれぞれターゲットIDとして付されている。
【００９２】
例えば、ユーザが、３本の指を、入出力ディスプレイ１３２の表示画面に近接または接触させている場合に、図６に示したような３つのターゲット#1乃至#3が存在する状態となる。
【００９３】
図７は、時刻tの第tフレームより１フレーム後の時刻t+1の第t+1フレームの統合処理前の入力部分を表している。
【００９４】
図７において、第t+1フレームには、４つの入力部分#a乃至#dが存在する。
【００９５】
例えば、ユーザが、４本の指を、入出力ディスプレイ１３２の表示画面に近接または接触している場合に、図７に示したような４つの入力部分#a乃至#dが生じる。
【００９６】
図８は、図６に示した第tフレームと図７に示した第t+1フレームとを重ね合わせた状態を表している。
【００９７】
統合処理では、例えば、時間的に近い関係にある第tフレームのターゲットと第t+1フレームの入力部分とが比較される。そして、第tフレームのあるターゲットを、注目ターゲットとして注目すると、例えば、注目ターゲットに対して、空間的に近い関係にある入力部分、すなわち、注目ターゲットからの距離が、例えば、所定の距離（例えば、２マス分の距離）以内にある入力部分が、注目ターゲットとしての一連の入力の一部を構成する入力部分であるとして、注目ターゲットに統合される。
【００９８】
なお、注目ターゲットに対して、空間的に近い関係にある入力部分が、複数存在する場合には、例えば、その複数の入力部分のうちの、注目ターゲットに対して、最も近い入力部分が、注目ターゲットに統合される。
【００９９】
また、統合処理では、例えば、注目ターゲットに対して、空間的に近い関係にある入力部分が存在しない場合には、その注目ターゲットとしての一連の入力が終了したとして、注目ターゲットが削除される。
【０１００】
さらに、統合処理では、例えば、ターゲットに統合されずに残った入力部分、つまり、ターゲットに対して空間的に近い関係にない入力部分については、新たな一連の入力が開始されたとして、新たなターゲットが生成される。
【０１０１】
したがって、図８に示される第t+1フレームの入力部分#a乃至#dと第tフレームのターゲット#1乃至#3を対象として、統合処理が行われると、ターゲット#1の近傍には、入力部分#aと#bが存在するが、入力部分#bの方が、入力部分#aに比べてより近いので、入力部分#bが、ターゲット#1に統合（マージ）される。
【０１０２】
また、図８では、ターゲット#2の近傍には、入力部分が存在しないので、このターゲット#2は、削除される。そして、ターゲットが削除されたことを表すイベント「削除」が生成される。
【０１０３】
さらに、図８では、ターゲット#3の近傍には、入力部分#cと#dが存在するが、入力部分#dの方が、入力部分#cに比べてより近いので、入力部分#dが、ターゲット#3に統合（マージ）される。
【０１０４】
そして、ターゲット#1乃至#3のうちのいずれにも統合されずに残った入力部分#aと#cは、それぞれ新たなターゲットとして生成される。そして、ターゲットが生成されたことを表すイベント「生成」が生成される。
【０１０５】
統合処理では、第tフレームのターゲットのうちの削除されずに残ったターゲットと、第t+1フレームの入力部分のうちの統合されずに残った入力部分について新たに生成されたターゲットとが、第t+1フレームのターゲットとなる。そして、第t+1フレームのターゲットの情報は、第t+1フレームの入力部分の点情報に基づいて、生成される。
【０１０６】
ここで、入力部分の点情報は、受光信号処理部１３３から画像処理部１３４に供給される１フレームの画像である受光画像に対して、画像処理を施すことで得られる。
【０１０７】
図９は、受光画像を示している。
【０１０８】
図９の受光画像には、３つの入力部分#1乃至#3が存在する。
【０１０９】
受光画像上の各入力部分は、例えば、表示画面の指が近接または接触している部分から反射した光が受光された部分であるので、表示画面の指が近接および接触していない部分に比べて、輝度の高いまたは低い部分となっている。画像処理部１３４は、受光画像の輝度の高いまたは低い領域を、入力部分として検出し、その入力部分の領域の特徴量を、その入力部分の点情報として出力する。
【０１１０】
点情報としては、入力部分を代表する位置の座標である代表座標としての入力部分の領域の中心（例えば、入力部分を囲む最小の円の中心など）や重心、入力部分の領域（図中の斜線部分）の面積の情報である面積情報、入力部分の範囲を表す領域情報としての、例えば、入力部分を囲む最小の長方形の上端の座標、下端の座標、左端の座標、及び右端の座標等を採用することができる。
【０１１１】
ターゲットの情報のうちのターゲットの属性であるターゲット属性は、ターゲットに統合される入力部分の点情報に基づいて、生成される。すなわち、ターゲットに入力部分が統合されるとき、ターゲットに固有の識別情報であるターゲットIDが維持され、それ以外のターゲット属性、例えば、ターゲットの代表座標、面積情報、領域情報等が、そのターゲットに統合される入力部分の点情報、すなわち、入力部分の代表座標、面積情報、領域情報等で置き換えられる。
【０１１２】
また、ターゲット属性には、ターゲットしての一連の入力が開始したときの時刻を表す情報やターゲットしての一連の入力が終了したときの時刻を表す情報等が含まれてもよい。
【０１１３】
ターゲットの情報には、上述したターゲット属性の他、例えば、生成部１３５が制御部１１２に出力するフレームごとのターゲットの数等を採用することができる。
【０１１４】
次に、図１０のフローチャートを参照して、図４のステップＳ４で図１の生成部１３５が行う統合処理について説明する。
【０１１５】
ステップＳ２１において、ターゲット生成部１４１は、記憶部１４３から第t+1フレームの時間的な近傍である第tフレームのターゲットの情報を読み出し、画像処理部１３４から供給される第t+1フレームの入力部分の点情報と、記憶部１４３から読み出した第tフレームのターゲットの情報とを比較する。
【０１１６】
ステップＳ２２において、ターゲット生成部１４１は、ステップＳ２１で読み出した第tフレームに、まだ注目ターゲットとしていないターゲットがあるかを判定する。ステップＳ２２において、ステップＳ２１で読み出した第tフレームに、まだ注目ターゲットとしていないターゲットがあると判定された場合、ステップＳ２３において、ターゲット生成部１４１は、第tフレームのターゲットのうちの、まだ注目ターゲットとしていないターゲットのうちの１つを注目ターゲットとし、第tフレームの注目ターゲットの空間的な近傍に、第t+1フレームの入力部分が存在するかを判定する。
【０１１７】
ステップＳ２３において、第tフレームの注目ターゲットの空間的な近傍に、第t+1フレームの入力部分が存在すると判定された場合、ステップＳ２４において、ターゲット生成部１４１は、ステップＳ２２で注目ターゲットの空間的な近傍にあると判定された第t+1フレームの入力部分を注目ターゲットに統合し、統合後の注目ターゲットの情報を、第t+1フレームのターゲットの情報として、記憶部１４３に記憶させる。
【０１１８】
具体的には、ターゲット生成部１４１は、注目ターゲットのターゲットIDを維持し、それ以外のターゲット属性、例えば、注目ターゲットの代表座標等を、注目ターゲットに統合される入力部分の代表座標等で置き換え、第t+1フレームのターゲットの情報として、記憶部１４３に記憶させる。
【０１１９】
一方、ステップＳ２３において、第tフレームの注目ターゲットの空間的な近傍に、第t+1フレームの入力部分が存在しないと判定された場合、ステップＳ２５において、ターゲット生成部１４１は、注目ターゲットの情報を記憶部１４３から削除する。
【０１２０】
ステップＳ２６において、イベント生成部１４２は、ターゲット生成部１４１が注目ターゲットを削除すると、ターゲットが消滅したこと、すなわち、ターゲットとしての一連の入力が終了したことを表すイベント「削除」を新たに発行し、そのイベントの情報を第t+1フレームのイベントの情報として、記憶部１４３に記憶させる。図８の例では、ターゲット#2が注目ターゲットである場合、ターゲット#2が第t+1フレームで削除されたことを表すイベント「削除」が発行され、そのイベント「削除」の情報が記憶部１４３に記憶される。
【０１２１】
ステップＳ２４，Ｓ２６の処理の後、処理は、ステップＳ２２に戻り、新たな注目ターゲットについて、同様の処理が実行される。
【０１２２】
ステップＳ２２において、ステップＳ２１で読み出した第tフレームに、まだ注目ターゲットとしていないターゲットがないと判定された場合、ステップＳ２７において、ターゲット生成部１４１は、画像処理部１３４から供給された第t+1フレームに、第tフレームのターゲットに統合されずに残っている入力部分が存在するかを判定する。
【０１２３】
ステップＳ２７において、第t+1フレームに統合されずに残っている入力部分が存在すると判定された場合、ステップＳ２８において、ターゲット生成部１４１は、統合されずに残っている入力部分について、新しいターゲットを生成する。
【０１２４】
すなわち、第tフレームのターゲットに統合されずに残った第t+1フレームの入力部分、つまり、ターゲットに対して空間的に近い関係にない入力部分については、新たな一連の入力が開始されたとして、新しいターゲットを生成する。そして、ターゲット生成部１４１は、新しいターゲットの情報を、第t+1フレームのターゲットの情報として、記憶部１４３に記憶させる。
【０１２５】
ステップＳ２９において、イベント生成部１４２は、ターゲット生成部１４１が新しいターゲットを生成すると、イベント「生成」を新たに発行し、そのイベントの情報を、第t+1フレームのイベントの情報として、記憶部１４３に記憶させる。そして、統合処理を終了し、処理は、図４のステップＳ５にリターンする。
【０１２６】
一方、ステップＳ２７において、第t+1フレームに残っている入力部分が存在しないと判定された場合、ステップＳ２８，Ｓ２９の処理はスキップされ、統合処理は終了する。そして、処理は、図４のステップＳ５にリターンする。
【０１２７】
なお、上述した統合処理では、第tフレームのターゲットのうちの、第t+1フレームの入力部分が空間的に近い位置に存在しないターゲットの情報が削除されるように説明したが、その他、第tフレームのターゲットのうちの、第t+1フレームの入力部分が空間的に近い位置に存在しないターゲットの情報を、入力部分が空間的に近い位置にない場合に限って、その後も数フレーム連続して保持してから削除するようにしてもよい。これにより、ユーザが指の近接および接触を誤って一瞬解除してしまった場合でも、指の近接または接触を再開すれば、表示画面に近接または接触している指に対応する入力部分を、指の近接および接触を一瞬解除する前のターゲットに統合することが可能となる。
【０１２８】
以上のように、統合処理では、入出力ディスプレイ１３２の表示画面に対して新たに入力があった入力部分のうちの、ターゲットの時間的及び空間的近傍にある入力部分が、ターゲットとしての一連の入力における一部を構成する入力部分としてそのターゲットに統合される。また、統合処理では、ターゲットの生成または消滅（削除）を表すイベントが適宜発行される。
【０１２９】
図１１は、生成部１３５から出力されるターゲットとイベントの情報の例を表している。
【０１３０】
図１１の上の図は、時刻nの第nフレーム乃至時刻n+5の第n+5フレームのそれぞれの受光画像上の入力部分（図中、白丸で表す）を示している。また、図１１の下の図は、第nフレーム乃至第n+5フレームのそれぞれに出力されるターゲットとイベントの情報を示している。
【０１３１】
図１１の上の図は、例えば、ユーザが、時刻nにおいて、１本の指で、入出力ディスプレイ１３２の表示画面に対する近接または接触を開始し、その後、時刻nからn+4までの間、入出力ディスプレイ１３２の表示画面に対する近接または接触をし続けながら、第n+2フレームで、表示画面に近接または接触している位置を、左から右方向に移動することを開始し、第n+4フレームで、その移動を停止して、時刻n+5において、入出力ディスプレイ１３２の表示画面に対する近接および接触を解除した場合に得られる入力部分#0を表している。
【０１３２】
すなわち、第nフレームでは、ユーザが入出力ディスプレイ１３２の表示画面に対する近接または接触を開始することにより、図１１の上の図に示すように、入力部分#0が新たに出現している。
【０１３３】
この場合、第nフレームの入力部分#0について、新たなターゲット#0が生成される。すなわち、第nフレームでは、図１１の下の図に示すように、ターゲットIDが0で、第nフレームの入力部分#0の位置情報（代表座標）等のターゲットID以外のターゲット属性（以下、ターゲット関連情報INFOという）を有する新たなターゲット#0が生成される。
【０１３４】
なお、ターゲットの実体は、ターゲット属性を記憶する、メモリ等に確保される記憶領域である。
【０１３５】
第nフレームでは、新たなターゲット#0が生成されたことに対応して、イベントが生成される。すなわち、第nフレームでは、図１１の下の図に示すように、イベントを識別する識別情報であるイベントIDが0で、イベントの種類を表すイベントタイプTypeが新たなターゲットの生成を表すCreateであり、イベントが状態を表すターゲットを特定する特定情報tidが、ターゲット#0のターゲットIDの0であるイベント属性を有する新たなイベント#0が生成される。
【０１３６】
なお、イベントタイプTypeが新たなターゲットの生成を表すCreateであるイベントが、イベント「生成」である。
【０１３７】
このように、イベントは、イベントが状態を表すターゲットを特定する特定情報tidを、イベント属性の１つとして有するので、その特定情報tidによって、イベントが状態を表すターゲットを特定することができる。
【０１３８】
なお、イベントの実体は、イベント属性を記憶する、メモリ等に確保される記憶領域である。
【０１３９】
次に、第n+1フレームでは、図１１の上の図に示すように、入力部分#0が移動せずに、そのまま存在している。
【０１４０】
この場合、その１フレーム前の第nフレームのターゲット#0に、第n+1フレームの入力部分#0が統合される。その結果、第n+1フレームでは、ターゲット#0は、図１１の下の図に示すように、ターゲット関連情報INFOが、第n+1フレームの入力部分の位置情報等で更新された第nフレームのターゲット#0、つまり、ターゲットIDが0のままで、第n+1フレームの入力部分#0の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１４１】
第n+2フレームでは、図１１の上の図に示すように、入力部分#0が移動を開始している。
【０１４２】
この場合、その１フレーム前の第n+1フレームのターゲット#0に、第n+2フレームの入力部分#0が統合される。その結果、第n+2フレームでは、ターゲット#0は、図１１の下の図に示すように、ターゲット関連情報INFOが、第n+2フレームの入力部分#0の位置情報等で更新された第n+1フレームのターゲット、つまり、ターゲットIDが0のままで、第n+2フレームの入力部分#0の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１４３】
さらに、第n+2フレームでは、ターゲット#0に統合された入力部分#0の移動が開始されたこと、したがって、ターゲット#0の移動が開始されたことに対応して、イベントが生成される。すなわち、第n+2フレームでは、図１１の下の図に示すように、イベントを識別する識別情報であるイベントIDが、第nフレームで生成されたイベントのイベントIDとは異なる1で、イベントタイプTypeがターゲットの移動を表すMoveStartであり、特定情報tidが、移動を開始したターゲット#0のターゲットIDの0であるイベント属性を有する新たなイベント#1が生成される。
【０１４４】
次に、第n+3フレームでは、図１１の上の図に示すように、入力部分#0が移動中である。
【０１４５】
この場合、その１フレーム前の第n+2フレームのターゲット#0に、第n+3フレームの入力部分#0が統合される。その結果、第n+3フレームでは、ターゲット#0は、図１１の下の図に示すように、ターゲット関連情報INFOが、第n+3フレームの入力部分#0の位置情報等で更新された第n+3フレームのターゲット、つまり、ターゲットIDが0のままで、第n+3フレームの入力部分#0の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１４６】
第n+4フレームでは、図１１の上の図に示すように、入力部分#0が停止している。
【０１４７】
この場合、その１フレーム前の第n+3フレームのターゲット#0に、第n+4フレームの入力部分#0が統合される。その結果、第n+4フレームでは、ターゲット#0は、図１１の下の図に示すように、ターゲット関連情報INFOが、第n+4フレームの入力部分#0の位置情報等で更新された第n+3フレームのターゲット、つまり、ターゲットIDが0のままで、第n+4フレームの入力部分#0の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１４８】
さらに、第n+4フレームでは、ターゲット#0に統合された入力部分#0の移動が終了されたこと、したがって、ターゲット#0の移動が終了されたことに対応して、イベントが生成される。すなわち、第n+4フレームでは、図１１の下の図に示すように、イベントを識別する識別情報であるイベントIDが、第nフレームまたは第n+2フレームで生成されたイベントのいずれのイベントIDとも異なる2で、イベントタイプTypeがターゲットの停止を表すMoveStopであり、特定情報tidが、移動を終了したターゲット#0のターゲットIDの0であるイベント属性を有する新たなイベント#2が生成される。
【０１４９】
第n+5フレームでは、ユーザが入出力ディスプレイ１３２の表示画面に対する指の近接および接触を解除することにより、図１１の上の図に示すように、入力部分#0が消滅している。
【０１５０】
この場合、第n+5フレームでは、ターゲット#0が削除される。
【０１５１】
さらに、第n+5フレームでは、入力部分#0が消滅したこと、したがって、ターゲット#0が削除されたことに対応して、イベントが生成される。すなわち、第n+5フレームでは、図１１の下の図に示すように、イベントを識別する識別情報であるイベントIDが、第nフレーム、第n+2フレーム、または第n+4フレームで生成されたイベントのいずれのイベントIDとも異なる3で、イベントタイプTypeがターゲットの削除を表すDeleteであり、特定情報tidが、削除されたターゲット#0のターゲットIDの0であるイベント属性を有する新たなイベント#3が生成される。
【０１５２】
なお、イベントタイプTypeがターゲットの削除を表すDeleteであるイベントが、イベント「削除」である。
【０１５３】
図１２は、生成部１３５から出力されるターゲットとイベントの情報の他の例を表している。
【０１５４】
図１２の上の図は、時刻nの第nフレーム乃至時刻n+5の第n+5フレームのそれぞれの受光画像上の入力部分（図中、白丸で表す）を示している。図１２の下の図は、第nフレーム乃至第n+5フレームのそれぞれに出力されるターゲットとイベントの情報を示している。
【０１５５】
図１２は、例えば、ユーザが、時刻nにおいて、ある１本の指で、入出力ディスプレイ１３２の表示画面に対する近接または接触を開始し、その後、時刻nからn+4までの間、入出力ディスプレイ１３２の表示画面に対する近接または接触をし続けながら、第n+2フレームで、表示画面に近接または接触している位置を、左から右方向に移動することを開始し、第n+4フレームで、その移動を停止して、時刻n+5において、入出力ディスプレイ１３２の表示画面に対する近接および接触を解除した場合に得られる入力部分を表している。
【０１５６】
また、図１２は、ユーザが、時刻n+1において、他の１本の指で、入出力ディスプレイ１３２の表示画面に対する近接または接触を開始し、その後、時刻n+1からn+3までの間、入出力ディスプレイ１３２の表示画面に対する近接または接触をし続けながら、第n+2フレームで、表示画面に近接または接触している位置を、右から左方向に移動することを開始し、第n+3フレームで、その移動を停止して、時刻n+4において、入出力ディスプレイ１３２の表示画面に対する近接および接触を解除した場合に得られる入力部分を表している。
【０１５７】
すなわち、第nフレームでは、ユーザが、ある１本の指で、入出力ディスプレイ１３２の表示画面に対する近接または接触を開始することにより、図１２の上の図に示すように、入力部分#0が新たに出現している。
【０１５８】
この場合、第nフレームの入力部分#0について、図１１の場合と同様に新たなターゲット#0が生成される。すなわち、第nフレームでは、図１２の下の図に示すように、ターゲットIDが0で、ターゲット関連情報INFOが、第nフレームの入力部分#0の位置情報等になっているターゲット属性を有する新たなターゲット#0が生成される。
【０１５９】
さらに、第nフレームでは、新たなターゲット#0が生成されたことに対応して、図１１の場合と同様に、イベントが生成される。すなわち、第nフレームでは、図１２の下の図に示すように、イベントIDが0で、イベントタイプTypeが新たなターゲットの生成を表すCreateであり、特定情報tidがターゲット#0のターゲットIDの0であるイベント属性を有する新たなイベント#0が生成される。
【０１６０】
次に、第n+1フレームでは、図１２の上の図に示すように、入力部分#0が移動せずに、そのまま存在している。
【０１６１】
この場合、その１フレーム前の第nフレームのターゲット#0に、第n+1フレームの入力部分#0が統合される。その結果、第n+1フレームでは、ターゲット#0は、図１２の下の図に示すように、ターゲット関連情報INFOが、第n+1フレームの入力部分#0の位置情報等で更新された第nフレームのターゲット#0、つまり、ターゲットIDが0のままで、第n+1フレームの入力部分#0の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１６２】
また、第n+1フレームでは、ユーザが、他の１本の指で、入出力ディスプレイ１３２の表示画面に対する近接または接触を開始することにより、図１２の上の図に示すように、他の入力部分#1が新たに出現している。
【０１６３】
この場合、第n+1フレームの新たな入力部分#1について、新たなターゲット#1が生成される。すなわち、第n+1フレームでは、図１２の下の図に示すように、ターゲットIDが、既に存在するターゲット#0のターゲットIDの0とは異なる1で、ターゲット関連情報INFOが、第n+1フレームの新たな入力部分#1の位置情報等になっているターゲット属性を有する新たなターゲット#1が生成される。
【０１６４】
さらに、第n+1フレームでは、新たなターゲット#0が生成されたことに対応して、イベントが生成される。すなわち、第n+1フレームでは、図１２の下の図に示すように、イベントIDが、第nフレームで生成されたイベントのイベントIDの0とは異なる1で、イベントタイプTypeが新たなターゲットの生成を表すCreateであり、特定情報tidがターゲット#1のターゲットIDの1であるイベント属性を有する新たなイベント#1が生成される。
【０１６５】
第n+2フレームでは、図１２の上の図に示すように、入力部分#0と#1が移動を開始している。
【０１６６】
この場合、その１フレーム前の第n+1フレームのターゲット#0に、第n+2フレームの入力部分#0が統合される。その結果、第n+2フレームでは、ターゲット#0は、図１２の下の図に示すように、ターゲット関連情報INFOが、第n+2フレームの入力部分#0の位置情報等で更新された第n+1フレームのターゲット、つまり、ターゲットIDが0のままで、第n+2フレームの入力部分#0の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１６７】
同様に、第n+1フレームのターゲット#1に、第n+2フレームの入力部分#1が統合される。その結果、第n+2フレームでは、ターゲット#1は、図１２の下の図に示すように、ターゲット関連情報INFOが、第n+2フレームの入力部分#1の位置情報等で更新された第n+1フレームのターゲット、つまり、ターゲットIDが1のままで、第n+2フレームの入力部分#1の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１６８】
また、第n+2フレームでは、ターゲット#0に統合された入力部分#0の移動が開始されたこと、したがって、ターゲット#0の移動が開始されたことに対応して、イベントが生成される。すなわち、第n+2フレームでは、図１２の下の図に示すように、イベントを識別する識別情報であるイベントIDが、いままでに生成されたイベント#0及び#1のイベントとは異なる2で、イベントタイプTypeがターゲットの移動を表すMoveStartであり、特定情報tidが、移動を開始したターゲット#0のターゲットIDの0であるイベント属性を有する新たなイベント#2が生成される。
【０１６９】
同様に、第n+2フレームでは、ターゲット#1に統合された入力部分#1の移動が開始されたこと、したがって、ターゲット#1の移動が開始されたことに対応して、イベントが生成される。すなわち、第n+2フレームでは、図１２の下の図に示すように、イベントを識別する識別情報であるイベントIDが、いままでに生成されたイベント#0乃至#2のイベントIDとは異なる3で、イベントタイプTypeがターゲットの移動を表すMoveStartであり、特定情報tidが、移動を開始したターゲット#1のターゲットIDの1であるイベント属性を有する新たなイベント#3が生成される。
【０１７０】
次に、第n+3フレームでは、図１２の上の図に示すように、入力部分#0が移動中である。
【０１７１】
この場合、その１フレーム前の第n+2フレームのターゲット#0に、第n+3フレームの入力部分#0が統合される。その結果、第n+3フレームでは、ターゲット#0は、図１２の下の図に示すように、ターゲット関連情報INFOが、第n+3フレームの入力部分#0の位置情報等で更新された第n+3フレームのターゲット、つまり、ターゲットIDが0のままで、第n+3フレームの入力部分#0の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１７２】
また、第n+3フレームでは、入力部分#1が停止している。
【０１７３】
この場合、その１フレーム前の第n+2フレームのターゲット#1に、第n+3フレームの入力部分#1が統合される。その結果、第n+3フレームでは、ターゲット#1は、図１２の下の図に示すように、ターゲット関連情報INFOが、第n+3フレームの入力部分#1の位置情報等で更新された第n+3フレームのターゲット、つまり、ターゲットIDが1のままで、第n+3フレームの入力部分#1の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１７４】
さらに、第n+3フレームでは、ターゲット#1に統合された入力部分#1の移動が終了されたこと、したがって、ターゲット#1の移動が終了されたことに対応して、イベントが生成される。すなわち、第n+3フレームでは、図１２の下の図に示すように、イベントを識別する識別情報であるイベントIDが、いままでに生成されたイベント#0乃至#3のイベントIDとは異なるとは異なる4で、イベントタイプTypeがターゲットの停止を表すMoveStopであり、特定情報tidが、移動を終了したターゲット#1のターゲットIDの1であるイベント属性を有する新たなイベント#4が生成される。
【０１７５】
次に、第n+4フレームでは、ユーザが、指の近接および接触を解除することにより、図１２の上の図に示すように、入力部分#1が消滅している。
【０１７６】
この場合、第n+4フレームでは、ターゲット#1が削除される。
【０１７７】
また、第n+4フレームでは、図１２の上の図に示すように、入力部分#0が停止している。
【０１７８】
この場合、その１フレーム前の第n+3フレームのターゲット#0に、第n+4フレームの入力部分#0が統合される。その結果、第n+4フレームでは、ターゲット#0は、図１２の下の図に示すように、ターゲット関連情報INFOが、第n+4フレームの入力部分#0の位置情報等で更新された第n+4フレームのターゲット、つまり、ターゲットIDが0のままで、第n+4フレームの入力部分#0の位置情報等をターゲット関連情報INFOとして有するターゲットとなる。
【０１７９】
また、第n+4フレームでは、ターゲット#0に統合された入力部分#0の移動が終了されたこと、したがって、ターゲット#0の移動が終了されたことに対応して、イベントが生成される。すなわち、第n+4フレームでは、図１２の下の図に示すように、イベントを識別する識別情報であるイベントIDが、いままでに生成されたイベント#0乃至#4のイベントとは異なる5で、イベントタイプTypeがターゲットの停止を表すMoveStopであり、特定情報tidが、移動を終了したターゲット#0のターゲットIDの0であるイベント属性を有する新たなイベント#5が生成される。
【０１８０】
同様に、第n+4フレームでは、入力部分#1が消滅したこと、したがって、ターゲット#1が削除されたことに対応して、イベントが生成される。すなわち、第n+4フレームでは、図１２の下の図に示すように、イベントを識別する識別情報であるイベントIDが、いままでに生成されたイベント#0乃至#5のイベントIDとは異なる6で、イベントタイプTypeがターゲットの削除を表すDeleteであり、特定情報tidが、削除されたターゲット#1のターゲットIDの1であるイベント属性を有する新たなイベント#6が生成される。
【０１８１】
第n+5フレームでは、ユーザが入出力ディスプレイ１３２の表示画面に対する近接および接触を解除することにより、図１２の上の図に示すように、入力部分#0が消滅している。
【０１８２】
この場合、第n+5フレームでは、ターゲット#0が削除される。
【０１８３】
さらに、第n+5フレームでは、入力部分#0が消滅したこと、したがって、ターゲット#0が削除されたことに対応して、イベントが生成される。すなわち、第n+5フレームでは、図１２の下の図に示すように、イベントを識別する識別情報であるイベントIDが、いままでに生成されたイベント#0乃至#6のイベントIDとは異なる7で、イベントタイプTypeがターゲットの削除を表すDeleteであり、特定情報tidが、削除されたターゲット#0のターゲットIDの0であるイベント属性を有する新たなイベント#7が生成される。
【０１８４】
次に、図１３および図１４を参照して、図４のステップＳ５における認識処理の一例として、イベント「拡大」または「縮小」を認識する拡大縮小の認識処理について説明する。
【０１８５】
例えば、ユーザが表示画面に２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離（間隔）を拡げるか、または狭めるように２本の指を移動して、２本の指の近接および接触を解除した場合に、近接または接触を開始したときの２本の指の間の距離を基準として、２本の指の間の距離の変化量である拡大率または縮小率が所定の閾値以上または以下であるときに、イベント生成部１４２は、イベント「拡大」または「縮小」を発行する。
【０１８６】
ここで、表示画面に対する２本の指の近接または接触を開始したときのフレームを開始フレームという。
【０１８７】
図１３の左の図は、開始フレームの２つのターゲットを示し、図１３の右上の図は、２つのターゲットの間の距離が拡大した場合の第t+1フレームの２つのターゲットを示す。図１３の右下の図は、２つのターゲットの間の距離が縮小した場合の第t+1フレームの２つのターゲットを示す。
【０１８８】
図１３の左の図及び図１３の右上の図では、開始フレームにおいて、ユーザが位置A1と位置B1で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を拡げるように２本の指を移動して、位置A2と位置B2で２本の指の近接および接触を解除した様子が示されている。
【０１８９】
位置A1と位置B1の座標、すなわち、ユーザが指の近接または接触を開始したとき（開始フレーム）の２つのターゲットの代表座標を、それぞれ座標(Xa1, Ya1)、座標(Xb1, Yb1)とするとともに、位置A2と位置B2の座標、すなわち、ユーザが指の近接および接触を解除したときの２つのターゲットの代表座標を、それぞれ座標(Xa2, Ya2)、座標(Xb2, Yb2)とすると、位置A1と位置B1の間の距離d1=√((Xb1−Xa1)2+(Yb1−Ya1)2)を基準とした、位置A2と位置B2の間の距離d2=√((Xb2−Xa2)2+(Yb2−Ya2)2)の拡大率、つまり、２つのターゲットの間の距離の拡大率Eは、E=d2/d1と表される。
【０１９０】
２つのターゲットの間の距離の拡大率Eが所定の閾値以上である場合に、イベント「拡大」が発行される。
【０１９１】
図１３の左の図及び図１３の右下の図では、開始フレームにおいて、ユーザが位置A1と位置B1で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を狭めるように２本の指を移動して、位置A3と位置B3で２本の指の近接および接触を解除した様子が示されている。
【０１９２】
位置A1と位置B1の座標、すなわち、ユーザが指の近接または接触を開始したとき（開始フレーム）の２つのターゲットの代表座標を、それぞれ座標(Xa1, Ya1)、座標(Xb1, Yb1)とするとともに、位置A3と位置B3の座標、すなわち、ユーザが指の近接および接触を解除したときの２つのターゲットの代表座標を、それぞれ座標(Xa3, Ya3)、座標(Xb3, Yb3)とすると、位置A1と位置B1の間の距離d1=√((Xb1−Xa1)2+(Yb1−Ya1)2)を基準とした、位置A3と位置B3の間の距離d3=√((Xb3−Xa3)2+(Yb3−Ya3)2)の縮小率、つまり、２つのターゲットの間の距離の縮小率Rは、R=d3/d1と表される。
【０１９３】
２つのターゲットの間の距離の縮小率Rが所定の閾値以下である場合に、イベント「縮小」が発行される。
【０１９４】
なお、拡大率Eと縮小率Rは、いずれも、第t+1フレームにおける２つのターゲットの間の距離を、開始フレームにおける２つのターゲットの間の距離で除算することで求められる。
【０１９５】
イベント「拡大」またはイベント「縮小」は、イベントID、イベントタイプType、特定情報tidの他、イベントの付加的な情報を表す付加情報、例えば、拡大率Eまたは縮小率R、イベント「拡大」またはイベント「縮小」の始点座標としての開始フレームの２つのターゲットのそれぞれの代表座標である座標(Xa1, Ya1)と座標(Xb1, Yb1)、開始フレームの２つのターゲットの間の中心（以下、指示中心と称する）C1の座標((Xa1＋Xb1)／2,(Ya1＋Yb1)／2)等のイベント属性を有する。
【０１９６】
次に、図１４のフローチャートを参照して、図４のステップＳ５で図１のイベント生成部１４２が行うイベント「拡大」及び「縮小」を認識する処理である拡大縮小の認識処理について説明する。
【０１９７】
なお、拡大縮小の認識処理は、統合処理の後に行われるので、拡大縮小の認識処理の開始時において、統合処理後の第t+1フレームのターゲットとイベントの情報が、既に使用可能な状態になっている。
【０１９８】
ステップＳ８１において、イベント生成部１４２は、２つ目のターゲットに対してイベント「生成」が第t+1フレームで発行されたかを判定する。ステップＳ８１において、２つ目のターゲットに対してイベント「生成」が第t+1フレームで発行されたと判定された場合、処理はステップＳ８２に進む。
【０１９９】
ステップＳ８２において、イベント生成部１４２は、第t+1フレームの２つのターゲットのセットを注目セットとし、注目セットの２つのターゲットのそれぞれの代表座標を、２つのターゲットのそれぞれのターゲットIDと対応付けて、記憶部１４３に記憶させる。
【０２００】
ステップＳ８３において、イベント生成部１４２は、指示中心の座標を記憶する。具体的には、イベント生成部１４２は、注目セットの２つのターゲットの代表座標上の点を結ぶ線分の中点である指示中心の座標を求める。イベント生成部１４２は、求めた指示中心の座標を、２つのターゲットのターゲットIDと対応づけて、記憶部１４３に記憶させる。
【０２０１】
一方、ステップＳ８１において、２つ目以外のターゲットに対してイベント「生成」が第t+1フレームで発行された場合、あるいは、イベント「生成」が第t+1フレームで発行されていない場合、ステップＳ８２およびＳ８３の処理はスキップされ、処理はステップＳ８４に進む。
【０２０２】
ステップＳ８４において、イベント生成部１４２は、注目セットの２つのターゲットが第tフレームで存在し、かつ、注目セットの２つのターゲットのいずれかに対して、イベント「削除」が第t+1フレームで発行されたかを判定する。
【０２０３】
ステップＳ８４において、注目セットが第tフレームで存在し、かつ、注目セットの２つのターゲットのいずれかに対して、イベント「削除」が第t+1フレームで発行されたと判定された場合、ステップＳ８５において、イベント生成部１４２は、記憶部１４３から注目セットの２つのターゲットのそれぞれのターゲットIDと対応付けられた開始フレームの注目セットの２つのターゲットのそれぞれの代表座標を読み出し、注目セットの２つのターゲットのそれぞれの開始フレームと第tフレームの代表座標から、注目セットの２つのターゲットの間の距離の拡大率E（すなわち、縮小率R）を求める。また、イベント生成部１４２は、同時に、記憶していた開始フレームの注目セットの２つのターゲットのそれぞれの代表座標を記憶部１４３から削除する。これにより、記憶部１４３の記憶領域の余計な浪費を防ぐことができる。
【０２０４】
一方、ステップＳ８４において、注目セットが第tフレームで存在しないか、あるいは、注目セットの２つのターゲットのいずれに対しても、イベント「削除」が第t+1フレームで発行されていないと判定された場合、処理は、ステップＳ８５乃至ステップＳ８９をスキップする。そして、拡大縮小の認識処理は終了する。
【０２０５】
ステップＳ８６において、イベント生成部１４２は、ステップＳ８５で求めた注目セットの２つのターゲットの間の距離の拡大率Eが所定の閾値以上であるかを判定する。ステップＳ８６において、ステップＳ８５で求めた注目セットの２つのターゲットの間の距離の拡大率Eが所定の閾値以上であると判定された場合、ステップＳ８７において、イベント生成部１４２は、ステップＳ８５で求めた注目セットの２つのターゲットの間の距離の拡大率Eと、始点座標としての注目セットの２つのターゲットのそれぞれの開始フレームの代表座標を付加情報とするイベント「拡大」を発行する。そして、拡大縮小の認識処理は終了する。
【０２０６】
一方、ステップＳ８６において、ステップＳ８５で求めた注目セットの２つのターゲットの間の距離の拡大率Eが所定の閾値以上でないと判定された場合、ステップＳ８８において、イベント生成部１４２は、注目セットの２つのターゲットの間の距離の縮小率Rが所定の閾値以下であるかを判定する。ステップＳ８８において、注目セットの２つのターゲットの間の距離の縮小率Rが所定の閾値以下であると判定された場合、ステップＳ８９において、イベント生成部１４２は、ステップＳ８５で求めた注目セットの２つのターゲットの間の距離の縮小率Rと、始点座標としての注目セットの２つのターゲットのそれぞれの開始フレームの代表座標を付加情報とするイベント「縮小」を発行する。そして、拡大縮小の認識処理は終了する。
【０２０７】
一方、ステップＳ８８において、縮小率Rが所定の閾値以下でないと判定された場合、拡大縮小の認識処理は終了する。
【０２０８】
開始フレームの２つのターゲットの間の距離を基準とした、第tフレームの２つのターゲットの間の距離の拡大率Eが所定の閾値以上であるかを判定することにより、２つのターゲットの間の距離の拡大率が小さい場合にイベント「拡大」が誤って認識されることが抑制される。また、開始フレームの２つのターゲットの間の距離を基準とした、第tフレームの２つのターゲットの間の距離の縮小率Rが所定の閾値以下であるかを判定することにより、２つのターゲットの間の距離の縮小率が大きい場合にイベント「縮小」が誤って認識されることが抑制される。
【０２０９】
このように、拡大縮小の認識処理を行うことにより、開始フレームの２つのターゲットの間の距離を基準として、第tフレームにおける２つのターゲットの間の距離が所定の閾値以上または以下の拡大率または縮小率で拡大または縮小するというイベントを認識することが可能となる。
【０２１０】
ここで、認識処理により認識されるイベントの他の例について簡単に説明する。
【０２１１】
例えば、ユーザが表示画面に指を近接または接触させたまま移動させた場合、すなわち、ターゲットが移動した場合、イベント生成部１４２は、イベント「移動」を発行する。
【０２１２】
また、例えば、ユーザが表示画面に近接または接触させたまま移動させていた指を停止した場合、すなわち、ターゲットが停止した場合、イベント生成部１４２は、イベント「停止」を発行する。
【０２１３】
さらに、例えば、ユーザが表示画面に対する指の近接または接触を開始し、近接または接触を継続しながら指を移動して、指の近接および接触を解除した場合に、近接または接触を開始したときの指の位置と近接および接触を終了したときの指の位置との間の距離が閾値以上であるときに、すなわち、ターゲットが所定の距離以上移動して消滅した場合、イベント生成部１４２は、イベント「投射」を発行する。
【０２１４】
さらに、例えば、ユーザが表示画面に対する２本の指の近接または接触を開始し、近接または接触を継続しながら、表示画面上のある点を中心とした同心円を描くように２本の指を移動して、２本の指の近接および接触を解除した場合に、近接または接触を開始したときの２本の指のそれぞれの表示画面上の位置を結ぶ直線に対して、第tフレームの２本の指のそれぞれの表示画面上の位置を結ぶ直線が回転する回転角の絶対値が所定の閾値以上であるときに、すなわち、２つのターゲットが生成されてから消滅するまでの間にターゲット間を結ぶ直線の回転角の絶対値が所定の閾値以上である場合、イベント生成部１４２は、イベント「回転」を発行する。
【０２１５】
また、例えば、ユーザが表示画面に対する３本の指の近接または接触を開始し、近接または接触を継続しながら、表示画面上のある点を中心とした同心円を描くように３本の指を移動して、３本の指の近接および接触を解除した場合に、近接または接触を開始したときの３本の指のうちの２本ずつの指の表示画面上の位置を結ぶ直線に対して、第tフレームの３本の指のうちの同じ２本ずつの指の表示画面上の位置を結ぶ直線が回転する回転角を、３本の指のうちの３通りの２本ずつの指のセット（組）について平均した回転角の絶対値が、所定の閾値以上であるときに、すなわち、３つのターゲットが生成されてから消滅するまでの間に各ターゲット間を結ぶ直線の回転角の平均値の絶対値が所定の閾値以上である場合、イベント生成部１４２は、イベント「３点回転」を発行する。
【０２１６】
次に、図１５のフローチャートを参照して、図４のステップＳ７の表示制御処理の一例として、インデックス画面の表示制御処理について説明する。
【０２１７】
なお、以下、図１６に示される、インデックスデータが格子状に配置されたインデックス画面を例に挙げながら説明する。図１６は、最大表示数が縦４個×横４個の１６個であるインデックス画面の例を示している。インデックス画面２０１Ｖは、インデックスデータが左上隅から縦方向に順に配置されたインデックス画面の例を示し、インデックス画面２０１Ｈは、インデックスデータが左上隅から横方向に配置されたインデックス画面の例を示している。なお、以下、インデックス画面２０１Ｖのように、インデックスデータが左上隅から縦方向に順に配置されたインデックス画面を例に挙げながら説明する。
【０２１８】
ステップＳ１０１において、受信部１７１は、イベント「拡大」または「縮小」が発行されたかを判定する。受信部１７１は、上述した図１４のステップＳ８８において発行されたイベント「拡大」、または、ステップＳ８９において発行されたイベント「縮小」の情報をイベント生成部１４２から受信した場合、イベント「拡大」または「縮小」が発行されたと判定し、処理はステップＳ１０２に進む。
【０２１９】
ステップＳ１０２において、受信部１７１は、インデックス画面が表示されているかを判定する。受信部１７１は、入出力ディスプレイ１３２にインデックス画面が表示されていると判定した場合、ステップＳ１０１において受信したイベント「拡大」または「縮小」の情報を基準データ設定部１７２および表示数設定部１７３に供給し、処理はステップＳ１０３に進む。
【０２２０】
ステップＳ１０３において、基準データ設定部１７２は、指示中心上にインデックスデータが表示されているかを判定する。基準データ設定部１７２は、イベント「拡大」または「縮小」の情報に含まれる指示中心の座標が、表示中のインデックス画面内のインデックスデータのうちのいずれかの表示領域に含まれる場合、指示中心上にインデックスデータが表示されていると判定し、処理はステップＳ１０４に進む。
【０２２１】
ステップＳ１０４において、基準データ設定部１７２は、指示中心上のインデックスデータを基準データに設定する。基準データ設定部１７２は、設定した基準データを示す情報を配置設定部１７４に供給する。
【０２２２】
例えば、図１７の左側に示されるように、最大表示数が縦３個×横３個の９個のインデックス画面２１１が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A11と位置B11で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を距離d11から距離d12に拡げてから２本の指の近接および接触を解除したとき、位置A11の代表座標と位置B11の代表座標を結ぶ線分の中点である指示中心C11上に表示されている８番のインデックスデータが基準データに設定される。
【０２２３】
また、図１８の左側に示されるように、最大表示数が縦２個×横２個の４個のインデックス画面２２１が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A21と位置B21で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を距離d21から距離d22に狭めてから２本の指の近接および接触を解除したとき、位置A21の代表座標と位置B21の代表座標を結ぶ線分の中点である指示中心C21上に表示されている８番のインデックスデータが基準データに設定される。
【０２２４】
その後、処理はステップＳ１０７に進む。
【０２２５】
一方、ステップＳ１０３において、基準データ設定部１７２は、イベント「拡大」または「縮小」の情報に含まれる指示中心の座標が、表示中のインデックス画面内のどのインデックスデータの表示領域にも含まれない場合、指示中心上にインデックスデータが表示されていないと判定し、処理はステップＳ１０５に進む。
【０２２６】
例えば、図１９の左側に示されるように、最大表示数が縦２個×横２個の４個のインデックス画面２３１が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A31と位置B31で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を距離d31から距離d32に狭めてから２本の指の近接および接触を解除したとき、位置A31の代表座標と位置B31の代表座標を結ぶ線分の中点である指示中心C31上にはインデックスデータが表示されていないため、ステップＳ１０３において、指示中心上にインデックスデータが表示されていないと判定される。
【０２２７】
ステップＳ１０５において、基準データ設定部１７２は、最大表示数を変更するかを判定する。例えば、指示中心上にインデックスデータが表示されていなくても、最大表示数を変更するように設定されている場合、基準データ設定部１７２は、最大表示数を変更すると判定し、処理はステップＳ１０６に進む。なお、指示中心上にインデックスデータが表示されていない場合に、最大表示数を変更するか否かは、例えば、設計者の設計方針やユーザの設定などに基づいて決定される。
【０２２８】
ステップＳ１０６において、基準データ設定部１７２は、指示中心から最も近いインデックスデータを基準データに設定する。基準データ設定部１７２は、設定した基準データを示す情報を配置設定部１７４に供給する。
【０２２９】
例えば、上述した図１９の左側のインデックス画面２３１の場合、指示中心C31に最も近い７番のインデックスデータが基準データに設定される。
【０２３０】
ステップＳ１０７において、表示数設定部１７３は、最大表示数を設定する。具体的には、表示数設定部１７３は、現在のインデックス画面の最大表示数、および、イベント「拡大」の情報に示される拡大率またはイベント「縮小」の情報に示される縮小率に基づいて、最大表示数を設定する。
【０２３１】
例えば、表示数設定部１７３は、現在のインデックス画面の最大表示数が縦３個×横３個の９個である場合、拡大率が所定の第１の閾値より大きく所定の第２の閾値以下のとき、最大表示数を縦２個×横２個の４個に設定し、拡大率が第２の閾値より大きいとき、最大表示数を縦１個×横１個の１個に設定し、縮小率が所定の第３の閾値より小さく所定の第４の閾値以上のとき、最大表示数を縦４個×横４個の１６個に設定し、縮小率が第４の閾値より小さいとき、最大表示数を縦５個×横５個の２５個に設定する。すなわち、イベント「拡大」の拡大率またはイベント「縮小」の縮小率が、インデックスデータの増加または減少の指示、および、増加または減少させる度合いを示しており、表示数設定部１７３は、拡大率または縮小率の値に基づいて、最大表示数を設定する。
【０２３２】
なお、拡大率または縮小率の値の大小に関わらず、最大表示数を１段階だけ増加または減少させるようにするようにしてもよい。
【０２３３】
表示数設定部１７３は、設定した最大表示数を示す情報を配置設定部１７４に供給する。
【０２３４】
ステップＳ１０８において、配置設定部１７４は、インデックスデータの配置を設定する。具体的には、配置設定部１７４は、表示数設定部１７３により設定された最大表示数に応じた形式に基づいてインデックスデータを配置するとともに、最大表示数を変更した後のインデックス画面において、基準データが指示中心上または指示中心の近傍に表示されるようにインデックスデータの配置を設定する。
【０２３５】
ここで、具体例として、図２０に示されるように、最大表示数が縦３個×横３個の９個のインデックス画面２４１が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A41と位置B41で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を距離d41から距離d42に拡げてから２本の指の近接および接触を解除し、最大表示数が９個から縦２個×横２個の４個に減らされたたときについて考える。このとき、位置A41の代表座標と位置B41の代表座標を結ぶ線分の中点である指示中心C41上に表示されている９番のインデックスデータが基準データに設定される。
【０２３６】
例えば、配置設定部１７４は、最大表示数を変更した後のインデックス画面において、指示中心を含むインデックスデータの行および列に、基準データが表示されるようにインデックスデータを配置する。すなわち、図２０のインデックス画面２４２のように、指示中心C41上に９番のインデックスデータが表示されるようにインデックスデータが配置される。
【０２３７】
あるいは、例えば、配置設定部１７４は、最大表示数を変更した後のインデックス画面において、指示中心を含むインデックスデータの行または列の少なくとも一方に基準データが表示されるようにインデックスデータを配置する。すなわち、基準データである９番のインデックスデータが、図２０のインデックス画面２４３のように、指示中心C41を含む右端の列上のいずれかの行に表示されるか、図示はしていないが、指示中心C41を含む下端の行上のいずれかの列に表示されるようにインデックスデータが配置される。
【０２３８】
なお、例えば、先に参照した図１７の例においては、元のインデックス画面２１１において基準データに設定された８番のインデックスデータが、最大表示数を縦２個×横２個の４個に減らした後のインデックス画面２１２において、指示中心C11を含む右端の列の一番下の行に表示されるようにインデックスデータが配置される。
【０２３９】
また、例えば、先に参照した図１８の例においては、元のインデックス画面２２１において基準データに設定された８番のインデックスデータが、最大表示数を縦３個×横３個の９個に増やした後のインデックス画面２２２において、指示中心C21上に表示されるようにインデックスデータが配置されるようにインデックスデータが配置される。
【０２４０】
さらに、例えば、先に参照した図１９の例においては、元のインデックス画面２３１において基準データに設定された７番のインデックスデータが、最大表示数を３個×３個の９個に増やした後のインデックス画面２３２において、指示中心C31を含む右端の列の一番上の行に表示されるようにインデックスデータが配置されるようにインデックスデータが配置される。
【０２４１】
なお、最大表示数を変更した後のインデックス画面において、指示中心を含むインデックスデータの行および列に基準データを表示しようとした場合、インデックス画面の先頭の行または列にインデックスデータが表示されない空白のマスができる場合がある。
【０２４２】
例えば、図２１に示されるように、最大表示数が縦４個×横４個の１６個のインデックス画面２５１が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A51と位置B51で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を狭めてから２本の指の近接および接触を解除し、最大表示数が縦５個×横５個の２５個に変更されたときについて考える。このとき、位置A51の代表座標と位置B51の代表座標を結ぶ線分の中点である指示中心C51上に表示されている６番のインデックスデータが基準データに設定されるが、最大表示数を２５個に増やした後のインデックス画面２５２において、指示中心C51を含むインデックスデータの行および列に基準データである６番のインデックスデータを表示しようとした場合、左端の列の先頭に空白のマスができてしまう。この場合、インデックス画面２５２をそのまま表示するようにしてもいいし、あるいは、先頭の空白のマスを埋めるように、インデックスデータを詰めて表示するようにしてもよい。
【０２４３】
インデックスデータを詰めて表示するようにした場合、左端の列に１乃至５番のインデックスデータが表示され、左から２番目の列に６乃至１０番のインデックスデータが表示され、左から３番目の列に１１乃至１５番のインデックスデータが表示され、左から４番目の列に１６乃至２０番のインデックスデータが表示され、右端の列に２１乃至２５番のインデックスデータが表示される（ただし、２４，２５番のインデックスデータがない場合には表示されない）。
【０２４４】
配置設定部１７４は、設定したインデックスデータの配置を示す情報を画像データ生成部１７５に供給する。
【０２４５】
ステップＳ１０９において、画像データ生成部１７５は、インデックス画面の画像データを生成し、インデックス画面の表示制御処理は終了する。具体的には、画像データ生成部１７５は、配置設定部１７４により設定された配置に従ってインデックスデータを再配置した画像データを生成し、表示信号処理部１３１に供給する。これにより、上述した図４のステップＳ８において、最大表示数の変更に伴いインデックスデータが再配置されたインデックス画面が入出力ディスプレイ１３２の表示画面に表示される。
【０２４６】
一方、ステップＳ１０５において、例えば、指示中心上にインデックスデータが表示されていない場合、最大表示数を変更しないように設定されている場合、基準データ設定部１７２は、最大表示数を変更しないと判定し、ステップＳ１０６乃至Ｓ１０９の処理はスキップされ、インデックス画面の表示制御処理は終了する。
【０２４７】
この場合、例えば、図１９の例においては、図内のほぼ中央の下側の矢印により画面遷移が示されるように、インデックス画面２３１がそのまま継続して入出力ディスプレイ１３２の表示画面に表示される。
【０２４８】
また、ステップＳ１０２において、インデックス画面が表示されていないと判定された場合、ステップＳ１０３乃至Ｓ１０９の処理はスキップされ、インデックス画面の表示制御処理は終了する。
【０２４９】
さらに、ステップＳ１０１において、イベント「拡大」または「縮小」が発行されていないと判定された場合、ステップＳ１０２乃至Ｓ１０９の処理はスキップされ、インデックス画面の表示制御処理は終了する。
【０２５０】
このようにして、インデックス画面の最大表示数を変更した後も、変更前に指示中心上または指示中心の近傍に表示されていた所望のインデックスデータを確実に表示することができる。また、最大表示数を変更した後のインデックス画面において、所望のインデックスデータが指示中心上または指示中心の近傍に表示されるので、ユーザは、所望のインデックスデータを迅速に見つけることができる。
【０２５１】
なお、以上の説明では、インデックスデータが縦方向と横方向に同じ数だけ格子上に配置されたインデックス画面を例に挙げたが、もちろん、縦方向と横方向のインデックスデータの数が異なっている場合にも本発明を適用することが可能である。また、インデックスデータが格子状に配置されたインデックス画面以外のインデックス画面についても本発明を適用することが可能である。ここで、図２２乃至図２５を参照して、そのようなインデックス画面の例について説明する。
【０２５２】
図２２および図２３には、インデックスデータを日付毎に分類して表示したインデックス画面の例が示されている。
【０２５３】
図２２のインデックス画面２６１においては、左端には日付が表示されており、より具体的には、６月１１日と６月１２日の日付が表示されている。また、各日付の右側には、その日付に対応するインデックスデータ、例えば、その日に撮影された画像のサムネイルが表示されている。インデックス画面２６１においては、６月１１日の日付の右側に、インデックス番号が１番から６番までのインデックスデータが２行にわたって表示されており、１行目に左から順番に１番から４番までのインデックスデータが横方向に整列されて表示され、２行目には左から順番に５番から６番までのインデックスデータが横方向に整列されて表示されている。また、インデックス画面２６１の６月１２日の日付の右側には、インデックス番号が７番から１３番までのインデックスデータが２行にわたって表示されており、１行目（インデックス画面２６１全体では上から３行目）には左から順番に７番から１０番までのインデックスデータが横方向に整列されて表示され、２行目（インデックス画面２６１全体では上から４行目）には左から順番に１１番から１３番までのインデックスデータが横方向に整列されて表示されている。
【０２５４】
例えば、インデックス画面２６１が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A61と位置B61で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を距離d61から距離d62に狭めてから２本の指の近接および接触を解除したときについて考える。
【０２５５】
このとき、位置A61の代表座標と位置B61の代表座標を結ぶ線分の中点である指示中心C61上に表示されている８番のインデックスデータが基準データに設定される。また、インデックス画面２６１からインデックス画面２６２に入出力ディスプレイ１３２の表示が遷移する。
【０２５６】
インデックス画面２６２においては、インデックス画面２６１と同様に、６月１１日と６月１２日の日付が表示され、日付の右側には、その日付に対応するインデックスデータが表示されている。ただし、インデックス画面２６２においては、インデックス画面２６１と比較して、最大表示数が減少し、インデックスデータの表示サイズが大きくなっている。インデックス画面２６２においては、６月１１日の日付の右側に、インデックス番号が１番から６番までのインデックスデータが２行にわたって表示されており、１行目には左から順番に１番から３番までのインデックスデータが横方向に整列されて表示され、２行目には左から順番に４番から６番までのインデックスデータが横方向に整列されて表示されている。また、インデックス画面２６２の６月１２日の日付の右側には、インデックス番号が７番から９番までのインデックスデータが左から順番に１行分だけ表示されるとともに、指示中心C61上に基準データであるインデックス番号が８番のインデックスデータが表示されている。インデックス画面２６１において表示されていたインデックス番号が１０番から１３番のインデックスデータは、インデックス画面２６２においては表示されていない。
【０２５７】
次に、図２３に示されるように、インデックス画面２６２が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A71と位置B71で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を距離d71から距離d72に狭めてから２本の指の近接および接触を解除したときについて考える。
【０２５８】
このとき、位置A71の代表座標と位置B71の代表座標を結ぶ線分の中点である指示中心C71上に表示されている８番のインデックスデータが基準データに設定される。また、最大表示数が増加するとともに、基準データであるインデックス番号が８番のインデックスデータが指示中心C71上に表示されるように、インデックス画面２６２からインデックス画面２６１と同じ画面であるインデックス画面２６３に入出力ディスプレイ１３２の表示が遷移する。
【０２５９】
図２４および図２５には、インデックスデータが曲名であり、収録されているアルバム毎に各曲名を分類して表示したインデックス画面の例が示されている。
【０２６０】
図２４のインデックス画面２８１においては、アルバム名１およびアルバム名２の２つのアルバム名が画面の左端から表示されている。アルバム名１とアルバム名２の間には、アルバム名１のアルバムに収録されている曲名１乃至曲名５のインデックスデータが縦方向に並べて表示され、アルバム名２の下側には、アルバム名２のアルバムに収録されている曲名１乃至曲名５のインデックスデータが縦方向に並べて表示されている。また、各曲名は、アルバム名の表示が開始される位置よりも右方向にずれた位置から表示が開始されている。
【０２６１】
例えば、インデックス画面２８１が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A81と位置B81で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を距離d81から距離d82に狭めてから２本の指の近接および接触を解除したときについて考える。
【０２６２】
このとき、位置A81の代表座標と位置B81の代表座標を結ぶ線分の中点である指示中心C81上に表示されているアルバム１の曲名２が基準データに設定される。また、インデックス画面２８１からインデックス画面２８２に入出力ディスプレイ１３２の表示が遷移する。
【０２６３】
インデックス画面２８２においては、最大表示数が減少し、各データの文字が拡大されて表示されている。また、基準データであるアルバム１の曲名２が指示中心C81上に表示され、アルバム１の曲名２を中心に、各アルバム名および各曲名がインデックス画面２８１と同じ順序で表示される。従って、インデックス画面２８２において、アルバム名１、および、アルバム名２の曲名１乃至４は表示されなくなり、アルバム１の曲名１乃至５の表示される文字数も短くなる。
【０２６４】
なお、図２４および図２５において、インデックス画面２８２からはみ出している文字は、説明を分かりやすくするために記載しているものであり、実際にはユーザから見えない文字である。
【０２６５】
次に、図２５に示されるように、インデックス画面２８２が入出力ディスプレイ１３２の表示画面に表示されている場合に、ユーザが位置A91と位置B91で２本の指の近接または接触を開始し、近接または接触を継続しながら２本の指の間の距離を距離d91から距離d92に狭めてから２本の指の近接および接触を解除したときについて考える。
【０２６６】
このとき、位置A91の代表座標と位置B91の代表座標を結ぶ線分の中点である指示中心C91上に表示されているアルバム１の曲名２が基準データに設定される。また、最大表示数が増加するとともに、基準データであるアルバム１の曲名２が指示中心C91上に表示されるように、インデックス画面２８２からインデックス画面２８１と同じ画面であるインデックス画面２８３に入出力ディスプレイ１３２の表示が遷移する。
【０２６７】
図２６は、本発明を適用した表示システムの他の一実施の形態の構成例を示すブロック図である。
【０２６８】
図２６の表示システム３０１では、図１における制御部１１２に、入出力パネル１１６の生成部１３５が移動されている。
【０２６９】
すなわち、図２６において、アンテナ３１０、信号処理部３１１、記憶部３１３、操作部３１４、通信部３１５、表示制御部３２１、表示信号処理部３３１、入出力ディスプレイ３３２、光センサ３３２Ａ、受光信号処理部３３３、画像処理部３３４、及び生成部３３５は、図２におけるアンテナ１１０、信号処理部１１１、記憶部１１３、操作部１１４、通信部１１５、表示制御部１２１、表示信号処理部１３１、入出力ディスプレイ１３２、光センサ１３２Ａ、受光信号処理部１３３、画像処理部１３４、及び生成部１３５と同様に構成されるので、表示システム３０１は、図２における表示システム１０１と同様に表示受光制御処理を行うことができる。ただし、図２の生成部１３５の記憶部１４３として、図２６では、記憶部３１３が使用されている。
【０２７０】
図２７は、本発明を適用した表示システムの他の一実施の形態の構成例を示すブロック図である。
【０２７１】
図２７の表示システム４０１では、図１における制御部１１２に、入出力パネル１１６の生成部１３５と画像処理部１３４が移動されている。
【０２７２】
すなわち、図２７において、アンテナ４１０、信号処理部４１１、記憶部４１３、操作部４１４、通信部４１５、表示制御部４２１、表示信号処理部４３１、入出力ディスプレイ４３２、光センサ４３２Ａ、受光信号処理部４３３、画像処理部４３４、及び生成部４３５は、図２におけるアンテナ１１０、信号処理部１１１、記憶部１１３、操作部１１４、通信部１１５、表示制御部１２１、表示信号処理部１３１、入出力ディスプレイ１３２、光センサ１３２Ａ、受光信号処理部１３３、画像処理部１３４、及び生成部１３５と同様に構成されるので、表示システム４０１は、図２における表示システム１０１と同様に表示受光制御処理を行うことができる。
【０２７３】
図２８は、本発明を適用した入出力パネル６０１の外観の構成の例を示している。図２８に示されるように、入出力パネル６０１はフラット型のモジュール形状をしている。入出力パネル６０１においては、例えば、絶縁性の基板６１１上に、液晶素子、薄膜トランジスタ、薄膜容量、受光素子等からなる画素をマトリックス状に集積形成した画素アレイ部６１３が設けられる。また、この画素アレイ部６１３を囲むように接着剤を配し、ガラス等の対向基板６１２が貼り付けられる。さらに、入出力パネル６０１には、外部から画素アレイ部６１３への信号等を入出力するためのコネクタ６１４Ａおよび６１４Ｂが設けられる。コネクタ６１４Ａおよび６１４Ｂは、例えば、ＦＰＣ（フレキシブルプリントサーキット）により構成される。
【０２７４】
以上に説明した本発明における入出力パネルは、例えば、フラットパネル形状を有し、例えば、デジタルカメラ、ノート型パーソナルコンピュータ、携帯電話機、ビデオカメラなど、電子機器に入力された、または、電子機器内で生成した映像信号を、画像または映像として表示するあらゆる分野の電子機器のディスプレイに適用することが可能である。以下この様な入出力パネルが適用された電子機器の例を示す。
【０２７５】
図２９には、本発明が適用されたテレビジョン受像機の一実施の形態が示されている。図２９のテレビジョン受像機６２１は、フロントパネル６３１Ａ、フィルターガラス６３１Ｂ等から構成される映像表示部６３１を含み、例えば、映像表示部６３１に本発明の入出力パネルが適用される。
【０２７６】
図３０には、本発明が適用されたデジタルカメラの一実施の形態が示されており、上が正面図で下が背面図である。図３０のデジタルカメラ６４１は、撮像レンズ、フラッシュ用の発光部６５１、表示部６５２、コントロールスイッチ、メニュースイッチ、シャッター６５３等を含み、例えば、表示部６５２に本発明の入出力パネルが適用される。
【０２７７】
図３１には、本発明が適用されたノート型パーソナルコンピュータの一実施の形態が示されている。図３１のパーソナルコンピュータ６６１の本体部６６１Ａは、文字等を入力するとき操作されるキーボード６７１を含み、本体カバー部６６１Ｂは、画像を表示する表示部６７２を含んでいる。例えば、表示部６７２に本発明の入出力パネルが適用される。
【０２７８】
図３２には、本発明が適用された携帯端末装置の一実施の形態が示されており、左側の図が携帯端末装置を開いた状態を表し、右側の図が携帯端末装置を閉じた状態を表している。図３２の携帯端末装置６８１は、上側筐体６８１Ａと下側筐体６８１Ｂがヒンジ部６８１により連結され、ディスプレイ６９１、サブディスプレイ６９２、ピクチャーライト６９３、カメラ６９４等を含む。例えば、ディスプレイ６９１やサブディスプレイ６９２に本発明の入出力パネルが適用される。
【０２７９】
図３３には、本発明が適用されたビデオカメラの一実施の形態が示されている。図２５のビデオカメラ７０１は、本体部７１１、前方を向いた側面に被写体撮影用のレンズ７１２、撮影時のスタート／ストップスイッチ７１３、モニタ７１４等を含み、例えば、モニタ７１４に本発明の入出力パネルが適用される。
【０２８０】
なお、本発明は、この他にも、例えば、音楽プレイヤー、ビデオレコーダなど、インデックス画面を表示する装置に適用することが可能である。
【０２８１】
なお、以上の説明では、入出力ディスプレイ上の２点を指示し、その２点間の中点を指示中心とする例を示したが、入出力ディスプレイ上の１点を指示中心として指またはペンなどで直接指示するようにしてもよい。この場合、上述したイベント「拡大」の拡大率、または、イベント「縮小」の縮小率に相当する値、すなわち、最大表示数の増加または減少の度合いを示す値を、例えば、ボタン、スイッチ、ポインティングスティック、円盤状のホイールなどの入力手段を用いて入力し、入力された値に基づいて、インデックス画面の最大表示数を設定するようにすることが考えられる。また、これらの入力手段に相当するボタンなどの入力インタフェースを入出力ディスプレイ上に表示するようにしてもよい。
【０２８２】
また、この場合、パネル上で指示される点の数が１つなので、例えば、入出力パネルの代わりにタッチパネルを表示手段として適用することも可能である。図３４は、入出力パネルの代わりにタッチパネルを表示手段として適用した場合の表示システムの一実施の形態を示すブロック図である。なお、図中、図２と対応する部分については下２桁が同じ符号を付してあり、処理が同じ部分に関しては、その説明は繰り返しになるので省略する。
【０２８３】
図３４の表示システム８０１は、アンテナ８１０、信号処理部８１１、制御部８１２、記憶部８１３、操作部８１４、通信部８１５、及び、タッチパネルモジュール付表示パネル８１６から構成される。
【０２８４】
制御部８１２は、表示制御部８２１を含み、表示制御部８２１は、信号処理部８１１から供給される画像データ等をタッチパネルモジュール付表示パネル８１６に供給する。また、表示制御部８２１は、タッチパネルモジュール付表示パネル８１６から供給される点情報、および、操作部８１４から供給される操作信号に基づいて、必要に応じて、画像データを、タッチパネルモジュール付表示パネル８１６のディスプレイ（表示部）８４１に供給することにより、ディスプレイ８４１の表示状態を変更させる等の表示制御を行う。
【０２８５】
この表示制御には、図１５乃至図２５を参照して上述したインデックス画面の表示制御が含まれる。すなわち、表示制御部８２１は、ディスプレイ８４１の表示面全体を覆うように配置されたタッチパネルモジュール８４２上において指示された１点を指示中心とし、操作部８１４からの操作信号に基づいて、最大表示数の増加または減少の度合いを設定し、さらに、インデックス画面の最大表示数を設定し、図１５乃至図２５を参照して上述したインデックス画面の表示制御を行う。
【０２８６】
操作部８１４は、例えば、ボタン、スイッチ、ポインティングスティック、円盤状のホイール等から構成される。操作部８１４は、ユーザによって操作されることにより、その操作に対応する操作信号を生成し、制御部８１２に供給する。
【０２８７】
タッチパネルモジュール付表示パネル８１６は、制御部８１２から供給される画像データに対応する画像をディスプレイ８４１に表示するとともに、タッチパネルモジュール８４２に指等の物体を接触させることにより入力される点情報を制御部８１２に供給する。
【０２８８】
タッチパネルモジュール付表示パネル８１６は、表示信号処理部８３１、ディスプレイ８４１、および、タッチパネルモジュール８４２から構成される。
【０２８９】
表示信号処理部８３１は、制御部８１２から供給される画像データに対して、ディスプレイ８４１に表示するための処理を施し、その結果得られる画像データを、ディスプレイ８４１に供給する。
【０２９０】
ディスプレイ８４１は、表示信号処理部８３１から供給される画像データに対応する画像を表示する。
【０２９１】
タッチパネルモジュール８４２は、指等の物体が接触している部分（領域）を、外部からの入力があった入力部分として検出し、その入力部分の点情報を制御部８１２に供給する。
【０２９２】
図３５および図３６は、タッチパネルモジュール付表示パネル８１６が抵抗膜式タッチパネルにより構成される場合のタッチパネルモジュール８４２の構成の例を示す図である。
【０２９３】
このタッチパネルモジュール８４２は、上部基板８６１ａおよび上部透明電極８６２ａから構成される上部パネル８５１Ａ、並びに、下部基板８６１ｂおよび下部透明電極８６２ｂから構成される下部パネル８５１Ｂから構成される。上部パネル８５１Ａと下部パネル８５１Ｂの間には非常に小さなスペーサ８７１が挟まれており、上部パネル８５１Ａ及び下部パネル８５１Ｂの対面する表面には、縦及び横の直交するITO（Indium Tin Oxide）の抵抗膜による上部透明電極８６２ａ、下部透明電極８６２ｂがそれぞれ設けられている。
【０２９４】
通常状態ではスペーサ８７１によって上部透明電極８６２ａと下部透明電極８６２ｂが分離されているため電気は流れていない。一方、図３５に示すように、ペン先などで上部パネル８５１Ａを押下すると、その圧力で上部透明電極８６２ａと下部透明電極８６２ｂが接触して通電する。このとき、導通点を境に上部透明電極８６２ａ及び下部透明電極８６２ｂ上で生じる各抵抗値に基づく電圧比を測定することで、導通点のタッチパネル上の位置が検出される。
【０２９５】
図３６は、抵抗膜式タッチパネルの構造及び動作回路を簡略化して例示した図である。上部透明電極８６２ａの抵抗膜によってＸ方向、下部透明電極８６２ｂの抵抗膜によってＹ方向の分圧比が測定されており、上部パネル８５１Ａの点Ａ（入力点）が押下されると、その圧力で上部透明電極８６２ａと下部透明電極８６２ｂが接触して通電する。
【０２９６】
このとき、上部透明電極８６２ａにおいて、点Ａ（入力点）を境に生じる抵抗値Ｒｘ１とＲｘ２に応じた直流電圧Ｖｘ１及びＶｘ２が測定され、下部透明電極８６２ｂにおいて、点Ａ（入力点）を境に生じる抵抗値Ｒｙ１とＲｙ２に応じた直流電圧Ｖｙ１及びＶｙ２が測定される。
【０２９７】
そして、測定した上部透明電極８６２ａ（Ｘ方向）の電圧比Ｖｘ１／Ｖｘ２、下部透明電極８６２ｂ（Ｙ方向）の電圧比Ｖｙ１／Ｖｙ２によって、タッチパネル上の点Ａ（入力点）の位置を検出することができる。
【０２９８】
さらに、例えば、入出力パネルやタッチパネルの代わりに、パネル上の点に対する入力をできない表示手段を適用して、マウス、トラックパッド、トラックボールなどのポインティングデバイスを用いて画面内に表示されるカーソルなどにより指示中心を指示するようすることも可能である。
【０２９９】
また、本発明の実施の形態においては、最大表示数を増減する前のインデックスデータの配置を記憶しておき、最大表示数を変更した後に最大表示数を元に戻した場合、最大表示数を増減する前と同様にインデックスデータを配置して表示するようにしてもよい。
【０３００】
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【０３０１】
なお、本明細書において、プログラム記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【０３０２】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【０３０３】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【図面の簡単な説明】
【０３０４】
【図１】従来のインデックス画面の例を示す図である。
【図２】本発明を適用した表示システムの一実施の形態の構成を示すブロック図である。
【図３】表示制御部の機能的構成の一部の例を示すブロック図である。
【図４】表示システムによる表示受光制御処理を説明するフローチャートである。
【図５】表示受光制御処理を行うソフトウエアの構成を説明する図である。
【図６】時刻tの第tフレームに存在するターゲットを表す図である。
【図７】第t+1フレームの統合処理前の入力部分を表す図である。
【図８】第tフレームと第t+1フレームとを重ね合わせた状態を表す図である。
【図９】受光画像を示す図である。
【図１０】図４のステップＳ４の統合処理を説明するフローチャートである。
【図１１】生成部から出力されるターゲットとイベントの情報の例を表す図である。
【図１２】生成部から出力されるターゲットとイベントの情報の他の例を表す図である。
【図１３】拡大縮小の認識処理を説明するための図である。
【図１４】図４のステップＳ５の認識処理としての拡大縮小の認識処理を説明するフローチャートである。
【図１５】図４のステップＳ７の表示制御処理としてのインデックス画面の表示制御処理を説明するフローチャートである。
【図１６】インデックス画面の例を示す図である。
【図１７】インデックス画面の画面遷移の例を示す図である。
【図１８】インデックス画面の画面遷移の他の例を示す図である。
【図１９】インデックス画面の画面遷移のさらに他の例を示す図である。
【図２０】インデックス画面の画面遷移のさらに他の例を示す図である。
【図２１】インデックス画面の画面遷移のさらに他の例を示す図である。
【図２２】インデックス画面の第２の例の画面遷移の例を示す図である。
【図２３】インデックス画面の第２の例の画面遷移の他の例を示す図である。
【図２４】インデックス画面の第３の例の画面遷移の例を示す図である。
【図２５】インデックス画面の第３の例の画面遷移の他の例を示す図である。
【図２６】本発明を適用した表示システムの他の一実施の形態の構成を示すブロック図である。
【図２７】本発明を適用した表示システムの他の一実施の形態の構成を示すブロック図である。
【図２８】本発明にかかる入出力パネルのモジュール構成を示す平面図である。
【図２９】本発明にかかる入出力パネルを備えたテレビジョンセットを示す斜視図である。
【図３０】本発明にかかる入出力パネルを備えたデジタルカメラを示す斜視図である。
【図３１】本発明にかかる入出力パネルを備えたノート型パーソナルコンピュータを示す斜視図である。
【図３２】本発明にかかる入出力パネルを備えた携帯端末装置を示す模式図である。
【図３３】本発明にかかる入出力パネルを備えたビデオカメラを示す斜視図である。
【図３４】本発明を適用した表示システムの他の一実施の形態の構成を示すブロック図である。
【図３５】抵抗膜式タッチパネルの構造を説明するための説明図である。
【図３６】抵抗膜式タッチパネルの動作原理を説明するための模式図及び回路図である。
【符号の説明】
【０３０５】
１０１  表示システム，  １１６  入出力パネル，  １２１  表示制御部，  １３２  入出力ディスプレイ，  １３２Ａ  光センサ，  １６１  インデックス表示制御部，  １７１  受信部，  １７２  基準データ設定部，  １７３  表示数設定部，  １７４  配置設定部，  １７５  画像データ生成部，  ３０１  表示システム，  ３１６  入出力パネル，  ３２１  表示制御部，  ３３２  入出力ディスプレイ，  ３３２Ａ  光センサ，  ４０１  表示システム，  ４１６  入出力パネル，  ４２１  表示制御部，  ４３２  入出力ディスプレイ，  ４３２Ａ  光センサ，  ６０１  入出力パネル，  ６２１  テレビジョン受像機，  ６３１  映像表示部，  ６４１  デジタルカメラ，  ６５２  表示部，  ６６１  パーソナルコンピュータ，  ６７２  表示部，  ６８１  携帯端末装置，  ６９１  ディスプレイ，  ６９２  サブディスプレイ，  ７０１  ビデオカメラ，  ７１４  モニタ，  ８０１  表示システム，  ８１６  タッチパネルモジュール付表示パネル，  ８２１  表示制御部，  ８４１  ディスプレイ，  ８４２  タッチパネルモジュール
【図１】
2008299474.tif 000003
【図２】
2008299474.tif 000004
【図３】
2008299474.tif 000005
【図４】
2008299474.tif 000006
【図５】
2008299474.tif 000007
【図６】
2008299474.tif 000008
【図７】
2008299474.tif 000009
【図８】
2008299474.tif 000010
【図９】
2008299474.tif 000011
【図１０】
2008299474.tif 000012
【図１１】
2008299474.tif 000013
【図１２】
2008299474.tif 000014
【図１３】
2008299474.tif 000015
【図１４】
2008299474.tif 000016
【図１５】
2008299474.tif 000017
【図１６】
2008299474.tif 000018
【図１７】
2008299474.tif 000019
【図１８】
2008299474.tif 000020
【図１９】
2008299474.tif 000021
【図２０】
2008299474.tif 000022
【図２１】
2008299474.tif 000023
【図２２】
2008299474.tif 000024
【図２３】
2008299474.tif 000025
【図２４】
2008299474.tif 000026
【図２５】
2008299474.tif 000027
【図２６】
2008299474.tif 000028
【図２７】
2008299474.tif 000029
【図２８】
2008299474.tif 000030
【図２９】
2008299474.tif 000031
【図３０】
2008299474.tif 000032
【図３１】
2008299474.tif 000033
【図３２】
2008299474.tif 000034
【図３３】
2008299474.tif 000035
【図３４】
2008299474.tif 000036
【図３５】
2008299474.tif 000037
【図３６】
2008299474.tif 000038