(57)【特許請求の範囲】
【請求項１】
ペンで操作する映像表示装置であって、
グラフィカルユーザインタフェースを表示する表示手段と、
前記ペンの映像表示装置の表示面における位置を検出するペン位置検出手段と、
前記ペンのペン先の映像表示装置の表示面への接触の有無と、前記ペン先が接触する面に対する傾きを含むペン状態情報の入力手段と、を備え、
前記ペン位置検出手段が検出したペン位置情報により前記グラフィカルユーザインタフェースを特定し、
前記ペン状態情報に応じて前記グラフィカルユーザインタフェースの表示内容を変更し、
前記ペン状態情報の前記ペン先が接触する面に対する傾きの時間変化から標準のペン傾きを求め、入力された前記ペン状態情報の前記ペン先が接触する面に対する傾きが前記標準のペン傾きと異なる場合に、前記グラフィカルユーザインタフェースの表示内容を変更することを特徴とする映像表示装置。
【請求項２】
ペンで操作する映像表示装置であって、
グラフィカルユーザインタフェースを表示する表示手段と、
前記ペンの映像表示装置の表示面における位置を検出するペン位置検出手段と、
前記ペンのペン先の映像表示装置の表示面への接触の有無と、ユーザの前記ペンを把持する力を含むペン状態情報の入力手段と、を備え、
前記ペン位置検出手段が検出したペン位置情報により前記グラフィカルユーザインタフェースを特定し、前記ペン状態情報に応じて前記グラフィカルユーザインタフェースの表示内容を変更することを特徴とする映像表示装置。
【請求項３】
請求項２に記載の映像表示装置において、
前記ペン状態情報の前記ペンを把持する力が所定の値以上のときに、
前記ペン位置検出手段が検出したペン位置情報により特定されるグラフィック要素を移動することを特徴とする映像表示装置。
【請求項４】
請求項２に記載の映像表示装置において、
前記ペン状態情報の前記ペンを把持する力が検出できたときには、前記ペン位置検出手段が検出したペン位置情報により軌跡表示をおこない、前記ペン状態情報の前記ペンを把持する力が検出できなかったときには、前記ペン位置検出手段が検出したペン位置情報によりグラフィック要素の選択指示をおこなうことを特徴とする映像表示装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像をホワイトボード等に投写するとともに、ホワイトボードに筆記入力をおこなえる映像表示装置に係り、電子ペンによる操作指示をおこなう映像表示装置およびその映像操作方法に関する。
【背景技術】
【０００２】
近年、モニタの大画面化やプロジェクター装置の普及により、筆記用具で白板に文字や図形を記入するのと同じ形態で、データ表示した表示面にコンピュータによる加筆をおこなえる電子ペンが提供されている。この電子ペンには、軌跡情報をコンピューターに通知するとともに、電子ペンの筆圧や傾き等の操作情報をコンピュータに通知することが必要となる。
【０００３】
例えば、特許文献１に電子ペンの一例が示されている。詳しくは、特許文献１に開示される電子ペンは、使用者に把持される略筒状の筐体と、前記筐体の先端側に形成されたペン先部と、前記ペン先部の三次元的変位を検出して、前記ペン先部の筆圧または傾きを算出する検出手段と、を備えた構成であることが開示されている。
【０００４】
そして、電子ペンと、表示装置のタッチパネル面に前記電子ペンによりタッチされた座標位置を検出する座標位置検出装置と、前記座標位置検出装置の座標位置の検出結果に応じた情報を前記表示装置に表示させる表示制御装置とからなるタッチパネル装置において、前記電子ペンは、使用者に把持される略筒状の筐体と、前記筐体の先端側に形成されたペン先部と、前記ペン先部の三次元的変位を検出して、前記電子ペンの筆圧を算出する検出手段と、を含み、前記表示制御装置は、前記検出手段で算出された前記電子ペンの筆圧に応じて、前記表示装置に表示する情報の表示態様を変更することが開示されている。
【０００５】
上記の電子ペンを入力装置とした電子ボードシステムが、例えば、特許文献２に示されている。特許文献２に開示される電子ボードシステムでは、ボードに座標検出装置が取り付けられ電子ペンのボード上のペン位置情報を検出し、ペン先のスイッチ情報とペン位置情報から、ボードに筆記データを投影している。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開２００６−９２４１０号公報
【特許文献２】特開２０１０−７９８３４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
前記特許文献１に記載の電子ペンによれば、電子ペンの筆圧やペン軸の傾きを検出できるようになったが、特許文献２に開示される電子ボードシステム等の表示装置では、従来の筆記用具の筆記機能を電子化にすぎず、新たな入力装置の機能を提供するまでには到っていない。
【０００８】
本発明の目的は、筆圧検出や傾き検出の状態検出をより高精度検出可能とした電子ペンを利用して、筆圧や傾きのペンの状態検出をおこなって、これを基により使い勝手の向上や新たな使用方法をもつ映像表示装置を提供することにある。
【課題を解決するための手段】
【０００９】
上記課題を解決するために、本発明のペンで操作する映像表示装置は、グラフィカルユーザインタフェースを表示する表示手段と、前記ペンの映像表示装置の表示面における位置を検出するペン位置検出手段と、前記ペン先の映像表示装置の表示面への接触の有無と、前記ペン先が接触する面に対する傾きを含むのペン状態情報の入力手段と、を備え、前記ペン位置検出手段が検出したペン位置情報により前記グラフィカルユーザインタフェースを特定し、前記ペン状態情報に応じて前記グラフィカルユーザインタフェースの表示内容を変更するようにした。
【発明の効果】
【００１０】
本発明によれば、ユーザが前記ペン型入力装置を用いてＧＵＩに対して行う、線の描画、線の削除等の操作を、ユーザが円滑に切り替えることができるので、電子ボードシステム等の映像表示装置の操作性の向上効果をもたらす。
【図面の簡単な説明】
【００１１】
【図１】実施例１における映像表示装置をユーザが操作する外観の一例を示す図である。
【図２】実施例１における映像表示装置をユーザが操作する外観の一例を示す図である。
【図３】実施例１における映像表示装置の構成の一例を示す図である。
【図４】実施例１における処理の一例を示す図である。
【図５】実施例１における操作の一例を示す図である。
【図６】実施例１における操作の一例を示す図である。
【図７】実施例１における操作の一例を示す図である。
【図８】実施例１における操作の一例を示す図である。
【図９】実施例１における映像表示装置の構成の一例を示す図である。
【図１０】実施例１における映像表示装置の構成の一例を示す図である。
【図１１】実施例２における操作の一例を示す図である。
【図１２】実施例２における操作の一例を示す図である。
【図１３】実施例２における操作の一例を示す図である。
【図１４】実施例３における操作の一例を示す図である。
【図１５】実施例３における操作の一例を示す図である。
【図１６】実施例３における操作の一例を示す図である。
【図１７】実施例３における操作の一例を示す図である。
【図１８】実施例３における操作の一例を示す図である。
【図１９】実施例４における操作の一例を示す図である。
【図２０】実施例４における操作の一例を示す図である。
【図２１】実施例４における操作の一例を示す図である。
【図２２】実施例５における操作の一例を示す図である。
【図２３】実施例５における操作の一例を示す図である。
【図２４】実施例５における操作の一例を示す図である。
【図２５】実施例の電子ペンの構造例を示す図である。
【図２６】電子ペンの歪検出の処理フロー
【図２７】電子ペンの状態と歪検出値を関係を示す表である。
【発明を実施するための形態】
【００１２】
実施例の説明に先立ち、図２５〜２７により本実施例のペン型入力装置（電子ペン）の概要を説明する。図２５は、実施例のペン型入力装置の構造の一例を示す図である。図２６は、ペン型入力装置の状態と検出値の対応を示す表である。
【００１３】
本実施例ペン型入力装置の構造は、図２５に示されるように、半導体歪センサ等の一方向の歪量に対応して出力値が変わる歪センサ（2501、2502）が、ペン軸の表面に設置された構造となっている。ユーザがぺん軸の把持部をもちボードやスクリーン等の筆記面に筆記動作をおこなってとき、前記歪センサは、ペン軸の変形量を歪量として検出する。本実施例では、この歪量からペン型入力装置のペン先の接触状態、ペン先の圧力、ペンの傾き方向を判定する。
【００１４】
ここで、図２５には２つの半導体歪センサ（2501、2502）が記載されているが、歪量を検出できれば、この個数に限定されるものではなく、また、センサの設置場所も、ペン軸の表面に限定されず、ペン軸の内側や、内部表面であってもよい。
【００１５】
また、以下の実施例には記述していないが、ペン先以外に、ペン軸の央部や、ペン軸の元部に歪センサを設置したり、複数箇所に設置することにより、ペン軸のひねり動作、ペン軸の引っ張り／押し込み、ペン軸の保持状態等を判定でき、実施例以外の操作指示情報を示すことが可能となる。
【００１６】
図２６は、前記歪センサで検出した歪量εを元に、ペン先の接触状態、ペン先の圧力、ペンの傾き方向を判定する処理フローをしめす。ここで、ε0は、歪センサの平衡状態のセンサ出力値を意味し、Ｅは、処理のためのセンサ閾値を意味する。
【００１７】
図２７に、図２６の処理フローのＳ５０３の具体的な処理内容を示す。図２７に示す処理では、歪センサの出力する歪量の平衡状態からの変化量と閾値を比較し、その大小により、ペン先の筆記面への接触状態・ペンの傾き方向を判定する。
【００１８】
以下に、図面を参照しながら、本発明の実施例を説明する。
【実施例１】
【００１９】
次に、実施例１を説明する。実施例１では、前記ペン型入力装置を用いたプロジェクタの投写映像の操作について説明する。
【００２０】
図１はユーザが前記ペン型入力装置を用いて、プロジェクタの投写映像を操作する一例の外観を示す。また、図２は、図１と同等の機器構成で側面から見た場合の外観を示す。図１および図２において、１００は前記ペン型入力装置であり、２１００はプロジェクタ、２１０１は投写映像、２１０２は投写光、２１０３は壁面、２１０４はペン位置検出センサである。
【００２１】
プロジェクタ２１００は、壁面２１０３に取り付けられており、ＧＵＩ等の所定の映像信号に基づき、投写光２１０２を出力することにより、前記壁面２１０３に投写映像２１０１を映し出す。
【００２２】
ペン位置検出センサ２１０４は、前記プロジェクタ２１００が備えるセンサであり、前記投写映像２１０１に対する前記ペン型入力装置１００のペン先の位置を検出する機能を有しており、例えば、超音波センサ、カメラ、電界センサ、赤外線距離センサ、レーザ距離センサ、距離画像センサなどのセンサデバイスが用いられる。前記ペン位置検出センサ２１０４に用いるセンサは、特に限定されず、センサデータを処理するマイコン、及びマイコン上で動作するソフトウェア等との組合せにより、前記投写映像２１０１の投写面上での前記ペン型入力装置１００のペン先の位置が得られる機能を有すればよい。
【００２３】
また、前記プロジェクタ２１００は、前記ペン位置検出センサ２１０４で得られる前記ペン型入力装置１００のペン先の位置から、前記投写映像２１０１に対応する座標を算出し、さらに、前記座標の位置や動きに応じて前記投写映像２１０１で表示する映像内のグラフィックの位置や動き、構成等を変化させる。これにより、ユーザは、前記ペン型入力装置１００を用いて前記投写映像２１０１に対する操作を行うことができる。
【００２４】
図３は、前記ペン型入力装置１００、前記プロジェクタ２１００の構成の一例を示す。図３において、前記ペン型入力装置１００の構成は先に述べたものと同等である。図３の前記プロジェクタ２１００において、２３００はペン位置検出部、２３０１は演算部、２３０２はペン通信部、２３０３は操作部、２３０４は中央処理部、２３０５はメモリ、２３０６は映像制御部、２３０７は映像投写部である。
【００２５】
ペン位置検出部２３００は、前記ペン位置検出センサ２１０４や、前記ペン位置検出センサ２１０４のセンサデータを処理するマイコン、及びマイコン上で動作するソフトウェア等で構成され、前記投写映像２１０１に対する前記ペン型入力装置１００のペン先の位置を検出する。
【００２６】
演算部２３０１は、回路基板などで構成され、前記ペン位置検出部２３００で得られる前記ペン型入力装置１００のペン先の位置や、後述するペン通信部２３０２を介して得られる前記ペン型入力装置１００の傾き、握られ方、他の物体との接触状態などの情報を演算処理し、前記ペン型入力装置１００を用いたユーザの各種操作の状態を決定する。
【００２７】
ペン通信部２３０２は、超音波ユニットや赤外線通信装置などの無線通信装置、もしくは、ユニバーサルシリアルバス（ＵＳＢ）などの有線通信装置で構成され、前記ペン型入力装置１００と通信できるインタフェースである。前記ペン通信部２３０２は、前記ペン型入力装置１００から、傾き、握られ方、他の物体との接触状態などの情報を受信する。操作部２３０３は、ボタンやスイッチ、操作パネルなどで構成され、ユーザからの入力を受け付けることができるインタフェースである。
【００２８】
中央処理部２３０４は、中央処理装置（以下、ＣＰＵ）等の半導体チップや、オペレーティングシステム（以下、ＯＳ）等のソフトウェアで構成され、前記演算部２３０１から得られるユーザの各種操作の状態や、前記操作部２３０３からのユーザの入力に基づいて、後述するメモリ２３０５への情報の入出力や、後述する映像制御部２３０６、映像投写部２３０７等の前記プロジェクタ２１００の各部を制御する。
【００２９】
メモリ２３０５は、半導体などで構成され、前記中央処理部２３０４の演算や制御に必要な情報や、前記投写映像２１０１として表示する映像情報などを記憶する。映像制御部２３０６は、回路基板などで構成され、前記中央処理部２３０４の制御に応じて、映像情報の描画に必要な演算処理を行い、後述する映像投写部２３０７の入力に適した形式で、画素の集合からなる描画情報を出力する。
【００３０】
映像投写部２３０７は、ランプ等の光源や、レンズ、反射ミラー等の光学部品や、液晶パネル等から構成され、光源から出射される光束を変調して、前記映像制御部２３０６から得られる描画情報に応じた画像光を形成し、スクリーン等の投写面上に前記画像光を拡大投写する。
【００３１】
なお、図３の各部は独立しているが、必要に応じて１または複数の構成要件で構成してもよい。例えば、２３０１と２３０４と２３０５と２３０６は、１または複数の半導体チップ（Ｓｙｅｔｅｍ−ｏｎ−ａ−ｃｈｉｐ：ＳｏＣ等）でその処理を行うように構成してもよい。
【００３２】
次に、図４を用いて、前記プロジェクタ２１００が、前記ペン型入力装置１００のペン先の位置、および、ペン先の接触有無の情報、前記ペン先にかかる応力の情報、前記ペン型入力装置の傾きの情報に応じて、前記投写映像２１０１で表示する映像内のグラフィックの位置や動き、構成等を変化させる際の処理の流れを示す。
【００３３】
図４は、前記プロジェクタ２１００において、主に前記中央処理部２３０４が行う制御の流れを示す処理フローである。
Ｓ２４０１では、前記ペン位置検出部２３００で得られる、前記ペン型入力装置１００のペン先の位置の検出状態を判定し、検出できると、Ｓ２４０２に進む。
【００３４】
Ｓ２４０２では、前記ペン通信部２３０２でで得られる、前記ペン型入力装置１００のペン先の接触状態、ペン先の圧力、ペンの傾き方向の検出状態を判定し、検出できると、Ｓ２４０３に進む。
【００３５】
なお、Ｓ２４０１とＳ２４０２で、前記ペン型入力装置１００のペン先の位置等が検出できない場合には、Ｓ２４０１およびＳ２４０２の処理が繰り返し行われる。
【００３６】
Ｓ２４０３では、前記ペン型入力装置１００のペン先の位置、ペン先の接触状態、ペン先の圧力、ペンの傾き方向の検出状態に応じて、前記投写映像２１０１で表示する映像内のグラフィックの位置や動き、構成等を変化させる。前記グラフィックの位置や動き、構成等の変化の詳細については、別図を用いて後述する。
【００３７】
また、Ｓ２４０４では、ユーザが、前記操作部２３０３を介した所定の操作などで、前記ペン型入力装置１００による操作を終了する指示をしたかを判定し、終了が指示されていない場合には、Ｓ２４０１以降の処理が継続して行われる。
【００３８】
次に、図５から図８を用いて、前記ペン型入力装置１００のペン先の位置、ペン先の接触状態、ペン先の圧力、ペンの傾き方向の検出状態に応じて、前記投写映像２１０１で表示する映像内のグラフィックの位置や動き、構成等の変化について説明する。
【００３９】
図５は、前記投写映像２１０１で表示する映像内のグラフィックの構成と、ユーザが前記ペン型入力装置１００を用いて前記グラフィックを操作した際の外観の一例を示す。図５において、２５００は歪センサ出力グラフであり、２５０１はフィードバックＧＵＩ、２５０２はアイコン、２５０３は線形グラフィックである。
【００４０】
歪センサ出力グラフ２５００は、図３と同様に、前記ペン型入力装置１００の前記歪検出部１０１における出力を示している。また、前記歪センサ出力グラフ２５００は、前記ペン型入力装置１００において、前記歪センサ２００が図４と同様に配置された場合の一例を示している。
【００４１】
従って、前記歪センサ出力グラフ２５００において、Δε＜Ｅlを満たす場合は、前記ペン型入力装置１００が前記壁面２１０３に接触し、かつ、ユーザから見て左側に傾いた状態となる。また、Δε＞Ｅrを満たす場合は、同様に前記ペン型入力装置１００がユーザから見て右側に傾いた状態となる。
【００４２】
フィードバックＧＵＩ２５０１は、前記投写映像２１０１に表示されるグラフィックである。アイコン２５０２および線形グラフィック２５０３は、前記フィードバックＧＵＩ２５０１を構成するグラフィック部品である。また、フィードバックＧＵＩ２５０１は、プロジェクタ２１００における前記ペン型入力装置１００の傾きの認識状態を、ユーザが視覚的に把握できるようにするための表示となる。
【００４３】
図５の（ａ）に示すように、ユーザが前記ペン型入力装置１００をユーザから見て左側に傾けることにより、前記ペン型入力装置１００の歪検出部１０１における出力がΔε＜εlを満たす場合は、前記プロジェクタ２１００は、前記フィードバックＧＵＩ２５０１において前記アイコン２５０２が前記線形グラフィック２５０３の左端に移動した表示を行う。同様に、図５の（ｃ）に示すように、ユーザが前記ペン型入力装置１００をユーザから見て右側に傾けた場合は、前記フィードバックＧＵＩ２５０１において、前記アイコン２５０２が前記線形グラフィック２５０３の右端に移動した表示となる。
【００４４】
上述したように、前記プロジェクタ２１００が、前記ペン型入力装置１００の傾きの認識状態に応じて、前記フィードバックＧＵＩ２５０１の表示を変更することにより、ユーザが、前記ペン型入力装置１００の傾きに応じた操作を行う際に、操作状況を視覚的に確認しながら確実に操作できる効果が得られる。
なお、図５では、前記プロジェクタ２１００が、前記ペン型入力装置１００の傾きを、図５の（ａ）、（ｂ）、（ｃ）の３段階で認識することを説明したが、前記Δεによる前記ペン型入力装置１００の傾き判定のために、複数の段階の閾値を設け、前記ペン型入力装置１００の傾きを複数の段階で認識することにより、上記と同様の操作を実現してもよい。
【００４５】
次に、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１に対して行う操作パターンの一例を説明する。
図６は、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１に線を描画する操作を行う際の、前記投写映像２１０１の表示とユーザの操作の外観を示す。図６において、２６００は消しゴムアイコンである。
消しゴムアイコン２６００は、前記投写映像２１０１に表示されるグラフィックである。
【００４６】
図６の（ａ）に示すように、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きで持ち、前記ペン型入力装置１００のペン先を前記壁面２１０３に接触させた状態で移動すると、前記プロジェクタ２１００は、前記ペン型入力装置１００のペン先の位置に沿って、前記投写映像２１０１に線を描画する。
【００４７】
一方、図６の（ｂ）に示すように、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きよりもユーザから見て左側に大きく傾けて持ち、前記ペン型入力装置１００のペン先を前記壁面２１０３に接触させた状態で移動すると、前記プロジェクタ２１００は、前記投写映像２１０１に前記消しゴムアイコン２６００を表示すると同時に、前記ペン型入力装置１００のペン先の位置に沿って、前記投写映像２１０１にある線を削除する。また、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きに戻すと、前記プロジェクタ２１００は、前記投写映像２１０１の前記消しゴムアイコン２６００の表示を消し、先に述べた図６の（ａ）と同じ状態となる。
【００４８】
なお、前記プロジェクタ２１００は、ユーザの前記ペン型入力装置１００を用いた操作における、時間経過に伴う前記ペン型入力装置１００の傾きの変化から、通常の筆記時の傾きを推定するなどして、前記所定の筆記時の傾きを動的に定めてもよい。
【００４９】
図７は、先に述べた図６とは異なる方法で、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１に線を描画する操作を行う場合の、前記投写映像２１０１の表示とユーザの操作の外観を示す。
【００５０】
図７の（ａ）は、ユーザが前記投写映像２１０１にある線を削除する際の操作を示している。図７の（ａ−１）に示すように、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きよりもユーザから見て左側に大きく一度傾けると、前記プロジェクタ２１００は、前記投写映像２１０１に前記消しゴムアイコン２６００を表示すると同時に、前記ペン型入力装置１００のペン先の位置に沿って、前記投写映像２１０１にある線が削除する。また、図７の（ａ−２）に示すように、先に述べた図６とは異なり、ユーザが前記ペン型入力装置１００を所定の筆記時の傾きに戻した後も、前記消しゴムアイコン２６００が表示され、前記投写映像２１０１にある線が削除される状態は継続される。
【００５１】
一方、図７の（ｂ）は、ユーザが前記投写映像２１０１に線を描画する際の操作を示している。図７の（ｂ−１）に示すように、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きよりもユーザから見て右側に大きく一度傾けると、前記プロジェクタ２１００は、前記投写映像２１０１の消しゴムアイコン２６００の表示を消し、先に述べた図６の（ａ）と同様に前記投写映像２１０１に線が描画される。
【００５２】
また、図８に示すように、図７の（ａ−１）と同様に、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きよりもユーザから見て左側に大きく一度傾けると、前記プロジェクタ２１００は、前記投写映像２１０１に描画する線を太くし、図７の（ｂ−１）と同様に、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きよりもユーザから見て右側に大きく一度傾けると、前記プロジェクタ２１００は、前記投写映像２１０１に描画する線を細くしてもよい。
【００５３】
上述したように、前記プロジェクタ２１００が、前記ペン型入力装置１００の傾きの認識状態に応じて、前記投写映像２１０１への線の描画、線の削除の操作や、描画する線の太さを切り替えることにより、ユーザが、前記ペン型入力装置１００を傾ける簡単な操作で、前記投写映像２１０１に対する操作を切り替えることができる効果が得られる。
【００５４】
なお、図３で説明した前記プロジェクタ２１００は、前記２３００〜２３０７の各部を全て前記プロジェクタ２１００の内部に構成しているが、例えば、図９に示すように、前記プロジェクタ２１００の１または複数の構成要件を、前記プロジェクタ２１００と接続されたパーソナルコンピュータ（以下、ＰＣ）２９００に構成するなどして、前記プロジェクタ２１００と前記ＰＣ２９００の組合せにより、同等の機能を実現してもよい。
【００５５】
また、図３で説明した前記プロジェクタ２１００は、例えば、図１０に示すように、タブレット端末３０００等のディスプレイに映像を表示する装置とし、前記タブレット端末３０００が前記ペン位置検出部２３００や前記演算部２３０１、前記ペン通信部２３０２を備えることにより、前記ディスプレイの映像において同等の機能を実現してもよい。
【実施例２】
【００５６】
次に、実施例２を説明する。実施例２では、実施例１で述べた前記ペン型入力装置１００を用いた前記プロジェクタ２１００の前記投写映像２１０１の操作において、前記ペン型入力装置１００の傾きに応じて、前記投写映像２１０１に表示されるグラフィックの表示と非表示の切り替え操作、および表示位置を変更する操作について説明する。
【００５７】
図１１は、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１にメニューを表示する操作を行う際の、前記投写映像２１０１の表示とユーザの操作の外観を示す。図１１において、３１００はメニューＧＵＩである。
【００５８】
メニューＧＵＩ３１００は、前記投写映像２１０１に表示されるグラフィックである。前記メニューＧＵＩ３１００には、所定の操作をユーザが選択して実行できる操作ボタンが含まれており、前記所定の操作は、例えば、一般的なＰＣのＯＳと同様に、予めユーザが選択したテキスト、グラフィックについての、切り取り、コピー等の操作となる。
【００５９】
図１１の（ａ）に示すように、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きよりもユーザから見て右側に大きく一度傾けると、前記プロジェクタ２１００は、前記ペン型入力装置１００のペン先の位置に、前記メニューＧＵＩ３１００を表示する。また、図１１の（ｂ）に示すように、ユーザは、表示された前記メニューＧＵＩ３１００の操作ボタンを選択できる。
【００６０】
一方、図１１の（ｃ）に示すように、前記メニューＧＵＩ３１００が表示されている状態で、ユーザが、前記ペン型入力装置１００を所定の筆記時の傾きよりもユーザから見て左側に大きく一度傾けると、前記メニューＧＵＩ３１００は非表示の状態となる。
【００６１】
図１２は、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１にメニューを表示する操作を行う際の、前記投写映像２１０１の表示とユーザの操作の外観を示す。図１２では、先に説明した図１１とは異なり、ユーザが左右どちらの手で前記ペン型入力装置１００を持つかによって、前記メニューＧＵＩの表示位置が異なる。図１２では、３２００はポインタである。
【００６２】
ポインタ３２００は、所定投写映像２１０１に表示されるグラフィックであり、ユーザが、前記ペン型入力装置１００のペン先で指し示す位置を、前記投写映像２１０１において視覚的に確認するためのグラフィックである。
【００６３】
図１２で示す操作において、前記プロジェクタ２１００は、先に述べたように前記所定の筆記時の傾きを動的に定めている。また、図１２に示すように、前記所定の筆記時の傾きが、前記ペン型入力装置１００の歪センサ出力においてΔε＜Ｅ0を満たす場合は、前記プロジェクタ２１００は、ユーザが左手で前記ペン型入力装置１００を持っていると判定し、同様に、Δε＞Ｅ0を満たす場合はユーザが右手で前記ペン型入力装置１００を持っていると判定する。さらに、ユーザが図１１の説明と同様の操作でメニューＧＵＩ３１００を表示させた場合に、前記プロジェクタ２１００は、ユーザが左手で前記ペン型入力装置１００を持っていると判定した場合には、図１２の（ａ−１）に示すように、前記ペン型入力装置１００のペン先の位置の右側に前記メニューＧＵＩ３１００を表示し、ユーザが右手で前記ペン型入力装置１００を持っていると判定した場合には、図１２の（ａ−２）に示すように、前記ペン型入力装置１００のペン先の位置の左側に前記メニューＧＵＩ３１００を表示する。
【００６４】
なお、図１２の（ｂ）に示す、前記ポインタ３２００等の前記投写映像２１０１に表示される他のグラフィックや、先に述べた実施例１、ないし、後述する他の実施例の操作においても、図１２の（ａ）の説明と同様に、前記プロジェクタ２１００が、ユーザが左右どちらの手で前記ペン型入力装置１００を持っているかによって、前記プロジェクタ２１００の操作に有効な前記ペン型入力装置１００の傾きや、前記グラフィックの表示の位置や角度、グラフィックの種類等を変更してもよい。
【００６５】
図１３は、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１にメニューを表示する操作を行う際の、前記投写映像２１０１の表示とユーザの操作の外観を示す。図１３では、先に説明した図１１および図１２とは異なり、ユーザが前記ペン型入力装置１００を傾ける操作によって、前記投写映像２１０１においてグラフィックが移動する。図１３では、３３００はパネルＧＵＩであり、３３０１は前記ペン型入力装置１００のペン先の位置を示す。
【００６６】
パネルＧＵＩ３３００は、前記投写映像２１０１に表示されるグラフィックであり、複数並べられたパネルの中から、任意のパネルを選択および操作するためのグラフィックの構造を持つ。
【００６７】
図１３の（１−ａ）に示すように、ユーザが前記ペン型入力装置１００のペン先で前記投写映像２１０１の右上にあるパネル３の位置を指示した状態で、ユーザから見て左側の方向に前記ペン型入力装置１００を傾けると、図１３の（２−ａ）に示すように、前記プロジェクタ２１００は、前記パネル３が前記投写映像２１０１の中央に位置するように、前記パネルＧＵＩ３３００の位置を移動する。同様に、図１３の（１−ｃ）に示すように、ユーザが前記ペン型入力装置１００のペン先で前記投写映像２１０１の左上にあるパネル１の位置を指示した状態で、ユーザから見て右側の方向に前記ペン型入力装置１００を傾けると、図１３の（２−ｃ）に示すように、前記プロジェクタ２１００は、前記パネル１が前記投写映像２１０１の中央に位置するように、前記パネルＧＵＩ３３００の位置を移動する。
【００６８】
上述したように、前記プロジェクタ２１００が、前記ペン型入力装置１００の傾きや位置の認識状態に応じて、前記投写映像２１０１に表示されるＧＵＩの表示と非表示の切り替え操作、および表示位置を変更することにより、ユーザが、前記ペン型入力装置１００を傾ける簡単な操作で、前記投写映像２１０１に対する操作を円滑に行える効果が得られる。
【実施例３】
【００６９】
次に、実施例３を説明する。実施例３では、実施例１で述べた前記ペン型入力装置１００を用いた前記プロジェクタ２１００の前記投写映像２１０１の操作において、前記ペン型入力装置１００の傾きの連続的な変化に応じた操作について説明する。
【００７０】
図１４は、図２５と同様に、前記投写映像２１０１で表示する映像内のグラフィックの構成と、ユーザが前記ペン型入力装置１００を用いて前記グラフィックを操作した際の外観の一例を示す。図１４では、先に説明した図２５と前記フィードバックＧＵＩ２５０１の表示の変化が異なり、前記歪センサ出力グラフ２５００の歪センサ出力で示されるΔεの連続的な変化に応じて、前記フィードバックＧＵＩ２５０１において、前記アイコン２５０２が前記線形グラフィック２５０３の上を連続的に移動する。
【００７１】
次に、ユーザが前記ペン型入力装置１００の傾きの連続的に変化を用いて、前記投写映像２１０１に対して行う操作パターンの一例を説明する。
図１５は、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１のグラフィックを操作する際の、前記投写映像２１０１の表示とユーザの操作の外観を示す。図１５において、３５００はページめくりＧＵＩであり、３５０１はスクロールＧＵＩ、３５０２は動画コンテンツ、３５０３はタイムバーＧＵＩである。
【００７２】
ページめくりＧＵＩ３５００は、前記投写映像２１０１に表示されるグラフィックであり、左右にページがめくられるグラフィックの動きにより、表示されるページが切り替えられる。
【００７３】
スクロールＧＵＩ３５０１は、前記投写映像２１０１に表示されるグラフィックであり、横一列にパネルが並んでおり、前記パネルが左右に移動するグラフィックの動きにより、前記パネルの表示位置が変更される。
【００７４】
動画コンテンツ３５０２は、前記投写映像２１０１に表示される、いわゆるムービー等の動画である。タイムバーＧＵＩ３５０３は、前記投写映像２１０１に表示されるグラフィックであり、前記タイムバーの中のグラフィックの位置や大きさ、色の変化により、前記動画コンテンツ３５０２の再生位置を示す。
【００７５】
図１５（ａ）及び（１）に示すように、ユーザが、前記ペン型入力装置１００を、ユーザから見て左側に傾けると、前記プロジェクタ２１００は、前記歪センサ出力で示されるΔεの変化に応じて、前記ページめくりＧＵＩ３５００で表示中のページを、前記投写映像２１０１の左方向に移動させる。また、ユーザが、前記ペン型入力装置１００を、ユーザから見て左側にさらに大きく傾け、例えば、図１４の前記歪センサ出力グラフ２５００においてΔε＜Ｅlを満たす場合には、前記プロジェクタ２１００は前記、前記ページめくりＧＵＩ３５００で表示中のページを、前記投写映像２１０１の左方向の外側に移動させ、前記ページめくりＧＵＩ３５００で表示中のページが切り替わる。  図１５（ｃ）及び（１）に示すように、ユーザが、前記ペン型入力装置１００を、ユーザから見て右側に傾けた場合も同様となる。
【００７６】
また、図１５（ａ）及び（２）に示すように、ユーザが、前記スクロールＧＵＩ３５０１を操作する場合も、前記ページめくりＧＵＩ３５００の操作と同様となり、ユーザが、前記ペン型入力装置１００を傾けた方向に応じて、前記プロジェクタ２１００は、前記スクロールＧＵＩ３５０１の前記パネルを移動させる。なお、前記歪センサ出力で示されるΔεの変化に応じて、前記パネルが移動する速度が変化してもよい。
【００７７】
また、図１５（ａ）及び（３）に示すように、ユーザが、前記タイムバーＧＵＩ３５０３を操作する場合も、前記ページめくりＧＵＩ３５００の操作と同様となり、ユーザが、前記ペン型入力装置１００を傾けた方向に応じて、前記プロジェクタ２１００は、前記タイムバーＧＵＩ３５０３で示される前記動画コンテンツ３５０２の再生位置を移動させる。なお、前記歪センサ出力で示されるΔεの変化に応じて、前記再生位置が移動する速度が変化してもよい。
【００７８】
なお、図１６に示すように、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１に操作する際に、前記ペン型入力装置１００のペン先の位置に対して、前記ポインタ３２００の位置がずれており、いわゆるキャリブレーションなどで前記ポインタ３２００の位置を補正する場合に、図１５で説明と同様に、ユーザが前記ペン型入力装置１００の傾きを変化させることによって、前記ポインタ３２００の位置を移動して補正してもよい。
【００７９】
図１７は、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１のグラフィックを操作する際の、前記投写映像２１０１の表示とユーザの操作の外観を示す。図１７において、３７００は画像表示ＧＵＩであり、３７０１は画像一覧ＧＵＩである。
【００８０】
画像表示ＧＵＩ３７００は、前記投写映像２１０１に表示されるグラフィックであり、写真やイラスト等の画像データを表示し、前記画像データを、拡大、縮小、移動など操作を行いながら閲覧できる。
【００８１】
画像一覧ＧＵＩ３７０１は、前記投写映像２１０１に表示されるグラフィックであり、写真やイラスト等の複数の画像データを同時に表示し、前記複数の画像データの全部もしくは一部を、拡大、縮小、移動など操作を行いながら閲覧できる。
【００８２】
図１７（ａ）及び（１）に示すように、ユーザが、前記ペン型入力装置１００を、ユーザから見て左側に傾けると、前記プロジェクタ２１００は、前記歪センサ出力で示されるΔεの変化に応じて、前記画像表示ＧＵＩ３７００で表示中の画像データを縮小する。また、図１７（ｃ）及び（１）に示すように、ユーザが、前記ペン型入力装置１００を、ユーザから見て右側に傾けた場合は、前記画像表示ＧＵＩ３７００で表示中の画像データは拡大する。
【００８３】
なお、前記歪センサ出力で示されるΔεの変化に応じて、前記画像表示ＧＵＩ３７００で表示中の画像データの拡大または縮小の変化の速度が変化してもよい。また、図１７の（１）では、前記画像表示ＧＵＩ３６００で表示中の画像データが、前記投写映像２１０１の中心に位置したまま拡大または縮小したが、前記図１７の（２）に示すように、前記ペン型入力装置１００の前記ペン先の位置３３０１を中心にして、前記画像表示ＧＵＩ３７００で表示中の画像データを拡大または縮小させてもよい。
【００８４】
図１７（ａ）及び（３）に示すように、ユーザが、前記ペン型入力装置１００を、ユーザから見て左側に傾けると、前記プロジェクタ２１００は、前記歪センサ出力で示されるΔεの変化に応じて、前記画像一覧ＧＵＩ３７０１で表示中の画像データの全体の表示を縮小する。また、図１７（ｃ）及び（３）に示すように、ユーザが、前記ペン型入力装置１００を、ユーザから見て右側に傾けた場合は、前記画像一覧ＧＵＩ３７０１で表示中の画像データのうち、前記ペン型入力装置１００のペン先の位置３３０１に対応する画像データを拡大する。
【００８５】
なお、図１８に示すように、ユーザが前記ペン型入力装置１００を用いて、前記投写映像２１０１に円３８００等の図形を描画する際にも、前記画像表示ＧＵＩ３７００と同様に、前記ペン型入力装置１００の傾きに応じて、前記図形の拡大または縮小させてもよい。
【００８６】
上述したように、前記プロジェクタ２１００が、前記ペン型入力装置１００の傾きの連続的な変化に応じて、前記投写映像２１０１に表示されるＧＵＩに対する操作を実行することにより、ユーザが、前記ペン型入力装置１００を傾ける簡単な操作で、前記投写映像２１０１に対する操作を円滑に行える効果が得られる。
【実施例４】
【００８７】
次に、実施例４を説明する。実施例４では、実施例１で述べたペン型入力装置１００を用いた前記プロジェクタ２１００の前記投写映像２１０１の操作において、前記ペン型入力装置１００のペン先にかかる応力に応じた操作について説明する。
【００８８】
図１９は、前記投写映像２１０１で表示する映像内のグラフィックの構成と、ユーザが前記ペン型入力装置１００を用いて前記グラフィックを操作した際の外観の一例を示す。図１９において、３９００は操作レイヤーＡ、３９０１は操作レイヤーＢである。
【００８９】
操作レイヤーＡ３９００、および、操作レイヤーＢ３９０１は、前記投写映像２１０１における仮想的な操作領域であり、それぞれに独立してグラフィックを構成することにより、ユーザは、前記操作レイヤーＡ３９００、または、前記操作レイヤーＢ３９０１のどちらかを所定の操作で選択して、選択した前記操作レイヤーに対して、グラフィックの描画等の操作を行うことができる。また、図１９（ａ）に示すように、前記操作レイヤーＡ３９００と前記操作レイヤーＢ３９０１は、前記投写映像２１０１において重ねて表示することができ、ユーザは、それぞれの操作レイヤーに対して操作を行った結果を、ひとつの映像として合成して閲覧することができる。
【００９０】
図１９の（ｂ）は、ユーザが、前記ペン型入力装置１００を前記壁面２１０３に押し付ける力の強さによって、前記操作レイヤーＡ３９００、または、前記操作レイヤーＢ３９０１のどちらかが選択できる様子を示している。従って、前記歪センサ出力グラフ２５００の歪センサ出力において、｜Δε｜≦Ｅsを満たす場合には、前記プロジェクタ２１００は、ユーザが前記操作レイヤーＡ３９００に対して操作できるようにし、同様に、｜Δε｜＞Ｅsを満たす場合には、前記プロジェクタ２１００は、ユーザが前記操作レイヤーＢ３９０１に対して操作できるようにする。
【００９１】
図２０は、前記プロジェクタ２１００が、ユーザが前記投写映像２１０１に描画した線を、前記線の曲りを補正して直線的に表示する場合に、ユーザが前記ペン型入力装置１００を前記壁面２１０３に押し付ける力の強さによって、前記線の曲りの補正の有無を切り替える様子を示している。
【００９２】
図２０で示す操作において、前記プロジェクタ２１００は、前記ペン型入力装置１００の歪センサ出力が｜Δε｜＞Ｅs満たす場合には、前記線の曲りの補正を行わず、｜Δε｜≦Ｅsを満たす場合には、前記線の曲りの補正を行う。従って、図２０の（ａ）に示すように、ユーザが強い力で前記ペン型入力装置１００を前記壁面２１０３に押し付けて移動すると、前記投写映像２１０１に前記ペン型入力装置１００のペン先に沿った線が描画される。一方、図２０の（ｂ）に示すように、ユーザが弱い力で前記ペン型入力装置１００を前記壁面２１０３に押し付けて移動すると、前記投写映像２１０１に前記ペン型入力装置１００のペン先の軌道が直線的に補正された線が描画される。
【００９３】
なお、図２１に示すように、ユーザが前記ペン型入力装置１００を前記壁面２１０３に押し付ける力が強すぎることで、例えば、前記ペン型入力装置１００の歪センサ出力が｜Δε｜＞Ｅmaxを満たす場合には、警告アイコン４１００等のグラフィックを前記投写映像２１０１に表示するなどして、前記プロジェクタ２１００がユーザに注意を促してもよい。また、例えば、前記ペン型入力装置１００の歪センサ出力が｜Δε｜＜Ｅmaxを満たす場合に、ユーザが前記ペン型入力装置１００を前記壁面２１０３に押し付ける力が弱すぎる、もしくは、前記ペン型入力装置１００のペン先が前記壁面２１０３から離れたとして、前記プロジェクタ２１００が、前記警告アイコン４１００や所定の警告音により、ユーザに注意を促してもよい。
【００９４】
上述したように、前記プロジェクタ２１００が、前記ペン型入力装置１００のペン先にかかる応力に応じて、前記投写映像２１０１に表示されるＧＵＩに対する操作を実行することにより、ユーザが、前記ペン型入力装置１００を前記壁面２１０３に押し付ける力を変更するだけの簡単な操作で、前記投写映像２１０１に対する操作を円滑に行える効果が得られる。
【実施例５】
【００９５】
次に、実施例５を説明する。実施例５では、実施例１で述べた前記ペン型入力装置１００を用いた前記プロジェクタ２１００の投写映像２１０１の操作において、前記ペン型入力装置１００のペン先以外の応力に応じた操作について説明する。
【００９６】
図２２は、前記投写映像２１０１で表示する映像内のグラフィックの構成と、ユーザが前記ペン型入力装置１００を用いて前記グラフィックを操作した際の外観の一例を示す。
【００９７】
図２２に示す前記ペン型入力装置１００は、先に述べた図８と同様に、前記ペン型入力装置１００のペン元の接触を検出することができる。これにより、図２２の（ａ）に示すように、ユーザが前記ペン型入力装置１００のペン先で前記投写映像２１０１を操作した場合には、先に述べた図２６（ａ）と同様に、前記ペン型入力装置１００のペン先の軌道に沿って、前記投写映像２１０１に線が描画される。また、図２２の（ｂ）に示すように、ユーザが前記ペン型入力装置１００のペン元で前記投写映像２１０１を操作した場合には、先に述べた図２６（ｂ）と同様に、前記ペン型入力装置１００のペン元の軌道に沿って、前記投写映像２１０１に予め描画されていた線が削除される。
【００９８】
図２３は、前記投写映像２１０１で表示する映像内のグラフィックの構成と、ユーザが前記ペン型入力装置１００を用いて前記グラフィックを操作した際の外観の一例を示す。
【００９９】
図２３に示す前記ペン型入力装置１００は、先に述べた図１３と同様に、前記ペン型入力装置１００の把持部をユーザが把持する力を検出することができる。これにより、図２３の（ａ）に示すように、ユーザが把持する力前記ペン型入力装置１００のペン先に近い部分を把持して、前記投写映像２１０１を操作した場合には、先に述べた図６（ａ）と同様に、筆記手段として前記ペン型入力装置１００のペン先の軌道に沿って、前記投写映像２１０１に線が描画される。また、図２３の（ｂ）に示すように、ユーザが前記ペン型入力装置１００のペン元に近い部分を把持して、ユーザの前記投写映像２１０１を操作した場合には、ユーザが把持する力を検出できない。この場合には、先に述べた図３２（ｂ）と同様に、前記ペン型入力装置１００のペン先の位置に前記ポインタ３２００が表示され、例えば、前記投写映像２１０１に表示されたボタンの選択等の指示手段として、前記ペン型入力装置１００のペン先の位置に応じた操作を行うことができる。
【０１００】
図２４は、前記投写映像２１０１で表示する映像内のグラフィックの構成と、ユーザが前記ペン型入力装置１００を用いて前記グラフィックを操作した際の外観の一例を示す。
【０１０１】
図２４に示す前記ペン型入力装置１００は、先に述べた図１３と同様に、前記ペン型入力装置１００の把持部をユーザが把持する力を検出することができる。これにより、図２４の（ａ）に示すように、ユーザが前記ペン型入力装置１００のペン先の位置で、前記投写映像２１０１に表示されたアイコン等のグラフィックを指し示し、尚且つ、ユーザが前記ペン型入力装置１００を強い力で把持すると、いわゆる、ドラッグ操作のように、前記ペン型入力装置１００のペン先の位置に応じて、前記アイコン等のグラフィックの位置を移動させることができる。
【０１０２】
なお、前記アイコン等のグラフィックの位置を移動させる際に、図２４の（ｂ）に示すように、ユーザが前記ペン型入力装置１００を強い力で把持して、尚且つ、前記ペン型入力装置１００のペン先を前記壁面２１０３に接触しない状態で前記ペン型入力装置１００を移動させ、さらに、図２４の（ｃ）に示すように、前記ペン型入力装置１００のペン先を再び前記壁面２１０３に接触させ、尚且つ、前記ペン型入力装置１００を把持する力を弱めたときに、前記アイコン等のグラフィックの位置の移動が完了するようにしてもよい。
【０１０３】
また、上述した、前記ペン型入力装置１００のペン元の接触を検出や、前記ペン型入力装置１００の把持部をユーザが把持する力を検出により、前記プロジェクタ２１００が、先に述べた他の実施例と同様の操作を行ってもよい。
【０１０４】
上述したように、前記プロジェクタ２１００が、前記ペン型入力装置１００のペン元にかかる応力や、ユーザが前記ペン型入力装置１００を把持する位置や力に応じて、前記投写映像２１０１に表示されるＧＵＩに対する操作を実行することにより、ユーザが、前記ペン型入力装置１００を用いた簡単な操作で、前記投写映像２１０１に対する操作を円滑に行える効果が得られる。
【０１０５】
なお、上述した本実施形態は本発明の説明のための例示であり、本発明の範囲を実施形態にのみ限定する趣旨ではない。
【符号の説明】
【０１０６】
２００…半導体歪センサ、２０１…センサ感度軸、
２１００…プロジェクタ、２１０１…投写映像、２１０２…投写光、２１０３…壁面、
２１０４…ペン位置検出センサ、２５００…歪センサ出力グラフ、
２５０１…フィードバックＧＵＩ、２５０２…アイコン、２５０３…線形グラフィック、
２６００…消しゴムアイコン、２９００…ＰＣ、３０００…タブレット端末
３１００…メニューＧＵＩ、３２００…ポインタ、３３００…パネルＧＵＩ、
３３０１…ペン先の位置、３７００…画像表示ＧＵＩ、３７０１…画像一覧ＧＵＩ、
３８００…円、３９００…操作レイヤーＡ、３９０１…操作レイヤーＢ、
４１００…警告アイコン警告アイコン
【図１】
0005808712.tif 000002
【図２】
0005808712.tif 000003
【図３】
0005808712.tif 000004
【図４】
0005808712.tif 000005
【図５】
0005808712.tif 000006
【図６】
0005808712.tif 000007
【図７】
0005808712.tif 000008
【図８】
0005808712.tif 000009
【図９】
0005808712.tif 000010
【図１０】
0005808712.tif 000011
【図１１】
0005808712.tif 000012
【図１２】
0005808712.tif 000013
【図１３】
0005808712.tif 000014
【図１４】
0005808712.tif 000015
【図１５】
0005808712.tif 000016
【図１６】
0005808712.tif 000017
【図１７】
0005808712.tif 000018
【図１８】
0005808712.tif 000019
【図１９】
0005808712.tif 000020
【図２０】
0005808712.tif 000021
【図２１】
0005808712.tif 000022
【図２２】
0005808712.tif 000023
【図２３】
0005808712.tif 000024
【図２４】
0005808712.tif 000025
【図２５】
0005808712.tif 000026
【図２６】
0005808712.tif 000027
【図２７】
0005808712.tif 000028