(57)【要約】【課題】  個別コードのない、人の両手の指１０本（他者も加えると１０本以上）を同時に異なった座標として認識することができ、また、指が盤面に接地する面積により、指を押し付ける圧力を検知できる装置。更に、手の平全体といった広い面積も認識することができ、これらをリアルタイムに演算処理することで、コンピュータ機器のソフトウェアのコントロールを可能にする。【解決手段】  赤外線を満たした透明な板の表面に接する指もしくは手の平の反射光をカメラで撮像し、        その原画像から２値化処理、収縮処理、膨張処理、画像の論理積取得処理、レンズ収差の補正処理を行い、精度の高い座標情報をリアルタイムに抽出する。【選択図】図２
2011150669.tif 000002
【特許請求の範囲】
【請求項１】
コンピュータ装置を用いて、赤外線透過フィルタを有したカメラにより撮像された人の指もしくは手の平の画像から、その位置を座標データとして抽出する方法であって、
撮像した画像のレンズによるゆがみを補正する段階と、
画像を２値化し、領域判定をするための準備をする段階と、
周囲の環境光による輝度の補正を自動で行う段階と、
不必要なノイズを除去する画像の収縮処理段階と、
痩せてしまった画像を、通常の状態に戻すための膨張処理の段階と、
平均化を行い、適正な画像に整える段階。
【請求項２】
適切な画像所得のための、赤外線の照射システムに関する手法。
【請求項３】
本発明の応用としてのドーム形状のタッチセンサーとしての手法。
【請求項４】
本発明を使ったソフトウェアの企画。
【発明の詳細な説明】
【技術分野】
【０００１】  本発明は、赤外線を使い、人の指先や手の平全体の反射光をカメラで捉えることによりリアルタイムに座標やその面積を算出し、コンピュータ機器のソフトウェアのコントロールデバイスとして使う装置である。主な技術としてはカメラで撮像した画像処理ソフトウェアであり、装置を構成するシステムと合わせて可能となる画像認識システムである。
【背景技術】
【０００２】  従来、タッチパネルでは、指先の座標認識のみであり、１点、もしくは２点を同時に認識することが可能である。２点の同時認識に関しては、携帯電話などの携帯型コンピュータの操作にのみ利用されているが、画面を拡縮したりといった限られた用途にのみ使われているのが現状である。こういったタッチパネル技術は、特別な知識や鍛錬を必要としない感覚的な操作を可能としているため、一般的なコンピュータの操作技術として、広く普及を果たしている。【０００３】  カードやブロックなどの立体物の表面に特殊印刷によってコードを埋め込み、カメラを真下に配した赤外線透過素材でできた盤面などに、そのカードやブロックを複数配置して行う多点同時認識システムは、ゲームなどのエンタテインメント分野で実現されているが、操作にはそのカードやブロックが必要になる。そういったコードを埋め込んだ物を所持していない使用者は、そのデバイスを操作することができない。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００９−１９１７１９号公報
【特許文献２】特開２００８−１８３２１２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】  個別コードのない、人の両手の指１０本（他者も加えると１０本以上）を同時に異なった座標として認識することができ、また、指が盤面に接地する面積により、指を押し付ける圧力を検知すること。更に、手の平全体といった広い面積も認識することができ、これらをリアルタイムに演算処理することで、コンピュータ機器のソフトウェアのコントロールを可能にする装置を低コストで提供することを目的とする。
【課題を解決するための手段】
【０００６】  装置として、アクリル板やガラスといった透明な板の端面に赤外線ＬＥＤを装着し、板端面から板内部に赤外線を入れる。赤外線は、透明な板内部で反射を繰り返し、表面からは外に出ることができない。赤外線は、板の端面からのみ外に漏れるだけになる。この盤面に、指もしくは手の平を接地させると、設置した面だけに赤外線が反射し、盤面の反対側からカメラでその画像を取得することができる。【０００７】  盤面に指もしくは手の平を置き、その反対側から赤外線透過フィルタを有したカメラにて撮像すると、灰色の背景に白い手の平だけが浮き上がった画像が得られる（図１）。これが、赤外線の反射光を捉えた画像である。この画像を以下の手順による画像処理手法にて処理し、指もしくは手の平が占有している領域の情報のみを抽出することができる。【０００８】  ところで、カメラから取り込まれた１枚の画像は、それを１フレームとし、２フレーム分のメモリが用意されている。２フレーム分のメモリがあるため、アプリケーションが１つのフレームを読み込んでいる間、ライブラリ（ドライバ）は次のフレームをメモリに書き込むことが出来る。アプリケーションが読み込むフレームとライブラリが書き込むフレームのメモリが順次入れ替わることで、効率的に処理を進めることができるのである。（図２）【０００９】  下記ａ〜ｅの処理を行う。（図３）
ａ．レンズ収差の補正
図１ではカメラのレンズの形状と材質に起因する像のゆがみが起きている。このゆがみを補正処理し、その結果が図４となる。【００１０】  ｂ．２値化処理
手の平以外の背景の輝度は手の平の輝度に比較して暗くなる。そこで特定の輝度を閾値とし、輝度が閾値以上の画素を白、閾値より低い輝度の画素を黒に変換することで図５のような２値化画像が得られる。【００１１】  ｃ．収縮処理
閾値となる輝度を決定する場合には外部の照明条件の影響を避ける工夫を行う。例えば晴れた日と曇りの日では室内の明るさが変わるため、撮像する指もしくは手の平の輝度も異なることが考えられる。対象物の輝度は、盤面から出た赤外線が対象物の表面で散乱した結果と考えることが出来るので、盤面から出た赤外線の強さが２倍になれば、指もしくは手の平の輝度も２倍になると考えられる。そこで画像内の全画素の輝度を調べ、最大の輝度を１００％として２値化する際の閾値を％で与えることで周囲の環境からの影響を取り除くことが可能である。【００１２】  図５に戻ると、２値化画像では手の平以外に線や点状のノイズが残っている。しかし抽出対象の手の平に比べて、個々のノイズが占める領域の面積は小さい。そこで黒の画素に隣接する白の画素を黒に置き換える処理（収縮）を複数回行う。結果は図６のように白い領域が細り、ノイズ等の面積の小さい白領域が消滅している画像が得られる。【００１３】  ｄ．膨張処理
収縮処理により手の平の領域も細ってしまっているため、今度は収縮処理とは逆に白の画素に隣接する黒の画素を白に置き換える処理（膨張）を収縮と同じ回数だけ行う。この処理により、既に消えてしまっているノイズ領域については、種となる白の画素が存在しないため、再出現することがない。【００１４】  ｅ．画像の論理積取得処理
手の平の領域の輪郭に着目して図５と図６を比較すると、図５で尖った輪郭部分が図７では丸みを帯びている。このように収縮・膨張処理を通すと一般に白い領域の輪郭が丸みを帯びる傾向がある。輪郭をある程度（完全である必要はない）復元するため図５の２値化画像と図７の膨張画像の論理積をとる。画像の論理積は、２つの画像の同じ位置にある画素が、両方とも白の場合のみ結果画像の画素も白とする。いずれか片方の画素が黒または両方とも黒の場合は結果画像の画素は黒とする。つまり膨張画像では白の画素であっても、２値化画像で同じ位置の画素の色が黒であればその画素の色は黒となるため、膨張によって太り気味となった手の平領域の輪郭を、２値化画像上の手の平の輪郭にそって削り出すことになる。【００１５】  ａ〜ｅ処理を行った結果、図８の論理積画像が手の平認識の最終結果画像となる。この画像を使用すると特定の画素（位置）が手の平に対して、内側・外側のいずれに属しているかを画素の色を見ることで即座に判定することが出来る。また隣接する画素の色が異なれば、手の平の境界線に位置していることも簡単に判定することが可能である。【００１６】  〔００１１〕から〔００１５〕に至る２値化画像のｃ．収縮処理とｄ．膨張処理、そして、ｅ．画像の論理積取得処理は、手の平を手の形として整形するために有効な手段である。人の手の平は平らではなく、関節部分はアーチ形状になっているし、また、手の平面の肉のつき方によって、盤面に押し付けた手の平は、ところどころ切れ切れになった画像になってしまう。（図１３）手の平全体が盤面に密着することはなく、浮いた部分ができてしまうのである。それを補正し、手の形に見えるように成形する必要があり、そのためにも、ｃ．収縮処理とｄ．膨張処理、ｅ．画像の論理積取得処理が有効なのである。これは、精密な検知装置としての役割というよりも、使い勝手に即した処理であると言える。【００１７】  次にレンズ収差の補正の原理について説明する。
図１の原画像には手を乗せている赤外線フィルタのシートも写っている。シートの本当の形状は四隅が直角の長方形であるが、図１では長方形の４辺の中央部が外側に膨らんでおり、ちょうど樽の形に見える。これを樽型歪みと呼ぶ。樽型歪みはカメラのレンズの形状と材質に起因する像のゆがみであり、近い場所から
広い視野を見ることが可能な広角のレンズでは避けるのが特に難しい。
この歪みは一般的にはレンズ収差と呼ばれる。【００１８】  （１）レンズ収差
カメラのレンズの形状と材質に起因する像のゆがみであり、長方形の４辺の中央部が外側に膨らむ樽型歪みと逆に内側に凹む糸巻型歪みがある。（図９）【００１９】  （２）レンズ収差の補正式（歪み位置から正規の位置を求める）
手の平の位置座標を決定しようとすると、レンズ収差は精度を下げる要因となる。特に手の平が画像の周辺部に位置している場合には、実際の手の平の位置と画像上での位置の差が無視出来ないほど大きくなる。そこでレンズ収差を画像処理にて補正する。レンズは円形で回転対称であるため、レンズ収差はレンズの中心線から放射状に広がる歪みとしてモデル化することが出来る。
このモデルでは位置Ｄにある画素が、レンズ収差により位置Ｓに写り、位置Ｏ、Ｄ、Ｓは１直線上に並ぶ（図１０）。位置Ｏと位置Ｓの画像上での距離をＲｓ、位置Ｏと位置Ｄの画像上での距離をＲｄとするとレンズおよびレンズ収差は回転対称であるから、距離Ｒｄは距離Ｒｓのみで決定される関数となる。この関数を外部から与えれば、全画素について以下の式でレンズ収差が存在しない場合の画素の位置を求めることが出来る。【００２０】  （３）定義と式
【定義】
（ｘｏ，ｙｏ）．．．レンズの中心線が画像上で通る画素の位置Ｏのｘｙ座標
（ｘｓ，ｙｓ）．．．原画像上の位置Ｓにある画素のｘｙ座標
（ｘｄ，ｙｄ）．．．位置Ｄの画素のｘｙ座標（補正後の位置）
ｆ（ｒ）．．．外部から与える関数
【式】
2011150669.tif 000003
【００２１】  （４）レンズ収差の補正式（正規位置から歪み位置を求める）
実際に補正を行う場合に上記の式を使って原画像の全画素について補正後の画素の位置を求め画像を作成すると、補正後の画像上で処理されない画素が出てきてしまう。例えば仮に外部から与える関数が以下の式の場合、原画像上の画素は補正画像上では位置Ｏからの距離が２倍になるため、補正画像は原画像の縦横比２倍，画素数が４倍の画像になる。
ｆ（ｒ）＝２ｒ
この場合、原画像の全画素について処理しても補正画像上の全画素の４分の３は処理されないで残ってしまうことになる。補正画像の画素数が原画像の画素数の４倍であるためである。そこで発想を逆転し補正後の全画素について原画像の画素の位置を逆算し、補正後の画素の色を対応する原画像の画素の色にする。
【００２２】  （５）定義と式
【定義】
（ｘｏ，ｙｏ）．．．レンズの中心線が画像上で通る画素の位置Ｏのｘｙ座標
（ｘｓ，ｙｓ）．．．原画像上の位置Ｓにある画素のｘｙ座標
（ｘｄ，ｙｄ）．．．位置Ｄの画素のｘｙ座標（補正後の位置）
ｇ（ｒ）．．．外部から与える関数＝ｆ（ｒ）の逆関数
【式】
2011150669.tif 000004
【００２３】  （６）補正関数ｇ（ｒ）を求める方法
外部から与える関数ｇ（ｒ）は補正後の画素位置に対して原画像の画素位置を決定する関数であるから、あらかじめ縦横に等間隔に罫線を引いた紙等の対象物を用意してカメラで撮像し、画像を調べることで実験的に決定することが出来る。例えば罫線の交点の補正後の位置をＱ，原画像上での位置をＰとすると以下の式でｇ（ｒ）の一つの値を計算できる。
【００２４】（７）定義と式
【定義】
（ｘｏ，ｙｏ）．．．レンズの中心線が画像上で通る画素の位置Ｏのｘｙ座標
（ｘｐ，ｙｐ）．．．原画像上の罫線の交点Ｐの画素のｘｙ座標
（ｘｑ，ｙｑ）．．．補正画像上の罫線の交点Ｑの画素のｘｙ座標（※求め方は後述）
【式】
2011150669.tif 000005
最後の式から引数Ｒｑに対するｇ（ｒ）の値Ｒｐが１つ求まる。原画像上にある全ての罫線の交点について上記の式を適用することにより、複数の引数の値についてｇ（ｒ）の値を求めることが出来る。途中の関数値については線型補間により近似的に求める。精度が足りない場合は罫線間隔を十分に密にすればよい。（図１１）
任意の引数に対する関数値を求める場合、任意の引数に隣接する２つの引数ｒ１とｒ２に関するｇ（ｒ）の関数値をもちい、引数ｒ（ｒ１≦ｒ≦ｒ２）の関数値を求める。
2011150669.tif 000006
【００２５】  （８）補正後の罫線の交点を求める方法
補正画像上の罫線の交点の位置Ｑを求めるには、まず解像度を求め位置Ｑの座標を計算する。解像度を求めるには、レンズの中心線付近ではレンズ収差が無視出来るほど小さいため、撮影する対象物の中央付近に２点Ａ，Ｂをマーキングし、あらかじめ２点間の距離を定規等で計測しておく。この対象物を撮影して原画像上での２点Ａ，Ｂの距離を測定すると画像の解像度を以下の式で求めることが出来る。
【００２６】  （９）定義と式
【定義】
ＲＡＢ．．．原画像上の点Ａ，Ｂ間の距離
ＭＡＢ．．．対象物上の点Ａ，Ｂ間の距離（定規による実測値）
Ｔ．．．解像度
【式】
2011150669.tif 000007
【００２７】  （１０）Ｑの座標
補正画像上の罫線の交点の位置Ｑの座標は解像度Ｔを使って以下の式で求められる。
（１１）定義と式
【定義】
（ｘｏ，ｙｏ）．．．レンズの中心線が画像上で通る画素の位置Ｏのｘｙ座標
（ｘｑ，ｙｑ）．．．補正画像上の罫線の交点Ｑの画素のｘｙ座標
（ｘｍｏ，ｙｍｏ）．．．対象物の中心のｘｙ座標→原点（定規による実測値）
（ｘｍｑ，ｙｍｑ）．．．対象物の罫線の交点のｘｙ座標（定規による実測値）
【式】
2011150669.tif 000008
対象物の中心については、その点が原画像上でレンズの中心線が通る点Ｏに写るように撮影時に対象物を配置する。罫線の交点で対象物の中央に近い点を選んで対象物の中心と定義すると、位置合わせをしやすい。
【図面の簡単な説明】
【００２８】
【図１】赤外線を満たした透明板の上に手のひらを乗せた原画像である。
【図２】アプリケーション側の処理とライブラリ（ドライバ）側の処理フロー図である。
【図３】画像処理の手順を示したフロー図である。
【図４】原画像をレンズ収差補正した画像である。
【図５】輝度が閾値以上の画素を白、閾値より低い輝度の画素を黒に変換した２値化画像である。
【図６】収縮処理を行った画像である。
【図７】膨張処理を行った画像である。
【図８】論理積を取得し処理した画像である。
【図９】レンズ収差の例の説明図である。
【図１０】レンズ収差による画素の移動の説明図である。
【図１１】線型近似の説明図である。
【図１２】装置の全体像である。
【図１３】装置のカメラ画像である。
【図１４】応用例としてのドーム状装置の全体像である。
【図１５】ドーム状装置での手の平の２値化画像である。
【図１６】ドーム状装置での指先のみの２値化画像である。
【図１７】ソフトの企画例（１）である。
【図１８】ソフトの企画例（２）である。
【図１９】ソフトの企画例（３）である。
【図２０】ソフトの企画例（４）である。
【発明を実施するための形態】
【００２９】  図１２は、装置の全体像の試作画像である。盤面には５ｍｍ厚のアクリル板を利用している。左右の切断面を磨き、チップ型赤外線ＬＥＤの発光面を切断面に接して配置している。アクリル板の表面には、指もしくは手の平の滑りを良くするためのシート（ＰＣの液晶画面の保護シートが適当）が貼ってあるために、透明なアクリル板が曇っているように見える。盤面の中心奥には、赤外線透過フィルタを内蔵させたＣＣＤカメラを配置し、これで撮像を行っている。
【００３０】  図１２の試作装置は、赤外線ＬＥＤを左右各辺に８個、等間隔で配置してある。左右で合わせて１６個のＬＥＤにより、アクリル盤面全域に赤外線を満たしている。
【００３１】  図１３は、図１２の装置によるカメラの生画像である。盤面全体が樽型に歪んでいるが、これは樽型補正処理を行う前の画像だからである。盤面全体が黒く写っているのは、赤外線が漏れ出ていないことを示している。また、左右の辺が光っているのは、装着した赤外線ＬＥＤが放つ光ると、アクリル板内で反射した赤外線が、漏れ出ていることが分かる。なお、上下の辺が光っているのも同様である。
【００３２】  図１４は、図１２の装置の応用例として、ドーム型のアクリル板の切断面に赤外線ＬＥＤを配置し、球面に沿って赤外線を封じ込めた試作である。本試作では、チップ型赤外線ＬＥＤを６個配置している。
【００３３】  図１５は、図１４のドーム型試作による２値化画像である。手の平全体をドーム面に押し付けると、手の平全体に赤外線が反射し、白く撮像できていることが分かる。
【００３４】  図１６は、図１４のドーム型試作による指先だけの２値化画像である。ドームに押し付ける指の圧力により、２値化された指先の白い楕円形の面積が変わるため、指先の圧力を検知することが可能である。
【００３５】  本発明を使ったコンピュータ用ソフトウェアの例として、画面に表示された楽器を、指もしくは手の平で演奏できるという企画を提案する。この意図は、多点同時認識でなければ実現できない楽器演奏を実現させることと、ボタンを押すという機械的な操作ではなく、指先でなぞったり、手の平全体で払ったりといった感覚的な操作によって、ソフトウェアを操作する例を説明したかったからである。そういった理由により、楽器のデザインは、実際にはないデザインを選択している。
【００３６】  ａ．管楽器の演奏（図１７）
ツタを伸ばして絡まるタイプの植物の花の部分が、管楽器のキーに相当するデザインである。光る花を指先や手の平の先で触ると、花がアニメーションし音が出る。同時に３ヶ所を押して和音を奏でたりといった操作が可能で、これは、従来のタッチパネルでは不可能な操作である。
【００３７】  ｂ．弦楽器の演奏（図１８）
ギターのような弦楽器を模したデザインである。音を鳴らす弦を右手ではじき、左手でフレットの部分を押さえることで、音程を変えることができる。多点同時認識で左右の手で役割分担が違うタイプの操作システムである。
【００３８】  ｃ．打楽器の演奏（図１９）
パーカッションを模したデザインである。この企画では、主に指先の圧力検知に主眼を置いている。盤面をたたくような操作をするのであるが、その際に、検知した指先の面積を瞬時に数値化し、その大きさによって、音量を変える試みである。
【００３９】  また、本発明を使ったソフトウェア例として、指もしくは手の平を使ったお絵かきツールとしての企画を提案する。（図２０）盤面上を移動させた指もしくは手の平について、取得した２値化画像の履歴を残すことで、線を描いたりすることが可能である。道具を使わず身体の一部を使った、非常に感覚的に使用することができるお絵かきツールが実現可能である。
【図１】
2011150669.tif 000009
【図２】
2011150669.tif 000010
【図３】
2011150669.tif 000011
【図４】
2011150669.tif 000012
【図５】
2011150669.tif 000013
【図６】
2011150669.tif 000014
【図７】
2011150669.tif 000015
【図８】
2011150669.tif 000016
【図９】
2011150669.tif 000017
【図１０】
2011150669.tif 000018
【図１１】
2011150669.tif 000019
【図１２】
2011150669.tif 000020
【図１３】
2011150669.tif 000021
【図１４】
2011150669.tif 000022
【図１５】
2011150669.tif 000023
【図１６】
2011150669.tif 000024
【図１７】
2011150669.tif 000025
【図１８】
2011150669.tif 000026
【図１９】
2011150669.tif 000027
【図２０】
2011150669.tif 000028