画像情報とセンサ情報を用いた仮想パペットシステム
篠 木良†松下光範†

本研究では，カメラ情報とデータグローブのセンサ情報を用いてディスプレイ上の手の位置に仮想パペットを重畳し提示する複合現実感システムを提案する．カメラ情報より手の位置情報を検出し，データグローブの加速度センサと曲げセンサから得られる情報を用いて指の屈曲度合いと手の動きを検出する．これにより手の細かな動きを検出しパペットの動作に反映させる．提案システムを用いる
ことで，初心者であっても仮想パペットを直感的に操作できる入力インタフェースを実現した．

Virtual Puppet System Using Visual and Sensor Information
Ryo Shinoki† and Mitsunori Matsushita†
This paper proposes a mixed reality system named “Virtual Puppet System,” which permits
a user to manipulate a virtual character in an intuitive manner. In this system, a user witha sensor glove stands in front of a camera. The system first detects the user’s hand position
based on a captured image by the camera, then estimates each finger’s flexion angle and a
tweak degree of his/her palm based on bend sensors and an acceleration sensor both attachedto the glove.

1. は じ め に
近年，現実世界に仮想世界の情報を重ね合わせて提示する複合現実感（Mixed Reality, 以下 MR と記す）の研究が注目を集めている．この分野ではカメラで撮像した画像から特徴点を検出し，それに基づいて付加情報や仮想物体などを映像に重畳して提示するための位置合わせ手法や，検出した特徴点を追跡することで同一物体のトラッキングを行う手法の研究が活発である．

図 1 システムの構成
Fig. 1 Outline of our proposed system

また，センサ技術の発達により人の様々な行為や情報が取得できるようになっている．例えばデータグローブを用いたハンドジェスチャの認識や装着型セン2. システム概要

サを用いた生体情報の取得などがその一例である．

本研究で提案する仮想パペットシステムでは，デーこれらのような， MR におけるカメラを用いた位タグローブを装着したユーザを撮像し，手の位置に 3置合わせ手法と，センサやデータグローブを用いた次元仮想物体を表示する．ユーザの手の動きから画面ジェスチャ認識手法とを組み合わせることにより，オ上の 3 次元仮想物体を操作できるようにすることで，クルージョンに強く，ユーザの細かなふるまいや動きユーザに視覚的フィードバックを与えつつパペットをを検出できるシステムの実現が可能になる．本稿では，直感的に操作することを可能にしている．このシステ

これらの技術を組み合わせ，仮想空間に描画された 3

ムでは，カメラで撮像した画像データに画像処理を適次元仮想物体を装着型センサを用いて直感的に操作す用することで手の大まかな位置情報を検出し，画像処る仮想パペットシステムを提案する．

理で検出が困難な指の屈曲率や掌の傾きをデータグローブで検出する手法を用いている．

† 関西大学 総合情報学部
Faculty of Informatics, Kansai University

2.1 システム構成
本研究では上述したシステムの実現のために，カメ情報処理学会 インタラクション 2011

図 2 手の認識
Fig. 2 Hand detection

図 3 手の傾きの推定
Fig. 3 Estimation of hand’s leaning

図 4 プロトタイプシステムの動作例
Fig. 4 Images of our prototype system

ラによる撮像とデータグローブの検出を備えたインタラクション環境を構築した．図 1 にシステムの構成をジョンなどで画像から全ての指のベクトルが全て検出できない事もあるので，~h から ~l が連続した 5 フレー示す．

ムで確認できた場合に，そのフレーム間で検出した曲本システムでは，まず画像処理を用いてデータグげセンサの値の平均値を各曲げセンサの 100% の値

ローブの位置検出と，データグローブの初期化を行う．とし，それを基準として 0-110% の間で各曲げセンサ

手の動き，指の動きはデータグローブのセンサよっての値を検出する．

検出する．データグローブの位置検出と初期化では，
1)

2.2 プロトタイプシステムの手の位置を認識する手法及び指先検出提案手法を用いて，クマのキャラクタが表示されるの手法を用いる．ただし使用するカメラは HandyAR

プロトタイプシステムを構築した．これは，手の動きで使用する 6DOF カメラとは異なり，安価な Web カによる加速度センサの検出に合わせ，くまの身体が前HandyAR

メラ を使用するため指の動きの検出が困難となる．そ傾-後傾に，もしくは正面を向いたまま右-左に回転すのため静止した状態（図 2-a）で指先検出を行い，デーる．また，親指から小指の曲げセンサにかけて順に，右タグローブの輪郭を抽出し（図 2-b），データグロー

足-右手-顔-左手-左足に対応付け，動作を割り当てた．

ブを初期化する．

図 4 に実際にディスプレイに表示する映像を示す．

加速度センサは水平時に X 軸，Y 軸方向の加速度

図 4 において，a は手を開けた状態で正面に向け，bが約 0G の値をとる．しかしユーザが感じる手の傾きは人差し指と親指を曲げた状態で正面に向けている．と実際の傾きにはズレが発生する．そのため手の重心

また c は手を開けた状態で前傾させ，d は手を開けたと HandyAR における指先検出の手法を用いて，手状態で外転した状態である．の重心から各指先のベクトルとそれらを相加平均したベクトルを計算し初期化を行う．
図 3 において C は手の重心であり，C から親指のベクトルを ~h，C から人差し指のベクトルを ~i，C か

3. まとめと今後の展望
本研究では，画像情報とセンサ情報を用いることで手の動きや指の屈曲により仮想物体を簡便に操作でき

ら中指のベクトルを ~j ，C から薬指のベクトルを ~k ，C から小指のベクトルを ~l とし，それらを相加平均しる仮想パペットシステムを提案した．プロトタイプシたm~ を求める．これらを用いてデータグローブにお動作することを確認した．今後，本システムを用いたけるセンサの初期値を決定する．

アプリケーションの実現を検討している．

この初期化は，連続した 5 フレームで ~h から ~l の検出と同時に，m~ が仮想空間上における X 軸に対し85-95 度となる場合，そのフレーム間で検出した加速度センサの値の平均値を仮想空間上での水平とする．
また各指の曲げセンサにおいても，検出する最小値から最大値が各々異なるため初期化を行う．オクルー

ステムを実装し，手の動きに合わせてリアルタイムに

参 考文献1) Lee, T. and Höllerer, T.: Handy AR: Markerless Inspection of Augmented Reality Objects Using Fingertip Tracking, In Proc. ISWC,
pp.1-8 (2007).