〈一般研究課題〉 家庭内の様々な情報を提示する知的ミラーの開発
助 成 研 究 者

愛知工業大学水野慎士

家庭内の様々な情報を提示する知的ミラーの開発
水野 慎士（愛知工業大学）

Development of an intelligent mirror which displays
various information in a home
Shinji Mizuno(Aichi Institute of Technology)

Abstract：
In this research, I propose a novel system "Intelligent Mirror". This system is put in a room anda user can use it like an ordinary mirror. This system gets 3D data of the room and a pose of theuser, analyzes and processes the data, and shows additional information of the room and the user
using interactive 3DCG animations. It is possible to rearrange the room, change wallpapers and acarpet, try on dresses, and check users physical in a 3 DCG space of the system. The proposedsystem uses a large touch panel display, and it allows the user to operate the system intuitively andpeople of all ages could use the system. I implemented a prototype system, and did experiments ofroom rearrangement and clothes fitting in the 3DCG space.
1. はじめに2012年の5月から11月までの半年でスマートフォンの普及率は29.9 %から39.9 %へと大幅に拡大している。非利用者の中でも利用を検討している層は65.5 %にも及び 1)，2016年には日本での普及率は70 %を越えるとも予想されている 2)。
このようなスマートフォン，タブレットなどの個人用情報端末の普及により，いつでもどこでも多くの人とコミュニケーションが取れる時代となった。しかし家庭内に目を向けると，情報化社会の進展によりメールやSNSを介しての交流は増えたが，家族の顔と顔とをつきあわせたコミュニ－ 73 －

ケーションをむしろ減少させていることが指摘されている 3)。
一方，家族全員でテレビを視聴したりゲームをしたりしながら時間と話題を共有することで，家族の会話が促進されることが報告されている 4)。そのため，情報機器を有効に活用することで，家庭内での面と向かったコミュニケーションより活発にすることも期待できる。
そこで本研究では，家庭内でのリアルなコミュニケーションを活発にすることを目指して，家族共通の話題をコンテンツとして提示することで家族が共同で使用することができる新しい家庭用情報システム「知的ミラー」を提案する 5)。以下の章では，提案システムの概要，実現方法，システムの実装，考察や今後の課題について述べる。
2．提案システムの概要
図1に本研究で提案するシステムの概要を示す。提案システムは家庭内のリビングなどに設置することを想定している。家族が集まって操作したり閲覧したりすることができるように，大型のタッチパネルディスプレイを用いて実現する。近年急激に普及したタブレット端末と同様に，指で画面に直接タッチしてシステムを操作することができるため，子供からお年寄りまで簡単で直感的に扱うことが可能である。

図１ 本研究で提案するシステム「知的ミラー」のイメージ

提案システムのコンテンツは三次元CGで生成されており，鏡のように部屋やユーザを映して表示するものである。ただし単に映すのではなく，部屋やユーザに関する新たな情報を付加したり，加工したりして表示するなどの知的な処理を行う。すなわち「知的ミラー」である。そして本研究では家族が共同で使用できたり，家族の会話の種となったりするものとして，3つのコンテンツを提案する。まず，壁紙や絨毯などの変更や家具のレイアウト変更など部屋の模様替えは，家族でみんなで話し合って決めることが多いと考えられる。そこで，部屋を三次元CGで映し出して，壁紙や床面テクスチャを変更したり，家具などを三次元CG空間内で移動させたりすることで仮想的に部屋の模様替えを行うコンテンツを実現する。また，衣装コーディネートは一緒に見てもらうことで家族の話題になったり，一緒に買い物へ行くきっかけにもなったりするものである。そこで，三次元CGの衣装を仮想的に試着して対話的に動作できるコンテンツを実現する。さらに健康管理は家族の日常的な重要な話題の一つであるため，カメラ映像等から健康状態をチェックすることがで－ 74 －

きるシステムの実現を目指す。
部屋の模様替えを三次元CGで実現するには，部屋の三次元情報を取得する必要がある。また，三次元CG衣装を仮想的に試着するためには，ユーザのポーズをリアルタイムで取得する必要がある。そのため，提案システムではKinectを用いて周囲の三次元形状情報や人体ポーズをリアルタイムで取得する。またカメラ映像からの健康管理については，顔色から心拍数を推定する手法が提案されており 6)，この手法をベースとしたコンテンツの開発を目指す。また，健康時の顔の色や三次元形状と比較することで，現在の健康状態をチェックすることも検討する。
3．システムの実現方法
提案システムは大型タッチパネルディスプレイ，PC，Kinectで構成される。そして本報告では部屋の模様替えに関するコンテンツ，および衣装試着に関するコンテンツの一部について実現した。以下に実現方法について述べる。
3.1 部屋の模様替えコンテンツ
部屋の模様替えコンテンツでは，部屋を三次元CGで再現した上で，壁紙や床面の変更，および家具の移動などを行う。部屋や家具を3DCGで再現してレイアウトを確認するソフトは実用化されているが 7)，これらは部屋や家具のCGモデルを製作するために技術や時間が必要となる。一方，本研究ではKinectを利用することで，実際の部屋に基づく三次元CGを瞬時に生成する。KinectはMicrosoft社が開発したRGB-Dカメラで，色情報（RGB）に加えて深度（D）をリアルタイムで取得できる。そして，深度情報によって生成した三次元空間の点群に実写色情報を付加することで，点群に基づくフォトリアルな三次元CGを生成する。図 2に点群による部屋の三次元CGの例を示す。
ユーザは自由に対話的に三次元CGの視点を変更することが可能である。

図２ 点群で構成された部屋の三次元CGの例

生成された部屋の三次元CGにおいて壁紙や床面を変更するためには，三次元CGを構成する点群から床面と壁面を検出する必要がある。そこで本研究では床面と壁面を自動的に検出する手法を用いる。まず水平面を鉛直方向に移動させることで，点群と最もよく当てはまる水平面を床面として自動的に決定する。次に床面に垂直な鉛直面を平行移動および鉛直線を軸として回転移動させることで，点群と最もよく当てはまる鉛直面を一つの壁面として決定する。さらに床面および一つの壁面に垂直な鉛直面を平行移動させることで，点群と最もよく当てはまる面を次に壁面として決定す－ 75 －

る。この手法で床面と壁面の検出ができない場合には，ユーザがディスプレイにタッチすることにより手動で床面や壁面を決定することができる。床面と壁面が決定すると，床面用および壁面用のテクスチャを貼った平面を部屋の三次元CGに追加描画することで，CG空間で実際の部屋の壁紙や床の種類を仮想的に変更することができる。
CG空間での家具の移動は，始めに指で三次元CG内の移動させたい家具をタッチして長方形の家具領域を選択する。家具領域はタッチした三次元空間内の点から直方体領域を徐々に拡大させて，領域内に含まれる床面や壁面以外の点群数の増加量の変化に基づき家具領域を自動的に決定する。
自動的に決定できない場合には手動で長方形の家具領域を決定する。そして，家具領域内の点群を床面上で平行移動や回転移動をさせることで，実際に部屋に置いてある家具のレイアウトを仮想的に変更することができる。
3.2 衣装の試着コンテンツ
衣装の試着コンテンツでは，三次元CGで表現されたユーザが三次元CGの衣装を仮想的に着ることができる。そして現実世界のユーザの動作に応じて三次元CGのユーザと衣装もリアルタイムで変化する。仮想試着としてはライトオンARミラーなど実写とCGの合成するAR技術を用いたシステムが実用化されているが 8)，本研究ではユーザも三次元CGモデルで構成されており，そのモデルに三次元CGの衣装を着用させるため，より高いフィット感が得られることが期待できる。また，すべてが三次元CGで構成されるため，正面だけでなく任意の角度から着用状況を確認できる。
三次元CGでの試着を実現するため，まずユーザの三次元CGを部屋の三次元CGの場合と同様にKinectを用いて点群として生成する。それに加えて，ユーザの頭部や腰部などの主要部位や腕や膝などの関節点の三次元座標をKinectを用いて取得する。関節座標の取得はKinect用ライブラリであるNITEを利用して取得する。そして関節位置に基づいてユーザの体のボリュームを仮想的な球の集合で表現する。
衣装は現時点ではスカートおよび帽子を実現している。三次元CGのスカートを実現するため，
図3に示すように質点ばねモデルに基づく簡易的な布のシミュレーションを行っている。そして布の質点とユーザボリュームを表す仮想球との衝突判定を行うことで，ユーザのポーズや動きに応じたスカートの動きを実現している。最後にユーザの点群三次元CGにスカートの三次元CGを追加描画することで，三次元CG空間でのスカートの仮想試着を実現している。また，帽子は一般の三次元CGソフトウェアでモデリングを行い，ユーザの頭部位置と首関節位置に基づいて三次元空間の座標を決定して配置することで，仮想的な試着を実現している。

図３ 布を表現するための質点ばねモデル－ 76 －

4．実験
プロトタイプシステムを電子黒板システム（Sharp BIGPAD 70インチ），iMac 27インチ（Core i73.4GHz），Kinectを使用して構築した。図4にプロトタイプシステムを示す。そして，部屋模様替えと衣装試着のコンテンツを実装して実験を行った。

図４ 開発したプロトタイプシステム

図5に部屋の模様替えコンテンツの一場面示す。実際の部屋での壁紙や床面の張り替えや，実際に使用している家具の移動をCGで再現できるため，模様替え後の部屋の雰囲気を直感的に感じることができた。また三次元CGのため，任意の視点から模様替え後の部屋を確認することができた。
ただし，1台のKinectで取得した点群に基づくため死角になっている領域がかなりあり，その部分はCGでは穴となった。

(a) 壁紙と床面の変更の様子(b) 家具の移動の様子
図５ 部屋の模様替えコンテンツの一場面－ 77 －

図6に衣装の試着コンテンツの一場面を示す。三次元CGで表現したユーザに三次元CGの衣装を合成することで，ユーザの三次元的な動きに応じた試着を再現できることを確認した。図6(b)に示
すように，スカートはユーザ動作に応じて質点ばねモデルで構成された衣装と身体ボリュームを表す仮想球との接触判定を行うことでリアルタイムで変形している。そして，オリジナル視点では実写にCGを合成するAR技術を用いた手法と同等の映像が生成され，ARでは困難な視点変更を自由に行うこともできることを確認した。
なお，Kinectで取得できる深度情報は640×480画素のため，構成される三次元CGは最大約30万個の点群で構成されている。フレームレートは部屋の模様替えコンテンツで約30（フレーム/秒），衣装試着コンテンツで約10フレームであった。

(a) スカートと帽子の試着(b) ユーザ動作に伴うスカートの変形の様子
図６ 試着コンテンツの一場面

5．まとめ
本研究では家庭内でのリアルなコミュニケーションを活発化することを目的として，大型タッチディスプレイを用いた新しい情報システム「知的ミラー」を提案した。そして家族全員の話題の種として部屋の模様替え，衣装の試着，健康管理のコンテンツを提案して，本報告ではプロトタイプシステムを開発してコンテンツの一部を実装した。
本方向で実装したコンテンツはまだ簡易的であり表示品質や機能が十分であるとは言えない。そのため，複数台のKinectを用いた表示の高品質化やジェスチャーに対応した操作などを実現する必要がある。また，試着できる衣装の種類が少ないため，より多彩な衣装の三次元モデリングを行ってシステムへ適用する必要がある。さらに本報告では未実装である健康管理システムの実現と家庭内での実験も今後行っていく予定である。

－ 78 －参考文献
1) "スマートフォン/ケータイ利用動向", 株式会社インプレスR&D, http://www.impressrd.jp/news/121120/kwp2013.
2) "世界のスマートフォン普及予想", 株式会社シードプランニング, http://www.seedplanning.
co.jp/press/2012/2012072601.html
3) "家庭生活と家族のコミュニケーションに関する調査研究報告書"，兵庫県/(財)21世紀ヒューマンケア研究機構家庭問題研究所，2007．
4) 渡辺誓司, 酒井厚, "家庭におけるメディアコミュニケーションと家族関係 -小学生の子どもがいる家族の調査-", NHK放送文化研究所年報2011, pp. 155-205, 2011.
5) 森田文菜, 水野慎士, "家庭での利用を想定した大型タッチディスプレイを用いた知的情報提示システムの提案", 情報処理学会第75回全国大会, 3ZF-5, pp. 4-805-806, 2013.
6) M．Z．Poh，D．McDuff，R．Picard，"A Medical Mirror for Non-Contact HealthMonitoring"，SIGGRAPH2011EmergingTechnology，DVD-ROM，2011．
7) "3Dマイホームデザイナー LS4", MEGASOFT, 2011.
8) "ライトオンARミラーショップ試着に大革命!", PR TIMES, http://prtimes.jp/main/html/rd/
p/000000005.000003285.html－ 79 －

－ 80 －