研究して半年の素人がACM UISTでDemo発表してみた

この記事は，ドコモ先進技術研究所アドベントカレンダー2日目の記事です．

ドコモの勝間田と申します．
私は，5G時代のモバイルネットワークやWi-Fiなど通信に関する研究や，最近ではMulti Agent Systemに関連する非通信分野の研究に従事しております．
その傍ら，今年度からHCI関連の研究をちょこちょこさせていただいており，今回晴れてUIST 2019のDemo Paperに採録されました．

この記事では，その研究内容を紹介させていただければと思います．


## そもそもUISTとは

**[ACM主催の国際会議の1つ](http://uist.acm.org/uist2019/)**です．正式には，User Interface Software and Technology Symposium．
HCI（Human Computer Interaction）界隈の国際会議では**[CHI](https://chi.acm.org/)**に並ぶ**トップカンファレンス**の1つで，HCIの中でもテクノロジ寄りの分野を扱うことが多いようです．

今では当たり前になっているスマホのマルチタッチ技術やグライド入力，ポケモンGOで有名なハンドヘルド型AR（Augmented Reality，拡張現実），最新のGoogle Pixel4に入ったモーションセンスの基盤技術（Project Soli）も，**実はUISTで発表されています** [^1]．そのため，「**今年のUISTの成果を見れば10年後、20年後の世界をのぞき見ることができる**」[^2] なんてことも言われています．

[^1]: 過去のUISTで発表された研究の例
      - [ハンドヘルド型AR](https://dl.acm.org/citation.cfm?id=215639)：J. Rekimoto and K. Nagao, "The world through the computer: computer augmented interaction with real world environments," ACM UIST, 1995, pp 29-36
      - [マルチタッチ](https://dl.acm.org/citation.cfm?id=263549)：N. Matsushita and J. Rekimoto, "HoloWall: designing a finger, hand, body, and object sensitive wall," ACM UIST, 1997, pp 209-210
      - [グライド入力](https://dl.acm.org/citation.cfm?id=1029640)：P.-O. Kristensson and S. Zhai, "SHARK2: A Large Vocabulary Shorthand Writing System for Pen-based Computers," ACM UIST, 2004, pp 43-52
      - [モーションセンス](https://dl.acm.org/citation.cfm?id=2984565)：S. Wang, J. Song, J. Lien, I. Poupyrev and O. Hilliges, "Interacting with Soli: Exploring Fine-Grained Dynamic Gesture Recognition in the Radio-Frequency Spectrum," ACM UIST, 2016, pp 851-860

[^2]: [五十嵐氏, "マルチタッチもここで登場！未来を映す国際学会," JBpress, 2016](https://jbpress.ismedia.jp/articles/-/48316)


### UIST 2019について

そんなUISTですが，今年は10/20-23の4日間に渡ってNew Orleans,LAで開催されました．
下記のTeaser Movieを見ていただくと，どんな発表があったかをかいつまんで見ることができます．
<blockquote class="twitter-tweet"><a href="https://twitter.com/ACMUIST/status/1178414755926679555"/></blockquote>
各発表のムービーについては**[YouTubeのプレイリスト](https://www.youtube.com/watch?v=cvSDOQCot2I&list=PLqhXYFYmZ-VdTeuu2d3rbs0To5qeU6hvK)**をご覧いただくと良いかと思います．見ているだけでワクワクしますね．

<br>
カンファレンスとしては，投稿数は381本，**採録率は24.4%**でした．
参加人数は498人．そのうち，**日本は参加人数が2番目に多い国**でした．実際，多くの日本人の方々とお会いしましたし，デモ・ポスターでも登壇でも日本人が多い印象を受けました．
HCI分野では，**[UIST勉強会](http://uistudy.tokyo/)**や**[CHI勉強会](https://sigchi.jp/seminar/chi2019/)**など国内の勉強会が盛んに行われていて，日本から良い研究が生まれる土壌ががっちりとできている研究分野だなあという印象を受けました．

<br>
登壇発表の雰囲気です．セッションは2つ同時並行で進んでいましたが，どちらも均等に混み合っているように感じました．
![conference.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/541184/c7aee05b-9503-8ab7-7986-afbd87c750ff.jpeg)


## 採録された研究ネタについて

### 概要

スマートフォンの画面上のCGを現実の景色に重畳させる，スマートフォンベースの光学シースルーHMD（≒ARグラス）です．**[こういうやつ](https://holokit.io/)**をご想像ください．
今回のネタでは，広く知られている2つの光学現象を利用しています．

**[動画での説明はこちら](https://www.youtube.com/watch?v=0U64M-C7kro)**

#### 1つめの光学現象：ピンホール効果

**ピンホール効果**をご存知でしょうか？
そうです．指で小さな穴を作ってそこから覗いて見るとピントが合って見えたり，小さな穴の空いたメガネをかけるとぼやけが少なくなったり，或いは，物がよく見えない時に目を細めて見ると見えやすくなったりするのも，実はこのピンホール効果によるものです．

原理は下記画像をご参照ください．
![pinholeEffect.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/309400/5957e471-f86b-febe-8291-e11736fa8f5a.png)


人は物を見る時，水晶体の厚みを変えることで網膜上に集光させピントを合わせています．視力が悪い人はこの水晶体の厚みを変える力が衰えていて網膜上にうまく集光させることができずピントを合わせることができなくなっています．
ピンホール効果を使うことで，視力が悪い人でも簡単にピントを合わせることができます．これは，**小さな穴（ピンホール）を光が通ることによって，被写界深度（DoF/Depth of Field）が深くなる，つまりピントが合う範囲が広がる**ためです．

#### 2つめの光学現象：偏光と偏光板

**偏光板**をご存知でしょうか？
そうです．特定の偏光方向の光を通過させる板です．身近なものでは，液晶ディスプレイに使われていますね．

性質は下記画像をご参照ください．
![polarizingPlate.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/541184/78b8a8d1-e329-a2a2-9532-f3917f228206.png)

特定の偏光方向の光だけを通過させる板なので，**2枚の偏光板を偏光方向が直交になるように配置すると，全ての偏光方向の光が通過できなくなり，何も見えなくなります**．液晶ディスプレイでは，液晶に電圧をかけて光の偏光方向を変え，光を通したり遮ったりすることで映像を映し出しているわけですね．

### 提案する光学系

**ピンホール効果**と**偏光板**を組み合わせます．系を下図を使って説明します．

![optics.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/541184/e7c1430e-08dc-6881-0bf5-af4e32242325.png)

系の構成は，**1枚のハーフミラー（Beam Splitter）と2枚の偏光板（Polarizing Plate）だけ**です．片方の偏光板にだけピンホールが空いています．2枚の偏光板はハーフミラーを介して，その偏光面が直交になるように配置されています．ピンホールが空いていない偏光板にスマートフォンの画面を配置します．ユーザはもう一方の偏光板のピンホールを覗きます．

すると，現実の景色（図中ではウサギの絵）は，少し明るさは落ちますが**そのまま見えます**．なぜなら，**<FONT color="RoyalBlue">光（図中の青い光）</FONT>**は，ハーフミラーと目の前にある"ピンホールあり偏光板"だけを通過し，**<FONT color="RoyalBlue">その全てが1回だけ偏光され目に届く</FONT>**ためです．
一方で，スマートフォンの画面上のCG（図中ではフキダシの絵）は，**深いDoFで見えます**．なぜなら，**<FONT color="FireBrick">光（図中の赤い光）</FONT>**は，画面の前にある"ピンホールなし偏光板"を通過した後に，ハーフミラーで反射され，最後に"ピンホールあり偏光板"を通過し，**<FONT color="FireBrick">そのほとんどは2回偏光され目に届かない</FONT>**ためです．

ポイントは，片方にだけピンホールを空けた2枚の偏光板を使うことで，**CGにだけピンホール効果が適用される光学系である**，という点です．

### 利点は？

大きく3つのポイントがあります．

- **CGのDoFが深いので，現実の景色とCGを見る時にいちいち焦点を合わせる必要がない**

例えば，[現実の景色を見ているときに，別の情報や文字を重畳させるようなアプリケーション](https://youtu.be/RM-E3njTSbk?t=190)を考えた場合，現実の景色と重畳された情報を見る上でいちいち焦点を合わせていてはユーザのQoEが下がってしまいます．
このような光学系の利点は，**実アプリケーションへの適用を考えたときに有用である**点です．

- **現実の景色の視野角（FoV/Field of View）が狭まらない（＝視界が広い）**

焦点を合わせる必要のないHMDを作ることだけを目指すと，偏光板を使わずともピンホール効果だけを使って深いDoFを達成することも考えられます．しかし，この場合，FoVの広さとDoFの深さはトレードオフの関係になってしまいます．例えば，ピンホールを大きくすると，FoVは広がるがDoFは浅くなる，といった具合です．
この手法の利点は，**現実の景色のFoVを犠牲にすることなくCGの深いDoFを達成できる**点です．

- **光学系が極めて単純であるため，小型かつ簡易に作ることができる**

レーザプロジェクタやピンホールを使った既存研究[^3]がありますが，それらは現在のスマートフォンに搭載されていないような特殊な装置が必要となったり，系全体が大型化したりすることが懸念されます．
この手法の利点は，**レーザーカッターやアクリルカッターなどで切った材料を組み合わせて簡単に実装できる**点です．

[^3]: 詳細は[採録されたDemo Paper](https://dl.acm.org/citation.cfm?id=3356886)をご覧ください

#### プロトタイプ
実際にプロトタイプはレーザカッターで切った材料だけで作成しました．
![prototype.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/541184/1de50f35-b1f5-3f27-2c16-e0559abbd6a6.png)

※よく見てみると，右側のPolarizing plates(Horizontal)の中央にピンホールが空いています．

#### 別の利点
また，ピンホール効果と偏光板を組み合わせたことにより，別の観点でも利点があることが分かりました．
それは，**ピンホールが目の前にあるにも関わらず，ユーザはその存在に気付かない**，というものです．これは，極めて目に近い位置にピンホールがあり，ピンホールにピントが合わないためです．
下図は，実際にピンホールを通してカメラで撮影した様子です．中央に見えるUIST 2019のロゴがCGです．CGの周りにぼんやりと円が見えますが，これがピンホールの境界です．UISTのデモ会場でも，実際に触ってみた人はピンホールがどこにあるのか分からず，覗く位置の調整に時間がかかることもありました．
![onemorebenefit.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/309400/370a4789-e6da-327b-503e-e3f0002a96ce.jpeg)


## まとめ

- UIST 2019のDemo Paperに採録された研究ネタの紹介をしました
- ピンホール効果と偏光という広く知られた光学現象を組み合わせるという極めて単純な手法です
- にもかかわらず，現実の景色のFoVを犠牲にすることなく深いDoFを達成できるという特徴があります
- 現実の景色にCGで情報を重畳させるようなアプリケーションへ有効であると期待できます
- 素人ながら，手を動かしてモノを作るのは楽しい．

## おまけ

- **[会場近くの建設中ホテルが崩壊して，一時的に近付けませんでした](https://edition.cnn.com/2019/10/20/us/hard-rock-new-orleans-crane-demolition/index.html)**[^4]
![HardRockHotel.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/541184/5c928c4e-6976-b9d7-38d4-2e15740a972d.png)


[^4]: これまでの人生で一番"collapse"って単語を使いました．[リンク先](https://edition.cnn.com/2019/10/20/us/hard-rock-new-orleans-crane-demolition/index.html)にもっと"collapse"な感じの画像があります


- **[バンケット会場は水族館でした](https://audubonnatureinstitute.org/aquarium)**[^5]
![banquet1.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/309400/4c141724-73cd-4bb6-024f-73ed1656b92d.jpeg)
![banquet2.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/309400/021d70da-1378-0801-f728-d18ae3360b9f.jpeg)

[^5]: エイに触れるコーナーとかがあったのですが，私はチキンなので触れませんでした．外国でケガするの怖いし

- **デモの様子．大盛況で人口密度がかなり高かった**
![demo.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/309400/e4acd7b9-ab6b-a1c9-6f7e-f0e75b5a38f2.png)