【de:code2019】トヨタ自動車のMixed Reality の取り組み

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/dbae71c2-e7f1-b235-e228-673fc13955d5.png)
de:code2019 の2日目の最初のセッションです。トヨタのMRの活用事例を聞いてきました。EXPO会場では実際にこの取り組みで出てくるアプリの体験もあってました。

# 設計3Dデータを全工程で活用する
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/0fa6581c-1df3-78ac-a9be-6f661124d114.png)

考える力・時間を創出し、「もっといいクルマづくり」をしたいということで、トヨタでは企画から設計、製造、販売まですべての工程で3Dデータを活用する試みをやっているそうです。

## 設計/生技での活用
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/f4751bfa-ee70-49f9-e4fc-d9ca83470e22.png)
3Dデータの活用が最初に始まったのは1996年のV-Commで、わかりにくい部分を3Dで表現することで品質を上げようとしたそうです。今でこそきれいな3Dモデルがあふれてますが、この年代でやってたのは凄いですね。ただ、苦労も多かったようで、例えば3Dで表示したはいいが、部品と部品の隙間の表現ができないなど問題があり、いろいろと考えた結果、CADで定規を作って解決するなどこのころから「改善」を積み重ねてきたようです。

## 販売マーケティング
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/e98bc9c5-3af9-6e9a-693a-0180f2f99f3b.png)
2005年から市販CG用のデータを海外へ提供するようになり、3Dモデルとマテリアルを組み合わせてレンダリングできるソフトを作り、海外の販売拠点で活用するようになったようです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/aa84459a-1043-c236-920b-124aa9bad656.png)
今では店頭でのVRイベントやCMなど幅広く世界で使われているようです。左下のCMなどは私も見たことがあります。

# xRの活用へ
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/01064b50-40df-7a65-d8b3-050987b00525.png)
2000年当初は手書きのイラストを描いて資料として残していたようですが、車種が増えたり、様々な工程で資料を残すようになって、2007年に紙での管理に限界を迎えたとのこと。右下の写真は資料を縦積みしてみたらこれだけ積みあがったそうです。なので、これを機に電子化・3Dデータ化が一気に加速したそうです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/a3e065c6-e4a6-216f-11be-3a08857b8378.png)
特に若い世代はデジタルネイティブ化がどんどん進んでいるので、若手エンジニアを積極的に活用することで楽しく、かつ早いサイクルで「改善」を続けていったということでした。

## VR遠隔地講習会
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/5c09858e-f66e-65f6-1a06-d7a884e99c94.png)
現在試行中ということですが、海外拠点など遠隔地にいる人を集めてVR空間内で講習会を試されているそうです。離れていてもリアルに体験し知見を共有する狙いのようです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/0d174cf5-ce89-2612-74ae-129c39b8bfda.png)
Photonというマルチプレーヤー参加型のゲームを比較的簡単に実現できるプラットフォームを使っているようです。
私はオンラインのゲームなどを作ったことはないので初めて聞いたのですが、[Photonの活用事例](https://www.photonengine.com/ja-JP/Realtime/showcase)を見てみたところ、いくつか知っている作品もありました。

また、Oculus Goを使用したVRの教材もあるようです。
# HoloLensの活用
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/3d3d9369-4e93-d20e-0532-a1eb47c73185.png)
今まで、3Dデータの活用は行ってきたものの、ディスプレイの中に表示されているものを見るだけなので

* 作業中にすぐ見れない 
* 結局画面の中の情報なので、細かいところがわかりにくい

といった問題を抱え続けてきたそうです。そこに登場したのがHoloLensだったそうです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/ed10d2c6-d930-b8f7-bcb2-ea157e4260cc.png)

すぐに購入し、修理手順や故障診断など中心に試作を重ねていったそうです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/24c595b9-5b63-c5c2-2ee4-fdda5949a34a.png)
とくに「見えないものを見える化する」という点では効果絶大で、現場のサービスエンジニアの90%が好印象だったという結果になったそうです。ただ、その一方で、今まで積み重ねてきた経験と勘という職人気質のような部分で言うと、その経験値が逆に減ってしまうのではないかという声も上がったそうで、そのあたりをどう解消していくかは課題だそうです。

# 先行事例
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/a40feef4-c4aa-40a1-fb0d-cfe126ff64cb.png)

保守やトラブル対応などて活用できるRemote Assistです。これは標準アプリとして提供されていて、Teamsというアプリと連動して、作業員が遠隔地のバックオフィスにいる人からリモートで支援を受けられるアプリです。HoloLensで見ている動画をオフィスの人と共有して作業指示をもらうことが可能です。HoloLensでなくてもスマホからでもこのアプリは使えます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/b5ccbde5-03aa-3908-88f6-5120c8357434.png)
Guidesという3Dの作業マニュアルを作成するのに最適なアプリで、これも標準アプリとして提供されています。
これは実際に私も環境を作って動かしてみたので、どんな感じで動くものなのかはこちらを参考にしてください
[【デモ】HoloLens + Dynamics365 Guides でインクの交換をやってみた](https://qiita.com/t-sho/items/6a617763a68691c027e1)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/1eef5a23-363c-998a-fbe4-561ac30cf76e.png)
ちょっとわかりにくくて申し訳ないですが、実際の車に3Dを重ねて、エネルギーなどの動きがわかるようにした教材です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/8a78bdf6-258c-5e6d-6ae4-600ac7bd2fa3.png)
これは環境シミュレーションを3Dデータとして重ねて表示したものです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/0425b8bf-4642-c8c4-dae7-4dd107090d9e.png)
画像データを使った異常検知です。作業確認の漏れを防ぐために作ったようです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/261327/37c8a3a3-d240-6f2b-b0fc-63068a784eac.png)
この最後の事例ですごいのは、教師データを作成するのに3DCGを活用しているということです。
もともと写真でやっていたようですが、2万枚の写真を撮るのに10時間、撮った写真のアノテーション作業で200時間かかったので、これを圧縮するために3DCGを使ったということでした。CGが教師データになるというのは驚きでした。

xR、特にMRの分野は現実空間とコンピュータ空間の隔たりをなくせる技術としてこれからも力を入れていくということでした。