UX開発から生成AIへ
メタバース研究開発におけるユーザ生成コンテンツとコミュニケーション設計

❏
❏
❏

❏

講演者についてグリーグループのメタバース事業
REALITYのR&D■ 世界の最新研究■ 人材育成■ ユーザ生成コンテンツと生成AI■ コミュニケーション設計■ UX開発から生成AIへ メタバースR&D
ディスカッション/気づきの共有

しらいはかせ/白井暁彦 @o_ob @VRStudioLab
REALITY株式会社
デジタルハリウッド大学 大学院 客員教授

Generated by
Akihiko Shirai

講演者について白井暁彦: VRエンタテインメントシステムの研究者▶ 2018年6月より現職
GREE VR Studio Lab, Director
書籍「白井博士の未来のゲームデザイン～エンタテイメントシステムの科学～」(2013)より

Akihiko SHIRAI, Ph.D in a Manga (PhD to Post-Doc era)
【博士論文】「床面提示型触覚エンタテイメントシステムの提案と開発」
東京工業大学大学院総合理工学研究科知能システム科学専攻(2004年)
2003-2005 [Post-doc in NHK-ES]
Axi-Vision & Projection Lighting for next-generation digital
TV broadcasting and production environments.
2005-2007 [Post-doc in Laval France]
ENSAM Presence & Innovation Lab, in Laval France.
Studying theme park attraction development and social
deployment through “Laval Virtual ReVolution” exposition.

2008-2010 [Science Communicator in Museum “Miraikan”]
At a national science museum in the Tokyo Bay area, I learned
the specialized skills of communicators, interpreters andservice engineering through my work in the science
communicator training program, and developed exhibits thatincorporate entertainment ideas into the world of science.

Manga from my book ”The future of game design - Science in Entertainment systems” (2013)

Fantastic Phantom Slipper (1997)
The system has been realized with a real-time opticalmotion capture system using PSD and Infrared-LEDs. In
the system, two LEDs are ﬁxed on each slipper. The
locations and directions of slippers on the ﬂoor aremeasured in real-time. Since feet are usually on theﬂoor, two dimensional measurement is suﬃcient forthis application.
The similar technology of this is used into Nintendo's
WiiRemote as its image sensor with sensor bar in later.

Another key technology is the “Phantom Sensation”, a special
psycho-physical phenomenon on human skin. When two mechanicalstimuli of the same intensity are applied to diﬀerent locations of skinsurface with appropriate spacing, the two stimuli are fused and one
sensation is perceived. When the intensity of one stimulus increases,
the location of fused sensation shifts to the location of stronger
stimulus. This psycho-physical phenomenon has been known asphantom sensation, which was found by Bekesy, a Nobel Prize Winner in
1961. This project was realized before the rumble pad of gamecontrollers as known as vibrotactile in 1997.

Fantastic Phantom Slipper (1997)

SIGGRAPH’98

Tangible Playroom: Penguin Hockey (2001-2003)"Tangible Playroom" was designed as a future computer
entertainment system for children. It can provide some
Virtual Reality contents with a safe force feedback and alarge ﬂoor image. Players can interact with content's worldusing their full body. To feel force feedback, player grasps atangible (graspable, perceptible by touch) grip like a corkball. It is linked to encoder motors by strings. Then it can
input 3D location to system. When player touch to some
objects, system calculate a correct force feedback to player
via string and tangible grip. Our system can provide highquality force representation with safe rather than metal
linked arm system.
"Penguin Hockey" is a typical demonstration content. It is a
simple 3D hockey game playing with automotive penguins.
The pucks are snowmen. To get points, players should throwsnowmen to the enemy's goal hole. Our software has areal-time dynamics simulator then children can interact withcomputer-generated characters with real reactions.

Demo at SIGGRAPH KIDS 2003, Best Multilingual and/or Omnilingual award.

[Mirakan]Songs of ANAGURA (2008-2010)
Concept design and technical basement research.
10x16m projection clusters
Laser tracker clusters
Players don’t wear any tracking devices“Wall of Wisdom” - observation console
Unity based contents creation

In Miraikan permanent exhibition since 2010 - current.
https://www.miraikan.jst.go.jp/sp/anagura/“Entertainment Systems”● Deﬁnition (in post-doc era, 2004-)○ Computer systems that was designed to aﬀect tohuman amusements.
○ Video Games, media arts, real time interactive and entertainment
virtual reality are possible to be included.
○ Cinemas and DVDs are also possible to be included but should
focus to “computer system” like interactivity.

画像電子学会分野「多重化ディスプレイ」の研究
2x3D: Real time shader for simultaneous 2D/3D
hybrid theater (teaser for SIGGRAPH ASIA 2012)https://www.youtube.com/watch?v=GtQFyFd4cJw

ExPixelFPGA (2015)
https://youtu.be/lOMx5F7aGEQ

関連：IIEEJ論文「身体動作と感情表現を連動させたマンガ自動生成システム」(2015)

Manga Generator まんが王国とっとり国際版-

Manga Generator MANGA KINGOM TOTTORI "International" Edition

2018GREE VR Studio Laboratoryグリーグループのメタバース事業

REALITY株式会社■代表取締役社長
荒木 英士（グリー株式会社 取締役 上級執行役員）■会社所在地〒106-0032
東京都港区六本木6-11-1
六本木ヒルズゲートタワー 4F■事業内容
・スマートフォン向けメタバース “REALITY”の開発・運営
・法人向け バーチャルイベント制作PF “XR cloud”の開発・運営■沿革・2018年4月 株式会社Wright Flyer Live Entertainment(旧社名)を設立
・2018年8月 世界初のVTuber専用ライブ配信PF「REALITY」提供開始
・2019年10月 法人向けソリューションサービス提供開始
・2020年12月 Google Play ベストオブ2020 部門賞受賞
・2021年3月 REALITY、海外版提供開始
・2021年8月 REALITY株式会社社名変更、メタバース事業へ再定義

17

REALITY株式会社

18

本社オフィス@東京六本木「人が来るメタバース2022～ REALITY XR cloudが推進する
メタバースのBizDevOps」 #XRKaigi
社名

REALITY株式会社

株主

グリー株式会社100%

設立

2018年4月（旧社名：Wright Flyer Live Entertainment）

代表者

荒木 英士
（グリー株式会社取締役 上級執行役員）

本社所在地〒106-0032
東京都港区六本木6-11-1 六本木ヒルズゲートタワー© REALITY, Inc.

19

REALITY VISION

なりたい自分で、生きていく。
We can be whoever we want.

20

Question＜市場＞

メタバースは、失敗する？
Answer＜REALITY＞

メタバースは、既に来ている。
21

スマホアプリ“REALITY” とは© REALITY, Inc.

22

REALITYのご紹介

スマホで誰もがいつでも気軽に遊べるメタバースプラットフォーム© REALITY, Inc.

23

世界初VTuber専用ライブ配信プラットフォーム開始

提供開始2週間で10万DL・視聴者の40％以上がギフティング

2018

いつでも誰でも簡単にVtuberになれるアバター制作アプリ提供開始

配信イベントを提供開始してユーザーの活躍の場を拡大© REALITY, Inc.

24

ユーザー同士でチャットができる機能リリース

世界初のアバターコラボ配信機能リリース

2019

アプリ内でできるゲームが続々登場

REALITY 1周年記念番組 生配信© REALITY, Inc.

25

低遅延モードリリース（ラグなし・高画質・通信量抑制）

コラボ配信で遊べるゲームがリリース（人狼）2020

アプリと同名の「REALITY」へ社名を変更

Google Play ベスト オブ 2020 エンターテイメント部門賞© REALITY, Inc.

26

2021年2月データ発表・海外ユーザー大幅成長

2-3年でグローバルで100億投資し、数億ユーザーを目指すことを発表

2021

USにてSNS無料ランキング5位・全世界62の国と地域で配信

3周年でメタバース空間を初リリース© REALITY, Inc.

27

グループチャットにアバタースタンプ機能追加

企業向けのメタバース空間提供を開始

2022

海外比率が約80%へ

初のファン向けオフラインイベント実施 in 東京© REALITY, Inc.

28

2022.10© REALITY, Inc.

29

「REALITY」ユーザー規模
2022年 年末時点全世界1000万DL超え
今後も引き続き成長見込み
全世界

数億人+
世界No.1
スマホメタバース

全世界

1,000万DL超

2022年
年末時点

202X年
計画

© REALITY, Inc.

30

© REALITY, Inc.

31

品川駅サイネージ(2022/4ごろ)

東急田園都市線渋谷駅B1F
A0/A1出口方面の壁面(2022/8/28ごろ)

REALITYの現在と未来

実績と体験から得られたメタバースが魅せる未来
実績© REALITY XR cloud, Inc.

体験

36

2023年3月1日、新会社設立。
3月1日、グリー株式会社は法人向けメタバース事業の REALITY XR cloud株式会社およびVTuber事業のREALITY Studios株式会社を設立しました。スマホ向けメタバース
アプリ「REALITY」の開発・運営を行う REALITY株式会社を残しつつ組織を再編。 2022
年7月に設立した Web3事業のBLRD PTE. LTDを含め、4社体制でメタバース事業強化を目指します。

© REALITY, Inc.

VTuber事業[REALITY Studios株式会社]

VTuber事業[REALITY Studios株式会社]
新たな事務所「FIRST STAGE PRODUCTION」

VTuber事業[REALITY Studios株式会社]
ゲーム配信主体の女性VTuber事務所「すぺしゃりて」を設立～第1期生オーディションを5月1日（月）より国内に加え海外でも同時開催～ (グリー株式会社 2023/5/1)

REALITY XR cloud株式会社

我々はメタバースへ挑戦するすべての人をサポートします。
IT・VR領域で長年積み上げてきたグリーグループの新たなソリューション

© REALITY XR cloud, Inc.

41

REALITY XR cloud株式会社

グリーグループでメタバースB2B事業領域を推進

1

メタバース

2

エンタメコンテンツ

3

DX

4

コマース

日本最大級の「おだかけ」メディアや飲食向けのSaaS、住まい・美容などのメディア事業を展開しています。
グローバル向けメタバースプラットフォー
ム「REALITY」アプリの開発運営や、
Vtuber事務所機能、バーチャルライブ制
作事業、 Web3事業を推進。
またREALITY XR cloudは、メタバース等のテクノロジー B2B開発企業です。グリーのメタバースやアプリ開発で備わった知見をもとに、企業や官公庁向けに様々なソリューションを展開しています。

© REALITY XR cloud, Inc.

日本発のグローバル向けゲームコンテン
ツのソフトウェアプロデュースと開発運営を行っています。セールスランキング 1位
やアワードの大賞なども受賞。
またアニメ・マンガについても新領域の事業として推進しています。

データマーケティングやカスタマーエクス
ペリエンスを中心に、「データ」「 DX」「アドエージェンシー」「マーケティング」「 SNS運用」「インフルエンサー」「 EC」「カスタマー
サポート」などの B2B支援事業を行っています。

5

投資・インキュベーション

デジタル・ XRを中心に、さまざまなステー
ジで日本のみならず世界全体に向けて投資や伴走を展開しています。

42

メタバースの経験

ゲーム事業会社発 XR事業領域を8年経験
B2Cメタバース
プラットフォーム

VR参入

8年

5年

B2Bメタバース
ソリューション提供

4月

8月

VR開発専門部署として「GREE VR Studio」を設立

世界初のVTuber専用ライブ配信PF「REALITY」提供開始

2004年

2015年

4年

株式会社Wright Flyer Live Entertainment(旧社名)を設立

11月

2016年

2018年

メタバース専門子会社
4社体制の始動開始

4月

12月

REALITY XR cloud分社化

Google Play ベストオブ2020 部門
賞受賞

2019年

REALITY Studios 分社化

2020年

2021年

12月

4月

10月

3月

GREEの運営を目的とした
グリー株式会社を設立。

VRスタートアップ企業を支援するファンド「GVR Fund」を設立

法人向けソリューションサービス提供開始

REALITY、海外版提供開始

5月
日本国内最大級VRカンファレンス「Japan VR Summit」を開催© REALITY XR cloud, Inc.

2023年

8月
REALITY株式会社社名変更、
メタバース事業へ再定義

43

XRソリューション「REALITY XR cloud」
メタバースへ挑戦する すべての人をサポート します
メタバース、バーチャル関連の領域においてビジネス向けソリューションを多数提供しています。
メタバースへ挑戦するすべての人をサポートできるように各種パッケージをご用意。
REALITY Worlds
100万人集客

ユーザー活用アバター活用・Vtuber制作
アセット活用

アバター会議REALITY Spaces
OEM提供

カスタマイズ

限定バーチャル空間
1000名以上

バーチャルライブ
収録スタジオ

番組制作

社内活性化

コンサルティング
事業開発

アンケート

各メタバースプラットフォーム・エンジン活用
ブラウザ

RobloxFortnite

Meta Quest

独自エンジン開発中© REALITY XR cloud, Inc.

44

実績
業界問わずさまざまな法人・自治体と取り組み

今後も多くの顧客のパートナーになれるよう尽力していきます© REALITY XR cloud, Inc.

45

国内企業がやる意義

デジタル領域で日本企業がグローバルで勝てる未来がある
WHY？
メタバースに挑む・制作する企業が多く

クリエイティブ領域で勝てる リソースがある

競争力で伸びていく

高品質なゲーム制作会社・クリエイターが豊富

約2万の法人・自治体が興味あり※調査期間： 2023/4〜5 弊社調べ

© REALITY XR cloud, Inc.

ゲーム・エンタメの発明経験
マンガ・映画・アニメ・キャラクターの制作

46

弊社の2023年動向（実績）
マーケティング、調査、ライブビューイング、ビジネスコミュニティ活用等© REALITY XR cloud, Inc.

47

REALITYアプリのメタバースコラボレーション“REALITY Worlds”© REALITY, Inc.

48

REALITY Worlds実績

2022年 総来場者数

4,000万人以上(2022年 全11ワールド)© REALITY, Inc.

49

事例紹介：HIS様© REALITY, Inc.

50

事例紹介 HIS様REALITYが提供する「REALITY Worlds」にHISがバーチャル支店をオープン

来場者数

男女比

男性

1,355,841人

36.0%

女性

64.0%

年齢

18-24

60.7%

25-34

14.6%

35-44

14.3%

44-54

6.8%

55-64

1.4%

65+

2.2%

© REALITY, Inc.

51

事例紹介：ビームス ディレクターズバンク様© REALITY, Inc.

52

事例紹介 ビームス ディレクターズバンク様
REALITY、メタバースで「ととのう」極上のサウナ体験施設を期間限定オープン
ビームスのディレクターズバンクがプロデュース

来場者数

男女比

年齢

18-24

男性

3,447,659人

34.5%

女性

65.5%

58.43%

25-34

16.72 %

35-44

13.52 %

44-54

6.19%

55-64

2.05%

65+

3.09%

© REALITY, Inc.

53

事例紹介：
株式会社テレビ東京コミュニケーションズ 様© REALITY, Inc.

54

事例紹介：f4samurai様55

事例紹介：三越伊勢丹様© REALITY, Inc.

56

事例紹介：DIJI SHURI XRプロジェクト© REALITY, Inc.

57

事例紹介：自社オリジナル© REALITY, Inc.

58

事例紹介：広告掲載 各種企業様© REALITY, Inc.

59

事例紹介：三井不動産様・東京ドーム様© REALITY, Inc.

60

事例紹介 東京ドームワールド
1,000万DLを突破したスマホ向けメタバース「REALITY」に「東京ドーム」が出現〜REALITY、三井不動産グループとリアル施設のサービス価値向上に向け連携〜

来場者数

男女比

年齢

18-24

男性

3,032,262人

32.8%

女性

67.2%

61.37 %
17.54 %

25-34
35-44
44-54

12.15 %
4.97%

55-64

1.58%

65+

2.38%

© REALITY, Inc.
※上記の各数値は2022年12月27日時点の経過報告であり、イベントは2023年2月28日まで継続します。

61

事例紹介：サンリオ様© REALITY, Inc.

62

どういった課題解決につながるか
既存のブランディングでは

将来性・持続性がない

新領域で競合より遅れをとれない現実世界だけでは伝えきれない若い世代にリーチできない

既存プロモーションの効果低下

海外インバウンド需要が減少した

メタバースで一度失敗した高エンゲージメントや定性的なデータが不足

口コミ・
バイラル施策の不足

アバターの種類数を作りきれない© REALITY, Inc.

63

今後に向けての動き
テクノロジー(通信・端末等)は向上し、メタバースも高品質へ
我々も“なりたい自分で、生きていく”が実現できるように挑戦し続けます。

© REALITY, Inc.

64

今後についてさまざまなメタバースのソリューションをアップデートしてきます

01

02

03

04

イベント・
プラットフォーム構築

メタバース展示会

メタバース広告

アバターアイテム
ショップ販売仮想空間を利用したイベント実施
メタバースプラットフォームの構築

展示を
1000万ユーザーに向けて実施「人がいるメタバース」の街頭ビジョン等へ広告掲載

2023年春頃より
企業コラボ販売を開始予定© REALITY, Inc.

65

REALITYの未来
全世界

2022年 全世界1000万DL超え
今後も引き続き成長見込み

数億人+
世界No.1
スマホメタバース

全世界

1,000万DL超© REALITY XR cloud, Inc.

2022年
10月時点

202X年
計画

66

メタバース × 活用フェーズ
メタバース領域における すべてのセクション で伴走できる体制

01.
メタバースを知る02.
メタバースを体験

03.
メタバース活用・実験

メタバースで何ができるのか、御社サー
ビスとどう交わっていくのか

説明会、体験会、PoCなど、実体験を積んで正しい知識で挑戦準備

実際に活用や実験を繰り返していくフェーズ。活用方法は多岐に渡る（広告、イベント、実験、コミュニティ活用、ア
バター等）

04.
メタバース

事業活用化
企業にあったそれぞれのビ
ジネスを飛躍させる

メタバース有識者によるメタバース活用・事業化コンサルオプション
成功・失敗体験・市場動向などの知識や経験をもとに事業活用のノウハウを最大限活用© REALITY XR cloud, Inc.

67

企業には新たなビジネス機会を、参加者にはメタバースならではの体験を提供し、社会全体のメタバース発展に貢献へ。

お問い合わせは「REALITY XR cloud 株式会社」まで

我々はメタバースへ挑戦するすべての人をサポートします。
IT・VR領域で長年積み上げてきたグリーグループの新たなソリューション

https://reality-xrcloud.inc/© REALITY, Inc.

69

REALITY VISION

なりたい自分で、生きていく。
We can be whoever we want.

70

画像電子学会
Advanced Image Seminar 2023
(AIS2023)

UX開発から生成AIへ
メタバース研究開発におけるユーザ生成コンテンツとコミュニケーション設計

✓
✓
❏

❏

講演者についてグリーグループのメタバース事業
REALITYのR&D■ 世界の最新研究■ 人材育成■ ユーザ生成コンテンツと生成AI■ コミュニケーション設計■ UX開発から生成AIへ メタバースR&D
ディスカッション/気づきの共有

しらいはかせ/白井暁彦 @o_ob @VRStudioLab
REALITY株式会社 REALITY
デジタルハリウッド大学 大学院 客員教授

Generated by
Akihiko Shirai

[GREE VR Studio Laboratory]

Annual 2023
j.mp/VRSYT

[R&D] メタバースの未来開発

世界の最新研究
SIGGRAPH ASIA 2022より

SIGGRAPH そもそも何？
Special Interest Group of Computer Graphics
世界で最も歴史があるCG＋インタラクティブ技術の国際会議
毎年夏に北米で開催（50年の歴史）、2003年～冬にアジアでも開催
SIGGRAPH ASIA はオーストラリア→日本→韓国といった開催地

SA22公式側の「注目のセッション」

Keynote

There is No Such Thing as Artiﬁcial IntelligenceChanges in the Visual Arts Market Brought About
by Immersive Content Technology

Empowering Creators with Technology in the Metaverse

XR

Emerging Technologies

Real-Time Live!

Real-Time Live!

Real-Time Live!

(参考)過去のReal Time Live!での弊ラボ発表
SIGGRAPH ASIA 2018 Tokyo, SIGGRAPH ASIA 2019 Brisbaneでのリアルタイムデモ
会場のリアクションを分析して オーストラリア←→東京 をライブで踊る

SA22での発表内容●

メタバース空間でのユーザーエクスペリエンスの研究●

多くの人が快適にメタバースで過ごすにはどのような要素が重要なのか●"Metaver-School"という学校想定のHMDメタバース

メタバース空間でユーザーが求めていること●

多様なアバターを使いたい○

様々な服やアクセサリー・髪型○

髪やスカートなどの服が動く■

技術的にはSpringBoneなどの物理演算●

いろいろなアイテムを使いたい●

様々なワールドに遊びに行きたい●

沢山のユーザーと同時に交流したい○ 沢山の人の賑わいを感じたい➡ターゲットデバイスとしてQuestで実現できるのは、どのラインかを探るレンダリング実験●

REALITYで使用しているアバターを参考に実験○●

ポリゴン数が30,000前後でマテリアル数が6～14程度のアバター

Quest1,Quest2で同時のアバターを何体描画できるかを調べる➡同一のメタバース空間でどれぐらいの人数がワイワイできるのか？

[AI Fusion]アバターカラオケを実現する技術●

MIDIからの自動生成＋人間の生き生きとしたモーションの融合●

スクールメタバースで楽器を演奏する

弦楽器・打楽器における AI Fusion: システム構成
技術課題：モーションキャプチャーを使うと楽器演奏が難しい。
正解譜面から生成したアニメーションは（演奏として正しいが）見ていて飽きる。
個人の表現力の豊かさを維持しながら将来的にネットワーク上で「アバターカラオケ」ができる気軽さが可能になるAIアシスト技術を開発。

参考：正解譜面だけで生成したドラムアニメーション

Demo system●

同時接続数が10人前後であればQuest1,Quest2でコンテンツを提供できる○●

実際には他のアセットもあるのでもう少し少なくなりそう

実際に楽器が弾くことをできなくてもAIFusionを使うことでメタバース上で他のユーザーを一緒に演奏することができる

リアル会場の様子[next] IEEE MetaCom2023 (6/26-28, Kyoto)
Avatar Fusion Karaoke:
research on multi-user music play VR experience in metaverse
Alexandre Berthault, Takuma Kato, Akihiko Shirai (REALITY Inc., Japan)
https://www.ieee-metacom.org/2023/accepted-papers.php
フルペーパー採択！

[next] CEDEC2023インタラクティブセッション
SIGGRAPH 2023 Posters採択(to be announced)

画像電子学会
Advanced Image Seminar 2023
(AIS2023)

UX開発から生成AIへ
メタバース研究開発におけるユーザ生成コンテンツとコミュニケーション設計

❏
❏
❏

❏

講演者についてグリーグループのメタバース事業
REALITYのR&D■ 世界の最新研究■ 人材育成■ ユーザ生成コンテンツと生成AI■ コミュニケーション設計■ メタバースR&Dの今後
ディスカッション/気づきの共有

しらいはかせ/白井暁彦 @o_ob @VRStudioLab
REALITY株式会社
デジタルハリウッド大学 大学院 客員教授

Generated by
Akihiko Shirai人材育成Intern in GREE VR Studio Laboratory
https://vr.gree.net/lab/internship/

PIと学生インターン中心で推進する欧米BigTechスタイルの研究開発

Member in Laboratory
中野さん
明治大学総合数理学部先端メディアサイエンス学科の4年。
2020年12月よりラボに参加。UXDevシリーズを通して助監督としてストーリーライン設計からUnityのエンジニアリングなど幅広く担当。アカペラサークル所属。映画好き。

やはぎさん
デジタルハリウッド大学デジタルコミュニケーション学部デジタルコンテンツ学科の2年。
UxDevシリーズのUnityのエンジニアリングや各種スクリプティングを担当しています。
高校時代からラボに出入りしていた生粋のメタバースの住人。VALORANTで戦っている。

堀部さん
明治大学大学院先端数理科学研究科先端メディアサイエンス専攻修士1年。
2019年10月よりGREE VR Studio Laboratoryにて実験的ボイスチェンジャーサービス『転声こえうらない』利用者の音声分析やボイスチェンジャーのiOS実装や高速化に取り組む。UXDevでは、主に音声や表情を担当している。Pikmin BloomでLv70超。

Member in Laboratory
Alexandre Berthaultさん
フランスのデジタルアート系大学ISART Digitalを卒業し、東京工科大学の研究生をやっている
UXデザイナー。UXDevシリーズでは、主にUXプロトタイピングとエフェクトデザインを担当している。ラーメンが好き。漢字が苦手。

山岡さん
明治大学総合数理学部先端メディアサイエンス学科4年。2022年10月よりGREE VR StudioLaboratoryに参加。アバターが現実世界に違和感なく溶け込む技術を研究している。
Meta Quest, Hololens2, Web AR等での制作経験を活かしてアバター周りのR&Dを担当。
最近はQuest等HMDデバイスのアバターベンチマークツールを担当。

白井暁彦 Director
GREE VR Studio Laboratoryのディレクター。研究開発と教育、ビジュアルアート、VRエンター
テインメント、科学コミュニケーションなどで25年以上の経験を持つ。多様な才能を発揮してグ
リーグループの開発文化に多様性を沿えている。
業務外でグリー技術書典部や書籍「AIとコラボして神絵師になる」などを執筆している。

CGWORLD特集 （2023年1月号/vol.293）
メタバース開発者の卵が「自分は何者か」を発見する場所【GREE VR Studio Laboratoryリサーチ系インターンシップ】

https://cgworld.jp/article/202302-greevr.html

[成果例]140秒でわかるメタバース開発TIPS bit.ly/140meta▶学生とAITuberだけで制作したメタバース学習番組

インターン中心で製作・実施
https://connpass.com/event/279669/

現在のホットな研究テーマは「AIVTuber」
VTechChallenge2023のファイナリスト3作はすべてAITuber(AI-VTuber)でしたユーザ生成コンテンツと生成AI

※業務外！副業申請済。

「AIとコラボして神絵師になる
論文から読み解くStable Diffusion」
Kindle版
https://ivtv.page.link/ak
印刷版
https://ivtv.page.link/ap

著者:白井暁彦
2022/10/28発売開始(StableDiffusion公開から2ヵ月!)

GREE技術書典部 社内部活動で技術同人誌を執筆・頒布する活動ではじまる

新刊「グリー技術書典部誌 2022 年秋号」
オンライン版もあります

技術書典13にてグリー技術書典部誌
各1,000円

GREE TECH CONF 2022にて

グリー技術書典部・過去のラインナップ
過去の白井の執筆(基本的に業務外!)●

VTuberライブエンタメ技術に求められる研究開発●

Virtual Cast と Hapbeat を使った国際双方向アバター触覚ライブの開発●

Mozilla Hubs を用いたオンラインイベント WebVR 化テクニック

https://techbookfest.org/organization/276320001

StableDiﬀusionの公開(8/26)↓
技術書典13(9/25)に向けて、1か月で「グリー技術書典部誌2022 年秋号」に寄稿(50p)↓
翌日に編集者から商業書籍化のオファーを頂く↓(100ページ近く加筆…)
10/28に発売開始！

※今期からデジハリ大学院でクリエイティブAIラボを主宰します[2022/12/2] https://gs.dhw.ac.jp/news/2022-12-02/

生成AI市場の今後
米大手VCアンドリーセン・ホロウィッツ(a16z)の最近のブログ「生成AIプラットフォームは誰のものなのか？」より。

[End-to-End]MidJourney,RunwayML[アプリ]Github Copilot,Jasper[ソース非公開/API経由]GPT-3[モデルHub]HuggingFace, Replicate[オープンソースモデル]StableDiffusion[クラウド]AWS,GCP,Azure,CoreWeave[計算ハードウェア]NVIDIA,Google(TPU)
生成AI市場の多くの資金は最終的にインフラ企業に。大雑把な数字で、アプリ企業は収益の約2〜4割を推論とチューニングに費やしている。これはクラウドのインスタンスに直接支払われるか、
モデル提供者に支払われます。モデル提供者は収益の約半分をクラウドに費やしている。つまり現在の生成AI総収益の10〜20%はクラウドに流れていると推測するのは合理的な数字といえる。
★その他のレイヤーでの収益構造構築はまだまだ未知数。

Who Owns the Generative AI Platform? (Andreessen Horowitz)
https://a16z.com/2023/01/19/who-owns-the-generative-ai-platform/

[REALITY] CEO自らブラウザで動くテトリスを作ってバズる会社※もちろんこれも“業務”ではないはず …

“尊い”
業務外活動

Generated by Akihiko Shirai

技術だけでは解決しないのでインターフェイス

社会との界面をリサーチする毎日ブログ書いています![メタバース開拓日誌]
人気のあった記事からわかる社会の注目度…
●
●
●
●
●
●

カッとなってGPT-4で確定申告をスマートにした
OpenAI公式文書に基づきGPT4に「倫理的脱獄」を誑かす(たぶらかす)
海外出張を楽にする
LangChainもくもく会・デプロイ先まとめ
スライドを秒で作るSlidesGPT「窓の杜」での連載もあります(組織の意向とは関係なく)オー
プンな技術発信です「すごいことを楽しそうに」「発信して」「社会に問う」

REALITYのnote ラボのマガジンもあり https://note.com/reality_eng/m/m394ac85738b5

楽しそうに見えるかもしれないけど、実は高度で長期で正解がないR&Dの世界…

コミュニケーション設計

AppleVisionPro時代を予測した研究

[UXDevT5] ”Meta Communication” ( 2022/10/19公開)

「VibeShare」YouTubeLiveでの触覚メタバース[#CEDEC2021] VibeShare: コロナ禍の音楽ライブを「触覚」で双方向化する
https://www.youtube.com/watch?v=PYjqzAwMlts
メタバース時代の触覚UXを六本木のミュージックバーで実証実験した学生の話。
https://note.com/reality_eng/n/nc858173ef43c
触覚デバイス＋YouTubeへの独自ギフティングシステムを開発（ヒビノ株式会社ご協力）
楽曲のセットリストとギフトの傾向をタイムラインで分析YouTube音楽ライブ番組の分析●●

演奏終了直後&数分後に拍手が集中 → 実際の拍手の役割を担っている
お花やお酒に関する発言や贈呈後に、🌸や🍹が集中 → コールアンドレスポンスのような役割を果たせている。

VTuberの配信を分析して番組を改善（課題も…）
分析では最も[anger]が多いシーンであった…が、怒り…ではなく服を着て風呂に入って唄う瞬間。

既存のNLP研究では分析しきれない
興味深い課題が多く存在するマルチエージェントAITuberによる実験番組の生成#MetaChatNews

3ヶ月に1本制作→3日に1本制作可能に!

生成AIによる複数のエージェントによるショートフィルム、
リアルタイム化→インタラクティブ化→視聴者とのコミュニケーションを可能に[CEDEC2023]Metaverse Mode Maker
生成AIxメタバース:VR,WordToTextile,MotionUGC,AITuber…

メタバースR&Dの今後

メタバースにおけるユーザーエクスペリエンスの研究開発はエンタメから
コミュニケーション
そしてコンヴィヴィ技術へ「作られたおもてなし」から「みんなで楽しむ」へConviviality:共にイキイキする
思想家/文明批評家のイワン・イリッチが提唱した概念「Tools for Conviviality」
当時は「自立共生」と訳されていた
近年、シンギュラリティ以降の人間と技術の関係を紐解くキー。

デジタルハリウッド大学
学長 杉山知之

私のコンピュータ文化史 TOKYO1964 - TOKYO2020 (杉山知之）より

例:みんなで楽曲を演奏する体験
Collaborative Music Play Experience
REALITYのアバターで Questだけでメタバース内でスクールバンドのメンバーになれる体験ができる……！
自由度が高い近未来の「アバターカラオケ」

GREE VR Studio Laboratory、メタバース時代のア
バターを活用したクリエイターエコノミーを刺激～バーチャル演奏技術映像 「AI Fusion」を公開～
PRTIMES 2022/10/19
CGWORLD特集 メタバース開発者の卵が「自分は何者か」を発見する場所【GREE VR StudioLaboratoryリサーチ系インターンシップ】

ワークショップx研究開発=社会実装
Technology→Communication→conviviality

過去の実施事例より 1/8「スマ歩さがみはら」相模原市全域を使った
メタバース化ともいえるプロジェクト。
位置情報ゲームの元祖「Ingress」を使って、相模原市立博物館の学芸員と協働で、地域とネット
社会と子供向けワークショップを開発して発信。
平成26年度相模原市協働事業として実施

過去の実施事例より 2/8
小学生向けアバターワークショップ
千葉大学教育学部と連携し、教員を目指す大学生らとともに、小学生でも主体的に作り出せるアバター利用ワークショップを数年に渡って開発。音楽や脱出ゲーム、地域の商店街との連携など、様々な活用事例が生まれました。

【関連資料】
・小学生がアイドルやゴリラに！？VTuberになってさまざまな表現方法を学びました。
・「カラフル王国」に色を取り戻せ！大学生と子どもたちが作る「精霊VTuber」学習ゲーム
・小学生がVTuberになってお悩み相談～「ゲームの力を教育の未来へ」公開授業
https://news.yahoo.co.jp/byline/onokenji/20190306-00117200

過去の実施事例より 3/8「UPGRADE with TOKYO 第11回」東京都へのアートを通した社会包摂を提案
https://www.youtube.com/live/za7RUfakpUw?feature=share&t=2870

VibeShare: 触覚とエモートで体感・共有する
オンライン鑑賞/演奏会の双方向化技術(資料)過去の実施事例より 4/8
キッズワークショップ2021(森ビル様との連携で開発)https://vr.gree.net/lab/live/kws2021/
Google Street Viewを利用したバーチャルな海外旅行体験。旅行シナリオはプログラ
ミング不要で、このシステムを使った国際ワークショップも実施例あり。
アーカイブ動画 https://youtu.be/UcuHIW3HGP4 デモ https://vibeshare.vr.gree.net/

過去の実施事例より 5/8
キッズワークショップ2022(森ビル様との連携で開発)
https://vr.gree.net/lab/live/kws22/
小学4年〜中学2年生向けにブロックプログラミングと3DCG制作、キャラ
クターデザインとモーション表現を「メタバースで夏祭り」をテーマにコラボレーションするワークショップ。Web上で視聴できるメタバース渋谷と「バーチャルとは？メタバースとは？」についての講義つき。

アーカイブ動画 https://www.youtube.com/watch?v=bXxnUdpaX8M

過去の実施事例より 6/8「AIとコラボして神絵師になる 論文から読み解くStable Diffusion」(書籍)
今話題沸騰中のAIによる画像生成の仕組みや使い方について、中学生でも理解できることを目指し、わかりやすい説明で紹介した解説書です。難しい数式を全く使用せずにAI画像生成技術の最先端を科学コミュニケーターである著者（白井暁彦・REALITY株式会社）がやさしい口調で解説しています。より深く知識を得たい読者のために、Pythonでのサンプルコード、プロンプトの基礎や出力例、AI画像生成の法的な側面、実際の仕事で使ったユースケースも掲載。表紙イラストもAIで生成しており、担当イラストレーター・852話氏と著者の対談も掲載しています。先端技術を使いこなして、AI神絵師になるための「冒険の書」です！

「いまからでも遅くない！ツールとして使うAI画像生成」(窓の杜・連載)
急速に進化を続けるAI画像生成をスマホひとつで使いこなすためのWeb連載記事。難しい数式やプログラミン
グを可能な限り使わずに、インパクトのある絵を作る手順を丁寧に紹介しています。

過去の実施事例より 7/8「140秒でわかるメタバース開発TIPS」YouTube動画シリーズ
高校生～大学生～社会人で、メタバース開発者を目指したい方々に向けた、
プロ志望向け開発テクニックをトピックごとに140秒でまとめた動画シリーズ。
コンテンツはラボの監修で実際に学生がアバターを使って制作しています。
プレイリスト https://bit.ly/140meta過去の実施事例より 8/8
デジタルハリウッド大学大学院「人工現実」
社会人大学生（留学生多し）向けの最先端のVR・メタバースに関連する体験演習型講義。全8回で、WebVR(Hubs,DOOR), VTuber動画制作(アバター制作,AI音声合成,動画編集), SNS活用など、総合的なVR企画開発を体験する。
[VTuber一問一答自己紹介][WebVR年賀状+アート作品][WebVRおせち][最新作]森ビル キッズワークショップ2023

「すごいことを楽しそうにやる」

学術面も論文賞授賞、CEDEC、SIGGRAPH ASIA採択など豊作
技術紹介はこちら

YouTube: https://j.mp/VRSYTUXDevティザーシリーズは各国語版を http://vr.gree.net/lab/uxdev にて公開していますメタバースにおけるユーザーエクスペリエンスの研究開発はエンタメから
コミュニケーション
そしてコンヴィヴィ技術へ「作られたおもてなし」から「みんなで楽しむ」へ

Research
Intern also
welcome!
We're hiring!

We can be
whoever wewant!

All we haveown avatars

Twitter@VRStudioLabhttps://corp.gree.net/jp/ja/metaverse-recruit/

グリーグループ＆REALITY株式会社を よろしくお願いいたします！

画像電子学会
Advanced Image Seminar 2023
(AIS2023)

UX開発から生成AIへ
メタバース研究開発におけるユーザ生成コンテンツとコミュニケーション設計

❏
❏
❏

❏

講演者についてグリーグループのメタバース事業
REALITYのR&D■ 世界の最新研究■ 人材育成■ ユーザ生成コンテンツと生成AI■ コミュニケーション設計■ UX開発から生成AIへ メタバースR&D
ディスカッション/気づきの共有

しらいはかせ/白井暁彦 @o_ob @VRStudioLab
REALITY株式会社
デジタルハリウッド大学 大学院 客員教授

Generated by
Akihiko ShiraiReferences: VibeShare and Directional Haptics
1.

Yuichiro Kume. 1998. Foot interface: fantastic phantom slipper. In ACM SIGGRAPH 98
Conference abstracts and applications (SIGGRAPH '98). Association for Computing
Machinery, New York, NY, USA, 114. DOI:https://doi.org/10.1145/280953.284801

2.

Yusuke Yamazaki, Shoichi Hasegawa, Hironori Mitake, and Akihiko Shirai. 2019. NeckStrap
Haptics: An Algorithm for Non-Visible VR Information Using Haptic Perception on the Neck.
InACM SIGGRAPH 2019 Posters(Los Angeles, California)(SIGGRAPH ’19). Association for
Computing Machinery, New York, NY, USA, Article 60, 2 pages.
https://doi.org/10.1145/3306214.333

3.

Yusuke Yamazaki and Akihiko Shirai. 2021. Pseudo Real-Time Live Event: Virtualization for
Nonverbal Live Entertainment and Sharing. In2021: Laval Virtual VRIC, ConVRgence
Proceedings 2021(Laval, France)(VRIC ’21). https://doi.org/10.20870/IJVR.2021.1.1.479

References: Map and Walking interactions
1.

Makiko Suzuki Harada, Hidenori Watanave and Shuuichi Endou, : "Tuvalu Visualization Project - Net Art on
Digital Globe: Telling the Realities of Remote Places", page 559- 572, 2011.

2.

Akihiko Shirai, Kiichi Kobayashi, Masahiro Kawakita, Shoichi Hasegawa, Masayuki Nakajima, and Makoto
Sato. 2004. Entertainment applications of human-scale virtual reality systems. In Proceedings of the 5th
Pacific Rim conference on Advances in Multimedia Information Processing - Volume Part III (PCM'04).
Springer-Verlag, Berlin, Heidelberg, 31–38. DOI:https://doi.org/10.1007/978-3-540-30543-9_5

3.

Akihiko Shirai, Yuki Kose, Kumiko Minobe, and Tomoyuki Kimura. 2015. Gamification and construction ofvirtual field museum by using augmented reality game "Ingress". In Proceedings of the 2015 Virtual Reality
International Conference (VRIC '15). Association for Computing Machinery, New York, NY, USA, Article 4,
1–4. DOI:https://doi.org/10.1145/2806173.2806182

References: Avatar and metaverse in Education1.

Rex Hsieh, Akihiko Shirai, and Hisashi Sato. 2019. Evaluation of Avatar and Voice Transform in Programming
E-Learning Lectures. In Proceedings of the 19th ACM International Conference on Intelligent Virtual Agents(IVA '19). Association for Computing Machinery, New York, NY, USA, 197–199.
DOI:https://doi.org/10.1145/3308532.3329430

2.

Rex Hsieh, Akihiko Shirai, and Hisashi Sato. 2019. Effectiveness of facial animated avatar and voice
transformer in elearning programming course. In ACM SIGGRAPH 2019 Posters (SIGGRAPH '19). Association for
Computing Machinery, New York, NY, USA, Article 82, 1–2. DOI:https://doi.org/10.1145/3306214.3338540

3.

Liudmila Bredikhina, Toya Sakaguchi, and Akihiko Shirai. 2020. Web3D Distance LiveWorkshop for Children in
Mozilla Hubs. In The 25th International Conference on3D Web Technology(Virtual Event, Republic ofKorea)(Web3D ’20). Association for Computing Machinery, New York, NY, USA, Article 27, 2 pages.
https://doi.org/10.1145/3424616.342472

4.

Stewart Culin. 1920. THE JAPANESE GAME OF SUGOROKU.The Brooklyn Museum Quarterly 7, 4 (1920),
213–233. http://www.jstor.org/stable/2645

References: XR Live Entertainment
1.

Akihiko Shirai. 2019. REALITY: broadcast your virtual beings from everywhere.
In ACM SIGGRAPH 2019 Appy Hour (SIGGRAPH '19). Association for Computing
Machinery, New York, NY, USA, Article 5, 1–2.
DOI:https://doi.org/10.1145/3305365.3329727

2.

Bredikhina, Liudmila et al. “Avatar Driven VR Society Trends in Japan.” 2020
IEEE Conference on Virtual Reality and 3D User Interfaces Abstracts andWorkshops (VRW) (2020): 497-503.

3.

Akihiko Shirai, et.al. 2019. Global Bidirectional Remote Haptic LiveEntertainment by Virtual Beings. ACM SIGGRAPH ASIA 2019 Real-Time Live!
SIGGRAPH
ASIA 2018Collaboration with “Hapbeat” through internshipHapbeat-Duo is an easy-to-wear necklace typed device which can present
powerful and impactive vibration.

Hapbeat-Duo

Hapbeat Introduction movie
https://www.youtube.com/
watch?v=DAXH5MMpBDY

Hapbeat-Duo has two core-less DC motors linked by a neck strap. The dynamic
range of frequency and amplitude is high enough to be perceived themodulation. Vibrations on either side of the neck do not resonate with eachother because the connector is not a rigid body but a flexible neck strap,
made of satin ribbon. Therefore, the device can render various distinguishable
vibration waves on both sides of the neck independently.
Paper link to origin ofHapbeatTension-Based Wearable
Vibroacoustic Device forMusic Appreciation
Technical Info

Product

https://bit.ly/3kicJif