人工知能のキーテクノロジーとしてのディープラーニング
株式会社ネクスト リッテルラボラトリー
主席研究員
清田 陽司

KIAI 第3回九州地域情報化研究部会
2016.08.25

経歴› 研究分野: 自然言語処理応用、情報検索、情報推薦› 略歴• 京都大 (1997-2004)•

対話型質問応答システム
企業（マイクロソフト）との共同研究• 東京大 情報基盤センター 助教/特任講師 (2004-2012)•

図書館情報ナビゲーションシステム／Wikipediaマイニング•

図書館情報ナビゲーションシステム実用化（国立国会図書館リサーチ・ナビなど）
ビッグデータ処理技術(Hadoop)の展開
産学連携スタートアップとのかかわり• 株式会社リッテル 主席研究員/CTO (2007-2011)•• 株式会社ネクスト リッテルラボラトリー (2011-)•

情報推薦システムの研究開発 (主にHOME’S)
大学との共同研究› 言語処理学会 編集委員 (2010-2012)、人工知能学会 編集委員(2014-)、JST「情報管理」誌 外部編集委員 (2015-)、WebDBForum産学連携担当幹事 (2015-)
Copyright(c) NEXT Co., Ltd. All Rights Reserved.

2

株式会社ネクストのサービス
日本最大級の不動産・住宅サイト HOME’S を運営

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

※1 フジサンケイビジネスアイ調べ (2014.3.31掲載)※2 利用者数 No.1 ニールセンNetView 2013年4月データ (家庭および職場のPCからのアクセス・カテゴリ: 家庭とファッションサブカテゴリ:不動産)

3

AlphaGo

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

4人工知能とは？

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

5人工知能研究のはじまり› 1940年代• Alan Turing: 「知能をもつ機械」の基礎的概念› 1956年夏: ダートマス会議• 研究者たちが英Dartmouth大学に集まり、Artificial Intelligence(AI)という研究分野を定義

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

ジョン・マッカーシー(1927-2011)ハーバート・サイモン(1916-2001)

アレン・ニューウェル
(1927-1992)

マービン・ミンスキー(1927-2016)

6

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

7人工知能ブームの歴史

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

8人工知能分野発展の見取り図

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

9パズルを解く（探索・推論）

チェス、将棋、囲碁なども基本的に同じ考え方＝問題をツリー（木）構造に変換して解く「おもちゃの問題」しか解けない？
＝現実の複雑な問題には適用不可能？

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

10

ELIZA （1960年代）

U: 頭痛がひどいんだ。
S: たぶん医者に相談すべきです。私は精神科医です。
U: わかった、あとでそうするよ。
S: それについて詳しく説明できますか？
U: 何を言っている？ 詳しく説明なんてできないよ。じゃあまたね。
U: なぜそんなことを言うのですか？
U: だってわけわからないことを言っているじゃないか！
S: なぜわけわからないことを言っていると思うのですか？

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

11

知識を書きまくる（エキスパートシステム）

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

12

知識を表現する

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

13

IBM Watson

2009年、米国のクイズ番組Jeopardy!で優勝
Copyright(c) NEXT Co., Ltd. All Rights Reserved.

14質問応答システム（IBM Watson）

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

15

Watsonの裏側› サーバーの計算能力• CPUコア: 2880個• 主記憶容量(RAM): 15TBytes• 演算速度: 80兆回/秒› データ（インターネットには接続せず）• 2億ページ分の文書（100万冊に相当）• 百科事典• 書籍• 映画の台本

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

16機械学習＝大量のデータを「分ける」

教師あり学習Copyright(c) NEXT Co., Ltd. All Rights Reserved.

教師なし学習17

けっきょく、何が難しいのか？

› 「知識」をどこまで書けばいいのか？
• 世界が広すぎて書き切れない› 「関係のある知識」だけをどうやって取り出せばいいのか？（フレーム問題）› 「記号」と「それが意味するもの」をどうやって結びつけたらいいのか？（シンボルグラウンディング問題）

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

18ニューラルネットワークとは？

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

19

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

20

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

21

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

22

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

23ニューラルネット＝人間の脳神経回路の模倣

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

24ニューラルネット＝人間の脳神経回路の模倣

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

25

28×28＝784ピクセル
Copyright(c) NEXT Co., Ltd. All Rights Reserved.

26

ニューラルネット＝人間の脳神経回路の模倣

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

27

ニューラルネット＝人間の脳神経回路の模倣

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

28

ニューラルネット＝人間の脳神経回路の模倣

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

29ニューラルネット＝人間の脳神経回路の模倣

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

30

ニューラルネット＝人間の脳神経回路の模倣

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

31ニューラルネットワークの学習

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

32

誤差の計算1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

33

誤差の計算1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

34

誤差が少なくなるように結びつきの強さ（線の太さ）を調節する

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

35

誤差が少なくなるように結びつきの強さ（線の太さ）を調節する

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

36

誤差が少なくなるように結びつきの強さ（線の太さ）を調節する

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

37

誤差が少なくなるように結びつきの強さ（線の太さ）を調節する

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

38

誤差が少なくなるように結びつきの強さ（線の太さ）を調節する

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

39

誤差が少なくなるように結びつきの強さ（線の太さ）を調節する

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

40

誤差が少なくなるように結びつきの強さ（線の太さ）を調節する

1234Copyright(c) NEXT Co., Ltd. All Rights Reserved.

41

誤差が少なくなるように結びつきの強さ（線の太さ）を調節する

123
4Copyright(c) NEXT Co., Ltd. All Rights Reserved.

42

ディープラーニングというブレークスルー

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

43

ディープラーニング（深層学習）› ニューラルネットワークのブレークスルー• 層の数を増やせば表現能力が上がるが、学習が困難だった• 多層でも学習可能な方法が提案された (Hinton2006)› 各種の機械学習コンペティション
で、他の手法を大きく上回る精度を達成

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

44

Google 猫ニューロン
Youtubeから抽出した1000万枚の画像に深層学習を適用

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

1000台のサーバーで3日間かけて学習→ 猫の顔、人間の顔に反応するニューラルネットができた

45

ディープラーニングのなにが「すごい」のか？

› 頑健性• ノイズを加えて学習› 「特徴」「表現」にあたるものが獲得できる• 機械学習の難問への一つの解

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

46

ネオコグニトロン (1980年代、福島邦彦氏による考案)

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

47

ディープラーニングの主な応用› 画像認識• Google画像検索• キャプション生成（画像に適切な説明文を与える）› 音声認識• スマートフォンの音声インタフェースで実用レベルに› 自動運転、ドローン、ロボット制御、...
› 画像生成Copyright(c) NEXT Co., Ltd. All Rights Reserved.

48

ディープラーニングによる物件画像の自動分類

不動産会社による分類「内装」

不動産会社による分類「その他」

ディープラーニングによる分類「居間」
22.4294「キッチン」
18.8581「収納」
15.6817

ディープラーニングによる分類 ディープラーニングによる分類「バルコニー」
22.2454「収納」
22.8901「設備」
18.868「玄関」
22.1572「エントランス」 17.2992「設備」
14.7072

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

不動産会社による分類
「収納」

49

ディープラーニングの限界› 信号から記号への変換は得意• 画像認識、音声認識など• 画像からの説明文生成› 記号の操作を必要とする処理は苦手• 自然言語処理• 因果関係の理解› 時間的な前後関係の扱いはまだ難しい• 動画など› けっきょくは機械学習なので、大量の学習用データが必要
Copyright(c) NEXT Co., Ltd. All Rights Reserved.

50

ディープラーニングの実装

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

51

使いやすいライブラリの整備

GoogleCopyright(c) NEXT Co., Ltd. All Rights Reserved.

Preferred NetworksMicrosoftFaceBook52

ハードウェアの課題› 基本的にGPGPU (General-Purpose computingon Graphics Processing Units) が必須• CPUだけでも動くが、学習にはとてつもなく時間がかかる• 識別もGPGPUがあると望ましい› 消費電力の問題• モバイル端末やIoTプラットフォームで使えるか？
FPGAや専用チップの利用が今後進む？
Copyright(c) NEXT Co., Ltd. All Rights Reserved.

53

おわりに

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

54

おわりに

› できることとできないことの見極めが大切• ブームの中で本質が見失われがち› ディープラーニングの産業応用の課題• 技術と学術の融合をどう図っていくか？
• 人材確保、育成› ハードウェアはフロンティア領域！
• 既成概念にとらわれないように

Copyright(c) NEXT Co., Ltd. All Rights Reserved.

55