2017年10月19日 総務省AIネットワーク社会推進会議

資料４

選択肢としての人工知能
京都大学情報学研究科
西田豊明
人工知能の発展の歴史，現状での位置づけ，可能性について論点を整理する．いまの人工知能を「スキーマを模倣学習し，自律実行するマキナ」として特徴づけて，社会にどのような選択肢をもたらしつつあるかについて私見を述べる．
Copyright © 2017 Toyoaki Nishida All Rights Reserved.

目次

1. 人工知能の技術的発展の歴史
2. いまの人工知能
3. 「からくり」の発展の歴史の流れの中での人工知能
4. 社会と人工知能
5. 展望

1

人工知能＋関連領域の歴史（～2010年頃）

～
1970

1980

1990

2000

2010

2020

1936 チューリングマシン
1951 商用コンピュータ UNIVAC
1956 Dartmouth Conferences
1966 ELIZA / ALPAC Report1969 ARPA-net稼働
1973 Lighthill report
1974 MYCIN
1975 Microsoft設立
1976 Ethernet
1982 Version Space / 第五世代コンピュータ
1984 初代Machintosh発売
1985 AARON
1986 バックプロパゲーション
1989 ALVINN
1991 WWW実装
1994 インターネットにショッピングモール
1995 Windows 95
1997 Google Search / Deep Blueが世界チェスチャンピオンG. Kasparovを破る
1999 SONY AIBO販売受付
2000 ホンダASIMO
2004 Facebook
2006 Twitter / Hinton, 深層学習
2007 iPhone発売
2008 Android対応スマホ / Naoの研究機関・大学向け販売開始
2011 IBM Watson / Siri / Google Self Driving Car / Kinect
2015 Pepper発売
2016 AlphaGoがイセドル九段に互先で4-1で勝利 / ポケモンGO
2

人工知能＋関連領域の歴史（～2010年頃）

～
1970

1980

1990

2000

2010

2020

1936 チューリングマシン
1951 商用コンピュータ UNIVAC
ヒューリスティック的探索黎明期
1956 Dartmouth Conferences
プログラマが解法を知らないとき，コツを教え1966 ELIZA / ALPAC Reportて可能性のある空間を 効率的に探させる．
1969 ARPA-net稼働 冬の時代①
1973 Lighthill report
1974 MYCIN
1975 Microsoft設立
確立期
1976 Ethernet
知識の表現と利用
1982 Version Space / 第五世代コンピュータ
専門家の知っていることを記述してコンピュー1984 初代Machintosh発売
タで実行させるための知識表現言語．
1985 AARON
1986 バックプロパゲーション
1989 ALVINN
冬の時代②
1991 WWW実装
1994 インターネットにショッピングモール
1995 Windows 95
1997 Google Search / Deep Blueが世界チェスチャンピオンG. Kasparovを破る
機械学習
1999 SONY AIBO販売受付
経験に基づいて自分の振る舞いを改良するア2000 ホンダASIMO
ルゴリズム
2004 Facebook
2006 Twitter / Hinton, 深層学習
データマイニング2007 iPhone発売
大量のデータに内在するパターンの発見
2008 Android対応スマホ/ Naoの研究機関・大学向け販売開始
繁栄期
2011 IBM Watson / Siri / Google Self Driving Car / Kinect
2015 Pepper発売
2016 AlphaGoがイセドル九段に互先で4-1で勝利 / ポケモンGO3ニューラルコンピューティングの発展(～2010年頃)
Deep belief network(2006)
CNN (LeNet-5)
Autoencoder(1998)

Neo Cognitron(1980)
RNN(1990)

LSTM(1997)

バックプロパゲーション(1986)
ボルツマンマシン(1985)

過学習
勾配の消失

ホップフィールドネットワーク(1982)
冬の時代②

冬の時代①
パーセプトロン (1958)
ヘブ則 (1949)
Threshold logic (1943)
1970

1980

1990

2000

2010

t
4

画像処理の発展(～2010年頃)
Kinect(2011)

従来手法
画像

特徴抽出
（手動）

分類
（教師あり）

特徴OpenGL

クラス
ImageNet(2009)

NNを用いた手法
画像

特徴抽出（教師なし）

分類（教師あり）

特徴Caltech-101(2003)

クラス

統計的パターン認識

Bag of Visual Words（2003）SIFT
SURF（1999）（2006）

信号処理
物理法則

Standard Visual Recognition Pipeline(2004～2012)

幾何学的法則知識

幾何学的・物理学的・工学的な側面

内観に基づく素朴なアプローチ
1970

1980

顔検出，文字認識

1990

2000

2010

t5

音声・自然言語処理の発展(～2010年頃)
音声認識
Dragon Dictate（1990）

Julius(2000)
ViaVoice（1999）

認識率80%

NETtalk（1986）

LPC, HMM

DP, DPW

統計的パターン認識

自然言語処理WordNet(1985～)

ルールベース

KNP(1994)
Juman(ver 1: 1993)
コーパスベース

ルールベース
内観に基づく素朴なアプローチ

1970

1980

1990

2000

2010

t6

会話システム開発の歴史（～2010頃）
ストーリー
Q: Why did the hostess give John a menu?
A: So John could ask the waiter for the meal.
Q: Why did John leave the waiter a large tip?
A: Probably John remembered the waiterserved the lobster to him quickly.

テキストのみSAM: 物語理解システム(1975)

Façade: インタラクティブドラマ (2004)

マルチモーダルThe Knowledge Navigator: AIアシスタント (1987)

キャラクター

REA: 不動産案内 (1999)

PUT-THAT-THERE: マルチモーダル対話 (1980)

マルチメディア
simulated robot arm

ALIVE: 人工ペットのいる世界 (1995)

USER: “Pick up a big red block”
SHRDLU: “OK”

SHRDLU:自然言語理解 (1971)
PEEDY: 対話エージェント (1997)

H: Men are all alike.
E: IN WHAT WAY
H: They're always bugging us about something or other.
E: CAN YOU THINK OF A SPECIFIC EXAMPLE
H: Well, my boyfriend made me come here.
E: YOUR BOYFRIEND MADE YOU COME HEREELIZA: 自然言語対話 (1966)

1970

1980

1990

2000

2010

t
7

[Nishida, T., Nakazawa, A., Ohmoto, Y., Mohammad, Y. Conversational Informatics–A Data-Intensive Approach with Emphasis on Nonverbal Communication, Springer 2014]

深層学習のインパクト
創薬
ボット，会話型システム

表現学習（特徴自動設計）
応用
エンドツーエンド（一貫）学習
データからの統計に基づく模倣

医療診断，健康管理
映像監視

SVM
クラスタリング決定木
相関ルール

CNN (1998)
LSTM (1997)
RNN (1990)
基礎

商品売れ筋予測
遺伝子研究
AlphaGo
金融，取引

画像，映像認識（2013～）
感情推定
音声認識（2012～）(2016)
NMT(2016)
Show and Tell(2015)

TensorFlow(2015)

SuperVision
Chainer(2012)(2015)“Word2Vec”: skip-gram+CBoW(2013)DCGAN
Deep Boltzmann Machine(2015)(2009)
DQN
Deep Belief Network(2015)(2006)
GAN(2014)
2010

2015

現実の難問解決
限定されたタスクなら人間以上リソース：｛論文，ソフト，データ，勉強会｝
がオープン

t8

深層学習 (Deep Learning)
x1
x2
x3…

x4…

…

x5…

…

xn

高次の特徴

低次の特徴
L1

L2

L3

L4

L5

Deep Boltzmann Machine (DBM)では，自己符号化器 (Autoencoder)，深層1層ずつ階層ごとに学習していく（事前学習）• Convolutional Neural Network (CNN)では，畳み込み層とプーリング層を交互に繰り返す,•

9系列変換モデル
Word2vec (skip-gram+CBoW)
分散表現（意味の）ベクトル空間

注意機構…どのベクトルを重視するか
記憶ネットワーク…記憶したい事例を書き込み，必要な時読み込む〈文脈〉単語End-to-end 記憶ネットワーク…入力情報変換，一般化，出力情報変換，応答を同時学習させる〈文脈〉

動的記憶ネットワーク…エピソード記憶による文脈処理

系列変換モデル
出力系列
BOS

再帰層

EOS

出力層

再帰層
埋め込み層

埋め込み層

入力系列
[坪井＋．深層学習による自然言語処理，講談社，2017]10

GAN (Generative Adversarial Nets，敵対的生成ネットワーク)

学習用データセット「本物」

Discriminator「イミテーション」

Generator「識別結果」[Goodfellow 2014, 2016]11

人はスキーマを利用して状況を認識する
スキーマ：状況の心的モデル

12

AI:スキーマを利用し，作り出すことができるマキナ
部品は高度化したが，全体を統合して一体的に動作させるのはまだまだ難しい
スキーマ：状況の心的モデル

知識プログラミング
ヒューリスティック探索

機械学習 ニューラル学習

模倣マシーン

人間や社会に関わるスキーマ
人工物に関わるスキーマ

物理現象に関わるスキーマ

基本的なス
キーマ

スキーマの獲得と適用と共有のためのメ
カニズム

運動

知覚

コミュニケーション
思考
記憶

スキーマの弱い構造をもつ集まり

自我
情動
意識
パーソナリティー意図学習13

人工知能の適用例
応用

主な人工知能技術

ゲームプレイ

知的探索，機械学習

話し相手，情報アシス
タント，診断・アドバイス，エンタテインメント

音声言語対話，画像認識，機械学習

人間行動支援，教育，トレーニング

人間行動センシング，人間・人工物相互信頼，アナリ
ティクス，機械学習

大量文書の活用

自然言語処理（例，バイオNLP），Webからの情報抽出

フィンテック

ビッグデータ解析，時系列予測，不完全情報化での意
思決定支援，自然言語処理，機械学習

物質製薬創成実験と機械学習の組み合わせで候補物質を効率的に検索，自然言語理解技術

サプライチェーン

知的最適化，プランニング，意思決定，知覚，プランニング，機械学習

自動運転，自律機械

知覚，プランニング，意思決定，知的制御，機械学習[西田豊明．AI,いまの実力 — ヒトはどう付き合っていくべきか，金融ジャーナル，2016年9月号，pp. 98－101]

14

マキナの発展の歴史の流れの中でマキナ (Machina). ラテン語で「機械」

レベル１：自然の力を利用したマキナ
産業革命以前（～18世紀中期）は、自然の力を利用したからくりが中心だった。
レベル２：機械仕掛けのマキナ
産業革命（18世紀末期～）以来石炭やガソリンを動力源として大きな力を出せるようになった。
レベル３：電気仕掛けのマキナ
19世紀末期から、電気を使うことで比較的複雑な自動制御ができるようになった。電話が発明されたのもこの時期。
レベル４：コンピュータ制御のマキナ
20世紀後半から、コンピュータを使って、低コスト性と偏在性を備えた制御が可能になった。
レベル５：知覚を備えた知的なマキナ
21世紀になって、知覚と運動能力と学習機能を持つマキナが社会に広がり始めた。
レベル６：自律的なマキナ
いろいろな価値判断を模倣で獲得し、与えられたミッションを遂行する。
レベル７：心を持つマキナ
自分の価値感と自我意識を持ち、もはや人間と区別できない。
[西田豊明．AI,いまの実力 — ヒトはどう付き合っていくべきか，金融ジャーナル，2016年9月号，pp. 98－101]

15

人工知能の歴史的位置づけ（もう一つのビュー）

テクノロジー

テクノロジー
ICT

人工知能ICTテクノロジー

16

人工知能への懸念と対応
時期
19世紀～
2004
2006
2008
2011
2014

2015
2016

2017

イベント
・ 「フランケンシュタイン」(1913)，「すばらしい新世界」(1932)，「1984」(1949)，ロボット3原則(1950)，「2001年宇宙の旅」(1968)，「ターミネーター」(1984)などのフィクション
・ ロボット倫理（Roboethics）に関する議論開始
・ Kurzweilが“Singularity is Near”刊行
・ AAAIで人工知能の社会・倫理的側面に関わる議論開始
・ EPSRCがロボット開発5原則，7メッセージを公表
・ AI100 のホストをStanford大学が受諾
・ 世界経済フォーラムでの人工知能に関わる懸念表明
・ 人工知能学会倫理委員会設置
・ 総務省AIネットワーク化検討会議発足
・ FLI Open Letter（自律兵器開発反対）
・ 米国ホワイトハウスが人工知能の未来への備えに関する意見募集
・ NEDO人工知能戦略会議発足
・ 内閣府人工知能と人間社会に関する懇談会
・ 人工知能学会倫理綱領草稿公表
・ Partnership on AI設立
・ AI100 2015-2016報告書公表
・ 総務省AIネットワーク社会推進会議発足
・ 総務省ＡＩ開発ガイドライン策定のための論点公表
・ IEEE標準化委員会，倫理的に調和した人工知能
・ Asilomar AI Principles公表
・ EU議会でスマートロボットを民法適用対象にするための公的議論開始を決議
・ 総務省総務省AIネットワーク社会推進フォーラム・ 総務省から「AIネットワーク社会推進会議」報告書2017を公表

17

人間力と社会力

人間力• 自らの意義のある生活を見出し，自分の中で競合するさまざまな制約との折り合いをつけながら，他者と協調しながら，実現に向かって進むことを維持する力• 行動力，構想力，共感力，維持力，倫理，快活，審美力

社会力• 社会全体として持つ力を指す．構成員の人間力と連携して，社会としてのバランスと秩序の形成の原動力となる力• 包容力，実現力，わくわく感，安寧さ，公平性，多様性，つながり感[西田豊明．人間力・社会力を強化する情報通信技術：人工知能を中心に，情報管理 Vol. 57, No. 8, pp. 517-530, 2014]18

デジとも（伴）のいるデジタル社会基盤に支えられた未来生活
デジともの役割デジとも

デジとも

社会生活

デジとも

•••••••

ボスを守る
ボスを支援する
ボスの健康管理
ボスを和ませる
ボスに代わって交渉する
ボスの行動記録をつける
ボスから学ぶみんなの人工知能
AIで人間と社会を強化する

人工知能で強化された社会基盤
19まとめ
1. 動機：意見の違いはあるにしても，合意できる認識を共有しておく必要がある
a) 人工知能のポテンシャル，見通し，それによって受ける社会の影響
2. 人工知能の過去の歴史と現状について整理
3. スキーマを模倣学習し，実行するマキナとしての人工知能
4. マキナの発展の歴史の流れの中での人工知能
5. テクノロジーをつなぐ神経としてのICT，ブレインとしての人工知能
6. 世界中での格差の広がり⇒人工知能への懸念
a) 地域，プロフェッション，世代…
7. 人工知能は選択肢ではなくなる（選ばざるを得ない）
8. 人間力と社会力を強化する必要⇒人工知能社会を統括
9. これからa) 量子計算による強化⇒人工知能エンジンはますます強力にb) Beneficial AI movement←大規模討論と意思決定c) FakeとTruthの混淆，セキュリティ ←クリーンな情報ネットワークd) 膨大なLegacy←Transformationのシナリオe) Humanityへの影響．コミュニティ，家族のあり方，人生の意味が変わるf) 創造的になり始めた人工知能←価値を推定し，インスタンスを生成
20

より詳細について[西田 2017g] 西田豊明．人工知能とインタラクションの最近の動向，シミュレーション, forthcoming．
[西田 2017f] 西田豊明．選択肢としての人工知能，情報管理, in press．
[西田 2017e] 西田豊明，スキーマ・マシンとしての人工知能のインパクト，情報管理 Vol. 60, No. 5 p. 339-344, 2017.
https://www.jstage.jst.go.jp/article/johokanri/60/5/60_339/_html/-char/ja/[弦間-西田 2017] 【特別対談】人工知能時代の医学教育と日本医科大学の選択，日本医科大学 弦間 昭彦 学長 × 京都大学大学院情報学研究科
西田 豊明 教授
https://www.jhcs.or.jp/no_category/index.html?cid=28[西田 2017d] 西田豊明，人工知能の歩み―第3次AIブーム，ブリタニカ国際年鑑2017．
https://www.britannica.co.jp/products/jboy.html[西田 2017c] 西田豊明，人工知能と技術倫理，電気評論，2017年5月号
http://www.ehyo.sakura.ne.jp/page030.html[Nishida 2017] Nishida, T. (ed.) Human-Harmonized Information Technology, Volume 2, Horizontal Expansion, Springer 2017.
http://www.springer.com/jp/book/9784431565338[西田 2017b] 西田豊明，人工知能スキーマ：人々は人工知能をどうとらえているか，視点，情報管理，Vol. 60, No. 1, pp. 50-55, 2017．
https://www.jstage.jst.go.jp/article/johokanri/60/1/60_50/_html/-char/ja/[西田 2017a] 西田豊明，人工知能の現状と展望，インターネット白書2017，2017年2月1日
http://www.impressrd.jp/news/170201/NP西田 2016] 西田豊明，人工知能の光と影（上）—日米欧，倫理問題対応急ぐ，日本経済新聞・経済教室，2016年9月6日．
有料会員限定リンク：http://www.nikkei.com/paper/article/?b=20160906&ng=DGKKZO06882280V00C16A9KE8000[Nishida 2016] Nishida, T. (ed.) Human-Harmonized Information Technology, Volume 1, Vertical Impact, Springer 2016.
http://www.springer.com/in/book/9784431558651[人工知能学会 2016] 人工知能学会監修，松尾 豊（編）,中島 秀之,西田 豊明,溝口 理一郎,長尾 真,堀 浩一,浅田 稔,松原 仁,武田 英明,池上 高志,山口 高平,山川 宏,栗原 聡：人工知能とは，近代科学社，2016年5月30日
http://www.kindaikagaku.co.jp/information/kd0489.htm[西田 2015] 西田豊明，人工知能がもたらす未来の「スマート」，CEL (Vol.111)，2015年11月02日
http://www.og-cel.jp/search/1230453_16068.html[西田 2014b] 西田豊明．人間力・社会力を強化する情報通信技術：人工知能を中心に，情報管理 Vol. 57, No. 8, pp. 517-530, 2014.
http://dx.doi.org/10.1241/johokanri.57.517[西田 2014a] 西田豊明．人工知能の社会実装がもたらし得ること．人工知能，29巻5号，pp. 524-532, 2014.
http://ci.nii.ac.jp/naid/110009841788[西田 2013] 西田豊明．人工知能とは(2)，人工知能学会誌，28巻2号，pp. 326-335, 2013.
http://ci.nii.ac.jp/naid/110009594470[西田 2012] 西田豊明．人工知能研究半世紀の歩みと今後の課題，情報管理 Vol. 55, No. 7, pp. 461-471, 2012.
http://dx.doi.org/10.1241/johokanri.55.461
https://www.ii.ist.i.kyoto-u.ac.jp/?page_id=5558&lang=ja21