機械と⼈の未来〜ロボティクスと⼈⼯知能〜
Tadahiro Taniguchi

1) Professor, College of Information Science & Engineering,
Ritsumeikan University
2) Visiting General Chief Scientist, AI solution center,PanasonicInvited talk at
第30回けいはんなエジソンの会
27th March 2019

⾕⼝忠⼤ (Tadahiro Taniguchi)
⽴命館⼤学情報理⼯学部 教授（創発システム研究室）– 2003-2006: 京都⼤学，博⼠後期課程– 2005-8: ⽇本学術振興会特別研究員DC2&PD，京都⼤学– 2008-: ⽴命館⼤学情報理⼯学部，助教– 2010-: ⽴命館⼤学情報理⼯学部，准教授– 2015-2016: インペリアル・カレッジ・ロンドン
客員准教授– 2016: ⼀般社団法⼈ビブリオバトル協会・代表– 2017: ⽴命館⼤学情報理⼯学部，教授– 2017: パナソニックAIｿﾘｭｰｼｮﾝｾﾝﾀｰ，客員総括主幹技師 (20% ｸﾛｽｱﾎﾟｲﾝﾄﾒﾝﾄ)

研究テーマ– ⼈⼯知能，機械学習– 記号創発ロボティクス– ｺﾐｭﾆｹｰｼｮﾝ場のﾒｶﾆｽﾞﾑﾃﾞｻﾞｲﾝ

@tanichu空前のAIブーム 2013頃〜
第三次AIブーム

AlphaGo (Silver et al., 2016)

Self-driving car (Google and so on) Representation learning Monte Carlo tree search Pedestrian detection
 Semantic segmentation

Google HomeGoogle Translate Speech recognition & synthesis Neural machine translation

https://www.engadget.com/2018/06/12/googlehome-handles-three-requests-at-once/

3
https://translate.google.com/

ルールベースAI• 第⼆次AIブームの象徴的存在

AI

パターン認識/意思決定装置

OutputInput
直接プログラミング4機械学習の発展• 1990-2010頃の進歩

AI

ラベル付き
学習⽤データ

パターン認識/意思決定装置
特徴抽出器

機械学習装置OutputInput
⼯夫して作る

機械学習により最適化（教師あり学習）
5深層学習の時代• 第三次AIブーム

AI

パターン認識/意思決定装置
特徴抽出器

⼤量のラベル付き
学習⽤データ

機械学習装置OutputInput

機械学習により最適化（教師あり学習）End-to-End learning

6

Deep learning（深層学習）とは何か︖••

X

ディープラーニング（深層学習）は深い構造（多くのレイヤー）を持ったニューラルネットワークを⽤いた機械学習⼿法の総称．
Y = f(Wn f(Wn-1 f(……W2 f(W1 X))……)))⇒線形変換にパラメータを押し付けた
多段階⾮線形変換装置

W1

W2WnY

深いっ︕(Deep!!!)End-to-End learning ブーム

微分可能Networkブーム

⼤量データとGPUで学習ブーム

特徴表現学習ブーム

Deep learning/Encoder-decoderarchitecture with end-to-end learning

Image captioning

Machine translation

Labeled data/Perfect simulation environment

Input

OutputVisual recognition

Playing video games

これは⼈間の認知発達の⾃然なモデルなのだろうか︖
知能の表現とは関数表現で⾜りるのだろうか︖

ソフトロボットの知能創成に向けた
実世界情報に基づく機械学習の取り組み
 昔の制御⼯学では扱いづらかった問題も、機械学習（深層学習含む）の活⽤で、新しいアプローチが可能になる可能性がある。
 ソフトロボティクスにおける機械学習活⽤の探索的研究を開始している。
 （取り組み）振動⼦系による多体節ロボッ
トのフィードバック情報活⽤の強化学習による学習[Ishige+ 18]
Reinforcement learning☆新学術領域「ソフトロボット学」A01班にも研究分担者として参加されている梅舘博⼠（東⼤）との共同研究
Ishige M, Umedachil T, Taniguchi T, Kawahara Y. Learning Oscillator-Based Gait Controller for
String-Form Soft Robots Using Parameter-Exploring Policy Gradients. In2018 IEEE/RSJ
International Conference on Intelligent Robots and Systems (IROS) 2018 Oct 1 (pp. 6445-6452)

Future human-robot communication

Can we really achieve symbolic/linguistic communication
between human users and autonomous robots in our futuresociety?

確率的⽣成モデルを⽤いた⼈⼯知能研究
記号創発ロボティクス [⾕⼝+]⾕⼝忠⼤ 「コミュニケーションするロボットは創れるか」（NTT出版）2010

⾕⼝忠⼤「記号創発ロボティクス」（講談社メチエ）2014• ⼈間の⼦供は⾃らの⾝体的経験，感覚運動情報の統合を通じて機能を獲得し，⾔語を獲得し，コミュニケーションをも可能にする知能．
• 実世界経験に基づく⾔語獲得ロボット（AI）の実現
確率的⽣成モデルに基づいた教師なし学習での実現

⼆種類の記号概念の違いを認識すべし
記号論理学（述語論理）
物理記号仮説プログラミング⾔語

記号創発システム論（ロボティクス）の対象にする記号概念はこっち

記号学
⾔語理解
⽇常の⾔葉

Taniguchi2016他

解釈項Interpretant⊂

Apple
サイン

SignHarnad1990他

記号接地問題の対象にする記号概念はこっちReference(Signifier)Symbol[C.S. Pierce]

対象

ObjectReferent(Signified)Semiosis︓記号過程

記号創発ロボティクス

Tadahiro Taniguchi, Takayuki Nagai, Tomoaki Nakamura, Naoto Iwahashi, Tetsuya
Ogata, and Hideki Asoh, Symbol Emergence in Robotics: A Survey
Advanced Robotics, .(2016)DOI:10.1080/01691864.2016.1164622

Development though a self-organizational learning
process based on real-world sensorimotor information
High-levelPlanningcapabilitiesstAgent(robot/human)

SensorAction(motor)

Perceptual
categories

atCognitive
capability

MotorskillsLow-level

Development though a self-organizational learning
process based on real-world sensorimotor information
 Syntax
 Lexicon
 Phonetics
 Semantics
 Pragmatics
AgentHigh-level

Symbolsystems(Language)

Estimation ofintention

Planning
capability
Cognitive

Agent

Perceptual capability
categories
MotorskillsLow-level

Development though a self-organizational learning
process based on real-world sensorimotor information

Symbolsystems(Language)

Estimation ofintention

Planningcapability
Perceptual
categories
Motorskills

 Bottom-up organization of a variety of mutually dependent
cognitive functions based on sensorimotor information

Automatic speech recognition (ASR) and synthesis
technologies (TTS) benefitted from transcribed data

Transcription

Transcription

Recognition result

Speech Synthesis

Speech Recognition

Synthesized speech

Speech signals

Speech signals

However, children DO NEVER havetranscribed data

Internal
representations

Speech Synthesis

Speech Recognition

Speech signals

Speech signals

Children are performing
unsupervised learning for spoken
word/sentence production w/otranscribed data.

Hierarchical Dirichlet
process hidden language modelγ(HDP-HLM) [Taniguchi+ 16]
Language model
β αLMLMLM(Word bigram)

Language model(Word bigrammodel withletter bigrammodel)

Latent words(Super state sequence)

πLM
i

γWM

i=1,…,∞βWM αWM

z1

zs-1

ls1

lsk

zszs+1

Word sequence

zS

πWM
j
j=1,…,∞

wi

Word model
i=1,…,∞(Letter bigram)

Phoneme sequence

D s1

Dsk

lsL zs Latent letters
DsLzs

Acoustic model

Durationx1

y1
Observation

xt s1
1

yt1s1Ds1

j=1,…,∞

xt2s1

yt2s1

xt sk
1

yt1sk
Dsk

xt2sk

yt2sk

xt1sLzsyt1sLzs
DsLzs

xt2sL zsyt2sLzs

ωjG

θj

HxT

yTAcoustic model(phoneme model)

A probabilistic generative model for time-series data
having double articulation structure

Tadahiro Taniguchi, Shogo Nagasaka, Ryo Nakashima, Nonparametric Bayesian Double Articulation Analyzer
19 forDirect Language Acquisition from Continuous Speech Signals, IEEE Transactions on Cognitive and DevelopmentalSystems.(2016)

Online spatial concept acquisition methodSpCoSLAM [Taniguchi+ 2017](including word discovery task)

Akira Taniguchi, Yoshinobu Hagiwara, Tadahiro Taniguchi and Tetsunari Inamura, Online Spatial Concept andLexical Acquisition with Simultaneous Localization and Mapping, IEEE IROS 2017 p. 811-818 .(2017) oral

Spatial concept is multimodal
Where is thespace?

Position

Word“This is the third table”“A meeting space”“Under the air conditioner”

Visualinformation
Sound, smell, ,,,How do theycall the space?

How does thespace look
like>

Graphical model of SpCoSLAM
Map

Self location
How does thespace looklike>

Cluster ofpositions

Visualinformation

Where is thespace?

How do theycall thespace?

Online learning ofMultimodal spatial concept

Words“Third table”“Meeting space”

Symbol Emergence in Robotics forFuture Human-Machine
Collaboration
記号創発ロボティクスによる⼈間機械コラボレーション基盤創成 (2015-2021)

JST-CREST 5.5 years 300 million JPY(2 million ￡approx)
Leader
T. Taniguchi T. Ogata(Waseda U.)(Ritsumeikan U.)

T. Nagai (UEC)







Home Robotics
Human-Robotcommunication
Embodied language
acquisition
Modeling humanrobot collaboration
MultimodalInformation
Processing
Bayesian modeling ofknowledge
Deep learning
Symbol Emergence
Cloud robotics

K. Sugiura(NICT)

N. Iwahashi(Okayama P.U.

T. Inamura H. Okada(NII) (Tamagawa U.)....Embodied semantic communication and collaboration with Robots

Building an integrative cognitive system that can learn
and adapt in the real-world environment
Neural networks

Probabilistic generativemodelsβλλ β(Bayesian approach?)
πjπj

kjt

∞

tjn
xjn

Njθk∞

α0(a)

[Ogata+, Tani+, and so on]

γγt jnh t jnat jnv

kjt∞xjnh xjn xjnvaJN hjN ajN jv

θkhθkaθkvhav

α0α0J∞α0(b)[Nagai+, Taniguchi+, and so on]

Tani, J. (2014). Self-organization and compositionality in cognitive brains: A neurorobotics study. Proceedings
the IEEE, 102(4), 586–605.
Takaya Araki, Tomoaki Nakamura, Takayuki Nagai, Shogo Nagasaka, Tadahiro Taniguchi, Naoto Iwahashi.
Online Learning of Concepts and Words Using Multimodal LDA and Hierarchical Pitman-Yor Language Model.
IEEE/RSJ International Conference on Intelligent Robots and Systems 2012 (IROS 2012), 1623-1630 .(2012)

Converging!!!
Neural networks

 CNN, DNN, LSTM, MTRNN
 Discriminative model(in many cases) Supervised learning(in many cases)

Probabilistic generative models(Bayesian approach?) LDA, HMM, GMM, SLAM Generative models
 Unsupervised learningConvergence of probabilistic generativemodels and neural networks
 Bayesian neural networks
 Auto-Encoding Variational Bayes (e.g, variationalautoencoder) [Kingma+ 13]
 Generative adversarial networks [Goodfellow+ 14][Kingma+ 13][Goodfellow+ 14]

Integrating NNs and probabilistic generative models in various ways iscrucially important in symbol emergence in robotics
Kingma, D. P., & Welling, M. (2013). Auto-Encoding Variational Bayes, (Ml), arXiv
Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., Bengio, Y. (2014).
Generative Adversarial Nets. Advances in Neural Information Processing Systems 27, 2672–2680.

Challenges related to computationalmodels for symbol emergence in robotics
Practical scalability in development– Reducing cost, e.g., development, coding, learningand inference, to develop a large cognitive systems
using probabilistic programming language.
– Re-using pre-existing cognitive modules

Feature extractions/ representation learning– Making use of NN.
– Combining NN (e.g., VAE) with probabilistic models

Flexible and efficient inference– Amortized Inference and black-box VI

Deep probabilistic models

SERKET: An Architecture for Connecting Stochastic
Models to Realize a Large-Scale Cognitive Model

1. Belief propagation
2. SIR
3. MH

 Connecting cognitive modules developed as probabilistic generative models andletting them work together as a single unsupervised learning system.
 Having inter-module communication of probabilistic information andguaranteeing theoretical consistency.
 Providing a cognitive module as a ROS model. This kind of idea allow us
distributed development of probabilistic model-based cognitive systems.
Nakamura T, Nagai T and Taniguchi T (2018) SERKET: An Architecture for Connecting Stochastic Models toRealize a Large-Scale Cognitive Model. Front. Neurorobot. 12:25. doi: 10.3389/fnbot.2018.00025

Nakamura T, Nagai T and Taniguchi T (2018) SERKET: An Architecture for Connecting Stochastic Models toRealize a Large-Scale Cognitive Model. Front. Neurorobot. 12:25. doi: 10.3389/fnbot.2018.00025

Pixyz: A library for developing
deep generative models [Suzuki+]https://github.com/masa-su/pixyz

 ⼿続き⽅の処理としてのニューラルネットワークではなくて、確率的⽣成モデルを前提としたライブラリ Serketの考え⽅と親和性が⾼く、深層⽣成モデルとして、認知モジュールを構築し、統合していくバックエンドになりえるか︖⇒Project Neuro-Serket??

ロボットを動かす全脳的な認知システムをマルチモーダル深層⽣成モデルで書ききれるか

Dr. Masahiro Suzuki(Matsuo lab. Tokyo U.)
https://weblab.t.u-tokyo.ac.jp/en/members/

⽂部科学省科学研究費・新学術領域研究（2016〜2020年度）「⼈⼯知能と脳科学の対照と融合」
領域代表
銅⾕賢治（OIST）

AI系・計画班代表
松尾豊（東⼤）⾕⼝忠⼤（⽴命館⼤）

⽴命館⼤学グローバルイノベーション機構 R-GIRO 研究拠点Ⅳ

次世代⼈⼯知能と記号学の国際融合研究拠点
PL: ⾕⼝忠⼤ （情報理⼯学部・教授）

GL3: 吉⽥寛（先端研・教授）
TL3-1 北野圭介（映像・教授）

GL4: ⻘⼭敦（MOT・教授）

GL1: 和⽥隆広（情理・教授）
TL1-2 深尾隆則（理⼯・教授）

GL5: ⻄浦敬信（情理・教授）

GL2: 島⽥伸敬（情理・教授）

Service Robotics Category

33

Awards
Future Convenience Store

Partner Robot (Real)

Partner Robot (Virtual)タスク優勝
経産省NEDO理事⻑賞
計測⾃動制御学会賞
賞⾦300万円

総合準優勝
経産省NEDO理事⻑賞
賞⾦300万円

総合3位
WRS実⾏委員⻑賞
賞⾦100万円

Finally we received
four awards in WRS

https://www.youtube.com/watch?v=uqKKQn_RSV834

⽴命館⼤学・パナソニックモデル(RPM)
合理的かつ実現可能なCAに向けて

 CAは企業，⼤学，研究者がWin-Win-Winにならなければ意味がない．
 そのためには研究者への給与の上積みが必要．
（⼤学が国からの補助⾦に関して問題を抱えるならば，それは推進したい⽂科省がなんとかすべき⇒困難ならば私学が先⾏すべき）
これまで考えられがちだった
クロスアポイントクロスアポイントの問題解決
新しい制度RPMの実質的発明による第⼀号創出

⽴命館⼤学
パナソニックモデル
2.0M
(20%)

1.6M
(20%)
8M
JPY

6.4M
(80%)
Lose-Lose-Lose!!! ;(CA前

CA後8M
JPY

Win-Win-Win!!!  研究者にとっては実質減俸，企業は頼みにくい．
 研究者の可処分が減り，研究の進捗も悪化．不幸を⽣む．

8.0M
(80%)
CA前

CA後

合理的かつ実現可能なCATOPICS 1

AI研究チームの活性化と⾼度化 パナソニックのAI関連開発，AI研究を牽引する先端グループとしての⼩規模な尖ったチームを組織，トップカンファレンスへの論⽂採択を⽬指している．
 チームビルディングや知識共有のための合宿なども企画．
 2017年度はチームから3件採択（NIPS, IJCAI, ICRA）
発表⽂献


⽇経産業新聞 2017年10⽉23⽇
議論の様⼦

Ohama, I., Sato, I., Kida, T., & Arimura, H. (2017). On the Model Shrinkage Effect of Gamma Process Edge Partition Models.
In Advances in Neural Information Processing Systems (pp. 396-404).
Ohama, I., Kida, T., & Arimura, H. (2017, August). Discovering relevance-dependent bicluster structure from relational data.
In Proceedings of the 26th International Joint Conference on Artificial Intelligence (pp. 2578-2584). AAAI Press.
Okada, M., & Taniguchi, T. (2017). Acceleration of Gradient-based Path Integral Method for Efficient Optimal and Inverse
Optimal Control. arXiv preprint arXiv:1710.06578. (ICRA 2018 accepted)

Ryuji Sakata, Iku Ohama, and Tadahiro Taniguchi, An Extension of Gradient Boosted Decision Tree Incorporating
Statistical Tests, Data Science and Big Data Analytics (DSBDA) 2018, IEEE International Conference on Data Mining
Workshops, 2018, Singapore, Singapore
⾕⼝ 忠⼤, 確率的⽣成モデルとディープラーニングに基づくAIの家庭環境への実装に向けて, パナソニック技報,2018 , 64, 招待論⽂ ほか

TOPICS 2

経産省・NEDO主催WRS（ワールドロボットサミット）で優勝
 2018年に開催されたWRS(プレ⼤会)において，パナソニッ
ク，⽴命館⼤学，NAISTのレン号チーム”NAIST-RitsPanasonic”の組成に貢献
 Future Convenience Store Challenge（セブンイレブン協賛）接客タスクにおいて優勝．
 2020年の本⼤会（東京五輪併催）においても優勝を⽬指す．

NAIST-Rits-Panasonicのメンバー

経産省NEDO理事⻑賞，計測⾃動制御学会賞☓

TOPICS 3

国家レベルでの博⼠AI⼈材育成も考慮した
有給インターンシップ制度の構築
適正給与

インターンシップ
博⼠後期課程学⽣

LAB BASE

⼤学・研究室 パナソニックの内部から企画を進め，有給インターンシップ制度の構築に貢献した．
 国際的にはインターンシップは⽣活をまかなえる程度には⽀払われるものであるが，⽇本では修⼠の短期⾒学のような⽂化が⽣まれており，国際的な流れに遅れ，⼈材獲得と育成に遅れをとっている．
 博⼠後期課程の学⽣が⼗分に⽀払われないために，後期課程の進学者にメリットが少なく，⼈材育成が遅れている．
 パナソニックとしては，パナソニックの姿勢を⾒せるとともに，優秀な⼈材の獲得，及び，学⽣を介したオープンイノベーションも⽬指す．

まとめ現在のAIブームを⽀えているディープラー
ニングと機械学習、そして、⼈⼯知能の概念に関して整理した。
記号創発ロボティクスに関して導⼊した。
現在のチャレンジのとしての深層確率的⽣成モデルによる認知システムの創成に関して議論した。
WRSやクロスアポイントメント制度などの取り組みに関して議論した。

Information

Funded by

2019/3/10

Email: taniguchi@ci.ristumei.ac.jp
Twitter: @tanichu
Facebook: Tadahiro Taniguchi
HP: http://www.tanichu.com 40