第7回 ITトレンド・フォーラム	

玉川大学	
脳科学研究所	

汎用性の創発を	  脳に学ぶために	  産総研AIRC	山川宏	
慶應義塾大学SFC	

株式会社ドワンゴ
ドワンゴ人工知能研究	

NPO法人 全脳アーキテ
クチャ・イニシアチブ	

電気通信大学 大学院
情報システム学研究科	

概要	
以前より計算機は論理的推論など大人が得意とする知能に強みがあった。近年は、深層学習発展により認識や運動に関わる子供の知能を急速に獲得しつつある。今後は、人のような汎用性の高い人工知能をつくるためには、こうした二つの能力を組合せてゆく必要がある。	
人の脳では、そうした機能が何らかの形で実現されているとおもわれるが、そのメカニズムは未だ明らかではない。しかし、今後の神経科学の発展に後押しされ、脳に学んで知能の汎用性を実現しうる可能性について述べる。	
2	

第7回 ITトレンド・フォーラム 	

ドワンゴ人工知能研究所	

生き残りのための	
選択肢を増やしておく	

3	

第7回 ITトレンド・フォーラム 	

4	

第7回 ITトレンド・フォーラム 	

電王戦 FINAL： AI ｖｓ．プロ棋士	

AAII  ２勝
5	ー  プロ棋士：３勝  
第7回 ITトレンド・フォーラム 	

6	

第7回 ITトレンド・フォーラム 	人工知能とはなんだろうか	

RoboCup： 西暦2050年「サッカーの世界チャンピオンチームに勝てる、
自律型ロボットのチームを作る」	

IBMのワトソン君がクイズ王に勝利(2011年)	
7	

電王戦： コンピュータ将棋がプロに勝ち越す (2014)	

DARPA・Robotics Challenge (2015)	
第7回 ITトレンド・フォーラム 	山川宏の略歴 ｰ 脳科学とAI	
  ｰ	
1989	
  年東大・理・物理修士課程修了．1992	
  年東大・工・電子博士課程修了．工博．	
  同年(株)	
  富士通研入社後，センサフュージョン，RWCP	
  参加．現在ドワンゴAIラボ	
  • 機械学習、認知アーキテクチャー，教育ゲーム、ニューロコンピュータ，バイオイ
ンフォマティクス，意見集約，汎用人工知能，将棋プロジェクト等に従事．	
  • NPO法人全脳アーキテクチャ・イニシアチブ代表，AI学会編集長，	
  AI学会汎用人工知能研究会主査，電通大客員教授，玉川大特別研究員	
  エージェント・ネットワーク(認識に基づく知的処理アーキテクチャ)	

山川ら，階層化砂時計型
ニューラルネットによる自律的な内部表現獲得,	
  1995	  Autoencoder	
  の階層化も試みた	
  8	

第7回 ITトレンド・フォーラム 		
  編集委員長	
9	

第7回 ITトレンド・フォーラム 	愛すべき人工知能，愛すべき深層学習	
必ずしも人工知能は，一般に好かれない    

深層学習は，しばしば  
研究者にすら好かれない  
最近，成長著しい，      意味不明で生意気な子??  
しかし目指すべきは，  AAIIと人類が共に歩む未来  
10	

第7回 ITトレンド・フォーラム 	将棋における知能	11	

第7回 ITトレンド・フォーラム 	将棋棋士「直観思考」を科学する！	
将棋を研究対象に，瞬時に最善手を	

12	

第7回 ITトレンド・フォーラム 	プロ棋士で探ろうとしている直観	
プロ棋士
vs.
計算機 	
プロ棋士	

よく「次の手を読む」なんて言いますが、実は読むよりも読まないほうが大事なんです。
−

将棋＝難しい問題	

プロ棋士 谷川浩司 九段

−

計算機	

たぶん
こうかな？	

瞬時に全体像(状況･形成)を把専門家の直観力を解明し握し答を絞り込む直観力をもつ．	
様々に応用したい	

多くの実問題も複雑すぎて
徹底分析は非現実的．	

プロ棋士を扱う利点： ①能力レベルを統制しやすい，②装置中で課題実行可能，③多くの実験用課題つくりやすい．
13	
  
13	

第7回 ITトレンド・フォーラム 	理研の実験課題例：「次の一手」を直観で回答	
* ｆMRI (機能的核磁気共鳴画像法)	

ｆMRI 装置本体	

課題例「１秒以内に次の一手を決める」
詰め将棋など180問を順に解く
問題提示

課題画面の提示	

ボタンを操作	• 測定したい機能だけが強く働く
ような課題設定が必要。	
ü「直観」で答える状況を作るために1秒で判断させる	
ü血流が安定するまでの間、別の質問・課題を出す	

次の手回答

１秒

１秒

自信回答

１秒

記憶回答か?

１秒

妨害課題
「金」検出

５〜７秒

血流の状態が戻るまで（10秒程度）は妨害課題を出す。	
Copyright	
  2010	
  14	
FUJITSU	
  LIMITED	  

第7回 ITトレンド・フォーラム14	
  	

実験結果：「次の一手」を1秒で回答
記憶

ア
マ
棋
士

案
無
し
誤答

正答
(自信あり)
正答(自信無し)（１７名）	
案無し

プ
ロ
棋
士

	
②尾状核頭部	記
憶
誤答

直観で次の一手を選ぶ際，プロ棋士のみで活動が顕著	

正答(自信あり)

正答(自信無し)

尾状核頭部は，習慣記憶，目的志向的
行為選択機能を持つと考えられている	

（１７名）	
15	

第7回 ITトレンド・フォーラム 	直観思考モデルに向けて	
有力な仮説	

①局面の理解	②指し手を案出	③読みによる検証	①-b: 頭頂葉楔前部	
①-a: 前頭前野	

(局面の意味理解）	

(意味のある局面を	
約0.2秒で認識)

情報処理としの意味	  • トップダウン情報(①a→ｂ)が処理を効率化	
  ③小脳	
 • 直観の本質は古い脳が関与(動物と共通)	
  	

②大脳基底核	16	
  16	

第7回 ITトレンド・フォーラム 	プロ棋士に迫る計算機の棋力	
プロ棋士	

コンピュータ将棋	

直観:	
棋力	

	
1) 素早い局面理解		2) 有力指し手
の生成	

広い読み	

3) 狭い読み	局面評価	

4)局面評価	

強力な計算能力で広く深く読んだ上で，評価する．	

・・・	

局面評価	

現在の局面	
1手後	

2手後	

数手後	

広い読み	
17	

第7回 ITトレンド・フォーラム 	プロ棋士は直観力で計算機を凌駕する	
プロ棋士	

直観:	
	
素早い
局面理解	
	
有力指し手の生成	

棋力	

現在局面（駒配置、戦型、手筋などを含む）と将来局面を予想して有力指し手を選択．	

コンピュータ将棋	
広い読み	

狭い読み	

局面評価	

局面評価	

強力な計算能力で広く深く読んだ上で，評価する．	

・・・	

局面評価	

現在の局面	
1手後	

素早い局面理解(前頭葉/楔前部)

2手後	

有力指し手の生成直観	
 (大脳基底核)	
18	

数手後	

狭い読み	
第7回 ITトレンド・フォーラム 	Googleのコンピュータ囲碁が初めてプロに勝つ	
Nature, 2016/1/27	

Illustration: Google DeepMind/Nature	
19	

第7回 ITトレンド・フォーラム 	強化学習＋深層学習 〜1990年代の私の夢〜	
脳に学んで学習だけで動ける汎用知能を作りたかった	
山川宏， 強化学習に基づく知能システム：
価値体系を利用したパターン処理型知能マ
シンの検討, 東京大学博士論文，1992.	

エージェント・ネットワーク(認識に基づく知的処理アーキテクチャ)	

末広尚士、高橋裕信、山川宏, “エージェントネットワークによる手渡
しロボットシステムの構築,” 第15回
ロボット学会、２C24、1997.	

山川ら，階層化砂時計型ニューラルネットによる自律的な内部表現獲得,	
  1995	  • 当時は学習システムとしてで結合できなかった	
• 2000年台はこうした基礎研究はできなかった．	

Autoencoder	
  の階層化も試みた	
  20	

第7回 ITトレンド・フォーラム 	いま現実となった「強化学習＋深層学習」	
  既に汎用化は進んでいる．	
• 強化学習は汎用	
• CNNは一般物体認識	
• DQNはある種のビデオ
ゲーム内では汎用	
しかし人間レベルではない  

• 画像をそのまま入力する	
  • 行動価値関数Q(s,a)を深層学習で近似	  • Atari	  2600ゲームで，既存手法を圧倒	
  – 一部のゲームで人間のエキスパートを上回る．	
  

	
  
	
  
	
  
	
  
	
  
	
  

Deep Q-Network （DQN） [Volodymyr et al,2015]	

21	

第7回 ITトレンド・フォーラム 	

22	

第7回 ITトレンド・フォーラム 	

深層学習によるAIの変化	23	

第7回 ITトレンド・フォーラム 	知識からみたAIの歴史	
1.知識所与の時代	
トイ・プロブレムが対象	

2. 知識記述の時代	
エキスパート・システム	

3. 知識獲得の時代	
ディープ・ラーニング	

ゲームのルール	

専門家が知識記述	

データからの知識獲得	

状態/
質問

推論	
機構	

行動/
回答

※推論機構の中に知識が	埋め込まれていた．	

適用範囲が狭い	

オントロ
ジー	

状態/
質問

	

知識	
ベース	
推論	
機構	

Webによ
る共有	

行動/
回答

知識獲得ボトルネック	
24	

状態/ 知識獲 行動/
質問
得	
 回答
推論	
機構	
※以前から存在した機械学習ア
プローチだが近年性能向上	

抽象知識の学習にメド	
第7回 ITトレンド・フォーラム 	

深層学習とは何か？

	

深層学習は、脳の機能を参考に作られた	  「ニューラルネットワーク」の一種	
  【深層学習による特徴学習（顔認識の例）】	
浅い階層	

エッジなど
局所的な特徴	

小さいパーツなどの	
具体的な特徴	深い階層	

視聴覚認識技術で	  既存技術を凌駕した	
AIの往年の課題	
  「表現獲得」に道筋を与えた	

パーツを組み合わせた	
全体的な特徴	

出典 Tutorial on Deep Learning and Applications(Honglak Lee University of Michigan	
http://deeplearningworkshopnips2010.files.wordpress.com/2010/09/nips10-workshop-tutorial-final.pdf	

25	

第7回 ITトレンド・フォーラム 	長年の課題： 一般物体認識を深層学習が実現	

なぜ難しかったのか• 外界データからは解釈できない• 高次概念と結びつけることもできない•

脳活動を観測しても解釈しがたい．

26	

第7回 ITトレンド・フォーラム 	いま現実となった「強化学習＋深層学習」	
  • 画像をそのまま入力する	
  • 行動価値関数Q(s,a)を深層学習で近似	  • Atari	  2600ゲームで，既存手法を圧倒	
  – 一部のゲームで人間のエキスパートを上回る．	
  

	
  
	
  
	
  
	
  
	
  
	
  

Deep Q-Network （DQN） [Volodymyr et al,2015]	
27	

第7回 ITトレンド・フォーラム 	• （動画を再生）	
  – “Deep	
  Sensorimotor	  Learning”	
  	
  – hWps://www.youtube.com/watch?v=CE6fBDHPbP8	
  – hWps://www.youtube.com/watch?v=2hGngG64dNM	
  28	

第7回 ITトレンド・フォーラム 	機械学習したAIがレンブラントの“新作”を出力	

29	

第7回 ITトレンド・フォーラム 	存在しないイメージを言葉から生成する能力	

Elman Mansimov et. al: “Generating Images from Captions with Attention”, Reasoning, Attention, Memory (RAM) NIPS Workshop 2015, 2015	
30	

第7回 ITトレンド・フォーラム 	Unifying	
  Visual-­‐Semandc	
  Embeddings	
  with	  MNLMs	  	
  マルチモーダル空間を利用すると、単語だけではなく、単語と画像で足しひきで
きる	
  

31	

第7回 ITトレンド・フォーラム 	Neural	
  Storyteller:	
  画像から恋愛物語を作るAI	  「会議の終わり、私たちは張り詰めた空気にあった。私は親友を見上げた。もちろん、彼を放すつもりはなかった。他に何を言えばいいかわからないが、彼は一番美しい男だ。」	
全脳アーキテクチャ若若⼿手の会第13回勉強会 　より32	

第7回 ITトレンド・フォーラム 	Neural	
  Storytellerが用いた技術	
  画像から物語の⽣生成[Mikolov+  13]

[Kiros+  15]

単語
の表現

⽂文章
の表現

[Kiros+  14]

[Simonyan+  14]

⽂文章と画像の結合

Kiros
2015年年11⽉月

画像の表現

ニューラルネットワーク（NN）が⽀支える
全脳アーキテクチャ若若⼿手の会第13回勉強会 　より33	

第7回 ITトレンド・フォーラム 	画像のキャプションから概念構造を創りだす	

2-dim order-embedding of a small subset of the WordNet hypernym relation. All
the true hypernym pairs (green arrows) are correctly embedded, but two
spurious pairs (pink arrows), are introduced. Only direct hypernyms are shown.	
34	

第7回 ITトレンド・フォーラム 	

深層学習インパクトとは	

十分にデータを得られる  
タスクの範囲内であれば、  
応用価値のある人間並みの  性能をもつ機械学習が可能に  35	

第7回 ITトレンド・フォーラム 	コンピューティングの指数関数的成長	
  20世紀から21世紀をつうじて	  レイ・カーツワイル，シンギュラリティは近い, 201636	

第7回 ITトレンド・フォーラム 	大人のAIと子供のAI	

計算機

理解できるので設計可能	演繹推論  AGI

大人のAI	

基
本

時
代

出
揃

	

	

子供のAI	

統
合

完
成
	

	

理解できないので学習が必要	

汎
用

AI

れ

ー

ー

生

二

人
間

（つまり，一定以上の計算リソースが必要）	

帰納推論((機械学習))  
1956	

1976	

1996	
37	

2016	

202X年	
第7回 ITトレンド・フォーラム 	今後のAIで課題となる部分はどこか	
齧歯類	
神経科学知見が豊富	

類人猿	

ヒト	

革新脳の成果に期待	

記号/言語能力が前提	

四則演算	

既存AIで未実現	

認知機能	

既存AIで実
現済み	

深層学習
の発展で
数年で実
現しそう	

スキル	
高度なパ
子供のAAii：  
タン認識	
直観	
深層学習で  注意	目処がたってきた  

大人のAAII：  
実現されていた  
論理推論	

計画	

言
語
創造性	
意
味
理
解

まだまだ	
目処が	
たたない	

心の理論	
モラル	
壁の向�こう側  
権利/
義務	

プログラ
ミング	

言語意味理解を要しない特化型AIは学習できつつある	38	

第7回 ITトレンド・フォーラム 	人工知能の全体像	
知能  ≒  直接観測できない出来事を予測する能力

計算パワー	
コモディティ化	

データ	

推論(アルゴリズム)	

良い	
予測	

知識(表現)	
相対的な地位低下	

専門家	
39	

第7回 ITトレンド・フォーラム 	人工知能の全体像	
知能  ≒  直接観測できない出来事を予測する能力

計算パワー	
コモディティ化	

データ	

推論(アルゴリズム)	

良い	
予測	

知識(表現)	
相対的な地位低下	

専門家	
40	

第7回 ITトレンド・フォーラム 	

2.汎用人工知能へ	41	

第7回 ITトレンド・フォーラム 	DL後のAIに残された「汎用性」という課題	
汎用性：
適用範囲の拡大によるデー
タの不足	

実時間問題
解決： 	
  
データ収集
時間の不足	
  

少数データへ対応する必要性	
帰納推論のみでは性能低いので演繹推論を導入したい	  帰納推論で獲得した分散表現
知識に対する演繹推論の実現	  42	

第7回 ITトレンド・フォーラム 	

3種の推論とその関係	
事例集合	

帰納推論	

驚くべき事

	

例	

人為的に与えられることも多い	

仮説検証	

知
識
獲
得

知識	
  
ルール	

アブダクション	

意思決定/	
  
行動	

仮説	

	

予
測

演繹推論	

	

知
識
活
用

43	

第7回 ITトレンド・フォーラム 	AI技術における表現と推論 	

記号表現	
 

分散表現	
 

古典的AI	
 (1950年代〜)	
 【大人の知能】	
 	 	 分散表現演算Word2Vec等	
 (2010年代〜)	
 	
 
	
 
	
 

パラメトリック機
械学習、
帰納推論	
 
帰納論理プログラミ(知識獲得)	
 ング等(1960年代〜)	
 ノンパラメトリック
機械学習、
表現学習機能	 (1990年代〜)	
 【子供の知能】	
 	
 

演繹推論	
 
(知識活用)	
 44	

第7回 ITトレンド・フォーラム 	分散表現知識をどのように演繹につなげるか？	

記号表現	
 

分散表現	
 

古典的AI	
 (1950年代〜)	
 【大人の知能】	
 	 	 分散表現演算Word2Vec等	
 (2010年代〜)	
 	
 
	
 
	
 
②

パラメトリック機
械学習、
帰納推論	
 
帰納論理プログラミ(知識獲得)	
 ング等(1960年代〜)	
 ノンパラメトリック
機械学習、
表現学習機能	 (1990年代〜)	
 【子供の知能】	
 	
 

演繹推論	
 
(知識活用)	
 ①②③

分散表現知識を記号に対応付けた上で、記号により演繹推論等を行う。	
分散表現知識に対して演繹推論等を行う	
上記の両方の組合せる	
45	

第7回 ITトレンド・フォーラム 	汎用人工知能 (AGI:	
  Ardﬁcial	
  General	
  Intelligence)とは	
現在の特化型AI	  目指す汎用人工知能（AGI)	
  • 個別の領域において知的に振る舞う	
  

	
  

	
  

（強いAIではない）	
  • 多様で多角的な問題解決能力を自ら獲得する	
  • 既に人以上の能力が数多く実用化されている． 例えば	  – 設計時の想定を超えた新しい問題を解決できる．	
  – 自己理解／自律性	  – コンピュータ将棋/チェス	
– Googleカー(自動運転)	
  – 医療診断	  • AI創世記からの夢でありつつ，実現の困難さから取り組みは少なかった．	
  	

専門性を設計する	

専門性を学習する	
46	

第7回 ITトレンド・フォーラム 	

汎用知能と特化型知能	• 存続のためには，	
– 多様な状況に応じた柔軟な行動決定	  →	
  汎用人工知能		• 個別の状況に分解すれば	
– 道具としての知能	  →	
  特化型人工知能	

47	

第7回 ITトレンド・フォーラム 	すでに汎用化が進んでいる人工知能	
１）2010年頃まで： 設計特化	

2）現在： 学習特化	

特化アルゴリズム	
知識	

AI	

タスク	

AI	
個別に知識を設計  

個別の知識を学習  3）現在： Big switch型AI	

	AI	

汎用アルゴリズム(強化学習，深層学習）	
知識	
タスク	

4）今後の目標： 人間のようなAGI	

知識	

タスク	

知識	

タスク	

知識	

タスク	

知識	

タスク	

タスク	

AI	

知識	
？	

タスク	
タスク	
タスク	

一つのAAIIが，複数のタスクを学ぶ  ??????????  
48	

第7回 ITトレンド・フォーラム 	転移学習	

AI	
	

知識	

タスク	

転
知識	
知識	
移

タスク	

？	

タスク	

知識	

タスク	

	
／
？	
知識	
流
用	

一つのAAIIが学んだ複数のタスク  
の知識を転移／流用する  
49	

第7回 ITトレンド・フォーラム 	汎用人工知能(AGI)は何をもたらすのか	
一般目的技術： →破壊的イノベーション	
開発コストの抑制（例：ワープロ専用機の消滅）	

汎用的学習	
多角的な問題解決能力を自動獲得			

ゼネラリストAI: (1) 多様な特化型AIの能力を統合し，政治的意思決定等を行う (2) 特定ユーザと対話を行う(Siriの発展形)	

生存能力: 設計しきれない例外状況に対する強さ	

自律性：
自らのから
判断で，行
動し世界を
探索する	

創造性: 広い視野から仮説を創造し世界を理解する→ 人智のフロンティア拡大	

→シンギュラリティ	
50	

第7回 ITトレンド・フォーラム 	一般目的技術としてのAGI	

既に進行している	

性能が一定上になれば顧客ニーズを満足しうる．	
→ コストダウンできる汎用製品が市場を席巻する	
汎用性（適用範囲）	

トレードオフ	

性能	

コスト	
一般目的技術（GPT)が，専用技術を凌駕する例はある．	
電力・電気，内燃機関，トランジスター，コンピュータ，	
例： ワープロ専用機はある段階でニーズがなくなった	51	

第7回 ITトレンド・フォーラム 	生存能力としてのAGI	
遭難するルンバ	

実世界で活動する
エージェント(ロボット)においては，生き延びるための物理的常識（子供のAI）が必要である．	
これにより例外的状況に対する強さを持てる．

特化タスクは人手による設計して効率化しつつ，  
例外状況への対応は汎用知能でカバーしたい．  
52	

第7回 ITトレンド・フォーラム 	創造性へ	• 目的	
  – 世界を理解する	  – 困難な問題(グローバル問題等)の解決を支援する	
  ルンバ	

アインシュタイン	

遭難	

真空中に
エーテルが不在	

気づき	

銀の脚	

ローレンツ	
変換	

対策	

銀の脚を	
回避する	

特殊相対性	
理論	

課題	

53	

第7回 ITトレンド・フォーラム 	ゼネラリストAI	
浅くても広い知識を持つAIが有用な場合	

人に寄り添うAI	  人間とのインタフェースを担うエージェント	  		

マネージメントAI	
  多くの特化型AIを統括管理する	
54	

第7回 ITトレンド・フォーラム 	自律性： 命令に素直には従わないロボット	

命令：「座れ」	
行動：素直に座る	

命令：「進め」	
行動：拒否する	

命令：「進め」	
行動：素直に進む	

何らかの意味で正しい判断	

自律性：	
壊れることを回避するた
めに，命令に従わない	

想定外の判断	

http://www.aivy.co.jp/BLOG_TEST/nagasawa/c/2015/12/post-2462.html	
55	

第7回 ITトレンド・フォーラム 	世界の汎用人工知能(AGI)開発組織マップ	
深層学習の発展	

脳に学ぶ•Demis	  Hassabis	
  

Nengo

	
  
Our	
  Goal	  This	
  Year	
  is	
  to	
  
Build	  a	
  Rat	
  Level	
  AI	
  	
  	
  	
  
(2016/7/13)	
  新皮質• 	
  
中心 	
  

脳全体
OpenAI	
  technical	
  goals	  (2016/6/20)	
  	
  (2015〜)

記号創発
ロボティクス	

工学的実現
56	

1. 進捗を測る	
  2. 家庭用ロボットを作る	
  3. 役に立つ自然言語理解能力を持つエージェントを作る	
  4. １つのエージェントで多種多様なゲームをプレイできる	  第7回 ITトレンド・フォーラム 	国内で汎用人工知能(AGI)を志向する組織	

電気通信大学  

ポスト京「思考を実現す
る神経回路機構の解明と人工知能への応用」
サブ課題B：脳アーキテクチャにもとづく人工汎用知能	
57	

第7回 ITトレンド・フォーラム 	人工知能の発展が社会に与える影響	

58	

第7回 ITトレンド・フォーラム 	今後のAIのインパクトはなにか	
プラス面(チャンス)：	  マイナス面(リスク)	
  十分に高度な知能を制御でき 制御不能になれば人類の価値をれば，いかなる範囲の目標も、 大きく破壊するかもしれない	  より迅速に達成できる可能性 • 危険な利用	
  – 犯罪的なAI，軍事AI，中毒をもたがある．	
  らすようなAI	  • 科学技術の発展を加速	

• 職業の問題	  – 癌の治療法を治療する方法を理解できるくらい賢くなる	  – ネオ・ラッダイト運動	
  • 人工知能の「心」の問題	
  – 経済の安定化を達成する方– 人の尊厳，AIへの感情移入	
法を理解できるくらい賢くなる	
  
	

	
  
	
  

AIの人類に対する影響は非常に大きい	
59	

第7回 ITトレンド・フォーラム 	経済成長構造の変化	
（駒沢大 井上智洋氏の図より改変)	

農業中心の経済	

工業中心の経済	60	

AK型生産経済	

第7回 ITトレンド・フォーラム 	

第4次産業革命によって訪れる「第二の大分岐」	

日塔 史, もう始まっている！AI革命の「大分岐」とは？, 2016.06.20	
AI革命（第4次産業革命）による「第2の大分岐」（出典:井上智洋氏の図に日塔氏が加筆）	
61	

第7回 ITトレンド・フォーラム 	機械化で水没する職業大陸	
ある時代まで，人の労働が経済的価値を生み出す「職業大陸」は拡大してきたが，今は逆に「機械の海」に水没し始めている．	

参考： 	
Robin Hanson,
Economics of theSingularity, IEEE
Spectrum, 2008	

人を越える
知能/ロボット	
人と人型ロボットが一緒に働く、
グローリーの埼玉工場に	
未来の職場を見た 	

生産性	

道具の利用	

産業革命	

情報革命	
職業	
大陸	

職業大陸	
職業大陸	
職業領域	

機械化による
二つの作用	

シンギュラリティ	

機械の海	

機械の海	

職業領域	

職業領域	

機械の海	
職業領域	

1. 海面上昇: 浸水した領域が機械に置き換わる．	
2. 造山活動: 人間を補助して価値を高める．	
62	

最期に残る職業は，何か？	
第7回 ITトレンド・フォーラム 	AI等による代替可能性が高い労働人口の割合	
この共同研究は、NRI未来創発センターが「“2030年”から日本を考える、“今”から2030年の日本に備える。」をテーマに行っている研究活動のひとつです。	

63	

第7回 ITトレンド・フォーラム 	人から職業を奪うことのインパクト	
• 経済的影響	  – AIがもたらす富が偏在する可能性がある	
  
– 対策	
  
ベーシックインカムや負の所得税がありうる	  • 人としての尊厳への影響	
  – 労働は人を価値付ける側面がある	
  – プロ棋士がAIに負けるとなぜ残念なのか	  – 貧しくても仕事がある地域の犯罪率は低い	
  
– 対策	
  
人々の価値観を見なおす必要がおこるかもしれない	
64	

第7回 ITトレンド・フォーラム 	

Top	
  10	
  skills	

65	

第7回 ITトレンド・フォーラム 	人工知能にどこまで任せるか	• 高度情報環境中での高度の人工知能技術	
– ネットワーク環境からの知識自動獲得など	
– ⇒ 多くの領域で 人間より正確な判断	
• 裁判官が法令・判例検索に情報機器を利用	
• 情報システムが判決案をアドバイス	
• アドバイスのままの判決を下す裁判官も	• 人間の裁判官はそれでも必要？	

• コンピュータに 死刑 とはいわれたくない	• 医療なら? より正確な判断に従いたくない?	

「近山隆(東大), 知的情報処理システム」より	
66	

第7回 ITトレンド・フォーラム 	人間が優位となりうる価値	
当面AIが不得意なスキル	
	• データを利用した試行錯誤が行
いづらいスキル	• 高度な創造性を要する仕事	
• 複雑なコミュニケーションを要する仕事	• 手先の器用さを要する仕事？？	
		

人工知能をうまく活用する		• AIに与えるデー
タを生成する	• AIと人間の分担をコーディネート	• AIの活用能力の高い人材を育成
する教育産業	• AIの動作や意思決定過程を説明する解説者	
	67	

人間としての価値
を発揮	
	
• 嗜好	
• 責任主体	
法制度にも依存するが．	
• 組織などの最上位の意思決定	

第7回 ITトレンド・フォーラム 	68	

第7回 ITトレンド・フォーラム 	人とAIの関係性別 人が活躍できるパターン	Doda, 49%の職業が消えゆく人工知能時代に知っておきたい「天職」3つの観点, 2016/03/03	
69	

第7回 ITトレンド・フォーラム 	

生産性 ｖｓ． 天職の３要素	

Doda, 49%の職業が消えゆく人工知能時代に知っておきたい「天職」3つの観点, 2016/03/03	
70	

第7回 ITトレンド・フォーラム 	やりたいこと	 できること	

キャリア・アンカー	

職業上の自己イメージの7類型	
1. 専門・職能別コンピタンス	
2. 全般管理コンピタンス	
3. 自律・独立	
4. 保障・安定	
5. 起業家的創造性	
6. 奉仕・社会貢献	
7. 純粋な挑戦	
8. 生活様式	  71	

第7回 ITトレンド・フォーラム 	存続しつづけるであろうキャリア・アンカー	
• 奉仕・社会貢献	
  – 様々な能力がAIより劣っていても他者へ貢献できることが動機となる	  • 自立・独立	  – 低いリスクで行えるようになるのでそれをアンカーとする人も増えてくる	  • 純粋な挑戦	  – 他者にアピールしやすい形で純粋な挑戦を志す人は一定数存在	
  • 全般管理コンピテンス	  – AIを制御する管理者として少数だが必要になる	
  • 専門・職能コンピタンス	  – 純粋な挑戦や全般管理コンピテンスを実行するために必要になる．	
  

	
72	

第7回 ITトレンド・フォーラム 	

トロッコ問題:	
  こうした状況にどう対応する	

• 自動運転の事故率＜＜人間ドライバー事故率	  • 社会制度は事故が起きたときのこと を想定しなくては	  • 責任をどうとる： 賠償、説明、懲罰	
73	

第7回 ITトレンド・フォーラム 	現状のAIではできていない	  脳に学ぼう	  	  
	

4.全脳アーキテクチャ	

74	

第7回 ITトレンド・フォーラム 	最速でのAGI到達を目指すWBAアプローチ	

脳全体のアーキテクチャに学び  
人間のような汎用人工知能を創る((工学))  
全脳アーキテクチャ(WBA)のアプローチ	
脳	

AI	

①脳の各器官を機械学習モジュー
ルとして開発	②それらモジュールを統合した認知アーキテクチャを構築	
  基本方針： 可能なかぎり粗いモデル化からはじめ，必要に応じて段階的に詳細化	
75	

第7回 ITトレンド・フォーラム 	ようやく今，WBAアプローチが可能になった	
AGIを脳に学ぶのは理にかなっている	  現状で「多角的問題解決を自律獲得できるシステム」は脳だけ	  これまで難しかったが，近年可能になった．	
  全脳アーキテクチャ  ＝  機械学習  ＋  認知アーキテクチャ  	

壁となっていた新皮質のモデルとして深層学習の研究が最近進んだ	

欧米等の脳科学大量投資で見えつつある脳全体の結合様式（コネクトーム）を参考にできそう	
76	

第7回 ITトレンド・フォーラム 	生物的な知能エージェントの一般形 	

情報の種類	
状態/知覚
行動 	
効用/報酬
目的	
意図	
COCONFNFIIDEDENTNTIIAALL MMAATTEERIRIAALL //77	

全脳アーキテクチャ勉強会（第３回)
ITトレンド・フォーラム 	
第7回

新皮質6層構造と皮質下部との連携	
新皮質	

海馬	

視床	

基底核	

http://www.frontiersin.org/files/cognitiveconsilience/index.html	
78	

第7回 ITトレンド・フォーラム 	

新皮質6層構造と皮質下部との連携	

http://www.frontiersin.org/files/cognitiveconsilience/index.html	
79	

第7回 ITトレンド・フォーラム 	

新皮質6層構造と皮質下部との連携への理解	
大脳新皮質の標準学習アルゴリズム	

新皮質内の６層構造を考慮したコネクトーム	

皮質下の計算モデル(海馬,視床,基底核等)	
http://www.frontiersin.org/files/cognitiveconsilience/index.html	
80	

第7回 ITトレンド・フォーラム 	

標準新皮質を踏まえた統合フレームワークの検討	
大脳新皮質の標準アルゴリズム	

統合的な	
フレームワーク	

新皮質内の６層構造を考慮したコネクトーム	

皮質下の計算モデル(海馬,視床,基底核等)	

設計すべき部分を脳を参考に分割する枠組み	
81	

第7回 ITトレンド・フォーラム 	理解が進む認知的なコネクトミクスの3レベル	
様々な意味で“Network of Networks”である	
構造的ネットワーク	

RSFC	
  
安静時機能結合	  課題に依存した	  機能的ネットワーク	  一貫したトポロジーを維持	

様々なコミュニティ： ①モダリティ固有, ②情報統合, ③課題の制御	

コンテキスト、刺激、そして課題に依存して再構成	

(Steven	
  E.	
  Petersen,	  Olaf	  Sporns,	
  	
  Brain	
  Networks	
  and	  Cognidve	
  Architectures,	
  	
  Neuron,	  2015)	

構造的ネットワークに制約された形で，動的な神経活動が展開することで多様な機能を実現→汎用性 ＝ 転移／再利用性 ←脳に学びたい	
82	

第7回 ITトレンド・フォーラム 	マウスのmesoscopic	
  connectome	
Oh et.al.A mesoscale connectome of the mouse brain, nature, 2014.	

Cortex	

Hipp
oca
mpu
s	

Thala
mus	

Cereb
ellum	

469 injected brains to each of the	295 non-overlapping target regions	
第7回 ITトレンド・フォーラム 	83	

コネクトーム

脳型人工知能の土台ができつつある
第7回 ITトレンド・フォーラム84	リッチ・クラブ構造	

Martijn P. van den Heuvel et al. PNAS 2012;109:11372-11377
85	

第7回 ITトレンド・フォーラム 	

「分散」と「集中」による統合アーキテクチャ	
B，目的に応じて必要な機能モジュールを動員（＝「集中」）する．	

A，個々の機能モジュー
ルをコミュニティとして全脳ネットワークに「分散」して配備する．	

岡本 洋、全脳ネットワーク分析：複雑ネットワーク科学とコネクトームとの融合から全脳アーキテクチャにせまる、
情知報能（と日情本報知（能日情本報知フ能ァ情ジ報ィフ学ァ会ジ誌ィ）学会誌）Vo.28, No.2, pp.28－ 37（2016）。	
86	

第7回 ITトレンド・フォーラム 	脳とAIの対応	
AI	

脳	

全脳アーキテクチャ・アプローチ	  ①脳の各器官を機械学習モジュールとして開発	
②それらモジュールを統合した認知アーキテクチャを構築	
  87	

第7回 ITトレンド・フォーラム 	認知アーキテクチャとは何か： コネクトームから学ぶモノ	• 知的エージェント(動物や機械)を構成するコンポーネン

トの配置を描いた固定的な設計図（学習部分ではない）．	
• 認識行動の全体を統合的に実装しようとする．．	
• コンポーネントの組合せ(相互作用）を通じて，多様な機能をもたらしうるアーキテクチャがエレガントである．	
• 予期しない／未知の事態への何らかの舞いが可能である．	
  • リアルタイムな挙動(反応速度)が実現が実現できる	  88	
 第7回 ITトレンド・フォーラム 	コネクトームと認知アーキテクチャ	• 現状	
  – 機械学習を様々に組合せることで，多様な計算機能が実現されつつある	
  – 脳の結合構造についての神経科学的知見が蓄積中（コネクトーム等）	
  • WBAアプローチでやるべきこと	  – コネクトーム情報(脳の制約)を機械学習の結合構造に翻訳する	  • 課題は，	
  コネクトーム（神経科学）	

複合機械学習	

認知アーキ
テクチャ	
  
記述言語	

89	
 第7回 ITトレンド・フォーラム 	入力からのネットワーク的な深さ

P. Taylor, J. N. Hobbs, J. Burroni & H. T. Siegelmann, The global landscape of cognition:
hierarchical aggregation as an organizational principle of human cortical networks andfunctions, Scientific Reports 5, Article number: 18112 (2015)
第7回 ITトレンド・フォーラム90	

新皮質計算モデルには階層性(FF/FB)が必要	
CNN	

Neocognitron	

Feed-­‐forward	

Feed-­‐forward	
91	

Feed-­‐forward	

Deep Predictive Coding Network	Feed-­‐forward	

Stacked Autoencoder	Feed-­‐forward	

第7回 ITトレンド・フォーラム 	大脳新皮質の標準化された入出力	
４種類の入力＋３種類の出力	

Numenta Inc., HIERARCHICALTEMPORAL MEMORY, 2011.	

92	

第7回 ITトレンド・フォーラム 	ANNの発展で，わかりつつあること	
学習可能なニューラル素子を組み合わせれば，新皮質周辺の計算機能は大抵は獲得できる	  考えうる脳との対応付け	
	
ANNのニューラル素子の機能	
情報圧縮：Convoludon,	  Autoencoder,	
   新皮質の一部（L2/3あた
単純細胞	
  
り）	
不変性／情報選択： Pooling	
  層，複
雑細胞	
  

新皮質の一部（L4あたり）	

(ゲート付き)メモリ： LSTM	
  	

新皮質の一部（L2/3あたり）	

強化学習： Q-­‐Learning， Actor-­‐Cridc	
  基底核ループ	Key-­‐Valueメモリ	
	

基底核ループ？	
93	

第7回 ITトレンド・フォーラム 	Feed-­‐forward	

新皮質上の物体認識のネットワーク	

特徴	
• FB信号が存在（むしろこちらが多い）	
• 予測し続けるシステム	
• 層内結合が強い	Timothy J. Buschman1, Sabine Kastner1, From
Behavior to Neural Dynamics: An Integrated Theory ofAttention, 2015.
94	

第7回 ITトレンド・フォーラム 	Deep	  Predicdve	  	
  Coding	
  Networks	
  (2016年5月26日）	
  Feed-­‐forward	

• 新皮質を参考にした予測符号化のモデル(Rao, 1992)	
• ANNのトレンド(CNN,LSTM)を汲み，そのレベルの性能	
• 大規模並列化にむいた局所的な処理に分解可能	95	

第7回 ITトレンド・フォーラム 	Deep	  Predicdve	  	
  Coding	
  Networks	
  (2016年5月26日）	
  Feed-­‐forward	

• 新皮質を参考にした予測符号化のモデル(Rao, 1992)	
• ANNのトレンド(CNN,LSTM)を汲み，そのレベルの性能	
• 大規模並列化にむいた局所的な処理に分解可能	

米国のIARPAから＄28millionを獲得して脳型人工知能を目指しているハーバード大学
David Cox氏が主導するプロ
ジェクト内の成果	
96	

第7回 ITトレンド・フォーラム 	Direct	
  feedback	
  alignment （DFA)	

Direct Feedback Alignment Provides Learning in Deep Neural Networks	
Arild Nøkland	(Submitted on 6 Sep 2016 (v1), last revised 23 Oct 2016 (this version, v4))	
97	

第7回 ITトレンド・フォーラム 	

おわりに：ベイジアンネットワークと大脳新皮質	
共通性	• FF/FBの区別がある	
ベイジアンネットワーク	
巡回のない有向グラフ	

大脳新皮質のグラフ構造	

相違点	
• レイヤ構造	• FBの方が多い	• そもそも往路と復路を一致できない	
• FB信号(予測/制御) は層を飛ばしうる	
• 層内は相互結合で計算（無向グラフ的？）	
• メモリ／緩和計算的／カルマンフィルタ的	98	

第7回 ITトレンド・フォーラム 	NPO法人 全脳アーキテクチャ・イニシアティブ	
賛助会員 ／ 特別賛助会員 ／ 創設賛助会員募集

NPO法人 全脳アーキテクチャ・イニシアチブ	

代表 山川  宏副代表 松尾  豊   副代表 高橋  恒一
99	

第7回 ITトレンド・フォーラム 	NPO法人 全脳アーキテクチャ・イニシアティブ	
ビジョン： 	人類と調和した人工知能のある世界	

全脳アーキテクチャ(WBA)・アプローチ： 	
脳全体のアーキテクチャに学び人間のような汎用人工知能を創る(工学) 	

ミッション:	
WBAアプローチから，人間のような汎用人工知能の創造を目指す研究開発を推進	
100	

第7回 ITトレンド・フォーラム 	NPO法人WBAIWBAアプローチによる研究
海外の研究
組織も含め
てゆきたい	などなど	研究促進
• 人材育成• 海外を含む
情報発信• 学習環境構築• AGIの評価手法• 統合プラットフォーム(世界に取り残されないために）• 神経科学への接地
賛助

Since 2015	

大久保
敏男 様
101	

第7回 ITトレンド・フォーラム

NPO法人WBAIの活動	

	

価
値
創
造
促
進

WBA研究者（PI)	
  (大学教員/国研教員等)	
  「眼と耳」の役割	
  
技術課題の発見/
分解/説明し方向性を示す．また若手を育てながら研
究，研究成果の実応用を探る．	

個別
研究
指導	

方
向
性
決
定

寄付・	
  
賛助	

従事・	
  
貢献	

多様なボランティアが主役	

場の形成	
  

人類と調和した人工知
能のある世界を目指す	
  技術課題解決ハッ
カソン/ビジネスアイ
ディアコンテスト等	

	
  
	
  
	
  
全脳に学ぶ人のようなAGIを創造し，活用	
  
支援	
  

活
用

エンジニア	  

	

社会とのコミュニケーション：	  問題提起等	

OpenAIコミュ
Open	
ニティでWBA 開 レポジトリ	
開発を楽し 発みながらス
キルアップ．	
   活
	
  

	

重点課題の提示	  促進型研究開発	
  →10000人へ	

用

Github:	
wbap	

研究成果	

WBA研究志望者・学生	
  研究者（PI)の指導をうけWBAの重要な個別研究を推進し，同時にキャリア構築	

• 学習環境構築• AGIの評価手法• 統合プラット
フォーム• 神経科学への
接地

活
用

	

人
材
育
成

ビジネスアイディア、エンジニア人材、産業創造	

	
  

研
究
促
進

企業・投資家・政策立案者等	
  	
背景動向： 進展著しいオープンな脳モジュール(機械学習)開発	
  102	

第7回 ITトレンド・フォーラム 	全脳アーキテクチャ(WBA)勉強会の活況	
• 目的：	  – AI，神経科学，認知科学等の複数分
野に跨がる人材の結集と育成	
  

• 経緯	
  
– 2013年秋，一杉（産総研） ，松尾（東大），山川（ドワンゴ）により立ち上げ	  – 2013年12月から2015年8月までに11回の勉強会を実施し毎回200名程度の参加．	
  – 2014年8月に，WBA若手の会を結成	
  – 関連するFacebookグループメンバは2200人超 （2015年9月9日現在）	
  103	

第7回 ITトレンド・フォーラム 	オープンな共創により「真に民主的なAGI構築」へ	

WBAIの役割： 共創開発基盤の構築 .	

NPO法人①開発環境整備，②方向提示	
研
究
者
切
開

LIS	
BiCAmon	BriCA	

	  全脳アーキテク
チャ開発部	
  目標１００００人	
  OpenなAIエンジニア・	  コミュニティ	  各脳器官モデル	取海馬，小脳，
扁桃核など	

並列化		

企業等に持ち帰って	  競争力の強化へ	

WBA開発を加速	
104	

除
個
別
研
究
支
援
	

オープンなAIシステとしての	  PredNet	③
障害

第7回 ITトレンド・フォーラム 	LIS	
  (Life	
  In	
  Silico)が目指す「AGIの民主化」	
AIが3歳まで育つ1000日間のためのシミュレータ	
学習環境シミュレータ（Unity)

機械学習 (人工知能)手法
近年の深層学習手法を標準装備．
様々なAIが試せる

無料化されたゲー
ムエンジンで自由に世界を構築GitHubで開発中、Life in Silico(LIS)で検索簡単に使えるようにして公開中「物理常識等を学ぶ」例	

【人工知能】 学習環境シミュレー
タLife in Silico(LIS) みんなで人工生命を育てよう！ 	
105	

第7回 ITトレンド・フォーラム 	脳アーキ上での10000人規模の共創開発とは	
多くの開発成果を統合する足場	  脳の設計図上で分散共同開発	  知識を集約する  
ための足場
	
  

WBAIは、「ふと気が付くと、AGIが完成していた」	
ということが起こりうる共創開発基盤の構築を行う	
106	

第7回 ITトレンド・フォーラム 	全脳アーキテクチャ開発部:	
  	
  sig-­‐wba.slack.com	

活動状況：	  • Slack上での交流	
  • 隔週水曜にオフ会	  遠隔者向けのビデオ会議あり	  開発テーマ：	
  • 仮想学習環境の整備(Life in Silico など) → #lis	
• 機械学習装置の開発評価 (Deep PredNet等）	
• 面白い環境で行動学習するAIエージェントの実験	• 人のような認知機能を実現するAIエージェント	• 神経科学データの解析およびそのツールの開発	
• その他様々なWBA研究の推進に関わる研究開発	
(※ 関連して「Request for Research」を制作中)	

AIで遊びたい方は、 hWp://wba-­‐inidadve.org/sig-­‐wba	
  へ	
107	

第7回 ITトレンド・フォーラム 	第2回全脳アーキテクチャ・ハッカソン	
すごい	

おもろい	

脳っぽい	

みんなで作る認知アーキテクチャ  
途切れがなく周囲の環境や状況を認識し、効率的に意思決定し、行動を起こすという「認知＝行動サイクル」を行うAIエージェントを構築いただ
きます。WBAIが提供した仮想環境とプロトタイプのアーキテクチャを利用できます。	
ハッカソン当日:	
  10月8(土)〜10日(月・祝)	
  一次審査：	
  ：10月10日午後 	
  審査委員長：栗原聡（電通大)	
  二次審査：	
  11月11(金) 午前	  於人工知能学会汎用人工知能研究会	
  (来往舎中会議室)	
  
審査委員長： 市瀬龍太郎（NII）	
  発表・表彰式(賞金付き)：	
  11月11(金) 午後	
  於人工知能学会３０周年記念式典(藤原記念ホール)	
  hWps://www.ai-­‐gakkai.or.jp/30anniversary/	
  ハッカソン委員長： 高橋恒一 (理研)108		
第7回 ITトレンド・フォーラム 	ハッカソン(10月8〜10日)	
  	
  【ビデオ】	

109	

第7回 ITトレンド・フォーラム