全脳アーキテクチャ・アプローチ：
脳全体のアーキテクチャに学び人間のような汎用人工知能の構築を目指す

山川 宏

株式会社ドワンゴ
ドワンゴ人工知能研究

NPO法人 全脳アーキテ
クチャ・イニシアチブ「人類と調和した人工知能のある世界」を目指して

概要

人のように多様なタスクを柔軟に獲得する汎用人工知能(AGI)の開発は計算機発明直後からの夢だが、乳幼児が発達段階で獲得する非言語的な知能は設計できなかった。
近年の計算リソースの増大に伴い、脳を参考にした深層学習が実用化されて、子供の知能をデータから獲得できるようになった。
そこでこれを明らかになりつつある脳全体像を参考にして組み上げることでAGIの構築を目指すのが全脳アーキテクチャという研究アプ
ローチである。
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

強化学習＋深層学習 〜1990年代の私の夢〜
脳に学んで学習だけで動ける汎用知能を作りたかった山川宏， 強化学習に基づく知能システ
ム： 価値体系を利用したパターン処理型知能マシンの検討, 東京大学博士論文，1992.

山川ら，階層化砂時計型ニューラルネットによる自律的な内部表現
獲得, 1995

Autoencoder の階層化も試みた

エージェント・ネット
ワーク(認識に基づく知的処理アーキテクチャ)

末広尚士、高橋裕信、山川宏, “エージェントネットワークによる手渡しロボットシステムの構
築,” 第15回ロボット学会、２
C24、1997.

• 当時は学習システムとしてで結合できなかった• 2000年台はこうした基礎研究はできなかった．
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

1.人工知能(AI)とは

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

人工知能とはなんだろうか？

• 人工知能はロボットか？
• 人工知能は機械学習か？
• 人工知能はまだ実現されていないのか？
近代科学社出版

人工知能学会監修「人工知能とは」神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

AI一般、人型AI、脳型AIの研究目標• AI一般の目標:– 産業や科学技術開発等の応用を志向する、何らかの意味でより高度な知的能力の実現• 人型AIに固有の目標:– 人のように振る舞う知能の実現• 脳型AIに固有の目標:– 多くの場合に人AI固有の目標も含む。
– 脳の機能的な理解に基づき医療貢献、さらには
マインドアップロード等も目指す
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

知能とは何か： AIが創ろうとしているもの

知能 ≒ 直接観測できない出来事を推定する能力推論(アルゴリズム)
AIで先行して進歩＋
知識表現
知識≠単なる記録の集まり
知識＝情報内の関係性を表現する規則
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

人工知能に対する一つの見方知能 ≒ 直接観測できない出来事を予測する能力

計算パワー
データ

推論(アルゴリズム)

良い予測

知識(表現)

専門家
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

知識からみたAIの歴史
1.知識所与の時代
トイ・プロブレムが対象

2. 知識記述の時代
エキスパート・システム

3. 知識獲得の時代
ディープ・ラーニング

ゲームのルール

専門家が知識記述

データからの知識獲得

状態/
質問

推論
機構

行動/
回答

※推論機構の中に知識が埋め込まれていた．

適用範囲が狭い

オント
ロジー

状態/
質問

知識
ベース
推論
機構

Webに
よる共
有

行動/
回答

知識獲得ボトルネック

状態/
質問

知識
獲得

行動/
回答

推論
機構
※以前から存在した機械学習
アプローチだが近年性能向上

抽象知識の学習にメド神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

推論の種類とその関係
事例集合

驚くべき
事例

人為的に与えられることも
多い

仮説検証

知識獲得

帰納推論

知識
ルール

予測

知識活用

アブダクション

演繹推論

意思決定/
行動

仮説

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

将棋棋士「直観思考」を科学する！
将棋を研究対象に，瞬時に最善手を神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

プロ棋士は直観力で計算機を凌駕していた

プロ棋
現在局面
士 （駒配置、

コンピュータ将
棋

直観:(帰納推論)• 素早い
局面理解• 有力指し手の生成

して有力指し手を選択．

広い読み(演繹推論)

棋力

戦型、手筋などを含む）と将来局面を予想

狭い読み

強力な計算能力で広く深く読んだ上で，評価する．

局面評価

局面評価

・
・
・

現在の局面
1手後

素早い局面理解(前頭葉/楔前部)直観

2手後

有力指し手の生成(大脳基底核)

局面評価
数手後

狭い読み

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

2.深層学習によるAIの変化

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

Googleのコンピュータ囲碁が初めてプロに勝つ
Nature, 2016/1/27

Illustration: Google
神戸大学DeepMind/Nature
遠隔インタラクティブ講義「計算生命科学の基礎3」

AIが凌駕したチェス／将棋，そして囲碁は?

201
5“西村則久, 時期を逸してしまった人間対コンピュータの戦い, 2012年05月19日” より改変

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

「深層学習＋強化学習」が多くの特定機能実現• 画像をそのまま入力する• 行動価値関数Q(s,a)を深層学習で近似• Atari 2600ゲームで，既存手法を圧倒– 一部のゲームで人間のエキスパートを上回る．

Deep Q-Network （DQN） [Volodymyr etal,2015]神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

Comparison of the
DQN agent with thebest reinforcement
learning methods inthe literature.

V Mnih et al. Nature 518, 529533 (2015)
doi:10.1038/nature14236

深層学習とは何か？
深層学習は、脳の機能を参考に作られた「ニューラルネットワーク」の一種【深層学習による特徴学習（顔認識の
例）】
浅い階層

エッジなど
局所的な特徴

小さいパー
ツなどの
具体的な特
徴

深い階層

パーツを組み合わせた
全体的な特徴出典 Tutorial on Deep Learning and Applications(Honglak Lee University of Michigan
http://deeplearningworkshopnips2010.files.wordpress.com/2010/09/nips10-workshop-tutorial-final.pdf

視聴覚認識技術
で

既存技術
を凌駕し
た
AIの往年の課題

「表現獲得
」に道筋を
与えた

機能的に動作
する

大脳新皮
脂のモデ
ルを提供

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

長年の課題： 一般物体認識を深層学習が実現

なぜ難しかったのか•

外界データからは解釈できない•

高次概念と結びつけることもできない• 脳活動を観測しても解釈しがたい．
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

2015 Real-time Semantic Segmentation

https://youtu.be/CrnLINlbfFA
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」• （動画を再生）– “Deep Sensorimotor Learning”– https://www.youtube.com/watch?v=CE6fBDHPbP8– https://www.youtube.com/watch?v=2hGngG64dNM

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

深層学習インパクトとは十分にデータを得られる
特定タスク内であれば、人間並みの性能をもつことで応用価値の高い

機械学習が可能に神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

大人のAIと子供のAI

人間のような汎用AIの完成
へ

子供のAI

二つのパーツを統合する計算機が生まれた時代理解できるので設計可能演繹推論

AGIの基本パーツがほぼ出
揃う

大人のAI

理解できないので学習が必要（つまり，一定以上の計算リソースが必要）

帰納推論(機械学習)
195
6

197
6

199
6

201
6

202X
年

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

今後のAIで課題となる部分はどこか
齧歯類
神経科学知見が豊富

類人猿

ヒト

革新脳の成果に期待

記号/言語能力が前提

四則演算

既存AIで未実現

認知機能

既存AIで
実現済み

深層学習
の発展で
数年で実
現しそう

まだまだ
目処が
たたない

スキル

高度な
子供のAi：パタン
直観
深層学習で 認識計画 大人のAI：実現されていた
論理推論

注意 目処がたってきた
言
語
創造性 意
味
理
解

心の理論
モラル
壁の向こう側
プログ
ラミン
グ
権利/
義務

言語意味理解を要しない特化型AIは学習できつつある
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

言語意味理解に向けて： 対象間関係の獲得(山川宏, 2015)

必要な3つの関係
記号
記号間関係(現状のNLP)■記号間関係のみ

記号ー対象
概念間関係
対象概念間
関係

Amodalrepresentation■言語的な表現の中に閉じている■物理記号仮説

対象概念■トートロジカルな辞書表現．

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

言語意味理解に向けて： 対象間関係の獲得(山川宏, 2015)

必要な3つの関係
記号
記号間関係

Perceptual Symbol
System

記号ー対象
概念間関係
対象概念間
関係

(人間はやっている)■三種類の関係

対象概念■抽象的な内部表現に，身体（センサ）から意味を与えている．

■深層学習により実現する見込みが見えつつある．

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

存在しないイメージを言葉から生成する能力

Elman Mansimov et. al: “Generating Images from Captions with Attention”, Reasoning, Attention, Memory (RAM) NIPS Workshop
2015, 2015
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

真の言語意味理解に向けた周辺技術の状況• Perceptual Symbol System– イメージと短い文章を対応付ける技術は可能に– 物体認識では深層学習の内部表現は、脳神経活動には高い相関がある– 人の大新皮質の脳神経活動に対して、名詞、動詞、形容詞などを対応させることができてきいる。
– 今後の深層学習の発展で、世界をコンパクトに記述できる高次の内部表現を獲得できる可能性は高い• Amodal representation– 大量データを用い多言語翻訳では人に近い高性能が実現(Google翻訳)

上記の二つの統合により人を圧倒的に超えるだろう
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

3.汎用人工知能(AGI)へ

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

汎用人工知能 (AGI: Artificial GeneralIntelligence)とは現在の特化型AI

目指す汎用人工知能（AGI)（強いAIではない）• 個別の領域において知的に振る舞う• 多様で多角的な問題解決能力を自ら獲得する• 既に人以上の能力が数多く実用化されている． 例えば– 設計時の想定を超えた新しい問題を解決できる．
– 自己理解／自律性– コンピュータ将棋/チェス– Googleカー(自動運転)– 医療診断• AI創世記からの夢でありつつ，実現の困難さから取り組みは少なかった．

専門性を設計する

専門性を学習する
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

汎用人工知能(AGI)は何をもたらすのか
一般目的技術： →破壊的イノベーション
開発コストの抑制（例：ワープロ専用機の消滅）

汎用的学習
多角的な問題解決能力を自動獲得

ゼネラリストAI: (1) 多様な特化型AIの能力を統合し，政治的意思決定等を行う (2)特定ユーザと対話を行う(Siriの発展形)

自律性：

生存能力: 設計しきれな

自らのから
判断で，行
動し世界を
探索する

い例外状況に対する強さ

創造性: 広い視野から仮説を創造し世界を理解する→ 人智のフロンティア拡大→シンギュラリティ
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

一般目的技術としてのAGI
性能が一定上になれば顧客ニーズを満足しうる．
→ コストダウンできる汎用製品が市場を席巻する
汎用性（適用範囲）

トレードオフ

性能

コスト
一般目的技術（GPT)が，専用技術を凌駕する例はある．
電力・電気，内燃機関，トランジスター，コンピュータ，
例： ワープロ専用機はある段階でニーズがなくなった
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

生存能力としてのAGI
遭難するルンバ

実世界で活動するエー
ジェント(ロボット)においては，生き延びるための物理的常識（子供のAI）が必要である．
これにより例外的状況に対する強さを持てる．

特化タスクは人手による設計して効率化しつつ，例外状況への対応は汎用知能でカバーしたい．
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

ゼネラリストAI
浅くても広い知識を持つAIが有用な場合

人に寄り添うAI
人間とのインタフェースを担うエージェント

マネージメントAI
多くの特化型AIを統括管理する
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

自律性： 命令に素直には従わないロボ
ット

何らかの意味で自律性：
壊れることを回避する
ために，命令に従わな
い

正しい判断

想定外の判断神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

今後のAIのインパクトはなにか
プラス面(チャンス)：十分に高度な知能を制御でき
れば，いかなる範囲の目標も、より迅速に達成できる可能性がある．
• 科学技術の発展を加速– 癌の治療法を治療する方法を理解できるくらい賢くなる– 経済の安定化を達成する方法を理解できるくらい賢くなる

マイナス面(リスク)• 職業の問題– ネオ・ラッダイト運動• 人工知能の「心」の問題– 人の尊厳，AIへの感情移入• 危険な利用– 犯罪的なAI，軍事AI• 制御しきれなくなる問
題

AIの人類に対する影響は非常に大きい
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

経済成長構造の変化（駒沢大 井上智洋氏の図より改変)
https://wirelesswire.jp/2016/05/52590/
産業
革命

農業中心の経済AI
革命

工業中心の経済

AK型生産経済神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

第4次産業革命によって訪れる「第二の大分岐」（駒沢大 井上智洋氏の図より改変)
https://wirelesswire.jp/2016/05/52590/

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

機械化で水没する職業大陸
ある時代まで，人の労働が経済的価値を生み出す「職業大陸」
は拡大してきたが，今は逆に「機械の海」に水没し始めている．

参考：
Robin Hanson,
Economics of
the Singularity,
IEEE Spectrum,
2008

人を越える
知能/ロボッ
人と人型ロボットが一緒に働
トく、
グローリーの埼玉工場に未来の職場を見た

生産性

道具の利用

産業革命
職業大陸

職業大陸
職業領域

機械化による
二つの作用

情報革命

シンギュラリティ

職業
大陸

機械の海

機械の海

職業領域

職業領域

機械の海
職業領域

1. 海面上昇: 浸水した領域が機械に置き換わる．
2. 造山活動: 人間を補助して価値を高める．

最期に残る職業は，何か？

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

人間が優位となりうる価値
当面AIが不得意なスキル

人工知能をうまく活用する

人間としての価値を発揮• データを利用した試行錯誤が行
いづらいスキル• 高度な創造性を要する仕事• 複雑なコミュニケーションを要する仕事• 手先の器用さを要する仕事？？

• AIに与えるデー
タを生成する• AIと人間の分担をコーディネート• AIの活用能力の高い人材を育成
する教育産業• AIの動作や意思決定過程を説明する解説者• 嗜好• 責任主体法制度にも依存するが．
• 組織などの最上位の意思決定神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

世界の汎用人工知能(AGI)開発組織マップ
深層学習の発展

脳に学ぶ•Demis Hassabis

Nengo

新皮質•
中心

Our Goal This Year is to
Build a Rat Level AI(2016/7/13)

脳全体
OpenAI technical goals(2016/6/20)(2015〜)

記号創発
ロボティク
ス

工学的実現

1. 進捗を測る
2. 家庭用ロボットを作る
3. 役に立つ自然言語理解能力を持つエージェントを作る
4. １つのエージェントで多種多様なゲームをプレイできる

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

AIの今後について考えるべき論点
1.

2.

3.
4.
5.

倫理的論点： 人間の尊厳を尊重した人工知能について
意識や心を持つ人工知能の扱い人間の意思決定や信念の形成に関する人工知能の扱い など
法的論点： 人工知能による豊かな人間社会形成のための法的課題について人工知能やその利活用の法的位置づけ など
経済的論点： 人工知能の経済的恩恵について
産業構造や就業形態等の経済への影響 など
社会的論点： 人工知能が受容される社会について
豊かな人間社会に貢献する人工知能 など
研究開発的論点： 人工知能の研究開発に当たり考慮すべき項
目 など（人工知能と人間社会に関する懇談会の開催について
特命担当大臣（科学技術政策 より）

平成28年5月30日

内閣府神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

ＡＩの研究開発の原則の策定① 透明性の原則： ＡＩネットワークシステムの動作の説明可能性及び検証可能性を確保すること 。
② 利用者支援の原則： ＡＩネットワークシステムが利用者を支援するとともに、利用者に選択の機会を適切に提供するよう配慮すること 。
③ 制御可能性の原則： 人間によるＡＩネットワークシステムの制御可能性を確保すること 。

④ セキュリティ確保の原則： ＡＩネットワークシステムの頑健性及び信頼性を確保すること 。
⑤ 安全保護の原則： ＡＩネットワークシステムが利用者及び第三者の生命・身体の安全に危害を及ぼさないように配慮すること 。

⑥ プライバシー保護の原則： ＡＩネットワークシステムが利用者及び第三者のプラ
イバシーを侵害しないように配慮すること 。
⑦ 倫理の原則： ネットワーク化されるＡＩの研究開発において、人間の尊厳と個人の自律を尊重すること。

⑧ アカウンタビリティの原則： ネットワーク化されるＡＩの研究開発者が利用者等
関係ステークホルダーへのアカウンタビリティを果たすこと。
AIネットワーク化検討会議 報告書
2016神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

AIと社会に関する検討を行っている団体
海外• Partners on AI• OpenAI• AI100• Future of Humanity
Institute (FHI)• Cambridge Center for
Existential Risk (CSER)• The Machine Intelligence
Research Institute (MIRI)• Future of Life Institute
(FLI)

国内
• 人工知能学会倫理委員会• AI社会論研究会• Acceptable Intelligencewith Responsibility (AIR)• ロボット法研究会• 知のコンピューティングとELSI/SSH• 次世代人工知能技術社会
実装ビジョン作成検討会

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

EcSIA：

AIと共存する望ましい未来社
会像
私が思う，望ましい未来像とは 「万人の幸福」と「人類の存続」の間のトレードオフの緩和をAIがおこなうことで、その両立を目指すものである．
こうした未来社会では共有財産としての多様な人
工知能と，時に拡張された人類によって生態系が形成される．私はこれをEcSIA (Ecosystem of SharedIntelligent Agents )と呼ぶことにした．
EcSIAは大自然の如く複雑広大で，人類はそれを完全には理解し把握できないまでも緩やかに制御する． そしてEcSIA が生み出す恵みや富は万人に分配される．
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

4.汎用人工知能を開発するための
全脳アーキテクチャ・アプロー
チ神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

特化型AIから汎用AIへ
１）2010年頃まで： 設計
特化
AI

特化アルゴリズムタス
知識ク2）現在： 学習特化
汎用アルゴリズムAI

個別に知識を設計

個別の知識を学習

3）現在： Big switch文
型AI
知識
スイ
ッチ

AI

知識
知識
知識

(強化学習，深層学習
タス
） 知識
ク

タス
ク
タス
ク
タス
ク
タス
ク

一つのAIが，複数のタスクを学ぶ

4）今後の目標： 人間のような汎
用AI

知識
？

AI

タス
ク
タス
ク
タス
ク
タス
ク

?????
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

今後の目標： 人間のような汎用AI

スイ
ッチ

AI

知識

タスク

転
知識
知識 移

タスク

／
知識 流
用

？

タスク

知識

タスク

？

一つのAIが学んだ複数のタスクの知識を転移／流用する
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

今後の目標： 人間のような汎用AI

スイ
ッチ

AI

知識

タスク

知識 転
移

タスク

／
知識 流
用

タスク

知識

タスク

？

一つのAIが学んだ複数のタスクの知識を転移／流用する
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

脳のアーキテクチャに学んで機械学習を結合• 機械学習の現状
人工ニューラルネットワークの組合せで、多様な機能を実
現• 神経科学の現状
コネクトーム等の包括的な知見の蓄積が進行している

コネクトーム（神経科学）
Alex Graves他, Hybrid computing using aneural network with dynamic external
memory, Nature 538, 471–476 (27 October
2016)

Oh SW, et al. A mesoscale connectome of
the mouse brain. Nature (2014) 508, 207–214.

脳を参考として機械学習を結合することが有効※機械学習の結合のレパートリーは膨大で、適切な組合せを見つけることは困難なため神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

汎用知能を支えるキーテクノロジー
例外的な状況に対しても何らかの行動を可能とするには、高度に再利用可能な知識要素の動的な組合せ（相互作用）がキーテクノロジーとなる。

Takashi Omori, Akitoshi Ogawa : Brain computation system that searches
for internal procedures by functional parts combination, SCIS CDROM(2004)
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

深層学習も単純な構造ではなくなりつつある

モジュール組合せの分類• 分割(splitting) - モジュールの分離独立• 代入(substituting) - モジュールの置換／交換• 拡張(augmenting) – 新モジュールの追加による解決• Inverting - モジュール間の階層依存関係を再配置• 移植(porting) – 異なるコンテキストへのモジュール適用• 除外(Excluding) - 有用な解決手段を構築するために既存のモジュールを削除

C. E. Perez, The End of Monolithic Deep Learning,
2016
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

理想的なAGIの知識構造モデル

入力

x
1

x
2

3A

3B

x
3

x
4

x
5

新しい分野
でもすぐに
理解できる
筋の良い人

事例
具体的
知識

2A(領域
常識)

抽象的
知識

3
C

3
D

2B(領域
常識)

2C
(領域常識)

1A (一般常識)

タスク領
域

3
E

：事
例

XX

：知
識
： 前提条
件

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

特化型AIの知識構造モデル： 現状のAI

入力

x
1

x
2

x
3

x
4

x
5

できない
ことは，
全くでき
ない．

事例
具体的
知識

3A

：事
例

2A

抽象的
知識

1A

XX

?

?
タスク領
域

?

?

：知
識
： 前提条
件

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

Big switch文型AIの知識構造モデル
応用が効か
なくても，
沢山練習す
x
x
x
x
x
一般的な問題
れば性能は
入力
1
2
3
4
5
本来一体化すべき知識が分断され 上がるていると，経験の共有による知識
3
3
3
具体的
3A 3B
の最適化を促進できないデメリッ
D
C
E
知識
ト
2
2
2
事例

抽象的
知識

2A

2A

1A

1A

B

C

C

1
A

1
A

1
A

?
タスク領
域

?

：事
例

XX

：知
識
： 前提条
件

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

知識の適用範囲(前提条件）

知識の基本構造• 前提条件：
知識内容を利用しうるかどうかの条件判断部– 例:• 条件付き確率の条件部• 前提条件を自動的に抽出するルール抽出技術• 知識内容：実際に適用される知識神戸大学 遠隔インタラクティブ講義「計算生命科学の記号知識と分散表現知識の条件部

記号による知識• 人間が知識を組み込む場合– 適用条件を書くのは大変そう。
– フレーム問題？

• 非記号知識の条件部
分をどう組み込むかが問題

非記号(分散表現)の知識• データが十分な機械学習(帰納推論）では、条件部も組み込まれる。
– だから、一般物体認識などが可能になる• データが密に存在する範囲を超えて拡大することは基本的に難しい
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

「前提条件階層」を構築できるか
前提条件(知識内容を敷衍しうる範囲)が大量データからしか決まらないのでは、
帰納推論の域を出ない、より汎用性の高い知識から階層的に制御したい。
入力

x
1

x
2

3A

3B

x
3

x
4

x
5

事例
具体的
知識

2A(領域
常識)

抽象的
知識

3
C

3
D

2B(領域
常識)

2C
(領域常識)

1A (一般常識)

タスク領
域

3
E

：事
例

XX

：知
識
： 前提条
件

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

DL後のAIに残された汎用性という課題の本質
Generalintelligence

汎用性：
適用範囲の拡大によるデー
タの不足

実時間問題
解決：
データ収集
時間の不足

今回残された
課題の本質も、また同根ではないかと思われる

少数データへ対応する必要
性
One/Zeroshot learning演繹推論の導入

分散表現知識の分解

Disentangle

既知ドメイン知識の・未知ドメインへの写像・適用ドメインの拡大

深層学習で獲得した知識(表現)をいかに使いまわ
すかTransfer learning /Multi-task learning/
Domain adaptation

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

汎用性を支える大脳新皮質の一様性
・身体運動的知能
・言語的知能・論理数学的知能
・音楽的知能・対人的知能・内省的知能・空間的知能図の出典：
http://bio1152.nicerweb.com/Locked/media/ch48/48_27HumanCerebralCortex.jpg

一様な機構で，多様な機能を獲得
ー＞ 知能の汎用性を支えている• 大脳新皮質において実現されている• 深層学習で実現された表現獲得
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

生物に学ぶ研究を俯瞰する観点から計算論的神経科学• 高齢者転倒原因解明• 触覚を用いて人を抱き上げるロボット

生物に活かす応用(医療等

統合技術型BIC

実例がない？

生物に学ぶ
総合技術

② ①

)

[理学] (知ることに価値あり)③ ④

生物から離れた応用[工学] (性能に価値あり)• 視覚情報処理に学んだCNN• 梟に学ぶ静音パンタ
グラフ

医療工学などをはじめとして多くの応用
がある．

生物に学ぶ
要素技術

• ハスの葉に学ぶ超撥水• 海馬のシータ位相歳差から情報表現を学んだ．

望む機能から
微細な機構への絞り込みが重要

要素還元的BIC

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

生物に学ぶ研究を俯瞰する観点から計算論的神経科学• 高齢者転倒原因解明• 触覚を用いて人を抱き上げるロボット

生物に活かす応用(医療等

統合技術型BIC
脳が足枷になり工学システ
ムとしての応用には不適実例がない？

生物に学ぶ
総合技術

② ①

)

[理学] (知ることに価値あり)③ ④

要素が多いと機構と機能の対応がつかず，新計算原理の開拓は期待
薄生物から離れた応用[工学] (性能に価値あり)• 視覚情報処理に学んだCNN• 梟に学ぶ静音パンタ
グラフ

医療工学などをはじめとして多くの応用
がある．

生物に学ぶ
要素技術

• ハスの葉に学ぶ超撥水• 海馬のシータ位相歳差から情報表現を学んだ．

望む機能から
微細な機構への絞り込みが重要

要素還元的BIC

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

生物に学ぶ研究を俯瞰する観点から計算論的神経科学• 高齢者転倒原因解明• 触覚を用いて人を抱き上げるロボット

統合技術型BIC
脳が足枷になり工学システ
ムとしての応用には不適実例がない？

生物に学ぶ
総合技術

大規模システムの統合の指針

生物に活かす応用(医療等② ①)[理学] (知ることに価値あり)③ ④

生物から離れた応用[工学] (性能に価値あり)• 視覚情報処理に学んだCNN• 梟に学ぶ静音パンタ
グラフ

医療工学などをはじめとして多くの応用
がある．

生物に学ぶ
要素技術

• ハスの葉に学ぶ超撥水• 海馬のシータ位相歳差から情報表現を学んだ．

望む機能から
微細な機構への絞り込みが重要

要素還元的BIC

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

汎用AIへの最速開発シナリオ候補としてのWBA

脳全体のアーキテクチャに学び人間のような汎用人工知能を創る(工学)基本方針： 可能なかぎり粗いモデル化からはじめ，必要に応じて段階的に詳細化神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

全脳アーキテクチャ中心仮説

脳はそれぞれよく定義された機能を持
つ機械学習器が一定のやり方で組み合わされることで機能を実現しており、それを真似て人工的に構成された機械

学習器を組み合わせることで人間並みかそれ以上の能力を持つ汎用の知能機械を構築可能である。
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」ようやく今，WBAアプローチが可能になった
これまで難しかったが，近年可能になった．

全脳アーキテクチャ＝ 機械学習 ＋ 認知アーキテクチャ
壁となっていた新皮質のモデルとして深層学習の研究が最近進んだ

脳全体のメゾスコピッ
クなコネクトーム）を
アーキテクチャの参考とする

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

ネオコグニトロンを脳全体に拡大する
一般物体認識を実現した

汎用人工知能を実現する

ネオコグニトロン(視覚野)

全脳アーキテクチャ脳に学んだことは何か？

脳に何を学ぶべきか？

複雑細胞と単純細胞から構成される基本単位
階層的アーキテクチャによる繰り返し利用

大脳新皮質の標準学習アルゴリズム
認識だけでなく注意や運動も含んだ学習の単位モジュール

新皮質内の６層構造を考慮したコネクトーム
標準新皮質の単位モジュールを結合したアーキテクチャ
画像出典元：http://www.aso.ecei.tohoku.ac.jp/~shun/RNC-e.html

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

「人類と調和した人工知能のある世界」を目指して

5.NPO法人全脳アーキテクチャ・
イニシアティブとその狙い
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

NPO法人 全脳アーキテクチャ・イニシアティブ

NPO法人 全脳アーキテクチャ・イニシアチブ

代表 山川 宏副代表 松尾 豊 副代表 高橋 恒一
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

WBAIのビジョンに向けた脳型AIの役割
ビジョン：

人類と調和した人工知能のある
世界最初期のAGIを全ての人々にとって優しいものにする
こと③制御可能性⑤安全保護⑦倫理⑧アカウンタビリティ①透明性②利用者支援

開発の加速
最終
段階

人間の知能と親和性が高い困った際のヒント(価値システム含む)

脳型AIの一般的性質

オープン
な共創向
き

統合のフレ
ームワーク

脳アーキテクチャから得られる性質

人のようなAGIの開かれた共創を脳全体アーキテクチャー上で拡
大神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

脳型アーキテクチャー上での共創開発とは「ふと気が付くと、AGIが完成していた」ということが起こりうる
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

全脳アーキテクチャ(WBA)勉強会の活況• 目的：– AI，神経科学，認知科学等の複数分野に跨がる人材の結集と育成• 経緯– 2013年秋，一杉（産総研） ，松尾（東大），山川（ドワンゴ）により立ち上げ– 2013年12月から2016年10月までに16回の勉強会を実施し毎回200名程
度の参加．
– 2014年8月に，WBA若手の会を結成– 関連するFacebookグループメンバ
は3600人超 （2016年10月現在）
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

NPO法人WBAIの活動
ビジネスアイディア、エンジニア人材、産業創造

WBA研究者（
PI)

寄付

社会とのコミ・ュニケーショ
ン：
賛助
多様な
ボランティアが問題提起等(大学教員/国研教員等)

場の形成
技術課題解決ハッ
カソン/ビジネス
アイディアコンテ
スト等

人類と調和した人工知
能のある世界を目指す

重点課題の提示全脳に学ぶ人のよ
うなAGIを創造し，活用支援

促進型研究開発

OpenAIコミ
ュニティでWBA開発を
楽しみなが
らスキルア
ップ．

開発
活
用

→10000人へ

Open
レポジト
リ
Github
:
wbap

研究成果

WBA研究志望者・学生
研究者（PI)の指導をうけWBAの重要な個別研究を推進し，同時にキャリア構築• 学習環境構築• AGIの評価手法• 統合プラットフ
ォーム• 神経科学への
接地

活
用

人材育成

研
究
指
導

主役

方向性決定

研究促進

「眼と耳」の役
割
技術課題の発見/
分解/説明し方向性を示す．また若手を育てながら研究，研究成個果の実応用を探
別
る．

従事・
貢献
エンジニ
ア

活用

価値創造促進企業・投資家・政策立案者等

背景動向： 進展著しいオープンな脳モジュール(機械学習)開発
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」全脳コネクトーム・アーキテクチャ(WBCA)の導入
WBCA＝コネクトームをベースとした認知アーキテクチャの参照
モデル
BiCAmonLIS

全脳アーキ可
視化ツール
セン
サ群

任意の認知
アーキ

機械
仮想
学習
導
環境
導入
入 モジュ
全脳コネクトシミュールレータ
ミック・アー
認知アーキテクチ
キ
アクチュ
ャ
エータ群
アーキテクチャ
記述言語
結合実行プラットフォーム

神経科学デ
ータ
(コネクトーム等も含
む)

計算機環境に非依存に機械学
習モジュールの結合を記述する言語。例）BriCA言語、
PHML
マルチモジュール・アーキテクチャの実行と学習に必要な計算資源の管理機構． 例）BriCAコア、Noh,
Chainar, TF, ROS, Flint, Nengo, Brain
simulator, Neuron…
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」開かれた共創により全ての人々へAGIをWBAIの役割： 共創開発基盤の構築
.

NPO法人

BriC
A

OpenなAIエンジニ
ア・
コミュニティ

オープンなAIシステとしてのWBA開発を加速③障害を取り除く個別研究も支援研究者が切り開くフロンテ①開発環境整備，②方向提示全脳アーキテLI
クチャ開発部
S
目標１００００
BiCAm
人
on

PredNet 各脳器官モデル

海馬，小脳，
扁桃核など

並列化

企業等に持ち帰って
競争力の強化へ
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

人工知能の全体像
知能 ≒ 直接観測できない出来事を予測する能力

計算パワー
データ

推論(アルゴリズム)

良い予測

知識(表現)

専門家
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

人工知能の全体像
知能 ≒ 直接観測できない出来事を予測する能力

計算パワー
データ

推論(アルゴリズム)

コモディティ
化

良い予測

知識(表現)
相対的な地位低下

専門家
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

人工知能の全体像
知能 ≒ 直接観測できない出来事を予測する能力
シミュレーシ
ョン

データ

計算パワー
推論(アルゴリズム)

コモディティ
化

良い予測

知識(表現)
相対的な地位低下

専門家
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

LIS (Life In Silico)が目指す「AGIの民主化」
AIが3歳まで育つ1000日間のためのシミュレ
ータ
学習環境シミュレータ（Unity)
機械学習 (人工知能)手法
近年の深層学習手法を標準装備．様々なAIが試せる

無料化されたゲー
ムエンジンで自由に世界を構築GitHubで開発中、Life in Silico(LIS)で検索簡単に使えるようにして公開中
直感的物理学(Intuitive
Physics)

The development of
intuitive physics@MIThttps://goo.gl/aCnMtD【人工知能】 学習環境シミュ
レータLife in Silico(LIS) みんなで人工生命を育てよう！
(2016/4/9)

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

最近になり様々なプラットフォームが出現
UNIVERS@OpenAI

DeepMind Lab

TorchCraft@Facebook神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

sig-wba.slack.com

活動状況：• Slack上での交流• 隔週水曜にオフ会
遠隔者向けのビデオ会議あり開発テーマ：• 仮想学習環境の整備(Life in Silico など) → #lis
• 機械学習装置の開発評価 (Deep PredNet等）• 面白い環境で行動学習するAIエージェントの実験• 人のような認知機能を実現するAIエージェント• 神経科学データの解析およびそのツールの開発• その他様々なWBA研究の推進に関わる研究開発(※ 関連して「Request for Research」を制作中)

AIで遊びたい方は、 http://wba-initiative.org/sig-wba へ神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

第二回WBAハッカソン(2016年10月8〜
10日)

【ビデ
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

おわりに• AIは、データが十分な状況では人並みの知能を発揮できるようになった（深層学習等による）• 人のように多様なタスクを柔軟に獲得する汎用人工知能(AGI)の開発が現実味を帯びてきた• 汎用性の課題は、データ不十分さへの対応。この突破にはデータから得られた知識を組み合わせる(演繹／アブダクション)が必要。ヒントを脳から得られるかもしれない。
• 人類と調和したAIがある世界を構築するには、最初期のAGIが皆に優しい世界公共物であって欲しい• そのために、「人のようなAGIの開かれた共創を脳全神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

ご清聴ありがとうございました

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

理解し得ないものを創る

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

The Whole Brain Architecture Initiative
videosThe First WBA
Hackathon,
Sep. 2015
https://www.youtube.com/watch?v=0QS5Z3WrHSALife in Silico(LIS)
Virtual environment
for AI learning
https://www.youtube.com/watch?v=lkDdbBIgn5Q

The Whole Brain Architecture Initiative，a specified
non-profit organization
http://wba-initiative.org/

ものづくりの３アプローチ

生物等
に学ぶ

試作

知識に
基づく
設計

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

実用的なものづくり

試
作

知識に基づ
く設計

理解に基づく設計： 実現したい機能を分解して機構に割り当てる
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

生物に学ぶ研究：

生物等
に学ぶ

試
作

知識に
基づく
設計
行き詰まると，生き物などからキーとなる要素技術のヒントを得てきた．
神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

AI技術における表現と推論

演繹推論(知識活用)

帰納推論(知識獲得)

記号表現

分散表現

古典的AI
(1950年代〜)【大人の知能】

分散表現演算Word2Vec等(2010年代〜)

パラメトリック機
械学習、
帰納論理プログラミ
ング等(1960年代〜)

ノンパラメトリック
機械学習、
表現学習機能(1990年代〜)【子供の知能】

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」

分散表現知識をどのように演繹につなげるか？

演繹推論(知識活用)

記号表現

分散表現

古典的AI
(1950年代〜)【大人の知能】

分散表現演算Word2Vec等(2010年代〜)②

帰納推論(知識獲得)

1.
2.
3.

パラメトリック機
械学習、
帰納論理プログラミ
ング等(1960年代〜)

ノンパラメトリック
機械学習、
表現学習機能(1990年代〜)【子供の知能】

分散表現知識を記号に対応付けた上で、記号により演繹推論等を行う。
分散表現知識に対して演繹推論等を行う
上記の両方の組合せる

神戸大学 遠隔インタラクティブ講義「計算生命科学の基礎3」