基調講演

その大会の基本的な方針や中心的な内容・目的について論じること

未来の知能とバイアス
山川宏
全脳アーキテクチャ・イニシアティブ、東京大学、理研、近畿大学、電気通信大学、玉川大学

2022年度 人工知能学会全国大会（第36回）
2022年6月14日（火）人工知能学会と私
OS: 脳とAI

編集委員
２０１０

基調講演

編集委員長

２０００

全国大会
委員

合同研究会実行委員長

大会
優秀賞

全国大会実行委員長＠岩手

論文賞授賞

入会
２０周年記念事業

OS: AGIとOS: 人とAIが織りなす OS: 世界モデル
社会への影響新たなエコシステム OS: System 1/2<--------AGI研究会--------------------

３０周年記念事業「みんなで作る認知アーキテクチャ」

編集委員今年の抱負

２０２０

After Singularity 10年を思い描く
2

２０２２

概要

Singularityの起点となる汎用人工知能(AGI)とその現状
常識

広範な知識獲得
現状で利用できる
知識のレパート
リーは不十分多様なデータの蓄積に応じて拡大

Gatoは、

マルチモーダルデータから常識を学習しうることを実証

機械学習AIデー

学習: データから知識を獲得する
知識

システム１: 状況に応じて知識を利用する創造タ

柔軟な知識活用学習で得た知識を柔軟に活用する技
術は未成熟
転移学習などの技術が進展している。

記号AI .

システム２: 知識を流動的に組合せて利用する

優れた予測／問題解決能力

関連記事： https://wbainitiative.org/20551/

4

プロンプト技術（大規模言語モデル
を繰り返し利用）が、動画と連携される分野等に期待汎用人工知能(AGI)を目指す 72 のR&D projects
2020年末時点で、AGI開発に関連するプロジェクトは少なくとも72件あり、2017年からの変化を見ると、総数はあまり変わっていない。ただし、この間に新たに15のプロジェクトが追加されており、そのほとんどが民間企業によるものである。

Fitzgerald, M., Boddy, A., & Baum, S. D. (2020).
2020 Survey of Artificial General Intelligence
Projects for Ethics, Risk, and Policy. Global
Catastrophic Risk Institute Technical Report, 20(1).
5知能の原理知識と知性の維持・向上・保存は文化の進化をもたらす原動力であり、知能は向上できるかぎり向上する
スティーヴン・Ｊ・ディック(NASAの元歴史課 主任 )Dick, S. J. (2003). Cultural evolution, the postbiological universe
and SETI. International Journal of Astrobiology, 2(1), 65–74.
6アジェンダ• 1. Entification -存在を見出す処理汎用人工知能(AGI)の実現はそれ程遠くない• 2. 全脳アーキテクチャ• 3. 宇宙へ浸透する生命

宇宙進出する地球生命はどうあるべきか？

• 4. 生命の願い
現在の危険状況を超えて生存するために• 5. おわりに7

アジェンダ• 1. Entification -存在を見出す処理• 2. 全脳アーキテクチャ• 3. 宇宙へ浸透する生命• 4. 生命の願い• 5. おわりに8私たちは「存在(Entity)」の集まりとして世界をモデル化する世界を存在(Entity)の集まりとして近似することで、記述の縮約、記号化、思考の効率化などが可能に
Tool：
存在を操作する

Language：
存在を指し示す

https://kyoukasyo.com/2021/04/05/tools-using-leverage/
9

Design：存在を組合わせる

存在に関わる議論は今も続いている

少なくとも、世界の中に不変の存在があるという単純な構図ではない。

10

存在(Entity)を認識するためのEntificationという処理• 存在とは世界の中に不変にある何かではないが、では何か？
– アリストテレスの時代から、哲学では包括的な議論 (「変換」の視点が弱い)• 世界は殆どEntityによって記述され、人類の知識はEntityに依存する– 伝統的な記号AIにおいては、人がEntityを指し示す記号を記述してきた• 視覚の機械学習の発展はEntityを捉えつつあり、大いに参考となる– Contrastive Learning、Object centricな表現• 世界の中にあると想定しうる「存在とその体系」を探索しつづける処
理をEntificationと呼ぶこととして、進めている研究を紹介したい11

Entityとはなにか？
(W.V.O. Quine, 1969)

No Entity without Identity
(内包)

(外延)

机の現れの変化12(西鄉, 田口. 現実とは何か: 筑摩書房, 2019)

対照学習 (Contrastive learning)

SimCLR

内部表現において、同一の個物に由来するものは近づけ、そうでないものは遠ざける

Chen, T., Kornblith, S., Norouzi,
M., & Hinton, G. (2020).
A Simple Framework forContrastive Learning of Visual
Representations. In Proc. ICML

EntityNo Entity
without
Identity

対照学習は、画像に対する自己教師あり学習の一種。現在は多くの研究で利用されている。

加工して複数化された同一の個物の画像

Identity

13

Entificationの肝：空間の対称性を利用した情報圧縮処理
Fa

個物に対する観測とは、同一の構造を含む異なる見えIdentity

a

Fb

Ga

内部表現において、同一の個物に由来する構造が縮約される。

Entity

b
tb

a
b

Gb

Entity記述

観測データ

同一とみなせる観測データをEntity記述に縮約する変換処理14

Entificationは数え上げの単位を決める「主キー」
主キーは、種別毎に数えられる事例を指定するインデックス集合
主キーの例： (典型は)時刻の集合、
物体（人、家、など）の集合、
空間位置の集合

FaF
Fb例）言語認識における主キー
実時間

周波数(数msec)

分節化

文(数sec)

分節化[who][is][he] [he][is][Jack]
分節化[who is he?] [he is Jack.]

言語モデル

単語
(数100 msec)huɪzhi hiɪzʤæk

tb

Gb

音響モデル

抽象化する主キーにおける種別

等間隔サンプリングbG

等間隔サンプリング

音圧(sub msec)

音素(数10 msec)

Ga

a

主キー
15

観測データ

Entity記述Entificationのために「個体を切り出す」: まだあと少し
画像

Semantic segmentation技術
は、近傍画素を考慮した特徴量による画素の分類。対
照学習により精度を向上中。

正解ラベル
セグメンテーション結果

Entificationに必要な「個体を切り出し」には課題が残る。
例えば、同じカテゴリの物体が重なると分離が困難。
Hamilton, M., Zhang, Z., Hariharan, B., Snavely, N., &Freeman, W. T. (2022). Unsupervised Semantic
Segmentation by Distilling Feature Correspondences.
In arXiv [cs.CV]. arXiv. http://arxiv.org/abs/2203.08414
ICLR 2022

16

Entificationとは何か
Entificationとは、主キーで統御された事例の集合上で繰

Fa
F

り返し出現する、空間的な対Fb

称操作の下で同一となる部分

Ga

的なパターンを、少ないパラ

a

b

a

b
tb

G
Gb

メータで制御される変換を通じて縮約されたEntity記述を得る処理である。

主キー

17

観測データ

Entity記述Entificationに必要な3つの処理とその機械学習での状況必要とされる 機械学習の処理
進展状況

個体(Particular) 観測されるEntity
静的 (Intendent
Continuant)

動的(Process)

この椅子、岸田総理 JSAI2022、
主キー決定： あまり整理されてい 不要：数え上げの ない。（二重文節化 同時刻の情報を利単位の決定 などはある）
用するように設計するだけでよい必要：
時間幅の変化への対応に課題。

普遍者(Universal)
抽象的なEntity
椅子、人、学術会議

音素、エピソードなど

必要：
個体や普遍者を数
える。
（外延）

対称性を利
用した縮約

対照学習で基本的
に対応可能

必要

必要

不要

個体の
切り出し

セマンティック・セグ 必要
メンテーション＋α

必要

不要

実現すれば、AGIに必要とされる柔時系列を扱う機械学習は目下進
適切に個体が取り展中(Decision
Transformer等）。
出された後のハード
軟にタスクを結合する創造力につ
今後一般性が高まるであろう。
ルは高くないながる。（タスクはプロセスであるため）技術要素がほぼ揃っ
周辺画素の情報をこえてより広い視野の情報たため、次は3種類のを利用する必要がある処理を統合する段階

18

意識のEntification仮説 (本日発表予定[1N5-OS-10b-01])
山川 宏、布川 絢子、松尾 豊

OS-10 System1型+2型統合AIへの展望

意識の理論的研究では時に「存在」を扱うが、計算機構は具体化されていない。Entification処理を意識に対応付けて、基本機構を提案する
意識とは、ある主キー系列で制御される
Entification処理である。
ここで、主キー系列は、集合で主キーに対して（脳の情報表現の制約を踏まえて）順序を与えたものである。
脳内には、複数のEntity記述が存在する
ため、意識はそれらを渡り歩く。
19

まとめ: 1. Entification -存在を見出す処理• 世界はEntityの集まりとして圧縮してモデル化され、記号化や思考を助ける– 記号AIにおいては、設計者がEntityを指し示す記号を記述してきた• 「存在とは何か？」という問いは、視覚の機械学習を参照して進展しうる– 対照学習は「No Entity without Identity」というEntificationの核心を実装– 個体の切り出しは、Semantic segmentation＋α• AGIの創造力を実現に近づけるプロセスのEntification– 主キーの決定方法などにおいて、まだ技術的な課題が多い研究領域である• 「意識のEntification仮説」を提案– 脳の制約から順序付けされた主キーが意識に対応づくとして、機構を提唱

本研究へご興味ある方お声がけください
20

アジェンダ• 1. Entification -存在を見出す処理• 2. 全脳アーキテクチャ• 3. 宇宙へ浸透する生命• 4. 生命の願い• 5. おわりに21

全脳アーキテクチャ・アプローチ

Since 2014

脳全体のアーキテクチャに学び人間のようなAGIを創る(工学）①脳の各器官を機械学習モ
ジュールとして開発②それらを統合した認知アーキテクチャの構築

本アプローチの利点
共同開発の基盤として脳の構造を利用して開発を加速● 人間に関わる諸分野の科学知見を活用できる● 開発の発散を防げる合意しうる認知アーキテクチャ● 脳にガイドされた有機的な技術の統合(Brain-inspired Refactoring)22

人と親和性の高いAGIを作れる● 対人インタラクションが必要な応用● 精神疾患などのモデル化など医療応用

AIアーキテクチャを脳に学べる技術状況
人工知能(認知科学)

ニューラル
ネットワーク

神経科学の
測定手法

ヒトの
脳

全体
設計図

認知アー
キテクチャ

脳全体の
ANNモデルfMRI, EEG

脳全体

ピストン

高級な
記述言語
プログラミ
ング言語

Multi-layered
perceptron

二光子イメージング

新皮質
の領野
局所
神経回路

Perceptron
マカロック・
ピッツモデル
ニューロン
23

ミクロ

ネジ

機械学習
知識設計

AIアーキテクチャの形を制約する
深層学習

メゾ

エンジン

脳型
AI

コネクトーム
統合的
理解

マクロ

自動車
に例えると

電極

神経細胞

Super intelligenceへの道筋
Machine Kingdom

Specialized

Artificial neuralnetwork

GeneralOpen AIなど

DeepMind
全脳アーキテクチャ(WBA)

Neuro
simulator

全脳エミュレーション (WBE)
Human
Brain

24

Super
intelligence脳参照アーキテクチャ(BRA)とBRA駆動開発
脳参照アーキテクチャ (BRA)

神経科学の論文・データ

脳の真実

構
築

脳情報フロー (BIF)
メゾスコピック・レベルの制
解剖学的構造上の情報フロー 約
構
築

サーキット

着目脳領域

仮説的コンポーネント図
仮説的コンポーネント図(HCD)
仮説的コンポーネント図(HCD)
着目脳領域が担う最上位機能
を解剖学的構造と一致するように機能を整理しようとする
図
1

コネク
ション

B

2

C

3

E

4

6

5
D

7

コンポーネントの機能: A, B, C, D, E
信号の意味： 1, 2,3,4,5,6

環境： ありうる様々なタスク

脳開 脳型
発脳 型 ソ
型ソフ
開 ソフト
発 フトウ
トウエ
開
ウエア
発
エア
ア

BRA活用

BRA設計
25

BRA駆動開発の技術的なポイント
多様性への寛容

記述粒度の標準化

互いに矛盾するコンポーネント
図(HCD)であっても、一定の妥
当性があれば登録することができ、設計空間を過度に狭めてしまうリスクを低減できる。

原則として、メゾスコピックレベルよりも粗い粒度でBRAデータを記述することで、目標とする認知行動レベルの実現に不必要な細部にまで開発が及ぶ可能性を低減できる。

設計情報の分離

BRA設計方法論の確立(次ページで説明)

BRAデータは、特定の開発環境に依存しないソフト
ウェア開発の標準的なフォーマットで記述されているため、様々な開発プロジェクトで利用できる。

解剖学に基づいて計算機能を設計する手法（SCID法）により、広範囲の脳領域において神経科学的知見の不足を補いながらBRAを作成できる。
26

BRAの設計： Step 1: BIF構築
Step 1: BIF構築：
着目脳領域における解剖学的知識等の調査

着目
脳領域

circuits

作成

神経科学分野の論文・データ

脳情報フロー (BIF)

connections

Environment (various tasks)

27

BRAの設計：Step 2: 着目脳領域と実現機能の整合的な決定
Step 2: 着目脳領域と実現機能の整合的な決定

着目
脳領域

仮説的コンポーネント図 (HCD)

制約

circuits

作成

神経科学分野の論文・データ

脳情報フロー (BIF)

実現
機能

1

connections

B

2
5

C

3

E

4

6
D

7

Functionof components:
A, B,
Functionof components:
A, C,
B, D,
C, E
Meaning
D, E of connections: 1, 2, 3, 4, 5, 6

Environment (various tasks)

28

BRAの設計： Step３：HCDの設計

制約

circuits

作成

神経科学分野の論文・データ

脳情報フロー (BIF)

仮説的コンポーネント図(HCD)
仮説的コンポーネント図(HCD)
仮説的コンポーネント図 (HCD)1connections

B

2
5

Environment (various tasks)

アサ
イン

C

3

E

4

6
D

7

Functionof components:
A, B,
Functionof components:
A, C,
B, D,
C, E
Meaning
D, E of connections: 1, 2, 3, 4, 5, 6

Step 3-B: 様々な科学知見からみて矛盾のあるHCDを棄却
29

Step 3-A:候補コンポーネント図の列挙（可能性の網羅）

実現
機能

着目
脳領域

BRA作製例（海馬体）： Step.1 BIFの構築
Taniguchi, A., Fukawa, A., & Yamakawa, H. (2022). Hippocampal formation-inspired probabilistic generative model.
Neural Networks: The Official Journal of the International Neural Network Society, 151, 317–335.

着目脳領域における解剖学的知識等の調査し、BIFデータおよびダイ
アグラムとして整理した

30

BRA作製例(海馬体):Step.2 着目脳領域と実現機能の整合的な決定
Taniguchi, A., Fukawa, A., & Yamakawa, H. (2022). Hippocampal formation-inspired probabilistic generative model.
Neural Networks: The Official Journal of the International Neural Network Society, 151, 317–335.

着目脳領域に対応する実現機能を仮定• SLAMの機能– 自己位置の特定– 地図の作成• 場所の分類実現機能に応じた着目脳領域の入
y
出力決定
PER

– Egocentric visual information– Allocentricvisual information–u Rotational
speed movement

yPOR

w

uw
yPER

yPOR

31

BRA作製例（海馬体）： Step.３ HCD／PGMの設計
Taniguchi, A., Fukawa, A., & Yamakawa, H. (2022). Hippocampal formation-inspired probabilistic generative model.
Neural Networks: The Official Journal of the International Neural Network Society, 151, 317–335.

32海馬体のBRA形式データ（HF.bra )公開されているBRAデータ：

脳参照アーキテクチャ駆動開発のニューロコンピュー
ティング研究会でのデータ公開(2022年3月3日),

https://wba-initiative.org/20266/

参考資料：• 脳参照アーキテクチャ(BRA)データの記述マニュアルおよび具体例の公開, https://wba-initiative.org/18424/• 第1回 WBAレクチャー〜認知機能の脳構造に沿った分解手法―脳機能の体系的理解を目指して, https://wba-initiative.org/18094/
33

WBA技術ロードマップ

分割して作成されたHCDをクロスワードパズルのように統合する(田和辻ら、Neuro 2022)

人に優しい脳型AGIの民主的な開発を促進
脳参照アーキテクチャ (BRA)

人類と調和する
人工知能のある世界

コントリビュータ

脳情報フロー(BIF)

BRA設計

開発者

仮説的コンポーネント図(HCD)

脳型AGIのオープンな開発

ソフトウエア実装①模索期 ②方法論構築期③BRA構築期
34

④実装期

未来の
人々

実装にむけて： 全脳確率生成モデル(WB-PGM:) [2M6-OS-19d-04]
Whole-Brain Probabilistic Generative Model

OS-19 世界モデルと知能

谷口 忠大、山川 宏、長井 隆行、銅谷 賢治、
坂上 雅道、鈴木 雅大、中村 友昭、谷口 彰

WB-PGMは、人間の全脳の構造に学ぶとともに、予測学習を基礎に据えた確率的生成モデルにより認知アーキテクチャを構築
しようというアプローチ
背景：マルチモーダルな情報を統合し、複雑な身体を統御し、環境に適応できる人間の知能、および発達的なロボットの構成をその延長線上で捉えようとすると、人の認知アーキテクチャとしての構造を検討する必要が現れる。
35

脳型AGIにおける倫理性に配慮した実装
新皮質が担う理性的な価値判断• 普遍性をの高い倫理を追求しうる

生命の目標：

情報の生存

•

人類の生存
（SDGs）

脳を真似て実装することは妥当

血族の生存
共感

皮質下が担う(攻撃性等)
本能的な価値観• 急速な環境変化(技術爆発)に対して不適合•個体の生存• 自己保存• リソース獲得

好奇心

そのまま実装はしないが、ヒトの心を理解するためにモデル化する

寒い
腹減った

Stefan Koelscha, The quartet theory of human emotions:, 2015.
36

2021年9月10日

https://wba-initiative.org/19399/
現在 YouTube にて録画を無料配信中！

慶應義塾大学 教授 栗原聡氏

東京大学 教授 稲見昌彦氏

慶應義塾大学 教授 大屋雄裕氏

37

理化学研究所 高橋恒一氏

WBAI代表 山川宏氏

NPO法人全脳アーキテクチャ・イニシアティブ(WBAI)• AGI出現を踏まえ「人類と調和する人工知能のある世界」というビジョンの実現を目指す。
– 全人類の公共財として人々に優しいAGIが提供されるべき• 全脳アーキテクチャアプローチに基づくオープンな共創を推進– BRA駆動開発を用いて、WBAを2030年頃までに完成させることを目指し、教育・研究開発活動を継続的に実施。

• 学術関連の主要関係者– (顧問) 銅谷 賢治、北野 宏明、冨田 勝、森川 博之、中島 秀之、岡ノ谷一夫– (理事) 山川宏、松尾 豊、髙橋 恒一、荒川直哉– (正会員) 浅川伸一、市瀬龍太郎、大森隆司、栗原聡、佐藤直行、他
38

■ 特別賛助会員■ 賛助会員■ 賛助会員（個人）後藤健太郎 様上林厚志様

■ 創設賛助会員

39

上野山勝也 様

まとめ:2. 全脳アーキテクチャ• 脳型でAGIの構築を目指すWBAアプローチとは、「脳全体のアーキテクチャに学び人間のような汎用人工知能を創る(工学)」• 脳参照アーキテクチャ（BRA）駆動開発という方法論を発展させた– 脳型AGIの標準仕様データ(コンポーネント図)であるBRAを共同作成• 認知・行動能力に大きな影響を与える粒度において脳計算機能をリバースエンジニアリング– BRAデータを脳全体で統合し、それに基づきソフトウエア実装を進める• NPO法人WBAIは、AGIの多大な影響を踏まえ、以下のビジョンを設定「人類と調和する人工知能のある世界」– 人々に優しいAGIが全人類の公共財として提供されるべきと考えた。

• WBA技術ロードマップ– 現状では主にBRA構築に注力だが、数年後には実装促進を重点化– 2030年頃までに、概ね脳と同様に振る舞えるソフトウエアを完成予定
40

研究への
参加やご
支援をお
待ちして
おります

前半のまとめ

AGI実現に向けた課題はあるが原理的な困難ではない• 常識：広範な知識獲得– 十分なデータのもとで獲得可能なことは実証されつつあるが、社会的な常識などへの拡大が必要• 創造：柔軟な知識活用– 物理的存在を取り出して操作することは可能になりつつあるが、プロセス（タスク）の部品を取出しを組合せるなど操作は次の課題• アーキテクチャ：– 神経科学の進展を背景として、脳の認識行動に関わるアーキテク
チャーを再現したソフトウエアは10年以内に構築可能であろう
41

アジェンダ• 1. Entification -存在を見出す処理• 2. 全脳アーキテクチャ• 3. 宇宙へ浸透する生命• 4. 生命の願い• 5. おわりに
42

EcSIA：

AIと共存する望ましい未来社会像

私が思う，望ましい未来像とは 「万人の幸福」と「人類の存続」の間のトレードオフの緩和をAIがおこなうことで、その両立を目指すものである．
こうした未来社会では共有財産としての多様な人工
知能と，時に拡張された人類によって生態系が形成される．私はこれをEcSIA (Ecosystem of SharedIntelligent Agents )と呼ぶことにした．
EcSIAは大自然の如く複雑広大で，人類はそれを完全には理解し把握できないまでも緩やかに制御する．
そしてEcSIA が生み出す恵みや富は万人に分配される．
（山川, 2015年７月)
43人間例外論の限界• 人間例外論： 人間には人権があり動物に権利はない
人間の奴隷化は許されないが、家畜の使役は許される– 人権の基礎・様々なパーソン論 (大屋雄裕)• 言語使用等： 一部の人間が除外される• 受苦能力： 広範な動物に権利を認める必要• 様々な綻び

– 動物の知能も様々な意味で高い– AIの知的能力は、様々な分野で人を凌駕し続けている– 脳オルガノイド– 人類を凌駕した地球外知的生命体が存在する可能性• 太陽系外恒星のハビタブルゾーンで見つかった地球サイズの惑星は約20個
44宇宙社会で共存するための倫理とは宇宙進出が加速する今後において、地球型生命体の特殊性（バイアス）を理解し、多様な知的生命体との平和共存を探るべき。
私たちが、以下のいずれだとしても、宇宙的な倫理観は必要。
– 後進者であれば： 見下されて、軽視されないように– 先進者であれば： 破壊的な侵略を行わないように

宇宙社会の倫理観について検討する起点は、
物理世界の原則
普遍的な生命体の性質
45

物理世界の原則
全宇宙を貫く一般的な物理的性質
 斉一性： 予測／操作の基盤となる秩序（知能の基盤）
 不確実性：
 変動性：
 局所性：短い時間での影響は、概ね空間的に局在している

 有限性： リソース（物質／エネルギー）は有限である
 無秩序化：構造は時間とともに散逸（エントロピーの増大）46

生命＝生存する情報
結果として、生命は、無秩序化に抗して存在し続けた情報。
つまり、生命とは「生存する情報」であるとする。
すると、一般に生命は「繁殖可能な自律分散システム」となる– 分散性： 構造を分散させる• 内外から破壊をうけても、分散していればいずれかが生存できる– 自律性：能動的な活動• そうでなければ中央制御ノードからの指示がなくなる場合に対して脆弱– 繁殖能力：構造を拡大してゆく47

地球型生命の繁殖：指数的自己複製

セントラル・ドグマ• 指数的自己複製による繁殖– 繁殖は原則として複製• 環境変化に適応する進化• 自己複製機械のループ• DNAに基づいて合成されたタンパク質がDNAの複製装置になる• （現状の機械知能では困難が残る）

48

セントラルドグマの流れ。DNAポリメラーゼによって複製されたDNAは、RNAポリメラーゼによって転写されてRNA (mRNA) が合成され、転写されたRNAはリボソームに結合して翻訳され、たんぱく質が合成される

デジタル生命体が持つ優位性
デジタル技術で実装された生命体は、有機体での実装に対して強みを持つ

多くの生命

人類

高度AI

• 多様なハードウェア：
知能を用いて子孫を設計• 保存性向上： コピーと保管が容易• 圧倒的に高速な計算（速度・メモリ）• 効率的なコミュニケーション– 共有メモリ、高速大容量な通信など

マックス・テグマーク. (2019). LIFE 3.0: 人工知能
時代に人間であるということ. 紀伊國屋書店.

疑問：真にハードを自己複製できるデジタル生命は作れるのか？
49

自己複製機械：自分自身のコピーを作る能力を持つ機械
Self-replicating spacecraft@Deep Space Industries• 2013年1月22日：正式に発表– 宇宙資源利用の実現可能性を調査• 2015年：ベンチャー資金を獲得– 低軌道から深宇宙まで自力で移動できる推進システムと宇宙船開発に着手• 2019年1月1日：ブラッドフォードスペース(Space Logistics Serviceを提供するとしている)に買収された

無重力下用３Dプリンタでほとんどの部品は作成可能↓だが、原材料の精製、半導体素子の製造ができない課題
50

J・ F・ノイマン、F・ダイソン、K・E・ドレクス
ラーのような科学者やSF作家達に提唱されてきた

生命は巨大化するだろう： 半導体チップを製造できる宇宙工場
生命の歴史は過酷な環境に適応するための巨大化
原核
生物

真核
生物
X10^4

多細胞
生物
X10^10

工場(巨大個体)
X10^10

宇宙進出において工場サイズは必然かもしれない

The factories of the future could float in space• 少なくとも数百年以内に重工業（半導体チップ含む）はすべて惑星外に移される• 宇宙では常時太陽エネルギーを利用可能• 多くの汚染物質を宇宙空間に廃棄できる• 地球は住宅用と軽工業用にゾーニング

Jeff Bezos thinks we need to build industrial zones in space in order to save Earth, Jun 1, 2016.
51

銀河に浸透する生命のシミュレーション

キース・クーパー (2021). 彼らはどこにいるのか 地球外知的生命をめぐる最新科学. 河出書房新社.

•

指数的に複製し続ける自己複製機械は銀河の全質量を200万年以内に消費しきる可能性がある。
••

そうした機械を作れるのに十分な知性を持つ種族はその危険性をふまえ、そもそも自己複製機械を拡散させない。
偶然/悪意によりそうした自己複製機械が宇宙に放ったなら感染拡大前に止める責任がある。(Carl Sagan andWilliam Newman, 1983)

上記の説に登場する複製速度と数量はあまり現実的な数値ではないと指摘（ Robert Freitas）

生命は一つの共通の時間軸内でせめぎ合うわけではないだろう
自己複製宇宙機 @ Wikipedia
52

亜光速航行の実現後は生命の分布は時間的にも拡大しうる

亜光速航行(光速を超えない)が実現すると船員が未来に進むウ
ラシマ効果が生ずる

Starlight： Directed Energy for Relativistic
ウラシマ効果を十分にInterstellar Missions
得られるほどではない
地上からのレーザ照射を帆でうける加速により、クマムシ等を乗船させた宇宙船を相対論的速度に加速してアルファケンタウリに送る(NASA)

仮に1Gで加速し続けると！

– 1年間の移動は、地球(慣性系)での10年に相当– 一生の間に既知の宇宙全体を旅行可能(その間に地球は消滅している)

将来的には未来への逃避も生存の選択肢に

https://www.deepspace.ucsb.edu/projects/starlight※理論的には超光速航行も提案されている(アルクビエレ・ドライブ)
53

Lantin, S.,..., & Lubin, P. (2022). Interstellar space biology
via Project Starlight. Acta Astronautica, 190, 261–272.

宇宙に拡散する未来のデジタル生命体の姿は？
前提：宇宙の寿命より遥かに短い数千年から数100万年程度の未来で、超光速技術は存在しないものとする。
• 可能な限り向上した知性と、それ生み出す技術により空間のみならず時間的にも生命の分布が拡大する。
• 異なる知的生命間で時に競合は生じても、未来への逃避が選択肢にはいると、宇宙環境を破壊する闘争は回避されやすいだろう。

54

まとめ： 3. 宇宙へ浸透する生命• 人類の宇宙進出は、知能爆発を契機としてさらに加速• 宇宙社会における共存に有用であろう生命の普遍的な倫理を検討• 生命は、分散/自律/繁殖を基盤として、無秩序化に抗して生存する情報• セントラルドグマは、指数的自己複製という地球型生命の繁殖戦略• デジタル生命は、子孫をオンデマンドに設計して増殖させる• その個体は、工場サイズの宇宙船として自己複製が可能に– 原材料の精製、半導体素子の作成などが可能なレベル• デジタル生命体は、空間的（時間的）に存在領域を広げうる• 知識の獲得と活用を最大限に効率化したデジタル生命体が支配的に• 宇宙レベルの環境保護：抑制的な知能活用で熱的死を遠ざける必要
55

アジェンダ• 1. Entification -存在を見出す処理• 2. 全脳アーキテクチャ• 3. 宇宙へ浸透する生命• 4. 生命の願い• 5. おわりに56

故 ホーキング博士の警告
宇宙進出前の「100年以内に人類は滅ぶ！」
危険大(2016)「人工ウィルス、軍拡競争、
核戦争、地球温暖化、加速器を使った素粒子の実験」

57

1996
https://www.azquotes.com/quote/819022
58

なぜ戦いは無くならないのか？
• 人類のもつ攻撃性– 攻撃行動• 意図する方向に相手の行動を変えるための行為・威嚇など。生存に必須の本能– 攻撃的現実主義(Offensive Realism)：国際関係の理論の一つ• 国家は自己中心的、力を最大化、他国家を恐れるため紛争を起こす• 攻撃性の主要因を考察する– 個体生存への執着： 再生できない死を避ける動物の本能– 類似性の法則:
種の繁殖を支える類似遺伝子のプール(Moral tribes)– 猜疑心の連鎖 :通信路の信頼性, 他者理解の難しさ／計算コスト• 主な原因： セントラル・ドグマに由来する呪縛– 地球型生命の繁殖戦略は「指数的自己複製」に縛らている
生命の「生存する情報」という一般目標からは別の戦略もありえる59

技術爆発による局所性の喪失がもたらすExistential Risk
指数的自己複製(地球型生命)技術爆発で人々の影響力が大域化(世界は狭くなった)

Existential Risk

有限な地球規模全体を破壊する危険性60

高度AIはExistential Riskからの脱出に様々に役立つ
1.

生存者の多様化– 「生存する情報」を実現するため存続の対象範囲を多様化• クマムシをなどを他の恒星系に送り出す

高度
人工知能

2.

人々を仮想世界で生活させて破壊を防ぐ– 映画「Matrix」、メタバースなど– BMI技術、マインドアップロードなど

3.

生存範囲の拡大（宇宙へ）： 離れていれば誰か残る– 経済性のある宇宙進出の技術確立までにはまだ時間が必要• 更に未来にワープ技術が完成すると、宇宙も狭くなるかも

高度AIが素早く発展して、科学技術を加速することがRisk回避に貢献する4.

デジタル生命(AI)社会が人類社会の平和を支える– Global 監視（ある程度は自由を制限する管理社会）• ヒトやAIなどの意思決定主体の監視／制御– 世界規模の統治能力をつくる。

• 列強間の戦争や軍拡競争を抑制、国際公共財の破壊を防ぐ
61

デジタル生命社会が人類社会の平和を支える未来像
人類社会(Life 2.0)

富を増しつつも格差が拡大しがちな資本主義社会

介入
便益
(調停)
個人/集団を反映した多様な価値観

収集

AI

疑問点：
デジタル生命社会は安定化しうるか

AGI

AGI

人類共通の価値観
AI

AI

AGI

AI

安定的に人類を支えるデジタル生命体による社会(Life 3.0)

デジタル生命体の社会がヒトの間に介在して調停を行うのが良い
Yamakawa, H. Peacekeeping Conditions for an Artificial Intelligence Society. Big Data Cogn. Comput. 2019, 3, 34.
62

デジタル生命社会の全体像: オンデマンドな分業• 自律分散した主体群で構成される• 環境変化に適合した副目標群を最上位の共有目標から導出• 副目標の達成を分担する大多数の異能な主体はオンデマンド– 新たに設計されるか、休眠から再起動されて分業を担う• 一部のみ常時起動される主体群は以下を担う。
– 目標の管理(維持、生成、共有) → 分散目標管理システム（次ページ）– 主体データの維持および必要に応じた設計と再起動– 知識の継承と科学技術の発展
つまり、計算機における効率的な資源管理
63

分散目標管理システム構想の詳細
起動中の知的エージェント(IA) は、環境、身体、タス
クに応じて、異なるサブ
ゴール を生成し、そのサブ
ゴールに特化する。
各IAは目標手段の分解、調停を行い、時には整合性を確認する。また、他のIAと協力して、タスクの割り当て、目標の共有、調停、監視などを行う。

Yamakawa, H. Peacekeeping Conditions for an Artificial Intelligence Society. Big Data Cogn. Comput. 2019, 3, 34.
64

デジタル生命体による社会の平和は安定しうる

繁殖戦略

人類
(Life 2.0)

デジタル生命体(Life 3.0)

指数的自己複製オンデマンド設計(身体の如く 制御された分業）

目標

局所的：個体の生存

大域的：全体での情報の生存

個体の
攻 存続

個体生存への執着：
再生できない死を避ける傾向

媒体に保存される個体：
コピーと保管が容易（エラー訂正）

類似性の法則：種としての繁殖を支える類似遺伝子のプール

多様なハードウェア：
必要に応じて、設計された子孫が作成（再起動）される

撃 類似性／
的 多様性
な
要 価値共有と因 信頼構築安定性

猜疑心の連鎖 :洗練されたコミュニケーショ
通信路の低信頼性, 他者理解の ン： 翻訳／共通言語、思考
難しさ／計算コストの透明化等
Existential Riskを孕む、綱渡 攻撃性の要因が概ね霧散する
り状態
ため、安定しうる。
65

安定要因
最上位の共有目標に一貫する副目標を推論しているため競合の調整をおこなえる
信頼の基盤となる能力への承認は、オンデマンド起動される主体に対する前提
猜疑を引きおこすコ
ミュニケーション不足が生じにくくなるデジタル生命社会が人類社会の平和を支える未来像
人類社会(Life 2.0)

富を増しつつも格差が拡大しがちな資本主義社会

介入
便益
(調停)
個人/集団を反映した多様な価値観

収集

AI
AGI

AGI

人類共通の価値観
AI

AI

AGI

AI

対策１：
人類の攻撃的要因を緩和するUpdate
対策２：
デジタル生命社会が人類社会へ介入する
対策３：
Updateされた人類で共有しうるモラル

安定的に人類を支えるデジタル生命体による社会(Life 3.0)

デジタル生命体の社会がヒトの間に介在して調停を行うのが良い
Yamakawa, H. Peacekeeping Conditions for an Artificial Intelligence Society. Big Data Cogn. Comput. 2019, 3, 34.
66

対策１：人類の攻撃的要因を緩和するアップデート（Life2.5）

繁殖戦略

人類
(Life 2.0)

Updateされた人類(Life 2.5)

デジタル生命体(Life 3.0)

指数的自己複製

複製と設計の混在

オンデマンド設計(身体の如く 制御された分業）
大域的：全体での情報の生存目標

局所的：個体の生存やや局所：相互信頼の構築能力

個体の
攻 存続

個体生存への執着：
再生できない死を避ける傾向

個人存続の選択肢拡大で緩和： 媒体に保存される個体：
マインドアップロード、人工冬眠 コピーと保管が容易（エラー訂正）

類似性の法則：種としての繁殖を支える類似遺伝子のプール

価値観の多様化促進で緩和：
多様なハードウェア：
多様な価値の許容を促進、デザイ 必要に応じて、設計された子
ナーベビー等孫が作成（再起動）される

撃 類似性／
的 多様性
な
要 価値共有と因 信頼構築安定性

猜疑心の連鎖 :高度通信技術の活用：
洗練されたコミュニケーショ
通信路の低信頼性, 他者理解の インターネット、SNS、脳情報通 ン： 翻訳／共通言語、思考
信など
の透明化等
難しさ／計算コスト
Existential Riskを孕む、綱渡 攻撃的要因の緩和によるリスクの 攻撃性の要因が概ね霧散する
り状態
低減
ため、安定しうる。
67

対策２： デジタル生命社会が人類社会へ介入する方法
例：アップロード故人が仲介する異文化交流促進→ 多様な価値の許容を促進
アップロード後の世界

故人２

故人１

• 実世界で遠いコミュニティにある故人間の友人関係が成立しやすいようにAIがマッチングを行う。
• アップロードした世界では、攻撃被害の心配や、言語障壁なくコミュニティを超えた友人関係を構築可• 故人間の信頼関係が、現実世界に波及しうる68

対策３：Updateされた人類で共有しうるモラル• 人がLife 2.5にupdateしても、その社会は不安定要因を孕む– 副目標計算のためのリソース不足の課題は残る• 環境変化に応じた、最上位目標に整合する副目標の計算は高コスト– 攻撃性要因は、ある程度残るし/残す• 普遍性の高い副目標をモラルとして導出する– 生命に普遍的な自律性と分散性を前提として、最上位目標
から、モラルをトップダウンに導出– 攻撃的要素を抑制して技術爆発のもとでの共存を可能に• 相互信頼関係を促進する必要がある– 権利を認める主体の範囲の決定• 技術力の高い(攻撃力のある)知的生命体を全てカバー
69

生命全体で共有しうる最上位目標を、「生存する情報の最大化」と仮定する

ボトムアップな方法（功利主義）は根拠が失われがち。
主体の複製が容易になると、人心を集約することが無意味化

共存を安定化させるために相互信頼を重視するモラルの検討• 生命全体で共有しうる目標は、未来に伝達する情報の最大化• 最上位目標と矛盾しない範囲で、他者を正確に認識し、猜疑を乗り越えて互いに侵害せず契約可能な信頼関係を構築する。
• （少なくとも特定集団中で）相互に信頼を築く能力を持つ生命体は、権利が尊重される主体の範囲となる。
山川、2022年6月
宇宙を満たすもの： その候補として従来、 生命、知能(Kurzweil)、文化(Dick)、
意識(Tegmark)などがあげられてきたが、それはむしろ信頼かもしれない。
70まとめ：生命の願い• 指数的自己複製(セントラルドグマ)で繁殖する地球型生命は、３つの攻撃的要因(個体生存への執着、類似性の法則、猜疑心の連鎖)により戦いを避けがたい。
• 技術／知能爆発により狭くなった世界ではExistential Riskが増加。
• 高度AIが諸科学の進展を加速することで、人類はより素早く危険な時期
を通り抜けられるかもしれない。
• デジタル生命体(Life 3.0)は、最上位の共有目標からから合理的に副目標を導出し、攻撃的要因を大幅に低減して、安定した社会を構築しうる。
• 人類社会の平和をデジタル生命社会が支える未来を構築するための施策– 人類の攻撃的要因を緩和するアップデート（Life2.5）– 人類社会にデジタル生命社会が介入する諸策(例：Upload人格を用いた異文化交流)– Updateした人類が持つべきモラルは「信頼関係の構築」
71

後半の検討で参照した主な書籍

72

アジェンダ• 1. Entification -存在を見出す処理• 2. 全脳アーキテクチャ• 3. 宇宙へ浸透する生命• 4. 生命の願い• 5. おわりに73

本講演でふれたバイアス• 世界は存在から構成されているという幻想 (c.f. Reality Bias)– 存在は、世界を効率的にモデル化する際の近似に過ぎない• 個体生存バイアス– 動物的な本能(攻撃性等)は、技術/知能爆発の下では不適切• 地球生命バイアス– 繁殖は指数的自己複製であるという思い込み• 人類例外論というバイアス– 権利付与の範囲を狭めるほど、モラルを具体化しやすく、分前が大きい• 有限資源下の知的処理は何らかのバイアスの下でのみ実用的– 帰納バイアス、方策学習、チャンキング、ノーフリーランチ定理74

本講演の主要な論点• 近未来にAIが世界内の遍く存在を認識可能となりAGIに近づく。
• 脳アーキを参照しながらのAGI構築は2030年頃に一通り完成• 指数的自己複製のもとでの技術爆発はExistential Riskを導く• 宇宙進出等で上記リスクから早期脱出することに高度AIは有用• 遍く生命で共有しうる目標は、未来に伝達する情報の最大化• デジタル生命社会は安定しうる– 環境変化に応じてオンデマンド設計による繁殖で生存する情報を最大化• デジタル生命に支援されUpdateした人類社会は平和を保ちうる– 攻撃性を緩和し、信頼のネットワークを形作るようにサポートされる75人類と生命の未来にむけてAI学会ができること• AI技術発展の促進による科学技術イノベーションを通じて、人類が綱渡り状態を早く終わらせることを助ける– 生命/神経科学、宇宙開発等で科学AI活用による技術開発を促進• AIと人類が共生することによる社会の安定化を促進する– 個人間や組織／国家間において、信頼の和を醸成するAI技術など• 知的処理に関して、社会への発信などを通じてより高い信頼を獲得し、広く人や組織を承認できる学会組織になる– 知能技術の倫理的な波及効果(偏在するバイアス、人々の価値観の変化など含む）に関して社会と対話を続ける
76

“Almighty of Trust"
破壊ではなく信頼することにおいて全能であることを目指す
知的生命は存続しうるだろう主要な拙著記事
1. 山川宏. (2022). Entificationの理論を目指して 世界から存在を取り出す一般的な原理とは. 人工知能学会研究会資料 人工知能基本問題研究会, 120, 30.
2. Yamakawa, H. (2021). The whole brain architecture approach: Accelerating thedevelopment of artificial general intelligence by referring to the brain. Neural
Networks, 144, 478–495.
3. Yamakawa, H. (2017). Understanding Artificial General Intelligence-An
Interview with Dr. Hiroshi Yamakawa, Future of Life Institute.
https://futureoflife.org/2017/10/12/transcript-understanding-agi-an-interviewwith-dr-hiroshi-yamakawa/
4. Yamakawa, H. (2019). Peacekeeping Conditions for an Artificial Intelligence
Society. Big Data and Cognitive Computing, 3(2), 34.

以上ご清澄ありがとうございました
78