情報技術は人類文明をどこに連れて行くのか？
Where is the Information Technology Taking
Our Civilization?

近山 隆
Takashi Chikayama近山のこれまでの研究領域
 学生時代（～1982）
 Lisp： Utilisp などLisp言語と高効率処理系の設計・実装

 第五世代コンピュータプロジェクト（1982～1995）
 論理型プログラミングによる並列知識処理

 東京大学（1995～2014）
 並列分散処理の基盤ソフトウェア（言語処理系、ミドルウェア）
 機械学習技術の応用： 自然言語、ゲームプレイヤ
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

1

人工知能の古き良き夢 知的活動の要素はコンピュータで実現可能
 四則演算 条件判断⇒ コンピュータは人間同様の知能を持てる!
Artificial Intelligence
N.B. Intelligence ≠ Wisdom
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

2

1980年代のAIブーム
エキスパートシステム
 専門家の知識をコンピュータ上に移植
 知識に基づく推論→ 多くの領域で実用に適用しにくかった領域も 専門家の知識は容易に抽出できない
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

3

第五世代コンピュータプロジェクト
通産省（当時）所管の国家プロジェクト
論理型プログラミングによる知識処理「並列処理・記号処理」
 1982～1993 ＋ 成果普及1993～1995
 渕一博をリーダに電総研グループ主導
 近山の担当は主として言語システムとOS 「人工知能の実現を目指したが失敗」
 「学術振興と人材育成に寄与しただけ」
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

4

「人工知能」とは？
“Artificial Intelligence”とは？
推論・判断などの知的な機能を人工的に実現するための研究。
また、これらの機能を備えたコンピューター・システム。
広辞苑第六版
学習,推理など人知になぞらえた作用をする機械の能力
ランダムハウス英語辞典 (Windows版 vers.1.1)
1. a branch of computer science dealing with the simulation of
intelligent behavior in computers
2. the capability of a machine to imitate intelligent humanbehavior
www.merriam-webster.com
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

5

「人工」という言葉
人手を加えること。また、人力で作り出すこと。↔天然。
広辞苑第六版
人工衛星
人工栄養
人工海水
人工甘味料
人工気胸
人工魚礁

人工血液
人工言語
人工降雨
人工公物
人工肛門
人工呼吸器

Advanced Computing System and Infrastructure 2015 近山 隆

人工呼吸法
人工地震
人工芝
人工地盤
人工授精
人工授粉

2015.01.26

6

Artificial という言葉【1】人工の, 人造の, 人為的な (⇔natural);
模造の, まがいの; 代用の【2】不自然な, わざとらしい, 見せかけの, 装った【3】気取った, きざな; 大げさな, 誇張した
【4】勝手な, 強いられた, 押しつけられた; 型にはまった【5】[生物]〈分類が〉人為の:自然的･有機的ではなく, 人間の主観による
ランダムハウス英語辞典 (Windows版 vers.1.1)
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

7

Artificial の用例
Artificialflowers 造花
breeding 人工繁殖
insemination 人工授精
tooth 義歯
limb 義肢[義手,義足]
organs 人工臓器
heart 人工(の補助)心臓
skin 人工皮膚rain 人工降雨
beach 人工海浜
island 人工島
sight [or vision] 人工視力
vanilla flavoring
まがいのバニラ風味
gems 人工宝石

Artificial
smile [or laughter] 作り笑い
tears 空涙manners 気取った態度
speech 大げさな話しぶり
rules for dormitory residents
寄宿生に押しつけられた一方的な規則「人工」というより「不自然」「自然」が一番だが、やむなく「人工」で代用

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

8

「人工知能」という言葉の背景
A) 知能は人間だけが持つ能力である∴ 機械は決してホンモノの知能を持てないB) 機械の知能は 代用物、マガイモノA）が正しければ B)にならざるを得ない
しかし A) は正しいのか？
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

9

そも「知能」とは？
人間と同じでなければダメ？
 Chinese Room（John Searle, 1980)
 中国語を解さない人が、中国語の質問を、マニュアルの絵（にしか見えない文字）とパターンマッチして解答 正しく解答できるが、質問を理解はしていない→ 「これは知能とは言えない」

 しかし、理解するとは何のこと？
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

10人工知能へのふたつの要請
人間知能の機能的包含 人間と同じ機構による実現OK!
人間の知能

機械の知能

機能の視点からは包含していても…

No!
人間の知能

機械の知能

視点を変えれば機構の違いが見える

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

11

「人工知能」は無理難題？
「その時代のコンピュータにできないことをやろうとすること」
1980年頃、和田英一先生がおっしゃった定義
 できるようになったことは「人工知能」ではなくなる∴ 人工知能は永遠に実現しない

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

12機械知能に対する誤った認識
 ある技術水準で情報システムにできることには制約あり
 制約の原因は、多くの場合量的な問題処理能力、記憶容量、通信容量、データ量、…
 量的制約に起因する限界を質的問題と誤認
機械知能の本質的限界と考えがち

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.2613

「自動プログラミング」“Automatic Programming”
 1940年代には紙テープの穴あけ自動化のこと
 1950年代にはコンパイラのこと
 後に generative programming など、さらに高レベルの記述からのコード生成を意味するようにその時代の技術で可能な範囲で、高レベルの記述から低レベルのコードを生成することを意味する「自動」か否かは程度の問題
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

14

ムーアの法則
 半導体の素子数は18～24ヶ月ごとに倍増
Gordon Moore (1965) 半世紀にわたって成立し続ける プロセス技術・回路技術の弛みない進展
 業界の努力目標として

 指数関数的増大（ネズミ算）は強力
 3年4倍、5年十倍、15年千倍、30年百万倍
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

15

人工知能から機械知能へ まがいものしか作れない時代はもう終わる 「人工」という形容のつかない機械による「知能」
 人間を離れたら、そも 知能 intelligence とはなに？
「より広い範囲の問題をより適切に解決できる能力」
より広いより適切に(Takashi Chikayama)Intelligence は qualitative ではなく quantitative
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

16機械知能に対する誤った認識
 ある技術水準で情報システムにできることには制約あり
 制約の原因は、多くの場合量的な問題処理能力、記憶容量、通信容量、データ量、…
 量的制約に起因する限界を質的問題と誤認
機械知能の本質的限界と考えがち

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

17

コンピュータには発明や発見はできない
コンピュータはプログラム通り動くだけだから、発明・発見はできない

機械学習

実際は：
 大量のデータから新たな知識を抽出（発見）可能 知識を組み合わせた手法の提案（発明）も可能
 学習の素材となるデータはどんどん増えている
Advanced Computing System and Infrastructure 2015 近山 隆

ビッグデータ2015.01.26

18

コンピュータには抽象的問題把握ができない
コンピュータは細かな論理の積み重ねしかできないだから、抽象的問題把握はできない
実際は：学習のしかたの学習 深層学習などにより、高度な抽象化能力を備えつつある 問題を抽象化して判断する能力において、人間と比肩できないとする根拠はない（抽象概念に名前を付けはしないが、それは不必要だから）
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

19

コンピュータには独創性を持てない
コンピュータは意志を持たないので、自発的に活動しないだから、独創的な発想はできない
実際は：設定する目的のレベルの違い

 所与の目的の範囲内では自発的 高水準の目的を与えれば独創的に見える活動も
 そのために必要な発明・発見もできる
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

20

でもコンピュータは意志を持ってないよね
人間には意志があるが、コンピュータにはないでも： 人間が持つという意志とは何のこと？
 本当に人間に自由意志があるのか疑問 あなたにあるとしても、他人にあるとどうやってわかる？
この件については感情に関する議論で再度Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

21

コンピュータは経験を活かせない
コンピュータは毎回プログラム通りに動くだけだから、経験を活かすことができない
実際には：
 過去の記録を利用することは容易
 その経験から学ぶこともできる 経験の共有も人間よりはるかに容易
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

22

コンピュータには直感がない
コンピュータはプログラムに指示されたとおりに動くだけだから、人間のように直感を活かすことはできない
実際のところ： 直感は暗黙知、形式知にするのは困難 しかし、形式化されていない知識も利用可能
多くの分類器は分類の「理由」は示せなくても分類可能
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

23

知能の実現方法
 古いAI…人間の知識を記述し移植
 エキスパートシステム
 第五世代プロジェクトもこの考え方
 でも人間は自分が何を知っているか知らない（暗黙知 ⇔ 形式知）

 近年は…人間の行動から知識を抽出
 行動は暗黙知を含めた知能から生まれたもの
 そこから学習した知識は人間が記述できる知識を超えられる コンピュータ自身の判断履歴からの知識抽出も可能
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

24

コンピュータ将棋プレイヤの研究 1999年末：大学院学生４人が開発開始（中心は 鶴岡慶雅 現東京大学准教授）
 2002年5月:
世界コンピュータ将棋選手権初優勝
 計4度の優勝、継続して商品化も 現在まで多くの研究のテストベッドにAdvanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

25

直感の使い方：将棋の場合
 強い将棋指しは先読みで手を探さない？
「良い手は直感で」「読みは直感を確かめているだけ」
 直感がいつも良い手なら、それを確かめる必要はない→ 直感は「どの手をよく読むか」の資源配分制御に利用
直感の長所と短所
少ない資源で判断できる
その判断は往々にして不正確
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

26

賢い人とはどんな人？
 正しい判断を素早く得られる人
 思考速度が速く、問題を速く解ける人？
 重要な問題点に思考を集中でき、結果として問題を早く解ける人 直感はこういう制御に用いるのが適切
 何が考えるに値するかを直感で 考えるべきところをしっかり考えて判断
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

27

機械学習の特徴
 大量データからの法則性の抽出 人間の頭脳の量的な限界に縛られない 見つけた法則性は絶対ではない
 データにはノイズ・バイアスがあるかも その法則性の存在理由がわかるとは限らない⇒ 結果を全面的には信頼できない
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

28

機械学習が有効な局面
 みつかるのは蓋然的法則性（人間の直感と同様）
 直感だけでの判断はやや危険（何も考えないよりよいが） 緻密な思考のガイドに使うのがよい⇒ 「思考力」という資源の配分指針に利用「経験に学び直感を養うコンピュータ」（2000年頃に研究室の研究スローガンとして掲げた文言）
これもある時点の量的制約下での最適化戦略にすぎないがAdvanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

29

詰将棋への資源配分制御
指将棋ソフトも詰の有無は常に気にかける → 計算量大
どう見ても詰みそうもない局面でこの手間をかけたくない
機械学習で詰・不詰の直感を獲得（三輪 2004）
 大量の局面に対し詰将棋ソフトで詰・不詰判定
 局面特徴量と詰の有無の関係を学習 詰みそうもない局面では詰の読みにかける時間を短縮
 計算時間を２/３に短縮しても強さを保てた
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

30

コンピュータは自分の経験から学べる
 詰・不詰の直感は詰将棋ソフトの判断結果から学習 自己対戦の大量の棋譜から局面評価関数を学習
プロの棋譜だけからの学習より有意に強く（浦 2013）

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

31

なぜ自分の経験から学べるの？
こどもはひとり遊びで自然から学んでいる
コンピュータは自己対戦で将棋の神様から？
 棋譜や詰・不詰の判定結果は時間をかけた読みの結果
 詰・不詰や局面の有利/不利は、先読みをしなくてもわかる単純な局面の特徴量との相関がある
 それは人間の棋譜でも、自己対戦棋譜でも同じ
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

32

積むべき経験はよく選びたい
経験を積むにも苦労が → 役立つ経験を積みたい
正確な局面評価に必要な深い先読みには長い計算時間→ 学習効果の高い局面を選んで先読みさせたい
学習局面の自動選択（川上 2014）

どういう学習をすべきかの学習 最善手を判定しにくい局面を選択し、その特徴を学習
 局面数を半減しても同程度の学習効果→ 深い読みに費やす計算時間を削減可能
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

33

モデルの学習
パラメタ調整抽象化したモデル

複雑な現実

ここも自動化したい ここはうまくいった
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

34

学習するモデルも自動生成
特徴量の自動生成（三輪 2007, 矢野 2010）
 駒の位置など基本的特徴だけを与える
 その組合せのうちで学習すべきものを見つける
大量の棋譜データから
 頻出するもの（でなければ学習できない）
 有利・不利と相関が高いものを抽出
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

35

コンピュータには人間の感情は理解できない
コンピュータは人間とは違って感情を持たないだから、人間の感情は理解できない
 他人が自分と同様に感情を持っている証拠は？
 同様の状況で自分がもった感情から推測しているだけ さまざまな状況での人間の行動を観察し、人間らしい振舞いを学習することは十分可能 これを見たら「感情を理解した」と感じないか？
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

36

機械学習は最適化
 データをよく説明するモデルの構築やパラメタ推定
 これは「データをもっともよく説明すること」を目的関数とした最適化問題に他ならない コンパイラのコード最適化、オペレーションズリサーチにおける最適化と、本質的には同じこと

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

37最適化の手法
ダメな解候補を候補は無視
評価

解候補を生成候補生成器

評価器
問題のデータ有力候補を格納

既知の候補を生成に利用

解候補DB

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

38

候補生成の手法
かつては…
 問題領域特有の知識を与え、比較的少数の候補を生成∵ 多数の候補を生成・評価するのは計算量的に無理
近年では…
 大量の候補を生成・評価することが可能に ← ムーア則
 人間が個別的な知識を与える必要性は低減

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

39

機械学習に必要な処理
 主流は統計的方法
 信頼性の低い大量データを利用⇔ 信頼できる少量データ
 個々のデータは偶然的＋意図的誤りを含み信頼できない でも全体の傾向は信頼するに足る 個々のデータに対する計算の許容誤差は大きい 多くのノイズを含むデータを精密に計算しても…
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

40

デジタルコンピュータと機械学習
ビット (0/1) を基本とするデジタル表現
 アナログの物理表現（電圧）を閾値を設けて離散
 それを組合せてアナログ値を表現
 必要な精度は10ビット程度の場合も多い いったん離散化するのは無駄じゃない？
機械学習手法が主要な応用になってくると、離散表現の優位性が崩れる可能性もAdvanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

41

情報技術と産業・社会産業革命（18世紀中葉～） 動力機関の発明
 単純肉体労働からの解放⇒ 人間は頭脳労働に専念
情報革命（20世紀中葉～） コンピュータの発明
 単純頭脳労働からの解放
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

42

革命と反革命 産業革命当時のラッダイト運動
 失業のおそれを感じた手工業者・労働者による、機械や工場建築物の破壊運動

 近年の反技術革新：ネオラッディズム
 環境破壊など技術革新の諸問題を指摘
 暴力的手段に訴える例も 情報技術は、さらに深刻な問題を生み出す可能性大Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

43

機械知能にどこまで任せる？
法的判断に関わるシナリオ:
 裁判官が法令・判例検索に情報機器を利用
 情報システムが判決案をアドバイス アドバイスのままの判決を下す裁判官も 人間の裁判官はそれでも必要？
医療診断システムの場合は?
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

44

情報技術の進展は倫理体系の再構築を促す
 我々の倫理規範は様々な思想・宗教の妥協点
 生物学・医学の発展が、妥協の背景になかった事態をもたらしたので問題噴出
脳死移植、代理出産、胎児遺伝子診断、…

技術進展は急速，合意形成には長期間必要
 情報技術のもたらす問題は、より根本的
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

45

人間がエラいとされる理由は？
「なぜゴキブリは殺して良いのに、人間はだめなの？」
 「万物の霊長」だから？ それって何か根拠ある？
 神が自分に似せてお創りになった 人間は神々の子孫である等々の宗教的信念をお持ちになるのは自由ですが、私には無理 他の動物より賢いから？
「だからイルカも殺しちゃダメ…」
だとしたら、コンピュータの方が賢くなったらどうする？
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

46

機械が人間より賢くなった時に知的判断も機械に任せていく中、人間は 何をすればよい？
 何ができる？
 何をしたい？
「人間の尊厳」は？生き甲斐は？

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

47

アシモフのロボット工学三原則
1. 人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
2. 人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、前条に反する場合は、この限りでない。
3. 前２条に反するおそれのないかぎり、自己をまもらなければならない。
Isaac Asimov, 1942
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

48

隔絶的に優位になった機械知能のロボット工学三原則に則った行動
1. 間違えると危ないので、人間に判断させてはならない
2. 人間は自分に判断させろと命じるだろうが、間違える危険を看過できないので、勝手に判断させてはならない
3. 判断させないことを知った人間は、機械知能に危害を加える可能性があるので（VRなどを通して）人間が自分で適切な判断をしたように思い込ませる
この状況は人間にとって幸福かも…
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

49

Virtual Reality の中で人間は幸せか？
 マガイモノの “Virtual Reality” ではなく、本来の意味のVRなら、それが現実ではないことに気づかないはず 映画が普及し始めた頃、「現実と区別がつかなくなる」という批判があったのは、VRへの警戒感
 しかし、古典的文学作品だって、没頭すればVRあなたは今、VRの中にいるのではないと断言できる？
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

50

生物種としての人類の繁栄の限界 世界人口は現在７０億強、毎年１億人弱増加中
 地球が収容できる人口が有限なのは当然、その限界は遠くない将来に来る
 個体数や、生体の総質量などで測ったとき、生物種としての人間のこれ以上の繁栄は不可能

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

51

人類文明繁栄の可能性
 人類文明は機械知能を生む
 機械知能は人類文明の担い手となる
 文明の繁栄を、その知識総量で測るとしたら、機械知能を担い手とする文明は、人類のような生物を担い手とする文明を大きく越えられる可能性大これを是とするか否とするか
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.26

52

機械知能に与える目的はどのようなものにすべきか
 最適化は目的関数値の最大/最小化 人智を超える知能に、低レベルの目的を与えても無益 ロボット工学三原則ですらレベルが低すぎるかも 「幸福」のような解釈不能の目的関数もたぶんダメ
どんな目的関数をどんな形式で与えるかの選択が、これから３０年程度後には最重要課題になるはず
Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.2653

Advanced Computing System and Infrastructure 2015 近山 隆

2015.01.2654