人工知能の原理と歴史久木田水生

1

参考文献
ウェブで読めるもの• 久木田水生「人工知能、ロボット、知性」（『社会と倫理』，第 28 号、2013 年 11月、pp. 51-65）• 久木田水生「人工知能の人工生命への接近」（『PROSPECTUS』，10 号，2007 年12 月，45-57）• 久木田水生「帰納論理プログラミング」（『哲学論叢』，第 33 号，2006 年，103-113）
ウェブで読めないもの• 久木田水生「パースと人工知能」（『大航海』，第 6 号，2006 年，131-139, 新書館）
• 久木田水生、神崎宣次、佐々木拓、『ロボットからの倫理学入門』、第 1 章「機械の中の道徳」（名古屋大学出版会、2017 年）

2そもそも人工知能とは？

• ジョン・マッカーシーによれば「人間がそれをやれば「知能を持っている」と思われるような振る舞いをする人工的なシステム」。
• 初期の人工知能は特に論理的な推論や言語を使うことに焦点を当てていた。

ジョン・マッカーシー「人工知能」という言葉を作った。
By”null0”(https://www.flickr.com/photos/null0/272015955/)[CC BY-SA 2.0 (https://creativecommons.org/licenses/by-sa/2.0)]

via Wikimedia Commons3

この定義の困難• 何が「知的」と見なされるかがかなり曖昧。
• 人間がやっても大して知的と思われなくても、人工知能の歴史において非常に大きな達成と見なされることがある。
• 例：猫の写っている画像とそうでない画像を見分ける。ハンカチをたたむ。

4

普及すると人工知能と呼ばれなくなる？

• 最初は「人工知能」と呼ばれていたものが、普及すると人工知能とは呼ばれなくなる、ということがしばしば指摘される。
• 例えば論理学の定理証明や路線検索なども最初は人工知能と呼ばれていた。
• 機械に実現されてしまうと、「そんなものは本当の知能じゃないのだ」と言いた
くなるのかもしれない。

5

名前が悪い？

Jerry Kaplan, Artiﬁcial Intelligence: What Everyone Needs to Know, Oxford University
Press, 2016.
• 「知能」という言葉を使うのは無用な混乱のもと。
• 「機械が人間より優れた存在になる」とかいう危惧も、この名前によって掻き立てられているところがある。
• 人工知能の発展とは単なる「絶え間ない自動化の進展」である。（p. 17）6

人工知能の発展史• 19 世紀末-1930 年代：記号論理学、計算理論の誕生• 20 世紀半ば：コンピューターの誕生• 1956 年：「人工知能」に関するダートマス会議• 1950 年代：第一次人工知能ブーム。「論理的 AI」の時代。
• 1980 年代：第二次人工知能ブーム。「知識」、「身体化」、「コネクショニズム」などパラダイムの多様化。日本にもブームが波及。
• 2010 年代：第三次人工知能ブーム。「ビッグデータ」と「機械学習」の時代。インターネット上のビジネスに応用され大きな利益を生む。画像・映像処理、言語処理、ロボットなどと組み合わされることで応用の可能性が広がる。それと同時に社会への影響が懸念されるようになる。
7

論理学• 厳密に正しい推論についての研究。
• 推論とはいくつかの前提（根拠）から結論を導き出す思考のこと。
• 正しい推論：前提がすべて正しい時には結論も正しい。
• 例：三段論法
前提 1 すべての人間は死ぬ。
前提 2 ソクラテスは人間である。
結論
ソクラテスは死ぬ。
前提 1
前提 2

すべての日本人は生魚を食べる。
日本人のノーベル平和賞受賞者がいる。

結論

生魚を食べるノーベル平和賞受賞者がいる。
8

論理学• 三段論法は古代ギリシャのアリストテレスによって研究され、中世まで論理学の中心的なテーマだった。
• より一般的な推論の原理が探求されるのは 19 世紀になってから。
• 広義の「論理学」は、より幅広い推論や科学的探究の方法一般を指していた。

9

論理的推論の利点• 論理的な推論を使えば、正しい前提からは必ず正しい結論が得られる。
• つまり確実に正しい前提だけから論理的推論を繰り返して得られた結論は正しいことが保証される。これが証明するということ。
• 確実に正しいことが分かっていることだけから論理的推論だけを使えば、確実に正しい知識、すなわち真理が得られる。
• これが古代ギリシャにユークリッド幾何学において確立された数学の手法。
• 近代になりデカルトが哲学の方法論として重要視した。
• このように知識獲得の方法として論理的推論を重視する立場を合理主義という。

10

記号論理学• 論理的に正しい推論一般を厳密に特徴づけることを目的に、19 世紀末から発展し、大きな成果を上げる。
• 推論の構造を明示化するために抽象的な記号によって推論を表現する。
• 限定的な範囲で、少数の原理からすべての論理的推論を導出することに成功する。
• 数学の一部分が論理学に還元されることを示す。→形式的数学、数学基礎論。
• それと同時に、数学には記号論理学の手法で厳密に特徴づけられない部分があることも明らかにした。

11

記号論理学における証明の例

12足し算の公理13

x + y = y + x の証明

14

Intelligence とは？

• 推論や計算する• 問題、パズルを解く• 言葉を使う• 計画を立てる。
• チェスなどのゲームをする• 発見をする• 創造をする• などなど15

ダートマス会議• 1956 年、ダートマス大学にて開催。
• ジョン・マッカーシー、マービン・ミンスキー、ネイサン・ロチェスター、クロード・シャノンなどが中心となる。
• 初めて「人工知能（Artiﬁcial Intelligence）」という用語が大々的に使われた。

16

ダートマス会議での提案「本研究は、学習やその他のあらゆる知能の側面が原理的には、機械がそれをシミュレートできるくらい正確に記述できるという推測に基づいて進められる。どのようにすれば機械が言語を扱えるか、抽象を行い概念を形成できるか、現在は人間にしか扱えないような種類の問題を解けるか、そして自分自身を改良できるか。これらを発見するための試みが行われるだろう。ひと夏の間、慎重に選ばれた科学者のグループがともに取り組めば、これらの問題のいくつかにおいて重要な進展が成し遂げられると私たちは考えている。」
J. McCarthy, M. L. Minsky, N. Rochester, C.E. Shannon, “A Proposal for the Dartmouth
Summer Research Project on Artiﬁcial Intelligence”, August 31, 1955.
http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html

17

Logic Theorist• ダートマス会議で発表された、アレン・ニューウェル、ハーバート・サイモン、J・C・ショーが開発したコンピュータープログラム。
• 人間の論理的推論をシミュレートすることを意図して作られ、アルフレッド・ノース・ホワイトヘッドとバートランド・ラッセルの Principia Mathematica（『数学の原理』）の冒頭の 52 の定理のうち 38 を証明することができた。

18

記号的 AI、論理的 AI• アレン・ニューウェルとハーバート・サイモンは「例えばコンピューターのような、物理的記号システムは知的な行動のための必要にして十分な手段を持っている」と主張した。
• A. Newell and H. Simon. “Computer science as empirical inquiry: Symbols andsearch.” Communications of the ACM, 19(3):113–126, 1976.
• この考え方は「物理的記号システム仮説」と呼ばれる。
• 初期の人工知能においてはこのようなパラダイムが支配的であった。
• このようなパラダイムを記号的 AI、論理的 AI と呼ぶ。

19

シミュレーションと本物の思考• コンピューターの理論的基礎を築いたアラン・
チューリングは、振る舞い上人間と見分けがつかないほど流暢に人間とコミュニケーションができる機
械は思考しているとみなすという考えを提唱した。
• Turing, Alan, “Computing Machinery andIntelligence”, Mind, LIX (236): 433–460, 1950.

画像はパブリックドメイン。
20

「チューリング・テスト」• 上記の論文の中でチューリングは、現在「チューリング・テスト」として知られる、機械の思考についてのテストを提案した。
• そこでは被験者が人間またはコンピューターとチャットで会話をする。
• 被験者は相手が人間がコンピューターかを推測する。
• コンピューターが十分な頻度で被験者をだますことができるならば、そのコンピューターは人間と同等の思考を持っていると見なされる。

21

サールの反論• これに対して哲学者のジョン・サールは、コンピューターはルールに従って記号を操作しているだけで、その記号の意味を理解してないから、本当に思考しているとは言えない、と反論した。
• その際にサールは「中国語の部屋」という有名な思考実験に訴えた。

22

「中国語の部屋」の議論• 部屋に中国語を知らない人間と、中国語の応答表が置いてある。
• 中国語で質問を書いた紙を部屋に入れると、中の人間は応答表を手掛かりに答えを紙に書いて出す。
• 外から見ている人間には、中の人間が中国語で支障なくやり取りができてるように見える。
• しかし中の人間は中国語を知らないのだから、自分が何を聞かれて何を答えているのかを理解していない。
• したがって中の人間は質問への応答に対応する思考を持っていない。

23

記号接地問題• スティーヴン・ハーナッドはサールの批判を受けて、「どうすれば人工知能が扱う記号が現実世界の事物と結びつきをもてるか」という問題を記号接地問題と名付けて、その解決に取り組んだ。
• Harnad, S. (1990) “The Symbol Grounding Problem.” Physica D 42: 335-346.
• それ以降、記号接地問題は人工知能、ロボット工学において重要なテーマの一つになっている。

24

記号接地問題へのアプローチ• ハーナッド自身の提案は，人工知能に外界を認知し，そこから範疇的表象を形成する能力を持たせることによって，記号接地を実現させるというものである．
• ハーナッド以降，多くの研究者が多種多様なやり方でこの問題に取り組んでいる．

25

Floridi and Taddeo による記号接地問題へのアプローチの分類• 表象主義• ハイブリッドモデル (Harnad 1990)• 機能モデル (Mayo 2003)• 意図モデル (Sun 2000)• 準表象主義• 認識論的モデル (Davidsson 1995)• 推測ゲーム (Steels and Vogt 1997)• 時間遅延と予測意味論に基づくモデル (Rosenstein and Cohen 1998)• 非表象主義• コミュニケーションに基づくモデル (Billard and Dautenhahn 1999)• 行動に基づくモデル (Varshavskaya 2002)26

フレーム問題• コンピューターは数学的な計算、論理的な推論、チェスなどのように、問題と答え（目標）、使える資源、考慮するべき要素が明確に定まっている課題を遂行するのはそれなりにうまくできる。
• また非常に単純化されたシミュレーションにおける課題（トイ・プロブレム）を遂行することもしばしば得意である。
• しかし現実の問題は必ずしもそうではない。

27

フレーム問題• 現実の問題を解決しようとするとき、私たちは自分の行動がどのような副次的な帰結を持つかを考えなければならない。
• しかし現実世界においてある行為は極めて多くの帰結を持ちうる。
• 教卓を動かす→床が傷つく、教壇から机が落ちる、机が壊れる、黒板との距離が変わる、机の上のチョークが落ちる、パソコンが落ちる、ペンが落ちる、大きな音がする、教室の外の鳩が驚いて飛び立つ、木の枝が揺れる、などなど。
• 論理的には、一つの前提は無限の多くの帰結を持ちうる。
• 人間はそういった帰結のうちのいくつかを無意識のうちに選んで考察している。
• しかしコンピューターにそのような選択をさせることは極めて難しい。

28

論理的 AI の限界• 記号論理学をベースとした推論に基づいた人工知能では現実の問題に対処することは難しい、ということが認識されるようになる。
• 例えばコンピューターには状況や文脈を理解することや、人間にとって当たり前の常識を前提して思考することが致命的に苦手。
• テリー・ウィノグラードの例：「市評議会はデモ隊にデモの許可を出さなかった。
彼らは暴動を【恐れていた／辞さない姿勢だった】からである」• ここでの「彼ら」の指す対象は【】内の語句に応じて変化する。
• ある程度の常識のある人間ならば「彼ら」が何を指すかはすぐに理解できるが、コンピューターにはこれが極めて難しい。

29

論理的 AI の限界• コンピューターは、人間の知能をシミュレートして、人間の代わりに課題を遂行するのではなく、あくまでも人間の知能をサポートするものとして使うことが提案される。
• Cf. テリー・ウィノグラード、フェルナンド・フローレス、『コンピューターと認知を理解する――人工知能の限界と新しい設計理念』、平賀譲訳、産業図書、1987。

30

ドレイファスによる批判• 哲学者のヒューバート・ドレイファスは、1964 年にランド研究所に提出した報告書「錬金術と人工知能」において、人工知能研究者が実現できないことを吹聴して研究資金を詐取している、と強く非難。
• 人間の知能においては経験によって培われる勘、体に染みついた感覚、暗黙の知識などが重要な役割を果たす。
• こういったものは論理的な規則のようなもので表現することは不可能であり、したがって機械は真の意味で知能を実現することはできない、と主張した。
• ちなみに日本の数理論理学者、前原昭二は 1961 年に「人工頭脳と練金術」（『科学基礎論研究』5 巻 3 号、p. 108-11）というタイトルの論文を書き、人工知能の限界についてコメントしている。
31前原昭二の論点• 計算機に自動的に何かを判定させるには、要求を完全に客観化しなければならない。
• しかしそのような客観化は多くの場合、不可能である。
• 「科学上の重要問題の多くが、客観的な問題ではなく、人間感情に密着した主観的問題である、ということは、十分注意するに値する事実」• また要求を客観化できたとしても、必ずしも計算機が十分に素早くその答えを見つけてくれるわけではない。
• 上のような問題を指摘した上で、前原は「人工頭脳の能力の限界について述べて来たのは、決して、人工頭脳にケチをつけよう、という意志からではない、そうではなくて、適用範囲の限界を明示することこそ、科学者の良心というものであろう、と思ったからである」と述べる。
32

論理が得意なことと苦手なこと• 体系だった仕方で、明確に定義された問題の解を求めるのは得意。
• 例えば数値計算、演繹的推論、プログラムのコンパイル（人工言語から人工言語への翻訳）など。
• 状況や文脈の理解、暗黙の知識が前提とされる思考、正解の規準が曖昧な問題、現実の状況で適時かつ適切に行動することが致命的に苦手。
• 例えば人の顔を見分ける、自然言語を翻訳する、物を掴むなど。
• テリー・ウィノグラードの例：「市評議員会はデモ隊にデモの許可を出さなかった。彼らは暴動を【恐れていた／辞さない姿勢だった】からである」

33

人工知能パラダイムの多様化• 機械学習、帰納的推論、アブダクション• エキスパート・システム• 人工生命、遺伝的アルゴリズム（進化的計算）• ニューラルネットワーク• 身体化された認知• AI から IA(Intelligence Augumentation) へ34演繹、帰納、アブダクション• 次の三つの命題を考えよう。
(1) すべての哺乳類は授乳をする(2) 鯨は哺乳類である。
(3) 鯨は授乳をする。
• (1)(2) から (3) を推論するのは演繹である。
• (2)(3) から (1) を推論するのは個別の事例からの一般化であり、帰納と呼ばれる。
• (1) という背景知識を持っていて (3) が観察されたときに (2) を推論するのは、観察された事実を説明する仮説を立てることであり、アブダクションあるいは仮説形成と呼ばれる。
35

演繹、帰納、アブダクション36

機械による論理的推論• 1965 年、J. A. ロビンソンが、「導出原理」という推論規則を持つ、コンピューター向けの一階述語論理の体系、節形論理 clausal logic が発表される。
• 導出原理（命題論理の場合）：A ∨ C と B ∨ ¬C から A ∨ B を導出。
• 節形論理を応用したプログラミング言語、Prolog が人工知能の開発に盛んに使われる。
• Prolog では一階述語論理式によって知識を表現する形でプログラムを書くことができる。

37

非演繹的推論による学習• 導出原理を逆転させて帰納的推論、アブダクション的な推論を機械によって実行させる試み → 帰納論理プログラミング、仮説形成的論理プログラミング• 機械学習と呼ばれるテクニックの先駆け。

38

エキスパート・システム• 医者、化学者など、個別的な領域における知識やヒューリスティックを機械に与えて、専門家の判断をシミュレートするシステム。
• ヒューリスティックというのは、何かの問題に取り組むときの指針、定石のようなもの。
• エキスパートは、経験に基づいた「直観」を働かせて状況に応じた判断をしている。
• 常にうまくいくわけではないが、許容できる程度にうまくいく。
• この直観を、ヒューリスティックとして明示化し、機械に実装することが試みられた。

39

遺伝的アルゴリズム（進化的計算）• 生物の進化のメカニズムを様々な問題解決に応用。
• 1．ランダムにいくつかの解を生成。
• 2．解を評価。
• 3．評価の高い解を選択して、それらから次世代の解を生成。
• 4．2-3 を繰り返す。

• これで複雑な問題にうまく解が得られることがある。

40

ニューラル・ネットワーク• 生物の脳の構造を模したネットワークで問題の解を与える。
• 下図のようなユニット（パーセプトロン）を組み合わせて複雑な計算が可能になる。
• パーセプトロンは入力（下図の x1 , x2 ）のそれぞれに異なる重み（下図ではw1 , w2 ）をかけて、その和、w1 x1 + w2 x2 を出力（下図では y ）に変換する。
• y は典型的にはある閾値 θ を用いて
{1 (w1 x1 + w2 x2 ≥ θ)
y=0 (w1 x1 + w2 x2 < θ)のように定義される。
41

ニューラル・ネットワーク

パーセプトロン42

ニューラル・ネットワーク• 例えば入力が 0 か 1 のどちらかだとして、w1 = w2 = 1/2、y は{
y=10(w1 x1 + w2 x2 ≥ 1)
(w1 x1 + w2 x2 < 1)

によって定義される関数とすると、これは論理結合子 AND として機能する。

• すなわち入力がどちらも 1 ならば 1 を出力し、どちらか一方でも 0 ならば 0 を出力する。
• 同様にして論理結合子 OR（二つの入力のどちらかが 1 ならば 1 を出力する）やNAND（二つの入力のどちらかが 0 ならば 1 を出力する）として機能するパーセプトロンを作ることもできる。
43

ニューラル・ネットワーク• 入力が n 個のパーセプトロンは、n 次元空間を w1 x1 + · · · + wn xn = θ という境界で分割するものである。
• 下図は二次元空間の分割の例。

44

ニューラル・ネットワーク• 一個のパーセプトロンでは XOR（どちらか一方だけが真のときにのみ真）を表現することはできない。
• しかし複数のパーセプトロンを組み合わせることで XOR が表現可能になる。

XOR を表すネットワーク
45

ニューラル・ネットワーク• 多数のパーセプトロンのを組み合わせたニューラル・ネットワークによる複雑な関数の表現。
• 出力と正解の誤差から重みを調整する方法（誤差逆伝播法）や、ネットワークの構成に関する様々なアイディアが試みられる。
• 画像や音声のパターン認識に応用される。

46

身体化された認知• ロドニー・ブルックスなどによって提唱されたアイディア。
• 頭の中での表象（記号）を使った計算では現実世界において適応的な行動を取ることはできない。
• 知能は脳の中で閉じているものではなく現実世界との身体を介したインタラクションによって実現される。
• 身体は脳という一つの中枢でコントロールされているのではなく、階層化された構造の中で分散的に制御されている。（包摂アーキテクチャ）47

知能の多様性• 物理的記号システム：計算や論理的思考は得意• ニューラル・ネットワーク：曖昧なパターン認識は得意• 包摂アーキテクチャ：物理的世界における行動は得意

これらのいずれも人間の知能の一部をシミュレートしている。また特定のタスクをある程度こなすことはできるが、人間のような汎用性は持たない。

48

人工知能と心の哲学

人工知能の発展は、人間の心の仕組みについての哲学的理論に大きな影響を与えてきた。

• 機能主義• 心の計算理論• 思考の言語仮説• コネクショニズム• 反表象主義

49

機能主義

心的状態は、入力に対する出力の関数として捉えることが適切であるとする考え。こう考えると人工知能などもセンサーとアクチュエーターなどを備えることで人間と同等の心的状態を持つことができると考えられる。

50

心の計算理論

心の機構を計算と類比的に捉える考え方。心はハードウェアとしての脳（あるいは身体）が行っているある種の計算と見なされる。ここでは計算の単位（コンピューターの中での 0 と 1 の信号に対応するもの）と、それを操作する規則（コンピューターではプログラムに対応するもの）、そしてそれを実現する仕組み（コンピューターでは電子回路に対応するもの）を人間の脳（あるいは身体）が備えていることを明らかにすることが課題になる。この立場はチューリング・マシンのような計算モデルに大きな影響を受けて発展してきた。

51

チューリング・マシン
左右に無限に伸びたテープがあり、そのテープはマス目で区切られている。それぞれのマス目は、1 が書き込まれているか、空白になっている。そのテープの上に機械が置かれており、それが置かれたマス目上の記号を読み取る。読み取った記号と内部状態に従ってテープ状の位置を変えたり、それが置かれたマス目の記号を書き換えたりする。内部状態と振る舞いはプログラムによって与えられる。

チューリング・マシンは、動作を始める時のテープの状態を入力、停止したときのテープの状態を出力とする計算機であると考えることができる。
52

チューリング・マシン

例えばチューリング・マシンに次のプログラムを与えるとする。

• Q1：1 を読み取ったら右に進み Q1 を実行する。空白だったら 1 を書き込み右に進み Q2 を実行する。
• Q2：1 を読み取ったら右に進み Q2 を実行する。空白だったら左に進み Q3 を実行する。
• Q3：1 を読み取ったら 1 を消し左に進み Q4 を実行する。
• Q4：1 を読み取ったら左に進み Q4 を実行する。空白だったら右に進み停止する。

53

チューリング・マシン
下図の開始状態で上のプログラムを受け取ったチューリング・マシンは、下図の終了状態で停止する。これは足し算を実行するプログラムと見なせる。

54

チューリング・マシン

チューリング・マシンは単純なものだが、しかし適切なプログラムを与えることで、様々な計算をさせることができる。
さらにはチューリング・マシンのプログラムをコード化したものを入力として受け取って実際、現在のコンピュータで計算できることはすべてチューリング・マシンで計算できる。

55

思考の言語仮説

思考は頭の中にある、一種の言語によって行われるとする仮説。その精神言語（Mentalese）は、通常の言語と同じような構造（単語、文、文法規則、意味形成規則）を持っているとされる。思考の言語仮説は通常、心の計算理論のバリエーションとして提唱される。

56

コネクショニズム

ニューラル・ネットワークについての研究を通じて知能・心理・認知・行動を研究しようというアプローチ。
極端な論者は、人間の心理や行動について語る従来の記述（「素朴心理学」と呼ばれる）はすべて脳についての記述に置き換わるだろうと主張する。このような立場を消去主義という。

57