シリーズ

情報テクノロジーの進展がもたらす近未来 社 会 の 姿 を 考 え る

A I の 来し方 ゆく末
西 垣 通 東京経済大学コミュニケーション学部教授 東京大学名誉教授◆

喜怒哀楽の感情があるというのは飼い主の思考機械への憧れほとんど一致した意見である。思考とは論理的なものだけでなく、そこには身体活動にAI（人工知能）とは「思考機械」のことで支えられた無意識の情動もはたらいている、ある。
「知能」を定義しようとすると難しいというのは最近の脳科学研究が明らかにしが、世間一般ではコンピュータが人間のようたことだ。だが、動物に何らかの思考機能がに考える日がきた（？）と信じられているのあるとしても、それは脳神経のある生きた身だ。だが、いったい機械が思考することなど、体を持っているからである。生きているわけ本来できるのだろうか。
「思考とはそもそも、でもなく、半導体回路の組み合わせでしかなどういう行為なのか。ものを考えられるのはいコンピュータに、思考などできるはずはな

人間だけではないのか」――まず、そんな問い、となってしまう。それなら、人工知能ないかけから始めるのも悪くない。AIロボット

ど、はじめから失敗を運命づけられた愚か開発だのAIフィンテック（金融情報技術）だな挑戦なのだろうか。の、最新の技術動向がもたらす社会変化や経

ここで、いったん、百年あまり前のヨー済効果をあたふたと追いかけているばかりロッパの思想状況に立ち戻ってみなくてはでは、かえって問題の根本的構図が見えなくならない。当時、論理主義という考え方がなり、道に迷うことが多いからだ。

隆盛をきわめていた。アリストテレス以降

まず、思考が人間以外の存在には絶対に不の最大の論理学者と言われるゴットロープ・可能だ、と断言することは難しい。たとえばフレーゲというドイツ人が、『概念記法』とペットの犬や猫にしても、それなりに何か考いう本を書いたのは19世紀末のことである。

えているような気がしないだろうか。少な

これは人間があつかう概念をふくむ様々なくとも、人間の気持ちを察して行動するなど、論理的文章を、記号を使って明快かつ厳密に14TASC MONTHLY no.509

あらわすための方法をのべたものだ。この『プリンキピア・マテマティカ』に書かれた記法を使って、20世紀はじめ、英国の哲学諸定理の一部を自動的に導くAIが提示され、者バートランド・ラッセルとアルフレッド・人々を驚かせたのである。

ノース・ホワイトヘッドが著した『プリンとはいえ、このAI第一次ブームは長く続

キピア・マテマティカ（数学原理）』こそは、かなかった。歯が立つのはせいぜいパズル

論理主義哲学の金字塔である。人間のおこやゲームなどで、実用的応用範囲が狭すぎたなう思考とは何かを正確に表現するとこうからである。その後1980年代になって、人なる、というお手本が示されたわけだ（少間の知識を論理命題としてメモリに記憶し、なくとも、著者たちはそう考えた）。簡単に専門家にかわって自動推論しようというエ言えば、記号が何を意味しているかによらキスパート・システムが開発され、第二次ず、決まったルールにしたがって形式的に記ブームが起きた。日本の第五世代コンピュー号を操作して結論を導くのが「正しい思考」

タ研究開発が巨額予算を使って行われたのなのだ、という考え方である。まさにここで、もこの頃である。だが、予測に反して、医者記号の論理操作機械であるコンピュータのや法律家が失業するわけでもなく、この第二イメージが浮かび上がってこないだろうか。

次ブームも20世紀末には挫折してしまった。

コンピュータの発明は1940年代後半のことである。理論モデルをつくったのは英国◆の数学者アラン・チューリング、そのモデビッグデータと統計処理ルをハードウェアに実装するアイデアをまとめたのはハンガリーから米国に亡命した

いったい、第二次AIブームはなぜ挫折した

数学者ジョン・フォン・ノイマンだが、両のか。第五世代コンピュータはなぜ失敗した人 とも生 粋 の 論 理主義 者に他な らな かっのか。――種々の議論があるものの、半世紀た。だからコンピュータという存在は、当以上コンピュータと付き合ってきた私の目初からただの計算機械ではなく、そもそもには、答えは明らかである。コンピュータは高速の論理操作機械つまり「思考する機械」

記号の論理操作機械だが、実生活における人として誕生したのだ。人工知能（Artificial

間の思考の中で論理操作はごく一部でしかIntelligence）という用語は1956年のダートないからだ。医者や法律家の専門知識は確かマス会議で最初に用いられたが、そこではに論理的に構成されているが、そこにはかな

15

シリーズ

A I の 来 し方 ゆく末が、怪しげな誤訳も少なくないのである。

らず柔軟な曖昧性が含まれている。さもなけ
れば誤診も冤罪もない。英語の文章の意味に関連して指摘しておこう。第三次ブーム

は多様な解釈がありうるので、ただ機械的にの 核 心 技 術 と し て 有 名 な の は「 深 層 学 習

翻訳しようとしても困難なのは当然である。

（deep learning）」という方法である。囲碁

そして、2010年代後半になって、再び第の勝負でAIが世界的名人を破ったとして大三次AIブームが起きた。理由はどこにあるかニュースになったが、そこでも深層学習技術と言えば、答えは簡単である。
「間違ってもが活用された。これは、パターン認識技術のいいじゃないか」と考えを変えたためだ。コ

一種であり、二つの特長をもっている。第一ンピュータはかならず正解を導く思考機械

は、人間の脳神経系に類似した「ニューラルだと見なしたために挫折したのだが、「まあ、ネット・モデル」を用いていること。第二だいたい合っていればいいじゃないか」とは、従来のパターン認識技術と異なり、パ開き直ったのである。

ターンの特徴を人間が与えるのではなく、コ

第一次、第二次ブームのキーワードはそれンピュータが自ら学習していくということ。

ぞれ「論理」と「知識」だったが、第三次第二の点は少々ふしぎな感じがするだろう。

ブームのキーワードは「統計」である（表をたとえば画像認識をするとき、画像の特徴を参照）。膨大なビッグデータを統計処理して、入力せずに、AIはいかにして画像パターンを確率的に高い答えを出力するわけだ。これに把握するのだろうか。―― 答えは統計処理

よって応用範囲は一挙に拡大されたが、一にある。たくさんの画像パターンを比較して、方、本来の思考機械の特長だった論理的厳密

共通の特徴をもつパターン同士をグルーピ性は損なわれた。この点を忘れてはならない。

ングするのだ。こうして、グーグル社の深層

たとえば、英文の機械翻訳では多数の用例を学習ソフトは、ユーチューブから取り出したベースに頻度の高い翻訳文を出力するのだ

約1000万枚の画像から猫の顔を自動認識す表
人工知能ブーム
第一次（1950～60年代）
第二次（1980年代）
第三次（2010年代～）

キーワード
論理
知識
統計ることに成功した。

人工知能ブームの歴史
代表的応用
小（パズル、ゲーム）中（エキスパート・システム）大（パターン認識、機械翻訳）

16

誤りの可能性

ただ、あえて付言する無しと、この猫認識において少ない有り

は、16台のプロセッサを連結した複合コンピュータ

1000台を三日間つづけてTASC MONTHLY no.509作動させたとのこと。まさに途方もない計算

ら猫の顔を分類できたとしても、もっと多様量である。この例からもわかるように、第三性の大きい犬の顔だったらどうか（ブルドッ

次AIブームを起こした要因は、インターネッ

グやらシェパードやらチワワやら、顔はいろ

トに蓄積された膨大なビッグデータ、そしていろある）。AIは、生物的概念など全く理解また、それを処理する高性能コンピュータしていないのである。の出現にあると言ってよい。実は、深層学習

深層学習の誇大宣伝は研究予算獲得のたのようなニューラルネットの理論モデルはめかもしれないが、もっとも困るのは、声

かなり昔からあったのだが、データ不足と処高に 理 想的 な思 考 機 械の 出現 を予 言 する

理能力不足のために実用化されなかったの「シンギュラリティ（技術的特異点）」仮説だ。その意味では、現在の第三次ブームはコである。元祖は米国の発明家レイ・カーツ

ンピュータ技術の漸進的進歩における単なワイルであり、その議論によれば、2045年る一段階であり、別に特別なものではないと頃に人間より賢いAIである超知性体が現れ考えられるのである。

るという。このシンギュラリティ仮説の信奉者は欧米にはかなり多い。いったいなぜ、◆

シンギュラリティ仮説のようなものが唱え神に近づく人間られるのだろうか。シンギュラリティ仮説のベースには、前述の論理主義、つまり人冷静に見れば、現在は第三次ブームで盛り間の思考とは基本的に論理的な推論である上がっているものの、憧れの理想的思考機械という思い込みがある。確かに人間の思考が出現したわけではない。ところが、一部のには論理的部分もあるが、人間は動物の一AI研究者からは、やたらに夢想をふりまく種だし、大半の動物は情動をふくめた身体声も聞こえてくる。深層学習によって、AIが的直観によって生きている。身体的直観を人間のように自ら概念を把握できるように無視して論理操作ばかり強調するのは見当なったというのは、その典型である。これは違いではないだろうか。

明らかに過大評価というものだ。深層学習ソ

しかし、人間は理性をもっており、ゆえにフトは画像や音声のパターンを統計的に分動物とは異なる特別な偉い存在だという考類するが、それが人間の社会的な概念と一致えは欧米では今でも根強いのである。さらする保証はない。AIがたまたま外形的特徴かにこういった理性重視の奥底には、古代から17

シリーズ

A I の 来 し方 ゆく末のユダヤ＝キリスト一神教にもとづく「ロゴそこでは神の絶対的真理を体現するイエスス（logos）信仰」がある。われわれ普通のが、（聖霊とともに）神と一体で同格の存在日本人には分かりにくいが、これはもっともだとされる。人間イエスはユダヤ教の改革者肝心な点なのだ。

だったのだが、イエスを介して、神と人間はロゴスというギリシア語には二重の意味一歩近づいた。さらに宗教改革と、啓蒙思想がある。第一はアリストテレスやフレーゲがによる近代化が訪れる。これらをへて、絶対研究した論理学の「論理」であり、記号論理

神への信仰よりも人間の理性が前面に出て自体は日本人にも理解できないわけではなくると、両者間の距離はいっそう縮まり、あい。問題は第二の意味である。端的にいえば、たかも「人間が神に替わって世界を改善できロゴスとは「神が受肉した存在」つまり「救る」という考え方が徐々に力を増していった。

世主キリスト」であり、したがって絶対的な「真理」をあらわす。ヨハネ福音書の冒頭部◆分「初めにロゴスがあった。ロゴスは神ととAIは何をめざすべきかもにあり、ロゴスは神であった」を想起して頂きたい。ユダヤ＝キリスト教では、全知全AI技術に通暁したフランス哲学者である能の神が世界の万物を創造したことになっジャン＝ガブリエル・ガナシアは、シンギュている。人間も動物も機械もその点では同じ

ラリティ仮説を「現代のグノーシス神話」だ

被造物であって、この被造物をつかさどる体と批判している。グノーシス主義とは古代か系的な秩序原理がロゴスに他ならない。だらあるキリスト教最大の異端だが、そこではから、もし機械がロゴスをうまく体現できれ「人間と神が対等」なのだ。いかに神と人間ば、それが人知を超えた超知性体になるといが近づいたにせよ、キリスト教では神はなおう理屈が出てきてしまう。

人間よりはるか上位にある。しかし、キリス

ここで大切なのは、全知全能の神と人間とト教の素朴な信仰心が衰えて科学技術が称のあいだの距離である。本来、両者を隔てる揚される現在、人間がいわば神と化して世界距離は無限に大きいはずだが、歴史的に段々を改変していくべきだという思想は一種の近づいてきてしまったのだ。まずは四世紀常識として普及しつつある。そこに国際的情のニケーア公会議で決められた、ローマカト報産業の利害計算がからむので、話はいっそリックの三位一体の教義がきっかけである。

う厄介になるのだ。

18

TASC MONTHLY no.509

私は信者ではないが、キリスト教自体はのインフラは老朽化しつつあるから、セン人々を救うすばらしい宗教に違いない。だ

サーで状況データを集め、早めに対策をとが、 そ の 教 義 を 巧 妙 に 利 用 し て 人 間 の 力るためにもAI技術は不可欠である。

量を過大に評価するなら、未来には悲劇がつまり、馬鹿げた幻想は捨て、あくまで待っているのではないか。人間とは、生物現実的なコンピュータ処理の応用拡大とし進化のプロセスで偶然出現した、異常発達て真剣にAI技術をとらえるべきなのだ。マした大脳前頭葉をもつ奇妙な動物にすぎな

スコミは幻想を振りまいているが、それはいのだ。AIに絶対真理につながる賢明さな

かえって第三次AIブームを短命に終わらせど望むのは、暴論というものである。むろる結果になるだろう。

ん、欧米にも人知の限界性を理解している
知識人は存在するが、欧米追随の日本人の＜参考文献＞
・レイ・カーツワイル『ポスト・ヒューマン誕生』

中には、文化的背景を知らずにシンギュラ（井上健監訳、NHK出版、2007年）
・ジャン＝ガブリエル・ガナシア『そろそろ、人工リティ仮説に唱和し、大声をあげる情けな知能の真実を話そう』（伊藤直子監訳、早川書房、い連中も少なくない。

2017年）
・西垣通『ビッグデータと人工知能』（中公新書、端的に言って、いまのAIが約束するのは2016年）

せいぜい、過去のデータを上手に統計処理・西垣通『AI原論』（講談社選書メチエ、2018年）

して人間に提供してくれる自動機械の機能だけである。自動機械という意味では、エレベータとたいして違いはない。たまたま囲碁や将棋で名人に勝ったからといって、AI

プロフィール…………………………………………………

ロボットが自律性を獲得し、自由意思をもにしがき・とおる

東京経済大学コミュニケーション学部教授。東京大学名誉教授。1948年東京生まれ。東つ賢明な主体になるわけではないのだ。SF

京大学工学部計数工学科卒業。工学博士。日立製作所

めいた話はもう打ち止めにしてはどうか。

主任研究員、米国スタンフォード大学客員研究員、明治大学教授、東京大学社会科学研究所教授、東京大

ただし、このことは決して、AI技術そのも学大学院情報学環教 授をへて、2013年より現職。文のの否定にはつながらない。過疎地の高齢理にわたる基礎情報学の構築にとりくんでいる。著書に者にとって安全な自動運転車は有効だろう。

『デジタル・ナルシス』（岩波書店、1991年、サントリー学芸賞）、『基礎情報学』（NTT出版、2004年）、『ネッ

原発事故の後処理にもAIロボットの活躍がト社会の「正義」とは何か』（角川選書、2014年）ほか期待される。トンネルや橋など高度成長期多数。

19