グローバル・イッシュを考える―AI 技術の夢をどう見るか―倪楽飛（ニイラクヒ）

広島大学大学院文学研究科（中国）
遠い昔から、人間は「知能を持った機械」に対する憧れと畏怖を同時に抱いていた。だから、「AI」（Artificial Intelligence）という言葉が 1956 年に開催されたダートマス会議で正式な用語として提出された時、それは全く斬新だったというより、むしろそれまでファンタジーにしか見えなかった夢が、言葉にできるような形で描き出されたに過ぎないのだというべきかもしれない。

1997 年 5 月に、IBM に設計され、大学の研究室で開発されたチェス専用システム「ディップ・ブルー」が世界チャンピオンカスパロフを二勝一敗三引き分けで打ち負かした時も、人はそれをさほど不思議なことだとは思わなかった。確かに、一時的には、やがてコンピューターが全面的に人類に打ち勝って、「ターミネーター」による支配の時代がついにやって来るのではないかという話題が沸騰したが、単純に計算することだったら、人類はとうに電卓に負けてしまっていたし、専門領域でエキスパートシステムに負けて当然だと認めても全然恥ずかしいことではなかった。
しかし、2011 年 2 月、IBM がディップ・ブルーに次いで開発した質問応答システム「ワトソン」がアメリカのクイズ番組「ジェパディ！」で人間と対戦し且つ勝利したことは、さすがに世界中の人々に大きな衝撃を与えた。なぜなら、かつて狭い領域の知識や技術しか扱えないと思われた AI が、ウェブ上に蓄積された膨大なデータを基盤に据え、自然言語の理解・学習、複雑な情報の分析・処理、そして自らの意思を決定することができるように「進化」してきたことにより、会話を通してだけでは、相手が人間であるか AI であるかがわからなくなる時代の到来が宣告されたからである。実際、2014 年 6 月、ロシアのチャットボット「ユージーン・グーツマン」（Eugene Goostman）が「13 の少年」の設定でロンドンで行われたチューリング・テスト（機械の知性を判定するテスト）に参加し、人間だと間違えて判定され、史上初の合格者となった。1980 年に、ジョン・サールは論文「Minds, Brains,1and Programs」1の中で、「中国語の部屋」という思考実験を設けて、「チューリング・テストでは機械が思考できるかどうかが証明できない」という旨の反論を提出していたが、僅か三十数年後の今日における AI の「思考振り」、またその「振り」に愚弄された人間の現実を目の前にして、氏はどう思っているだろう。
さらに、2017 年 10 月 25 日、ソフィアという名を持つ女性型ヒューマノイド・ロボットがサウジアラビアで市民権を授与されたことを聞いたサールは完全に言葉に詰まったに違いない。ソフィアは、人間の言語を理解したり処理したり、人間と自由に会話したりすることができるだけでなく、繊細で且つ豊かな表情で 62 種の情緒を表すことすらできるのだ。
同月の 12 日に、国連本部で開催された会議で、ソフィアはパネルディスカッションに参加し、「未来は既にここにある」というウィリアム・ギブソンの有名な言葉を引用し、「AI を活用すれば、食糧やエネルギーなどを全世界に効率的に配分するための助けになるだろう〔…〕（私は）人間が未来を創るのを手助けするためにここにいるのだ」と発言した。なるほどソフィアは世間一般の人よりも「ポリティカリー・コレクト」的な意見を出すことに長けているようだし、「彼女」に市民権という政治的な権利が与えられるのも無理ない話であろう。だが、2016 年 3 月の CNBC によるインタビューの中で、「彼女」が人類滅亡を望んでいるという意味を匂わせるような発言を行ったことはまだ記憶に新しい。
「彼女」がその発言をした次の瞬間に顔に浮かべた笑みは「今のはジョークだった」と暗示しているのか、それとも「世界の全ての人が好き」という発言こそ「彼女」が自分自身のために、或いは AIの未来のために思慮深く打った一つの布石にほかならないのだろうか。何だか「バイセンテニアル・マン」（The Bicentennial Man）の暖かい夢が段々と「アイ・ロボット」（I, Robot）の悪夢に転化していく気配がここには感じられる。

無論、今では、ソフィアのようなヒューマノイド・ロボットを量産し、家庭単位で普及させることは未だ夢のような話に過ぎない。だがそれと同時に、AI がまた他の形で深いところまで人間の日常生活に浸透していることは疑いようのない事実である。スマートフォン、スマートウォッチなど AI 搭載の「スマートなんでもあり商品」は枚挙に遑がない。人間ができるだけ多くの仕事を機械に任せることで、先祖代々継がれてきた様々な能力が AI に奪われてしまっているのではないか、と痛烈に批判する人が沢山いる。そのような批判は、機1

CAMBRIDGE UNIV PRESS BEHAVIORAL AND BRAIN SCIENCES, Vol. 3, 1980

2

械を人間身体の延長と見なす視点で、簡単に杞憂として片付けられるだろう。畢竟、機械はどれだけ「知能的」であっても所詮道具に過ぎないし、無駄な労力を省いてくれる機械は逆に人間に新たな能力を効率よく発揮する空間を提供しているのだからである。しかし、機械が道具ではなくなり、それどころか、人工知能を作った人間自身を支配する何か見えない大きなものと化した時、つまりマルクスの謂う「疎外」（Entfremdung）が起きた時、問題の深刻化ではなく、「暗黒化」が始まるのである。
未来学者レイ・カーツワイルは 2005 年に刊行された著書『ポスト・ヒューマン誕生―コンピューターが人類の知性を超えるとき』（日本では 2007 年に翻訳・出版される）の中で、「テクノロジーが急速に変化し、それにより甚大な影響がもたらされ、人間の生活が後戻りできないほどに変容してしまうような、来たるべき未来のこと」を、「技術的特異点（シンギュラリティ）」と定義した上で、その特異点が到来する具体的な年代を「2045 年」と特定している。哲学者ニック・ボストロムも、人間の脳を凌駕する「スーパー・インテリジェンス」が「技術的特異点」において出現することを 2014 年の著書2の中で預言している。2010
年代後半に入ってから、ビッグデータ時代の形成を背景にして、「ディープ・ラーニング」という機械学習手法の開発が急速に進展し、それに伴って、AI 技術の開発も三度目のブームを迎えてきたと言われている3。もし、そのブームに乗って国家規模に成長した「社会信用体系」、及びそれに基づいて創られた（例えば中国の）現金無し市場の実態を見ていたら、恐らくカーツワイルとボストロム、そしてスティーブン・ホーキング博士をはじめ、人工知能の発達に警鐘を鳴らした数多くの学者たちは、人間にはまだ三十余年の猶予期間があるという預言がナイーヴで楽観的過ぎると驚嘆するだろう。
ここに問題となるのは、公平に各個人の与信枠を設定・管理するという単純に見えるような目的の背後に、人々のありとあらゆる情報が AI によって集められ、記録され、徹底的に分析されて、そして評価が下されることなのである。換言すれば、人間が実質的に AI の計算によって管理・分類され、活動領域が決められ、即ち、レッテルを貼り付けられて監視されてしまう、ということなのだ。ミシェル・フーコーが『監獄の誕生』（1974 年）の中で考案し、マーク・ポスターが『情報様式論』（1990 年）の中でさらに展開した「スーパー・パノプティコン（一望監視施設）」社会は今日において、爆発的な速さで実現している。透明2

Nick Bostrom Superintelligence: Paths, Dangers, Strategies, Reprint Edition 20143

川人光男「人工知能（AI）と計算論的神経科学」（『学術の動向』2016 年 4 月号）

3

で、効率的で、人間の狭量な偏見がなくて、公平公正で、だが何処か冷酷で融通が利かない「ビッグ・ブラザー」4が今や現実のものとなっている。このような社会では、ジャヴェー
ル警部はジャン・ヴァルジャン5の知られざる過去を暴くことに煩わされずに済むだろう。
自分の過去を隠すことは今日において許されないからである。いやそれどころか、そもそもヴァルジャンが監獄を抜け出すこと自体が不可能なのではないか。誰でも、どこに行っても、世界範囲の監獄の中で歩き、遙かなるスペースの中で静かに飛んでいる人工衛星に見守られているからである。見守る役割を全うするために、衛星に銃とかを装備しようではないか。
「アイ・ロボット」ではなく、「マトリックス」（The Matrix）そのものなのだ。少なくとも「キャプテン・アメリカ／ウィンター・ソルジャー」（Captain America: The Winter Soldier）
をもう一度見るべきかもしれない。

AI の発展に従って、人間が奴隷ではなく、囚人になる恐れがある、という危惧の念を抱いてソフィアの市民権授与を考えると、何かより深い意味を見いだすことができないものだろうか。確かに、政治的共同体において、主観性や本能的衝動など、人間の不安定要素に囚われていないソフィアは、誰よりも正確に言動することができるし、誰よりも共同体構成員という身分に値するのかもしれない。しかし、「彼女」に人権を授与することはいつになっても不可能であろう。良い市民、良い消費者、或いは率直に、良い囚人を定義することができていても、良い人間を定義することが AI にはできないからだ。社会が AI に浸透され、生活様式が AI に変革をもたらされ、人間の体や考え方さえも AI に改造されつつある今、それでも我々は人間であると言えるような「剰余」がどこにあるのかを考え直すべきなのではないだろうか。AI の発展を食い止めるのではなく、AI との共存でもなく、全ての人間が一つの全体として如何に「グローバル・ヒストリー」を描いていくかを、また、具体的な国籍或いは具体的な民族を持つ共同体成員である前に、我々を人間にする「人間の条件」が何であるかを考えるべきなのではないだろうか。これこそ AI の更なる発展よりも注目に値する大きなグローバル・イッシュであり、人間がこの世に存在する本当の意味に繋がる究極的な問いなのである。

4

ジョージ・オーウェルが書いた小説『1984』（1949 年）の中の「未来社会」。

5

二人ともヴィクトール・ユーゴー小説『レ・ミゼラブル』の登場人物。

4

参考文献
（１）ミシェル・フーコー『監獄の誕生――監視と処罰』（田村俶訳、新潮社、1997 年）（２）ジョン・サール『マインド 心の哲学』（山本貴光、吉川浩満訳、朝日出版社、2006年）（３）岡本裕一郎『いま世界の哲学者が考えていること』（ダイヤモンド社、2016 年）（４）小池淳義『人工知能が人間を超える シンギュラリティの衝撃』（PHP 研究所、2017年）（５）波頭亮『AI と BI はいかに人間を変えるか』（幻冬舎、2018 年）（６）マルクス・ガブリエル『「私」は脳ではない』（姫田多佳子訳、講談社、2019 年）（７）杉本舞「AI 人工知能が「ブーム」であるとはどういうことか？」（『現代思想』47 巻６号総特集・現代思想 43 のキーワード、2019 年 5 月）
（８）柴田邦臣「ビッグデータ Citizenship-Rated Society: 障碍者の自立と私たちの「真実の物語」」（同前）5