本田財団レポート

No.169第 143 回 本田財団懇談会（2017 年 9 月 19 日）「人工知能研究の現状と社会のデザイン」

東京大学 先端人工知能学教育寄付講座 特任教授

中島

秀之

講師略歴
中島

秀 之 （なかしま ひでゆき）

東京大学 先端人工知能学教育寄付講座 特任教授
公立はこだて未来大学 名誉学長・特任教授

《略

歴》

１９７８年

マサチューセッツ工科大学 AI Lab 交換留学

１９８３年

東大大学院情報工学専門課程修了（工学博士）、電総研入所

１９９１年

電総研

協調アーキテクチャ計画室長

２０００年

産総研

サイバーアシスト研究センター長

２００４年

公立はこだて未来大学 学長

２０１６年

東京大学

特任教授

《主な受賞》
１９８５年

情報処理学会 論文賞

１９８８年

人工知能学会 論文賞

１９９３年

日本認知科学会 論文賞

１９９３年

情報処理学会 山内賞

１９９７年

電子技術総合研究所 業績賞

２００９年

人工知能学会業績賞

２０１０年

情報処理学会功績賞

２０１０年

Distinguished Service Award by PRIMA

２０１２年

船井業績賞

２０１４年

日本ソフトウェア科学会功労賞《主な会員等》
日本認知科学会フェロー
人工知能学会フェロー
情報処理学会フェロー
日本ソフトウェア科学会フェロー

こんばんは。今日はホンダに呼んでいただいて、ある意味すごく喜んでいます。いま東大の先端人工知能学教育寄付講座は 8 社で寄付いただいているのですが、トヨタも寄付してくれて、ホ
ンダさんからは来ていないという残念なところですが（笑）。実は今日は、この中には本田技研やホンダの関係者の方が半分ぐらいいらっしゃるかと思って、最初に私のホンダ党ぶりを少しだけ披露しようと思っています。

図－1■ はじめに〈図－1〉 左が（私が乗っていた）車で右がオートバイです。自分で書いていてびっくりしたのですが、けっこう初代というか、出るなり飛びついているのが多くて。右のオートバイのほうは初代と書いていないですが、明らかに全部初代です。3 番目の CL175 は、日本ではたぶん売っていなかった。175 というのは中途半端な排気量ですが、アメリカで買って乗っていました。
ご紹介いただいたように MIT に 1 年行っていたのですが、その 1 年間もオートバイなしでは過ごせないというので、向こうで実はハーレーを買いにいったら、学生がハーレーを買いにいくとディーラーにばかにされて、「おまえなんかに売ってやらんぞ」みたいな感じで、しょうがなくホ
ンダ車を買っていたのですが（笑）。そんな感じです。

1

■ 本日のプラン

図－2〈図－2〉 今日の話は、やはり工学系の方が多いと思うので、少しトップダウンにやってみよう
かと思っています。科学と工学、情報技術、社会のデザイン、最後に人工知能の話にもっていこうかなと思っています。資料はだいたい 1 ページ 1 分ということで自分でカウントしているので、たぶん最後まで行きません。
「ここからは時間があれば」と書いてありますが、そこから先はたぶん行かないと思いますので、あとでリクエストがあればそのあたりの話もしようかなと思っています。

■ 科学と工学
まず科学と工学の話。私は工学部に入ったのですが、そのときに工学とは科学＋コストだと教わったのですが、最近違うぞと思っているので、まず違う話からしようと思います。

図－3〈図－3〉 英語では science という言葉があって、それは日本語の科学と訳されることが多いですが、最近少しすれ違いを感じています。英語の場合は science と、それに対峙する形で art。
art は芸術という意味もありますが、技術も art ですね。それで重なりがあるというのが大事かと思っています。そうすると少し極端な分け方ですが、science から art を引いた部分が科学で、

2

重なっている部分が工学で、こう言うと芸術家の方は怒るかもしれないですが、art から scienceを引いた部分が芸術。典型的にはこんな感じだと思っています。そうすると科学と工学の違いは何かと言うと、実現手段を持っているかどうかだと私は考えています。

図－4〈図－4〉 あともう 1 つは、視点が違う。これは実はまるっきり別のところから思いついた話ですが、基本的にこの黄色い丸のシステムが、社会でもいいのですが、あったときに、それを超越的な視点から眺めるというのが基本的には science、科学の立場です。人間社会の場合で言うと、
これは神とかの話になります。右側はそういう外にいない、中に全部いる。いちおう赤い丸が研究者だとすると、科学の場合は系を外から眺める。工学の場合は中から眺める。典型的なのは金融工学などです。社会工学というのでしょうか。社会の仕組みを自分たちで変えると、当然自分たちもその影響を受けるということで、左側のように研究者は独立でいられないということが典型的かと思います。
こういう話をしていたら、（上記スライドの）一番上の保立和夫先生が、私は直接存じ上げないのですが、退官記念講演で「科学は神と語らい、工学は社会と語らう」とおっしゃったそうですが、ちょうどそんなことを私も考えていました。
ちなみに余談ですが、量子力学ぐらいから左側でいられなくなったのです。小さな素粒子というのは観測すると系に影響を与えてしまうので、必然的に右のほうになってきたという話がありますから、そう単純ではないのですが、大雑把に言うとこんな感じ。

■ 視点の違い
それで今の視点で、外にある視点と中にある視点というのが、あちらこちらでそういう話をしていたら「こんな例があるよ」と教えていただいた。言語学の池上嘉彦さんが、NHK でこの話をなさったと聞きました。川端康成の『雪国』の第 1 文の「国境の長いトンネルを抜けると雪国であった」。これは第 1 文だけが有名で、第 2 文を知っている人はほとんどいないと思うのですが、ご存じの方はいらっしゃいますか。そうでしょう。私もこの第 1 文しか知らなかったのですが、いちおうこういうのを紹介するときには、しょうがないから買って読みましたが、あれがなぜノーベル賞をもらったかよくわからないです。

3

いずれにしても、この「国境の長いトンネルを抜けると雪国であった」という第 1 文を英語に訳すと、Seidensticker という川端康成を世界に紹介してノーベル賞のきっかけになった人だか
ら変な英語ではないのですが、“The train came out of the long tunnel into the snow country”。
これを池上さんが NHK で、私はその番組を見ていないのですが、左は英語ネイティブ、右は日本
語ネイティブの視聴者の人に絵にしてもらったらどうなったかというのが〈図－5〉です。これは私が書いた絵ですが。

図－5〈図－5〉 英語は“Train came out of the long tunnel into the snow country”で、「出てきた」と書いてあるわけです。日本語のほうは実は列車と一言も書いていない。しかしイメージとしては自分が乗って、主人公と一緒に雪国に出ていくという記述になっていると思うのですが、このような違いがある。ある意味、左が科学の視点、右が工学の視点ということです。AI においても右の視点が大事。これは両方もちろん必要で、どちらかだけでいいと言っているわけではないのですが、けっこう今まで右の視点が、特に科学という場では忘れ去られていたように思います。

■ 情報とは何か

図－6〈図－6〉 ここで話をガラッと変えますが、情報とは何かというときに、実は物質やエネルギー4

に並ぶ世界観であると、私は 2000 年ごろからずっと言っていたのです。物質とエネルギーというのは実は物理学の対象で、情報だけが情報工学の対象。だからそういう意味で少し違います。
どう違うかはあとで説明しますが、歴史的に見ると、農耕社会、世界四大文明ができた頃は基本
的に衣食住が大事だった。特に食糧を自分たちでつくれるようになったのは画期的だったわけですが、これは物質革命と呼べると思います。その次が産業革命というかエネルギー革命です。
工業社会ができてきた。最初は蒸気機関ですが、エネルギーを自分たちでふんだんに扱えるようになったのが次の大きな変化です。それで最近やってきたのが情報社会。情報を自分たちで扱えるようになったということです。
「世界観である」という意味は、世界を全部物質で見て記述することもできるし、全部エネルギーで見て記述することもできるし、全部情報として記述することもできる。どれがドミナントかという違いで、世の中に物質とエネルギーと情報と 3 つあるぞということではないと思っています。

■ Society 5.0
現在はご存じのようにビッグデータなどの時代ですが、これから先に人間中心の社会、価値や物語、サービスというのが来るだろうと言っていたのです。しかし、ある意味 2000 年ごろは AI
がこんなにバズワードになると思っていなかったので入れていなかったのですが、今から言えば
AI の時代ということだと思います。

図－7〈図－7〉 去年ぐらい、内閣府が中心にまとめた第五期科学技術基本計画に書いてありますが、Society 5.0 をやるのだというのがそっくり同じ。私は Society 1.0 のことを忘れていたのです
が、要するに何もつくらない、狩猟・採集社会が最初にあって、2.0 が農耕社会、3.0 が工業社会、
4.0 が情報社会、5.0 は未定義ですが超スマート社会というように呼ばれている。次に来る社会を目指すということですね。
これを見ると面白いのは、どれぐらい続いていたかという年代の話です。狩猟社会は人類の誕
生とともにですから約 100 万年、ホモサピエンスは 20 万年ですか、とにかく 100 万年のオーダー。
農耕社会というのは、先ほどの世界四大文明とかだから約 1 万年。工業社会に至っては、18 世紀半ばですから 300 年ぐらい。情報社会はコンピュータの出現から見ても 60 年、インターネットか5ら見れば 20 年、いずれにしても数十年のオーダーです。ですから 1 桁か 2 桁ずつ減っているのがわかります。これから外挿すると、超スマート社会は数年のオーダー。だから数年でやってきて、数年で消え去るというぐらい速いということがわかると思います。
実はその話は、カーツワイルが書いた『シンギュラリティは近い』 *1 にある意味合致する。
シンギュラリティの話は最後に時間があったらしようと思っていたのですが、いろいろな説がある。
AI が人間を置いてきぼりにするなど怖い話もたくさんありますが、基本的にカーツワイルが言いたかったのは、技術が加速して倍々に速くなっている、そこに備えましょうという話ですから、
図らずも内閣府の Society 5.0 と同じような話になっていると思います。

■ 情報技術
そう思ったときに情報技術の話を見ると、実は、情報とは世界観だと言ったけれども、そう思っている人はかなり少ない。世の中一般に話をしていると、どうも「情報＝インターネット」だと思っている人が多い。最近「AI＝Deep Learning」だと思っている人が多いのと同じです。
実は情報の通信、インターネットがやっていることはごく限られたコンピュータの使い方です。
どう限られているかと言うと、両側に人がいる。ウェブサイトでも何でもそうですが、書くのは人だし読むのも人。コンピュータが間に入って、検索したり圧縮したり暗号化したりしていますが、基本的に人間が読むときに元に戻す。ですから人から人へ。その途中は昔から狼煙や電話や放送などいろいろなものがあって、それがインターネットという手段になって格段に速く広域になりましたが、やっている中身、質としては昔から変わっていない。

図－8
〈図－8〉

それに対して情報の処理ということを考えると、実は可能性がすごく広がります。

（上記スライドに）典型的な 3 つを書いたのですが、もっとほかにもあるかもしれない。一番上
は対象をコンピュータが勝手に処理してしまう、いわゆる自動処理というものです。自動制御とか、工場でロボットが勝手に機械を組み立てるような話。
真ん中がたぶん一番普通にあるのですが、対象と人の間にコンピュータが入っていろいろ処理をしてくれる。これは通信ではなくて、例えばデータマイニングはデータを処理して大量のデー
タから知識を取り出してくる。あと自動翻訳とかいろいろなことをやってくれるのが真ん中の例。

6

一番下は少し面白いかなと思うのですが、現実がなくてもいい、仮想現実という技術もあります。
それからコンピュータシミュレーション。要するに現実世界がないところで、コンピュータの中だけで世界をつくって、それを人に提供してくれるような話があります。たぶん、これ以外にもいろいろなことが考えられると思います。
ちなみに私がよく言っているのは、情報とは物理量ではない。先ほど申し上げたように、物質とエネルギーは物理法則に従いますが、情報は物理法則に従っていないので、物理の制約を受けていない。何に従っているかと言うと、実はこれは人間の想像力だけが限界かと思っています。
要するに思いつけば何でもできる世界。そこが物質やエネルギーとずいずん違う。それで思いつけば何でもできるのに、あまり思いついていないところが非常に残念かなと。

■ 「情報化」と e-Tax
最近というか 20 年ぐらい前、2000 年ごろでしょうか。いろいろなところで「情報化」という言葉がはやった。
「情報化」という言い方も悪いと思うのですが、何が起こったかと言うと、今までコンピュータなしにやっていた仕組みをそのままコンピュータの上に載せ替えただけ。実はコンピュータがあればもっと違う仕組みができるのに、そこを全然使っていない。
いつも典型例としてやり玉に挙げているのが e-Tax です。確定申告を電子化してくれたのですが、あれは何が起こっているかと言うと、紙に印刷してきた源泉徴収票をこちらがコンピュータに入れ直す。コンピュータがやっているのは、たぶん表計算はやってくれますが、それだけ。
あとは電子認証とか、これも面倒くさいのですが、それを使って郵便を使わないで送れるだけ。
仕組みはまるっきり変わっていないわけです。
しかしインターネットがあり、情報処理ができるとしたら、タックス計算なんてコンピュータ
で全部できるはずですよね。その代わり脱税もできなくなりますが。
「あなたはここでこれだけ収入があった。だから今年の税金はいくらですが、これで確かですか」ということだけチェックに来て、イエス、ノーだけ返せばいいというのが本来あるべき e-Tax だと思います。全然そうなっていない。これは e-Tax だけでなく、ほかにもいろいろなところで従来の仕組みそのままをコンピュータに置き換えたという例があまりにも多く見られます。

7

■ IoT（Internet of Things）

図－9〈図－9〉 もう 1 つ、日本で困るのは、概念がいったんアメリカに行って、帰ってこないと騒がない。最近 IoT（Internet of Things）というのがいろいろなところで言われていますが、これは 1990 年ごろから研究者の間ではずっとやっていたことです。言い方は違って、ユビキタスコン
ピューティングとか Ambient Intelligence とかいろいろな言い方をしていますが、そもそも日本で慶應の村井純さんたちが IPv6 で提案したのは、モノを全部インターネットでつないだら今のア
ドレス空間では足りないから増やさなければいけない。まさに Internet of Things の考え方だったわけです。ちなみにこの『HANDBOOK OF AMBIENT INTELLIGENCE AND SMART ENVIRONMENTS』 *2というのは、私とアメリカとヨーロッパのエディター3 人でまとめたのですが、この本が面白いのは、エディター3 人は 1 度も顔を合わせていない。インターネットの上だけでつくってしまい
ましたという本です。

図－10〈図－10〉 村井純氏が 2000 年の IPv6 サミットで上記のような話をしていた。自動車を全部インターネットにつなぐと、ワイパーが動いているかどうかの情報がとれて、車のワイパーが動い8ているところだけを地図上にプロットすると雨の降っている地域がわかるという話です。考え方としては、今の IoT そのままの先取り。なぜ日本ではこの頃叫ばずに、最近アメリカが IoT と言ってから叫んでいるかよくわからないというのが、私の不満ではあります。

■ IT と AI

図－11〈図－11〉 今 IT の話をしたのですが、AI のほうにだんだん振っていくのですが、分野の地図を少し整理するために書いてみました。基本的に AI は IT の一部で、情報を扱う体系。先ほど言っていた IoT（Internet of Things）や環境知能というのは、わりと両者にまたがる部分にあります。右の AI のほうだけで見ると、大きな主流が 2 つある。私は知識表現や推論のほうをやっていました。もう 1 つは機械学習です。今の Deep Learning は機械学習の最先端と考えることができます。
機械学習の中で、特に Neural Networks という技術があって、それの一番進んでいるのが Deep
Learning です。Deep Learning だけ丸く書いたのは、AI の眼だという人たちがいて、私もけっこうそう思っている。どういうことかと言うと、画像認識などが飛躍的に向上しました。今や写真で顔の認識をする認識率は、人間より AI のほうがいいというようになっています。まだ九十何パーセントですが。人間でも写真を見て誰だかわからない、あるいは別の人だと思ってしまうとい
うのはたまにありますが、それが AI のほうがいい。ですから顔を見て、顔認証で。今度の iPhone
Ⅹは顔認証だという話を聞きますが、そのようになっている。
いずれにしても画像の認識が飛躍的に進んだことと、今の Internet of Things、要するにすべてのモノをインターネットで結ぶということをうまくくっつけると、AI あるいはコンピュータが実世界に出てきてわれわれのいろいろな活動を助けてくれる。自動運転もその一種ですが、そういう形になるのかなと思っています。

9

■ 社会のデザイン

図－12〈図－12〉 そういう技術ができたときに、先ほど言いましたが、思いつけば何でもできるというのをもっと思いつきましょうというのが次の話です。
（上記スライドに）ごく一部だけ書いていますが、もっと大きな世界が広がっていると思います。しかし企業の人たちと話していても、こちらのほうに関心を持たれている方がわりと少ない。どういう製品をつくりましょうか、AI で何をつくればいいですか、AI でどういうサービスをすればいいですかという話は皆さん考えていらっしゃるのですが、AI で自分たちの企業をどう変えましょうかと言っている企業があまりない。
実は組織のマネジメントは変えられるし、変わらなければいけないと思っています。最近の働き方改革も、どちらかと言うと先ほどの e-Tax に似たものを感じます。今のインターネットがな
かった頃の会社組織を前提として「働き方を変えていきましょう」と言っているのですが、インターネットや AI があれば、実は会社組織というものの存在が要らなくなる。
昔『Mission Impossible』というテレビ番組があった。最近トム・クルーズが映画にしたのはアクションものですが、昔のはけっこう知的なミッションでした。日本名は『スパイ大作戦』です。
それの毎回最初に何が起こっていたかと言うと、ミッションが来て、そのミッションに合わせてメンバーを選ぶのです。メンバーの大きなファイルから、こいつとこいつとこいつとやっていたのですが、そういう組織ができる。要するにみんなが自分はどういう特技があるかを全部登録しておいて、企業が何かのミッションをしようと思ったときにマッチングをやる。このマッチング
も、例えば日本で言うと 1 億人ぐらいいる働き手の中から選んでくるというのは人手ではできないですから、コンピュータというか AI のマッチングを使って組織をつくり出して、仕事、ミッシ
ョンを行うようなことが可能なわけです。
2 番目は社会的意思決定システム、短く言うと政治です。これもインターネット以前の政治の形がまるっきり変わっていない。一番大きいのは投票システムと、もう 1 つは代議員制度。要す
るにわれわれは議員を選ぶことしかできなくて、その議員が国会や県議会で議論をするという二重構造になっているわけです。しかし技術的には今はインターネットの上でみんながダイレクトに議論することが可能です。ツイッターのように言いっぱなしにしてしまうと収拾がつかないので、誰かがきちんと議事を進行するというかまとめ役をやらなければいけないのですが、そうい

10

うのをプログラムにやらせて、今どういう議論がどう起こっているかという議論の構造を明示して、みんなで議論していくことも可能なわけです。
経済システムは次に例があるのでそちらでお話しますが、資本主義が崩れるという話がもう始まっています。
あと人のことばかり言っているわけにはいかなくて、大学は教育が仕事ですが、自分たちの教育も変えなければいけないということがあります。1 つ例をとると、たぶん入試が変えられる。
個人的には、入試で知識を問うのはナンセンスだと思っている。なぜかと言うと、知識は検索す
れば全部出てきますから、入試をスマホ持ち込み可にしたらどうかと思っています。しかし言うのはいいですが、これをやったら試験をつくるほうも採点するほうもえらく大変です。いわゆる知識の問題が問えないですから。そうするとそうやった瞬間に、たぶんコンピュータで採点するとか出題するということをやらないと追いつかない。人間がやっていたのでは毎年あんな入試はできないということになるので、教育も AI があれば変えられるということです。

■ IoT、AI 時代の経営
冨山和彦さんの『AI 経営で会社は甦る』*3 の中には、甦るのではなく「日本はこのままだと滅ぶぞ」と実は書いてあるのですが、とにかく変わっていかなければいけないということを言われています。
一番大きいのは、先ほどの技術がどんどん加速しているというときに、大きなイノベーションがほぼ毎年起こる。われわれの分野で言うと、コンピュータ囲碁とかいろいろなことが、あと 20～
30 年かかると思っていたことがどんどんできて、毎年そういうイベントが起こっているのですが、たぶん世の中でそういうことが起こったときに、今までの固定的な企業の組織だともうついてい
けないという話があります。ですから、先ほどのミッションインポッシブル方式のようなことをやらざるを得ない。
実は Google という企業は、ある意味それをやっているのです。何か技術を持った企業を買収して、要らなくなったら売ってしまうことでどんどん新陳代謝をしている。そういう意味でカリフ
ォルニアや米国の企業はそういうことをたくさん始めているにもかかわらず、日本はあまりやっていないというのが冨山さんが警告を発しているところです。

■ 産業構造の変化
産業構造自体は、これはご存じと思いますが、「モノ」から「サービス」へ売るものが変わってきている。日本で一番先進的だと思うのはコマツです。あれは IoT というか、世界中のコマツの重機をインターネットで結んで管理している。航空機のエンジンも今そうなりつつあって、エン
ジンはゼネラルエレクトリック社などがつくっているわけですが、ボーイングやエアバスにはもう売らないのです。GE が持ったまま世界中飛んでいて、ずっとモニターしていて必要なメンテナ
ンスをやるようになっています。
そう思うと自動車もたぶん、私のような一部の車好きは買うでしょうが、大部分の人は乗れればいいのだから自分で所有することはなくなってくると思います。そのように産業構造が、モノを売ってもうけるのではなく、サービスでもうける時代になる。
Amazon が出てきた頃は、インターネット上の本屋さんだった。楽天ブックスと似たようなもの

11

だと最初のうちは思っていたのですが、今や雲泥の差ですよね。Amazon は総合的企業になりつつある。インターネットで受注するのはそうですが、ほかの人たちが売る場をつくっている。
それから工場自体を機械化しようとしている。Amazon picking challenge というのがあります。
これはロボット。今までは工業用ロボット、特に自動車の組み立てなどをやっていたロボットは
目がなくて、部品が定められた位置に定められた角度で置いていないとできなかったわけです。
軌道が綿密に決められていて、そのとおり手を動かすとそこにモノがある、あるいはボディがあるようになっている環境でないと動かなかったのです。しかし Amazon がやろうとしているのは、
とにかくバサッと箱の中にランダムに入っているときに、その中から欲しいモノ、目的のモノだ
けをピッキングする技術。これは目があるからできるわけです。それはまだ実用化されていないので、年に 1 回 Amazon picking challenge を開催していて、それを盛り立てようとしています。
それから配送も、ご存じのようにドローンを使おうという話。日本はドローンを目視の範囲でしか飛ばしてはいけないと言ったら配送に使えないので困るのですが、そういう意味でも少し遅れていると思います。いずれにしても Amazon 自体が総合商社化しているような気がしています。

■ 資本主義から共有型経済へ『限界費用ゼロ社会』*4 もアメリカで出た本です。インターネットでいろいろなコストが下がる。
先ほどの Amazon もいい例ですが、個人がインターネット上で商売するときの最初の資本投下があまり要らない。それから 1 個ずつのサービスのコストもそんなにかからない。限界値としては費用がゼロになる方向に向かうだろうという話です。
そうすると今までの資本主義経済というのは、当然大きな資本を持って、資本投下をして設備投資をしてやらなければいけないというモデルだったのですが、そういう設備投資が要らなくなってくる。あるいは大きな設備が必要でも、それをみんなでシェアすればいい。そうなってくると、資本を持っている人が勝ちということではだんだんなくなってくる。
特に私は思っているのですが、お金を持っている人が広告を出している広告モデル、僕はあれが昔から嫌いなのですが、あのモデルが崩れる。たぶん広告を出さなくても、自分たちのサービスをインターネット上に出していること自体が広告になってくると思います。そうすると、実はGoogle は今収入の 8 割が広告です。検索やいろいろなことをやっていますが、端のほうに広告が出て、あちらでもうけているわけです。たぶん Google の広告モデルももうじき立ち行かなくなるだろう。
最近、Google はあと 5 年でなくなるということを言い始めていて、この間カリフォルニアに行ったときに Google を訪問して、「私は日本でこういうことを言っているんだけど」と言ったら、向こうも「そうだろう」と言っていました。もう次のビジネスモデルを一生懸命考えているようですから、たぶん本当に 5 年で、Google という名前は残るのかな、たぶん残らないような気がします。ドラスティックに違う企業が生まれてくると思います。

12

■ ベーシックインカム＝負の税金

図－13〈図－13〉 AI が仕事を奪うという話があちらこちらにあって、今ある仕事の半分ぐらいはもう
じきなくなるという話。半分では済まないような気がするのですが、かなりの部分がなくなっていく。特に知的単純作業はコンピュータでできるので、ごく一部の創造的なものしか残らない。
仕事がなくなって困ると皆さんおっしゃるのですが、私は仕事をしなくていいならそんなにいいことはないと思っている。困るのは収入がなくなることのほうで、仕事がなくなることではないと思う。それでベーシックインカムという話が出てきています。
基本的に世に言われているのは全員に同じ金額をばらまけという話ですが、とある経済学の人から聞いたら、負の税金だと思った方がいいという言い方をされている。どういうことかと言うと、何も税金がなければ、得たものは全部自分の収入ですから、得たものと収入は 45 度の直線に乗る
わけですが、普通は税金をとってこれを下げるわけです。
（上図は）上のほうだけ今下げているのですが、下のほうを逆に上げるということをやれば、こういう直線になる。だからこの 45 度ではなくて、緑の線になって、ベーシックなラインが保障できる。これのいいところは、ベンチャーを興して失敗しても死なないということですよね。要するに職がなくても生きていけるけれども、働けば収入は増える、今ほど急ではないけれども、というような社会が来るのではないか。
この負の税金の分はどこから来るのかという話ですが、AI が職を奪うということは、人間より生産性が高い、あるいは労働コストが安いから職を奪っているわけなので、AI を使っている会社
は今よりもうかっているはずなので、そこからとればいいということになると思います。
二宮尊徳がこう言っています、「道徳なき経済は罪悪であり、経済なき道徳は寝言である」。

■ 情報革命と SAVS
少し自分たちの話に近づけたいと思います。情報革命とはインターネットが基本的に大きなことを担って、要するにいつでも、どこでも、誰でも情報がとれる世界になったわけです。しかしモノの移動はまだそうなっていない。だから Amazon で検索してモノの注文はできるのですが、最後はクロネコヤマトでやってくる。ここを何とかしたいという話を、十数年ずっとやっていました。
典型的に言うと、公共交通を非常によくしたい。函館にいたのですが、函館というのは人口が13どんどん減っていく、高齢化していくと同時に公共交通がなかなか使いものにならない。特にお年寄りが病院に行くのにほとんど使えないらしいのです。それで何が起こっているかと言うと、1つには枯れ葉マークと言ってはいけない、もみじマークの車がたくさん増えたのと、あとは家の人が仕方なく病院まで送るようなことになっているのですが、そういうことをしなくていいように公共交通を充実しましょうというプロジェクトをずっとやっています。
コンピュータのクラウド化というのがあって、あれは CPU やメモリを自分で買わなくてもインターネット上のものを使いたいだけ使わせてくれるサービスです。あれと同じで、タクシーやバスの時刻表を調べるとか呼ぶとかしなくても、A 地点から B 地点に行きたいというリクエストを挙げれば、コンピュータが全部管理していて最適なものがやってくるというシステムをつくりま
した。

図－14
〈図－14〉 最初はフルデマンドバスと言っていたのですが、そうしたらタクシー会社の人が困る、どうしてくれるんだという話になったので、バスともタクシーとも言わないことにして、Smart
Access Vehicle System（SAVS）と呼んでいます。ちなみに函館はサブちゃんが生まれた故郷なので受けるかなと思ってつけたのですが、誰も喜んでくれていません。
いずれにしてもモビリティを提供する。実はモビリティのいいところは、モビリティ自体は手段です。移動したいというのは最終ゴールではなく、レストランに行きたい、病院に行きたいか
ら移動するわけですから、レストランや病院のサービスをモビリティの上に乗せて連携することが可能になります。モビリティ自体としては、バスより待たずに乗れる。タクシーも乗り合いでやるのですが、値段的にもバスとタクシーの間ぐらいを考えています。あとコンピュータが全部の車の現在地とルートを管理しているので、自動運転とも非常に相性がいい。

14

図－15
〈図－15〉 実証実験では過疎地しかだめだというのが、特にフルデマンド乗り合いバスなどをやっている人たちの常識ですが、実は都会ほどいいというのがコンピュータシミュレーションで出ています。ですから本当は東京でやると今よりもっとよくなるのですが、東京はそんなに困っていらっしゃらないのであまりインセンティブがなくて、地方からばかりお声がかかります。

図－16〈図－16〉 もう 1 つは、徐々に導入すると赤い U 字カーブ、緑はだんだん効率が上がる、それからバスをだんだん減らしていくのだけれども、合計するとこんなカーブになって、これだと経済原理ではこちらに行かないのです。2 つ山があって、この山にとどまったままになる。これは U 字発展問題といって、困ったなと思っていたのですが、あるとき解決策に気がつきました。
これはやはり情報システムというかコンピュータシステムの柔軟性だと思っています。

15

図－17

図－18

〈図－17,18〉 何をやろうとしているかと言うと、今あるタクシー運行、バス運行をしたまま、それに端末だけ積んでもらう。それでその端末の指示に従って、バスは定時運行する。それからタクシーは客の呼び出しに今のとおり応えていく。ですからコンピュータシステムを積んでいるのですが、それは今のやり方をサポートする。ところがプログラムを変えればそのまま SAV になるので、ある 1 日だけ SAV 方式で動かすことができるし、次に戻すことができる。そうすると企業も顧客もだんだん慣れてくるので、ある日「やはり SAV のほうがいいね」とわかったら、その日から移すことができる。要するに谷間を通らなくていいというのがわかりました。
基本的にはタブレット端末をタクシーやバスに積むだけなので、初期投資はそんなにかからない。
昔はきちんとタクシー無線やデジタル無線の仕組みを考えて通信費がかからない方が良いと思っていたのですが、今の電話ネット、スマホなどのネットワークに乗っていたほうが初期投資が少なくていいというのに気がつきました。

■ AI の歴史
さて、いよいよ AI のところにやってきました。AI と IT はどう違うのか、どこが境なのか。
私は NEDO（新エネルギー・産業技術総合開発機構）で AI 系のアドバイザーをやっているのですが、最初の頃は AI とロボット、AI と IT はどこが違うかと、お役所はすぐ切り分けをしようとするのですが、AI と IT は境目がないということをずっと主張してきました。ちなみに AI とロボッ
トも境目がないです。

16

図－19
〈図－19〉 知能の定義とは、情報が不足した状況で適切に処理する能力だと私は考えています。
この「情報が不足している」というのは、実はすごくやっかいなことです。情報が完全にあれば、
いわゆるアルゴリズム。アルゴリズムというのは手順が決まっていて、その決められた手順に従って計算しているといつか答えが出て、それが正しいとわかっているという手続きがあるわけです。
しかし情報が不足していると、そういうのがない。そこで何とかするのが AI だと思っています。
そうするとある意味 AI は IT の先鋒で、処理の仕方がよくわからない、要するにアルゴリズムにならないうちは AI と呼ばれていて、だんだん処理の仕方がわかってくると IT だと。かな漢字
変換や文字の読み取り、顔認識などは、私が勉強を始めた頃はけっこう中心的な話題でした。
しかし今これらは実用化されているので、たぶんみんなあまり AI だと思っていないし、研究もされていない。今は自動運転や機械翻訳が中心です。これも先ほどの Society 5.0 になれば、たぶん AI とは呼ばれていない。あと 5 年で呼ばれなくなると思っているところです。ですから AI は
IT の一部だということ。

図－20〈図－20〉 それでその知能の研究をどうやるか。実は基本的に（上記）1 と 2 が大きな立場の分かれです。先ほどの分野地図にも書いていたのですが、記号でいろいろな処理をするのと、Neural Networks のようにパターンで処理をする。2 のほうは基本的に学習に使われることが多いのですが、とにかく 1 と 2 は相補的な関係にある。あと環境との相互作用というのは私が研究し17ていた 1 つのトピックスですが、それが非常に大事だと思っているところです。これを 3 つ全部合わせるとうまくいくと考えている。だから今は 2 の Deep Learning が盛んに言われていますが、Deep Learning ですべてが行くわけではない。その周りにやはり記号処理を乗せていきたいと思っています。
最初に記号さえ扱えば何でもできると思っていた明るい頃があって、その当時は環境の情報を認識して、全部ここで記号にします、記号のシステムの上だけで推論して行動するという問題があった。そうすると記号だけでいろいろなことをやろうとすると、フレーム問題というのが出てくる。今日は説明する暇がないのですが。
最初の頃、記号を扱える機械、要するにコンピュータができたときは、例えば機械翻訳で辞書と文法書さえあれば翻訳はできると思っていたわけですが、実はいろいろな意味、常識を扱わな
いと処理ができないということになりました。文法だけではだめだということです。

図－21〈図－21〉 ホンダだから二輪の話題を出します。
（上記スライドは）ついこの間、私が通っているある店のダイレクトメールに、とにかくいい品をつくって、「こうする事で転倒時に車体に対してのダメージを最大限に抑えています」と書いてあったのです。普通これは最小限だよねと思うのですが、よくよく考えると、これはどちらを書いても同じ意味にとれるのです。
「最大限に抑える」という係り受け、それから「ダメージを最小限に」という。これは人間がやるわけです。とにかく裏に常識があるから、どちらに書かれたって意味がわかってしまう。このあたりがコンピュー
タだとなかなか難しいかなと。逆も当然あって、同じ文が 2 通りにとれたときに、どちらにするのかというのもあります。

18

■ Deep Learning の変遷

図－22〈図－22〉 Deep Learning の話をしなければいけないのでやっておくと、Neural Networks も実
は 3 段階ぐらいに進歩している。最初はこういうシンプルな入力と出力がダイレクトに結ばれて、ここの結線の重みを変えることによって学習するというパーセプトロンというシステムが 1960
年代にできました。これだとあまり複雑なことが学習できない。真ん中の中間層を入れることによってかなりいろいろなことができるようになった。実はこの中間層を入れるとどう学習していいか、この頃わかっていなかった。これを最初に発見、発明したのは、当時、東大の甘利さんで、今は理研の脳科学にいます。しかしそれは残念ながら日本だけで、アメリカには伝わっていない。
アメリカの人が 10 年後に再発見して、多層パーセプトロンが実用化した。
Deep Learning とは何が Deep かと言うと、この中間層が深いのです。そういう意味で Deep
Learning。Deep Learning は日本語で深層学習という訳がついています。この前小学校の先生た
ちが、「子供たちに深い学習をさせたいので Deep Learning を教えてください」とやってきたのですが、少し違いますという話はしました。深いことによって、ここの中にいろいろな概念を自らつくることができるというのが大きいところです。
この B）の頃と C）の頃で学習の規則は何も変わっていない。何が変わったかと言うと、コンピ
ュータが速くなった。これは 1990 年代ではとても扱えなかった。今でもかなり限界っぽいですが、
とにかくコンピュータが速くなった。
どれぐらい速くなったかと言うと、ムーアの法則というのがあって、だいたい 2～3 年で速度が倍になるというのがずっと続いています。簡単のために 2 年で倍になるとすると、20 年で 1000倍になるわけです。ですからこの B）の頃から C）の頃に 1000 倍以上コンピュータが速くなったということで、やっとできるようになったということです。

■ 暗黙知を扱う
Deep Learning とは何かと言うと、教師なし学習、見せておけば何か発見するというのができるようになった。いろいろ工夫はあるのですが、いわゆる暗黙知。とにかく昔エキスパートシス
テムなどでエキスパートの人から聞き取って、その知識をプログラムしようとしていたのですが、

19

やはりエキスパート自身が気がついていない、あるいは言葉にできないというのがたくさんあった。
親方は「おれのやっているのを見て盗め」と偉そうに言っていたのですが、あれは自分で言葉にできなかったからそう言っていただけだと思います。とにかくその言葉にできないことを、Deep
Learning に見せておけば何かやるというのがかなり衝撃的で、暗黙知というものが扱えるようになったということだと思っています。
ちなみに Deep Learning の結果は何を学習したかよくわからないから使えないとおっしゃる方もいるのですが、何を学習したかわからなくてもいいところに使えばいい。あるいは今まで言葉にできなかった部分に使えば、どうせ言葉にならないのですから、それでいいのではないかと思っています。

■ Alpha GO

図－23〈図－23〉 Alpha GO はすごく衝撃的で、2016 年にコンピュータ囲碁が韓国のチャンピオンに勝った。細かい話はしませんが、ものすごい計算量をこなしている。例えばプロ棋士の 3000 万局面のデータベースから学習しているとか、あと試行錯誤で先読みをやるのですが、1 手あたり 10 万回やっているということをやっています。Deep Learning に使うのは GPU というゲーム用のマシ
ンで、約 1000 台を 1 カ月かけて学習させたと聞いています。日本で「コンピュータ囲碁のプログ
ラムに学習させるから、京を 1 カ月貸してくれ」と言ったら絶対通らないと思うのですが、Googleの資金力でできたのだと思います。とにかくそれぐらい計算量がいる。
Alpha GO は Deep Learning を、次の一手を学習するのに使っています。ですから弱い AI という言い方をしますが、自分で何をやっているかわからないけれども、とにかく盤面を見せたら次の一手が出てくる。どうしてかと言ってもわからないというのが Deep Learning。

20

図－24
〈図－24〉 強化学習というのは、いわゆるプロがやる先読みです。いちおうランダムに打ってみて、強かった、うまくいったものだけを残すようにするのですが、ここまで行くといわゆる先読みまでできる。だいたいプロの囲碁の解説を見ていても、こう打つとこうなってこうなってという先読みの話をなさるのが多い。だから先読みというのは理屈がわかっているということだと思っているのですが、Alpha GO はこの 2 階層からできている。

図－25〈図－25〉 ある意味、弱い AI というのは、与えられた目的を盲目的に実行する。自分が何をやっているかわからない。それから記号推論まで行くと、与えられた目的をいちおう理解して実行できるところに行くのですが、自分の存在について語れるところまで行かないと目的をつくることができない。これはメタ推論という言い方をしています。実は現在われわれが持っている技術は青い部分だけで、山吹色の部分は当然やりたいのですができていません。
人類を滅ぼしに来るターミネーターのスカイネットというのは、このメタ推論をやったわけです。もともとスカイネットは人類の防衛のためにつくられたのですが、彼が勝手にメタ推論をやって、実は人間が邪魔なのだということに気がついて攻撃に来る。ですから少なくとも今の技術
ではスカイネットはつくれないので、ご安心くださいということです。

21

図－26
〈図－26〉 Brooks という MIT のロボット屋さんがつくった成果の 1 つが掃除機のルンバです。
あれは環境、行動、推論、認識を全部並行にやってしまおうというものです。最初のモデルは、認識をやった結果、全部記号にして推論をやって行動するというので破綻したのですが、一緒にやってしまう。だからそれぞれ違うループを回す。ルンバは環境と行動のところのループだけで売り出した。要するに、物にぶつからずに歩き回っていたら掃除できるでしょうという。

図－27〈図－27〉 先ほど少し言いました、軌道を決めて制御しているのが工業用ロボットですが、最近は目をつけてフィードバック系を使うようになっています。動物などは、人間もそうですが、
最短時間制御という、軌道を決めているわけではないということがわかってきています。

22

■ 環境との相互作用

図－28〈図－28〉 そうすると先ほどの Brooks の話の外側に、（上記スライドは）環境のところまで色を塗っただけですが、環境もシステムの一部という考え方があって、これだと非常にいろいろなことがうまくいくと思っています。生物学の世界やシステム論などでいろいろな人が同じことを言っていますが、平たく言うと環境に計算させる。要するに全部中で自分で計算してしまおうと思うと大変だけれども、環境を使えばいい。
この前ちょうど山登りの番組を見ていたら面白い例がありました。山を登るときに浮石、グラグラしている石があって、あれを踏むと危ない。見ただけではわからないので、ちょっと乗ってみなさいと。環境に計算させるというのはあれです。要するに今までは乗る前にいろいろなことを測定して、浮石かどうかを知ってからやろうとしていたわけです。そうではなくて、乗ってみればいいではないか。ただし全部の力をかけずにやると、石のほうが勝手に動いてくれる。ですからこちらが一生懸命計算しなくていいということです。そういうやり方がいいと思っています。

図－29〈図－29〉 考えてみれば、ほかの芸術の分野では昔からやっていた。
（上記スライドは）備前焼
ですが、この模様は陶工がつくったわけではなく、火や灰のまわりが勝手につくった。陶工はいいものだけ選んで残りは割ってしまう。そういうセレクションは人間がやりますが、模様自体は、お膳立てはしますが火がつくった。2015 年に出した本の表紙に薄墨を使わせてもらいましたが、23

薄墨も同じで、紙と水と墨のインタラクションで予期しない模様が出てくる。このようなことが環境に計算させる芸術のバージョンです。
『昆虫はすごい』*5 という本が評判になって、そこに養老さんが加わって『昆虫はもっとすごい』*6という対談が出たのですが、養老さんが前書きに書いていることがわりと面白い。生物学、昆虫ですが、今までは 1 つの種が何をしているかという話をしていたのですが、今後の中心は共生だ
ろうと書いている。要するに共生ということは、1 つの種に閉じずにほかの種を環境と見るわけですが、環境との相互作用ということで、生物、昆虫を見ていこうということだと思います。

■ 学習と教育

図－30〈図－30〉 それともう 1 つあるのは学習です。ダーウィン以来、最近はわからないけれども、私が高校や大学で習った進化は DNA だけです。DNA とか環境との相互作用。教育の話は一切出てこなかったのですが、最近いろいろなところで、動物、例えば鳥やクジラは親から歌を学習するというような話がわかってきている。そうすると DNA の進化と教育の進化がパラレルに起こっている。これはどちらかが欠けてもだめだというのがわかってきて、人間は当然ですが、そう思うと教育がけっこうこれからの中心的話題にならなければと思っているところです。

図－31〈図－31〉 T 型人材育成をしましょうと経団連やいろいろな人が言っている。要するに深い専門24

だけではだめで、日本の博士は I しかないから使い物にならないとおっしゃる。要するにほかの分野への興味を持ちましょうということです。カリフォルニアでとある人が、原子モデルにしたらどうかという話をした。これは同じですが、深い専門のところが原子核、広い興味が電子の雲。
これのいいところは何かと言うと、分子ができる。要するになぜ T 型人材が要るかと言うと、ほかの人と協働して大きな仕事ができるようになるからなので、これがアトム型だと自然にできる。
T 型を並べるとゲジゲジにしかならない。（笑）

■ AI が職を奪う？
AI が職を奪うという議論は、先ほど単純に言ってしまいましたが、どういう部分の職が奪われていくかと言うと、実は深い専門のところは AI はけっこう得意です。大人の AI は簡単にできる
けれども、子供の AI は難しいと昔から言われている。大人の AI の典型的なものは何かと言うと、大学の教科書になっていること。教科書があるということは、それをそのままプログラム化すればいいわけですから、そこはできてしまう。しかし子供がやっていること、話したり、ものを見たりというのは教科書にないわけですから、プログラムができない。

図－32〈図－32〉 だからそういう意味でざっくり言うと、実は知的単純作業はすぐ、AI というよりもプログラムで代行可能ですが、深い専門も AI はけっこう得意。専門をつくるのは誰かというのは残りますが。今 IBM が Watson を、「Jeopardy!」というゲームで勝ったついでにそのまま Watsonという名前をあちらこちらで使っていますが、医療システムに使っているのがある。あれは世界中で出た新しい症例や薬の論文を全部読む。論文になっていれば読めるし、プログラム化できるわけです。毎日 3000 本ぐらいの論文が出るらしく、人間にはそんなに読めない。
だから今後新しい症例を見つけるのは人間ですが、それをキャッチアップしていく専門医は実はプログラムのほうがいい、あるいはプログラムと人間のペアがいい。そうなってくると、先ほどの話で言うと電子の雲の部分を人間がやらなければいけないと思っている。教育がそのように変わってくるのではないか。ですから大学の専門は、プログラムやスマホに任せればいいのではないかという世界が来るかもしれない。

25

絶対に残る、あるいは人間が絶対に残さなければいけないものが 2 つある。1 つはチームワー
クを維持することと、もう 1 つは目的をつくること。要するに先ほどの社会のデザインをすることですが、どういう世界にしたいのか。これは人間の側にしかないですから、そこを考える人た
ちをたくさんつくらなければいけない。
ですから今の資本主義をどう変えていくのか、あるいは選挙制度をどうしていくのかというのは、どうしたいかが先になければいけないので、そこはどうしても人間のことになるし、残るだ
ろうと思います。
たとえで言うと、私は有名レストランの味を真似るロボットはできると思っています。だからコックさんはできるのだけれども、料理研究家、要するに新しい創造料理をつくるのは人間でな
いとできないだろうと思っています。同じ味かどうかは、プログラムあるいは味覚センサーがあればたぶんできるのですが、新しい味に対しておいしいかどうかは、人間の身体でないと判断できないわけですから、そういう部分はどうしても残っていくだろうと思っています。
いずれにしても、AI がいろいろなところに出てくるという前提で、小学校からずっと教育も考
え直さなければいけない。少なくとも知識を中心に覚えさせるのは、今後要らなくなるだろうと思います。
「ここから時間があれば」というのは、時間がなくなったのでここで終わらせていただきます。

*1『シンギュラリティは近い:人類が生命を超越するとき』、レイ・カーツワイル著、NHK 出版*2『HANDBOOK OF AMBIENT INTELLIGENCE AND SMART ENVIRONMENTS』、
Hideyuki Nakashima/Hamid Aghajan/Juan Carlos Augusto 著、Springer*3『AI 経営で会社は甦る』、冨山和彦著、文藝春秋 BOOKS*4『限界費用ゼロ社会 〈モノのインターネット〉と共有型経済の台頭』、
ジェレミー・リフキン著、柴田裕之訳、NHK 出版*5『昆虫はすごい』、丸山宗利著、光文社新書*6『昆虫はもっとすごい』、丸山宗利/養老孟司/中瀬悠太著、光文社新書

26

【質疑応答】
参加者：

本日は大変貴重なご講演をありがとうございます。質問は、後半のほうで環境に計算させるというお話があって、その例で山の例、特に浮石を見極めるときに石を踏んでみるというお話があったと思います。これをもう 1 回人工知能に置き換えると、知能がリ
アルタイムに主体的に環境に働きかけるフェーズが必要になってくると思ったのですが、研究段階でもいいのですが、こういうことの研究や技術には現在どういうものがあるのでしょうか。
中

島： 典型的にはロボットです。おっしゃるようにボディというかアクチュエータがないとそ
ういう話はなかなかできないとは思っているのですが。アクティブセンシングという分野があって、今まではパッシブセンシングというのでしょうか、見たり、受け取ったシグナ
ルだけで何があるか見ようと思ったのだけれども、当然後ろは見えないとかがある。例えばロボットだったら、裏に回ってみるとかできるではないかという話の延長線上です。
せっかく質問いただいたので、先ほどのフレーム問題の話を少しだけしておきます。
フレーム問題というのは、世の中を記述して、そこに何かアクションを起こしたときにどういう変化が及ぶかが全部記述できない、推論できないという問題なわけです。
昔は積み木などのすごく簡単な話でやっていました。積み木 A と B を積みますよね。
机の上に置いてあるとすると、上の積み木を動かしたら下の積み木は残っているけれども、下の積み木を動かしたら上もついてくる。ですよね。こういうのを人間は経験で知っているわけですが、これを全部プログラムにしなければいけない。
もっと面白いのは、積み木を動かしても積み木の色は変わりませんというのも書かな
いといけないという話があったのですが、今の積み木を動かしたら下が動いてくるかど
うかは典型的で、少し動かしてみればわかるわけです。実際には上を動かしても下が来ないと言ったけれども、のりで接着してあればついてくる。あるいは下をだるま落とし
みたいに速くやったら上はついてこないとか、ものすごくいろいろな場合があります。
これなどは典型的で、やる前に推論するよりやってみればいいという例がたくさんあると思っています。
アクチュエータなしにプログラムだけでそういうことが可能かはなかなか難しいですが、少なくとも人間との会話で、人間の反応を見てからということぐらいはできるかもしれないですね。日本語というのは、同時通訳の人はすごく困るらしいですが、語尾で否定できる。向こうは否定かどうかを最初に言わなければいけないのですが、会話のときに相手の顔色を見ていて、どうもだめそうだと思ったら最後に否定してしまうようなことができるわけです。それもそういう例かもしれないです。

参加者：

どうもありがとうございました。

司

ありがとうございました。ほかにご質問のある方、いらっしゃいますか。

会：

参加者：

今日はどうもありがとうございます。教えていただきたいのは、先ほど AI システムの階層の中で記号推論までは現在できているとおっしゃっていました。最近、自動車の自動運転に関しての話題が非常に多いですが、記号推論で、例えばまったく想定してい27

ない子供や動物の飛び出しなどに対応していけるものでしょうか。今後の見通しについてお考えをお聞かせいただければと思います。
中

島：

自動運転の記号推論をどのレベルで書くかという問題だと思います。トロッコ問題というのが話題になっていますよね。ご存じですか。極端に言うと、子供と年寄りがいた
とき、どちらかを轢かなければいけないとしたらどちらを轢きますかという問題です。
あれは哲学者だか倫理学者が勝手に考えているからそういう問題になるのだと思うのですが、自動運転というドメインで考えると、どちらも轢くなというのが当然正解ですよね。
どういうことかと言うと、たぶん制御系がどちらも轢かないように最大限の努力をして、その結果、仕方なく轢いてしまうかもしれないけれども、それはどちらを轢くかというチョイスではないと思うわけです。そうすると今の子供が飛び出してきたときや何かが起こったときにどうするかという話も、たぶん大部分は下の制御系、先ほどのBrooks のサブサンプション・アーキテクチャで言っている、この一番下の行動のループが勝手にやる。人間で言うと脊髄反射だと思います。上の記号推論が入ってくるのはもう少し上のレベルで、例えば渋滞を避けようと思うとか、今日は帰りにコンビニに寄っていこうとか、そういうレベルの話だと思うのです。
あと、これはたぶん車メーカーの人はみんな知っているのかもしれない。日産の人から聞きました。今の自動運転は、軌道を決めてここに行きなさいというレベルなわけですが、ここに停めて人を拾いなさいと決めたところにほかの車がいたらどうするかが、自動運転で一番難しいとおっしゃっていました。これは実は人間でも難しいですよね。
行きたいところにバスが停まっていたら、待っていたらバスが動いてくれるのか、それともバスを迂回して前に行かなければいけないのか。最悪なのは、迂回しようと思った
瞬間にバスが動き出すことです。そのレベルの推論は、たぶん記号でやらなければいけないと思っています。
参加者： ありがとうございます。
司会：

先ほど挙手された方、お願いいたします。

参加者：

先ほどの浮石の話ですけれども、いわゆるトライアル・アンド・エラーと同じでしょうか。

中

強化学習というのはトライアル・アンド・エラーです。ですからこれは失敗してもい島：いドメインで何度も何度も失敗する。本番はトライアル・アンド・エラーはやってはいけないですよね。浮石はその本番のほう。だから要するに踏んで落ちてみるわけにはいかないということなので、踏んでしまわない、軽く触るというところが違うと思います。
だからセンシングの一手法。
司

会：

参加者：

では後ろの方、お願いいたします。
最後に人間のやることというので、チームワークの維持と目的をつくること。後者はわかるのですが、前者は最近ロボカップとかでけっこうチームワークでサッカーなどをやる。こちらはロボットでも進んでいるような気がするのですが、おっしゃりたいことをお聞きしたいと思ったのですが。

中

島：ロボカップのような、わりとゲームにおけるチームワークというよりも、もう少し社会的な話を考えています。昔聞いた話で、経団連の人が言っていたのですが、企業

28

に入ってきて使い物になる学生は 2 通りある。1 つは成績のいいやつ、よかったやつだ
けれども、もう 1 つはクラブで主将をやっていたやつという言い方をされていたのです。
この後者。要するに人を束ねて動かすような力は、やはり人間側。要するにロボットが命令して、「おまえ、あれやれ」と言われても嫌だよねということではないかと思っているのです。かなり微妙な、心の奥底の何とかが入ってくるような話だと思っているのですが。
参加者：

ありがとうございます。

司

では最後の質問ということで、お願いいたします。

会：

参加者：

今日はありがとうございます。今悩んでいるのが、国連の持続可能性社会、SDGs を科学のコミュニティでどう解決するかがけっこう世界中で議論になっている。日本の科学
コミュニティの多くは、先ほどの保立先生が言われるように、われわれは神と対話しているので社会や環境と対話していないから知らないというのをどうやって…、今日の先生のお話に非常にインスパイアされて、独立知能から環境の遵守やデザイン、個から社会とか、いよいよ日本の出番だというところをどうやってこのギャップをうずめるのか、先生にヒントをいただきたいと思います。

中島：おっしゃるようにいろいろな人とつきあっていると、科学信仰というのは、特に高齢の方、私もそろそろ高齢ですが、多いんですよね。やはりわれわれが小さかった頃は、科学が工学より偉いと教わっていたし、みんなだいたいそう思っている気がするのです。
私が典型的に思うのは、社会学をやっている人たちは社会科学はなさる。要するに現状がどうなっているかの分析はものすごくやるのだけれども、どうしたいかという話は一切言わない。どうも言ってはいけないと思っているらしいのです。そういう人たちにどうやってデザインさせるかが問題。
実は情報技術というのは、思いつけば何でもできると申し上げましたが、かなり何でもできる。ただ皆さんご存じのように、技術というのは諸刃の刃なので、使い方次第で善にも悪にもなる。そうするとどういうことをしていいかを考える人がいないといけな
くて、これは技術者にはなかなか難しい。実は社会を見ている人にそれをやってほしい。
だから社会学をやっている人にそれをやってほしいとずっと言い続けているのですが、なかなか出てこないのが現状で、私も頭を悩ませています。
司

会：

ほかにもご質問はあるかと思いますが、お時間も来たということで、これで終了とさせていただきます。どうもありがとうございました。

■ このレポートは平成 29 年 9 月 19 日コートヤード・マリオット銀座東武ホテルにおいて行われた、第 143 回本田財団懇談会の講演の要旨をまとめたものです。本田財団のホームページにも掲載されております。
講演録を私的以外に使用される場合は、事前に当財団の許可を得て下さい。

29

発 行 所104-0028 東京都中央区八重洲2-6-20ホンダ八重洲ビル
Tel.03-3274-5125 Fax.03-3274-5103
http://www.hondafoundation.jp

発 行 者

山 本 雅 貴