第 回シンポジウム （２０１６年 月 日開催 ）講演

21世紀政策研究所研究委員／
東京大学大学院工学系研究科特任准教授

中島

豊

秀之

豊

世紀政策研究所研究委員／
東京大学大学院情報理工学系研究科特任教授

松尾松尾

日本の産業に与えるディープラーニングのインパクト10

世紀政策研究所研究委員／
東京大学大学院工学系研究科特任准教授

パネルディスカッション【パネリスト】

21

21

21

7

35

121

2

【モデレータ】

世紀政策研究所研究委員／作家

世紀政策研究所研究委員／

ＮＴＴデータ技術開発本部エボリューショナルＩＴセンタ 樋口

聡

晋也

秀明

続橋

康夫

瀬名

世紀政策研究所研究委員／
経団連産業技術本部本部長

國吉

ＡＩソリューション開発担当

世紀政策研究所研究主幹／
東京大学大学院情報理工学系研究科教授

3

21
21

21

21

ごあいさつ

本日のテーマは、「人工知能の現在と将来、それは産業・社会の何を変えるか」です。

今年３月に人工知能を搭載した囲碁プログラムが世界のトップ棋士を圧倒しました。

それに象徴されるようにコンピューターの急速且つ幾何級数的な性能向上を背景にディープラーニングなどの技術も実用可能となり、人工知能の研究は急激に進展しています。

今後、実社会の情報、コト、モノなどにダイレクトにつながり、知的な処理を行うこと

により、産業や社会を大きく変革しうるのでないかと期待されています。

当研究所では東京大学の國吉康夫教授を研究主幹として人工知能の本格的な普及を見据えたプロジェクトを立ち上げました。人工知能が産業にイノベーションをもたらす基

盤技術であることの理解を深めるとともに、これから実現に向かっての課題、わが国に適した人工知能の活用による新しい産業分野の可能性などについて探究しています。

本日ははじめに、東京大学の松尾豊特任准教授にディープラーニングについての話を4

伺います。その後のプロジェクトの研究委員全員によるパネルディスカッションでは、経団連会員企業の皆さま方にお願いしたアンケート結果なども参考にし、人工知能の現在と将来についての議論を深めたいと思います。

惺

本日のシンポジウムにより、皆さま方の人工知能についての理解がいっそう深まると

三浦

ごあいさつ

5

ともに、わが国の産業競争力強化の一助につながればと祈念いたします。

二〇一六年十月二十一日

世紀政策研究所所長
21

講演

松尾

日本の産業に与える
ディープラーニングのインパクト

世紀政策研究所研究委員／
東京大学大学院工学系研究科特任准教授
21

豊

8

データから学習する人工知能、ディープラーニング革命

自己紹介からいたします。日本に人工知能学会があり、編集委員長を２年ほどやらせていただき、現在は倫理委員会の委員長をやらせていただいています。きょうはディー
プラーニングを中心に話をします。

のアルファ碁が、イ・セドル九段を破ったことは記憶に新しいとGoogle DeepMind
思います。その中心になったのはディープラーニングという技術です。それがなぜすごいのかという話をします。

ページ図表１参照）。

年です。その間、ブームになっ

連日のようにメディアで人工知能という言葉を耳にしますが、１９５６年から人工知能という分野ができたとされており、今年でちょうどては冬の時代が来ることを繰り返し、今回が３回目のブームです（いるわけではありません。過熱しやすい分野であり、期待感がすぐに過剰になり、危なつよくなっているだけであり、ブームになったからといってすごいことが急に起こって、 iPhoneの Siri、 将 棋、 囲 碁
ＩＢＭのワトソン、自動運転、ソフトバンクの Pepperなど、いろいろなキーワードが出てきますが、基本的に昔からやっている技術が少しず

10

60

松尾委員

い状態によくなります。今のブームも期待感が高まっているのはある意味でかなり危険な状態

かと思います。昔からこの分野はあり、できる

こととできないことの領域が少しずつ変わってきているので、できるところ、できないところを的確に見分けることが重要と思います。

ただ、ディープラーニングに関しては破壊的なイノベーションが起こっており、この領域では何十年もできなかったことが次々にできるよ

うになっています。ディープラーニングは期待しても期待しすぎることがないぐらいに潜在的な可能性が大きく、この技術に投資する意味は大きいと思います。

ディープラーニングでできることを簡潔に言講演

9将棋電王戦

Eliza

1970

機械学習

IBM ワトソン

図表1 人工知能の歴史

ILSVRC での圧勝
（2012）
Google の猫認識（2012）
DeepMind の買収（2013）
FB/Baidu の研究所
（2013）
アルファ碁（2016）

2015 （年）

囲碁

車・ロボットへの活用
自動運転
Pepper
統計的自然言語処理（機械翻訳など）
検索エンジンへの活用
タスクオントロジー
ワトソン（2011）
LOD（Linked Open Data)Siri（2012）

ディープラーニング革命

オントロジー

ウェブ・ビッグデータ

エキスパートシステム

将棋（2012-）

Calo プロジェクト
bot
チェス（1997）

対話システムの研究
プランニング

2010

電王戦
1995

http://weekly.ascii.jp/elem/000/000/207/207410/

第 3 次 AI ブーム（機械学習・ディープラーニング）

Deep Blue1980

第 2 次 AI ブーム（知識表現）STRIPS

MYCIN（医療診断）
DENDRAL

1956

探索
迷路・パズル

第 1 次 AI ブーム（推論・探索）（参考）http://venturebeat.com/2011/02/15/ibm-watson-jeopardy-2/

10うと、認識、運動の習熟、言語の意味理解、主にその三つです。認識とはコンピューターが苦手としていた画像認識ができるようになったということです。運動の習熟とはロ

ボット、機械が練習し上達できるようになったということです。言語の意味理解とは、

コンピューターが言葉の意味を扱えるようになるということです。

まずは認識です。ネコ、イヌ、オオカミの写真は、人間は一目で見分けますが、コン

ピューターにとっては見分けることは難しいことです。例えば目が丸ければネコ、目が細長く耳がたれていればイヌ、目が細長く耳がとがっていればオオカミと判定するというルールを書くと、ある程度判定できますが、目が細長く耳がとがっているシベリア
ン・ハスキーのようなイヌもいます。

人間が見比べるとシベリアン・ハスキーはイヌっぽい顔を、オオカミはオオカミっぽい顔をしていると分かりますが、イヌっぽさ、オオカミっぽさを定義してくれと言われると困ります。目が丸い、耳がとがっているなどの特徴量を人間が定義している限り、画像認識は一向にうまくならず、それが大きな問題でした。

画像認識における特徴量、機械学習における特徴量の設計は難しい問題でした。人工講演

11知能の研究の中ではほかにもフレーム問題、シンボルグラウンディング問題という難問がありました。今までの人工知能は人間が現実世界を観察し、どこが重要か見抜き、モデルを作っていました。モデルができればその後の処理は幾らでも自動化することができましたが、モデルを作る行為そのものは自動化ができていませんでした。そこに起因し、いろいろな問題が発生していると思います。

ディープラーニングはそこに突破口を開くものであり、人間がモデル化する行為そのも の を い か に 自 動 化 す る か と い う 糸 口 を 与 え つ つ あ る と 思 い ま す。 有 名 な 研 究 がの猫」です（図表２参照）。２０１２年にインターネットから取った大量の画像「 Googleをあるやり方で学習させました。ニューラルネットワークというタイプの人工知能の技術を使い、たくさんの画像で学習させると入力に近い層では単純な特徴量である線、点のようなものが学習されます。それが上のほう（図の右側）に行くとより複雑な特徴量である人の顔っぽいもの、ネコの顔っぽいものが学習されます。要するにネコのネコらしさが画像を入力するだけで自動的に学習されているということです。

12

図表2 Googleの猫（2012年）
Diagonal Line
Node

Face
Node

Cat
Node
・YouTube から取ってきた大量の画像をニューラルネットワークに学習させることで、下位の層のニューロンには線や点といった単純な特徴量が、上位の層には、人の顔やネコといったより複雑な特徴量が学習される。
・人間の視神経のモデルとして知られているものと極めて近い。

人間の精度を超えた「画像認識」から「運動の習熟」へ

ディープラーニングは２０１２年の画

像認識のコンペティションで優秀な成績

％ぐらい

27

14

ページ図表３参照）。エ

～26

を収めました（

ラー率は２０１１年まででしたが、２０１２年のコンペティショ

年分ぐらいかか10ンにディープラーニングのチームが出て、

16・４％まで減らし、るイノベーションをいきなりやってしま講演いました。しかも、特徴量の設計を職人

13

技でやるのではなく、自動で学習しまし

その後、画像認識のエラー率はみるみた。衝撃的でした。

（出所）Quoc Le, et. al: Building High-level Features Using Large Scale
Unsupervised Learning, ICML2012, 2012

図表3 認識：2012年以降のエラー率の変化
Error
Beforeディープ
ラーニング

ImageNet 2011 winner（not CNN）

25.7%
16.4%

ImageNet 2012 winner（Krizhevsky et al.）

11.7%

ImageNet 2013 winner（Zeiler/Clarifai）

6.7%

ImageNet 2014 winner
After

ディープ
ラーニング

（GoogLeNet）

Baidu Arxiv paper:2015/1/3

6.0%

Human: Andrej Karpathy

5.1%

Microsoft Research Arxiv paper:
2015/2/6

4.9%

Google Arxiv paper: 2015/3/2

4.8%

Microsoft Research CVPR paper:
2015/12/10

3.6%
画像認識で人間の精度

2015年2月には人間の精度を超えた を超えることは数十年間、1114

るうちに向上しています。２０１３

年には ・７％、２０１４年に６・７％になりました。このタスクにおいてがMicrosoft

は人間がやると５・１％間違えますが、２０１５年２月には４・９％、２０１５年３月には Google
が４・８％、最新の手法では３・６％まで下がりました。２０１５年２月にコンピューターが画像認識で人間の精度を超えたことは、後に歴史の教科書に載ってもよいほどの出来事と思います。

その一つだけを取っても相当大きなインパクトだと思います。人間の実現されていなかった

仕事の中で認識能力を使っているものはたくさんあります。それが、何らかの形で自動化、機械化が技術的に可能になったわけです。

次に運動の習熟です。練習してうまくなるということです。人間もゴルフボールを打っているとだんだん上手に打てるようになります。たまたま上手に打てると今のはうまく打てたと思い、その打ち方を繰り返して上達します。報酬（満足感など）が与えられると報酬の前にやった行動を強化するという仕組みで、これを強化学習と言い、昔からあった技術です。ゴルフボールをいつも同じ打ち方で打てばよいのではなく、こうい

うときにはこういう打ち方というように学習しないといけません。どういう状況でどういう行動をすると良い、悪いというように状況と行動をセットで学習します。

従来の強化学習のやり方では状況を記述するのに人間が定義した特徴量を使っていたので限界がありました。ところが、ディープラーニングと組み合わせるとディープラー

ニングで出てきた特徴量を使い、状況を記述し、強化学習をするということをやります。

が２０１３年後半に行っていた研究で、ブロック崩し
DeepMind

違いはそこだけですが、それによって大きな変化が起こります。
アルファ碁を作った

講演

15

を学習するＡＩを作っていました。最初は下手ですが、強化学習でだんだん上達します。

スコアを報酬にしてスコアが上がると前にやった行動を強化するという仕組みにより、

だんだん上手になります。しばらくするとエキスパートのように上手になります。

しかし、そのぐらいならば昔のＡＩでもできました。昔のＡＩではこれがボール、これは自分が動かすバーと定義するとできました。ところが、これがすごいのは画像を入れているだけで、ボールっぽいものがある、バーっぽいものがある、そのＸ座標が一致しているときに点が入りやすいと学び、上手になっていくことです。そうするとコツを見つけるようになります。左端を狙い、通路を作り、ボールを上に放り込めば点がすごく入るということをやっています。画像から特徴量を作っているので左端、右端に通路ができている状態はよい状態だと気づいているのです。

全く同じプログラムを使い、違うゲームを学習させることもできます。インベーダー

ゲームもブロック崩しと全く同じプログラムで上達させることができます。今までの人工知能では強化学習を使うにしてもこれがインベーダー、これがミサイルと人間が定義しないといけませんでした。それを人間が定義せずに、画像を入れるだけで学習します。

16

同様のプログラムを使うことで、昔のアタリ社の種類ぐらいあるゲームのうち

種類

30

ページ図表４参照）。ロボットがおもちゃの部品を本体に組み付けつけることもできるようになります。

までとの大きな違いです。いろいろなタスクを学習させることができ、ブロックをくっ

うまくはめ込めるようになります。画像を見て特徴量を取り出しているところが、それ像で、ブロック崩しと原理的には同じです。何度も繰り返すうちにだんだん上手になり、す。上手に組み付けられると報酬がもらえます。上からカメラで見ているので入力は画るということを、強化学習でやっています。最初は下手ですが、だんだん上手になりまに発表されました（

したが、それを実際にやったのがカリフォルニア大学バークレイ校で、２０１５年５月

ロボットに同様のプログラムを適用するとロボットはだんだん熟練すると想像できまいものはコンピューターのほうがうまいと、２０１３年の時点でできていました。

考、記憶を必要とするものは人間のほうがうまいですが、反射神経、運動神経だけでよ以上で人間のハイスコアを上回ります。残り半分の冒険ゲーム、パズルゲームなど、思60

それを自動運転に適用したものが、日本のプリファード・ネットワークス（ＰＦＮ）

講演

17

18

図表4 運 動の習熟：ディープラーニング＋強化学習が実世界へ（2015年）●実世界への適用- 2 015年5月 試行錯誤で部品の取り付けを習熟するロボットの開発（UC Berkeley）- 2015年5月 試行錯誤で運転を習熟するミニカーの開発（PFN社、日本）- 2 015年12月 試行錯誤でピッキングが上達するロボットの開発（PFN・ファナック、日本）- その他、メリーランド大、EUのプロジェクト等も進展●考えてみれば当たり前- イヌやネコでもできる。高次な言語能力は必要ない。認識が問題だった- 歴史的には、多数の人工知能研究者がこのことを主張してきた
試行錯誤で作業学ぶロボット（UC Berkeley）

試行錯誤で運転を学習するミニカー（PFN社、日本）（参考）	https://research.preferred.jp/2015/06/distributed-deep-reinforcementlearning/	http://news.berkeley.edu/2015/05/21/deep-learning-robot-masters-skillsvia-trial-and-error/	http://www.nikkei.com/news/print-article/?R_FLG=0&bf=0&ng=DGXMZO83844520S5A300C1000000&uah=DF170520127709とトヨタが共同で今年の年始のＣＥＳという展示会に出したものです。ミニカー

が強化学習で学習した結果です。車は下手な状態から何回もぶつかり、練習し、上達しているので、どうなるとぶつかるか、どうすればよけられるかが分かっています。人間の運転手と同じように下手な状態から上達しているので、一回うま

くなればさまざまな状況に上手に対応できます。

18

同じような技術を Google
でもやっています。今年３月に出たものでは、ロボットアームでいろいろなものを持ち上げ、下ろすという練習を、ロボットアーム 台を並列させ、倍の速度で学習させています。学習させることで、いろいろなものを上手につか14が出したものでは、ロボットアームでドアノブを開けます。練習し、上最近 Google
達した後はドアの位置をずらしても上手に開けることができます。

ようになります。
そのことを忘れていますが、それと同じような練習の過程で上達します。

19

講演

ちゃんのときに持ち上げては落とすということを何回も練習しているから何でも持てる

人間はいろいろなものを持てますが、赤ちゃんのときに練習しているからです。赤さんものがあると難しかったのです。

らかいものなど、それぞれ持ち方が違います。人間が定義すればできたのですが、たくは長い方向に持つと、持てないので、短い方向に持たないといけません。丸いもの、柔すごく難しかったのです。しかも、ものによっては持つべき場所が違います。長いもの

くさんのものが入っている箱の中から目的のものを見つけることは認識の問題なので、めるようになります。これはすごいことで、今までのロボットはできませんでした。た14

そのようにいろいろな行動がどんどんできるようになっています。人工知能、ロボットの世界では昔から「モラベックのパラドックス」が知られており、子供のできることほど難しいと言われていました。例えば医療の診断、数学の定理の証明、チェスをするなど、大人、専門家でないとできなさそうなことは人工知能研究のかなり初期の１９６

０年代、１９７０年代から実現されていました。一方で、３歳児でもできるような認識、運動の習熟、積み木を上手に積むようなタスクは一向にできるようにならず、逆説的なのでパラドックスと言われていました。

第３次ＡＩブームの一番の肝は、「モラベックのパラドックス」が崩れてきたこと、３歳児でもできることをコンピューター、機械ができるようになったことだと思います。なぜできるようになったかというと基本的にコンピューターのパワーが上がってきたからです。

アイデア自体は昔からありましたが、それがようやく実現されてきたということです。
最終到達点は「言語の意味理解」

今後どういう変化が起こるかというと認識、運動、言語という順番かと思います（図20図表5 ディープラーニングの今後の発展①画像

画像から、特徴量を抽出する
画像認識の精度向上

認識②マルチモーダル	映像、センサーなどのマルチモーダルなデータから特徴量を抽出し、モデル化する
動画の認識精度の向上、行動予測、異常検知➡

③ロボティクス（行動）	自分の行動と観測のデータをセットにして、特徴量を抽出する
記号を操作し、行動計画を作る
プランニング（注）、推論

運動④インタラクション

外界と試行錯誤することで、外界の特徴量を引き出す
オントロジー、高度な状況の認識➡

⑤言葉とのひもづけ（シンボルグラウンディング）
高次特徴量を、言語とひもづける
言語理解、自動翻訳

言語⑥言語からの知識獲得	グラウンディングされた言語データの大量の入力により、 さらなる抽象化を行う
知識獲得のボトルネックの解決

ディープラーニングがすごいというよりその先に広がる世界がすごい（注）問題領域の用語や概念を関連づけ、体系化したもの

表 ５ 参 照 ）。 子 供 の 発 達 過 程と似ています。目で見て分かるようになり、体の動かし方が上達し、いろいろな概念を捉えられるようになるので言葉の理解ができます。今でも自然言語処理の分野はありま

すが、統計的言語処理であり、意味の理解をしていません。

る日本語の文字列に置き換わ
講演

翻訳で翻訳はできま
Googleすが、ある英語の文字列がある確率を統計的に計算し、それが一番高くなるものを選ん21

でいるだけであり、意味が分かって訳しているわけではありません。

ここで言う言語は意味の理解を伴うものです。意味の理解は議論のあるところですが、単純化すると文から画像、映像を生成すること、画像、映像から文を生成することです。

文と画像、映像の相互変換能力が意味を理解することであると考えると早晩実現すると思います。

今話したようなことは２０３０年ぐらいまでに起こるのではないかと思って描いたものが図表６です。産業、社会にいろいろな影響を与えます。認識ができるようになるだ

けで医療における画像診断ができます。例えばレントゲン写真を見て影があると判断す

るのは画像認識の問題なので自動化できます。防犯、監視、不審者を見つけることもできます。運動の習熟まで行くと自動運転、農業、建設、物流、介護、調理、掃除などもできます。言語の意味理解まで行くと翻訳、ホワイトカラー支援などができます。

この図を描いたのは２年前で、当時論文で出ていたのは図表の斜線のところですが、２年たつとすごく増えています。認識のところが難しかったのですが、そこを超え、技術の進展が異常に速い状況です。言語の意味理解は２０２５年ぐらいまでかかるのでは

22

2007

防犯・監視
セキュリティ
マーケティング

介護
調理・掃除

2020
③
ロボティクス

教育
秘書

ホワイトカラー支援
翻訳
海外向け EC⑥
知識獲得

2030（年）文の「意味」が分かる（文と映像の相互変換ができる）

2025

④
⑤
インタラクション シンボル
グラウンディング

ロボッ
ト・機械に熟練した動きができる

運動の習熟

大規模知識理解文脈に合わせて
言語理解「優しく触る」
環境変化に 「持ち上げる」技術
ロバストな
自律的行動
言語の意味理解

自動運転
物流・建設
農業の自動化
製造の効率化

図表6 人工知能技術の発展と社会への影響（2014年9月での未来予測）

画像による診断
広告

行動予測
異常検知

認識
コンピューターができて以来初めて「画像認識」ができる

画像認識の
精度向上
米国・カナダがリード①②
画像認識 マルチモーダルな認識

Deep Learning をベースとする AI の技術的発展

？

講演

23

図表7 言語の意味理解：Automated Image Captioning（2014年）“man in black shirt is “construction worker in “two young girls are “boy is doing backflip
playing guitar.”orange safety vest is playing with lego toy.”
on wakeboard.”
working on road.”“girl in pink dress isjumping in air.”“black and white dog “young girl in pink shirt“man in blue wetsuit isjumps over bar.”is swinging on swing.” surfing on wave.”（参考）http://cs.stanford.edu/people/karpathy/sfmltalk.pdf

ないかと思っていたのですが、少しずつでき始

めました。

と
その一つは Automated Image Captioning
いう技術です（図表７参照）。画像を入れると文が出てきます。男の人がギターを弾いている写

A very large

真 を 入 れ る と「 man in black shirt is playing」という文が出てきます。
guitar.
昨年末からその逆ができるようになりました。

文を入れると画像が出てきます。「」と入れcommercial plane flying in blue skies.
ると飛行機が青い空を飛んでいる画像が出てき」 を「 rainy」と替えると雨っぽい
ま す。「 blue
画像になります。画像を検索しているのでなく、描いているので、ありえない文を入れることも24

できます。
「 A stop sign flying in blue skies.
（青い空を飛んでいる止まれの標識）」と入れると止まれ標識が空を飛んでいるような画像を描くことができます。われわれが小さいころに話を聞いてその情景を頭の中に思い浮かべたことと近いことができるように」 と い う 英 語 の 文 か ら 画 像 を 生 成 し ま す。 そ れ を
A stop sign flying in blue skies.

なっているということです。
「

で日本語に直します。そうすると英語から日本語へ画像
Automated Image Captioningを介した翻訳になっています。意味が分かって訳している意訳かと思います。現時点で～年ぐらいで自動翻訳は実用的なは解像度が低い、静止画で動画ではない、抽象的な概念をどう表すのかなど、いろいろな問題はありますが、そういう技術が進展するとページ図表８参照）。人間も25

講演か、敵か、味方かなどの判断をする必要があります。現実世界とパターンの空間での処生物なので世界の中で生きていくために、世界を観測し、行動しないといけません。そ人間の知能はどのように構成されているかを考えます（レベルに達するのではないかと思います。

15のときにパターンの処理は重要な働きをします。食べられるものか、食べられないもの

27

10

理がベースになっています。

人間の場合はさらに言語を使い、その上に学習をブースト（促進）させる仕組みがあります。言葉を使い、思考、推論しています。記号の空間とパターンの空間を行ったり来たりし、思考するところに人間の知能のすごさがあります。さらに言語は他者とのコ

ミュニケーションに使われ、知識の蓄積にも使われます。それが知能の大ざっぱな全体像だと思います。

今までの研究ではパターンの空間の処理が弱く、計算量が大きいのでできなかったのです。今はそこをディープラーニングがやっています。ディープラーニングだけで全てをできると言うつもりは決してありませんが、パターンの処理という難しく、これまで

ミッシングパーツだったところを埋めています。それが現実世界とのインタラクション、

記号の空間での処理と組み合わせ、人工知能の全体像が再構成されると思います。

子供の人工知能と大人の人工知能を分けています（図表９参照）。子供のできることほど難しいという「モラベックのパラドックス」が破られつつあり、そこで実現しつつある一連の技術のことを子供の人工知能と言っています。ビッグデータ、ＩｏＴのように

26

図表8 記号処理の目指すべきところ
知識の蓄積
他者とのコミュニケーション
記号の空間

日本語

日本語

「風船が飛んでいる」「風船が山を飛んでいる」

生成モデル

識別モデル

パターンの空間

生成モデル
現実世界

行動

観測
身体性

・今までの推論（述語・命題論理による演繹や帰納・仮説推論）は、記号の空間だけでやろうとしてきた。
・思考とは、パターンの空間と記号の空間を行ったり来たりすること（ラプラス変換や周波数変換と近い）。
・この上に、言語によるコミュニケーションや知識の蓄積が構成される。
・いずれも目的は、「いかに少ないサンプルで自由度の高いモデルを同定するか」。

図表9「子供の人工知能」と「大人の人工知能」●大人の人工知能（ワトソン型）- ビッグデータから人工知能へという持続的イノベーション- ビッグデータ全般、IoT全般、ワトソン、Siri、Pepper...
-一 見すると専門家（大人）のできることができるが、人間が裏で作り込んでいる- 販売、マーケティングなど。今後は、医療、金融、教育など●子供の人工知能（ディープラーニング型）- ディープラーニングを突破口とする破壊的イノベーション- 子供のできることができるようになっている-人
 間の発達と同じような技術進化：認識能力の向上、運動能力の向上、言語の意味理解という順で技術が進展する- モノづくり中心

特徴量の設計を人間がやらないといけないのが大人の人工知能、やらなくてよいのが子供の人工知能

27

講演今までデータを取ることが難しかった領域でデータが取れるようになりました。そこに昔からある人工知能の技術を使うといろいろな面白いことができるというのを大人の人工知能と言っています。

大人の人工知能は一見するとすごいことができるように見えますが、後ろで人間が作り込んでいるわけです。もともとはインターネット、マーケティング等に相性がよかったのですが、今後は医療、金融、教育などの分野でどんどん広がると思います。

子供の人工知能はどこで使えるかというと、現実世界を見ること、運動の習熟ができるので、現実、実世界に近いところで、典型的には農業、建設、食品加工などと思います。それらは自然物を扱っているので認識できないと機械化ができませんでした。例えばトマトは市場規模も大きく、収穫に工数がかかるにもかかわらず、トマト収穫ロボッ

トはありません。なぜかというと認識ができなかった、運動の習熟ができなかったからです。技術的にそこを乗り越えられつつあるので、今後トマト収穫ロボットもできます。

農業はほとんどの作業が人間の認識能力を必要としているので人手がかかりますが、そこが自動化できると産業的な変化が大きいと思います。

28

建設も同じです。建設現場で人手不足になるのは人の認識能力が必要とされているからです。一見すると機械を使っているように見えますが、ほとんどの作業に人間の認識能力を必要としています。食品加工、調理も同じです。レストランの裏で人が調理をしているのは当たり前と思っていますが、人が調理するしかないからです。

調理は典型的に認識と運動の習熟を必要とするので機械化、自動化ができませんでした。ところが、今後できるようになるので外食産業、食品加工産業は大きく変わります。

ページ図表参照）。人間の日常生活、自動化したときの産業変化は巨大だと思いますし、日本の高いレベルの食を機械に乗せ、そのまま海外に売ることもできます。
日本の戦い方は運動路線がよいと思います（てくれる賢い秘書のような役割です。Ｇ（）、Ｆ（ Facebook）、Ｍ（ Microsoft）、
Googleに二つの道があります。情報路線はメール、スケジュール管理をするなど、情報で助け生産の場面で人工知能が高度に使われる時代が早晩来ると思いますが、そこに至るまで

10）、Ａ（ Amazon）が強く、日本企業が割って入ることは難しいです。特に英Ａ（ Apple
語圏でないと戦えません。

講演

29

30

図表10 日本は運動路線のほうが戦いやすい・最終的には、日常生活、仕事におけるロボット・機械の活用。状況ごとに個別性があるので、認識能力がない状況では対応できなかった。ここにどう至るかが鍵・情報路線で行く道（Google、Facebook系）と、運動路線で行く道があるのではないか・海外企業・研究者は機械・ロボットに苦手意識
・予選を勝ち進んだ企業が決勝に進むイメージ
人工知能が組み込まれた日常生活ロボット生産を担うロボット・機械
予選リーグA

決勝リーグ

予選リーグB

高度に知能・機械がモジュール化し組み込まれた社会

情報路線

運動路線

（大人の人工知能）（子供の人工知能）

・メール、
スケジュ
ール管理
・対話、質問応答便利であるという付加価値

・モノを動かす・加工する
・操作する
信頼できるという付加価値

現在

G、F、M、A、A？？？

運動路線はものを動かす、加工す

る、調理する、掃除するメイドのような役割です。まだ決勝進出を決めたチームがほとんどありません。有望なのは自動車、産業ロボット、農業用機械、建設用機械、食品加工機

械などかと思いますが、日本では世界的なシェアを持つ企業がたくさんあります。そういう企業が認識、運動の習熟といった技術を取り入れ、新製品を作り、予選リーグＢを勝ち上がることは荒唐無稽なシナリオでない、可能性が十分にあると思います。 そ の 上 で、 決 勝 リ ー グ で は30

、 Facebookなどと戦うという戦略があると思います。
Google「眼を持った機械」による日本の新たな産業競争力の実現へ向けて億年ぐらいたちますが、５億４２００万年前～

今話したことをひと言で言うと「眼の誕生」です。地球の進化の歴史の中でカンブリ
ア爆発があります。地球ができてからが採れます。それで生物の多様性が一気に上がったと言っています。

ます。逃げるほうも眼を持つと急いで逃げる、隠れる、擬態するなど、いろいろな戦略

講演

ディープラーニングは眼の技術なので、ロボット、機械のカンブリア爆発が今後起こ

31

逃げることしかできなかったが、眼ができると遠くから見えるので捕食の確率が上がりす。眼ができたからということです。それまでの生物はぶつかると食べる、ぶつかるとその解の一つを提案しているのがアンドリュー・パーカーで、光スイッチ説と言いま

リア爆発が起こったのかは謎です。

た時期があります。それをカンブリア爆発といいます。諸説はありますが、なぜカンブ

５億３０００万年前という短い期間に現存する種の全ての生物分類上の「門」
が出そろっ

45

ると思います。どういうことが可能になるかを挙げますと、眼を持った機械の可能性は認識系技術だけでも警備、防犯、見守り、社会インフラ構築、顔による認証、わいせつ

画像判定、表情読み取り、国家の安全保障、防災、医療など、たくさんあります。それぞれを見ても相当大きな産業です。さらに運動系技術、機械系技術と組み合わさると建設現場、重機、セメント固め、溶接、農業、自動操縦、産業用ロボット、調理、ペット

ロボット、医療、介護、バイオ、廃炉などが立ち上がるはずです。それを日本企業が取れるかどうかです。日本の産業上大きな分岐点にさしかかっていると思います。

日本は少子高齢化し、いろいろな社会課題があります。特に労働力、肉体労働の労働力が不足しています。労働力の不足は認識、運動の習熟、眼を持った機械によって解決できるものはかなり多いです。農業は認識能力があればかなり自動化できます。介護、廃炉、防災も解決できる可能性はあります。しかも、そういう技術を日本国内で伸ばすことによって大きな新たな技術産業にすることができるかもしれません。

実現するためには人材育成が重要だと思います。同時に認識の技術、眼を持つ機械ができることで社会全体がどう変わるのか、事業がどう変わるのかをきちんと見抜き、早32

く動くこと、もう一つはそういう技術が使われるようになる社会はどういう社会なのか、どういう社会が望ましいのかを議論することが重要です。

講演33

世紀政策研究所研究委員／
東京大学大学院工学系研究科特任准教授

世紀政策研究所研究委員／
東京大学大学院情報理工学系研究科特任教授

瀬名

松尾

中島

秀明

豊

秀之

パネルディスカッション【パネリスト】【モデレータ】

21

國吉

続橋

世紀政策研究所研究委員／
ＮＴＴデータ技術開発本部エボリューショナルＩＴセンタ樋口
ＡＩソリューション開発担当

康夫

聡

晋也

世紀政策研究所研究委員／作家

21

21

21

21

世紀政策研究所研究主幹／
東京大学大学院情報理工学系研究科教授

世紀政策研究所研究委員／経団連産業技術本部本部長

21

國吉

世紀政策研究所の人工知能の本格的な普及に向けてというプロジェクトの研究

主幹の國吉と申します。私は東京大学の情報理工学系研究科におります。専門はロボッ

トで、ロボットの立場から知能を考え、研究しています。登壇者の皆さんに自己紹介を

続橋

樋口中島です。３月までは公立はこだて未来大学にいましたが、６月からは東京大学

経団連産業技術本部長の続橋と申します。科学技術政策全般を担当しています。

ＮＴＴデータの樋口と申します。人工知能関連のＲ＆Ｄを推進しています。

していただきます。

中島

小説家の瀬名秀明と申します。この中で私は異色ですが、１９９０年代終盤ぐらの先端人工知能学教育寄付講座で特任教授を務めています。
瀬名

いからロボットや、人工知能の研究者の皆さまと話をさせていただく機会がよくあり、松尾先生を含め、以上がこのプロジェクトの委員です。パネルディスカッション

そういう関係の小説、ノンフィクションをたくさん書かせていただきました。
國吉

では、経団連の会員企業各位にいただいた人工知能についての考え、期待、疑問等のア

ンケート結果からいくつかの論点を取り上げ、それらに答える形で各委員が発言、解説36

21

を試みます。

まずはＡＩの定義に関して、「エキスパートシ

ステムと今のＡＩの違いは何か」「ＡＩとうたわ

れている製品、サービスは本当にＡＩなのか」談を受けています。その感覚から説明いたしま

37

パネルディスカッション

私はお客さまから年間２００件程度の相いろいろなイメージがあると思いますが、大き樋口

ＡＩによって事業・産業はどう変わるのかす。ＡＩは概念的な言葉なのでお客さまによります。

樋口委員には産業の現場感覚から意見を伺いなどの質問をいただきました。

「本物のＡＩと偽物のＡＩを区別する方法は？」

國吉研究主幹樋口委員

38

く分けると四つに分類できると考えます（図表参照）。

では話題になっているＡＩです。四つ目はシンどのビジネス展開には至っていないが研究領域

ストから画像を人工知能が自動的に生成するな

ります。三つ目は世界最先端のＡＩです。テキ術を実現し、ＡＩビジネスをしている場合があニング、機械学習を複数組み合わせ、高度な技

は最新技術を活用したＡＩです。ディープラー

を使ったビジネスはたくさんあります。二つ目

い話ではありません。そういう昔ながらの技術究してきた技術をＡＩと呼ぶことは全くおかしの研究は長く行われているので昔からずっと研

一つ目は従来技術を活用したＡＩです。ＡＩ11

図表11 人工知能に対するイメージの違い

最新技術を活用した
AIビジネス

世界最先端のAI研究

人間を超越する知能の実現

シンギュラリティ

一般ユーザーがAIと考えている領域

従来技術を活用した
AIビジネス

テキストから画 像を生 成、
データ処理と自己学習結果を結びつけるなどの最先端研究

DeepMindなど
取り組みはさまざま

昔から存在するアルゴリズ
ムを人工知能と呼んでいる
領域

画像、音声、テキスト、
ロボット制御領域がメイン

ディープラーニング等の高度な機械学習を用いた最先
端ビジネス※ただし、ディープラーニング
は必ずしも万能ではない

最適化、マイニング、統計処理など多数存在ビジネスでAIと呼ばれている領域

パネルディスカッション

39

ギュラリティ（技術的特異点。技術が指数関数的に発展する転換点）のような万能型ＡＩです。シンギュラリティは２０４５年をめどに人工知能が自分を改造し、より賢くなる、というような夢の話ですが、そのイメージをお持ちのお客さまもいらっしゃいます。

当社のビジネスでは一つ目と二つ目をＡＩと呼んでいますが、一般の皆さまと話をしていると二つ目、三つ目、四つ目をＡＩと考えている方もいるようです。そこにギャッ

プがあると考えます。偽物のＡＩと皆さんが思っているのは一つ目かと思います。そう

人工知能の研究側から見たときにどういうものが人工知能であり、どういうもの

いう状態と認識しています。
國吉

今の人工知能と言っているものはデジタル革命とディープラーニング革命の２階がそうでないのかという全体像について松尾先生はいかがでしょうか。
松尾

建て構造になっていると思います。

デジタル革命はＩＴの擬人化です。今までＩＴと言ってもなかなか分からなかった、

想像力の働かなかったものが、人工知能という言い方をすると急に想像力が膨らみ、自分たちの仕事をもっと効率化できるのではないかと重要だと思い始めたのがデジタル革40

命の話です。本当は年前からやらなければいけなかったことですが、ようやく多くの形式知化、リスク抽出・評価、人が作成した計画・判断の評価」「応対業務、単純作業の

41

パネルディスカッション

次にＡＩに期待することです。どういうところでどのように効果を発揮してくれす。樋口委員、産業界から見てどうでしょうか。

るのかです。
「コールセンター、生産現場の効率化、マーケティング、人事」「ノウハウの國吉

構造をしています。

代替」「ノウハウや暗黙知を形式化、再現」「創造的な活動」などの期待が寄せられていま

機械学習の中に含まれます。ディープラーニングの中でもいろいろな技術があるというな技術が人工知能の領域に含まれますし、ディープラーニング以外のさまざまな技術もにその中の一つの技術としてディープラーニングがあります。機械学習以外のいろいろ

人工知能は広い領域です。その中の一つとして機械学習という分野があります。さら略的なチャンス、特に製造業にとって大きなチャンスだと思います。

この２、３年で急激に起こっているイノベーションです。眼ができたことで、日本の戦人が分かってきて、それをＡＩという言い方をしています。ディープラーニング革命は

20

●現業務の改善
コスト削減がメインの目的。顧客応対サービスの進化（コールセンターなど）、知的専門職のサポート（医師、弁護士など）、バッ
クオフィスの高度化（面接など）。

図表12 ビジネスで注目されているAI活用法●サービス化の推進
データ分析を活用することで、モノ売りからコト売りに変化。
業界を超えた参入も。

●ビジネスのスケールアウト
Uber や Airbnb が代表例。人を介さないサービスにより急激に事業を拡大。
●リアル世界のインテリジェント化
ロボットに「眼」が導入されることによるロボットの進化、モビリティの高度化など。

ＡＩが適用できる領域は幅広いと考えます。

42

樋口

そのために説明もなかなか難しいのですが、ビジネスでＡＩを使う場合には最先端技術や高度な技術を使うことが重要ではなく、いかに利益を挙げ参照）。

るかが重要だと考えます。そういう観点で大きく分けると四つの方向性があります（図表と思います。二つ目はサービス化の推進です。モ

二つ目以降は若干気づきにくいところもあるか

護士が活用するなどの例があります。

ーザーの質問に答える仕事を楽にする、医者、弁ます。コールセンターでオペレーターがエンドユれているので、分かりやすいＡＩ活用法かと思いするという話です。ニュースでもよく取り上げら一つ目は現在の業務をＡＩで改善する、高度化

12ノ、データを持っている人がＡＩを適用し、自らのビジネスを広げるという考え方です。

分かりやすいのは自動車です。自動車をネットワークにつなぎ、ワイパーの動きを取得することにより、日本のどこで雨が降っているのかを細かく知ることができます。そのデータを分析することで、農業、天気予報など、自動車と関係ない業態に進出することができます。データを持つ企業が他業界に進出するにはＡＩ以外も必要になりますが、業界を超えた参入にＡＩを使うという考え方はあると思います。

三つ目はビジネスのスケールアウトです。大企業ではなく、ベンチャーなどがよく、 Airbnbと い う 会 社 で す。 全 て を Ｉ Ｔ、取っている戦略と考えます。有名なものが Uber
ＡＩで処理を行い、人を全く介さないことにより、短期間で一気にビジネスを拡大させので、ロボット、環境に眼が導入されることにより、インテリジェント化され、社会がパネルディスカッション

國吉

社会は変わるという話が出ました。経団連、政府でもＡＩの導入、活用により、四つ目はリアル世界のインテリジェント化です。先ほど松尾先生からあった話そのもるという考え方です。そういうところにＡＩを使うことは重要な考え方です。

変わるという話です。その四つの活用があると考えます。

43

はSociety 5.0

が出ています。続橋さん
Society 5.0と 比 べ て も 全 く 違 い ま す し、 産 業 の 課 題
Industry 4.0

44

どういう社会を目指し、何をやるのかに関しては
から解説、意見をいただけますか。

かと思います（図表 参照）。安倍総理はいろいろな会議
Society 5.0

松尾先生から日本の戦略の話がありました。そういう戦略を進める上でのコンセ

社会全体で新しい未来像を描くには
続橋
プトに当たるのが歴史的な長さがらに第４次産業革命が今のスマート社会です。

次産業革命がトーマス・エジソンの電気で、第３次産業革命がコンピューターです。さまります。西暦１８００年ぐらいからの話で、たかだか２００年ぐらいの話です。第２以降からの話です。工業社会はジェームズ・ワットの蒸気機関の第１次産業革命から始人類誕生に始まる５段階の社会があります。最近よく聞く第４次産業革命は工業社会と言っていますが、もともとは今年１月に出た第５期科学技術基に出ると Society 5.0
本計画でコンセプトが示されました。

13

図表13 わが国の取り組み ─Society 5.0─

□個社の取り組みは進むが、国家戦略は未整備。
Society 5.0□そうしたなか、第５期科学技術基本計画で Society 5.0 とのコン
超スマート
セプトが掲げられる。
コンピューターの発明
社会
情報流通の開始

だけでなく、社会も含めた課題だということです。健康、介護、安心、安全、防災などまでスコープは広がっているのが特徴です。

そうした社会を築くためにどうするか。

サイバーフィジカルシステム（ＣＰＳ）という言葉があります。現実社会とサイをバー空間をうまく活用し、 Society 5.0
ページ図表

進めようということです（

タを取ります。そのデータをビッグデー

46

パネルディスカッション

参 照 ）。 そ の 中 に は 幾 つ か の 要 素 が あタ化し、整理します。データをどのよう45に整理し、活用するかは重要な課題です。

ります。最初にＩｏＴでいろいろなデー

14

21世紀初頭～20世紀後半18世紀末
紀元前13000年
人類誕生

農耕社会
自然との共生工業社会
灌漑技術の開発
定住化の定着情報社会
蒸気機関車の発明
大量生産の開始

狩猟社会

図表14 技術的背景□ICT の急速な進化を背景とした、サイバー空間とフィジカル空間の融（注 1）による新たな価値の創造が、変革を支える基盤。
合（CPS）□CPS を基盤に AI・ロボット等による価値創造も加速。
機器、ロボットに
よる実行

センサー、
機器による
データ収集

Physical Space

3D プリンタによる具象化

VR・AR（注 2）機器を
通した融合

AI 等に
よる分析

ビッグデータ化

Cyber Space（注 1）CPS：サイバーフィジカルシステム（注 2）VR（Virtual Reality）：仮想現実。AR（Augmented Reality）：拡張現実

情報の保護などもあり、その利活用がうまくいかないとデータはなかなかそろわないという問題があります。

いずれにしても、ビッグデータ化を進め、ＡＩにそれを投入します。どれだけよいデータをＡＩに与えられるのかが鍵になります。碁、将棋もそうですが、よいデータを与えるとどんどん強くなります。さらに、ＡＩは頭脳なので実際に活動するのはロボットです。

フィジカル空間に戻り、どれだけすごいロボットが作れるかということになります。そこが最後の実行では重要に

なります。

46

國吉 社会全体の話になりました。個人的に Society 5.0
は 理 念 と し て 共 感 し て お り、
すばらしい、先見性のあるものと思います。一方で、具体的にそこにどう到達するのかについてはこれから深掘りが必要だと考えます。今分かっていることは今できつつあることです。そこから先をどうするのかはしっかりと見えていないと考えます。われわれも頑張って寄与しなければいけないと考えています。

これからの課題ではノウハウ、暗黙知があります。私はかなり重要と思います。これから乗せるコンテンツという意味で、日本は生産現場での暗黙知、形式化されていないが現場で工夫し蓄えているようなノウハウ、技能をいかにＡＩの上に乗せて活用できるのか、価値化できるのかという課題があると思います。暗黙知の扱いについてご専門に近い中島先生はいかがですか。

暗黙知の定義は形式化できない知であり、「暗黙知の形式化」という表現は形容矛

ディープラーニングを突破口とする暗黙知の領域
中島

盾であることをまず申し上げます。先ほど松尾先生の話の中にディープラーニングで眼パネルディスカッション

47

中島委員

ができたという話がありました。基本的に暗黙知の部分を扱えるようになったのがディープラーニングだと思います。今までは形式化しない

限り、コンピューターに乗らなかったものが、今や暗黙知のまま扱えることが重要です。形式化というのは言葉上で間違いという以上に中身としてやめたほうがよいと思います。

眼の話、カンブリア爆発と同じようなことがで は、Society 5.0

起こるというのはよい形容だったと思います。

続橋さんがおっしゃった

が １ ０ ０ 万 年、 2.0
が １ 万 年、 3.0
Society1.0
が数百年、 4.0
が数十年と来ましたが、 Society

は 数 年 で す。 ジ ョ ー ク で は な く、 本 当 に 数
5.0
年単位ですごいことが起こると見たほうがよい48

と思います。

まだ始まっていないのは事実かもしれませんが、雰囲気的にアメリカでは始まりかけていると思います。シリコンバレーでは新しい技術が出ると数カ月で世の中に広まりま

暗黙知の形式化については私も同意見です。だからこそ、日本の膨大なるコンテ

す。来年あたりから始まると思ったほうがよいです。
國吉

ンツの蓄積を生かすために、ちょうど技術がディープラーニングを中心に使える状態になりました。そのことに気づき、それをどう生かすかは大事だと思います。

創造的という話も出ています。技術開発では絵画を自動生成する、作曲するというシ

ステムの研究もされています。それがクリエーティブかどうかはいろいろな意見があると思いますが、既存のものの組み合わせにより新しいものを作るときに、あるアーティ

ストのスタイルに合わせて作る手法です。クリエーションという意味では、作家である

星新一さんのショートショートを人工知能に入れ、しかし星新一さんの真似では

瀬名委員はどういう意見を持っていますか。
瀬名

なく、星新一さんの面白さに匹敵する小説を作ることが目的のプロジェクトがあります。

パネルディスカッション

49

瀬名委員

私も最初に少し関わりました。ストーリー骨格

は自動的にかなりできるのですが、そこから先の面白さはまだできていないと思います。

暗黙知という話がありましたが、賛成しながら、私は小説家なので別の見方を話し、ヒントになるぐらいのほうがよいかと思います。数年前にピーター・ワッツというカナダのＳＦ作家と 意 識 に つ い て 話 を す る 機 会 が あ り ま し た。

ワッツはＡＩについても詳しかったですが、私はアメリカ人と日本人が話をすると話がどうもです。無意識は英
conscious

ずれると昔から感じていました。
意識は英語ではですか。英語で何と言いますか。 unconscious
なんですね。深層意識とsubconscious
語では

50

がなく、
subconscious

で 生 き て い る、 そ う い う 状 況 か と 思 い
unconscious

いうか、意識には上っていないが、どこか意識で気がついているような状況です。例え
ばゾンビは
ます。

と unconsciousの間の subconscious
がかなり利いていて、創造的な活動は conscious
それが暗黙知かと思います。ディープラーニングで画像認識の話が出てきましたが、の部分と subconsciousの部分がうまくディープラーニン
ひょっとすると unconscious
なのグでできるようになると、ネコをネコと感じるディープラーニングは unconscious

なのかと小説家としては考えてしまいますが、さらに面白い、創造的か subconscious
な人工知能ができるようになるかと思います。

小説家としては将棋、囲碁の方と同じで、自分たちがどうやって創作しているのかを知りたいのです。そのためであれば研究者に協力したいと思います。そのへんがＡＩの研究課題的にはディープラーニングを扱っているパターン的な部分と、形式知の中で将来的に面白いものになるのではないかと期待しています。
國吉

ドメインである記号的な部分をきちんとつなげられるのかということにも関係する気がパネルディスカッション51

します。言語とつながるかは松尾先生が講演でも扱っていました。松尾先生、そのへん

言語は何となくこんな感じだろうというのは、先ほど話したことで想像がつきまはどう見られますか。
松尾す。意識はさらに難しいと思います。意識は何かに焦点を当てることが元は視覚に由来していると思いますが、自分の内部のプロセスに焦点を当てるようなことをします。焦点 を 当 て ら れ る と こ ろ と 当 て ら れ な い と こ ろ が あ り、 当 て ら れ な い と こ ろ がみたいなことになります。
「自分が考えている自分」が考えている自分、みsubconscious
たいに無限後退すると自分がある種の自由意思を持っている、そういう感覚につながるのではないかと思います。それがどういう仕組みでできているのかはすごく難しいと思ＡＩに期待すること、どこで使われ、どういう効果があり、世の中がどうよくな

います。
國吉

作家のような創造的な活動のまねをすることはできるかもしれませんが、創造的るのか、ほかに意見のある委員はいますか。
松尾

な新しいものを生み出すことは結構難しいと思います。それは評価関数を持たないから52

です。面白いと感じるか、美しいと感じるかは、人間が進化的に相当作り込まれているものなので、その関数は非線形であり、すごく難しいはずです。それをコンピューターが模擬することはほぼ不可能だと思います。人間のハードウェア、センサーなど、進化

私も同じ意見です。コンピューターがレシピをまねる、有名レストランと同じ味に由来するところに原因のあるものは難しいのではないかと思います。
中島を作ることはできるが、創作料理はできないだろうという話をしています。要するに身体性です。どういう味がよいのかは食べることをする人でないと分からないという意味

でそう思っていましたが、人間のクリエーターの大部分はそんなことなしにやっているという話も聞きます。曲でも、絵でも、何でもよいのですが、どういうものが売れているのかを分析し、その方向で作れば創作はできるということです。創作というときに本当の意味の創作もありますが、ファッションのクリエーターなど、法則で創作していることもあるという話です。

ＡＩはそもそも人間の無意識の部分を探ろうとして始まった分野です。形式化できる

ところは自分たちで説明できるからコンピューターに頼らなくてもいろいろなことが分

パネルディスカッション

53

かります。大人のＡＩは教科書的に言語化し、形式化して書けるからそれでよいのです、 unconsciousの部分は言葉にならないので、ＡＩはが、暗黙知の部分、 subconscious
その仕組みを考え、プログラムし、同じように動くかということで試してきました。

ＡＩとＩＴはどう違うのかという話もありますが、やり方がよく分からないので試している間がＡＩです。やり方が分かると普通のプログラムに乗るといった、そういう違いだと思うので私はＡＩとＩＴをあまり区別していません。

プロの棋士、例えば羽生善治さんに聞くと「駒が光る」という言い方をします。これは、形式化されていない、暗黙知をそのまま表現しています。将棋は理詰めのゲームですが、それを読んでいる過程が本人には分かっていないということです。人間の知的活

動 と 言 わ れ て い る 部 分 の 大 部 分 は 言 語 化 さ れ て い ま せ ん。 こ れ か ら そ こ を 扱 う 分 野 に

ディープラーニングという武器ができ、踏み込んでいきます。そういう意味でＡＩの研クリエーティブなものについて、実際に商業的に行われるときのクリエーション

究としても今までとは違うフェーズに入っていると思います。
國吉

はシステマティックという話はたぶんそうだろうと思います。それは結構自動化できる、

54

今のＡＩの技術で扱える範囲でしょう。市場のデータから評価関数を推定することは現在の技術の範疇にある話かと思います。それができれば、それによって最適なソリュー

ションを出すように学習する、探索するというのはＡＩの技術の範疇で、すでにあるところです。結構できてしまうところが多くあるのではないかと思います。本当のクリエーションのほうが身体性に根ざすということも、私は根本的に賛成です。

次はＡＩに対する不安、懸念です。世の中でいろいろと議論されていますが、「人意思決定の主体は人間なのか？ ＡＩなのか？
國吉

ト工学３原則のようなことが必要では？」という論点がアンケートで指摘されました。

パネルディスカッション

ＡＩの暴走は防止可能？」「意思決定は人間がすべきものであり、ＡＩを活用した

ンのようなものです。意識の科学という分野があり、意識の研究者たちがいます。そこくない」「ＡＩが生み出した結果の根拠特定方法が課題」「アイザック・アシモフのロボッ

は？

間とＡＩの主従関係が逆転しないようにすることが課題」「意思を持つＡＩの実現可能性

まず、松尾先生が言われた意識の定義は、意識の定義の中の一部であり、アテンショ

55

で長年検討が重ねられ、意識は幾つかの要件があり、そういうものを満たすものを意識というと、だいたい決まってきました。それに基づき、それらを公理系とし、理論の構ファイ

築がされています。その代表格としては意識の統合情報理論（ＩＩＴ）が発表されています。ジュリオ・トノーニという研究者の主導でやっているものです。意識量にΦという量を定義しています。情報理論で、情報量的な概念ですが、それで計算できるというものです。

基本的に意識は複雑ないろいろな情報を統合した状態です。過去にいろいろな状態があったものを統合し、今の一貫した状態があり、これからの複雑に分岐しうる状態を制御している、そういう一貫した状態が意識であるという定義を理論化しています。Φは連続量なので人間はいっぱい持っています。イヌもかなり持っています。ハエ、ハチもそれなりに持っています。もっと単純な生きものも少しはあるかもしれません。そういう記述的な理論です。

科学の歴史を振り返っても、ある量の記述ができたことは重要です。その後にそれを生み出す、扱う、利用するというメカニズムが作られるように歴史は進んでいます。意56

識のメカニズムそのものが構築されることも夢物語というか、これからどう行くか分からない、ギャップが大きいということでもないかもしれません。連続的に技術が進化する可能性はあります。今は意識の研究者の中で人工意識を構築するプロジェクトを国からお金をもらってやっている人もいます。まじめな研究課題にもなっています。

その場合の意識はハエレベルなのか、もっと小さい細菌レベルなのかは分かりません。

いろいろなレベルがあるために、意識ができるといっても今はどのぐらいの意識と言わなければいけないという精度がいります。自由意思についても研究が進んでいます。雲の上のよく分からないものではなく、こういうメカニズムから生まれるかもしれないという話に徐々になっています。

そういうことを踏まえた上で、私は人工意識は実現可能性があると思います。ものす

ごく遠くでなく、一部、徐々に、少しずつできても不思議ではないと思います。そのへ

ＡＩは科学ではなく、工学だと思います。科学は現実にある現象を説明すればよんについてはどう考えますか。
中島いわけです。物理学はその最たるものですが、世の中の現象を説明します。工学はそのパネルディスカッション

57

現象を作り出すということです。意識がどうなっているかという観測と記述が科学です

が、ＡＩはそれでは満足しません。ほかにも感情などいろいろあります。

感情を持ったプログラムを作っている人がいますが、あれは感情パラメーターを入れており、怒り、喜びをパラメーターでやっています。あれは本当に作ったことにはなりません。観測した感情をそのまままねしているだけです。ＡＩとしてやるには本当に感情を持つ、意識を持つことをやらないといけません。それは分からないという前提ですが、作業仮説としてはわれわれが志向する問題解決をするときに役に立つものでなければいけません。要するに問題解決の機能の一つだろうと思います。

松尾さんが無限後退の話をしました。プランを立てるときに自分だけではなく、ほかの人がいます。そうすると、ほかの人は何をしようとしているのかというモデルを作らないといけません。自分１人しかいないのであれば自分の思いどおりにいきますが、相手がいるときには相手をモデル化し、何をやるか考えるということを計画します。そのときに自分もいるわけで、自分もモデル化しないといけません。自分の中に自分のモデルがあり、自分のモデルの中にはさらに下の自分のモデルがなければいけないという話

58

になり、無限後退という話がありました。

そう思うと答え、解が出ないわけです。自分は自由意思を持っているから何でも考えられる、モデル化をしなくてもよいという仮説を入れることにより、初めて今の問題が解けるということをやります。それがＡＩで考えるところの自由意思です。

意識はメタコントロールシステムだと思います。世の中の全部のことを考えていると計算時間が足りないので、その中の一部に絞るという指向性です。そういうことをやらないといけないと思います。

ディープラーニングがすごく期待されていますが、あれは機械学習の一部です。機械

学習は今まで与えられたデータから次に来たデータを判別するものなので基本的に情報は足りません。今まで１００個のことを知り、１０１個目を計算しなさいと言われておと、 汎 化 が 足 り な いovergeneralization

り、十分な情報がないときにやらなければいけないというのは機械学習の本質です。
そのときにいつも起こるのが汎化しすぎるで す。 与 え ら れ た 例 は ち ゃ ん と 学 習 し た が 次 の 例 は 分 か ら な い の が、
overfitting
で す し、 極 端 な 話、 イ ヌ を 学 習 し、 ネ コ が 来 て も イ ヌ と 言 っ て し ま う の がoverfitting

パネルディスカッション

59

です。機械学習の研究はそこにうまく線を引くためのメカニズムでovergeneralization
す。与えられた例だけでやっている限り、精度はどんどん高くなるが１００％にはならないと思います。

そのときに出てくるのが意識というか、目的、こうあってほしいという構えのほうです。その下に学習をします。だから、データからボトムアップに行くのではなく、トッ

プダウンとボトムアップを組み合わせた形で推論と学習をすることでたぶん解けると思

工学的な意味で重要な機能を担うものが、生物で意識と呼ばれるものに相当するいます。そういう場面で意識を考えたいと思います。
國吉

ものだから必要だということです。ＡＩの暴走は防止可能かと聞かれていますが、そのために必要です。ただ情報にドライブされて動く、ただ盲目的に動くのではなく、自分は何をやっているのか、これでよいのかと上から考えるのが意識に相当するメカニズムです。そういうものがなければ暴走します。そういうものが暴走しないために必要です。

できないためにすごく変な間違いをすることがあります。
ＡＩのシステムは generalize
間違えるときは人間の常識から外れているような変な出力のときがあります。それが暴60

走に近く、害があります。そういうことが起こるようでは使えません。人間の常識に合った振る舞いをしてくれないといけません。そのためにも上位構造は重要な技術課題でもあると考えます。

もう一つ、意思決定は人間がすべきものであるというのは正しいと思いますが、いろＡＩはいかに賢くなっても道具です。道具は人間が目的のために使っているので、いろな意見があると思います。賛成の方はいますか。
中島

すべきも何も、当たり前だろうと思います。ＡＩ、コンピューターシステムはＨｏｗはできます。あるゴールを与えるといかに実行するかを考えられるのですが、何をすべきか、Ｗｈａｔは今のところ人間から出るしかないと思います。意識を持ってトップダウンにという話をしましたが、その意識はどこから来るのかというと、外から与えられるしかないのです。ロボット３原則からいうと人間の命令という形でやってきますが、そ意思決定を人間がするか機械がするかは難しい問題です。人間の幸福のために人れを守りなさいということで動くしかありません。
樋口

工知能をいかに使うかが重要です。人間が幸福になるなら人間が意思決定すればよいし、

パネルディスカッション61

幸福にならないならＡＩが意思決定してもよいと思います。前に、仕事をどのように割り振るべきかという論文を読みました。人間が仕事を割り振るとえこひいきしているのではないかなどと深読みしてしまい、作業者の幸福度が下がりました。逆に人工知能が仕事を割り振ると公平感があるように思われ、作業者みんなが満足したという結果とな

この問題はそんなに簡単ではないと思います。意思決定もいろいろなレベルがありました。だから、場合によっては人工知能が意思決定をしてもよいと考えます。
國吉

ります。松尾先生の講演で強化学習の話がありましたが、あれは意思決定をしています。

意思決定といっても、次にコップのどこに手を伸ばすかみたいなことです。手を伸ばす

か、あるいはボトルのほうを持つかなど、行動の選択が常に起こります。そこの意思決定は学習の対象であり、ＡＩシステムが常にやることです。それをどのレベルまでやるのかです。

意思決定についてある程度委譲できず、その全部を人間がやるのであれば役に立ちません。自動運転がよい例です。自動運転も運転中の全ての意思決定を任せます。ＡＩを考えるときには必ず度合いの話になります。ある程度は意思決定を委譲し、どこを人間

62

、 Desire、
Beliefが担保するのかです。人類の幸せのため、人間のためになっているかどうかは譲れない

ＡＩの分野で意思をちゃんと分けたＢＤＩモデルがあります。

ところです。境目はどこかという議論が必要かと思います。
中島です。 Beliefとは世の中がどうなっているかという世の中のモデルそのものでIntentionとは一番ハイレベルの意思、何をしたいかです。生きたい、おいしいものをす。 Desireとはそれを具体化するときにどう逃げるか、どのレストラ
食べたいなどです。 Intention
がトップレベルにあり、それを実施する方法がいろいろあンに行くかなどです。 Desire．とします。それと、今の世の中と比べ、差を縮めることる中でそのうちの１個を intendと Desire
ぐらいでちゃんと分けておいたほうがモデルになっていますので、 Intentionがよいかもしれません。

（注１）

次にロボット工学３原則について議論をします。意見はありますか。

ロボット工学３原則とはアイザック・アシモフがジョン・Ｗ・キャンベル

パネルディスカッション

63

新しい倫理や社会制度の議論が待たれる
國吉
瀬名

Jr

いう作家兼編集者と一緒に考え『われはロボット』という古典ＳＦの中に書いたものでと言います。ロボット工学３原則という言い方は間違いで、す。 Three Laws of Robotics
ロボット学３原則と言ったほうがよいと思います。

アイザック・アシモフが小説の中で議論を重ね、後年までずっと取り組んでいたテーマであり、最終的にロボットの倫理の問題だという話に行き着いています。世界と対峙するときに自分はどのように世界を幸せにするために行動できるだろうかという規範がロボット学３原則だと言っています。

その議論は途中で終わってしまうのですが、カウンターパートとして人間学３原則のと小説の中で書いています。ロボット学の話もしています。 Three Laws of Humanics
３原則が議論されるようになる時代には人間学の３原則もできるのではないかという話をしています。これはロボットだけの話ではなく、私たちがどのように世界を倫理的に國吉倫理だと思うと正しいと思います。松尾さんは人工知能学会の倫理委員長をやっ

中島委員、これはよいのでしょうか。

見て行動するかという一つの提案だとアシモフは言っています。
中島64

ていて、ＡＩの倫理を作るのならばこのレベルのものをぜひ作ってほしいです。ロボッ

トが守るというよりも、ロボットを作る人がこれに従ってロボットを作りなさいという形のものかと思います。なぜかと言えば、ロボットのプログラムに書いても実行できません。映画『ロボコップ』には文字で出てきます。ロボコップは人間の脳なので、字を読んで動けなくなりますが、プログラムにそれを作り込むことは技術的に無理だと思います。

ロボット工学３原則には「第１条に反する場合は」「第１条および第２条に反するおそれのない限り」というものが出てきます。ＡＩでは非単調推論と言います。情報が何もなければ命令に服従していればよいのですが、命令に服従していると誰かが死ぬと分かった途端に行動を変えなければいけません。それはまだ実装できていません。推論規則を一生懸命に作ろうとしている人たちはいますが、すごく簡単なものでもできていな

現状の技術で作れないというのには同意しますが、だからこそ頑張るべきといういのが現状です。
國吉のが私の意見です。必要だと思います。開発側の人間が守るべき倫理だというのはそう

パネルディスカッション

65

かもしれませんが、そこにとどまるのでは駄目で、ＡＩシステムに内在化させることは絶対に必要で、そこを解決するべきです。ロボット工学３原則に「ロボットは人間に危害を加えてはならない」と書いてありますが、現状ではできないです。危害とは何なのか、どういう動き、どういう状態変化が危害なのかはその場になってみないと分からないので、事前にプログラムすることは困難です。

アシモフの小説にはいろいろなものが出てきます。例えば重いものを持っているだけ

では何も危険がないですが、人の頭の上に持っていって手を離したとします。手を離した後にすぐにつかめば危害は回避できるので、離すこと自体が絶対に駄目ではないのです。そう思った瞬間に勝手に落ちます。

物体の落下自体は自分がやっているわけではないので、第１条の後半がなければ放っておいて死んでしまうことが起きます。第１条の解釈はとても難しいです。今の例でも第１条の後半が厳格にあれば絶対に危険を見過ごしてはいけないのでちゃんと回避されるわけです。そこを弱めるとえらいことが起きます。それがアシモフの小説です。書いてあることは一般原則なので、それを実際の行動に反映できる技術は今のところないと66

思います。

アシモフの小説に、ロボット工学３原則がロボットの陽電子頭脳の設計をするための数学理論の中の一番根本的な方程式に埋め込まれていると書かれています。したがって、その理論で構成された頭脳が行うおよそあらゆることがそれに従うと読めます。すごいことと思いまして、そういうことができるように頑張るということです。

プログラミング、ＡＩの研究の中で制約論理、制約プログラミングという概念があります。具体的な値、具体的な演算を記述せず、値の関係が満たすべき拘束条件だけで具体的なものは指定せず、関係だけを指定します。そういう概念がありますが、それは結構

ボット自体が見つけることになっています。自己モニタリングができるかということにパネルディスカッション

ゼロ

アシモフは晩年の小説でロボット自体が３原則以外の第０条を自分で作ると書い一つ上の世界観を持っていて、そこで自己参照できるかということが第０条を作ることています。第１条に先立つ「ロボットは人類に危害を加えてはならない」というのをロ

瀬名

使えるのではないか、そういう延長線上にあるかと思います。私はやるべきと思います。

近いような気がします。ある種の人工知能が自分の世界観で物事を判断しているうちに67

につながるのかと、作家としては思います。

（注１） ロ ボ ッ ト 工 学 ３ 原 則
第１条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第２条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第１条に反する場合は、この	
限りでない。
第３条 ロボットは、前掲第１条および第２条に反するおそれのないかぎり、自己をまもらなければならない。

次に現実的な話題に移ります。ＡＩの導入の課題、効果についてです。「データのＡＩの導入とその経済的効果
國吉

取得に課題がある」「ＡＩ導入の費用対効果に疑問がある」「導入コストは？」「経済効果を検証してほしい」「ＡＩにとって処理しやすい業務フローへの変革に課題がある」「Ａ

Ｉを理解し活用する人材の獲得・育成に課題がある」という指摘をアンケートでいただ参照）。どのような業務に適用するかによって価格はだいぶ変わります。ハード

ＡＩを導入するときにどういうプロセスをたどるのかについて説明いたします

きました。そのことに詳しい樋口委員からお願いします。
樋口（図表を使うか、使わないのか、自動運転みたいな壮大な話であれば値段も大きく変わります。

15

68

図表15 ビジネスにおけるAI導入プロセス

基本的な AI に関する考え方を説明。

試 験 的 に 導 入を 行
い、効果を測定する。

アルゴリズムをゼロから作るのか、既にあるものを適用するのか、どのぐらいチューニングをするのかなど、さまざまあり、一概に価格を設定するのは難しいと思います。人工知能でコールセンター、チャットなど、業務、を描いたと理解していただければと考えます。

オペレーターの効率化をする場合を想定し、ざっくりと図表

基本的な導入方法はプロジェクトによりあまり変わらず、三つに分かれると考えます。最初に導入コンサルを行のギャップを埋めるためにコンサルティングを行います。

とができるのか、ＰｏＣ（試験導入）を行い、効果を測にＡＩを育てていく必要があるなど、お客さまとの意識わりという形にならないことが多く、入れた後も継続的います。人工知能の導入はソフトをインストールして終その後で本当にお客さまのビジネスで成果を挙げるこ

パネルディスカッション

・費用は拠点数などにより大きく変化・人件費以外にサーバ費用なども必要になる
場合がある

・期間は 2 ～ 6 カ月
・費 用は数 百 万 円 以
上。ある程度の規模の PoC で あ れ ば、
500 万円以上になる

本格的にシステムを開発し、お客さまに
納品する。

PoC
（試験導入）

・AI 導入は簡単ではな
い・目的が重要

15

69

本格導入
導入コンサル

図表16 AlphaGo＊深層学習でプロ棋士の棋譜（3000万局面）を再現する予測器の作成 予測率 57％＊予測器を初期値としてコンピューター同士で強化学習させ、元のシステムに80％勝つシステムを作成＊ そ の シ ス テ ム を 使 っ て3000万 局 面 を デ ー タ にし てvalue
networkを作成（これが囲碁の評価関数に相当）＊モンテカルロ木探索を使ってプレイ＊機械学習に50個のGPU 1カ月＊対戦は1202個のCPUと176個のGPU70定します。試験導入についてはタスクによって変わりま

すが、２カ月ぐらいで終わるときもあるし、６カ月ぐら

いかかることもあります。人工知能はお客さまのデータを活用するので、データを社外に持ち出せないことにな

ればお客さま側で作業場所を確保するだけでも１カ月かかりますし、秘密保持契約を結ぶだけで１カ月半かかりますので、期間も見積もりにくいところがあります。Ｐ

中島委員は意見がありますか。

ｏＣで成果がでれば最終的に本格導入に至ります。
國吉

アルファ碁は人類で１番目に強い人ではなく、２参照）。学習に３００

中島

番目に強い人に勝ちました（図表

ルロ法でランダムに打ち、うまくいったものを使うことの棋譜から学ばせるようにしたのが最初です。モンテカ

０万局面を使いました。次の１手を学ぶのに３０００万16図表17 「あから2010」の開発（情報処理学会）

表：多数決による性能の向上。
勝率は1手3秒、1000局より計算
・約200台の計算機を使用

多数決合議

73
・分散並列探索法＋合議法
4異種プログラム（Gekisashi、GPS Shogi、Bonanza、YSS）で多数決

Gekisashi

50
GPS Shogi

36
Bonanza

62
YSS

37

万回やっていま個のＧＰＵで１カ月です。ＧＰＵとはをやっていますが、これも１手当たりす。機械学習に

10

２０１０年に日本で将棋をやったときは合議法を使いパネルディスカッション

合議制でやりました。合議制は将棋では駄目です。
なぜ次

ました
（図表

は 宣 伝 費 と 考 え て い る の か と 思 い ま す が、 後 追
Googleいはもっと安くできるようです。

１億円を出せるかというとたぶん出せない気がします。

参照）。当時強かった四つのプログラムのの オ ー ダ ー が か か っ て い ま す。 日 本 で 碁 に 勝 つ た め にいと言う人もいます。いずれにしても数千万円以上、億億円と言う人もいるし、１億円もかかっているわけがな

幾らかかったのかはちゃんと出ていないので、１００２個のＣＰＵと１７６個のＧＰＵです。

ディープラーニング用プロセッサです。対戦用は１２０

50

71

17

勝率（%）
Player
人間が分散並列環境と対峙（出所）T. Obata, T. Sugiyama, K. Hoki, T. Ito, CG2010

72の手がよいのかをちゃんと説明できない人たちが寄ってたかって議論しても、たぶんよ％という勝率だったので採用しました。２００台のクラス

い手にならないということです。われわれもやる前は合議制では駄目だろうと思っていたのですが、やってみたら追いかけるのであればある程度安くできます。ＧＰＵも性能向上しているし、古は Googleが ２ ０ １ ４ 年 初 頭 に ４ 億 ド ル（ 日 本 円 で
ア ル フ ァ 碁 を 作 っ た DeepMind
４００億円ぐらい）で買収しました。今から考えると安い買収で、お買い得でした。ア

そこで技術がどんどん進んでいくので、そこの戦いはかなり厳しいという気がします。

ティ化するのではないかと思います。それでもトップのところはよいものを使い続け、の研究所で使われているＧＰＵは２世代ぐらい
いものは安くなっています。 Facebook
前のものです。それをたくさん入れたほうが安く、速いからです。だんだんコモディ松尾います。今は幾らですか。

ですから、最先端のことをやると金が結構かかるのはゲームからでも読み取れると思います。

から見ればかなり貧弱なマシンでやってターで学会としては頑張ったのですが、 Google73ルファ碁だけでも Googleの 広 報 費 用 か ら す る と か な り 取 り 戻 し て い る と 思 い ま す。 最の デ ー タ セ ン タ ー の 電 力 使 用 に デ ィ ー プ ラ ー ニ ン グ を 適 用 し、 ％ 削 減 し近はGoogle％削減すると一瞬で取り戻せるののデータセンターの電力使用量をましたが、 Google
ではないかというぐらいです。

40があるのか事業計画をきちんと立て、そのために必要な設備投資をするつもりで技術に73

パネルディスカッション

費が１人１億円ぐらいのつもりでやると国際的にようやく競争力のある価格帯になりま

そうではなく、眼を持った機械でどのマーケットを取るのか、どのぐらいの市場規模であることが多いですし、そのための投資はラボを作るなどという話が多いです。

いかという話から社内のコスト削減をする、ちょっとしたところで使うという小さい話

投資してほしいです。学習工場とは計算機と人とデータの三つがあればできます。人件

提案したいと思って最近よく言っています。ＡＩを使いたいというとき、何かに使えなは十分に可能だと思います。どう取り組むべきかというときに、学習工場という概念をきちんと作り、新しい製品を作り、売上を伸ばし、シェアを伸ばし、利益を上げること

日本の製造業にとってアルファ碁でもうけることは難しいですが、眼を持った機械を40

年稼働させれば１０００億円です。そういう規模で考えます。

74

す。一線級の人を１００人そろえたいと思うのであれば１００億円の工場を建てます。
それを具体的なスケールの話と、勝つという明るい話と受け取りました。

ここで、会場から質問を受けます。

國吉

備投資すれば、十分に勝つ可能性はあると思います。

、 Facebookと対等にもあると思いますが、そのぐらいの本気を出してようやく Google
戦えるぐらいになると思います。工場を造るつもりで事業計画をちゃんと立てた上で設投資規模が数十億円、数百億円という日本の大企業が本気を出せば数千億円、もっと上をちゃんと考えないといけません。ただ、工場といわれると設備投資という頭になり、済みモデルを生産するのです。それがどういうところでどういうマーケットを取るのか工場なので何を作るのか、最終製品を考えないといけません。眼を持った機械の学習

10

会場質疑１──倫理、労働問題

──未来がどんどん進むとすごく効果のあることとそれで犠牲になる部分が必ずあります。負のことも考えないといけません。ロボットの話でも出てきましたが、人間は良心を持っているといっても価値観が違いますから、どちらが正しいのかはなかなか分かり

このプロジェクトでも倫理問題、労働問題について議論しています。これからもません。そういうことのために被害が出る部分もあります。
國吉

検討を深めないとならず発表できる段階にはありませんが、経済学の先生、科学技術社

会論の先生との議論も熱を込めてやっています。これからの社会を描くときには絶対に向こうの論理で全てが仕切られてしまうのではないかとすごく危機意識を持っていて、

パネルディスカッション

は確実にあります。それも含め、倫理問題、アメリカが勝ち組で世界を席巻したときに仕事が奪われるというのは避けて通れない議論です。奪われるというか、消える仕事

外せないところです。

戦略が必要なところと考えます。

75

76

会場質疑２──ＡＩによる内部統制──実務を考えると会社法と金商法（金融商品取引法）によるそれぞれの内部統制の中で仕事をしているのが現実です。内部統制の入り口の部分はＰＤＣＡの部分や、作成、確認、承認の部分が欠かせない中で仕事をしています。そこにＡＩの意思決定を絡めると理解しにくいというか、どこで整理すればよいのでしょうか。作成、確認、承認はそれぞれ違う知見と違う経験を持った者が判断してこそ初めて機能することがあります。

松尾先生がおっしゃったフォーカスする考え方で整理しようとするとどれを上位に、どれを下位にすればよいのかも含め悩ましいところがあり、現実問題としていずれ出て技術はいろいろな可能性を提供できると思います。ただし、可能だからやってよくるでしょう。
中島

年ぐらい前から言い続いのかというと別問題であり、それをどうするのかはちゃんと議論しないといけません。

われわれは社会学の人たち、法律の人たちと一緒にやりたいと

内部統制の話はＡＩがあると、今までになかったような企業形態がありうると思いまけているのですが、向こうがなかなか乗ってきてくれないのが現状です。

20

す。表計算になぞってよいのか分かりませんが、エクセルの表計算は人間よりもコン

ピューターのほうがはるかにうまいですよね。人間は部分的にチェックするのはよいのですが、全体のコンシステンシー（一貫性）を保つのは苦手です。大きな組織をうまく操るのはある意味でコンピューターのほうがうまいかもしれないと思います。

そう思ったときに、もう一つ障害になるのは法律です。われわれも公立はこだて未来

大学で新しい交通システムの提案をしていましたが、今の法律の下ではできません。法

律は常に技術の後追いになっています。研究者だけ、技術者だけでやっていてもどうしようもない面がいっぱいあるので、こちらからすれば一緒に議論したいと思っているところです。大きな意味では代議員制度も変えることが可能かもしれません。アメリカでは資本主義の次にシェアリング経済が出てくるという本も出ています。そういう大きな話も含めて議論しないと置いていかれるというのが実感です。

ＩＴ導入に伴ってＢＰＲ（）を考えないといけBusiness Process Re-engineering

ＡＩの活用による新しい日本経済の課題
國吉

パネルディスカッション

77

ないという話が、かつてあったことを思い出しましょう。業務の仕方そのものをそのままにして一部に計算機を入れたらよいという話ではなく、技術の導入によって業務の仕方全体の設計を変えるべきというのはご存じかと思います。ここでも同じことがあると思います。ＡＩの導入によってある部品を効率化させることは今もどんどんやっています。それにとどまっているようでは生かし切れていません。

会社としての意思決定プロセスはＡＩがダイレクトにコミットしうるところで、全体のエンタープライズアーキテクチャみたいなものを今までにないようなレベルの機動的、効率的なものができるかもしれません。そうすると全体を変えないといけないという大きな話になると思います。

それは会社にとどまらず、社会全体というのが中島委員の意見でした。社会全体のあり方、制度は変わるのかもしれませんし、変えなければいけないかもしれません。それを議論するためには法制度、社会組織をどうするのかという議論を重ねなければいけません。中島委員によれば来年ぐらいから大変革が起こるということですが、真剣に次の手を打たなければいけないというのがかなりのスピードで迫っているという認識をする

78

コストの話がありましたが、デジタル社会になったときに紙とデジタルを考えるべきかと思います。
続橋と、デジタルを原則に据えないといけません。デジタルをやってもよいというだけでは

紙とデジタルが並行し、役所には両方を出せとなり、かえってコストがかかるという変な話になってしまいます。社会の原則を変えることによって効率化を進める、そこをど

それでは最後の論点です。ＡＩが普及、成熟した社会に向けての課題、疑問です。

う早く進めるかが大事と思います。
國吉「なくなる仕事、なくならない仕事は何か」「人間とＡＩの役割分担は？」「シンギュラリ

ティを超えた先の社会とは？」「社会全体で技術革新の恩恵を受ける仕組みが必要」「Ａ

Ｉの発展が一般消費者にもたらすメリットは？」「法整備、倫理問題、社会の許容性が課題」について議論をします。

看護学部に勤めていたことがあります。十何年も前のことですが、当時、ロボッ

まずは、仕事がなくなるという捉え方です。瀬名委員の考えを伺えますか。
瀬名

トが発達し、ブームの時代でした。看護、介護はいずれロボットが取って代わるのでな

パネルディスカッション

79いかということで、看護学の先生方が恐怖感、反発心を抱いていたことが印象に残っています。

自分たちはロボット以上のことをやっている、人間らしい仕事をやっているつもりな

のに、ロボットに取って代わられるということで尊厳が傷つけられたような気がすると思っていたのかと思います。今でも看護の世界はロボットに取って代わられていません。

一部では、サイバーダインの介護ロボットのＨＡＬなど、介護やリハビリで、ロボット、
人工知能の分野が台頭しています。

看護学の先生方からよく言われたことがあります。看護の「看」は見るという意味で、

手で見ると書きます。画像認識でディープラーニングがブームですが、見るだけではな

く、手で触り、見て、判断するのが看護の本質と当時おっしゃっていました。それは今の人工知能にできていないところだろうと思います。

最近はサービス、ホスピタリティに関する本を読むときにこれはロボットにできるだ

ロボットでもできる接客』（工藤昌幸・板野太貴著）をろうか、人工知能にできるだろうかとよく考えます。レストランサービス業の人が書いた本『ヒトにしかできない接客

80

たまたま読みました。すばやくやることはロボットでもできるが、人間しかできない接客もあるということが主眼の本です。

本当は人間にしかできない接客、人間でもできる接客、ロボットにしかできない接客、ロボットでもできる接客という４段階があると思いました。どんな仕事でもその４段階があって、それが意思決定の話にもつながります。どこが意思決定なのか、人間でもできないものは自分の仕事の中でできるのか、ロボットにしかできないものは何なのか、

その役割分担を受け入れられるかどうかがこれからの成熟、普及に関しては肝だろうと
思います。

國吉

パネルディスカッション

瀬名

人間はどうしても固執するところがあります。意思決定といっても人間らしさを役割分担も含めた議論になっていますが、丸く収まるという話でした。それが理のぐらいデザインできるのかが今後の肝ではないかという考えです。

の、ロボットにしかできないもの、自分でもできるもの、ロボットでもできるものがどなくなる仕事となくならない仕事ではなく、自分の仕事の中で自分にしかできないも想で、そうなれば苦しむだけでなく、むしろ発展的に取り入れられると思います。

81

今の理想としてはすごくよいですが、いろいろな仕事をされている方はそれぞれどこまで受け入れられるかも難しいところかと思います。
國吉の現場で自分はＡＩをここに使う、ロボットをここに使うという判断はできるのでしょうか。専門家ではないので、ここで使えばよいということは誰かがやってくれないと無

この部分はロボットでできるという話を研究者、技術屋だけで考えていてもたぶ理ではないかという話もあると思います。どうしますか。
中島

ん範囲は狭いです。現場の人たちがいないと分からないこともあると思います。例えば

今、遠隔医療を一生懸命に研究しています。遠くにあるロボットが手術をし、それを医者がコントロールするということですが、切りすぎると困るという話が当然あります。

一方、警察の人は司法解剖に使ってほしいと言っており、そちらは少々切りすぎても大
丈夫かな、というところがあります。

北海道では札幌にしか司法解剖ができる施設はありません。函館で亡くなった方も札幌に運び、解剖し、戻すということをやっていて大変らしいです。現場の人と話してい

るといろいろな例が出てくる気がするので、そういうことはやっていきたいです。

82それから、なくなる仕事のことばかり考えていますが、増える仕事も当然あります。

議論するべきことは仕事の総量としてどうなるかということかと思います。たぶん増えると思います。なくなる仕事ではなく、仕事が変わるという見方のほうがよいのではないかと思います。仮に仕事の総量が減るとしたならばうれしいことです。要するに働かなくても生きていけるようになるということです。仕事と収入が１対１対応しているか

らなくなると困るのですが、そこは社会制度で社会補助を増やすような、技術ではない

今もどんどん起きていますが、趣味みたいなことが収入源になるということもあ

方法で解決できます。
國吉

國吉

中島

人工知能を現場のどこに適用してよいか分からないという話がありました。一つ仕事について意見はありますか。

資本主義は総取りになっているからそこを何とかしないといけないと思います。

ります。そういうバリエーションがどんどん増える方向もあります。

樋口最 新 の 技 術 を 紹 介 し ま す。 今 後 流 行 し そ う な キ ー ワ ー ド に Ｒ Ｐ Ａ（ Robotic Process）という言葉があるかと思います。ＡＩっぽくないところもありますが、ル
Automation

パネルディスカッション

83Graphical84

ールベースエンジンや、ある程度ＡＩの入ったデジタルロボットがＧＵＩ（）を自動的に操作し、業務を効率化します。当社ではそういうものも研究
User Interface
開発しています。

将来的には皆さんのオフィスのデスクトップにインストールし、自分の意思で業務を件ぐらい引っかかると思います。人工知能と呼べる

ある程度効率化できるような方向性を考えています。世の中では最近ＲＰＡの流行の兆しが出てきています。検索するとＩＴの進化を考えても同じことが起こっています。高度な技術をエンドユーザーこともあるし、人々がそういうものを使いこなすスキル、知識を身につけるというのも誰もがＡＩを使いこなせるような社会というか、技術の進化によって使いやすくする

なるとなかなかよい気がします。

ＡＩといっても専門家でなくても自分の業務で使い、仕事のやり方を変えられるようにが簡単に使えるようにパッケージ化されています。それがあるべき姿かもしれません。

國吉になるという感触を持っています。

ほど高度かという議論はありますが、そういうものを皆さんが自由に扱えるような時代

10あると思います。それは決して、ディープラーニング、アルゴリズムを勉強しようということではありません。パッケージ化され、使いやすくなっているものをどうやって実際の業務に組み入れるのかが考えられます。そこはある程度の教育も必要かと思います。

つまり、これからの時代ではいや応なしにＡＩ技術が社会に入ってきて、至るところで出くわし、使いこなさないとやっていけない時代になるとしたならば、使いこなすためのスキル、そのための考え方を身につけた人々がこれからの時代には必要で、そういう人々を増やさないとまずいのではないでしょうか。

ＡＩは大量のデータから集約し、質問に対し、検索して答えを出してくれるし、これ今までそういうことを一生懸命にやっていましたが、そうでないところの能力、そう

パネルディスカッション

びつけるのか、収益に結びつけるという判断に反映するのか、意思決定、新しいオーガ

くても、機械がやってくれます。

間が一生懸命にデータを計算する、読み込む、大量の資料を読んでまとめることはしなからの予測を出してくれるなど、いろいろな機能があると思います。そういうものは人いうものを機械が出してくれるとしたらどうやって統合し、自分の必要とする目標に結85

ナイゼーションの仕方を考える能力は問われる気がします。

ＡＩが入ってくるこれからの時代には今までと違うタイプのスキルがあらゆる業務現場で必要になるのではないか、そのためにはそういう人材育成の必要があるのでないかという気がします。ＡＩのコアの研究開発をする技術的な人材も必要ですが、一方で、技術の発展からいうと、使いこなすのに訓練しなければいけないうちは未熟だとさまざまな現場での人材も変わる必要があるかもしれません。
中島

思います。十何年前からユビキタスコンピューティング、最近はＩｏＴ、サイバーフィ

ジカルシステムと呼ばれていますが精神は同じで、コンピューターがデスクの上から消える、世の中に埋め込まれており、本人たちは意識せずにそのサポートを受けられることを理想にしています。

車もそうで、最初は技術を持った人しか運転できませんでしたが、最近はオートマ

チック車になり、誰でも運転できるようになりました。飛行機はどこの空港に行きたいと入力すれば勝手に飛んでいきます。自動運転ができれば車の運転もしなくてよくなります。それは、いろいろな知的業務においても同じで、自分で何をしたいかが分かって86

それは正しいと思いますが、今の若者、学生を見ていると自分は何をしたいかがいればあとはやってくれるようにだんだんなっていくのは、技術屋として本当だと思います。
國吉

分かっていない人が多いのではないかという気がしており、実はそちらが重要になります。自分は何をするべき、何をしたいのか、そういうことがはっきりと分かり、それを推し進める能力が重要になります。細々としたお題を与えられ、それを解決するために年で検索エンジンをはじめ、ソーシャル

いろいろとデータを集め、組み合わせ、結論を出すところは機械がやってくれるかもし
私は両方とも正しいと思います。このれないのです。
松尾こが開発しているかというとシリコンバレー、アメリカです。お金はアメリカに落ちて、 Twitterなどが使えるようになり、とても便利になりましたが、どメディア、 Facebook
います。

作る側に回るのか、使う側に回るかはかなり大きな差です。人工知能の技術の発展からすると多くの人が使えるようにしなければいけません。作る側に回ろうと思えばとて

パネルディスカッション

87

20

も高い技術、人工知能に対する理解が必要です。そういう人材をたくさんつくらないといけないのだろうと思います。

なくなる仕事、なくならない仕事を言う前に日本という国が経済的に成長、発展してし れついけるのかというほうがよほど重要かと思います。全体が衰退する中で再配分の話をするのはすごくしんどい話です。持っている人から奪わないといけないですから熾烈な話になります。全体のパイが増えている中で再配分をするのは明るい話なので、何とかそういう方向に持っていくことが大事なことではないかと思います。

國吉 「ＡＩの発展が一般消費者にもたらすメリットは？」「法整備、倫理問題、社会の許容性が課題」の議論で締めくくります。

先ほどから誰でも使えるようになるという話がありましたが、具体的には何がよくなるのでしょうか。仕事に使えるというのはイメージがある程度できます。趣味的な活動という世界も生まれます。ロボットはどんどんそうなっており、ある程度全体の構造ができているようなものは安く手に入るようになりました。コミュニティも結構広がっており、専門家ではないが気合いを入れ、ロボット開発をしている人が巷にはいっぱいい88ます。ある意味でエコシステムができています。

そういうことはＡＩでも起こりつつあると思います。それで市場が一つできるという話もあります。ファッションという方向もたぶんありま

私は３月まで函館で暮らし、４月以降はす。意見はありますか。
中島

東京で暮らしていますが、何が一番嫌かというと朝夕の通勤電車です、あれをなくしたいです。

で何々ができるなど、かなりいろいろなことをパネルディスカッション

としてはそれが欲しいです。

ます。働き方、企業の組織構造を変える、遠隔

動しなければいけないことを解決しようと思い電車が空けばよいということではなく、毎日移入れないと実現しないと思いますが、メリット89

函館もそうですが、地方は過疎化しています。今は人口が減ると例えばバスの本数が減るなど、いろいろな意味で不便になります。人口が減れば広いところに住めるわけで、そちらを享受し、不便にならないようにテクノロジーで支えればよいわけです。なかな
國吉

公共交通というか、モビリティということでわれわれは考えています。バス、タ

そこにＡＩがどのように使えるかという例はありますか。

か難しいですが、そういうことができればよいかと思います。
中島

クシーなどの概念をなくし、移動したいときには移動できるようにします。移動とは目的でなく、手段です。移動のためには何かをしたいという目的があるわけで、そちらをちゃんとサポートすることを考えるといろいろな推論、スケジュール管理などをやらなければいけないのでＡＩ技術が必要になります。そういうことをトータルに目指すと通國吉

ＳＦ、映画の影響はすごく大きいと思います。人々のテクノロジーに対するイメ

法整備、倫理問題、社会の許容性についてはどうですか。

勤電車もなくなるかもしれないと思います。
中島ージです。ＡＩが怖いというのは『ターミネーター』という映画が悪いと思います。日90

本は鉄腕アトムがいたので皆さんの受容性がとても高いです。ヨーロッパの人は家庭にロボットが入ることをほとんど拒否します。社会の許容性ということではＳＦ、映画の國吉

ＡＩが仕事を奪うと思うのはだいたいＳＦのせいです。ブームは良くも悪くも誤瀬名さん、反論はありますか。

果たす役割がすごくあると思います。
瀬名

解でできます。怖い、すごいというのは誤解した上で過熱し、正確に理解されるようになると世間が冷静になるというのは小説でも同じです。小説の中では研究者さえあまり考えていなかったような、こういう社会は起こるのかというのを書ければよいと思いまうな時代になるのかなと思います。今は企業の偉い人、大学教授は秘書を持っているか

パネルディスカッション

人間が意思決定を最終的にしなければいけないという話がありましたが、人間はたいなり、それが話し、秘書みたいなことをやってくれる未来の話があります。そういうよ

星新一さんのショートショートでみんなが肩に小鳥みたいなロボットを載せるようにす。ＡＩだけではなく、ほかの技術との兼ね合いはどうなのかとよく思います。

もしれませんが、ニートの人でもＡＩという秘書を持てる時代になるわけです。

91

ていの場合に自分で意思決定をしたくないとすら思うものです。『自由からの逃走』（エーリッヒ・フロム）という本がありましたが、何か決定しなければならないとなると逃げたいと思う気持ちもあるのです。どんな人にもＡＩがサポートしてくれる時代になったときに自分らしく意思決定するのはどういうことなのかというのが倫理問題、社会の許容性になってくるのではないかと思います。意思決定は結局何かという問題になるの時間になりましたので締めくくります。シンギュラリティの話はできませんでしかと思います。そういうところは小説で書いてみたいところです。
國吉

たが、瀬名さんが最後に言われたことはそこに関係していると思います。敷衍し、ＡＩが進化し、それが社会に入ったときに人間はどう変わるのか、人類は変貌するのだろう

かということです。普通に考えればＡＩのような技術は人間の心の機能というか、意思決定、認識という機能にオーバーラップする部分があります。人類の社会に対する影響は本質的に大きいはずだと思います。

社会の仕組み全体を考えなければいけなくなるだろうと申し上げましたが、物事のやり方そのもの、人々の活動の仕方そのものに影響するのではないかと思います。それが92ある意味でシンギュラリティに関係するかもしれません。人類のあり方、社会のあり方、文化はどうか、人間はそもそもどういう存在であるべきか、倫理はどういうものである

べきかということ自体が変わるかもしれません。これからの社会においての法体系、倫理はどうあるべきなのか、それは人間が主体的に考え、決めなければいけないことと思いますが、未来が変わらないという前提では駄目という気がします。変わらざるをえないとすればどう変わるべきかをわれわれは議論し、決めなければいけないと思います。

限られた委員ですが、この研究会でもそういうことに意識を持ち、しっかりと考え、発信していきたいですし、ここにお集まりの方々にもそれぞれが主体的に考え、議論することが必要ではないかと考えます。

パネルディスカッション

93

瀬名

秀明（せな・ひであき）

21 世紀政策研究所研究委員／作家
1996 年 東北大学大学院薬学研究科修了（薬学博士）。2006 ～2009 年 東北大学機械系特任教授。日本 SF 作家クラブ第 16 代会長。1995 年 日本ホラー小説大賞、1998 年 日本 SF 大賞等を受賞。
主な著書に『パラサイト・イヴ』（新潮文庫）、『BRAIN VALLEY 上・下』（新潮文庫）、『知能の謎』（共著・講談社）等がある。

樋口晋也（ひぐち・しんや）

21 世紀政策研究所研究委員／ NTT データ技術開発本部エボリュー
ショナル IT センタ AI ソリューション開発担当
2002 年 名古屋大学大学院工学研究科卒（修士課程）。同年 NTT デー
タ入社。技術開発本部配属後、音声認識エンジンのアルゴリズム改
善や多言語対応の研究開発に従事。2012 年にはスタンフォード大学が考案した先進ネットワーク技術である SDN/OpenFlow を世界に先駆けて事業導入。世界の趨勢を分析・発信する NTT DATATechnology Foresight の立ち上げを経て、現在は AI 関連の研究開発を推進。NTT データ シニア R&D スペシャリスト。

続橋

聡（つづきばし・さとし）

21 世紀政策研究所研究委員／日本経済団体連合会産業技術本部本部長
1981 年 慶應大学経済学部卒業。同年 経団連事務局入局。1995
年～ 1996 年 伊藤忠商事出向。1996 ～ 1998 年 タイ（バンコク）
日本大使館出向。2008 年より産業技術本部本部長兼防衛産業委員会事務局長。同本部において、未来産業・技術委員会、情報通信委
員会、知的財産委員会、起業・中堅企業活性化委員会、防衛産業委
員会、宇宙開発利用推進委員会、海洋開発推進委員会などの事務局業務を担当。

講演者等略歴紹介（敬称略、2016 年 10 月 21 日現在）

國吉

康夫（くによし・やすお）

21 世紀政策研究所研究主幹／東京大学大学院情報理工学系研究科
教授
1991 年 東京大学大学院工学系研究科修了（工学博士）。同年 電子
技術総合研究所に入所、1995 年 同主任研究官、1996 年より米国
マサチューセッツ工科大学人工知能研究所客員研究員を経て、2001
年から東京大学助教授、2005 年 同教授。日本ロボット学会フェロー、日本学術会議連携会員。理化学研究所 BSI- トヨタ連携セン
ター長、新学術領域研究「構成論的発達科学」領域代表、東京大学
次世代知能科学研究センター長等歴任。研究分野は、身体性に基づく認知の創発と発達、模倣の科学、ヒューマノイドロボットなど。

中島

秀之（なかしま・ひでゆき）

21 世紀政策研究所研究委員／東京大学大学院情報理工学系研究科特任教授
1983 年 東京大学大学院情報工学専門課程修了（工学博士）。同年
電子技術総合研究所に入所、2001 年 産業技術総合研究所サイバー
アシスト研究センター長を経て、2004 年から公立はこだて未来大学学長。2016 年から東京大学情報理工学系研究科特任教授。人工知能学会、認知科学会、ソフトウェア科学会、情報処理学会 各フェロー。NEDO 技術戦略研究センター フェロー、理研「健康脆弱化
予知予防コンソーシアム」会長、内閣官房 IT 戦略本部地方創生 IT
利活用推進会議政策企画 WG 主査等歴任。

松尾豊（まつお・ゆたか）

21 世紀政策研究所研究委員／東京大学大学院工学系研究科特任准教授
2002 年 東京大学大学院工学系研究科修了。博士（工学）。同年 産業技術総合研究所に入所、2005 年よりスタンフォード大学 CSLI
客員研究員を経て、2007 年から東京大学工学系研究科准教授、2014 年 同特任准教授。産業技術総合研究所人工知能研究センター
企画チーム長、人工知能学会倫理委員会委員長等兼任。研究分野は、人工知能、ウェブ、ビッグデータ分析など。

第 121 回シンポジウム

人工知能の現在と将来、
それは産業･社会の何を変えるか2017 年 2 月 28 日発行
編集

21世紀政策研究所〒100-0004 東京都千代田区大手町1-3-2
経団連会館19階TEL

03-6741-0901

FAX 03-6741-0902
ホームページ http://www.21ppi.org

※

世紀政策研究所新書【産業・技術】（※は刊行予定）

日本の経済産業成長を実現するＩＴ利活用向上のあり方（２０１０年

月

日開催）

日開催）

農業ビッグバンの実現─真の食料安全保障の確立を目指して（２００９年５月

62 61 53 52 51 50 49 38 27 25 13 08 01

10
日開催）
日開催）

サイバー攻撃の実態と防衛（２０１３年４月
月

11

日本型オープンイノベーションの展開（２０１５年

月 日開催）

研究開発体制の革新に向けて─大学改革を中心に（２０１５年６月

新しい農業ビジネスを求めて（２０１５年６月３日開催）

日本型オープンイノベーションを求めて（２０１５年４月

森林大国日本の活路（２０１４年

30

世紀政策研究所新書は、

日開催）

日開催）

日開催）

月

日開催）

21

世紀政策研究所のホームページ（ http://www.21ppi.org/pocket/index.html）でご覧いただけます。

人工知能の現在と将来、それは産業 社･ 会の何を変えるか（２０１６年

ビッグデータ、ＡＩ、ＩｏＴ時代のデータ活用と、イノベーション（２０１６年９月

15

日開催）

日開催）

日本農業再生のグランドデザイン─ＴＰＰへの参加と農業改革（２０１２年４月

29

10

28

10

15

27

10

10

企業の成長と外部連携─中堅企業から見た生きた事例（２０１２年２月

戸別所得補償制度─農業強化と貿易自由化の「両立」を目指して（２０１１年２月３日開催）

11

25

21
21

21

シンポジウム

ポスト京都議定書の行方The 21st Century Public Policy Instituteポスト京都議定書の行方

地球温暖化政策の新局面

シンポジウム 地球温暖化政策の新局面

21世紀政策研究所新書─ 0202