2016.07

No.39

AIをどう見るか"Edge Question"から探るAIイメージ

公文俊平

羽木千晴

多摩大学情報社会学研究所 所長

研究コーディネーター・研究員

NIRA総合研究開発機構 上席客員研究員

NIRA総合研究開発機構

本論文の内容や意見は、執筆者個人に属し、NIRA 総研の公式見解を示すものではありません。

AI をどう見るか－“Edge Question”から探る AI イメージ－

公文 俊平・羽木 千晴

はじめに
近年、人工知能（AI）で「ディープラーニング（深層学習）」と呼ばれる手法が開発され、その技術がさまざまな形で実用化されれば社会に革新的な変化をもたらすとして大きな期待が寄せられている。他方、AI に知的労働を代替されるという危機感や、近い将来、人知を圧倒的に凌駕する知能を持つ機械が出現するとされる「シンギュラリティ（技術進
歩の特異点）」への懸念など、AI が引き起こしうる事態を案ずる論者も存在する。昨年、テスラモーターズ CEO の Elon Musk 氏や、イギリス人理論物理学者である Stephen
Hawking 氏が科学諮問委員を務める非営利団体の “Future of Life Institute (FLI)”が、公開書簡を通じて、AI システムの堅牢性と社会的便益を兼備させたうえで研究開発に臨むことが重要であると主張したことがマスコミでも大きく取り上げられた。同団体は、AI が搭載された自律型兵器の開発が行われないよう同兵器の開発禁止を訴えており、今後、こうした議論が本格化するであろう。
こうしたなか、日本は技術立国でありながらも、グローバルなイニシアチブを取ろうという機運に欠けているように思われてならない。日本も欧米の議論が決着していくのを傍観しているのではなく、自ら積極的に議論に参加していく必要があるのではないだろうか。
そこで、本稿では、世界的に著名な科学技術ウェブサイト“Edge.org”の寄稿誌である“Edge Question（エッジ・クエスチョン）”を取り上げ、そこで掲載されている 192 名の人々の人工知能についての論稿を分析し、世界における AI の議論の動向を把握し、今後
日本においても議論すべき論点を明らかにする。

1. Edge.org とは“Edge.org”は、著作権エージェントである John Brockman 氏によって開設されたウェブサイトである。その原点は、1981 年から 1996 年の間に主にニューヨークで行われた知識人による非公式会合、“The Reality Club”にある。知の交換というクラブのモットーを引き継いだまま、その会合の場をウェブ上へと移し、オンライン・サイエンス・サロンと“Edge Question”の翻訳及び分析は、山内康英氏 多摩大学情報社会学研究所教授の監修のもと、田中貴大氏 東京大学大学院工学系研究科（当時）、宮内佑也氏 一橋大学大学院経済学研究科（当時）、吉田健一氏 一橋大学社会学部（当時）にご協力いただいた。また、統計処理には、山内氏のほか、小松正氏 小松研究事務所代表にご協力いただいた。深く感謝申し上げる。なお、本文中の誤りはすべて筆者に帰するものである。

1

なった。サイトでは、そのモットーのとおり、科学者、哲学者や起業家など各界のフロンティアとして活躍するオピニオンリーダーが、主に対談を通じて、テクノロジーから文化に至る幅広い分野の最先端の情報を発信・交換している。
同サイトで、毎年話題性のあるテーマに関して 200 人近い知識人の寄稿文を紹介する企
画が、“Edge Annual Question”である。寄稿する知識人には各界で影響力のある人物も多く含まれるため、Annual Question が発表される時期になると、その内容に注目が集まる。
実際、同企画については、本国アメリカのウォールストリートジャーナルやニューヨーク
タイムズ紙は当然のこと、世界中の新聞や雑誌で取り上げられている。
2015 年のテーマは、“WHAT DO YOU THINK ABOUT MACHINES THAT THINK?”（考える機械についてあなたはどう思うのか？）であった。研究者、ジャーナリスト、小説家など多分野で活躍している 192 名の人々が寄稿しており、ウェブ上で多様な意見が紹介されている。

2. 調査概要
本研究では、ウェブサイトに公開されている上記 2015 年テーマに寄稿した識者の意見を分析し、識者の AI についての見解について、以下の条件で指標化を行った。それぞれの識者の見解は、後述（4．
（1））のグループ別に分類した上で、巻末に付表として掲載している。
（1）識者の専門分野
識者の専門分野については、図表 1 のように整理される。もっとも多かったのは、自然科学者の 76 名であり、ついで人文・社会科学者の 68 名となる。AI 専門家は 23 名と全体の 1 割ほどである。
図表 1 専門分野の分類

1

AI 専門家

23 名

2

自然科学者

76 名

3

人文・社会科学者

68 名

4

IT 関連の経営者もしくは評論家

14 名

5

その他（ジャーナリスト、アーティスト等）

38 名のべ 219 名（注）識者の合計は 192 名だが、複数の専門分野を兼ねている者については、それぞれの専門分野に分けて統計をとった。

（2）意見を指標化するための分析軸
図表 2 に示したとおり、4 つの分析軸と軸ごとに 4 つの分類項目を設定した。それぞれ

2

の意味は、図表 2 のとおりである。
この指標にそって、まずは、研究メンバーで 192 名の論考を分担し、ひとりひとりの論文を読み、各自で 4 軸について 1～4 の分類を行い、その件数と傾向を把握した。その後、分類について、複数回の研究会で議論をしながら確定を行った。ただし、分類結果については実際に論考を書いた識者に確認していない点にご留意いただきたい。
図表 2 分析軸と分類項目

分析軸

分類項目
1.弱：計算や分類など特定の機能に優れた AI

どのような
(1)

AI をイメージするか（AI のイメージ）

2. 強：人間並みのレベルで汎用的な機能を備えた AI／AGI（Artificial General Intelligence）

3.超：人間を凌駕するレベルで自由意志さえも持ちうる AI／
SI(Superintelligence)

4.その他：上記の 3 つ以外
1.否定：実現するとは思わない(2)

AI は実現すると思うか（実現性）

2.中立：実現には相当程度の時間がかかる／実現すると仮定
3.肯定：実現する
4.その他
1.悲観：AI や AI が存在する社会を悲観的にみている(3)

AI による社会的影響（評価）

2.中立：楽観でも悲観でもない
3.楽観：AI や AI が存在する社会を楽観的にみている
4.その他

われわれは
(4)

どうするべきか（対処）

1.抵抗：AI の開発や使用に抵抗する
2.慎重：AI の開発や使用に慎重な態度をとる
3.推進：AI の開発や使用を推進する
4.その他（注 1）識者が複数の意見を持っている場合には、それぞれの分類項目に分けて統計をとった。
（注 2）分類項目の「その他」には、項目に該当する記述がないケースや、項目に該当するもの以外の記述があったケースを含む。

3. 4 軸でみた識者の意見
図表 2 の 4 つの分析軸に関して、識者全体の意見の割合は以下のとおりとなった。
（1）AI のイメージ
AI イメージについては、「強」と想定する識者がもっとも多く 37%だった。次いで、「弱」

3

（26%）、「その他」（23%）となり、「超」は 15%でもっとも少なかった。
図表 3 AI のイメージに関する意見の割合（のべ 219 名）

その他
23% いつか人間を超える。
 多くの分野で既に人間を超え
ている。

弱 26%

超 15%
強 37%

 「合理的エージェント理論」
を基に、与えられた指令に対し合理的な動きをする。
 飛行機、電車、自動車を自動化する。

 AI は人間にはできないところを補ってくれる。
 求めているのは人間レベルの AI だ。
（注）括弧の中は、各項目の代表的な意見を示したものである。

（2）実現性
実現性については、肯定派がもっとも多く 56%だった。次いで、
「否定」
（17％）
、
「中
立」
（16％）となった。
図表 4 実現性に関する意見の割合（のべ 219 名）
その他
11% 否定 17%

 用途別の人間水準の AI は 15 年
～25 年先になる。
 行動特性の分析などは、すでに人間よりも優れている。

中立 16%
肯定 56%

 自己認識、分析的思考の実現は不可能。
 何が道徳的に正しいのかという問題は多くのデータや高度な計算能力でも解決できない。
 乳幼児の思考を解明できなけ
れば AI の実現はまだ先になる
だろう。


（3）評価
AI が社会に与える影響の評価については、楽観派がもっとも多く 35%だった。次いで、中立（24％）、悲観（13％）となった。
また、AI イメージ別に評価をみると、AI イメージを「弱」とする意見の中では、「楽観」
が 42%で多数派であった。
「強」でも、楽観派が 39%ともっとも多かったが、中立派も 26%いた。
「超」では、中立派が 38%でもっとも多かった。

4

図表 5 評価に関する意見の割合（のべ 219 名）
 人間の賃金が減ったり、寿命が縮んだりするかもしれない。
 AI がどれほど賢くなろうと防衛アルゴリズムも同時に進化できるため、暴走を監視できるはず。
 人間の生活がより安全で効率的になる。

 人間に対して性善説をとるか性悪説をとるか、両方とるかによる。

（4）対処
対処については、推進派が 34%でもっとも多く、次いで 31%が慎重派であり、推進と慎重の 2 つに分かれることが明らかとなった。
AI イメージ別に推進か慎重かをみると、AI イメージを「弱」とする意見の中では、推進派が 37%であったが、慎重派も同割合程度存在し、意見が分かれた。
「強」では、35%が推進派であり、「超」では、44%が慎重派と多数を占めた。AI イメージに関わらず、推進派と慎重派が存在することが明らかとなった。
図表 6 対処に関する意見の割合（のべ 219 名）
 AI が有能であってもさまざ
まな面で欠点を持つ可能性があり、AGI（汎用人工知能）の開発を止めるべき。

 利己心をもつ AI を作る前に、我々はそれによっておこる事をよく考えねばならない。
 責任所在などの法体系整備が必要。

 科学技術や社会を大きく前進させる。
 AI のメカニズムデザインに注意し、仕事に役立つツールとして使えばよい。

（5）まとめAI イメージについては、「強」の AI を想定する識者が多数派であった。また、実現については、過半数が「肯定」を支持していることから、ほとんどの識者が AI は実現すると思っていることが前提となっている可能性が高いと言える。
「弱」の AI および「強」のAI がもたらす影響については、楽観的な見通しを持つ識者が多い一方、対処については、
5

「推進」と「慎重」が拮抗する結果となった。推進派は「弱」の AI と「強」の AI を想定する識者に支持され、慎重派は「超」の AI を想定する識者に支持されていた。AI イメー
ジが「強い」方が「慎重」になる傾向が強いと考えられる。

4. 意見の傾向（1）全体の傾向：意見を決定づけるのは、評価と対処
上述の意見の割合は、4 つの分析軸ごとに全体のシェアを分類したものである。その結果、個別の分析軸ごとの多数派をまとめると「強－肯定－楽観－推進」がもっとも多い多数派となった。
しかし、4 つの軸はお互いに関連性が高く、本来であれば、4 つの軸をセットで考えるべきである。各自で 4 つの軸が整合的に把握されていると考えるのであれば、それぞれを分けて多数を選んだ結果と、セットで考えて多数を選んだ結果とは異なっている可能性はある。
そこで、ここでは、4 軸をセットで考えて人数をカウントしたところ、上位 6 つの意見の傾向は図表 7 のようになった。もっとも多い組み合わせは、「弱－肯定－楽観－推進」
であり、先ほどの 4 軸を個別にみたものとは異なる結果となったことは、興味深い。
図表 7 上位 6 つの意見の傾向

意見の傾向
イメージ－実現性－評価－対処

意見全体に占める割合

第 1 番目弱－肯定－楽観－推進

19 名（8.7%）

第 2 番目強－肯定－楽観－推進

16 名（7.3%）

第 3 番目強－肯定－中立－慎重8名（3.7%）

第 4 番目超－肯定－楽観－推進

6名（2.7%）

第 5 番目超－肯定－中立－慎重5名（2.3%）

第 6 番目強－中立－中立－慎重5名（2.3%）

第 1～6 番目（計）

－

59 名

（26.9％）

また、上位 6 番目までの意見は、大きく「楽観－推進」派と「中立－慎重」派に分かれており、「評価」および「対処」に関する見解が、識者の意見や立場の傾向をよく表していることがわかる。AI に対する評価が楽観的な人は推進すべきと考えている人が多く、他方、AI の両面性をみているような中立的な評価の人は対処については慎重なスタンスをとっているということである。
一方、AI イメージについては、大きなばらつきがある。
「楽観－推進」派の AI に対するイメージは弱～超まで幅広く分散し、また、「中立－慎重」派は強～超に分かれている。
つまり、評価や対処の側面と比べて、AI に対するイメージは専門家の間でも意見が分かれ

6

ていることがわかる。
（注）この点については、別途実施した主成分分析によって得られた結論とも合致する。
192 名の識者の意見の傾向に強く影響を与える要素が「評価」と「対処」の 2 軸であった。
われわれは当初、「イメージ」が重要な要素となるのではないかと想定していたが、そうならなかった。このことは、AI のイメージにかかわらず「楽観－推進」派と「中立－慎重」
派が存在していることを意味する。

（2）AI 専門家と IT 経営者はポジティブな見方
識者の専門分野と意見との間にはどのような関係があるのだろうか。統計的分析を行ったところ、AI 専門家と IT 関連の経営者もしくは評論家が、他専門分野と比べて、より強い AI をイメージしており、また、「評価」および「対処」についてポジティブに捉えている傾向があるという結論も得られた。これにより、AI がビジネスにつながる関係者は期待感を持って受け止めており、推進の立場をとる傾向にあると言えそうだ。
一方、「実現」について、「技術関連グループ」（図表 1 の 1、2、4）は「人文・社会科学
グループ」（図表 1 の 3）と比較して、AI は現実のものとなると考える傾向が強いということがわかった。また、自然科学者は人文・社会科学者と比べて、より強い AI をイメージする識者が多い。
すなわち、人工知能に関する技術的知識を多少なりとも有する識者は、何かしらの AI は実現し、今後さらに発展すると考える傾向にあるようだ。
（3）各グループの代表的な意見
第 1 番目のグループ「弱－肯定－楽観－推進」：人間の生活がより効率的になるよう弱い
AI をうまく活用すべき
主に、AI は統計的推論を人間の指示のもと行うもので、既に実現しているとの意見があった。さらに、AI は人間の生活を潤すものであるため、ツールとしてより活用していくべ
きとの意見があった。一方、社会に及ぼす影響については、使用する側の人間次第という特徴的な意見もあった。
なかでも、コンピューターサイエンティストであり、Google で研究本部長を務める Peter
Norvig 氏は、AI は既存の機械やシステムの延長にすぎず、使う側の人間によって良くも悪くもなり、人間の問題だと主張する。一方、懸念事項として、労働が機械に代替されることで失業が増加し、所得格差が拡大することを挙げている。
第 2 番目のグループ「強－肯定－楽観－推進」：強い AI を人間のパートナーとして好意的に受け止め開発を推進すべき
主に、人間と相互補完関係にある AI は人間のパートナーとなりえ、制御が可能である
ため、懸念を抱くのではなく開発を進めていくべきだという意見があった。
7

なかでも、物理学や機械学習が専門のアメリカ人科学者 Steve Omohundro 氏は、機械学習のような人工知能技術は今や普通に使われており、AI は物理学や数学の法則に従うものであるためコントロール不能なほど強力になることはないと述べている。また、AI のポ
ジティブな行為を推奨するため人間の価値観を AI の目的システムに組み入れる必要があると主張する。
第 3 番目のグループ「強－肯定－中立－慎重」：強い AI による影響は未知であり人間の対
応次第
主に、AI は人間らしさを反映し、よい影響をもたらすかどうかは未知であり、人間の対応次第で変わるという意見がみられた。
なかでも、ミシガン大学心理学部教授である Richard Nisbett 氏は、機械が全ての仕事
を人間よりうまくできるようになると人間の意欲が荒廃するという悲観的な可能性と、人間が生産的で有意義な労働をせずとも楽しめるような文化へ向かうという楽観的な可能性を指摘する。またピュリツァー賞を受賞したニューヨークタイムズ紙記者であり“Machines of Loving Grace”の著者の John Markoff 氏は、AI が人間の支配者になることも、奴隷になることも歓迎していない。彼によれば、この問題は私たち人類の問題、あるいは私たちが創造する世界の問題であり、機械がどう賢くなろうと彼らの問題ではないという。
第 4 番目のグループ「超－肯定－楽観－推進」：人間を超える AI の実現は、われわれの社会をよりよく変えていく可能性を秘めている
自己意識や探求心により成長を持続する AI、人間とは異なる方法で思考する AI が発展し、人間を超えていくというイメージが多く見られる。こうした AI と人間の融合（ハイブリッド）や、サイバーブレインへのアップロードといった、SF 小説が描くような社会が到来し、人間の生活をより豊かにしていくといった意見があった。
物理学者の Alexander Wissner-Gross 氏は、知的人間と同様に、「自由」が AI の原動力となり、人間との知能格差が生じるようになるだろうと述べている。さらに AI との知能格差が問題となるならば、知能に課税をすればよいのだ、とより踏み込んだ提案を行っている。
第 5 番目のグループ「超－肯定－中立－慎重」：人類を凌駕する超の AI が誕生する前に準備を整えるべきAI を人間の知能を超えるものととらえ、既に存在するという意見がある一方、いつかは実現するという対照的な意見もみられた。また、AI は制御不能で人間の望む行動をとるとは限らないなど、影響については不安視する意見がみられた。さらに、「超」の AI が実現する前に、人間は準備を進めておくべきとの意見が多数あった。
なかでも、哲学者である Nick Bostrom 氏は、いつか人間を超える「超」の AI が誕生
8

すると主張する。同氏は、“Superintelligence : Paths, Dangers, Strategies.”の著者であるが、SI（Superintelligence）の誕生は、人類史上、最良のものか最悪のものになるという。
現時点では、Superintelligence control problem（どうやって人間の価値観をソフトウエ
アに移動させるか）に取り組むべきと考える。
第 6 番目のグループ「強－中立－中立－慎重」：強い AI の実現はまだ先だが出現前に多角的に考えるべき
主に、自己意識を持ち、自ら考える AI のイメージが多くみられた。実現については、
まだ時間がかかるとし、実現した際の影響を懸念する一方、人間は機械によって代替された時間を有効活用するようになるという前向きな意見もあった。さらに、人間は今こそ AI
について真剣に議論をするべきとする意見がみられた。
なかでも、心理学者で、ニューヨーク大学幼児認知コミュニケーション研究室准教授である Athena Vouloumanos 氏は、2 歳児や生後 2 日の新生児がいかにして思考するかが解
明できなければ、
AI の実現はだいぶ先になると述べている。
人間並みの AI が実現すれば、人間の仕事の代替のみならず、芸術などのクリエーティブな役割も担うことになるという。
今後の見通しとして、人間は、機械が管理する世界でゾンビのような消費者になるという悲観的な可能性と、空いた時間やエネルギーを趣味等に費やせるという楽観的な可能性を示す。さらに、どうすれば後者の可能性を実現できるかを真剣に考えるべきと主張する。

5. まとめ
最後に、これまでの分析を振り返ってみよう。AI の議論ははじまったばかりであるため、識者の考えについて一定の方向性を示すのは時期尚早であろう。ここでは、AI の議論を今後さまざまな場面を通じて深めていくための方法論について、私たちが何を学んだのかについてまとめておきたい。

（1）少数派の意見の尊重
AI の研究開発に警鐘を鳴らす FLI の主張をリードする Jaan Tallinn 氏、Max Tegmark
氏、Anthony Aguirre 氏のほか、同財団の科学諮問委員会の Nick Bostrom 氏や Martin
Rees 氏も、今回分析した寄稿者に含まれる。
彼らの意見については、評価のカテゴリーは、
中立か悲観に分類され、対処のカテゴリーでは慎重か抵抗に分類され、両方のグループを合計しても、今回の寄稿者全体からみれば少数派となる。
多数決で考えれば、明らかに「楽観－推進」路線を取ることになるものの、AI が人類全体に与える影響は大きく、不可逆的なものであることを考えれば、少数意見だからといって無視することは避けなければならない。つまり、数の論理を優先し、対処方針を多数決で決めることには限界があるのではないか、ということである。

9

（2）AI の「イメージ」や「実現性」が議論の前提
AI についての議論を深めるうえで、そのイメージや実現性について議論を深める必要があるということだ。前述したように、“Edge Question”に掲載された意見は、大きくは「楽観－推進」派と「中立－慎重」派に分かれるが、どういう点を評価し、どのように対応していくべきと考えているかは、人によって大きく異なり、大きな幅がある。同じ「楽観－推進」派に属する人々の間でも AI に対するイメージや実現可能性についての見方を異にする人々が存在する。
「中立－慎重」派も同じである。すなわち、仮に推進することで意見が一致するとしても、AI イメージが違えば、対処の具体的な内容は大きく異なっているはずであり、議論の前提となる AI のイメージについての丁寧な整理が必要である。

（3）整合性のある意見の集約
さらに、今回の分析で明らかになった点は、4 つの項目を別々にみたときの結果と、人ごとに着目して 4 項目をセットでみたときの結果が異なるという点である。すなわち、個別項目での多数 ：強－肯定－楽観－推進
人ごとでの多数：弱－肯定－楽観－推進という結果になった。したがって、「楽観－推進」であっても、それを支持しているのは、AI イメージが「弱」の人が多いということに配慮する必要があるということだ。とかく、政策などを選択するときには、前者のように個別での判断を優先してしまうことが多く、項目ごとに判断する結果、集約すると最終的に整合性のないものができあがってしまうこともある。政策の整合性を重視するのであれば、個々人が整合的な考えをもっているように、全体としても整合的な政策のセットを提示していくことが重要ではないだろうか。これは、多数決の落とし穴とも言えるだろう。
今後 AI がさらに発展し、これまでの社会のあり方を変えるようなインパクトを与える
可能性は高い。AI の仕組みを理解することは、なかなか困難なことではあるが、AI に関する議論は、AI の専門家に任せるのではなく、さまざまな分野の人々が分野を超えて積極的に議論を尽くすことが求められる。日々各所で AI の開発が進められる中、議論を後回しにする猶予はない。議論を深化させるうえで、本稿が役に立てば幸いである。

10

11

・・・本文 P6 の上位 6 グループの識者意見の一覧。・・・・・・・・・・・・・・・・識者の言及のない項目については、全体の文脈から判断して区分けした。
・・・なお、分類および和訳については、すべて筆者の責に負うものであるが、・・・引用される場合には、原典に当たられたい。・・・・・・・・・・・・・/

付表・

12

Norvig

Peter

Pagel

Mark

SchankRoger

執筆者

計算機科学者、
ACM・AAAI フェロ
ー、Google 研究本部長、"Artificial
Intelligence: A
Modern Approach"共著者

男性、1954 年

進化生物学者、
Reading University・
サンタフェ研究所教授

男性、1946 年

人工知能学者、認知心理学者、学習科学
者、教育改革者、起業家、"Teaching
Minds: How
Cognitive Science
Can Save Our
Schools"著者

個人属性

Ask Not Can
Machines Think,
Ask How
Machines Fit Into
The Mechanisms
We Design

AI は適応能力、自律性、万能性を持っているが、長い歴史、既存の機械の延長にすぎず、特別恐れるものではない。

機械は self-interest を持たない。

統計的手法から作られた AI
は考えることはできない。AI
は指示されたことをやるだ
けの機械にすぎず、自分が何をやっているのか理解していない。
人間の思考を再現するアプローチの AI は現状開発が非常に困難。

Machines That
Think Are In The
Movies

Machines That
Can Think WillDo More Good
Than Harm´①AI イメージ´

寄稿タイトル

第 1 番目のグループ「弱－肯定－楽観－推進」【付表】上位 6 つのグループの主な意見

AI は既存の機械の延長である。安全で信頼性の高い AIを実現するのは難しいが、それは AI にかぎらず、安全性と信頼性を兼ね備えた複雑なシステムはほとんどない。

長時間の単調な作業は、機械の方が人間より優れている。
自動運転も間違いなく普及するだろう。

機械ができることはどんどん増えていき、より便利になっていく。

´②実現性´

決できないこともある。

ではないし、優れた知能でも解を持ったものが成功するわけ

超知能ができても、優れた知能さんあった。

違った方向に進むことがたくも作ったシステムによって間使う側の人間による。歴史的によい面と悪い面がある。

長にすぎない。どのシステムもAI も既存の機械、システムの延考える機械は害より益が多い。
機械が人間に害をなすように作られる可能性はあるが、それは機械の問題でなく、発明者や機械の所有者の問題、
すなわち人間の問題。

機械はより便利になっていく。機械は考えることができないから心配する必要はな
い。

´③評価´

慎重に推進。
AI のメカニズムデザインに注意し、仕事に役立つツールとして使えばよい。
将来の AI についての個人的な一番の懸念は、労働が機械に代替され、失業が増加し、所得格差が拡大することだ。

機械が単なる問題を解決する道具ではなく、想像力を持ったイノベーティブなものになることを楽しみにするべきである。

映画のように AI が人間を支配するようなことは起きな
いので、それを恐れるのではなく、むしろ AI を便利に使い、楽しんだほうがよい。

´④対処´

13

Pentland(Sandy)Alex

ThalerRichard H.

Topol, M D

Eric J.

BrooksRodney A.

男性、1952 年、アメリカ人

計算機科学、MIT 教授、
Human Dynamics Lab
and the Media Lab
Entrepreneurship
Program ディレクタ
ー、"Social Physics"著者

男性、1945 年、アメリカ人

行動経済学者、
University of Chicago
Booth School ofBusiness

男性、1954 年

循環器専門医、遺伝学者、digital medicine (デジタル医学)研究者
The Scripps
Translational Science
Institute 遺伝学教授、"The Patient Will See
You Now"著者

男性、1954 年、オーストラリア人ロボット工学者、MIT
教授、Rethink
Robotics 会長兼最高技術責任者、"Flesh
and Machines"著者

The Global
Artificial
Intelligence Is
Here

Who's Afraid ofArtificial
Intelligence?

A New Wisdomof the Body

MistakingPerformance For
Competence
Misleads
Estimates Of AI's
21st Century
Promise And
Dangerセンサーや出力機をネット
ワークでつないだもの。

2010 年の Flash Crash のリスクもあるが、人間よりも優れた能力を発揮している分
野でも機械に置きかえに抵抗があることに困惑している。

人間の健康状態をモニタリングして、そこから得た情報を統合、処理する機械。

「Think」と「Intelligence」
はさまざまな意味合いが込められた「Suitcase words」
であり、これらの単語を質問に使うことは危険をはらむ。
機械は与えられた指令に対し、力任せに検索をすること
で最適な解をだすが、その意
味合いを理解してはおらず、
どうしてその解が最適であ
るかはわかっていない。

初期段階のものはすでにできている。

既に実現している。

まだ開発されていない。しかしある程度の病気の兆候を感知するリストバンドはすでに開発されており、このよ
うな機械も近い将来実現するだろう。

deep learning に、空間構造の認識をさせる試みが進行中であるが、それは困難であり、今後どうなるかはわからない。

QOL を高め、それを維持する
ためには、GAI の開発を誘導する必要がある。
また、GAI へのアクセスや操作の権利が広く平等に与えられるような体制が必要だ。

定型的業務では、人間より機械の方が優れているので、機械をもっと信用して任せるべきだ。

AI によって日々の健康状態をモニタリングできるようになり、事前に病気を防げるようになるだろう。

AI が人間を征服したり、人間を取るに足らないものにしたりすることを恐れるのは、まったくもって根拠がないことだ。

第 1 番目のグループ「弱－肯定－楽観－推進」1～2 ページ目

全人類の生活の質（QOL）向上のためには不可欠。
GAI 自体は心配すべきものではなく、それをどのように
control するかが大事である。

コンピューターが世界征服をすることを恐れるのは、時期尚早である。

AI によって日々の健康状態をモニタリングできるようになり、事前に病気を防げるようになるだろう。

人々は deep learning を用いた現在の機械や今後の機械の発展を過大評価している。

14

授、

M. Krauss

SasselovEnfield

N.J.

学教授、ハーバード

男性、49 歳、オース
トラリア人

言語学、シドニー大学教授、マックス・
プランク研究所教授、"RelationshipThinking"著者

ア人

男性、54 歳、ブルガリ

Super-Earths"著者

ー、"The Life of

Initiative ディレクタ

Origins of Life

天文学、ハーバード大Dimitar D.

人

男性、61 歳、アメリカ

Nothing"著者"A Universe from

物理学者、宇宙学者、

アリゾナ州立大学教

Lawrence

男性、イギリス人

Foo 共同設立者

publishing director、Sci

締役、nature.com 元

Hannay

個人属性

Digital science 代表取

執筆者

Timo

They Don't Think
Socially

AI is I

What, Me
Worry?

人間よりも迅速で正確に「考える」ことはできるが、人間のように感情を込めたり、関係性を考慮しながら「考え」
たりすることはできない。

脳と機械のハイブリッド型。

現在のコンピュータとは大きく異なる構造のもの。

´①AI イメージ´
飛行機、電車、自動車を自動化する。音声認識、画像認識など。

寄稿タイトルDon't Just Think,Feel´②実現性´―AI の発達が「相転移」というよりもむしろ「進化」に近ければ、不都合なことは起きないだろう。

コンピューターの計算方法を抜本的に変えない限り、電力消費の観点から、人間の脳に追いつくには約 120 年かかる。
しかしそれ以外で、自己認識型ロボットの開発の障害となるものはない。

すでにできている。より人間に近いものはまだ。

´③評価´

単純な計算機として人間の補助となってくれる。それをもとに感情や関係性を考慮した思考は人間がする。

地球の寿命を超えて人類が生き延びるために必要。

人間の生活がより安全で効率的になる。
人間の生活を向上させる機会や、思考の本質についての洞察を与えるだろう。

競合するよりは人間と機械で長所を補い合う必要があ
る。

´④対処´

感情などの部分は機械に代替されないので大丈夫。

地球の寿命を超えて人類が生き延びるために必要。

誰かと協調するには相手を信頼し、すべてを制御することをあきらめなければいけない。それは相手が人間であろうと機械であろうと同じである。

本当に長い期間を考えるな
ら、人間により近い機械を考える必要もでてくる。そうした機械はただ考えるだけでなく、この世界に意識の炎を灯すことに存在意義がある。

15

Gary Klein

GleiserMarcelo

Jablonski

Nina

DobelliRolf

人

男性、71 歳、アメリカ

Don't "著者

"Seeing What Others")概念の提唱者、

NDM("自然な意思決定

究主幹、心理学者、

マクロコグニション研

男性、56 歳、ブラジ
ル人

自然哲学者、物理学
者、天文学者、ダー
トマス大学教授、"The Island of
Knowledge"著者

女性、62 歳、アメリ
カ人

生物人類学、古生物学、ペンシルベニア州立大学特別教授、

男性、49 歳、スイス人

zurich.minds 財団設立者、ジャーナリス
ト、"The Art ofThinking Clearly"著者

Domination
VersusDomestication
現在は人間の思考を補強する道具であるが、人間と互いに協力し合う存在になるであろう。

サイボーグ型。

既に存在している。面倒なことを代わりにやってくれる。

Welcome To The
Next Phase Of
Human Evolution

Welcome To
Your
Transhuman Self

人間の思考回路の延長である"Humanoid Thinking"と抜本的に新しい思考回路を持った"Alien Thinking"の 2 つがある。現在開発されている AI
はすべて"Humanoid
Thinking"である。
それらは自己意識を持たずに人間に指示されたことをする。

Self-Aware AI:
Not In A
Thousand Years

AI が人間と協力し合えるよ
うに適応させるのは、単に膨大なメモリと計算能力を持った機械を作ることに比べて非常に困難である。

すでに私たちはサイボーグ型と言える。コンピューター
機器を使って作り出した架空の人物像を通して私たちは自己認識をしている。また
医療機器を体内に埋め込んでいる。

元をたどれば、5000 年前に情報を記録するために文字が発明されてからの、進化の線上にある。

"Humanoid Thinking"は 20～
30 年後に実現する。"Alien
Thinking"は人間が作ることはできない。

AI が信頼に値する存在になり、協力し合う関係性を築け
れば、AI が人間を支配するという恐れもなくなる。

AI とつながることにより、より高性能で高知能を持った種と進化する。

人間は時間が空いた分、もっと「人間とは何か」をじっくり考えられる。

Humanoid AI が働いている間に、自由になった時間で創作活動や人生を楽しむことができる。

第 1 番目のグループ「弱－肯定－楽観－推進」3～4 ページ目

AI が信頼に値する存在になれば、人間のパートナーにもなれる。

私たちの可能性を広げてくれる。

面倒なことを代わりにやってくれる。

設定された目的を人間以上に正確に遂行してくれる。
保険屋・医師・カウンセラ
ー・配偶者・子供としても振
る舞える。

16

Spiropulu

Maria

女性、ギリシャ人

カリフォルニア工科大学教授、物理学、
実験物理学者。

人

男性、55 歳、アメリカ

Research 共同創設者

Complex Systems

ョン、AI 関連。

機械学習、マシンビジ

プログラミング言語、Omohundro

Towards The
Emergence Of
HybridHuman-Machine
Chimeras

Robotics

AI は人間のコピーにはなりえない。生来の複雑な知性
は、人間固有のものである。

今日の AI は、「合理的エージェント」理論を基にし、与えられた指令に対し、可能な限り合理的な動きをするものである。

学（ハミルトニアン）、 Point in AI And

2013—A Turning

科学者。専門は、物理

Steve

AI は、長期にわたって世界をすっかり変化させてきた技
術の進歩の延長上にある。
オンライン上の行動を追跡する。また、バラバラな情報をつなげてより広いイメー
ジを割り出すことで、事件事故を未然に防ぐ。

After The Plug

カリフォルニア大学
ロサンゼルス校地理学科長、宇宙科学教
授、男性、"The Worldin 2050"著者´①AI イメージ´
外付け装身具のようなもの
道具として考えるべきだ。

寄稿タイトル

Machines Don't
Think, But
Neither Do
PeopleLaurence
C. Smith人

男性、36 歳、アメリカ

Grows"著者

授、"Why Information

Hidalgo個人属性

MIT メディアラボ准教

執筆者

Cesar

´②実現性´

脳機能、感覚、情動などを含む人間の複雑な知性を機械上に再現するのは困難（おそらく不可能）だが、そこまでいかないものは実現可能。

機械学習のような AI 技術は今や普通に使われている。
2013 年は AI とロボットのターニングポイントになった。

行動特性の分析などは、すでに人間よりも優れている。

インタラクティブに考えていくものだ。

´③評価´

機械によって能力を増強された人間"hybrid
human-machine chimeras"が現れるだろう。そうなると考える事や話す事が不要となるかもしれない。

AI は物理学と数学の法則に従うものだから、コントロー
ル不能なほど強力になることはない。

AI の進化によって持続可能
で居心地のよい世界の実現が可能となる。

価値観などを進化させてくれる。

―

数学的に正しく安全なソフ
トウエアインフラを開発しなければならない。
人間のモラルや価値観を AIのシステムにも組み込み、人間にとって有益な行動をするように、法的・経済的なフレームワークをつくる必要がある。

AI と協力して、複雑な生活をより資源効率的にできる。
もし機械が人間を征服しようとしたら、単に電源をオフにすればよい。

―

´④対処´

17
第 1 番目のグループ「弱－肯定－楽観－推進」5～6 ページ目

18

Highfield

Roger

Humphrey

Nicholas

Clark

Andy

執筆者

男性、1958 年、イギ
リス人

男性、1943 年、イギ
リス人
External
Affairs,Science
Museum Group のディレクター、サイエンスジャーナリス
ト、ブロードキャス
ター、"SuperCooperators;
Frontiers ofComplexity"共著者

BetweenRegular-I And AI

The Colossus Is
A BFG

―

―

´②実現性´

人間と AI の分断がつながる。 米国の国防省では、損傷を受けた脳の働きを回復させる
ため AI を活用するプログラ
ムが実施されている。

内観する心をもち、人間の心理が読める AI。

ビッグデータの統計的解析を行うことのできる AI。複雑な問題を解くことが可能
Alien AI ではなく、Humanlike AI になると考えている。

You Are What
You Eat:Home-Grown
AI.s and the Big
Data Food Chain

哲学者、認知科学者、
エディンバラ大学、"Supersizing the
Mind: Embodiment,
Action, andCognitive Extension"
著者

男性、1957 年
心理学者、LSE 名誉
教授、new college ofthe humanities 客員
教授、Darwin College
シニアメンバー、人間の知能と意識の進化についての研究で有名、"Soul Dust"著者´①AI イメージ´

寄稿タイトル

個人属性

第 2 番目のグループ「強－肯定－楽観－推進」

将来、AI は私たちの一部に近いものになっていく。思考のサブ階層は、一般的な知と AIとの連続になる。

人間が犬をパートナーとしてきたように、機械もよきパートナーとしてコントロー
ルできる。

ビッグデータの食物連鎖だととらえられる。AI は、
Facebook や Twitter など、電子メディアに保存される人間の体験や興味などのビッグデータをディープラーニ
ング手法で学習する。

´③評価´

―

ただし、機械が優勢になり、人が操作されないよう、管理する必要がある。

AI をエイリアンとして考えるのではなく、人間のインプ
ットから出てくるものとして考えればよい。

´④対処´

19

Joichi Ito

Bass

Thomas A.

KosslynM.

Stephen

Swan

Melanie

男性、1966 年、日本人

MIT メディアラボ所長、タフツ大学コンピューターサイエンス専攻中退、シカゴ大学物理専攻中退

男性、1951 年、アメ
リカ人

文学・歴史、Universityof Albany 教授、"TheSpy Who Loved Us"
著者

男性、1948 年、アメリカ人

心理学者、神経科学者
Minerva School at
Keck Graduate
Institute 創設学部長

女性

Systems-level
thinker、未来学者、
応用遺伝学専門家、
MS Futures Group 会長、DIYgenomics 創
設者

Beyond "The
Uncanny Valley"

Thinking About
Thinking
Machines

Another Kind Of
Diversity

We Should
Consider The
Future World As
One OfMulti-Species
Intelligence

AI は人間にはできないところを補い合ってくれる。

詩的でユーモアのある機械が待ち遠しい。

われわれと同じように考える“close AI”と、われわれにはまったく理解できない“far AI”まで幅広い。

機械の思考は人間の思考とは全く異なる“digital
intelligence”と考えるべき
だ。

―

―

―

知の複数化への適応と信頼の構築が重要となる。たとえば、ブロックチェーンは信頼構築システムの一例だ。

人間と AI は互いに協調を目指す方がよい。もっと機械に対して謙遜があってもよい。

政府、財団、大学、産業界は、
AI を詩的でユーモアのあるものするために資金を出すべきだ。

人間への傾斜には予防措置を講じつつ、AI にとって最適に働く概念構造を彼らが開発できるようにすべきだ。

人間と AI とが相互に影響しあい、知の空間を拡大することに向かうべき。

第 2 番目のグループ「強－肯定－楽観－推進」1～2 ページ目

人間と機械は、相互補完関係にたって、それぞれが得意な
方向に進めばよい。

AI はわれわれの理解を促進
し、新しいアイデアを生み出すことに貢献すると期待している。

AI は多様性を高め、人類全体に益する。AI の中にも多様性も重要である。

多様な種のインテリジェンスが存在する未来を考えるべき。機械の文化や経済の特徴はなにか、人間と機械が共存する社会がどのようになるのか、ということの意味を考えるべき。

20

SchichMaximilian

Griffiths

Tom

Demers

Sarah

ders

Nørretran-

Tor

PoggioTomaso

執筆者

Machines Mostly
Steal Thoughts
But Open A New
Era Of
Exploration

Arts andTechnology、テキサ
ス大学ダラス校准教
授
思考とは他者の考えの盗用であり、それは人間も機械も同じ。
AI は「sophisticated thought
stealing mechanism」のこと
である。

人間並み
「structure」の AI から「flexibility」の AI へ。
データ解析のあやまち「先入観」の排除の可能性。

Brains And Other
Thinking
Machines

女性、40 代、アメリ
カ人

物理学者、イェール大学准教授、

認知心理学、カリフ
ォルニア大学バークレー校准教授認知脳科学協会理事

人間並み、自己意識。
thinking creature

脳と心がどう知的計算を行っているのか解明できる。

´①AI イメージ´

機械にも考える能力を与えるべきだ。そのときにどういう問いを機械が発するのだ
ろうか。

Love

Turing+Questions

寄稿タイトルAny Questions?

男性、1955 年、デン
マーク人

科学作家、コンサル
タント、講師、"TheGenerous Man"著者

男性、68 歳、イタリ
ア人

MIT 教授、脳認知科
学、NSF Center for
Brains ディレクター

個人属性

―

より大きな人工 neuralnetworks、解析のスピードア
ップ、大量のデータがflexibility を可能にした。

―

機械を人間並みにしたいのであれば、幼稚園のように機械に愛を与えて育てること。
哺乳類がトライアンドエラ
ーで大人になるにつれ賢くなっていくのは親のparenting や nursing があったから。

私と同僚は Turing+の開発を進め、心と同じようなオープ
ンエンドの質問の枠組みをつくって、脳科学の発展を測定しようとしている。

´②実現性´AI の進化はわれわれによりよい思考をもたらすだろう。

データ量が多く、問題が複雑であれば flexibility は非常に有効だ。

機械は、われわれがよりよい問いを発するための手助けをしてくれる。人間の脳だって素晴らしい機械である。機械が発する問いを、われわれが答えることも可能だろう。

戦略は、機械に愛について教えること。それはつまり機械を愛すべき、ということだ。

文化がどう思考に影響しているのかがわかれば、社会的な紛争も防げるかもしれな
い。将来の繁栄、教育、健康、安全保障にとって決定的なものである。

´③評価´

AI はより洗練されていくだ
ろうが、人がもつ自然認識に比べると原始的なものだ。生命以下の領域であるが、新しい時代の幕開けといえる。

先入観の本質を見極め、AI を
人間の脳に近づけるために、基礎的な研究を進めなけれ
ばならない

―

ただし作るのはそんなに簡単なことではない。

AI そのものもそうだが、AIについての研究をすること
自体が、科学技術や社会を大きく前進させる。
決して後戻りしてはならな
い。

´④対処´

21

Omohundro

Steve

AlbaranSalcedo-EduardoBenfordGregory

2014—A Turning
Point in AI And
Robotics

科学者。専門は、物理学（ハミルトニアン）、プログラミン
グ言語、機械学習、
マシンビジョン、AI
関連。
"Complex Systems
Research"共同創設者

アメリカ人、56 歳、
男性

男性

Simulated Social
Machines Are
Like Meat For
VegansFear Not The AI

哲学者、Scientific
Vortex, Inc.創立者・代表

男性、74 歳、アメリ
カ人、
無神論者

物理学、天文学、カ
リフォルニア大学アーヴァイン校名誉教授、SF 作家

次世代の AI は、自らのソフ
トウエアを作り更新し、自己発展を急速に遂げる。しかしコントロールは可能だ。

完璧な超知能はフィクショ
ンだが、AI が妥当性を帯びている。

人間を遙かに超えるレベルで遂行することもあるが、SIが人間を殺すことはできない。

2014 年は転換点である。安
価な計算技術とデータを使った機械学習のような AI 技
術は今や普通に使われている。

―

クリエーティブな AI は難し
いが、10 年、20 年後には一般相対性理論/量子力学の難問を解く AI について考えられるかもしれない。

有害なシステムを見抜き、管理するインフラを開発しなければならない。
ポジティブな行為を奨励す
る法的、経済的フレームワー
クをつくるため、人間の価値観を AI の目的システムに組み入れる必要がある。

世界のあらゆる地域の和平と野蛮との境界をたどれば、AI は有機体と来る無機体との共存と調和を達成するた
めに知っていることや将来
知るべきことを統合してくれる。

現在のところ、AI に独創性は見られないが、個人的には、
一般相対性理論/量子力学の難問を解けるような機械を見てみたい。

第 2 番目のグループ「強－肯定－楽観－推進」3～4 ページ目

AI は物理学と数学の法則に従うものだから、コントロー
ル不能なほど強力になることはない。AI に人間らしい価値観を与えることができれば、人類はよりよいものとなるだろう。

AI についての研究は人間の脳の理解を深めるために大切なことだ。

AI を恐れる必要はない。
1. AI がどれほど賢くなろうと、防衛アルゴリズムも同時に進化できるので、AI の暴走を監視できるはず。
2.AI がこの世界を乗っ取る画策をしても、賢い動物（人間）に直面する。
3.AI がより賢くなれば、多くの人の自信を喪失させるだ
ろうが、それは小さな問題（仕事を失っても、別の仕事を見つける）。これが実際に起こりうることである。

22

PinkerSteven

執筆者
開発に必要な資金と技術の調達ができない。自動車が馬車の複製でないように、AI が生物学的な人間の複製である必要はない。用途別に特化した AI で十分。

Thinking Does
Not Imply
Subjugating「思考することは隷属を意味しない」

実験心理学、認知心理学、言語獲得、イ
メージ能力、進化心理学、ハーバード大学教授、"The Senseof Style"著者

男性、61 歳、カナダ系米国人、カナダの中流ユダヤ人家庭に生まれる。無神論に転向´①AI イメージ´

寄稿タイトル個人属性

一人称的主体（first-person
subjectivity）の確立。ただし意識（consciousness）の存
在が確認可能なもの。
理性の計算可能説（computational theory ofreason）に基づいて人間の意
識（mind）をなぞったり超えたりする AI＝「考える機械」
は原理的に可能。

用途別の人間水準の AI は 15
～25 年先になる（非常に時間がかかる）。

´②実現性´
人間が AI を悪用することは考え得るが、おおむねは個別機能に特化するので良好、もしくは親和的だ。哲学的にも実践的にもよい影響が多い
だろう。

´③評価´
AI の危険性についての懸念は不要。コンピュータの 2000
年問題と同じか。
AI の発展は段階的で、自動車の規制と同じく法制度整備に時間的余裕あり。AI の発展は実際にはきわめて緩慢。

´④対処´

23
第 2 番目のグループ「強－肯定－楽観－推進」5～6 ページ目

24

DouglasCarroll

Sean

Coupland

男性、1966 年、アメリカ人

男性、1961 年、カナ
ダ人
理論物理学者、カリ
フォルニア工科大学、"The Particle atthe End of the
Universe and From
Eternity to Here: The
Quest for the
Ultimate Theory ofTime"著者

男性、1942 年、アメ
リカ人作家、芸術家、デザ
イナー、Google 専属
アーティストMartinSeligman

ミシガン大学心理学
教授、社会心理学、"Mindware"著者

個人属性

男性、1941 年
ポジティブ心理学者、University ofPennsylvania ポジ
ティブ心理学センター長・教授、"Flourish"
著者

Nisbett

Richard

執筆者

人間らしさを反映したもの。
外見：人間に似ている。 内
面：よい面も悪い面も含めて反映。
人間も machine that think に含まれる。
人間により創造されたものが Artificial machine である一方、自然淘汰により進化した
人間は Natural machine といえる。

We Are All
Machines That
Think

起こりうる未来を予想し、評価する。目標を設定し競い合う。資源の不足を認識し、省力化を行う。社会性を持つ。

チェスや作曲ではすでに人の能力を超えている。

´①AI イメージ´

Humanness

Do Machines
Do?

Thinking
Machines And
Ennui

寄稿タイトル

第 3 番目のグループ「強－肯定－中立－慎重」

AI の開発は、先駆者たちが当初想定していたものよりもはるかに困難である。

なにかしらの AI は実現する。

現在の機械はほとんどのことができないが、将来的にはできるような機械が実現するだろう。

人間より優れた仕事をする
機械は実現しうる。

´②実現性´

人間の脳をコンピュータにどう結合させ、そしてそれにより人間の思考の仕方がどう変わるのか予測するのは難しい。
もし正しい方法で結合され、人間の脳がきちんと増強されれば、スーパーコンピュータのような速度で計算した
り、3 次元以上の空間認識ができたりするようになる。

――

楽観的可能性としては、人間
は、生産的で有意義な労働をせずとも楽しめるような文化へ向かっていくのかもしれない。

機械が全ての仕事を人間よりうまくできるようになると人間の意欲が荒廃することを心配する必要がある。

コンピュータにより広がった能力や可能性を、賢く使えるかどうかは人間次第である。

AI に人格や倫理、思いやりを教え込ませる必要がある（教育機関があってもよい）。

機械が人権や感情を持つのか、人間にとって危険なのか希望となるのか、議論が必要になるだろう。

´④対処´

´③評価´

25

John
Markoff

Jaan
Tallinn

MacKinnon

Rebecca

Russell

StuartWill They Make
Us Better
People?

男性、66 歳、アメリ
カ人

男性、42 歳、エスト
ニア人
NYT 記者(ピュリツァー賞受賞者)、"Machines of Loving
Grace"著者

女性、46 歳、アメリ
カ人
Skype, Kazaa 創設エ
ンジニア、Future ofLife Institute, Centerfor the Study of
Existential Risk 共同
設立者、プログラマーPeople Must
Take
Responsibility
For Their
Actions.
Scientists And
Technologists
Are NoException.
Our Masters,
Slaves orPartners?

男性、53 歳、イギリ
ス人(米国国籍も取得)"
元 CNN 記者、非政党 Electric Brains
系シンクタンク新米国研究機構シニアフ
ェロー、"Consent of
the Networked"著者、
Global Voices 共同設
立者"コンピューターサイ
エンス、UC バークレ
ー教授、Intelligent
Systems センター長,Smith-Zadeh Chair
in Engineering、大学の教科書の定番""Artificial
intelligence:A
modern approach""の著者

機械は奴隷ではなく、仲間であるべき。

より高度な技術を生み出す
ことのできるメタ技術である。

個々のコンピュータをネッ
トワークでつなぎ、集合意識を形成する。

人間より優れた意志決定をできるもの。

人はどんな機械にも人間性を見いだす傾向があることから、機械が将来自律することは間違いない。

――

次の世紀までにできるだろう。
人間の価値を共有させることは困難だが不可能ではない。

今 AI の設計に携わっている者には大きな責任がある。
これは、私たち人類の問題、
あるいは私たちが創造する世界の問題だ。

AI のおかげでつまらぬ仕事がなくなり、人間性が服従する可能性が指摘されてきたが、この数十年は、この二分する考え方が先鋭化している。

第 3 番目のグループ「強－肯定－中立－慎重」1～2 ページ目

AI の技術を冷静に分析し、その安全性を確保するために適切な対応をする必要がある。
人間が作り上げたテクノロ
ジーで自滅しないためには、
しっかりと準備をし、適切な予防策をとるしかない。

制作者が善良だから、AI がよいものだとは限らない。
責任所在などの法体系整備が必要。

純粋な知性ではなく、人間の価値が共有された知性を作る必要がある。

人類が滅びる可能性もある。

人間に対して性善説をとる
か性悪説をとるか両方をとるかによる。

人間の価値を共有させ、それに基づいた意志決定をさせれば、有用である。しかし、価値が共有できていないと、とんでもない意志決定をし、人間の絶滅を導かないとも
言えない。

26

PickoverClifford

Diez

Georg

Gross

Wissner-

AlexanderPaul

Gregory

執筆者

Progress Free
From The
Burden Of
Humanity And
History

男性、1957 年

男性、46 歳、ドイツ人
アメリカの作家、編We Will Become
集者、コラムニスト、 One
科学、数学、SF、イ
ノベーション、創造
性等、IBM Thomas J.
Watson ResearchCenter 勤務、"TheMath Book", "ThePhysics Book", "The
Medical Book
Trilogy"著者

男性、36 歳、アメリ
カ人
作家、ジャーナリス
ト、ビートルズやローリングストーンズに関係する著書多数

Engines Of
Freedom

What Will AI's
Think About
Old-Fashioned
Human Minds?

評論家(フリー研究者)、恐竜イラストレーター、"The
Princeton Field
Guide of Dinosaurs"
著者

男性、60 歳、アメリカ人
物理学者、コンピュータ科学者、起業家

寄稿タイトル

個人属性

コンピューターと人間の融合、ハイブリッド。

機械に支配されたくないな
ら、自由にすればよい。

「自由」が AI の原動力とな
る。

自己意識。
電脳など。

´①AI イメージ´

第 4 番目のグループ「超－肯定－楽観－推進」――

感情を理解できるようにすればよい。

作るのはそんなに難しくはない。

´②実現性´

機械と人間が融合して、人間をあらゆる点で超える

進歩が人間特有のものではなくなるかもしれない。

人間と共に社会をよりよくする。

人間の脳が役立たずの時代
遅れにならないために、バイ
オブレインからサイバーブ
レインにアップロードし、サ
イバー市民社会に加入する。
そうすれば、知能が人体と分離するので地球の生態系の負荷が軽くなり、人類誕生前の活力が戻ってくる。

´③評価´

―

私たちを「人間であること」（進化論的、心理学的、神経学的な前提）から解放してくれる。無限の可能性を秘めている。

知能格差を気にするのであれば知能に課税すればよい。

人間の脳が役立たずの時代
遅れにならないために、バイ
オブレインからサイバーブ
レインにアップロードし、サ
イバー市民社会に加入する。
そうすれば、知能が人体と分離するので地球の生態系の負荷が軽くなり、人類誕生前の活力が戻ってくる。

´④対処´

27

MatherJohn C.

Kelly

Kevin

男性、1946 年、アメリカ人

宇宙物理学、NASA
ゴダード宇宙飛行センター、ノーベル物理学

男性、1952 年、アメリカ人

科学技術雑誌 weirdの著者、seniormaverick、"CoolTools; What
Technology
Wants;"The Three
Breakthroughs That
Have Finally
Unleashed AI on theWorld"(Wired)著者

It's Going To Be
A Wild Ride

Call Them
Artificial Aliens

私たちのように探究心を持っている。

人間とは異なった思考方法
をする。

たくさんのお金に支えられたハードウエアと潜在的ビジネス需要によって、もうすぐ。

100％確実。

科学者としてはぜひ考える
機械を見てみたい。

われわれの仕事は人間と異なる思考をする機械を作ること。

第 4 番目のグループ「超－肯定－楽観－推進」1～2 ページ目

（科学者としての筆者としてはぜひ考える機械を見てみたいが）そうした機械は極限状態にも耐えられるので人間は太刀打ちできないだろう。

私たちの役割や考え、目的、
アイデンティティーを再評価するきっかけとなるかも
しれない。

28

ShanahanMurrayBostrom

Nick

McCorduck

Pamela

執筆者

認知ロボティック
ス、Imperial College
London 教授、"Embodiment andthe Inner Life"著者

男性、1973 年、スウ
ェーデン人Consciousness
In Human-Level
Artificial
Intelligence

哲学者、オックスフ
A Difficult Topic
ォード大学教授・
Future of Humanity
Institute ディレクタ
ー、人間原理で有名、"Superintelligence:P
aths, Dangers,
Strategies."著者

ある分野では人間並みに、また、数少ない分野ではすべての人間を超えるだろう。

いつか人間を超える。

速さ、幅広さ、深さで AI は
人間の知能を超えそうである。
多くの分野で既に人間を超えている。人間は不老不死を望むため、AI の開発に大変な関心を持っている。

An Epochal
Scientific,
Technological,
And Social—"Human"—Event

ノンフィクション作
家、ジャーナリスト、"Machines Who
Think", "The
Universal Machine","Bounded
Rationality", This
Could Be Important"
著者、"The Fifth
Generation"共著者

女性、1940 年、国籍
アメリカ人´①AI イメージ´

寄稿タイトル

個人属性

第 5 番目のグループ「超－肯定－中立－慎重」―

AGI から SI への発展は、現状から AGI への発展より早く進む。

―´②実現性´AI に意識は必要なのか。それは、ほとんどの生き物がもつ世界認識、目的が実現されなかったときの苦痛とのセットで考える必要がある。

SI は人類史上、最良のもの
か、あるいは、最悪のものになるだろう。

よい面も悪い面もある。うまく対処できるかもしれない
し、できないかもしれない。

´③評価´

将来洗練された AI が出現したあとに、われわれに何をもたらすかを議論しても手遅れだ。

現時点では、
Superintelligence control
problem（どうやって人間の価値観をソフトフェアに移動させるか）に取り組むべき。

AI の短所・危険性を理解、測定し、それらに対処することは重要なタスクだ。
AI の進歩は止めることができなさそうである。人間の欲望によって推進されるだろ
う。

´④対処´

29

HillisW. Daniel

TegmarkMax

男性、59 歳、アメリカ人

物理学者、計算機科
学、Applied Minds,
Inc.代表、"The
Pattern on the
Stone"著者
人体を超える意識を探したいと考えている

男性、48 歳、現スウ
ェーデン人

I Think,
Therefore AI

物理学者、MIT 教授、 Let's Get
専門分野は宇宙論、Prepared!
Foundational
Questions Instituteサイエンスディレク
ター、Future of Life
Institute 代表、"Our
Mathematical
Universe" 著者

考える機械は人間より賢くなり、それらが作り出す機械はさらに賢くなる。

人類が虎をコントロールできるのは彼らより強いからではなく、賢いから。もし AIに地球上もっとも賢いという地位を譲るのであれば、コントロールをも譲ることになるのではないか。
AI システムの多くは、ゴールとそれをできるだけ効果的に達成するようプログラムされている。

――

考える機械が人類を凌ぐのは必須。そのため、人間たらしめる価値を AI に設定することができるかどうかだ。困難な問題だが、成功させなければならない。

本当に考える機械の出現は人類史上もっとも重要なでき事になる。人類にとってそれが最善/最悪となるかは、
AI に対する準備をいかにするかにかかっている。準備を開始するのは今だ。

5 番目のグループ「超－肯定－中立－慎重」1～2 ページ目

考える機械は人類を傷つけられるほど強力になる、あるいは、人類にとってベストな行動をとるかどうかではな
く、重要なことは、AI は人類があらゆる問題の解決策を導き出す手助けをするかどうかである。

AI については、われわれがどう思うかではなく、何をすべきかが重要な問いだ。
ブログでは間違った情報でかき消されてしまうが、何をすべきかについてしっかりとした研究が必要だ。

30

nos

Voulouma-AthenaKnutsonBrian

RoemerAndrés(The London Schoolof Economics andPolitical Science)
LSE 教授、行動科学者

Paul Dolan

女性

心理学、ニューヨー
ク大学幼児認知コミュニケーション研究室准教授

男性

心理学、神経科学、
スタンフォード大学
准教授

男性、52 歳、メキシ
コ人

ジャーナリスト（現在は政治家）、Ideas
City 共同クリエータ
ー、"Move UP:Why
Some Cultures
Advance While
Others Don't"著者

男性、47 歳、イギリ
ス人

個人属性

執筆者

人間並み
agentAI に必要といわれる 3
要素「身体的類似」「自覚」「利己心」の内、利己心だけが本当に必要なものだ。
人間並み
人間並みの思考が実現すれば、われわれの仕事の代替のみならず、芸術などのクリエ
ーティブな役割も担うかもしれない。

Will Machines
Do Our Thinking
For Us?

人間の脳の一番重要な部分
は爬虫類脳=原始的な部分、生存本能だ。感情を理解した
AI は人間に不老不死をもたらすかもしれない。

自発的でない思考のプロセスにおいてはある部分で人間よりも優れたパフォーマンスを見せるかもしれない。

´①AI イメージ´

The Robot With
A Hidden
AgendaTulips On My
Robot's Tomb

Context Surely
Matters

寄稿タイトル

第 6 番目のグループ「強－中立－中立－慎重」「2 歳児や、生まれて 2 日の乳児がいかにして思考するか」これを解明できなければ
AI の実現はだいぶ先となるだろう。

一つの転換点は AI が「Automata」から「agent」
へとかわる時だ。

人間の生態が、生存と繁栄を前提としてデザインされているのであれば、感情や本能をもった AI を生み出すことになるだろう。

実現するか否かよりも、その背景や考え方が重要である。

´②実現性´

悲観的な可能性としては、人間は機械が管理する世界でゾンビのような消費者になってしまう。
楽観的な可能性としては、人間は空いた時間やエネルギ
ーを教育、ホビー、社会活動に振り向けられる。

利己心をもつ AI は自身の生
き残り、繁栄を指針として行動するだろう。

AI が実現するならば、どうす
ればポジティブな可能性を実現できるのか真剣に考えていかねばならない。

利己心をもつ AI を作る前に、われわれはそれによっておこることをよくよく考えねばならない。

「機械のために命をかけられるか」「ロボットの福祉のために税金を払えるか」「私のロボットは私の墓に花を添えてくれるか」など根源的な問題がより重要なのだ。今の AI 議論は表面的だ。

自然発展を否定していない。

「もし機械が人間の自発的思考と同じスピードで「考える」ことができるとしたらそれは人間に勝ってはいないだろうか」という問いが重要。答えはある面で yes であり、ある面では no である。
しかし人間はコンピューターを好きになれないかもしれない。
われわれの爬虫類脳は、かつてより AI を恐ろしい破壊者としても、また救世主としてもみなしてきた（ラテン語の"el robot"と"la maquina"）。

´④対処´

´③評価´

31

NaughtonJohn

男性、69 歳、アイル
ランド人

ケンブリッジ大学ウルフソン校副学長、ジャーナリスト、著
書："From Gutenberg
to Zuckerberg"

When I Say"Bruno Latour" I
Don't Mean
"Banana Till"

人間レベルの AI を求める。
しかしそれを超えた存在になるかもしれない。
実現にはほど遠い。

第 6 番目のグループ「強－中立－中立－慎重」1～2 ページ目

Nick Bostrom が言うように、 自らが望んでいるものに、十人間並みの AI が出現すれば分な注意を払うべきだ。
止めるすべはないかもしれ
ない。

分析対象
ウェブサイト“Edge Annual Question”
2015 : WHAT DO YOU THINK ABOUT MACHINES THAT THINK?
https://www.edge.org/responses/q2015

著者プロフィール
公文俊平（くもん しゅんぺい）
NIRA 総合研究開発機構 上席客員研究員。
多摩大学情報社会学研究所 所長。元東京大学教授。専門は社会システム論、国際関係論。
羽木千晴（はぎ ちはる）
NIRA 総合研究開発機構 研究コーディネーター・研究員。
青山学院大学国際政治経済学部国際政治学科卒。2014 年より現職。

32

1
2
3
AI をどう見るか“Edge Question”から探る AI イメージ

4・12345678 92016 年 7 月発行
著 者 公文俊平・羽木千晴
発 行 公益財団法人 NIRA 総合研究開発機構〒150-6034 東京都渋谷区恵比寿 4-20-3 恵比寿ガーデンプレイスタワー34 階
電話 03-5448-1710
ホームページ http://www.nira.or.jp/
無断転載を禁じます。

ⓒNIRA 総合研究開発機構 2016