人工知能の現在

久木田水生

1

Outline

近年の発展

人工知能に対する人々の態度

2

ランドマーク• 1997 年、IBM の DeepBlue が当時のチェス世界チャンピオンだったガルリ・カスパロフに 6 戦中 2 勝 1 敗 3 引き分けで勝利。
• 2011 年、IBM の Watson がクイズ番組「ジェパディ！」で人間のチャンピオンに勝利する。
• 2012 年、物体認識コンテスト ILSVRC において Googleが従来の精度を大きく上回る精度を記録。ディープ
ニューラルネットワークを用い、従来とは異なる教師なし学習によって、「自ら概念を獲得した」と言われる。
James the photographer - https://www.ﬂickr.com/photos/22453761@N00/592436598/, CC 表示 2.0,
https://commons.wikimedia.org/w/index.php?curid=3511068 による3

ランドマーク• 2014 年、「東ロボ」がセンター試験で 5 教科 8 科目で 511 点を記録し、全国平均の 416.4 点を超える。
• 2016 年、Google DeepMind によって開発された AlphaGo が最強と言われた棋士、イ・セドルを破る。5 番勝負で 4 勝 1 敗。
• 2017 年、Google DeepMind によって開発された AlphaZero がチェス、将棋、囲碁の世界チャンピオンプログラムに勝利したと発表された。

4

機械学習のブレイクスルー• Jeﬀrey Hinton らが、従来のニューラル・ネットワークよりも大きく複雑な構造を持つ Deep Neural Network による深層学習の手法を開発。
• 教師なし学習、畳み込みニューラル・ネットワーク、強化学習、敵対的生成ネットワーク（GAN）などの新しい画期的な手法が生み出される。
• 2010 年ごろから、画像認識において大幅な精度の向上。
• 「第三次 AI ブーム」に火をつける。

5

背景：技術的要因• ハードウェアの進歩により、膨大な計算が短時間でできるようになった。
• 機械学習の新しい効果的なテクニックが開発された。
• 機械学習には必要な大量のデータが、インターネットやスマートフォンなどの普及によって容易に入手・利用できるようになった。

6

背景：社会的経済的要因• カスタマイズされたサービスや広告を提供するためにユーザーのデータから属性や行動傾向を予測するというネットビジネスモ
デルが主流になっている。Cf. アマゾンやYouTube、Netﬂix などの推薦システム、Google やフェイスブックなどのターゲッ
ティング広告。
• ネットワーク効果による巨大プラット
フォームへの資本とデータの集中 → 人工知
能とデータ科学への巨額の投資。
7

人工知能の様々な応用• 画像認識、音声認識。
• 自然言語による対話システム。
• 機械翻訳。
• 画像や動画、音声や音楽などの生成。
• ターゲッティング広告。
• プロファイリング（人間の属性や行動の予測）。
• 自動運転。

8

懸念されている問題• 安全性、信頼性、透明性、答責性、制御可能性。
• プライバシーの侵害。
• 巨大プラットフォーム企業によるデータの独占と濫用。
• 不平等の拡大、差別の助長。
• 自律型兵器。
• テクノジー失業。
• ソーシャル・ロボットによる人間同士の関係の変化。
• 人工知能やロボットの地位。

9Outline

近年の発展

人工知能に対する人々の態度

10人間以上の知能を持つか？

哲学者のニック・ボストロムは、人間をはるかに超えた知性を持つ人工知能が、人間によって制御できなくなる可能性を詳細に考察している。
書影は https://nikkeibook.nikkeibp.co.jp/item-detail/35707 より。

11人間以上の知能を持つか？

未来学者のレイ・カーツワイルはこれまでのコンピュータ技術などの発展の指数関数的なペース（cf. 「ムーアの法則」：集積回路上のトランジスタ数は 18 か月で 2 倍になる）から、2045 年には人工知能が人類の知能を超える知能を持つようになると予言した。
書影は https://www.nhk-book.co.jp/detail/000243004510000.html より。

12人間以上の知能を持つか？

多くの事柄について、発展や成長には限界がある。
しかしカーツワイルのような論者は、テクノロジーの発展は更なるテクノロジーの発展をもたらすので、成長の勢いは衰えず、「収穫加速」の軌跡を描くと考える。

13

人工知能は人類にとっての脅威？

物理学者のスティーヴン・ホーキング、マイクロソフトのビル・ゲイツ、テスラモーターズ、Space X のイーロン・マスクら著名人が相次いで「人工知能は人類の生存を脅かす」、「核兵器よりも危険だ」などと言って、警鐘を鳴らした。

14

フランケンシュタイン・コンプレックス

SF 作家のアイザック・アシモフは、新しいテクノロジーに対する根拠のない恐怖を「フランケンシュタイン・コンプレックス」と呼んだ。
欧米の神話や文学には、人間によって作り出されたものが人間に災いをもたらす、というテーマのものが良く見られる。

15

フランケンシュタイン・コンプレックス• 魔法使いの弟子• ゴーレム• チャペック、『ロッサムの万能ロボット』• 『2001 年宇宙の旅』• 『ターミネーター』• 『バタリアン』• 『ジュラシックパーク』• 『マトリックス』

16

様々な AI 倫理原則

Future of Life Institute によるアシロマ AI 原則
日本人工知能学会の倫理指針

IEEE の Ethically Aligned Design
EU 信頼に値する AI のためのガイドライン
日本政府（内閣府）の人間中心の AI 社会原則などなど

17人工知能学会の倫理指針「人類への貢献」「法規制の遵守」「他者のプライ バシーの尊重」
「公正性」
「安全性」
「誠実な振る舞い」「社会に対する責任」「社会との対話と自己研鑽」「人工知能への倫理遵守の要請」

http://ai-elsi.org/report/ethical_guidlines18

AI 倫理において重視されていること

人類への貢献
公平性
透明性
包摂性
安全性
説明責任（アカウンタビリティ）
プライバシーなどなど

19

江間らによる社会調査

江間有沙他、「運転・育児・防災活動，どこまで機械に任せるか：多様なステークホルダーへのアンケート調査」、『情報管理』、59 巻 5 号、322-330、2016、
doi:10.1241/johokanri.59.322

20アンケート調査21

アンケート調査22

アンケート調査23

アンケート調査24

アンケート調査25

アンケート調査26

アンケート調査

27

「考察」より

本研究では「知的な機械・システム」と人との関係や発展の方向性を，多様なステークホルダーを対象に，8 つの分野で調査した。それぞれに対していくつかの発見があった。
まず，本調査の特徴の一つとしてステークホルダーとして創作/編集活動系（S F）の意見を抽出できたことがある。彼らは「知的な機械・システム」研究者（A I）と同様あるいはそれ以上に機械に任せる傾向が強い。また「知的な機械・システム」研究者（A I）と異なり，「予想もできない危険がある」と考える傾向が強く，それが「人間を超える知能」などを描く創造力の源となっていると考えられる。「知的な機械・システム」への興味が高いためか，このような技術に対する評価には市民も積極的に参加すべきとする考えが強いのも特徴的である。

28

「考察」より

一方，「知的な機械・システム」研究者（AI）は，創作/編集活動系と同様に機械に任せる傾向が強いものの，情報技術全般を脅威とはとらえていない。また，研究開発の方向性は専門家のみで考えようとする。同様に民間の「知的な機械・システム」研究者（pAI）も「研究者・開発者はそもそも社会的な影響について考える必要はない」と考える傾向が強い。これに対し，人文・社会科学研究者（SSH）や政策研究者（PM）は「知的な機械・システム」研究者は研究開発の方向性を専門家のみで決めるのを良しとせず，自己責任で技術を利用すべきではないとする。今後，情報技術の方向性を異分野間の研究者で議論していくうえで，これらの溝を埋めていく作業が必要となるだろう。

29

「考察」よりこれらの専門家集団に対し，一般市民は 8 分野すべてにおいて人間主体とする傾向が強く，「知的な機械・システム」に慎重である。また他のステークホルダーに比べ「知的な機械・システム」の開発の方向性や評価に関与することにも消極的である。国家公務員あるいは民間シンクタンクで政策・戦略検討立案に携わる人（GOV）やメディア関係者（MED），法律関係者（LAW）も同様に消極的であり，第 5 期科学技術基本計画などで掲げられている多様なステークホルダー間の対話のための意識を高めていくことが今後の課題として浮かび上がった。

30

「考察」より

調査結果から運転，育児，介護など分野が異なれば，求める「知的な機械・システム」と人間の関係性も異なることも示唆された。図 1 からは全体として運転・防災・軍事など「知的な機械・システム」の導入に制度的・社会的合意が必要な分野は「知的な機械・システム」に任せるとする意見が強い。一方，就職や結婚などライフイベントにおける意思決定や健康管理，創作活動など個人の選択に委ねられる分野は人間が主体であるべきとの傾向が伺える。しかし，個人の選択に委ねられる場合，アーリーユーザーなど機械への好奇心の強い層が徐々に「知的な機械・システム」を使い出し，市場にデファクトスタンダードとして普及する可能性がある。そうなる場合に備えて，機械化を望まない人たちの価値観も尊重されるような普及のあり方を検討していく必要があるだろう。

31