平和研 研究ノート
AI は世界に平和をもたらすのか？
－人工知能・５つの闘究－（「情報通信技術と国際的問題」研究会レポート No.1）
岩田 祐一（主任研究員）（要旨） ■データの蓄積・共有の世界的な拡がり・深みと、ネットワーク・コンピューティングパワーの強化が相まって、人工知能（AI）は、世界平和に寄与しうる、以下５つの要素を今以上にもたらす可能性がある。これらにつき、検討を試みた。
■「①AI による最適化・最適解追求」は、諍いの原因となる資源や物資配分争いへの対処策として有効。ただ、利害対立する主体間を跨った AI 実活用は困難であるものの、世界共通の設定課題を AI で解決する、といった試みによって突破口は開きうる。なおこれにあたり「実活用可能なAI 活用の基本方針」策定が、意思決定・行動主体としての人間の安定性を守るために重要。
■「②AI によるコミュニケーションと相互理解の促進」に関し、諍いや誤解を防ぎうるような、コミュニケーション手段の適正化（翻訳・音声認識ツール等に加え、分析による手段・宛先・内容の絞り込みなど）についての応用の動きは盛ん。但し、対立やミスリードを煽りうるフェイクニュース等偽情報流布リスクも高まる。これを見破るツールも登場しているが、100%防止は困難。情報の真偽を二次的に確認する手段・リテラシーの向上は、国家競争力を左右する大きな要素。
■「③AI を活用した“組織化”」（組織内・組織間連携強化）について、利害対立を回避しうるような議論・交渉・合意に至るには、AI の自動化・自律化等を人間が理解し信頼し最適な採用をできるかが鍵。更に複数組織間の適切な関係性（連動・連携）への配意が、AI の活用度合を左右。
■「④世界普遍性確保（複製・分散・バックアップ）」について、既に AI は、世界的なクラウドサービス上に幅広く実装されつつあり、むしろ携帯第五世代（5G）時代に向けては、それを支える通信基幹インフラの安全性確保がリスクとなりつつある。また、こうした世界普遍的な AI 活用にあたっての最大の障害は、「情報は自ら囲い込む」という人・組織の意識であり、特に日本においては「オープンかつ安全に管理する」という認識変革・制度改革が、欧米キャッチアップに向け急務。
■「⑤リスク減少・無力化」について、AI との共生世界においては、確率論的・期待値的に損害の最小化を図る、という考えのもと、リスクをいかにして減少させるか・無力化させるか、という意識・アクションが重要となる。こうしたなかでは「リスクを根元から断つべき」「目には目を」「単一主体によるエンフォースメント」といった、いわば絶対的世界観から脱却した、新たなガバナンスへの工夫が必要。
■AI は、ある目的に沿って、近似解を探り当てていく仕組みを持つが、そこには（目的に沿った）一定の調整機能が組み込まれている。一方で、人間が、諍いを解決しようと知恵を働かせる
とき、必ずしもそこでは常に適切な調整機能が発揮されるとは限らない。これはいわゆる「我」や「思い込み」もしくは「感情の乱れ」が、それを妨げることがありうるからである。この点を踏まえつつ、自らの心を解き放ちながら、AI を少しでも理解し、付き合い方を考えていくことこそが、実は最も近道な AI のよりよい活用方法といえよう。
-1本稿での考えや意見は著者個人のもので、所属する団体のものではありません© Nakasone Peace Institute 2019

■人工知能（AI）の活用の場の拡がりとその背景人工知能（以下「AI」）の活用の場が拡がっている。例えば、中島・丸山(2018)では、「ロボット」「教育」「医療（診断・創薬）」「軍事」「人物認識」「製造業」「自動運転および交通・流通」「農業・漁業」、といった分野が挙げられている。
こうした拡がりの背景には大きく 2 つの要因がある。１つは「データの蓄積・共有の世界的な拡がり・深み」もう１つは「ネットワークの高速化・コンピューティングパワーの強化」である。
特に B2C（消費者分野）においては、”GAFA”(Google/Apple/Facebook/Amazon)に代表されるデジ タルプラッ トフォーム 事業者の世界的浸透が大き い。また B2B （産業分野）に おい ても”Industry4.0””Internet of Things（モノのつながるインターネット）“等に代表される、通信機能を付加した機械機器の拡がりが大きい。共に、世界に広がるデータセンタや海底ケーブル網を活用した、高速ネットワーク・大容量処理クラウドを介しての相互接続の拡がりが、その世界的活用能力を拡大している。
人間に近い処理能力を、漸次持ちつつある AI は、その超・高速計算という得意技を活かして、アルゴリズム（目的に沿った計算・プログラミングの総体）が活かしやすい目的のものから、人間を補佐し、時には人間の能力を超えるようになってきている。
■人工知能（AI）が、世界にもたらしうる、５つの要素
野村総合研究所（以下 NRI）では、AI を以下の５つに分類している。A）知識・ルールに基づく推論 B)最適解の探索（制約条件化における探索） C)ニューラルネットワーク（人間の神経回路の仕組みを模したモデルの拡張） D)統計的機械学習 E)自然言語処理 [1]一方、本稿では、AI が世界平和に貢献しうる要素を以下の５つに分類してみたい：①最適化・最適解追求（Optimizing） ②コミュニケーションと相互理解の促進 ③“組織化”（Organizing） ④
世界普遍性（複製・分散・バックアップ） ⑤リスク減少・無力化
NRI での分類と、本稿での分類に関する、大まかな対応は、下表のとおりである
NRI A）知識・ル B)最適解の C) ニ ュ ー ラ D)統計的機 E)自然言語
ールに基づ 探索ル ネ ッ ト ワ 械学習処理
本稿く推論ーク① 最適化・最適解◎
追求② ｺﾐｭﾆｹｰｼｮﾝと◎相互理解の促進③ “組織化”◎④ 世界普遍性（複製・分散・バックアップ）⑤ リスク減少・無力化◎◎

以下、①～⑤の要素毎に、AI が世界平和に向けもたらす可能性を、吟味することとしたい。
-2本稿での考えや意見は著者個人のもので、所属する団体のものではありません© Nakasone Peace Institute 2019

■①AI による最適化・最適解追求 vs 資源や物資の配分
世界の諍いは、資源や物資をめぐっての争いに起因することが度々であった。
これに対して目下、AI を活用した、物流の最適化や、価格付けの最適化に向けた動きは盛ん
で あ る [2] 。 様 々 な シ ミ ュ レ ー シ ョ ン も 可 能 で あ っ た り 、 ま た 仮 説 と 実 績 を 踏 ま え たPDCA(Plan-Do-Check-Action)サイクルによる検証・精度向上であったりも容易なためである。
但し、利害対立する主体間を跨っての AI トライアルは困難な状況である。（例：通商・技術・知財摩擦の解決） 勿論、ゲーム理論等を組み込むことでの机上トライアルは不可能ではないが、実際の利害対立を乗り越えるための実装、となると、適用する AI モデルを関係各位で合意するにはハードルが高く、また合意できるとしてもモデルそのものが膨大となる。
しかしながら、世界共通の課題を設定して、それを AI によって解決する、といった試みはこの突破口になりうる。例えば AI 時代における、雇用市場のグローバルな需給マッチングおよびそれに向けたスキル獲得・伸長推奨モデルなどは、諍い解決への１つの突破口かもしれない。
いずれにせよ、機械学習・ディープラーニング等によって、最適化・最適解追求に向けたモデルが自ら作り上げられていくことが大切にはなるが、いまのところ、モデルづくりのルールがある程度見えているところについては、AI はその威力を発揮するものの、そのルールが不明確もしくは複雑すぎるところでは、AI のチカラは発揮されがたい、といえる。
なお最適化・最適解追求にあたっては、「“目的意識を伴った”“実活用可能な”AI 活用の基本方針」策定が重要である。
航海術に全地球測位システム（GPS）が導入されたとき、もしくは投資の世界でコンピュータ技術がメインになってきたときなどに見られた、「全体像がシステムを通じて見えて、かつ扱える」よ
うな衝撃に近いものが、今後 AI を活用した資源や物資の最適配分にも起こりうる。但しその時に大切なのは、環境の急変およびそれらを増幅する様々な意見に乱される感情、またそのような感情が生み出す非現実的な希望や無意味な不安から、「（意思決定／行為）主体としての人間」を守ることであり、そのために上記のような「AI 活用の基本方針」が重要といえる [3][4]。
なかんずく、最適な資源配分・物資配分に向けては、経済力強化に資する「投入とリターン」、「自国生産／輸出／輸入」のプランニング・見直しの巧拙が重要であり、AI でこれらを取り扱う巧拙、その際の基本方針策定とが、今後の国家経済力をより左右するようになるとも考えられる。
■②コミュニケーションと相互理解の AI による促進 vs コミュニケーション不足・相互信頼不足
世界の諍いは、コミュニケーション不足・相互信頼不足に起因することが度々であった。
これに対して目下、翻訳ツールや、音声認識コミュニケーションツールのみならず、メール等含めた各種コミュニケーション手段の適正化（より正しい相手に正しく伝わるよう、手段・宛先・内容の絞り込みなど）を通じ、AI 活用によるコミュニケーション促進・相互理解促進に向けた動きは盛んである。[5]但し、この裏返しで、いわゆる「フェイクニュース」に代表されるように、対立やミスリードを促す偽情報へのリスクも高まってきている。しかしこれに対しても、対策は進みつつあり、一定以上の高精度で偽ニュースを見破れるツールも登場している。[6]とはいえ、検知アルゴリズムや通報などをすり抜けた、いわゆる偽情報を 100%見破ることは出-3本稿での考えや意見は著者個人のもので、所属する団体のものではありません© Nakasone Peace Institute 2019

来ないのも事実である。
DiFonzo, Nicholas(2008)のあとがきでは、噂の裏には動機や欲求が隠されており、そこにおける聞き手側の冷静な判断、謙虚さ、そして遊び心などの必要性を指摘している。こうした聞き手側に必要な要素は、AI には直ちにはインプットできないものであり、またインプットされたとしてもそのアルゴリズム自体に何らかの仕掛けがあると、直ちには信頼できないものとなる。
つまり情報の真偽を二次的に確認するための手段・リテラシーの向上は、AI 時代であっても、人間に求め続けられるものといえ、「情報を伝える意図ｖｓ必要に応じた確認・防御」に関する、教育やトレーニング機会の提供は、国家競争力を左右する大きな要素となりうるといえる。
■③AI を活用した“組織化”（組織内・組織間連携強化） vs ガバナンス・コラボレーション
世界の諍いは、議論や交渉を通じても、妥結および（ある程度の）一体化した動きに至らなかった、その結果として生じてきたことが、度々であった。
これに対して、AI によるディベートの展開など、議論交渉に活用する様々な試みが行われているが[7]、本当に対立を回避しうるような”組織化”を AI がもたらすにあたっては、AI の導入が進み、本格運用になる（自動化・自律化、そして分析の組織化などが生じる段階）ことが必要といえる[8]。
言い換えると、”組織化”へのアルゴリズム・ソフトウェア活用の高まりであったり、レコメンデーション技術であったりの発展があったとしても、それを理解し、信頼して、最適な形で採用するかどうかは、人間次第である、ということでもある。
またここでは、組織内・組織間のパワーバランスを意識した情報の取り扱いがカギになり、組織内・組織間の適切な関係性（連動・連携）への配意が、AI の上手な活用を左右する。
こうした際には、直接 AI には関係せずとも、“組織化”を上手に実現してきた過去の事例が大変参考になる。例えば、Weick(1979)の第 9 章では、米国のジャズドラマーである Buddy Rich がジャズバンドで演奏するときのテンポセッティングの紹介が掲載されている。彼は指のスナップかドラムで、あるテンポの演奏をはじめ、仲間に具合を確認し、意見を求める。その１つを採用して、そのテンポでしばらく演奏して、、、その繰り返しで、仲間が皆このテンポで OK、と乗った時に、Rich はゴーを出す、という案配である。
本当の組織内・組織間連携・連動を高めるための AI のアルゴリズムは、この Rich のケースにも似て、関係する組織及びメンバーがその具合を確認して、よりイケる方向で改善していく、というプロセスが必要となる。これが互いにできるかどうか、が、“組織化”における AI 活用のカギといえ、すなわちこれが、対立回避の可能性もしくは国家競争力を左右する１つの要素となりうる。
■④世界普遍性（複製・分散・バックアップ）vs 諦め・（戦いの）レジリエンス・（過ちの）繰り返し
世界の諍いは、平和への諦めや、戦い抜くレジリエンス、もしくは反省が不足するなどしての過ちの繰り返しなどから、度々生じてきた。
これに対して、AI は、デジタル時代の特色である複製・分散・バックアップといった特徴を有し、これらの持つ「世界普遍性」が、人間の諦めや過ちをいさめ、またレジリエンスの誤った方向性を是正する機能を果たしうる。
既に AI 機能は、世界的なクラウドサービス（Amazon AWS、Microsoft Azure、Google Cloud、-4本稿での考えや意見は著者個人のもので、所属する団体のものではありません© Nakasone Peace Institute 2019

IBM Cloud 等）の上に幅広く実装されつつある[9]。 クラウドサービスのメリットは、複製・分散・バックアップが世界ベースで容易なことである。
更に、AI で分析するためのデータは「わざわざ保存しておく」から「勝手に保存される（いらなかったら削除できる）」という方向へのパラダイムシフトが起こっており、それが故に、AI を通じた世界普遍的な各種レコメンデーションも容易な状況が生じている[10]。
むしろ、スマートフォンのみならず、身の回りのさまざまなモノが通信網につながり、自動運転や繋がる工場などが世界的に実現する、携帯第五世代（5G）時代に向けては、通信サービスのダウンなどを引き起こす「二重化」「冗長性確保」不足のほうが、リスクとなりつつある。[11]また、この「世界普遍性確保（複製・分散・バックアップ）」がクラウド時代において容易になりつつある中、AI 活用にあたっての最大の障害は、「情報は自ら囲い込む」という人間・組織の意識になりつつある。例えば、既に欧米各国政府においては、2010 年ごろから、政府におけるクラウドサービス活用ポリシーを制定し、認証制度や実活用が進展しているが、日本においてはようやく2018 年にこの基本方針が制定されたばかりで、認証制度や実活用はまだまだこれからである[12]。
日本をはじめとして、政府・社会での幅広い AI 活用においては、「オープンかつ安全に管理する」という、大胆な認識変革・制度改革が急務である。逆にこの動きが各国で進めば、AI の世界的活用による、世界平和への寄与が、より容易になってくるといえるかもしれない。
■⑤リスク減少・無力化 vs リスクへ向き合う態度
世界の諍いをどう収めるか。AI との共生世界においては、リスクを根本から断つ、というより、リスクをいかにして減少させるか・無力化させるか、という意識・アクションが重要となる。
例えば、AI を含むネットワーク・クラウドサービスへのサイバー攻撃は今や、日常化かつ世界的なものであり、しかもそのスタイルは「どこかに分散して忍ばせて、密かに連続一斉攻撃させる」といったものだ [13]。ここでは最早、「守り切る」という考えでは、継続的なサービス提供・利用は困難であり、「（動きを）検知して（代替手段等の活用によって）無力化する」という考えが主流となっている。いわば、確率論的・期待値的に、損害の最小限化を図る、という考えである。
AI 以前の時代からこうした指摘はなされてきている。例えば Kneer and Nassehi(1993)の第 10章においても、リスクについては、「絶対的な確実性（安全性）というものはない」ことだけは確実、としており、リスク研究もリスク管理も、最上級から比較級に切り替えることで満足しなければならないし、より高度の安全性を与えることでよしとしなければならない、としている。[14]「リスクを根元から断つべき」「目には目を」「単一主体によるエンフォースメント」といった絶対的世界観を前提とした場合、こうした AI 共生世界の特徴をとらまえることは出来ない。従って、マルチステイクホルダーアプローチであったり、PDCA サイクルであったりなどによる、多面的かつ連携的・継続的な、新たなガバナンスへの工夫が必要である。
■最後に冒頭述べたよう、AI は「アルゴリズム（目的に沿った計算・プログラミングの総体）が活かしやすい目的のものから、人間を補佐し、時には人間の能力を超えるようになってきている」のだが、-5本稿での考えや意見は著者個人のもので、所属する団体のものではありません© Nakasone Peace Institute 2019

これは裏を返すと、目的に沿って頭脳の能力を発揮するものにおいて、人間には（AI に比して）妨げが生じうる、ということでもある。
その１つのヒントを、高橋(2000)第５章から抜粋して得てみたい：「脳機能の調整は、心が心に向かい合うことによってのみ、可能となる。脳が調整されると、情報が良く流れる。すると、モノが良く見えてくる。」
AI は、ある目的に沿って、近似解を探り当てていくようなアルゴリズムがあるが、そこには（目的に沿った）一定の調整機能が組み込まれている。一方で、人間が、諍いを解決しようと知恵を働かせるとき、必ずしもそこでは適切な調整機能が発揮されるとは限らない。これはいわゆる「我」や「思い込み」もしくは先述の「感情の乱れ」が、それを妨げることがありうるからである。
諍いを解決するのみならず、そうした「我」や「思い込み」「感情の乱れ」を平準化するためにも、「議論」や「対話」はあるのであって、もちろん人間どうしの「議論」や「対話」も引き続き重要であり続けるが、これからは（あるアルゴリズムが実装された）AI との「議論」「対話」が、１つの平準化手段として活用されるシーンが増えて来るであろう。
日本の場合、AI をはじめとした情報技術に対しては、とかく「安心感を求める」ところに人々は立ち止まりがちであり、「向き合って（一定程度）信じる」「（一定程度）理解して信頼し活用する」というところにはなかなかいかない。希望を持ちつつ、理解して（一定のレベル以上で）信じよう、という前向きな（プロアクティブな）姿勢が、世界に平和をもたらすための AI 活用には欠かせない。
最後に、AI を活用して、諍いを解決していくにあたって、人の心として必要と感じるスタンスを、同じく高橋(2000)の第６章より抜粋したい：「思い込みというのは、自分の欲求を抑え込むために必要な手段であった。思い込みが解ければ、抑えられていた欲求が動き出し、それが私たちに新鮮な印象を与える。安堵と新しいエネルギーの自覚、リラクゼーションと欲求の生起は、二つが同時に起こる。」①の最適化・最適解追求、②のコミュニケーションと相互理解の促進、③の“組織化”、④世界普遍性（複製・分散・バックアップ）、⑤のリスク減少・無力化 いずれも、「科学技術や社会の変化を踏まえて、人間としてどう進みたいのか、進んでいくのが良いのか」といった想いや意思なしには、よりよきものになりえない。
AI という技術要素にとらわれすぎることなく、まずは自らの心を解放しつつ、AI を少しでも理解し、AI との付き合い方を考えていくことこそが、一見遠回りなようだが、実は最も近道な、AI のよりよい活用方法といえよう。
[1] 詳細は以下を参照(https://www.nri.com/jp/journal/2017/0314)[2] 物流・物資配分の最適化については例えば東洋経済新報社・野村総合研究所共催の以下議論を参照（https://toyokeizai.net/articles/-/173427） また価格付けの最適化については日経 BP 社の以下レポートを参照（https://tech.nikkeibp.co.jp/it/atclact/active/17/030100244/030100005/）[3] このパラグラフは、Ellis(2013)第 11 章「なぜ運用基本方針が必要なのか」からの示唆に基づく。
[4] なおこのパラグラフの文脈に即して、「人間中心の AI 社会原則」（2018 年政府策定 例えば以下参照<https://www.mhlw.go.jp/content/10601000/000502267.pdf>）に関し、筆者が問題点と考えるのは以下３点である：①原則策定の前段として、AI によってできるようになること（様々な全体像が見える・予測しやすくなる etc.）に関する前
提明示が不足（・・・前提明示が薄いため、基本方針としての過不足が判然としない）②AI が社会をミスリードしうる要素について、技術的な背景であったり、使う側の人間の誤解・誤使用に基づくものであったりの例示が不足（何を避けるための基本原則なのか、実活用も含めた理解が深まりづらい）③原則に反した際の罰則等の方向性が不明確で、原則にもかかわらず抜け穴を防ぎにくい
なお当該原則は、もし「倫理規定」の位置づけで定められたものであるならば、上記各指摘は必ずしも当たらない。
EU では、信頼できる AI のための倫理ガイドラインがこの 4 月に発表され、当該原則と項目的に重なる分野も多い。（参-6本稿での考えや意見は著者個人のもので、所属する団体のものではありません© Nakasone Peace Institute 2019

考:EU ホームページhttps://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
ZDnet による日本語概要解説<https://japan.zdnet.com/article/35135671/>）[5]AI を活用したコミュニケーションの適正化に関する取り組みは、例えば以下 Gigazine 記事を参照（https://gigazine.net/news/20180405-microsoft-ai-natural-conversations/）[6]AI を活用したフェイクニュース検知については、例えば以下を参照（https://ledge.ai/summarizebot-fake-news-detection/）[7]AI を活用したディベートへの試みについては、例えば以下 WIRED 記事が紹介した IBM の「プロジェクト・ディベータ―」を参照（https://wired.jp/2019/03/19/robot-debates-and-cracks-jokes/）[8]企業組織における AI 活用の発展論は、例えば以下を参照（http://www.nttdata.com/jp/ja/insights/blog/20180920.html）[9]AI 機能の主要クラウドサービス上への実装状況は、例えば以下を参照（https://tech.nikkeibp.co.jp/it/atcl/column/14/346926/110701193/）[10]例えばすでに、最適道案内の状況は、カーナビゲーションよりも Google Map のほうが精度が高い状況が出てきている。これは同一カーナビゲーションから収集できる情報、もしくは VICS 等の公共の道路交通情報システムから収集できる情報よりも、Google が搭載された Android スマートフォン端末から収集できる道路混雑情報のほうがよりデータが多く、また適切な予想を出来るようになってきているためである。
[11]ファーウェイ社の問題もそうした、世界的な通信基幹インフラを寡占企業の機器が担う方向性になり、またそうした企業への信頼性が揺らいでいることへの警鐘ともとることが出来る。詳しくは拙著コメンタリーを参照（http://www.iips.org/research/2019/05/20100229.html） また昨年末、エリクソン社ソフトウェアの不具合で、ソフトバンクをはじめとした世界の複数通信事業者のサービスが止まったことも、こうした文脈で捉えたい（詳しくは例えば以下
ITmedia 記事参照 https://www.itmedia.co.jp/mobile/articles/1812/10/news132.html） なお、AI のネットワーク化における通信インフラのイメージについては、例えば以下 ZDnet 記事が参考となる（https://japan.zdnet.com/article/35092839/4/）[12]こちらの詳細については、以下総務省・経済産業省資料を参照（https://www.kantei.go.jp/jp/singi/keizaisaisei/miraitoshikaigi/sankankyougikai/smartpublic/dai3/siryou3-1.pdf）[13]サイバー攻撃のうち、例えば、インターネットサービス等を使えなくさせる DDoS 攻撃（Distributed Denial ofService attack）については、世界中の状況を以下サイトで地図上でリアルタイムで見ることが出来る（https://www.digitalattackmap.com/）[14]筆者が参加した、日本国内のリスクコミュニケーション関連のシンポジウムのいくつかでは、コミュニケーションと銘打っているにもかかわらず、質疑応答の時間をほとんどとらず、一方向講演にほぼ終始したものであった。こうした態度では、リスクについての”比較級の”研究も管理も議論も、容易ではないであろう。（懇親会は開催された様子なのでそこで闊達な議論は行われたかもしれないが・・・）【主な参考文献】
岩田祐一 「「オプティ」の時代～ICT が切り開く「最適化」日本：国家競争力としての可能性と課題～」(http://www.iips.org/research/note_iwata20181106.pdf)
Ellis, Charles D. “Winning the Loser’s Game、6th Edition” (McGraw-Hill Education, 2013：邦訳「敗者のゲーム＜原著第６版＞」、日本経済新聞出版社、2015)
Kneer, Georg and Nassehi, Armin “Niklas Luhmanns Theorie Sozialer Systeme” (Wilhelm Fink,1993：邦訳「ルーマン 社会システム理論」、新泉社、1995）
高橋和巳「心を知る技術」（ちくま文庫、2000）
DiFonzo, Nicholas ”The Watercooler Effect: A Psychologist Explores the Extraordinary Powerof Rumors”（Avery, 2008：邦訳「うわさとデマ」、講談社、2011）
中島秀幸、丸山宏編著「人工知能 ～その到達点と未来～」（小学館、2018）
Weick, Karl E. “The Social Psychology of Organizing” (McGraw-Hill, 1979：邦訳「組織化の社会心理学」、文眞堂、1997)（2019.6.10）-7本稿での考えや意見は著者個人のもので、所属する団体のものではありません© Nakasone Peace Institute 2019